Hostage betekent 'gijzelaar'. Het is een krachtig en dramatisch woord dat je niet vaak tegenkomt in popliedjes.
In dit nummer gebruikt Ariana Grande het metaforisch om te beschrijven hoe ze gevangen zat in haar eigen emoties en tranen. Ze zingt: "This ain't the first time I've been hostage to these tears," wat een levendig beeld schetst van hoe overweldigd ze was door haar verdriet.
In "Bye" neemt Ariana Grande afscheid van een relatie die haar veel tranen heeft gekost. Ze zingt over het doorbreken van haar angsten: "I can't believe I'm finally movin' through my fears" [Ik kan niet geloven dat ik eindelijk door mijn angsten heen kom]. Ze weet dat ze haar best heeft gedaan, net als haar partner, maar het is nu echt voorbij.
Het is een moment van empowerment, waarin ze haar spullen pakt en klaar is om te vertrekken, want "Courtney just pulled up in the driveway" [Courtney is net de oprit opgereden]. Ze realiseert zich dat ze sterker is dan ze dacht en weigert langer mee te doen aan het "dansje" van de relatie. Hoewel het afscheid "bittersweet" [bitterzoet] is en ze het moeilijk vindt om de woorden te zingen, weet ze dat het beter is dan alles te herhalen. Ze neemt terug wat van haar is en kijkt vooruit.