Stinking se doslovno prevodi kao 'smrdljivo', ali u ovoj pesmi ima šire značenje 'odvratno' ili 'užasno'. To je snažna reč koja se ne koristi svakodnevno u pesmama, što je čini zanimljivom.
U kontekstu pesme, pevačica koristi "stinking" da opiše kako se sve oseća loše i neprijatno kada voljena osoba nije tu. Na primer, "Everything's stinking" (Sve je odvratno) i "Stinking without you" (Odvratno bez tebe) naglašavaju dubinu njene tuge i praznine.
U pesmi "When You're Gone", irska umetnica The Cranberries peva o tome kako se oseća kada je voljena osoba odsutna. Oseća se kao da sve smrdi ("Everything's stinking") kada ta osoba nije pored nje. Noću se oseća bespomoćno i usamljeno ("I could be helpless, I could be lonely") dok spava bez nje, a danju je sve komplikovano i ništa nije jednostavno ("Everything's complex, There's nothing simple") kada nije u blizini. Ona zna da će joj nedostajati kada ode ("I'll miss you when you're gone").
Pevačica se čvrsto drži ljubavi ("Hold onto love") sada kada ju je pronašla. Čak i traži da se drži za ruke, jer oseća da tone bez voljene osobe ("Hold onto my hands, I feel I'm sinking, Sinking without you"). Ova pesma je iskreno priznanje koliko je teško biti bez nekoga koga voliš i kako to utiče na svaki aspekt života.