Muse é uma palavra poética para se referir a uma pessoa que é a fonte de inspiração para um artista, como um músico, pintor ou escritor. A palavra vem das Musas da mitologia grega.
Na canção, quando Katy Perry canta "I'm no longer your muse", ela está dizendo de forma melancólica que não é mais a inspiração por trás das canções ou da vida dele. É uma maneira muito elegante de falar sobre o fim de um relacionamento.
The One That Got Away é uma viagem nostálgica ao primeiro amor de Katy Perry, recheada de imagens cinematográficas: beijos em um Mustang ao som de Radiohead, tatuagens gêmeas nos 18 anos e aventuras cheias de adrenalina no telhado da casa dos pais. A cantora compara o casal a "June e Johnny Cash", um clássico par romântico da música country, deixando claro que eles se sentiam inseparáveis e invencíveis.
Conforme o tempo passa, porém, fica o gosto amargo do que não voltou. O ex remove a tatuagem, a narradora descobre que já não é mais sua musa e surge a dolorosa certeza de que dinheiro nenhum compra uma máquina do tempo. O refrão repete o desejo de viver "em outra vida" para manter as promessas e evitar a despedida, transformando a canção em um hino pop sobre arrependimento, saudade e a famosa pergunta "e se?". Mesmo com batidas dançantes, a letra convida o ouvinte a lembrar daquele amor perdido que sempre terá um lugar especial na memória.