Reminisce betyr å 'mimre' eller 'tenke tilbake på fortiden'. Det er et mer formelt og poetisk ord enn 'remember', og det antyder en lengre, mer reflekterende prosess med å gjenkalle minner, ofte med en følelse av nostalgi.
I sangen synger Guns N' Roses: "I ain't got time to reminisce old novelties." Her brukes ordet for å uttrykke at fortiden er over, og det er ingen tid til å dvele ved gamle minner eller ting som var nye en gang. Det understreker sangens tema om å se fremover og ikke henge fast i det som var.
I "Yesterdays" ser vokalisten fra Guns N' Roses tilbake på fortiden, men ikke med nostalgi. Tvert imot, sangen er en kraftfull erklæring om å legge fortiden bak seg. Teksten beskriver en følelse av å ha vokst opp og innsett at det var mye man ikke visste før: "Yesterday there was so many things I was never told" (I går var det så mange ting jeg aldri ble fortalt). Denne nye kunnskapen får ham til å føle seg gammel.
Hovedbudskapet gjentas gjennom hele sangen: "'Cause yesterday's got nothin' for me" (For gårsdagen har ingenting å gi meg). Selv om minnene fortsatt er der som "old pictures that I'll always see" (gamle bilder jeg alltid vil se), er de bare falmende sider i en minnebok. Sangeren har ikke tid til å dvele ved det som har vært, og velger heller å fortsette fremover, selv om det betyr å være alene og uten full kontroll over sin egen skjebne: "I'll keep on movin' along / With no time to plant my feet" (Jeg fortsetter videre / Uten tid til å slå rot).