Reminisce znači 'prisjećati se' ili 'sjećati se prošlih događaja s nostalgijom'. To je riječ koja nosi dublje značenje od pukog sjećanja, implicirajući ugodno i često sentimentalno prisjećanje.
U pjesmi, Axl Rose pjeva: "I ain't got time to reminisce old novelties" (Nemam vremena prisjećati se starih novotarija). Ova riječ savršeno dočarava temu pjesme o prolaznosti vremena i nemogućnosti zadržavanja na prošlosti, čineći je zanimljivim izborom za učenje.
Jeste li ikada osjetili da je prošlost samo hrpa starih slika koje blijede? Upravo o tom osjećaju govore Guns N' Roses u pjesmi "Yesterdays". Pjevač se osvrće na prošlost kao na vrijeme neznanja, kada mu "toliko toga nikada nije bilo rečeno". Sada, dok uči o životu, osjeća se kao da stari, a sjećanja su poput "starih slika" koje ne može izbjeći, iako za njega više nemaju vrijednost.
Ova pjesma je himna za sve one koji se osjećaju sami na svom putu, kao da su iznenada "na ulici i potpuno sami". S "molitvama u džepu" i bez osjećaja kontrole nad sudbinom, pjevač odlučuje nastaviti dalje bez zaustavljanja. Poruka je jasna: nema vremena za osvrtanje na "stare novotarije", jer jučer jednostavno "nema ništa za mene".