Haunt înseamnă „a bântui” sau „a obseda”. Este un cuvânt puternic, adesea asociat cu fantome sau amintiri care nu te lasă în pace.
În contextul cântecului, artista folosește „haunt” pentru a descrie cum amintirile iubirii lor trecute îl vor bântui pe fostul ei iubit, chiar dacă el încearcă să ardă toate dovezile fizice. Este o metaforă excelentă pentru a arăta că sentimentele și amintirile nu pot fi pur și simplu distruse.
„Burn My Memory” este un imn country-pop despre puterea amintirilor care nu pot fi distruse în focul unei despărțiri. Carter Faith povestește cum fostul iubit îi arde lucrurile – de la cizme și chitara ruginită până la biletele de la General Jackson și scrisorile cu ruj – crezând că astfel va stinge dragostea lor. În timp ce el pleacă pe drum, după o fată „din circ”, ea îl avertizează că flăcările pot mistui obiecte, însă nu și momentele trăite împreună, acele nopți din Mexic care îl vor „bântui” ca o fantomă.
Prin versurile pline de umor amar și atitudine sigură, artista transmite un mesaj de reziliență și auto-încredere: „poți arde tot ce am, nu-ți ajunge benzină să-mi arzi amintirea”. Piesa celebrează ideea că adevărata valoare a unei iubiri rămâne în suflet, nu în lucrurile materiale, iar focul care trebuia să distrugă devine, de fapt, o flacără interioară care o face pe ea mai puternică și pe el să regrete.