În Criminal, Britney Spears ne invită într-o poveste de dragoste periculoasă, unde inima bate mai tare decât rațiunea. Naratoarea se îndrăgostește de un bad boy notoriu, descris ca fiind mincinos, imprevizibil și chiar violent. Toată lumea îi spune să stea departe de el, însă ea ignoră avertismentele și își apără sentimentele în fața propriei mame. Melodia transmite energia unei atracții irezistibile, condimentată cu un refren catchy și versuri repetitive ce subliniază fascinația pentru ceea ce este interzis.
Prin acest contrast între „știu că nu e bine” și „nu pot să mă opresc”, piesa explorează tema iubirii iraționale: o relație dominată de instinct, fizic și pasiune, în ciuda lipsei de logică și a consecințelor evidente. Vocile interioare ale protagonistelor românesc se ciocnesc cu vocile exterioare ale societății, iar conflictul dintre inimă și minte devine refrenul principal al cântecului. Criminal este, în esență, un imn al rebelilor îndrăgostiți, o demonstrație muzicală că uneori, chiar și cele mai puțin recomandabile alegeri pot suna extrem de bine.