Jan Johansen begynte sin karriere i coverbandet Off Duty. I 1993 kom han for første gang inn på hitlistene med Lost In Paradise, selv om det bare var duettpartneren Erika som var med på singelcoveret.

Takket være Se På Mej kom det store gjennombruddet i 1995. De vant som kjent Melodifestivalen og kom på tredjeplass i Eurovision Song Contest. Se På Mej lå på Svensktoppen i 30 uker, hvorav 15 av dem på toppen. Debutalbumet solgte 160 000 eksemplarer.

Siden den gang har Jan Johansen deltatt i Melodifestivalen ytterligere tre ganger som artist og én gang som låtskriver i Norges svar på Melodifestivalen. Han har også deltatt i musikaler, hyllestturnéer til ABBA, Cornelis Vreeswijk og Ted Gärdestad, spilt en rekke konserter og gitt ut ti album.