Cet attaquant suédois a débuté en Suède et s'est fait remarquer dans le football néerlandais en jouant notamment au Feyenoord Rotterdam et au NAC Breda. Mais après une saison à Brøndby IF au Danemark et une sélection avec la Suède à la coupe du monde 2006, Johan Elmander se fait remarquer par des clubs plus huppés comme les Glasgow Rangers. C'est finalement le Toulouse FC qui recueille ses faveurs en juillet 2006 pour jouer dans le championnat français. Au Téfécé, il fait une première saison exceptionnelle. Il est aujourd'hui considéré comme la meilleure recrue et le meilleur attaquant de la Ligue 1 2006-2007.