De club werd op 23 april1899 opgericht, het is de oudste voetbalclub van Malmö. In 1924 speelde men voor het eerst in de Allsvenskan, het hoogste voetbalniveau. In het tweede seizoen degradeerde de club, om in 1928 opnieuw deel te nemen. Dit keer duurde het avontuur vijf seizoenen vooraleer men in 1932 degradeerde. Daarna duurde het tot 1952 voordat IFK Malmö opnieuw kon promoveren, maar na één seizoen werd de club opnieuw naar de tweede klasse verwezen. Van 1956 tot 1962 speelde de club opnieuw in de Allsvenskan.
De beste prestatie van de club was in 1960 toen de club tweede werd achter IFK Norrköping. De club nam een jaar later deel aan de Europacup I en haalde daar de kwartfinales.
Na 1962 speelde de club nooit meer in de hoogste afdeling. Sinds de jaren tachtig speelt men in de amateurklassen, met enkele seizoenen als uitzondering toen men in de Superettan actief was (1997 en 2001–2003).