Høgmo startte zijn spelerscarrière in 1977 bij Gratangen IL. Na slechts een jaar vertrok hij naar FK Mjølner, de grootste club uit de regio waar hij geboren was. Hij bleef er zes seizoenen voordat hij naar de Noorse grootmacht Tromsø IL vertrok. Na een seizoen vertrok hij naar het ZweedseIFK Norrköping, maar na een seizoen ging hij alweer terug naar Tromsø. Met Tromsø won hij in 1986 de beker.
In 1989 was Høgmo speler-coach van Gratangen IL in zijn thuisstad. Na zijn voetbalpensioen in 1990 werd Høgmo direct coach van Tromsdalen UIL. Na twee jaar vertrok hij naar Tromsø IL. Na een korte periode bij Tromsø coachte Høgmo Fossum IF, Moss FK en verschillende Noorse nationale jeugdelftallen. In 1997 werd hij aangesteld als bondscoach voor het Noors vrouwenvoetbalelftal. Met de Noorse vrouwen kende hij redelijke successen. Zo werd hij vierde op het WK 1999 en won hij de gouden medaille in het Olympisch voetbaltoernooi 2000 in Sydney, Australië. Tussen 2000 en 2003 was Høgmo bondscoach van het Noors voetbalelftal onder 21. In 2004 keerde hij weer kort terug bij Tromsø. Hij eindigde op een vierde plaats in de Tippeligaen en vertrok naar Rosenborg BK. Hij verving Per Joar Hansen. Na een slechte seizoensstart met degradatiezorgen eindigde Høgmo met Rosenborg dan toch nog op een zevende plaats in de Tippeligaen. Hij verliet de club in 2006, kort na het behalen van de 20ste landstitel met Rosenborg, en keerde pas twee jaar later weer terug in de trainerswereld, ditmaal weer bij Tromsø. Hij verving er Steinar Nilsen. In zijn eerste seizoen na zijn tussenstop eindigde Høgmo met Tromsø als derde in de Tippaligaen. Vervolgens zette Høgmo Tromsø weer op de kaart in Noorwegen en werden een zesde, nogmaals een derde, een tweede en een vierde positie gehaald. In 2013 nam Høgmo zijn eerste klus in het buitenland aan, hij vertrok naar Djurgårdens IF. Na een korte periode verving hij Egil Olsen als bondscoach van Noorwegen. In 2014 liet Høgmo Martin Ødegaard debuteren tegen de Verenigde Arabische Emiraten. Op 13 oktober 2014 werd Ødegaard tegen Bulgarije met 15 jaar en 300 dagen de jongste international in een EK-kwalificatiewedstrijd ooit. Høgmo trad in november 2016 af als Noors bondscoach, nadat het nationale team drie punten had behaald in de eerste vier kwalificatiewedstrijden voor het WK 2018. Høgmo had de selectie in totaal 35 duels onder zijn hoede.
Interlands Noorwegen onder leiding van Per-Mathias Høgmo
Tussen 2017 en 2018 was hij kortstondig coach van Fredrikstad FK. In 2021 maakte hij zijn comeback in de trainerswereld bij het Zweedse BK Häcken, dat hij in 2022 naar de eerste landstitel in de clubgeschiedenis leidde.