Białkowski speelde in de jeugd van Olimpia Elbląg en kwam hierna terecht in de opleiding van Górnik Zabrze. In januari 2006 werd de Pool aangetrokken door Southampton. In drieënhalf jaar kwam hij tot vijftien competitieduels en hierna werd hij voor een maand verhuurd aan Barnsley. Na deze maand keerde hij terug bij Southampton, waarvoor hij nog acht competitiewedstrijden speelde.
In de zomer van 2012 maakte Białkowski de overstap naar Notts County, dat acteerde in de League One.[1] Twee seizoenen lang was hij basisspeler, waarmee hij een transfer naar Ipswich Town verdiende. Hier tekende Białkowski voor twee seizoenen.[2] Dit contract werd in februari 2016 verlengd met twee seizoenen en een optie voor een jaar extra.[3] Aan het einde van het seizoen 2015/16 werd de doelman verkozen tot speler van het jaar van Ipswich.[4] Begin 2018 werd de bijna aflopende verbintenis van Białkowski opnieuw verlengd, ditmaal tot medio 2020. Opnieuw werd een optie voor een seizoen extra opgenomen in het contract.[5] Aan het einde van het seizoen 2017/18 tekende hij een vernieuwd contract, dat een jaar langer zou lopen.[6]
Medio 2019 werd de Pool voor één seizoen verhuurd aan Millwall.[7] Na een half seizoen besloot Millwall de doelman definitief over te nemen. Białkowski tekende vervolgens een contract voor tweeënhalf jaar.[8] In de seizoene 2019/20 en 2020/21 werd hij verkozen tot speler van het jaar van Millwall. Begin 2023 werd zijn verbintenis opengebroken en met een jaar verlengd tot medio 2024.[9] Na het aflopen van dit contract besloot Białkowski in augustus 2024 op zevenendertigjarige leeftijd een punt te zetten achter zijn actieve loopbaan.[10]
Białkowski maakte zijn debuut in het Pools voetbalelftal op 23 maart 2018, toen met 0–1 verloren werd van Nigeria door een goal van Victor Moses. Hij moest van bondscoach Adam Nawałka als wisselspeler aan het duel beginnen en hij viel zeven minuten voor tijd in voor Łukasz Fabiański. De andere debutanten dit duel waren Przemysław Frankowski (Jagiellonia) en Dawid Kownacki (Sampdoria).[12] Białkowski werd in juni 2018 door Nawałka opgenomen in de selectie van Polen voor het wereldkampioenschap in Rusland.[13] Op het WK verloor Polen met 1–2 met Senegal en 0–3 van Colombia. Ondanks een overwinning van 0–1 op Japan betekenden de nederlagen de uitschakeling van Polen in de groepsfase. Wojciech Szczęsny kreeg van Nawałka de voorkeur boven Białkowski en Łukasz Fabiański, die alle drie de wedstrijden toekeken vanaf de reservebank.