Bailey fu scelto nel corso del quinto giro (163º assoluto) del Draft NFL 2019 dai New England Patriots.[1] Nel training camp si guadagnò il posto di punter titolare al posto del veterano Ryan Allen. Debuttò come professionista nel primo turno calciando 3 punt a una media di 41 yard l'uno. Nel terzo turno fu premiato come giocatore degli special team della AFC della settimana per la sua prestazione contro i New York Jets.[2] La sua stagione da rookie si concluse calciando 81 punt a una media di 44,9 yard l'uno.