Nesmith ha frequentato la Porter-Gaud School di Charleston, nella Carolina del Sud a partire dalla quinta elementare ed è stato chiamato per la prima volta nella squadra di basket dell'high school. Al secondo anno, ha vinto il titolo statale di Classe 3A della South Carolina Independent School Association (SCISA) come capocannoniere della sua squadra. Nesmith condusse Porter-Gaud ad altri due campionati statali di Classe 3A nelle sue ultime due stagioni. Da senior, ha avuto una media di 21 punti, 4,5 rimbalzi e 1,8 assist a partita ed è stato nominato South Carolina Gatorade Player of the Year. Ha lasciato il liceo come tre volte giocatore dell'anno SCISA Classe 3A.[1]
Nesmith non ha ricevuto offerte da nessun programma NCAA Division I di alto livello fino a quando non era un senior, ma ha iniziato ad attirare più attenzione dopo un torneo Amateur Athletic Union (AAU) a Charlotte, nella Carolina del Nord. È stato valutato come una recluta a quattro stelle da ESPN e 247Sports e ha scelto Vanderbilt rispetto a Florida, South Carolina, Harvard, Virginia Tech e Columbia.
Nella sua stagione da matricola per Vanderbilt, Nesmith assume un ruolo importante dopo l'infortunio di Darius Garland a fine stagione e le insufficienti prestazioni di Simisola Shittu. Partendo titolare nella maggior parte delle sue partite, ha concluso la stagione tenendo le medie di 11 punti e 5,5 rimbalzi a partita. Il 18 febbraio 2019, Nesmith è stato nominato matricola della settimana della Southeastern Conference (SEC). Ha segnato un record di 26 punti contro la Florida e una doppia doppia di 24 punti e 14 rimbalzi contro Auburn.
Nesmith debutta nella seconda stagione il 6 novembre 2019, segnando 25 punti, inclusi sette tiri da tre punti segno, in una vittoria contro Missouri Southeastern Sate. Nella settimana successiva, realizza un record in carriera di 34 punti, nella sconfitta all'overtime contro Richmond. Il 6 dicembre, Nesmith viene inserito nella lista di candidati per l'Oscar Robertson Trophy. Il 21 dicembre eguaglia il suo massimo in carriera di 34 punti contro l'UNC Wilmington. Nesmith segna poi 29 punti con otto triple, miglior prestazione della sua carriera, il 4 gennaio 2020, nella sconfitta contro SMU in overtime. L'11 gennaio 2020, viene annunciato che Nesmith avrebbe saltato il resto della stagione a causa di un infortunio al piede destro, subito nella sconfitta contro Auburn. In 14 partite, ha segnato una media di 23 punti e 4,9 rimbalzi a partita, tirando con il 52,2% da tre punti. Nesmith è stato il quinto miglior realizzatore della NCAA Division I e ha segnato il maggior numero di punti in media di un giocatore della Vanderbilt dai tempi di Tom Hagan nella stagione 1968-1969. Dopo la fine della stagione si dichiara per il Draft NBA 2020.