Az erőszakos karaktereiről elhíresült Oscar-díjas, olasz–amerikai színész még fiatalkorában csöppent bele a filmes szakmába. Mire Pesci ötéves lett, már New York-i színházi darabokban játszott, tízévesen pedig rendszeres szereplője volt a Star Time Kids-sorozatnak.
A Hey, Let’s Twist! című egész estés musicalben egy rövid jelenet erejéig táncosfiút alakítva kostolt bele a filmkészítésbe, de egyéb szerepek híján anyja borbélyboltjában dolgozott.
A zenei karrier iránt ácsingózó fiatal fiú egészen 1976-ig nem gondolt a filmezésre, mígnem Ralph De Vito főszereplőt keresett a The Death Collector című filmjébe. Itt – mint később kiderült – már megpecsételődött a sorsa, ez volt ugyanis az első szerepe, amelyben egy a maffia kegyeit kereső pénzbehajtót alakít.
Az áttörést azonban egyértelműen Martin Scorsese Dühöngő bikája hozta el számára, melyben Jake LaMotta bokszoló (Robert De Niro) öccsét, Joey LaMottát játszotta. A filmben játszott szerepéért Oscar-díjra is jelölték. Az aranyszobrot ugyan nem kapta meg, de a BAFTA neki ítélte a legjobb elsőfilmesnek járó elismerést.
A film után mégsem figyeltek fel rá a nagy stúdiók, kevésbé ismert alkotásokban tűnt fel, úgymint az Örökkön örökség, a Testőr kereszttűzben vagy a Holdjáró. A melléfogások után 1989-ben szerepet kapott a Halálos fegyver folytatásában Mel Gibson és Danny Glover mellett, mellyel ismét a figyelem középpontjába került.
Az amerikai vígjátéksorozatban nyújtott alakítása után, 1990-ben szerepet kapott a világ egyik leghitelesebbnek mondott maffiafilmjében, a Nagymenőkben. A filmben annyira meggyőzően hozta Tommy Devito karakterét, hogy az amerikai Filmművészeti és Filmtudományi Akadémia neki ítélte a legjobb mellékszereplőnek járó Oscar-díjat.
Még ugyanebben az évben játszott a Reszkessetek, betörőkben, amelyért ugyancsak pozitív kritikákat kapott. A két szerep után jobbnál jobb filmekben kapott lehetőséget: A háziúr című vígjátékban, majd Oliver Stone filmjében, a JFK – A nyitott dossziéban (1991) bizonyíthatott, később nagyszájú Vinnyt játszotta, a Vinny, az 1ügyűben (1992), de a Halálos fegyver és a Reszkessetek, betörők! (1990) folytatásaiban is ismét szerepet kapott.
Scorsese Las Vegasban játszódó, megtörtént eseményeken alapuló maffiafilmjében, a Casinóban (1995) Pesci ismét együtt játszhatott De Niróval, és a híresztelések szerint a közös jeleneteiknek nagy részét improvizálták. Scorsese annyira megbízott a két színészlegendában, hogy csak azt közölte velük, hogy egy jelenetben honnan hova kell eljutniuk, a többit rájuk bízta.
Mi sem bizonyítja jobban Pesci játékának hitelességét, mint hogy 2020-ban, 25 évvel a film premierje után a New York-i alvilág egyik legrettegettebb maffiavezére, Michael Franzese úgy nyilatkozott róla:
„Joe Pesci minden kétséget kizáróan a leghitelesebb maffiózó, akit valaha láttam.”
Miután 1998-ban befejezték a Halálos fegyver-sorozatot, Pesci azt mondta, hogy befejezi karrierjét. Nyolc évig egyetlen szerepet sem vállalt el, majd 2006-ban Az ügynökség című filmért újra kamera elé állt.
Pesci legalább ötvenszer mondott nemet Martin Scorsesének, mielőtt beleegyezett, hogy Az írben eljátssza Russell Bufalino szerepét. A film 2019-ben került a mozikba, és annak ellenére, hogy majdnem három és fél óra hosszúra sikeredett, pozitív kritikákat kapott.