Rudd prorazil v roce 1995 rolí ve filmu Bezmocná. Mezi jeho další rané filmy patří Halloween - Prokletí Michaela Myerse, Léto k nepřežití, Romeo a Julie (film, 1996) nebo Pravidla moštárny. Pozornost si také vysloužil vedlejší rolí v televizním sitcomu Přátelé, kde ztvárnil postavu Mikea Hannigana, jenž se později oženil s jednou z hlavních postav seriálu Phoebe Bufetovou, již hrála Lisa Kudrow. V roce 2006 se objevil v několika epizodách dalšího seriálu Reno 911! v roli Guye Gerricaulta. Hraje také ve hrách na Broadwayi.

Často spolupracuje s režisérem a producentem Juddem Apatowem, a tak se často objevuje ve filmech i s Apatowovými oblíbenými herci jako jsou Seth Rogen, Steve Carell (po 4 společných filmem), Jonah Hill, Leslie Mann, Kristen Wiig a Jason Segel (po 3 společných filmech). Díky rolím v Apatowových filmech 40 let panic a Zprávař: Příběh Rona Burgundyho se stal komediální hvězdou. V roce 2007 ztvárnil hlavní roli frustrovaného manžela Petea v dalším filmu tohoto režiséra Zbouchnutá. Drogově závislého instruktora surfování Kunu (Chuck v havajštině) ztvárnil ve filmu Nicholase Stollera Kopačky, kde se objevil vedle Jasona Segela. Film produkoval Apatow a stal se hitem. Tím byl i jeho další film Velcí bratři, kde hrál vedle Seanna Williama Scotta depresivního prodejce energy drinků, který musí vykonávat veřejně prospěšné práce jako mentor pro děti. K tomuto filmu napsal i scénář.

V roce 2009 se znovu objevil vedle Jasona Segela v hlavní roli v komedii Kámoš k pohledání. V dalším roce se znovu sešel se Stevem Carellem, se kterým spolupracoval již na svých dřívějších filmech, a společně se objevili ve filmu Blbec k večeři ještě spolu se Zachem Galifinakisem a Ronem Livingstonem.