Gene vyrůstal v Danville, Illinois, kde jeho otec pracoval jako sazeč. V šestnácti letech přestal chodit na školu a nastoupil do amerického námořnictva. Po jeho propuštění z námořnictva krátce studoval žurnalismus na univerzitě v Illinois, ale brzy se přestěhoval do New Yorku, kde začal pracovat v malých televizních a rozhlasových stanicích.

Brzy se rozhodl, že chce být hercem a začal studovat herectví v Pasadente spolu s Dustinem Hoffmanem. Znovu se vrátil do New Yorku, kde získal první role na Broadwayi. Postupně také dostal první malé role v televizní show "The United States Steel Hour" (1959-1962), svůj debut na plátně si tento původně divadelní herec odbyl ve filmu "Lilith" (1964) po boku Warena Beattyho. Jeho spojení s Beattym mu pomohlo k průlomové roli v Bonnie a Clyde "Bonnie and Clyde" (1967), za kterou získal nominaci na Oskara pro nejlepšího herce ve vedlejší roli.

Díky tomuto úspěchu začal Gene stabilně pracoval v Hollywoodu na několika filmech ročně. Svou druhou nominaci na Oskara získal za jeho vedlejší roli ve filmu "I Never Sang for My Father" (1970). Třetí nominaci již získal za hlavní roli detektiva Jimmyho Doyla ve velmi úspěšném filmu Francouzská spojka "The French Connection" (1971). Úspěšně se z herce vedlejších rolí stal herec obsazovaný do hlavních rolí, což potvrdil ve velmi finančně úspěšném filmu Dobrodružství Poseidonu "The Poseidon Adventure" (1972), také po boku Al Pacina v "Scarecrow" (1973) a ve filmu Mladý Frankenstein "Young Frankenstein" (1994). Gene opět zazářil v roli boháče Lexa Lutora v sci-fi "Superman" (1978) a "Superman II" (1980).

Zahrál si v mnoha průměrných filmech včetně filmu Sedm neohrožených "Uncommon Valor" (1983), kde si zahrál plukovníka Jasona Rhodese, který se rozhodl vydat do Vietnamu hledat svého 10 let ztraceného syna s partou neohrožených veteránů. Výraznější pozornost si znovu získal ve filmu "No Way Out" (1987), kde si zahrál s Kevinem Costnerem a za roli v Hořící Mississippi "Mississippi Burning" (1988) získal třetí nominaci na Oskara za vedlejší roli.

V průběhu devadesátých let se Gene střídavě objevoval v hlavních rolích různých filmů, včetně Nebezpečný útěk "Narrow Margin" (1990), Causa Wardových "Class Action" (1991) a vysoce hodnocených malých rolí jako Pohlednice z Hollywoodu "Postcards from the Edge" (1990) s Meryl Streepovou a Firma "The Firm" s Tomem Cruisem. V roce 1992 se spojil s režisérem a hereckou hvězdou Clintem Eastwoodem v nezapomenutelném westernu Nesmiřitelní "Unforgiven", v němž si zahrál maloměstského šerifa Billa Daggetta. Za tuto roli poprvé získal Oskara pro nejlepšího herce ve vedlejší roli. Jeho výkon mu pomohl k dalším dvěma westernúm "Wyatt Earp" (1994) a Rychlejší než smrt "The Quick and the Dead" (1995) s Sharon Stoneovou. Objevil se také ve dvou největších hitech roku 1995 Krvavý příliv "Crimson Tide" s Denzelem Washingtonem a Chyťte ho! Get Shorty.

O rok později se Gene objevil ve třech velkorozpočtových filmech Cela "The Chamber", Ptačí klec "The Birdcage" s Robinem Williamsnem a Smrtící léčba "Extreme Measures" s Hughem Grantem a Sarah Jessicou Parker. Prezidenta spojených států amerických si zahrál ve filmu Absolutní moc "Absolute Power" (1997). V roce 1998 propůjčil svůj talent rolím ve třech naprosto odlišných filmech v akčním thrilleru Nepřítel státu "Enemy of the State" s Willem Smithem, v kresleném filmu Mravenec Z "Antz" propůjčil svůj hlas mravenčímu generálovi Mandiblovi a v "Twilight" si zahrál s Paulem Newmanem a Susan Sarandonovou.

Gene opět ohromě zapůsobil na publikum a kritiku za jeho výkony ve třech filmech Poslední loupež "Heist", ve válečném filmu v roli admirála Reigarta Za nepřátelskou linií "Behind Enemy Lines" a v roli nezdárného otce v komedii Taková zvláštní rodinka "The Royal Tenenbaums" s Gwyneth Paltrow a Benem Stillerem. Za poslední film byl nominován na Zlatý Glóbus.

V současné době Gene žije se svou manželkou v Santa Fe v Novém Mexiku. Jinak má tři děti Christopher, Elizabeth, a Leslie s první ženou Faye Maltese (1956-1982).

Jeho druhá žena se jmenovala Betsy Arakawa (od roku 1991).