Mike Nichols se narodil pod jménem Mikhail Igor Peschkowsky matce Brigitte a lékaři Pavlovi. Jeho otec původně pocházel z Ruska z velmi bohaté rodiny židů a kvůli ruské revoluci se odstěhoval do Německa, kde se seznámil s Mikeovou matkou Brigitte původem také židovkou. V dubnu roku 1939, když nacisti okupovali Berlín a zatýkali židy se sedmiletý Mikhail a jeho tříletý bratr Robert vydali sami za svým otcem do Spojených států Amerických. Jejich matka se k nim přidala o rok později, když utíkala z Itálie. Rodina se přestěhovala do New Yorku a oficiálně se nechali přejmenovat z Nikolaevich Peschkowsky na prosté Nichols. Otec si otevřel úspěšnou ordinaci blízko Central Parku. Mikovo dětství bylo těžké, jelikož u něj diagnostikovali těžkou chorobu spojenou s kašlem, kvůli které ztratil všechny vlasy a po zbytek života byl nucený nosit paruky.

V roce 1944 se stal oficiálním americkým občanem a začal navštěvovat základní školu na Manhattanu, poté nastoupil na soukromou školu Walden a po jejím absolvování začal chodit na univerzitu v New Yorku, ze které ale po měsíci odešel a přihlásil se na univerzitu v Chicagu. V roce 1953 se přidal k divadelnímu a hudebnímu spolku, kde byl později požádán, aby vytvořil vlastní večerní program, který nazval „The Midnight Special“. Program sám moderoval a jelikož měl velký úspěch, přizval si k němu i živou hudbu.

Mike poprvé zahlédl svojí dlouholetou partnerku Elaine May, když seděla v první řade na divadelním představení „Miss Julie“, ve které sám hrál. Po skončení představení Mike sledoval Elaine až na vlakové nádraží, kde na ní začal mluvit s předstíraným akcentem a předstíral, že je špión. Elaine se role držela a hrála to s ním. Oba si hned padli do noty a začali spolu nejen spolupracovat, ale i žít.

V roce 1953 Mike opustil Chicago a vrátil se zpátky do New Yorku, kde začal studovat herectví pod legendou Lee Strasbergem, ale po absolvování nemohl nikde najít uplatnění v divadlech. Přijal tedy nabídku, aby se vrátil zpátky do Chicaga a začal vystupovat společně s jeho přítelkyní Elaine a vytvořili tak komediální duo. Vystupovali spolu do roku 1958, poté se v dobrém rozešli.

Po rozchodu s Elaine Mike odešel do Vancouveru, kde režíroval divadelní hru od Oscara Wildea „The Importance of Being Earnest“. V roce 1963 byl Mike vybrán, aby režíroval hru „Bosé nohy v parku“. Poté si uvědomil, že se nenarodil pro to být hercem, ale režisérem. „Bosé nohy v parku“ byl obrovský hit, který se dočkal 1530 představení a Mike Nichols získal divadelní cenu Tony Award za režii. Od té doby započal dlouhodobý úspěch na Broadway, kde režíroval několik divadelních her, za svojí divadelní režisérskou kariéru si Nichols odnesl dalších devět cen Tony.

V roce 1966 byl Mike Nichols hvězdným divadlením režisérem a i když neměl žádné zkušenosti s režií filmu, studio Warner Bros. nabídlo Mikeovi režii filmu Kdo se bojí Virginie Woolfové? v hlaních rolích manželský pár Elizabeth Taylor a Richard Burton. Film měl velmi příznivé kritiky a Nicholse začali nazývat novým Orsonem Wellesem. Film získal třináct nominací na Oscara a z toho pět sošek získal včetně Oscara pro nejlepší režii. Jeho dalším velkým úspěchem byl film Absolvent z roku 1967 v hlavní roli s Dustinem Hoffmanem, film získal sedm nominací na Oscara. Na konci 60. let se vrátil k režii divadelních her, během 70. let natočil dva filmy, které nebyly velmi úspěšné, a proto se na delší dobu opět vrátil k divadlu.

Za filmovou kameru se vrátil po 8leté pauze s filmem Silkwood v hlavní roli s Meryl Streep. Film byl kritiky příznivě přijat a získal pět nominací na Oscara. Po tomto filmovém úspěchu se opět vrátil na Broadway jako režisér a k filmu se vrátil v roce 1986 s filmem Hořkost v hlavní roli opět s Meryl Streep a Jackem Nicholsonem. Z filmu se stal opět velký hit a získal šest nominací na Oscara.

90. léta byla pro Nicholse nejúspěšnější a nejplodnější co se filmové tvorby týče. Natočil čtyři velmi úspěšné filmy, ve kterých hráli přední filmový herci například opět Meryl Streep, Jack Nicholson nebo Robin Williams a Emma Thompson. Se svým úspěchem pokračoval i do dalšího desetiletí, kdy natočil velmi úspěšný mini-serial Andělé v Americe, za který získal cenu Emmy. Jeho posledním filmem byl Soukromá válka pana Wilsona v roce 2007. Od té doby se věnoval pouze divadelním hrám, ale několikrát mluvil s filmovými studii o možnostech natočení dalších filmů. Bohužel k jeho náhlé smrti na zástavu srdce v listopadu roku 2014 k dalším filmovým projektům nedošlo.

Mike Nichols byl čtyřikrát ženatý, první tři manželství skončili rozvodem a poslední jeho smrtí. Se svojí druhou ex-manželkou Margot Callas měl dceru Daisy Nichols, se svojí třetí ex-manželkou Annabel Davis-Goff zplodil dvě děti jménem Max Nichols a Jenny Nichols, jeho poslední manželkou byla moderátorka Diane Sawyer. Jeho velkou vášní byl chov arabských koní, které choval na své farmě v Connecticutu.