Narodil se 22. ledna 1953 v Cuyahoga Falls, ve státě Ohio poblíž Akronu. S filmařinou začal později, ale již v dětství si oblíbil film jako takový. V kinech v Akronu neměli moc širokou nabídku filmů, ale když byl malý, jeho matka jej brávala každou neděli do kina. A jak on sám říká, byly to většinou filmy s gigantickými krabími monstry či s příšerami z tajuplných lagun. Ale dodává, že je vždy hrozně miloval.[zdroj?] Vystudoval Cayahoga Falls High School a poté šel rovnou na Nortwestern University. Když opustil Ohio a odjel v sedmnácti do New Yorku, tak zjistil, že ne všechny filmy jsou o gigantických monstrech a příšerách. Zlomový okamžik v jeho životě nastal, když odjel na roční studium do Paříže. Právě tam se zamiloval do filmového stylu francouzské kinematografie a rozhodl se tam zůstat další rok. Přestal chodit na přednášky a celé dny trávil v kinech, kde za celou tu dobu spatřil mnoho filmů z různých zemí světa.

Když se pak vrátil zpět do New Yorku, rozhodl se stát spisovatelem. Proto přešel na Kolumbijskou univerzitu, kde vystudoval literaturu (titul B.A. − Bachelor of Arts − bakalář Svobodných umění). Ale jeho okouzlení francouzským filmem stále přetrvávalo. Když už neměl žádné peníze a rozhodoval se, co dál se životem, rozhodl se tak absolvovat filmovou školu v New Yorku. Sám nikdy předtím žádný film nenatočil, a tak vzal pár svých věcí, co kdy napsal, a zkusil se dostat mezi skupinu potenciálních spisovatelů (režisérů). Byl přijat a měl velké štěstí, že při studiu dostal práci jako pedagogický asistent profesora, kterým byl režisér Nicholas Ray. Později se z nich stali kamarádi[zdroj?] a Ray mu poté pomáhal s jeho prvním filmem. V jednom rozhovoru uvedl, že to byl snad jen jeho rozmar, že šel studovat a vydržel tam celé dva roky. Vlastně ani nezískal titul, když školu dokončil, ale až poté, co se stal známým a populárním. V posledním ročníku totiž dostal stipendium ve výši asi 12 000 dolarů, ale místo aby jej využil na studium, natočil za něj v roce 1980 svůj první film Trvalá dovolená. O dva roky později následoval krátkometrážní film The New World. Jeho druhý celovečerní film Podivnější než ráj spatřil světlo světa v roce 1984, následovala Kamera D'OR pro nejlepší režii (na festivalu v Cannes). Na tento film měl přitom ve srovnání s Trvalou dovolenou třetinový rozpočet. Proto natočil jen část filmu a pak musel čekat na zázrak. Ten přišel, když film uvedl jako krátkometrážní záběry na filmovém festivalu v Rotterdamu. Tam se zalíbil několika německým producentům (hlavně Wimu Wendersovi), a tak Jarmusch dostal finanční dotaci a mohl film dokončit.

Již za svoje první dva filmy byl hodně chválen u kritiky. K definitivnímu upevnění jeho reputace došlo v roce 1986 po natočení třetího celovečerního snímku Mimo zákon. Jeho další dva filmy Tajuplný vlak (1989) Nejlepší umělecký příspěvek (v Cannes) a Noc na Zemi (1991) už jen upevnily jeho neotřesitelnou pozici ve světě nezávislého filmu.

V roce 1995 natočil jeden ze svých nejúspěšnějších filmů, možná i díky hlavní roli, kterou ztvárnil Johnny Depp, Mrtvý muž. Hudbu k tomuto filmu vytvořil neopakovatelným způsobem Neil Young. Ten jej poté poprosil, aby natočil videoklip jeho skupině, to se mu zalíbilo, takže nakonec v roce 1997 vznikl stominutový muzikálově-dokumentární film o této skupině nazvaný Rok koně.

V roce 1999 jeho fascinace asijským filmem a kulturou vyústila v další film Ghost Dog - Cesta samuraje s Forestem Whitakerem v hlavní roli. Poté v roce 2002 následovala spolupráce s několika světovými autory nezávislého filmu a vznik povídkového filmu Dalších deset minut: Trubka.

V roce 2003 po několika letech zkompletoval a dokončil další film, složený z několika povídek, Kafe a cigára, za jehož závěrečnou třetí část získal Zlatou palmu za krátký film (v Cannes). Jeho dalším filmem byly Zlomené květiny z roku 2005 s Billem Murrayem v hlavní roli, za který získal mimo jiné Hlavní cenu poroty v Cannes a Českého lva v kategorii nejlepší zahraniční film. V kinematografii a zejména v nezávislém filmu světově uznávanou osobností.[zdroj?]

V roce 2012 se začal věnovat i hudbě; natočil dvě alba spolu s nizozemským loutnistou Jozefem van Wissemem nazvaná Concerning the Entrance into Eternity a The Mystery of Heaven.