James Gray se narodil ruským přistěhovalcům v New Yorku roku 1969. Původně chtěl být malířem, ale nakonec se rozhodl pro dráhu filmového tvůrce. V roce 2005 se oženil s producentkou Alexandrou Dickson a mají spolu 3 děti.

Režisérskou průpravu získal Gray na USC School of Cinema-Television, kterou ukončil roku 1991. Jeho debutem je film Malá oděsa (1994), za který získal Cenu kritiky na filmovém festivalu v Deauville (1994) a Stříbrného lva na filmovém festivalu v Benátkách (1994).

Následovala série tří filmů Temná zákoutí (2000), Noc patří nám (2007) a Milenci (2008), jejichž společným jmenovatelem je Grayův dvorní herec a blízký přítel Joaquin Phoenix. Ani jeden z výše uvedených filmů nezůstal kritikou nepovšimnut a byly nominovány například na cenu Zlatá palma na prestižním filmovém festivalu v Cannes.

Zatím posledním Grayovým projektem je film Ztracené město Z, příběh britského plukovníka jménem Percy Harrisson Fawcett, který se proslavil hledáním legendárního města v Jižní Americe. V hlavní roli by se měl objevit Brad Pitt.