Karel Fiala se narodil 22. ledna 1871 v Mníšku pod Brdy do umělecké rodiny. Nejdříve se vyučil papírníkem a nastoupil na úřednickou dráhu. Nakonec se Fiala stal ředitelem nemocenské pojišťovny. Vedle úředničiny se věnoval také ochotničení a později hrál v kamenném Švandově divadle, kterému nějaký čas také řediteloval.

Z prvního manželství s Antonií Fialovou (1874 – 1898) měl syna Františka Fialu (1891 – 1947), který je znám pod pseudonymem Ferenc Futurista a byl oblíbený pražský komik. Fiala však brzy ovdověl a oženil se podruhé. Z druhého manželství se mu narodil syn Emanuel (Eman) Fiala (1899 – 1970), z něhož se stal oblíbený herec, skladatel a dirigent.

Rovněž Fialovi synovci tíhly k uměleckému životu: Ferdinand Fiala (1888 – 1953) byl architekt, herec, malíř a grafik a Jiří Julius Fiala (1892 – 1974) se prosadil jako herec, dirigent a hudební skladatel. I Fialova vnučka Anna Ferencová (*1927), dcera herce Ference Futuristy, se stala divadelní a filmovou herečkou (s filmem spolupracovala ještě v roce 2002, na Olmerově propadákové komedii s hercem Jiřím Krampolem Waterloo po Česku).

K filmové práci ho přivedli synové a Fiala za devítiletého působení u filmu vytvořil neuvěřitelných čtyřicet filmových rolí. V kinematografii se poprvé objevil v roce 1920 v postavách žurnalisty v Binovcově dramatu s „faustovským“ populárním motivem Plameny Života a starého otce inženýra Jiřího Orlíka (Vladimír Slavínský) v melodramatu Zlatá žena Vladimíra Slavínského, kde se objevuje zavedený motiv otce (Antonín Vaverka), který vyžene svého syna (Sláva Grossmann) kvůli lásce k chudému děvčeti. Ve filmu Slavínský předvádí známá akrobatická čísla (například na křídle letadla kroužícího nad Prahou).

V dalších letech hrál každoročně v několika snímcích podřadných, i umělecky vysoce hodnocených, snímcích. Díky své menší, dobrosrdečné postavě, výrazným zubům, vysokému čelu, bystrýma očima a prošedivělým vlasům vytvářel různé bodré tatíky, profesory, úředníka a rozličné pány z lepší společnosti městského i venkovského typu.

Hrál starostlivé otce (Moderní Magdalena, Koryatovič, Neviňátka), inteligentní lékaře a profesory (Poslední polibek, Mrtví žijí, Drvoštěp, Josef Kajetán Tyl, Radioamatéři), vznešené šlechtice (Tulákovo srdce, Ve spárech upíra), svědomité a pilné úředníky (Cikáni, Jindra, Hraběnka Ostrovínová) a dobrosrdečné dědečky (Venoušek a Stázička, Láska slečny Věry).

Mimo jiné rovněž velmi vážené ředitele (O velkou cenu, Buď připraven, Bílý ráj, Válečné tajnosti Pražské, Pražské děti), nebojácné hrobníky (Za oponou smrti), prosté venkovany (Likérová princeznička, Děvče z hor, Prach a broky), věrné faráře a mnichy (Záhadný případ Galginův, Dům ztraceného štěstí, Páter Vojtěch), chytré starosty (Plukovník Švec) a několikrát i neidentifikované postavy (Děvčata, Vdávejte se!, Děti osudu, Proč se nesměješ, Okovy, Kašpárek a Budulínek) a další.

Naposledy se na stříbrném plátně objevil jako mlynář Bořický ve Fričově melodramatu Chudá holka (1929), kde výraznou titulní úlohu nemanželského dítěte Marie Růžové, které Fialův mlynář Bořický láskyplně a pečlivě vychovává, ztvárnila Fričova manželka a jedna z prvních legendárních českých filmových hvězd Suzanne Marwille.

I když Fiala ještě žil dva roky ve zvukovém období, v žádném zvukovém snímku se již neexponoval. Zakladatel rozvětvené a oblíbené herecké generace Fialů Karel Fiala zemřel 27. července 1931 v Praze ve věku šedesáti let.