Toen hij nog maar drie jaar oud was, moest Falk vanwege retinoblastoom zijn rechteroog operatief laten verwijderen en droeg hij het grootste deel van zijn leven een protheseoog. Het kunstoog droeg ook bij aan zijn kenmerkende scheel kijken.
Desondanks was hij als jongen actief in teamsporten, met name honkbal en basketbal.
In een interview met Cigar Aficionado in 1997 herinnerde Falk zich een gedenkwaardig moment op de middelbare school: “Ik herinner me dat de scheidsrechter me op de middelbare school eens uitgooide op het derde honk, terwijl ik zeker wist dat ik veilig was. Ik werd zo boos dat ik mijn glazen oog eruit haalde, het aan hem gaf en zei: ‘Probeer dit maar eens.’ Ik kreeg zo’n lachsalvo dat je het niet zou geloven.”
Falk brak in 1960 door met Murder, Inc, een Amerikaanse gangsterfilm waarin hij de rol van de wrede moordenaar Abe Reles speelde en een Oscarnominatie in de wacht sleepte.
Het jaar daarop speelde hij samen met Bette Davis in de film Pocketful of Miracles, waarvoor hij opnieuw werd genomineerd voor een Oscar.
Volgens velen is hij een van de meest iconische sterren van zijn generatie. Met een salaris van ongeveer 250.000 dollar per aflevering van Columbo was Falk in die tijd ook de bestbetaalde acteur op televisie.
