Maurice Joseph Micklewhite néven egy kétszobás, áram nélküli dél-londoni lakásban látta meg a napvilágot. A halpiacon hordárként dolgozó apja és takarítónő anyja úgy gondolta, ő is a halüzletben boldogul majd. Nem tanult jól az iskolában, nem is érezte jól magát, ezért tizenhat évesen félbehagyta tanulmányait. Alkalmi munkákból élt, a film világával egy mozi takarítójaként került közelebbi kapcsolatba, 1951-től katonai szolgálatot teljesített, még a koreai háborút is megjárta.
Megállapodnia azután sikerült, hogy egy apróhirdetésre jelentkezve segédügyelő lett egy vidéki színháznál. Esetenként kisebb mellékszerepeket is kapott, és felvette a Michael Scott művésznevet, amelyet 1954-ben Londonba költözve meg kellett változtatnia, mert már volt egy ilyen nevű kollégája.
Ügynökével éppen a fejüket törték, amikor a Zendülés a Caine hadihajón című film plakátjára tévedt a szeme, és megszületett a Michael Caine művésznév.