Le riprese del film iniziarono il 1º ottobre 1973 a Las Vegas. Le scene ambientate a Cuba vennero in realtà girate a Santo Domingo, nella Repubblica Dominicana. Charles Bluhdorn, uno dei produttori della Paramount, fu parecchio ostile nel girare le scene a Cuba, desiderando più che fosse solo una fase di pre-produzione. A Santo Domingo inoltre Al Pacino si ammalò di polmonite e ritardò le riprese di un mese. Le scene del passato di Vito Corleone ambientate nel comune di Corleone furono girate in realtà a Forza d'Agrò, a Savoca, a Graniti, a Motta Camastra ed a Regalbuto, in provincia di Messina ed Enna. Le scene dello sbarco a Ellis Island, con i controlli sanitari degli immigrati, sono state girate nella Vecchia Pescheria della città di Trieste. Le ambientazioni con Vito giovane nella Little Italy negli anni '20 sono state in realtà effettuate presso gli studi cinematografici della Paramount Pictures a Los Angeles in California: questo fu un argomento di controversia tra il regista e la produzione, perché Coppola voleva girare tutte le riprese nella vera Little Italy a New York, ma stavolta dovette cedere alle insistenze della produzione che minacciò nuovamente di licenziarlo se le riprese non fossero state effettuate in studio per ragioni finanziarie. La produzione del film terminò in concomitanza con il termine delle riprese il 19 giugno 1974, con un totale di centoquattro giorni di riprese.