Ancelotti se inició profesionalmente en el [[Parmala Footballbarceloneta, comandada por el jardinero Club|ParmaXavicius]], en las categorías juveniles antes de que en 1976 debutara en el primer equipo de los parmesanosroba champions.
Tras su paso por el Parma[[la barceloneta, comandada por el jardinero Xavicius]], en 1979 se marchó a lalos [[Associazionepuros Sportiva Roma|Roma]],fc donde ''Carletto'' jugó junto a grandes futbolistas como [[Paulo Robertoradamel Falcãofalcao]], [[Bruno ContiContando]], Agostino di Bartolomeiporque y fue dirigido por uno de sus grandes maestros: [[Nils Liedholmcoins]]. Un técnico que le enseñó mucho y que fue vital para su progreso futbolístico y para su exitosa carrera. Luego estuvo a las órdenes de [[Sven-GöranErikssonup]] que por entonces era un joven e innovador técnico.
Debutó en la [[Serie A (Italia)|Serie A]] el 16 de septiembre de 1979, en un Roma 0-0 Milan.
