Karel I werd geboren op 24 februari 1500 te Gent in Vlaanderen. Voor zijn opvoeding zorgde zijn tante Margareta, regentes over de Lage Landen, die hem vertrouwd maakte met kunst en cultuur. Zijn moedertaal was het Frans, de taal die aan het hof gesproken werd, maar hij beheerste ook het Nederlands. Karel groeide op als een vroom man, vooral vanwege de invloed die Adriaan van Utrecht – de latere en enige Nederlandse paus ooit, Adrianus – op hem had. Maar wie het meeste heeft bijgedragen aan de vorming van Karel was Willem van Croÿ, telg uit een machtige Vlaamse familie die zich altijd dienstbaar had gemaakt aan de Bourgondische hertogen. Willem van Croÿ werd in 1509 benoemd tot Karels kamerheer. Hij was een harde leermeester die Karel zo goed mogelijk wilde voorbereiden op zijn toekomstige taken.