In januari 814 kreeg Karel hoge koorts. Zeven dagen later, op 28 januari 814, stierf Karel op 71-jarige leeftijd in de Duitse stad Aken. Net zoals zijn lengte was zijn ook hoge leeftijd voor die tijd heel bijzonder: in de middeleeuwen werden mensen niet vaak zo oud als Karel.
Toen hij stierf was Karel 47 jaar koning geweest. Als je je bedenkt in hoeveel oorlogen hij heeft gevochten, is dat heel speciaal.
Karel werd begraven in de Mariakerk in Aken. Zijn zoon Lodewijk de Vrome volgde hem als koning en keizer op. Na de dood Lodewijk viel het grote rijk van Karel uit elkaar: de zoons van Lodewijk kregen ruzie over wie de baas was.
Wat zou Karel hebben gedacht als hij nog zou leven? Zijn eigen kleinzoons maakten zijn hele rijk kapot!