Een Italiaanse monnik, Guido van Arezzo, zette rond het jaar 1000 een grote stap. Hij begon neumen op twee horizontale lijnen te schrijven, een gele voor de C en een rode voor de F. Guido vond ook een systeem uit waarmee zijn koorzangers de afstanden tussen de noten konden herkennen en benoemen. Dit systeem kennen wij als de do-re-mi toonladder. Het is een relatief systeem; dat wil zeggen dat de onderlinge afstanden tussen de noten een naam krijgen, en niet de noten zelf. Door het vastleggen van de precieze afstand tussen de tonen konden zangers nu ook liederen leren die ze nog nooit gehoord hadden.
Uit de Noordfranse neumen ontwikkelde zich in de 12e eeuw de kwadraatnotatie, met typische vierkante nootvormen op een notenbalk met vier lijnen. Het Gregoriaans wordt nog altijd in kwadraatnotatie genoteerd. Uit deze muzieknotatie is het moderne notenschrift ontstaan. Door de muzieknotatie verloor de westerse muziek de mogelijkheid om allerlei kleine versieringen in de melodie en variaties in het ritme over te dragen - iets wat in een mondelinge traditie wel gebeurt. Nog altijd weten we niets over de ritmes van de Gregoriaanse gezangen; vermoedelijk waren ze veel vrijer dan ons westerse muziekgevoel ons ingeeft. Maar er kwam ook iets voor terug: de mogelijkheid om samenklanken van tevoren uit te denken. De muzieknotatie was een voorwaarde voor het ontstaan van de meerstemmige koormuziek in de 12e eeuw in Parijs.