Das Wort spielt auf einen Machtkampf zwischen weltlicher und geistlicher Autorität im Mittelalter an, aber geprägt wurde es erst bei einem ähnlichen Konflikt 800 Jahre später. Um die Jahreswende 1076/77 begab sich der römisch-deutsche König Heinrich IV. zur italienischen Burg Canossa, in der sich gerade Papst Gregor VII. aufhielt. Dort flehte der Monarch drei Tage lang vor den Toren darum, wieder in die Kirche aufgenommen zu werden, aus der ihn Gregor exkommuniziert hatte. Mit Erfolg: Der Papst musste sich erweichen lassen.
Das Ereignis, das in mittelalterlichen Quellen eher nebensächlich behandelt wird, gelangte zu spätem Ruhm, als es in der Neuzeit Widersacher des Papsttums als Symbol für kirchliche Machtanmaßung interpretierten. So erklärt 1868 der liberale Abgeordnete Anton von Auersperg – bekannt unter seinem Dichterpseudonym Anastasius Grün – im österreichischen Reichstag, das Konkordat zwischen Kaiser Franz Joseph und dem Heiligen Stuhl, in dem der Kirche maßgeblicher Einfluss auf Eheschließungen und Schulunterricht zugesichert wurde, sei für ihn »wie ein gedrucktes Canossa, in welchem das Österreich des 19. Jahrhunderts für den Josephinismus des 18. Jahrhunderts in Sack und Asche zu büßen hatte«.
Diese spektakuläre Rede war sehr wahrscheinlich auch Otto von Bismarck bekannt, der im Mai 1872 im deutschen Reichstag versichert: »Seien Sie außer Sorge, nach Kanossa gehen wir nicht, weder körperlich noch geistig.« Kurz zuvor hatte der Reichskanzler den sogenannten Kulturkampf gegen die katholische Kirche und die Zentrumspartei, die politische Organisation des deutschen Katholizismus, eröffnet. Schon bald darauf taucht die Zusammensetzung Canossagang in einer »Erzählung aus den jüngsten Tagen« auf mit dem Titel »Nicht nach Canossa!«, deren Verfasser ein unbekannter Autor namens A. Franke war – der Vorname ist nicht herauszufinden. Bis in den 1880er-Jahren der Kulturkampf durch eine Einigung zwischen Bismarck und Papst Leo XIII. beendet wurde, nahm die Gebrauchshäufigkeit von Canossagang immer weiter zu. Schon bald wurde es ohne notwendigen Bezug zum Papst im allgemeineren Sinne ›Gang zu einem Mächtigeren, vor dem man sich demütigt‹ gebraucht. Zum Beispiel beschreibt 1884 der SPD-Mitgründer Wilhelm Liebknecht im Reichstag polemisch die wahren Machtverhältnisse zwischen dem preußischen König und deutschen Kaiser einerseits und dem Großindustriellen Carl Ferdinand Stumm, dem Gründer der Stahlwerke von Neunkirchen und einer der reichsten Männer Deutschlands, andererseits: »Das soziale Königthum hat seinen Canossagang gemacht in den Schloßhof von Neunkirchen, es hat sich gebeugt vor dem König Stumm; denn der kapitalistische ist mächtiger als der soziale König.«
In diesem erweiterten Sinn ist der Ausdruck bis heute üblich. Der engere Kreis des Bildungswortschatzes ist allerdings längst überschritten: 2015 meldet der Sportinformationsdienst SID die Rehabilitationsbemühungen eines berühmten Fußballspielers, der nach einer Niederlage in der französischen Liga seine berufliche Heimat als »Scheißland« bezeichnet hatte: »Zlatan Ibrahimovic hat nach seinem Ausraster den Canossagang angetreten.«