Am Johannishof in der Mainzer Straße, dem Ort, an dem Willi Graf viele Jahre seiner Kindheit und Jugend verbrachte, wurde am 12. Oktober 1990 eine Gedenkplatte für den Widerstandskämpfer angebracht, auf der neben seinen Lebensdaten die Aufschrift zu lesen ist: „Jeder Einzelne trägt die ganze Verantwortung – Willi Graf, geboren am 02.01.1918, Mitglied der katholischen Jugendbewegung, Widerstandskämpfer in der Gruppe „die Weiße Rose“ Hingerichtet am 12.04.1943 durch die Terrorjustiz des Hitlerregimes, wohnte von 1922 bis 1937 in diesem Haus – Weitertragen, was wir begonnen haben.“
Es handelt sich um zwei Zitate aus seinen Tagebüchern und Briefen. Die gusseiserne Platte wurde von Johannes Schütz aus Tholey (Saar) gestaltet. Graf war Mitglied der Widerstandsgruppe „Weiße Rose“, einer Gruppe von Studenten um die Geschwister Scholl, die unter anderem durch ihre Flugblattaktionen bekannt geworden sind.