Im Jahr 1220 werden durch den erzbischöflichen Marschall Wichmann ein Hospital und eine Johanniskapelle nördlich der Moritzkirche gegründet, die zur „Unterhaltung“ der armen Leute dienen sollen. Schon 1283 ist der Name der Kapelle auf das Hospital übergegangen und so heißt es da: domus hospitalis sancti Johannis eidem ecclesie sancti Mauricii pertinentis.
Es verdankt seinen Ursprung auch der Moritzkirche, für dessen Gemeinde es zuständig war, und dem dort angesiedelten Augustiner-Chorherrenstift (1180-1184 erbaut). Ein eigener Spitalmeister (Hospitalarius) wurde von diesem Stift gestellt und besorgte auch den Gottesdienst in der Johanniskapelle.
Als im Jahr 1529 im Rahmen der Umgestaltung der Stadt durch Kardinal Albrecht das Cyriakushospital vom Klaustor (dort entstand die Neue Residenz) hierher verlegt wurden, wurden diese scheinbar vereinigt, denn das Hospital wurde größer neu erbaut.
Als es 1571/76 nach Glaucha verlegt wurde, wurden in dem Hospitalsgebäude verschiedene Nutzungen untergebracht, darunter Privatwohnungen und das Zimmerhaus des Talgerichtes („Talzimmerhaus“), wie man zum Beispiel bei Schultze-Galléra nachlesen kann.
Während es über viele Jahrhunderte hinweg direkt am Wasser stand, befindet sich an seiner Westseite heute stattdessen der Hallorenring. Ein wenig versunken steht das historische Juwel zwischen Moritzkirche und ehemaligem Polizeipräsidium. Früher besaß es Backsteingiebel an beiden Seiten, doch der an der Ostseite wurde um 1885 beseitigt. Die Kapelle hat die Zeiten nicht überstanden und wurde schrittweise umgebaut und abgerissen, heute befindet sich an ihrer Stelle die Südwestecke des Polizeipräsidiums.