Die Bibliothek, die sich südlich neben der Marktkirche St. Marien befindet, gilt als die älteste und größte Kirchenbibliothek Deutschlands. Zusammen mit dem Stadtarchiv neben dem Rathaus und der Stadtbibliothek am Hallmarkt befinden sich in nächster Nähe zueinander drei der wichtigsten städtischen Bildungseinrichtungen Halles.
Repräsentativ mit zwei Dachtürmchen, zahlreichen Dachgauben und Schweifgiebeln in verschiedenen Größen, mit einem den Haupteingang betonenden Erker und Balkonen über den Nebeneingängen, versinken die Gebäude der Neorenaissance entlang der Marienkirche völlig neben dem gewaltigen Schiff der Kirche. Hinter diesen Verwaltungsgebäuden, den sogenannten "Predigerhäusern", die den Durchgang darstellen, versteckt sich ein im Rundbogenstil erbautes zweigeschossiges neoromanisches Bibliotheksgebäude, das typisch für Bibliotheken des späten 19. Jahrhunderts als Magazinbau ausgestaltet wurde, und in dem sich auch die Gertraudenkapelle befindet.
Begründet vom damaligen Pfarrer Sebastian Boetius, wuchs die zunächst in den Hausmannstürmen eingelagerte Sammlung durch Schenkungen schnell an, so dass um 1600 der erste eigenständige Bau für sie entstand, der 1611 eröffnet wurde und somit der erste Bibliotheksbau Halles war. Der heute im Hinterhof gen Steinbockgasse befindliche zweite Bau der Marienbibliothek wurde in den Jahren 1887 und 1888 errichtet, das Renaissancegebäude danach leider abgerissen.
In ihr werden Kirchenbücher (ab 1570) und pietistische Streitschriften ebenso aufbewahrt, wie zum Beispiel Akten, die das Einschreiten gegen die Kleiderpracht in Halle betreffen. Darüber hinaus gibt es Bücher aller Wissenschaftsgebiete, vier komplette alte Gelehrtenbibliotheken, sieben Kirchenbibliotheken (St. Ulrich Sangerhausen, St. Marien Weißenfels und St. Sixti Schneidlingen sowie der Innenstadtkirchen), Tausende Gesangsbücher und Werke zu Halle sowie zahlreiche andere Sammlerstücke, die 500 Jahre hallesche Stadtgeschichte mit der anderer Städte kombinieren.
Mit der Gründung der Universitätsbibliothek im Jahr 1696, die heute über fünf Millionen Bücher besitzt, sank die Bedeutung der Marienbibliothek allmählich, blieb aber dennoch weiter bedeutsamer Teil des Gelehrtenlebens der Saalestadt und umfasst heute 30.000 Bände mit 100.000 Titeln.