Ein Rathaus in Halberstadt wird bereits 1241 am Martiniplan liegend erwähnt. Während der umfangreichen Grabungen im Stadtzentrum 1992 - 1996 wurde südlich der Stadtkirche St. Martini im Hofbereich eines Hauses aus dem 15. Jahrhundert ein verputzter Pfeiler gefunden, der mit den Keller- und den Fundamentmauern der an dieser Stelle nachgewiesenen Bebauung in keinem Zusammenhang stand. Aussehen, Baufugen und Stratigraphie sprachen eindeutig für ein höheres Alter des Pfeilers und machten ihn zum singulären Rest eines ehemals sehr großen und prachtvollen Gebäudes - vielleicht des ersten Rathauses der Stadt Halberstadt.

Mitte des 14. Jahrhunderts begannen die Halberstädter Bürger mit dem Neubau eines wesentlich größeren Rathauses, etwas weiter südlich vom alten gelegen, der laut Inschrift auf dem Westriegel bereits 1381 vollendet werden konnte. Wohl Ende des 15. Jahrhunderts wurde die bis dahin auf dem Fischmarkt frei stehende Rolandfigur an die Westseite des Rathauses umgesetzt und um 1560 der gotische Bau durch einen Fachwerkanbau im Osten und durch die berühmte Ratslaube an der Südseite ergänzt.

So existierte das Rathaus bis zur Zerstörung der Stadt am Ende des zweiten Weltkrieges, am 8. April 1945. Die Ruine wurde abgebrochen. Seit 1998 steht an gleicher Stelle ein neues Rathaus, das in seinen Formen und mit einer Rekonstruktion der Westfassade dem alten Rathaus folgt. 2004 konnte die durch eine Bürgeraktion rekonstruierte Ratslaube von 1560 eingeweiht werden.

Die alten, historischen Keller sind jedoch erhalten geblieben und können an einigen Tagen im Jahr unter fachkundiger Führung besichtigt werden.