Klooster gesticht door de Grauwzusters Fransiscanenessen van Nieuwpoort, daterend van 1497. Deze zusters kwamen in 1492 in Lo aan om pestlijders en arme zieken te verzorgen.
Toen de zusters in 1497 het torentje bij hun kapel bouwden, was dat naar de mening van de proost van de abdij, die het patronaatschap bezat, te hoog. De proost ging in proces tegen de zusters. De rechters, ware Salomons, beslisten dat enerzijds het torentje mocht blijven, maar anderzijds, als erkenning van het gezag van de proost, de zusters hem elk jaar daags voor Pasen een koppel kuikens moesten geven.
Het torentje werd verbouwd in 1560 en verwoest in 1579. Het werd vervangen door een kleiner torentje op de kapel zelf.
In de gebouwen van het klooster zijn vanaf 2012 het stadhuis en de stadsdiensten gevestigd.