La torre del homenaje y la muralla fueron derruidas durante la Revuelta Irmandiña, que enfrentó al pueblo con la nobleza; los responsables, una vez sofocada la rebelión fueron forzados a reconstruir lo derruido. La fecha exacta es difícil de precisar porque los documentos que lo podían acreditar ardieron durante el siglo XIX en un espectacular incendio, que acabó también con valiosos tapices y con gran parte del palacio que flanquea al monasterio, sudadera psg jordan del que sólo se conserva una parte.