La Casa Grande tiene su origen en un conjunto de explotaciones familiares que ya en el siglo XVI se asentaban dentro de una gran propiedad arzobispal denominada Foro do Monte de Xanceda. Eran sobre todo campos dedicados al cereal pero había también pastos, prados y montes y bosques que eran trabajados por varias familias asentadas en la aldea de Xanceda Vella: los Rico, los Farto, los Baixo o los Sánchez.
Gracias a la cría y comercio de ganado alguna de estas familias campesinas de Xanceda fueron ascendiendo en la escala social; esa mejoría se materializa en el matrimonio de uno de sus descendientes, el notario Francisco Ignacio Pérez Espantoso, con Francisca Ventura de Lago Aguiar y Baamonde. Así, a principios del siglo XVIII, los antiguos labradores acomodados emparentaron con la hidalguía.
Esta pareja construyó la actual Casa Grande de Xanceda y dio unidad tanto al edificio como a su entorno ya que en 1753 fundaron sobre este lugar un vínculo; querían mantener la casa y el lugar unidos en una sola persona que heredaría sin división el conjunto de bienes. Sus sucesores mantuvieron esa integridad y mejoraron el patrimonio familiar hasta que la viuda de Fernando Vázquez, tataranieto de los fundadores, decidió vender la Casa a José Maroño; los herederos de José, propietarios pero ya sin vinculación alguna con la casa fueron los que en 1968 la venden a María Victoria y su marido Felipe Fernández García-Armesto.
Cuando se funda el vínculo de la Casa Grande hay en el lugar dos granjas que se integran en la aldea de Xanceda Vella. Son sencillas viviendas campesinas y la Casa Grande se construyó sobre una de ellas mientras que la otra -aún hoy perceptible por sus muros rústicos- quedó para servicio de los caseros.
El matrimonio Pérez Espantoso derribó y reformó radicalmente la vivienda campesina para construir allí la casa y torre que simbolizaría su ascenso social, mientras que el escudo de armas de su fachada habla de hidalguía antigua: las cinco cabezas de lobo de los Espantoso, el águila de los Aguiar y Baamonde y la M de los Montenegro. Es una vivienda hidalga, con sus dos niveles, caballerizas y corrales, eira que estaba ya terminada en 1753 y a la que pocos años después se le añadió el hórreo y una capilla, hoy desaparecida. Allí tuvo el notario Pérez Espantoso su oficina profesional e incluso sirvió un tiempo como sede municipal.
La Casa Grande fue restaurada en los años 90 por María Victoria como ella misma reconocía en una entrevista:
Trato de refacer esa casa vella de pedra do s. XVII… Para min agora mesmo esa reconstrucción é máis importante ca todo o resto. Dalgún xeito contribúo a que no se perda o patrimonio cultural de Galicia. Xa me viches ó chegar aquí ó pe da obra. vixiando como están colocando as tellas.