As súas orixes están ligados a unha carballeira milenaria onde os druídas facían rituais. Moi preto do carballo de Santa Margarita, en Pontevedra, había unha fonte á que acodían con frecuencia os enfermos de toda a provincia para curar os males da pel e a cegueira.

A finais do século XVI, o rei Felipe II entrou en guerra con Inglaterra e ordenou construír un dos maiores exércitos mariños da historia e para conseguilo talou milleiros de de exemplares dos bosques, entre eles os do sur de Pontevedra. Pero o carballo de Santa Margarita conseguiu escapar desta desfeita.

A mediados do século XVIII, o infante Enrique de Borbón e dirixentes progresistas galegos se reuníronse baixo a súa copa coa intención de derrocar á raíña Isabel II.

E na Guerra Civil, foi testemuña dos paseos aos seus pés. Sobreviviu a dous incendios intencionados no oco do seu tronco y sorportou centos de temporais e mesmo furacán.