Il luogo è citato per la prima volta in una pergamena dell’885, anno in cui Reginaldo da Pombia, arcidiacono della chiesa di Novara, dona un oliveto di sua proprietà, sito in loco et fundo muregocio vicino alla terra sancti Iohannis. All’interno della chiesa le ricerche hanno poi portato all’individuazione di strutture preesistenti all’edificio romanico e più precisamente di un battistero paleocristiano ad aula rettangolare con abside decorata e dotato di fonte ottagonale all’esterno e circolare all’interno. Vasca battesimale che subì modifiche nel corso dei secoli in relazione all’evoluzione del rito stesso, ossia al momento in cui si passò dall’immersione totale a quella parziale degli adulti e poi totale o parziale dei bambini. Su tali basi gli studiosi propongono una datazione del complesso battesimale più antica (V-VI secolo), confermata anche dai resti di decorazione rinvenuti nell’abside del battistero. Si può supporre che la chiesa più antica e il battistero fossero la primitiva pieve di Mergozzo, posta sotto la protezione del castello ora scomparso. La chiesa attuale può ritenersi edificata alla fine dell’XI secolo. L’edificio ha una pianta a T, con un abside terminale; si stacca quindi dallo schema ad aula come da quello basilicale per adottare un’iconografia insolita. La muratura è per lo più in pietra chiara non squadrata, disposta su corsi orizzontali: fa eccezione nell’abside dove è più irregolare. La fronte si presenta assai semplice, solcata da un portale ad arco con lunetta priva di decorazione, sopra al quale si apre una lunetta a strombo modanato. Lungo gli spioventi del tetto corre una cornice di archetti realizzati in pietra e cotto alternati, su mensole lisce. Il motivo degli archetti prosegue lungo tutto il perimetro della chiesa, se pure con alcune varianti: nella navata le mensole sono a volte decorate con testine umane e animali o rosette; nell’abside alla serie di archetti si sostituisce una galleria appena abbozzata, che ricorda il motivo dei fornici presente in alcune costruzioni lombarde dell’XI secolo.
Il tiburio ottagonale che si innalza all’incrocio fra la navata e il transetto, ed il fianco meridionale della chiesa presentano invece una serie di archetti intrecciati. Un’altra caratteristica interessante è l’assenza di lesene angolari, sostituite da mensole decorate. Particolarmente curate sono le finestre ad arco dalla strombatura profonda e modanata; più alte e strette quelle del fianco meridionale, più proporzionate quelle dell’abside e del lato orientale del transetto. L’interno presenta volte a crociera con costoloni ben in vista; all’incrocio fra nave e transetto si innalza il tiburio a volta ottagonale a spicchi su pennacchi. La navata è divisa in due campane da lesene con addossate delle semicolonne; sugli spigoli delle lesene si impostano i costoloni, mentre le semicolonne reggono gli archi trasversali. Di notevole presenza, perché anomala nell’architettura romanica dell’Italia settentrionale, è l’abbondante presenza di mensole a reggere parti delle volte; ovunque infatti la volta si imposta su uno degli angoli esterni dell’edificio, non poggia su un elemento verticale – pilastro o colonna – che scende fino a terra, ma appunto su mensole incastrate nel muro, che offrono anche una pregevole decorazione scolpita.