Già esistente nel V secolo, la chiesa dei santi Pietro e Orso venne ricostruita all'epoca del vescovo Anselmo (994-1025), assumendo le dimensioni attuali, con tre navate e il campanile inglobato in quella centrale, a sinistra dell'ingresso. A questo periodo appartengono anche gli importanti affreschi di cui restano testimonianze nel sottotetto. Nel XII secolo, quando fu adottata la regola agostiniana dalla comunità di religiosi che qui risiedeva, furono costruiti la torre campanaria e il chiostro. Dopo un periodo di decadenza, la Collegiata conobbe una nuova fioritura nella seconda metà del Quattrocento, al tempo del priore commendatario Giorgio di Challant, grazie alla cui committenza fu attribuito alla chiesa l'aspetto tardogotico che ancor oggi la caratterizza, sostanzialmente inalterato nonostante gli interventi successivi.
Pur apparentemente omogenea, la facciata mostra i segni dei diversi interventi subiti dalla chiesa nel corso della sua storia. Sulla sinistra si notano le tracce dell'originario campanile (X-XI s.). La caratteristica ghimberga centrale, che si sviluppa a partire dal portale, risale al tempo di Giorgio di Challant, cosí come le due edicolette dipinte, i pinnacoli sul tetto e le altre parti in cotto. Le finestre laterali furono aperte successivamente per esigenze di luminosità. Il campanile sulla piazzetta risale alla metà del XII secolo ed è il più imponente di tutta la Valle. Nel medioevo l'intero complesso monastico era circondato da mura merlate e la torre campanaria, ulteriormente fortificata, serviva come estrema difesa per la comunità.
È divisa dalle navate laterali da pilastri in muratura decorati a finto marmo e presenta una copertura a volte fatta costruire, in sostituzione del precedente soffitto ligneo, dal priore Giorgio di Challant, come testimonia lo stemma della famiglia dipinto nelle chiavi di volta. Nei costoloni, alternate a riquadri con fogliami, sono figure di santi nella prima campata dall'ingresso, e apostoli e profeti nelle quattro successive. La parte più ricca della chiesa è il coro, separato dal resto della navata da uno jubé marmoreo, eretto nel 1768 in sostituzione di uno più antico in muratura. Alla stessa epoca appartiene anche il pulpito. L'altare maggiore, in preziosi marmi policromi, è del 1758; vi campeggia l'immagine di S. Orso, donata dalla madre del B. Piergiorgio Frassati nel 1929 in memoria del figlio. Di notevole pregio sono gli stalli lignei, della fine del XV secolo, distribuiti in due ordini di sedili, il più alto dei quali presenta scolpiti apostoli alternati a profeti. I pannelli che delimitano i diversi seggi e i piccoli sostegni ricavati sotto i sedili, detti "misericordie", sono vivacizzati da figurine di mostri, animali, guerrieri e monaci. L'opera è attribuita al maestro Jeanin Braye, attivo per conto del priore Giorgio anche nel castello di Issogne. Nel 1997 è stato rinvenuto sotto il pavimento del coro un mosaico istoriato, circondato da un'iscrizione dedicatoria, riferibile ai primi secoli del secondo millennio. Vicino all'ingresso, accanto alle tracce dell'antico campanile, si notano resti di affreschi. Proseguendo, si incontra il Battistero, del 1839: la vasca in marmo, coperta da un gruppo scultoreo, è inserita in un mobile ligneo intagliato con immagini dell'Antico e del Nuovo Testamento. Segue l'altare della S. Sindone, su cui campeggiano, entro un'ornamentazione in legno intagliato e dorato opera di maestranze valsesiane, immagini del Sacro Sudario, della Visitazione e di san Pantaleone, circondate da tondi con i Misteri del Rosario. Appena oltre, si apre la secentesca cappella del Carmine, sede della parrocchia di San Lorenzo dopo l'abbandono della vecchia chiesa. Nella volta è affrescata l'Assunzione. Nella tela sull'altare sono dipinti san Lorenzo e la Vergine mentre porge lo scapolare a Simone Stock. Una porta conduce nel sottotetto della navata centrale, ove sono conservati gli importanti frammenti degli affreschi che decoravano la chiesa anselmiana, sopravvissuti alla costruzione delle volte quattrocentesche. Dell'originale programma rimangono il registro superiore e il cornicione a greca. Le tracce superstiti permettono di identificare alcune scene: san Giovanni a Efeso, il martirio di san Giacomo Maggiore e di altri cristiani, due immagini della tempesta sul lago di Genezaret, le nozze di Cana, alcuni angeli. Tornati in chiesa, si trovano l'altare del grande Crocifisso, con la raffigurazione del Sacro Cuore di Gesù e di Maria (XVII-XIX sec.); l'altare di Sant'Anna, con un affresco tardogotico rifatto dal pittore Morgari; una grande tela raffigurante S. Lorenzo, del XVII secolo; infine la cappella di S. Anselmo, dal ricco altare barocco, ricavata in un ambiente tardogotico a pianta quadrata, con volta a crociera a sesto acuto. I quattordici riquadri della Via Crucis, del pittore Morgari, risalgono all'inizio del Novecento. La cripta, ricavata nell'XI secolo, ha cinque navate terminanti con tre absidi. Le dodici colonne, di varia forma, sono per lo più di recupero. La recente statua sopra l'altare raffigura S. Orso; attraverso il cunicolo sottostante passavano un tempo i fedeli, convinti di poter trarne beneficio per il mal di schiena. La scultura lignea della Pietà, di arte popolare, è settecentesca. Nella navata destra si trovano la cappella di S. Giuseppe con ricco altare barocco, e l'altare di S. Sebastiano, con affresco della fine del secolo XV Sopra l'ingresso della sacrestia, un busto ricorda Jean-Antoine Gal, storico, priore della Collegiata e fondatore nel 1855 dell'Accademia di S. Anselmo.
A fianco della chiesa vi è il chiostro romanico, gioiello artistico tra i più preziosi della città. Costruito nella prima metà del XII secolo, in occasione dell'introduzione della vita regolare presso la Collegiata, fu risistemato nel Quattrocento. I capitelli sono decorati con motivi vari. Nel lato nord, che costeggia la navata della chiesa, si osservano scene sacre e profane: la Natività, l'adorazione dei Magi, la fuga in Egitto, la favola della volpe e della cicogna. Nel lato est i capitelli sono alternativamente singoli e binati e presentano storie di Rebecca, Esaù e Giacobbe. Seguono, a sud, capitelli a motivi ornamentali e altri con figure di profeti. Particolarmente interessante il capitello ispirato a episodi della vita di S. Orso, rappresentato mentre distribuisce elemosine ai poveri, fa scaturire una sorgente dalla roccia e difende inutilmente un servo dalle angherie del crudele vescovo Ploceano, suo padrone. Importanti dal punto di vista documentario sono gli ultimi due capitelli, relativi all'adozione della regola di S. Agostino nella comunità. Nel primo si osservano i santi Pietro, Orso e Agostino, il priore Arnolfo e il vescovo Erberto; nel secondo la data e la notizia dell'evento. L'edificio che occupa l'ultimo lato del chiostro fu costruito nel '700. Sul lato meridionale della piazzetta, si distingue per la particolarità del materiale di costruzione, il laterizio in luogo della pietra locale. Fu voluto nella seconda metà del XV secolo dal priore Giorgio di Challant quale sua residenza. Alleggerita da un porticato al pianterreno e da due ordini di finestre a crociera dalle cornici elaborate, la costruzione è sormontata da una torretta scalare ottagonale che si eleva oltre il livello dei corpi laterali, fungendo anche da campanile. 'Ita gli ambienti più ricchi, la sala capitolare e la deliziosa cappella, interamente decorata nel Quattrocento con rappresentazioni della Madonna con Bambino e devoto inginocchiato (forse lo stesso priore Giorgio) e di san Giorgio alle prese col drago.