L’attuale cattedrale viene edificata tra l’XI ed il XIII secolo sui resti di una precedente chiesa paleocristiana, che a sua volta fu eretta su ciò che rimaneva di un antico tempio d’epoca romana dedicato ad Ercole Acheruntino. I lavori di costruzione iniziano grazie alla generosità di Roberto il Guiscardo nel 1059 con il vescovo Godano, il primo ad avere il titolo di arcivescovo, ma proseguono e terminano con il suo successore, Arnaldo, che, grazie a maestranze francesi, messe a disposizione dai Normanni stessi, ultima l’opera.
Nel 1281 la chiesa viene parzialmente ricostruita in forme romanico – gotiche, con un peribolo a tre absidi divergenti come in altre chiese del Mezzogiorno e dell’Italia centrale e una facciata con tre portali. Nel 1456 la cattedrale romanica subisce gravi danni a causa di un terremoto; inoltre, a causa di una lunga serie di arcivescovi non residenziali, l’edificio cade in stato di abbandono.
Solo nel 1524, per volere dei conti Ferrillo di Acerenza, inizia il restauro completo della chiesa. Alla facciata, ricoperta con un muro a piccole bozze, vengono aggiunti due campanili a pianta quadrata, uno in corrispondenza del portale di destra, l’altro in corrispondenza del portale di sinistra che, però, va perduto. Nello stesso anno si riconsacra la cripta. Nel 1555 il maestro Pietro di Muro Lucano rimaneggia in stile rinascimentale il campanile destro. Dopo il terremoto del 1921 viene sostituita la cupola del campanile con una terrazza mentre nel 1934 viene ricostruita la cupola della cattedrale perché il terremoto del 1930 ha lesionato gravemente la cupola cilindrica originaria.
Il prospetto della cattedrale presenta una parte centrale e due spioventi; quello di destra viene rotto dalla torre campanaria, che rende asimmetrica la sua impostazione. Il campanile è su quattro livelli: nel secondo una finestra con decorazioni rinascimentali; si intravede inoltre una finestra ed uno spazio incassato per un’epigrafe dedicata all’imperatore Flavio Claudio Giuliano, tra il materiale utilizzato per la costruzione della torre campanaria vi sono anche frammenti di sarcofagi romani con volti di defunti e resti di un’ara funeraria. La torre presenta cinque campane di cui quella più grande (1854) opera di Girolamo Olita.
Tra il portale ed il rosone rifatto nel 1928 nel luogo dove era posto quello del 1601 fatto erigere da Lelio Potenza, è collocato lo stemma della famiglia Ferrillo, che restaurò la chiesa nel Cinquecento, e un bassorilievo raffigurante l’animale mitico detto Basilisco, che era parte dell’antico stemma cittadino. Sul vertice della facciata una croce marmorea di recente fattura che ha sostituito il busto marmoreo dell’imperatore Flavio Claudio Giuliano, ritenuto di san Canio di Atella, patrono della diocesi, oggi conservato nel museo del duomo.
Sotto il presbiterio è la cripta, o cappella Ferrillo, consacrata nel 1524, importante testimonianza del Rinascimento, rifatta sul modello della più famosa Cappella del Succorpo di San Gennaro nel Duomo di Napoli, di Tommaso Malvito di Como. La cripta consta di uno spazio quadrato in cui quattro colonne centrali con alti pulvini decorati sorreggono la volta a crociera ribassata a nove campate.
Di fronte all’ingresso è situato un piccolo altare sormontato da una nicchia che contiene il sepolcro della famiglia Ferrillo attribuito a Francesco da Milano, con i ritratti di Giacomo Alfonso Ferrillo e Maria Balsa. Le pareti sono ricoperte in basso di affreschi, recentemente restaurati, di Giovanni Todisco da Abriola, che rappresentano S. Andrea, S. Girolamo, l’Adorazione dei Magi e infine la Donna dell’Apocalisse e in alto presentano lesene scanalate. Nella volta ancora affreschi di Giovanni Todisco con gli Apostoli, i quattro Evangelisti e nei tondi San Francesco, Sant’Antonio, San Bonaventura e San Domenico basso e in alto. A sinistra dell’ingresso è collocata un’acquasantiera che contiene un rilievo con quattro pesci.