I resti della Rocca di Arona si trovano su un ammasso roccioso alto più di 100 metri, che si staglia a nord della città. L'imponente rilievo è costituito da sedimenti carbonatici, depositatisi in un tranquillo fondale marino del Triassico (200 milioni di anni fa) e diventati successivamente rocce calcaree e dolomitiche. Questo banco calcareo è poi emerso circa 100 mila anni fa ed è gemello per origine e posizione alla contrapposta Rocca di Angera.
Ritrovamenti archeologici (un mezzo anellone di pietra) segnalano la presenza umana già nel Neolitico (V millennio a.C.). Sono stati rinvenuti in loco anche numerosi frammenti di vasi di ceramica risalenti alla Tarda Età del Bronzo e al periodo romano. Tali testimonianze sono preservate nel Museo Archeologico di Arona. Secondo alcuni storici la fondazione della fortezza potrebbe risalire al periodo longobardo o ancora prima, all'ultimo periodo dell'impero romano quando le invasioni barbariche spinsero le popolazioni a munirsi di difese appropriate.

Il Lago Maggiore, formando una spaccatura nella cerchia alpina, offre un naturale punto di congiunzione tra l'Europa centrale e la Pianura Padana. La Rocca, per la sua posizione dominante su uno sperone roccioso all'inizio del Verbano, è sempre stata per i suoi occupanti un importante punto di controllo e difesa dei traffici militari e commerciali che transitavano sul bacino lacustre.
La Rocca nel XI secolo è già una vera fortezza, "arx", con scopi propriamente militari che diviene per i vescovi milanesi rifugio sicuro e prezioso.
Le prime notizie della Rocca sono contenute in un documento medievale del 999, che regolava uno scambio di terre tra l'abate del monastero in Arona, dedicato al Salvatore (dove si specifica che sono sepolti i corpi dei martiri Graziano e Felino) e l'arcivescovo di Milano. Tra i testimoni compare un certo Gisemondo, abitante sulla rocca situata poco lontano dal "castrum" di Arona (area fortificata ubicata nel sito dell'odierno Municipio).

Alla fine del XII secolo la fortezza, entrata nella sfera di influenza dell'autorità civile milanese, viene ulteriormente rinforzata per contrastare eventuali attacchi delle città alleate a Federico Barbarossa.
Passa successivamente nelle mani dei signori di Milano, prima i Torriani, poi i Visconti.
Durante il conflitto di potere fra le due famiglie per il controllo sullo Stato di Milano, Ottone Visconti occupa la Rocca che viene poi distrutta da un esercito inviato dai Torriani. Dopo la Battaglia di Desio (1277), che segna la vittoria dei Visconti, la fortezza viene ricostruita.
Nel 1439 il duca di Milano Filippo Maria Visconti concede in feudo a Vitaliano Borromeo il luogo e il castello di Arona, con la fortezza detta anche "Rocca". Sei anni più tardi Vitaliano fu insignito del titolo di Conte di Arona. Il Borromeo inizia quindi a consolidare le strutture difensive cittadine partendo proprio dalla fortezza sulla Rocca, che viene dotata di una terza cinta muraria e di un strada segreta che la collega al nuovo porto militare fatto costruire in quegli anni. Gran parte dei ruderi oggi visibili sulla Rocca risalgono a questa fase storica.

All'inizio del XVI secolo Arona viene coinvolta nella guerra tra i Francesi e gli Spagnoli per la supremazia sull'Italia. Negli anni della dominazione spagnola, la Rocca, pur rimanendo feudo dei Borromeo, subisce in maniera non continuativa la presenza di presidi militari spagnoli, inviati dal governatore per contrastare i numerosi attacchi dei nemici. La fortezza è anche colpita da ben sette esplosioni provocate da fulmini che si abbattono sulla polveriera.

Il 2 ottobre 1538, nella camera detta "dei tre laghi" (la sua forma trapezoidale con tre finestre permetteva di godere di altrettante viste sul lago), nasce San Carlo Borromeo, quartogenito di Gilberto II Borromeo e della marchesa Margherita Medici. Il luogo della nascita era stato scelto dal padre, che preferiva la Rocca al Palazzo Borromeo ubicato nel borgo sottostante.
Numerosi pellegrini già dai primi anni del XVII secolo salivano in visita alla camera del Santo e, dal momento che la stanza era stata adibita ad infermeria, venivano dirottati in un altro luogo limitrofo. Nel 1677 la camera viene poi convertita in oratorio e sull'altare viene collocato un grande quadro rappresentante San Carlo. I resti della "camera dei tre laghi", inseriti tra quelli del Salone delle Armi e della Porta del Soccorso, sono ancora presenti e visibili nel parco della Rocca. Gli arredi sono invece stati trasferiti in una cappella dietro l'altare della chiesa dedicata a San Carlo, sul colle omonimo, per riproporre a fini devozionali la stanza natale del Santo.
Nel 1573, durante il suo indefesso cammino episcopale, San Carlo, spesso in contrasto con il governo spagnolo, arriva a scomunicarne il governatore. Quest'ultimo non si limita a far circondare il palazzo vescovile milanese, ma ordina pure l'occupazione della Rocca che verrà restituita ai Borromeo solo sei anni più tardi. Sotto i Savoia, nel 1797 (anno dell'abolizione dei feudi), i Borromeo perdono i diritti feudali sulla Rocca.
Alla prima discesa di Napoleone in Italia, tra il 1796 e il 1798, Arona risponde accogliendo pacificamente i francesi (dicembre 1798). Gli Austriaci però rioccupano la Rocca pochi mesi dopo.
Quando, il 1° giugno 1800, le truppe napoleoniche pongono nuovamente la fortezza di Arona sotto assedio, gli Austriaci resistono una ventina di giorni per poi arrendersi.
Poche settimane dopo Bonaparte ordina la distruzione totale della Rocca perché poteva costituire, in mano al nemico, un duro ostacolo per il transito delle sue truppe da e per la Francia (nel 1805 Napoleone farà costruire la sottostante Strada del Sempione per collegare, attraverso l'omonimo passo, Milano a Parigi). L'opera di demolizione della fortezza, mediante cariche esplosive a spese della città e dell'intera provincia dell'Alto Novarese, durerà quasi un anno.
Nel 1807 i Borromeo rientrano in possesso della Rocca (ma non dei diritti feudali), con la condizione di "...non poter cambiare faccia del luogo...". Perso il suo ruolo, la fortezza viene prima mantenuta priva di vegetazione per non diventare nascondiglio di eventuali nemici, poi viene utilizzata a scopo agricolo nelle zone piane e nei terrazzi.
Con mezzadria e affitto l'attività si basava sull'allevamento di maiali e bovini e sulla coltivazione della vite.
Dopo anni di abbandono delle aree coltivabili, unitamente all'invasione della vegetazione spontanea, la Famiglia Borromeo ha concesso l'utilizzo della Rocca al Comune di Arona a condizione che fosse adibita a parco pubblico, aperto nel 1970. La Rocca è poi rimasta chiusa negli ultimi dieci anni finché nel settembre 2011, grazie ad un nuovo accordo con la Famiglia Borromeo, il suo parco, risistemato e messo in sicurezza, è stato riaperto al pubblico (solo nei weekend fino alla fine di ottobre e poi nuovamente in primavera).

La Rocca si presentava come un complesso architettonico allungato sul crinale dello sperone roccioso su cui sorgeva. Si trattava di una roccaforte circondata da tre recinti turriti che andavano avvolgendosi verso il borgo. Le torri erano situate in punti strategici e a determinate distanze.
L'impianto geometrico era piuttosto complesso e irregolarmente legato alla conformazione del terreno. La diversa altimetria era superata da numerose scale e scalette.
Partendo dal basso, il primo recinto saliva ripido dal borgo ed era formato da quattro torri. Era collegato alle fortificazioni della cittadina tramite il Mezzo-Baluardo di San Carlo, di cui sono ancora visibili i resti, lungo la strada che sale alla Rocca. Il collegamento avveniva attraverso la Torre-Porta Principale. Tutti i passaggi tra un recinto e l'altro erano su percorsi obbligati e sorvegliatissimi.
Delle quattro torri restano Torre Bassa, recante i resti di un bassorilievo che rappresenta il freno dei cavalli (uno dei simboli dei Borromeo), e Torre degli Innocenti.
Delle sette torri che costituivano il secondo recinto a noi restano: Torre Sardinesca (ben visibile sul sentiero), che segnava l'inizio della seconda cerchia, Torre del Tamburo, vicino al Crocifisso, e Torre Mozza (riconoscibile per il tetto).
A nord ovest si apriva la Porta del Soccorso (di cui sono visibili i resti), vicino alla quale partiva la strada segreta, ancora oggi esistente ma impraticabile, che, colmando 60 metri di dislivello, raggiungeva il porto militare sottostante.
In questo recinto vi era una grande spianata tenuta a prato per le esercitazioni militari, che ora costituisce il parco panoramico. Vi era racchiuso il Corpo di Guardia (di cui sono sopravvissuti i locali occupati dai custodi) ed era delimitato dagli alti muri del Salone delle Armi e degli appartamenti Borromei, che formavano un tratto dell'ultima cinta muraria.
Nel terzo recinto, detto mastio, si trovavano gli edifici di maggior rilievo: nella parte più elevata, la Rocchetta su cui svettava la medievale Torre di Santa Maria, a pianta quadrata e alta 14 metri. Di questa Rocchetta restano pochi indecifrabili ruderi. Si può invece ancora vedere il perimetro semicircolare della grande Torre Moccia (o Torre Nuova).
Gli edifici si concentravano sui tre lati della Piazza d'Armi e intorno a due piccoli cortili divisi dalla Torre Santa Maria. Erano realizzati in pietra di Arona con poche concessioni decorative e arrivavano anche a tre piani.
La stanza natale di San Carlo era ubicata al terzo piano. Sono ancora ben visibili i resti murari del Salone delle Armi, della "camera dei tre laghi" e della Porta del Soccorso.
Si possono osservare tutt'oggi anche due muri perimetrali della Chiesetta di Sant'Ambrogio: piccolo oratorio senza campanile ad aula rettangolare orientata, sul cui fronte era raffigurato il patrono milanese e dove si è continuato ad officiare, seppur solo di domenica, probabilmente fino alla demolizione della Rocca. I resti murari, con alcuni corsi di pietre e laterizi disposti a spina di pesce e il resto dell'apparato piuttosto rudimentale, collocano l'edificio tra il X e il XI secolo. La cappella era ubicata vicino alla Torre delle Ore, un tempo dotata di ponte levatoio e orologio.