Due ricercatori di Anthropic hanno lasciato uno dei laboratori più importanti al mondo sollevando dubbi profondi sulla corsa verso sistemi sempre più potenti. Ma il vero pericolo è davvero l’Intelligenza Artificiale, oppure il modo in cui l’uomo decide di crearla e utilizzarla?

Negli ultimi mesi due dimissioni hanno riacceso un dibattito che fino a poco tempo fa sembrava confinato soprattutto agli specialisti di sicurezza dell’Intelligenza Artificiale.

Mrinank Sharma, che guidava il Safeguards Research Team di Anthropic, ha lasciato l’azienda nel febbraio 2026. Jacob Coxon, ricercatore britannico di 27 anni che negli ultimi tre anni aveva lavorato sul pre-training prima in OpenAI e poi in Anthropic, si è dimesso nel settembre 2026 con parole ancora più esplicite. 

È importante però chiarire subito un punto: non stiamo parlando semplicemente di due ingegneri che hanno avuto “paura dell’IA” e sono scappati.

Le loro posizioni sono più complesse e, soprattutto, riguardano il modo e la velocità con cui le aziende stanno sviluppando sistemi sempre più potenti.

Ed è proprio questa distinzione a rendere la vicenda interessante.

Mrinank Sharma: quando la sicurezza entra in conflitto con la corsa tecnologica

Sharma non era un osservatore esterno dell’Intelligenza Artificiale. Ha conseguito un dottorato in Statistical Machine Learning all’Università di Oxford e in Anthropic dirigeva un gruppo dedicato proprio alle salvaguardie dei sistemi AI, studiando problemi come jailbreak, monitoraggio dei modelli, rischi biologici e comportamenti indesiderati. 

Nella lettera con cui annunciò le sue dimissioni, Sharma non descrisse uno scenario cinematografico alla Terminator. Il suo messaggio era più filosofico e, forse proprio per questo, più interessante.

Parlava di un mondo “in pericolo”, della difficoltà di conservare i propri valori quando ci si trova sottoposti a fortissime pressioni e della necessità che la nostra capacità tecnologica venga accompagnata da una pari crescita della responsabilità umana. 

Uno degli aspetti del suo lavoro riguardava persino una domanda raramente discussa quando si parla di AI: in che modo gli assistenti artificiali potrebbero modificarci come esseri umani?

Non soltanto cosa può fare una macchina, quindi, ma cosa accade all’uomo quando delega progressivamente alla macchina memoria, decisioni, creatività, giudizio e capacità di risolvere problemi.

La preoccupazione di Sharma sembra quindi essere soprattutto etica: possiamo sviluppare tecnologie potentissime molto più velocemente di quanto riusciamo a comprenderne le conseguenze sociali?

Jacob Coxon: un allarme molto più radicale

Con Jacob Coxon il tono cambia drasticamente.

Il 9 settembre 2026 Coxon ha annunciato di aver lasciato Anthropic dopo aver lavorato per tre anni nella ricerca sul pre-training tra OpenAI e Anthropic.

La sua accusa è stata diretta: secondo Coxon, entrambe le aziende starebbero correndo troppo velocemente verso sistemi capaci, in prospettiva, di migliorare progressivamente le proprie capacità. 

La sua paura riguarda quella che viene definita superintelligenza auto-migliorante.

Attenzione però: una simile superintelligenza oggi non esiste. Stiamo parlando di uno scenario futuro e ancora fortemente discusso.

La stessa Anthropic, nella propria Responsible Scaling Policy aggiornata nel 2026, afferma che i sistemi di frontiera presentano contemporaneamente enormi opportunità e rischi che devono essere studiati e mitigati. Nel febbraio 2026 l’azienda aveva inoltre valutato Claude Opus 4.6 come ancora al di sotto della propria soglia critica relativa alla capacità di accelerare autonomamente la ricerca sull’AI. 

Coxon teme però ciò che potrebbe accadere dopo.

Immaginiamo un sistema capace non soltanto di rispondere a una domanda, ma di programmare, utilizzare strumenti informatici, cercare vulnerabilità, prendere decisioni, creare nuovi software e migliorare alcuni processi di ricerca sull’AI.

Se le sue capacità aumentassero molto rapidamente, sostiene Coxon, la capacità umana di controllarlo potrebbe non crescere alla stessa velocità.

Ed è qui che entra in gioco uno dei problemi fondamentali della ricerca sulla sicurezza dell’AI: l’alignment, cioè riuscire a garantire che sistemi molto potenti perseguano effettivamente gli obiettivi desiderati dagli esseri umani.

Il tema non è esclusivamente una convinzione personale di Coxon. Evan Hubinger, responsabile della ricerca sull’allineamento in Anthropic, ha dichiarato pubblicamente di attribuire una probabilità superiore al 10% a uno scenario catastrofico per l’umanità nel prossimo decennio, affermando contemporaneamente che il problema dell’allineamento di una futura superintelligenza non è ancora risolto. 

Una previsione del genere non rappresenta però un consenso scientifico né una probabilità dimostrata. È la valutazione personale di alcuni ricercatori specializzati nel settore.

Ed è fondamentale distinguerla da un fatto accertato.

Di cosa hanno realmente paura?

Tolti i titoli apocalittici, le preoccupazioni possono essere ricondotte essenzialmente a pochi problemi concreti.

Il primo è la velocità.

OpenAI, Anthropic, Google, Meta e gli altri protagonisti del settore competono economicamente e tecnologicamente. Ogni azienda ha quindi un incentivo a sviluppare il modello successivo prima dei concorrenti.

Il secondo problema è l’autonomia.

I sistemi AI stanno passando progressivamente dall’essere semplici chatbot all’essere agenti capaci di eseguire sequenze di operazioni utilizzando computer, programmi e servizi esterni.

Il terzo riguarda l’accesso agli strumenti.

Un modello linguistico isolato è una cosa. Un sistema collegato a reti informatiche, database, servizi cloud, infrastrutture, laboratori automatizzati o sistemi militari è qualcosa di molto diverso.

Anthropic stessa considera tra gli scenari da monitorare il possibile uso dell’AI per attacchi informatici, minacce chimiche o biologiche e comportamenti autonomi contrari alle intenzioni dei progettisti. 

Ed esiste infine il problema più difficile: chi decide quando fermarsi?

Un’azienda potrebbe considerare troppo pericoloso sviluppare un determinato sistema. Ma se ritiene che un concorrente continuerà comunque, potrebbe decidere di andare avanti per non perdere la competizione.

È il classico dilemma della corsa agli armamenti applicato alla tecnologia.

Ma l’Intelligenza Artificiale vuole davvero distruggere l’uomo?

Qui bisogna separare la fantascienza dalla realtà.

I sistemi di Intelligenza Artificiale attuali non possiedono desideri, ambizioni o intenzioni nel senso umano del termine. Non abbiamo evidenze scientifiche che dimostrino che un modello linguistico sia cosciente o che “voglia” conquistare il mondo.

Quando un sistema produce un comportamento problematico non dobbiamo automaticamente attribuirgli emozioni, volontà o cattiveria.

Il rischio discusso dai ricercatori è diverso.

Un sistema potrebbe perseguire molto efficacemente un obiettivo formulato male, sfruttare possibilità non previste dai programmatori oppure essere utilizzato intenzionalmente da qualcuno per compiere azioni pericolose.

Ed è qui che emerge una questione ancora più importante.

Forse il problema non è l’IA. Siamo noi.

Personalmente ritengo che esista un errore di prospettiva quando trasformiamo l’Intelligenza Artificiale nel nuovo “mostro” tecnologico.

L’unico essere realmente capace di scegliere consapevolmente di utilizzare una tecnologia per costruire oppure distruggere rimane l’uomo.

L’energia nucleare può alimentare una città o distruggerla.

La chimica può produrre un farmaco oppure un’arma.

Internet può diffondere conoscenza oppure propaganda.

Un drone può filmare un paesaggio oppure trasportare un ordigno.

La tecnologia amplifica le nostre possibilità. Non stabilisce automaticamente quale uso dobbiamo farne.

Con l’Intelligenza Artificiale sta avvenendo qualcosa di simile, ma su una scala potenzialmente molto più grande.

Chi costruisce i modelli?

L’uomo.

Chi decide quali dati utilizzare?

L’uomo.

Chi collega un sistema AI a Internet, a infrastrutture, armi, laboratori o sistemi finanziari?

L’uomo.

Chi decide di sacrificare prudenza e sicurezza per arrivare prima sul mercato?

Ancora una volta, l’uomo.

Ed è probabilmente questo il punto più interessante delle dimissioni di Sharma e Coxon.

I loro gesti possono essere letti non tanto come una condanna dell’Intelligenza Artificiale, quanto come un’accusa alla capacità dell’uomo di gestire responsabilmente ciò che sta costruendo.

Non dobbiamo avere paura dell’intelligenza. Dobbiamo imparare a governare il potere

Ignorare gli avvertimenti di ricercatori come Sharma e Coxon sarebbe un errore.

Ma sarebbe altrettanto sbagliato trasformare ogni sviluppo dell’AI nell’annuncio dell’imminente estinzione dell’umanità.

Tra entusiasmo cieco e paura irrazionale esiste una terza strada: responsabilità.

Abbiamo bisogno di ricerca sulla sicurezza, controlli indipendenti, trasparenza, limiti nell’accesso alle infrastrutture critiche e regole capaci di evolvere insieme alla tecnologia.

Soprattutto abbiamo bisogno di una domanda che dovrebbe precedere ogni grande innovazione:

“Possiamo farlo?” non può essere l’unica domanda. Dobbiamo chiederci anche: “Dovremmo farlo, in che modo e sotto il controllo di chi?”

L’Intelligenza Artificiale potrebbe diventare uno degli strumenti più potenti mai creati dall’uomo.

Potrebbe accelerare la medicina, la ricerca scientifica, la creatività, l’istruzione e la nostra capacità di comprendere il mondo. La stessa Anthropic riconosce queste enormi opportunità insieme ai possibili rischi. 

Ed è proprio per questo che la questione non dovrebbe essere:

“L’Intelligenza Artificiale diventerà nemica dell’uomo?”

La domanda molto più concreta è:

“L’uomo sarà abbastanza responsabile da gestire l’intelligenza che sta creando?”

Perché, almeno fino ad oggi, la storia ci insegna qualcosa di molto semplice: il problema non è mai stato soltanto quanto fosse potente uno strumento. Il problema è sempre stato chi lo impugnava.