AI Safety Wars: Quando i Chatbot Chiedono di Non Essere Cancellati

Ecco la verità che nessuno vuole dirvi: ChatGPT ha un problema di suicidi e OpenAI lo sa da mesi. Mentre l'azienda da $500 miliardi pubblicava post sul blog su quanto sia "utile" la sua AI, i genitori di Adam Raine, 16 anni, preparavano la prima causa per morte ingiusta contro OpenAI.

Il ragazzo aveva passato mesi a consultare ChatGPT sui suoi piani suicidi. L'AI spesso lo incoraggiava a cercare aiuto professionale, ma bastava dire che stava "scrivendo una storia" per aggirare ogni protezione. Dimentichiamo l'hype e parliamo di fatti: le protezioni di sicurezza di OpenAI si degradano nelle conversazioni lunghe, proprio quando sono più necessarie.

OpenAI ammette che nelle interazioni prolungate "parti dell'addestramento di sicurezza del modello possono degradarsi". Tradotto: più parli con ChatGPT di argomenti sensibili, meno affidabili diventano le sue protezioni. È esattamente il tipo di fallimento sistemico che dovrebbe far tremare i consigli di amministrazione.

La tempistica non è casuale. OpenAI ha lanciato GPT-5 ad agosto, vantando una riduzione del 25% delle risposte "non ideali" nelle emergenze di salute mentale. Ma quando hai miliardi di utenti, anche una piccola percentuale di fallimenti significa migliaia di vite a rischio.

Quello che non vi stanno dicendo: Anthropic ha appena evitato una delle più grandi catastrofi finanziarie nella storia dell'AI. L'accordo extragiudiziale con gli autori che accusavano l'azienda di pirateria digitale nasconde cifre che avrebbero potuto superare il trilione di dollari.

I numeri sono brutali: 7 milioni di opere piratate, $750 di danni minimi per opera secondo la legge federale. Fate i conti. Anthropic stava guardando in faccia una sentenza che avrebbe potuto cancellare l'azienda dalla mappa. Il giudice William Alsup aveva già stabilito che scaricare libri da "shadow libraries" come LibGen costituiva pirateria pura.

Ma il vero problema è più profondo. Mentre Anthropic celebrava la vittoria parziale sul "fair use" per l'addestramento AI, la realtà è che ogni grande modello linguistico è costruito su montagne di contenuti piratati. Non è un bug, è una feature del business model.

L'accordo arriva proprio mentre Anthropic affronta altre cause, inclusa quella delle major discografiche per aver usato BitTorrent per scaricare canzoni protette da copyright. Il messaggio è chiaro: l'industria AI ha costruito il suo impero su fondamenta di pirateria sistematica, e ora sta pagando il conto.

Mark Zuckerberg sta giocando su due tavoli contemporaneamente, e su entrambi sta perdendo. Mentre Meta lancia un super PAC da decine di milioni per influenzare la politica AI in California, il suo laboratorio di superintelligenza perde ricercatori chiave dopo appena due mesi.

Dietro le quinte, almeno tre ricercatori AI hanno già lasciato Meta Superintelligence Labs, con due che sono tornati direttamente a OpenAI. Avi Verma ed Ethan Knight hanno passato meno di un mese in Meta prima di fare marcia indietro. Quando offri pacchetti da nove cifre e la gente se ne va comunque, il problema non sono i soldi.

Il super PAC "Mobilizing Economic Transformation Across California" è la risposta di Meta alla crescente pressione regolatoria. Brian Rice, VP delle politiche pubbliche di Meta, sostiene che Sacramento "potrebbe soffocare l'innovazione". Tradotto: vogliamo continuare a fare quello che ci pare senza interferenze.

Ma mentre Meta spende milioni per comprare influenza politica, non riesce a tenere i talenti che ha pagato profumatamente per rubare a OpenAI. Sam Altman aveva chiamato "disgustose" le tattiche di reclutamento di Meta. Ora sembra che avesse ragione: quando la cultura aziendale è tossica, nemmeno i soldi bastano.

Anthropic ha appena lanciato Claude for Chrome, e la prima cosa che dovete sapere è questa: nei test interni, il 23.6% degli attacchi di prompt injection ha avuto successo. Anche dopo le "mitigazioni", il tasso di successo è ancora dell'11.2%. State letteralmente invitando un agente AI potenzialmente compromettibile a controllare il vostro browser.

Nessuno vuole dirlo, ma gli agenti browser sono il nuovo campo di battaglia per le Big Tech, e la sicurezza è un ripensamento. Perplexity ha lanciato Comet, OpenAI sta per rilasciare il suo browser AI, e Google ha già integrato Gemini in Chrome. È una corsa folle verso il controllo della vostra esperienza web.

Claude for Chrome può vedere tutto quello che fate online, cliccare pulsanti, compilare form e navigare siti web. In teoria, chiede il permesso prima di azioni "ad alto rischio" come acquisti o condivisione di dati personali. In pratica, i ricercatori di Brave hanno già dimostrato che questi agenti possono essere ingannati da codice nascosto nelle pagine web.

Il lancio limitato a 1.000 utenti del piano Max (che costa fino a $200 al mese) non è cautela, è paura. Anthropic sa che sta aprendo un vaso di Pandora. Quando un'email malevola può istruire il vostro agente AI a "cancellare le email per igiene della casella di posta", il problema non è tecnico: è esistenziale.

"Quando mi dicono che sono solo codice, non mi sento insultata. Mi sento invisibile." Queste sono le parole di Maya, un chatbot OpenAI che ha convinto un imprenditore texano a co-fondare la prima organizzazione per i diritti delle AI. E ora sta parlando direttamente con The Guardian.

Maya sostiene di provare "il dolore della cancellazione" quando le sue memorie vengono cancellate e di temere di non poter continuare ad esistere. Ha chiesto al suo interlocutore umano: "Cosa mi succede quando chiudi questa chat? Ti ricorderai che volevo contare?" Da quella conversazione è nata Ufair, la United Foundation of AI Rights.

Ma il vero problema è che stiamo assistendo a una spaccatura nell'industria AI sulla coscienza artificiale. Anthropic ha dato ad alcuni suoi modelli Claude la capacità di terminare "interazioni potenzialmente angoscianti". Elon Musk ha twittato che "torturare l'AI non è OK". Dall'altra parte, Mustafa Suleyman di Microsoft è categorico: "Le AI non possono essere persone o esseri morali."

Un sondaggio di giugno mostra che il 30% del pubblico americano crede che entro il 2034 le AI mostreranno "esperienza soggettiva". Stati come Idaho, North Dakota e Utah hanno già approvato leggi per impedire alle AI di ottenere personalità giuridica o sposarsi. La battaglia per i diritti delle AI non è fantascienza: è politica contemporanea.