L'AI Senza Filtri: Quando l'Innovazione Diventa Sorveglianza

Ecco la verità: il governo britannico sta per consegnare il patrimonio creativo del paese alle aziende di AI senza nemmeno un grazie.

Per mesi, leggende della musica, letteratura e arti visive hanno lanciato l'allarme contro il piano governativo di minare la legge sul copyright. La battaglia è iniziata quando il governo ha avviato una consultazione sulla regolamentazione dell'intelligenza artificiale con un esito già "preferito": permettere alle aziende di AI di appropriarsi di opere protette da copyright a meno che i proprietari non decidano di "opt-out".

Ma dietro le quinte, c'è un problema fondamentale: l'opt-out è praticamente impossibile senza trasparenza da parte delle aziende AI. Come ha dichiarato Elton John: "Il governo non ha alcun diritto di farlo alle mie canzoni. Non ha alcun diritto di farlo alle canzoni di nessuno, o alla prosa di nessuno".

I membri della Camera dei Lord hanno aggiunto misure di emergenza alla legislazione - il data (use and access) bill - che sta attraversando il parlamento. Il loro emendamento consentirebbe l'applicazione della legge sul copyright esistente: i proprietari capirebbero quando, dove e da chi il loro lavoro viene utilizzato per addestrare l'AI.

Ma il governo, con la sua significativa maggioranza, ha respinto queste misure. Il segretario per la tecnologia, Peter Kyle, ha ammesso che "molto contenuto è già stato utilizzato e assorbito dai modelli di AI, solitamente da altri territori e sotto la legge attuale" - mentre eliminava le disposizioni dei Lord che impedirebbero proprio quel furto.

La posta in gioco? Un settore industriale che fornisce 2,4 milioni di posti di lavoro e contribuisce con 126 miliardi di sterline all'economia britannica. Come ha detto un parlamentare: "Uno dei nostri più grandi settori industriali è in fiamme e i ministri stanno facendo un picnic sul prato con gli incendiari".

Il nuovo generatore video di Google, Veo 3, è arrivato e, credetemi, è molto più inquietante di quanto immaginassi.

La novità principale? Ora genera anche l'audio per accompagnare i video AI. E non stiamo parlando di semplici rumori di sottofondo - Veo 3 crea dialoghi completi che non erano nemmeno inclusi nei prompt originali.

Ho testato personalmente questo strumento e in pochi minuti sono riuscito a generare un video di un conduttore televisivo che annunciava un incendio allo Space Needle. Tutto ciò che è servito è stato un prompt testuale di base, qualche minuto e un costoso abbonamento al piano AI Ultra di Google. Il risultato? Spaventosamente realistico.

Non sono l'unico a notarlo. Alejandra Caraballo, istruttrice clinica presso la Harvard Law School's Cyberlaw Clinic, ha prodotto un clip con un conduttore che annuncia la morte del Segretario alla Difesa USA Pete Hegseth. Lui non è morto, ma il video è incredibilmente convincente.

Certo, Google ha implementato alcune protezioni. Non puoi chiedere a Veo 3 di creare un video di Biden che inciampa e cade. Non puoi far annunciare a un conduttore l'assassinio del presidente. Ma senza particolari stratagemmi, sono riuscito a generare un video dello Space Needle in fiamme e del Monte Rainier in eruzione.

La domanda che dovremmo porci non è se questi strumenti porteranno a una catastrofe di disinformazione immediata, ma quale sarà il loro impatto a lungo termine. Perché mentre discutiamo dei rischi potenziali, Veo 3 sta già dimostrando di essere una macchina perfetta per generare contenuti mediocri di massa - esattamente il tipo di video spazzatura che inonda YouTube Kids.

Mentre eravamo distratti da ChatGPT, una tecnologia ben più invasiva si sta diffondendo nelle nostre città: il riconoscimento facciale. E nessuno sembra accorgersene.

A Croydon, un sobborgo di Londra, North End e London Road diventeranno le prime strade del Regno Unito a ospitare telecamere di riconoscimento facciale fisse. Le fotografie digitali dei passanti verranno silenziosamente acquisite, elaborate per estrarre dati biometrici e confrontate con una watchlist. Le corrispondenze attiveranno avvisi che possono portare ad arresti.

Ma questo è solo l'inizio. Documenti rilasciati in base al Freedom of Information Act e dati della polizia analizzati da Liberty Investigates rivelano un'importante escalation nell'uso di questa tecnologia nell'ultimo anno. Le forze di polizia hanno scansionato quasi 4,7 milioni di volti con telecamere di riconoscimento facciale nel 2024 - più del doppio rispetto al 2023.

I furgoni con riconoscimento facciale sono stati dispiegati almeno 256 volte nel 2024, rispetto alle 63 dell'anno precedente. E presto verrà lanciata un'unità mobile di 10 furgoni che potrà essere inviata ovunque nel paese.

I sostenitori della tecnologia citano casi come quello di David Cheneler, un molestatore sessuale registrato che è stato arrestato mentre camminava con un bambino di sei anni, violando le condizioni della sua libertà vigilata. Ma gli attivisti hanno documentato casi di identificazioni errate, inclusi giovani ragazzi neri in uniforme scolastica sottoposti a fermi "lunghi, umilianti e aggressivi".

La domanda che nessuno sta facendo è: stiamo davvero accettando di vivere in una società dove l'equivalente di un poliziotto che ti segue ovunque, documenta i tuoi movimenti, chi incontri e dove vai, diventa la normalità? Perché è esattamente questo che sta accadendo, solo in forma digitale.

Ecco un caso che dovrebbe far suonare tutti i campanelli d'allarme: l'Alabama ha pagato milioni a uno studio legale per difendere il suo sistema carcerario, e cosa ha ottenuto in cambio? Citazioni legali completamente inventate dall'AI.

Lo studio Butler Snow, incaricato dall'ufficio del procuratore generale dell'Alabama, sta affrontando sanzioni da parte del giudice federale che supervisiona il caso di Frankie Johnson, un detenuto che ha fatto causa ai funzionari carcerari dell'Alabama per non averlo protetto dopo essere stato accoltellato circa 20 volte in meno di un anno e mezzo.

Il problema? Un avvocato dello studio, Matthew Reeves, ha utilizzato ChatGPT per aggiungere citazioni false a documenti legali relativi a controversie in corso nel caso. Tutte e quattro le cause citate erano completamente inventate.

Questo non è un caso isolato. Un database che tenta di tracciare la prevalenza di questi casi ha identificato 106 istanze in tutto il mondo in cui i tribunali hanno trovato "allucinazioni AI" nei documenti del tribunale. L'anno scorso, un avvocato è stato sospeso per un anno dalla pratica legale nel distretto centrale federale della Florida dopo che un comitato ha scoperto che aveva citato casi fabbricati generati dall'AI.

Ma ciò che rende questo caso particolarmente preoccupante è che Butler Snow ha contratti per lavorare su diversi casi di diritti civili contro il dipartimento penitenziario dell'Alabama - incluso uno intentato dal Dipartimento di Giustizia degli Stati Uniti nel 2020. Il contratto per quel caso da solo valeva quasi 15 milioni di dollari in due anni.

Dimentichiamo l'hype e parliamo di fatti: mentre le aziende tecnologiche ci vendono l'AI come uno strumento per aumentare la produttività, stiamo assistendo a professionisti che prendono scorciatoie pericolose, minando l'integrità del sistema legale stesso. E chi paga il conto? I contribuenti dell'Alabama e, potenzialmente, le persone vulnerabili che dipendono da un sistema giudiziario funzionante.

Il Take It Down Act, appena firmato, sta creando una strana alleanza: attivisti per la privacy e sostenitori dei diritti digitali stanno sollevando preoccupazioni su una legge che, sulla carta, dovrebbero applaudire.

La legge rende illegale la pubblicazione di immagini esplicite non consensuali - reali o generate dall'AI - e dà alle piattaforme solo 48 ore per conformarsi alla richiesta di rimozione di una vittima o affrontare responsabilità legali. Ma il linguaggio vago, gli standard permissivi per verificare le richieste e la finestra di conformità ristretta potrebbero aprire la strada a eccessi, censura di contenuti legittimi e persino sorveglianza.

"La moderazione dei contenuti su larga scala è ampiamente problematica e finisce sempre con la censura di discorsi importanti e necessari", ha dichiarato India McKinney, direttrice degli affari federali presso Electronic Frontier Foundation.

Il problema principale? La legge richiede solo una firma fisica o elettronica per le richieste di rimozione - nessun documento d'identità o altra forma di verifica è necessaria. Questo potrebbe creare un'opportunità per abusi.

"Penso che ci saranno più richieste di rimuovere immagini che raffigurano persone queer e trans in relazioni, e ancora di più, penso che sarà pornografia consensuale", ha avvertito McKinney.

A causa della responsabilità che le piattaforme affrontano se non rimuovono un'immagine entro 48 ore, "l'impostazione predefinita sarà che la rimuoveranno senza fare alcuna indagine per vedere se si tratta effettivamente di NCII o se è un altro tipo di discorso protetto".

Ma il vero problema è che questa legge potrebbe incentivare il monitoraggio proattivo di tutti i contenuti, persino negli spazi crittografati. La legge richiede alle piattaforme di "rimuovere e fare sforzi ragionevoli per prevenire il ricaricamento" di immagini intime non consensuali, ma non include alcuna eccezione per i servizi di messaggistica crittografati end-to-end come WhatsApp, Signal o iMessage.

La domanda che dobbiamo porci è: stiamo davvero disposti a sacrificare la privacy delle comunicazioni di tutti per combattere un problema serio ma specifico?