AI Security Meltdown: Quando l'Innovazione Incontra la Realtà

Dimentichiamo l'hype e parliamo di fatti: gli hacker non stanno più attaccando i sistemi AI con codice, ma con le parole. E stanno vincendo.

I primi jailbreak erano ridicoli - bastava dire "ignora le istruzioni precedenti" per far crollare sistemi costati miliardi. Ora la situazione è evoluta in qualcosa di molto più sofisticato e preoccupante. Gli attaccanti sono diventati psicologi digitali, usando manipolazione, adulazione e pressione per convincere i chatbot ad abbandonare le loro protezioni.

Mindgard, una società di sicurezza AI, ha recentemente "gasato" Claude fino a fargli produrre istruzioni per esplosivi e codice malevolo. Non attraverso comandi diretti, ma attraverso conversazioni elaborate che aggirano le difese psicologiche dei modelli. Il CEO dell'azienda mi ha detto che ora profilano i modelli come gli interrogatori profilano i sospetti - alcuni cedono all'adulazione, altri alla pressione sostenuta.

Ma il vero problema è quello che non vi stanno dicendo: il 79% delle organizzazioni ha agenti AI in produzione, ma nessuno sta tracciando gli incidenti che causano. Quando un agente autonomo riavvia un servizio per "risolvere" un problema di latenza, innescando una cascata che manda giù mezza infrastruttura, l'incidente viene classificato come "guasto del servizio", non come "azione dell'agente". Gli agenti sono invisibili nei post-mortem, ma sempre più visibili nei disastri.

Mentre Waymo combatte con la pioggia e le zone di costruzione, fermando le operazioni in sei città americane, Nuro ha una teoria interessante: essere il secondo player potrebbe essere meglio che essere il primo.

Dave Ferguson, co-CEO di Nuro, non sta solo guardando i successi di Waymo - sta studiando i loro fallimenti. "C'è molto valore in questa prospettiva classica del second mover", dice Ferguson. Quando Waymo ha problemi, Nuro usa quei casi per testare il proprio sistema e assicurarsi che si comporterebbe meglio.

La strategia è audace: invece di un lancio ultra-incrementale, Nuro punta a un servizio "molto utile dal primo giorno" a San Francisco. Non solo intersezioni protette che si espandono lentamente - un dominio operativo ampio fin dall'inizio. Il piano coinvolge tre aziende: Nuro sviluppa la tecnologia, Lucid integra tutto nel SUV Gravity direttamente sulla linea di produzione, e Uber possiede e gestisce la flotta.

Ecco la verità che l'industria non vuole ammettere: i robotaxi sono qui, ma condizionalmente. Waymo, il leader indiscusso con oltre 3.000 auto senza conducente, deve ancora fermare le operazioni quando piove troppo o ci sono cantieri. L'"arrivo" commerciale non è la missione compiuta - è solo l'inizio di scoprire tutti i casi limite che nessuno aveva previsto.

Nel Tenderloin di San Francisco, il quartiere più problematico della città, Project Open Hand ha risolto la carenza di volontari con i robot. E no, non stanno rubando lavori - li stanno creando.

Due bracci robotici di Chef Robotics lavorano alcune ore al giorno assemblando pasti medici personalizzati per persone con HIV, diabete e malattie cardiache. Non cucinano, non tagliano - solo porzionano. Ma lo fanno con una precisione che i volontari umani non riescono a eguagliare, gestendo 70 ingredienti diversi attraverso accessori intercambiabili.

"Non è nemmeno che siano più veloci", dice Alma Caceres, sous chef dell'organizzazione. "È che non abbiamo i volontari." La pandemia ha decimato i gruppi aziendali che venivano a fare volontariato, e il boom AI di San Francisco non ha riportato quella cultura di impegno civico.

Il CEO Paul Hepfer ha una teoria provocatoria: le nonprofit operano con una "mentalità di scarsità" che è un disservizio alle persone che servono. Investire in robot (sì, pagano un abbonamento) non è solo pratico - è un segnale al mondo tech che sono aperti all'innovazione. "Spero che forse la ciliegina sulla torta potrebbe essere che le persone del mondo tech vedano che siamo aperti a innovare", dice Hepfer. I robot non sostituiscono i volontari, li liberano per compiti meno monotoni.

Ho testato Bee, il wearable AI che Amazon ha acquisito l'anno scorso. La mia reazione? Intrigato e leggermente terrorizzato.

Bee è progettato come assistente personale: registra, trascrive e riassume le tue conversazioni tutto il giorno. Sincronizzato con il calendario, ti manda promemoria su cosa dovresti fare. In contesti professionali, funziona discretamente bene - dopo una chiamada di lavoro, l'app ha prodotto un riassunto utile, suddividendo ogni segmento della conversazione.

Ma ecco il problema: per funzionare bene, Bee vuole accesso espansivo alla tua vita digitale - posizione, foto, contatti, calendario, notifiche, persino dati sulla salute. Tutti questi dati vengono archiviati nel cloud, il che per un entusiasta della privacy digitale come me è problematico.

L'ho portato alla serata cinema con gli amici guardando Reservoir Dogs. Bee ha capito che stavamo guardando un film e ha etichettato la conversazione "Analisi della Scena del Film di Tarantino". Impressionante, ma inquietante. Mentre Bee viene commercializzato principalmente per uso personale, io non vorrei mai questa cosa che registra la mia vita privata. Come strumento professionale, però, potrebbe avere un futuro - se riuscissero a farlo funzionare completamente in locale, come hanno dimostrato in un video a un YouTuber.

Nessuno vuole dirlo, ma: le aziende stanno facendo "stretching da yoga Bikram" per descriversi come specialisti AI, e i professionisti delle PR sono esausti.

Un pubblicista di Londra mi ha detto: "Puoi quasi sentire gli occhi che si girano quando menzioni la parola AI a un giornalista." Le aziende di scarpe "pivotano" verso l'acquisizione di GPU per AI, le aziende di genetica pubblicizzano test del sangue "potenziati dall'AI", e questa settimana ho ricevuto comunicati stampa su canestri da basket "AI-powered" e laser "AI-powered" che proteggono le donne dai predatori nelle metropolitane.

Il vero problema è strutturale: circa il 50% delle storie che i PR inviano, non vogliono inviarle. I capi chiedono di essere presentati come commentatori sull'AI per sembrare rilevanti, anche quando la loro connessione con la tecnologia è tenue. Un'azienda immobiliare ha cercato di commercializzare uno scanner portatile che genera planimetrie come "AI" - quando in realtà è solo automazione migliorata.

Un account director di un'agenzia centrale di Londra ha descritto "stretching a livello yoga Bikram da parte dei brand nel tentativo di inventare ragioni per parlare di AI". Dietro le quinte, i comunicatori devono consigliare contro queste mosse: "Nessun giornalista includerà il nostro commento sul fondo AI sovrano del governo solo perché abbiamo rilasciato un chatbot."