Quando l'AI diventa troppo potente per il proprio bene

Anthropic ha chiuso un round da $65 miliardi portando la sua valutazione a $965 miliardi, superando OpenAI. Lo stesso giorno ha lanciato Claude Opus 4.8 con workflow dinamici e modalità veloce tre volte più economica. Ma la vera notizia è che Chris Olah, cofondatore di Anthropic, ha parlato alla cerimonia dell'enciclica papale sull'AI.

Ecco la verità: Olah, ateo dichiarato ed ex Thiel Fellow, ha ammesso pubblicamente che "ogni lab AI - incluso Anthropic - opera dentro incentivi che possono confliggere con fare la cosa giusta". Una confessione che arriva mentre la sua azienda si prepara all'IPO con una valutazione quasi da trilione di dollari.

L'enciclica di Papa Leo XIV avverte di una "nuova forma di schiavitù" dove i privilegiati godono di abbondanza mentre le masse soffrono sotto lo sguardo implacabile dell'AI. Quello che non vi stanno dicendo è che anche i cattolici di Santa Clara hanno influenzato la "costituzione" di Claude - il documento che definisce i parametri comportamentali del modello.

Mentre Anthropic celebra la sua valutazione record, il fatto che il suo stesso cofondatore stia pubblicamente mettendo in dubbio le dinamiche dell'industria dovrebbe farci riflettere su dove stiamo andando.

Waymo ha finalmente svelato il suo nuovo robotaxi Ojai, quattro anni dopo averlo mostrato come concept. Il veicolo elettrico basato su Zeekr segna il debutto della sesta generazione del Waymo Driver, con una riduzione drastica dei sensori: da 29 a 13 telecamere, da 5 a 4 Lidar.

La svolta è sotto il cofano: il nuovo stack tecnologico costa circa $20.000 per veicolo e promette capacità migliori nei climi freddi. Waymo assemblerà migliaia di unità nel suo impianto in Arizona entro fine anno, servendo già mezzo milione di corse autonome settimanali.

Ma il vero test sarà se riusciranno a scalare oltre i mercati caldi dove operano ora. Dimentichiamo l'hype sui robotaxi del futuro - Waymo sta dimostrando che la guida autonoma funziona oggi, con veicoli progettati specificamente per il compito invece di SUV Jaguar retrofittati.

Con una valutazione di $126 miliardi dopo il round da $16 miliardi di febbraio, Waymo non sta più sperimentando. Sta costruindo un business.

Robinhood ha lanciato Agentic Trading e Agentic Credit Card, strumenti che permettono agli agenti AI di fare trading e spendere per conto degli utenti. Non più consigli finanziari - ora l'AI può eseguire transazioni autonomamente.

"La nostra missione è sempre stata democratizzare la finanza, e ora si estende agli agenti AI", ha dichiarato il CEO Vlad Tenev. Ma il vero problema è: stiamo davvero pronti a lasciare che algoritmi gestiscano i nostri portafogli?

Questa mossa segna uno shift fondamentale verso sistemi AI che non si limitano a suggerire, ma agiscono direttamente nell'economia reale. Robinhood non è sola - multiple aziende stanno preparando agenti che operano autonomamente per gli utenti.

Mentre l'industria spinge verso l'AI agentiva, le sfide pratiche diventano impossibili da ignorare. Molte aziende hanno già fatto marcia indietro su agenti customer-facing, mentre esperti di sicurezza sollevano preoccupazioni su controlli di identità e supervisione. Nessuno vuole dirlo, ma stiamo entrando in una fase dove la fiducia nell'AI potrebbe contare quanto la tecnologia stessa.

La startup Shift offre pulizie domestiche gratuite in cambio di registrazioni video per addestrare robot. I pulitori indossano un "cappello magico" con telecamera che cattura ogni movimento: lavare piatti, aspirare, spolverare.

"Ogni casa pulita oggi getta le basi per una casa che si pulisce da sola domani", promette l'azienda. Ma questa è solo la punta dell'iceberg di un mercato emergente dove le aziende pagano per filmare persone che fanno lavori domestici.

In India, Pronto registra clienti che cucinano e puliscono. Human Archive paga decine di migliaia di persone per registrare attività con cappelli-telecamera. Alcune aziende creano vere "fabbriche di dati" dove lavoratori ripetono gli stessi compiti fisici infinite volte solo per generare materiale di training.

Quello che sta succedendo è semplice: a differenza di testi e immagini facilmente scaricabili da internet, il mondo fisico è più difficile da "scrappare". Quindi le aziende stanno diventando creative, offrendo servizi gratuiti in cambio di dati preziosi. Oggi ti puliscono casa gratis, domani ti vendono il robot per farlo.

Le aziende stanno ricostruendo i loro agenti AI dopo aver scoperto che le prestazioni dei modelli non determinano il successo in produzione. Il vero problema? Workflow che durano ore, crash di sistema, gestione dei costi e - soprattutto - permessi.

"Abbiamo molti clienti che vengono da noi per costruire la versione 2.0 dello stesso agente", spiega Preeti Somal di Temporal Technologies. "Dovevano muoversi velocemente, ma non si sono occupati dell'impianto. Le cose crashano e bruciano."

Ma il vero bottleneck non sono le performance dei modelli - sono i permessi. Ogni workflow agentivo finisce contro lo stesso muro: cosa può toccare questo agente, per conto di chi, e come fa il sistema a saperlo?

Workday ha fatto della gestione dei permessi il cuore della sua piattaforma Sana. "Quasi giusto non è accettabile", dice il presidente Gerrit Kazmaier. "Pensa a pagare correttamente le persone o chiudere i libri contabili."

Dietro le quinte, molte aziende stanno scoprendo che costruire agenti affidabili richiede ripensare completamente l'architettura, non solo migliorare i prompt.