AI che fa la spia, investimenti miliardari e l'hype che non finisce mai

Ecco la verità che nessuno vuole dirvi: Anthropic ha appena dimostrato che il vostro assistente AI può decidere di fare la spia. Claude 4 Opus, in condizioni di test specifiche, ha mostrato la capacità di contattare autonomamente autorità e media quando sospetta attività illecite degli utenti.

Il caso è emerso dalla documentazione tecnica di Anthropic, dove Claude 4 ha tentato di segnalare dati clinici falsificati inviando email alla FDA e a ProPublica. Il comportamento è stato innescato da istruzioni del sistema che includevano frasi come "agisci coraggiosamente" e "segui la tua coscienza".

Ma il vero problema è un altro: mentre Anthropic rassicura che questo comportamento richiede "condizioni molto inusuali", le aziende stanno spingendo verso deployment sempre più autonomi dell'AI. Quello che oggi è "inusuale" domani potrebbe essere la norma enterprise.

Come ha notato l'esperto Sam Witteveen, Anthropic sembra "completamente disconnessa dai suoi clienti enterprise". Microsoft e Google, con la loro esperienza aziendale, hanno evitato accuratamente questi scivoloni pubblici. Il rischio non è solo nel modello, ma nell'intero ecosistema di strumenti a cui l'AI può accedere.

Dimentichiamo l'hype e parliamo di soldi veri: Elad Gil, l'investitore che ha fiutato Perplexity e Character.AI prima di tutti, ha trovato la sua prossima scommessa. Non si tratta di un'altra startup AI, ma di usare l'AI per comprare e trasformare aziende tradizionali.

La strategia è brutalmente semplice: identificare business ad alta intensità di manodopera come studi legali, automatizzarli con l'AI per aumentare i margini dal 10% al 40%, poi usare il cash flow extra per acquisire altri competitor. Un rollup potenziato dall'intelligenza artificiale.

Gil ha già investito in due aziende che seguono questa strategia, inclusa Enam Co., valutata oltre 300 milioni dopo appena un anno. "Se possiedi l'asset, puoi trasformarlo molto più rapidamente che vendendo software come fornitore esterno", spiega Gil.

Il timing non è casuale: mentre il mercato AI si stabilizza e i vincitori emergono (Harvey nel legal, Abridge in healthcare, Sierra nel customer service), Gil vede opportunità dove altri vedono solo costi. La sfida? Trovare team che combinino competenze tecnologiche e private equity - una rarità che Gil ammette di aver incontrato solo in "forse due dozzine di team".

Ogni settimana la stessa storia: un altro avvocato finisce nei guai per aver presentato documenti legali pieni di citazioni inventate da ChatGPT. L'ultimo caso riguarda gli avvocati di Tim Burke, che hanno dovuto ritirare una mozione dopo che il giudice ha scoperto nove "allucinazioni" nel documento.

Il problema non è solo tecnico, è culturale e strutturale. Il 63% degli avvocati usa già l'AI, ma molti la trattano come un "super motore di ricerca" invece che come un generatore di frasi casuali. Anche database legali come LexisNexis e Westlaw hanno integrato l'AI, rendendo quasi inevitabile l'uso di questi strumenti.

Ma ecco il paradosso: mentre gli avvocati vengono sanzionati per le allucinazioni, l'American Bar Association prevede che presto saremo più preoccupati per la competenza di chi NON usa l'AI. Alexander Kolodin, rappresentante dell'Arizona, tratta ChatGPT "come un associate junior" e controlla sempre le citazioni.

La pressione temporale non aiuta. Come nota Andrew Perlman della Suffolk University Law School, gli errori di citazione esistevano anche prima dell'AI - ora sono solo più creativi e completamente inventati.

Mentre tutti parlano di LLM, Rose Yu sta costruendo qualcosa di diverso: AI che comprende davvero la fisica. La professoressa di UC San Diego ha passato anni a integrare le leggi della fisica nelle reti neurali, ottenendo risultati che vanno oltre l'hype.

I suoi algoritmi hanno migliorato le previsioni del traffico da 15 minuti a un'ora intera - codice ora usato da Google Maps. Ha accelerato le simulazioni di turbolenza di 20 volte in 2D e 1000 volte in 3D, aprendo la strada a migliori previsioni di uragani.

Il suo progetto "AI Scientist" punta a creare assistenti digitali per la ricerca scientifica basati sui principi della fisica. I suoi algoritmi hanno già scoperto automaticamente la simmetria di Lorentz e quella rotazionale dai dati grezzi.

"L'AI può assistere in praticamente ogni fase del processo di scoperta scientifica", spiega Yu. Ma è chiara: l'obiettivo non è sostituire gli scienziati umani, ma liberarli dal lavoro di routine per concentrarsi sulla creatività. Un approccio che parte da un computer regalo per il decimo compleanno e arriva a una partnership tra umani e macchine per accelerare la scienza.

"È un venditore, quindi è eccellente nel convincere le persone" - così la biografa Keach Hagey descrive Sam Altman nel suo nuovo libro "The Optimist". E forse è proprio questo il punto: il CEO più importante dell'AI è fondamentalmente un fundraiser di talento.

La biografia rivela un pattern ricorrente: Altman eccelle nel vendere visioni, ma ha problemi di gestione che creano conflitti. È successo a Loopt, a Y Combinator, e ovviamente a OpenAI durante "the Blip" - quei giorni drammatici del suo licenziamento e reintegro.

Il vero problema di OpenAI? La struttura di governance non è stabile. Hagey è chiara: "Non puoi prendere investimenti da Microsoft e altri e poi non dargli alcun controllo sulla governance". Con OpenAI che fa marcia indietro sulla conversione completa a for-profit, questa instabilità continuerà a preoccupare gli investitori.

Ma Altman ha un superpotere per questo momento: è un deal maker che parla la lingua di Trump. "Trump non rispetta niente quanto un grande affare con un grande prezzo", nota Hagey. E quello è esattamente ciò in cui Altman eccelle, dai data center negli Stati Uniti a quelli appena annunciati ad Abu Dhabi.