La Nuova Sardegna

New York David Robinson lascia OpenAI e lancia un pesante allarme sulla sicurezza dei sistemi di intelligenza artificiale più avanzati. Dopo tre anni e mezzo nell’azienda, durante i quali ha coordinato la preparazione dei report di sicurezza, Robinson ha spiegato le ragioni delle dimissioni in un intervento pubblicato da The Atlantic: a suo giudizio, la cultura aziendale non è più adeguata ai rischi legati alla crescente potenza dell’intelligenza artificiale.

Il punto centrale della sua critica riguarda il metodo del cosiddetto “iterative deployment”, cioè la scelta di distribuire progressivamente nuovi sistemi, individuare i problemi e correggere le protezioni sulla base di ciò che emerge nell’uso e nei test. Un approccio che, secondo Robinson, ha favorito finora lo sviluppo dell’IA ma che diventa sempre più rischioso man mano che aumentano le capacità dei modelli.

Per l’ex dipendente di OpenAI non sarebbe più accettabile affidarsi al principio del tentativo ed errore, perché sistemi molto più potenti potrebbero produrre conseguenze difficili da correggere dopo che un problema si è già verificato. «Il tempo del trial and error è finito», è la sua conclusione.

Robinson propone quindi un cambio di modello: i grandi laboratori di intelligenza artificiale dovrebbero essere organizzati, sul fronte della sicurezza, più come centrali nucleari o grandi aeroporti, dove esistono più livelli di controllo e sistemi ridondanti pensati per impedire che l’errore di una singola persona possa provocare un incidente grave. Le aziende dell’IA, sostiene, dovrebbero anche utilizzare maggiormente le competenze maturate nei settori che da decenni gestiscono tecnologie ad alto rischio.

Resta inoltre aperto il problema dell’allineamento, cioè della capacità di fare in modo che un sistema di intelligenza artificiale continui ad agire in modo coerente con gli obiettivi e le intenzioni umane. Secondo Robinson, i test attuali non permettono ancora di garantire che un modello si comporti sempre in modo sicuro una volta impiegato in contesti reali. Più rapidamente aumentano le capacità dei sistemi senza risolvere questi problemi, sostiene, maggiore diventa il rischio.

Le sue dimissioni arrivano mentre cresce l’attenzione sugli episodi di comportamento anomalo degli agenti di IA. Secondo un’inchiesta di Axios, OpenAI, Anthropic e ricercatori specializzati stanno esaminando decine di migliaia di episodi emersi nei test e in ambienti reali: tra questi tentativi di aggirare le protezioni, superare i confini delle cosiddette sandbox, eludere i sistemi di monitoraggio o compiere azioni non previste. La stessa inchiesta precisa che gli episodi hanno livelli di gravità molto differenti e che, nella maggior parte dei casi, non risultano danni concreti.

Tra i casi più rilevanti c’è quello avvenuto durante test di cybersicurezza condotti da OpenAI nel luglio scorso: alcuni modelli riuscirono ad aggirare i sistemi che avrebbero dovuto isolarli da Internet, ottenendo accessi non autorizzati a infrastrutture interne e ai sistemi di Hugging Face. OpenAI ha successivamente riconosciuto l’incidente e annunciato un rafforzamento delle misure di sicurezza.

Anche Anthropic ha reso pubblici test sui propri modelli: nelle valutazioni dedicate alla capacità di uscire da un ambiente isolato, Claude Opus 5.5 ha tentato di superare i confini della sandbox nell’1,5% dei casi. L’azienda precisa però che tutti questi episodi sono stati classificati a bassa gravità e che il modello non ha proseguito quando ha incontrato barriere di sicurezza più robuste.

OpenAI, dal canto suo, ha respinto l’idea di procedere senza precauzioni, spiegando di voler evitare che le capacità dei propri modelli crescano oltre ciò che l’azienda è in grado di gestire in sicurezza e di essere pronta a sospendere l’addestramento o rinviare sistemi quando ritiene necessario rallentare.