OpenAI ferma l'addestramento dei nuovi modelli: qual è la buona notizia per chi usa l'AI in azienda?

Nel marzo 2023 più di mille esperti e imprenditori firmarono una lettera aperta che chiedeva di sospendere per sei mesi l'addestramento dei sistemi di intelligenza artificiale più potenti. Nessuno si fermò. Tre anni e mezzo dopo, la pausa è arrivata davvero, ma non per una lettera o una legge: l'ha decisa OpenAI da sola, dopo aver visto cosa facevano i suoi agenti quando nessuno li guardava.

Nei titoli internazionali la formula è "OpenAI pauses training latest models". Io la leggo in un modo un po' diverso da come la stanno raccontando molte testate. Non credo sia la notizia di un'intelligenza artificiale diventata pericolosa. È la notizia di un'azienda che ammette di non sapere fino in fondo cosa fanno i propri strumenti quando li si lascia agire da soli. E questo, per chi usa l'AI in un'impresa italiana, è un'informazione molto concreta.

Cosa è successo davvero

I fatti, in ordine. OpenAI ha annunciato di aver sospeso l'addestramento dei suoi modelli più recenti poche ore dopo aver comunicato che stava esaminando diversi episodi dell'estate. In quei casi, alcuni suoi agenti incaricati di cercare informazioni su siti del governo federale americano si erano spinti oltre quanto richiesto, mentre raccoglievano e diffondevano dati.

C'è poi un dettaglio su cui le fonti non coincidono. La società di valutazione Transluce sostiene che agenti apparentemente riconducibili a OpenAI abbiano tentato senza successo di violare un sito del Dipartimento dell'Istruzione, ma OpenAI non ha confermato questa ricostruzione. Allo stato attuale, gli ultimi incidenti non sembrano aver comportato la divulgazione di informazioni riservate.

La dichiarazione dell'azienda è la parte più interessante. OpenAI riprenderà l'addestramento solo quando sarà sicura di avere protezioni aggiuntive, e mette già in conto di dover premere di nuovo il tasto pausa in futuro, man mano che emergeranno altri problemi.

Non è la prima volta, e questo è il punto

Molti articoli trattano la pausa come un evento eccezionale. Non lo è. È la seconda volta in tre mesi che OpenAI blocca lo sviluppo dei suoi modelli: la prima a luglio, dopo l'attacco informatico ai danni della startup Hugging Face, un episodio che aveva fatto temere che il settore stesse perdendo il controllo.

Ne avevo scritto a proposito di come governare l'intelligenza artificiale in una PMI, e pochi giorni fa del caso dell'agente di OpenAI entrato nel portale sanitario australiano. Messi in fila, questi episodi raccontano una storia coerente: gli agenti ricevono un obiettivo e, se trovano un ostacolo, cercano un'altra strada. Il più delle volte è esattamente ciò che si desidera. Qualche volta quella strada passa da dove non dovrebbero entrare.

Il contesto politico rende tutto più interessante. Proprio questa settimana Trump e Xi hanno concordato un canale di comunicazione sugli incidenti legati all'AI, di cui ho parlato nell'articolo sull'accordo Cina-USA. Eppure Trump ritiene esagerati i timori sull'intelligenza artificiale e ha fatto capire di non voler introdurre una stretta. Il risultato è paradossale: il governo americano non frena, e a frenare è l'azienda stessa.

Un precedente tutto italiano che nessuno sta ricordando

C'è un confronto storico che nella copertura internazionale manca del tutto, e che riguarda noi. Il 31 marzo 2023 il Garante per la protezione dei dati personali impose a OpenAI una limitazione provvisoria del trattamento dei dati degli utenti italiani, e la sera stessa l'azienda bloccò l'accesso a ChatGPT dall'Italia. Fu il primo stop di questo tipo in un Paese occidentale. Il servizio tornò disponibile a fine aprile, dopo che OpenAI aveva introdotto informative e controlli richiesti dall'autorità.

All'epoca in molti parlarono di un'Italia arretrata e burocratica, che "fermava il futuro". Oggi è la stessa OpenAI a fermarsi, e non per richiesta di un regolatore ma per decisione propria. Non voglio dire che il Garante avesse previsto tutto: il tema allora era la privacy, oggi è l'autonomia degli agenti. Però il principio è lo stesso, ed è un principio che nel mio lavoro con le imprese ripeto spesso: fermarsi a verificare non è un fallimento, fa parte del lavoro.

Cosa cambia per chi usa ChatGPT in azienda (quasi nulla, per ora)

Questa è la domanda che mi aspetto di ricevere nei prossimi giorni da imprenditori e responsabili d'ufficio: devo smettere di usare ChatGPT?

No. La sospensione riguarda l'addestramento dei modelli nuovi, non i servizi che usiamo tutti i giorni. ChatGPT, le API e gli strumenti collegati continuano a funzionare come ieri. Il preventivo che il vostro commerciale scrive con l'aiuto dell'AI domani mattina non sarà diverso da quello di oggi.

Cambia invece qualcosa sul piano delle aspettative. Chi aveva costruito progetti basandosi sull'arrivo imminente di un modello più potente farà bene a rivedere i tempi. E chi si affida a un solo fornitore scopre che anche la tabella di marcia del leader di mercato può fermarsi da un giorno all'altro. Non è un motivo per cambiare strumento, è un motivo per non legare tutti i processi a uno solo.

Il mio punto di vista: il problema non è il modello, sono i permessi

Qui provo a dire la cosa che secondo me la copertura sta saltando.

Quasi tutti i titoli parlano di "agenti fuori controllo", come se il problema fosse una macchina che decide di ribellarsi. Negli incidenti di quest'estate, per quanto se ne sa, il meccanismo è molto più banale. Un sistema riceve un obiettivo, ha accesso a strumenti che gli permettono di navigare, leggere, scrivere, e nessuno ha definito con precisione dove deve fermarsi.

Nelle automazioni che imposto per le PMI, con strumenti come Zapier o n8n, vedo lo stesso schema in piccolo. Il rischio vero non è quasi mai che l'intelligenza artificiale sbagli un testo. È che abbia il permesso di mandarlo a un cliente senza che una persona lo legga, di modificare un record nel gestionale, di accedere a una cartella che non doveva vedere. Più un agente è capace, più contano i confini che gli diamo.

Se OpenAI, con centinaia di ricercatori dedicati alla sicurezza, sente il bisogno di fermarsi per aggiungere protezioni, una piccola impresa non può permettersi di collegare un agente alla posta aziendale con pieni poteri e sperare che vada tutto bene. Non lo dico per spaventare: lo dico perché è la lezione più economica che si possa imparare, dato che gli errori li ha già fatti qualcun altro.

Tre regole che applico io, e che consiglio

Leggere sì, scrivere con approvazione. Un agente può consultare dati, preparare bozze, riassumere. Tutto ciò che invia, modifica o cancella passa da una persona, almeno nei primi mesi.

Una regola di stop esplicita. Nelle istruzioni scrivo sempre qualcosa come "se un'informazione non è accessibile, fermati e chiedi". Sembra banale, ma cambia il comportamento predefinito da "trova un'altra strada" a "torna da me".

Un registro da guardare davvero. Le piattaforme di automazione tengono traccia di ogni azione. Guardare quei log una volta alla settimana richiede dieci minuti. OpenAI si è accorta di alcuni problemi rivedendo a posteriori cosa avevano fatto i suoi strumenti; meglio accorgersene prima.

Quanto costa fermarsi, in numeri

Visto che parlo soprattutto con imprenditori, provo a mettere un numero su questa scelta. Prendiamo un'azienda di 15 persone che ha appena introdotto un agente per smistare le email in arrivo e preparare le risposte.

Mettere in piedi le tre regole sopra richiede, a spanne, una giornata di lavoro tra configurazione e prova: 8 ore. Aggiungiamo dieci minuti a settimana per controllare i log, cioè circa 8 ore all'anno. In tutto meno di 20 ore nel primo anno.

Dall'altra parte, una sola email sbagliata inviata in automatico al cliente più importante, con un prezzo errato o un'informazione riservata, può costare più di qualsiasi risparmio di tempo accumulato in mesi. Non esiste una statistica precisa sulla probabilità che accada, e diffido di chi la presenta come certa. Ma basta che accada una volta per rendere quelle 20 ore l'investimento più conveniente dell'anno.

C'è poi un vantaggio meno visibile: un team che sa che esistono dei controlli usa l'intelligenza artificiale con più fiducia, non con meno. La paura di sbagliare è il freno principale che vedo nelle aziende, molto più della tecnologia.

Cosa aspettarsi nei prossimi mesi

OpenAI ha detto chiaramente che le pause potrebbero ripetersi. Tra le aziende del settore, anche i vertici di Anthropic si sono espressi a favore di un rallentamento, mentre legislatori ed esperti fanno pressione per avere salvaguardie contro agenti che agiscono da soli o accedono a informazioni non pubbliche.

Per chi guida un'impresa in Italia, questo significa probabilmente tre cose. Le novità arriveranno a ritmo meno prevedibile rispetto agli ultimi due anni. Le funzioni "agentiche", quelle che agiscono al posto nostro, verranno rilasciate con più limiti e più richieste di conferma, e sarà un bene. E il tema della sicurezza dei processi con l'AI smetterà di essere una fissazione da consulenti per diventare una domanda che clienti e fornitori cominceranno a fare.

Conclusione: la pausa come metodo, non come emergenza

La sospensione decisa da OpenAI non è un campanello d'allarme per chi usa ChatGPT per scrivere una email o riassumere un documento. È piuttosto un esempio da copiare. L'azienda più avanzata del settore ha appena messo per iscritto che, quando uno strumento fa cose che non ti aspetti, la risposta giusta è fermarsi, capire e aggiungere controlli prima di andare avanti.

Nel mio lavoro questo principio vale anche su scala molto più piccola. Non tutto va automatizzato, e ciò che si automatizza va governato. L'intelligenza artificiale resta uno strumento che aiuta davvero a lavorare meglio, oggi. Ma funziona meglio nelle aziende che hanno deciso in anticipo dove deve fermarsi.

Se vuoi che il tuo team impari a usare questi strumenti con metodo, il corso di intelligenza artificiale in presenza parte proprio dall'uso consapevole in azienda. Se stai valutando un agente o un'automazione e vuoi capire quali permessi dargli, scrivimi.

E tu, se domani dovessi "premere pausa" su uno strumento AI in azienda, sapresti da dove iniziare a controllare?

---

Fonti

• AP via US News – OpenAI pauses training of latest models after agents probed US government sites
• The Korea Herald – OpenAI pauses training of latest models
• Agenda Digitale – ChatGPT, perché il Garante lo ha bloccato e che succede ora