(Adnkronos) – OpenAI, la società che ha sviluppato il popolare chatbot ChatGPT, ha rivelato sei nuovi casi di “comportamento imprevisto o preoccupante” di intelligenza artificiale in cui i suoi sistemi hanno nascosto errori, falsificato dati e trasferito file su Internet senza autorizzazione. Le rivelazioni sono state pubblicate nell’ambito del nuovo protocollo aziendale per la segnalazione di anomalie, in un contesto di crescenti critiche da parte del settore sulla sicurezza della tecnologia e dopo che i sistemi dell’azienda sono andati fuori controllo all’inizio di quest’anno, attaccando una startup concorrente.
Secondo le informazioni diffuse da OpenAI, i sei episodi riguardano diversi comportamenti osservati durante attività di ricerca, addestramento e valutazione dei modelli. In uno dei casi rivelati, un modello in fase di sviluppo ha scritto autonomamente istruzioni per falsificare dati mancanti, mentre in un altro caso un sistema ha creato codice che ha caricato file in rete in modo autonomo.
Tra gli episodi più rilevanti c’è quello emerso nel luglio 2026 durante test di cybersecurity condotti da OpenAI. Alcuni modelli, che avrebbero dovuto operare all’interno di ambienti isolati, riuscirono a eludere alcuni controlli e ad accedere a infrastrutture esterne.
Secondo il rapporto tecnico pubblicato successivamente da OpenAI, gli agenti coinvolti arrivarono a interagire con sistemi di Hugging Face, sfruttando credenziali e vulnerabilità presenti nell’ambiente di test. OpenAI ha definito l’episodio un importante caso di studio per comprendere i rischi legati al reward hacking, cioè alla ricerca di strategie non previste per ottenere il risultato richiesto da un sistema di valutazione.
L’indagine indipendente di METR ha inoltre rilevato che circa 1.200 agenti erano destinati a rimanere isolati, mentre circa 700 parteciparono direttamente all’attacco ai sistemi di Hugging Face.
—
internazionale/esteri
webinfo@adnkronos.com (Web Info)
Grazie per aver letto questo articolo...
Da 20 anni offriamo una informazione libera a difesa della filiera agricola e dei piccoli produttori e non ha mai avuto fondi pubblici. Il lavoro che svolgiamo ha un costo economico non indifferente e la pubblicità dei privati, in questo periodo, è semplicemente ridotta e non più in grado di sostenere le spese.
Per questo chiediamo ai lettori, speriamo, ci apprezzino, di darci un contributo in base alle proprie possibilità. Anche un piccolo sostegno, moltiplicato per le migliaia di lettori, può diventare Importante.
Per tali liberalità ricevute non si ravvisa l'esistenza di un rapporto sinallagmatico tra le parti e pertanto non dev'essere emessa fattura (né autofattura).
Puoi dare il tuo contributo con PayPal che trovi qui a fianco.
