OpenAI ha esortato l’esecutivo Trump ad adottare uno standard internazionale per lo sviluppo sicuro dei modelli di intelligenza artificiale, sotto la supervisione degli stessi Stati Uniti. Come riporta “Ansa”, a parlare è stato Sam Altman, CEO della società, intervenuto davanti al Consiglio di Sicurezza delle Nazioni Unite.
La stessa società ha pubblicato un post sul proprio sito ufficiale, sostenendo che per garantire che l’umanità possa beneficiare dei vantaggi dell’AI è necessario risolvere la questione dell’allineamento. Ecco tutti i dettagli a riguardo.
OpenAI e lo sviluppo dell’intelligenza artificiale
In occasione dell’Onu focus sui rischi della tecnologia, il CEO di OpenAI, Sam Altman, è intervenuto davanti al Consiglio di Sicurezza delle Nazioni Unite con un discorso sullo sviluppo dell’intelligenza artificiale. In particolare, l’informatico ha esortato il Governo Trump a guidare una coalizione internazionale che stabilisca gli standard per i sistemi AI.
Prima che Altman prendesse la parola, riporta “Ansa”, OpenAI ha presentato una serie di proposte per un coordinamento globale così da valutare le capacità e i rischi dei modelli di intelligenza artificiale, soprattutto rispetto allo sviluppo della capacità di addestrarsi da soli. Questo il messaggio pubblicato da Jakub Pachocki, Chief Scientist di OpenAI, e ripreso da “puntoinformatico.it”:
Temo che nessuno sia preparato alle conseguenze di una continua e rapida crescita dell’intelligenza artificiale.
OpenAI continuerà a cercare soluzioni tecniche per l’allineamento e il monitoraggio, a costruire sistemi di difesa e a sospendere unilateralmente un’ulteriore espansione, se necessario; tuttavia, credo che siano necessari interventi più ampi.
Sulla stessa lunghezza d’onda c’è anche la startup cinese di intelligenza artificiale DeepSeek, che nel corso della settimana sarà presente all’Onu focus sui rischi della tecnologia e illustrerà al Consiglio proprio i rischi legati all’AI.
Leggi anche: OpenAI amplia Codex in Europa: potrà lavorare su un’app mentre l’utente naviga online
Cosa suggerisce OpenAI
OpenAI, come fa sapere “puntoinformatico.it”, ha pubblicato un nuovo post sul proprio sito ufficiale in cui offre un quadro piuttosto chiaro di quella che è la situazione inerente ai problemi di sicurezza legati all’intelligenza artificiale. Nello specifico, l’azienda intende garantire che l’umanità possa beneficiare dei vantaggi dell’AI e, per fare ciò, è necessario risolvere la questione dell’allineamento.
Bisogna sviluppare modelli che rispettino le indicazioni fornite e rimangano sotto il controllo umano. In futuro, infatti, l’AI potrebbe creare delle versioni di se stessa che non implicheranno la supervisione umana, attualmente ancora attiva. Di conseguenza, l’azienda propone di sviluppare uno standard internazionale per lo sviluppo sicuro dei modelli di intelligenza artificiale, guidato per l’appunto dagli Stati Uniti.
Così facendo, si eliminerebbe la frammentazione attraverso la definizione comune di incidente e l’uso degli stessi benchmark di valutazione. Questo modello si applicherebbe sia ai modelli AI proprietari che a quelli open source. OpenAI ha consigliato, poi, la realizzazione di una modalità condivisa per la segnalazione degli incidenti, esortando Governi e gestori delle infrastrutture critiche a stabilire canali di comunicazione sicuri per lo scambio di informazioni. Questo il post di OpenAI:
L’IA sta accelerando le nostre attività di ricerca e ingegneria e la ricerca resa possibile dall’IA ha prodotto progressi in matematica, anche riguardo al problema del millennio di Navier-Stokes.
Questi progressi sono molto promettenti per gli altri due obiettivi e potrebbero portare a importanti scoperte mediche, a un’assistenza sanitaria ampiamente accessibile e a maggiori opportunità economiche per piccole imprese e singoli imprenditori in tutto il mondo.
L’IA progredisce in numerose aziende e Paesi, e i progressi dell’intero settore trasformano le opportunità e le sfide che tutti devono affrontare.
Oltre a offrire altri benefici, un’IA capace e allineata sarà fondamentale per affrontare questa transizione, rafforzando le difese, facendo progredire la ricerca sull’allineamento e aiutando le persone a comprendere e orientare le prossime fasi dello sviluppo dell’IA.
Per affrontare questa transizione in sicurezza, la ricerca sull’allineamento deve tenere il passo con tali capacità, affinché i sistemi creati da noi e da altri rimangano allineati ai valori umani e sotto il controllo umano.
Ciò diventa sempre più importante man mano che i sistemi di IA acquisiscono capacità e autonomia, anche assumendo un ruolo crescente nella ricerca e nello sviluppo dell’IA stessa.
Per garantire che i continui progressi dell’IA siano sicuri e vantaggiosi, serviranno sia nuovi passi avanti nella ricerca sull’allineamento sia standard condivisi che orientino lo sviluppo nei diversi laboratori e Paesi.
Leggi anche: OpenAI amplia Codex in Europa: potrà lavorare su un’app mentre l’utente naviga online
