Il CEO di OpenAI, che produce ChatGPT, ha dichiarato al Congresso che l’intervento del governo “sarà fondamentale per mitigare i rischi di sistemi di intelligenza artificiale sempre più potenti”.
Il capo della società di intelligenza artificiale che produce ChatGPT ha dichiarato martedì al Congresso che l’intervento del governo “sarà fondamentale per mitigare i rischi di sistemi di intelligenza artificiale sempre più potenti”.
“Con l’avanzare di questa tecnologia, comprendiamo che le persone sono ansiose di come potrebbe cambiare il modo in cui viviamo. Lo siamo anche noi “, ha testimoniato il CEO di OpenAI Sam Altman in un’udienza al Senato martedì.
Altman ha proposto la formazione di un’agenzia statunitense o globale che avrebbe concesso in licenza i più potenti sistemi di intelligenza artificiale e avrebbe avuto l’autorità di “togliere quella licenza e garantire il rispetto degli standard di sicurezza”.
Questo avviene solo pochi giorni dopo che il capo della ricerca per IA di Google lascia l’azienda per i rischi esistenziali legati all’intelligenza artificiale
La sua startup con sede a San Francisco è balzata all’attenzione del pubblico dopo aver rilasciato ChatGPT alla fine dell’anno scorso. ChatGPT è uno strumento chatbot gratuito che risponde alle domande con risposte convincenti simili a quelle umane.
Quello che è iniziato come panico tra gli educatori sull’uso di ChatGPT per imbrogliare sui compiti a casa si è esteso a preoccupazioni più ampie sulla capacità dell’ultimo raccolto di strumenti di “IA generativa” di fuorviare le persone, diffondere falsità, violare le protezioni del copyright e cancellare posti di lavoro.
E mentre non vi è alcun segnale immediato che il Congresso creerà nuove regole radicali sull’IA, come stanno facendo i legislatori europei, le preoccupazioni della società hanno portato Altman e altri amministratori delegati della tecnologia alla Casa Bianca all’inizio di questo mese e hanno portato le agenzie statunitensi a promettere di reprimere l’IA dannosa che produca oggetti o contenuti che violano i diritti civili esistenti e le leggi sulla protezione dei consumatori.
Il senatore Richard Blumenthal, il democratico del Connecticut che presiede la sottocommissione sulla privacy, la tecnologia e la legge del comitato giudiziario del Senato, ha aperto l’udienza con un discorso registrato che imitava la voce del senatore, ma in realtà era un clone della voce addestrata sui discorsi di Blumenthal e recitava un discorso scritto da ChatGPT dopo aver chiesto al chatbot di comporre il suo discorso di apertura.
Blumenthal ha affermato che le aziende di intelligenza artificiale dovrebbero essere tenute a testare i propri sistemi e rivelare i rischi noti prima di rilasciarli, e ha espresso particolare preoccupazione su come i futuri sistemi di intelligenza artificiale potrebbero destabilizzare il mercato del lavoro.
Spinto dalla sua peggiore paura nei confronti dell’intelligenza artificiale, Altman ha evitato per lo più i dettagli. Ma in seguito ha proposto che una nuova agenzia di regolamentazione dovrebbe imporre salvaguardie che bloccherebbero i modelli di intelligenza artificiale che potrebbero “auto-replicarsi e auto-esfiltrarsi in natura” – accennando a preoccupazioni futuristiche sui sistemi di intelligenza artificiale avanzati che potrebbero manipolare gli esseri umani per cedere il controllo.
Co-fondato da Altman nel 2015 con il sostegno del miliardario tecnologico Elon Musk con una missione incentrata sulla sicurezza, OpenAI si è evoluto da un laboratorio di ricerca senza scopo di lucro in un’azienda. I suoi altri famosi prodotti AI, incluso il creatore di immagini DALL-E. Microsoft ha investito miliardi di dollari nella startup e ha integrato la sua tecnologia nei propri prodotti, incluso il suo motore di ricerca Bing.
Altman ha anche in programma di intraprendere un tour mondiale questo mese nelle capitali nazionali e nelle principali città di sei continenti per parlare della tecnologia con i responsabili politici e il pubblico. Alla vigilia della sua testimonianza al Senato, ha cenato con dozzine di legislatori statunitensi, molti dei quali hanno detto alla CNBC di essere rimasti colpiti dai suoi commenti.
A testimoniare c’erano anche il chief privacy and trust officer di IBM, Christina Montgomery, e Gary Marcus, professore emerito alla New York University che faceva parte di un gruppo di esperti di intelligenza artificiale che hanno invitato OpenAI e altre aziende tecnologiche a sospendere lo sviluppo di modelli di intelligenza artificiale più potenti per sei mesi per dare alla società più tempo per considerare i rischi. La lettera era una risposta al rilascio di marzo dell’ultimo modello di OpenAI, GPT-4, descritto come più potente di ChatGPT.
“L’intelligenza artificiale sarà trasformativa in modi che non possiamo nemmeno immaginare, con implicazioni per le elezioni, i posti di lavoro e la sicurezza degli americani”, ha affermato il repubblicano di rango del panel, il senatore Josh Hawley del Missouri. “Questa udienza segna un primo passo fondamentale verso la comprensione di ciò che il Congresso dovrebbe fare”.
Un certo numero di leader del settore tecnologico ha affermato di accogliere con favore una qualche forma di supervisione dell’IA, ma ha messo in guardia contro quelle che considerano regole eccessivamente pesanti. In una copia delle sue osservazioni preparate, Montgomery di IBM chiede al Congresso di adottare un approccio di “regolamentazione di precisione” e non è d’accordo con le proposte di Altman e Marcus per un regolatore incentrato sull’intelligenza artificiale.
“Ciò significa stabilire regole per governare l’implementazione dell’IA in casi d’uso specifici, non regolare la tecnologia stessa”, ha affermato Montgomery.