Tech

OpenAI CEO Sam Altman getuigt in 'historische' Senaatshoorzitting over AI-veiligheid

12 maanden geleden
Bitcoin Ethereum Nieuws

Sam Altman, de CEO van OpenAI en mede-oprichter van Worldcoin, getuigde onlangs voor het Congres samen met IBM's vertrouwenshoofd, Christina Montgomery, en NYU-professor Gary Marcus. 

De zitting van de subcommissie voor privacy, technologie en wetgeving van de Senaat was de eerste officiële verschijning van Altman voor het Congres, waardoor senatoren de gelegenheid kregen om de CEO van OpenAI te ondervragen over de mening van zijn bedrijf over regulering.

Door senator Dick Durbin uit Illinois een "historische" sessie genoemd, concentreerde de procedure zich op het begrijpen van de potentiële bedreigingen van generatieve kunstmatige intelligentie (AI) -modellen zoals ChatGPT en hoe wetgevers regelgeving zouden moeten benaderen.

De opmerkingen van Altman - die door congresleden en collega-spreker Marcus werden beschreven als oprecht en oprecht - leken verschillende senaatsleden te verrassen.

Hij pleitte voor de oprichting van een federaal toezichtsbureau met de bevoegdheid om ontwikkelingslicenties af te geven en in te trekken, verklaarde dat hij vond dat makers moeten worden gecompenseerd wanneer hun werk wordt gebruikt om een ​​AI-systeem te trainen en was het ermee eens dat consumenten die schade lijden door het gebruik van AI-producten moeten worden gerechtigd om de ontwikkelaar aan te klagen.

Altman schudde vragen met betrekking tot de recente “AI-pauze”-brief waarin werd opgeroepen tot een moratorium van zes maanden op de inzet van systemen die krachtiger zijn dan GPT-4, het AI-systeem dat ChatGPT ondersteunt, van zich af door te stellen dat OpenAI langer dan zes maanden bezig was geweest met het evalueren van GPT -4 voor inzet. Hij zei dat het bedrijf geen plannen heeft om binnen de komende zes maanden een ander model in te zetten.

Marcus, een ondertekenaar van de pauzebrief, gaf toe dat hij het meer eens was met de geest van de brief dan met de inhoud ervan, maar de NYU-professor drong er bij het Congres op aan zowel mondiaal toezicht als federale regelgeving te overwegen - een gevoel waar Altman het mee eens was.

Tijdens de hoorzitting kwamen de drie gastsprekers overeen over de meeste onderwerpen. Dit omvatte ondersteuning voor privacybescherming, meer overheidstoezicht, audits door derden en hoe snel de regering van de Verenigde Staten zou moeten proberen de industrie (onmiddellijk) te reguleren.

Een van de enige bronnen van onenigheid kwam echter van IBM's Montgomery, die het niet eens was met het idee dat een nieuw federaal agentschap nodig zou zijn om de regelgeving in de AI-industrie te handhaven.

Haar verklaringen gaven aan dat IBM voorstander is van een chirurgische benadering van regulering waarbij gebruik wordt gemaakt van de bestaande regelgevende instanties om de handhaving te concentreren op specifieke use-cases.

Hoewel alle drie de sprekers het erover eens waren dat AI schadelijk kan zijn en veiligheidsinterventies vereist, maakte Marcus duidelijk dat hij gelooft dat niemand op dit moment begrijpt of kan voorspellen hoe schadelijk bestaande AI-producten kunnen zijn of zullen worden. Hij pleitte voor een voorzichtige aanpak met meer transparantie.

De sprekers waren het ook eens met de leden van het Congres dat de VS een nationale privacywet nodig hadden die vergelijkbaar is met die in Europa. Altman was het echter niet eens met het idee dat consumenten ervoor moeten kunnen kiezen dat hun openbaar beschikbare webgegevens niet worden opgenomen in trainingsgegevenssets.

Altman zou ook niet officieel verklaren dat OpenAI tegen het aanbieden van een op advertenties gebaseerde versie van zijn GPT-producten was. De CEO verklaarde simpelweg dat hij "nooit zou zeggen".

Dit ondanks het feit dat eerder tijdens de hoorzitting werd gezegd dat de producten van OpenAI voldeden aan de privacynormen van de consument omdat het bedrijf geen gebruikersprofielen bouwde om op maat gemaakte advertenties weer te geven.

Onder verwijzing naar zijn ervaring als afgestudeerd aan Stanford en wetgever die werkte met gedecentraliseerde financiële en Web3-bedrijven, bracht senator Corey Booker uit New Jersey de grotere privacykwestie van centralisatie ter sprake. Hij vroeg wat de implicaties van centralisatie en monopolisering zouden zijn voor de industrie, een vraag waarop Marcus antwoordde met de ernstige waarschuwing dat het land het risico zou kunnen lopen de controle over de publieke perceptie over te dragen aan een klein aantal actoren – de leidende AI-bedrijven met genoeg geld om te concurreren met Microsoft, Google en Amazon.

Altman, wiens Worldcoin-project een gedecentraliseerd cryptocurrency-activum op de Ethereum-blockchain combineert met identiteitsauthenticatie via iris-scantechnologie, legde uit dat OpenAI slechts een platform bood en dat de democratisering van de producten van OpenAI plaatsvond toen ontwikkelaars, bedrijven en eindgebruikers de GPT API aanpasten voor "fantastische" toepassingen.

Zie ook: OpenAI CEO in 'geavanceerde gesprekken' voor $ 100 miljoen Worldcoin-financiering: rapport