De Australische regering is een onverwachte raadplegingsperiode van acht weken gestart om te bepalen of bepaalde "risicovolle" kunstmatige intelligentie (AI) -tools moeten worden verboden. Deze stap volgt op soortgelijke maatregelen die zijn genomen door andere regio's, waaronder de Verenigde Staten, de Europese Unie en China, om de risico's aan te pakken die gepaard gaan met de snelle ontwikkeling van AI.
Op 1 juni onthulde minister van Industrie en Wetenschap Ed Husic twee papers voor openbare beoordeling: een over "Veilige en verantwoorde AI in Australië" en een andere over generatieve AI van de National Science and Technology Council. Deze papers werden vrijgegeven tijdens een consultatieperiode die loopt tot 26 juli.
De Australische regering zoekt feedback over strategieën om het "veilige en verantwoorde gebruik van AI" te bevorderen, en onderzoekt opties zoals vrijwillige ethische kaders, specifieke regelgeving of een combinatie van beide benaderingen. Met name wordt in de raadpleging rechtstreeks gevraagd of bepaalde AI-toepassingen of -technologieën met een hoog risico volledig moeten worden verboden en wordt input gevraagd over de criteria voor het identificeren van dergelijke tools.
Het uitgebreide discussiedocument bevat een conceptrisicomatrix voor AI-modellen, waarin zelfrijdende auto's worden gecategoriseerd als "hoog risico" en generatieve AI-tools voor het maken van medische patiëntendossiers als "gemiddeld risico". Het document benadrukt zowel de positieve toepassingen van AI in sectoren als geneeskunde, techniek en recht, als de potentiële schade die gepaard gaat met deepfake-tools, het genereren van nepnieuws en gevallen waarin AI-bots zelfbeschadiging hebben aangemoedigd.
Australische regering versus AI
Bezorgdheid over vooringenomenheid in AI-modellen, evenals het genereren van onzinnige of valse informatie die bekend staat als "hallucinaties" door AI-systemen, komen ook aan de orde in de discussienota. Het erkent dat de acceptatie van AI in Australië momenteel beperkt is vanwege het lage vertrouwen van het publiek. De paper verwijst naar AI-regelgeving die in andere rechtsgebieden is geïmplementeerd en het tijdelijke verbod op ChatGPT in Italië als voorbeelden.
Bovendien benadrukt het rapport van de National Science and Technology Council de voordelige capaciteiten van Australië op het gebied van robotica en computervisie, maar merkt het relatieve zwakheden op in kerngebieden zoals grote taalmodellen. Het geeft aanleiding tot bezorgdheid over de concentratie van generatieve AI-bronnen in een klein aantal overwegend in de VS gevestigde technologiebedrijven, wat potentiële risico's voor Australië met zich meebrengt.
Het rapport onderzoekt verder de wereldwijde AI-regelgeving, geeft voorbeelden van generatieve AI-modellen en suggereert dat dergelijke modellen waarschijnlijk verstrekkende gevolgen zullen hebben voor sectoren variërend van het bankwezen en de financiële wereld tot openbare diensten, onderwijs en creatieve industrieën.
Bron: https://www.cryptopolitan.com/australian-government-on-ai-consultation/