Smart contract bug bounty-platform Immunefi heeft 15 mensen verbannen omdat ze naar verluidt bugrapporten hadden ingediend die waren gemaakt door de generatieve kunstmatige intelligentie-tool ChatGPT.
Het whitehat hacker bounty-platform stond erop dat ChatGPT geen bugs kon identificeren omdat het geen technische mogelijkheden heeft buiten het beantwoorden van menselijke vragen.
ChatGPT mag Whitehat Report niet vervangen
Volgens Immunefi kunnen whitehats een snelle oplossing voor een softwarefout bespoedigen door het probleem in hun eigen woorden te beschrijven in plaats van met taalhulpmiddelen op basis van kunstmatige intelligentie.
Immunefi is een bug bounty-platform dat whitehats beloont voor het vinden van problemen met de slimme contracten die gedecentraliseerde financiële projecten zoals Aave, Samenstelling en Synthetix. In september 2022 had het platform whitehats $ 65 miljoen betaald, met nog eens $ 138 miljoen beschikbaar voor toekomstige uitbetalingen.
Eigenaars van softwareprojecten huren whitehats in om de software ethisch te testen veiligheid van hun product in ruil voor een beloning. Deze 'goede' hackers staan in contrast met blackhats, die op criminele wijze misbruik maken van beveiligingsfouten. Aan de andere kant vinden zogenaamde greyhats bugs zonder toestemming van de projecteigenaar.
Toch zei het bounty-platform dat alle echte bugs die door de tool worden gemarkeerd, via de juiste kanalen moeten worden gemeld.
ChatGPT gebruikt een groottalig model genaamd GPT-3 om op natuurlijke wijze met mensen te praten. De aaskaart is het vermogen om vragen te beantwoorden door zich meer te concentreren op de bedoeling van een vraag dan op de woorden. Voor de context rangschikken reguliere zoekmachines resultaten over het algemeen op basis van de kwantiteit en kwaliteit van links naar een webpagina.
Naar eigen zeggen betekent de soms bevooroordeelde trainingsgegevens van ChatGPT dat de antwoorden vaak gezond verstand en context missen. Bovendien kan de articulatie ervan soms informatie van lage kwaliteit verfraaien. Onlangs een moderator op het programmeerforum StackOverflow bevestigd dat de gepolijste presentatie van de tool vaak met succes onnauwkeurige antwoorden verbergt.
Net als Immunefi verbood StackOverflow ChatGPT-reacties van zijn platform.
Ondanks deze flagrante beperkingen, de CEO van OpenAI, het bedrijf achter ChatGPT, heeft er alle vertrouwen in dat de tool zal uitgroeien tot een competente werkplektool.
"We kunnen ons een 'AI-kantoormedewerker' voorstellen die verzoeken in natuurlijke taal opneemt zoals een mens dat doet," zei Sam Altman in een blogpost vorig jaar. Het slimme contractcontroleplatform CertiK merkte op dat het platform niet 'half slecht' was in het vinden van bugs. Tegelijkertijd zou de Canadese software-engineer Tomiwa Aswmidum de tool met succes hebben gebruikt om een crypto portemonnee door het cryptografische regels te leren.
dogecoin promotor en CEO van Tesla Elon Musk zei in december 2022 dat de AI van ChatGPT "eng goed" is, terwijl Next47-venture capitalist Kate Reznykova wees op ChatGPT's duizelingwekkende acceptatiegraad van een miljoen gebruikers in slechts vijf dagen.
Altman heeft echter gewaarschuwd om niet te veel te lezen over de ontwikkelingsmogelijkheden van ChatGPT, noemde het een "voorproefje van de voortgang" en voegde eraan toe dat het niet mag worden gebruikt voor iets dat essentieel is voor de missie.
Het is een vergissing om te zijn erop vertrouwen voor alles wat belangrijk is op dit moment, 'zei hij zei.
Voor Be[In]Crypto's nieuwste Bitcoin (BTC) analyse, klik hier.
Disclaimer
BeInCrypto heeft contact opgenomen met het bedrijf of de persoon die betrokken is bij het verhaal om een officiële verklaring over de recente ontwikkelingen te krijgen, maar het heeft nog niets gehoord.
Bron: https://beincrypto.com/chatgpt-cant-help-you-with-white-hat-reports/