Een advocaat riskeert sancties nadat hij ChatGPT heeft gebruikt om een ​​briefing te schrijven die vol staat met valse citaten

Nu de hype rond AI de afgelopen maanden koortsachtig is geworden, vrezen veel mensen dat programma's als ChatGPT hen op een dag hun baan zullen ontnemen. Voor een advocaat uit New York zou die nachtmerrie sneller werkelijkheid kunnen worden dan verwacht, maar niet om de redenen die je zou denken. Zoals gemeld door , wendde advocaat Steven Schwartz van het advocatenkantoor Levidow, Levidow en Oberman zich onlangs tot de chatbot van OpenAI voor hulp bij het schrijven van een juridische briefing, met voorspelbaar desastreuze gevolgen.

Het bedrijf van Schwartz heeft de Colombiaanse luchtvaartmaatschappij Avianca aangeklaagd namens Roberto Mata, die beweert gewond te zijn geraakt tijdens een vlucht naar John F. Kennedy International Airport in New York City. Toen de luchtvaartmaatschappij onlangs een federale rechter vroeg om de zaak te seponeren, dienden Mata's advocaten een brief van 10 pagina's in waarin ze beargumenteerden waarom de rechtszaak doorgang moest vinden. Het document citeerde meer dan een half dozijn rechterlijke uitspraken, waaronder "Varghese v. China Southern Airlines", "Martinez v. Delta Airlines" en "Miller v. United Airlines." Helaas voor alle betrokkenen kon niemand die de brief las de gerechtelijke uitspraken vinden die door Mata's advocaten werden aangehaald. Waarom? Omdat ChatGPT ze allemaal heeft verzonnen. Oeps.

In een beëdigde verklaring die donderdag werd ingediend, zei Schwartz dat hij de chatbot had gebruikt als "aanvulling" op zijn onderzoek voor de zaak. Schwartz schreef dat hij "niet op de hoogte was van de mogelijkheid dat de inhoud van [ChatGPT] vals zou kunnen zijn." Hij deelde zelfs screenshots waaruit bleek dat hij ChatGPT had gevraagd of de genoemde gevallen echt waren. Het programma reageerde van wel en beweerde dat de beslissingen te vinden waren in "gerenommeerde juridische databases", waaronder Westlaw en LexisNexis.

Schwartz zei dat hij "grote spijt heeft" van het gebruik van ChatGPT "en dit in de toekomst nooit zal doen zonder absolute verificatie van de authenticiteit ervan." Of hij nog een kans krijgt om een ​​juridische brief te schrijven, hangt in de lucht. De rechter die toezicht houdt op de zaak heeft een hoorzitting op 8 juni bevolen om mogelijke sancties te bespreken voor de "ongekende omstandigheid" die is ontstaan ​​door de acties van Schwartz.