Un avocat australian a fost nevoit să prezinte scuze oficiale după ce a utilizat concluzii generate de inteligență artificială care conțineau citate și hotărâri judecătorești inventate. Incidentul a avut loc într-un dosar penal de la Curtea Supremă din statul Victoria.
Rishi Nathwani, avocat apărării deținând titlul prestigios de King’s Counsel, a recunoscut că a depus informații eronate în numele unui minor acuzat de crimă. El și-a asumat întreaga responsabilitate și a declarat că echipa sa este „profund jenată” de situație.
Materialele false includeau referințe la discursuri și precedente juridice inexistente, iar greșelile au fost descoperite de către oficialitățile instanței care nu au reușit să identifice sursele menționate. Avocații au explicat ulterior că au verificat parțial conținutul, dar au presupus în mod eronat că toate elementele erau corecte.
Ca urmare, soluționarea cauzei a fost amânată cu o zi, iar magistratul James Elliott a evidențiat că acuratețea materialelor depuse de avocați este esențială pentru buna funcționare a justiției. Deși adolescentul a fost în final găsit nevinovat din cauza unor probleme mintale, incidentul a stârnit discuții serioase cu privire la utilizarea tehnologiei în practica juridică.
Instanța a reamintit că există reguli clare privind utilizarea inteligenței artificiale, care impun verificarea independentă a oricărui conținut generat automat. Este cel puțin a doua oară când astfel de instrumente duc la erori grave în documente juridice, după un caz similar din Statele Unite din anul trecut, unde avocații au primit amenzi pentru prezentarea unor cercetări fictive.
Procurorul Daniel Porceddu, care a primit și el materialele false, nu a verificat conținutul, ceea ce a amplificat gravitatea situației. Instanțele din întreaga lume încep să emită avertismente clare cu privire la riscurile dezinformării generate de instrumente automate, subliniind că acest lucru poate afecta încrederea publică în sistemul de justiție.
