Un avocat australian a fost nevoit să se retragă și să-și exprime regretul profund în fața instanței, după ce a utilizat concluzii elaborate cu ajutorul inteligenței artificiale care conțineau referințe juridice inventate.
Rishi Nathwani, avocat cu titlul prestigios de King’s Counsel, a recunoscut că a depus un memoriu în care erau incluse citate false, atribuite unor decizii judecătorești care nu există în realitate. Acesta și-a asumat întreaga responsabilitate pentru incident, care a avut loc într-un dosar penal deschis pentru un minor acuzat de crimă.
„Ne pare extrem de rău și ne simțim stânjeniți de cele întâmplate”, a declarat Nathwani în fața Judecătorului James Elliott de la Curtea Supremă din Victoria.
Problema a fost descoperită de către echipa juridică a instanței, care, în încercarea de a verifica sursele, a constatat că unele dintre citări pur și simplu nu existau în bazele de date oficiale. Deși unele referințe erau corecte, altele au fost generate automat de algoritm, fără a corespunde realității.
Ca urmare, soluționarea cauzei a fost amânată cu o zi, iar judecătorul a subliniat că acuratețea informațiilor prezentate de avocați este esențială pentru buna funcționare a sistemului juridic.
„Este inacceptabil să folosiți instrumente de inteligență artificială fără a verifica independet și temeinic conținutul produs”, a afirmat Elliott, amintind că instanța a emis anul trecut îndrumări specifice privind utilizarea tehnologiei în practica juridică.
Acest caz nu este izolat. În Statele Unite, de exemplu, doi avocați au fost amendați pentru prezentarea unor documente conținând cercetări fictive generate de ChatGPT. De asemenea, și în Marea Britanie au fost semnalate situații similare, ceea ce a determinat autoritățile să emită avertismente clare cu privire la riscurile dezinformării prin intermediul tehnologiei.
Utilizarea necritică a inteligenței artificiale în domeniul juridic poate avea consecințe grave, inclusiv erori judiciare și subminarea încrederii publice în sistemul de justiție. Expertii avertizează că, deși tehnologia poate fi un auxiliar valoros, ea nu poate înlocui rigoarea și responsabilitatea profesională a juriștilor.
