Un avocat australian a fost nevoit să-și prezinte scuze oficiale după ce a depus la tribunal un memoriu conținut referințe juridice inventate de un algoritm. Cazul a avut loc la Curtea Supremă din Victoria, unde instrumentele de inteligență artificială au produs decizii și citate inexistente, amânând cu o zi soluționarea unei cause penale.
Deținătorul titlului de King’s Counsel, Rishi Nathwani, și-a asumat responsabilitatea pentru prezentarea de informații eronate în dosarul unui minor acuzat de crimă. „Exprimați profunde regretări și stânjeneală”, a declarat avocatul în fața judecătorului James Elliott.
S-a descoperit că software-ul folosit a generat citate din discursuri parlamentare inexistente și a inventat precedente judiciare fictive. Asistenții judecătorului au identificat discrepanțele atunci când nu au reușit să localizeze sursele menționate. Echipa de apărare a recunoscut că unele dintre referințe erau pur imaginare.
Deși primul set de citate a fost verificat manual, restul au fost presupuse a fi corecte fără o validare suplimentară. Acest lucru a condus la amânarea sentinței, tribunalul necesitând timp pentru clarificări.
În ciuda acestor incidente, tribunalul a achitat tânărul acuzat, pe motiv de tulburări psihice. Judecătorul Elliott a subliniat că „încrederea instanței în exactitatea materialelor prezentate de avocați este esențială pentru administrarea corectă a justiției”. El a reamintit că în 2023 Curtea Supremă a emis recomandări specifice privind utilizarea tehnologiei generative în practica juridică, insistând asupra verificării independente a oricărui conținut produs de inteligența artificială.
Acest caz nu este izolat. Anul trecut, un tribunal federal american a amendat doi avocați care utilizaseră ChatGPT pentru a produce cercetări fictive într-un dosar de despăgubiri. De asemenea, foștii avocați ai lui Donald Trump au introdus în dosare decizii inventate de algoritmi.
Mai mult, Înalta Curte din Marea Britanie a emis avertismente clare: furnizarea de documente false poate constitui ofensă adusă instanței sau chiar obstrucționarea justiției, infracțiuni pedepsite cu închisoare pe viață în cele mai grave cazuri.
Expertiza juridică automatizată ridică semne de întrebare serioase cu privire la securitatea și fiabilitatea sistemului de justiție, mai ales atunci când este folosită fără suficiente verificări umane.
