“The problem of hallucinations has not been solved,” he said in a speech to the Australian Bar Association in late August. “Fictitious case names, misquoted legislation and false principles are being put forward in the courts.
“Lawyers have been disciplined in most jurisdictions, including Australia, for relying on hallucinatory AI content.
“Without transparency, accountability, and oversight, these systems risk perpetuating the very injustice they seek to solve.”
Matthew McMillan, attorney at Lander & Rogers Technology
“AI hallucinations remind us that accurate, reliable, and critical legal analysis is still a human-only capability at this time.”
Un tikai pirms dažām nedēļām vēl viena augsta līmeņa lieta, kas atkārtojās caur tiesību sistēmu. Iesniegumi, ko Viktorijas Augstākajā tiesā iesniegtie atbildētāji iesniedza, saturēja safabricētas pēdiņas un AI radītie neeksistējošie spriedumislepkavības lietā. Atbildētāja advokāts sacīja tiesnesim Džeimsam Elliotam, ka viņam ir “ļoti žēl un samulsis”. BLUNDER aizkavēja procesu un noveda pie trešās koriģēto iesniegumu kārta.
“Nav pieņemami, ja AI tiek izmantots, ja vien šīs lietošanas produkts nav neatkarīgi un rūpīgi pārbaudīts,” Elliots sacīja Melburnā Augstākajai tiesai.
Tagad Austrālijas tiesās ir bijuši vairāk nekā ducis gadījumu Austrālijas dokumentos, kas satur nepatiesas atsauces.
Neatkarīgi no tā, vai mēs esam gatavi vai nē, ģeneratīvā AI ir ātri pārpludinājusi Austrālijas darba vietas un klases telpās, un tā ir iekļuvusi arī mūsu tiesas zālē.
Tas rada jautājumu: cik lielā mērā mūsu tieslietu sistēma vispār jāļauj AI, halucinācijas? Un vai AI galu galā vajadzētu izmantot žetonu?
AI tiesneša izredzes vairs nav zinātniskās fantastikas lietas. Igaunija jau ir izmēģinājusi AI sistēmu, lai atrisinātu nelielu prasību strīdus, kas mazāki par 7000 eiro (USD 12000). Singapūras tiesas eksperimentē ar AiSisted šķīrējtiesu, lai atskanētu aizkavēšanos.
Nākamā mēneša SXSW Sidnejā advokātu birojs Lander & Rogers iestudēs provokatīvu eksperimentu: izdomāts augstas likmes piesavināšanās lieta, kas noteikta 2035. gadā, kurā AI tiesnesis sver pierādījumus, novērtēs publisko noskaņojumu, izmantojot algoritmus un piegādājot teikumu. Sesiju vadīs Lander & Rogers izpilddirektors Courtney Blackman, kurš pagājušajā gadā vadīja izspēles tiesas procesu, kurā piedalījās AI advokāti.
Ellen Skinner ir sēdošs tiesnesis un ir Jaunās Dienvidvelsas Bērnu tiesas prezidente. Viņa pievienosies Oksfordas apmācītam ētikai un tehnoloģiju advokātam, debatējot par AI spriedumu scenārija beigās. Viņa saka, ka ir pienācis laiks runāt par to, kāda loma cilvēku tiesnešiem būs nākotnē un kā tiesu vara var saglabāt sabiedrības uzticību, ja lēmumi pieņem mašīnas.
“Tā kā mākslīgais intelekts sāk ietekmēt katru sabiedrības stūri, ir svarīgi diskutēt par tā lomu mūsu tieslietu sistēmā,” viņa saka.
Lander & Rogers Technology advokāts Metjū Makmilans sēž arī uz paneļa. Viņš saka, ka AI sistēmām ir ievērojams potenciāls, lai nodrošinātu lielāku piekļuvi taisnīgumam, padarītu juridiskos procesus efektīvākus un samazinātu cilvēku neobjektivitāti.
Ar pienācīgu cilvēku pārraudzību AI var atbalstīt taisnīgāku tiesību sistēmu, viņš saka.
“Šī cilvēku pārraudzība tomēr ir būtiska uzticības jautājumam. Piemēram, daudzas pašreizējās sistēmas ir apmācītas vēsturiskos datos, kas var atspoguļot sistemātiskus aizspriedumus. Tātad, bez caurspīdīguma, atbildības un pārraudzības, šīs sistēmas riskē saglabāt ļoti netaisnību, kuru viņi vēlas atrisināt.
“Juridiskā spriešana, kas bieži ietver kontekstu un morālu spriedumu, ir sarežģīta, cilvēcīga un to nevar pilnībā uztvert mašīnas neatkarīgi no tā, cik inteliģenti tās ir. Lai arī AI ir gudra, tā vismaz pagaidām paliek cilvēka domāšanas tuvināšana.”
Visām jautājuma zīmēm, kas saistītas ar halucinācijām, ētiku un precizitāti, AI rīki ir ātri izmantojuši Austrālijas augstākā līmeņa tiesību birojos un viņu klientiem.
Silīcija ielejas likumīgais AI jaunuzņēmums Hārvijs, kuru līdzdibinājis bijušais Kalifornijas tiesnesis Vinstons Veinbergs, ir parakstījis trešdaļu Austrālijas augstākā līmeņa uzņēmumu, ieskaitot King & Wood Mallesons, Ashurst, Gilbert + Tobin un Arnold Bloch Leibler, tā AI risinājumu, kas nodrošina tūlītēju analīzi un datu apstrādi likumdevējiem. Tas tikko atvēra Sidnejas biroju, kur plāno nolīgt 15 cilvēkus.
Veinbergs saka, ka reālais AI taisnīguma potenciāls ir zemu likmju gadījumos, vismaz pagaidām. Viņš domā, ka šāda sistēma varētu darboties Austrālijā.
“Iedomājieties, ka divas puses piekrīt iesniegt nelielu prasību AI šķīrējtiesnesim,” viņš saka. “Abas puses izvirzīja viņu argumentus, AI pieņēma lēmumu, un, ja kāds no tiem nepiekrīt, viņi var pārsūdzēt. Tas var paātrināt un atcelt daudz tiesību sistēmas, bet es domāju, ka realitāte ir tāda, ka ļoti lielām likmēm ir lietas, kuras vēlaties jūsu vienaudžu žūrijai.”
Tas ir pragmatisks redzējums: nevis robotu tiesneši Augstākās tiesas slepkavības izmēģinājumos, bet gan programmatūras atrisināšana autostāvvietu spārnu benders vai namīpašnieka un īrnieku spats.
Anglija un Velsa nesen tiesnešiem deva ierobežotu AI izmantošanu, lai gan tikai viedokļu rakstīšanai, nevis pētījumiem vai lēmumu pieņemšanai. Saskaņā ar šo sistēmu AI var palīdzēt ar dokumentiem, bet tas neizlemj vainu vai nevainību.
Austrālijas Tieslietu pārvaldes institūts nesenā ziņojumā uzsvēra, ka AI rīkiem jāatbilst profesijas augstākajiem pārredzamības un atbildības standartiem. Tas nozīmē zināt, kā algoritms sasniedza secinājumu, kas ir kaut kas tāds, kas joprojām ir melna kaste lielākajai daļai lielo valodu modeļu.
Proponents suggest that AI could one day bring consistency to the bench. A study by the University of Chicago replicated a 2015 experiment involving 31 U.S. federal judges, now comparing them to Openai GPT-4O. The judges were swayed by emotional representations of defendants 65 percent of the time, even when precedent dictated otherwise. The AI, by contrast, remained uninfluenced and was guided solely by precedent. The researchers dubbed the AI a “formalist judge,” noting that its approach was more akin to that of law students than experienced lawyers.
Despite the risks, the momentum has built and feels undeniable, at least for research and low-level tasks.
Anthony Curtin, managing partner at Merton Lawyers, says that every time he interviews a graduate, lawyer or partner, he expects them to demonstrate curiosity and a willingness to embrace AI.
“This will revolutionize our industry, and if you protect its application, then you will lose,” he says.
“Every lawyer and law student should check out these platforms. They’re not perfect yet, but their impact is already significant and accelerating. Without understanding this shift, you risk being behind the eight ball in hiring and career progression.”
Loading
“We as an industry need to embrace this and enjoy it. We are at a turning point in life, in technology and in how we operate. One day we will look back with nostalgia and be proud to have been at the forefront of this important shift.”
Silicon Valley startup Harvey claims its AI technology saves lawyers 13 to 25 hours per month on research and drafting. For larger firms that integrate AI into custom workflows, that number can increase to more than 80 hours.
At a time when governments are desperately trying to increase national productivity, these numbers are hard to ignore.
Junior lawyers can spend less of their careers searching for case law and more time in court or advising clients, Weinberg says.
For Judge Ellen Skinner, AI is already shaping the industry, and there is no turning back.
“Exploring whether machines can or should accept punishment forces us to confront the values we want in future legal frameworks,” she says.
“It’s a conversation we need to have now, before AI is too embedded in our courtrooms.”
The Business Briefing newsletter delivers top stories, exclusive coverage and expert opinion. Sign up to receive it every weekday morning in the Area
