Er draugur í vélinni? Hugleiðingar um aðkomu gervigreindar að mannlegri ákvarðanatöku*

/ ulfljotur

Eftir Odd Þorra Viðarsson, héraðsdómara.

Sækja pdf-útgáfuDownload

* Grein þessi hefur verið ritrýnd og staðist þær fræðilegu kröfur sem gerðar eru samkvæmt reglum Vefrits Úlfljóts.

Efnisyfirlit

1 Inngangur
2 Eðli gervi- eða spunagreindar
3 Lögfræðikunnátta gervigreindarinnar um þessar mundir
4 Takmörk aðkomu tölvuforrita að mannlegri ákvarðanatöku
5 Lokaorð
Heimildaskrá

1 Inngangur[1]

Þann 27. apríl 1997 ritaði stórmeistarinn Margeir Pétursson grein í Morgunblaðið í tilefni af yfirvofandi einvígi þáverandi heimsmeistarans í skák, Garry Kasparov, og ofurtölvunnar Dimmblár (e. Deep Blue).[2] Um líkleg úrslit sagði í greininni:

„Það er ekki annað hægt en að dást að þeim vísindamönnum sem berjast fyrir þeirri göfugu hugsjón að tölvur geti leyst mannsheilann af hólmi við ákvarðanatöku. Þegar hefur verið eytt meira fé í tölvuskák en mannlega skáklist í þau 5000 ár samanlagt sem tafl hefur verið stundað. En það virðist sama hversu mikla reikniorku tölvuforritin fá, þau eiga langt í land með að skáka mannlegu innsæi.“

Óhætt er að segja að sigur Dimmblárrar tveimur vikum síðar – með 3,5 vinningum gegn 2,5 vinningum Kasparov – hafi verið mannkyninu áfall. Margir áttu erfitt með að sætta sig við það að kaldir útreikningar tölvunnar hefðu skákað mannlegu innsæi og kallaði Newsweek einvígið t.d. úrslitavörn hugans (e. The Brain‘s Last Stand). Svartsýnustu menn spáðu því að þessi tímamót gætu markað endalok skáklistarinnar þar sem áhugi fólks myndi dvína eftir því sem tölvurnar yrðu ósigrandi. Hlyti það ekki að leiða til þess að þátttaka mannfólks yrði í raun óþörf?

Þrátt fyrir bölsýnisraddirnar um aldamótin hefur skákin líklega aldrei notið meiri vinsælda en nú. Milljónir manna tefla hver við annan á vefnum á degi hverjum og annar eins fjöldi glápir á aðra tefla í gegnum streymisveitur. Færri kæra sig hins vegar um að fylgjast með sterkustu skáktölvum heims etja kappi sín á milli. Og langfæstir skákmenn velja að tefla við tölvu þegar andstæðingur af holdi og blóði er í boði. Hvers vegna skyldi það vera?

Koma svonefndrar gervigreindar eða spunagreindar (e. generative artificial intelligence) fram á sjónarsviðið hefur sannarlega verið vatn á myllu „þeirrar hugsjónar að tölvur geti leyst mannsheilann af við ákvarðanatöku“, eins og Margeir orðaði það. Því er jafnvel spáð að gervigreindin muni að einhverju leyti koma í stað lögfræðinga eða að minnsta kosti leika stórt hlutverk við lagasmíð og lagaframkvæmd og jafnvel skera úr um réttindi manna og skyldur að lögum. Hér verða færð rök fyrir þeirri afstöðu að slíkar raddir séu fyrir það fyrsta ótímabærar en jafnframt óraunhæfar með hliðsjón af eðli gervigreindarinnar, laga og lögfræðinnar.

2 Eðli gervi- eða spunagreindar

Áður en lengra er haldið er rétt að koma á framfæri nokkrum staðreyndum um eðli fyrirbærisins gervi- eða spunagreindar eins og það birtist okkur um þessar mundir. Hugtökin eru fyrst og fremst notuð um tölvuforrit sem hafa verið mötuð á gríðarlegu magni af texta sem mannfólkið hefur samið og þróuð til að líkja eftir honum. Þessi tegund forrita er gjarnan nefnd mállíkan (e. large language model, LLM). Rétt er að taka fram að þetta er aðeins eitt form þess sem nú er kallað gervigreind en ályktanirnar sem fylgja hér á eftir eiga að meginstefnu við um allar tegundir tölvuforrita.

Ör framþróun í smíð þessara forrita hefur leitt til þess að þau herma nú nokkuð vel, og stundum afar vel, eftir mannlegri tjáningu og jafnvel þannig að erfitt getur verið að greina á milli við fyrstu sýn. Þetta er almennt framfaraskref en hefur þó leitt til ákveðins misskilnings um eðli þessara forrita og virðast æði margir álíta að þau styðjist við sjálfstæða hugsun sem svipi jafnvel til mannshugans. Svo er hins vegar ekki. Spunagreindarforritin eru hönnuð til að bregðast við innslætti og skipunum notandans í samræmi við forritunarkóðann sem liggur þeim að baki, ekki ósvipað því þegar við notum reiknivél til að leggja saman eða margfalda utan þeirra marka sem hugarreikningi okkar eru sett.

Jafnvel þótt forritin virðist á yfirborðinu eiga í samtali við notandann, og viðmót þeirra sett upp í nokkurs konar samtalsform, er ekki um eiginleg samtöl að ræða þegar manneskja notar gervigreindarforrit. Forrit getur ekki tekið þátt í samtali í sama skilningi og manneskja þar sem það hefur engar tilfinningar, engar langanir, engan vilja og enga dómgreind. Það getur því enga afstöðu tekið til nokkurra hluta umfram það sem felst í textunum sem það hefur verið matað á og fyrirmælum forritaranna sem bjuggu það til. Mikilvægt er að átta sig á því að gervigreind svarar notandanum ekki beinlínis heldur giskar forritið á það hvernig svar gæti litið út miðað við textana sem það hefur verið fóðrað á. Þarna á milli er grundvallarmunur þótt hann virðist e.t.v. ekki mikill á yfirborðinu.

Samkvæmt framangreindu felst einnig í eðli forrita af þessu tagi að þau búa ekki yfir eiginlegum skilningi eins og flestum verður sennilega fljótlega ljóst við notkun þeirra. Illa hefur t.d. gengið að þjálfa forritin til að hætta að „ljúga“, þ.e. geta í eyðurnar eða hreinlega skálda upplýsingar, í svörum þeirra við fyrirspurnum notenda.[3] Þessi tilhneiging hefur verið nefnd ofskynjanir spunagreindar (e. AI hallucinations)[4] en af því sem áður er rakið er að sjálfsögðu ljóst að forritin eru hvorki fær um að skynja né ofskynja. Forritin skilja einfaldlega ekki muninn á sannindum eða ósannindum, réttu eða röngu.

Spunagreindarforrit getur vissulega sýnst búa yfir öllum þeim eiginleikum sem hér voru nefndir og jafnvel sannfært suma notendur þess um að það búi yfir sjálfstæðri hugsun og dómgreind. Talsmáti þeirra sem gefa sig út fyrir að vera sérfræðingar á sviði gervigreindar bendir meira að segja til þess að nokkur hluti þeirra sé haldinn þessum misskilningi. Þá er sennilegt að hönnuðum stærstu vörumerkjanna á þessu sviði takist á næstu misserum að hemja eða jafnvel hefta ósannindaflauminn sem einkennt hefur forritin hingað til. Víst má telja að það verði til þess að efla enn frekar trú fólks á því að þau verði fær um að koma að mannlegri ákvarðanatöku. Það er hins vegar tálsýn. Það skiptir engu máli hversu vel hönnuðum forritanna tekst að gera þau úr garði til að líkja eftir tjáningu fólks af holdi og blóði, grundvallaratriðunum um eðli gervi- eða spunagreindar verður ekki breytt.

Rétt er að minnast á að það er að sjálfsögðu ekki útilokað að í framtíðinni komi fram á sjónarsviðið svokölluð raunveruleg gervigreind (e. artificial general intelligence) sem búi yfir svipaðri getu til að hugsa og skilja umhverfi sitt og mannsheilinn. Raunar verður að telja yfirgnæfandi líkur á því að það gerist einn daginn. Í samhengi við umfjöllunarefnið hér verður þó að taka fram að slík tækni ætti álíka mikið skylt við gervigreind dagsins í dag og tölvuleikinn PacMan frá 1980, svo stór væru umskiptin. Þau gæfu jafnframt tilefni til að endurskoða ályktanirnar sem hér eru settar fram að einhverju leyti.

3 Lögfræðikunnátta gervigreindarinnar um þessar mundir

Það er önnur spurning hvort gervigreindarforrit séu í stakk búin til að inna af hendi hluta þeirra verka sem lögfræðingar hafa sinnt til þessa. Og þau eru raunar þegar farin að nýtast starfandi lögfræðingum með ýmsum hætti, t.d. við heimildaleit, gerð samantekta úr löngum skjölum, vélritun og skyld verkefni. Lögmannsstofur hafa tekið tækniframförunum opnum örmum, þ. á m. hér á landi, en um allan heim hafa starfandi lögmenn þó brennt sig á því að leggja fram skjöl sem innihalda ósannindi úr gervigreind fyrir dómi.[5] Í sumum ríkjum eru jafnvel dæmi þess að dómararnir séu sjálfir farnir að styðjast við gervigreind við vinnu sína.[6]

Þrátt fyrir þessa þróun er það sem fyrr segir afstaða höfundar að áhyggjur af yfirvofandi atvinnuleysi stéttarinnar séu að minnsta kosti ótímabærar. Þá er m.a. horft til þess að tækni sem dregur úr handavinnulögfræðinga hefur hingað til ekki leitt til fækkunar í þeirra röðum. Lögfræðin sjálf er hins vegar ekki handavinna eins og vikið verður að síðar. Til að kanna stöðu mála þegar þetta er ritað var framkvæmd eftirfarandi rannsókn, þótt hún standist líklega ekki ströngustu viðmið um hina vísindalegu aðferð.

Í nýlegum dómi Héraðsdóms Reykjavíkur 15. janúar 2025 í máli nr. E-2457/2024 var m.a. komist að þeirri niðurstöðu að ógilda bæri heimild Umhverfisstofnunar til breytinga á tilteknu vatnshloti vegna fyrirhugaðrar gerðar Hvammsvirkjunar í Þjórsá. Dómurinn taldi a-lið 1. mgr. 18. gr. laga nr. 36/2011 ekki fela í sér fullnægjandi lagastoð fyrir breytingunum en því til stuðnings var einkum vísað til breytingartillögu umhverfisnefndar Alþingis við frumvarp til laganna. Tillagan var talin benda til þess að löggjafinn hefði með skýrum og ótvíræðum hætti undanskilið vatnsaflsvirkjanir frá þeirri heimild sem ákvæðið felur í sér. Í kjölfarið birtist grein í Tímariti Lögréttu Selecta eftir dr. Hafstein Dan Kristjánsson[7] þar sem hann færði rök fyrir því að mögulegt hefði verið að ganga lengra í því skyni að skýra ákvæðið til samræmis við EES-rétt, þ.e. vatnastjórnunartilskipun ESB, en samsvarandi ákvæði tilskipunarinnar nær til vatnsaflsvirkjana.

Til að kanna getu þeirra innlendu og erlendu gervigreindarforrita sem eru íslenskum lögfræðingum aðgengileg um þessar mundir voru nokkur þeirra „beðin“ um að rýna dóminn. Það er skemmst frá því að segja að í besta falli skiluðu forritin andlausri og yfirborðskenndri samantekt um helstu niðurstöður dómsins og raunar sluppu fæst þeirra sómasamlega frá því verkefni. Ekkert gat brugðist með vitrænum hætti við fyrirspurn um það hvort dómurinn samrýmdist meginreglum EES-réttar, jafnvel þótt þeim væri „hjálpað af stað“, t.d. með umræðum um 18. gr. laga nr. 36/2011 og vatnastjórnunartilskipun ESB. Niðurstöður rannsóknarinnar koma ekki á óvart enda byggir gervi- eða spunagreind sem fyrr segir ekki á raunverulegri eða sjálfstæðri hugsun.

Eflaust kann einhver að ætla að hér hafi ósanngjarnt verkefni verið lagt fyrir gervigreindina. Dómurinn er jú langur, eða um 100 blaðsíður, og undirliggjandi álitaefnin tiltölulega flókin. Hér verður þó að hafa í huga að gervigreindin er sérstaklega hönnuð til að melta gríðarlegt magn af texta. Forritið ChatGPT var t.d. matað á um 300 milljörðum orða.[8] Þeir sem markaðssetja vörur af þessu tagi, m.a. til íslenskra notenda, leggja enn fremur sérstaka áherslu á getu þeirra til að annast lögfræðilega rannsóknarvinnu og skilja aðalatriði frá aukaatriðum. Notandi sem hefði treyst á gervigreind til að rýna dóm Héraðsdóms Reykjavíkur í máli nr. E-2457/2024 þegar þetta er ritað hefði hins vegar farið á mis við öll helstu lagalegu álitaefnin sem dómurinn gefur tilefni til að kanna.

4 Takmörk aðkomu tölvuforrita að mannlegri ákvarðanatöku

Sögubækurnar eru barmafullar af dæmum um mistæka spámenn sem farist hefur illa að álykta um áhrif yfirvofandi tækniframfara. Lögmál sem kennt er við bandaríska vísindamanninn Roy Amara útleggst einhvern veginn þannig að mannkyninu hætti til að ofmeta áhrif tæknibyltinga til skemmri tíma litið en vanmeta áhrifin til lengri tíma. Með hliðsjón af þessu má spyrja hvort það sé ekki allt eins líklegt að á næstu árum eða áratugum verði örar framfarir í gervigreind sem leiði til þess að forritin verði á endanum fær um að setja fram gagnrýni á niðurstöður dómstóla á pari við færustu lögfræðinga landsins, eða jafnvel semja niðurstöðurnar eða lögin sjálf af eigin rammleik?

Fyrst er rétt að taka fram að slík forrit verða að minnsta kosti ekki til nema með því að mata þau fyrst á miklu magni lögfræðilegra greininga úr íslensku réttarumhverfi. Miðað við t.d. fjölda ritrýndra fræðigreina sem birtist á ári hverju á Íslandi verður að telja ólíklegt að það sé innan seilingar í náinni framtíð. En jafnvel þótt við gefum okkur að unnt væri að hanna forrit sem væri fært um að líkja, með sannfærandi hætti og í samræmi við hina hefðbundnu lagalegu aðferð, eftir texta á borð við t.d. dóm Héraðsdóms Reykjavíkur í máli nr. E-2457/2024 eða grein Hafsteins, væri fjarstæðukennt að líta svo á að forritið kæmi á einhvern hátt í stað dómarans eða fræðimannsins. Þvert á móti væri afrakstur vinnu þeirra tveggja forsenda þess að forritið liti yfirhöfuð dagsins ljós. Gervigreindin þrífst þannig á mannlegri tjáningu en ekki öfugt.

Í annan stað verður að leggja áherslu á að lögin eru bæði samfélagslegt og mannlægt fyrirbæri, rétt eins og skáklistin. Í umræðunni um gervigreind hættir mönnum hins vegar til þess að einblína á þá staðreynd að með lögum er jafnan stefnt að því að koma upp rökbundnu kerfi reglna sem gilda skuli í samfélaginu, ekki ósvipuðu leikreglunum í skák. Út frá þessari staðreynd mætti álykta að lagakerfið sé eins konar forritunarkóði og stærðfræðileg rökfesta tölvuforrita geti því nýst við ákvarðanatöku innan þess. Jafnvel geti köld rökhyggja tölvunnar orðið til þess að vinna bug á innbyggðum fordómum og kreddum lögfræðinga og stjórnmálamanna af holdi og blóði. Þátttaka gervigreindar í lagasmíð og lagaframkvæmd geti því verið réttlætismál.

Staðreyndin er hins vegar sú að spuna- og gervigreindarforrit eru ekki búin þeim kostum sem nauðsynlegir eru til að taka þátt í þessum verkefnum. Áður er rakið að þau hafa ekki til að bera sjálfstæða hugsun, skoðanir, langanir, vilja eða tilfinningar og enga getu til að þekkja sannindi frá ósannindum, rétt frá röngu, gott frá illu. Hins vegar er auðveldlega hægt að forrita þau eða fóðra þau á gögnum sem leiðir til þess að þau skili texta um hvaða afstöðu sem er. Forritin búa með öðrum orðum hvorki yfir siðferði né dómgreind umfram það sem „smitast“ í afurðirnar frá þeim manngerðu verkum sem forritin eru mötuð á og fyrirmælum skapara þeirra. Forritin geta því augljóslega aldrei skilið hvað felst í því að vera manneskja af holdi og blóði sem býr í samfélagi við aðrar slíkar, bundin af lögum sem samfélagið hefur sett sér. Þessi skilningur er hins vegar nauðsynlegur til þátttöku í lagakerfinu sem felur í sér annað og meira en forritunarkóða sem byggir á formlegri rökfræði.

Vitaskuld er tæknilega mögulegt að komast að niðurstöðu um lagaleg eða jafnvel siðferðileg álitaefni með því að láta tölvuforrit velja hana. Sú niðurstaða verður hins vegar aldrei lagaleg eða siðferðileg í eðli sínu. Þegar betur er að gáð eiga slíkar aðferðir til að skera úr um rétt eða rangt, sýknu eða sakfellingu o.s.frv., meira skylt við það að kasta upp peningi en að beita mannlegri dómgreind.[9] Slembilukka kann jafnvel að vera skárri kostur en gervigreind til að taka slíkar ákvarðanir þar sem forritin erfa og jafnvel ýkja ýmsa fordóma sem er að finna í efninu sem þau hafa verið þjálfuð á.[10] Við þetta bætist að gervigreindarforrit hafa verið kallaðir svartir kassar (e. black boxes) þar sem yfirleitt er ómögulegt að komast að því hvernig þau komust að tiltekinni niðurstöðu eða hvers vegna þau skiluðu þeirri afurð sem raunin varð en ekki einhverri annarri.[11]

Hér ber einnig að undirstrika að það skiptir engu máli hversu vel tekst til að láta forritin sýnast hafa til að bera einhverja eða jafnvel alla þá mannlegu eiginleika sem nauðsynlegir eru til að komast að lagalegri niðurstöðu, t.d. með því að mata þau á „æskilegu“ efni eða tryggja með öðrum hætti að þau skili texta sem er fremur í samræmi við réttlætiskennd notandans eða ríkjandi lagaviðhorf. Það er eðlismunur á því að komast að lagalegri eða siðferðilegri niðurstöðu með mannlegri dómgreind annars vegar og því að líkja eftir slíkri niðurstöðu hins vegar. Bilið þar á milli verður ekki brúað með því að eftirlíkingin verði meira sannfærandi.

5 Lokaorð

Að mati höfundar leiða eiginleikar tölvuforrita, eða öllu heldur skortur þar á, til þess að það er með öllu útilokað að útvista til þeirra verkefnum á borð við að semja leikreglur mannlegs samfélags eða skera úr um deilumál sem rísa um þær. Tölvuforrit geta enga efnislega aðkomu haft að ályktunum um lög og lögfræði. Þessi niðurstaða er jafnframt óháð því hversu sannfærandi eða rökföstum textum þau munu geta skilað notendum í framtíðinni.

Á hinn bóginn er það auðvitað bæði sjálfsagt og eðlilegt að styðjast við hvers konar tækni til að létta mannfólkinu lífið. Gervi- og spunagreind getur vafalaust nýst lögfræðingum tæknilega á margvíslegan hátt og þá fyrst og fremst við þau verkefni sem áður voru nefnd, þ.e. heimildaleit, vélritun, villuleit, gerð samantekta, þýðingar o.þ.h. Að þessu leyti er þessi nýja tækni ekki frábrugðin öðrum tölvuforritum sem hafa aðstoðað lögfræðinga í áratugi, svo sem hinu hálfrar aldar gamla WestLaw, eða internetinu sjálfu sem hefur gjörbreytt starfsumhverfi lögfræðinga á sama tímabili. Þessi verkfæri mega hins vegar ekki verða til þess að menn missi sjónar á kjarnahlutverki lögfræðinga í samfélaginu, sem felur í sér beitingu mannlegrar dómgreindar, eða þeir glati þeirri færni sem er nauðsynleg til að sinna því hlutverki.

Framfarir á sviði gervigreindar munu vafalaust leiða til þess að ekki verður hægt að byggja starfsferil sem íslenskur lögfræðingur á því að kunna að leita í lagasafninu á vef Alþingis, finna fordæmi í dómasafni Hæstaréttar eða þekkja helstu kæruleiðir í stjórnsýslunni. Í náinni framtíð mun almenningur hafa aðgang að forritum sem verða fær um að sinna slíkum verkefnum. Áfram verður hins vegar eftirspurn eftir lögfræðingum sem búa yfir góðri dómgreind og skarpri ályktunarhæfni. Þessar tækniframfarir ættu því að verða okkur hvatning til að rækta hæfileika okkar til að iðka lögfræðina en ekki afsökun til að slá slöku við í þeim efnum.

 

Heimildaskrá

Adrian de Wynter, Xun Wang, Alex Sokolov, Qilong Gu og Si-Qing Chen: „An evaluation on large language model outputs: Discourse and memorization“. Natural Language Processing Journal, 4. árg. 2023. Greinin er aðgengileg á vefnum: https://www.sciencedirect.com/science/article/pii/S2949719123000213

Alex Hughes: „ChatGPT: Everything you need to know about OpenAI‘s GPT-4 tool“. Science Focus, september 2023. Greinin er aðgengileg á vefnum:  https://www.sciencefocus.com/future-technology/gpt-3

David Uriel Socol de la Osa og Nydia Remolina: „Artificial intelligence at the bench: Legal and ethical challenges of informing – or misinforming – judicial decision-making through generative AI“. Data and Policy, 6. árg. 2024. Greinin er aðgengileg á vefnum: https://www.cambridge.org/core/journals/data-and-policy/article/artificial-intelligence-at-the-bench-legal-and-ethical-challenges-of-informingor-misinformingjudicial-decisionmaking-through-generative-ai/D1989AC5C81FB67A5FABB552D3831E46

Groupe de travail sur la réforme du droit français de l‘arbitrage: Rapport et propositions de réforme, mars 2025. Skýrslan er aðgengileg á vefnum: https://www.justice.gouv.fr/sites/default/files/2025-03/rapport_2025_arbitrage.pdf

Dr. Hafsteinn Dan Kristjánsson: „Hvammsvirkjunarmálið. Hversu sannfærandi er lagatúlkun héraðsdóms?“ Tímarit Lögréttu Selecta, 21. janúar 2025. Greinin er aðgengileg á vefnum:  https://www.timaritlogrettu.is/selecta/Z49tNhEAACIAPz9W

Margeir Pétursson: „Kasparov aftur gegn ofurtölvu IBM“. Morgunblaðið, 27. apríl 1997. Greinin er aðgengileg á vefnum: https://timarit.is/page/1877612

Sandra Wachter, Brent Mittelstadt og Chris Russell: „Why fairness cannot be automated: Bridging the gap between EU non-discrimination law and AI“. Computer Law and Security Review, 41. árg. 2021. Greinin er aðgengileg á vefnum: https://www.sciencedirect.com/science/article/pii/S0267364921000406

Sara Merken: „Lawyers in Walmart lawsuit admit AI “hallucinated” case citations.“ Reuters, 10. febrúar 2025. Greinin er aðgengileg á vefnum:   https://www.reuters.com/legal/legalindustry/lawyers-walmart-lawsuit-admit-ai-hallucinated-case-citations-2025-02-10/

Eftirmálsgreinar

[1] Greinin byggir að hluta á fyrirlestrum sem höfundur hefur flutt fyrir laganema í almennri lögfræði við Háskóla Íslands og aðferðafræði við Háskólann á Bifröst og erindi sem höfundur flutti á Dómstóladeginum 26. september 2025.

[2] Sjá grein Morgunblaðsins: Margeir Pétursson: „Kasparov aftur gegn ofurtölvu IBM“ (1997), bls. 19.

[3] Í rannsókn sem birtist í september 2023 voru textar frá níu mállíkönum t.d. kannaðir og fundust staðreyndavillur í rúmlega 46% afurðanna en að auki rökvillur og annars konar annmarkar í stórum hluta þeirra. Adrian de Wynter o.fl.: „An evaluation on large language model outputs: Discourse and memorization“. Natural Language Processing Journal, (2003).

[4] Socol de la Osa og Remolina: „Artificial intelligence at the bench: Legal and ethical challenges of informing – or misinforming – judicial decision-making through generative AI“ (2024), bls. 7.

[5] Sara Merken: „Lawyers in Walmart lawsuit admit AI “hallucinated” case citations“ (2025).

[6] Socol de la Osa og Remolina: „Artificial intelligence at the bench: Legal and ethical challenges of informing – or misinforming – judicial decision-making through generative AI“ (2024), bls. 13.

[7] Dr. Hafsteinn Dan Kristjánsson: „Hvammsvirkjunarmálið. Hversu sannfærandi er lagatúlkun héraðsdóms?“ (2025).

[8] „ChatGPT: Everything you need to know about OpenAI‘s GPT-4 tool“ (2023).

[9] Sjá í þessu sambandi t.d. nýlegar tillögur starfshóps á vegum franska dómsmálaráðuneytisins um nýja löggjöf um gerðardóma en ein af grunnforsendum starfshópsins er krafan um að dómarar séu af holdi og blóði (fr. des personnes physiques). Í skýrslu starfshópsins kemur fram að þótt framfarir á sviði gervigreindar séu áhugaverðar leggi starfshópurinn áherslu á hinn mannlæga þátt réttlætishugtaksins. Rapport et propositions de réforme (2025), bls. 51-52.

[10] Sjá t.d. Wachter, Mittelstadt og Russell: „Why fairness cannot be automated: Bridging the gap between EU non-discrimination law and AI“ (2021).

[11] Socol de la Osa og Remolina: „Artificial intelligence at the bench: Legal and ethical challenges of informing – or misinforming – judicial decision-making through generative AI“ (2024), bls. 5.