Az Egyesült Államokban először fordult elő, hogy egy szövetségi bíró kénytelen volt visszavonni döntését, miután kiderült, hogy az indokolásban szereplő jogi hivatkozásokat feltehetően mesterséges intelligencia generálta, méghozzá tévesen.
Az Energiastratégia Intézet publikációja szerint az eset nemcsak az érintett bíró számára kínos, hanem rávilágít egy gyorsan terjedő, de kevéssé szabályozott jelenségre: a jogi anyagokban egyre gyakrabban bukkannak fel MI-hallucinációk, vagyis meggyőzőnek tűnő, ám téves vagy fiktív hivatkozások – jogszabályokra, ítéletekre és forrásokra –, amelyek nem találhatók meg a hivatalos jogtárakban és bírósági nyilvántartásokban. Ha a bírósági dokumentumokban a tények és a fikció közötti határ elmosódik, annak nemcsak egy-egy ügy, hanem a jogbiztonság és az igazságszolgáltatás hitelessége láthatja kárát.
Kapcsolódó bejegyzések
A mesterséges intelligencia egyre többet hallucinál
A hallucinációk az MI működésének inherens velejárói, ezért a kutatók úgy vélik, hogy teljesen szinte soha nem lehet majd megszabadulni tőlük.
2025 júliusában egy bírósági döntés indokolása újra felszínre hozta a mesterséges intelligencia jogi felhasználásával kapcsolatos vitákat az Egyesült Államokban. Julien Xavier Neals, New Jersey állam szövetségi bírája visszavonta a CorMedix nevű gyógyszeripari vállalat elleni kereset elutasítására irányuló indítvány tárgyában hozott döntését, miután az alperes ügyvédei súlyos hibákat tártak fel az ítélet indokolásában. Az ügyvédek nem is az ítélet érdemi részét kifogásolták, hanem tételesen kimutatták, hogy az indokolás tele van meggyőzőnek tűnő, de téves jogi hivatkozásokkal.
A döntésben hivatkozott három precedens kimenetele egyik esetben sem felelt meg annak, amit a bíró állított, több idézet pedig nem volt visszakereshető, mert a hivatkozások a hivatalos adatbázisokban nem szereplő forrásokra mutattak. A hibák jellegéből arra lehet következtetni, hogy a hivatkozásokat egy nagy nyelvi modell – például a ChatGPT – készítette.
Kapcsolódó bejegyzések
Mire helyezi a hangsúlyt az USA mesterségesintelligencia-stratégiája?
Az MI-t jelenleg számos szakpolitikai területen, többek között az egészségügyben, a hadügyben és a hírszerzésben is felhasználja az USA.
A bíróság közleménye szerint az eredeti határozatot „tévedésből adták ki”, és hamarosan közzéteszik az új döntést. Bár nem ritka, hogy egy bíróság kisebb stilisztikai vagy nyelvhelyességi módosításokat hajt végre egy már közzétett határozaton, az olyan mértékű korrekció, mint a teljes bekezdések törlése vagy a határozat visszavonása, kifejezetten ritka.
A publikáció teljes terjedelmében az Energiastratégia Intézet weboldalán olvasható.
Fotó: Canva