OAB suspenduje právníky poté, co se pokusili oklamat AI v procesu v Pará

A Brazilská advokátní komora v Pará (OAB-PA) preventivně pozastavila na 30 dní dva vyšetřované právníky za údajné pokusy o manipulaci se systémy umělé inteligence během soudního procesu ve státě.

Rozhodnutí podepsal tento čtvrtek (14) předseda sekce Sávio Barreto po celostátním dopadu případu, který zahrnuje použití techniky zvané „prompt injection“, mechanismu, který vkládá skryté příkazy do dokumentů k ovlivnění.

Podle OAB-PA, pozastavení má preventivní charakter a usiluje o zachování důvěryhodnosti advokacie a soudního systému.

Subjekt zdůraznil, že opatření nepředstavuje definitivní trest a že odborníci budou mít právo na plnou obhajobu a sporné řízení.

MÁ CNN Brazíliejedna z advokátek uvedla, že dosud nebyla oficiálně informována o rozhodnutí OAB-PA.

„O rozhodnutí jsem ještě nebyl vyrozuměn, navíc, až budu mít možnost si po řádném soudním řízení protiřečit, budu se konečně moci k těmto obviněním vyjádřit,“ prohlásil.

Právníci podle rozhodnutí vložili do původní petice skryté pokyny, které mají být v budoucnu použity při analýze procesu. V praxi by cílem bylo, aby AI upřednostňovala argumenty předložené autory akce.

Technika známá jako „příkazová injekce“ nebo „rychlá injekce“ funguje jako typ pokynů skrytých v právním textu. Tyto příkazy mohou být interpretovány systémy AI, které automaticky čtou dokument a mění nebo řídí způsob analýzy obsahu.

Dle názoru OAB-PA představuje údajné jednání „závažnou procesní neloajálnost“, zejména proto, že by mohlo poškodit výkon obhajoby protistrany.

Předseda sekce ve svém hlasování uvedl, že důvěra veřejnosti je jedním z pilířů práva a že takovéto situace mohou poškodit institucionální image profese.

Kromě předběžného pozastavení příkaz nařídil, aby byl případ zaslán Etickému a disciplinárnímu soudu OAB-PA (TED), který je odpovědný za vyšetřování případných eticko-disciplinárních přestupků. Řízení bude probíhat v tajnosti, jak je stanoveno ve statutu advokátní kanceláře.

Rozhodnutí bude ještě analyzovat Plná sekční rada OAB-PA. Před koncem doby pozastavení budou moci právníci přednést ústní obhajobu a napadnout opatření.

Vzpomeňte si na případ

Případ získal celostátní pozornost poté, co Krajský pracovní soud 8. kraje v petici identifikoval přítomnost skrytých příkazů.

Tehdy byli právníci obviněni ze sporu ve zlé víře.