Odvjetnik iz američke savezne države Novi Meksiko u sudskom je podnesku koristio izmišljeno policijsko svjedočenje i nepostojeće svjedoke koje je generirao ChatGPT, objavio je Vrhovni sud Novog Meksika. Zbog toga je odvjetnik Stephen Aarons kažnjen s 5000 dolara i proglašen nepoštovanjem suda, piše Reuters. Aarons je zastupao Oscara Reneeja Sandovala, koji je osuđen za ubojstvo majke svoje djece i prošle godine osuđen na doživotni zatvor. Odvjetnik je pripremao žalbu na presudu, a u radu je koristio ChatGPT.
Problem je nastao kada je umjetna inteligencija u sažetak sudskog postupka ubacila informacije koje nisu postojale u stvarnim dokazima i iskazima. U podnesku su se tako našli iskazi potpuno izmišljenih svjedoka, kao i lažni navodi o policijskom svjedočenju.
Izmišljeni detalji završili u sudskom podnesku
Prema odluci suda, među izmišljenim informacijama bile su i tvrdnje o tome što je navodni počinitelj nosio u trenutku pucnjave. ChatGPT je generirao tvrdnju da je muškarac imao tamne hlače i bijelu majicu, iako takav iskaz nije postojao u sudskom postupku.
Vrhovni sud Novog Meksika naveo je da je podnesak sadržavao lažne iskaze potpuno izmišljenih svjedoka. Sud je posebno kritizirao Aaronsa jer nije provjerio točnost materijala koji je uključio u službeni sudski dokument.
Odvjetnik vjerovao da će dobiti “nepogrešiv sažetak”
Aarons je sudu objasnio da je ChatGPT-u dao računalno generirani transkript suđenja i druge materijale, očekujući da će umjetna inteligencija napraviti precizan sažetak koji će moći koristiti u žalbi.
Na saslušanju 21. kolovoza rekao je da tada nije u potpunosti razumio u kojoj mjeri umjetna inteligencija može izmišljati činjenice.
“Žao mi je zbog svega i nadam se da će disciplinsko tijelo uzeti u obzir da je riječ o iskrenoj pogrešci”, rekao je Aarons u izjavi za Reuters. Dodao je da je slučaj za njega lekcija o korištenju moćne, ali ponekad nestabilne tehnologije.
Sud: Odvjetnici moraju provjeravati ono što generira AI
Vrhovni sud Novog Meksika uz novčanu kaznu odlučio je Aaronsa uputiti i disciplinskom tijelu koje će dodatno ispitati njegov slučaj. Sud je pritom naveo da je odvjetnik pokazao nedostatak kajanja i zabrinutosti za svog klijenta.
Slučaj je još jedan u nizu primjera u kojima su odvjetnici kažnjeni zbog korištenja sadržaja koji je generirala umjetna inteligencija, a da prethodno nisu provjerili njegove navode.
U nekim ranijim slučajevima AI alati izmišljali su sudske presude, citate i pravne argumente. Ovaj je slučaj, međutim, otišao korak dalje jer su u službeni sudski podnesak uključeni izmišljeni svjedoci i lažni iskazi.
Na jednom od saslušanja sutkinja C. Shannon Bacon izrazila je nevjericu što odvjetnik nije bio svjestan problema s takozvanim AI halucinacijama, odnosno situacijama u kojima modeli umjetne inteligencije uvjerljivo generiraju netočne ili potpuno izmišljene informacije.
Žalbeni postupak Oscara Reneeja Sandovala i dalje traje. Početkom rujna predmet je dodijeljen javnoj braniteljici Kim Chavez Cook.
*uz korištenje AI-ja
Preuzeto sa: www.24sata.hr
