Błąd systemu rozpoznawania twarzy i niesłuszne więzienie
Kobieta spędziła pół roku w amerykańskim więzieniu po tym, jak algorytm błędnie wskazał ją jako sprawcę oszustw, mimo że nigdy nie było jej na miejscu…
W Stanach Zjednoczonych kobieta spędziła sześć miesięcy w więzieniu, ponieważ system rozpoznawania twarzy wskazał ją jako osobę podejrzaną o oszustwa, choć nie miała z nimi żadnego związku.
Systemy oparte na sztucznej inteligencji coraz częściej wspomagają pracę organów ścigania, analizując tysiące nagrań i zdjęć w krótkim czasie. W opisywanym przypadku algorytm dokonał pomyłki, a jej skutkiem była długotrwała izolacja osoby niewinnej. Brak weryfikacji automatycznego wyniku doprowadził do poważnych konsekwencji dla jednostki.
Podobne incydenty ujawniają słabe strony technologii, która mimo wysokiej skuteczności statystycznej nie jest wolna od błędów. Fałszywe dopasowania mogą wynikać z jakości danych treningowych, warunków oświetleniowych czy podobieństwa rysów twarzy. Każdy taki przypadek podważa zaufanie do rozwiązań, które mają wspierać wymiar sprawiedliwości.
Pytanie, jakie się pojawia, dotyczy granic, w jakich instytucje mogą polegać na automatycznych wskazaniach bez dodatkowej, ludzkiej kontroli. Pół roku pozbawienia wolności to wymierny koszt, jaki poniosła konkretna osoba. Skala podobnych pomyłek pozostaje trudna do oszacowania.
Odpowiedzialność za skutki działania algorytmów spoczywa nie tylko na ich twórcach, lecz także na instytucjach, które je wdrażają.
Wnioski
Przypadek pokazuje, jak bardzo godność człowieka zależy od precyzji narzędzi, którym powierza się decyzje o wolności. Gdy systemy mylą się w sposób systematyczny, najbardziej narażone są osoby pozbawione możliwości skutecznej obrony. Wspólnota, która korzysta z takich rozwiązań, ponosi odpowiedzialność za ich skutki wobec każdego, kto może stać się ich ofiarą. Zaufanie do technologii wymaga stałego pytania o cenę ewentualnych błędów.
Kronika miasta Boguszow-Gottesberg (Boża Góra) - kliknij, aby dowiedzieć się więcej
