W pewnym amerykańskim hrabstwie w centralnej Florydzie AI typuje przyszłych przestępców w oparciu o specjalny algorytm. Następnie policjanci nachodzą „szczęśliwców” by przyłapać ich na właściwie jakimkolwiek naruszeniu prawa. Brzmi strasznie. Problem w tym, że podobno działa.
Na Florydzie działa policyjny system inspirowany filmem „Raport Mniejszości”
Rozwój technologii budzi niekiedy obawy o to, czy współczesne osiągnięcia techniki nie zostaną przypadkiem wykorzystane przeciwko ludziom. Nie trzeba od razu szukać dystopijnych filmowych wizji roztaczanych przez „Terminatora” czy „Raport Mniejszości”, by dostrzec że już teraz różnie z tym bywa.
Najlepszym chyba przykład stanowi chiński system zaufania społecznego – rozbudowany mechanizm kontroli i zarządzania obywatelami. Inwigilacja nie dotyczy jednak tylko Państwa Środka. Także na zachodzie możemy się spotkać z równie kontrowersyjnymi projektami.
Skojarzenia ze wspomnianym „Raportem Mniejszości” budzi na przykład sposób radzenia sobie z przestępczością wdrożony w amerykańskim hrabstwie Pasco na Florydzie. Jak podaje portal dobreprogramy.pl, Szeryf Chris Nosco zamówił system, dzięki któremu AI typuje przyszłych przestępców. Ściślej mówiąc: potencjalnych sprawców tych niepopełnionych jeszcze przestępstw.
AI typuje przyszłych przestępców w oparciu o historię kryminalną danej osoby
Specjalny algorytm opiera się o historię kryminalną danej osoby oraz powiązania rodzinne z przestępcami. Bierze pod uwagę także sprawy wycofane w toku postępowania. Trzeba przy tym przyznać, że sztuczna inteligencja nie jest zbyt wyrozumiała.
Nie ma większych problemów z wytypowanie na potencjalnego przyszłego przestępcę nawet piętnastolatka. Przykładem może być chociażby Rio Wojecki. Ukradł elektryczny rower, za co został objęty opieką kuratora. Warto jednak wspomnieć, że nic nie wskazuje, żeby algorytm preferował jakąś konkretną grupę etniczną czy rasową.
To że AI typuje przyszłych przestępców nie stanowi większego problemu. Zgodzić się można z tłumaczeniami biura szeryfa, że to w zasadzie normalne działania prewencyjne policji – choć oczywiście realizowane w dość niecodzienny sposób.
Policjanci w hrabstwie Pasco nachodzą wytypowane przez AI osoby „do skutku”
Tyle tylko, że podwładni szeryfa Nosco prewencję uskuteczniają jak najbardziej aktywnie. Osoby wytypowane przez algorytm są następnie nachodzone przez funkcjonariuszy, którzy mają na celu przyłapanie ich na jakimkolwiek złamaniu prawa.
Takie działanie tworzy samonapędzający się mechanizm. Skoro AI typuje przyszłych przestępców w oparciu o historię kryminalną danej osoby, to dorzucanie do jej kartoteki następnych wykroczeń i aresztowań tylko utwierdzi sztuczną inteligencję w przekonaniu, że ma do czynienia z niepoprawnym przestępcą.
Wówczas policjanci nieuchronnie odwidzą nieszczęśnika ponownie. I tak teoretycznie w nieskończoność, przynajmniej do momentu aż wytypowany „przyszły przestępca” faktycznie da się przyłapać na czymś poważnym i trafi do więzienia na dłużej.
Działania predyktywne policji od dawna budzą w Stanach Zjednoczonych kontrowersje
Nie powinno dziwić, że program typowania przyszłych przestępców w hrabstwie Pasco budzi kontrowersje. Działania stróżów prawa względem wytypowanych przez algorytm określane są wręcz jako stalking i nękanie niewinnych obywateli. Sam mechanizm ich typowania przyrównuje się wręcz do „pseudonauki” – podobne do typowania przestępców po kształcie twarzy.
Nie sposób również nie zauważyć, że takie praktyki stoją w sprzeczności z zasadą domniemania niewinności. Stosowanie podobnych, choć mniej zaawansowanych technologicznie, metod działania organów ścigania jest w Stanach Zjednoczonych przedmiotem krytyki od dawna.
Statystyki jednak stoją po stronie szeryfa Nosco. Hrabstwo Pasco jest jednym z bezpieczniejszych na Florydzie, przestępczość z roku na rok w nim spada a wykrywalność rośnie. Być może jednak AI typuje przyszłych przestępców trafnie a cały system po prostu działa jak należy? Z drugiej strony: to korzystanie z algorytmu może równie dobrze nakręcać tą wykrywalność.
Nawet jeśli AI typuje przyszłych przestępców trafnie, to i tak policja powinna podchodzić do tych wskazań bardzo krytycznie
Kluczem do rozwiązania tej zagadki wydaje się sam szeryf Chris Nosco. Był prekursorem nowatorskich rozwiązań już wcześniej, gdy chodziło o wdrożenie kamer na mundurach policji. Jest również na tyle zaangażowany w sprawy mieszkańców, że ci trzykrotnie wybrali go na swojego szeryfa. Skuteczność organów ścigania nie ogranicza się wyłącznie do działań predyktywnych.
Gdyby policja w hrabstwie Pasco wykorzystywała swój system typowania przestępców czysto pomocniczo i ze zdrowym krytycyzmem, ten mógłby faktycznie okazać się pożytecznym wynalazkiem. Choć i wówczas z pewnością jego stosowanie byłoby kontrowersyjne. Traktowanie wskazań AI jak nieomylnej wyroczni siłą rzeczy musi prowadzić do błędów.
W takich sytuacjach wybór pomiędzy wolnością a bezpieczeństwem wydaje się oczywisty. Podstawowe prawa i wolności obywatelskie nie mogą być ceną walki z przestępczością. A już na pewno nie w przypadku drobiazgów w rodzaju kradzieży elektrycznego roweru.
