Komputer typuje przyszłych przestępców. Ci są następnie do skutku nachodzone przez policję. I to działa

Gorące tematy Technologie Zagranica dołącz do dyskusji (128) 13.09.2020
Komputer typuje przyszłych przestępców. Ci są następnie do skutku nachodzone przez policję. I to działa

Rafał Chabasiński

W pewnym amerykańskim hrabstwie w centralnej Florydzie AI typuje przyszłych przestępców w oparciu o specjalny algorytm. Następnie policjanci nachodzą „szczęśliwców” by przyłapać ich na właściwie jakimkolwiek naruszeniu prawa. Brzmi strasznie. Problem w tym, że podobno działa.

Na Florydzie działa policyjny system inspirowany filmem „Raport Mniejszości”

Rozwój technologii budzi niekiedy obawy o to, czy współczesne osiągnięcia techniki nie zostaną przypadkiem wykorzystane przeciwko ludziom. Nie trzeba od razu szukać dystopijnych filmowych wizji roztaczanych przez „Terminatora” czy „Raport Mniejszości”, by dostrzec że już teraz różnie z tym bywa.

Najlepszym chyba przykład stanowi chiński system zaufania społecznego – rozbudowany mechanizm kontroli i zarządzania obywatelami. Inwigilacja nie dotyczy jednak tylko Państwa Środka. Także na zachodzie możemy się spotkać z równie kontrowersyjnymi projektami.

Skojarzenia ze wspomnianym „Raportem Mniejszości” budzi na przykład sposób radzenia sobie z przestępczością wdrożony w amerykańskim hrabstwie Pasco na Florydzie. Jak podaje portal dobreprogramy.pl, Szeryf Chris Nosco zamówił system, dzięki któremu AI typuje przyszłych przestępców. Ściślej mówiąc: potencjalnych sprawców tych niepopełnionych jeszcze przestępstw.

AI typuje przyszłych przestępców w oparciu o historię kryminalną danej osoby

Specjalny algorytm opiera się o historię kryminalną danej osoby oraz powiązania rodzinne z przestępcami. Bierze pod uwagę także sprawy wycofane w toku postępowania. Trzeba przy tym przyznać, że sztuczna inteligencja nie jest zbyt wyrozumiała.

Nie ma większych problemów z wytypowanie na potencjalnego przyszłego przestępcę nawet piętnastolatka. Przykładem może być chociażby Rio Wojecki. Ukradł elektryczny rower, za co został objęty opieką kuratora. Warto jednak wspomnieć, że nic nie wskazuje, żeby algorytm preferował jakąś konkretną grupę etniczną czy rasową.

To że AI typuje przyszłych przestępców nie stanowi większego problemu. Zgodzić się można z tłumaczeniami biura szeryfa, że to w zasadzie normalne działania prewencyjne policji – choć oczywiście realizowane w dość niecodzienny sposób.

Policjanci w hrabstwie Pasco nachodzą wytypowane przez AI osoby „do skutku”

Tyle tylko, że podwładni szeryfa Nosco prewencję uskuteczniają jak najbardziej aktywnie. Osoby wytypowane przez algorytm są następnie nachodzone przez funkcjonariuszy, którzy mają na celu przyłapanie ich na jakimkolwiek złamaniu prawa.

Takie działanie tworzy samonapędzający się mechanizm. Skoro AI typuje przyszłych przestępców w oparciu o historię kryminalną danej osoby, to dorzucanie do jej kartoteki następnych wykroczeń i aresztowań tylko utwierdzi sztuczną inteligencję w przekonaniu, że ma do czynienia z niepoprawnym przestępcą.

Wówczas policjanci nieuchronnie odwidzą nieszczęśnika ponownie. I tak teoretycznie w nieskończoność, przynajmniej do momentu aż wytypowany „przyszły przestępca” faktycznie da się przyłapać na czymś poważnym i trafi do więzienia na dłużej.

Działania predyktywne policji od dawna budzą w Stanach Zjednoczonych kontrowersje

Nie powinno dziwić, że program typowania przyszłych przestępców w hrabstwie Pasco budzi kontrowersje. Działania stróżów prawa względem wytypowanych przez algorytm określane są wręcz jako stalking i nękanie niewinnych obywateli. Sam mechanizm ich typowania przyrównuje się wręcz do „pseudonauki” – podobne do typowania przestępców po kształcie twarzy.

Nie sposób również nie zauważyć, że takie praktyki stoją w sprzeczności z zasadą domniemania niewinności. Stosowanie podobnych, choć mniej zaawansowanych technologicznie, metod działania organów ścigania jest w Stanach Zjednoczonych przedmiotem krytyki od dawna.

Statystyki jednak stoją po stronie szeryfa Nosco. Hrabstwo Pasco jest jednym z bezpieczniejszych na Florydzie, przestępczość z roku na rok w nim spada a wykrywalność rośnie. Być może jednak AI typuje przyszłych przestępców trafnie a cały system po prostu działa jak należy? Z drugiej strony: to korzystanie z algorytmu może równie dobrze nakręcać tą wykrywalność.

Nawet jeśli AI typuje przyszłych przestępców trafnie, to i tak policja powinna podchodzić do tych wskazań bardzo krytycznie

Kluczem do rozwiązania tej zagadki wydaje się sam szeryf Chris Nosco. Był prekursorem nowatorskich rozwiązań już wcześniej, gdy chodziło o wdrożenie kamer na mundurach policji. Jest również na tyle zaangażowany w sprawy mieszkańców, że ci trzykrotnie wybrali go na swojego szeryfa. Skuteczność organów ścigania nie ogranicza się wyłącznie do działań predyktywnych.

Gdyby policja w hrabstwie Pasco wykorzystywała swój system typowania przestępców czysto pomocniczo i ze zdrowym krytycyzmem, ten mógłby faktycznie okazać się pożytecznym wynalazkiem. Choć i wówczas z pewnością jego stosowanie byłoby kontrowersyjne. Traktowanie wskazań AI jak nieomylnej wyroczni siłą rzeczy musi prowadzić do błędów.

W takich sytuacjach wybór pomiędzy wolnością a bezpieczeństwem wydaje się oczywisty. Podstawowe prawa i wolności obywatelskie nie mogą być ceną walki z przestępczością. A już na pewno nie w przypadku drobiazgów w rodzaju kradzieży elektrycznego roweru.

128 odpowiedzi na “Komputer typuje przyszłych przestępców. Ci są następnie do skutku nachodzone przez policję. I to działa”

  1. No super,że działa.Pytanie tylko,czy naprawdę szczytny cel uzasadnia takie środki? Zwłaszcza w kraju podobno demokratycznym?

    • Zawsze mam tzw. „bekę” z ludzi, którzy twierdzą, że USA są krajem demokratycznym, zwłaszcza podając je jako przykład. Bliżej im do krajów totalitarnych niż demokratycznych.

    • To jest USA. Tam przy kontroli drogowej policjant rzuca sobie czarnoskórą kobieta o glebę, jakby ta co najmniej napadła na bank i odstrzeliła tam 20 osób…

      • No tak, zapewne każdą. Czarni mogliby przerwać stereotyp przez np. popełnianie proporcjonalnej liczby przestępstw do ich udziału w populacji.

    • „Demokratyczny” oznacza „rządzony przez ludzi wybranych przez większość”.

      Nie ma nic wspólnego z tym, że masz jakieś prawa, czy wolności. Tak się złożyło, że jak powstawały nowoczesne demokracje, to ludzie bardzo chcieli mieć prawa i wolności. Teraz jak będą bardziej chcieli czuć się bezpiecznie, to prawo się zmieni. Ale ustrój dalej bedzie demokratyczny.

  2. >by przyłapać ich na właściwie jakimkolwiek naruszeniu prawa.

    czyli praktycznie na dowolnej rzeczy i każdego. Gdyby chociażby dowolnego kierowcę sprawdzać przez całą drogę przez cały dzień – straciłby prawo jazdy w max 2 dni.

    • Wątpię, żeby za nimi jeździli w celu badania prędkości. Raczej chodzi o grubsze przestępstwa. Chociaż jak to wygląda, to wiedzą tylko policjanci, którzy uzupełniają działania tego algorytnu.

      • Nie zrozumiałeś. KAŻDY za kim będzie chodzić policja zostanie za coś skazany. Zwykła jazda samochodem wystarczy. Masz obowiązek przed każdą jazdą sprawdzić stan pojazdu więc na dobrą sprawę możesz dostać mandat zanim odpalisz silnik. Podobnie jak chodzisz wzdłuż pustej ulicy osiedlowej. Twierdzenie więc, żeby ich przyłapać na jakimkolwiek naruszeniu prawa pozwala na zrobienie przestępcy dokładnie z każdego.

        • Mylisz przestępstwa z wykroczeniami i już na tym polu dyskusja jest jałowa.
          Jak rozumiem jesteś elementem egzekwującym tego programu, że tak ze szczegółami rozpisujesz się na jego temat? Czy może jednak nie masz pojęcia jak to faktycznie działa i na co jest zwracana uwaga oraz za co nakładane są kary, a cały twój wywód dotyczy jedynie twojego wyobrażenia?

          • Komentuję artykuł, a nie program, bo przedstawiono go w taki, a nie inny sposób. I do tego wskazuję niebezpieczeństwo jego stosowania. Podziel sam przestępstwa i wykroczenia jeśli inaczej nie możesz zrozumieć co chcę wykazać. A poza tym wcale z Tobą nie dyskutuję, więc na pewno jest jałowa ;)

          • z twojej wypowiedzi możnaby wywnioskować, że mieszkasz gdzieś, gdzie każdy dopuszcza się kradzieży, rozbojów, pobić itd. Każdy.
            Bo nie sprawdzenie samochodu przestępstwem nie jest, tak jak chodzenie po ulicy na osiedlu. Nawet chodzenie po ulicy „nieosiedlowej” nie jest przestępstwem.

  3. „Warto jednak wspomnieć, że nic nie wskazuje, żeby algorytm preferował jakąś konkretną grupę etniczną czy rasową.” To nawet AI już zrobili poprawne politycznie? :D Jak dobrze pamiętam statystykę z analiz po śmierci tego „bohatera” BLM, to czarni w USA stanowią 13% społeczeństwa i popełniają około 54% morderstw, w zależności od stanu stanowią od 20 do 80%(w większości około 50%) osób aresztowanych za rozboje oraz ogólnie w USA zajmują 1/3 miejsc w więzieniach.
    Z takimi danymi ciężko powiedzieć o obiektywnym algorytmie, żeby wszystkie grupy etniczne traktował identycznie. :D

    • Ten algorytm działa w jednym hrabstwie, a ty przytaczasz statystyki dla całych Stanów. Żeby uzyskać w miarę miarodajne dane o zachowaniu tego algorytmu należałoby zestawić liczbę typów z uwzględnieniem rasy, sytuacji majątkowej i wielu innych z populacją tego hrabstwa, a i tak że względu na dużą ilość zmiennych wyniki mogły by być mało konkluzywne.

    • Nie nie „czarni popełniają” a czarni są częściej zatrzymywani i skazywani. Albo i nie skazywani, tylko siedzą po 3-5 lat w więzieniu w oczekiwaniu na proces, ale i tak liczą się do statystyki. Generalnie w USA jak cie nie stać na prawnika – czyli jesteś czarnoskórym, latynosem, rdzennym amerykaninem albo biednym białym – to masz przechlapane.
      Serio statystyka to są tylko „suche dane” i jak nie znasz kontekstu, to równie dobrze możesz się nią podcierać w toalecie, na jedno wyjdzie…

  4. Algorytm robi dokładnie to samo co ludzie wcześniej, tyle że lepiej. A kradzież roweru to nie jest „drobiazg”, to jest kradzież.

  5. Pewnie takie jak zawsze – czarnoskórzy i latynosi. Biali – a niech nawet gwałcą pijane koleżanki, who cares.
    A potem zdziwienie że ludzie w USA masowo protestują przeciwko policji – nie, nie tylko czarnoskórzy…

    • To nie są protesty przeciwko policji. To skoordynowana akcja odbicia kraju. Terror, zastraszanie, antykapitalizm, antykonserwatyzm. To próba zmiany systemu poprzez zastraszanie społeczeństwa. Zwykła dzicz jak za Mao w Chinach, taktyki identyczne.

  6. Podejmowanie działania dopiero po wydarzeniu to jest nienormalność. To tak jakby remontować most, kiedy dopiero się zawali albo leczyć chorobę kiedy się w pełni rozwinie. Instytucja przedstępstwa jest przyszłością i czymś naturalnym. Za kilkadziesiąt lat społeczeństwa będą zastanawiały się, dlaczego nie stosowano instytucji przedstępstwa wcześniej.

  7. To nie wykrywanie przestępstw, lecz produkcja przez prowokację.
    1 – Najpierw wybieramy przypadkowego człowieka, który na podstawie nieznanych nikomu luh bzdurnych przyczyn jest uważany za podejrzanego, czy niepewnego. W tym puncie pomijam przypadki obserwacji tych, którzy już coś poważnego mają na koncie.
    2 – Dręczymy go ustawicznym nachodzeniem i „szukaniem dziury w całym”.
    3 – Kiedy w końcu się zdenerwuje i zareaguje nerwowo, to go rzucamy na glebę, oskarżamy o stawianie oporu i voila – mamy przestępcę!
    Myślę, że autor, pomysłodawca i zamawiający takie oprogramowanie powinni wylądować w więzieniu – co najmniej za marnowanie publicznych środków.
    Pozdrawiam.

    • możliwe, ze w końcu policjanci mający dosyć jeżdżenia ciągle pod ten sam adres bez skutku, w końcu podczas legitymowania, mogą wydawać polecenia, więc wydadzą kilka durnych i sprzecznych czym doprowadzą właśnie do stawiania oporu i myk, sprawa załatwiona,
      system się sprawdza, bo w końcu ten po kogo jeździliśmy okazał się przestępcą.

      Tak oto wcielamy Paragraf 22

  8. „drobiazgów w rodzaju kradzieży elektrycznego roweru”- (nie) życzę temu, kto to napisał, by stał się ofiarą takiego „drobiazgu”. To nie jest drobiazg, jeśli ktoś na niego musiał pracować i oszczędzać (w polskich warunkach pewnie kilka miesięcy), a ktoś mu go po prostu zarąbał i za to nie odpowie (nie odpracuje i nie odda skradzionej wartości). Dla mnie drobiazg to jest wyrzucenie papierka na ulicę, zamiast do kosza, albo jazda komunikacją miejską „na gapę”. Natomiast kiedy w dzieciństwie skradziono mi rower, dość mocno to przeżyłem, bo dla mnie to była niepowetowana strata – rodziców za komuny nie stać było na drugi. Rowerek znalazł się po 10 latach podczas likwidacji meliny na naszym osiedlu – menelom nie był do niczego potrzebny, nawet na złom go nie wynieśli. Za to mi zepsuli kilka lat dzieciństwa.

  9. Wszystko zależy od tego kto będzie programował. A obawiam się, że urzędnicy (czy to chcący kogoś dyskryminować czy też nie) nie będą w stanie za bardzo sprawdzić kodu. Brakuje im po prostu wiedzy, a AI to jest to, co już możemy nazwać „rocket science”.

  10. Specjalny algorytm opiera się o historię kryminalną danej osoby oraz powiązania rodzinne z przestępcami.

    Przestępcy popełniają statystycznie więcej przestępstw niż reszta społeczeństwa! Eureka!

    To odkrycie zmieni nasz świat!

  11. jakby pod mój dom co miesiąc policja przyjeżdżała, to u sąsiadek miałbym taką opinię, że w życiu bym w miasteczku legalnej pracy nie dostał.
    a wtedy to co?
    emigracja albo faktycznie zepchnięcie na ścieżkę przestępczą…

  12. ja wiem że to stany, i niby domniemanie niewinności maja tam bardziej prawdziwsze niż nasze.

    ale jak tak będą szukać to w końcu coś zawsze znajdą:
    „jak za cichy chód po ulicy”

    Dajcie mi człowieka, a paragraf się znajdzie

  13. Ciekawe czy pan szeryf słyszał o czymś takim jak system chaotyczny drugiego poziomu (nieudolne tłumaczenie moje, po angielsku to Second Order Chaos)? W takich systemach jakakolwiek prognoza jest utrudniona przez sam fakt tego, że system jest prognozowany bo ten zwyczajnie reaguje.

    Mam dziwne wrażenie, że tutaj jest podobnie i prowadzi to do tzw. samospełniającej się przepowiedni. Przyjmijmy, że ktoś faktycznie ma przeszłość kryminalną ale chce wyjść na prostą. Usiłuje znaleźć pracę (co już i tak jest utrudnione)… znajduje pracę i próbuje wyjść na prostą. Tymczasem panowie policjanci regularnie go nachodzą. Po jakimś czasie pracodawca zaczyna odczuwać dyskomfort związany z częstszymi wizytami służb policyjnych i decyduje się zwolnić pracownika będącego przyczyną tych wizyt. W efekcie taki ktoś ma dodatkowo utrudnione funkcjonowanie w społeczeństwie i prędzej czy później musi np. coś ukraść żeby być w stanie kupić jedzenie.

    I bam! Szeryf świętuje sukces. Pal sześć, że de facto wepchnął człowieka z powrotem na przestępczą ścieżkę.

Dodaj komentarz

Twój adres email nie zostanie opublikowany. Pola, których wypełnienie jest wymagane, są oznaczone symbolem *