Chiny testują AI służące do inwigilacji na bezprecedensową skalę na Ujgurach

Technologie Zagranica dołącz do dyskusji (214) 29.05.2021
Chiny testują AI służące do inwigilacji na bezprecedensową skalę na Ujgurach

Rafał Chabasiński

Chiny testują AI mające odczytywać emocje z wyrazu twarzy i typować sprawców przestępstw spośród obserwowanych osób. Królikami doświadczalnymi tych pionierskich rozwiązań w dziedzinie inwigilacji  są Ujgurzy. To kolejny krok w stronę upiornej dystopii, czy po prostu bardziej zaawansowany wykrywacz kłamstw?

Testowanie urządzeń mających typować przestępców akurat na Ujgurach budzi poważne obawy o przestrzeganie praw człowieka

Współczesne Chiny kojarzą się nie tylko z aspirującym supermocarstwem i wojnami handlowymi. Z pewnością niemal każdy słyszał o zaawansowanych metodach kontroli obywateli, oraz ich oceniania przez władzę. Przykładem może być chiński system kredytu społecznego, oraz ściśle kontrolowana przez władze chińska wersja Internetu. Nie sposób również zapoznać o setkach milionów kamer obserwujących każdy ruch obywateli. Teraz tamtejsze władze znalazły dla nich nowe zastosowanie.

Jak informuje BBC, Chiny testują AI mające wykorzystywać kamery do typowania przestępców. W pierwszej kolejności nowy system jest wykorzystywany w regionie Sinciang w zachodnich Chinach. To obszar zamieszkały przez muzułmańskich Ujgurów, poddawanych od dłuższego czasu bardzo intensywnej sinizacji. Niektórzy nawet w działaniach chińskich władz doszukują się czystki etnicznej, czy wręcz ludobójstwa.

Póki co, kamery miały zostać zainstalowane na posterunkach policji. Specjalne oprogramowanie oparte o zaawansowaną sztuczną inteligencję co kilka minut wyszukuje i analizuje zmiany w wyrazie twarzy danej osoby. Źródłem informacji dla AI mają być przede wszystkim pory skórne. W oparciu o analizę system przygotowuje specjalny wykres kołowy, który wskazuje na udział „negatywnego lub niespokojnego stanu umysłu” w zachowaniu przesłuchiwanego.

Oprogramowanie służyć ma do wstępnej oceny, przed właściwym przesłuchaniem. Przynajmniej w teorii nie chodzi więc o typowanie winnych zanim w ogóle doszło do przestępstwa. Jak się łatwo domyślić, obrońcy praw człowieka od razu zwrócili uwagę na duże prawdopodobieństwo ich łamania. Chińscy dyplomaci z ambasady w Londynie nie potwierdzają uzyskanych przez BBC informacji o istnieniu systemu. Równocześnie zapewniają, że prawa człowieka na terenie Chińskiej Republiki Ludowej są przestrzegane.

Chiny testują AI będące w praktyce dużo bardziej zaawansowaną i nowoczesną wersją wykrywacza kłamstw

Skoro Chiny testują AI na Ujgurach, to istnieje duże prawdopodobieństwo, że system później trafi do użytku także w pozostałych częściach kraju. Nie jest jeszcze wystarczająco zaawansowany, by wykorzystywać go w sposób zautomatyzowany, poza miejscem pracy żywych śledzcych. Najprawdopodobniej jednak technologia, jeśli się sprawdzi, zostanie z czasem dopracowana i włączona do pozostałych metod nadzoru populacji.

Technologia może również trafić na eksport – nie byłaby to przecież sytuacja bez precedensu. Zresztą, masowe wykorzystywanie systemów rozpoznawania twarzy nie jest wcale domeną wyłącznie Chin. Podobnie jak inwigilacja obywateli. Tu jako przykład można wskazać chociażby zakupiony przez Polskę izraelski system Pegasus pozwalający zdalnie uzyskać informacje z telefonu praktycznie każdej osoby.

Nie sposób nie dostrzec pewnych podobieństw pomiędzy nową chińską technologią a sposobem działania wariografu, popularnego „wykrywacza kłamstw”. W obydwu przypadkach urządzenie bada fizjologiczne reakcje organizmu. Na ich podstawie ustala się, czy dana osoba może mieć coś do ukrycia. Oczywiście, rozwiązanie oparte o zdobycze najnowszej techniki jest dużo bardziej zaawansowane i najprawdopodobniej prostsze w użyciu.

Zarówno wariograf, jak i testowane przez Chiny rozwiązanie, mogą pod pewnymi warunkami stać się pożytecznymi narzędziami pracy śledczych. Mogą również przeistoczyć się w wynalazki rodem z najgorszych dystopii. Wszystko zależy tak naprawdę od podejścia danego systemu prawnego, i samych śledczych, do wyników pracy urządzenia. Bezkrytyczność względem wskazań „cudu techniki” sprzyja łamaniu praw człowieka podejrzanego.

Słabym ogniwem systemu jest więc nie technologia, lecz człowiek. Warto przy tym zauważyć, że stosowanie wariografu w trakcie przesłuchania jest niedopuszczalne przez polski kodeks postępowania karnego. „Wykrywacz kłamstw” można za to zastosować w postępowaniu przygotowawczym. Warunkiem jest między innymi zgoda ze strony przesłuchiwanego, oraz brak bezpośredniego związku badania z czynnością przesłuchania.