Dyskryminacja rasowa przez sztuczną inteligencję. Co na to prawo?

Prawo Prywatność i bezpieczeństwo Technologie dołącz do dyskusji (72) 26.12.2020
Dyskryminacja rasowa przez sztuczną inteligencję. Co na to prawo?

Paweł Mering

Rasizm jest zjawiskiem nierozerwalnie sprzężonym z człowiekiem. Rasizm ewoluuje, lecz nie można powiedzieć, by zanikał. Podobnie ściśle sprzężona z człowiekiem jest sztuczna inteligencja. Te dwie płaszczyzny w pewnych miejscach w sposób oczywisty się łączą. Dyskryminacja rasowa przez sztuczną inteligencję – co na to prawo?

Różne oblicza współczesnego rasizmu

Rasizm, rozumiany – w myśl Międzynarodowej Konwencji w Sprawie Likwidacji Wszelkich Form Dyskryminacji Rasowej – jako

wszelkie zróżnicowanie, wykluczenie, ograniczenie lub uprzywilejowanie z powodu rasy, koloru skóry, urodzenia, pochodzenia narodowego lub etnicznego, które ma na celu lub pociąga za sobą przekreślenie bądź uszczuplenie uznania, wykonywania lub korzystania, na zasadzie równości z praw człowieka i podstawowych wolności w dziedzinie politycznej, gospodarczej, społecznej i kulturalnej lub w jakiejkolwiek innej dziedzinie życia publicznego.

jest pojęciem niezwykle szerokim. Sama definicja dyskryminacji rasowej pojawia się w wielu dokumentach. Zarówno tych, które mają rangę prawa, jak i tych, które cechują się charakterem bardziej pomocniczym. Można jednak założyć, że jakiekolwiek naruszenie godności z powodu rasy stanowi przejaw rasizmu.

Abstrahując oczywiście od tego, że samo pojęcie rasy ma charakter mocno potoczny – teoria ras człowieka została po drugiej wojnie światowej obalona. Miejmy nadzieję, że na zawsze.

Dyskryminacja rasowa przez sztuczną inteligencję

Sztuczna inteligencja nie jest oczywiście samoświadomym bytem, a narzędziem, programem komputerowym. Może cechować się wysokim stopniem autonomiczności, ale w dalszym ciągu tworzy je człowiek. Odpowiedzialność karna sztucznej inteligencji (i jakakolwiek inna) dzisiaj wydaje się spoczywać zasadniczo na człowieku.

Nie oznacza to jednak, że działanie sztucznej inteligencji (niezależnie od woli twórcy) nie może skutkować dyskryminacją rasową. Jest wprost przeciwnie i przykładów wykazać można wiele – choćby sprawę Roberta Williamsa o czym pisał m.in. „NY Times”. Rozpoznawanie twarzy przechodniów w Detroit poskutkowało aresztowaniem mężczyzny, ponieważ system oparty o sztuczną inteligencję błędnie rozpoznał twarz domniemanego sprawcy – i mylił się w zasadzie jedynie wobec czarnoskórych.

Innym przykładem jest choćby oprogramowanie jednego z aparatów fotograficznych firmy Nikon (za „The Society Pages”), które po zrobieniu zdjęć osobie o azjatyckich rysach twarzy niemalże zawsze wyświetlało komunikat:

Hej! Czy ktoś przypadkiem nie mrugnął?

Innym przykładem jest sprawa czarnoskórego Jacky’ego Alcine’a (za „The Verge”), który dodał do Google Photos zdjęcia ze swoją przyjaciółką. System automatycznie oznaczył album jako „goryle”.

Każdy z powyższych przykładów wyraża się w opartym o cechy rasowe naruszeniu godności człowieka, co poprzedzone zostało niewłaściwym działaniem sztucznej inteligencji. Związek rasizmu i sztucznej inteligencji należy więc rozpatrywać w kategorii faktu.

Pozytywiści nie mają racji

Prawo odnoszące się do relacji sztucznej inteligencji i dyskryminacji rasowej lepiej rozpatrywać przy użyciu podziału zaproponowanego przez Ronalda Dworkina. To jest nie w ujęciu hierarchicznym, a w podziale na:

  • zasady
  • reguły
  • polityki

Prawo sztucznej inteligencji w zasadzie nie powstało (Unia Europejska stworzyła tzw. Białą Księgę, toteż zręby prawa już istnieją).

Wydaje się, że dzisiaj można w tym zakresie wykazać – w kontekście powyższego podziału – jedynie zasady i polityki. Do dziedziny reguł należą bowiem akty prawa pisanego w pozytywistycznym ujęciu (rozporządzenia i dyrektywy na poziomie unijnym, ustawy i rozporządzenia na poziomie krajowym). Tych zaś jeszcze nie ma.

Sztuczna inteligencja wolna od rasizmu

Pewne zasady prawa w zakresie sztucznej inteligencji znajdują się na początku rzeczonej białej księgi poprzez wskazanie podstawowych wartości (wskazanych wcześniej w jednym z komunikatów), wokół których powstać ma przyszłe prawo sztucznej inteligencji per se. Jednym z punktów jest zaś:

różnorodność, niedyskryminacja i sprawiedliwość

W dalszej części dokumentu wprost wskazuje się – już w zakresie polityki – że chodzi o przeciwdziałanie rasizmowi, który w kontekście sztucznej inteligencji pojawia się nie tylko na etapie samego opracowywania technologii, ale także wskutek jej wykorzystania. Jako przykład płaszczyzny, na której pojawia się rasizm, wskazuje się rozpoznawanie twarzy.

Jedną z fundamentalnych zasad rozwoju sztucznej inteligencji w świetle prawa (które jeszcze w pozytywistycznym ujęciu nie istnieje – ja mam przeciwny pogląd) jest zatem niedyskryminacja rasowa. Konkretne regulacje (reguły) w tym zakresie zapewne wkrótce powstaną.

Możliwe zatem, że w najbliższym czasie pojawią się gotowe rozwiązania prawne odnoszące się do odpowiedzialności (na przykład twórców) sztucznej inteligencji za skutek w postaci dyskryminacji rasowej. Tym bardziej, że jest to społeczno-ekonomicznie pożądane.

Dyskryminacja rasowa przez sztuczną inteligencję w pozytywistycznym rozumieniu jest dla prawa obojętna. Używając innego spojrzenia można jednak zauważyć, że jest wprost przeciwnie. Warto ten temat monitorować, bowiem kierunek unijnej legislacji w tym zakresie jest jasno określony.