10-latka zapytała wirtualnego asystenta o jakieś wyzwanie. Alexa kazała jej włożyć metal do kontaktu

Alexa naraziła dziecko na porażenie prądem

Portal "ITHardware.pl" opisał dosyć ciekawą historię, którą można podsumować tak, że wirtualna, oparta o sztuczną inteligencję asystentka Alexa naraziła dziecko na porażenie prądem. Cała sprawa dotyczy pewnej rodziny i 10-latki, która to zapytała urządzenie "o jakiś challenge", czyli poprosiła o zasugerowanie jakiegoś ciekawego wyzwania.

Urządzenie, korzystając oczywiście z samodzielnie gromadzonej bazy danych opartej o treści krążące w sieci, zasugerowało dziewczynce tzw. TikTok Penny challenge, "mówiąc":

Wyzwanie polega na wysunięciu wtyczki z kontaktu tak, by odsłonić bolce. Specyfika amerykańskich gniazdek sprowadza się do tego, że lekkie wysunięcie wtyczki nie powoduje, że przestaje być ona pod napięciem.

Bezmyślne TikTokowe wyzwanie sprowadza się do tego, że - po uprzednim wysunięciu wtyczki - należy obie żyły dotknąć jednocentówką, co ma wywołać zwarcie oraz iskrzenie. Sam challenge jest oczywiście bardzo niebezpieczny i mogący prowadzić do groźnych porażeń prądem czy też pożarów. Problem okazał się dosyć powszechny.

Jak donosi bostoński CBS News, niektórym, w związku z przedmiotowym wyzwaniem, stawiano nawet zarzuty. Dwóch 15-latków oskarżono o próbę podpalenia i zniszczenie mienia. Władze Massachusetts wystosowały swego czasu specjalny list przestrzegający przed tym niebezpiecznym trendem.

Czy to początek buntu maszyn?

Wracając do tytułowej 10-latki, to na szczęście okazała się na tyle rozsądna, że po prostu nie skorzystała z porady Alexy. Warto dodać, jak wyjaśniła jej mama - Kristin Livdahl - proszenie Alexy pomysły na zabawę jest w tej rodzinie normalną czynnością. Amazon zareagował błyskawicznie i usunął usterkę, skutkiem czego Alexa nie zasugeruje już żadnemu dziecku, by majstrowało przy kontakcie.

Czy opisana historia jest bulwersująca? Wydaje mi się, że nie do końca. Trudno jakkolwiek obwiniać (abstrahując od tego, że w wypadku jakiejś szkody sprawa i tak byłaby precedensowa, więc nawet nie usiłuję konstruować modelu hipotetycznej odpowiedzialności) producentów Alexy o niedopatrzenia, zaś samą sztuczną inteligencję o złe intencje.

Oczywiście, gdybyśmy mieli do czynienia z AGI, czyli samoświadomą - jak człowiek - sztuczną inteligencją, to takie sygnały byłyby niepokojące. Powodem niebezpiecznej sugestii programu nie była jednak żadna ukierunkowana intencja, a popularność wyzwania, o którym głośno było i na TikToku, ale i także w sieci. "Penny TikTok challenge" to dosyć popularna fraza, więc oprogramowanie mogło, "niepilnowane" przez człowieka, z niej skorzystać.

Wydaje się, że wniosek jest nieco inny: TikTokowe trendy bardzo często są w istocie nie tylko bezmyślne, ale i bardzo niebezpieczne. I to tej sfery, a nie sztucznej inteligencji, należy się przede wszystkim obawiać.