"Katastrofa". Mogły wyciec wasze rozmowy z popularnym AI. Normalnie zaczęły się indeksować w Google

BBC, które dotarło do sprawy, ustaliło, że wyszukiwarka zaindeksowała prawie 300 tys. konwersacji. Według magazynu Forbes – który jako pierwszy opisał aferę – liczba ta sięga nawet 370 tys.

Od haseł i diet po narkotyki

Wśród ujawnionych rozmów znalazły się zarówno prozaiczne prośby - np. o wygenerowanie bezpiecznego hasła, ułożenie planu żywieniowego czy porady dotyczące zdrowia - jak i interakcje, które balansowały na granicy prawa. BBC przywołuje przykład czatu, w którym Grok podał szczegółowe instrukcje dotyczące produkcji narkotyku klasy A w laboratorium.

Choć dane kont użytkowników w takich zapisach są najczęściej anonimizowane, same treści rozmów mogą zdradzać informacje wyjątkowo wrażliwe: nazwiska, adresy, problemy zdrowotne, szczegóły życia osobistego czy plany biznesowe. – „Raz ujawnione, takie konwersacje zostaną w sieci na zawsze” – ostrzega prof. Luc Rocher z Oxford Internet Institute.

Nie pierwszy taki przypadek

Historia Groka nie jest odosobniona. Podobne wpadki zaliczyli wcześniej inni giganci technologiczni. OpenAI testowało eksperymentalną funkcję, która również sprawiała, że udostępnione rozmowy ChatGPT trafiały do wyszukiwarek. Po fali krytyki firma wycofała się z pomysłu, zapewniając, że domyślnie wszystkie czaty są prywatne, a decyzja o ich publikacji należy wyłącznie do użytkownika.

Również Meta w tym roku musiała się tłumaczyć – rozmowy z jej botem Meta AI niespodziewanie pojawiły się w publicznej sekcji „discover” w aplikacji.

Eksperci zajmujący się etyką AI podkreślają, że problem jest systemowy. Sytuacja, w której użytkownicy nie są informowani, że udostępnione rozmowy trafią do wyników wyszukiwania, jest wysoce problematyczna – mówi Carissa Véliz z Oxford University’s Institute for Ethics in AI.

Katastrofa w zwolnionym tempie

Grok miał być sztandarowym projektem AI Elona Muska, rozwijanym przez należącą do niego platformę X (dawniej Twitter). Teraz zamiast technologicznego przełomu firma zmaga się z kryzysem wizerunkowym. Użytkownicy – często nieświadomi – stali się bohaterami setek tysięcy konwersacji, które wylądowały w publicznej przestrzeni internetu.

Dla ekspertów to dowód, że w pogoni za szybkim wdrażaniem nowych rozwiązań firmy technologiczne spychają kwestie prywatności na dalszy plan. „Chatboty AI to katastrofa prywatności” – podsumowuje prof. Rocher.

W epoce sztucznej inteligencji bezpieczeństwo danych to nie tylko sprawa regulacji i algorytmów. To przede wszystkim kwestia zaufania – a tego, jak widać, coraz trudniej oczekiwać od firm, które eksperymentują na żywym organizmie, jakim są miliony użytkowników.

Obserwuj nas w Google Discover

Podobają Ci się nasze treści?

Google Discover

Obserwuj