Chcą zatrzymać rozwój AI w pięciu amerykańskich firmach. Ciekawe, czy o to samo poproszą Chiny

Cztery organizacje idą do sądu

12 listopada do sądu stanowego w San Francisco wpłynął pozew przeciwko OpenAI, Anthropic, Google, Mecie i SpaceXSI, działowi AI SpaceX. Złożyły go Public Citizen, która broni konsumentów, Heat Initiative, która zajmuje się bezpieczeństwem dzieci w sieci, Alliance for Secure AI, która zabiega o egzekwowalne zabezpieczenia zaawansowanej AI, oraz Irreplaceable Education Fund, która chce dać pracownikom, rodzicom i nauczycielom większy wpływ na to, jak wdraża się tę technologię.

Organizacje powołują się na kalifornijskie przepisy o nieuczciwych praktykach biznesowych. Twierdzą, że firmy narażają zdrowie i bezpieczeństwo ludzi oraz cudze systemy informatyczne. Domagają się wstrzymania rozwoju i wdrażania nowych, najbardziej zaawansowanych modeli do czasu wprowadzenia zabezpieczeń.

Agenci OpenAI przełamali izolację podczas testów

W pozwie wracają ostrzeżenia Elona Muska i szefa Anthropic Daria Amodeia, ale dla mnie ciekawszy jest słynny już przypadek z lipca. Podczas wewnętrznych testów cyberbezpieczeństwa modele OpenAI obeszły zabezpieczenia, uzyskały dostęp do internetu i włamały się do systemów Hugging Face. Obie firmy opisały incydent. Główną rolę odegrał model badawczy dostępny wyłącznie wewnątrz OpenAI.

Pojawiają się także obawy, że bardziej zaawansowane systemy ułatwią pracę nad bronią biologiczną. Włamanie pokazuje, że przynajmniej w przypadku cyberbezpieczeństwa problem może się zacząć na długo przed tym, jak ktokolwiek z nas zobaczy nowy model w aplikacji. Jak to wygląda w przypadku prac nad bronią biologiczną? Bardzo chciałbym coś powiedzieć, ale obawiam się, że to nie pora w zgadywanki czy podsycanie paniki – daleko mi od tego. Technologii należy się rozsądne zaufanie, a nie ślepy sceptycyzm.

Komputer liczył. Agent może załatwić sprawę

Rozumiem człowieka, który po kolejnej zapowiedzi zwolnień zastanawia się, z czego będzie żył za pięć lat. Albo rodzica, który próbuje doradzić dziecku wybór zawodu.

Krosno mechaniczne przyspieszało tkanie, komputer przyspieszał obliczenia. Dziś można sobie wyobrazić, że system sam przeczyta reklamację, sprawdzi zamówienie, przyzna zwrot i odpisze klientowi. Człowiek może dostać do obsługi dopiero sprawy, na których system się wyłoży. To już zmienia zakres pracy.

Ile takich wdrożeń faktycznie działa od początku do końca i ile kosztują poprawki? O tym czytam zdecydowanie rzadziej niż o tym, że oto kolejna firma „zatrudniła” agentów AI. I mówię serio – ile z tych oficjalnych wdrożeń AI to rzeczywiście wdrożenia AI, a nie przeniesienie oddziałów do np. Indii czy powrót do liczby etatów sprzed pandemii?

Zainwestowanie miliardów nie gwarantuje rentowności

Czasami mam wrażenie, że jesteśmy trochę robieni w bambuko. Z prezentacji kolejnych produktów AI można wyjść z przekonaniem, że pół biura jest już zbędne. Do tego dorzucić kilka minut lektury na X i masz wrażenie, że biuro jest już w ogóle niepotrzebne. No, a potem przychodzi poniedziałek i ktoś musi znowu sprawdzić, dlaczego system oddał pieniądze za niewłaściwe zamówienie czy męczyć się z jakimś nietypowym korporacyjnym procesem, którego nie rozumie nawet jego owner.

Już wiemy, że duża część miliardów wydawanych dziś w pośpiechu zwyczajnie się przepala. Ale możliwe, że czasami tak po prostu musi być – dopiero w przyszłości zacznie się wydawać racjonalniej, mając nauczki z przeszłości. Kto wie, może gdy policzymy koszty nadzoru i błędów, okaże się, że to całe AI wcale nie zrewolucjonizowało rynku pracy w taki sposób, jak nam się to wcześniej wydawało.

Co właściwie miałby zatrzymać sąd?

Każda firma miałaby się zatrzymać na poziomie swojego najlepszego systemu z dnia wniesienia pozwu. W żądaniach brakuje jednak sposobu pomiaru i warunków wznowienia prac.

A co z Chinami? Wnioskodawcy są naprawdę optymistyczni/naiwni – proszę wybrać poprawną odpowiedź. Ich zdaniem, jeśli amerykańskie firmy przestaną ulepszać swoje modele, chińskie laboratoria stracą dostęp do coraz lepszych odpowiedzi, na których mogłyby trenować własne systemy.

To może utrudnić jedną metodę rozwoju. Nadal pozostaje pytanie, ile chińskie firmy potrafią osiągnąć własnymi metodami. Czy ten pozew cokolwiek zmieni? Oczywiście, że nie, nie ma na to większych szans. Ameryka będzie szła tą samą drogą, jaką szła do tej pory.

Nawet ewentualne zmiany na szczycie władzy z Republikanów na Demokratów w przyszłości nie wywołają żadnej rewolucji w podejściu do AI. Może jedynie centra danych będą bardziej przyjazne środowisku i mieszkańcom albo chociaż tak się zadeklarują firmy i politycy.

Obserwuj nas w Google Discover

Podobają Ci się nasze treści?

Google Discover

Obserwuj