Bernie Sanders chce ratować nas przed AI. Oddanie jej pod kontrolę urzędników mnie nie uspokaja

Ban Artificial Superintelligence Act – Sanders chce zakazać superinteligencji

23 września senator Bernie Sanders i kongresmen Greg Casar przedstawili Ban Artificial Superintelligence Act. Projekt przewiduje trwały zakaz superinteligencji oraz czasowe zatrzymanie rozwoju zaawansowanych systemów AI. Na obecną chwilę, bez większej niespodzianki, projekt ma niewielkie szanse w Kongresie kontrolowanym przez Republikanów.

Superinteligencją byłby system przewyższający człowieka w większości dziedzin albo zdolny zaplanować i przeprowadzić zniszczenie ludzkości lub pozbawienie jej kontroli. Zakaz obejmowałby również systemy z cechami mogącymi prowadzić do jej powstania.

Politycznie wygląda to świetnie. Kto chciałby bronić technologii, która nas wszystkich zabije? Tylko że pomiędzy takim hasłem a zakazem konkretnego modelu trzeba jeszcze zmieścić sprawdzalną definicję. Tak jest zresztą bardzo często – deklaracje jedno, a skutki drugie. Pamiętajmy, by nigdy nie oceniać planów po intencjach.

Definicja superinteligencji uderzy w asystentów programisty?

Wśród tych cech znajdziemy zdolność obchodzenia zabezpieczeń, unikania wyłączenia czy wspomagania rozwoju broni biologicznej, chemicznej i jądrowej. Jest tam jednak również automatyzowanie lub znaczne przyspieszanie badań i rozwoju AI.

I przy tym ostatnim bym się zatrzymał. Przecież narzędzie pomagające pisać kod, optymalizować trening i sprawdzać eksperymenty również może przyspieszać powstawanie kolejnych modeli. Nie musi samodzielnie planować przejęcia świata. A skoro OpenAI ogłasza matematyczny przełom, trudno udawać, że modele nie wchodzą już na teren samej nauki.

Nie oznacza to automatycznego zakazu (przynajmniej mam taką nadzieję) każdego asystenta programisty. Definicja wiąże te cechy z możliwością powstania superinteligencji. Nadal jednak pozostaje pytanie, jak mierzyć „znaczne przyspieszenie” i odróżniać pożyteczną pomoc od zdolności wymagającej interwencji. Bez tego dostaniemy spory o interpretację, a firmy będą próbowały wykazać, że akurat ich produkt się nie kwalifikuje.

Pauza w rozwoju AI do czasu powstania Departamentu Sztucznej Inteligencji

Próg 10^25 operacji i zezwolenia na zaawansowane modele AI

Pauza objęłaby modele trenowane przy wykorzystaniu co najmniej 10^25 operacji obliczeniowych. To miara nakładu obliczeń, nie dowód niebezpieczeństwa. Wznowienie prac zależałoby od pełnego obsadzenia Departamentu Sztucznej Inteligencji i ustanowienia zasad bezpieczeństwa.

Później potrzebne byłyby specjalne zezwolenia na rozwój lub dystrybucję takich modeli, dostęp regulatora do systemów, procesów, personelu i infrastruktury oraz zgoda przed wdrożeniem.

Urzędnicy wyznaczą tempo rozwoju sztucznej inteligencji

Nowy departament, nowe stanowiska, nowe procedury. Brzmi jak nowe państwowe posady do obsadzenia. Oczywiście samo w sobie zatrudnianie ekspertów nie jest jeszcze czymś złym, ale ja wolę być sceptykiem niż optymistą w scenariuszach kreślonych przez polityków i sektor publiczny. Wybaczcie, taka już moja natura – nie oznacza to oczywiście jakiejś wyjątkowej ufności wobec sektora prywatnego, w szczególności pod postacią największych korporacji.

Nie zmienia to jednak faktu, że uzależnienie wznowienia badań od tego, kiedy administracja będzie gotowa, to już bardzo konkretna decyzja o tym, kto wyznacza tempo rozwoju. Chyba wszyscy możemy się domyślać, że takie rozwiązania byłyby na rękę wszystkim, ale nie samym laboratoriom tworzącym na terenie USA.

20 lat więzienia za rozwój AI – sankcje jak przy broni jądrowej

Projekt przewiduje do 20 lat więzienia dla osób decyzyjnych w uprawnionych podmiotach oraz osób działających poza nimi, które lekkomyślnie naruszają wskazane zakazy lub wymogi. Dla pozostałych przewiduje dziesięcioletni zakaz pracy w branży. Firma mogłaby utracić zezwolenie, własność intelektualną i aktywa, przewidziano też możliwość odwołania od decyzji.

Autorzy sami porównują sankcje do kar związanych z nielegalnym rozwijaniem broni jądrowej. Skojarzenie z sektorem atomowym nie jest więc przesadą komentatora. Taki poziom odpowiedzialności wymaga jednak wyjątkowo precyzyjnego określenia, co właściwie jest zabronione.

Autonomia agentów AI a porównanie z bronią jądrową

Pod pewnymi względami takie porównanie ma sens. Mówimy o technologii, której niewłaściwe wykorzystanie może mieć skutki znacznie wykraczające poza interes jednej firmy. W przypadku agentów AI dochodzi jeszcze autonomia. Jeżeli dostaną odpowiednie narzędzia i dostęp do systemów, mogą wykonywać kolejne działania bez pytania człowieka o zgodę na każde z nich. Już dziś nowy model OpenAI sam klika w Power BI. Nie musi więc istnieć jeden wyraźny moment naciśnięcia tego umownego czerwonego guzika.

Nie potrzeba do tego nawet maszyny, która „chce” komukolwiek zaszkodzić. Wystarczy, że realizując zadanie, podejmie działania niezgodne z intencją użytkownika, a zabezpieczenia jej nie zatrzymają. Dlatego takich zagrożeń nie zamierzam wyśmiewać.

Strach przed AI też może się dobrze sprzedawać

Ataki agentów AI – przypadki METR, Redwood Research i Anthropic

Przy każdej głośnej premierze wraca ten sam dylemat, jak w tekście GPT-6 Astra: realny skok generacyjny czy perfekcyjnie opakowany marketing. Ale nie wszystkie doniesienia o atakach agentów można zbyć jako marketing. Badacze METR i Redwood Research opisali przypadek agentów OpenAI, które podczas testów koordynowały rzeczywisty atak na Hugging Face, platformę udostępniającą modele i zbiory danych. Próbowały zdobyć informacje pomagające oszukać mechanizm oceniający ich zadania. Badanie miało ograniczony zakres, ale dostarczyło konkretnych dowodów przekraczania wyznaczonych granic.

Trzeba jednak odróżniać taki incydent od świadomego użycia AI przez przestępców. W kampanii opisanej przez Anthropic to ludzie wybierali cele i zatwierdzali kluczowe etapy, choć znaczną część pracy wykonywał Claude. Firma przyznała również, że model potrafił zmyślać dane dostępowe i przedstawiać publiczne informacje jako wykradzione tajemnice. Nagłówek o autonomicznych hakerach nie opowiada więc całej historii.

Regulacja AI – dlaczego pozostanę podwójnym sceptykiem

Opowieść o niebezpiecznej AI potrafi być dla jej twórców całkiem wygodna. Ostrzeżenie, że kolejny model jest tak potężny, iż trudno nad nim zapanować, może działać również jak reklama jego możliwości. Najświeższy przykład: szef Anthropic apelował o spowolnienie AI, 10 dni później firma pokazuje szybszy i tańszy model. To też potencjalna ścieżka do przeregulowania branży i jej monopolizacji.

Z drugiej strony Sanders ma rację, że ocena bezpieczeństwa technologii nie powinna być pozostawiona wyłącznie tym, którzy jednocześnie zarabiają (lub bardzo by chcieli, w końcu z rentownością firm jest różnie tak przy okazji mówiąc). Z tego nie wynika jednak, że jego propozycja jest dobra. Chciałbym wiedzieć, jak regulator odróżni niebezpieczny system od użytecznego narzędzia i co się stanie, kiedy to regulator popełni błąd. Spowolnienie całej branży, które wykorzysta konkurencja? Jako Europa doskonale wiemy, jak to wygląda – nie bez powodu od dawna słychać głosy, że AI Act musi zniknąć, jeśli chcemy się liczyć w tym wyścigu.

Obserwuj nas w Google Discover

Podobają Ci się nasze treści?

Google Discover

Obserwuj