OpenAI ogłasza matematyczny przełom. Zaraz potem naukowiec pyta o swoje nieopublikowane badania

Matematyczny przełom OpenAI w cieniu afery o dane

8 września OpenAI poinformowało, że jego wewnętrzny system znalazł rozwiązanie problemu milenijnego dotyczącego równań Naviera–Stokesa, które opisują ruch płynów. Problem polega na ustaleniu, czy w określonych warunkach z tych równań mogą wyniknąć nieskończenie duże prędkości, przy których matematyczny opis przestaje odpowiadać fizycznej rzeczywistości.

Firma opublikowała dowód oraz formalizację w języku Lean. Według jej relacji grupa, która uzyskała wynik, liczyła około 10 tys. współpracujących agentów AI. Do rozwiązania dotarła po około 88 godzinach, a formalizacja i weryfikacja zajęły kolejne 17 godzin. To opis OpenAI, nie niezależny audyt przebiegu prac. Sam komunikat nie oznacza jeszcze ostatecznego uznania wyniku przez matematyków.

Gdyby na tym historia się kończyła, rozmawialibyśmy przede wszystkim o możliwościach AI. Tymczasem pojawiły się pytania o to, co dzieje się z pracą ludzi, którzy tych narzędzi używają.

Naukowcy powierzali Codexowi szkice swoich badań

Tristan Buckmaster z New York University i Levent Alpöge, zatrudniony w Anthropic, pracowali nad pokrewnymi zagadnieniami. Buckmaster opisuje tę współpracę jako prywatną, bez formalnych porozumień między instytucjami. Korzystali z Claude’a i Codexa. Do tego drugiego miały trafiać wszystkie szkice projektu. To właśnie tu zaczyna się pytanie, które od dawna wraca przy okazji analiz o styku prawa autorskiego sztucznej inteligencji AI: co właściwie dzieje się z materiałem, który powierzamy modelowi.

15 sierpnia uzyskali wyniki dotyczące m.in. równań Eulera. To ważne rozróżnienie: ich opublikowane osiągnięcie nie było rozwiązaniem tego samego problemu, które później ogłosiło OpenAI. Nie oznacza to jednak, że zajmowali się czymś niezwiązanym z problemem milenijnym. Buckmaster wyraźnie opisuje obrany kierunek jako drogę do niego.

Dziwny zbieg okoliczności?

Według OpenAI firma rozpoczęła własne prace 1 września, po usłyszeniu pogłosek o przełomie. Dowód i formalizacja były gotowe w weekend 5–6 września.

Buckmaster zwrócił uwagę na podobny kierunek badań. Zapytał więc, czy wewnętrzny model miał dostęp do ich sesji w Codexie albo był na nich trenowany. Jak relacjonuje, usłyszał, że model nie przeszukiwał danych użytkowników. Po ponowieniu pytania o trening z wykorzystaniem rozmów użytkownika - odpowiedzi nie dostał.

To są dwa różne pytania. System nie musi otwierać cudzej rozmowy podczas rozwiązywania zadania, żeby jej treść wcześniej została wykorzystana do jego uczenia.

Rozmowa, podczas której padły groźby

W niedzielę 6 września odbyły się rozmowy, których przebieg jest dziś przedmiotem sporu. Buckmaster opisuje dwie propozycje: publikację wyniku duetu przed ogłoszeniem OpenAI albo późniejsze opracowanie przez niego artykułu przedstawiającego dowód firmy, z uznaniem wkładu jej modelu. W tym drugim wariancie miał wystąpić sam, bez Alpögego. Przeszkodą miało być zatrudnienie współpracownika w Anthropic.

Matematyk odrzucił propozycje. Gdy zapowiedział ujawnienie sprawy, Sébastien Bubeck z OpenAI miał zapytać: „Dlaczego miałbyś zrujnować swoją karierę?”. Następnie miały paść słowa: „Jeśli nie chcesz, żebym był miły, to nie muszę być miły”. Jeżeli rozmowa wyglądała tak, jak opisuje ją Buckmaster, trudno nie odczytać tego jako próby zastraszenia.

Pracownik OpenAI przeprasza

Bubeck odpowiada, że nie chciał usuwać Alpögego z autorstwa jego własnej pracy. Według niego chodziło o nowe opracowanie dowodu OpenAI, przy którym udział pracownika konkurencji uważał za niewłaściwy.

Przyznał też, że mówił o ryzykowaniu kariery, i przeprosił za dobór słów. Twierdzi, że miał na myśli konsekwencje formułowania bezpodstawnych oskarżeń, a wypowiedź wycofał jeszcze podczas rozmowy. To istotne wyjaśnienie. Nie zamienia jednak całego zdarzenia w bezsporną, przyjazną rozmowę o wspólnej publikacji

Usunięcie nazwiska nie usuwa wartości pomysłu

OpenAI zaprzecza, żeby ich badacze lub agenci mieli dostęp do nieopublikowanej pracy duetu, i podkreśla różnice między dowodami. Zastrzega jednak, że choć uważa to za mało prawdopodobne, nie może wykluczyć, iż dane pochodzące z korzystania przez naukowców z produktów firmy, pozbawione informacji identyfikujących, pomogły ulepszyć modele.

To nie jest przyznanie się do kradzieży. Buckmaster również zaznaczył w swoim oświadczeniu, że nie wie, czy wykorzystano ich dane. Co więcej, sam wskazuje, że obrany program badań rozwijali wcześniej Diego Córdoba i Luis Martínez-Zoroa. Podobny kierunek może zatem wynikać ze wspólnej, publicznej podstawy.

Nie przekonuje mnie jednak uspokajanie użytkownika samym usunięciem informacji o jego tożsamości. To zresztą kolejna odsłona sporu o to, jak dziś wygląda kwestia: ChatGPT a prawa autorskie — komu przypada efekt, gdy w grę wchodzi cudza, niepubliczna praca. Wartość nieopublikowanego pomysłu pozostaje również wtedy, gdy nikt nie wie, jak nazywa się autor. Dla badacza czy przedsiębiorcy znaczenie ma także to, czy ktoś może skorzystać z efektów jego pracy, zanim on sam zdąży je wykorzystać.

„Tak działa AI” nie może być uniwersalnym usprawiedliwieniem

Modele językowe uczą się statystycznych zależności. Nie dostajemy wraz z odpowiedzią kompletnego wykazu materiałów treningowych, które wpłynęły na każde zdanie. Z tego nie wynika jednak, że twórcy mogą rozłożyć ręce i powiedzieć: niczego nie da się sprawdzić.

Ustalenie wpływu konkretnego tekstu na konkretną odpowiedź jest innym zadaniem niż sprawdzenie, czy rozmowę włączono do zbioru treningowego. Firma powinna umieć wykazać, jakie dane zbiera, gdzie je kieruje i jakie zasady stosuje. Statystyczny charakter modelu nie zwalnia z odpowiedzialności za organizację tego procesu.

Właśnie dlatego potrzebujemy przejrzystości, dokumentowania pochodzenia danych i możliwości kontroli. To zresztą kierunek, w którym zmierza prawo — nie bez powodu UE wprowadzi regulacje dotyczące AI oparte właśnie na przejrzystości i możliwości rozliczenia. Potwierdzenie poprawności dowodu matematycznego nie odpowie przecież na pytanie, skąd wzięły się prowadzące do niego pomysły.

Płatna subskrypcja nie jest obietnicą poufności

Byłoby jednak nierzetelne napisać, że każde użycie AI oznacza takie samo ryzyko. Nawet w ofercie jednego dostawcy zasady mogą się różnić.

Dokumentacja Codexa wskazuje, że w planach Plus i Pro rozmowy mogą służyć ulepszaniu modeli, jeżeli użytkownik nie wyłączy treningu w ustawieniach. W produktach biznesowych i API OpenAI deklaruje domyślnie brak takiego wykorzystania danych - w API możliwe jest dobrowolne włączenie ich udostępniania. Sam fakt opłacania abonamentu nie oznacza więc automatycznie wyłączenia treningu — a to temat, który wraca przy każdej rozmowie o tym, jak wygląda ChatGPT a ochrona danych.

Nie mamy tutaj potwierdzonej konfiguracji kont badaczy. Nie można na tej podstawie przesądzić, że firma złamała konkretną obietnicę dotyczącą ich danych. Nie należy też utożsamiać wyłączenia treningu z całkowitym brakiem przechowywania lub przetwarzania treści przez dostawcę.

Tak naprawdę nie wiemy, z czego korzystamy

Przed wrzuceniem do narzędzia nieopublikowanych badań, kodu czy strategii firmy trzeba wiedzieć, z jakiej usługi korzystamy i co obejmują jej zasady. Samo logo znanej marki daje niewiele odpowiedzi.

Moim zdaniem afera wokół OpenAI powinna oduczyć nas traktowania okienka czatu jak prywatnego notatnika. Dostawca może jednocześnie prowadzić własne badania, rozwijać produkty i konkurować o ten sam przełom. Nawet jeżeli w tej sprawie nie wykorzystano cudzych materiałów, ten konflikt interesów pozostaje. A wraz z nim pytania, na które prawo wciąż nie ma gotowej odpowiedzi — choćby to, czy sztuczna inteligencja osobowość prawną powinna kiedykolwiek uzyskać.

Im dokładniej bigtechy będą musiały wykazywać, jak oddzielają dane użytkowników od własnych prac, tym lepiej. Zaufanie powinno wynikać z rzeczy, które można sprawdzić. Kiedy powierzamy komuś efekty miesięcy pracy, oświadczenie w stylu „raczej z tego nie skorzystaliśmy” to zdecydowanie za mało.

Obserwuj nas w Google Discover

Podobają Ci się nasze treści?

Google Discover

Obserwuj