Firmy tworzące najpotężniejsze modele AI przekazują dziś dwa komunikaty jednocześnie: „nasza technologia robi rzeczy, które jeszcze niedawno wydawały się niemożliwe” oraz „ta technologia może być niebezpieczna”. Te dwa przekazy wcale nie muszą się wykluczać – stwierdza Polski Instytut Ekonomiczny. Wręcz przeciwnie – strach przed sztuczną inteligencją może dodatkowo wzmacniać jej rynkową wartość.
Modele rozwiązują coraz trudniejsze problemy
Największe firmy AI zaczynają dostarczać wyniki matematyczne, które jeszcze niedawno były poza zasięgiem modeli językowych.
Anthropic poinformował, że Claude w 11 dni sformalizował istniejący dowód wielkiego twierdzenia Fermata. Tworząc 13 mln linii kodu i ok. 30 tys. twierdzeń pośrednich, Claude dokonał tzw. autoformalizacji – to znaczy model zamienił złożony dowód matematyczny na formalny zapis możliwy do automatycznej weryfikacji w języku Lean. Zadanie, które ludziom mogłoby zająć lata, AI wykonała w 11 dni, automatyzując formalizację i weryfikację dowodu.
Kilka dni później OpenAI ogłosiło rozwiązanie przez ok. 10 tys. współpracujących agentów jednego z Problemów Milenijnych dotyczącego równań Naviera-Stokesa. Wynik OpenAI wymaga jeszcze pełnej oceny środowiska matematycznego, ale skala obu osiągnięć obrazuje duże możliwości modeli do pracy naukowej.
Twórcy AI ostrzegają przed własną technologią
Równolegle z doniesieniami o przełomach w matematyce pracownicy firm rozwijających modele coraz głośniej ostrzegają przed ich dramatycznymi skutkami.
Evan Hubinger, lider badań w Anthropic, ocenił prawdopodobieństwo zagłady ludzkości spowodowanej przez SI w ciągu dekady na ponad 10 proc. Jakub Pachocki, pełniący funkcję głównego naukowca (Chief scientist) w OpenAI, ostrzega, że SI może coraz szybciej napędzać swój własny rozwój (tzw. rekursywne samodoskonalenie), co może wywołać nieprzewidziane, potencjalnie bardzo niebezpieczne skutki.
Odwołując się do tych ryzyk Dario Amodei – założyciel i szef firmy Anthropic – wezwał branżę do spowolnienia prac nad modelami, wprowadzenia standardów bezpieczeństwa oraz koordynacji międzynarodowej. W podobnym tonie wypowiada się Sam Altman, który zapowiedział dostęp dla zewnętrznych ewaluatorów w OpenAI.
UE stawia na kontrolę ryzyka
Tego typu ostrzeżenia można traktować przynajmniej na dwa sposoby – jako element gry rynkowej lub jako realne wezwanie do działania. W tym drugim kierunku idzie Przewodnicząca Komisji Europejskiej Ursula von der Leyen, zapowiadając w swoim dorocznym wystąpieniu współpracę z wiodącymi ośrodkami rozwijającymi AI przy tworzeniu standardów ewaluacji i bezpieczeństwa przyszłych modeli. Odwołuje się przy tym wprost do propozycji Amodeia.
W tym przypadku można mówić o kontynuacji linii wypracowanej przy tworzeniu Aktu o sztucznej inteligencji. W europejskim podejściu tego typu technologie muszą przechodzić audyty ryzyka i ograniczać potencjalne negatywne skutku jeszcze zanim one faktycznie wystąpią.
Podjęcie propozycji Amodeia jest też na rękę Unii Europejskiej, pozostającej w tyle w wyścigu rozwojowym AI, skupiającej się na utrzymaniu swojego znaczenia regulacyjnego w opozycji do administracji amerykańskiej.
Jedni się boją, inni widzą okazję
Drugie podejście każe widzieć, zarówno w doniesieniach o odkryciach matematycznych, jak i ostrzeżeniach przed AI, (paradoksalną) drogę do wzmocnienia przekazu o wyjątkowej sile technologii i firm, które ją rozwijają.
W badaniach nad technologicznym hype’em podobny mechanizm określa się jako criti-hype. Polega on na ostrzeganiu przed skutkami technologii w celu wzmocnienia przekonania o jej ogromnych możliwościach. Informacja, że sztuczna inteligencja może zagrozić ludzkości, sugeruje, że firmy rozwijają wyjątkowo potężną technologię.
Nie jest to zjawisko nowe. Takie obawy i ostrzeżenia pojawiały się już podczas fali apeli o wstrzymanie rozwoju najbardziej zaawansowanych modeli w 2023 r., przy czym płynęły zarówno od niezależnych badaczy, jak Yoshua Bengio, jak też od liderów firm konkurujących na rynku AI. To od początku utrudniało oddzielenie autentycznych obaw o bezpieczeństwo od interesów strategicznych.
Ten mechanizm ma pomagać w uzasadnianiu wysokich wycen tych przedsiębiorstw oraz wzmacnianiu ich pozycji w dyskusji o regulacjach. Im bardziej przełomowa i potencjalnie niebezpieczna ma być AI, tym łatwiej przekonywać inwestorów o jej ogromnym potencjale. To nabiera dodatkowego znaczenia w sytuacji, gdy zarówno OpenAI, jak i Anthropic przygotowują się do wejścia na giełdę.
Jednocześnie ostrzeganie przed ryzykiem może uzasadniać regulacje, które paradoksalnie mogą sprzyjać największym firmom. Kosztowne audyty, obowiązki raportowania, ograniczenia dostępu do mocy obliczeniowej czy licencjonowanie są łatwiejsze do spełnienia przez liderów rynku. W przypadku mniejszych konkurentów mogą stanowić istotną barierę wejścia.
Wezwania do spowolnienia rozwoju AI mogą być również interpretowane jako próba ograniczenia tempa inwestycji i kosztownego wyścigu o coraz większą moc obliczeniową.
Regulacje powinny być niezależne od branży
Niełatwo jasno rozdzielić powyższe motywacje i jednoznacznie określić, czy głosy ostrzeżeń traktować z pełną powagą, czy jednak z pewnym dystansem. Kierunek działań jest jednak jasny – zarówno modele, jak i zastosowania AI powinny podlegać ograniczeniom regulacyjnym, podobnie jak wszystkie inne technologie.
Ważne jednak, aby standardy bezpieczeństwa były projektowane przez instytucje niezależne od firm tworzących takie narzędzia. Muszą też być proporcjonalne do rzeczywistych możliwości powstających modeli. W przeciwnym razie bezpieczeństwo sztucznej inteligencji może stać się nie tylko sposobem ograniczania ryzyka, lecz także narzędziem ochrony pozycji liderów rynku.
Polecamy także:
- Korniki zamiast krewetek. Badacz AGH szuka polskiego źródła cennego biopolimeru
- Kandydat zniknął przed pierwszym dniem. Firma też potrafi urwać kontakt
- „Gdzie kupić?” zamiast „czy to bezpieczne?”. Tak Polacy interesują się kryptowalutami
