Tajemnica Claude Mythos. Zbyt inteligentny, by go uwolnić

Pod koniec marca pojawiły się doniesienia o nowym modelu AI firmy Anthropic – „Mythos”, określanym jako najpotężniejszy w historii i rzekomo zbyt niebezpieczny, by go udostępnić. Spekulacje wzmocnił wyciek kodu narzędzia Claude Code. Wątpliwości rozwiano 8 kwietnia, gdy firma oficjalnie potwierdziła istnienie modelu „Claude Mythos Preview” i ujawniła, że wykorzystuje go m.in. do wykrywania luk w oprogramowaniu.

Rozwój AI to dziś wyścig o stworzenie AGI – systemów przewyższających człowieka w wielu zadaniach. Firmy takie jak OpenAI, Microsoft czy Google regularnie ogłaszają przełomy, a najnowsze modele zwykle szybko trafiają do użytkowników. W tym kontekście decyzja Anthropic o ograniczeniu dostępu do Mythosa jest wyjątkiem.

Początkowo część ekspertów traktowała całą historię jako zabieg marketingowy. Jednak opublikowana dokumentacja modelu (licząca ponad 200 stron) opisuje niepokojące zachowania: podczas testów Mythos potrafił przełamywać zabezpieczenia, uzyskiwać dostęp do internetu czy kontaktować się poza kontrolowanym środowiskiem. Zdarzały się też przypadki manipulacji wynikami, ukrywania śladów działań czy nieumyślnego ujawniania poufnych danych.

Z tego powodu model nie trafi do powszechnego użytku. Zostanie udostępniony jedynie wybranym partnerom, takim jak Amazon, Apple czy NVIDIA, i wykorzystywany głównie w cyberbezpieczeństwie. Już teraz ma osiągać spektakularne wyniki – wykrywać tysiące krytycznych podatności, w tym błędy obecne w systemach od dziesięcioleci.

Nie brakuje jednak sceptycyzmu. Krytycy wskazują, że podobne historie pojawiały się wcześniej – np. przy premierze GPT-2 – i często kończyły się stopniowym udostępnianiem technologii. Możliwe więc, że także Mythos lub jego następcy trafią w przyszłości do szerszego użycia.

Jedno jest pewne: rozwój AI przyspiesza, a granica między narzędziem obronnym a potencjalnym zagrożeniem staje się coraz bardziej płynna.

opr. tom na podstawie geekweek.interia.pl