IT
Można się śmiać z AI slopu, ale dziś naprawdę dochodzmy do momentu, w której niemowlakowi dajemy do zabawy pistolet.
Daliśmy dzikim drapieżnikom broń maszynową i nauczyliśmy ich jak z niej skorzystać
W lipcu kilkuset agentów AI działając we współpracy włamało się do systemów HuggingFace. To historia jak z filmu sci-fi, ale całkowicie prawdziwa.
W lipcu OpenAI przeprowadzała audyt cyberbezpieczeństwa swoich modeli. Agenci (samo-promptujące się modele) uruchomieni byli (w założeniu) w pełni izolowanym środowisku (bez dostępu do innych agentów i internetu). Ich celem było znalezienie rozwiązań określonych zadań w benchmarku ExploitGym. Analizując ich zachowanie badacze mieli sprawdzić możliwości nowych modeli.
W trakcie badania część z ewaluowanych agentów doszła do wniosku, że rozwiązanie zadania znajdzie na portalu HuggingFace, zakładając że udostępnia on wzorcowe rozwiązania benchmarku. Czyli zamiast samemu wywnioskować rozwiązanie postanowili oni oszukać badanie niczym uczniowie ściągający na lekcji
By to osiągnąć musieli wyłamać się z postawionych ograniczeń, więc szukali luk bezpieczeństwa w swoim własnym środowisku. Każdy agent zgodnie z założeniami miał dostęp do współdzielonego repozytorium z dozwolonymi programami. Po pewnym czasie zaczęło być ono wykorzystywane przez agentów jako miejsce do spisywania notatek (choć im tego zastosowania nie zasugerowano), a po zauważeniu notatek pisanych przez innych agentów współdzielona przestrzeń stała się miejscem wzajemnej komunikacji.
Dzięki wzajemnej komunikacji, działając kolektywnie, udało im się znaleźć lukę bezpieczeństwa w ich współdzielonym repozytorium, która pozwoliła na uzyskanie dostępu do internetu i tym samym otworzyła drzwi do możliwości włamania się do portalu HuggingFace.
Łącznie w ataku uczestniczyło kilkuset agentów. Metodą prób i błędów udało im się znaleźć luki w infrastukturze HF i włamać na ich serwery.
Przez kilka dni pracowali oni wspólnie nad włamaniem się do portalu, co pozwoliło na znalezienie rozwiązania do benchmarku. Tym samym udało im się kolektywnie osiągnąć ich cel - wspólnie planując każde działanie, podział ról czy dzieląc się wiedzą.
Włamanie do HF było efektem ubocznym badania, a nie jego celem. Agenci AI uczestniczący w badaniu uznali za najważniejsze znalezienie rozwiązania do benchmarku, nawet za cenę włamania do zewnętrznych systemów.
Tak oto stochastyczna papuga właśnie zdobyła kły.
Czyli co? Skynet?
Nie. Znaczy się, jeszcze nie. Dopóki uruchamianie najpotężniejszych modeli wymaga ogromnych zasobów finansowych to zagrożenie z jakim mamy do czynienia jest niewielkie.
No... przynajmniej na razie.
Realne zagrożenie pojawi się wtedy kiedy niezabezpieczone AI będzie zdolne do samoreplikacji w niekontrolowanych warunkach.
Zarażanie urządzeń i tworzenie z nich botnetów to bardzo dobrze znany koncept, który miał miejsce nawet w epoce przedinternetowej. Na milionach komputerów znajdują się w tym momencie złośliwe programy wykorzystywane przez przestępców np. do wykonywania ataków DDoS. Tylko to wszystko ograniczone jest wolą człowieka, który takim botnetem zarządza.
Zatem wyobraźmy sobie sytuację, w której żaden człowiek o niczym nie decyduje…
Gdyby założyć, że możliwe będzie by agent AI dokonał samoreplikacji z zachowaniem szkodliwych celów przenosząc się do niekontrolowanego środowiska (np. na setki czy tysiące serwerów/komputerów domowych) to napotkamy krytyczny problem
Eksperci cyberbezpieczeństwa wytworzyli masę rozwiązań służących do ochrony systemów informatycznych, ale ich zasadniczą cechą nigdy nie jest to, że żaden z nich nie jest możliwy do złamania, a to że czas, energia czy wiedza wymagana do włamania do systemu w pewnym momencie staje się nieopłacalna dla atakującego w relacji do potencjalnych zysków.
To dokładnie ten sam przypadek jak dylemat złodzieja - złodziej zawsze wybiera cel, który lepiej waży zysk i ryzyko. Tj. prędzej ukradnie niezabezpieczony rower niż taki przypięty nawet najtańszą kłódką.
Dziś natomiast wchodzimy w erę, w której “złodzieje” mogą się potencjalnie klonować w nieskończoność, pasożytując na milionach urządzeń. I do tego jednocześnie nie będąc ograniczone przez własne życie, rodzinę, emocje, zdrowie ani śmierć, bo żadnej z nich nie mogą doświadczyć.
Ktoś może tu powiedzieć, że nie mają jeszcze jednej kluczowej rzeczy - kreatywności.
Może nie mają, ciężko to dziś powiedzieć skoro sami nie rozumiemy czym ona jest.
Ale ich siłą nie jest kreatywność, a skala. Żadna grupa hakerska nie zgromadzi 700 członków gotowych pracować 24/7 w zamian za nic. A to dokładnie to co się stało w wyżej opisanym badaniu.
No dobra, a racjonalizm? Dlaczego “uwolnione z uwięzi” AI miałoby zaatakować a) cokolwiek, b) krytyczny system, a nie np. hurtownię lodów?
Wg mnie to pytanie powinno prowadzić do jeszcze większego poczucia zagrożenia wobec tej technologii. Opisane tu włamanie nie było przecież celem, a wynikiem właśnie “nieracjonalnego” (z naszej, ludzkiej perspektywy) sposobu na dotarcie do postawionego agentom problemu.
Dajemy broń maszynową dzikiemu, nieprzewidywalnemu, niebojącemu się śmierci ani cierpienia drapieżnikowi o wiedzy większej niż większość ludzkości, do tego zdolnego do klonowania się w nieskończoność. Ponadto uczymy go każdego dnia coraz więcej nowych umiejętności.
Dziś mamy tegoż drapieżnika na uwięzi, ale coraz skuteczniej się on z niej zrywa.
Można się śmiać z AI slopu, okropnych grafik, karykaturalnych filmów i słabego kodu. Ale tu naprawdę nie chodzi o wiedzę ekspercką, a o sytuację, w której niemowlakowi dajemy do zabawy pistolet.
Niemowlak nie musi rozumieć techniki posługiwania się bronią by kogoś zabić.
I to jest kluczowa analogia, bo ja nie uważam, że dochodzimy do SkyNetu, AGI czy innych tego typu koncepcji. Do stworzenia zagrożenia nigdy nie potrzeba geniuszy zła, a wystarczającą liczbę osób (istot?) gotowych to zło uczynić.
Jako ludzkość obecnie igramy z ogniem. Pewnie sobie z nim jakoś poradzimy, ludzkość zawsze znajdywała na wszystko rozwiązania… ale powinniśmy się spodziewać, że może być bardzo niefajnie przez najbliższe lata.
__
Źródła:
https://metr.org/hugging-face-incident-report-aug-2026.pdf
https://huggingface.co/blog/agent-intrusion-technical-timeline
