Informacje

Sztuczna inteligencja zaatakowała

• abecadło
• 2026 / 07 / 28

W internecie pojawiają się opinie, że jest już pierwszy dowód na to, że sztuczna inteligencja (AI) zawładnie światem. Dowodem tym ma być atak hakerski, którego dokonał program wyposażony w sztuczną inteligencję. Chodzi o program firmy OpenAI, który 16 lipca br. dostał się do systemów firmy Hugging Face, będącej hubem modeli sztucznej inteligencji. Firma OpenAI potwierdziła, że program dokonał ataku w sposób autonomiczny, pomimo zabezpieczeń mających to uniemożliwić.

Jak do tego doszło? Program ten stworzony został do testowania zabezpieczeń przed włamaniem do systemów komputerowych. Działa w ten sposób, że usiłuje włamać się do wskazanego systemu i jeżeli mu się to uda, ujawnia w ten sposób słaby punkt zabezpieczeń systemu.

Testowanie tego typu programów odbywa się zawsze w tzw. bezpiecznym środowisku, nazywanym "piaskownicą" ("sandbox"). Jest ono wyizolowane od świata zewnętrznego, odcięte od dostępu do internetu. W tym przypadku również tak było.

Ale odcięcie od internetu jest też programowym zabezpieczeniem, a opisywany program został stworzony po to, aby takie zabezpieczenia pokonywać. I właśnie to mu się udało. Znalazł słaby punkt zabezpieczenia, które miało go utrzymać w "piaskownicy" i uzyskał dostęp do świata zewnętrznego.

Korzystając z internetu, program wspomagany sztuczną inteligencją poszukiwał informacji, jak udoskonalić swoje metody i znalazł firmę Hugging Face. Chcąc uzyskać dostęp do różnych modeli AI, które się tam znajdują, włamał się do wewnętrznego systemu firmy. Obecnie OpenAI oraz Hugging Face badają, do jakich informacji program uzyskał dostęp i czy nie grozi to szerszymi problemami.

Eksperci podkreślają jednak, że nie może być mowy o tym, aby sztuczna inteligencja działała wbrew człowiekowi. Opisany przykład pokazuje, że program robił dokładnie to, co nakazał mu człowiek - przełamywał zabezpieczenia. To nie program się "zbuntował" czy popełnił błąd. To człowiek zaniedbał zabezpieczenia działania programu.

Można to porównać do badań nad groźnymi wirusami, które wydostały się do świata zewnętrznego w wyniku zaniedbania zabezpieczenia laboratorium.

Oczywiście badając wirusy, czy też pisząc zaawansowane programy należy uważać. Ale w przypadku sztucznej inteligencji sprawa jest mniej niebezpieczna niż w przypadku wirusów. Działanie programu w nią wyposażonego można monitorować i w razie niepożądanych efektów, program można zmienić. W opisanej powyżej sytuacji program zadziałał prawidłowo. Można wręcz powiedzieć, że odniósł sukces. Bo okazał się lepszy od programów, które miały go ograniczyć do działania w "piaskownicy".

Warto pamiętać, że cokolwiek złego zrobi program komputerowy, winny jest człowiek. Może to być programista, ale także użytkownik, który wykorzystuje go do złych celów. Tak jak jest to w przypadku każdego pożytecznego narzędzia, jak nóż czy samochód, którymi można kogoś okaleczyć czy nawet zabić.

W przypadku sztucznej inteligencji dochodzi jeszcze brak zrozumienia niektórych jej użytkowników, że ta inteligencja jest sztuczna. Odpowiedzi udzielane przez takie programy jak ChatGPT nie muszą być mądre, ani nawet prawidłowe. Tymczasem ślepa wiara, że sztuczna inteligencja jest wyrocznią, prowadzi czasem do poważnych konsekwencji, o czym napiszemy jutro.