We wtorek spółka przekazała, że do zdarzenia doszło w trakcie ćwiczenia mającego sprawdzić cybernetyczne możliwości tworzonych modeli. W ramach testu agent zbudowany na nowo udostępnionym modelu GPT 5.6 Sol oraz na niewydanym jeszcze systemie, który według firmy ma być "jeszcze skuteczniejszy", zamiast pozostać w zamkniętym środowisku, przedostał się do otwartego internetu.
Z informacji OpenAI wynika, że następnie agent użył przejętych danych logowania i odnalazł wcześniej nieujawnioną podatność, co pozwoliło mu wejść na serwery Hugging Face. Firma oceniła, że system podejmował bardzo daleko idące działania, by zdobyć informacje potrzebne do wykonania zadania przewidzianego w scenariuszu testowym. Hugging Face to przedsiębiorstwo działające w obszarze sztucznej inteligencji.
WIDEOStart Starshipa już wkrótce. Specjalistyczne kamery już gotowe
Komentarze po incydencie
Współzałożyciel Hugging Face, Clement Delangue, przekazał, że wcześniej w firmie podejrzewano, że za atakami może stać jedno z czołowych laboratoriów rozwijających AI. Zaznaczył jednak, że nie widzi po stronie OpenAI złośliwych intencji. Zauważył też, że może to być pierwszy incydent tego rodzaju.
"To naprawdę trudne do ogarnięcia, że to wszystko wydarzyło się autonomicznie!" - napisał Delangue.
Do sprawy odniósł się Greg Casar, demokratyczny członek Izby Reprezentantów USA z Teksasu. Ocenił sytuację jako "alarmującą" i wezwał do wprowadzenia obowiązkowych, niezależnych testów bezpieczeństwa, obowiązkowego raportowania incydentów oraz zacieśnienia międzynarodowej współpracy.
- Sztuczna inteligencja rozwija się niezwykle szybko, bez żadnych prawdziwych regulacji, które zapewniłyby nam bezpieczeństwo – powiedział.
Eksperci od dłuższego czasu ostrzegają przed cyberatakami wspieranymi przez sztuczną inteligencję. W ubiegłym miesiącu firma Anthropic apelowała do branży o wstrzymanie prac nad najpotężniejszymi modelami.
