OpenAI bije na alarm. Astra może być groźna dla cyberbezpieczeństwa

OpenAI podzieliło się wynikami najnowszych wewnętrznych testów Astry. Model ma wykazywać znaczący postęp w autonomicznym programowaniu oraz cyberbezpieczeństwie. Wyniki okazały się na tyle mocne, że firma nie jest obecnie w stanie wykluczyć, że Astra spełnia kryteria tzw. krytycznych możliwości w zakresie cyberataków.

To ważne zastrzeżenie. OpenAI nie twierdzi, że Astra już potrafi bez ograniczeń włamywać się do dowolnych systemów. Problem polega na tym, że wyniki są na tyle dobre, iż firma nie może mieć pewności, że model nie zbliżył się do tej granicy.

Według przyjętych przez OpenAI kryteriów model osiąga krytyczny poziom możliwości cybernetycznych, jeśli potrafi bez pomocy człowieka znajdować i tworzyć działające exploity typu zero-day przeciwko wielu dobrze zabezpieczonym, rzeczywistym systemom.

Jeszcze bardziej niepokojący jest drugi scenariusz. Chodzi o możliwość samodzielnego opracowania i przeprowadzenia zupełnie nowych strategii cyberataków na zabezpieczone cele, gdy człowiek poda AI jedynie ogólny cel.

Dzisiaj skuteczny cyberatak często wymaga zespołu specjalistów, czasu, wiedzy i żmudnej analizy. Model o odpowiednich możliwościach mógłby natomiast automatyzować sporą część tej pracy.

Nie chodzi wyłącznie o to, że Astra może być "mądrzejszym hakerem". Znacznie większym zagrożeniem jest skala i szybkość działania.

AI nie potrzebuje snu, nie robi przerw i może jednocześnie analizować ogromne ilości informacji. Jeżeli podobne możliwości trafiłyby w ręce cyberprzestępców, potencjalnie można byłoby wykorzystać je do automatyzowania wyszukiwania podatności, analizowania kodu czy przygotowywania kolejnych etapów ataku.

Właśnie dlatego rozwój modeli cybernetycznych ma podwójne oblicze. Ta sama technologia może pomagać administratorom znajdować luki, zanim zrobią to przestępcy, ale może też obniżyć próg wejścia dla osób, które chcą zaatakować cudze systemy.

Firma nie zamierza czekać, aż Astra zostanie wdrożona na szeroką skalę. OpenAI zapowiada zaostrzenie kontroli bezpieczeństwa dla modeli o wysokich możliwościach. Testy mają odbywać się w izolowanych środowiskach, z ograniczonym dostępem do sieci i narzędzi. Firma wzmacnia również ochronę wag modeli, szyfrowanie, monitoring oraz mechanizmy wykrywania niebezpiecznych działań.

Astra ma być uruchamiana w środowiskach z dodatkowym sandboxingiem, a część wewnętrznych prac nad modelem została wstrzymana do czasu spełnienia nowych wymagań bezpieczeństwa.

OpenAI wprowadziło również uniwersalny monitoring ryzykownych działań i potencjalnego nieposłuszeństwa modelu we wszystkich zastosowaniach agentowych Astry, także podczas treningu i ewaluacji.

OpenAI zapowiada ponadto współpracę z odpowiednimi agencjami rządowymi oraz wybranymi organizacjami zajmującymi się bezpieczeństwem AI. Zewnętrzni partnerzy mają pomóc w testowaniu możliwości modelu.

To istotne, ponieważ wraz ze wzrostem autonomii AI coraz trudniej ocenić ją wyłącznie za pomocą klasycznych benchmarków. Model może bowiem nie tylko odpowiadać na pytania, ale również planować działania, korzystać z narzędzi i wykonywać wieloetapowe zadania.

OpenAI wyraźnie zaznacza przy tym, że Astra nie była wykorzystywana podczas ataku na Hugging Face. Firma rozdziela więc najnowsze ostrzeżenie dotyczące możliwości modelu od wcześniejszych incydentów związanych z cyberbezpieczeństwem.

To ważne rozróżnienie, ponieważ sama informacja o rosnących możliwościach Astry nie oznacza, że model został wykorzystany do przeprowadzenia konkretnego ataku.

Paradoksalnie właśnie cyberbezpieczeństwo może być jednym z obszarów, w których zaawansowana AI okaże się najbardziej użyteczna.

Jeżeli model potrafi skutecznie wyszukiwać podatności, może zostać wykorzystany przez obrońców do znajdowania problemów, zanim zrobią to przestępcy. Może analizować kod, pomagać w wykrywaniu błędów i przyspieszać reakcję na zagrożenia.

Problem w tym, że ta sama zdolność może zostać wykorzystana po drugiej stronie. I właśnie dlatego komunikat OpenAI dotyczący Astry jest tak istotny. Firma nie ogłasza po prostu kolejnego, coraz bardziej inteligentnego modelu. Przyznaje, że tempo rozwoju możliwości AI zaczyna wymagać zupełnie nowego podejścia do bezpieczeństwa.