Wykryli ponad 10 tys. luk w miesiąc. Giganci łączą siły

Anthropic uruchomił Project Glasswing w kwietniu. Program łączy model Claude Mythos Preview z testami prowadzonymi na aplikacjach. Grupa założycielska inicjatywy składa się z dwunastu kluczowych organizacji działających w obszarach technologii, cyberbezpieczeństwa i infrastruktury. W krótkim czasie projekt przyciągnął około 50 firm, które testowały możliwości AI w wykrywaniu luk bezpieczeństwa oraz błędów w kodzie.

Rezultaty przerosły oczekiwania. Cloudflare poinformowało o 2 tys. wykrytych błędów, z czego 400 miało rangę wysokiego lub krytycznego zagrożenia. Mozilla przeanalizowała kod Firefoksa i znalazła 271 luk, uzyskując rezultat dziesięć razy lepszy niż w poprzednich analizach. Microsoft przygotował większe pakiety poprawek po tym, jak model wskazał problemy, których nie wykrył tradycyjny audyt.

Model Anthropic przeanalizował również tysiąc projektów open source. Wykryto 23 tys. defektów, spośród których 6202 uznano za szczególnie niebezpieczne. To istotny sygnał dla całej branży, bo otwarte biblioteki są dziś podstawą wielu komercyjnych aplikacji i usług.

W projekcie uczestniczą m.in. Amazon Web Services, Anthropic, Apple, Broadcom, Cisco, CrowdStrike, Google, JPMorganChase, Linux Foundation, Microsoft, NVIDIA, Palo Alto Networks.

Anthropic nie udostępnił jednak Claude Mythos Preview szerokiej publiczności. Firma zaznacza, że nadal brakuje dostatecznie przetestowanych zabezpieczeń przed nadużyciami. Szersze wdrożenie ma nastąpić dopiero po przygotowaniu mechanizmów, które ograniczą możliwość użycia narzędzia do ataków.

Rozwój Project Glasswing idzie w parze z dużymi pieniędzmi. Kwartalny przychód Anthropic ma sięgnąć ok. 10,9 mld dolarów, a zysk operacyjny za okres kończący się w czerwcu wyniesie 559 mln dolarów. Firma chce przeznaczyć te środki na dodatkową moc obliczeniową i dalszy rozwój sztucznej inteligencji.

Równolegle Anthropic prowadzi rozmowy z administracją Stanów Zjednoczonych. Celem współpracy ma być szybsze wypracowanie standardów, które utrudnią nieautoryzowane wykorzystanie zaawansowanych modeli.