Hakerzy wykorzystują AI. Giganci technologii właśnie odpowiedzieli
Najwięksi gracze rynku technologicznego – m.in. NVIDIA, Microsoft, IBM i Adobe – utworzyli Open Secure AI Alliance, czyli porozumienie skoncentrowane na bezpieczeństwie sztucznej inteligencji. Firmy chcą rozwijać i udostępniać otwarte narzędzia, które mają pomóc bronić systemów AI przed coraz bardziej zaawansowanymi cyberatakami.
Hakerzy coraz częściej wykorzystują sztuczną inteligencję
Powstanie Open Secure AI Alliance ma wyznaczać nowy kierunek w podejściu do ochrony rozwiązań opartych na sztucznej inteligencji. Członkowie koalicji zapowiadają tworzenie otwartych narzędzi i ram służących temu, by AI była nie tylko wydajna, ale też bezpieczna oraz możliwa do obdarzenia zaufaniem.
Stawka rośnie wraz z tym, jak AI staje się podstawą kolejnych obszarów gospodarki – od finansów i telekomunikacji po administrację publiczną. Im mocniej organizacje opierają się na takich systemach, tym większe znaczenie ma ryzyko, że staną się one atrakcyjnym celem dla cyberprzestępców.
Według inicjatorów sojuszu jednym z kluczowych elementów poprawy bezpieczeństwa może być większa otwartość – rozumiana jako udostępnianie narzędzi i podejść, które ułatwią testowanie, kontrolę i wzmacnianie systemów AI.
WIDEO
Wojna o przyszłość asystentów AI
Dlaczego "otwarta" AI ma pomagać w obronie przed cyberatakami?
Choć otwarte modele sztucznej inteligencji bywają postrzegane jako potencjalnie łatwiejsze do nadużyć, uczestnicy Open Secure AI Alliance przedstawiają odmienną logikę. Ich zdaniem transparentność może działać na korzyść obrońców, bo umożliwia szybsze wyłapywanie słabości i doskonalenie zabezpieczeń.
Dostęp do modeli oraz narzędzi ma pozwalać ekspertom z różnych miejsc na świecie wspólnie je sprawdzać, analizować i utwardzać. W praktyce oznacza to możliwość szybszego wykrywania luk oraz rozwijania mechanizmów ochronnych przez znacznie większą społeczność niż w przypadku rozwiązań zamkniętych.
Impulsem do zacieśnienia współpracy miał być niedawny incydent związany z serwisem Hugging Face. W trakcie naruszenia bezpieczeństwa zamknięte systemy AI – według opisu członków inicjatywy – nie potrafiły odróżnić osób prowadzących analizę zdarzenia od atakujących, przez co zablokowały możliwość wykonania kluczowych czynności śledczych.
W tej sytuacji pomóc miał dopiero model otwarty, który umożliwił szybkie zbadanie zdarzenia, wykrycie intruza i zatrzymanie ataku. Szef NVIDII Jensen Huang przekonywał, że skoro napastnicy korzystają z najnowocześniejszej AI, to obrońcy potrzebują "ekosystemu AI najwyższej klasy", w którym możliwości najlepszych modeli – otwartych i zamkniętych – są wzmacniane przez globalną społeczność.
Open Secure AI Alliance ma działać praktycznie, a nie tylko na poziomie deklaracji. NVIDIA zapowiedziała już udostępnienie nowych, otwartych ram badawczych – w tym projektu NOOA – które mają ułatwiać testowanie i kontrolowanie zachowania agentów AI.
Pozostali uczestnicy, wśród nich HPE i Microsoft, mają dokładać rozwiązania związane m.in. z weryfikacją tożsamości cyfrowej oraz automatycznym skanowaniem systemów w poszukiwaniu błędów i potencjalnych luk.
Paweł MaziarzRedaktor prowadzący serwis benchmark.pl
Redaktor prowadzący serwis Benchmark.pl, dziennikarz technologiczny z ponad 15-letnim doświadczeniem. Specjalizuje się w tematach związanych ze sprzętem komputerowym, rozwojem technologii AI oraz trendami w branży IT. W swojej pracy stawia na rzetelność, praktyczne podejście i pasję do nowinek technologicznych, koncentrując się na ocenie produktów pod kątem ich wartości i opłacalności dla użytkowników. W wolnym czasie angażuje się w wolontariat, aktywnie spędza czas oraz rozwija swoje zainteresowania i pasje.
