Ekspert ds. cyberbezpieczeństwa: Potrzebujemy AI, żeby walczyć z AI 

Nadia Sieszputowska, Wirtualna Polska: Jak ocenia pan znaczenie cyberbezpieczeństwa w erze rozwoju AI? Staje się jeszcze ważniejsze, czy może sztuczna inteligencja zajmie się tym za nas?

Steve Kenniston, starszy konsultant ds. danych i cyberbezpieczeństwa, Dell: O nie, AI nie zajmie się tym za nas. Od dwóch lat przyjeżdżam na Dell Technologies World i prowadzę sesje dotyczące cyberbezpieczeństwa. Kiedyś wszyscy mówili: "och, dziękujemy za wystąpienie", a potem wychodzili. Teraz, gdy AI stała się ważniejsza, zadają pytania, chcą wiedzieć więcej. Dlatego bardzo intensywnie pracujemy nad tym, aby klienci budowali w swoich organizacjach standardy bezpieczeństwa. Jeśli to robią, to są już na dobrej drodze. Teraz potrzebujemy AI, żeby walczyć z AI. Nie tworzymy jednego produktu bezpieczeństwa, który miałby chronić przed wszystkim. Wdrażamy możliwości AI we wszystkie nasze rozwiązania, żeby pomagać partnerom w walce z tymi zagrożeniami.

Co mogłoby się stać, gdybyśmy przestali dbać o cyberbezpieczeństwo?

Proszę tylko pomyśleć o przestojach w firmach i o tym, ile kosztuje każda godzina przestoju. Firmy mogą wypaść z rynku w ciągu zaledwie kilku godzin. Ale to też szkoda reputacyjna. Gdyby firmy nie chroniły danych albo w ogóle nie dbały o bezpieczeństwo, większość z nich bardzo szybko by upadła. To naprawdę kluczowe. Jest wiele różnych aspektów, bo istnieje wiele rodzajów biznesów.

Weźmy prosty przykład: Amazon.com. To firma o ogromnym znaczeniu dla gospodarki Stanów Zjednoczonych. Gdyby nie traktowała bezpieczeństwa poważnie, mogłaby z dnia na dzień przestać działać, a skutki finansowe odczułaby nie tylko sama organizacja, ale też wiele firm i klientów, którzy opierają na niej swoje procesy.

A co stałoby się ze zwykłymi ludźmi?

Zmieniłby się ich styl życia. Można też przejść na drugi koniec skali – do usług komunalnych. Widzieliśmy przypadki na Florydzie, gdzie ktoś zmieniał parametry przepływu w monitorach infrastruktury komunalnej i powodował problemy z ilością siarki dostającej się do wody pitnej, przez co ludzie chorowali. Skala może więc być bardzo szeroka.

Pracował pan też w startupach. Startupy z jednej strony dobrze orientują się w AI i łatwiej wdrażają nowe technologie, ale z drugiej strony nie mają zasobów dużej firmy. Powiedziałby pan, że radzą sobie z nowymi zagrożeniami i cyberatakami lepiej czy gorzej?

Myślę, że lepiej. Mówię tak, ponieważ dziś powszechniej wiadomo, że cyberzagrożenia są problemem – bardziej niż, powiedzmy, pięć lat temu. Więcej osób zwraca na to uwagę. Poza tym dostępnych jest wiele narzędzi AI. Są tańsze, więc startupy mogą łatwiej je wdrażać. Myślę też, że lepiej rozumieją ryzyko. Innymi słowy, jeśli jestem sklepem spożywczym – tak, mogę mieć pewne ryzyko, ale jeśli działam w wojsku, mam bardzo duże ryzyko. Mniejsze firmy próbują dobrze zrozumieć, gdzie znajdują się na tej skali, a potem, na tej podstawie, ile powinny wydawać, żeby się chronić. Kiedy to wiedzą i rozumieją, znalezienie narzędzi staje się łatwiejsze.

Czy jest coś, co szczególnie pana niepokoi, gdy myśli pan o przyszłości?

Raczej nie. Chociaż w przyszłości dużym wyzwaniem mogą być komputery kwantowe. Dlatego już dziś rozwijamy nasze produkty tak, aby wspierały kryptografię postkwantową, czyli nowe metody zabezpieczania danych odporne na przyszłe, bardziej zaawansowane ataki. Chodzi o to, żeby chronić nasze zasoby nie tylko przed obecnymi zagrożeniami, ale także przed tymi, które mogą pojawić się za kilka lat.

Myślę też, że AI może doprowadzić do powstania nowych rodzajów ataków. Dziś narzędzia takie jak Mythos, Glasswing czy Daybreak pokazują głównie zagrożenia, które już znamy. Nie widzimy jeszcze nic zupełnie nowego, ale to tylko kwestia czasu. To jedna z tych sytuacji, gdy nie mogę przewidzieć czegoś, o czym jeszcze nie wiem. Ale obawiałbym się jakiegoś nowego typu ataku.

Firmy współpracują, by temu przeciwdziałać? Czy raczej będą ze sobą konkurować, oferując własne produkty?

Nie widzę tu dużej konkurencji. Na przykład wspomniany Project Glasswing. Różne firmy dołączyły do tego programu, aby szybciej wykrywać podatności w swoim kodzie i skutecznie je łatać. Myślę więc, że OpenAI i Anthropic działają jako pewna całość, żeby pomóc grupie być lepszą w tym, co robi.

Oczywiście nadal konkurują i zdecydowanie będą wykorzystywać do tego bezpieczeństwo, mówiąc "mój produkt jest bezpieczniejszy niż twój", żeby zdobywać udział w rynku. Ale myślę, że wszyscy mają wspólny cel.

Które branże są najbardziej zagrożone cyberatakami? Czy ostatnio się to zmieniło?

Nie, nie sądzę. Myślę, że słowo "zagrożone" jest trudne do zdefiniowania. Ataki państwowe wymierzone w instalacje wojskowe, sektor usług komunalnych i podobne obszary wiążą się z wysokim poziomem ryzyka. Jest ich coraz więcej, bo aktorzy zagrożeń wiedzą, że mogą tam coś poważnego uzyskać. Dziesięć lat temu można było zaatakować firmę z sektora użyteczności publicznej i zażądać okupu, a reakcją mogło być: "No dobrze, co, wyłączy światło?". Ale dziś mowa o dostawach wody, energii i innych kluczowych usługach.

Czy sklep spożywczy ma takie ryzyko? Być może. Zależy, jak używa technologii. To głupi przykład, ale go podam. Współpracujemy ze sklepem spożywczym w Kanadzie – Nature Fresh Farms. Wykorzystują AI na przykład do określania dojrzałości truskawek. Kiedy narzędzie AI stwierdza, że są wystarczająco dojrzałe, wtedy można je zebrać. Udajmy, że istnieje owoc, który, jeśli nie jest dojrzały, może spowodować chorobę i śmierć. Jakie jest więc ryzyko, jeśli truskawka zostanie zerwana za wcześnie? Niewielkie. Jeśli jednak ten inny owoc nie zostanie zebrany w odpowiednim momencie i może spowodować problem, to poziom ryzyka jest wyższy. Różne branże mają więc różne typy i poziomy ryzyka, dlatego definiowanie go jest dość trudne.

Czy może pan opowiedzieć o najtrudniejszym przypadku z obszaru cyberbezpieczeństwa, z jakim zetknął się pan w swojej karierze?

Raczej nie mogę, bo to sprawa wewnętrzna. To, co mogę powiedzieć, to że przy naprawdę poważnych atakach, z którymi bardzo trudno sobie poradzić, komunikacja jest niezwykle ważna. Trzeba wiedzieć, komu i kiedy można przekazywać informacje, żeby nie wpakować się w kłopoty.

Trudność nie polega więc tak bardzo na samym ataku, bo różne ataki, kiedy już się wydarzą i zostaną wykryte, mają swoje procedury naprawcze. To jest w pewnym sensie proste: trzeba przejść przez proces, bo zwykle taki istnieje. Nie wygląda to jak w filmach, gdzie usuwając jeden atak, spowodowałeś dziesięć kolejnych. Nigdy nie widziałem czegoś takiego. To, co jest trudne, to część komunikacyjna.

Czy w związku z rosnącą popularnością agentowej AI pojawią się nowe zagrożenia?

O tak, zdecydowanie. Atak wewnętrzny staje się ważniejszy, bo insider nie musi być człowiekiem. Może być agentowy.

Niekoniecznie będzie to narzędzie agentowej AI albo agent myślący, że działa złośliwie w stylu "zabiję cię", ale może zrobić coś bardzo złego, bo uważa, że ma rację. Może się okazać, że trudno będzie zrozumieć, co właściwie się wydarzyło i dlaczego. Co w zbiorze danych trenującym tego agenta było tak błędne, że zmusza go do podejmowania decyzji przeciwko mnie? Czy on nie wie, że pracuje dla mnie? Myślę, że takie rzeczy będą się zdarzać.

Czy możemy to jakoś kontrolować?

Nie sądzę. To znaczy, to jedna z tych rzeczy: jeśli nie zna się wszystkich możliwości, to jak można się na nie przygotować? System będzie podejmował decyzje, o których my nawet nie myślimy. Wszystko jest matematyką. To trochę straszne, ale też interesujące.

Zwykłym użytkownikom internetu często mówi się, że korzystanie z uwierzytelniania wieloskładnikowego to najlepszy i najprostszy sposób na ochronę online. Czy to prawda?

Dla zwykłego użytkownika uważam to za dobre rozwiązanie. Istnieją przypadki podszywania się pod uwierzytelnianie wieloskładnikowe, ale to zwykle dzieje się tylko w dużych systemach, na przykład wewnętrznych systemach pamięci masowej w centrach danych. Ja, gdy loguję się do banku i pojawia się pytanie, czy chcę to skonfigurować, zawsze się zgadzam. Uważam, że to bardzo bezpieczne.

Zdarzało mi się dostać komunikat: "Ktoś próbuje wejść na twoje konto. Oto siedmiocyfrowy kod. Czy właśnie próbowałeś się zalogować?". Wiem więc, że ktoś próbuje, ale nie daję mu zgody. Dzięki temu mam znacznie większą świadomość tego, co się dzieje.

Ma pan jeszcze jakieś wskazówki dla zwykłych ludzi, którzy próbują chronić swoje dane?

Jako zwykły użytkownik zapytałbym swój bank, jak chroni moje dane i jakiego szyfrowania używa. Oczywiście jestem tylko jednym z wielu klientów, więc nie przygotują specjalnych zabezpieczeń tylko dla mnie, ale jeśli mam wybór, gdzie trzymam pieniądze, wybieram miejsca, które mają lepsze możliwości.

Mój bank ma na przykład kod QR, który muszę zeskanować, a następnie potwierdzić swoją tożsamość za pomocą rozpoznawania twarzy. Dziś dostępnych jest coraz więcej form identyfikacji biometrycznej. Warto z nich korzystać wszędzie tam, gdzie trzymamy albo wydajemy pieniądze.

Podobnie działa to na moim komputerze Dell. Jeśli wcześniej skonfigurowałem logowanie, to przy próbie wpisania nazwy użytkownika i hasła Microsoft prosi mnie najpierw o potwierdzenie biometryczne, na przykład skan twarzy albo odcisk palca. Dopiero potem automatycznie uzupełnia dane logowania. Taka podwójna ochrona jest bardzo pomocna.

Czy biometria może zostać użyta przeciwko nam?

To jest temat deepfake'ów, o których wszyscy mówią. Bardzo trudno zrobić to z odciskiem palca. Nie tak trudno z rozpoznawaniem głosu albo twarzy. Nigdy nie słyszałem o przypadku, w którym odcisk palca został skradziony. To znaczy, można dosłownie pozbawić kogoś palca, ale widziałem to tylko w filmach.