Narzędzia AI od Elona Muska pomogły w tworzeniu niewykrywalnego malware

Podczas ostatniej konferencji DEF CON, eksperci z firmy Endgamepochwalili się stworzonym przez sztuczną inteligencję złośliwymoprogramowaniem, które jest w stanie uniknąć wykrycia przezwiodące na rynku narzędzia antywirusowe. W pracach wykorzystanoframework OpenAI,którego rozwój finansowany jest m.in. przez Elona Muska i PeteraThiela (współtwórcę PayPala).

Dyrektor techniczny Endgame, Hyrum Anderson, wyjaśnił, żezastosowano tu mechanizmy maszynowego uczenia, które wprowadzałyniewielkie zmiany do szkodnika, a następnie przesyłały jegokolejne wersje antywirusowym skanerom. Na podstawie ich reakcji dalejmodyfikowano kod, tak że w końcu szkodnik stawał się niewidzialnydla antywirusa.

Wystarczyć miało 15 godzin treningu, by oprogramowanie stworzyłoi przetestowało 100 tysięcy próbek malware. Ostatnie wersjeprzenikały przez systemy zabezpieczeń ze skutecznością sięgającą60%.

Teraz na GitHubie znaleźć można kompletneśrodowisko do trenowania malware, działające w OpenAI Gym –zestawie narzędzi do rozwijania i porównywania algorytmów uczeniaprzez wzmacnianie. Pozwala ono na tworzenie agentów uczących sięmanipulować plikami wykonywalnymi tak, by osiągały pewne cele (np.obejście zabezpieczeń antywirusa), poprzez nagradzanie za najlepszeoperacje.

Producentom antywirusów pozostaje teraz bliżej zaznajomić sięz pracami Endgame i pomyśleć, co mogą zrobić w erze generowanegoprzez inteligentne maszyny malware. Jak podkreśla Anderson, nawetdrobne zmiany w kodzie ogłupiają dziś silniki antywirusowe.Powołuje się w tym na Google, które pokazało jak zmiana kilkupikseli w obrazku może sprawić, że to co wcześniej przez systemrozpoznawania obrazu było uważane za szkolny autobus nagle dla AIstaje się ostrygą.