Szef NVIDII o ryzyku apokalipsy AI: "0 proc." do 2030 r. 

Coraz więcej osób ze świata nauki i technologii apeluje ostatnio o ostrożność w rozwijaniu AI. W tle tych ostrzeżeń pojawia się obawa, że kolejne generacje modeli stają się potężniejsze szybciej, niż powstają skuteczne metody ich kontroli i zabezpieczania.

Jednym z najgłośniejszych przykładów takiego podejścia jest Evan Hubinger z Anthropic, zajmujący się bezpieczeństwem oraz kontrolą sztucznej inteligencji. Wcześniej oceniał on, że prawdopodobieństwo scenariusza, w którym AI doprowadzi do śmierci całej ludzkości w ciągu najbliższych 10 lat, przekracza 10 proc. Wskazywał przy tym na nierozwiązany problem tzw. alignmentu, czyli zapewnienia, by bardzo zaawansowane systemy realizowały cele zgodne z ludzkimi wartościami.

W ostatnich tygodniach do podobnych ostrzeżeń dołączyli kolejni badacze. Spór dotyczy więc nie tylko kierunku rozwoju sztucznej inteligencji, ale też tego, czy branża nie powinna świadomie zwolnić, dopóki ryzyka nie zostaną lepiej opanowane.

Na przeciwnym biegunie jest Jensen Huang – współzałożyciel i prezes NVIDII, czyli jednego z kluczowych producentów układów wykorzystywanych w rozwoju AI. W rozmowie z CBS News usłyszał bezpośrednie pytanie, czy sztuczna inteligencja może zniszczyć ludzkość przed końcem obecnej dekady.

Huang odpowiedział jednoznacznie: "Rok 2030 nie będzie końcem świata. Szanse na to wynoszą zero procent." Z jego perspektywy narracja, według której rozwój AI prowadzi wprost do zagłady, jest przesadzona i nie ma wystarczającego oparcia w nauce. Ocenia też, że straszenie opinii publicznej takimi wizjami jest niepotrzebne i nieodpowiedzialne.

Jednocześnie prezes NVIDII nie neguje samej potrzeby ostrożności. W rozmowie z CBS podkreślał, że obawy o bezpieczeństwo są uzasadnione – problemem ma być raczej sposób, w jaki przedstawia się najbardziej skrajne, katastroficzne scenariusze.

Huang nie opowiada się też za wyhamowaniem postępu. Zapytany, czy w obliczu zagrożeń rozwój AI powinien zwolnić, stwierdził, że firmy powinny rozwijać tę technologię "tak szybko, jak tylko możemy". Zastrzegł przy tym, że tempo nie może być większe, niż powinno – bezpieczeństwo nie może przegrywać z wyścigiem o szybkość.

To ważny głos również dlatego, że NVIDIA jest jedną z firm, które najbardziej korzystają na boomie na sztuczną inteligencję. Jej procesory są powszechnie używane do trenowania i uruchamiania najbardziej zaawansowanych modeli.

Szef NVIDII przekonuje jednak, że właśnie z tego powodu firmom powinno zależeć na bezpieczeństwie. Według niego przedsiębiorstwa mają zarówno możliwości, jak i odpowiednie bodźce, by projektować systemy w sposób bezpieczny.

W efekcie debata o sztucznej inteligencji coraz wyraźniej dzieli się na dwa podejścia. Z jednej strony są badacze alarmujący, że rosnąca moc systemów może przynieść trudne do kontrolowania skutki. Z drugiej – przedstawiciele branży, tacy jak Jensen Huang, którzy oceniają, że dziś najczarniejsze scenariusze są formułowane zbyt daleko idąco.