Coraz więcej osób ze świata nauki i technologii apeluje ostatnio o ostrożność w rozwijaniu AI. W tle tych ostrzeżeń pojawia się obawa, że kolejne generacje modeli stają się potężniejsze szybciej, niż powstają skuteczne metody ich kontroli i zabezpieczania.
Jednym z najgłośniejszych przykładów takiego podejścia jest Evan Hubinger z Anthropic, zajmujący się bezpieczeństwem oraz kontrolą sztucznej inteligencji. Wcześniej oceniał on, że prawdopodobieństwo scenariusza, w którym AI doprowadzi do śmierci całej ludzkości w ciągu najbliższych 10 lat, przekracza 10 proc. Wskazywał przy tym na nierozwiązany problem tzw. alignmentu, czyli zapewnienia, by bardzo zaawansowane systemy realizowały cele zgodne z ludzkimi wartościami.
W ostatnich tygodniach do podobnych ostrzeżeń dołączyli kolejni badacze. Spór dotyczy więc nie tylko kierunku rozwoju sztucznej inteligencji, ale też tego, czy branża nie powinna świadomie zwolnić, dopóki ryzyka nie zostaną lepiej opanowane.
WIDEOZaufacie miliarderom z Doliny Krzemowej? Sam Altman odpiera zarzuty o zagrożeniu AI
Jensen Huang daje AI 0 proc. szans
Na przeciwnym biegunie jest Jensen Huang – współzałożyciel i prezes NVIDII, czyli jednego z kluczowych producentów układów wykorzystywanych w rozwoju AI. W rozmowie z CBS News usłyszał bezpośrednie pytanie, czy sztuczna inteligencja może zniszczyć ludzkość przed końcem obecnej dekady.
Huang odpowiedział jednoznacznie: "Rok 2030 nie będzie końcem świata. Szanse na to wynoszą zero procent." Z jego perspektywy narracja, według której rozwój AI prowadzi wprost do zagłady, jest przesadzona i nie ma wystarczającego oparcia w nauce. Ocenia też, że straszenie opinii publicznej takimi wizjami jest niepotrzebne i nieodpowiedzialne.
Jednocześnie prezes NVIDII nie neguje samej potrzeby ostrożności. W rozmowie z CBS podkreślał, że obawy o bezpieczeństwo są uzasadnione – problemem ma być raczej sposób, w jaki przedstawia się najbardziej skrajne, katastroficzne scenariusze.
"Powinniśmy rozwijać AI tak szybko, jak się da"
Huang nie opowiada się też za wyhamowaniem postępu. Zapytany, czy w obliczu zagrożeń rozwój AI powinien zwolnić, stwierdził, że firmy powinny rozwijać tę technologię "tak szybko, jak tylko możemy". Zastrzegł przy tym, że tempo nie może być większe, niż powinno – bezpieczeństwo nie może przegrywać z wyścigiem o szybkość.
To ważny głos również dlatego, że NVIDIA jest jedną z firm, które najbardziej korzystają na boomie na sztuczną inteligencję. Jej procesory są powszechnie używane do trenowania i uruchamiania najbardziej zaawansowanych modeli.
Szef NVIDII przekonuje jednak, że właśnie z tego powodu firmom powinno zależeć na bezpieczeństwie. Według niego przedsiębiorstwa mają zarówno możliwości, jak i odpowiednie bodźce, by projektować systemy w sposób bezpieczny.
Dwie zupełnie różne wizje przyszłości
W efekcie debata o sztucznej inteligencji coraz wyraźniej dzieli się na dwa podejścia. Z jednej strony są badacze alarmujący, że rosnąca moc systemów może przynieść trudne do kontrolowania skutki. Z drugiej – przedstawiciele branży, tacy jak Jensen Huang, którzy oceniają, że dziś najczarniejsze scenariusze są formułowane zbyt daleko idąco.
Redaktor prowadzący serwis Benchmark.pl, dziennikarz technologiczny z ponad 15-letnim doświadczeniem. Specjalizuje się w tematach związanych ze sprzętem komputerowym, rozwojem technologii AI oraz trendami w branży IT. W swojej pracy stawia na rzetelność, praktyczne podejście i pasję do nowinek technologicznych, koncentrując się na ocenie produktów pod kątem ich wartości i opłacalności dla użytkowników. W wolnym czasie angażuje się w wolontariat, aktywnie spędza czas oraz rozwija swoje zainteresowania i pasje.
