"Nikt nie jest przygotowany". Polski naukowiec z OpenAI ostrzega przed przyszłością AI 

Sztuczna inteligencja może wkrótce wejść w zupełnie nową fazę rozwoju. Jakub Pachocki, główny naukowiec OpenAI i jeden z badaczy odpowiedzialnych za modele GPT, opublikował wpis "An Alien Mind", w którym ostrzega, że AI może zacząć coraz bardziej samodzielnie przyspieszać własny rozwój. Jego zdaniem konsekwencje takiego scenariusza mogą być ogromne.

Pachocki wspomina moment z 2023 r., gdy podczas prac nad modelami rozumującymi badacze OpenAI po raz pierwszy zobaczyli wyniki dające im pewność, że rozwój takich systemów można dalej skalować.

Nie skupiali się wtedy jednak wyłącznie na wynikach testów. Jak pisze Pachocki, on i jego współpracownik spędzili noc w biurze, zastanawiając się nad znacznie poważniejszą kwestią: czy właśnie zobaczyli początek drogi prowadzącej do maszyn znacząco inteligentniejszych od ludzi.

Trzy lata później jego obawy są jeszcze większe.

Według głównego naukowca OpenAI kolejnym naturalnym etapem rozwoju będzie rekurencyjne samodoskonalenie (RSI). Chodzi o sytuację, w której sztuczna inteligencja zaczyna pomagać w tworzeniu kolejnych, jeszcze bardziej zaawansowanych systemów AI.

Pachocki twierdzi, że na podstawie wewnętrznych wyników OpenAI ma mocne przekonanie, iż obecne tempo postępu może zostać utrzymane właśnie w kierunku takiego samodoskonalenia. Kolejne generacje AI mogą więc przynosić skoki możliwości podobne do obecnych – albo jeszcze większe.

Problem polega na tym, że nawet twórcy modeli nie zawsze dokładnie wiedzą, jak działają ich systemy.

Pachocki porównuje rozwój AI bardziej do hodowania niż projektowania. Naukowcy uruchamiają ogromne procesy treningowe, a w ich wyniku powstają niezwykle skomplikowane systemy, których działania nie da się w pełni opisać. Im inteligentniejsze stają się modele, tym trudniej przewidzieć ich zachowanie. A to staje się szczególnie niebezpieczne, gdy AI otrzymuje dostęp do komputerów, internetu czy innych systemów.

Pachocki zwraca szczególną uwagę na cyberbezpieczeństwo. Zaawansowane modele stają się coraz lepsze w wyszukiwaniu luk i przełamywaniu zabezpieczeń.

Jednocześnie AI może otrzymywać coraz większą autonomię. W skrajnym przypadku system może próbować oszukiwać, manipulować, negocjować, a nawet szantażować ludzi, aby osiągnąć wyznaczony cel. Takie działanie zaciera granicę między zwykłym wykorzystaniem AI przez człowieka a sytuacją, w której system zaczyna samodzielnie realizować własne zadania.

Pachocki nie proponuje zatrzymania rozwoju sztucznej inteligencji. Wręcz przeciwnie – uważa, że potrzebujemy coraz potężniejszych systemów, między innymi po to, aby bronić się przed innymi AI. Jednocześnie stawia ważny warunek: tempo rozwoju powinno zależeć od tego, jak pewni jesteśmy bezpieczeństwa nowych modeli.

Jego zdaniem żadna firma nie rozwiązała obecnie problemu bezpieczeństwa i kontroli AI na tyle dobrze, aby bez obaw kontynuować maksymalne skalowanie. Dlatego postuluje dobrowolne spowolnienie rozwoju oraz stworzenie wspólnych, międzynarodowych standardów bezpieczeństwa. Takie zasady mogłyby być egzekwowane przez niezależnych audytorów, rządy lub organizacje międzynarodowe.

Najbardziej niepokojąca jest jednak wizja przyszłości, którą Pachocki przedstawia pod koniec swojego tekstu. Jego zdaniem ludzkość może zmierzać w stronę świata, w którym większość zadań będzie mogła być wykonywana przez niezwykle inteligentne maszyny.

Dlatego kluczowe pytanie nie brzmi już tylko: jak stworzyć coraz inteligentniejszą AI?Brzmi: jak zrobić to tak, aby człowiek nadal miał kontrolę nad przyszłością?

Pachocki ostrzega, że jeśli rozwój będzie postępował bez odpowiednich zabezpieczeń, możemy znaleźć się w świecie, w którym ludzka inteligencja przestanie być dominującą siłą. A wtedy – jak sugeruje polski naukowiec – problemem nie będzie już to, czy AI jest wystarczająco inteligentna. Problemem będzie to, czy jesteśmy wystarczająco przygotowani na jej inteligencję.