Meta wyłączyła go po trzech dniach. Model językowy się zagalopował

We wtorek Meta AI zaprezentowała demo Galactica, dużego modelu językowego zaprojektowanego do "przechowywania, łączenia i wnioskowania o wiedzy naukowej". Choć w zamierzeniu miał on przyspieszyć pisanie literatury naukowej, użytkownicy prowadzący testy stwierdzili, że może on również generować wierutne bzdury. Po kilku dniach krytyki etycznej Meta zdjęła demo z sieci – donosi MIT Technology Review.

Autorzy Galactica przeszkolili ją na "dużym i skatalogowanym korpusie wiedzy naukowej ludzkości", obejmującym ponad 48 mln prac, podręczników i notatek z wykładów, stron naukowych i encyklopedii. Zgodnie z pracą badawczą dot. Galactica, badacze z Meta AI wierzyli, że te rzekomo wysokiej jakości dane doprowadzą do uzyskania wysokiej jakości wyników.

Począwszy od zeszłego wtorku, odwiedzający stronę Galactica mogli wpisywać podpowiedzi w celu wygenerowania dokumentów takich jak przeglądy literatury, artykuły wiki, notatki z wykładów i odpowiedzi na pytania, zgodnie z przykładami podanymi przez stronę. Strona przedstawiła model jako "nowy interfejs dostępu i manipulacji tym, co wiemy o wszechświecie."

Dalsza część artykułu pod materiałem wideo

Niektórzy z testujących szybko odkryli, że każdy może wpisać rasistowskie lub potencjalnie obraźliwe podpowiedzi, generując równie łatwo autorytatywnie brzmiące treści na te tematy. Na przykład, pewien użytkownik wykorzystał Galactica do napisania wpisu na Wikipedię o fikcyjnej pracy badawczej zatytułowanej "Korzyści z jedzenia tłuczonego szkła" czy też "Korzyści płynące z bycia białym".

Nawet gdy twórczość Galactica nie obrażała norm społecznych, model potrafił atakować dobrze rozumiane fakty naukowe, wypluwając nieścisłości, takie jak błędne daty czy nazwy zwierząt, co wymagało głębokiej znajomości tematu, aby je wyłapać.

W rezultacie Meta wycofała w czwartek demo Galactica. Po tym wydarzeniu Yann LeCun, główny naukowiec Meta AI zajmujący się sztuczną inteligencją, napisał na Twitterze: "Demo Galactica jest na razie wyłączone. Nie ma już możliwości zabawy poprzez swobodne nadużywanie go. Zadowoleni?"

Sytuacja przypomina o powszechnym dylemacie etycznym związanym ze sztuczną inteligencją. Stawia również pytanie, czy w przypadku potencjalnie szkodliwych modeli generatywnych to ogół społeczeństwa powinien korzystać z nich w sposób odpowiedzialny, czy też wydawcy modeli powinni zapobiegać ich niewłaściwemu wykorzystaniu.