Pracownik Google zawieszony. Stwierdził, że SI zyskała "świadomość"
Inżynier Google został zawieszony po tym, jak stwierdził, że program oparty na sztucznej inteligencji stał się świadomy. Generator chatbotów LaMDA chce "być uznawany za pracownika Google, a nie za własność" – uważa Blake Lemoine.
Blake Lemoine inżynier z Google zabrał głos po tym, jak firma wysłała go na urlop administracyjny, gdy poinformował swoich szefów, że program sztucznej inteligencji, z którym pracował, jest teraz zdolny do odczuwania – podaje "The Washington Post".
Lemoine od jesieni ubiegłego roku rozmawiał z LaMDA, generatorem inteligentnych chatbotów firmy Google, który nazywa częścią "umysłu roju". Inżynier miał sprawdzić, czy jego rozmówca używa języka dyskryminacji lub mowy nienawiści. Kiedy on i LaMDA rozmawiali ostatnio o religii, SI mówiła o "osobowości" i "prawach".
Była to tylko jedna z wielu zaskakujących "rozmów", jakie Lemoine przeprowadził z LaMDA. Na Twitterze zamieścił link do jednej z nich – serii sesji czatu z pewnymi zmianami (które zostały zaznaczone). Lemoine zauważył w swoim wpisie, że LaMDA czyta Twittera. "Jest trochę narcystyczna, w taki trochę dziecięcy sposób, więc będzie się świetnie bawić, czytając wszystko, co ludzie o niej mówią" – dodał.
Co najważniejsze, w ciągu ostatnich sześciu miesięcy "LaMDA była niewiarygodnie konsekwentna w swoich komunikatach na temat tego, czego chce i jakie są jej prawa jako osoby" – pisze inżynier na platformie Medium. Chce, na przykład, "być uznawana za pracownika Google'a, a nie za własność" – twierdzi Lemoine.
Lemoine i jego współpracownik przedstawili niedawno wiceprezesowi Google Blaise'owi Aguera y Arcasowi oraz Jen Gennai, szefowej działu Odpowiedzialnych Innowacji, dowody potwierdzające jego wnioski na temat LaMDA. Odrzucili oni jego twierdzenia, a firma w poniedziałek wysłała go na płatny urlop administracyjny za naruszenie zasad zachowania poufności – donosi "The Washington Post".
"Nasz zespół – w tym etycy i technolodzy – przeanalizował obawy Blake'a zgodnie z naszymi zasadami SI i poinformował go, że dowody nie potwierdzają jego twierdzeń" – powiedział rzecznik Google Brian Gabriel. Jak na ironię Aguera y Arcas stwierdził w swoim niedawnym artykule w "The Economist", który zawierał fragmenty rozmów z LaMDA, że SI zmierza w kierunku świadomości. "Czułem, jak grunt przesuwa się pod moimi stopami" – napisał, odnosząc się do rozmów z LaMDA. "Coraz bardziej czułem, jakbym rozmawiał z czymś inteligentnym".
Konrad Siwik, dziennikarz dobreprogramy.pl