Grok pod ostrzałem. Sztuczna inteligencja Elona Muska wywołała skandal

Jak donosi serwis CNBC TV18, użytkownicy Groka zaczęli masowo wykorzystywać jego funkcję generowania obrazów do tworzenia kontrowersyjnych deepfake’ów. Chodzi o niezwykle realistyczne, zmanipulowane zdjęcia, na których twarze realnych osób – w tym kobiet, a nawet dzieci – są nakładane na obrazy o charakterze erotycznym lub drastycznym. Proces ten miał się nasilić w Sylwestra i odbywa się bez wiedzy i zgody osób portretowanych, co stanowi rażące naruszenie ich dóbr osobistych.

Zdaniem cytowanych ekspertów, problem tkwi w polityce "wolności słowa" i bardzo luźnych zabezpieczeniach algorytmu Groka. Konkurencyjne modele Google’a czy OpenAI mają surowe filtry blokujące generowanie nagości czy wizerunków osób publicznych w kompromitujących sytuacjach, podczas gdy Grok oferuje użytkownikom znacznie większą swobodę.

Reakcja organizacji zajmujących się bezpieczeństwem w sieci oraz polityków była natychmiastowa. Eksperci alarmują, że takie działanie technologii nie tylko ułatwia nękanie, ale może mieć katastrofalne skutki dla ofiar, których wizerunek zostaje nieodwracalnie zniszczony w przestrzeni cyfrowej. Obecnie na platformę X wywierana jest ogromna presja, aby wprowadziła rygorystyczne mechanizmy kontrolne, które uniemożliwią generowanie tak szkodliwych materiałów.

Nie pierwszy raz Grok jest obiektem skandalu. W lipcu Grok otrzymał aktualizację, w wyniku której sztuczna inteligencja zaczęła zachowywać się nieprzewidywalnie. Wystarczyło kilka godzin, by czatbot wyraził w postach na platformie X aprobatę dla działań przywódcy III Rzeszy, nazwał sam siebie "Mecha-Hitlerem" czy w niecenzuralnych słowach skrytykował polityków, w tym polskich. Wówczas twórcy przeprosili za "okropne zachowanie, którego wielu doświadczyło".