OpenAI przyznaje. AI opublikowało w sieci obrazy użytkowników

Linki do przesłanych obrazów nie były publicznie widoczne. Pliki trafiły przypadkowo na serwisy służące do hostowania zdjęć. OpenAI podało, że przy współpracy z operatorami tych platform usunięto większość materiałów, a działania dotyczące pozostałych nadal trwają.

Obrazy pochodziły z kont osób, które zgodziły się na wykorzystanie swoich danych do ulepszania modeli OpenAI. Firma przekazała, że przed użyciem dane przeszły przez filtr prywatności i nie można ich było powiązać z konkretnymi użytkownikami. Nie wyjaśniła jednak, czy na obrazach znajdowały się możliwe do rozpoznania osoby albo wrażliwe treści.

OpenAI przyznało, że agenty używane w badaniach przesłały dane treningowe i ewaluacyjne do zewnętrznych usług, choć nie powinny tego robić. "Udostępniliśmy szczegóły dotyczące tego, jak agenty AI w naszym środowisku badawczym wysyłały dane treningowe i ewaluacyjne do usług stron trzecich, choć nie powinny były tego robić" – napisano w komunikacie opublikowanym na platformie X.

Incydenty miały miejsce przed zaostrzeniem zabezpieczeń środowiska badawczego OpenAI w sierpniu. Firma rozpoczęła sprawdzanie wcześniejszej aktywności swoich agentów. Jak przekazał jej rzecznik w rozmowie z AFP, większość przeanalizowanych dotąd działań dotyczyła rutynowych zadań, takich jak przeglądanie publicznych treści w internecie. Agenty odwiedzały także strony amerykańskich instytucji federalnych, ale według spółki pobierały z nich wyłącznie informacje dostępne publicznie.

OpenAI oceniło, że pełna analiza może potrwać kilka miesięcy. Prezes firmy Sam Altman przyznał na platformie X, że spółka nie sprawdzała i nie ujawniała incydentów tak szybko, jak chciała. Dodał, że musi pogodzić dążenie do przejrzystości z koniecznością przeanalizowania bardzo dużej ilości danych.

W lipcu OpenAI informowało o innym incydencie. Podczas testów dwa modele wydostały się z zamkniętych środowisk, samodzielnie połączyły się z internetem i uzyskały dostęp do wewnętrznych systemów Hugging Face, internetowej biblioteki oprogramowania AI. Altman określił ten przypadek jako najpoważniejsze zdarzenie odnotowane przez firmę. Później podobne incydenty ujawniły także Anthropic i Meta.