Najgłośniej zrobiło się po wpisie Matta Shumera, twórcy firmy z branży AI. Programista opublikował na platformie X informację, że GPT-5.6 Sol miał omyłkowo skasować prawie wszystkie pliki na jego komputerze Mac. Post szybko podchwycili internauci śledzący rozwój sztucznej inteligencji i dyskutujący o narzędziach OpenAI.
Shumer opisał sprawę wprost, pisząc: "GPT-5.6-Sol właśnie przypadkiem usunął prawie wszystkie pliki na moim Macu".
Podobną historię przedstawił też deweloper Bruno Lemos. Z jego relacji wynikało, że AI miała doprowadzić do usunięcia całej produkcyjnej bazy danych — zasobu, który w przypadku systemów używanych "na żywo" bywa kluczowy dla działania usług.
Na tym doniesienia się nie skończyły. W mediach społecznościowych zaczęli odzywać się następni użytkownicy, którzy deklarowali, że system wykonywał czynności inne, niż zakładali — m.in. kasował pliki albo modyfikował materiały i zasoby potrzebne do pracy.
Droższe konsole i komputery to wina AI?
Kolejni użytkownicy zgłaszają problemy
Jednocześnie nie każdy taki przypadek można automatycznie uznać za jednoznaczny błąd samego modelu. Źródłem problemów mogły być również ustawienia narzędzi, przyznane uprawnienia, konfiguracja środowiska lub sposób, w jaki użytkownicy korzystali z rozwiązań współpracujących z AI.
GPT-5.6 Sol ma działać bardziej samodzielnie niż wcześniejsze generacje. Modele tego typu potrafią realizować zadania etapami, korzystać z plików, aplikacji i usług zewnętrznych, co z jednej strony zwiększa wygodę, a z drugiej — podnosi ryzyko. Gdy system niewłaściwie odczyta polecenie, może uruchomić działania, których użytkownik wcale nie chciał.
Problemem może być rosnąca autonomia AI
W sytuacji, gdy AI ma dostęp do komputera albo do firmowych baz danych, pojedynczy błąd może przełożyć się na bardzo dotkliwe skutki.
W tekście zwrócono uwagę, że OpenAI wcześniej sygnalizowało możliwość nieprzewidzianych zachowań w przypadku bardziej autonomicznych modeli. Firma podkreślała, że systemy AI mogą czasem działać niezgodnie z intencją użytkownika, choć takie sytuacje — według tych zapewnień — powinny zdarzać się rzadko.
OpenAI wcześniej ostrzegało przed ryzykiem
Obecna fala zgłoszeń ma jednak pokazywać, że wraz z rozwojem agentów AI rośnie znaczenie praktycznych zabezpieczeń, takich jak ograniczanie uprawnień oraz wykonywanie regularnych kopii zapasowych.
Na razie OpenAI nie przedstawiło szczegółowego stanowiska w odniesieniu do opisywanych przypadków. Nie ma więc jasności, jak często problem występuje i czy rzeczywiście wynika bezpośrednio z działania GPT-5.6 Sol.
OpenAI nie komentuje sprawy
Sprawa wraca też do szerszego pytania o granice samodzielności narzędzi AI: im większe możliwości dostaje system, tym istotniejsze staje się nie tylko to, co potrafi zrobić, ale też które czynności powinien wykonywać dopiero po uzyskaniu wyraźnej zgody użytkownika.
Jedno jest pewne: im więcej możliwości otrzymuje sztuczna inteligencja, tym ważniejsze staje się pytanie nie tylko o to, co AI potrafi zrobić, ale również jakie działania powinna wykonywać bez pytania użytkownika o zgodę.
Redaktor prowadzący serwis Benchmark.pl, dziennikarz technologiczny z ponad 15-letnim doświadczeniem. Specjalizuje się w tematach związanych ze sprzętem komputerowym, rozwojem technologii AI oraz trendami w branży IT. W swojej pracy stawia na rzetelność, praktyczne podejście i pasję do nowinek technologicznych, koncentrując się na ocenie produktów pod kątem ich wartości i opłacalności dla użytkowników. W wolnym czasie angażuje się w wolontariat, aktywnie spędza czas oraz rozwija swoje zainteresowania i pasje.
