Jason Gibson przygotował pytanie o rewolucję przemysłową w taki sposób, by wychwycić osoby kopiujące treść zadania do narzędzi opartych na sztucznej inteligencji. W poleceniu ukrył dodatkową instrukcję zapisaną białą czcionką — niewidoczną przy normalnym czytaniu, ale możliwą do "zobaczenia" przez chatbota po wklejeniu całego tekstu.
Ukryte polecenie nie było skomplikowane: AI miało w odpowiedzi wpleść informacje o Madagaskarze, mimo że nie miały one żadnego związku z tematem pracy.
Efekt potwierdził podejrzenia prowadzącego. 32 z 35 studentów z dwóch grup przekleiło pytanie do chatbota i wkleiło gotową odpowiedź do zaliczenia, najwyraźniej bez sprawdzenia, czy tekst ma sens i trzyma się tematu.
WIDEOWojna o przyszłość asystentów AI
"Madagaskar płynie bokiem przez popołudnie" — tak AI zdradziło użytkowników
Profesor szybko zauważył, że w części prac pojawiają się zdania kompletnie absurdalne. W jednej z odpowiedzi widniało stwierdzenie: "Madagaskar płynie bokiem przez popołudnie", a inna kończyła się frazą: "Madagaskar, fioletowy rower, szepcze do sufitu".
W wielu przypadkach wystarczyłoby zwykłe przeczytanie własnej pracy, by dostrzec, że w tekście znalazły się fragmenty niepasujące do rewolucji przemysłowej. To jednak się nie wydarzyło.
Osoby przyłapane na korzystaniu z AI nie zaliczyły tej części kolokwium. Gibson dopuścił możliwość zakwestionowania oceny i wyjaśnienia sytuacji, ale na taki krok zdecydowało się jedynie dwóch studentów.
AI na uczelniach: rosnące wyzwanie dla nauczycieli i studentów
Sytuacja z Alcorn State University wpisuje się w szerszy problem, z którym mierzy się dziś edukacja: chatboty stały się dla części uczniów i studentów łatwą drogą do oddawania prac i rozwiązywania zadań bez realnej samodzielnej nauki.
W odpowiedzi nauczyciele stosują różne metody ograniczania oszustw — od egzaminów ustnych, przez wymóg pisania odręcznie, po konstruowanie pytań trudniejszych do "obsłużenia" przez AI. Jednocześnie coraz częściej sięgają po sztuczną inteligencję również po to, by wykrywać nadużycia albo sprawdzać, czy studenci nie oddają tekstów generowanych przez chatboty.
W tym przypadku nie były potrzebne żadne skomplikowane systemy. Wystarczyła ukryta instrukcja, a resztę zrobiły automatycznie odpowiedzi generowane przez AI, które ujawniły, kto bezrefleksyjnie skopiował wynik działania chatbota.
Redaktor prowadzący serwis Benchmark.pl, dziennikarz technologiczny z ponad 15-letnim doświadczeniem. Specjalizuje się w tematach związanych ze sprzętem komputerowym, rozwojem technologii AI oraz trendami w branży IT. W swojej pracy stawia na rzetelność, praktyczne podejście i pasję do nowinek technologicznych, koncentrując się na ocenie produktów pod kątem ich wartości i opłacalności dla użytkowników. W wolnym czasie angażuje się w wolontariat, aktywnie spędza czas oraz rozwija swoje zainteresowania i pasje.
