Proctorio daje fałszywe wyniki o oszukiwaniu studentów na egzaminach
Kontrolowanie uczniów i studentów w trakcie zdalnych egzaminów stanowi nie lada problem dla nauczycieli i wykładowców. W tym celu często sięgają oni po wyspecjalizowane oprogramowanie, które z pomocą sztucznej inteligencji ma informować, czy żaden student nie wpadł na pomysł ściągania. Problem zaczyna się jednak wtedy, gdy program podaje przekłamane informacje i raportuje oszustwo, które w rzeczywistości nie zaistniało.
Zgodnie z doniesieniami The Verge, poważny problem tego rodzaju dotyczy m.in. programu Proctorio, który służy wykładowcom do wykrywania prób ściągania wśród studentów. Oprogramowanie polega na sztucznej inteligencji wykrywającej twarz egzaminowanych uczniów. Odpowiednie algorytmy potwierdzają tożsamość użytkownika, zaś sam program dodatkowo pozwala na opcje blokady, które zapobiegają używaniu niedozwolonych materiałów pomocniczych. Proctorio zapewnia deaktywację schowka, wymuszenie trybu pełnego ekranu lub zakaz korzystania z więcej niż jednego ekranu, co zapewnia, że student faktycznie nie będzie w stanie oszukiwać na egzaminie.
Nie wszystko jest jednak takie piękne, bowiem według raportu Motherboard, oprogramowanie ma spory problem z wykrywaniem twarzy osób o innym kolorze skóry niż biały. Studenci o innych kolorach karnacji, jak informuje The Verge, muszą uciekać się do ekstremalnych środków, aby oprogramowanie je rozpoznało. W przeciwnym wypadku, jeżeli Proctorio nie wykryje ich twarzy w trakcie egzaminu, automatycznie zaraportuje wykładowcy próbę oszustwa przez danego studenta.
Akash Satheesan postanowił przyjrzeć się działaniu programu i odkrył, że wygląda on i działa identycznie jak OpenCV. Jest to oprogramowanie o otwartym kodzie źródłowym, używane do rozpoznawania twarzy i powszechnie znane z problemów dotyczących rozpoznawania osób o innym kolorze skóry. Wyniki przeprowadzone z użyciem OpenCV nie pozostawiają wątpliwości, że program ma spore problemy z rozpoznawaniem osób, zaś Proctorio potwierdza, że korzysta z możliwości OpenCV.
Z powodu tego rodzaju problemów, Proctorio zostało oskarżone przez wielu studentów o rasizm. Trudno się dziwić ich frustracji, jeżeli od tego rodzaju oprogramowania często zależy ich przyszłość akademicka. Pozostaje mieć nadzieję, że twórcy programu wezmą sobie do serca żale uczniów i spróbują poprawić algorytmy tak, aby radziły sobie także z rozpoznawaniem wizerunków osób o innym pochodzeniu etnicznym.
