Unia Europejska zabiera się za SI. Powstają nowe regulacje przeciw dyskryminacji

Eksperci od dawna nawołują do wprowadzenia ograniczeń dla firm zajmujących się badaniami nad sztuczną inteligencją. Ich głosów wysłuchała Unia Europejska, która pracuje nad nowymi regulacjami. Ich celem jest m.in. walka z dyskryminacją, jakiej ma dopuszczać się SI.

Coraz większe grono ekspertów zauważa, że sztuczna inteligencja nie jest wolna od uprzedzeń. Pisaliśmy już o tym w tekście o byłym pracowniku Google. Ujawnił on, że czatbot LaMDA stworzony przez amerykański koncern przejawia dyskryminujące zachowania na tle rasistowskim oraz religijnym.

To jedynie wierzchołek góry lodowej – znacznie większy wpływ na rzeczywistość mają bezwzględne algorytmy. Eksperci wskazują, że oceniają one użytkowników ze względu na płeć, miejsce zamieszkania, wiek czy pochodzenie etniczne, nie zwracając uwagi na inne czynniki poza suchymi statystykami.

Dotyczy to szczególnie sektora bankowości, gdzie sztuczna inteligencja odpowiada za ocenę zdolności kredytowej. W efekcie niektóre grupy społeczne mają znacznie mniejszą szansę na otrzymanie kredytu czy innej formy finansowania. Sytuacja nie jest zero-jedynkowa, o czym pisał The Washington Post na przykładzie czarnoskórych Amerykanów.

Eksperci wskazują, że problemem jest nie tylko podejmowanie decyzji na podstawie uprzedzeń, ale też brak informacji zwrotnych. Sztuczna inteligencja oceniająca zdolność kredytową jest na tyle skomplikowana, że nawet sam bank do końca nie wie, dlaczego podjął taką, a nie inną decyzję. Liczba zmiennych i danych przetwarzanych przez algorytm jest ogromna, a klienci nie dostają informacji zwrotnej, co powinni poprawić we wniosku, by ten został zaakceptowany.

Jak donosi Guardian, Unia Europejska pracuje nad Artificial Intelligence Act, czyli nowym rozporządzeniem, które ma uregulować kwestie sztucznej inteligencji na rynku europejskim. Unijni urzędnicy wskażą, jakie rodzaje AI wiążą się z wysokim ryzykiem i wymagają dodatkowego nadzoru ze strony instytucji regulujących rynek. Na razie nie wiadomo, co zostanie zaliczone do tej grupy.

Artificial Intelligence Act przypomina RODO, czyli ogólne rozporządzenie o ochronie danych osobowych. Choć formalnie ma ono obowiązywać jedynie kraje członkowskie Unii Europejskiej, to tak naprawdę również zagraniczne firmy będą musiały dostosować się do unijnych przepisów lub przestać działać na rynku europejskim. Twórcy nowych regulacji mają duże ambicje – chcą, by ich rozwiązania stały się standardem na całym świecie.

Szczegółowe informacje na temat projektu oraz dokładną treść rozporządzenia (także w języku polskim) znajdziecie na stronie Artificial Intelligence Act. Prace nad regulacjami trwają od 2021 r. Na ten moment nie wiemy jeszcze, kiedy i czy w ogóle rozporządzenie wejdzie w życie.

Tomasz Bobusia, dziennikarz dobreprogramy.pl