ChatGPT w Samsungu. Narobili sobie kłopotów
Pracownicy fabryki Samsung Semiconductor dostali zezwolenie na korzystanie w pracy z ChatGPT. Aplikacja miała pozwolić na usprawnienie ich pracy. Szybko się okazało, że inżynierowie przekroczyli granicę bezpiecznego korzystania z pomocy sztucznej inteligencji.
Samsung Semiconductor pozwolił swoim pracownikom na wykorzystanie ChatGPT w codziennej pracy. Sztuczna inteligencja może przyspieszać wiele procesów, zwiększając tym samym efektywność pracy. Okazało się, że nie przestrzegali oni podstawowych zasad bezpieczeństwa, narażając tym samym firmę na wycieki kluczowych danych.
Jak podaje tomshardware.com, inżynierowie Samsunga wykorzystywali ChatGPT m.in. do tworzenia szybkich poprawek kodu źródłowego, wklejając go w aplikacji, co oznaczało wyciek danych poza firmę. To jednak nie wszystko. Firma odnotowała do tej pory trzy przypadki wykorzystania sztucznej inteligencji w sposób, który doprowadził do wycieku danych. Wszystko to wydarzyło się w bardzo krótkim okresie, bo w ciągu zaledwie 20 dni.
Dalsza część artykułu pod materiałem wideo
Tech Winter Challenge: Test terenowy G-Shock Mudmaster GWG-2000-1A1ER
Pierwszym zdarzeniem był wspomniany wyciek kodu źródłowego. Inny przypadek był równie alarmujący. Pracownik Samsunga poprosił ChatGPT o optymalizację wzorców testowych, które mają identyfikować defekty w produkowanych chipach. Jest to wiedza tajna, która nie powinna opuszczać firmy. Intencje pracownika były prawdopodobnie dobra - zoptymalizowanie sekwencji testowej mogłoby oszczędzać czas, a co za tym idzie, pieniądze.
Trzecia sytuacja wiązała się z użyciem aplikacji Naver Clova, która przekonwertowała nagranie ze spotkania do dokumentu. Następnie tekst został przesłany do ChatGPT z prośbą, by wykonać na jego podstawie prezentację.
W odpowiedzi na te sytuacje Samsung miał poinstruować pracowników i kadrę kierowniczą na temat zagrożeń wynikających z korzystania z aplikacji ChatGPT, w głównej mierze związanych z faktem, że dane wprowadzane do niej są przechowywane na zewnętrznych serwerach.
Firma opracowuje procedury, które zapewnią bezpieczeństwo podczas korzystania z aplikacji w przyszłości. Jeśli jednak będzie dochodzić do kolejnych nadużyć, niewykluczone, że dostęp do ChatGPT w sieci firmowej Samsunga zostanie zablokowany.
Samsung jest jednak otwarty na sztuczną inteligencję. Firma ma pracować nad własnym modelem, podobnym do ChatGPT, który będzie dostępny do użytku wewnętrznego. Zgodnie z informacjami przekazanymi przez Economist, obecnie pozwala ona na obsługę zapytań o długości do 1024 bajtów.
