deepfake

Facebook obiegło zdjęcie, na którym influencer "udokumentował", że "obudził się z długiem -1,952,849,361.49 zł". Bank PKO BP skomentował zdjęcie i od razu wskazał, że jest ono fałszywe.

Alarmujące dane: Co najmniej 1,2 mln dzieci z 11 krajów przyznało, że w ciągu ostatniego roku ich zdjęcia zostały poddane manipulacji i stworzono z nich seksualne deepfake’i - podaje UNICEF.

Prezes Urzędu Ochrony Danych Osobowych podkreśla, że wyrok TSUE w sprawie Russmedia wskazuje na pilną potrzebę zmian w polskim prawie dla skuteczniejszej ochrony przed deepfake’ami.

YouTube nasilił walkę z niskiej jakości treściami generowanymi przez AI. Usunięte lub wyczyszczone kanały straciły łącznie ponad 4,7 mld wyświetleń.

Platforma X wprowadza geoblokadę funkcji Grok AI, która umożliwiała edycję zdjęć. Decyzję ogłoszono po interwencjach organów i krytyce deepfake’ów.

Na Facebooku krążą nagrania z wizerunkiem prezydenta Karola Nawrockiego, które ma nakłaniać do inwestycji w kryptowaluty. Nagrania te są jednak deepfakiem i mają zachęcić Polaków do wpadnięcia w sidła oszustów.

Robocalls to jedno z zagrożeń, które może spotkać każdego. Wszystko zaczyna się od pozornie niewinnego połączenia telefonicznego z nieznanego numeru. W praktyce jednak, taka rozmowa może być oszustwem i przybrać formę vishingu, a dodatkowym zagrożeniem jest wykorzystanie AI.

Cyberprzestrzeń to pole do rozbudowanych eksperymentów dla oszustów. Nowe metody wykorzystywane są w zasadzie codziennie, by weryfikować, czy okażą się skuteczne w manipulowaniu nieświadomym użytkownikiem. Jednym z głównych narzędzi - zwłaszcza w mediach społecznościowych - jest technologia deepfake. Dlaczego jest tak niebezpieczna?

Sztuczna inteligencja Grok, zintegrowana z platformą X, znalazła się w centrum ogólnoświatowej krytyki. Powodem jest sposób, w jaki narzędzie to generuje obrazy, a konkretnie brak skutecznych barier chroniących przed tworzeniem treści szkodliwych i naruszających prywatność.

Na TikToku i Instagramie pojawia się coraz więcej treści o tematyce medycznej, które są wynikiem działania algorytmów. Tworzą one porady przypominające wypowiedzi prawdziwych lekarzy – mimo że w rzeczywistości mają one niewiele wspólnego z prawdziwą medycyną.

NASK opublikował nagranie, na którym tłumaczy w prostych krokach, jak rozpoznać deepfake - manipulację materiałami wideo z wykorzystaniem sztucznej inteligencji. To jedno z kluczowych zagrożeń w internecie. Osoby niewyczulone na tego typu próby oszustwa mogą łatwo dać się nabrać.

Aktorzy, politycy, piosenkarze i inne publicznie znane osoby to często "dawcy" wizerunku do fałszywych kampanii organizowanych przez oszustów. Wykorzystując m.in. technologię deepfake, tworzą spreparowane filmy i posty, w których - podszywając się pod gwiazdy - nakłaniają do inwestycji.

Naukowcy z ośrodka badawczo-rozwojowego IDEAS NCBR stworzyli prototyp programu pozwalający rozpoznać deepfake. Umożliwia on weryfikację, czy osoba widoczna online jest prawdziwa.

CSIRT KNF ostrzega o nasilającym się zjawisku fałszywych reklam inwestycyjnych w sieci, które w okresie meczów Euro 2024 związane są także z bezprawnie wykorzystywanymi wizerunkami polskich piłkarzy. W jednej z takich kampanii oszuści spreparowali materiały z Wojciechem Szczęsnym.

Hakerzy uciekają do różnych metod, aby nakłonić ofiary do kliknięcia złośliwego łącza. Wśród coraz częściej spotykanych taktyk jest wykorzystanie tzw. zagrożeń deepfake – podszywającego się głosu pod znaną ofierze osobę z wykorzystaniem poczty głosowej jako przynęty.

YouTube zaktualizował politykę związaną z publikacją filmów dotyczących przemocy i nękania. Zdecydowano, że na platformie nie będą promowane i dostępne nagrania, na których "realistycznie" symulowane są ofiary przestępstw i osoby nieletnie. W efekcie część filmów zostanie usunięta.

Jednym z najpoważniejszych zagrożeń w internecie, zwłaszcza w dobie wykorzystywania możliwości AI, są fałszywe materiały graficzne, czyli szeroko rozumiany deepfake. Ministerstwo Cyfryzacji zwraca uwagę na dwie zasady, które mogą pomóc w odfiltrowaniu treści, na które można trafić w sieci.

Deepfake, zaawansowane algorytmy podsłuchowe, nowe formy starych ataków – to wszystko przynosi ze sobą sztuczna inteligencja, która w rękach przestępców staje się zagrożeniem, z jakim nie mieliśmy jeszcze do czynienia. Na szczęście AI to również narzędzie, które można wykorzystać by skutecznie się chronić.

Google i Universal Music prowadzą rozmowy na temat stworzenia narzędzia do replikacji głosów artystów, która pozwoli ludziom tworzyć dowolną muzykę generowaną przez sztuczną inteligencję. Wytwórnie i artyści mają na ten temat podzielone zdanie.

Deepfake to jedna z tych technologii, które – choć robią wrażenie – często są wykorzystywane do niecnych celów. Firmy już od lat pracują nad sposobami identyfikacji wideo, a nowe rozwiązanie Intela analizujące przepływ krwi wydaje się jednym z najbardziej skutecznych i innowacyjnych.

Wideorozmowa do niedawna wydawała się skutecznym sposobem na weryfikację naszego rozmówcy. Deepfake sprawił, że to, co widzimy na własne oczy, wcale nie musi być prawdą. Stwarza to wiele możliwości do nadużyć, jednak – na razie – istnieje prosty sposób na zdemaskowanie ewentualnych oszustów.

Popularność pracy zdalnej i powiązanych z nią zdalnych rozmów kwalifikacyjnych, to nowy obszar eksploatowany przez oszustów. FBI ostrzega, że w ostatnim czasie coraz częściej można trafić na rozmowę z "kandydatem", który tak naprawdę nie istnieje - a jest to możliwe dzięki technologii deepfake.

Ukraińskie centrum bezpieczeństwa informacji ostrzega, że niebawem w sieci może się pojawić deepfake wykorzystujący wizerunek prezydenta Ukrainy. Chodzi o zmanipulowany film, na którym prezydent miałby rzekomo wyrazić chęć poddania się Ukraińców w konflikcie.

Analitycy z Check Point Resaerch określili główne cele cyberprzestępców na rok 2022. Ich zdaniem obecnie cyberprzestępczość generuje milionowe zyski. To zaś sprawia, że kolejni hakerzy stając się zagrożeniem nie tylko dla konkretnych firm, lecz krytycznej infrastruktury.

Cyberprzestępcy wykorzystali technologię deepfake do przejęcia 35 milionów dolarów z banku znajdującego się w Zjednoczonych Emiratach Arabskich. Jak donosi Forbes, było to możliwe dzięki sztucznej inteligencji, która pozwoliła sklonować głos jednego z klientów instytucji.