W oszustwie, w którym ktoś podaje się za członka rodziny w nagłych tarapatach, a głos podrabia sztuczna inteligencja, osoba po drugiej stronie słuchawki może brzmieć dokładnie jak ktoś z Twoich bliskich. Według FTC oszustowi wystarczy krótkie nagranie głosu członka rodziny i program do klonowania głosu. Skoro głos da się skopiować, przy sprawdzaniu takiego połączenia trzeba patrzeć na to, czego rozmówca żąda i w jaki sposób, a nie tylko na to, jak brzmi. Ten materiał przedstawia, co mówią oficjalne źródła, oddziela od tego naszą własną interpretację i wskazuje, gdzie kończą się dowody.

Jakie miejsce zajmuje klonowanie głosu w oszustwie „na członka rodziny”

Ostrzeżenie konsumenckie FTC o AI i oszustwach na nagły wypadek w rodzinie opisuje, czego oszust potrzebuje, by sklonować głos: krótkiego nagrania głosu członka rodziny, które może pochodzić z treści opublikowanych w internecie, oraz programu do klonowania głosu.

Komunikat IC3 dotyczący generatywnej AI i oszustw dodaje szerszą obserwację: generatywna AI zmniejsza ilość czasu i wysiłku, jakie przestępcy muszą włożyć w oszukanie swoich ofiar.

Co stwierdzają źródła:

  • Krótkie nagranie i program do klonowania głosu wystarczą, by sklonować głos członka rodziny.
  • Takie nagranie może pochodzić z treści opublikowanych w internecie.
  • Generatywna AI zmniejsza ilość czasu i wysiłku, jakich przestępcy potrzebują, by oszukać swoje ofiary.

Nasza interpretacja: jeśli głos można sklonować na podstawie krótkiego nagrania, to znajomy głos w słuchawce sam w sobie nie dowodzi, kto naprawdę dzwoni. Przywołane tu źródła nie mierzą, na ile przekonujące są sklonowane głosy ani jak często dochodzi do takich połączeń.

Sygnały ostrzegawcze w rozmowie o rzekomym nagłym wypadku

Poradnik FTC o oszustwach z fałszywymi nagłymi wypadkami opisuje kilka taktyk. Poniższe sformułowania trzymają się źródła, łącznie z jego zastrzeżeniami w rodzaju „mogą” i „może”.

Co opisuje FTC Szczegóły w źródle
Dane osobowe Oszuści mogą znać imię ofiary, miejsce zamieszkania i inne informacje znalezione w mediach społecznościowych lub zdobyte przez włamanie na pocztę e-mail członka rodziny.
Osoby z autorytetem Oszuści mogą podawać się za osobę z autorytetem, na przykład fałszywego prawnika, policjanta lub lekarza, który rzekomo zajmuje się członkiem rodziny.
Dyskrecja Oszust może mówić, że ważne jest, by zachować sprawę w tajemnicy.
Sposób płatności Oszuści często nalegają na metody płatności, których trudno cofnąć.

Nasza interpretacja: każdy wiersz opisuje coś, co rozmówca mówi albo czego żąda. Znajomość danych osobowych, oficjalnie brzmiąca osoba trzecia i prośba o dyskrecję figurują na liście możliwych taktyk oszustów. Szczegóły, które pozornie potwierdzają historię, nie dowodzą więc, że jest prawdziwa. Źródło nie twierdzi, że którykolwiek pojedynczy sygnał przesądza o tym, że połączenie jest oszustwem, i ten artykuł również tak nie twierdzi.

Żądania płatności, po których trudno odzyskać pieniądze

Źródła FTC przykładają dużą wagę do tego, w jaki sposób oszuści chcą otrzymać pieniądze. Ostrzeżenie konsumenckie FTC o oszustwach na nagły wypadek w rodzinie wspomaganych przez AI stwierdza, że oszuści żądają zapłaty w taki sposób, by trudno było odzyskać pieniądze.

Artykuł FTC o fałszywych nagłych wypadkach wymienia trudne do cofnięcia metody płatności, na które oszuści często nalegają:

  1. Przekaz pieniędzy przez firmy takie jak Western Union czy MoneyGram.
  2. Wysłanie kryptowaluty.
  3. Skorzystanie z aplikacji płatniczej.
  4. Podanie numerów z tyłu kart podarunkowych.

Ta lista opisuje, czego żądają oszuści. Nie jest oceną żadnej firmy, aplikacji ani aktywa i nie stanowi rekomendacji za ani przeciw któremukolwiek z nich. Przywołane tu materiały nie wyjaśniają, jak odzyskać pieniądze po dokonaniu płatności. Ta kwestia wykracza poza zakres tego artykułu.

Co komunikat IC3 mówi o syntetycznym dźwięku i podszywaniu się

Komunikat IC3 umieszcza klonowanie głosu w szerszym kontekście oszustw wykorzystujących AI. Stwierdza w nim, że:

  • Tworzenie lub rozpowszechnianie treści syntetycznych nie jest samo w sobie nielegalne, ale treści syntetyczne mogą ułatwiać popełnianie przestępstw, takich jak oszustwa i wymuszenia.
  • Przestępcy uzyskują dostęp do kont bankowych, podszywając się pod konkretne osoby za pomocą wygenerowanych przez AI nagrań ich głosu.
  • Przestępcy generują fałszywe dokumenty tożsamości, takie jak podrobione prawa jazdy czy legitymacje organów ścigania, instytucji rządowych lub banków, na potrzeby kradzieży tożsamości i schematów podszywania się.

Nasza interpretacja: komunikat obejmuje więcej niż telefony o nagłych wypadkach w rodzinie. Opisuje wykorzystywanie generowanego przez AI dźwięku przeciwko kontom bankowym oraz używanie fałszywych legitymacji w schematach podszywania się. W kontekście rozmowy o rzekomym wypadku bliskiej osoby to przypomnienie, że osoba przedstawiająca się jako policjant, prawnik czy urzędnik również może być fałszywa. Poradnik FTC zwraca uwagę na to samo w odniesieniu do fałszywych osób z autorytetem. Komunikat nie podaje danych o tym, jak rozpowszechnione są te praktyki, a ten artykuł ich nie szacuje.

Działania FTC przeciwko szkodliwemu klonowaniu głosu

Ostrzeżenie konsumenckie FTC o walce ze szkodliwym klonowaniem głosu opisuje zorganizowany przez agencję konkurs Voice Cloning Challenge oraz jej szersze działania:

  • Głównym celem konkursu było zachęcenie do innowacyjnych sposobów ochrony ludzi przed szkodami wynikającymi z klonowania głosu z użyciem AI.
  • FTC przyznała cztery główne nagrody zwycięskim zgłoszeniom.
  • Jednym ze zwycięskich zgłoszeń była technologia, która miałaby wykrywać sklonowane głosy i deepfake'i w czasie rzeczywistym w przychodzących połączeniach telefonicznych lub w cyfrowym dźwięku, w dwusekundowych fragmentach.
  • Działania FTC dotyczące klonowania głosu obejmują zapobieganie szkodom tam, gdzie to możliwe, proponowany kompleksowy zakaz oszustw polegających na podszywaniu się oraz stosowanie Telemarketing Sales Rule do połączeń oszukańczych wykorzystujących AI.

Gdzie kończą się dowody: źródło opisuje technologię wykrywania w kategoriach tego, co „miałaby” robić. Przywołane tu materiały nie podają, jak jest dokładna, czy jest dostępna dla konsumentów ani jak radzi sobie z prawdziwymi połączeniami oszustów. Zakaz oszustw polegających na podszywaniu się jest opisany jako „proponowany”, a ten artykuł nie przesądza, czy wszedł w życie. Nic tutaj nie powinno być odczytywane jako stwierdzenie, że jakiekolwiek narzędzie potrafi niezawodnie odróżnić sklonowany głos od prawdziwego.

Weryfikacja połączenia o nagłym wypadku: co źródła mówią, a czego nie

Przywołane tu materiały FTC i IC3 skupiają się na tym, jak działają takie oszustwa i na jakie taktyki warto uważać. W zakresie, w jakim wykorzystano je w tym artykule, nie przedstawiają procedury weryfikacji krok po kroku. Dostarczają natomiast zestawu sygnałów zaczerpniętych z poradnika FTC o oszustwach z fałszywymi nagłymi wypadkami oraz ostrzeżenia FTC o oszustwach na nagły wypadek w rodzinie wspomaganych przez AI:

  • głos, który może być sklonowany z krótkiego nagrania opublikowanego w internecie;
  • dane osobowe, które mogą pochodzić z mediów społecznościowych lub z przejętego konta e-mail;
  • rzekomy prawnik, policjant lub lekarz, który może być fałszywy;
  • prośba o zachowanie sprawy w tajemnicy;
  • żądanie zapłaty w sposób trudny do cofnięcia.

Nasza interpretacja: weryfikacja oznacza tu, by nie polegać na żadnej pojedynczej wskazówce, nad którą kontrolę ma rozmówca — czy to głos, dane osobowe, czy oficjalnie brzmiąca osoba trzecia. Oszuści mogą dostarczyć wszystkie te elementy. To nasze odczytanie źródeł, a nie krok, który one formułują.

Ograniczenia tego artykułu

Ten artykuł ma charakter edukacyjny i opiera się wyłącznie na oficjalnych źródłach wymienionych powyżej.

Nie stanowi porady inwestycyjnej, prawnej ani finansowej.

Nie omawia, jak odzyskać pieniądze, jak zgłosić oszustwo ani jak skuteczne są jakiekolwiek narzędzia do wykrywania.

Nie mierzy, jak powszechne są oszustwa z wykorzystaniem klonowania głosu.