Deepfake przeciw dzieciom

Pedofile wykorzystują sztuczną inteligencję, by tworzyć i sprzedawać obrazy przedstawiające wykorzystywanie dzieci. Najbardziej przerażające jest jednak to, że oprogramowanie Stable Diffusion, służące wyjściowo do tworzenia cyfrowych dzieł artystycznych, okazało się przydatne dla zboczeńców w generowaniu obrazów pokazujących gwałty na niemowlętach i dzieciach. Według BBC obrazy te są sprzedawane na japońskiej stronie Pixiv. Dlaczego akurat tam? Bo w Japonii seksualne karykatury dzieci nie są w Japonii nielegalne.

W niektórych przypadkach do tych koszmarnych deepfake’ów wykorzystano twarze prawdziwych dzieci.

– Szybkość, z jaką te nowe technologie zostały dokooptowane przez przestępców, zapiera dech w piersiach. Ale nie jest zaskakująca, ponieważ firmy, które zostały ostrzeżone przed niebezpieczeństwami, siedziały z założonymi rękami, wypowiadając puste frazesy na temat bezpieczeństwa – skomentowała sprawę dla MailOnline, internetowego wydania gazety „Daily Mail”, Anna Edmundson, dyrektorka ds. polityki i spraw publicznych w brytyjskim Narodowym Towarzystwie na rzecz Zapobieganiu Okrucieństwu Wobec Dzieci (NSPCC).

Do promowania pornograficznych treści uderzających w dzieci pedofile wykorzystują głównie hashtagi używane przez twórców do indeksowania niszowych słów kluczowych.

Podobno firma Pixiv, chcąc przeciwdziałać zalewowi dziecięcej pornografii stworzonej przez pedofili i AI, wzmocniła swe systemy monitorowania. Na razie jednak efekty tego są raczej mizerne, bo ilość takich materiałów jest ogromna – i zwiększa się z dnia na dzień.

Zdjęcie zajawka: Gerd Altmann/Pixabay

Udostępnij:

Powiązane posty

Zostaw komentarz