Onderzoekers van 'Sensity' hebben een nieuw deepfake-ecosysteem ontdekt op het berichtenplatform Telegram.

Het middelpunt is een AI-aangedreven bot die foto's gegenereerd doormiddel van kunstmatige intelligentie op basis van bestaand materiaal. Het aantal deepfakes dat met de bot werd gemaakt steeg de afgelopen drie maanden met bijna 200 procent.

Het is een evolutie op het beruchte 'DeepNude' dat naar voren kwam in 2019. De onderzoekers verzamelden hun bevindingen in een rapport 'Automating Image Abuse'

Gratis en gebruiksvriendelijk

Vergeleken met vergelijkbare ondergrondse tools verhoogt de bot de toegankelijkheid aanzienlijk door een gratis en eenvoudige gebruikersinterface te bieden die zowel op smartphones als op traditionele computers werkt.

Om een ​​afbeelding te "strippen" uploaden gebruikers eenvoudig een foto naar de bot waarna ze na een kort verwerkingsproces de bewerkte afbeelding ontvangen. 

Het onderzoek naar deze bot en zijn aangesloten kanalen bracht verschillende belangrijke bevindingen naar voren: 

• Ten minste 104.852 vrouwen waren het doelwit, hun persoonlijke 'gestripte' afbeeldingen werden vanaf eind juli 2020 openbaar gedeeld. Het aantal van deze afbeeldingen groeide met 198% in de afgelopen 3 maanden tot juli.

• Zelfrapportage door de gebruikers van de bot gaf aan dat 70% van de doelwitten particulieren zijn van wie de foto's zijn gemaakt via sociale media-accounts of privé materiaal. 

• Een beperkt aantal door bot gegenereerde afbeeldingen die openbaar werden gedeeld via aangesloten kanalen, bevatte doelen die minderjarig leken te zijn. 

• De bot en de aangesloten kanalen hebben wereldwijd ongeveer 101.080 leden aangetrokken, waarvan 70% uit Rusland en ex-USSR-landen. 

• De bot ontving veel advertenties via de Russische sociale media-website VK, die zelf gerelateerde activiteit vertoont op 380 pagina's. 

• Deze bevindingen verwijzen ook naar bredere bedreigingen van de bot. In het bijzonder kunnen 'gestripte' afbeeldingen van individuen worden gedeeld in privé- of openbare kanalen buiten Telegram als onderdeel van openbare shaming of op afpersing gebaseerde aanvallen (sextortion, afpersing).

Gevoelige aard onderzoek

Gezien de gevoelige aard van dit onderzoek, hebben de onderzoekers belangrijke informatie weggelaten om slachtoffers te beschermen en tevens te vermijden dat identificerende informatie over de bot en het omliggende ecosysteem wordt gepubliceerd. Alle gevoelige gegevens die tijdens het onderzoek in dit rapport zijn ontdekt, zijn bekendgemaakt aan Telegram, VK en relevante wetshandhavingsinstanties. We hebben op het moment van publicatie van dit rapport geen reactie ontvangen van Telegram of VK.

Update: Op de laatste dag voor de publicatie van het rapport kwamen de onderzoekers een nieuwe webpagina tegen die reclame maakt voor de bot. De pagina toont verbluffende statistieken over het aantal mensen waarop de bot is gericht: meer dan 680.000, ruim boven onze schatting op basis van afbeeldingen die openbaar zijn gedeeld door gebruikers.

Bron: eigen onderzoek, sensity.ai