Miljontals låter AI-botar klä av kvinnor – rundar Telegrams försök att stänga ned

Att det går att skapa fejkade nakenbilder av vem som helst med digital teknik är inget nytt, men problemet har exploderat tack vare ai-utvecklingen. Amerikanska Wired har granskat appen Telegram och hittade där ett 50-tal bot-konton som utlovar att ta bort kläder från personer på en bild, eller till och med skapa bilder där personerna utför sexuella handlingar. Enligt granskningen hade de olika kontona fler än 4 miljoner användare varje månad.

– Det är oroande att de här verktygen – som förstör liv och skapar mardrömsliknande scenarion främst för unga tjejer och kvinnor – är så enkla att nå och hitta öppet, på en av de största apparna i världen, säger en expert som Wired pratat med.

Taylor Swift utsatt

Flera kända personer har utsatts för publika fejkade nakenbilder, deepfakes, den senaste tiden. Däribland artisten Taylor Swift och Italiens premiärminister Giorgia Meloni. Men bilderna som ai-botarna på Telegram "klär av" kan lika gärna vara någons partner, kollega, dotter, eller klasskamrat.

Majoriteten av de botar och kanalerna som användes för att marknadsföra dem stängdes ned av Telegram efter att Wired kontaktat dem för en kommentar.

Flera liknande konton har dock dykt upp sedan dess.

Telegram har inte kommenterat ai-botarnas existens på plattformen.

Telegrams grundare, Pavel Durov, greps för en tid sedan i Frankrike, anklagad för brottsligt innehåll som tillåtits på appen, däribland övergreppsmaterial på barn, drog- och vapenhandel och uppmaningar till våld och terrorism.

Upptäck mer

Så blev Telegram till ”Terrorgram” – och hamnade på polisens radar

Vad händer när AI plötsligt blir superintelligent på alla nivåer?

Googles AI-podcast förvränger Ny Teknik-artikel: ”Obehagligt”