Përdorimi i inteligjencës artificiale për krijimin e materialeve me përmbajtje abuzimi seksual ndaj fëmijëve po rritet në mënyrë drastike, sipas një studimi ndërkombëtar nga Instituti Global i Sigurisë së Fëmijëve Childlight pranë Universitetit të Edinburgut. Studimi gjen se fotografitë dhe videot e tilla të krijuara me AI janë shtuar me më shumë se 8,400% brenda dy vjetësh.
Të dhënat tregojnë se rastet e raportuara globalisht janë rritur me të paktën 395,300 nga viti 2023 deri në 2025. Materialet e krijuara me mjete të AI dhe të raportuara nga kompani amerikane në Qendrën Kombëtare për Fëmijët e Zhdukur dhe të Shfrytëzuar (NCMEC) kanë shkuar nga rreth 4,700 në vitin 2023 në mbi 400,000 në vitin 2025. Fenomeni përfshin edhe përdorimin e teknologjive deepfake dhe aplikacioneve që manipulojnë fotografitë, duke vendosur fytyrën ose trupin e një fëmije real në materiale me përmbajtje seksuale; këto manipulime mund të realizohen brenda pak sekondash.
Megjithëse imazhet nuk paraqesin ngjarje reale, pasojat për fëmijët janë konkrete. Studiuesit paralajmërojnë se materialet e falsifikuara mund të përdoren për shantazh, zhvatje parash ose për të detyruar viktimat të dërgojnë fotografi dhe video të tjera reale. Studimi jep gjithashtu një panoramë të gjerë të shfrytëzimit seksual të fëmijëve në internet: vlerësohet se më shumë se 300 milionë fëmijë në mbarë botën përjetojnë të paktën një formë të shfrytëzimit seksual të lehtësuar nga teknologjia, dhe se një në katër fëmijë mund të përjetojë një formë abuzimi para moshës 18 vjeç.
Autorët theksojnë se rreziku prek jo vetëm fëmijët e zakonshëm, por edhe personazhet e njohur, fotografitë e të cilëve mund të manipulohen për krijimin e materialeve të rreme me përmbajtje seksuale. Një problem tjetër i evidentuar është mungesa e të dhënave të plota dhe të besueshme: nga 103 vendet e analizuar në tre rajone, vetëm 22 kishin të dhëna gjithëpërfshirëse për abuzimin ndaj fëmijëve, online dhe jashtë tij. Childlight vë në dukje se në statistikat publike mbeten të nënpërfaqësuara kategori veçanërisht të cenueshme, përfshirë fëmijët me aftësi të kufizuara, fëmijët indigjenë dhe emigrantë, ata në kujdes social, fëmijët shumë të vegjël dhe ata që përjetojnë abuzim brenda familjes. Studiuesit paralajmërojnë se mungesa e informacionit pengon hartimin e politikave efektive për parandalimin dhe mbrojtjen e të miturve.
