Propagation of AI-generated child sexual abuse material as a cybercrime commodity in Indonesia
DOI:
https://doi.org/10.35295/osls.iisl.2579Palabras clave:
inteligencia artificial, responsabilidad jurídica, criptomoneda, pseudopornografía, derechos digitales, material de abuso sexual infantil (CSAM)Resumen
La inteligencia artificial (IA) y las criptomonedas se utilizan cada vez más para facilitar la difusión de material de abuso sexual infantil (CSAM, por sus siglas en inglés) en Internet, creando un ecosistema ilícito de “pseudopornografía”. Definida como un conjunto de representaciones visuales totalmente sintéticas y manipuladas por IA, la pseudopornografía explota la identidad digital de una persona para representar actos sexuales sin participación física. Estas identidades manipuladas se comercializan posteriormente de forma anónima. Utilizando un enfoque jurídico-normativo, este estudio analiza los marcos legales vigentes. Los resultados revelan un vacío legal crítico en Indonesia; las leyes actuales (Pornografía, ITE, TPKS y Código Penal) siguen orientadas hacia la distribución física; carecen de disposiciones concretas para abordar los delitos no físicos generados por IA y el anonimato facilitado por las criptomonedas, mientras que el dualismo regulatorio de las criptomonedas dificulta aún más la aplicación de la ley. Para combatir esto, el gobierno debe revisar urgentemente las Leyes de Pornografía y de las Tecnologías de la Información y la Comunicación (ITE) para perseguir explícitamente a los creadores de pseudopornografía, exigir la responsabilidad de las plataformas y promulgar legislación específica sobre IA. Esas medidas son vitales para cerrar las lagunas legales y proteger el espacio digital de Indonesia.
Descargas
Metrics
Estadísticas globales ℹ️
|
96
Visualizaciones
|
12
Descargas
|
|
108
Total
|
|
Citas
Agarwala, S., 2025. Children’s privacy and the ghost of social media past. Columbia Human Rights Law Review [online], 56(1). Available at: https://hrlr.law.columbia.edu/files/2025/03/Agarwala_Childrens-Privacy-and-the-Ghost-of-Social-Media-Past_Final-Upload.pdf
Atlam, H. F., et al., 2024. Blockchain forensics: A systematic literature review of techniques and tools. MDPI Electronics [online], 13(17), 3568. Available at: https://www.mdpi.com/2079-9292/13/17/3568# DOI: https://doi.org/10.3390/electronics13173568
Barnes, E., 2025. Digital innocence lost: How AI and deepfakes are fueling the next generation of child exploitation. VKTR [online], 3 October. Available at: https://www.vktr.com/ai-ethics-law-risk/digital-innocence-lost-how-ai-and-deepfakes-are-fueling-the-next-generation-of-child-exploitation/
Chainalysis, 2025. 2025 crypto crime trends from chainalysis [online]. 15 January. Available at: https://www.chainalysis.com/blog/2025-crypto-crime-report-introduction/
Civa Melati Aulia, 2023. Safira Hunar Seleb TikTok Jadi Korban Edit Foto Vulgar oleh Orang Tak Dikenal. Mengerti.id [online], 22 July. Available at: https://www.mengerti.id/seleb/6649558930/safira-hunar-seleb-tiktok-jadi-korban-edit-foto-vulgar-oleh-orang-tak-dikenal#google_vignette
Compliance Hub, 2024. The EU AI act: Comprehensive regulation for a safer, transparent, and trustworthy AI ecosystem [online]. 23 October. Available at: https://www.compliancehub.wiki/the-eu-ai-act-comprehensive-regulation-for-a-safer-transparent-and-trustworthy-ai-ecosystem/
Davy, D., 2024. AI-produced child sexual abuse material: Insights from Dark Web forum discussions [online]. 11 September. WeProtect Global Alliance. Available at: https://www.weprotect.org/blog/ai-produced-child-sexual-abuse-material-insights-from-dark-web-forum-discussions
Esoimeme, E., 2024. Examining the potential misuse of artificial intelligence to circumvent technology-based processes for AML/CFT compliance in the cryptocurrency ecosysytem [online]. 22 September. Available at: https://ssrn.com/abstract=4964272 DOI: https://doi.org/10.2139/ssrn.4964272
Fauziyah, D., 2025. Transaksi Kripto Ilegal Diperkirakan Tembus US$51 Miliar di 2024. Coinvestasi [online], 28 February. Available at: https://coinvestasi.com/berita/transaksi-kripto-ilegal-tembus-miliaran-dollar-as
Federal Bureau of Investigation (FBI), 2024. Sextortion: A growing threat preying upon our nation’s teens [online]. 17 January. Available at: https://www.fbi.gov/contact-us/field-offices/sacramento/news/sextortion-a-growing-threat-preying-upon-our-nations-teens
Fitriana, W., and Nuraini, M. D., 2023. Juridical analysis of the duality of cryptocurrency status as a payment instrument and investment commodity in Indonesian regulation. Journal of Transcendental Law [online], 5(1). Available at: https://doi.org/10.23917/jtl.v5i1.2476 DOI: https://doi.org/10.23917/jtl.v5i1.2476
Gunawan, I. J., and Janisriwati, S., 2023. Legal analysis on the use of deepfake technology. Law and Justice [online], 8(2). Available at: https://doi.org/10.23917/laj.v8i2.2513 DOI: https://doi.org/10.23917/laj.v8i2.2513
Halm, K. C., et al., 2020. Two new California laws tackle deepfake videos in politics and porn. Media Law Monitor [online], 1(1), 1–10. Available at: https://www.dwt.com/blogs/media-law-monitor/2020/02/two-new-california-laws-tackle-deepfake-videos-in
Harwanto, F., Febriansyah, A., and Irwantika, N., 2024. Cryptocurrency, crime, and children: Unveiling the dark side of financial technology in child sexual exploitation. Proceedings of the ASEAN Conference on Sexual Exploitation of Children (ACOSEC 2024) [online], 876, 29. Available at: https://doi.org/10.2991/978-2-38476-325-2_4 DOI: https://doi.org/10.2991/978-2-38476-325-2_4
Internet Watch Foundation (IWF), 2024. What has changed in the AI CSAM landscape? [online] July. Available at: https://www.iwf.org.uk/media/nadlcb1z/iwf-ai-csam-report_update-public-jul24v13.pdf
Judijanto, L., Utama, A. S., and Setiyawan, H., 2025. Implementation of ethical artificial intelligence law to prevent deepfakes. The Easta Journal Law and Human Rights [online], 3(02), 101–109. Available at: https://doi.org/10.58812/eslhr.v3i02.470 DOI: https://doi.org/10.58812/eslhr.v3i02.470
Kan, C. H., 2024. Criminal liability of artificial intelligence from the perspective of criminal law: An evaluation in the context of the general theory of crime and fundamental principles. International Journal of Eurasia Social Sciences/Uluslararasi Avrasya Sosyal Bilimler Dergisi [online], 14(55). Available at: https://doi.org/10.35826/ijoess.4434 DOI: https://doi.org/10.35826/ijoess.4434
Kupriianova, L., and Kupriianova, D., 2023. The AI in the porn industry of social media: Human replacement or precursor for growing the sexual violence and human trafficking indicators? IV International Scientific and Theoretical Conference «Scientific forum: theory and practice of research. 6 October, Valencia [online], 75–82. Available at: https://previous.scientia.report/index.php/archive/article/view/1236
Lin, L. S. F., 2025. Organisational challenges in US law enforcement’s response to AI-driven cybercrime and deepfake fraud. Laws [online], 14(4), 46. Available at: https://doi.org/10.3390/laws14040046 DOI: https://doi.org/10.3390/laws14040046
Łabuz, M., 2024. Deepfakes and the artificial intelligence act: An important step or a missed opportunity? Policy and Internet [online], 16(1), 1–20. Available at: https://doi.org/10.1002/poi3.406 DOI: https://doi.org/10.1002/poi3.406
Lazaridou, M., 2025. Schrödinger’s crime: AI-generated child sexual abuse material as a victimless offense [online]. Master’s Thesis. Utrecht University. Available at: https://studenttheses.uu.nl/handle/20.500.12932/48359
Matters, I., 2024. The new face of digital abuse: Children’s experiences of nude deepfakes [online]. Report. Internet Matters. Available at: https://www.internetmatters.org/hub/research/children-experiences-nude-deepfakes-research/
McGlynn, C., 2024. Deepfakes and the law: Why Britain needs stronger protections against technology-facilitated abuse. Queen Mary University of London Law Review [online], 1(1), 1–15. Available at: https://www.qmul.ac.uk/law/news/2025/items/deepfakes-and-the-law-why-britain-needs-stronger-protections-against-technology-facilitated-abuse.html
Milmo, D., 2025. AI-generated child sexual abuse videos surging online, watchdog says. The Guardian [online], 10 July. Available at: https://www.theguardian.com/technology/2025/jul/10/ai-generated-child-sexual-abuse-videos-surging-online-iwf
Nasution, A. V. A., Suteki, and Lumbanraja, A. D., 2025. Addressing deepfake pornography and the right to be forgotten in Indonesia: Legal challenges in the era of AI-driven sexual abuse. International Journal of Semiotica Iuris [online], 38, 2489–2517. Available at: https://doi.org/10.1007/s11196-025-10265-0 DOI: https://doi.org/10.1007/s11196-025-10265-0
Rahman-Jones, I., 2024. Taylor Swift deepfakes spark calls in Congress for new legislation. BBC News [online], 27 January. Available at: https://www.bbc.com/news/technology-68110476
Rama, A., Lofandri, W., and Saputra, A. F., 2025. Legal gaps in Indonesia’s electronic information and transactions law in addressing deepfake technology. Schoulid Journal of Law and Technology [online], 5(2), 203–211. Available at: https://doi.org/10.23916/086155011 DOI: https://doi.org/10.23916/086155011
Ramadhani, E. R., Rachmawati, A. R., and Kurnikova, R. H., 2025. Integrating Islamic values with the right to be forgotten: A legal approach to addressing deepfake pornography in Indonesia. De Jure Jurnal Hukum Dan Syariah [online], 17(1), 112–131. Available at: https://doi.org/10.18860/j-fsh.v17i1.28880 DOI: https://doi.org/10.18860/j-fsh.v17i1.28880
Reuters, 2025. Police take down “Kidflix” child abuse platform, Europol says [online]. 2 April. Available at: https://www.reuters.com/world/europe/police-take-down-kidflix-child-abuse-platform-europol-says-2025-04-02/
Schmidt, F., Varese, F., and Bucci, S., 2023. Understanding the prolonged impact of online sexual abuse occurring in childhood. Frontiers in Psychology [online], 14, 1281996. Available at: https://doi.org/10.3389/fpsyg.2023.1281996 DOI: https://doi.org/10.3389/fpsyg.2023.1281996
Taneska, M., Dobreva, J., and Dimitrova, V., 2022. Forensics investigation comparison of privacy-oriented cryptocurrencies. Security and Future [online], 6(1), 35–38. Available at: https://stumejournals.com/journals/confsec/2022/1/35
Utami, E., et al., 2022. Profiling analysis of DISC personality traits based on Twitter posts in Bahasa Indonesia. Journal of King Saud University-Computer and Information Sciences [online], 34(2), 264–269. Available at: https://doi.org/10.1016/j.jksuci.2019.10.008 DOI: https://doi.org/10.1016/j.jksuci.2019.10.008
Yudhistira, F. A., and Puspitosari, H., 2025. Penegakan Hukum terhadap Pelaku Pembuat Dapat Diaksesnya Website Bermuatan Asusila dan Pornografi Anak. Jurnal Hukum Lex Generalis [online], 6(7). Available at: https://ojs.rewangrencang.com/index.php/JHLG/article/view/1948
Publicado
Cómo citar
Número
Sección
Licencia
Derechos de autor 2026 Ahmad Jamaludin, Happy Yulia Anggraeni, Sayid Muhammad Rifki Noval, Ratu Arti Wulan Sari, Saji Sonjaya, Ahmad Ma’mun Fikri
Esta obra está bajo una licencia internacional Creative Commons Atribución-NoComercial-SinDerivadas 4.0.
Los autores conservan el copyright de sus trabajos, que se publicarán en OSLS bajo una licencia Creative Commons Reconocimiento NoComercial SinObraDerivada. Puede consultar más detalles en: http://es.creativecommons.org/licencia/. Si no está de acuerdo con esta licencia, por favor, póngase en contacto con nosotros.
El autor concede los permisos necesarios para difundir la información bibliográfica del artículo, incluyendo el resumen, y autorizar a otros, incluyendo las bases de datos bibliográficas, de índices y servicios de alerta de contenidos, a copiar y comunicar esta información.
Para más información sobre los permisos para distribuir su artículo en cada fase de la producción, por favor, lea nuestra Política de Autoarchivo y Divulgación (en inglés).
Las condiciones de copyright con el nombre de autores y co-autores, y la licencia Creative Commons se mostrarán en el artículo. Estas condiciones se deben aceptar como parte del proceso de envío de un artículo a la revista. Por favor, asegúrese de que todos los co-autores se mencionan correctamente, y que entienden y aceptan estos términos.
