The Challenges of Detecting Child Pornography
Copyright (c) 2025 Somogyi Csilla
This work is licensed under a Creative Commons Attribution-NonCommercial-NoDerivatives 4.0 International License.
Abstract
Introduction: With the spread of the internet, child pornography has become an increasingly serious crime, posing significant challenges for law enforcement agencies. Although numerous international conventions and national laws ensure the protection of children in both physical and digital spaces, the detection and prosecution of child pornography continue to face difficulties. In particular, there is limited research on the role and obligations of content providers in the detection of these crimes.
Objectives: The aim of this study is to examine the reporting obligations of internet service providers concerning child pornography and to analyze the relevant international, EU, and national regulations. Additionally, the research evaluates the effectiveness of content filtering mechanisms and artificial intelligence-based solutions.
The study employs legal analysis and comparative law methods, allowing for a comprehensive assessment of the obligations imposed on content providers and their legal environment. Furthermore, it examines the technological tools used in detecting child pornography and the international cooperation models in this field.
Results: The research highlights that international legal regulations remain fragmented, with states applying child protection measures to varying degrees. The reporting obligations of content providers differ from country to country, hindering effective action. While artificial intelligence and automated content filtering systems can enhance law enforcement efficiency, they also raise several ethical and legal concerns, such as the issue of false positives and misidentifications.
Conclusions: To improve the effectiveness of the fight against child pornography, legal harmonization, stricter reporting obligations for content providers, and the responsible use of artificial intelligence and other technological tools are essential. International cooperation and the technological training of law enforcement agencies are crucial for more effective detection and prevention of these crimes.
Keywords:
How to Cite
References
A megalapozott gyanú: gyermekpornográfia (2020). Police.hu, 2020. március 24. Online: https://www.police.hu/hu/hirek-es-informaciok/legfrissebb-hireink/bunugyek/a-megalapozott-gyanu-gyermekpornografia
Citizen’s Guide To U.S. Federal Law On Child Pornography (2023). Online: https://www.justice.gov/criminal/criminal-ceos/citizens-guide-us-federal-law-child-pornography
Council of Europe [é. n.]: Reservations and Declarations for Treaty No.201 - Council of Europe Convention on the Protection of Children against Sexual Exploitation and Sexual Abuse. Online: https://www.coe.int/en/web/conventions/full-list?module=declarations-by-treaty&numSte=201&codeNature=0
CSAPUCHA Bernadett (2019): A „világháló árnyoldala”, avagy a gyermekpornográfia térnyerése az interneten. Ügyészek Lapja, 26(4–5), 55–68.
DAVIS, Antigone (2021): Preventing Child Exploitation on Our Apps. Meta, 2021. február 23. Online: https://about.fb.com/news/2021/02/preventing-child-exploitation-on-our-apps/
DORNFELD László MEZEI Kitti (2017): Az online gyermekpornográfia elleni küzdelem aktuális kérdései. Információ és Jog, 68(1), 32–37.
ECPAT (2021): Országjelentés. Jelentés a gyermekek szexuális kizsákmányolásának formáiról, jellemzőiről és méreteiről. Online: https://ecpat.org/wp-content/uploads/2021/05/ECO_HUNGARY_Final-version-HUNG_2February2021.pdf
European Commission (2020): Global Response Against Child Exploitation. Online: https://cordis.europa.eu/project/id/883341
European Commission (2024): The Fight Against Child Sexual Abuse Receives New Impetus with Updated Criminal Law Rules. Online: https://doi.org/10.3030/883341
GANGWAR, Abhishek et al. (2017): Pornography and Child Sexual Abuse Detection in Image and Video: A Comparative Evaluation. In 8th International Conference on Imaging for Crime Detection and Prevention (ICDP 2017). Online: http://dx.doi.org/10.1049/ic.2017.0046
GANNON, Colm et al. (2023): Child Sexual Abuse Material on the Darknet. Forensische Psychiatrie, Psychologie, Kriminologie, 17, 353–365. Online: https://doi.org/10.1007/s11757-023-00790-8
Google (2018): Using AI to Help Organizations Detect and Report Child Sexual Abuse Material Online. Online: https://blog.google/around-the-globe/google-europe/using-ai-help-organizations-detect-and-report-child-sexual-abuse-material-online/
GREIJER, Susanna DOEK, Jaap (2016): Terminology Guidelines for the Protection of Children from Sexual Exploitation and Sexual Abuse. Luxembourg: ECPAT International. Online: https://ecpat.org/wp-content/uploads/2025/04/Second-Edition-Terminology-Guidelines-final.pdf
GUERRA, Enrique WESTLAKE, Bryce Garreth (2021): Detecting Child Sexual Abuse Images: Traits of Child Sexual Exploitation Hosting and Displaying Websites. Child Abuse & Neglect, 122(6), 105336. Online: http://dx.doi.org/10.1016/j.chiabu.2021.105336
HERTELENDI Lajos (2022): Egy dark weben elkövetett bűncselekmény felderítésének tanulságai, a nemzetközi összefogás jelentősége. Valóban nincs reális esély a dark neten elkövetett bűncselekmények elkövetőinek felderítésére? Belügyi Szemle, 70(3), 607–618. Online: https://doi.org/10.38146/BSZ.2022.3.9
How the Dark Web Hides Child Sexual Abuse Material (2023). Human Trafficking Front, 2023. december 30. Online: https://humantraffickingfront.org/dark-web-hides-csam/
Internet Watch Foundation (2023): How AI Is Being Abused to Create Child Sexual Abuse Imagery. Online: https://www.iwf.org.uk/media/q4zll2ya/iwf-ai-csam-report_public-oct23v1.pdf
LIGGETT, Roberta (2018): Commercial Child Sexual Abuse Markets on the Dark Web. Online: https://cj.msu.edu/_assets/pdfs/cina/CINA-White_Papers-Liggett_Commercial_Child_Sexual_Abuse_Markets_Dark_Web.pdf
LOSHIN, Peter (2022): Definition Content Filtering. TechTarget, 2022. április 5. Online: https://www.techtarget.com/searchsecurity/definition/content-filtering
MILMO, Dan (2024): Paedophiles Create Nude AI Images of Children to Extort from Them, Says Charity. The Guardian, 2024. április 23. Online: https://www.theguardian.com/technology/2024/apr/23/paedophiles-create-nude-ai-images-of-children-to-extort-them-says-charity
Nemzeti Média- és Hírközlési Hatóság [NMHH] (2024): Az Internet Hotline szolgálatról. Online: https://nmhh.hu/cikk/190105/Mi_az_Internet_Hotline
PLASENCIA, Ariel (2024): Criminals Using Artificial Intelligence to Create Child Pornography: FBI. Fox 13 Tampa Bay, 2024. április 2. Online: https://www.fox13news.com/news/criminals-using-artificial-intelligence-to-create-child-pornography-fbi
REYES, Marta (2023): This is How Artificial Intelligence Helps Detect Child Sexual Abuse Material Online. Medium, 2023. december 5. Online: https://medium.com/@martareyessuarez25/this-is-how-artificial-intelligence-helps-detect-child-sexual-abuse-material-online-57aeed4d5463
RIDDELL, Morgan – DEMOSS, Adrienne – GORBUTT, Josh (2023): In Depth: How the FBI Tracks and Arrests Anonymous Predators. KBTX, 2023. december 28. Online: https://www.kbtx.com/2023/12/28/depth-how-fbi-tracks-arrests-anonymous-predators/
SAE-BAE, Napa et al. (2015): Towards automatic detection of child pornography. 2014 IEEE International Conference on Image Processing (ICIP), 5332–5336. Online: https://doi.org/10.1109/ICIP.2014.7026079
SERBAKOV Márton Tibor (2020): Kriminalitás a dark weben: illegális piacok, pedofil oldalak, terroristák és az ellenük való küzdelem. Büntetőjogi Szemle, 7(1), 91–107.
SORBÁN Kinga (2016): A digitális bizonyíték a büntetőeljárásban. Belügyi Szemle, 64(11), 81–96. Online: https://doi.org/10.38146/BSZ.2016.11.5
SORBÁN Kinga (2019): Online Sohaország – A gyermekpornográfia elleni küzdelem és a platformok. Ludovika.hu, 2019. október 25. Online: https://www.ludovika.hu/blogok/itkiblog/2019/10/25/online-sohaorszag-a-gyermekpornografia-elleni-kuzdelem-es-a-platformok/
SORBÁN Kinga (2022): Merre tovább az online gyermekvédelemben? A kiskorúak védelme az új médiakörnyezetben megjelenő káros tartalmaktól. Glossa Iuridica, 9(1–2), 65–88.
SORBÁN, Kinga (2023): An Elephant in the Room – EU Policy Gaps in the Regulation of Moderating Illegal Sexual Content on Video-Sharing Platforms. International Journal of Law and Information Technology, 31(3), 171–185. Online: https://doi.org/10.1093/ijlit/eaad024
SZABÓ Judit CSAPUCHA Bernadett (2020): A gyermekpornográfia tényállása a jogerős bírósági ítéletek tükrében, különös tekintettel a fiatalkorú elkövetőkre – 1. rész. Ügyészségi Szemle, 5(2), 22–37.
SZENTKUTI Dániel SZŰTS Márton (2003): Az Internet és a büntetőjogi felelősség egyes kérdései. Jogelméleti Szemle, (3). Online: https://epa.oszk.hu/05200/05288/00015/pdf/EPA05288_jogelmeleti_szemle_2003_3_11.pdf
VITORINO, Paulo et al. (2018): Leveraging Deep Neural Networks to Fight Child Pornography in the Age of Social Media. Journal of Visual Communication and Image Representation, 50, 303–313. Online: http://dx.doi.org/10.1016/j.jvcir.2017.12.005
Jogi források
- 1997. évi XXXI. törvény a gyermekek védelméről és a gyámügyi igazgatásról
- 2009. évi CLXI. törvény a gyermekek eladásáról, a gyermekprostitúcióról és a gyermekpornográfiáról szóló, a Gyermek jogairól szóló egyezményhez fűzött Fakultatív Jegyzőkönyv megerősítéséről és kihirdetéséről
- 2010. évi CIV. törvény a sajtószabadságról és a médiatartalmak alapvető szabályairól
- 2010. évi CLXXXV. törvény a médiaszolgáltatásokról és a tömegkommunikációról
- 2012. évi C. törvény a Büntető Törvénykönyvről
- 2013. évi V. törvény a Polgári Törvénykönyvről
- 18 U.S. Code § 2258A - Reporting requirements of providers
Deutsches Strafgesetzbuch (1871)
Österreichisches Strafgesetzbuch (1974)
Az Európai Parlament és a Tanács (EU) 2021/1232 rendelete (2021. július 14.) a 2002/58/EK irányelv bizonyos rendelkezéseitől a technológiáknak a számfüggetlen személyközi hírközlési szolgáltatásokat nyújtó szolgáltatók által a gyermekek online szexuális bántalmazása elleni küzdelem céljából a személyes és egyéb adatok kezelésére történő használata tekintetében való ideiglenes eltérésről
Az Európai Parlament és a Tanács (EU) 2022/2065 rendelete (2022. október 19.) a digitális szolgáltatások egységes piacáról és a 2000/31/EK irányelv módosításáról (digitális szolgáltatásokról szóló rendelet)
Az Európai Parlament és a Tanács 2011/93/EU irányelve (2011. december 13.) a gyermekek szexuális bántalmazása, szexuális kizsákmányolása és a gyermekpornográfia elleni küzdelemről, valamint a 2004/68/IB tanácsi kerethatározat felváltásáról
Az Európai Parlament és a Tanács (EU) 2018/1808 irányelve (2018. november 14.) a tagállamok audiovizuális médiaszolgáltatások nyújtására vonatkozó egyes törvényi, rendeleti vagy közigazgatási rendelkezéseinek összehangolásáról szóló 2010/13/EU irányelvnek (Audiovizuális médiaszolgáltatásokról szóló irányelv) a változó piaci körülményekre tekintettel való módosításáról
Az Európa Tanács Budapesten, 2001. november 23-án kelt Számítástechnikai Bűnözésről szóló Egyezménye
Az Európa Tanács Lanzarote-ban, 2007. október 25-én kelt egyezménye a gyermekek szexuális kizsákmányolás és szexuális zaklatás elleni védelméről