The Algorithmic Black Box and the Right to Defense in Facing Smart Evidence before International Criminal Justice: Towards New Procedural Guarantees
Corresponding Author(s) : جميلة زيد
Journal of Law and Emerging Technologies,
Vol. 6 No. 2 (2026)
Abstract
Abstract:
This research addresses the problem of the "algorithmic black box" raised by smart evidence generated through artificial intelligence applications when presented before international criminal justice, and the extent to which the lack of transparency in interpreting the outputs of intelligent systems affects the defense's ability to discuss and challenge them. The study aims to clarify the concept of the algorithmic black box and its causes, the position of the Rome Statute on non-explainable evidence, and then examines the repercussions of this on the right to defense and the principle of equality of arms as key guarantees of a fair trial. The study adopted the analytical method, alongside the comparative method to benefit from international trends in regulating algorithmic transparency, and concluded that the absence of explicit international regulation of this issue constitutes a legislative gap requiring legislative intervention that balances benefiting from the analytical capabilities of artificial intelligence with preserving the essential guarantees of a fair trial. It proposed new procedural mechanisms, most notably mandatory algorithmic explainability as a condition for the admissibility of evidence, and activating the role of independent technical expertise.
Keywords: Algorithmic Black Box; Smart Evidence; Right to Defense; Algorithmic Transparency; International Criminal Court; Fair Trial.
Keywords
Download Citation
Endnote/Zotero/Mendeley (RIS)BibTeX
- قائمة المصادر والمراجع
- أولاً: المراجع العربية:
- أ. الكتب:
- شحاتة، أ، الذكاء الاصطناعي والقانون، ط1، بيروت، دار المنهل اللبناني، 2021.
- الصغير، ع، أدلة الاثبات وتكنولوجيا الحديثة، مصر، دار النهضة العربية، 2021.
- الهلالي، ع، حجية المخرجات الكمبيوترية في المواد الجنائية: دراسة مقارنة، القاهرة، دار النهضة العربية، 2008"
- دهشان، ي، المسئولية الجنائية عن جرائم الذكاء الاصطناعي، الإسكندرية، دار الفكر الجامعي، 2022.
- العبد الله، ط، جريمة التزييف العميق باستخدام الذكاء الاصطناعي وقواعد التجريم وفقاً لتشريعات دولة الإمارات العربية المتحدة: دراسة تحليلية مقارنة، دبي، دار النهضة العلمية للنشر والتوزيع، 2025.
- مصطفى، ع، حجية الدليل الالكتروني في مجال الإثبات الجنائي، الإسكندرية، دار الجامعة الجديدة، 2010.
- محمد، م، حجية الدليل الإلكتروني أمام القاضي الجنائي والمدني، الرياض، مكتبة القانون والاقتصاد، 2012.
- ب. الأبحاث والمقالات العلمية:
- عمر، ك، دور الذكاء الاصطناعي في جمع الأدلة وإثبات الجرائم الدولية في إطار إجراءات المحكمة الجنائية الدولية، مجلة مركز بابل للدراسات الإنسانية، المجلد 16، العدد 3، جامعة نوروز، العراق، 2026.
- رمضان، أ، وبحر، ه، حجية الأدلة بتقنية الذكاء الاصطناعي في الإثبات القضائي، مجلة البحوث الفقهية والقانونية، المجلد 50، العدد 50، 2025.
- بلوي، غ، التحديات الإجرائية المتعلقة بقبول الأدلة الرقمية المستخلصة باستخدام تقنيات الذكاء الاصطناعي في المجال الجنائي، المجلة القانونية، المجلد 23، العدد 4، 2025.
- أبو سيف، م، الأدلة الرقمية أمام المحكمة الجنائية الدولية، مجلة القانون والتكنولوجيا، المجلد 4، العدد 1، 2024.
- الربيعي، ن، التحقيقات القضائية الجنائية في ظل الذكاء الاصطناعي: دراسة مقارنة، مجلة آشور للعلوم القانونية والسياسية، المجلد 2، العدد 4، 2025.
- بن شهرة، ع، الذكاء الاصطناعي والعدالة الجنائية، مجلة القانون العام الجزائري والمقارن، المجلد 11، العدد 2، 2023.
- ج. المواثيق والدساتير والقوانين:
- نظام روما الأساسي للمحكمة الجنائية الدولية.
- العهد الدولي الخاص بالحقوق المدنية والسياسية لعام 1976.
- UNESCO, Recommendation on the Ethics of Artificial Intelligence, United Nations Educational, Scientific and Cultural Organization, 2022.
- Regulation (EU) 2024/1689 of the European Parliament and of the Council laying down harmonised rules on artificial intelligence (AI Act).
- International Criminal Court, Office of the Prosecutor, Policy on Cyber-Enabled Crimes under the Rome Statute, 3 December 2025.
- International Criminal Court, Strategic Plan 2026-2029.
- ثانياً: الأحكام القضائية (اجتهادات قضائية مقارنة):
- District Court of The Hague, NJCM c.s. and others v. The State of the Netherlands (SyRI case), ECLI:NL:RBDHA:2020:1878, Judgment of 5 February 2020.
- Court of Justice of the European Union, Case C-634/21, OQ v. Land Hessen and SCHUFA Holding AG, Judgment of 7 December 2023.
- Supreme Court of Wisconsin, State v. Loomis, 881 N.W.2d 749 (Wis. 2016).
- Court of Appeal (England and Wales), R (Bridges) v. Chief Constable of South Wales Police, [2020] EWCA Civ 1058.
- Supreme Court of the United States, Daubert v. Merrell Dow Pharmaceuticals, Inc., 509 U.S. 579 (1993).
- European Court of Human Rights, Rowe and Davis v. The United Kingdom, Application No. 28901/95, Judgment of 16 February 2000.
- ثالثاً: المراجع الأجنبية:
- Pasquale, F., The Black Box Society: The Secret Algorithms That Control Money and Information, Harvard University Press, 2015.
- Borgesius, F. Z., Discrimination, Artificial Intelligence, and Algorithmic Decision-Making, Council of Europe Report, 2018.
- Dignum, V., Responsible Artificial Intelligence: How to Develop and Use AI in a Responsible Way, Springer, 2019.
- McDermott, Y., Hausknecht, A. and Liefgreen, A., New evidence, new challenges: ICC judges' perspectives on user-generated evidence and judging in an age of artificial intelligence, Oñati Socio-Legal Series, 16(4), 2026.
- Bo, M., Artificial intelligence in the prosecution of international crimes, International Law Studies, 106, 2025.
- Burrell, J., How the machine 'thinks': Understanding opacity in machine learning algorithms, Big Data & Society, 3(1), 2016.
- Lipton, Z. C., The Mythos of Model Interpretability, Queue, 16(3), 2018.
- Prayudi, Y. and Azhari Sn, Digital Chain of Custody: State of the Art, International Journal of Computer Applications, Volume 114, Number 5, 2015.
- Casey, E., Digital Evidence and Computer Crime: Forensic Science, Computers, and the Internet, 3rd ed., Academic Press, 2011.
- Burri, X. et al., Chronological independently verifiable electronic chain of custody ledger using blockchain technology, Forensic Science International: Digital Investigation, Volume 33(4), 2020.
- Mitchell, M. et al., Model Cards for Model Reporting, Proceedings of the Conference on Fairness, Accountability, and Transparency (FAT '19), ACM, 2019
- Gebru, T. et al., Datasheets for Datasets, Communications of the ACM, 64(12), 2021.
References
قائمة المصادر والمراجع
أولاً: المراجع العربية:
أ. الكتب:
شحاتة، أ، الذكاء الاصطناعي والقانون، ط1، بيروت، دار المنهل اللبناني، 2021.
الصغير، ع، أدلة الاثبات وتكنولوجيا الحديثة، مصر، دار النهضة العربية، 2021.
الهلالي، ع، حجية المخرجات الكمبيوترية في المواد الجنائية: دراسة مقارنة، القاهرة، دار النهضة العربية، 2008"
دهشان، ي، المسئولية الجنائية عن جرائم الذكاء الاصطناعي، الإسكندرية، دار الفكر الجامعي، 2022.
العبد الله، ط، جريمة التزييف العميق باستخدام الذكاء الاصطناعي وقواعد التجريم وفقاً لتشريعات دولة الإمارات العربية المتحدة: دراسة تحليلية مقارنة، دبي، دار النهضة العلمية للنشر والتوزيع، 2025.
مصطفى، ع، حجية الدليل الالكتروني في مجال الإثبات الجنائي، الإسكندرية، دار الجامعة الجديدة، 2010.
محمد، م، حجية الدليل الإلكتروني أمام القاضي الجنائي والمدني، الرياض، مكتبة القانون والاقتصاد، 2012.
ب. الأبحاث والمقالات العلمية:
عمر، ك، دور الذكاء الاصطناعي في جمع الأدلة وإثبات الجرائم الدولية في إطار إجراءات المحكمة الجنائية الدولية، مجلة مركز بابل للدراسات الإنسانية، المجلد 16، العدد 3، جامعة نوروز، العراق، 2026.
رمضان، أ، وبحر، ه، حجية الأدلة بتقنية الذكاء الاصطناعي في الإثبات القضائي، مجلة البحوث الفقهية والقانونية، المجلد 50، العدد 50، 2025.
بلوي، غ، التحديات الإجرائية المتعلقة بقبول الأدلة الرقمية المستخلصة باستخدام تقنيات الذكاء الاصطناعي في المجال الجنائي، المجلة القانونية، المجلد 23، العدد 4، 2025.
أبو سيف، م، الأدلة الرقمية أمام المحكمة الجنائية الدولية، مجلة القانون والتكنولوجيا، المجلد 4، العدد 1، 2024.
الربيعي، ن، التحقيقات القضائية الجنائية في ظل الذكاء الاصطناعي: دراسة مقارنة، مجلة آشور للعلوم القانونية والسياسية، المجلد 2، العدد 4، 2025.
بن شهرة، ع، الذكاء الاصطناعي والعدالة الجنائية، مجلة القانون العام الجزائري والمقارن، المجلد 11، العدد 2، 2023.
ج. المواثيق والدساتير والقوانين:
نظام روما الأساسي للمحكمة الجنائية الدولية.
العهد الدولي الخاص بالحقوق المدنية والسياسية لعام 1976.
UNESCO, Recommendation on the Ethics of Artificial Intelligence, United Nations Educational, Scientific and Cultural Organization, 2022.
Regulation (EU) 2024/1689 of the European Parliament and of the Council laying down harmonised rules on artificial intelligence (AI Act).
International Criminal Court, Office of the Prosecutor, Policy on Cyber-Enabled Crimes under the Rome Statute, 3 December 2025.
International Criminal Court, Strategic Plan 2026-2029.
ثانياً: الأحكام القضائية (اجتهادات قضائية مقارنة):
District Court of The Hague, NJCM c.s. and others v. The State of the Netherlands (SyRI case), ECLI:NL:RBDHA:2020:1878, Judgment of 5 February 2020.
Court of Justice of the European Union, Case C-634/21, OQ v. Land Hessen and SCHUFA Holding AG, Judgment of 7 December 2023.
Supreme Court of Wisconsin, State v. Loomis, 881 N.W.2d 749 (Wis. 2016).
Court of Appeal (England and Wales), R (Bridges) v. Chief Constable of South Wales Police, [2020] EWCA Civ 1058.
Supreme Court of the United States, Daubert v. Merrell Dow Pharmaceuticals, Inc., 509 U.S. 579 (1993).
European Court of Human Rights, Rowe and Davis v. The United Kingdom, Application No. 28901/95, Judgment of 16 February 2000.
ثالثاً: المراجع الأجنبية:
Pasquale, F., The Black Box Society: The Secret Algorithms That Control Money and Information, Harvard University Press, 2015.
Borgesius, F. Z., Discrimination, Artificial Intelligence, and Algorithmic Decision-Making, Council of Europe Report, 2018.
Dignum, V., Responsible Artificial Intelligence: How to Develop and Use AI in a Responsible Way, Springer, 2019.
McDermott, Y., Hausknecht, A. and Liefgreen, A., New evidence, new challenges: ICC judges' perspectives on user-generated evidence and judging in an age of artificial intelligence, Oñati Socio-Legal Series, 16(4), 2026.
Bo, M., Artificial intelligence in the prosecution of international crimes, International Law Studies, 106, 2025.
Burrell, J., How the machine 'thinks': Understanding opacity in machine learning algorithms, Big Data & Society, 3(1), 2016.
Lipton, Z. C., The Mythos of Model Interpretability, Queue, 16(3), 2018.
Prayudi, Y. and Azhari Sn, Digital Chain of Custody: State of the Art, International Journal of Computer Applications, Volume 114, Number 5, 2015.
Casey, E., Digital Evidence and Computer Crime: Forensic Science, Computers, and the Internet, 3rd ed., Academic Press, 2011.
Burri, X. et al., Chronological independently verifiable electronic chain of custody ledger using blockchain technology, Forensic Science International: Digital Investigation, Volume 33(4), 2020.
Mitchell, M. et al., Model Cards for Model Reporting, Proceedings of the Conference on Fairness, Accountability, and Transparency (FAT '19), ACM, 2019
Gebru, T. et al., Datasheets for Datasets, Communications of the ACM, 64(12), 2021.
