We continue our online symposium with a Saar Blueprint from Chunhuan Li, an LL.M. student at Kyōto University in Japan. On Monday we addressed the question whether artificial intelligence (AI) threatens press and media freedom in Europe. Today, we turn to another essential issue. We will examine AI regulation out of the perspective of international human rights law, focusing on a specific area of application: AI in police work.
Using the phenomenon of racial profiling as a reference point, Chunhuan Li looks into a fundamental question regarding AI: How can we ensure that the use of AI systems aligns with societal and ethical standards? And how can we prevent existing biases from being unthinkingly embedded in AI systems, potentially reinforcing them?
The author examines the challenges to the protection of international human rights standards posed by the increasing use of AI in policing, particularly regarding issues of racial profiling. First, the author defines racial profiling in order to conceptualize the issue. He then outlines the international human rights standards relevant to the issue, with a focus on the European Convention on Human Rights (ECHR). He provides an overview of the European Court of Human Rights (ECtHR) case law on racial profiling and draws structural parallels. Finally, he explains how AI may affect policing and its link to racial profiling, which poses new challenges for the ECtHR.
We hope you enjoy this contribution.
Your Jean Monnet Saar editorial team
***
Wir setzen unser Online-Symposium mit einem Saar Blueprint von Chunhuan Li fort, LL.M.-Student an der Universität Kyōto in Japan. Nachdem wir uns am Montag der Frage widmeten, ob Künstliche Intelligenz (KI) die Presse- und Medienfreiheit in Europa bedroht, wenden wir uns heute einer anderen Herausforderung im Umgang mit KI zu. Diesmal wird die Regulierung von KI aus einer menschenrechtlichen Perspektive beleuchtet, indem wir ein spezifisches Anwendungsfeld der KI in den Vordergrund stellen: ihren Einsatz in der Polizeiarbeit.
Ausgehend vom Phänomen des Racial Profiling beleuchtet Chunhuan Li eine grundlegende Fragestellung im Umgang mit KI: Wie können wir sicherstellen, dass der Einsatz von KI gesellschaftlichen und ethischen Standards entspricht? Und wie verhindern wir, dass bestehende Vorurteile unreflektiert von KI-basierten Systemen übernommen und dadurch verstärkt werden?
Der Autor analysiert zunächst das Phänomen des Racial Profiling und geht auf die damit verbundenen ethischen und rechtlichen Problematiken ein. Anschließend betrachtet Chunhuan Li die menschenrechtlichen Implikationen für die Polizeiarbeit, mit besonderem Blick auf die Europäische Menschenrechtskonvention (EMRK) und die Rechtsprechung des Europäischen Gerichtshofs für Menschenrechte (EGMR). Er untersucht, ob aus der Rechtsprechung des EGMR bestimmte strukturelle Parallelen ableitbar sind, die verlässliche Aussagen hinsichtlich seines Umgangs mit Racial Profiling ermöglichen. Abschließend untersucht er, wie KI den Polizeialltag bereits beeinflusst und ob diese Technologien das Risiko einer Verstärkung von Racial Profiling bergen.
Viel Freude bei der Lektüre wünscht Ihnen
Ihr Jean Monnet Saar-Redaktionsteam
