In einem Artikel mit der Headline «Normalisierung der Überwachung von Kindesbeinen an» berichtet The Defender darüber, dass in den USA immer mehr Schulen Gesichtserkennung und Technologien der künstlichen Intelligenz (KI) zur Überwachung von Kindern einsetzen.
Das Magazin beruft sich dabei auf eine Umfrage des Center for Democracy and Technology, kurz CDT, der zufolge sich mehr als die Hälfte der Eltern und Schüler besorgt zeigen über den zunehmenden Einsatz von Technologien der KI im Klassenzimmer, insbesondere von solchen zur Gesichtserkennung.
Datenschutzexperten würden in diesem Zusammenhang davor warnen, dass es bei diesen Technologien darum geht, Kinder zu manipulieren und ihr Verhalten zu kontrollieren, indem man ihnen Angst einflösst.
Wie The Defender weiter schreibt, argumentieren Befürworter dieser Technologien, dass diese dazu beitragen könnten, das Schulumfeld vor gewalttätigen Bedrohungen wie Amok laufenden Personen zu schützen. Demgegenüber führen Befürworter des Datenschutzes ins Feld, dass die Technologien, die ein Risiko für die Privatsphäre und die persönlichen Daten der Schüler darstellen, die Sicherheit an Schulen nachweislich nicht erhöhen würden.
Dass es zu gravierenden Problemen kommen kann, zeigt etwa der Fall einer schwangeren Frau, die durch den Einsatz von Gesichtserkennungstechnologie fälschlicherweise verhaftet wurde. So geschehen im Juli 2023 in Detroit.
Wie Web.de dazu berichtet, habe Porcha Woodruff gerade ihre beiden Töchter für die Schule vorbereitet, als plötzlich sechs Polizisten vor ihrer Haustür gestanden hätten und sie verhaften wollten. Der Vorwurf: Raubüberfall und Autodiebstahl. Die 32-Jährige sei infolgedessen aus allen Wolken gefallen, nicht zuletzt, weil sie im achten Monat schwanger gewesen sei.
«Macht ihr Witze?», habe sie daraufhin den Beamten vorgehalten. Doch die Polizisten hätten auf der Festnahme beharrt, Woodruff Handschellen angelegt und sie zur Vernehmung ins zentrale Gefängnis der Stadt gebracht. Web.de weiter:
«11 Stunden wird die Kosmetikerin und Krankenpflegeschülerin dort festgehalten, hat zwischendurch Wehen und muss im Anschluss wegen Dehydrierung im Krankenhaus behandelt werden. Erst gegen eine Kaution in Höhe von 100’000 US-Dollar wird sie am Abend freigelassen.
Wenige Wochen später die Erkenntnis: Woodruff wurde irrtümlicherweise des Verbrechens beschuldigt – weil eine Gesichtserkennungstechnologie sie verwechselt hat. Die Polizei hatte das Gesicht einer Unbekannten in einem automatisierten Verfahren mit einer Datenbank abgeglichen und dabei Woodruff als Täterin ausgemacht. Es ist nicht der erste Fall einer unrechtmässigen Festnahme auf Grundlage dieser Technologie.»
Laut dem erwähnten CDT-Bericht führe «eine wachsende Zahl von Schulen» in den USA solche Überwachungsinstrumente ein. Und es würden «experimentelle, potenziell schädliche Sicherheitsinstrumente ohne Rücksicht auf die Bedenken von Schülern und Eltern eingesetzt» – darunter auch Technologien, «die wir bisher für zu abwegig hielten».
Dazu gehörten prädiktive Analysen, Fernprüfung, Gesichtserkennung, Datenaustausch mit Strafverfolgungsbehörden, Waffenerkennungssysteme und Standortverfolgung von Schülern. Dazu das CDT:
«Angetrieben durch künstliche Intelligenz (KI) werden diese Technologien in Schulen immer häufiger eingesetzt, um auf Massenerschiessungen, die psychische Krise junger Menschen und andere allgegenwärtige Sicherheitsbedrohungen für Personal und Schüler zu reagieren.» Es sei ein «alarmierender» Trend, dass die Schulen trotz «grosser Bedenken» von Eltern und Schülern damit fortfahren, diese Technologien zu installieren.»
Dieses «hohe Mass an Besorgnis» zeige sich auch in den Ergebnissen der Umfrage:
- Demnach sind 58 Prozent der Eltern und 55 Prozent der Schüler (und 33 Prozent der Lehrer) besorgt über den Einsatz von Gesichtserkennungskameras, mit denen überprüft werden soll, wer ein Schulgebäude betreten darf oder wer berechtigt ist, sich dort aufzuhalten.
- 71 Prozent der Eltern und 74 Prozent der Schüler (und 36 Prozent der Lehrer) äusserten sich besorgt über den Einsatz solcher Technologien zur Überwachung des Aufenthaltsortes von Schülern.
- 60 Prozent der Eltern und 58 Prozent der Schüler (und 31 Prozent der Lehrer) sind besorgt über den Einsatz von KI-Kameras für den Zweck, «ungewöhnliche oder unregelmässige körperliche Bewegungen festzustellen».
- 55 Prozent der Eltern und 45 Prozent der Schüler (und 27 Prozent der Lehrer) äussern sich besorgt über den Einsatz solcher Technologien, um Schüsse auf dem Schulgelände zu erkennen.
- 69 Prozent der Schüler und Eltern (und 36 Prozent der Lehrer) zeigen sich besorgt darüber, dass Schülerdaten analysiert werden, um vorherzusagen, welche einzelnen Schüler am ehesten ein Verbrechen, eine Gewalttat oder eine Selbstverletzung begehen würden.
- 66 Prozent der Eltern und 65 Prozent der Schüler (und 38 Prozent der Lehrer) äussern sich besorgt über die Möglichkeit, dass die akademischen Daten der Schüler, darunter Noten und Anwesenheitslisten, an die Strafverfolgungsbehörden weitergegeben werden könnten.
- 68 Prozent der Eltern und 71 Prozent der Schüler (und 37 Prozent der Lehrer) sind besorgt darüber, dass solche Technologien zur Überwachung der Social-Media-Konten von Schülern eingesetzt werden könnten.
Bemerkenswert auch: Dem Bericht zufolge hat die «Corona-Zeit» dazu beigetragen, dass sich solche Technologien in Schulen schneller durchsetzen – eine Entwicklung, die vom CDT kritisch gesehen wird:
«Der Einsatz von Software zur Überwachung von Schüleraktivitäten hat sich während des Fernunterrichts rasch ausgebreitet und ist im Leben der Schüler nach wie vor sehr präsent. Leider schadet sie weiterhin den Schülern, denen sie eigentlich helfen sollte.»
Bei diesen negativen Effekten handelt es sich um Dinge wie Disziplinarmassnahmen, das Outing von Schülern ohne deren Zustimmung oder auch die Kontaktaufnahme mit den Strafverfolgungsbehörden.
Zitiert wird auch Kenneth Trump, Präsident von National School Safety and Security Services, der im Oktober gegenüber Education Week Folgendes gesagt habe:
«Die Schulen haben die Covid-Unterstützungsgelder genutzt, um Sicherheitsausrüstung und -hardware zu kaufen.» Technologiefirmen hätten die Vermarktung dieser Produkte in Schulbezirken in den letzten Jahren «verstärkt». Und die Käufe seien «zur Lösung politischer und gemeinschaftlicher Probleme verwendet worden, nicht so sehr zur Lösung von Schulsicherheitsproblemen.
Wenn auf dem Schulgelände Waffen eingesetzt oder beschlagnahmt werden, sehen wir, wie die Schulbehörden und die Schulleiter reflexartig Entscheidungen treffen und dem emotionalen Sicherheitsbedürfnis der Eltern und des Personals entgegenkommen.»
The Defender führt auch ein Beispiel aus Grossbritannien an und nimmt dabei Bezug auf einen Bericht von Sky News von Oktober 2021. Demnach hätten dort 27 Schulen damit begonnen, ein Gesichtserkennungssystem für die Ausgabe des Mittagessens an die Schüler zu verwenden. Und 15 weitere Schulen seien bereit, die Technologie einzuführen – eine Massnahme, die angeblich das Risiko der Übertragung von Covid-19 verringern sollte.
Laut Sky News würden Eltern und Aktivisten «davor warnen, dass [der vermehrte Einsatz solcher Technologien] es schleichend als normal erscheinen lassen könnte, dass Kinder einer biometrischen Überwachung ausgesetzt sind. Zudem beschweren sie sich darüber, dass nicht gewährleistet sei, dass die Schüler angemessen über das Risiko für die Privatsphäre informiert würden».
Zwar habe es angeblich unter Eltern eine hohe Zustimmung gegeben, so Sky News. Doch zitiert werden in dem Bericht auch die Anwälte Jen Persson und Pippa King, die sich für den Schutz der Privatsphäre von Kindern einsetzen, die dem schottischen Kinderbeauftragten zu diesem Aspekt gesagt hätten: «Eine hohe Akzeptanz sollte nicht als Zustimmung missverstanden werden.» Zumal, so Persson und Pippa, die den Eltern zur Verfügung gestellten Zustimmungsformulare die Zustimmung als obligatorisch hätten erscheinen lassen.