Ein erschütternder Vorfall hat an der Lancaster Country Day School in Pennsylvania für Aufregung gesorgt: Mit Künstlicher Intelligenz erzeugte Nacktfotos von Schülerinnen haben nicht nur einen massiven Protest von Schülern provoziert, sondern auch zu Ermittlungen der Polizei geführt. Laut den jüngsten Berichten wurde ein 15-jähriger Schüler bereits im August von der Schule verwiesen und sein Handy wurde beschlagnahmt.

Im Zuge der Ermittlungen stieß die Polizei auf "beunruhigend eingestufte KI-generierte Fotos" auf dem Smartphone des Jugendlichen. Eine Mutter meldete der Polizei, dass ihre Tochter ihr berichtet hatte, ein Mitschüler habe Fotos von Mädchen gemacht und diese mithilfe von KI nackt dargestellt. Diese Informationen waren Teil einer eidesstattlichen Erklärung, die für einen Durchsuchungsbefehl eingereicht wurde.

Matt Micciche, der damalige Schulleiter, informierte die Polizei, dass die Schule im November 2023 über das Programm Safe2Say Something eine Beschwerde zu diesen Fotos erhalten habe. Trotz der schweren Vorwürfe stellte der Verdächtige die Anschuldigungen in Frage. Als Eltern im Mai von den Fotos erfuhren, wurde bekannt, dass diese in einem Chatroom veröffentlicht worden waren, was die Wut der Schulgemeinschaft weiter anheizte.

Am 8. November protestierten Schüler auf dem Schulgelände und riefen Slogans wie: "Hört uns. Erkennt uns an. Schaut auf uns." Der Unterricht wurde am Montag aufgrund des Vorfalls ausgesetzt. In einem weiteren Schreckensmoment gab die Schule bekannt, dass die Schulleitung, einschließlich Micciche, sowie die Vorstandsvorsitzende Angela Ang-Alhadeff zurückgetreten seien. In einem offiziellen Schreiben an die Schulgemeinschaft wurde betont, dass an der Lösung des Vorfalls gearbeitet wird und Schülern Beratung angeboten wird.

Dieser Vorfall ist ein besorgniserregendes Beispiel für die Gefahren der Künstlichen Intelligenz und deren Missbrauch im schulischen Umfeld. Das neue Gesetz im Bundesstaat Pennsylvania, das nächstes Monat in Kraft tritt, kriminalisiert ausdrücklich die Herstellung oder Verbreitung von KI-generierten Bildern, die sexuellen Kindesmissbrauch darstellen. Experten warnen bereits, dass die Nutzung von KI zur Manipulation von Bildern weiterhin ein ernstes Problem darstellen könnte, insbesondere für schutzbedürftige Minderjährige.

Die Schulbehörden stehen nun vor der Herausforderung, das Vertrauen der Eltern und Schüler zurückzugewinnen und sicherzustellen, dass solche Vorfälle in Zukunft verhindert werden.