KI in der Schule rechtskonform einsetzen?!

KI-Systeme in der Schule rechtskonform einsetzen

Mit dem Aufkommen von ChatGPT im Jahr 2022 wurde das Potenzial künstlicher Intelligenz für Schule und Unterricht schnell deutlich. Lehrende wie Lernende erkannten die Chancen: kreative Unterstützung, automatisierte Rückmeldungen, personalisiertes Lernen. Doch gleichzeitig traten rechtliche Fragen in den Vordergrund – insbesondere rund um Urheberrecht, Datenschutz, Haftung und das Recht am eigenen Bild.

Was ist erlaubt – und was nicht?

Die Nutzung gängiger KI-Plattformen, etwa aus den USA oder China, ist aus Datenschutzsicht problematisch. Grundsätzlich gilt:

• Es dürfen keine personenbezogenen Daten in Prompts oder hochgeladenen Medien enthalten sein.
• Daten dürfen nicht zu Trainingszwecken von KI-Anbietern verwendet werden.
• Private Accounts oder personenbezogene Nutzerprofile von Lernenden sind im schulischen Kontext bei offenen Plattformen nicht zulässig.

Inzwischen existieren KI-Angebote, die speziell für den schulischen Einsatz unter Berücksichtigung des europäischen Datenschutzrechts entwickelt wurden. So ermöglichen z. B. Fobizz, Fellowfish und SchulKI datenschutzkonform eine datenschutzkonforme Interaktion mit KI-Systemen.

Auch einige KI-Systeme  direkt aus Deutschland befinden sich in der Entwicklung.

Der rechtliche Rahmen: EU AI Act

Ein zentrales Element für die Einordnung von KI-Systemen ist der EU AI Act. Diese europäische Verordnung stuft KI-Anwendungen in Risikoklassen ein:

• In der Schule werden vor allem Systeme mit geringem Risiko genutzt.
• Für diese gelten Transparenzpflichten und die Anforderung, Lehrkräfte entsprechend zu schulen.
• Werden Korrektur- und Feedbacktools genutzt, sind diese zwar nicht direkt einem  Hochrisiko-KI-System i.S.d. Art. 6 KI-VO zuzuordnen, dennoch gelten besondere Pflichten. So ersetzt die Korrekturhilfe keine Bewertung durch Lehrkräfte, sondern liefert ggf. vorbereitend Vorschläge.

Ziel des EU AI Act ist es, die verantwortungsvolle Entwicklung und Nutzung von KI in Europa zu fördern – auch im Bildungsbereich.

Handlungsleitfäden und Empfehlungen

Bereits im Februar 2023 reagierte das Ministerium für Schule und Bildung (MSB) mit dem Handlungsleitfaden "Umgang mit textgenerierenden KI-Systemen". Dieser unterstützt Schulen dabei, den Einsatz von KI im Unterricht rechtssicher und pädagogisch sinnvoll zu gestalten.

Weiterführende Empfehlungen bietet auch Dirk Thiede in seinem Artikel „Schulische Nutzung von KI-Systemen“. Er beleuchtet die juristischen Vorgaben detailliert und zeigt konkrete Wege für den rechtskonformen Einsatz im Unterricht auf.