Charta der moralischen Verpflichtung und Compliance

Herausgeber: Codexplore Lab
Lösung: TokiChat
Version: v1.3

1. Zweck und Geltungsbereich

Diese Charta definiert die Verpflichtungen von Codexplore Lab, dem Entwickler der TokiChat-Lösung, hinsichtlich eines verantwortungsvollen, ethischen und dem europäischen Recht der künstlichen Intelligenz (KI) entsprechenden Einsatzes im Bildungsbereich.

Sie gilt für alle Dienste, Experimente und Partnerschaften, die KI-Systeme für das Lernen, die Ausbildung und die Erstellung pädagogischer Inhalte einsetzen.

Das Ziel ist zweifach:

Die Einhaltung der grundlegenden ethischen Werte der Bildung (Autonomie, Gerechtigkeit, Wohlwollen) zu gewährleisten;
Die rechtliche Konformität mit der DSGVO und der europäischen KI-Verordnung (AI Act) im Rahmen einer bereits durch die Rahmen-DSFA von Codexplore Lab etablierten Governance sicherzustellen.

2. Leitprinzipien

Codexplore Lab verpflichtet sich, einen Einsatz von KI zu fördern, der:

Transparent ist, indem die Nutzer klar darüber informiert werden, dass sie mit einem KI-System interagieren;
Sicher ist, indem die Erhebung, Speicherung und Verarbeitung von Daten streng begrenzt wird;
Beaufsichtigt wird, indem eine ständige menschliche Intervention in den Bildungsprozessen aufrechterhalten wird;
Fair ist, indem Vorurteile, Diskriminierung und jede Form ungerechtfertigter Automatisierung vermieden werden;
Offen und erklärbar ist, indem das Verständnis der Funktionsweise von KIs bei Lehrern und Lernenden gefördert wird.

3. Governance und Verantwortlichkeiten

Die Governance der Bildungs-KI basiert auf einer klaren Verantwortlichkeitskette.

Akteur	Rolle und Verantwortung
Codexplore Lab / TokiChat	Verantwortlich für die Bereitstellung und Gewährleistung der globalen Konformität des KI-Systems im Bildungsbereich.
Anbieter von KI-APIs (OpenAI, Mistral, Anthropic, etc.)	Anbieter von allgemeinen KI-Modellen (GPAI): verantwortlich für die Konformität ihrer Modelle und die zugehörige Dokumentation.
Partnereinrichtungen	Verantwortlich für die lokale Nutzung der Lösung und Gewährleistung der Einhaltung der DSGVO für die eingegebenen Daten.
Endnutzer (Lehrer, Schüler)	Informiert über die Art der Interaktionen mit der KI und sensibilisiert für ihre Rechte.

Minderjährige Nutzer und Datenverantwortung

Der Zugang zu TokiChat ist Minderjährigen über 13 Jahren vorbehalten, gemäß Artikel 8 der Datenschutz-Grundverordnung (DSGVO), ab welchem Alter der Minderjährige der Verarbeitung seiner personenbezogenen Daten im Bildungsbereich allein zustimmen kann.

Codexplore Lab implementiert technische und pädagogische Präventionsmechanismen (automatische Filter, Sensibilisierungsnachrichten, Bildungshinweise), die darauf abzielen, die Eingabe oder Übermittlung sensibler Daten zu verhindern.

Eine Haftung von Codexplore Lab kann jedoch nicht geltend gemacht werden, wenn ein Nutzer freiwillig persönliche oder sensible Informationen unter Verletzung der Nutzungsrichtlinien übermittelt.

Partnereinrichtungen und Lehrer werden gebeten, diese Vorsichtsregeln in ihren Sensibilisierungsmaßnahmen zu wiederholen.

4. Konformität mit der KI-Verordnung und der DSGVO

Codexplore Lab verfügt über ein globales Konformitätssystem, das auf einer Rahmen-DSFA basiert und alle im Rahmen seiner Bildungsaktivitäten durchgeführten Verarbeitungen künstlicher Intelligenz abdeckt.

Dieses System gliedert sich in mehrere Komponenten.

4.1 Kartierung der KI-Nutzungen

Die KI-Nutzungen werden gemäß ihrem Risikoniveau klassifiziert, in Übereinstimmung mit den Prinzipien der KI-Verordnung (pädagogische, analytische, administrative Nutzung usw.).

Diese Kartierung ermöglicht es, Verarbeitungen zu identifizieren, die als „hochriskant“ eingestuft werden, und die entsprechenden Überwachungsmaßnahmen anzupassen.

4.2 Konsolidierte technische Dokumentation

Diese Dokumentation beschreibt:

Die Datenflüsse zwischen den Nutzern, der Plattform und den KI-API-Anbietern;
Die Logik der verwendeten Modelle und die Bedingungen der Prompt-Verarbeitung;
Die Mechanismen der menschlichen Überwachung, die sicherstellen, dass KI-Antworten niemals die pädagogische Entscheidung ersetzen;
Die Maßnahmen zur automatisierten Filterung und Überprüfung vor jeder Übermittlung von Inhalten an eine KI-API.

4.3 Gemeinsame Rahmen-DSFA

Die Rahmen-DSFA bewertet global die Risiken im Zusammenhang mit der Verarbeitung von Bildungsdaten und definiert:

Die Sicherheits-, Minimierungs- und Pseudonymisierungsmaßnahmen, die für alle Szenarien gelten;
Die Rahmenbedingungen für Verarbeitungen im Bildungsbereich, ohne dass eine individuelle Folgenabschätzung erforderlich ist, es sei denn, es werden neue Datenkategorien (Bilder, Töne, Biometrie) oder neue Zwecke außerhalb der Bildung eingeführt.

4.4 Dokumentarische Überwachung der KI-Anbieter

Für jeden Anbieter wird ein Konformitätsblatt erstellt, das Folgendes präzisiert:

Den Standort der Server und die anwendbare Gerichtsbarkeit;
Die Richtlinien zur Speicherung und Nutzung von Nutzerdaten;
Die erklärten DSGVO-Garantien;
Das Maß an Transparenz und Erklärbarkeit gemäß der KI-Verordnung.

4.5 Nachvollziehbarkeit und Konformitätsnachweis

Codexplore Lab gewährleistet die Aufbewahrung von:

Verbindungslogs;
Vorfallsberichten;
Löschregistern;
Und internen Auditverfahren.

Diese Elemente gewährleisten die Verfügbarkeit und Integrität der Konformitätsnachweise im Falle einer Kontrolle durch eine zuständige Behörde.

5. Sicherheit, Hosting und Integration

Die von TokiChat verarbeiteten Daten werden ausschließlich über sichere und verschlüsselte Infrastrukturen übertragen, die die Vertraulichkeit und Integrität des Austauschs gewährleisten.

Die Hostings entsprechen den europäischen Normen (ISO 27001, DSGVO, Data Privacy Framework).

5.1 Allgemeine Prinzipien

Keine aus TokiChat stammenden Daten werden für das Training, Retraining oder die Verbesserung von KI-Modellen verwendet, gemäß den von Drittanbietern erklärten Richtlinien.
Codexplore Lab wählt ausschließlich APIs aus, deren Nutzungsbedingungen die Nicht-Verwendung von Nutzerdaten für diese Zwecke garantieren, kann jedoch die Anbieter nicht bei der effektiven Überprüfung ihrer internen Praktiken ersetzen.
Für jeden Anbieter wird ein aktualisiertes Konformitätsblatt geführt, das die öffentlichen Verpflichtungen bezüglich der Datenverarbeitung und des Modelltrainings präzisiert.
Die an die APIs gerichteten Anfragen sind streng technisch, temporär und auf die für die Generierung einer Antwort im Bildungsbereich notwendige Verarbeitung beschränkt.

5.2 Souveränes Hosting

TokiChat wird bei Scaleway in Rechenzentren in Frankreich gehostet, die ISO 27001-zertifiziert und DSGVO-konform sind. Diese Infrastruktur gewährleistet die Souveränität und Sicherheit der Bildungsdaten.

5.3 Authentifizierung und Identitätsmanagement

Der Zugang zu den Diensten wird über Keycloak verwaltet, was eine zentralisierte und sichere Authentifizierung gewährleistet. Das System ist interoperabel mit ENT, Azure AD und LDAP und erleichtert die Integration in schulische Infrastrukturen.

5.4 Technische Architektur

Back-End: NestJS, das sichere REST-APIs bereitstellt;
Front-End: React, optimiert für Desktops und Tablets;
Protokollierung: an den schulischen Kontext angepasst, gewährleistet die Nachvollziehbarkeit ohne überflüssige Datenerfassung.

6. Vertrauenswürdiges KI-System

Die in TokiChat integrierte künstliche Intelligenz ist als Bildungsassistenzsystem konzipiert, nicht als Ersatz.

6.1 Menschliche Überwachung

Die KI unterstützt Lehrer und Lernende, ohne sie zu ersetzen. Sie führt weder automatische Benotungen noch Bewertungen durch.

Die Interaktionen werden überwacht, um die Relevanz, Sicherheit und Konformität des Austauschs zu gewährleisten.

6.2 Modellagnostizismus

TokiChat kann verschiedene KI-Modelle (GPT, Claude, Mistral, LLaMA, etc.) verwenden, je nach Wahl des Kunden oder des Kontexts. Diese Multi-Anbieter-Positionierung fördert Flexibilität, technische Souveränität und pädagogische Anpassung.

6.3 Mehrfachfilterung und Kontrolle des Austauschs

Automatische algorithmische Filterung zur Erkennung und Blockierung persönlicher oder sensibler Daten (in Entwicklung);
Spezialisierte KI-Filter, die in Frankreich gehostet werden, um die DSGVO-Konformität zu stärken (in Entwicklung);
Menschliche Überwachung und vollständige Nachvollziehbarkeit der Konversationen.

6.4 Kontinuierliche Verbesserung

Vorurteile, Fehler und unangemessenes Verhalten werden in einem kontinuierlichen Verbesserungsplan, der von der aus der Rahmen-DSFA hervorgegangenen Governance überwacht wird, verfolgt, bewertet und korrigiert.

6.5 Ausrichtung an der KI-Verordnung

Codexplore Lab verfolgt einen Fortschritt in Richtung europäischer Vertrauensstandards, die Transparenz, Robustheit und systematische Datenminimierung integrieren.

7. Daten, Aufbewahrung und Löschung

Die an die APIs übermittelten Daten sind:

Minimiert;
Temporär (nicht über die Verarbeitung hinaus gespeichert);
Gelöscht oder anonymisiert gemäß den vertraglich von jedem Anbieter festgelegten Fristen.

Nutzer können die Löschung ihrer Interaktionen gemäß dem Recht auf Löschung (Artikel 17 der DSGVO) beantragen.

8. Rechte und Pflichten der Nutzer

Jeder Nutzer:

Wird darüber informiert, dass er mit einer KI interagiert;
Behält das Recht auf Zugang, Berichtigung und Löschung seiner Daten;
Wird ermutigt, die generierten Inhalte kritisch zu prüfen.

Codexplore Lab verpflichtet sich, Lehrer und Partnereinrichtungen für die Rechte der Nutzer (Zugang, Berichtigung, Löschung, Widerspruch) und gute Praktiken im Datenmanagement zu sensibilisieren.

Diese Sensibilisierung basiert auf:

Schulungsmodulen und Webinaren für pädagogische und administrative Teams;
Leitfäden und pädagogischen Materialien, die den DSGVO-Rahmen und die Transparenzpflichten für Bildungs-KI erläutern;
In die Plattform integrierten Nachrichten, die die Nutzer an ihre Rechte und die Regeln für die gute Nutzung erinnern (in Entwicklung);
Einem direkten Kontaktkanal für alle Anfragen zur Ausübung von Rechten oder zur Meldung unangemessener Inhalte.

Diese Maßnahmen sollen das Verständnis und die effektive Anwendung der Datenschutzprinzipien durch alle Bildungsakteure gewährleisten.

9. Barrierefreiheit, Inklusion und digitale Genügsamkeit

TokiChat ist so konzipiert, dass es für alle Zielgruppen zugänglich ist und seinen ökologischen Fußabdruck begrenzt.

9.1 Barrierefreiheit

Die Benutzeroberfläche von TokiChat ist nach den Prinzipien des RGAA 4.1 gestaltet, mit besonderem Augenmerk auf Lesbarkeit, einfache Navigation und Kompatibilität mit Hilfsmitteln.

Aktuelle Barrierefreiheit. Bis heute integriert TokiChat:

Farbkontraste, die den RGAA-Lesbarkeitsschwellen entsprechen;
Klare und hierarchische Seitenstrukturen, die die Nutzung durch Bildschirmlesegeräte erleichtern;
Elemente zur Umformulierung und Audio-Wiedergabe, um Lernende mit besonderen Bedürfnissen zu unterstützen.

Geplante Verbesserungen. Codexplore Lab verfolgt einen kontinuierlichen Verbesserungsprozess der Barrierefreiheit, um eine erweiterte Kompatibilität mit assistiven Technologien (Bildschirmlesegeräte, angepasste Tastaturen, Sprachbefehle) zu erreichen.

Die nächsten identifizierten Schritte umfassen:

Eine funktionale Tastaturnavigation auf allen Hauptwegen;
Die schrittweise Hinzufügung von ARIA-Attributen und semantischen Tags im Quellcode zur Stärkung der technischen Kompatibilität;
Die manuelle Validierung mit RGAA/WCAG-Audit-Tools (z.B. Tanaguru, AccessiWeb);
Nutzer-Tests im Bildungsumfeld mit Lernenden mit besonderen Bedürfnissen;
Die Veröffentlichung eines RGAA-Konformitätsregisters, das mit den Verbesserungen aktualisiert wird.

9.2 Inklusion

TokiChat unterstützt inklusive Bildungsansätze, indem es Folgendes erleichtert:

Die individuelle Begleitung der Lernenden;
Die Förderung von Autonomie und aktiver Teilnahme;
Die Anpassung der Aktivitäten an verschiedene Kontexte (Ausbildung, Sonderpädagogik, Sprachenlernen).

Der Einsatz von KI in TokiChat folgt einer Logik der aktiven Inklusion, die darauf abzielt, das Lernen zugänglicher und personalisierter zu gestalten, ohne die menschliche Vermittlung zu ersetzen.

9.3 Digitale Genügsamkeit

In Frankreich gehostete Infrastruktur auf Servern mit geringem CO2-Fußabdruck;
Begrenzung überflüssiger Verarbeitungen und Transparenz beim Energieverbrauch;
Pädagogische Wirkungsindikatoren (Verbrauch oder CO2-Fußabdruck) in Entwicklung;
Energetische Darstellung der KI-Anbieter (Quelle: Ecologits) mit Nutzungsempfehlungen.

10. Rahmenbedingungen und Grenzen der Nutzung

Die Nutzung von TokiChat erfolgt in einem definierten Bildungsrahmen, der die Mission der Lehre, Inklusion und Ausbildung der Lernenden unterstützt.

10.1 Erwartete Nutzungen

TokiChat kann eingesetzt werden für:

Geführtes Training: Exploration, Umformulierung, aktives Lernen;
Nachhilfe: angepasste Erklärungen, individuelle Begleitung;
Die Strukturierung des Denkens: Hypothesen, Argumente, Verknüpfung von Wissen;
Die pädagogische Co-Konstruktion: Erstellung und Test von KI-gestützten Übungen;
Die Sensibilisierung für Digitales und KI: Entwicklung des kritischen Denkens.

10.2 Einschränkungen

Keine Automatisierung von Entscheidungsakten ohne menschliche Validierung;
Keine Verarbeitung sensibler Daten (Gesundheit, Meinungen, Biometrie usw.);
Keine Nutzung außerhalb des Bildungsrahmens;
Keine kommerzielle Nutzung oder unautorisierte Verbreitung ohne vorherige Zustimmung.

10.3 Transparenz und Verantwortung

Codexplore Lab und die Partnereinrichtungen gewährleisten eine klare und faire Kommunikation über:

Die Zwecke des Tools;
Die verwendeten Modelle und ihre Grenzen;
Die Prinzipien der menschlichen Überwachung.

Jeder Nutzer kann (heute per E-Mail oder über einen dedizierten Slack-Kanal, morgen über ein in die Benutzeroberfläche integriertes Formular) unangemessene Inhalte oder missbräuchliche Nutzung melden, um die Zuverlässigkeit des Systems zu verbessern.

11. Support, Vorfälle und kontinuierliche Verbesserung

11.1 Begleitung

Codexplore Lab stellt Einführungsleitfäden, eine klare Dokumentation sowie technische und pädagogische Unterstützung zur Verfügung, um die Bereitstellung von TokiChat zu erleichtern.

11.2 Vorfallsmanagement

Ein Meldekanal per E-Mail ermöglicht die Meldung von Anomalien, Sicherheitsfragen oder Datenlöschungsanfragen. Jeder Vorfall wird dokumentiert und protokolliert, um die Nachvollziehbarkeit und DSGVO-Konformität zu gewährleisten.

11.3 Kontinuierliche Verbesserung

Codexplore Lab pflegt eine öffentliche Roadmap, die die geplanten Entwicklungen präzisiert:

Verstärkung der Datenfilter;
Hinzufügung von Funktionen zur pädagogischen Erklärbarkeit;
Zusammenarbeit mit CREN und CATIE für die Forschung in Bildung und KI.

12. Überarbeitung und Verbreitung

Diese Charta tritt mit dem Datum ihrer Unterzeichnung in Kraft. Sie wird entsprechend den Entwicklungen der DSGVO, der KI-Verordnung und der beobachteten pädagogischen Praktiken aktualisiert.

13. Anhänge

Codexplore Lab — Version 1.3 – Charta der moralischen Verpflichtung und Konformität (Oktober 2025)