Stadga för moraliskt engagemang och efterlevnad

Utgivare: Codexplore Lab
Lösning: TokiChat
Version: v1.3

1. Syfte och omfattning

Denna stadga definierar Codexplore Labs, utvecklaren av lösningen TokiChat, åtaganden gällande ansvarsfull, etisk och EU-rättsligt förenlig användning av artificiell intelligens (AI) inom utbildningsområdet.

Den gäller för alla tjänster, experiment och partnerskap som implementerar AI-system för lärande, utbildning och skapande av pedagogiskt innehåll.

Målet är dubbelt:

Garantera efterlevnad av utbildningens grundläggande etiska värderingar (autonomi, rättvisa, välvilja);
Säkerställa juridisk efterlevnad av GDPR och EU:s AI-förordning (AI Act), inom ramen för en styrning som redan etablerats av Codexplore Labs ram-DPIA.

2. Vägledande principer

Codexplore Lab åtar sig att främja en användning av AI som är:

Transparent, genom att tydligt informera användare om att de interagerar med ett AI-system;
Säker, genom att strikt begränsa insamling, lagring och behandling av data;
Övervakad, genom att upprätthålla konstant mänsklig inblandning i utbildningsprocesserna;
Rättvis, genom att undvika fördomar, diskriminering och varje form av omotiverad automatisering;
Öppen och förklarbar, genom att främja förståelsen för hur AI fungerar bland lärare och elever.

3. Styrning och ansvar

Styrningen av utbildnings-AI bygger på en tydlig ansvarskedja.

Aktör	Roll och ansvar
Codexplore Lab / TokiChat	Ansvarig för implementeringen och garant för AI-systemets övergripande efterlevnad inom utbildningsramen.
Leverantörer av AI-API:er (OpenAI, Mistral, Anthropic, etc.)	Leverantörer av AI-modeller för allmänna ändamål (GPAI): ansvariga för sina modellers efterlevnad och tillhörande dokumentation.
Partnerinstitutioner	Ansvariga för den lokala användningen av lösningen och garanter för efterlevnad av GDPR för de inmatade uppgifterna.
Slutanvändare (lärare, elever)	Informeras om interaktionernas natur med AI och medvetandegörs om sina rättigheter.

Minderåriga användare och dataansvar

Tillgång till TokiChat är reserverad för minderåriga över 13 år, i enlighet med artikel 8 i den allmänna dataskyddsförordningen (GDPR), den ålder från vilken den minderårige ensam kan samtycka till behandlingen av sina personuppgifter i en utbildningsmiljö.

Codexplore Lab implementerar tekniska och pedagogiska förebyggande mekanismer (automatiska filter, medvetandegörande meddelanden, utbildningsmaterial) som syftar till att förhindra inmatning eller överföring av känsliga uppgifter.

Codexplore Labs ansvar kan dock inte åberopas om en användare frivilligt överför personlig eller känslig information i strid med användningsinstruktionerna.

Partnerinstitutioner och lärare uppmanas att påminna om dessa försiktighetsregler i sina medvetandegörande åtgärder.

4. Efterlevnad av AI Act och GDPR

Codexplore Lab har ett globalt efterlevnadssystem baserat på en ram-DPIA som täcker all behandling av artificiell intelligens som implementeras inom ramen för dess utbildningsverksamhet.

Detta system bygger på flera komponenter.

4.1 Kartläggning av AI-användning

AI-användning klassificeras efter risknivå, i enlighet med principerna i AI Act (pedagogisk, analytisk, administrativ användning, etc.).

Denna kartläggning gör det möjligt att identifiera behandlingar som faller under "hög risk" och att anpassa de tillhörande övervakningsåtgärderna.

4.2 Konsoliderad teknisk dokumentation

Denna dokumentation beskriver:

Dataflöden mellan användare, plattformen och AI-API-leverantörer;
Logiken för de använda modellerna och villkoren för behandling av prompts;
Mekanismer för mänsklig övervakning som säkerställer att AI-svar aldrig ersätter pedagogiska beslut;
Åtgärder för automatisk filtrering och verifiering innan något innehåll skickas till ett AI-API.

4.3 Gemensam ram-DPIA

Ram-DPIA:n bedömer övergripande riskerna med behandling av utbildningsdata och definierar:

Säkerhets-, minimerings- och pseudonymiseringsåtgärder som är tillämpliga på alla scenarier;
Reglering av behandlingar som utförs inom utbildningsområdet utan att kräva individuell konsekvensbedömning, förutom vid införande av nya datakategorier (bilder, ljud, biometri) eller nya syften utanför utbildning.

4.4 Dokumentationsuppföljning av AI-leverantörer

Varje leverantör har ett efterlevnadsblad som specificerar:

Serverplats och tillämplig jurisdiktion;
Policyer för lagring och användning av användardata;
De deklarerade GDPR-garantierna;
Nivån av transparens och förklarbarhet enligt AI Act.

4.5 Spårbarhet och bevis på efterlevnad

Codexplore Lab säkerställer lagring av:

Anslutningsloggar;
Incidentrapporter;
Rensningsregister;
Och interna revisionsprocedurer.

Dessa element garanterar tillgängligheten och integriteten av efterlevnadsbevis vid kontroll av en behörig myndighet.

5. Säkerhet, hosting och integration

Data som behandlas av TokiChat överförs exklusivt via säkra och krypterade infrastrukturer, vilket garanterar konfidentialitet och integritet i utbytet.

Hostingtjänsterna följer europeiska standarder (ISO 27001, GDPR, Data Privacy Framework).

5.1 Allmänna principer

Inga data från TokiChat används för träning, omträning eller förbättring av AI-modeller, enligt de policyer som deklarerats av tredjepartsleverantörer.
Codexplore Lab väljer exklusivt API:er vars användarvillkor garanterar att användardata inte utnyttjas för dessa ändamål, men kan inte ersätta leverantörerna när det gäller att faktiskt verifiera deras interna praxis.
Varje leverantör har ett uppdaterat efterlevnadsblad som specificerar de offentliga åtagandena gällande databehandling och modellträning.
Förfrågningar till API:erna är strikt tekniska, efemära och begränsade till den behandling som krävs för att generera ett svar inom utbildningsramen.

5.2 Suverän hosting

TokiChat hostas hos Scaleway, i datacenter belägna i Frankrike, certifierade enligt ISO 27001 och i enlighet med GDPR. Denna infrastruktur garanterar suveränitet och säkerhet för utbildningsdata.

5.3 Autentisering och identitetshantering

Tillgång till tjänsterna hanteras via Keycloak, vilket säkerställer centraliserad och säker autentisering. Systemet är interoperabelt med ENT, Azure AD och LDAP, vilket underlättar integration i skolans infrastrukturer.

5.4 Teknisk arkitektur

Back-end: NestJS, som tillhandahåller säkra REST-API:er;
Front-end: React, optimerad för datorer och surfplattor;
Loggning: anpassad till skolkontexten, garanterar spårbarhet utan överflödig datainsamling.

6. Pålitligt AI-system

Den artificiella intelligensen integrerad i TokiChat är utformad som ett utbildningsassistanssystem, inte som en ersättning.

6.1 Mänsklig övervakning

AI assisterar, utan att ersätta, lärare och elever. Den utför varken automatisk bedömning eller betygsättning.

Interaktionerna övervakas för att garantera relevans, säkerhet och efterlevnad av utbytena.

6.2 Modellagnosticism

TokiChat kan använda olika AI-modeller (GPT, Claude, Mistral, LLaMA, etc.), beroende på kundens val eller sammanhanget. Denna positionering med flera leverantörer främjar flexibilitet, teknisk suveränitet och pedagogisk anpassning.

6.3 Multifiltrering och kontroll av utbyten

Automatisk algoritmisk filtrering för att upptäcka och blockera personliga eller känsliga uppgifter (under utveckling);
Specialiserade AI-filter hostade i Frankrike för att stärka GDPR-efterlevnaden (under utveckling);
Mänsklig övervakning och fullständig spårbarhet av konversationer.

6.4 Kontinuerlig förbättring

Fördomar, fel och olämpliga beteenden följs upp, utvärderas och korrigeras i en plan för kontinuerlig förbättring som övervakas av styrningen från ram-DPIA:n.

6.5 Anpassning till AI Act

Codexplore Lab strävar efter att utvecklas mot europeiska förtroendestandarder, genom att integrera transparens, robusthet och systematisk dataminimering.

7. Data, lagring och rensning

Data som överförs till API:erna är:

Minimerade;
Temporära (lagras inte längre än behandlingen);
Raderade eller anonymiserade enligt de avtalsenliga tidsfrister som fastställts av varje leverantör.

Användare kan begära radering av sina interaktioner, i enlighet med rätten till radering (artikel 17 i GDPR).

8. Användares rättigheter och skyldigheter

Varje användare:

Informeras om att hen interagerar med en AI;
Behåller rätten till åtkomst, rättelse och radering av sina uppgifter;
Uppmuntras att kritiskt granska de genererade resultaten.

Codexplore Lab åtar sig att medvetandegöra lärare och partnerinstitutioner om användares rättigheter (åtkomst, rättelse, radering, invändning) och god praxis för datahantering.

Denna medvetandegörande bygger på:

utbildningsmoduler och webbinarier avsedda för pedagogisk och administrativ personal;
guider och pedagogiskt material som förklarar GDPR-ramverket och de transparensförpliktelser som gäller för utbildnings-AI;
meddelanden integrerade i plattformen som påminner användare om deras rättigheter och goda användningsinstruktioner (under utveckling);
en direkt kontaktkanal för alla begäranden om utövande av rättigheter eller rapportering av olämpligt innehåll.

Dessa åtgärder syftar till att säkerställa förståelsen och den effektiva tillämpningen av dataskyddsprinciperna av alla utbildningsaktörer.

9. Tillgänglighet, inkludering och digital måttfullhet

TokiChat är utformat för att vara tillgängligt för alla målgrupper och för att begränsa dess miljöpåverkan.

9.1 Tillgänglighet

TokiChats gränssnitt är utformat enligt principerna i RGAA 4.1, med särskild uppmärksamhet på läsbarhet, enkel navigering och kompatibilitet med hjälpmedel.

Aktuell tillgänglighet. Hittills inkluderar TokiChat:

färgkontraster som överensstämmer med RGAA:s läsbarhetströsklar;
tydliga och hierarkiska sidstrukturer, vilket underlättar användning av skärmläsare;
omformuleringselement och ljuduppläsning för att stödja elever med särskilda behov.

Planerade förbättringar. Codexplore Lab fortsätter en process för kontinuerlig förbättring av tillgängligheten för att uppnå bred kompatibilitet med hjälpmedel (skärmläsare, anpassade tangentbord, röstkommandon).

Nästa identifierade steg inkluderar:

funktionell tangentbordsnavigering på alla huvudvägar;
progressivt tillägg av ARIA-attribut och semantiska taggar i källkoden för att stärka den tekniska kompatibiliteten;
manuell validering med RGAA/WCAG-granskningsverktyg (t.ex. Tanaguru, AccessiWeb);
användartester i utbildningssammanhang med elever med särskilda behov;
publicering av ett RGAA-efterlevnadsregister, uppdaterat i takt med förbättringarna.

9.2 Inkludering

TokiChat stöder inkluderande utbildningsinitiativ genom att underlätta:

Individualiserat stöd för elever;
Värdesättning av autonomi och aktivt deltagande;
Anpassning av aktiviteter till olika sammanhang (utbildning, specialundervisning, språkinlärning).

Användningen av AI i TokiChat är en del av en aktiv inkluderingslogik, som syftar till att göra lärandet mer tillgängligt och personligt, utan att ersätta mänsklig medling.

9.3 Digital måttfullhet

Infrastruktur hostad i Frankrike på servrar med lågt koldioxidavtryck;
Begränsning av överflödiga behandlingar och transparens gällande energiförbrukning;
Pedagogiska effektindikatorer (förbrukning eller koldioxidavtryck) under utveckling;
Energipresentation av AI-leverantörer (källa: Ecologits) med användningsrekommendationer.

10. Reglerad användning och begränsningar

Användningen av TokiChat sker inom en definierad utbildningsram, som stöder uppdraget att undervisa, inkludera och utbilda elever.

10.1 Förväntad användning

TokiChat kan användas för:

Guidad träning: utforskning, omformulering, aktivt lärande;
Stödåtgärder: anpassade förklaringar, individuellt stöd;
Strukturering av resonemang: hypoteser, argument, koppling av kunskaper;
Pedagogisk samkonstruktion: skapande och test av AI-assisterade övningar;
Medvetandegörande om digitalisering och AI: utveckling av kritiskt tänkande.

10.2 Begränsningar

Ingen automatisering av beslutshandlingar utan mänsklig validering;
Ingen behandling av känsliga uppgifter (hälsa, åsikter, biometri, etc.);
Ingen användning utanför utbildningsramen;
Ingen kommersiell exploatering eller obehörig spridning utan föregående medgivande.

10.3 Transparens och ansvar

Codexplore Lab och partnerinstitutionerna garanterar tydlig och ärlig kommunikation om:

Verktygets syften;
De använda modellerna och deras begränsningar;
Principerna för mänsklig övervakning.

Varje användare kan rapportera (idag via e-post eller en dedikerad Slack-kanal, imorgon via ett formulär integrerat i gränssnittet) allt olämpligt innehåll eller missbruk för att förbättra systemets tillförlitlighet.

11. Support, incidenter och kontinuerlig förbättring

11.1 Stöd

Codexplore Lab tillhandahåller snabbstartsguider, tydlig dokumentation samt tekniskt och pedagogiskt stöd för att underlätta implementeringen av TokiChat.

11.2 Incidenthantering

En rapporteringskanal via e-post gör det möjligt att rapportera alla avvikelser, säkerhetsfrågor eller begäranden om radering av data. Varje incident dokumenteras och loggas för att säkerställa spårbarhet och GDPR-efterlevnad.

11.3 Kontinuerlig förbättring

Codexplore Lab upprätthåller en offentlig färdplan som specificerar planerade utvecklingar:

Förstärkning av datafilter;
Tillägg av pedagogiska förklarbarhetsfunktioner;
Samarbete med CREN och CATIE för forskning inom utbildning och AI.

12. Revision och spridning

Denna stadga träder i kraft från och med dess undertecknandedatum. Den kommer att uppdateras i enlighet med utvecklingen av GDPR, AI Act och observerade pedagogiska metoder.

13. Bilagor

Codexplore Lab — Version 1.3 – Stadga för moraliskt engagemang och efterlevnad (oktober 2025)