Carta de compromiso moral y de cumplimiento

Editor: Codexplore Lab
Solución: TokiChat
Versión: v1.3

1. Objeto y alcance

La presente carta define los compromisos de Codexplore Lab, diseñador de la solución TokiChat, en materia de uso responsable, ético y conforme al derecho europeo de la inteligencia artificial (IA) en el ámbito educativo.

Se aplica al conjunto de servicios, experimentos y asociaciones que implementan sistemas de IA para el aprendizaje, la formación y la creación de contenidos pedagógicos.

El objetivo es doble:

Garantizar el respeto de los valores éticos fundamentales de la educación (autonomía, equidad, benevolencia);
Asegurar la conformidad jurídica con el RGPD y el Reglamento europeo sobre la IA (Ley de IA), en el marco de una gobernanza ya establecida por la EIPD marco de Codexplore Lab.

2. Principios rectores

Codexplore Lab se compromete a promover un uso de la IA:

Transparente, informando claramente a los usuarios que interactúan con un sistema de IA;
Seguro, limitando estrictamente la recopilación, conservación y tratamiento de datos;
Supervisado, manteniendo una intervención humana constante en los procesos educativos;
Equitativo, evitando sesgos, discriminación y cualquier forma de automatización injustificada;
Abierto y explicable, favoreciendo la comprensión del funcionamiento de las IA por parte de docentes y alumnos.

3. Gobernanza y responsabilidades

La gobernanza de la IA educativa se basa en una cadena de responsabilidad clara.

Actor	Rol y responsabilidad
Codexplore Lab / TokiChat	Responsable del despliegue y garante de la conformidad global del sistema de IA en el ámbito educativo.
Proveedores de API de IA (OpenAI, Mistral, Anthropic, etc.)	Proveedores de modelos de uso general (GPAI): responsables de la conformidad de sus modelos y de la documentación asociada.
Establecimientos asociados	Responsables del uso local de la solución y garantes del cumplimiento del RGPD para los datos introducidos.
Usuarios finales (docentes, alumnos)	Informados de la naturaleza de las interacciones con la IA y sensibilizados sobre sus derechos.

Usuarios menores y responsabilidad de los datos

El acceso a TokiChat está reservado a los menores de edad mayores de 13 años, de conformidad con el artículo 8 del Reglamento General de Protección de Datos (RGPD), edad a partir de la cual el menor puede consentir por sí solo el tratamiento de sus datos personales en un entorno educativo.

Codexplore Lab implementa mecanismos técnicos y pedagógicos de prevención (filtros automáticos, mensajes de sensibilización, avisos educativos) destinados a impedir la introducción o transmisión de datos sensibles.

Sin embargo, la responsabilidad de Codexplore Lab no podrá ser exigida si un usuario transmite voluntariamente información personal o sensible en violación de las instrucciones de uso.

Se invita a los establecimientos y docentes asociados a recordar estas reglas de prudencia en sus acciones de sensibilización.

4. Conformidad con la Ley de IA y el RGPD

Codexplore Lab dispone de un dispositivo global de conformidad basado en una EIPD marco que cubre el conjunto de tratamientos de inteligencia artificial implementados en el marco de sus actividades educativas.

Este dispositivo se articula en torno a varios componentes.

4.1 Mapeo de usos de IA

Los usos de IA se clasifican según su nivel de riesgo, de conformidad con los principios de la Ley de IA (uso pedagógico, analítico, administrativo, etc.).

Este mapeo permite identificar los tratamientos de nivel «de alto riesgo» y adaptar las medidas de supervisión asociadas.

4.2 Documentación técnica consolidada

Esta documentación describe:

Los flujos de datos entre los usuarios, la plataforma y los proveedores de API de IA;
La lógica de los modelos utilizados y las condiciones de procesamiento de los prompts;
Los mecanismos de supervisión humana que garantizan que las respuestas de IA nunca reemplacen la decisión pedagógica;
Las medidas de filtrado automatizado y verificación antes de cualquier envío de contenido a una API de IA.

4.3 EIPD marco mutualizada

La EIPD marco evalúa globalmente los riesgos relacionados con el tratamiento de datos educativos y define:

Las medidas de seguridad, minimización y seudonimización aplicables a todos los escenarios;
El encuadre de los tratamientos realizados en el ámbito educativo sin necesidad de un análisis de impacto individual, salvo la introducción de nuevas categorías de datos (imágenes, sonidos, biometría) o de nuevas finalidades fuera de la educación.

4.4 Seguimiento documental de los proveedores de IA

Cada proveedor es objeto de una ficha de conformidad que especifica:

La ubicación de los servidores y la jurisdicción aplicable;
Las políticas de conservación y uso de los datos de los usuarios;
Las garantías RGPD declaradas;
El nivel de transparencia y explicabilidad en virtud de la Ley de IA.

4.5 Trazabilidad y prueba de conformidad

Codexplore Lab asegura la conservación:

De los registros de conexión;
De los informes de incidentes;
De los registros de purga;
Y de los procedimientos internos de auditoría.

Estos elementos garantizan la disponibilidad y la integridad de las pruebas de conformidad en caso de control por una autoridad competente.

5. Seguridad, alojamiento e integración

Los datos tratados por TokiChat transitan exclusivamente a través de infraestructuras seguras y cifradas, garantizando la confidencialidad y la integridad de los intercambios.

Los alojamientos respetan las normas europeas (ISO 27001, RGPD, Data Privacy Framework).

5.1 Principios generales

Ningún dato procedente de TokiChat se utiliza para fines de entrenamiento, reentrenamiento o mejora de los modelos de IA, según las políticas declaradas por los proveedores terceros.
Codexplore Lab selecciona exclusivamente API cuyas condiciones de uso garantizan la no explotación de los datos del usuario para estos fines, pero no puede sustituir a los proveedores en cuanto a la verificación efectiva de sus prácticas internas.
Cada proveedor es objeto de una ficha de conformidad actualizada, que especifica los compromisos públicos relativos al tratamiento de datos y al entrenamiento de modelos.
Las solicitudes dirigidas a las API son estrictamente técnicas, efímeras y limitadas al tratamiento necesario para la generación de una respuesta en el ámbito educativo.

5.2 Alojamiento soberano

TokiChat está alojado en Scaleway, en centros de datos ubicados en Francia, certificados ISO 27001 y conformes al RGPD. Esta infraestructura garantiza la soberanía y la seguridad de los datos educativos.

5.3 Autenticación y gestión de identidades

El acceso a los servicios se gestiona a través de Keycloak, asegurando una autenticación centralizada y segura. El sistema es interoperable con ENT, Azure AD y LDAP, facilitando la integración en las infraestructuras escolares.

5.4 Arquitectura técnica

Back-end: NestJS, que proporciona API REST seguras;
Front-end: React, optimizado para ordenadores y tabletas;
Registro: adaptado al contexto escolar, garantizando la trazabilidad sin recopilación superflua.

6. Sistema de IA de confianza

La inteligencia artificial integrada en TokiChat está diseñada como un sistema de asistencia educativa, no de sustitución.

6.1 Supervisión humana

La IA asiste, sin reemplazar, a docentes y alumnos. No realiza ni calificación ni evaluación automática.

Las interacciones son supervisadas para garantizar la pertinencia, la seguridad y la conformidad de los intercambios.

6.2 Agnosticismo de los modelos

TokiChat puede utilizar diversos modelos de IA (GPT, Claude, Mistral, LLaMA, etc.), según la elección del cliente o del contexto. Este posicionamiento multi-proveedor favorece la flexibilidad, la soberanía técnica y la adaptación pedagógica.

6.3 Multifiltrado y control de los intercambios

Filtrado algorítmico automático para detectar y bloquear datos personales o sensibles (en desarrollo);
Filtros de IA especializados alojados en Francia para reforzar la conformidad con el RGPD (en desarrollo);
Supervisión humana y trazabilidad completa de las conversaciones.

6.4 Mejora continua

Los sesgos, errores y comportamientos inapropiados son seguidos, evaluados y corregidos en un plan de mejora continua supervisado por la gobernanza derivada de la EIPD marco.

6.5 Alineación con la Ley de IA

Codexplore Lab persigue un enfoque de progresión hacia los estándares europeos de confianza, integrando transparencia, robustez y minimización sistemática de los datos.

7. Datos, retención y purga

Los datos transmitidos a las API son:

Minimizados;
Temporales (no almacenados más allá del procesamiento);
Eliminados o anonimizados según los plazos contractuales fijados por cada proveedor.

Los usuarios pueden solicitar la supresión de sus interacciones, de conformidad con el derecho al olvido (artículo 17 del RGPD).

8. Derechos y deberes de los usuarios

Cada usuario:

Es informado de que interactúa con una IA;
Conserva el derecho de acceso, rectificación y supresión de sus datos;
Es animado a ejercer una mirada crítica sobre las producciones generadas.

Codexplore Lab se compromete a sensibilizar a los docentes y a los establecimientos asociados sobre los derechos de los usuarios (acceso, rectificación, supresión, oposición) y sobre las buenas prácticas de gestión de datos.

Esta sensibilización se apoya en:

módulos de formación y seminarios web destinados a los equipos pedagógicos y administrativos;
guías y materiales pedagógicos que explican el marco del RGPD y las obligaciones de transparencia aplicables a la IA educativa;
mensajes integrados en la plataforma que recuerdan a los usuarios sus derechos y las instrucciones de buen uso (en desarrollo);
un canal de contacto directo para cualquier solicitud de ejercicio de derechos o notificación de contenido inapropiado.

Estas acciones tienen como objetivo garantizar la comprensión y la aplicación efectiva de los principios de protección de datos por parte de todos los actores educativos.

9. Accesibilidad, inclusión y sobriedad digital

TokiChat está diseñado para ser accesible a todos los públicos y limitar su huella ambiental.

9.1 Accesibilidad

La interfaz de TokiChat está diseñada según los principios del RGAA 4.1, con especial atención a la legibilidad, la simplicidad de navegación y la compatibilidad con las herramientas de asistencia.

Accesibilidad actual. A día de hoy, TokiChat integra:

contrastes de colores conformes a los umbrales de legibilidad RGAA;
estructuras de páginas claras y jerarquizadas, facilitando el uso por parte de los lectores de pantalla;
elementos de reformulación y lectura de audio para acompañar a los alumnos con necesidades específicas.

Mejoras previstas. Codexplore Lab persigue un enfoque de mejora continua de la accesibilidad para lograr una compatibilidad extendida con las tecnologías de asistencia (lectores de pantalla, teclados adaptados, comandos de voz).

Las próximas etapas identificadas incluyen:

una navegación por teclado funcional en todos los recorridos principales;
la adición progresiva de atributos ARIA y etiquetas semánticas en el código fuente para reforzar la compatibilidad técnica;
la validación manual con herramientas de auditoría RGAA/WCAG (ej. Tanaguru, AccessiWeb);
pruebas de usuario en contexto educativo con alumnos con necesidades específicas;
la publicación de un registro de conformidad RGAA, actualizado a medida que se realicen mejoras.

9.2 Inclusión

TokiChat apoya las iniciativas educativas inclusivas facilitando:

El acompañamiento individualizado de los alumnos;
La valoración de la autonomía y la participación activa;
La adaptación de las actividades a diversos contextos (formación, enseñanza especializada, aprendizaje de idiomas).

El uso de la IA en TokiChat se inscribe en una lógica de inclusión activa, buscando hacer los aprendizajes más accesibles y personalizados, sin sustituir la mediación humana.

9.3 Sobriedad digital

Infraestructura alojada en Francia en servidores de baja huella de carbono;
Limitación de tratamientos superfluos y transparencia sobre el consumo energético;
Indicadores pedagógicos de impacto (consumo o huella de carbono) en desarrollo;
Presentación energética de los proveedores de IA (fuente: Ecologits) con recomendaciones de uso.

10. Usos enmarcados y límites

El uso de TokiChat se inscribe en un marco educativo definido, apoyando la misión de enseñanza, inclusión y formación de los alumnos.

10.1 Usos esperados

TokiChat puede ser utilizado para:

El entrenamiento guiado: exploración, reformulación, aprendizaje activo;
La remediación: explicaciones adaptadas, acompañamiento individual;
La estructuración del razonamiento: hipótesis, argumentos, conexión de conocimientos;
La coconstrucción pedagógica: creación y prueba de ejercicios asistidos por IA;
La sensibilización a lo digital y a la IA: desarrollo del espíritu crítico.

10.2 Restricciones

Ninguna automatización de actos decisorios sin validación humana;
Ningún tratamiento de datos sensibles (salud, opiniones, biometría, etc.);
Ningún uso fuera del ámbito educativo;
Ninguna explotación comercial o difusión no autorizada sin acuerdo previo.

10.3 Transparencia y responsabilidad

Codexplore Lab y los establecimientos asociados garantizan una comunicación clara y leal sobre:

Las finalidades de la herramienta;
Los modelos utilizados y sus límites;
Los principios de supervisión humana.

Cada usuario puede informar (hoy por correo electrónico o a través de un canal de Slack dedicado, mañana a través de un formulario integrado en la interfaz) sobre cualquier contenido inapropiado o uso indebido para mejorar la fiabilidad del sistema.

11. Soporte, incidentes y mejora continua

11.1 Acompañamiento

Codexplore Lab pone a disposición guías de inicio, documentación clara y apoyo técnico y pedagógico para facilitar el despliegue de TokiChat.

11.2 Gestión de incidentes

Un canal de notificación por correo electrónico permite informar sobre cualquier anomalía, cuestión de seguridad o solicitud de supresión de datos. Cada incidente se documenta y registra para asegurar la trazabilidad y la conformidad con el RGPD.

11.3 Mejora continua

Codexplore Lab mantiene una hoja de ruta pública que detalla las evoluciones previstas:

Refuerzo de los filtros de datos;
Adición de funcionalidades de explicabilidad pedagógica;
Colaboración con el CREN y el CATIE para la investigación en educación e IA.

12. Revisión y difusión

Esta carta entra en vigor a partir de su fecha de firma. Se actualizará en función de las evoluciones del RGPD, de la Ley de IA y de las prácticas pedagógicas observadas.

13. Anexos

Codexplore Lab — Versión 1.3 – Carta de compromiso moral y de conformidad (octubre de 2025)