Carta de Compromisso Moral e de Conformidade

Editor: Codexplore Lab
Solução: TokiChat
Versão: v1.3

1. Objeto e Âmbito

A presente carta define os compromissos da Codexplore Lab, criadora da solução TokiChat, em matéria de uso responsável, ético e em conformidade com o direito europeu da inteligência artificial (IA) no domínio educativo.

Aplica-se a todos os serviços, experimentações e parcerias que implementam sistemas de IA para a aprendizagem, formação e criação de conteúdos pedagógicos.

O objetivo é duplo:

Garantir o respeito pelos valores éticos fundamentais da educação (autonomia, equidade, benevolência);
Assegurar a conformidade jurídica com o RGPD e o Regulamento Europeu sobre a IA (IA Act), no âmbito de uma governação já estabelecida pela AIPD-quadro da Codexplore Lab.

2. Princípios Orientadores

A Codexplore Lab compromete-se a promover um uso da IA:

Transparente, informando claramente os utilizadores de que interagem com um sistema de IA;
Seguro, limitando estritamente a recolha, conservação e tratamento dos dados;
Supervisionado, mantendo uma intervenção humana constante nos processos educativos;
Equitativo, evitando enviesamentos, discriminação e qualquer forma de automatização injustificada;
Aberto e explicável, favorecendo a compreensão do funcionamento das IAs junto dos professores e dos alunos.

3. Governança e Responsabilidades

A governança da IA educativa baseia-se numa cadeia de responsabilidade clara.

Ator	Papel e responsabilidade
Codexplore Lab / TokiChat	Responsável pela implementação e garante da conformidade global do sistema de IA no âmbito educativo.
Fornecedores de API de IA (OpenAI, Mistral, Anthropic, etc.)	Fornecedores de modelos de uso geral (GPAI): responsáveis pela conformidade dos seus modelos e da documentação associada.
Estabelecimentos parceiros	Responsáveis pelo uso local da solução e garantes do respeito pelo RGPD para os dados introduzidos.
Utilizadores finais (professores, alunos)	Informados sobre a natureza das interações com a IA e sensibilizados para os seus direitos.

Utilizadores menores e responsabilidade dos dados

O acesso ao TokiChat é reservado a menores com mais de 13 anos, em conformidade com o artigo 8.º do Regulamento Geral sobre a Proteção de Dados (RGPD), idade a partir da qual o menor pode consentir sozinho no tratamento dos seus dados pessoais num contexto educativo.

A Codexplore Lab implementa mecanismos técnicos e pedagógicos de prevenção (filtros automáticos, mensagens de sensibilização, exibições educativas) visando impedir a introdução ou transmissão de dados sensíveis.

Contudo, a responsabilidade da Codexplore Lab não poderá ser invocada se um utilizador transmitir voluntariamente informações pessoais ou sensíveis em violação das instruções de uso.

Os estabelecimentos e professores parceiros são convidados a recordar estas regras de prudência nas suas ações de sensibilização.

4. Conformidade com o IA Act e o RGPD

A Codexplore Lab dispõe de um dispositivo global de conformidade baseado numa AIPD-quadro que abrange todos os tratamentos de inteligência artificial implementados no âmbito das suas atividades educativas.

Este dispositivo articula-se em torno de várias componentes.

4.1 Mapeamento dos usos da IA

Os usos da IA são classificados de acordo com o seu nível de risco, em conformidade com os princípios do IA Act (uso pedagógico, analítico, administrativo, etc.).

Este mapeamento permite identificar os tratamentos de nível «alto risco» e adaptar as medidas de supervisão associadas.

4.2 Documentação técnica consolidada

Esta documentação descreve:

Os fluxos de dados entre os utilizadores, a plataforma e os fornecedores de API de IA;
A lógica dos modelos utilizados e as condições de tratamento dos prompts;
Os mecanismos de supervisão humana que garantem que as respostas da IA nunca substituem a decisão pedagógica;
As medidas de filtragem automatizada e de verificação antes de qualquer envio de conteúdo para uma API de IA.

4.3 AIPD-quadro mutualizada

A AIPD-quadro avalia globalmente os riscos relacionados com o tratamento de dados educativos e define:

As medidas de segurança, minimização e pseudonimização aplicáveis a todos os cenários;
O enquadramento dos tratamentos realizados no âmbito educativo sem necessidade de análise de impacto individual, exceto na introdução de novas categorias de dados (imagens, sons, biometria) ou de novas finalidades fora da educação.

4.4 Acompanhamento documental dos fornecedores de IA

Cada fornecedor é objeto de uma ficha de conformidade que especifica:

A localização dos servidores e a jurisdição aplicável;
As políticas de conservação e utilização dos dados dos utilizadores;
As garantias RGPD declaradas;
O nível de transparência e explicabilidade ao abrigo do IA Act.

4.5 Rastreabilidade e prova de conformidade

A Codexplore Lab assegura a conservação:

Dos registos de conexão;
Dos relatórios de incidentes;
Dos registos de purga;
E dos procedimentos internos de auditoria.

Estes elementos garantem a disponibilidade e a integridade das provas de conformidade em caso de controlo por uma autoridade competente.

5. Segurança, alojamento e integração

Os dados tratados pelo TokiChat transitam exclusivamente através de infraestruturas seguras e cifradas, garantindo a confidencialidade e a integridade das trocas.

Os alojamentos respeitam as normas europeias (ISO 27001, RGPD, Data Privacy Framework).

5.1 Princípios gerais

Nenhum dado proveniente do TokiChat é utilizado para fins de treino, retreino ou melhoria dos modelos de IA, de acordo com as políticas declaradas pelos fornecedores terceiros.
A Codexplore Lab seleciona exclusivamente APIs cujas condições de utilização garantem a não exploração dos dados do utilizador para esses fins, mas não pode substituir os fornecedores quanto à verificação efetiva das suas práticas internas.
Cada fornecedor é objeto de uma ficha de conformidade atualizada, especificando os compromissos públicos relativos ao tratamento dos dados e ao treino dos modelos.
As requisições endereçadas às APIs são estritamente técnicas, efémeras e limitadas ao tratamento necessário para a geração de uma resposta no âmbito educativo.

5.2 Alojamento soberano

O TokiChat está alojado na Scaleway, em datacenters localizados em França, certificados ISO 27001 e em conformidade com o RGPD. Esta infraestrutura garante a soberania e a segurança dos dados educativos.

5.3 Autenticação e gestão de identidades

O acesso aos serviços é gerido via Keycloak, assegurando uma autenticação centralizada e segura. O sistema é interoperável com ENT, Azure AD e LDAP, facilitando a integração nas infraestruturas escolares.

5.4 Arquitetura técnica

Back-end: NestJS, fornecendo APIs REST seguras;
Front-end: React, otimizado para computadores e tablets;
Registo: adaptado ao contexto escolar, garantindo a rastreabilidade sem recolha supérflua.

6. Sistema de IA de confiança

A inteligência artificial integrada no TokiChat é concebida como um sistema de assistência educativa, não de substituição.

6.1 Supervisão humana

A IA assiste, sem substituir, os professores e alunos. Não realiza nem classificação nem avaliação automática.

As interações são supervisionadas a fim de garantir a pertinência, a segurança e a conformidade das trocas.

6.2 Agnosticismo dos modelos

O TokiChat pode utilizar diversos modelos de IA (GPT, Claude, Mistral, LLaMA, etc.), de acordo com a escolha do cliente ou do contexto. Este posicionamento multi-fornecedores favorece a flexibilidade, a soberania técnica e a adaptação pedagógica.

6.3 Multi-filtragem e controlo das trocas

Filtragem algorítmica automática para detetar e bloquear dados pessoais ou sensíveis (em desenvolvimento);
Filtros de IA especializados alojados em França para reforçar a conformidade com o RGPD (em desenvolvimento);
Supervisão humana e rastreabilidade completa das conversas.

6.4 Melhoria contínua

Os enviesamentos, erros e comportamentos inadequados são monitorizados, avaliados e corrigidos num plano de melhoria contínua supervisionado pela governança resultante da AIPD-quadro.

6.5 Alinhamento com o IA Act

A Codexplore Lab prossegue uma abordagem de progressão em direção aos padrões europeus de confiança, integrando transparência, robustez e minimização sistemática dos dados.

7. Dados, retenção e purga

Os dados transmitidos às APIs são:

Minimizados;
Temporários (não armazenados para além do tratamento);
Eliminados ou anonimizados de acordo com os prazos contratuais definidos por cada fornecedor.

Os utilizadores podem solicitar a eliminação das suas interações, em conformidade com o direito ao apagamento (artigo 17.º do RGPD).

8. Direitos e deveres dos utilizadores

Cada utilizador:

É informado de que interage com uma IA;
Mantém o direito de acesso, retificação e apagamento dos seus dados;
É encorajado a exercer um olhar crítico sobre as produções geradas.

A Codexplore Lab compromete-se a sensibilizar os professores e os estabelecimentos parceiros para os direitos dos utilizadores (acesso, retificação, eliminação, oposição) e para as boas práticas de gestão dos dados.

Esta sensibilização baseia-se em:

módulos de formação e webinars destinados às equipas pedagógicas e administrativas;
guias e materiais pedagógicos que explicam o quadro do RGPD e as obrigações de transparência aplicáveis à IA educativa;
mensagens integradas na plataforma que recordam aos utilizadores os seus direitos e as instruções de bom uso (em desenvolvimento);
um canal de contacto direto para qualquer pedido de exercício de direitos ou denúncia de conteúdo inadequado.

Estas ações visam garantir a compreensão e a aplicação efetiva dos princípios de proteção de dados por todos os intervenientes educativos.

9. Acessibilidade, inclusão e sobriedade digital

O TokiChat foi concebido para ser acessível a todos os públicos e limitar a sua pegada ambiental.

9.1 Acessibilidade

A interface do TokiChat é concebida de acordo com os princípios do RGAA 4.1, com particular atenção à legibilidade, à simplicidade de navegação e à compatibilidade com as ferramentas de assistência.

Acessibilidade atual. Até à data, o TokiChat integra:

contrastes de cores em conformidade com os limiares de legibilidade RGAA;
estruturas de páginas claras e hierarquizadas, facilitando o uso por leitores de ecrã;
elementos de reformulação e de leitura áudio para acompanhar os alunos com necessidades específicas.

Melhorias previstas. A Codexplore Lab prossegue uma abordagem de melhoria contínua da acessibilidade a fim de alcançar uma compatibilidade alargada com as tecnologias de assistência (leitores de ecrã, teclados adaptados, comandos de voz).

As próximas etapas identificadas incluem:

uma navegação por teclado funcional em todos os percursos principais;
a adição progressiva de atributos ARIA e de etiquetas semânticas no código fonte para reforçar a compatibilidade técnica;
a validação manual com ferramentas de auditoria RGAA/WCAG (ex. Tanaguru, AccessiWeb);
testes de utilizadores em contexto educativo com alunos com necessidades específicas;
a publicação de um registo de conformidade RGAA, atualizado à medida das melhorias.

9.2 Inclusão

O TokiChat apoia as abordagens educativas inclusivas facilitando:

O acompanhamento individualizado dos alunos;
A valorização da autonomia e da participação ativa;
A adaptação das atividades a diversos contextos (formação, ensino especializado, aprendizagem de línguas).

O uso da IA no TokiChat insere-se numa lógica de inclusão ativa, visando tornar as aprendizagens mais acessíveis e personalizadas, sem substituir a mediação humana.

9.3 Sobriedade digital

Infraestrutura alojada em França em servidores com baixa pegada de carbono;
Limitação dos tratamentos supérfluos e transparência sobre o consumo energético;
Indicadores pedagógicos de impacto (consumo ou pegada de carbono) em desenvolvimento;
Apresentação energética dos fornecedores de IA (fonte: Ecologits) com recomendações de uso.

10. Usos enquadrados e limites

O uso do TokiChat insere-se num quadro educativo definido, apoiando a missão de ensino, inclusão e formação dos alunos.

10.1 Usos esperados

O TokiChat pode ser mobilizado para:

O treino guiado: exploração, reformulação, aprendizagem ativa;
A remediação: explicações adaptadas, acompanhamento individual;
A estruturação do raciocínio: hipóteses, argumentos, ligação dos conhecimentos;
A co-construção pedagógica: criação e teste de exercícios assistidos por IA;
A sensibilização para o digital e a IA: desenvolvimento do espírito crítico.

10.2 Restrições

Nenhuma automatização de atos decisionais sem validação humana;
Nenhum tratamento de dados sensíveis (saúde, opiniões, biometria, etc.);
Nenhum uso fora do âmbito educativo;
Nenhuma exploração comercial ou difusão não autorizada sem acordo prévio.

10.3 Transparência e responsabilidade

A Codexplore Lab e os estabelecimentos parceiros garantem uma comunicação clara e leal sobre:

As finalidades da ferramenta;
Os modelos utilizados e os seus limites;
Os princípios de supervisão humana.

Cada utilizador pode reportar (hoje por e-mail ou através de um canal Slack dedicado, amanhã através de um formulário integrado na interface) qualquer conteúdo inadequado ou uso indevido a fim de melhorar a fiabilidade do sistema.

11. Suporte, incidentes e melhoria contínua

11.1 Acompanhamento

A Codexplore Lab disponibiliza guias de iniciação, documentação clara e apoio técnico e pedagógico para facilitar a implementação do TokiChat.

11.2 Gestão de incidentes

Um canal de denúncia por e-mail permite reportar qualquer anomalia, questão de segurança ou pedido de eliminação de dados. Cada incidente é documentado e registado a fim de assegurar a rastreabilidade e a conformidade com o RGPD.

11.3 Melhoria contínua

A Codexplore Lab mantém um roteiro público que especifica as evoluções previstas:

Reforço dos filtros de dados;
Adição de funcionalidades de explicabilidade pedagógica;
Colaboração com o CREN e o CATIE para a investigação em educação e IA.

12. Revisão e difusão

Esta carta entra em vigor a partir da sua data de assinatura. Será atualizada em função das evoluções do RGPD, do IA Act e das práticas pedagógicas observadas.

13. Anexos

Codexplore Lab — Versão 1.3 – Carta de compromisso moral e de conformidade (outubro de 2025)