Conselho Nacional de Educação regulamenta uso de IA

O Conselho Nacional de Educação (CNE) aprovou a regulamentação do uso de inteligência artificial (IA) por escolas e universidades . Regras passarão a valer após a homologação pelo Ministério da Educação (MEC).

Novas regras estão dispostas nas Diretrizes Orientadoras da Utilização da Inteligência Artificial na Educação Brasileira . Segundo o documento, o uso de IA deve ser classificado por nível de risco, respeitando a Lei Geral de Proteção de Dados.

Enquanto ferramentas de apoio, como organização e acessibilidade, são categorizadas como nível baixo de risco, sistemas de correção automática e monitoramento biométrico são enquadrados como alto risco, exigindo, assim, monitoramento constante.

Tiago Diana, especialista em educação e diretor do Colégio Sigma, defende que o registro de diretrizes atua mais como um marco de segurança do que como aumento da burocracia no uso da IA. O diretor ainda lembra que, a princípio, será necessário o empenho de professores e equipes pedagógicas na construção de protocolos.

"A inteligência artificial chegou à escola antes de termos construído, coletivamente, os critérios para utilizá-la. Agora, precisamos transformar o “pode ou não pode” em uma discussão mais madura de quando, como e para quê utilizar a IA na educação".

O principal ponto a ser estabelecido pelas Diretrizes Orientadoras da Utilização da Inteligência Artificial na Educação Brasileira é que decisões pedagógicas devem ser de responsabilidade de professores e gestores das escolas e universidades.

Tendo em vista que a tecnologia pode auxiliar na personalização do ensino, acesso a conteúdos e acompanhamento de desenvolvimento, mas não é possível substituir a atuação do professor em sala de aula.

Escolas e universidades devem também seguir regras de transparência e governança e informar quando os sistemas automatizados forem usados. Esses sistemas são enquadrados em níveis de risco de uso, visto que, quando o risco é excessivo, seu uso é proibido.

Baixo risco : ferramentas de apoio que não interferem em decisões acadêmicas ou em direitos de alunos. Para esse nível, são exigidos transparência básica, segurança da informação e responsabilidade da instituição. Exemplo: organização de materiais; acessibilidade; revisão de texto sem avaliação; planejamento de aulas.

Risco moderado : ferramentas que têm acesso aos alunos ou recomendações, sem decisão automática. As regras para esse nível são: informar uso, registrar sistemas, revisão humana obrigatória, monitoramento e restrição ao uso de dados. Exemplo: tutores virtuais; feedback formativo; assistentes institucionais; apoio à escrita.

Alto risco : sistemas que interferem de forma ativa na vida ou direitos acadêmicos. Para esses sistemas, são exigidos avaliação prévia de impacto, relatório de dados, supervisão contínua, auditoria e direito de contestação. Exemplos: correção automática de provas; monitoramento biométrico; perfilização de alunos; seleção e certificação.

Risco excessivo : ferramentas com as quais suas aplicações são incompatíveis com princípios educacionais. Esses sistemas são proibidos de serem usados.