O Ministério da Educação (MEC) homologou, em 10 de novembro, o Parecer aprovado pelo Conselho Nacional de Educação (CNE) que estabelece diretrizes para a utilização da inteligência artificial (IA) na educação brasileira. O documento apresenta parâmetros para a adoção da tecnologia nos sistemas de ensino e nas instituições educacionais, públicas e privadas, abrangendo a Educação Básica e a Educação Superior.
As diretrizes têm como finalidade assegurar que a incorporação da inteligência artificial aos processos de ensino, aprendizagem e gestão educacional ocorra de maneira ética, responsável e pedagogicamente fundamentada. Entre os princípios estão: a centralidade da regência humana; a valorização da atuação docente; a supervisão humana; a proteção de dados pessoais; a segurança da informação; a transparência algorítmica; a inclusão; a equidade; a autonomia pedagógica das instituições de ensino; a sustentabilidade digital; a responsabilidade ambiental; entre outros.
Um dos pontos mais importantes das diretrizes é a adoção de um modelo de classificação das aplicações de inteligência artificial baseado em riscos, que estabelece diferentes exigências de governança, transparência, supervisão e proteção de direitos, de acordo com os possíveis impactos advindos dessa tecnologia no ambiente educacional.
A classificação baseada no risco considera a finalidade da aplicação, seu grau de autonomia, os tipos de dados tratados, o potencial impacto sobre os direitos estudantis, o nível de automação das decisões, a possibilidade de perfilização e a reversibilidade dos efeitos produzidos. Dessa forma, as aplicações de IA utilizadas no ambiente educacional são divididas em quatro categorias: baixo risco; risco moderado; alto risco; e risco excessivo ou incompatível com as finalidades educacionais.
As aplicações consideradas de baixo risco compreendem aquelas utilizadas como ferramentas de apoio instrumental, organizacional, pedagógico complementar ou de acessibilidade, que não produzam impactos relevantes sobre os direitos dos estudantes, processos avaliativos ou decisões acadêmicas.
Já as aplicações de risco moderado correspondem às ferramentas que oferecem apoio pedagógico, acadêmico ou administrativo e envolvem interação contínua com estudantes, personalização da aprendizagem, recomendações acadêmicas ou tratamento sistemático de informações educacionais, sem produzir decisões automatizadas com efeitos relevantes sobre sua trajetória acadêmica. Nessa categoria incluem-se sistemas de tutoria automatizada, ferramentas de feedback formativo, assistentes virtuais institucionais, entre outros. Essas aplicações exigem medidas adicionais de proteção, como a comunicação clara acerca de sua utilização, registro institucional, revisão humana dos resultados, monitoramento periódico de erros e vieses e disponibilização de canais para esclarecimento ou contestação de recomendações.
As aplicações de alto risco, por sua vez, compreendem aquelas capazes de produzir, apoiar ou influenciar decisões relevantes sobre os direitos dos estudantes e sua trajetória educacional, principalmente em processos relacionados à avaliação, seleção, certificação, progressão, permanência, concessão de benefícios e aplicação de sanções disciplinares. Além disso, também são consideradas de alto risco as ferramentas de detecção de conteúdo gerado por IA utilizadas em apurações acadêmicas ou disciplinares, bem como os sistemas de pré-correção de redações e avaliações dissertativas. Para essas aplicações, exigem-se salvaguardas reforçadas, como a avaliação prévia de impacto algorítmico, supervisão humana qualificada e documentada, transparência, rastreabilidade, auditoria institucional, monitoramento de vieses e possibilidade de contestação e revisão dos resultados.
A última categoria compreende as aplicações consideradas de risco excessivo ou incompatíveis com as finalidades educacionais. Ou seja, são aquelas incompatíveis com os objetivos da educação e com a proteção dos direitos dos estudantes, tendo em vista seu potencial de discriminação, vigilância indevida, exploração de vulnerabilidades ou comprometimento dos processos educativos. Essas aplicações são vedadas nos sistemas de ensino e nas instituições educacionais. Entre as aplicações proibidas estão: sistemas de pontuação social, vigilância emocional e reconhecimento ou inferência automatizada de emoções; vigilância biométrica contínua e monitoramento permanente; perfilização psicológica, biométrica ou comportamental para fins discriminatórios, disciplinares, comerciais ou de restrição de oportunidades; entre outros.
As vedações previstas serão aplicadas imediatamente a partir da publicação da resolução, sendo que os sistemas de ensino e as instituições educacionais terão o prazo de 12 meses, contado dessa publicação, para adequação de suas políticas, procedimentos, contratos e mecanismos de governança. Além disso, a implementação deve considerar as particularidades de cada etapa de ensino, com atenção especial à proteção de crianças e adolescentes.
A inteligência artificial está cada vez mais presente no cotidiano do sistema educacional brasileiro, transformando as formas de ensinar, aprender e gerir os processos educativos. Nesse aspecto, o estabelecimento de diretrizes para sua utilização representa um avanço importante na construção de parâmetros regulatórios capazes de conciliar inovação tecnológica e proteção de direitos fundamentais. Ao definir critérios de utilização, níveis de risco e mecanismos de supervisão e governança, as diretrizes buscam assegurar que a utilização da IA no ambiente educacional ocorra de maneira ética, segura e responsável, principalmente no tocante à proteção de crianças e adolescentes.
Comentários(0)
Participe da conversa. Não é preciso cadastro.
Seja o primeiro a comentar.
Deixe seu comentário
