Inteligência Artificial ameaça autonomia dos estudantes e exige reação das escolas

A Inteligência Artificial já está nas escolas, nos celulares, nos mecanismos de busca e nas redes sociais utilizados diariamente por crianças e adolescentes. Para a especialista brasileira Catharina Doria, o desafio da educação não é apenas compreender essa transformação tecnológica, mas impedir que ela enfraqueça a capacidade dos estudantes de pensar, criar e agir por conta própria.

O tema esteve no centro da palestra "Ação sindical e pedagógica frente à Inteligência Artificial", realizada na quarta-feira (5), durante o VIII Encontro Regional do Movimento Pedagógico Latino-Americano (MPL) Stella Maldonado, que reúne educadores e dirigentes sindicais de diversos países da América Latina em Bogotá.

Especialista em inteligência artificial ética e responsável, Doria apresentou uma análise crítica sobre o avanço das tecnologias generativas nas escolas e defendeu que sindicatos, professores e sistemas educacionais construam estratégias para proteger estudantes diante dos impactos sociais, cognitivos e pedagógicos dessas ferramentas.

"A inteligência artificial generativa é um risco para as nossas crianças e para os nossos estudantes. O letramento crítico da inteligência artificial é extremamente necessário. E as escolas e os professores precisam se posicionar", alertou.

Aprender vai além dos conteúdos

Ao abordar os efeitos da IA generativa na educação, Doria argumentou que a escola não existe apenas para transmitir conteúdos curriculares. "A gente vai para a escola para aprender a pensar. Como é que eu organizo meu pensamento? Como é que eu organizo meu conhecimento?".

Segundo ela, o ambiente escolar também é fundamental para desenvolver competências sociais e construir a identidade dos estudantes.

"A escola é um âmbito social. As crianças vão lá aprender a viver em sociedade, aprender a dizer sim, a dizer não, brigar com os outros e depois pedir desculpas."

A "dívida cognitiva" das novas gerações

Um dos conceitos centrais apresentados durante a palestra foi o de "dívida cognitiva". De acordo com Doria, estudantes que recorrem constantemente à Inteligência Artificial para resumir textos, escrever trabalhos ou formular respostas deixam de desenvolver habilidades fundamentais de leitura, escrita e raciocínio.

Ela explicou que, enquanto os adultos correm o risco de perder competências já adquiridas, as crianças podem sequer chegar a desenvolvê-las.

"As crianças que não aprenderam a ler, não aprenderam a escrever e não adquiriram essas habilidades, elas não estão perdendo habilidades. Elas não estão criando as habilidades."

A especialista alertou ainda para o impacto sobre a autonomia dos estudantes.

"Estamos falando de uma geração que vai estar superdependente de uma ferramenta para ler, pensar, escrever e exercer a própria cidadania."

Outro problema apontado foi a perda da autoria. Segundo Doria, muitos jovens deixam de reconhecer como seus os textos produzidos com apoio intenso da inteligência artificial.

"As crianças que estão utilizando essas ferramentas para criação não veem elas mesmas no que estão criando."

"Amigos" que não dizem não

A palestrante também chamou atenção para os impactos sociais provocados pelos sistemas de IA. Segundo ela, plataformas como ChatGPT, Claude e Gemini foram desenvolvidas para manter o usuário engajado e, por isso, tendem a validar opiniões e comportamentos.

"Essas ferramentas foram criadas para ser bajuladoras. Elas foram feitas para dizer sempre que você é lindo, maravilhoso, que suas ideias são as melhores."

Ao citar pesquisas recentes, Doria afirmou que sistemas de IA tendem a validar comportamentos negativos com frequência superior à observada em interações humanas, dificultando processos como autocrítica, responsabilização e reconhecimento de erros.

"As pessoas que estão usando IA generativa estão achando que estão menos erradas, porque a IA sempre fala que elas são lindas, perfeitas e maravilhosas."

Para ela, os efeitos podem ser particularmente graves entre crianças e adolescentes que ainda estão desenvolvendo habilidades de convivência. "A gente está falando de um problema enorme e muito perigoso para essa próxima geração."

Big techs e a disputa pelas escolas

Um dos momentos mais contundentes da palestra foi dedicado ao modelo de negócios das grandes empresas de tecnologia. Doria argumentou que o mercado de Inteligência Artificial atravessa um momento de forte investimento financeiro e que as escolas passaram a ocupar posição estratégica nesse processo.

"As big techs, hoje, estão focando nas escolas."

Segundo ela, muitas empresas oferecem plataformas gratuitamente para criar dependência tecnológica e conquistar futuros usuários.

"É grátis agora e logo, logo, a gente fala sobre dinheiro."

A pesquisadora também criticou o contraste entre os produtos vendidos ao público e as escolhas educacionais feitas por lideranças do setor tecnológico.

"Eles estão vendendo IA generativa para as nossas crianças como se fosse a melhor coisa do mundo. Mas onde os bilionários da tecnologia colocam os filhos deles? Em escolas que focam no contato humano, na brincadeira, no ficar sem tela."

Ensinar a questionar

Apesar das críticas, Doria deixou claro que não defende ignorar a existência da Inteligência Artificial.

Para ela, a tecnologia já faz parte da realidade dos estudantes e, justamente por isso, deve ser compreendida criticamente.

"A gente precisa falar sobre IA na sala de aula porque a IA está em todos os lugares."

A especialista defendeu que as escolas desenvolvam processos de letramento crítico baseados em perguntas, e não em treinamento para uso das ferramentas.

"O letramento crítico não é falar 'esse é o prompt que você tem que fazer'. O letramento crítico é fazer perguntas."

Ela propôs que educadores trabalhem com os estudantes três questões centrais: quem está por trás da tecnologia, como ela funciona e quais são suas consequências sociais, políticas e ambientais.

Governança e organização das escolas

Na etapa final da palestra, Doria apresentou recomendações para que escolas e sistemas educacionais organizem o uso da inteligência artificial, mapeando ferramentas, avaliando riscos e definindo responsabilidades.

Segundo ela, a ausência de regras também é uma escolha.

"Uma escola sem posicionamento sobre IA é uma escola com posicionamento. Não dar uma resposta também é uma resposta."

A pesquisadora defendeu que professores, gestores e comunidades escolares debatam coletivamente quais tecnologias serão utilizadas e em quais condições.

Ao encerrar sua participação, retomou a influência de Paulo Freire em sua visão sobre educação e tecnologia.

"É responsabilidade nossa proteger as próximas crianças e o futuro delas."

Para Doria, o principal desafio não é acompanhar uma inovação tecnológica, mas garantir que as novas gerações continuem capazes de pensar com autonomia e transformar a realidade em que vivem.

"As crianças precisam poder pensar com as próprias cabecinhas."