O Brasil é um dos países do mundo que mais usa ferramentas de inteligência artificial (IA) generativa. De acordo com uma pesquisa feita pela Ipsos e o Google, divulgada em janeiro de 2025, 54% dos brasileiros relatam que utilizaram IA generativa em 2024, enquanto a média global ficou em 48%.
O crescimento do uso desse tipo de ferramenta tem ampliado a discussão sobre os limites éticos, legais e os impactos subjetivos relacionados a essas tecnologias. Somado a isso, no campo da educação, a plataformização do ensino, caracterizado pela adoção massiva de programas e aplicativos para a gestão pedagógica, ganhou força. A adesão a esse modelo aconteceu sobretudo durante a pandemia da covid-19, quando a demanda por aulas remotas levou a muitas escolas e universidades a adaptarem o modelo de ensino a partir de ferramentas oferecidas por grandes empresas de tecnologia – as chamadas big techs –, como Google e Microsoft.
Para analisar o impacto dessas ferramentas, sobretudo na educação, e os desafios políticos relacionados ao uso de dados e à soberania nacional, o Brasil de Fato Bahia entrevistou a professora e pesquisadora Barbara Coelho. Docente do Instituto de Ciência da Informação da Universidade Federal da Bahia (ICI-UFBA), Barbara é doutora em Educação, pós-doutora em Ciência da Informação, especialista em Questões Éticas da Inteligência Artificial e também vice-presidente do Sindicato dos Professores das Instituições Federais de Ensino Superior da Bahia (Apub Sindicato). É também uma das autoras do Guia para Uso Ético e Responsável da Inteligência Artificial (IA) Generativa na UFBA, uma iniciativa, lançada pela instituição em abril, que sugere diretrizes e recomendações práticas para aplicação desse recurso tecnológico.
Brasil de Fato BA: O avanço das ferramentas de IA tem se dado num passo muito mais veloz do que os debates sobre os limites éticos do uso dessas tecnologias. No campo da educação, quais os principais desafios que os educadores têm enfrentado nesse tema?
Barbara Coelho: A inteligência artificial generativa (IA Gen) está trazendo uma transformação significativa no cenário educacional, especialmente no ensino superior. A literatura científica da área nos últimos dois anos tem argumentado que a IA exige uma revisão das estratégias pedagógicas e do papel dos professores, que devem focar no desenvolvimento de habilidades como criatividade, pensamento crítico e ética. Os principais problemas incluem privacidade de dados, acesso desigual à tecnologia, necessidade de capacitação dos atores educacionais e considerações éticas em torno dos aplicativos de IA.
A privacidade de dados pessoais, mas também de pesquisa e institucionais, é um ponto crucial na questão, pois as informações confidenciais de estudantes e do corpo de servidores docentes e técnicos são frequentemente coletadas, analisadas e, dependendo do acordo realizado com a plataforma digital, utilizadas também para treinar seus algoritmos de IA. As instituições devem garantir a conformidade com os regulamentos para proteger os dados pessoais contra violações e uso indevido.
O avanço das IAs tem sido notavelmente rápido, superando, em muitos casos, a velocidade dos debates sobre seus limites éticos e as adaptações necessárias no campo das instituições de ensino. Nesse cenário, os educadores enfrentam diversos desafios. Vou elencar os três que julgo principais:
O primeiro é o desafio do plágio e da integridade acadêmica proporcionado por ferramentas como o ChatGPT-4, que podem gerar textos convincentes com fragmentos de outros textos da Internet, aprofundando o problema do plágio acadêmico e levantando questões sobre como referenciar conteúdos produzidos por IA.
O segundo desafio são as limitações e vieses da IA. Nesse sentido, é crucial que educadores e estudantes compreendam as limitações das ferramentas de IA, incluindo a possibilidade de “alucinações”, erros conceituais e vieses que podem ser, por exemplo, de gênero ou racial.
O terceiro desafio é a ausência de diretrizes claras e apoio institucional. Ainda se observa uma omissão por parte dos formuladores de políticas públicas e instituições de ensino quanto ao uso da IA em sala de aula, transferindo a responsabilidade para os e as docentes. Nesse sentido, a Universidade Federal da Bahia lançou o Guia para Uso Ético e Responsável da Inteligência Artificial (IA) Generativa na UFBA, com o intuito de sugerir princípios, diretrizes e recomendações sobre o uso da IA na educação superior.
Em relação à plataformização da educação, muitos professores têm apontado o quanto essa dinâmica tem afetado a saúde mental e limitado seu trabalho – o que afeta também a qualidade de ensino dos estudantes. Podemos dizer que esse suposto progresso tecnológico, tem trazido, na verdade, um retrocesso na educação?
A sua observação sobre a plataformização levanta um ponto crucial sobre o avanço da IA no campo educacional. Não se trata, necessariamente, de um retrocesso, mas sim de uma transformação profunda e complexa que impõe desafios significativos, ao mesmo tempo em que oferece potenciais benefícios que exigem uma adaptação estratégica.
Durante o isolamento social provocado pela covid-19, muitas universidades brasileiras passaram a utilizar as plataformas digitais de grandes corporações, como Google e Microsoft, para viabilizar a comunicação e permitir que as pessoas trabalhassem em home office. E assim foi para ensino, pesquisa, extensão e gestão acadêmica. Atualmente, as plataformas digitais operam em alta com algoritmos de IA e consentimos todos os nossos dados para treinamento e modulação de forma que nos tornamos reféns.
O Brasil é um player importante no consumo dessas plataformas digitais, fornecendo dados e gerando pouca inovação, sendo refém de grandes plataformas infraestruturais, conforme apontou André Lemos no último Intercom [Congresso Brasileiro de Ciências da Comunicação]. Além disso, muito se tratou sobre o impacto das plataformas digitais na configuração das relações interpessoais, com o aumento da superficialidade nas interações, onde as conexões digitais frequentemente substituem o contato humano e a interação social real.
O uso crescente de sistemas automatizados para avaliações, vigilância e produtividade acadêmica pode aumentar a pressão por desempenho, além da constante ameaça de redução de autonomia docente. Esses aspectos contribuem para formação de quadros de ansiedade, burnout e sensação de vigilância constante.
Nesse contexto, o relatório de uma pesquisa de Harvard, que reuniu os 100 principais usos da inteligência artificial em 2025, indicou uma mudança de usos técnicos para aplicações emocionais e, em particular, um crescimento em áreas como terapia, produtividade e desenvolvimento pessoal.
O tópico Terapia e Companheirismo aparece em primeiro lugar do ranking, o que quer dizer que muitas pessoas utilizam a IA para questões psicológicas. IAs generativas têm sido utilizadas de forma abrangente como uma conexão social e emocional, às vezes com dimensão romântica.
Neurocientistas, a exemplo do Miguel Nicolelis, têm alertado que o uso excessivo e acrítico dessas tecnologias pode contribuir para um fenômeno que tem sido chamado de brain rot, ou cérebro podre. Segundo Nicolelis, o uso passivo de IAs generativas em momentos de aprendizado pode levar a um tipo de sedentarismo mental. Diante disso, a pergunta central não é o que a IA pode fazer, mas sim “o que nós queremos e devemos fazer com a revolução da IA?”
Além das questões pedagógicas, o uso dessas tecnologias envolve um debate mais amplo que é o de soberania nacional. Afinal, de algum modo estamos cedendo nossos dados e nossa produção de conhecimento para as Big Techs que estão por trás dessas plataformas e IAs. Como você avalia os desafios dessa questão?
No que tange à soberania nacional e à “cessão” de dados e produção de conhecimento para as grandes empresas de tecnologia, a questão é avaliada como um novo tipo de colonialismo, com implicações sérias para a autonomia e o desenvolvimento dos países. A sociedade contemporânea é caracterizada como uma sociedade de plataformas digitais, que funcionam como a infraestrutura da vida moderna, impulsionadas pela coleta sistemática, processamento algorítmico, monetização e circulação de dados.
O amplo domínio de rastreamento de dados é a base do capitalismo de vigilância e da sociedade de plataformas. Essa dataficação se configura como uma nova forma de governamentalidade neoliberal, chamada de “governabilidade algorítmica”, que atua através de dispositivos de coleta, formatação de dados, monitoramento e modulação de perfis.
Estamos vivendo o que alguns autores têm chamado de colonialismo de dados, onde os dados migram do Sul Global para o Norte Global, criando dependência. Fica cada vez mais difícil pensar em soberania nacional desvinculada de soberania de dados. Nesse sentido, estamos ficando cada dia mais próximos do que foi denominado por Yanis Varoufakis de tecnofeudalismo, que se constitui num capitalismo canibal e que tem como cerne os avanços tecnológicos da atualidade, como IA e plataformização da sociedade.
O avanço da extrema direita no mundo – e como as big techs têm se aliado a ela – expõe ainda mais a necessidade de um debate sobre essas tecnologias no campo institucional. Quais caminhos você aponta para enfrentar esse debate, dentro e fora do âmbito da educação?
O modelo de negócios das big techs, focado no engajamento e na priorização de conteúdos polarizadores, favorece diretamente a extrema direita, criando um ambiente digital propício à manipulação da opinião pública e à erosão das instituições democráticas. Nesse contexto, as universidades têm sido alvo de ataques com relação às lutas docentes e políticas cruciais como a do orçamento e das ações afirmativas.
O que observo é que este ano ficou explícita a associação das big techs com governos de extrema direita, intensificando os desafios dessa questão que envolve plataformização, política e educação. Os desafios apontam para um novo tipo de colonialismo, com sérias implicações para a soberania nacional e o desenvolvimento dos países. Acredito que para enfrentar esse debate são necessários caminhos que envolvam a regulação proativa, a soberania tecnológica, o papel do Estado, e profundas transformações na educação.
É preciso pensar em opções alternativas. Após quase um ano do lançamento, eu esperava mais empenho e ações advindas do Plano Brasileiro de Inteligência Artificial (PBIA). Em paralelo a isso, é necessário pressionar estes parlamentares do Congresso Nacional para a urgência de regulação proativa das plataformas e da IA.
No dia 27 de junho, o STF [Supremo Tribunal Federal] concluiu uma nova interpretação do artigo 19 do Marco Civil da Internet. As big techs terão que aceitar uma mudança em um de seus pontos centrais: a responsabilidade das empresas. Esperamos que esta mudança traga algum equilíbrio entre o que tem sido defendido como liberdade de expressão e a proteção de direitos no ambiente digital.
O debate sobre regulação e autonomia tecnológica do Brasil, ao meu ver, é urgente, pois o que temos visto crescer são pessoas questionáveis sendo eleitas por algoritmos, nazismo, fascismo, racismo e golpismo monetizado, misoginia por todos os lados, crianças mortas após desafios que circulam em redes sociais, e me assusta como isso é colocado muitas vezes como um efeito colateral banal. Do outro lado, big techs com lucros recordes, e que não têm mais vergonha de dizer de que lado estão, vão passo a passo ganhando espaço na esfera comportamental e no cenário político.
