EDUCAÇÃO E TECNOLOGIAS

Formação docente, inteligência artificial

e humanismo em tempos de desafios
 AVALIAÇÃO, PARECER E REVISÃO POR PARES
Os textos que compõem esta obra foram avaliados por pares e indicados para publicação.

Dados Internacionais de Catalogação na Publicação (CIP)

Bibliotecária responsável: Maria Alice Benevidez CRB-1/588

E26 Educação e tecnologias: formação docente, inteligência artificial e

1. ed. humanismo em tempos de desafios [recurso eletrônico] /
[Orgs.] Luís Fernando Lopes. André Luiz Moscaleski Cavazzani. –
[Link]. – Curitiba-PR, Editora Bagai, 2023, 245p.

Recurso digital.
Formato: e-book

ISBN: 978-65-5368-316-7

[Link]
R

1. Educação. 2. Tecnologias. 3. Inteligência Artificial.

4. Formação Docente. 5. Humanismo.
I. Lopes, Luís Fernando. II. Cavazzani, André Luiz Moscaleski.

CDD 370.7
10-2023/85 CDU 37.01

Índice para catálogo sistemático:

1. Ensino: Práticas docentes 370.7

[Link]
R

Proibida a reprodução total ou parcial desta obra sem autorização prévia da Editora BAGAI por qualquer processo,
meio ou forma, especialmente por sistemas gráficos (impressão), fonográficos, microfílmicos, fotográficos, videográficos,
reprográficos, entre outros. A violação dos direitos autorais é passível de punição como crime (art. 184 e parágrafos do
Código Penal) com pena de multa e prisão, busca e apreensão e indenizações diversas (arts. 101 a 110 da Lei 9.610 de
19.02.1998, Lei dos Direitos Autorais).

Este livro foi composto pela Editora Bagai.

[Link] /editorabagai
/editorabagai contato@[Link]
 Luís Fernando Lopes
André Luiz Moscaleski Cavazzani
Organizadores

EDUCAÇÃO E TECNOLOGIAS
Formação docente, inteligência artificial
e humanismo em tempos de desafios
1.ª Edição - Copyright© 2023 dos autores
Direitos de Edição Reservados à Editora Bagai.
O conteúdo de cada capítulo é de inteira e exclusiva responsabilidade do(s) seu(s) respectivo(s) autor(es). As
normas ortográficas, questões gramaticais, sistema de citações e referencial bibliográfico são prerrogativas de
cada autor(es).

Editor-Chefe Cleber Bianchessi

Revisão José Bernardo dos Santos Junior
Capa Rodrigo Otávio dos Santos
Adequação de Capa Brenner Silva
e Diagramação
Conselho Editorial Dr. Adilson Tadeu Basquerote – UNIDAVI
Dr. Anderson Luiz Tedesco – UNOCHAPECÓ
Dra. Andréa Cristina Marques de Araújo - CESUPA
Dra. Andréia de Bem Machado – UFSC
Dra. Andressa Graziele Brandt – IFC - UFSC
Dr. Antonio Xavier Tomo - UPM - MOÇAMBIQUE
Dra. Camila Cunico – UFPB
Dr. Carlos Alberto Ferreira – UTAD - PORTUGAL
Dr. Carlos Luís Pereira – UFES
Dr. Claudino Borges – UNIPIAGET – CABO VERDE
Dr. Cledione Jacinto de Freitas – UFMS
Dra. Clélia Peretti - PUCPR
Dra. Daniela Mendes V da Silva – SEEDUCRJ
Dr. Deivid Alex dos Santos - UEL
Dra. Denise Rocha – UFU
Dra. Elisa Maria Pinheiro de Souza – UEPA
Dra. Elisângela Rosemeri Martins – UESC
Dra. Elnora Maria Gondim Machado Lima - UFPI
Dr. Ernane Rosa Martins – IFG
Dra. Flavia Gaze Bonfim – UFF
Dr. Francisco Javier Cortazar Rodríguez - Universidad Guadalajara – MÉXICO
Dra. Geuciane Felipe Guerim Fernandes – UENP
Dr. Hélder Rodrigues Maiunga - ISCED-HUILA - ANGOLA
Dr. Helio Rosa Camilo – UFAC
Dra. Helisamara Mota Guedes – UFVJM
Dr. Humberto Costa – UFPR
Dra. Isabel Maria Esteves da Silva Ferreira – IPPortalegre - PORTUGAL
Dr. João Hilton Sayeg de Siqueira – PUC-SP
Dr. João Paulo Roberti Junior – UFRR
Dr. Joao Roberto de Souza Silva - MACKENZIE
Dr. Jorge Carvalho Brandão – UFC
Dr. Jorge Henrique Gualandi - IFES
Dr. Juan Eligio López García – UCF-CUBA
Dr. Juan Martín Ceballos Almeraya - CUIM-MÉXICO
Dr. Juliano Milton Kruger - IFAM
Dra. Karina de Araújo Dias – SME/PMF
Dra. Larissa Warnavin – UNINTER
Dr. Lucas Lenin Resende de Assis - UFLA
Dr. Luciano Luz Gonzaga – SEEDUCRJ
Dra. Luísa Maria Serrano de Carvalho - Instituto Politécnico de Portalegre/CIEP-UE - POR
Dr. Luiz M B Rocha Menezes – IFTM
Dr. Magno Alexon Bezerra Seabra - UFPB
Dr. Marciel Lohmann – UEL
Dr. Márcio de Oliveira – UFAM
Dr. Marcos A. da Silveira – UFPR
Dra. María Caridad Bestard González - UCF-CUBA
Dra. Maria Lucia Costa de Moura – UNIP
Dra. Marta Alexandra Gonçalves Nogueira - IPLEIRIA - PORTUGAL
Dra. Nadja Regina Sousa Magalhães – FOPPE-UFSC/UFPel
Dra. Patricia de Oliveira - IF BAIANO
Dr. Paulo Roberto Barbosa – FATEC-SP
Dr. Porfirio Pinto – CIDH - PORTUGAL
Dr. Rogério Makino – UNEMAT
Dr. Reiner Hildebrandt-Stramann - Technische Universität Braunschweig - ALEMANHA
Dr. Reginaldo Peixoto – UEMS
Dr. Ricardo Cauica Ferreira - UNITEL - ANGOLA
Dr. Ronaldo Ferreira Maganhotto – UNICENTRO
Dra. Rozane Zaionz - SME/SEED
Dr. Stelio João Rodrigues - UNIVERSIDAD DE LA HABANA - CUBA
Dra. Sueli da Silva Aquino - FIPAR
Dr. Tiago Tendai Chingore - UNILICUNGO – MOÇAMBIQUE
Dr. Thiago Perez Bernardes de Moraes – UNIANDRADE/UK-ARGENTINA
Dr. Tomás Raúl Gómez Hernández – UCLV e CUM – CUBA
Dra. Vanessa Freitag de Araújo - UEM
Dr. Willian Douglas Guilherme – UFT
Dr. Yoisell López Bestard- SEDUCRS
DA FORMA ÉTICA À AÇÃO ÉTICA: RISCOS NA
ADOÇÃO DA INTELIGÊNCIA ARTIFICIAL EM
SALA DE AULA
FROM ETHICAL WAY TO ETHICAL ACTION: RISKS
IN ADOPTING ARTIFICIAL INTELLIGENCE IN THE
CLASSROOM

DEL CAMINO ÉTICO A LA ACCIÓN ÉTICA: RIESGOS AL

ADOPTAR INTELIGENCIA ARTIFICIAL EN EL AULA

Renato Essenfelder29
Daniel Ladeira de Araújo30
Timóteo Camargo César31

RESUMO
Este artigo, de cunho exploratório, aborda os desafios e implicações da implementação de
tecnologias de Inteligência Artificial (IA) no campo da educação, com especial preocupação a
aspectos ligados à criatividade, à criticidade e à autonomia dos estudantes em sala de aula. O
texto analisa a rápida expansão da IA em diversos setores e seu crescente apelo na área educa-
cional. Discute-se a dificuldade de definir precisamente o conceito de IA e as implicações de seu
paradigma atual, que se concentra na eficiência e na racionalidade em detrimento da imitação
do pensamento humano. São explorados os riscos associados à IA na educação e a necessidade
de uma abordagem ética cuidadosa ao implementar a IA na educação, buscando equilibrar
seus potenciais benefícios com os desafios e preocupações que podem surgir. Ressalta-se que,
considerando características específicas do campo, pesquisadores devem se preocupar mais
com a promoção de uma ação ética do que com a proposição de formas éticas de atingir objetivos
pedagógicos preestabelecidos.
Palavras-chave: Inteligência Artificial, educação, criatividade, pensamento crítico, ética.

29
Doutor em Ciências da Comunicação pela USP, com pós-doutorado pela Universidade da Beira Interior
(Portugal). Professor e coordenador do doutorado em Comunicação da Universidade Fernando Pessoa
(Portugal). ORCID: [Link] E-mail: renatoessenfelder@[Link]
30
Doutor pela Universidade de São Paulo USP/PROLAM e mestre em Comunicação pela Universidade
Paulista. Professor adjunto do Instituto Superior de Ciências Empresariais e do Turismo – ISCET/Porto
(Portugal) e professor convidado do Instituto Politécnico do Cávado e do Ave/Braga (Portugal).
ORCID: [Link] E-mail: professorladeira@[Link].
31
Mestre em Sociedade e Fronteiras pela UFRR e doutorando em Comunicação na Universidade Fernando
Pessoa, em Portugal. É jornalista, especialista em Antropologia Cultural e atua como professor do curso
de Comunicação Social – Jornalismo da Universidade Federal de Roraima.
Lattes: [Link] E-mail: timcamargo@[Link].

113
 ABSTRACT
This exploratory article addresses the challenges and implications of implementing Artificial
Intelligence (AI) technologies in the field of education, with a particular focus on aspects related
to creativity, critical thinking, and student autonomy in the classroom. The text examines the
rapid expansion of AI in various sectors and its growing appeal in the educational domain.
It discusses the difficulty of precisely defining the concept of AI and the implications of its
current paradigm, which prioritizes efficiency and rationality over the imitation of human thou-
ght. The risks associated with AI in education are explored, along with the need for a careful
ethical approach to AI implementation in education, aiming to balance its potential benefits
with the challenges and concerns that may arise. It is emphasized that, considering the specific
characteristics of the field, researchers should be more concerned with promoting ethical action
than with proposing ethical ways to achieve pre-established pedagogical objectives.
Keywords: Artificial Intelligence, education, creativity, critical thinking, ethics.

RESUMEN
Este artículo exploratorio aborda los desafíos e implicaciones de la implementación de tecno-
logías de Inteligencia Artificial (IA) en el campo de la educación, con un enfoque particular en
aspectos relacionados con la creatividad, el pensamiento crítico y la autonomía del estudiante
en el aula. El texto examina la rápida expansión de la IA en diversos sectores y su creciente
atractivo en el ámbito educativo. Se discute la dificultad de definir con precisión el concepto
de IA y las implicaciones de su paradigma actual, que prioriza la eficiencia y la racionalidad
sobre la imitación del pensamiento humano. Se exploran los riesgos asociados con la IA en
la educación, junto con la necesidad de un enfoque ético cuidadoso en la implementación de
la IA en la educación, con el objetivo de equilibrar sus posibles beneficios con los desafíos y
preocupaciones que puedan surgir. Se enfatiza que, considerando las características específicas
del campo, los investigadores deben preocuparse más por promover una acción ética que por
proponer formas éticas de alcanzar objetivos pedagógicos preestablecidos.
Palabras clave: Inteligencia Artificial, educación, creatividad, pensamiento crítico, ética.

INTRODUÇÃO

O tema da Inteligência Artificial, com suas incontáveis aplicações,

e promessas, voltou à moda. Já há muito tempo deixou o ambiente aca-
dêmico e os laboratórios de pesquisa, públicos e privados, para ganhar
manchetes na imprensa e posts em redes sociais — além de filmes, livros,
exposições. Mesmo que a discussão sobre essas tecnologias não seja
exatamente nova, pois Teixeira (2016) aponta, já entre filósofos gregos
da Antiguidade, reflexões sobre “máquinas que pensam” (autômatos
já presentes em mitos antigos), o recente burburinho chama a atenção

114
pela escala notável, com ampla cobertura midiática em todo o planeta
(Canavilhas; Essenfelder, 2022).
Lee (2019, p. 21) observa que se disseminou pelo mundo a crença
de que vivemos uma era de grandes descobertas nesse campo, “uma
época na qual os pesquisadores de elite da IA estão constantemente
derrubando velhos paradigmas e finalmente rompendo mistérios de
longa data”, para em seguida discordar de tal percepção. Segundo ele,
tamanha crença é alimentada pelo fluxo ininterrupto de reportagens
anunciando os mais recentes feitos da IA, que podem ir desde um diag-
nóstico de câncer até a vitória inconteste da máquina sobre o homem em
jogos como xadrez, Go, e até mesmo pôquer — no qual a capacidade
humana de blefar parecia insubstituível e “improgramável”. Uma crença
alimentada e, em grande medida, idealizada pela mídia.
Mas, embora Lee (2019) tente baixar as expectativas ao redor
do tema, afirmando que estamos em uma era de “implementação” do
trabalho duro de décadas anteriores (em especial no desenvolvimento
de tecnologias de aprendizagem de máquina e aprendizado profundo),
e não em uma era de revolução de tecnologia computacional, o que nos
interessa no momento não é discutir se a atual fase da IA é de revolução
ou de popularização de soluções diversas. Interessa-nos, sobretudo,
especular sobre os efeitos, presentes e projetados, da introdução da
IA na educação — principalmente no que diz respeito ao problema da
criatividade e da criticidade de estudantes em sala de aula.
Diante de vantagens aparentemente óbvias, frequentemente cal-
cadas no paradigma da personalização e da eficiência do ensino apoiado
por máquinas inteligentes, interessa-nos questionar quais são os riscos
associados ao uso da IA na aprendizagem humana.

EM BUSCA DE UMA DEFINIÇÃO

O interesse generalizado pelo tema da IA cresceu exponencialmente

na última década e meia. Entre 1998 e 2018, “o volume de artigos com
revisão por pares sobre o tema IA cresceu mais de 300%, representando
115
 3% das publicações em revistas revisadas por pares e 9% dos artigos
de conferência publicados no mundo” (Perrault et al., 2019, p. 5). O
aumento nas pesquisas acadêmicas reflete uma crescente afluência de
estudantes para esse campo. Em 2018, mais de 21% dos doutorandos
em Ciência da Computação se especializaram em Inteligência Artificial
e Aprendizado de Máquina, conforme registra Perrault et al. (2019, p. 6).
No mundo corporativo o fenômeno também é facilmente obser-
vável. Estudo global conduzido pela consultoria McKinsey & Company
(Chui; Malhotra, 2018) afirma que, em 2017, 20% das empresas do mundo,
considerando diversos tamanhos e setores da economia, adotaram pelo
menos uma solução de IA em seus negócios. No ano seguinte, o índice
saltou para 47% – e, em 2019 aumentou para impressionantes 58%,
conforme complementa Perrault et al. (2019).
Apesar da ampla circulação de artigos e reportagens sobre o tema,
falar de IA em termos acadêmicos pode ser especialmente complexo
dada a dificuldade de definição. Já é amplamente aceito na comunidade
científica que a expressão “Inteligência Artificial” é desafiadora, em ter-
mos conceituais (Brachman, 2006; Nilsson, 2009; Monett; Lewis, 2018;
Grant et al., 2011; Obozintsev, 2018; Brennen, 2018). Para Canavilhas e
Essenfelder (2022), a expressão é um “guarda-chuva” que abriga diferentes
tecnologias e se popularizou não só a partir do avanço tecnológico, mas
também de um marketing agressivo em torno da matéria, benefician-
do-se de uma cobertura muitas vezes exagerada ou fantasiosa por parte
da imprensa, onde manchetes superlativas prometem o apocalipse ou a
redenção da humanidade pelas máquinas (Canavilhas; Essenfelder, 2022).
No contexto deste ensaio, consideramos que a IA é um campo das
ciências da computação e também um vasto conjunto de práticas associa-
das às engenharias (Russel; Norvig, 2016) cujo objetivo é o desenvolvi-
mento de “agentes racionais”, ou seja, sistemas que resolvem problemas
sem se preocupar em imitar o pensamento ou o comportamento humano.
Atualmente, essa é a abordagem predominante entre os enge-
nheiros, ou seja, a Inteligência Artificial deve resolver problemas sem

116
se preocupar em imitar o pensamento ou o comportamento humano.
Essa opção paradigmática ajudou a impulsionar o crescimento da área
nas últimas décadas, pois, dito de modo simples, é mais fácil construir
máquinas que voam quando não tentamos imitar perfeitamente as aves,
conforme defendem Russel e Norvig (2016).
Ou seja, o paradigma proposto pelo matemático Alan Turing,
que por sua vez deu uma contribuição fundamental ao campo da
computação nos anos 1950, saiu de cena. Na maior parte das apli-
cações comerciais disponíveis hoje, o “jogo da imitação” (Turing,
1950) não é mais uma preocupação.
É importante ter atenção a isso, pois, quando falamos em IA
aplicada à educação, temos de ter em mente que os esforços da enge-
nharia computacional mainstream, hoje, são voltados à eficiência e à
racionalidade, e não a uma abordagem “humanizada” — ou que tenha
o ser humano como referência.
Na longa lista de maravilhas associadas à IA, a mais recente onda
é a chamada Inteligência Artificial Generativa, capaz de fazer aquilo que
acreditávamos ser restrito ao humano: criar. Produzir poemas, letras
de música, melodias, romances, ilustrações, vídeos. Sinfonias inteiras,
narrativas completas, estão hoje disponíveis ao toque de um botão.
Para estudantes, isso significa redações, ensaios e artigos facil-
mente disponíveis, mesmo que com qualidade (ainda) discutível. Para
os professores, a automação da elaboração de provas e exercícios e até
mesmo da correção de testes e textos escritos à mão, mesmo com má
caligrafia — algo impensável até pouquíssimo tempo atrás — pode ser
sedutora. As ferramentas se multiplicam, e a eficácia prometida por elas
aumenta em um intervalo de tempo quase veloz demais para acompanhar.
Quais são as implicações profundas disso para a educação? A ques-
tão é urgente, afinal, como colocam Holmes e Porayska-Pomsta (2023)
antes de implementar qualquer solução de IA em um contexto educa-
cional, “devemos primeiro entender melhor se a necessidade identificada
precisa ser resolvida e se a IA é a melhor ferramenta para isso” (p. 23).
117
 Maslej et al. (2023), em estudo da Universidade Stanford, apontam
que 2022 pode ser considerado o ano do “boom” da IA generativa, com
um enorme aumento de interesse pelo assunto em todo o planeta, graças
à aura quase mágica em torno desses sistemas — caso de DALL-E 2,
Stable Diffusion, Midjourney, Make-A-Video, Bard, Llama e, claro, o
mais popular de todos, o ChatGPT, entre incontáveis outros exemplos.
Paralelamente ao sucesso de público, contudo, o número de inci-
dentes relacionados ao uso indevido de IA aumentou dramaticamente. De
acordo com o banco de dados AIAAIC (AI, Algorithmic and Automation
Incidents and Controversies), que rastreia incidentes relacionados a faltas
éticas envolvendo IA, o número de incidentes e controvérsias direta-
mente ligados a esses sistemas inteligentes aumentou 26 vezes entre os
anos de 2012 e 2022 (Kemper, 2023). Entre os acontecimentos notáveis
(e problemáticos) de 2022 nessa área, Maslej et al. (2023) destacam um
vídeo deepfake do presidente ucraniano Volodymyr Zelensky anunciando
sua rendição à Rússia e também o uso controverso de tecnologia de
monitoramento de chamadas de detentos em presídios e cadeias dos
Estados Unidos, em que tecnologias de reconhecimento de voz, análise
semântica e software de aprendizado de máquina são empregadas em
tempo real para gerar bancos de dados pesquisáveis de palavras-chave.
Também foram reportados ao AIAAIC casos que envolvem cha-
tbots que sugeriram que pessoas se divorciassem, que imputaram crimes
à biografia de sujeitos inocentes e, em um caso extremo ocorrido na
Bélgica em 2023, estimularam o suicídio de um usuário (Xiang, 2023).
O ChatGPT, talvez o principal representante da nova onda de IA
Generativa, é um “Generative Pre-trained Transformer”, ou transfor-
mador generativo pré-treinado, um sistema baseado na arquitetura de
redes neurais Transformers, que, segundo Vaswani et al. (2017), é uma
nova arquitetura baseada inteiramente em mecanismo de atenção e que
supera modelos anteriores em aplicações de processamento de linguagem
natural tanto em termos de qualidade quanto de velocidade. Tecnicamente,
trata-se de um LLM, Large Language Model, modelo capaz de gerar

118
textos com considerável grau de sofisticação a partir do input do usuário,
por meio de um avançado sistema que avalia as possíveis relações entre
palavras dentro de um dado tema e produz textos sempre coesos, mas
muitas vezes não apenas vazios e entediantes como objetivamente falsos.
Trata-se, no entender de Gary Marcus, professor do Departamento
de Psicologia da New York University e especialista em IA, de uma
“máquina de pastiche”. “O que a máquina de pastiche está fazendo é
apenas juntar pedaços de texto. Não sabe o que esses textos significam”
(citado por Klein, 2023, online).
Note-se que o ChatGPT alcançou estrondoso sucesso logo na
sequência de seu lançamento público, batendo todos os recordes de
velocidade de adesão de usuários. Em apenas uma semana, alcançou um
milhão de utilizadores — um recorde absoluto no mundo digital. Em
um mês, foram 57 milhões. Em dois meses, alcançou a simbólica marca
de 100 milhões de usuários no mundo todo (Ruby, 2023).
Ajudam a explicar o sucesso do ChatGPT a sua interface simples
e intuitiva (o programa aceita comandos em linguagem natural em 26
idiomas) e a qualidade das respostas obtidas, que conseguem perceber o
contexto da conversação, identificar ironia e resolver ambiguidades. Está
longe de ser perfeito, mas é suficientemente satisfatório para milhões de
usuários todos os dias. A última versão do sistema, lançada em março
de 2023, por exemplo, pontuou na média entre os 10% melhores can-
didatos em concursos como o Exame da Ordem dos Advogados de
Nova York, o SAT e o GRE, que avaliam conhecimentos linguísticos e
matemáticos, entre outros exames (Varanasi, 2023).
Por essas razões, pode-se considerar que o ChatGPT representa
um avanço em direção a uma inteligência artificial generalista, ou seja,
capaz de executar um vasto número de tarefas, “eventualmente sem a
necessidade de criar e rotular manualmente um conjunto de dados de
treinamento para cada um” (Radford et al., 2018, p. 1).
Ao atingir grande flexibilidade e capacidade de interpretação
semântica, pode, eventualmente, ser usado para substituir professores.
119
 Já agora, relatos de uso do ChatGPT em sala de aula, com ou sem o
consentimento e o conhecimento de tutores, multiplicam-se (Roose,
2023; Svrluga; Natanson, 2023).

INTELIGÊNCIA ARTIFICIAL APLICADA À EDUCAÇÃO

Segundo relatórios da UNESCO (2019) e UNICEF (2021), a

IA tem o potencial de transformar a educação em vários aspectos, tais
como personalizar a aprendizagem de acordo com as necessidades e
preferências dos alunos; melhorar a avaliação e o feedback; facilitar a
colaboração e a comunicação; ampliar o acesso e a inclusão; e apoiar os
professores na sua prática pedagógica.
Diante desse cenário, há motivos para excitação e preocupação no
recente campo da Inteligência Artificial Aplicada à Educação (IAED),
considerando que o contexto educacional é propício para a análise
dos impactos das aplicações de IA nas esferas psicológicas, neuro-
cognitivas, afetivas, sociais e econômicas para indivíduos e sociedade
(Holmes; Porayska-Pomsta, 2023).
A este respeito, cabe recordar a famosa citação de Marshall
McLuhan, que ao propor que “o meio é a mensagem” (1964, p. 7)
engenhosamente instiga a uma reflexão sobre o potencial transformador
de novas tecnologias em nossas vidas. Por exemplo, o pensador sugeria,
à época, que a televisão, como meio, teve impacto profundo na cultura
porque envolvia os espectadores de maneira sensorial e imersiva, alte-
rando assim nossa experiência e percepção do mundo.
Da mesma forma, a internet e as redes sociais têm impactado
significativamente como interagimos, compartilhamos informações e
construímos nossa identidade — e não apenas a chamada “identidade
digital”. Questões relacionadas aos possíveis impactos, tanto positivos
quanto negativos, de nossa crescente dependência da tecnologia têm sido
objeto de análise dentro do campo da filosofia da tecnologia (Bostrom;
Sandberg, 2009). Da mesma forma, a psicologia tem investigado os custos
e benefícios associados a diferentes tipos de aprimoramentos tecnológi-
120
cos, como a utilização de câmeras para registrar experiências, sistemas
de agendamento para gerenciar compromissos ou sistemas de navega-
ção por GPS (Hejtmánek et al., 2018). Tais estudos exploram os efeitos
dessas tecnologias nas capacidades cognitivas humanas, abrangendo
desde a memória de trabalho até as habilidades de navegação espacial.
Entretanto, é notável que, até o momento, houve uma escassez
significativa de investigações no âmbito da IAED sobre a possibilidade,
os mecanismos e os motivos pelos quais tecnologias ditas inteligentes
poderiam efetuar transformações fundamentais na forma como os
indivíduos pensam e se comportam. Essa questão transcende a mera
avaliação dos impactos das estratégias pedagógicas específicas empre-
gadas pelos sistemas de AIED no desenvolvimento das habilidades de
resolução de problemas dos estudantes.
Filosoficamente, esse cenário suscita uma reflexão profunda sobre
o papel das tecnologias em nossa existência. As tecnologias, incluindo as
de IA, não são meras ferramentas neutras; elas se tornam agentes ativos
na configuração de nossa relação com o conhecimento, a cognição e a
própria natureza de ser humano.
No entanto, é importante notar que essa perspectiva não deve ser
encarada como uma espécie de determinismo tecnológico, mas sim como
um chamado à reflexão ética e à ponderação cuidadosa sobre as conse-
quências imprevisíveis da interação entre seres humanos e tecnologia.
Essa abordagem não busca prever um futuro inalterável ditado
pela tecnologia, mas sim enfatizar a responsabilidade moral na criação
e utilização de tecnologias de IA. À medida que avançamos na busca
por aprimorar nossas habilidades inatas e qualidade de vida por meio
da tecnologia, devemos estar cientes de que a tecnologia, seja qual for,
pode moldar sociedades e modos de vida de maneiras profundas e muitas
vezes imprevisíveis. Portanto, o cerne dessa reflexão reside na necessi-
dade de agir com discernimento e consideração ética, a fim de orientar
o desenvolvimento da IA de maneira que beneficie verdadeiramente o
campo da educação — e a humanidade.

121
 Uma questão fundamental que emerge desse debate pode ser tra-
duzida nos seguintes termos: qual é o propósito da Inteligência Artificial
aplicada à Educação (Holmes et al., 2018; Kay, 2012)? Por exemplo: o
objetivo é preparar os estudantes para passar em exames ou ajudá-los a
se autorrealizarem, a atingirem seu máximo potencial? Ela deve abordar
questões identificadas em departamentos de ciência da computação ou
problemas suscitados por educadores em salas de aula ao redor do mundo?
Deve substituir funções dos professores ou capacitar os professores?
Como a IAED pode ser adaptada para abordar desafios específicos?
Qual é o equilíbrio adequado entre a automação de tarefas na educação
e o empoderamento dos professores? Quais são os principais desafios
éticos e práticos associados à implementação da IAED na educação e
como eles podem ser abordados?
Questões desse tipo, entre inúmeras outras, ajudam a ilustrar
como o debate ao redor do tema é complexo e como a IAED é antes
um campo de problemas do que de soluções, um campo de indagações
que devem ser estimuladas antes de serem atacadas por engenheiros e
algoritmos distantes do contexto educacional.
Nessa perspectiva, enfatizamos que o propósito da IAED não
é apenas técnico, mas também profundamente ético e pedagógico.
A resposta a essas perguntas fundamentais moldará o papel que a IA
desempenhará na educação e, por extensão, na sociedade. Se o objetivo
principal for apenas preparar alunos para exames, poderemos criar siste-
mas de IA que se concentrem estritamente em fornecer informações e
estratégias de teste, potencialmente negligenciando o desenvolvimento
integral dos alunos. Por outro lado, se o objetivo for ajudar os alunos
a se autorrealizarem, a IA pode ser projetada para apoiar o desenvolvi-
mento pessoal, adaptando-se às necessidades individuais de aprendizado
e incentivando a criatividade e a autonomia.
Além disso, a questão de substituir ou capacitar professores tam-
bém é crítica. A IA pode ser uma ferramenta valiosa para educado-
res, ajudando-os a personalizar o ensino e a gerenciar melhor as salas

122
de aula, mas também pode levantar preocupações sobre a perda do
aspecto humano na educação, com implicações difíceis de prever (lem-
bramos, aqui, que o paradigma vigente em IA hoje não tem mais rela-
ção com o humano, e sim com a racionalidade, conforme destacamos
na primeira parte deste ensaio).
Portanto, a resposta à pergunta sobre o propósito da IAED não
é apenas sobre a tecnologia em si, mas sobre os valores e as visões que
moldarão seu desenvolvimento e implementação.
Ahmad et al. (2020), por exemplo, apresentam alegações sobre as
ferramentas de IAED serem “tão eficazes quanto” ou até “mais eficazes”
do que um professor humano, mas tais estudos são feitos geralmente
em situações restritas, sem fortes evidências de apoio e ignorando a
natureza social da aprendizagem. Cabe, neste momento crítico, um
olhar duplamente cauteloso sobre as metodologias de investigação que
levam a conclusões que podem beneficiar apenas aparentemente alunos
e professores — e empresas do setor da educação. Essas alegações de
sucesso, completam Holmes e Porayska-Pomsta (2023), são especialmente
atrativas em localidades que sofrem da falta de professores experientes
ou qualificados. “O argumento é de que, como não há professores
suficientes, certamente as ferramentas de AIED podem preencher efi-
cazmente essa lacuna” (p. 13).
Mesmo que se considerem verdadeiras as afirmações sobre a maior
eficácia da IA aplicada à educação, considerando “eficácia” meramente
como a obtenção de notas médias mais elevadas em testes padronizados,
convém questionar qual é o preço disso. Quais são as implicações disso
para alunos que eventualmente percam contato com professores humanos?
Além disso, o “tecno-solucionismo”, conforme colocam Holmes e
Porayska-Pomsta, aborda sintomas (por exemplo, a falta de professores
qualificados) e não a causa (por que faltam professores ou qualificação
a eles?). “O problema é apenas adiado: o que acontece quando as fer-
ramentas falham ou precisam ser substituídas?” (2023, p. 13).

123
 Com forte incentivo de corporações privadas e de governos em
busca de maior eficácia pedagógica, aplicações de AIED têm recebido
recursos vultosos nos últimos anos. Pouco se sabe, contudo, sobre os
impactos dessas tecnologias na psicologia humana — especialmente
quando aplicadas desde os primeiros anos escolares. Por exemplo: à
medida que a criatividade humana é terceirizada para máquinas capazes de
produzir textos, sons, imagens estáticas e vídeos ao nosso comando, que
tipo de mudança se opera no indivíduo, em um plano mais fundamental?
Como diz Bartoletti (2023, p. 74) o risco do hype ao redor de uma
tecnologia nova, especialmente uma solução tão apelativa quanto a IA,
é de adoção por conveniência. Usamos porque precisamos ou por que
a ferramenta está disponível?

RISCOS À CRIATIVIDADE, À CRITICIDADE E À

AUTONOMIA

Outro risco da IA é que ela pode reduzir a necessidade de pro-

fessores e alunos humanos se envolverem na resolução de problemas
criativos, no estímulo ao pensamento crítico e na aprendizagem cola-
borativa. A praticidade e velocidade dos sistemas de IA, com soluções
ou respostas prontas, elaboradas por gigantescas “máquinas de pasti-
che” verbo-visual, podem desencorajar a exploração, a experimentação
e a descoberta (Holmes et al., 2019). Por exemplo, os sistemas de IA
podem dar aos alunos feedback ou dicas que são muito específicas ou
direcionadas, o que pode ser interessante, mas também pode limitar a
capacidade de gerar ideias ou soluções alternativas (Chen et al., 2023).
Portanto, é importante projetar sistemas de IA que apoiem em vez
de substituir a criatividade humana e que incentivem em vez de restringir
a curiosidade e a investigação humana. Essa atrofia também deriva do
fato de que a IA “usa dados históricos existentes para responder aos
problemas que temos agora, em vez de contribuir para nossa visão da
sociedade e de suas necessidades no amanhã” (Bartoletti, 2023, p. 74).

124
 A pesquisadora elenca seis riscos associados ao uso da IA na
educação, dos quais destacamos três. Em primeiro lugar, o risco de
“Escalonar Ideias Pedagógicas Ruins”, que alerta para a pobreza das
evidências, até o momento, sobre os benefícios da IA na educação.
Sem evidências fortes, podemos estar apenas escalonando ideias que
no futuro se provarão inadequadas — ou até nocivas.
O segundo risco, “Leitura de Emoções e Sentimentos” pode ser
combinado ao risco de “ameaças à privacidade”, também citado por
Bartoletti (2023). Esses desafios incluem a necessidade de uma análise
cuidadosa dos benefícios e riscos associados à coleta de dados que podem
ser tão pessoais quanto, por exemplo, escrutinar o estado emocional ou
de saúde de certo indivíduo por tecnologias de imagem ou por meio
de sensores vestíveis. Além disso, é preciso compreender melhor como
as informações resultantes da detecção de estados emocionais podem
ser usadas. Alunos poderão ser discriminados ou premiados conforme
manifestem angústia, medo, tédio, alegria?
A autora alerta ainda para os perigos do “Incentivo Automá-
tico”, que aqui consideramos próximo ao risco de “Erosão da Agência
Humana”. Trata-se de uma prática já utilizada por tecnologias de IA,
conhecida por “nudging”, que busca influenciar o comportamento do
usuário por meio de incentivos automáticos. Por exemplo, a assistente
pessoal Alexa, da Amazon, incentiva ativamente que seus utilizadores
usem expressões como “por favor” e “obrigado”. Parece uma aplica-
ção inofensiva, senão saudável, mas que por outro lado suscita preo-
cupação. Que outros incentivos podem ser programados, no ambiente
escolar? Quais os efeitos deles a longo prazo? Poderá haver incentivos,
por exemplo, a certas formas de expressão ou mesmo de vestimenta?
Alunos com dificuldade de fala, ou com condições sociais vulneráveis,
ou fora de um padrão considerado desejável, serão penalizados? Quem
estabelecerá tais padrões? Estaremos moldando, com a ajuda da IA,
grandes contingentes de “alunos-modelo”, desde a infância?

125
 E ainda: se sofremos incentivos automáticos desde pequenos,
quanto de agência nos restará e como teremos consciência desse efeito?
De que forma a automação de tarefas e a previsão de comportamento
com base em dados históricos podem limitar a criatividade e a capa-
cidade de tomar decisões autônomas, e até revolucionárias, completa-
mente inesperadas, dos alunos?
Esses riscos destacam a necessidade de uma abordagem cuidadosa e
ética ao implementar a IA na educação, considerando não apenas os benefí-
cios potenciais, mas também os desafios e preocupações que podem surgir.
Zuboff, em importante obra sobre o capitalismo de vigilância
(2019) já alertava para o fato de a IA ser capaz de influenciar ou manipular
as preferências, opiniões e emoções de humanos por meio de técnicas
persuasivas ou enganosas. Sistemas de IA podem usar estratégias para
persuadir os alunos a adotar certas visões ou comportamentos (Chen
et al., 2023). Portanto, é importante educar os alunos sobre as implica-
ções éticas, sociais e culturais da IA e desenvolver suas habilidades de
letramento crítico e cidadania digital.
A IA também ameaça a criatividade humana em alguns domínios,
como arte, música, literatura e design. Os sistemas de IA podem gerar
obras originais e novas que desafiam o senso humano de autoria, pro-
priedade e valor (Du Sautoy, 2019).
Portanto, é importante fomentar uma IA centrada no humano que
respeite e melhore a criatividade humana e que reconheça e valorize a
diversidade e a singularidade da nossa espécie.

CONSIDERAÇÕES FINAIS

Muito além das questões legais, fiscais, comerciais e regulatórias,

é importante que as considerações éticas estejam no centro do debate
sobre a IA aplicada à educação. E, no que tange a tais considerações,
não se trata apenas de “fazer as coisas de modo ético”, como parece ser
preocupação da maior parte da comunidade de IAED, mas sobretudo

126
de “fazer coisas éticas”, como pontua Holmes et al. (2021). Em suma,
o problema não pode ser, apenas, “como reduzir a evasão escolar de
forma ética” (entre outros objetivos pedagógicos), mas, antes disso
discutir os próprios princípios que norteiam tais objetivos. No campo
da educação, por sua especial sensibilidade, o “por que” implementar
uma solução deve ser considerado tão crucial quanto o “como” fazê-lo.
Por conseguinte, salienta-se a importância de realizar uma ava-
liação abrangente dos impactos decorrentes da implementação da IA
considerando tanto as perspectivas de curto quanto de longo prazo. Essa
avaliação deve incorporar as vozes das partes interessadas; a saber, alunos,
pais, professores e comunidades. Nesse esforço, a justiça e a equidade
emergem como aspectos críticos, em relação aos riscos apontados, tanto
no que concerne aos possíveis resultados injustos quanto às soluções
técnicas destinadas a atenuá-los.
A inovação no ambiente educacional, inclusive pelo uso da IA,
deve ser encorajada, mas somente na medida em que se enfatiza a neces-
sidade de uma análise cuidadosa dos riscos e consequências inerentes
a isso. Reforçamos ainda a necessidade de ancorar os sistemas de IA
em valores humanos, assegurando que esses sistemas não restrinjam
a autonomia dos alunos e que respeitem a individualidade como um
elemento de contribuição valiosa para o bem-estar coletivo.
Afinal, quando nos atemos somente ao paradigma do “fazer
de modo ético”, colocamo-nos em uma posição que pode favorecer
governos e corporações interessados em evitar escrutínio jurídico, sem
ter em conta que o objetivo final da educação, como ou sem IA, não é
apenas a aquisição e troca de conhecimentos, mas também a promoção
e o fomento de valores, habilidades e competências.
Sobretudo no campo da educação, é imprescin-
dível estimular um fazer ético.

127
 REFERÊNCIAS
AHMAD, K. et al. Artificial intelligence in education: A panoramic review. EdArXiv, 2020.
doi:10.35542/[Link]/zvu2n.
BARTOLETTI, I. AI in education: An opportunity riddled with challenges. In: The ethics of
artificial intelligence in education. Routledge: 2023.
BOSTROM, N.; SANDBERG, A. The wisdom of nature: An evolutionary heuristic for human
enhancement. In: J. Savulescu; N. Bostrom (Eds.), Human Enhancement. Oxford University
Press: 2009.
BRACHMAN, R. J. AI more than the sum of its parts. AI Magazine, v. 27, n. 4, 2006.
BRENNEN, J. An industry-led debate: How UK media cover artificial intelligence. 2018.
CANAVILHAS, J.; ESSENFELDER, R. Apocalypse or redemption: how the Portuguese media
cover artificial intelligence. In: Total Journalism: Models, Techniques and Challenges. Springer
International Publishing: 2022.
Chen, X.; Cheng, G.; Zou, D.; Zhong, B.; & Xie, H. Artificial Intelligent Robots for Precision
Education: A Topic Modeling-Based Bibliometric Analysis. Educational Technology &
Society, v. 26, n. 1, p. 171-186, 2023. Disponível em: [Link]
CHUI, M.; MALHOTRA, S. AI adoption advances, but foundational barriers remain, 2018.
DODD, M.; GRANT, A.; SERUWAGI, L. Artificial Intelligence Through the Eyes of the
Public. Worcester Polytechnic Institute, Worcester, 2011.
DU SAUTOY, M. The Creativity Code: Art and Innovation in the Age of AI, 2019. Harvard
University Press.
HEJTMÁNEK, L. et al. Spatial knowledge impairment after GPS guided navigation: Eye-tracking
study in a virtual town. International Journal of Human-Computer Studies, v. 116, 2018.
HOLMES, W.; PORAYSKA-POMSTA, K. The ethics of AI in education. Practices, chal-
lenges, and debates, 2023.
HOLMES, W. et al. Technology-enhanced Personalised Learning: Untangling the Evidence,
2018. Robert Bosch Stiftung. [Link]
pdf/2018-08/Study_Technology-enhanced%20Personalised%[Link].
HOLMES, W. et al. Inteligência artificial na educação: promessas e implicações para o ensino
e a aprendizagem, 2019. Porto Alegre: Penso.
HOLMES, W. et al. Ethics of AI in education: Towards a community-wide framework. Interna-
tional Journal of Artificial Intelligence in Education, 2021. doi:10.1007/s40593-021-00239-1.
KAY, J. AI and education: Grand challenges. IEEE Intelligent Systems, v. 27, n. 5, 2012.
doi:10.1109/MIS.2012.92.

128
KEMPER, J. Incidents of AI misuse are rapidly increasing. The Decoder, 2023. Disponível
em: [Link]
KLEIN, E. Transcript: Ezra Klein Interviews Gary Marcus. The New York Times, 2023.
Podcasts. [Link]
[Link].
LEE, K. F. Inteligência artificial, 2019. Globo Livros.
MASLEJ, N. et al. The AI Index 2023 Annual Report, 2023. AI Index Steering Committee,
Institute for Human-Centered AI, Stanford University, Stanford, CA.
MCLUHAN, M. The Gutenberg galaxy: the making of typographic man, 1964. Toronto:
University of Toronto Press.
MONETT, D.; LEWIS, C. W. Getting clarity by defining artificial intelligence – a survey. In:
Philosophy and theory of artificial intelligence 2017, 2018. Springer International Publishing.
NILSSON, N. J. The quest for artificial intelligence, 2009. Cambridge University Press.
OBOZINTSEV, L. From Skynet to Siri: an exploration of the nature and effects of media
coverage of artificial intelligence. Doctoral dissertation, University of Delaware, 2018.
PERRAULT, R. et al. The AI Index 2019 Annual Report, 2019. AI Index Steering Committee,
Human-Centered AI Institute, Stanford University, Stanford, CA.
RADFORD, A. et al. Language Models are Unsupervised Multitask Learners, 2018.
ROOSE, K. Don’t Ban ChatGPT in Schools. Teach With It. The New York Times, 2023. Dis-
ponível em: [Link]
RUBY, D. ChatGPT Statistics for 2023 (New Data + GPT-4 Facts). Demand Sage, 2023.
Disponível em: [Link]
RUSSELL, S. J.; NORVIG, P. Artificial intelligence: a modern approach, 2016. Pearson
Education Limited.
SVRLUGA, S.; NATANSON, H. Students use ChatGPT for far more than cheating – The Wash-
ington Post, 2023. Disponível em: [Link]
students-chatgpt-ai-tools/.
TEIXEIRA, J. de F. O cérebro e o robô: inteligência artificial, biotecnologia e a nova ética.
Editora Paulus, 2016.
TURING, A. M. Computing Machinery and Intelligence. Mind, Volume LIX, Issue 236, October
1950, Pages 433–460. [Link]
UNESCO. Beijing Consensus on Artificial Intelligence and Education, 2019. https://
[Link]/ark:/48223/pf0000368303.
UNICEF. Policy Guidance on AI for Children, 2021. [Link]
media/2356/file/[Link].

129
 VARANASI, L. OpenAI just announced GPT-4, an updated chatbot that can pass everything
from a bar exam to AP Biology. Here’s a list of difficult exams both AI versions have passed.
Business Insider, 2023. Disponível em: [Link]
VASWANI, A. et al. Attention Is All You Need (arXiv:1706.03762), 2017. arXiv. [Link]
org/abs/1706.03762.
XIANG, C. “‘He Would Still Be Here’: Man Dies by Suicide After Talking with AI Chat-
bot, Widow Says”. Vice, 2023. Disponível em: [Link]
man-dies-by-suicide-after-talking-with-ai-chatbot-widow-says.
ZUBOFF, S. A era do capitalismo de vigilância: A luta por um futuro humano no novo
front do poder. Rio de Janeiro: Editora Intrínseca, 2019.

130