DEEPFAKE E PRIVACIDADE: UMA ANÁLISE JURÍDICA

ACERCA DA MANIPULAÇÃO DA IMAGEM DOS USUÁRIOS

DEEPFAKE AND PRIVACY: A LEGAL ANALYSIS REGARDING

THE MANIPULATION OF USERS' IMAGES

DEEPFAKE Y PRIVACIDAD: UN ANÁLISIS JURÍDICO SOBRE

LA MANIPULACIÓN DE LA IMAGEN DE LOS USUARIOS

Mariana de Siqueira1
Ester Jerônimo de Andrade2

DOI: 10.54751/revistafoco.v17n8-014
Received: Jul 05th, 2024
Accepted: Jul 26th, 2024

RESUMO
O presente artigo explora a complexidade do conceito de verdade no contexto atual,
uma vez que os avanços tecnológicos e sociais concederam uma nova roupagem à
sociedade e seus pilares base. Nesse sentido, concentra a análise da temática a partir
do assunto DeepFake, uma ferramenta que permite manipulações realistas de áudio e
vídeo, desafiando a detecção de veracidade dos conteúdos que circulam na internet.
Considerando que a atual era é designada por pós-verdade e que, em seu âmbito, a
verdade objetiva perde a importância frente às crenças pessoais, a relevância do
assunto se destaca. Através da metodologia qualitativa embasada na pesquisa
bibliográfica, o objetivo principal do estudo é examinar os aspectos legais da DeepFake
no direito brasileiro. O estudo concluiu que, apesar dessa tecnologia ter aplicações
benignas, também facilita fraudes e manipulações, representando desafios significativos
para o Direito Civil e outras áreas legais. Por fim, o estudo não apenas destaca
preocupações e constatações deterministas inevitáveis, mas também propõe soluções
aplicáveis em escalas micro e macro. Essas soluções são observadas tanto na
perspectiva governamental, através da regulação de plataformas digitais, quanto no
nível individual, onde se enfatiza a importância de os usuários do ciberespaço
exercerem proativamente uma boa gestão de seus dados pessoais.

Palavras-chave: Deepfake; pós-verdade; tecnologia; imagem; privacidade.

ABSTRACT
This article explores the complexity of the concept of truth in the current context, as
technological and social advancements have given a new guise to society and its
foundational pillars. In this regard, the analysis focuses on the theme starting from the
topic of DeepFake, a tool that allows realistic manipulations of audio and video,

1
Doutora em Direito Público pela Universidade Federal do Pernambuco (UFPE). Universidade Federal do Rio Grande do
Norte (UFRN). Av. Cap. Mor Gouveia, 2817-3005, Lagoa Nova, Natal – RN. E-mail: marianadesiqueira@[Link]
2
Graduanda em Direito. Universidade Federal do Rio Grande do Norte (UFRN). Av. Cap. Mor Gouveia, 2817-3005, Lagoa
Nova, Natal – RN. E-mail: ester.andrade190500@[Link]

Revista Foco | v.17 n.8|e5679| p.01-34 |2024

1
 DEEPFAKE E PRIVACIDADE: UMA ANÁLISE JURÍDICA ACERCA DA
MANIPULAÇÃO DA IMAGEM DOS USUÁRIOS
_____________________________________________________________________________________

challenging the detection of veracity of content circulating on the internet. Considering

that the current era is designated as post-truth, and that within its scope, objective truth
loses importance in the face of personal beliefs, the relevance of the subject stands out.
Through qualitative methodology based on bibliographic research, the main objective of
the study is to examine the legal implications of DeepFake in Brazilian law. The study
concluded that, although this technology has benign applications, it also facilitates fraud
and manipulations, representing significant challenges for Civil Law and other legal
areas. Finally, the study not only highlights inevitable deterministic concerns and findings
but also proposes solutions applicable on both micro and macro scales. These solutions
are observed both from the governmental perspective, through the regulation of digital
platforms, and on the individual level, where the importance of cyberspace users
proactively managing their personal data is emphasized.

Keywords: Deepfake; post-truth; technology; image; privacy.

RESUMEN
El presente artículo explora la complejidad del concepto de verdad en el contexto actual,
ya que los avances tecnológicos y sociales han otorgado una nueva forma a la sociedad
y a sus pilares fundamentales. En este sentido, concentra el análisis del tema a partir
del asunto DeepFake, una herramienta que permite manipulaciones realistas de audio
y video, desafiando la detección de veracidad de los contenidos que circulan en internet.
Considerando que la era actual se designa como post-verdad, y que en su ámbito, la
verdad objetiva pierde importancia frente a las creencias personales, la relevancia del
tema se destaca. A través de la metodología cualitativa basada en la investigación
bibliográfica, el objetivo principal del estudio es examinar las implicaciones legales de
DeepFake en el derecho brasileño. El estudio concluye que, a pesar de que esta
tecnología tiene aplicaciones benignas, también facilita fraudes y manipulaciones,
representando desafíos significativos para el Derecho Civil y otras áreas legales.
Finalmente, el estudio no solo destaca preocupaciones y constataciones deterministas
inevitables, sino que también propone soluciones aplicables en escalas micro y macro.
Estas soluciones se observan tanto desde la perspectiva gubernamental, a través de la
regulación de plataformas digitales, como a nivel individual, donde se enfatiza la
importancia de que los usuarios del ciberespacio ejerzan proactivamente una buena
gestión de sus datos personales.

Palabras-clave: Deepfake; post-verdad; tecnologia; imagen; privacidad.

1. Introdução

Após séculos de história e enormes avanços sociais e tecnológicos,

persistem discordâncias substanciais quanto às definições de valores básicos
como justiça e verdade. Carlos Drummond de Andrade, em seu poema
Verdade3, aduz que mesmo após derrubadas as barreiras que por ventura
impedissem a contemplação da verdade por completo, não haveria possibilidade

3
ANDRADE, C. D. Poesia completa. Rio de Janeiro: Nova Aguilar, 2002.

Revista Foco | v.17 n.8|e5679| p.01-34 |2024

2
 Mariana de Siqueira, Ester Jerônimo de Andrade
_____________________________________________________________________________________

de enxergar mais do que pedaços e metades, restando ao espectador escolher

sua parcela conforme o capricho, ilusão ou miopia próprios.
Do latim “veritas”, a forma de narrar determinaria a verdade dos fatos,
dando origem a expressão "veritas evidens non probanda”, a qual significa: “a
verdade evidente não precisa de prova” (Hupe; Salomão; Heine; Serfaty, 2005).
Na atualidade, essa discussão ganha uma nova roupagem, pois, para além da
verdade, há a dificuldade em discernir o que é verdadeiro.
À medida que a sociedade abriu-se ao plural e ao moderno, diversas
abordagens provenientes do bombardeio de informações começaram a desafiar
o status quo. Ao mesmo tempo, a esperança no estopim da valorização do
pensamento coletivo para a resolução de problemáticas e no aprendizado social
parece ter se enfraquecido diante da hostil e esmagadora realidade de
polarizações, estigmas, desinformação, dissensões e inverdades que acentuou
uma relatividade que não busca uma compreensão geral, e sim a justificativa de
apenas um ponto de vista.
É exatamente nesse contexto que se destaca a Deepfake, tecnologia que
funciona mediante a apropriação de características pessoais a fim de manipulá-
las, seja na forma de sons, imagens ou vídeos, para criar um novo conteúdo
aparentemente realista diante de olhos leigos (Chesney; Citron, 2018). Essa
tecnologia de aprendizado de máquina veio ao conhecimento público em
meados de 2017 com o compartilhamento de conteúdo pornográfico fabricado
envolvendo os rostos de atrizes de Hollywood no Reddit4.
2 colocar notade
A Deepfake é um subproduto do contexto informacional instaurado no rodape
corpo social. Na era atual, as tecnologias de informação e comunicação
no meu
transformaram a maneira como o ser humano se relaciona e, sobretudo, se
expõe, tendo efeitos sobre a economia, política, cultura, e certamente, o direito
(Angrisano; Silva, 2015).
Esta tecnologia é recente e popularizou-se entre os usuários da internet
de diversas faixas etárias por meio de trends e aplicativos facilitadores de seu

4
Agregador de notícias que se assemelha a uma rede social subdividida em comunidades, sendo
conhecido por seus fóruns e a atividade duvidosa de alguns usuários no compartilhamento de
informações.

Revista Foco | v.17 n.8|e5679| p.01-34 |2024

3
 DEEPFAKE E PRIVACIDADE: UMA ANÁLISE JURÍDICA ACERCA DA
MANIPULAÇÃO DA IMAGEM DOS USUÁRIOS
_____________________________________________________________________________________

uso. Diante de sua contemporânea expansão, convém refletir: Se a verdade

dificilmente é completa e depende de uma narrativa convincente que a confirme,
como identificá-la em meio a mecanismos que foram desenhados a fim de forjar
situações convincentes a um altíssimo nível de detalhamento por meio da
tecnologia?
A partir do exposto, o objetivo geral deste trabalho é analisar essa nova
ferramenta e seus desdobramentos jurídicos no Brasil, especialmente até onde
o direito alcança e regula a sua prática dolosa.
Os objetivos específicos deste trabalho são de natureza exploratória e
consistem em: i) caracterizar o contexto da sociedade de dados com a
constitucionalização do Direito Civil, em especial com a categoria epistemológica
do constitucionalismo digital e o surgimento de novos interesses merecedores
de tutela; ii) identificar a origem e o significado da tecnologia de Deepfake; iii)
analisar os frutos jurídicos do mau uso desta, e se ela pode significar o estopim
para uma mudança significativa no panorama da cibersegurança, nas
perspectivas de combate e prevenção.
A metodologia adotada será a pesquisa bibliográfica, mediante uso de
livros, dissertações e artigos científicos como fontes para o referencial teórico.
Ademais, foi eleita a abordagem qualitativa para o desenvolvimento do trabalho,
buscando compreender a temática por meio de sua explicação, com apego aos
pilares da pesquisa bibliográfica e do estudo de casos emblemáticos e
exemplificativos.
Sem o escopo de esgotar o assunto, este trabalho propõe não apenas a
compreensão do fenômeno da Deepfake de maneira geral, mas a identificação
de suas raízes e potenciais efeitos no Direito, passeando por tópicos como
imagem, privacidade e democracia, buscando apontar possíveis alternativas
para combater esse cenário de insegurança e manipulação de dados.

2. Vulnerabilidades que Pavimentam Novos Interesses

A Era da Razão, movimento do século XVIII que surgiu após a Idade

Média, foi marcada pela valorização da razão. Este viés era expresso nos
avanços científicos, nas descobertas e na composição de conceitos que

Revista Foco | v.17 n.8|e5679| p.01-34 |2024

4
 Mariana de Siqueira, Ester Jerônimo de Andrade
_____________________________________________________________________________________

norteiam as verdades fundamentais sobre as questões humanas, cósmicas e

históricas (Angrisano; Silva, 2015).
Em contraste ao panorama idealístico, a Era Pós-Moderna, ou seja,
aquela que veio após a Segunda Guerra Mundial, é caracterizada pela pós-
verdade, do inglês post-truth, que denota a valorização do relativismo,
acompanhando as mudanças sociais e culturais, contudo em oposição aos
avanços científicos, ainda que encontre no ciberespaço o seu grande palco
(Salgado, 2002).
Nessa toada, Norberto Bobbio defende que o Direito, em sua vertente
prática, avançou de forma a multiplicar-se, entendendo que a proliferação de
direitos ocorreu pela influência deste contexto social (Bobbio, 1992).
Segundo o autor, esse fenômeno se deu de três modos: i) pelo aumento
de bens merecedores de tutela que suscitam a intervenção estatal, como
salvaguarda de direitos políticos e sociais; ii) pela extensão da titularidade de
alguns direitos típicos e singulares, abarcando sujeitos mais plurais dentro de
contextos como família e comunidade; iii) e, finalmente, pelo afastamento do
genérico, tornando o homem abstrato em específico, diferenciado por diversos
critérios como o gênero, a idade e as condições físicas (Bobbio, 1992).
Em uma perspectiva complementar, o surgimento desses novos
interesses merecedores de tutela dão origem ao fenômeno da
constitucionalização do Direito Civil, que prega a promoção da dignidade e da
justiça social utilizando como substrato os direitos e garantias fundamentais,
afetando a forma de se pensar a conjectura da atualidade.
Para Maria Celina Bodin de Moraes, o Direito Civil Constitucionalizado é
fundamentado na priorização dos valores existenciais da pessoa humana, uma
vez privilegiados pela Constituição (Moraes, 1993).
Aquela sociedade em transformação que inspirou pensadores como
Bobbio e Moraes, ainda que recente, já sofreu diversas modificações e
adaptações que a redefiniram, contudo, algumas de suas ideias foram, de certa
forma, exponencialmente consumadas. Devido a velocidade em que os avanços
tecnológicos mesclaram-se à humanidade, a multiplicação de direitos e dos

Revista Foco | v.17 n.8|e5679| p.01-34 |2024

5
 DEEPFAKE E PRIVACIDADE: UMA ANÁLISE JURÍDICA ACERCA DA
MANIPULAÇÃO DA IMAGEM DOS USUÁRIOS
_____________________________________________________________________________________

interesses passíveis de tutela acompanharam esse em ritmo acelerado,

resultando no nascimento de novas adversidades.
Admitindo a influência da internet na definição de novas necessidades
jurídicas, o Constitucionalismo Digital é uma corrente teórica do Direito
Constitucional entendida a partir de normativas que reafirmam, reconhecem e
protegem os direitos fundamentais no contexto do ciberespaço, promovendo o
reequilíbrio de poderes na governança do ambiente digital (Mendes; Fernandes,
2020).
Num diálogo entre a Constitucionalização do Direito Civil e o
Constitucionalismo Digital, entendemos que a evidenciação das garantias
individuais e coletivas como um bem jurídico é um assunto delicado, pois, apesar
da força normativa vinculada à sua proteção, a sua violação apresenta um nível
alto de fragilidade e facilidade, principalmente com o advento da tecnologia.
Ironicamente, o aprimoramento científico-tecnológico foi acompanhado de
uma hiper valorização do relativismo e das questões subjetivas que envolvem o
conhecimento e a verdade (Salgado, 2002). Manuel Castells, em sua obra A
Sociedade em Rede, explica que as transformações tecnológicas do final do
século XX não foram pautadas apenas na letra do conhecimento, mas sim na
sua aplicação.
Significa dizer que a maneira como os avanços tecnológicos são
experienciados começa a partir da perspectiva do usuário, que contribui com a
reconfiguração das redes e a descoberta de novas aplicações, por apropriar-se
destas tecnologias, as redefinindo. Isso gera um ciclo frenético de realimentação
entre a introdução de uma nova tecnologia, seus usos e suas novas ramificações
(Castells, 2015).
O mundo de vinte anos atrás parece irreconhecível e impraticável até
mesmo para aqueles que passaram a maior parte de sua vida sem acesso a
smartphones, isto porque a habilidade ou inabilidade das sociedades dominarem
e utilizarem a tecnologia as molda. Numa abordagem contemporânea da
concretização do praxe acadêmico ubi societas ibi jus5, Castells pontua que a

5
expressão do latim, que traduz-se “onde há sociedade, há Direito”.

Revista Foco | v.17 n.8|e5679| p.01-34 |2024

6
 Mariana de Siqueira, Ester Jerônimo de Andrade
_____________________________________________________________________________________

tecnologia é a sociedade, e a sociedade não pode ser entendida ou representada

sem suas ferramentas tecnológicas (Castells, 2015).
Desta forma, esta época é marcada por um progresso quantitativo e
qualitativo do processo informacional, tornando a informação o novo elemento
que reorganiza a comunidade, o que acaba gerando um desdobramento
negativo: abrir as portas também para a desinformação em massa (Bioni, 2021).
Para Bauman, essa realidade desemboca na “experiência aterrorizante
de uma população heterônoma, infeliz e vulnerável, confrontada e possivelmente
sobrepujada por forças que não controla nem entende totalmente; uma
população horrorizada por sua própria vulnerabilidade” (Bauman, 2007).
As Deepfakes são apenas um pequeno exemplo dos grandes desafios
que envolvem a inteligência artificial (IA), a propagação de Fake News e a
fragilidade dos dados pessoais, chamando o direito a abraçar o desafio de
regular tópicos que há décadas sequer integravam a agenda jurídica (Martins;
Longhi, 2024).

3. Deepfake: a Inteligência Artificial do Engano

Para Castells, a teoria e a cultura pós-modernas celebram o fim da razão,

representando uma renúncia a capacidade de entender aquilo que não tem
sentido, posto que que as tendências sociais passam a ser compreendidas com
base na tecnologia, que por sua vez, não chega perto de ter sido desvendada a
seu escopo mais íntimo, bem como seu potencial. Isso geraria uma sociedade
que perde as rédeas quanto ao seu destino, tornando-se impotente frente a seus
desafios (Castells, 2015).
Com o avanço da tecnologia, os dados pessoais se tornaram cada vez
menos privados, sendo estes parte de uma grande rede de armazenamento e
compartilhamento. Não tão antigamente assim, descobrimos que mesmo
quando arquivos são apagados de um disco rígido, são passíveis de fácil
recuperação pois permanecem armazenados.
Nos dias atuais, somam-se a esta preocupação: as redes sociais, fotos de
perfil, nuvens de compartilhamento, drives online, políticas de cookies,

Revista Foco | v.17 n.8|e5679| p.01-34 |2024

7
 DEEPFAKE E PRIVACIDADE: UMA ANÁLISE JURÍDICA ACERCA DA
MANIPULAÇÃO DA IMAGEM DOS USUÁRIOS
_____________________________________________________________________________________

vazamento de dados, e muitos outros facilitadores para que outras pessoas

apropriem-se de dados que não as pertencem. Ou seja, além de existir uma
problemática envolvendo o armazenamento de dados, hoje lidamos com uma
extrema vulnerabilidade dessas informações e arquivos.
Provavelmente, caso uma pessoa pesquise a si mesma no google achará
várias informações e até mesmo fotos suas disponíveis na web. Logo, qual a
barreira tecnológica que impede qualquer pessoa de ser vítima do mau uso da
Deepfake? Uma nada agradável surpresa pode estar a uma captura de tela de
distância.
Caso fosse traduzida ao pé da letra, a expressão Deepfake significaria
uma farsa profunda, todavia, a etimologia da palavra remete a um neologismo
proveniente da junção do termo “deep learning”, conceito da ciência da
computação que indica aprendizado profundo, e a palavra “fake”, que quer dizer
“falso” (Chesney; Citron, 2018).
Ao dispor sobre a propaganda eleitoral, a Resolução TSE nº 23.732/2024
traz um interessante conceito de Deepfake, a definindo como um “conteúdo
sintético em formato de áudio, vídeo ou combinação de ambos, que tenha sido
gerado ou manipulado digitalmente, ainda que mediante autorização, para criar,
substituir ou alterar imagem ou voz de pessoa viva, falecida ou fictícia”.
Tal técnica de inteligência artificial está em alta e pode ser observada nos
vídeos satíricos virais envolvendo figuras políticas, áudios de cantores
internacionais cantando músicas regionais e até mesmo na trend que simula
como mulheres aparentariam quando gestantes, bem como seus futuros filhos.
Por meio do uso de algoritmos de aprendizado de máquina aliados a
softwares de reconhecimento facial, a Deepfake surgiu. Apesar disso, devido ao
avanço das técnicas e ao grande volume de dados que estão à disposição
atualmente, esses modelos pré-treinados conseguiram alcançar resultados
extremamente críveis, aperfeiçoando-se.
Aliado a esta característica, a facilidade em obter materiais sensíveis de
outras pessoas bem como a intuitiva manipulação destes, tornou essa tecnologia
um solo fértil para fraudes elaboradas. Após a apropriação e manipulação dos
dados pessoais ainda levantam-se inúmeras complicações, como a

Revista Foco | v.17 n.8|e5679| p.01-34 |2024

8
 Mariana de Siqueira, Ester Jerônimo de Andrade
_____________________________________________________________________________________

disseminação em escala dessas falsas mídias bem como a detecção de

veracidade, procedência e autoria (Medon, 2021).
Depois da disponibilização na internet, nada some definitivamente, não há
proteção ou garantia que um conteúdo não sofra réplicas ou até mesmo seja
salvo por outra pessoa. Além disso, mesmo utilizando mecanismos
ultrapassados e montagens que não aparentam 100% verdadeiras com essa
tecnologia, qual indivíduo estaria disposto a ter seu nome, imagem ou honra
aliados a conteúdos danosos, ainda que falsos?
Segundo “Pesquisa sobre o uso das tecnologias de informação e
comunicação nos domicílios brasileiros” divulgada em 2023 pelo Comitê Gestor
da Internet no Brasil, a ínfima parcela de 37% das pessoas que acessam a
internet apenas pelo celular checam as informações recebidas ([Link], 2023).
Concomitantemente, de acordo com dados enviados à Agência Pública
pela Impressions, desenvolvedora de aplicativo que proporciona troca de rostos
e imitação de vozes de famosos, os brasileiros são a segunda maior
nacionalidade na plataforma, totalizando 20% dos usuários.
Essas falsificações realistas podem ser inofensivas, principalmente
quando há o consentimento na obtenção e manipulação dos dados sensíveis,
tudo pode se resumir a uma grande brincadeira.
Ocorre que, basta adentrar o campo das possibilidades onde o emprego
ilícito dessa tecnologia, que é de fácil acesso, pode levar a consequências
jurídicas. Como é o caso da violação dos direitos autorais de artistas vivos ou
falecidos, ou na produção de Fake News envolvendo personalidades da mídia a
fim de extorsão e chantagem, impactando inclusive na criação de novas
modalidades de golpes virtuais.
Aprofundando ainda mais a gravidade das situações, essa tecnologia
pode produzir até mesmo conteúdo sexual, tendo qualquer pessoa como seu
alvo, sejam mulheres ou homens, capazes ou incapazes, vivos ou mortos, basta
a existência de uma foto.

Revista Foco | v.17 n.8|e5679| p.01-34 |2024

9
 DEEPFAKE E PRIVACIDADE: UMA ANÁLISE JURÍDICA ACERCA DA
MANIPULAÇÃO DA IMAGEM DOS USUÁRIOS
_____________________________________________________________________________________

Pode parecer tema de um episódio de Black Mirror6, mas a realidade é

que de novembro de 2023 a março de 2024 mais de 60 estudantes, garotas entre
13 e 16 anos, em diferentes regiões do Brasil, foram vítimas da criação de
conteúdo pornográfico pelos próprios colegas de escola, tendo suas imagens e
vídeos falsos veiculados em aplicativos de mensagens (G1, 2023).
Conforme o relatório anual Sumsub Identity Fraud Report, no lapso
temporal de 2022 a 2023, as Deepfakes cresceram 830% no Brasil, onde foram
detectados quase metade de todos os casos presentes na América Latina.
Isso significa que a Deepfake não é apenas uma tendência, mas um
fenômeno crescente, no qual a sua popularização, facilidade e acessibilidade
abriram as portas para a produção de conteúdos enganadores. O rápido alastre
dessa técnica evidenciou as lacunas na regulação do ciberespaço bem como a
dificuldade em impor uma efetiva gestão de boas práticas quanto ao
comportamento dos usuários.

4. Usos e Abusos do Deepfake

Em contraste a esse cenário tão negativo, a Deepfake possui usos

benéficos como a utilização em chats para experiências mais realistas, o
aperfeiçoamento da realidade virtual, contribuição em dispositivos de
acessibilidade bem como as infinitas possibilidades visuais no que engloba a
indústria artística de produções de multimídia.
Contudo, o descompasso entre a estratégia normativa e a demanda
contemporânea da proteção de dados pessoais evidencia a hipervulnerabilidade
dos titulares de dados, elegendo o consentimento como elemento cardeal para
salvaguarda de direitos inerentes à personalidade (Bioni, 2021).

6
Série de televisão britânica, criada por Charlie Brooker que tem como tema as consequências
obscuras que advém das novas tecnologias e a forma como elas moldaram a sociedade moderna
em sua dependência.

Revista Foco | v.17 n.8|e5679| p.01-34 |2024

10
 Mariana de Siqueira, Ester Jerônimo de Andrade
_____________________________________________________________________________________

4.1 O Direito à Imagem e a Privacidade

disso aqui
iniciarfalando
v7 eu poderia
Daniel Sarmento, em sua obra “Dignidade da Pessoa Humana”, afirma
que o olhar do outro nos constitui, influenciando diretamente a maneira como
nos comportamos, desde os nossos sentimentos até a nossa autonomia
(Sarmento, 2016). Dessa forma, a proteção da imagem, sendo esta parte
intrínseca da dignidade (art. 1º, inciso III da Constituição Federal), está
diretamente ligada à proteção de sua personalidade (Medon, 2021).
Se somos realmente definidos pelo conceito que os outros têm de nós,
nos encontramos sob a luz de um grande holofote para formulação destes com
o advento das redes sociais, onde a exposição, consumo e apropriação da
imagem on-line dança perigosamente com os limites da privacidade (art. 21 do
Código Civil) e do consentimento.
A imagem é um direito autônomo, pautado no art. 5º da Constituição
Federal bem como no art. 20 do Código Civil, incluindo na sua gama de proteção
as diversas formas de reprodução desta, sendo destacado como um direito da
personalíssimo, de natureza intransmissível, irrenunciável e ressarcível,
entretanto não absoluta.
A exposição da imagem de outrem pode ser respaldada nas diversas
liberdades também asseguradas pelo ordenamento jurídico, tais como as
liberdades de expressão e intelectual, sendo sopesada numa ponderação de
interesses legítimos e justificáveis.
O direito à privacidade, por sua vez, atua no controle da exposição
abusiva da personalidade, mesmo quando os frutos desta não são
obrigatoriamente prejudiciais à honra, a boa fama ou a exploração comercial da
imagem de alguém (Doneda, 2005).
Paul Bernal, em sua obra “Direitos de privacidade na Internet: direitos para
proteger a autonomia”, aduz que o direito de navegar com privacidade, o de
monitorar quem nos monitora, o direito de deletar os dados pessoais e o direito
de proteger a identidade on-line, bem como criá-la nos seus próprios moldes são
os quatro pilares do direito à privacidade na internet (Bernal, 2014).

Revista Foco | v.17 n.8|e5679| p.01-34 |2024

11
 DEEPFAKE E PRIVACIDADE: UMA ANÁLISE JURÍDICA ACERCA DA
MANIPULAÇÃO DA IMAGEM DOS USUÁRIOS
_____________________________________________________________________________________

O termo “extimidade” popularizou-se por ter como significado o ato de

lançar ao público algo da privacidade de maneira a trazer algo da intimidade da
esfera pessoal até a mais exterior e acessível, como ocorre no ciberespaço
(Nascimento, 2017).
Numa batalha entre o pleno gozo do direito à privacidade na internet e a
extimidade como tendência social, a facilidade em apropriar-se de dados
sensíveis deve ser uma preocupação a ser levada a sério, tendo em vista que o
direito apenas alcança um caráter reparatório, não de prevenção de abusos.
Restando tal impotência evidenciada na repetição de padrões enviesados,
principalmente ao analisar o recorte de gênero.

4.1.1 Recorte de gênero

A Deeptrace Labs, empresa americana que desenvolve ferramentas

sintéticas de detecção de mídia, fez um estudo em meados de 2019, indicando
que 96% dos vídeos coletados na internet envolvendo o uso de Deepfakes eram
de natureza pornográfica, destes 100% das vítimas eram mulheres, em
contraste, os vídeos que não tinham conteúdo sexual eram majoritariamente
estrelados por homens, restando 39% de participação feminina.
No mesmo ano, um estudo da Sensitivity, empresa desenvolvedora de
pesquisas relacionadas a ameaças visuais, apontou que 90% desse tipo de
material representava atos sexuais não consensuais. O próprio site Pornhub
declarou não mais tolerar esse tipo de conteúdo, todavia, falhou em removê-lo
do ar e não se responsabiliza pelo conteúdo adicionado por usuários.
Ainda no ano de 2019, foi lançado o DeepNude, aplicativo já
descontinuado que utilizava redes neurais para remover digitalmente as vestes
de mulheres com base no upload de uma foto qualquer. Ressalte-se que tal app
apenas gerava imagens de corpos femininos nus, ainda que fossem alimentados
com fotografias masculinas (Schenker, 2023).
Em 2020, outro app com tecnologia mais avançada, porém com a mesma
função, surgiu, o Nudify, que até mesmo recompensava os usuários com
geração de imagens gratuitas mediante a indicação via link (Schenker, 2023).

Revista Foco | v.17 n.8|e5679| p.01-34 |2024

12
 Mariana de Siqueira, Ester Jerônimo de Andrade
_____________________________________________________________________________________

Para popularizar ainda mais o acesso a criação desse tipo de conteúdo,

bots automatizados em bate-papos no aplicativo de mensagens Telegram foram
utilizados neste mesmo propósito, onde, segundo pesquisa interna, 63% dos
usuários recorreram aos bots para ver pessoas que já conheciam nuas, incluindo
menores de idade (Schenker, 2023).
É evidente que as maiores afetadas por essas métricas são mulheres, e
é uma verdade cruel entender que após publicado, é extremamente difícil
derrubar completamente esse tipo de conteúdo, apagá-lo por inteiro e até mesmo
impedir a sua recriação.
A despeito de ser um problema recorrente na vida das personalidades
públicas, sejam atrizes, cantoras, jornalistas ou até mesmo figuras políticas, com
a popularização da pornografia de vingança, qualquer um com o mínimo de
presença digital é uma potencial vítima. Esta é uma realidade que não vê classe
ou idade, mas vê gênero, restando demonstrada a banalização do corpo
feminino como se este fosse público e não houvesse limite para a sua violação
contínua.
Quando pensamos em gênero, para além da ofensa, também se deve
analisar o contexto em que se insere aquela violência. Por exemplo, de acordo
com pesquisa do Instituto Alziras, que estudou o perfil das prefeitas no Brasil nos
anos de 2017 a 2020, apenas 12% dos municípios são governados por mulheres,
e 53% das governantes que participaram da pesquisa afirmam ter sofrido
assédio ou violência política pelo simples fato de ser mulher.
São incontáveis os casos de atrizes que tiveram sua imagem, honra e
privacidade violadas devido ao mau uso da Deepfake. O que por si só já é
preocupante, se acentua quando entendemos que a indústria na qual essas
personalidades estão inseridas é predominantemente dominada por homens,
famosa por contar histórias da perspectiva masculina e estar atrelada a
escândalos envolvendo misoginia e machismo.
Essa tendência apenas caminha para a re-vitimização da mulher nos
espaços que ocupa, ou seja, evidencia que mesmo em ambientes que já
apresentam dificuldades para a figura feminina se impor, sempre existirá uma

Revista Foco | v.17 n.8|e5679| p.01-34 |2024

13
 DEEPFAKE E PRIVACIDADE: UMA ANÁLISE JURÍDICA ACERCA DA
MANIPULAÇÃO DA IMAGEM DOS USUÁRIOS
_____________________________________________________________________________________

nova forma de agressão para que o acesso a esse “lugar ao sol” seja motivo de
preocupações.
No Direito Penal Brasileiro não há matéria que contemple o fenômeno da
Deepfake em todas suas potenciais ofensas, contudo é considerado crime a
propagação de fotos, vídeos e outros materiais que apresentem de cunho sexual
sem consentimento, havendo ferramentas tanto na esfera civilista (suscetível de
indenização moral e material) como na penal, tendo o principal aporte nos
direitos constitucionais elencados na Carta Magna.
Destes instrumentos, podemos destacar: a) o Código Penal, nos artigos
139 e 140 que tipifica os crimes de difamação e injúria; b) a Lei Carolina
Dieckmann (Lei n.º 12.737/2012) que tratou da invasão e apropriação e
vazamento de dados sensíveis; c) o Marco Civil da Internet de 2014, que dispõs
sobre a remoção materiais sexuais em casos de exposição de pornografia de
vingança, responsabilizando os provedores; d) a Lei Maria da Penha (Lei nº
11.340/2006) na qual podemos enquadrar os atos da Deepfake como violência
psicológica e moral, ainda que a matéria não trate tão abertamente das questões
de rede, sendo esta última acompanhada de diversos projetos de lei propostos
para seu aperfeiçoamento; e) a Lei Federal 14.192/2021, que tornou crime a
violência política contra a mulher; f) o Estatuto da Criança e do Adolescente
(ECA), alterado pela Lei nº 11.829/2008, no que tange a exposição de menores;
e, por fim, g) a Lei 13.718/2018, que passou a considerar crime, a divulgação de
cenas e imagens de estupro e estupro de vulnerável.

4.1.2 A imagem após a morte e o direito autoral

Se considerarmos os museus de cera uma ótima alternativa para

homenagear uma pessoa que deixou um legado em vida pela reprodução de sua
imagem, a tecnologia presente nas Deepfakes foi disruptiva ao trazer “vida” a
personalidades que já faleceram. Essa reconstrução proporcionada pela
evolução tecnológica permite que figuras históricas e ídolos do passado
“revivam”, aparecendo em novas obras e criações, como numa ressurreição
digital (Siqueira; Vieira, 2022).

Revista Foco | v.17 n.8|e5679| p.01-34 |2024

14
 Mariana de Siqueira, Ester Jerônimo de Andrade
_____________________________________________________________________________________

Porém, apesar da capacidade de reconectar as pessoas à memórias

daqueles que se foram, a comercialização dessa imagem para entretenimento
ou até mesmo para fins de propaganda pode ser considerada uma afronta à ética
e aos direitos da personalidade post-mortem, envolvendo tópicos como o
consentimento, a identidade e a recepção daqueles que tinham em grande
estima as pessoas retratadas (Sanches, 2023).
Nessa seara, o Código Civil, em seus artigos 12 e 20, parágrafos únicos,
aborda a questão da legitimidade para representar os interesses da pessoa
falecida em face da violação do seu direito da personalidade, elencando o
cônjuge sobrevivente, bem como ascendentes e descendentes para tal. Por sua
vez, a Lei de Direitos Autorais, a Lei nº 9.610/1998, versa sobre a
transmissibilidade dos direitos morais do autor a seus sucessores, bem como do
lapsos temporais para que possam ser explorados os direitos patrimoniais após
o falecimento, que é de setenta anos.
A recriação digital de artistas póstumos na indústria do entretenimento
não é novidade, como o exemplo da atriz Carrie Fisher, que foi recriada
digitalmente em 2016 para aparecer como a jovem Princesa Leia, no filme Star
Wars: Episódio VIII, fazendo também aparições póstumas com o uso de
filmagens antigas no Episódio IX, de 2019.
Já o ator Paul Walker, que faleceu durante as gravações do sétimo filme
da franquia Velozes e Furiosos, pôde continuar atuando na produção através da
Deepfake, com a inserção de seu rosto no corpo de seu irmão mais novo.
Em julho de 2023, a concessionária Volkswagen usou a imagem da
cantora Elis Regina, que morreu em 1982, para estrelar um comercial no qual a
artista dirige um veículo Kombi e canta a canção “Como Nossos Pais” ao lado
de sua filha, Maria Rita.
Todavia, a despeito de ter sido elegida a melhor propaganda do Brasil em
premiação feita pela emissora SBT, a campanha recebeu duras críticas e
chamou a atenção do Conselho Nacional de Autorregulação Publicitária (Conar)
após o recebimento de denúncias:

O colegiado considerou, por unanimidade, improcedente o

questionamento de desrespeito à figura da artista, uma vez que o uso

Revista Foco | v.17 n.8|e5679| p.01-34 |2024

15
 DEEPFAKE E PRIVACIDADE: UMA ANÁLISE JURÍDICA ACERCA DA
MANIPULAÇÃO DA IMAGEM DOS USUÁRIOS
_____________________________________________________________________________________
da sua imagem foi feito mediante consentimento dos herdeiros e
observando que Elis aparece fazendo algo que fazia em vida (Nota
Oficial da Conar sobre o caso).

Com o entendimento que a conduta apresentada não era distante daquilo

que a personalidade da cantora exalava, bem como entendendo que a indicação
de uso da Deepfake era uma recomendação que não passava de uma boa
prática, na medida que não possui vedação expressa no ordenamento jurídico,
a maioria decidiu pelo arquivamento do processo.
No entanto, ao ponderar acerca do potencial nocivo da Deepfake,
condutas que não fizeram parte do histórico de vida das personalidades falecidas
podem vir à tona como uma mera negociação de valores, caracterizando um
abuso de direito por parte dos detentores destes, na visão da advogada Patrícia
Corrêa Sanches.
O assunto deu destaque a dificuldade apresentada, evidenciando a falta
de dispositivos que contemplem as diversas variáveis que permeiam esse uso,
o que resultou na elaboração de alguns projetos de lei, destacando o PLl
3592/2023 e o PL 3608/2023, sendo esforços de esboçar diretrizes para a
manipulação por inteligência artificial de dados inerentes à personalidade, como
imagem e voz, bem como a criação de Deepfakes pós-morte.
Além disso, os projetos propuseram o consentimento prévio da pessoa
em vida como forma de salvaguarda de sua imagem e discute até onde os
familiares poderiam dispor desses artifícios, afinal, seria de bom tom usar da
imagem de Elis Regina, que deu voz ao sucesso “Black is beautiful”7 para criar
conteúdos de viés racista? Certamente não.

4.2 Impacto Governamental e Democrático

A internet é um meio extremamente interativo, onde os usuários assumem

o papel tanto de consumidores como também o de produtores de informações,
dados e opiniões, conteúdos estes que circulam rapidamente e livremente pelo
ciberespaço (Magrani, 2014).

7
Canção que exalta a diversidade e enfatiza a beleza que há na população negra.

Revista Foco | v.17 n.8|e5679| p.01-34 |2024

16
 Mariana de Siqueira, Ester Jerônimo de Andrade
_____________________________________________________________________________________

Não obstante, essa atividade resulta na customização do conteúdo que é

percebido pelo usuário, sendo quase impossível quebrar a bolha algorítmica de
consumo programado de acordo com os gostos, ideais, visões e valores
individuais de cada um, funcionando como um agrupamento de similaridades
(Magrani, 2014).
Independentemente desta ferramenta que peneira os conteúdos ser uma
jogada de mestre que resulta no desejo de passar mais tempo nas redes sociais,
o excesso de filtragem, tanto por parte das empresas quanto dos próprios
indivíduos, empobrece a compreensão de cenários divergentes daquele que foi
criado especialmente para o usuário se sinta em casa (Pariser, 2012).
Aplicando a problemática à esfera política vigente, extremamente acirrada
e polarizada, é certo que o acesso às informações enviesadas lança obstáculos
ao debate democrático produtivo (Magrani, 2014).
Não bastando o engavetamento de ideias, tal debate se encontra ainda
mais precarizado pela disseminação de Fake News, que também são
consequência de uma narrativa unilateral aliada a determinação em manipular a
verdade para que caiba em termos mais atrativos para o convencimento.
Do livro “As Fake News e a Nova Ordem (Des)Informativa na era da Pós-
Verdade” se extrai que essas notícias falsas possuem dois planos de atuação: o
bombardeio de um conteúdo raso e de rápido consumo, e a escolha do timing
perfeito para esse excesso resultar na manipulação da opinião pública (Figueira;
Santos, 2020).
A Deepfake, por sua vez, é uma ferramenta perigosa visto que pode ser
utilizada para endossar as Fake News como meio de prova convincente aos
olhos humanos, afinal, apenas apenas 37% das pessoas que acessam a rede
apenas pelo celular checam as informações recebidas.
Um exemplo disso foram as famosas provocações entre Donald Trump e
Joe Biden na disputa pela presidência dos Estados Unidos, na conjuntura, foram
gerados vídeos de Joe Biden fazendo caretas criadas por meio da tecnologia de
Deepfake publicados por seu adversário a fim de o descredibilizar perante os
eleitores.

Revista Foco | v.17 n.8|e5679| p.01-34 |2024

17
 DEEPFAKE E PRIVACIDADE: UMA ANÁLISE JURÍDICA ACERCA DA
MANIPULAÇÃO DA IMAGEM DOS USUÁRIOS
_____________________________________________________________________________________

A Constituição Federal, em seu artigo 1º, parágrafo único e cláusula

pétrea, enuncia que todo o poder emana do povo, sendo esse poder aplicado no
exercício da escolha dos representantes políticos. Todavia, a disseminação de
Deepfakes, no presente contexto, marcado pela polarização, batalhas
ideológicas e pelo consumo desenfreado de informações que muitas vezes são
falsas, fere diretamente a manutenção do Estado Democrático de Direito,
afastando os eleitores de uma análise racional e verdadeira dos fatos, dando
lugar a manipulação midiática que pode atingir uma grande parcela da
população.
A Lei Eleitoral, no que lhe diz respeito, não aborda a temática da Fake
News, porém, versa sobre a sanção aplicada aos grupos responsáveis por
disseminar conteúdo que atinja a honra de candidatos, partidos ou coligações
políticas. Já a Lei de Imprensa, a Lei 5.250/1967, depôs sobre o combate à
veiculação e divulgação das Fake News, entretanto, foi declarada incompatível
de recepção pela Constituição Federal pelo STF, conforme decisão da ADPF
130-7/DF, do relator Ministro Carlos Ayres Britto.
Outra tentativa de abordar as Fake News de forma mais direta foi
percebida no PL 2.630/2020, projeto que cria a Lei Brasileira de Liberdade,
Responsabilidade e Transparência na Internet, objetivando maior transparência
e veracidade das informações veiculadas nas redes sociais por meio de medidas
como a verificação responsável, ao invés de aplicar a moderação e derrubada
de conteúdo nos moldes atuais.
O Tribunal Superior Eleitoral (TSE) brasileiro possui diversas normativas
reguladoras relativas à preservação de boas práticas no exercício democrático.
A Resolução TSE nº 23.551/2017 permite a propaganda partidária via internet,
reconhecendo a importância deste canal bem como seu poder de
convencimento, contudo, delimitando que tal conteúdo não pode ferir a dignidade
e honra dos adversários.
Por sua vez, a Resolução TSE nº 23.732/2024, que altera a Resolução
TSE nº 23.610/2019 e dispõe sobre a propaganda eleitoral, trouxe diretivas muito
importantes no que se refere ao uso de conteúdo manipulado na publicidade que
antecede o pleito. A normativa restringiu o uso de inteligência artificial nas
campanhas político-partidárias, sendo permitido apenas se devidamente

Revista Foco | v.17 n.8|e5679| p.01-34 |2024

18
 Mariana de Siqueira, Ester Jerônimo de Andrade
_____________________________________________________________________________________

sinalizado, e adicionalmente, proibiu totalmente o uso da Deepfake em seu art.

9º, § 1º, sendo a prática considerada abuso de poder político tanto para o
favorecimento da própria imagem como em desfavor de outrem.
Em março de 2024 foi inaugurado o Centro Integrado de Enfrentamento à
Desinformação e Defesa da Democracia (CIEDDE), apesar de funcionar na sede
do Tribunal Superior Eleitoral (TSE), está continuamente interligado on-line com
os Tribunais Regionais Eleitorais (TREs) e tem como objetivo atuar no
enfrentamento ao discurso e ódio antidemocrático, na regulação do uso da
inteligência artificial nas eleições, promovendo ainda a educação em cidadania,
democracia, Justiça Eleitoral, direitos digitais e combate à desinformação
eleitoral, segundo o site oficial do TSE.

5. Panorama Brasileiro para Regulação do Ciberespaço

Aglutinando os ganchos jurídicos discutidos nos eixos temáticos

anteriores, este tópico propõe discutir o Marco Civil da Internet e a Lei Geral de
Proteção de Dados, visto que são os dois instrumentos que têm protagonismo
da
v abertura respons bilidade
na regulação do ciberespaço no país.
A Lei 12.965/2014, conhecida como Marco Civil da Internet, define
cuul
princípios, garantias, direitos e deveres para a utilização da internet no Brasil. dos
Entre seus principais pontos, está a preservação da neutralidade da rede, a plat forma
garantia da liberdade de expressão, comunicação e manifestação de
pensamento. Essa lei visa também facilitar o acesso à informação, ao
conhecimento e a participação ativa na vida cultural e em outras questões descren

públicas (Martins; Longhi, 2024).

Além disso, o Marco Civil estipula que, em casos de divulgação de
pornografia de vingança, a vítima tem o direito de solicitar a remoção do
conteúdo ofensivo dos sites e aplicativos que o hospedam. Se os provedores de
conteúdo não atenderem à solicitação de remoção, serão considerados
corresponsáveis pela disseminação do material (Martins; Longhi, 2024).
A Lei Geral de Proteção de Dados (LGPD), Lei nº 13.709/2018, por seu
lado, atua na imposição de obrigações de consentimento, transparência e

Revista Foco | v.17 n.8|e5679| p.01-34 |2024

19
 DEEPFAKE E PRIVACIDADE: UMA ANÁLISE JURÍDICA ACERCA DA
MANIPULAÇÃO DA IMAGEM DOS USUÁRIOS
_____________________________________________________________________________________

responsabilização para os controladores de dados, conferindo também ao

cidadão direitos como os de acessar, corrigir e excluir seus dados. ansificiência
Malgrado este arcabouço, no contexto de combate ao emprego danoso daCOPA
da Deepfake, a LGPD por si só não é suficiente para barrar as potenciais
ameaças. Isso ocorre devido a dificuldade na identificação dos autores das anonimato
Deepfakes para posterior responsabilização, que pode criar conteúdos em
anonimato, não havendo um grande escopo na capacidade de rastrear esses
indivíduos bem como a impotência quanto a exigência do consentimento, posto
que podem ser criados e disseminados sem o conhecimento da pessoa
retratada.
Podemos citar ainda as Lei n° 12.965/14, n° 13.709 e n° 13.718, que
abordam a tecnologia por meio de aspectos como o uso de ferramentas de
interação e comunicação num arcabouço de proteção principiológica ao o
usuário e ao provedor, como também o tratamento de dados pessoais e a
divulgação de cenas criminosas por meios digitais (Siqueira, 2019).
Infelizmente, pela falta de previsibilidade expressa e específica sobre as
Deepfakes no ordenamento vigente, muitos operadores do direito consideram a
aplicação de diversos instrumentos citados anteriormente como inadequada, o
que apenas evidencia a necessidade de atualizações e mudanças (Siqueira,
excelente da
2019).
aqui eu posso falar insegurança
Para preencher essas lacunas, surgiram algumas proposições JCA
legislativas, como é o caso do Projeto de Lei nº 5051/2019, proposto pelo
Senador Styvenson Valentim, que intenta estabelecer princípios para o uso da
Inteligência Artificial no Brasil, acompanhando a tendência global (Medon, 2021).
No mesmo intento, também destacam-se os PLs nº 21/2020 e nº 872/2021, que
também versam sobre o uso, desenvolvimento e aplicação da IA em âmbito
nacional. 2 essas leis meram antes do PL
2338123
Após tais projetos passarem a tramitar no Senado Federal, foi instituída
em 2022 a Comissão de Juristas, sendo esta responsável pela elaboração de étoom
um novo texto legal substitutivo a estes anteriores que abordasse o uso da IA de
forma mais completa. Essa Comissão elaborou um extenso relatório de estudo
citá los
antesP
que foi ferramenta basilar para a minuta do PL 2338/2023, considerado o Marco
dar
Legal da Inteligência Artificial no Brasil. embasamen
Revista Foco | v.17 n.8|e5679| p.01-34 |2024

20
 Mariana de Siqueira, Ester Jerônimo de Andrade
_____________________________________________________________________________________

Tal proposição normativa, com substrato nos direitos fundamentais,

propôs a classificação de sistemas de IA por risco, bem como o estabelecimento
de estruturas de governança, cláusulas sancionatórias severas e a promoção de
valores como a transparência, a segurança jurídica, o acesso à informação, a
autonomia do usuário, a redução da discriminação, sem contudo minar a
inovação e o desenvolvimento tecnológico.
Uma abordagem interessante foi explorada na Lei nº 14.533/2023, que
institui a Política Nacional de Educação Digital (PNED), integrando a Lei de
Diretrizes e Bases da Educação Nacional, pois além do caráter combativo
podemos enxergar o viés preventivo e educacional. Essa norma expõe como
objetivo a amplificação dos resultados das políticas públicas que envolvem o
acesso da população a recursos, ferramentas e práticas digitais, contando com
a colaboração de programas, projetos e ações de diferentes entes federados,
áreas e setores governamentais. Possível solução p meu problema
Ainda se tratando na PNED, vale ressaltar a importância das chamadas
“competências digitais”, destacando a cultura digital e o direito digital como
tópicos cruciais para o entendimento da sociedade atual e do bom uso das
ferramentas presentes no ciberespaço. Isso significa promover a
conscientização quanto ao uso e o tratamento de dados pessoais, dialogando
diretamente com a Lei Geral de Proteção de Dados.
A regulamentação do uso da IA no país tem um vasto aporte
constitucional, sendo marcado pela corrente do Constitucionalismo Digital, no
reconhecimento de que essa tecnologia é desenvolvida pensando no benefício
dos usuários das redes, visando, principalmente, assegurar o bem-estar humano
em geral e a boa gestão do ciberespaço com o equilíbrio de poderes atuantes
da pra falar também da morosidade do
neste.
a aqui brasileiro trabalho
judiciário
Urge ressaltar que a ordem jurídica brasileira atual é deveras simplista e Efarão
insuficiente quando comparada aos avanços da Deepfake. Observamos um
cenário de muitos projetos de leis e discussões interessantes, em contraponto,
poucas ações que façam uma real diferença, afinal, muitas vezes percebemos
que os avanços teóricos do nosso ordenamento nascem velhos e destoantes da
realidade em que foram inicialmente propostos.

Revista Foco | v.17 n.8|e5679| p.01-34 |2024

21
 DEEPFAKE E PRIVACIDADE: UMA ANÁLISE JURÍDICA ACERCA DA
MANIPULAÇÃO DA IMAGEM DOS USUÁRIOS
_____________________________________________________________________________________

6. Ética na Regulação das Práticas Tecnológicas

Sendo o ambiente digital regido por diversos agentes econômicos que

gerem dados pessoais de maneira exponencial no que tange sua coleta,
armazenamento e processamento, devem surgir na mesma medida, esforços
que projetem valores constitucionais no intuito de salvaguardar a personalidade,
a isonomia, a igualdade e a privacidade (Mendes; Fernandes, 2020).
Todavia, há uma complexidade regulatória que envolve o ciberespaço,
uma vez que mesmo sendo observados esforços das instituições públicas e
privadas ao promover leis, declarações, termos ou regulamentos com aporte
constitucional, são de aplicação insuficiente, sendo benéfica a adoção de uma
abordagem transnacional, colaborativa, inclusiva e democrática, limitando
ativamente o poder dos atores privados na internet e estabelecendo diretrizes
quanto ao controle das plataformas quanto ao conteúdo de terceiros (Mendes;
Fernandes, 2020). usar reação
essa junto com a do Gabriel
Em outubro de 2023, a Organização das Nações Unidas (ONU), criou um
carnaval
novo órgão consultivo para deliberar nas questões de governança internacional
da inteligência artificial, contando com 32 especialistas. Como resultado, em
março de 2024, essa comissão aprovou, com o apoio de mais de 110 países,
uma resolução para promover a utilização da IA mais segura e confiável, bem
como o zelo pelo desenvolvimento sustentável.
Assim como a ONU, fóruns internacionais como o G7 e G20 também têm
colocado em suas pautas o impacto das tecnologias de IA, incluindo as
Deepfakes, na segurança das informações do ciberespaço, podendo culminar
no desenvolvimento de novas normativas e diretrizes internacionais. Nesse
sentido, a Organização Mundial da Propriedade Intelectual, em 2019, iniciou
debates acerca dos aspectos de proteção da propriedade intelectual nestas
tecnologias.
Já em 2020, a Unesco elaborou uma série de recomendações éticas para
o desenvolvimento da inteligência artificial, percebidas no protagonismo
governamental na garantia da segurança dos sistemas de IA, por meio do
estabelecimento de padrões condizentes com os ordenamentos nacionais e
internacionais, e a primazia dos direitos humanos.

Revista Foco | v.17 n.8|e5679| p.01-34 |2024

22
 Mariana de Siqueira, Ester Jerônimo de Andrade
_____________________________________________________________________________________

O Regulamento Geral sobre Proteção de Dados da União Europeia, mais

conhecido como o GDPR (General Data Protection Regulation), entrou em vigor
em 2018 e é a principal legislação no que tange a proteção de dados e a
privacidade dos indivíduos que a ela se subordinam. Desta regulação podemos
destacar os princípios do consentimento, sendo praticado de forma explícita e
para fins definidos, bem como o direito de dispor, seja pelo acesso, correção,
exclusão, portabilidade e oposição ao processamento de dados pessoais.
Ainda, chama a responsabilidade das organizações sobre a transparência
na coleta e compartilhamento dos dados, bem como suas práticas de
processamento, no conceito de proteção de dados “desde a concepção”,
instituindo prazos, procedimentos e até menos especialistas a serem
contratados para a atividade empresarial que envolva a manipulação de dados.
Todavia, algumas dificuldades são encontradas, como a dificuldade
financeira das pequenas e médias empresas se adequarem às exigências, bem
como algumas falhas de teoria e prática no que tange a investigação eficaz das
violações e a aplicação de penalidades, gerando até uma discussão sobre criar
obstáculos à liberdade de informação. Esse padrão ainda que não seja perfeito
Avanços nesse meio foram notados em países como China, Reino Unido
e Austrália, versando respectivamente, sobre a rotulação de indicação de
conteúdo gerado por IA, às questões de direitos autorais, difamação e
comunicações maliciosas na internet, e, por fim, sobre os contextos de abuso
doméstico e violência de gênero.
Em âmbito estatal, na Califórnia foram aprovados dois projetos de lei que
regulamentam as Deepfakes, O Projeto de Lei da Assembleia (AB) 730 e o (AB)
602, que tratam da proibição do uso de Deepfakes em campanhas políticas e
abordam as questões da criação de conteúdo pornográfico respectivamente
Apesar de não haverem convenções celebradas que versem
especificamente sobre o fenômeno da Deepfake, podemos citar as Convenções
de Direitos Humanos que salvaguardam os pilares da privacidade e a liberdade
de expressão como direitos da personalidade, como o Pacto Internacional sobre
os Direitos Civis e Políticos (PIDCP) que protege a liberdade de expressão frente
a disseminação da desinformação.

Revista Foco | v.17 n.8|e5679| p.01-34 |2024

23
 DEEPFAKE E PRIVACIDADE: UMA ANÁLISE JURÍDICA ACERCA DA
MANIPULAÇÃO DA IMAGEM DOS USUÁRIOS
_____________________________________________________________________________________

Além disso, há também a Convenção sobre Cibercrime do Conselho da

Europa, também conhecida como Convenção de Budapeste, que é um tratado
internacional sobre cibercrimes, incluindo as fraudes e violações de direitos
autorais, sendo passível de análise mesmo que não versem diretamente sobre
a Deepfake em si.
Essas abordagens refletem uma crescente conscientização internacional
acerca dos riscos associados às Deepfakes, mas também evidenciam a falta de
um consenso global para aplicação de uma abordagem coordenada. A faceta da
internet globalizada e da tecnologia digital abrangente impõe ainda maiores
obstáculos para a sua regulação eficaz, sendo colaborações internacionais
necessárias para desenvolver normas e padrões globais.

2 a conscientização esta sim

7. Medidas de Proteção ocorrendo mas ainda a passos
muto lentos
O simples encorajamento estatal e das plataformas na não produção de
Deepfakes danosas e o conselho de o usuário se manter apercebido quanto a
tutela de seus dados não resolve bem a situação, não é? Sendo assim, fica a
brecha para a produção desenfreada desse tipo de conteúdo, nos levando a
discutir condutas estatais e individuais que podem ser adotadas para mitigação
dos efeitos negativos em ascensão.
Num contexto de autodeterminação informacional, a criação de novos
mecanismos que ponham o cidadão no controle de suas informações pessoais,
promovendo sua autonomia e contando com a intervenção normativa para
assisti-lo emergem como uma necessidade (Bioni, 2021).
Numa perspectiva macro, pode-se discutir o fundamental papel do Estado
não sendo apenas um veículo que proporciona a expansão e revisão dos
ordenamentos de maneira eficaz e condizente com as necessidades temporais,
mas também um agente educacional e informacional, combatendo este
fenômeno em todas as suas esferas de atuação, implementando vigilâncias
rigorosas que alcancem as plataformas informacionais, concedendo ao usuário
a autonomia ao dispor de seus dados, promovendo segurança preventiva, não
só reparatória.
Outrossim, as próprias plataformas têm a oportunidade de afastar-se de

Revista Foco | v.17 n.8|e5679| p.01-34 |2024

24
 Mariana de Siqueira, Ester Jerônimo de Andrade
_____________________________________________________________________________________

sua redundante omissão em assumir políticas de responsabilidade e

transparência com relação a manipulação e o uso dos dados dos usuários, como
também a veiculação em massa das produções que se originam destes. Dessa
forma, a restrição para produção e publicação de qualquer tipo de conteúdo
aliada a mecanismos de detecção de veracidade, podem ser uma boa
alternativa.
Na esfera individual, tendo em vista a proteção contra a apropriação
indevida dos dados pessoais no ciberespaço, a cautela ao conceder o acesso a
tais pode ser uma medida interessante, sendo efetivada por meio de: i) optar por
contas privadas nas redes sociais, aceitando pessoas de confiança, ii)
gerenciamento de cookies, políticas de privacidade e termos e condições que
são aceitos, iii) o afastamento de sites, ferramentas de áudio e aplicativos que
incorporam as informações cedidas ao seu banco de dados permanente, como
o FaceApp. uma solução também possível
Para além da proteção individual, zelar pela imagem de outrem pode
significar um uso de rede empático e responsável, podendo ser percebido: i) na
adoção de posturas como o fact checking antes do compartilhamento de
informações, ii) na análise dos conteúdos consumidos, será necessário divertir- solução
prezando
se às custas da honra de outra pessoa? iii) interromper o consumo de páginas pela
destinadas a manipulação indevida das características dos usuários, iv) segurans
monitorar e refinar o conteúdo que consome, efetuando denúncias dentro da de 3º

plataforma dos conteúdos indesejados, e, por fim, v) exercer o discernimento em

identificar expressões que fogem da realidade, parecem fabricadas e causam
vexame a outrem.

8. Conclusão

Susan Haack, professora de direito e filosofia da Universidade de Miami,

em seu comentário sobre a pluralidade da verdade, chegou a uma conclusão
parecida com a do poeta Carlos Drummond de Andrade apresentada ao começo
deste artigo. Para a autora, tanto existe uma verdade, como muitas verdades;
que apesar de apresentar-se objetivamente, desafia nossos esforços em

Revista Foco | v.17 n.8|e5679| p.01-34 |2024

25
 DEEPFAKE E PRIVACIDADE: UMA ANÁLISE JURÍDICA ACERCA DA
MANIPULAÇÃO DA IMAGEM DOS USUÁRIOS
_____________________________________________________________________________________

descobrir onde elas podem vir a falhar (Haack, 2005).

Nem mesmo na era das ideias o ser humano chegou próximo do conceito
de verdade, hoje, na era da desinformação e da inversão de valores como a
moral e a justiça As Deepfakes exemplificam como a tecnologia pode distorcer
a percepção da realidade, demonstrando que, no contexto da sociedade digital,
a promoção da verdade está fadada falhar.
Longe, de solucionar o problema, concluímos que as aplicações
maliciosas da Deepfake são um subproduto de uma cultura de excesso de
compartilhamento de dados, tendo em vista ter o crescimento desenfreado do
ciberespaço e das novas tendências sociais resultando em um ambiente onde o
anonimato e a impunidade permitiu que pessoas perdessem de vista os limites
da privacidade e da individualidade.
Contudo, o estudo, ao mesmo tempo que conscientiza quanto à
impossibilidade do usuário em participar da internet e das redes tendo uma
personalidade digital sem, entretanto, abrir mão de parte de sua essência fora
das telas e se tornar suscetível a fraudes, ressalta a necessidade de uma
resposta multidimensional para combater os abusos associados às Deepfakes.
Não assumindo uma postura derrotista, podemos encontrar “luz no fim do
túnel” ao relembrar o Marco Civil da Internet, a Lei Geral de Proteção de Dados,
o projeto do Marco Legal da Inteligência Artificial no Brasil e a Política Nacional
de Educação Digital, discutidos anteriormente. Essas iniciativas são
extremamente positivas, possuem um aporte constitucional sólido e além de
promover o papel sancionatório do estado, também promovem a vigilância, a
prevenção e a conscientização por meio da educação.
Todavia, existe uma preocupação: serão apenas palavras no papel? Se
todas essas iniciativas vigentes e futuras não se converterem em um impacto
real na sociedade, de nada adiantam. Apesar do presente trabalho citar uma
extensa gama de leis do Brasil, atualmente, na prática, o impacto da Deepfake
sobrepuja a força vinculativa do ordenamento atual para seu combate efetivo.
Um grande exemplo de contraste entre teoria e prática é a aplicação da
Lei Geral de Proteção de Dados, bem como da Agência Reguladora instituída
pela mesma para tratar da proteção de dados, a ANPD, que até o presente
momento não chegou a ter um impacto expressivo na forma com a qual

Revista Foco | v.17 n.8|e5679| p.01-34 |2024

26
 Mariana de Siqueira, Ester Jerônimo de Andrade
_____________________________________________________________________________________

enxergamos as temáticas abordadas no escopo da LGPD.

Isso significa que, por mais que normas, agências reguladoras e diretrizes
surjam, elas têm de ser aplicáveis à realidade fática e acessíveis quanto à
implementação, uma vez que os ajustes necessários não partem apenas do
direito, mas emanam de toda uma reprogramação no comportamento de
usuários, plataformas, empresas e também permeia diversas esferas da
máquina pública e seus serviços a população em geral.
Por fim, a abordagem legal mais agressiva que visa preencher as lacunas
na regulamentação da Deepfake, as rígidas sanções aos violadores e as
medidas de proteção eficazes para as vítimas que prometem resolver tudo
muitas vezes são o primeiro pensamento quando tentamos propor soluções a
um tema que parece escapar por entre os dedos do poder estatal.
Contudo, a combinação desses esforços legais, com a complementação
dos tecnológicos e educacionais são o verdadeiro segredo para a criação de um
ambiente online mais seguro e justo, afinal, se o direito persegue a sociedade,
que, por sua vez persegue a tecnologia, nada mais justo que uma abordagem
multifacetada, atual e inclusiva para assegurar a garantia dos direitos
fundamentais no ciberespaço.

REFERÊNCIAS

ANDRADE, C. D. Poesia completa. Rio de Janeiro: Nova Aguilar, 2002.

AGÊNCIA CÂMARA DE NOTÍCIAS. Projeto exige consentimento prévio

para uso de deepfake de pessoa falecida. Disponível em:
[Link]
para-uso-de-deepfake-de-pessoa-falecida. Acesso em: 03 jul. 2024.

AGÊNCIA PÚBLICA. Yes, nós temos deepfake: brasileiros são o 2º maior

público de aplicativo que troca rostos de políticos e celebridades.
Disponível em: [Link]
brasileiros-sao-o-2o-maior-publico-de-aplicativo-que-troca-rostos-de-politicos-e-
celebridades/. Acesso em: 12 mai. 2024.

ANGRISANO, Rafael Magalhães; SILVA, Giani David. Os conceitos de

verdade, midiatização e acontecimento para análise de narrativas
telejornalísticas. Calidoscópio, vol. 13, n. 3, p. 406-415, set/dez 2015.

Revista Foco | v.17 n.8|e5679| p.01-34 |2024

27
 DEEPFAKE E PRIVACIDADE: UMA ANÁLISE JURÍDICA ACERCA DA
MANIPULAÇÃO DA IMAGEM DOS USUÁRIOS
_____________________________________________________________________________________

BAUMAN, [Link] líquidos. Tradução de Carlos Alberto Medeiros.

Rio de Janeiro: Zahar, 2007.

BERNAL, Paul. Internet privacy rights: rights to protect autonomy.

Cambridge: Cambridge University, 2014.

BIONI, Bruno Ricardo. Proteção de Dados Pessoais: A Função e os Limites

do Consentimento. Forense; 3ª edição, mar./ 2021.

BOBBIO, Norberto. A era dos direitos. Rio de Janeiro: Campus, 1992.

BRASIL, Agência. Maioria dos que acessam internet via celular não checa
informações. Brasília, mai./ 2023. Disponível em:
[Link]
internet-somente-no-celular-checam-
informacoes#:~:text=Fonte%[Link]&text=Um%20dos%20dados%20mais%2
0reveladores,dispositivo%2C%20como%20celular%20e%20computador.
Acesso em: 20 jan. 2024.

JÚNIOR, Janary. Projeto cria marco legal para uso de inteligência artificial
no Brasil. Agência Câmara de Notícias, Brasília, 4 mai. 2020. Disponível em:
[Link]
de-inteligencia-artificial-no-brasil/. Acesso em: 15 mai. 2024.

BRASIL. Constituição (1988). Constituição da República Federativa do

Brasil. Brasília, DF: Senado, 1988.

BRASIL. Decreto-Lei nº 2.848, de 7 de dezembro de 1940. Código Penal.

Diário Oficial da República Federativa do Brasil, Brasília, DF, 31 dez. 1940.

BRASIL. Lei nº 11.340, de 7 de agosto de 2006. Cria mecanismos para coibir

a violência doméstica e familiar contra a mulher. Diário Oficial da República
Federativa do Brasil, Brasília, DF, 8 ago. 2006.

BRASIL. Lei nº 12.065, de 27 de outubro de 2009. Dispõe sobre o direito de

resposta ou retificação do ofendido em matéria divulgada, publicada ou
transmitida por veículo de comunicação social. Diário Oficial da República
Federativa do Brasil, Brasília, DF, 28 out. 2009.

BRASIL. Lei nº 12.737, de 30 de novembro de 2012. Dispõe sobre a

tipificação criminal de delitos informáticos; cria o art. 154-A no Decreto-
Lei nº 2.848, de 7 de dezembro de 1940 - Código Penal. Diário Oficial da
República Federativa do Brasil, Brasília, DF, 3 dez. 2012.

BRASIL. Lei nº 12.965, de 23 de abril de 2014. Estabelece princípios,

garantias, direitos e deveres para o uso da Internet no Brasil. Diário Oficial
da República Federativa do Brasil, Brasília, DF, 24 abr. 2014.

BRASIL. Lei nº 13.709, de 14 de agosto de 2018. Dispõe sobre a proteção de

dados pessoais e altera a Lei nº 12.965, de 23 de abril de 2014 (Marco Civil

Revista Foco | v.17 n.8|e5679| p.01-34 |2024

28
 Mariana de Siqueira, Ester Jerônimo de Andrade
_____________________________________________________________________________________

da Internet). Diário Oficial da República Federativa do Brasil, Brasília, DF, 15

ago. 2018.

BRASIL. Lei nº 13.718, de 24 de setembro de 2018. Altera o Decreto-Lei nº

2.848, de 7 de dezembro de 1940 - Código Penal, e a Lei nº 8.072, de 25 de
julho de 1990, para incluir no tipo penal de crime contra a liberdade
sexual a sua modalidade de violência consistente em oferecer ou aceitar
emprego, cargo ou função pública, comissão, benefício ou vantagem
pessoal para obter vantagem ou favorecimento sexual. Diário Oficial da
República Federativa do Brasil, Brasília, DF, 25 set. 2018.

BRASIL. Lei nº 9.504, de 30 de setembro de 1997. Estabelece normas para

as eleições. Diário Oficial da República Federativa do Brasil, Brasília, DF, 1º
out. 1997.

BRASIL. Lei nº 9.610, de 19 de fevereiro de 1998. Altera, atualiza e consolida

a legislação sobre direitos autorais e dá outras providências. Diário Oficial
da República Federativa do Brasil, Brasília, DF, 20 fev. 1998.

BRASIL. Lei nº 10.406, de 10 de janeiro de 2002. Código Civil. Diário Oficial

da República Federativa do Brasil, Brasília, DF, 11 jan. 2002.

BRASIL. Lei nº 11.671, de 8 de maio de 2008. Dispõe sobre a

obrigatoriedade da divulgação dos preços dos produtos e serviços
fornecidos por estabelecimentos comerciais. Diário Oficial da República
Federativa do Brasil, Brasília, DF, 09 mai. 2008.

BRASIL. Lei nº 12.065, de 27 de outubro de 2009. Dispõe sobre o direito de

resposta ou retificação do ofendido em matéria divulgada, publicada ou
transmitida por veículo de comunicação social. Diário Oficial da República
Federativa do Brasil, Brasília, DF, 28 out. 2009.

BRASIL. Lei nº 12.288, de 20 de julho de 2010. Institui o Estatuto da

Igualdade Racial; altera as Leis nos 7.716, de 5 de janeiro de 1989, 9.029,
de 13 de abril de 1995, 7.347, de 24 de julho de 1985, e 10.778, de 24 de
novembro de 2003. Diário Oficial da República Federativa do Brasil, Brasília,
DF, 21 jul. 2010.

BRASIL. Lei nº 12.650, de 17 de maio de 2012. Altera o Decreto-Lei nº 2.848,

de 7 de dezembro de 1940 - Código Penal, para tipificar o crime de
falsificação de medicamentos, e dá outras providências. Diário Oficial da
República Federativa do Brasil, Brasília, DF, 18 maio 2012.

BRASIL. Lei nº 12.737, de 30 de novembro de 2012. Dispõe sobre a

tipificação criminal de delitos informáticos; cria o art. 154-A no Decreto-
Lei nº 2.848, de 7 de dezembro de 1940 - Código Penal. Diário Oficial da
República Federativa do Brasil, Brasília, DF, 3 dez. 2012.

Revista Foco | v.17 n.8|e5679| p.01-34 |2024

29
 DEEPFAKE E PRIVACIDADE: UMA ANÁLISE JURÍDICA ACERCA DA
MANIPULAÇÃO DA IMAGEM DOS USUÁRIOS
_____________________________________________________________________________________

BRASIL. Lei nº 12.737, de 30 de novembro de 2012. Dispõe sobre a

tipificação criminal de delitos informáticos. Diário Oficial da República
Federativa do Brasil, Brasília, DF, 3 dez. 2012.

BRASIL. Lei nº 13.185, de 6 de novembro de 2015. Institui o Programa de

Combate à Intimidação Sistemática (Bullying). Diário Oficial da República
Federativa do Brasil, Brasília, DF, 6 nov. 2015.

BRASIL. Lei nº 14.192, de 4 de agosto de 2021. Estabelece normas para a

prevenção e o combate à violência política contra a mulher. Diário Oficial
da República Federativa do Brasil, Brasília, DF, 4 ago. 2021.

BRASIL. Lei nº 14.533, de 11 de janeiro de 2023. Estabelece diretrizes para o

desenvolvimento de tecnologias de inteligência artificial. Diário Oficial da
República Federativa do Brasil, Brasília, DF, 11 jan. 2023.

BRASIL. Tribunal Superior Eleitoral (TSE). Resolução nº 23.551, de 18 de

dezembro de 2017. Dispõe sobre os atos preparatórios para as eleições de
2018. Diário Oficial da República Federativa do Brasil, Brasília, DF, 18 dez.
2017.

BRASIL. Tribunal Superior Eleitoral (TSE). Resolução nº 23.732, de 2024.

Estabelece normas para as eleições gerais de 2024. Diário Oficial da
República Federativa do Brasil, Brasília, DF, 2024.

CASTELLS, M. A sociedade em rede. São Paulo, Paz e Terra, 2015.

[Link] – Comitê Gestor da Internet no Brasil. Pesquisa sobre o uso das

tecnologias de informação e comunicação nos domicílios brasileiros. São
Paulo: [Link], 2023.

CHESNEY, Robert. CITRON, Danielle. Deep Fakes: A Looming Crisis for

National Security, Democracy and Privacy? Lawfare, fev./2018. Disponível
em: [Link]
security-democracy-and-privacy. Acesso em: 02 fev. 2024

BUDAPESTE. Convenção sobre o cibercrime, de 23 de novembro de 2001.

Disponível em: [Link] Acesso em: 22 out. 2020.

DAVIS WRIGHT TREMAINE LLP. Two New California Laws Tackle

Deepfake Videos in Politics and Porn. Media Law Monitor, 2020. Disponível
em: [Link]
laws-tackle-deepfake-videos-in. Acesso em: 10 jun. 2024.

DEEPTRACE. The State of Deepfakes: landscape, threats and impact.

Enough, set. 2019. p. 7-8. Disponível em: [Link]
[Link]. Acesso em: 30 mai. 2024.

DONEDA, Danilo. Os Direitos da Personalidade no Código Civil. Revista da

Faculdade de Direito de Campos, Ano VI, n. 6, 2005. Disponível em:

Revista Foco | v.17 n.8|e5679| p.01-34 |2024

30
 Mariana de Siqueira, Ester Jerônimo de Andrade
_____________________________________________________________________________________

[Link] Acesso em:

01 mar. 2024.

FIGUEIRA, J., SANTOS, S. As Fake News e a Nova Ordem (Des)Informativa

na era da Pós-Verdade. Coimbra: Imprensa da Universidade de Coimbra,
2020, ISBN: 978-989-26-1777-0.

FLUMIGNAN, Wévertton Gabriel Gomes. Análise da responsabilidade civil

no âmbito do Marco Civil da Internet e da Lei Geral de Proteção de Dados.
Migalhas, 9 de abril de 2021. Disponível em:
[Link]
dedados/343301/responsabilidade-civil-no-ambito-do-marco-civil-da-internet-e-
da-lgpd. Acesso em: 24 mai 2024.

GOLDZWEIG, Rafael Schmuziger. Por que devemos nos preocupar com a

influência das redes sociais nas eleições 2018? Portal El País, set. 2018.
Disponível em:
[Link]
Acesso em: 19 fev. 2024.

GROHMANN, Rafael. Novos dispositivos de comunicação e censura:

internet, vigilância e controle no capitalismo atual. Pós-Graduação em
Tecnologia, Educação e Comunicação- Universidade Federal de
Uberlândia. Paradoxos, vol. 1, n. 1, jan-jun, 2016.

G1 [Link] decide arquivar processo contra propaganda que

recriou Elis Regina com inteligência artificial. Portal de Notícias G1,
ago./2023. Disponível em: [Link]
marketing/noticia/2023/08/23/conar-decide-arquivar-processo-contra-
[Link]. Acesso
em: 02 fev. 2024.

G1 PERNAMBUCO. Alunas de colégio particular do Recife denunciam

divulgação de 'nudes' falsos criados com inteligência artificial; polícia
investiga. Portal de Notícias G1, nov./2023. Disponível em:
[Link]
particular-do-recife-denunciam-divulgacao-de-nudes-falsos-criados-com-
[Link]. Acesso em: 02 fev. 2024.

G1 PODCASTS. Caso de nudes falsos acende alerta: 'Jovens correm risco

de fazer justiça com um mouse', diz advogada. Portal de Notícias G1,
nov./2023. Disponível em: [Link]
assunto/noticia/2023/11/08/caso-de-nudes-falsos-acende-alerta-jovens-correm-
[Link]. Acesso em: 02 fev.
2024.

G1 RIO GRANDE DO SUL. Adolescentes são suspeitos de criar falsos

vídeos com inteligência artificial de alunas nuas no RS; polícia investiga.
Portal de Notícias G1, mar./2024. Disponível em: [Link]

Revista Foco | v.17 n.8|e5679| p.01-34 |2024

31
 DEEPFAKE E PRIVACIDADE: UMA ANÁLISE JURÍDICA ACERCA DA
MANIPULAÇÃO DA IMAGEM DOS USUÁRIOS
_____________________________________________________________________________________

grande-do-sul/noticia/2024/03/19/policia-civil-investiga-videos-de-nudez-de-
[Link].
Acesso em: 23 mar. 2024.

HAACK, Susan. The unity of truth and the plurality of truths. Principia, v. 9,
n. 1-2, 2005, p. 87-109. Disponível em: Dialnet-TheUnityOfTruthAnd
[Link]. Acesso em: 14 jul. 2024.

HUPE, Ana Luiza; SALOMÃO, Carolina; HEINE, Isabella; SERFATY, Juliana.

As verdades que os homens contam: Há mais “verdades” entre o céu e a
terra do que supõe a nossa vã filosofia. Revista Eclética, ano 10, nº 21, p.
82-85, jul./dez. 2005. Disponível em: [Link]
[Link]/cgi/[Link]/sys/[Link]?sid=94. Acesso em: 20 jan. 2024.

IBDFAM. Caso Elis Regina: o impacto da inteligência artificial na

preservação da memória. Disponível em:
[Link]
lig%C3%AAncia+artificial+na+preserva%C3%A7%C3%A3o+da+mem%C3%B3
ria. Acesso em: 13 jan. 2024.

INSTITUTO ALZIRAS. Perfil das Prefeitas no Brasil (2017-2020): Pesquisa

revela quem são as mulheres que governam o Brasil. Instituto Alziras, 2020.
Disponível em: [Link] Acesso em: 05 jul. 2024.

LEADERS, Security. Deepfakes crescem 830% em um ano no Brasil,

aponta relatório. Portal Security Leaders, nov./2023. Disponível em:
[Link]
aponta-relatorio/. Acesso em: 20 jan. 2024.

MAGRANI, Eduardo; OLIVEIRA, Renan Medeiros de. A internet das coisas e

a Lei Geral de Proteção de Dados: reflexões sobre os desafios do
consentimento e do direito à explicação. Revista do Advogado. São Paulo:
AASP, Ano XXXIX, n. 144, p. 80-89, nov. 2019.

MARTINS, Guilherme Magalhães; LONGHI, João Victor Rozatti. Situações

jurídicas existenciais na sociedade da informação. Direito Digital: Direito
Privado e Internet 5ª Ed, 2024.

MEDON, Filipe. O direito à imagem na era das deepfakes. Revista Brasileira

de Direito Civil – RBDCivil, Belo Horizonte, v. 27, p. 251-277, jan./mar. 2021.
Disponível em: [Link]
Acesso em: 03 mar. 2024.

MENDES, Gilmar Ferreira; FERNANDES, Victor Oliveira. Constitucionalismo

Digital e Jurisdição Constitucional: uma agenda de pesquisa para o caso
brasileiro. Justiça do Direito, v. 34, n. 2, p. 06-51, mai./ago. 2020.

MENDONÇA, Analméria da Silva Cabral. Liberdade de expressão nas mídias

virtuais: discursos de ódio e notícias falsas como meios de violação dos
Direitos Humanos nas interlocuções virtuais. 2019. Dissertação (Pós-

Revista Foco | v.17 n.8|e5679| p.01-34 |2024

32
 Mariana de Siqueira, Ester Jerônimo de Andrade
_____________________________________________________________________________________

Graduação em Direitos Humanos)- Faculdade de Direito da Universidade

Federal de Pernambuco, Recife, 2019.

MORAES, Maria Celina Bodin de. A caminho de um Direito Civil

Constitucional. Revista de Direito Civil, São Paulo, jul./set. 1993.

NASCIMENTO, Valéria Ribas do. Direitos fundamentais da personalidade

na era da sociedade da informação: transversalidade da tutela à
privacidade. Revista de informação legislativa: RIL, v. 54, n. 213, p. 265-288,
jan./mar. 2017. Disponível em:
[Link] Acesso em:
20 mar. 2024.

O GLOBO. ONU adota primeira resolução global sobre uso da inteligência

artificial. Disponível em:
[Link]
[Link]. Acesso em:
10 mai. 2024.

ORGANIZAÇÃO DAS NAÇÕES UNIDAS. Pacto Internacional sobre os

Direitos Civis e Políticos. Assembleia Geral das Nações Unidas, Nova Iorque,
16 dez. 1966.

PARISER, Eli. O filtro invisível: O que a internet está escondendo de você.

Rio de Janeiro: Zahar, 2012.

PIOVESAN, Flávia. Direitos humanos e o Direito constitucional

internacional. 4 ed. São Paulo: Max Limonad, 2000.

SALGADO, Luciana Maria Allan; LITTO, Fredric M. A biblioteca virtual do

estudante brasileiro da Escola do Futuro da Universidade de São Paulo:
um estudo da sua estrutura e dos seus usuários. [Link] de São
Paulo, São Paulo, 2002

SANCHES, Patrícia Corrêa. A criação de novas condutas pela Inteligência

Artificial e a disposição da imagem post mortem. IBDFAM, jul. 2023.
Disponível em:
[Link]
tas+pela+Intelig%C3%AAncia+Artificial++e+a+disposi%C3%A7%C3%A3o+da+
imagem+post+mortem. Acesso em: 12 fev. 2024

SARMENTO, Daniel. Dignidade da pessoa humana: conteúdo, trajetórias e

metodologias. Belo Horizonte: Fórum, 2016. p. 241.25

SCHENKER, Dylan. The construction of identity and evolution of desire

through synthetic media. A Thesis Submitted to the Temple University
Graduate Board, ago./2023. Disponível em:
[Link]

Revista Foco | v.17 n.8|e5679| p.01-34 |2024

33
 DEEPFAKE E PRIVACIDADE: UMA ANÁLISE JURÍDICA ACERCA DA
MANIPULAÇÃO DA IMAGEM DOS USUÁRIOS
_____________________________________________________________________________________

_temple_0225M_15345.pdf?sequence=1&isAllowed=y. Acesso em: 28 mar.

2024.

SIQUEIRA, Dirceu Pereira; VIEIRA, Ana Elisa Silva Fernandes. Os Limites à

Reconstrução Digital da Imagem na Sociedade Tecnológica. Rev.
Eletrônica do Curso de Direito, Santa Maria, 2022, v. 17, n.3.

SIQUEIRA, Paulo Alexandre Rodrigues de. O ‘Deep Fake’ e a Legislação

Brasileira – utilização de instrumentos legais para a proteção à imagem.
Disponível em: [Link]
brasileira-utilizacao-de-instrumentos-legais-para-a-protecao-a-
imagem/735209926. Acesso em: 11 mai. 2024.

TRIBUNAL SUPERIOR ELEITORAL (TSE). Presidente do TSE inaugura

Centro Integrado de Enfrentamento à Desinformação e Defesa da
Democracia nesta terça (12). Disponível em:
[Link]
inaugura-centro-integrado-de-enfrentamento-a-desinformacao-e-defesa-da-
democracia-nesta-terca-12. Acesso em: 07 jul. 2024.

UNIÃO EUROPEIA. Regulamento (UE) 2016/679 do Parlamento Europeu e

do Conselho, de 27 de abril de 2016. Regulamento Geral de Proteção de
Dados. Jornal Oficial da União Europeia, Bruxelas, 4 maio 2016.

Revista Foco | v.17 n.8|e5679| p.01-34 |2024

34