Deepfake: os limites éticos do uso da inteligência artificial na produção de conteúdo digital | Tema de redação

Imagine, acordar e ver um vídeo de uma celebridade fazendo uma declaração polêmica pode parecer comum, até que se descobre que aquilo nunca aconteceu. Os deepfakes, tecnologia de inteligência artificial, criam vídeos, áudios e imagens extremamente realistas, mas totalmente falsos. Enquanto essa inovação serve para fins artísticos e de entretenimento, ela também facilita golpes, desinformação, crimes contra a honra e manipulação política.

Diante desse cenário, governos ao redor do mundo já discutem leis para regulamentar o uso da IA na manipulação de conteúdos digitais. Além disso, no Brasil, propostas legislativas visam punir criminalmente quem utiliza deepfakes de forma indevida, especialmente em casos de difamação, fraude e desinformação eleitoral. Dessa forma, busca-se coibir os impactos negativos dessa tecnologia e garantir maior segurança digital. Portanto, a regulamentação se torna essencial para equilibrar inovação e ética no ambiente virtual.

Mas até onde essa tecnologia pode ir sem ultrapassar limites éticos? Como os deepfakes impactam a sociedade e de que maneira esse tema pode ser abordado na redação do Enem? Neste post, você encontrará textos motivadores, repertórios socioculturais e estratégias de argumentação para desenvolver uma redação completa sobre o assunto.

Proposta de Redação

A partir da leitura dos textos motivadores e com base nos conhecimentos construídos ao longo de sua formação, redija um texto dissertativo-argumentativo em modalidade escrita formal da língua portuguesa sobre o tema “Deepfake: os limites éticos do uso da inteligência artificial na produção de conteúdo digital ”, apresentando proposta de intervenção que respeite os direitos humanos. 

Desse modo, selecione, organize e relacione, de forma coerente e coesa, argumentos e fatos para a defesa de seu ponto de vista.

Instruções para redação

1. O rascunho da redação deve ser feito no espaço apropriado.
2. O texto definitivo deve ser escrito à tinta preta, na folha própria, em até 30 (trinta) linhas.
3. A redação que apresentar cópia dos textos da Proposta de Redação ou do Caderno de Questões terá o número de linhas copiadas desconsiderado para a contagem de linhas. 
4. Receberá nota zero, em qualquer das situações expressas a seguir, a redação que:

• 4.1 tiver até 7 (sete) linhas escritas, sendo consideradas “textos insuficiente”; 
• 4.2 fugir do tema ou não atender ao tipo dissertativo-argumentativo; 
• 4.3 apresentar parte do texto deliberadamente desconectada do tema proposto;
•  4.4 apresentar nome, assinatura, rubrica, ou outras formas de identificação no espaço destinado ao texto.

Textos motivadores sobre deepfake

Primeiramente, ´para aprofundar a reflexão sobre esse tema, veja os textos motivadores que contextualizam a discussão sobre os impactos dos deepfakes na sociedade.

Texto 1 – Projetos de lei sobre deepfake no Brasil

O Senado analisa projetos para regulamentar o uso de deepfakes e aumentar penalidades para crimes cometidos com essa tecnologia.

O Senado analisará dois projetos que buscam regulamentar o uso de deepfakes no Brasil. O PL 145/2024 propõe que todo conteúdo publicitário criado com inteligência artificial precise informar explicitamente que houve manipulação digital. Já o PL 146/2024 prevê punições mais severas para calúnia, injúria e falsidade ideológica cometidas com deepfakes, quintuplicando as penas para crimes contra a honra cometidos com essa tecnologia.

Além disso, o texto veda a utilização de IA para gerar a voz ou a imagem de alguém sem consentimento, propondo advertências obrigatórias em peças publicitárias que utilizam deepfake.

🔗 Fonte: Agência Senado

Texto 2 –O que é deepfake e como essa tecnologia distorce a realidade?

A tecnologia deepfake tem facilitado a criação de vídeos adulterados e altamente realistas, permitindo que pessoas sejam inseridas em situações constrangedoras ou até mesmo fraudulentas. Por meio da inteligência artificial (IA), essas ferramentas conseguem alterar rostos, modificar falas e manipular imagens com um nível de detalhamento impressionante. Essa inovação, embora tenha aplicações legítimas em entretenimento e dublagem, também apresenta sérios riscos quando utilizada para enganar e manipular a opinião pública.

Diante dessa ameaça, o Tribunal Superior Eleitoral (TSE) aprovou, no dia 27 de fevereiro de 2024, um conjunto de 12 resoluções para as eleições municipais daquele ano. Entre as novas regras, destaca-se a proibição do uso de deepfakes em campanhas políticas, visando coibir a disseminação de informações falsas e proteger a integridade do processo eleitoral.

Como funciona um deepfake?

Os deepfakes utilizam inteligência artificial para alterar conteúdos visuais e auditivos, tornando possível trocar o rosto de uma pessoa em um vídeo ou modificar falas para transmitir mensagens inexistentes. Esse processo ocorre por meio de algoritmos avançados que analisam padrões faciais e sonoros, criando adulterações tão convincentes que se confundem com a realidade.

O impacto dessa tecnologia pode ser devastador, especialmente quando usada para fins ilícitos. Um dos maiores exemplos de sua aplicação prejudicial ocorreu em 2020, quando um relatório da empresa Sensity revelou que mais de 100 mil mulheres tiveram suas imagens manipuladas para a criação de nudes falsos, que posteriormente foram disseminados na internet. Esse caso ilustra como os deepfakes podem violar a privacidade e comprometer a reputação de indivíduos de forma irreversível.

Deepfakes na política e a disseminação de desinformação

O uso de deepfakes também tem gerado preocupações no cenário político. Em 2019, a ex-presidente da Câmara dos Deputados dos Estados Unidos, Nancy Pelosi, foi vítima de um vídeo manipulado que sugeria dificuldades na fala durante um discurso. A gravação original foi desacelerada e editada para dar a impressão de que Pelosi estava embriagada.

O impacto desse conteúdo foi tão significativo que o YouTube removeu o vídeo, enquanto plataformas como o Facebook optaram por reduzir sua distribuição e adicionar alertas informando que o material poderia ser enganoso. No entanto, a circulação dessas imagens adulteradas antes da remoção oficial já havia influenciado parte da opinião pública.

Outro exemplo ocorreu com o próprio CEO do Facebook, Mark Zuckerberg, que teve sua imagem manipulada em um deepfake para simular uma declaração sobre controle global. Nesse caso, a empresa optou por manter o vídeo no ar sob a justificativa de que se tratava de uma sátira.

Esses episódios evidenciam os desafios que a tecnologia deepfake impõe à veracidade das informações na era digital, reforçando a necessidade de regulamentação e estratégias para combater a desinformação.

Regulação e combate ao uso indevido dos deepfakes

A crescente preocupação com os riscos associados aos deepfakes tem levado governos e instituições a debater formas de controle e punição para o uso indevido dessa tecnologia. No Brasil, diversos projetos de lei estão em tramitação para estabelecer regras claras sobre o tema.

Além disso, grandes plataformas digitais passaram a adotar políticas mais rígidas contra deepfakes que possam causar danos políticos, financeiros ou reputacionais. No entanto, especialistas alertam que, embora essas medidas sejam um avanço, elas ainda não são suficientes para eliminar totalmente os riscos dessa tecnologia, que evolui rapidamente.

Diante desse cenário, é essencial que tanto os usuários da internet quanto as autoridades estejam atentos para identificar e combater a disseminação de conteúdos falsos, garantindo a integridade das informações compartilhadas no ambiente digital.

🔗Fonte adaptada: G1

Texto 3 – Criminalização de deepfakes com conteúdo sexual

A Câmara dos Deputados aprovou um projeto de lei que criminaliza a divulgação de deepfakes com nudez e conteúdo sexual.

A manipulação de imagens íntimas com deepfakes tornou-se uma ferramenta para assédio, extorsão e violência digital, levando à aprovação de um projeto de lei na Câmara dos Deputados. O texto prevê pena de dois a seis anos de prisão para quem produzir ou divulgar conteúdos pornográficos falsos com IA.

Além disso, se a vítima for mulher, criança, adolescente, idoso ou pessoa com deficiência, a pena pode ser aumentada em até 50%. O projeto também criminaliza a divulgação de deepfakes contra candidatas a cargos públicos, buscando combater o impacto dessas fraudes na integridade eleitoral.

🔗 Fonte: CNN Brasil

Texto 4 – Deepfakes e crimes financeiros

Grupos criminosos utilizam deepfakes para fraudes e golpes digitais.

🔗 Fonte: O Globo

Repertórios socioculturais para usar na redação sobre deepfake

Para garantir uma boa pontuação na Competência 2 do Enem, é fundamental utilizar repertórios socioculturais que demonstrem conhecimento de diferentes áreas e ampliem a argumentação. Além disso, o uso de referências literárias, filosóficas, históricas e cinematográficas enriquece a construção do texto. Dessa forma, é possível criar uma discussão mais aprofundada e reflexiva sobre os impactos dos deepfakes na sociedade. Portanto, a diversidade de repertórios contribui para um texto mais crítico e bem fundamentado.

A seguir, listamos repertórios relevantes para embasar sua redação.

1. Obras literárias e filosóficas

• “1984” – George Orwell: O livro mostra como o governo manipula informações, algo que os deepfakes possibilitam na era digital. Além disso, a obra evidencia que líderes e instituições usam a desinformação como ferramenta de controle. Dessa forma, a sociedade percebe a importância de regulamentações e da educação midiática para combater esse problema. Portanto, compreender essas questões é essencial para enfrentar os desafios da era digital.
• Guy Debord discute, em A Sociedade do Espetáculo, como a sociedade contemporânea se baseia em imagens e aparências, o que torna os deepfakes ainda mais perigosos.

2. Filmes e documentários

• “O Dilema das Redes” (2020): mostra como algoritmos podem manipular a informação e influenciar a opinião pública, um dos riscos dos deepfakes.
• “Black Mirror” (Episódio “Be Right Back”): apresenta a recriação digital de uma pessoa falecida, explorando os impactos psicológicos da IA.

3. Fatos históricos e legislações

• A Lei Geral de Proteção de Dados (LGPD) regulamenta o uso de dados pessoais e serve como base para controlar os deepfakes.
• Escândalo do Facebook-Cambridge Analytica (2018): exemplo de como a manipulação digital afeta eleições e a democracia.

Argumentação estruturada para a redação

Para construir um texto dissertativo-argumentativo sólido, é essencial apresentar causas, consequências e possíveis soluções para o problema abordado.

1. A manipulação da informação e os riscos à democracia

• Causa: os criadores de deepfakes utilizam essa tecnologia para disseminar desinformação e fake news, influenciando processos eleitorais e manipulando a opinião pública.
• Consequência: a confiança na veracidade das informações é abalada, prejudicando a democracia e favorecendo a propagação de discursos de ódio e golpes políticos.
• Possível solução: Regulamentação da IA e leis mais rígidas para punir a disseminação de deepfakes eleitorais, além da alfabetização digital para ensinar a população a identificar conteúdos manipulados.

Repertório:

• Em 2019, criadores de deepfake manipularam um vídeo de Nancy Pelosi para desacreditar sua imagem como figura política importante.
• O governo pode ampliar a LGPD para incluir punições específicas contra o uso indevido de deepfakes.

2. Deepfakes e crimes contra a honra e privacidade

• Causa: A facilidade de criar vídeos falsos permite a produção de conteúdos difamatórios, especialmente em contextos de assédio digital e pornografia não consensual.

• Consequência: Muitas vítimas têm sua reputação destruída, enfrentam ameaças e perseguições, além de sofrerem impactos psicológicos severos.
• Possível solução: Leis específicas para punir severamente a criação e a disseminação de deepfakes ofensivos, como o projeto aprovado pela Câmara dos Deputados.

Repertório:

• O caso dos deepfakes pornográficos (2020), denunciado pela Sensity, que revelou a manipulação de imagens de mais de 100 mil mulheres sem consentimento.
• Projeto de lei aprovado na Câmara em 2025, que criminaliza o uso de IA para a produção de conteúdos sexuais falsificados.

Conclusão

Por fim, os deepfakes representam um avanço tecnológico perigoso, capaz de comprometer democracias, reputações e segurança digital. Se, por um lado, podem ser usados para o entretenimento e a publicidade, por outro, seu uso indevido gera desinformação, crimes contra a honra e fraudes financeiras.

Diante disso, é essencial estabelecer leis rigorosas, investir em educação digital e aprimorar as tecnologias de detecção de deepfakes. Isso porque, a sociedade precisa encontrar um equilíbrio entre a inovação tecnológica e a ética na inteligência artificial, isto é, garantindo que seu uso não comprometa direitos fundamentais.

Se você quer treinar esse tema para a redação do Enem e vestibulares, acesse nossa plataforma e envie sua redação para correção especializada!