No Brasil, já existem instrumentos legais para punir quem cria e divulga deep fakes, apesar de ainda não haver uma lei específica sobre o assunto. A Constituição Federal e o Código Civil garantem a todo cidadão o direito à imagem, à honra e à privacidade, além de determinarem que quem violar esses direitos deve indenizar a vítima.
Bernardo Drumond (*)
“Deep fake” é um tipo de vídeo ou áudio falso criado por Inteligência Artificial. O programa aprende a imitar o rosto, a voz e os gestos de uma pessoa real a partir de fotos e vídeos disponíveis na Internet e depois fabrica situações que nunca aconteceram, com um realismo assustador.
O problema vem se agravando bastante. Entre 2019 e 2023, o número de incidentes registrados cresceu cerca de 550%. Isso, possivelmente, porque ferramentas que antes exigiam laboratórios de pesquisa sofisticados hoje estão disponíveis gratuitamente na Internet. Qualquer pessoa com um celular e algumas fotos pode criar um conteúdo falso convincente.
As vítimas do deep fake não são apenas famosos, mas estão em todos os grupos sociais, tendo algumas categorias especialmente afetadas, como mulheres comuns, principal alvo de conteúdo íntimo. Pesquisas internacionais mostram que mais de 90% desse tipo de material tem mulheres como vítimas. Um colega de trabalho, um ex-namorado ou até um desconhecido pega fotos das redes sociais e cria vídeos falsos de natureza sexual. O trauma psicológico é devastador.
Políticos e autoridades públicas também são alvos frequentes de deep fakes que os mostram fazendo declarações falsas ou envolvidos em situações comprometedoras, especialmente em períodos eleitorais, quando a desinformação pode decidir votos. Já empresários e executivos são vítimas de golpes financeiros sofisticados: criminosos simulam a voz ou o rosto do chefe em uma videochamada para convencer funcionários a transferir dinheiro ou revelar senhas.
Instrumentos legais
No Brasil, já existem instrumentos legais para punir quem cria e divulga deep fakes, apesar de ainda não haver uma lei específica sobre o assunto. A Constituição Federal e o Código Civil garantem a todo cidadão o direito à imagem, à honra e à privacidade, além de determinarem que quem violar esses direitos deve indenizar a vítima. Não importa se a violação foi feita com caneta ou com Inteligência Artificial. O Superior Tribunal de Justiça já firmou entendimento de que, nesses casos, nem é preciso provar o prejuízo, pois a violação em si já justifica a indenização.
O Marco Civil da Internet, principal lei brasileira sobre o mundo digital, obriga as plataformas a remover conteúdo íntimo falso assim que a vítima notificar. Se não removerem, respondem junto com quem criou o conteúdo. A Lei Geral de Proteção de Dados (LGPD) também entra em cena: criar um deep fake exige usar dados biométricos da pessoa, como rosto e voz, sem autorização. Isso já configura uma violação punível pela lei.
A prática, contudo, enfrenta obstáculos sérios. O primeiro problema é descobrir quem fez. Muitos criadores de deep fake agem no anonimato, usando programas que escondem sua identidade na Internet. Identificá-los exige investigação técnica especializada e, muitas vezes, cooperação de plataformas sediadas no exterior.
O segundo desafio é provar que o vídeo é falso. Parece contraditório, mas a vítima frequentemente precisa contratar um perito especializado para demonstrar tecnicamente que aquele conteúdo foi fabricado por IA. Esses profissionais ainda são raros e caros no Brasil.
Dano praticamente irreversível
O terceiro problema é a velocidade. Um vídeo pode ser visto por milhões de pessoas em horas. O processo judicial leva meses ou anos. Quando a decisão chega, o dano já está feito e é praticamente irreversível. Indenização normalmente não apaga da memória das pessoas o que viram e sentiram.
Nesse contexto, o Congresso Nacional debate projetos de lei que vão além do que já existe, conhecidos como “PL das Fake News” e “Marco Legal da Inteligência Artificial”. Um deles propõe que todo conteúdo criado por Inteligência Artificial seja obrigatoriamente identificado como tal, uma espécie de “selo de fake” visível. Outro cria regras específicas para punir quem usa deep fake para fins eleitorais.
Na Europa, uma lei aprovada em 2024 já obriga as empresas de IA a marcar digitalmente todo conteúdo sintético. Nos Estados Unidos, vários Estados criminalizaram especificamente o deep fake pornográfico. O Brasil caminha na mesma direção, mas ainda a passos lentos.
As grandes plataformas também têm investido em ferramentas automáticas de detecção. O problema é que a tecnologia de criação evolui mais rápido do que a de detecção, em uma corrida armamentista digital na qual as vítimas pagam o preço.
(*) Coordenador da Área Cível do escritório Marcelo Tostes Advogados