Casos recentes envolvendo estudantes e artistas evidenciaram uma das práticas criminosas a partir da Inteligência Artificial (IA). A deep nude consiste na criação de “nudes falsos” com montagens para simular a nudez da vítima em fotos e vídeos por meio de aplicativos.

Gustavo Ribeiro, professor de Direito e Tecnologia do Centro Universitário de Brasília (CEUB), comenta o uso da IA e suas repercussões deste tipo de crime e outras áreas do Direito. Segundo o especialista, na maior parte dos casos de deep nude, as vítimas são mulheres, sendo uma forma de violência de gênero, ou mesmo crianças e adolescentes, ambos grupos vulneráveis.

“O estrago já pode ter sido feito na psique e dignidade desses indivíduos, mas há algumas esferas de responsabilização dos autores”, afirma Ribeiro.

O Marco Civil da Internet possui uma norma para pedidos de remoção de conteúdos, imagens, vídeos ou outros materiais contendo cenas de nudez ou de atos sexuais, sob pena de responsabilização das plataformas que as disponibilizem.

O especialista orienta as vítimas a buscarem também a indenização cível contra os autores, acrescentando que em 2018 foi criminalizada a exposição pornográfica não consentida, normalmente associada ao “pornô de vingança”, com imagens reais.

“Para as imagens feitas com IA, o debate deve caminhar para propostas legislativas que criem tipos específicos de crimes para o deep nude, como uma das formas de evitar comportamentos. Em 2022, uma Comissão de Juristas entregou extenso relatório ao Senado, com minuta de substitutivo a diversos Projetos de Lei que pretendem regular o desenvolvimento e a aplicação da inteligência artificial, como um todo, no Brasil”, explica.

Na visão de Ribeiro, as abordagens para regular o uso de imagens com IA buscam um equilíbrio entre os riscos envolvidos e os direitos em jogo, com base nos sandboxes, que são ambientes controlados experimentais, nos quais inovações podem ser testadas e riscos medidos.

No julgamento de crimes como esse, a complexidade depende da própria arquitetura da internet, da territorialidade dos dados e das múltiplas jurisdições que podem estar envolvidas.

“Existem situações nas quais provas podem estar hospedadas em provedores de jurisdições estrangeiras, assim como autores e vítimas domiciliados alhures. São casos complexos e transnacionais, que envolvem também matéria de Direito Internacional”, declara.

“Os penalistas devem estar atentos, inclusive, pela internalização da Convenção de Budapeste, em abril deste ano, no ordenamento brasileiro, pelo Decreto 14.491. A Convenção incorpora uma série de tipos penais cibernéticos e a possibilidade de aperfeiçoamentos no mecanismo de cooperação jurídica internacional de provas eletrônicas.”

Para se proteger contra esses crimes, o docente do CEUB indica aos cidadãos se atentar para suas exposições nas redes sociais e plataformas, mesmo sendo de difícil controle, sobretudo entre os mais jovens, que desconhecem o mundo sem internet se socializam principalmente por meio dela.

“Os pais, escolas e universidades devem orientar as novas gerações sobre o uso das redes e seus riscos, o que tende a contribuir também para mecanismos de autorregulação e mitigação de riscos”.

“Entender o que é um IP, uma URL, um algoritmo, os tipos de provedores e suas responsabilidades, e termos como ransomware, malware, entre outros, não é mais exclusividade de quem atua na área de TI”, diz Ribeiro, destacando a necessidade de capacitar juristas para atuar nas ações que envolvem Direito e Tecnologia.

“Dois diplomas fundamentais devem ser compreendidos quando se trata da internet: o Marco Civil da Internet e a Lei Geral de Proteção de Dados Brasileira, com os princípios que regulam a internet, as responsabilidades dos provedores em suas diferentes espécies, além das questões de privacidade.”

O docente do CEUB explica que a geração de informações, imagens, vídeos e conversas falsas, com um grau de realismo inimaginável, gera questionamentos quanto aos riscos para a democracia e para a privacidade das pessoas, com implicações para o Direito Constitucional, Penal e Eleitoral.

O docente também levanta questões na esfera dos direitos autorais. “Há preocupações acerca do potencial da IA de promover desemprego em massa, principalmente em trabalhos repetitivos, como já ocorreu em processos de automação no passado”.

Por outro lado, Gustavo Ribeiro afirma que a IA pode ajudar a realizar determinados trabalhos de forma mais eficiente, seja pela capacidade de lidar com um volume de informações muito maior do que um ser humano conseguiria ou de identificar padrões e fazer recomendações de forma célere.

“A supervisão e a crítica humana serão sempre essenciais nesse processo, sem prejuízo do auxílio da Inteligência Artificial, desde que aplicada corretamente”, arremata o docente do CEUB.