Nova York derruba sites de deepfakes: o avanço contra a falsificação de famosos com IA
A Prefeitura da cidade de Nova York aprovou uma ordem executiva que obriga plataformas online a remover sites usados para gerar deepfakes ilegais de celebridades. Nova York derruba sites dedicados à criação de imagens falsas de pessoas famosas, um passo decisivo na luta contra a disseminação de desinformação tecnológica. A medida visa proteger a imagem digital dos cidadãos e reduzir o dano causado por manipulações artificiais. Segurança e Privacidade ao Baixar Vídeos Online
Além disso, o prefeito Eric Adams assinou o documento para fortalecer as leis estaduais existentes sobre inteligência artificial generativa. O objetivo principal é responsabilizar os criadores de conteúdo que utilizam redes neurais para falsificar identidades reais sem consentimento expresso das pessoas envolvidas nas imagens geradas.
O que são deepfakes e por que eles representam um problema
Deepfakes referem-se a vídeos ou fotos em que o rosto, a voz ou até mesmo os movimentos de uma pessoa real são substituídos digitalmente. Isso ocorre graças ao uso de modelos avançados de aprendizado de máquina treinados com grandes quantidades de dados visuais e sonoros.
Contudo, essas tecnologias evoluíram rapidamente, permitindo que qualquer usuário crie falsificações convincentes em poucos minutos. A consequência é o aumento da desconfiança sobre a autenticidade de conteúdos digitais compartilhados nas redes sociais globais.
- A manipulação de áudios pode simular conversas que nunca aconteceram na vida real
- Vídeos falsos podem ser usados para difamar profissionais, políticos ou artistas sem precisar gravar nada
- Empresas e marcas sofrem prejuízos quando seus representantes aparecem em vídeos adulterados
Por outro lado, a velocidade de produção dessas falcatruas supera a capacidade atual das plataformas de detecção automática. Por isso, ações legais e regulatórias são fundamentais para complementar os esforços técnicos.
A nova ordem executiva de Nova York: regras claras
Sob a administração do prefeito Eric Adams, o governo da cidade exige que as empresas de redes sociais identifiquem e parem a operação desses sites. Isso inclui plataformas internacionais e também aquelas sediadas localmente com operações significativas.
A regra especifica que os provedores devem remover qualquer conteúdo onde uma pessoa tenha sido falsificada por IA sem seu consentimento prévio. A violação dessa exigência pode resultar em multas pesadas para as empresas envolvidas no ecossistema digital americano.
Ademais, a legislação proíbe o uso de inteligência artificial para criar deepfakes que induzam alguém a acreditar que uma pessoa real está dizendo algo que ela não disse. A intenção é proteger tanto a reputação quanto os direitos de personalidade dos cidadãos comuns e famosos.
O impacto da proibição no ecossistema digital global
Nova York derruba sites
dedicados à falsificação, mas o efeito dessa decisão pode se expandir para outros países. A cidade americana busca estabelecer um modelo regulatório que sirva de referência para legislações futuras sobre inteligência artificial.
Dessa forma, o caso serve como alerta global: a tecnologia avança mais rápido do que as regras criadas pelos legisladores. Regulamentações locais tornam-se cada vez mais importantes porque os contratos internacionais muitas vezes não cobrem especificamente deepfakes de celebridades.
Comparativo entre soluções regulatórias nos Estados Unidos e no Brasil
O Brasil também adota medidas para combater desinformação, mas o modelo americano tem particularidades interessantes. A seguir, uma tabela comparativa ajuda a visualizar as diferenças principais entre as duas jurisdições.
| Atributo | EUA (Nova York) | Brasil |
|---|---|---|
| Foco da regulação | Cidades e estados individuais | Agência Nacional de Dados Abertos (Brasp) e Marco Civil da Internet |
| Multas aplicadas | Focadas em empresas de redes sociais sediadas localmente | Multas podem chegar a 20% sobre o faturamento no território nacional |
| Prazo para remoção | Até 7 dias úteis após a notificação oficial | Sem prazos específicos definidos em lei estadual, depende de resoluções do CNIL |
Todavia, é importante notar que o Brasil ainda não possui uma legislação específica focada apenas em deepfakes. Isso significa que a proteção atual depende mais das interpretações da Agência Nacional de Dados Abertos e do Marco Civil da Internet.
O papel da tecnologia na própria solução
A resposta à ameaça dos deepfakes não pode ser apenas regulatória. Desenvolvedores de software buscam soluções técnicas como marcas d’água invisíveis, registros de proveniência de imagens e assinaturas digitais verificáveis.
Por exemplo, a tecnologia C2PA permite que criadores marquem suas criações com metadados robustos contra manipulação. Essas ferramentas ajudam plataformas a identificar automaticamente conteúdo gerado artificialmente antes da publicação nas redes sociais.
Inclusive, pesquisadores brasileiros têm trabalhado em modelos de detecção que identificam padrões sutis deixados por redes neurais ao processar rostos humanos. Esses algoritmos são treinados para encontrar irregularidades na textura da pele, no reflexo dos olhos ou na sincronia dos movimentos labiais.
Desafios práticos da implementação
No entanto, a execução dessa ordem enfrenta obstáculos práticos. Uma das maiores dificuldades reside na definição precisa de “consentimento expresso”. Como provar que uma pessoa aceitou ser falsificada se ela nunca recebeu um contrato assinado?
Além disso, identificar todos os sites dedicados ao deepfake exige monitoramento contínuo e recursos computacionais consideráveis. Muitas vezes, esses serviços operam por meio de redes descentralizadas onde não há um único servidor centralizado.
Por conseguinte, a cooperação entre autoridades municipais, estaduais e federais se torna essencial para garantir que as medidas sejam eficazes. A tecnologia evolui constantemente, exigindo atualizações regulares nas leis vigentes para manter-se à frente dos avanços criminosos digitais.
O futuro da regulação de inteligência artificial
A tendência é que legislações locais como a de Nova York sirvam de base para acordos internacionais mais amplos. Organizações globais começam a discutir padrões comuns sobre responsabilidade civil em casos de deepfakes.
Além disso, empresas de tecnologia estão criando departamentos jurídicos focados especificamente na conformidade regulatória internacional. Isso facilita que elas atendam simultaneamente às regras do Brasil, dos EUA e da União Europeia sem precisar adaptar seus produtos constantemente.
Por fim, a questão central permanece: como equilibrar inovação tecnológica com proteção à imagem humana? A resposta exige colaboração entre legisladores, cientistas de dados e representantes das comunidades afetadas. O caminho escolhido por Nova York pode inspirar outras cidades do mundo a seguirem o mesmo modelo regulatório.
Leia tambem
- Cinco carros híbridos leves usados encontrados agora com valor acessível a partir de R$ 88 mil (carros.dnn.lat)
- Vacina contra Sarampo: O que muda com a nova contagem do CDC? (saude.dnn.lat)
- O Paradoxo das Prescrições: Como os Efeitos Colaterais Geram Novas Receitas (saude.dnn.lat)
- IA Cibernética Jogo de Gato: O Desafio Para Vagas Remotas no Setor Tech (tec.dnn.lat)
- iOS 27 chega hoje: os novos recursos de IA que vão transformar seu iPhone (tec.dnn.lat)
