Os críticos temem que a Lei Revisada de No Fakes se transformou em proteção direcionada da AI DeepFakes em potências de censura.
O que começou como uma tentativa aparentemente razoável de combater os deepfakes deefas gerados pela IA se transformou em algo muito mais preocupante, de acordo com os defensores dos direitos digitais. Os tão discutidos originais da Nuture, Foster Art e Keep Entertainment Safe (sem falsificações)-originalmente destinados a prevenir réplicas digitais não autorizadas de pessoas-agora ameaçam alterar fundamentalmente como a Internet funciona.
A expansão da conta definiu alarmes tocando em toda a comunidade tecnológica. Ele foi muito além de simplesmente proteger as celebridades de vídeos falsos para potencialmente criar uma estrutura de censura abrangente.
De salvaguardas sensatas à abordagem de marreta
A ideia inicial não foi totalmente equivocada: criar proteções contra sistemas de IA gerando vídeos falsos de pessoas reais sem permissão. Todos nós já vimos aqueles flakes inquietos circulando on -line.
Mas, em vez de criar medidas estreitas e direcionadas, os legisladores optaram pelo que o Fundação Eletrônica Frontier chama um “sistema de licenciamento de imagem federalizado” que vai muito além de proteções razoáveis.
“O projeto de lei atualizado dobra sobre essa abordagem equivocada inicial”, observa o EFF, “exigindo uma infraestrutura de censura totalmente nova para esse sistema, abrangendo não apenas imagens, mas os produtos e serviços usados para criá -los”.
O que é particularmente preocupante é o requisito da Lei No Fakes para quase todas as plataformas da Internet implementar sistemas que não apenas removeriam o conteúdo depois de receber avisos de queda, mas também impedem que conteúdo semelhante seja carregado novamente. Essencialmente, está forçando plataformas a implantar filtros de conteúdo que provaram notoriamente não confiáveis em outros contextos.
Inovação arrepiante
Talvez o mais preocupante para o setor de IA seja como a Lei de No Fakes tem como alvo as próprias ferramentas. O projeto de lei revisado não iria apenas atrás de conteúdo prejudicial; Potencialmente desligaria plataformas de desenvolvimento inteiras e ferramentas de software que poderiam ser usadas para criar imagens não autorizadas.
Essa abordagem parece uma reminiscência de tentar proibir processadores de texto porque alguém pode usar um para escrever conteúdo difamatório. O projeto inclui algumas limitações (por exemplo, as ferramentas devem ser “projetadas principalmente” para fazer réplicas não autorizadas ou ter outros usos comerciais limitados), mas essas distinções estão notoriamente sujeitas a interpretação.
Pequenas startups do Reino Unido que se aventuram na geração de imagens da IA podem se encontrar em batalhas legais caras com base em alegações frágeis muito antes de terem a chance de se estabelecer. Enquanto isso, os gigantes da tecnologia com exércitos de advogados podem melhorar essas tempestades, potencialmente consolidando seu domínio.
Qualquer pessoa que tenha lidado com o sistema de conteúdo do YouTube ou ferramentas de filtragem de direitos autorais similares sabem o quão frustrantemente imprecisos podem ser. Esses sistemas rotineiramente sinalizam conteúdo legítimo, como músicos tocando suas próprias músicas ou criadores usando material sob provisões justas de negociação.
A Lei No Fakes exigiria efetivamente sistemas de filtragem semelhantes em toda a Internet. Embora inclua esculturas para paródia, sátira e comentário, a aplicação dessas distinções algoritmicamente se mostrou praticamente impossível.
“Esses sistemas geralmente sinalizam coisas semelhantes, mas não iguais”, explica a EFF, “como duas pessoas diferentes tocando a mesma peça de música de domínio público”.
Para plataformas menores sem recursos de escala do Google, a implementação de tais filtros pode ser proibida cara. O resultado provável? Muitos simplesmente cenoram demais para evitar riscos legais.
De fato, pode -se esperar que as principais empresas de tecnologia se oponham a essa regulamentação abrangente. No entanto, muitos permaneceram conspicuamente silenciosos. Alguns observadores da indústria sugerem que isso não é coincidência – os gigantes estabelecidos podem absorver mais facilmente os custos de conformidade que esmagariam concorrentes menores.
“Provavelmente não é uma coincidência que alguns desses mesmos gigantes estejam bem com esta nova versão de No Fakes”, observa o EFF.
Esse padrão se repete ao longo do histórico de regulamentação tecnológica – o que parece ser a regulamentação reinando em Big Tech geralmente acaba cimentando sua posição no mercado, criando barreiras muito caras para os recém -chegados superarem.
Nenhuma ato de falsificação ameaça o discurso anônimo
Escondido na legislação está outra provisão preocupante que poderia expor usuários anônimos da Internet com base em meras alegações. O projeto de lei permitiria que qualquer pessoa obtenha uma intimação de um funcionário do tribunal – sem revisão ou evidência judicial – forçando os serviços a revelar informações de identificação sobre usuários acusados de criar réplicas não autorizadas.
A história mostra que esses mecanismos estão prontos para abuso. Os críticos com pontos válidos podem ser desmascarados e potencialmente assediados quando seus comentários incluem capturas de tela ou citações das mesmas pessoas que tentam silenciá -las.
Essa vulnerabilidade pode ter um efeito profundo nas críticas legítimas e na denúncia. Imagine expondo a má conduta corporativa apenas para que sua identidade seja revelada através de um processo de intimação de carrinho de borracha.
Esse impulso por regulamentação adicional parece estranho, uma vez que o Congresso aprovou recentemente o ato de Take It Down, que já tem como alvo imagens envolvendo conteúdo íntimo ou sexual. Essa legislação levantou preocupações de privacidade, particularmente no monitoramento de comunicações criptografadas.
Em vez de avaliar os impactos da legislação existente, os legisladores parecem determinados a avançar com restrições mais amplas que podem remodelar a governança da Internet nas próximas décadas.
As próximas semanas serão críticas à medida que a Lei de No Fakes se move através do processo legislativo. Para quem valoriza a liberdade da Internet, a inovação e as abordagens equilibradas para os desafios emergentes da tecnologia, isso traz muito assistindo.
(Foto por Markus Spiske)
Veja também: Os arquivos OpenAI: ex-reivindicação de reivindicação de reivindicação de ganância traindo a segurança da IA
Deseja aprender mais sobre IA e Big Data dos líderes do setor? Confira Ai & Big Data Expo Ocorrendo em Amsterdã, Califórnia e Londres. O evento abrangente é co-localizado com outros eventos principais, incluindo Conferência de Automação InteligenteAssim, BlockxAssim, Semana de Transformação Digitale Cyber Security & Cloud Expo.
Explore outros próximos eventos de tecnologia corporativa e webinars alimentados pela TechForge aqui.
