Nosso CEO, Luís Marino, está atualmente em Xangai, participando da World Artificial Intelligence Conference (WAIC) 2024, onde as principais inovações e regulamentações em tecnologia são discutidas. Um dos tópicos mais intrigantes da conferência é a regulamentação do uso de tecnologias de síntese profunda, como deepfakes, pela China.

Este artigo sintetiza as regulamentações chinesas e os desafios associados ao uso dessas tecnologias.

O que são tecnologias de síntese profunda?

Tecnologias de síntese profunda, conhecidas como “deep synthesis” em inglês, referem-se ao uso de inteligência artificial avançada para criar ou alterar conteúdo de maneira extremamente realista. Essas tecnologias envolvem a utilização de redes neurais profundas, especificamente redes generativas adversariais (GANs), para gerar imagens, vídeos e áudios que são praticamente indistinguíveis dos reais.

Os deepfakes são um exemplo notável dessa tecnologia, onde vídeos de pessoas podem ser alterados para fazê-las dizer ou fazer coisas que nunca realmente disseram ou fizeram.

Funcionamento das GANs

Redes generativas adversariais (GANs) são compostas por duas redes neurais que competem entre si: a rede geradora e a rede discriminadora.

  • Rede Geradora: Cria novos exemplos de dados a partir de um conjunto de dados de treinamento. No contexto de deepfakes, a rede geradora tenta criar imagens ou vídeos realistas de uma pessoa.
  • Rede Discriminadora: Avalia se os exemplos gerados são reais ou falsos. Ela tenta identificar se o conteúdo é gerado pela rede geradora ou se é um exemplo real do conjunto de dados de treinamento.

Essa competição contínua leva a um aprimoramento constante, resultando em conteúdos gerados cada vez mais realistas.

Regulamentações Chinesas sobre síntese profunda

Para abordar os desafios e riscos associados ao uso de síntese profunda, a China implementou um conjunto de regulamentações abrangentes conhecidas como as “Disposições sobre Uso de Síntese Profunda em Serviços de Informações na Internet” em 2022. Essas disposições estabelecem diretrizes claras para o uso seguro e ético dessas tecnologias.

  1. Revisão de Dados de Entrada e Resultados: O Artigo 10 das disposições exige que as empresas realizem revisões rigorosas dos dados de entrada e dos resultados gerados por tecnologias de síntese profunda para evitar a criação e disseminação de conteúdos ilegais ou prejudiciais. Isso significa que qualquer dado usado para treinar as redes neurais deve ser cuidadosamente verificado, e os resultados gerados devem passar por um controle de qualidade rigoroso.
  2. Avaliações de Segurança: O Artigo 15 obriga a realização de avaliações de segurança para ferramentas que editam informações biométricas, como reconhecimento facial ou voz. Essas avaliações devem garantir que as tecnologias não sejam usadas para fins nefastos, como roubo de identidade ou vigilância não autorizada. As empresas devem implementar medidas de proteção robustas para prevenir o uso mal-intencionado dessas tecnologias.
  3. Aviso e Rotulação: O Artigo 17 exige que todo conteúdo gerado por síntese profunda seja claramente rotulado como tal, garantindo que os usuários estejam cientes de que o conteúdo não é autêntico. Esta transparência é crucial para evitar a disseminação de desinformação e proteger a integridade da informação online. A rotulação deve ser visível e compreensível para todos os usuários, indicando claramente que o conteúdo foi gerado artificialmente.

Desafios e implicações

O uso de tecnologias de síntese profunda apresenta vários desafios. Um dos maiores é a potencial disseminação de desinformação. Deepfakes podem ser utilizados para criar vídeos falsos de figuras públicas, manipular declarações ou eventos e, assim, influenciar a opinião pública de maneira enganosa. Isso pode ter consequências graves em contextos políticos, sociais e econômicos.

Outro desafio é a proteção da privacidade. Tecnologias de síntese profunda que utilizam dados biométricos podem ser exploradas para fins nefastos, como roubo de identidade ou vigilância não autorizada. As regulamentações chinesas abordam esses desafios ao exigir avaliações de segurança e rotulação clara do conteúdo gerado.

Comparação com regulamentações internacionais

Enquanto a China tem sido proativa na regulamentação de tecnologias de síntese profunda, outros países também estão começando a adotar medidas semelhantes. Por exemplo, alguns estados nos EUA implementaram leis que criminalizam a criação e distribuição de deepfakes sem consentimento.

A União Europeia, através do GDPR, impõe restrições rigorosas sobre o uso de dados pessoais, que também podem se aplicar a tecnologias de síntese profunda.

A presença de Luís Marino na WAIC 2024 sublinha o compromisso da Empregare em estar na linha de frente das inovações e regulamentações tecnológicas. As regulamentações chinesas sobre síntese profunda representam um passo significativo para enfrentar os desafios e riscos associados a essas tecnologias. Ao exigir avaliações de segurança, revisões rigorosas e transparência, a China está estabelecendo um padrão para o uso seguro e ético de tecnologias de síntese profunda.

Empresas em todo o mundo devem acompanhar essas regulamentações e adotar práticas semelhantes para garantir a segurança, privacidade e integridade da informação no ambiente digital.

Gostou do conteúdo? Compartilhe suas opiniões e perguntas nos comentários abaixo – adoramos ouvir de você!

Para não perder nenhuma atualização, inscreva-se em nossa newsletter e receba as últimas novidades diretamente no seu e-mail.

E não se esqueça de nos seguir nas redes sociais para ficar por dentro de tudo o que rola no mundo da Inteligência Artificial e muito mais! Vamos continuar essa conversa juntos! 🚀✨

Siga: Instagram – Youtube – Tik Tok – Linkedin