Meta na terça-feira anunciado que está trabalhando no desenvolvimento de ferramentas que identifiquem imagens produzidas sinteticamente por IA generativa. A empresa está atualmente trabalhando com parceiros da indústria para determinar os padrões técnicos para a identificação de imagens e, eventualmente, vídeos gerados por ferramentas generativas de IA.
A gigante da mídia social também revelou planos para implantar essas ferramentas em escala em suas plataformas, como Facebook, Instagram e Threads.
Assim que o recurso for implantado, os usuários das plataformas Meta começarão a ver rótulos em imagens geradas por IA aparecendo em seus feeds de mídia social.
No blog anunciando o novo recurso, Meta mencionou especificamente que seu objetivo é rotular imagens de empresas líderes como OpenAI, Google, Microsoft, Midjourney, Adobe e Shutterstock.
A gigante da tecnologia conseguiria isso identificando marcas d’água invisíveis – uma forma de metadados que essas empresas adicionam às imagens criadas usando suas ferramentas. Embora as marcas d’água não sejam visíveis para os usuários, elas atuam como sinais que podem ser identificados digitalmente.
Meta já marca imagens fotorrealistas geradas usando seu próprio recurso de IA, anexando marcas d’água invisíveis e marcadores visíveis.
O presidente de assuntos globais da Meta, Nick Clegg, mencionou que a nova política de identificação só se aplicará a imagens geradas por IA por enquanto – não a áudio e vídeo.
Ressaltando que isso torna mais fácil para outras plataformas identificarem essas imagens geradas por IA, Meta enfatizou a importância do sistema de marcação na “abordagem responsável” da empresa para o desenvolvimento de recursos generativos de IA.
Os metadados IPTC e as marcas d’água invisíveis da Meta, que atuam como marcadores invisíveis, estão alinhados com as melhores práticas recomendadas pelo Parceria de IA (PAI), acrescentou a empresa.
Isso ocorre porque a Meta dependeria de marcadores adicionados pelas empresas de IA generativa para identificar imagens geradas sinteticamente, e ainda não o fizeram para conteúdo de áudio e vídeo.
No entanto, ele esclareceu que, embora haja uma falta de políticas de identificação para áudio e vídeo gerados por IA, a Meta adicionará um recurso que permitirá aos usuários divulgá-lo enquanto compartilham tal conteúdo, o que permitiria à empresa adicionar rótulos de IA com base em voluntários. divulgação.
Com a ascensão da IA, houve um aumento significativo na propagação de desinformação e desinformação através de conteúdos gerados por IA.
O gigante das redes sociais também admitiu que, embora estivesse a desenvolver ferramentas e padrões de ponta para a rotulagem de conteúdos gerados sinteticamente, ainda poderia ser possível que agentes maliciosos removessem os marcadores invisíveis.
Este desenvolvimento surge num momento crucial, com vários países, incluindo os EUA, a UE, a Índia e a África do Sul, a realizar eleições importantes em 2024.
No entanto, Meta já está trabalhando para combater ainda mais esses malfeitores. A empresa está trabalhando no desenvolvimento de classificadores avançados que permitiriam detectar e rotular automaticamente conteúdo gerado por IA, mesmo na ausência de marcadores invisíveis.
Isso significa que quaisquer imagens geradas por IA de empresas que não usam marcadores também podem ser rotuladas.
“Ao mesmo tempo, estamos procurando maneiras de dificultar a remoção ou alteração de marcas d’água invisíveis”, escreveu Clegg.
Ele também acrescentou que o laboratório de pesquisa de IA da Meta, FAIR, recentemente compartilhou sua pesquisa sobre Assinatura Estáveluma tecnologia de marca d’água invisível que está sendo desenvolvida atualmente.
Descrevendo a IA como “uma espada e um escudo”, Clegg explicou que a Meta tem usado inteligência artificial para proteger os usuários de conteúdo prejudicial há anos. A empresa também pretende usar IA generativa para lidar com esse tipo de conteúdo de forma mais eficiente.