Um estudo Publicados na revista revisada por pares Ciência Psicológica na segunda-feira descobriram que rostos gerados por IA gerados com tecnologia de três anos, especialmente aqueles que representam indivíduos brancos, eram percebidos como mais reais do que fotografias de rostos reais, relata O guardião. A descoberta não se estendeu a imagens de pessoas de cor, provavelmente devido aos modelos de IA serem treinados predominantemente em imagens de indivíduos brancos – um preconceito comum que é bem conhecido na pesquisa de aprendizado de máquina.
No artigo intitulado “AI Hyperrealism: Why AI Faces Are Perceived as More Real Than Human Ones”, pesquisadores da Australian National University, da University of Toronto, da University of Aberdeen e da University College London cunharam o termo no título do artigo, hiperrealismo, que eles definem como um fenômeno em que as pessoas pensam que os rostos gerados pela IA são mais reais do que os rostos humanos reais.
Em seus experimentos, os pesquisadores apresentaram a adultos brancos uma mistura de 100 rostos brancos gerados por IA e 100 rostos brancos reais, pedindo-lhes que identificassem quais eram reais e sua confiança em sua decisão. Dos 124 participantes, 66% das imagens de IA foram identificadas como humanas, em comparação com 51% das imagens reais. Esta tendência, no entanto, não foi observada em imagens de pessoas de cor, onde tanto a IA como os rostos reais foram julgados como humanos cerca de 51% das vezes, independentemente da raça do participante.
Os pesquisadores usaram imagens reais e sintéticas provenientes de um estudo anteriorcom os sintéticos gerados pela Nvidia EstiloGAN2 gerador de imagens, que pode criar rostos realistas usando síntese de imagens. É importante notar que o StyleGAN2 foi lançado em 2020 e a síntese de imagens de IA progrediu rapidamente desde então – mas os modelos de IA mais recentes não estiveram envolvidos no estudo.
A pesquisa também mostrou que os participantes que frequentemente identificavam rostos incorretamente mostraram maior confiança em seus julgamentos, o que os pesquisadores dizem ser uma manifestação da Efeito Dunning-Kruger. Em outras palavras, as pessoas que estavam mais confiantes estavam erradas com mais frequência.
Miller et al.
Um segundo experimento, com 610 adultos, envolveu participantes classificando IA e rostos humanos em vários atributos sem saber que alguns eram gerados por IA, com os pesquisadores usando teoria do “espaço facial” para identificar atributos faciais específicos. A análise das respostas dos participantes sugeriu que fatores como maior proporcionalidade, familiaridade e menos memorização levaram à crença equivocada de que os rostos da IA eram humanos. Basicamente, os pesquisadores sugerem que a atratividade e a “média” dos rostos gerados pela IA os fizeram parecer mais reais para os participantes do estudo, enquanto a grande variedade de proporções nos rostos reais parecia irreal.
Curiosamente, enquanto os humanos lutavam para diferenciar entre rostos reais e gerados por IA, os pesquisadores desenvolveram um sistema de aprendizado de máquina capaz de detectar a resposta correta 94% das vezes.
As conclusões do estudo levantam preocupações sobre a perpetuação de preconceitos sociais e a fusão de raça com percepções de ser “humano”, o que poderia ter implicações em áreas como localizar crianças desaparecidas, onde às vezes são usados rostos gerados por IA. E a incapacidade das pessoas de detectar rostos sintéticos, em geral, pode levar à fraude ou ao roubo de identidade.
Zak Witkower, coautor da Universidade de Amsterdã, disse ao The Guardian que o fenômeno pode ter consequências de longo alcance em vários campos, desde terapia online até robótica. “Isso produzirá situações mais realistas para rostos brancos do que para rostos de outras raças”, disse ele.
Clare Sutherland, outra coautora da Universidade de Aberdeen, enfatizou ao The Guardian a importância de abordar os preconceitos na IA. “À medida que o mundo muda extremamente rapidamente com a introdução da IA”, disse ela, “é fundamental garantirmos que ninguém seja deixado para trás ou em desvantagem em qualquer situação – seja devido à etnia, sexo, idade ou qualquer outra característica protegida .”
Chave de resposta para a imagem acima. Quais são reais? Da esquerda para a direita, linha superior: 1. Falso, 2. Falso, 3. Real, 4. Falso. Da esquerda para a direita, linha inferior: 1. Real, 2. Falso, 3. Real, 4. Real.