O horror e o desprezo invadiram as redes sociais dos cientistas na quinta-feira, enquanto vários números notoriamente ruins gerados pela IA circulavam de um artigo revisado por pares publicado recentemente em uma revista respeitável. Esses números – que os autores reconhecem no texto do artigo foram feitos por Midjourney – são todos ininterpretáveis. Eles contêm texto sem sentido e, o mais impressionante, um deles inclui a imagem de um rato com órgãos genitais grotescamente grandes e bizarros, bem como um rótulo de texto “dck”.
Na quinta-feira, o editor do artigo de revisão, Frontiers, postou uma “expressão de preocupação”, observando que está ciente das preocupações em relação ao artigo publicado. “Uma investigação está sendo conduzida e este aviso será atualizado de acordo após a conclusão da investigação”, escreveu o editor.
O artigo em questão é intitulado “Funções celulares das células-tronco espermatogoniais em relação à via de sinalização JAK/STAT”, de autoria de três pesquisadores na China, incluindo o autor correspondente Dingjun Hao, do Hospital Xi’an Honghui. Foi publicado online terça-feira na revista Frontiers in Cell and Developmental Biology.
A Frontiers não respondeu imediatamente ao pedido de comentário de Ars, mas atualizaremos esta postagem com qualquer resposta.
A primeira figura do artigo, aquela que contém o rato, chamou imediatamente a atenção quando os cientistas começaram a partilhá-la amplamente e a comentá-la nas plataformas de redes sociais, incluindo a Bluesky e a plataforma anteriormente conhecida como Twitter. À distância, a imagem anatômica está claramente errada. Mas, olhar mais de perto revela apenas mais falhas, incluindo os rótulos “dissilced”, células-tronco”, “iollotte sserotgomar” e “dck”. -sistema de revisão e qualquer processamento interno em vigor na revista.
Mas o pacote do rato está longe de ser o único problema. A Figura 2 é menos gráfica, mas igualmente distorcida. Embora pretenda ser um diagrama de um caminho de sinalização complexo, ele é uma bagunça confusa. Um especialista em integridade científica questionou se fornece uma explicação excessivamente complicada de “como fazer um donut com granulado colorido”. Como a primeira imagem, o diagrama está repleto de textos sem sentido e imagens desconcertantes. A Figura 3 não é melhor, oferecendo uma colagem de pequenas imagens circulares densamente anotadas com jargões. A imagem deve fornecer representações visuais de como a via de sinalização da Figura 2 regula as propriedades biológicas das células-tronco espermatogoniais.
Alguns cientistas online questionaram se o texto também foi gerado por IA. Um usuário observou que o software de detecção de IA determinou que provavelmente seria gerado por IA; no entanto, como Ars relatou anteriormente, esse software não é confiável.
As imagens, embora sejam exemplos flagrantes, destacam um problema crescente na publicação científica. O sucesso de um cientista depende muito de seu histórico de publicações, com um grande volume de publicações, publicações frequentes e artigos publicados em periódicos de primeira linha, o que confere mais prestígio aos cientistas. O sistema incentiva pesquisadores menos escrupulosos a publicar artigos de baixa qualidade, que, na era dos chatbots de IA, poderiam ser potencialmente gerados com a ajuda da IA. Os investigadores temem que o uso crescente da IA torne as pesquisas publicadas menos confiáveis. Como tal, revistas científicas estabeleceram recentemente novas diretrizes de autoria para textos gerados por IA para tentar resolver o problema. Mas, por enquanto, como mostra o artigo da Frontiers, existem claramente algumas lacunas.