Sistema utiliza algoritmos treinados para identificar imagens criadas por inteligência artificial, editadas ou copiadas de outros artigos. João Phillipe trenou algoritmos para identificar fraudes em imagens de artigos
Reprodução/EPTV
O laboratório de inteligência artificial da Unicamp desenvolveu uma ferramenta capaz de identificar imagens fraudulentas em artigos científicos. A tecnologia, que tem o objetivo de combater a desinformação, pode ajudar a população a encontrar conteúdos suspeitos em estudos.
Para isso, o pesquisador e pós-doutorando em IA João Phillipe Cardenuto treinou algoritmos para que identifiquem gráficos, exames, registros microscópicos e outros conteúdos visuais que possam ter sido gerados por inteligências artificiais, editados ou plagiados de outros artigos.
📲 Participe do canal do g1 Campinas no WhatsApp
A criação do sistema contou com a parceria de uma agência dos Estados Unidos, responsável pela criação de tecnologias de uso militar, e ajudou a identificar uma série de estudos falsificados em um site chinês que vendia a autoria de artigos científicos.
“Com a nossa ferramenta e com essa denúncia, a gente conseguiu melhorar o nosso algoritmo e detectar, a partir das imagens dos artigos produzidos por esse tipo de organização, todos os artigos falsificados. A gente investigou até que o site saiu do ar. Não existe mais”, diz João.
A seguir, entenda como a ferramenta funciona e qual a sua importância no combate à desinformação.
Como a ferramenta funciona?
Para usar a ferramenta, basta ter uma cópia do artigo em PDF. O sistema faz a leitura do arquivo e pontua os possíveis problemas. A ideia é que, caso os algoritmos apontem a existência de alguma imagem suspeita, o artigo analisado passe pela revisão de um humano, que poderá concluir se o conteúdo é ou não confiável.
“Estamos falando de identificar falsificações na ciência, quando um autor resolve falsificar algum resultado e publicar como se fosse verdadeiro. Isso é um problema sério, porque você pode estar falando de medicamentos que, na verdade, não funcionam ou de descobertas científicas que foram inventadas”, explica o orientador da pesquisa Anderson Rocha.
João Phillipe diz que a inteligência pode indicar se as imagens do artigo foram:
criadas por IA;
editadas no Photoshop;
copiadas de outros documentos.
“A gente nota que hoje imagens científicas são produzidas por IA de maneira fraudulenta e a gente consegue detectar usando IA quais são essas imagens e ajudar a ciência. É a IA do bem”, brinca o pesquisador.
Ciência do jeito certo
Samuel Duarte Maia faz doutorado em farmacologia na Unicamp e acredita que a ferramenta vai ajudar a valorizar a ciência. O pesquisador, que já desenvolveu estudos sobre o uso do óleo de cannabis na diminuição da pressão arterial, lembra que há um jeito certo de fazer ciência, com ética e estudo, e ele deve ser respeitado.
“É de uma importância inquestionável porque o que a gente preza dentro do laboratório é fazer a ciência da forma correta. A gente sempre está lendo artigos, realizando reuniões, discutindo sobre os resultados e como fazer de forma mais precisa. Mas vai ter gente que, claro, vai cometer erros de forma acidental, mas também de forma intencional”.
“Vai ter gente que, obviamente, ao invés de levar esses cinco anos para publicar o artigo, vai encurtar de forma antiética. Não prejudica só o pesquisador caso ele seja pego, mas prejudica toda a sociedade e a credibilidade científica em si”.
Ajuda para os revisores e para toda a população
O sistema desenvolvido por Cardenuto pode ajudar o trabalho de pesquisadores como Li Li Min, da Unicamp, que faz a revisão de artigos científicos há mais de 20 anos. “Essa questão do plágio acaba sendo importante a gente ter ferramentas que nos apontem essa possibilidade”, comenta.
“É um trabalho que demanda um tempo a partir do momento que ele lê, de conferir as referências de, realmente, analisar a validade do processo da pesquisa que foi colocado, a metodologia, e, por fim, se os resultados que foram colocados estão dentro de um parâmetro esperado ou razoável cientificamente falando”.
Além de ajudar os pesquisadores e revisores da própria instituição, a ferramenta também está disponível gratuitamente para todas as pessoas que identificarem imagens suspeitas em pesquisas. Basta entrar em contato pelo e-mail [email protected] informando o interesse em usá-la.
VÍDEOS: Tudo sobre Campinas e Região
Veja mais notícias sobre a região na página do g1 Campinas.
