fbpx

OpenAI lança ferramenta para identificar imagens criadas por IA

OpenAI
OpenAI, empresa criadora do ChatGPT

A OpenAI lançou uma nova ferramenta com o objectivo de identificar se uma imagem foi criada com o seu gerador de imagens DALL-E AI, bem como novos métodos de marca de água para assinalar mais claramente os conteúdos que são criados pela Inteligência Artificial.

O anúncio foi feito no blogue da OpenAI onde revelou que começou a desenvolver novos métodos de proveniência para rastrear conteúdos e provar se foram gerados por Inteligência Artificial. 

“Estamos a introduzir novas ferramentas para ajudar os investigadores a estudar a autenticidade dos conteúdos e estamos a aderir ao Comité Diretivo da Coligação para a Proveniência e Autenticidade dos Conteúdos”,

escreve a empresa no site oficial em comunicado.

Segundo a OpenAI, empresa que detem a plataforma de Inteligência Artificial mais utilizada no mundo (ChatGPT), acredita que é importante para toda a sociedade adoptar novas tecnologias e normas que ajudem as pessoas a compreender as ferramentas utilizadas para criar o conteúdo que encontram online, uma vez que cresce a adopção de IA generativa para criar e editar imagens, vídeos e áudio de forma a impulsionar a criatividade, a produtividade e a aprendizagem. 

O sistema de classificação prevê a probabilidade de uma imagem ter sido criada pelo DALL-E 3 e a OpenAI afirma que o classificador funciona mesmo que a imagem seja cortada ou comprimida ou que a saturação seja alterada. 

Outras notícias:


A precisão para identificação de imagens é forte do lado das imagens que foram feitas com o DALL-E 3 com cerca de 98% de precisão, porém, o desempenho para descobrir se o conteúdo era de outros modelos de IA não é tão eficiente.

Neste momento, a ferramenta para identificar imagens criadas por IA está a ser aperfeiçoada através da recolha do feedback dos utilizadores para testar a sua eficácia. 

Neste combate. a OpenAI também se juntou a um grupo da indústria de tecnologia que inclui a Google, a Microsoft e a Adobe com o plano de fornecer uma norma que ajudaria a rastrear a origem de diferentes meios de comunicação.

A OpenAI tem vindo a trabalhar na deteção de conteúdos gerados por Inteligência Artificial há vários anos. No entanto, em 2023, teve de terminar um programa que tentava identificar texto escrito por IA porque o classificador de texto de IA tinha consistentemente uma baixa precisão. 

Segundo a empresa, os esforços são apenas uma parte de um esforço mais vasto da indústria, onde muitos dos laboratórios de investigação estão a fazer avanços nesta área. 

Fonte The Verge Reuters

Revista Kabum Digital Banner
Artigos relacionados

Subscreva-se à nossa newsletter. Fique por dentro da tecnologia!

Total
0
Share