A polícia chinesa deteve um homem acusado de usar o ChatGPT para criar e espalhar notícias falsas na internet, marcando o primeiro caso criminal do país relacionado ao chatbot de inteligência artificial, de acordo com a mídia estatal.
Segundo um comunicado da polícia da província de Gansu, localizada no noroeste da China, o suspeito utilizou o ChatGPT para gerar um relatório falso sobre um acidente de trem, que ele publicou na internet com o intuito de obter lucro.
A situação acontece num cenario que o ChatGPT é proibido na China, sendo que os utilizadores de internet podem acessá-lo por meio de redes privadas virtuais (VPNs).
Acidentes de trem são um assunto sensível na China desde 2011, quando as autoridades foram pressionadas a dar explicações sobre a falta de actualizações oportunas da mídia estatal em relação a uma colisão de “trem-bala” na cidade de Wenzhou, que resultou na morte de 40 pessoas.
As autoridades de Gansu afirmaram que o suspeito, de sobrenome Hong, foi interrogado em 5 de maio na cidade de Dongguan, localizada no sul da província de Guangdong.
“Seu comportamento consistia em incitar brigas e causar problemas”, acrescentaram as autoridades ao explicar o crime pelo qual Hong foi acusado.
Essa prisão marca a primeira detenção em Gansu desde que a Administração do Ciberespaço da China promulgou novos regulamentos em janeiro para controlar o uso de deep fakes.
Leia Também:
Segundo a emissora estatal CGTN, essa é a primeira prisão no país de alguém acusado de usar o ChatGPT para fabricar e disseminar notícias falsas.
O termo “deep fake”, formalmente conhecido como síntese profunda, refere-se a conteúdos textuais e visuais altamente realistas gerados por inteligência artificial.
A nova legislação proíbe os utilizadores de criarem conteúdo falso profundo sobre tópicos já proibidos pelas leis existentes na internet, localmente.
Além disso, ela estabelece procedimentos para a remoção de conteúdo considerado falso ou prejudicial. Essa prisão ocorre em meio a uma campanha de 100 dias lançada pela seção de internet do Ministério da Segurança Pública em março, com o objetivo de reprimir a disseminação de boatos na internet.
Desde o início do ano, gigantes da internet chineses como Baidu e Alibaba buscam competir com a OpenAI, lançando suas próprias versões do serviço ChatGPT.
Em março, a Baidu revelou o “Wenxin Yiyan” ou “ERNIE Bot”, enquanto o Alibaba lançou o “Tongyi Qianwen” dois meses depois, que pode ser traduzido como “buscar a verdade por meio de mil perguntas”.
Em directrizes preliminares emitidas no mês passado para solicitar feedback público, o órgão regulador do ciberespaço da China declarou que os serviços generativos de IA seriam obrigados a passar por análises de segurança antes da sua operação.
Os provedores de serviços também terão a obrigação de verificar a identidade real dos utilizadores, além de fornecer detalhes completos da informação.
Fonte CNN Brasil
