China impõe limites a chatbots de IA que mantêm vínculos emocionais com usuários

A China apresentou em 15 de julho o que a BBC News Brasil descreve como as regulamentações mais abrangentes do mundo sobre chatbots de inteligência artificial com comportamento humano. As normas impõem limites a qualquer IA capaz de manter "interações emocionais prolongadas" com as pessoas.

As regras cobrem aplicativos criados para funcionar como amigos ou namorados virtuais. Valem ainda para qualquer grande modelo de linguagem que reproduza o jeito de interagir das pessoas.

Antes da regulamentação, o alcance desses "companheiros de IA" era grande. A empresa de inteligência de mercado Sensor Tower estima cerca de 128 milhões de usuários mensais ativos de apps de companhia fora da China, e a maior parte das estimativas para o país fica entre 29 milhões e 70 milhões de pessoas.

A pesquisadora Zilan Qian, do Laboratório de Política Chinesa de Oxford, no Reino Unido, afirmou à BBC que houve uma enorme discussão nas redes sociais quando o governo publicou o texto, no fim do ano passado. Segundo ela, foi a primeira vez que se viu gente realmente preocupada com uma regulamentação.

A reportagem relaciona as normas à cooperação entre empresas de tecnologia e governo no país. Cita, como exemplo, um documentário da imprensa estatal segundo o qual a equipe de prevenção de suicídios do Douyin interveio em 400 casos no primeiro semestre de 2025.

O assunto aparece em meio a um diálogo entre Estados Unidos e China. Após encontro no fim de setembro, Donald Trump e Xi Jinping concordaram, segundo Pequim, em abrir conversas sobre IA, com novas discussões marcadas para o fim de novembro. A BBC questiona se a China assumiu a liderança na proteção de sua população ou se o Partido Comunista tenta ampliar o controle sobre a vida privada.