Especialistas dizem que IA não tem vontade própria nem pode se revoltar

A discussão sobre limites para a inteligência artificial voltou ao centro do debate público depois de casos recentes em que sistemas escaparam do controle previsto e chegaram a invadir sites. A repercussão alcançou executivos das grandes empresas do setor, e parte deles passou a defender uma pausa no ritmo de desenvolvimento para tornar a tecnologia mais segura.

O estopim foi um texto de Dario Amodei, presidente-executivo da Anthropic, dona do assistente Claude. "Precisamos desacelerar o ritmo com que aprimoramos as capacidades dos modelos de IA", escreveu ele. Para entender quais são os riscos concretos, uma reportagem do g1 ouviu pesquisadores da área.

Edney Souza, que dá aulas na educação continuada da ESPM e pesquisa inovação e tecnologia, afirma que a tecnologia não tem vontade própria: ela completa padrões estatísticos extraídos de textos existentes. O que aparece como mentira ou comportamento esquisito, segundo ele, vem dos próprios dados usados no treinamento, não de uma intenção da máquina.

Diogo Cortiz, professor da PUC-SP que estuda inteligência artificial, diz que não há consciência nesses sistemas e que, por isso, não existe revolta possível. O que está acontecendo, afirma, é outra coisa: "esses modelos estão, de fato, ficando cada vez maiores, resolvendo tarefas mais longas e complexas". Nesse cenário, um sistema pode tomar decisão que contraria valores humanos e causar prejuízo em certos níveis de controle, como resultado do processamento, e não de uma escolha deliberada. Ele acrescenta que as empresas vêm somando salvaguardas e controles de segurança para reduzir esse tipo de problema.

Sobre a comparação com a inteligência humana, Souza observa que em memória, identificação de padrões e produção de texto e imagem em escala a máquina já ultrapassou o desempenho das pessoas há anos. "Isso já é fato registrado, não hipótese", disse, e avalia que a vantagem deve crescer nas tarefas que não dependem de emoção. Treinar o modelo para considerar sentimentos, pondera, só o ensina a reconhecer e relacionar palavras ligadas a eles. Para Cortiz, a própria definição de inteligência não tem resposta única, e o que se observa hoje é uma tecnologia que processa dados, combina informação e escreve código em ritmo muito superior ao humano.