Presidente da Microsoft pede regras globais de segurança para a IA
Brad Smith disse à BBC que a tecnologia tem menos exigências do que eletrodomésticos e alimentos e defendeu um freio de emergência e relatórios obrigatórios de incidentes.
As declarações de Smith foram dadas em inglês e aparecem em tradução livre.
- Brad Smith, presidente da Microsoft, pediu à BBC regras globais de segurança e avaliadores independentes para a IA.
- Ele propôs aviso às vítimas de invasões por agentes de IA, um freio de emergência e relatórios obrigatórios de incidentes.
- Smith vê os britânicos em boa posição para puxar a regulação, graças ao Instituto de Segurança de IA.
O presidente da Microsoft, Brad Smith, defendeu nesta segunda-feira (12) que a inteligência artificial seja submetida com urgência a regras globais de segurança e ao exame de avaliadores independentes, capazes de analisar cada novo avanço. A posição foi dada em entrevista à BBC, segundo reportagem do g1.
Smith comparou a IA a produtos comuns do dia a dia. Em tradução livre, afirmou que até uma máquina de lavar roupa precisa cumprir mais normas de segurança do que a IA e que toda caixa de leite vendida em mercados passa por regras e fiscalização. Para o executivo, o setor já sabe como fazer isso com outros bens e deveria aplicar esse conhecimento à tecnologia.
Entre as medidas que ele propôs estão a obrigação de avisar as vítimas caso um sistema seja invadido por um agente de IA que atue fora de controle, a existência de um freio de emergência e o dever legal de produzir relatórios sobre incidentes.
O debate ocorre depois de empresas como Anthropic e OpenAI começarem a divulgar comportamentos de agentes de IA inesperados ou indesejados. O tema integra uma discussão global sobre o ritmo do avanço da tecnologia, que inclui alertas de pesquisadores para um risco para a sobrevivência da espécie humana a longo prazo. Parte das companhias pediu desaceleração, mas esses pedidos geraram dúvidas sobre os interesses dos executivos, como criar normas que preservem a liderança de suas companhias, adiantar-se a uma resposta mais dura de autoridades ou diminuir o ritmo dos gastos.
Na avaliação de Smith, os britânicos têm boa posição para puxar a regulação, graças ao Instituto de Segurança de IA criado no governo do ex-primeiro-ministro Rishi Sunak. Por meio de acordos voluntários, o órgão britânico acessa os principais modelos antes de eles chegarem ao público e pode avaliar suas capacidades e riscos. O executivo disse ainda que autoridades de Washington enxergam Londres de modo bem diferente de Bruxelas, já que a União Europeia regula a IA conforme o nível de risco, por meio do AI Act.
Imagem: Web Summit / Wikimedia Commons (CC BY 2.0)
E você, o que achou?
1 reaçãoSua reação é secreta: ninguém vê quem reagiu, só os totais.
Como cada veículo contou
O mesmo fato visto de 1 posição. As manchetes abaixo são as originais; a apuração é de cada veículo.
- Tradicional 1
Nenhum destes veículos tem linha editorial documentada pela redação ainda.