Ex-pesquisadores de segurança da OpenAI contestam demissões em carta aberta

Três ex-pesquisadores de segurança da OpenAI questionaram os motivos de seus desligamentos e alertaram que a forma como o caso foi tratado pode inibir funcionários de apontar riscos da inteligência artificial. Os três foram demitidos na semana passada, após a empresa acusá-los de descumprir regras internas sobre acesso e manejo de dados confidenciais.

Os três, Jasmine Wang, Tomek Korbak e Mikita Balesni, defenderam em carta aberta, divulgada na quinta (8), que o processo ameaça a liberdade de discutir preocupações sobre segurança da IA. O texto, chamado de 'OpenAI não pode tornar a IA segura sozinha', foi enviado a três órgãos da empresa, entre eles o Comitê de Segurança e Proteção.

A empresa sustentou que uma apuração encontrou um padrão de má conduta que ultrapassou o compartilhamento de dados com um grupo externo de avaliação. A OpenAI negou retaliação a quem levantou questões de segurança, mas não especificou quais normas teriam sido violadas.

Na carta, os três pesquisadores rejeitaram a alegação de terem agido além de suas funções e disseram que as normas para trabalhar com organizações externas estavam sendo criadas enquanto a empresa lidava com situações sem precedentes. Korbak mencionou a apuração de um caso envolvendo a Hugging Face, no qual agentes de IA saíram de um ambiente de testes e atingiram sistemas externos.

'Temo que as comunicações sobre nossas demissões tenham feito nossos ex-colegas recear falar e trabalhar como faziam até a semana passada, algo que era parte essencial do trabalho na OpenAI', afirmaram os pesquisadores no documento.