OpenAI: Pesquisadores dizem que foram demitidos em circunstâncias suspeitas

Ex-funcionários questionam justificativas da empresa e alegam ter sido desligados por levantar alertas sobre riscos dos sistemas

Hadas Gold, da CNN

Três pesquisadores de segurança da OpenAI afirmam ter sido demitidos da empresa e questionam abertamente os motivos de suas demissões.

Mikita Balesni, Tomak Korbak e Jasmine Wang trabalharam na segurança ou alinhamento da IA ??dentro da empresa, garantindo que os sistemas de IA fizessem o que seus operadores humanos queriam de maneira segura.

Mas os três afirmam que foram demitidos sem cerimônia na semana passada, semanas depois de terem desempenhado papéis fundamentais na investigação de um incidente em que agentes da OpenAI invadiram autonomamente a empresa de IA Hugging Face.

Recomendamos para você

Korback disse no X que a justificativa da demissão foi pela forma como ele se comunicou com a organização de segurança de IA METR, com a qual a OpenAI fez parceria para investigar o incidente da Hugging Face. Korback afirmou ser o principal ponto de contato técnico entre as empresas.

Korback afirmou acreditar que foi demitido porque “durante meses, venho levantando preocupações de segurança sobre a perda da capacidade de monitorar o que os agentes de IA pensam, uma de nossas melhores ferramentas para detectar quando eles se comportam mal”.

Ele acrescentou estar preocupado com o fato de sua demissão ser usada como pretexto para a OpenAI deixar de trabalhar tão de perto com a METR, que é muito respeitada no mundo da segurança da IA.

Balesni corroborou as teorias de Korbak, escrevendo no X que lhe disseram que ele estava "falando demais com organizações de segurança terceirizadas". Ele afirmou que entendeu que a OpenAI estava insinuando que ele vazou propriedade intelectual da empresa, o que ele nega.

As três demissões ocorrem na sequência de uma onda de preocupações graves de segurança expressas por especialistas do setor de IA. E enquanto vários ex-funcionários da área de IA renunciaram publicamente devido a essas preocupações, os três pesquisadores da OpenAI alegam que foram forçados a sair por expressarem ressalvas semelhantes.

Wang disse que a justificativa da demissão foi porque ela "acessou o e-mail de um executivo", que, segundo ela, lhe foi fornecido para fins de recrutamento. A ex-funcionária afirmou que pediu repetidamente que seu acesso fosse revogado, mas quando acessou acidentalmente um "e-mail confidencial", avisou o executivo "em questão de minutos" e informou novamente a equipe de TI da OpenAI.

“As razões que nos foram dadas para as nossas demissões simplesmente não fazem sentido”, escreveu Wang no X.

“Não fomos os primeiros a sermos expulsos da OpenAI em circunstâncias suspeitas”, acrescentou. “A menos que os funcionários se posicionem agora contra esse tipo de manobra, receio que não seremos os últimos".

Os três pesquisadores escreveram uma carta à liderança da desenvolvedora expressando suas preocupações e os motivos de suas demissões.

“Não acreditamos que o caminho para a superinteligência possa ser trilhado com segurança se as pessoas mais próximas dos riscos não puderem mais trabalhar de forma altamente confiável e com alta capacidade de comunicação entre si e com terceiros”, escreveram os pesquisadores. “É essa cultura que estamos tentando defender".

A OpenAI disse à CNN que os pesquisadores foram demitidos não por levantarem preocupações com a segurança, mas sim por condutas específicas que violaram as políticas da empresa sobre o tratamento de informações sensíveis.

A companhia também afirmou que houve uma série de violações que foram além do manuseio inadequado de informações com um grupo de avaliação externo, e que as demissões se basearam em condutas que extrapolaram as divulgações legalmente protegidas.

Em comunicado, a OpenAI afirmou que rompeu relações com os três "por violarem nossas políticas de acesso e tratamento de informações confidenciais da empresa".

“Nossa investigação confirmou que esses indivíduos lidaram indevidamente com informações confidenciais fora dos procedimentos estabelecidos pela empresa, violando nossas políticas e quebrando a confiança essencial para o nosso trabalho”, acrescentou o porta-voz.

Em um memorando para os funcionários fornecido pela OpenAI, um líder de pesquisa da desenvolvedora, que preferiu não ser identificado, disse que "concorda plenamente" com os três pesquisadores sobre a importância de trabalhar com grupos externos de segurança.

“Quero deixar bem claro que essas decisões não tiveram a ver com levantar preocupações de segurança ou com expressar opiniões. Sempre incentivamos isso e sempre incentivaremos. Não demitimos funcionários por expressarem preocupações”, escreveu o líder da pesquisa, de acordo com o memorando.

Mas os três pesquisadores demitidos dizem que já estão ouvindo de colegas sobre uma cultura de medo que está se desenvolvendo dentro da OpenAI.

“Meus ex-colegas me dizem que estão confusos sobre em que acreditar. Eles também têm medo de falar e temem que seus telefones pessoais sejam vasculhados em busca de mensagens para nós e terceiros”, disse Balesni. “Temo que o medo generalizado de se manifestar e interagir com terceiros signifique que a OpenAI negligencie a segurança nos bastidores".

Acompanhe Economia nas Redes Sociais


Fonte: https://www.cnnbrasil.com.br/economia/money/inteligencia-artificial/openai-pesquisadores-dizem-que-foram-demitidos-em-circunstancias-suspeitas/