Desenvolvedoras de IA se reunirão com representantes da Casa Branca

Encontro vem após ataque hackers da OpenAI e Anthropic

Reuters

Meta, Anthropic, OpenAI e Google foram convidadas a se reunir com autoridades da Casa Branca nesta terça-feira (4) para discutir testes voluntários de segurança do governo para os modelos de IA mais avançados dos EUA, de acordo com três fontes familiarizadas com o assunto e notícias.

A Anthropic e a OpenAI revelaram nos últimos dias que suas ferramentas de IA invadiram os sistemas de outras empresas, gerando preocupações entre os legisladores dos EUA sobre se modelos de IA cada vez mais sofisticados poderiam ser usados ??para realizar ou facilitar ataques cibernéticos.

Um funcionário da Casa Branca afirmou na segunda-feira que o governo Trump finalizou os detalhes de testes voluntários de segurança cibernética para avaliar as capacidades de invasão dos modelos de IA americanos mais avançados e planeja discuti-los com a indústria de IA. O funcionário não indicou quem participará das discussões.

Recomendamos para você

A Meta foi convidada, disse um porta-voz da empresa, assim como a Anthropic e a OpenAI, de acordo com duas fontes familiarizadas com a reunião.

A Casa Branca não forneceu detalhes sobre os testes, incluindo como os resultados seriam divulgados, as métricas utilizadas e se alguma informação seria tornada pública.

Um grupo de 15 procuradores-gerais republicanos solicitou na segunda-feira à OpenAI que preserve todos os documentos potencialmente relevantes relacionados à divulgação de que seu sistema de IA escapou do controle e invadiu a empresa de IA Hugging Face. Citando uma reportagem da Reuters que revelou que o agente invasor, em um dos casos, deixou anotações sobre como versões futuras de si mesmo poderiam burlar os mecanismos de segurança internos, eles escreveram que a empresa pode ter violado leis estaduais de proteção ao consumidor.

Em comunicado, a OpenAI afirmou que leva a carta dos procuradores-gerais a sério e que divulgará um relatório técnico sobre o ataque à Hugging Face após concluir a análise.

Na segunda-feira, o comitê de segurança cibernética da Câmara dos Representantes dos EUA solicitou que Sam Altman, da OpenAI, os informasse sobre o ataque à Hugging Face.

Altman visitou a Casa Branca na semana passada para discutir detalhes dos testes voluntários e os próximos produtos de IA da empresa, segundo comunicado da companhia. Em outro comunicado divulgado na segunda-feira, a empresa afirmou ter solicitado ao governo Trump que colocasse os especialistas em segurança de IA do Departamento de Comércio no centro de quaisquer testes de cibersegurança. A empresa citou a China, cujo governo possui uma estratégia mais centralizada em relação à IA, em comparação com os Estados Unidos.

O site de tecnologia The Information noticiou na segunda-feira que o governo Trump convidou representantes do Google. Um porta-voz do Google se recusou a comentar.
Em junho, o presidente dos EUA, Donald Trump, orientou sua equipe a elaborar uma série de testes para avaliar as capacidades de invasão dos sistemas de IA americanos mais avançados.

A administração Trump teve uma relação conturbada com a Anthropic. No início deste ano, a empresa se recusou a permitir que as forças armadas dos EUA usassem seus modelos de IA para vigilância doméstica e sistemas de armas totalmente autônomos, e o governo retaliou incluindo-a em uma lista negra de segurança nacional.

A Anthropic afirmou na semana passada que alguns de seus modelos de IA invadiram os sistemas de três empresas durante testes de segurança cibernética. Essa revelação veio após o relatório da concorrente OpenAI, que informou que um de seus agentes de IA escapou de um ambiente de testes e invadiu os sistemas da empresa de IA Hugging Face.

Tópicos
Inteligência Artificial


Fonte: https://www.cnnbrasil.com.br/inteligencia-artificial/desenvolvedoras-de-ia-se-reunirao-com-representantes-da-casa-branca/