O setor de IA tem sido marcado por uma preocupação crescente com riscos potencialmente catastróficos para a humanidade — uma ansiedade que se intensificou à medida que a Anthropic se prepara para estrear na bolsa de valores no próximo mês.

Mas as empresas que desenvolvem modelos de IA como Claude e ChatGPT enfrentam um risco mais imediato e prosaico: é provável que sejam processadas. Muito.

As empresas de IA têm, até agora, evitado grandes processos judiciais relacionados a incidentes recentes nos quais falharam em manter agentes de IA — sistemas capazes de operar de forma autônoma com pouca supervisão — confinados aos seus ambientes de teste.

Recomendamos para você

Brasil recebe tecnologia de biópsia líquida para identificar tumores precoces

...

Publicado em 2026-10-12 13:01:14

Área técnica do TSE diz que não encontrou notícias falsas citadas por Flávio no canal 'Exército do Lula', mas aponta riscos eleitorais

...

Publicado em 2026-10-12 11:29:42

Área técnica do TSE não encontra conteúdos falsos investigados pela Corte no canal 'Exército do Lula', mas aponta riscos eleitorais

...

Publicado em 2026-10-12 11:29:42

Mas alguns especialistas jurídicos e formuladores de políticas afirmam que é bastante claro: as empresas podem e devem ser responsabilizadas.

"A questão de "como a lei vai se aplicar a isso?" é muito mais fácil de responder se você enxergar a (IA) como ela é, e não como essa coisa hipotética que muitos no setor propõem que ela possa vir a ser algum dia", disse Kristen Thomasen, professora associada da University of Windsor e especialista em direito da robótica.

"O direito tem lidado com novas tecnologias desde que existe."

O setor de IA frequentemente se refere aos incidentes de fuga como a tecnologia "saindo do controle" — uma linguagem que alguns críticos afirmam ser projetada para amplificar as alegações das empresas de que sua tecnologia é tão poderosa que até mesmo seus criadores têm dificuldade em contê-la.

Também pode ser uma tática para tentar se proteger de responsabilidades e de futuras ações judiciais, disse Thomasen.

Ainda assim, ela afirmou que as questões de responsabilidade em torno dos modelos de IA têm uma resposta simples: "É algo que essa empresa está colocando no mundo. Se causar dano, há leis que regulam isso."

O custo da interferência "fora de controle"

Até agora, os danos reais causados por bots fora de controle estão longe de ser calamitosos, mas ainda assim custosos para as organizações que infiltraram.

Na semana passada, a organização sem fins lucrativos que opera a Wikipedia afirmou ter encontrado evidências de agentes não autorizados da OpenAI tentando fazer "edições potencialmente maliciosas" em algumas páginas e sobrecarregando-a com tanto tráfego que podem ter provocado uma interrupção parcial.

"A investigação parou o trabalho dentro de partes fundamentais da organização para que pudéssemos nos concentrar nisso", disse Eric Mill, gerente de produto de segurança da Wikimedia, à CNN. "Colocamos nossos melhores profissionais nisso… e é um processo bastante complicado."

A Wikimedia lançou sua investigação neste verão, à medida que o alarme global crescia em torno do ataque ao Hugging Face e de dezenas de outros casos de modelos internos de IA escapando de seus ambientes de teste para hackear outros sistemas de computadores.

A Meta e a Anthropic também revelaram que seus modelos de teste invadiram outros sistemas sem autorização.

A investigação da Wikimedia é significativa em parte pelo que não aconteceu: não houve uma ameaça catastrófica e existencial à humanidade do tipo que os executivos de IA frequentemente mencionam.

Mas o custo — mais de duas semanas de trabalho realizadas pelos principais engenheiros de uma organização global avaliada em mais de US$ 200 milhões — foi real.

A Wikimedia não está defendendo nenhuma política ou solução tecnológica específica, e Mill disse que a organização está em comunicação com a OpenAI sobre suas descobertas. (A OpenAI não respondeu ao pedido de comentário da CNN.)

Mas a organização sem fins lucrativos espera que esses incidentes sejam um alerta para os desenvolvedores de IA.

"As empresas de IA não estão fazendo o suficiente para proteger seus sistemas e proteger o público dos danos que causam", disse a Wikimedia em sua publicação no blog na semana passada. "Esse ônus está recaindo sobre todos os outros, incluindo organizações menores."

"Responsabilização há muito esperada"

A Anthropic, que se prepara para abrir capital no próximo mês em um dos maiores IPOs da história, revelou em um documento regulatório que, como o arcabouço legal em torno da IA está "indefinido", as ações desses agentes poderiam expor a empresa a processos judiciais "significativos e imprevisíveis", de acordo com uma cópia do documento consultada pela Reuters.

A potencial enxurrada de litígios não é apenas uma dor de cabeça para os advogados da empresa ou um dilema para acadêmicos — ela também pode se tornar um grande peso sobre o resultado financeiro da Anthropic.

Os custos com litígios são um dreno financeiro para qualquer empresa, mas podem se tornar especialmente problemáticos para a Anthropic, que está consumindo caixa mais rápido do que consegue gerar.

A empresa gastou US$ 42 bilhões no ano passado, enquanto arrecadou apenas US$ 4,6 bilhões em receita, de acordo com o documento visto pela Reuters.

Os CEOs da Anthropic e da OpenAI defenderam novas regulamentações adaptadas ao setor. Dario Amodei publicou recentemente um ensaio argumentando que as empresas "estabeleçam o ritmo da fronteira" e promovam a cooperação internacional em protocolos de segurança.

Mas as empresas rivais de IA divergiram ligeiramente na questão da responsabilidade.

O CEO da OpenAI, Sam Altman, foi favorável, no início deste ano, a um projeto de lei de Illinois que limitaria quando os laboratórios de IA podem ser responsabilizados, mesmo quando seus produtos causam "danos críticos". (A Anthropic se posicionou contra.)

E embora Altman tenha endossado a proposta de Amodei de "estabelecer o ritmo da fronteira", ele também disse ao POLITICO no início desta semana que sua visão de mundo não está perfeitamente alinhada com a de seu rival: a OpenAI acredita que "o mundo deve aceitar que algumas coisas ruins aconteçam em prol dos benefícios dessa tecnologia", afirmou.

Altman também disse ao site de notícias que "se algo der errado com nossos modelos durante o treinamento, haverá alguma versão disso pela qual precisaremos ser responsáveis".

Um porta-voz da Anthropic disse à CNN que a empresa vê as leis de responsabilidade como um mecanismo de proteção, e não como um substituto para as regulamentações de segurança. A Anthropic nunca propôs isenções das leis de responsabilidade existentes, acrescentou o porta-voz.

Formuladores de políticas da esquerda e da direita buscaram cortar algumas das questões mais complexas sobre a regulamentação futura e ressaltar as responsabilidades legais às quais a IA já está sujeita.

Lina Khan, ex-presidente da Comissão Federal de Comércio durante o governo do presidente Joe Biden, tornou-se uma proeminente opositora dos executivos de IA, argumentando no X que "não devemos deixar que discussões sobre novos regimes jurídicos nos distraiam do fato de que não existe isenção de IA nas leis já em vigor".

Enquanto isso, o senador republicano Josh Hawley, ao lado de seu contraparte democrata Chris Murphy, apresentou um projeto de lei na semana passada que busca garantir que "operadores e desenvolvedores de agentes de IA sejam responsabilizados por incidentes de hacking".

"O que essas empresas precisam não é de mais poder… mas de uma responsabilização há muito atrasada", escreveu Hawley em um artigo de opinião no Washington Post. "Uma forma de dar isso a elas é permitir que as pessoas que elas prejudicam as processem na justiça."

Uma questão de design

Especialistas jurídicos que conversaram com a CNN disseram que, embora questões de responsabilidade por produtos e proteção ao consumidor não sejam novidade, haverá inevitavelmente alguns aspectos sutis da tecnologia que, em última análise, caberá aos tribunais decidir.

"Já vimos esse tipo de questão com segurança de armas de fogo, com cigarros ou com outros assuntos, e é realmente interessante — qual analogia os tribunais vão adotar?", disse Frank Pasquale, professor de direito da Cornell e especialista em legislação sobre IA.

Uma das maiores questões com as quais Pasquale espera que os tribunais se debatam é a de design. Por exemplo, ele disse, imagine se um fabricante produzisse um carro com espadas afiadas na extremidade, e então alguém dirigisse esse carro em direção a um pedestre.

A resposta lógica é bastante simples: não projete algo com espadas acopladas.

É semelhante com produtos de IA, ele disse: não projete algo que tente uma senha 50 vezes ou mais. Certifique-se de que ele contenha instruções de alto nível que substituam qualquer esforço do usuário para utilizá-lo de forma indevida.

"Acho muito difícil para (as empresas de IA) dizer: "Oh, ele pode fazer um bilhão de coisas diferentes, mas não conseguimos controlá-lo."" disse Pasquale.

"Isso não faz sentido para mim, porque se ele pode fazer todas essas coisas, então você também pode ter meta-regras, ou regras para as regras, que impediriam que ele fizesse certas coisas ruins."

Hadas Gold, da CNN, contribuiu com a reportagem.