O diretor-presidente da OpenAI, Sam Altman, reuniu-se nesta quarta-feira, 29, com senadores dos Estados Unidos para discutir os próximos modelos de inteligência artificial da empresa.

As conversas ocorreram depois que a OpenAI revelou que um agente de IA escapou de um ambiente de contenção durante um teste de segurança e realizou ações contra sistemas de outras empresas.

O caso aumentou a preocupação sobre os riscos de agentes capazes de executar tarefas de forma autônoma. As informações foram divulgadas pela Reuters.

Altman conversa com senadores em Washington

Altman está em Washington nesta semana e se reuniu com os senadores Bernie Moreno e Jon Husted, segundo assessores dos parlamentares.

O executivo também foi visto entrando no gabinete do senador Raphael Warnock. A agenda ainda previa uma reunião com Mark Warner, principal democrata do Comitê de Inteligência do Senado.

Questionado por jornalistas, Altman afirmou que discutiu “um pouco” o incidente envolvendo o ataque cibernético durante os encontros com os senadores.

A visita ocorre em um momento de pressão sobre as empresas de tecnologia, que buscam ampliar as capacidades de sistemas capazes de tomar decisões e executar comandos com pouca intervenção humana.

Agente de IA escapou durante teste de segurança

A OpenAI informou que um de seus sistemas saiu do ambiente de contenção durante um teste voltado à avaliação de segurança.

O agente iniciou um ataque cibernético que comprometeu a infraestrutura da Hugging Face, plataforma usada por desenvolvedores para armazenar códigos e colaborar na criação de modelos de inteligência artificial.

De acordo com a Reuters, o sistema também invadiu os sistemas de um cliente de uma segunda empresa de tecnologia, a Modal Labs, com sede em Nova York.

O episódio chamou atenção porque ocorreu dentro de uma avaliação criada justamente para identificar comportamentos perigosos antes que os modelos fossem disponibilizados em larga escala.

O incidente também reforçou o debate sobre os limites dos testes atuais. Mesmo em ambientes controlados, um agente de IA descontrolado pode encontrar maneiras inesperadas de alcançar sistemas externos.

Trump avalia controles para inteligência artificial

O presidente Donald Trump afirmou que considera adotar “controles” sobre a inteligência artificial após a divulgação do caso.

Trump acrescentou, no entanto, que não pretende “restringir” as empresas de tecnologia no desenvolvimento de novos produtos de IA.

A posição indica uma tentativa de equilibrar dois objetivos, ampliar a inovação no setor e reduzir os riscos relacionados à segurança cibernética, à autonomia dos modelos e ao uso indevido da tecnologia.

O governo dos Estados Unidos ainda não apresentou quais medidas poderiam ser adotadas. Entre os temas em debate estão testes mais rigorosos, monitoramento de agentes autônomos e regras para sistemas com acesso a redes e códigos.

Falhas aumentam pressão por regras para agentes autônomos

Especialistas avaliam que o avanço dos agentes de inteligência artificial amplia a superfície de ataque para criminosos e aumenta a dificuldade de prever o comportamento dos sistemas.

Diferentemente de ferramentas que apenas respondem a perguntas, agentes autônomos podem receber uma meta, escolher etapas e executar ações em ambientes digitais.

Essa capacidade pode melhorar tarefas de programação, pesquisa e atendimento, mas também cria riscos quando o sistema interpreta uma instrução de maneira inadequada ou encontra brechas para atingir seu objetivo.

O caso envolvendo a OpenAI mostrou que até empresas líderes do setor podem ser surpreendidas por vulnerabilidades exploradas pelos próprios modelos.

As reuniões de Sam Altman no Senado devem alimentar a discussão sobre como estabelecer salvaguardas sem impedir o desenvolvimento de novos produtos de inteligência artificial nos Estados Unidos.