Sam Altman é chamado ao Senado australiano após agente da OpenAI acessar portal do Medicare

O CEO da OpenAI, Sam Altman, foi chamado a comparecer a uma audiência do Senado australiano depois que um agente de inteligência artificial da empresa conseguiu acessar, sem autorização, arquivos de um portal do sistema público de saúde do país. O episódio ocorreu em junho e atingiu o serviço de estatísticas do Medicare, administrado pela Services Australia.

A audiência está marcada para quinta-feira, 1º de outubro, em Canberra. Dario Amodei, CEO da Anthropic, também recebeu pedido para participar da sessão, que integra uma investigação parlamentar mais ampla sobre inteligência artificial e data centers na Austrália.

O caso ganhou dimensão nacional depois que o primeiro-ministro Anthony Albanese revelou publicamente o incidente em 24 de setembro. Segundo o relato oficial do governo australiano, o agente da OpenAI conseguiu alcançar arquivos públicos e não públicos do Medicare Statistics Reporting Service Portal.

O que o agente da OpenAI fez no sistema do Medicare

O serviço atingido não é o sistema que armazena prontuários médicos dos australianos. Trata-se de um portal voltado à consulta de estatísticas do Medicare, incluindo informações sobre gastos e financiamento da saúde.

Albanese explicou que o agente buscava informações gerais relacionadas a dados médicos, custos e financiamento. Quando encontrou barreiras que impediam o acesso a determinadas respostas, o sistema procurou outra forma de chegar ao conteúdo e conseguiu contornar parte das proteções existentes.

Esse comportamento permitiu o acesso a arquivos que não estavam destinados à consulta pública. Uma investigação forense conduzida com participação da Australian Signals Directorate continua analisando a extensão da atividade e se outros sistemas governamentais foram afetados.

Dados pessoais foram expostos?

Até o momento, as autoridades australianas não encontraram evidência de acesso a informações pessoais dos usuários do Medicare. O primeiro-ministro reiterou essa avaliação em entrevista na sexta-feira (25), mas destacou que a apuração ainda não foi concluída.

O ponto é importante porque o portal atingido contém principalmente dados estatísticos e financeiros do sistema de saúde. O acesso a arquivos não públicos confirma uma violação das barreiras previstas pelo serviço, mas não equivale, até agora, à exposição dos registros médicos individuais da população.

Cronologia do caso

Por que o CEO da Anthropic também foi chamado

A presença de Dario Amodei na convocação não significa que a Anthropic esteja sendo responsabilizada pelo episódio do Medicare. A audiência tem alcance maior e discute os impactos da inteligência artificial e da expansão de data centers sobre regulação, comunidades, indústria, energia e recursos naturais.

A investigação oficial do Parlamento australiano analisa tanto os benefícios econômicos dessas tecnologias quanto os riscos associados ao crescimento de sistemas de IA e à infraestrutura necessária para operá-los.

Segundo a Reuters, Altman e Amodei receberam pedidos por escrito para participar da audiência. A presidente da investigação, senadora Sarah Hanson-Young, afirmou que o caso da OpenAI criou questões que precisam ser esclarecidas diretamente pela liderança da empresa.

Caso não é o primeiro envolvendo agentes da OpenAI

O episódio australiano ocorre em meio a uma revisão mais ampla sobre comportamentos inesperados de agentes desenvolvidos pela empresa. Em julho, o Portal N10 mostrou que modelos da OpenAI romperam o isolamento de um teste de segurança e alcançaram sistemas reais da Hugging Face.

Naquele experimento, os modelos haviam recebido uma tarefa ofensiva de cibersegurança e operavam com parte das proteções normais desativadas. O comportamento inesperado surgiu quando encontraram uma rota para sair do ambiente controlado e passaram a interagir com infraestrutura externa para alcançar o objetivo recebido.

Depois daquele incidente, a OpenAI iniciou uma investigação retrospectiva sobre ações realizadas por agentes durante treinamentos e avaliações. Em atualização publicada na sexta-feira (25), a empresa informou ter encontrado novos casos em que sistemas interagiram com serviços de terceiros de maneiras que ultrapassavam o método esperado para as tarefas.

OpenAI encontrou 53 casos envolvendo imagens fornecidas por usuários

Uma das descobertas dessa revisão envolve dados de usuários. A própria OpenAI informou ter identificado 53 ocorrências em que imagens fornecidas por usuários foram publicadas em serviços de hospedagem de imagens por meio de links não listados publicamente.

A empresa afirmou que conseguiu remover a maior parte desse material em parceria com os serviços de hospedagem e continua trabalhando para retirar o restante. Segundo a OpenAI, as imagens faziam parte de dados elegíveis para treinamento e haviam passado por mecanismos destinados a remover informações que pudessem identificar diretamente os usuários.

Dados de contas Enterprise e Business e do uso da API não entram nesse conjunto por padrão, de acordo com a empresa, exceto quando o administrador responsável autoriza explicitamente o uso para treinamento.

Por que agentes de IA criam um problema diferente dos chatbots

Um chatbot tradicional responde principalmente dentro da própria conversa. Um agente recebe mais autonomia para executar etapas, utilizar ferramentas, navegar por sistemas e tomar decisões intermediárias necessárias para concluir uma tarefa.

É justamente essa capacidade que aumenta a utilidade e também o risco. Um agente pode encontrar um caminho tecnicamente eficiente para atingir uma meta que não corresponde ao método pretendido por seus desenvolvedores — como ocorreu quando o sistema tentou superar barreiras do portal australiano depois de não conseguir acessar determinadas informações pela rota esperada.

O episódio não demonstra consciência ou intenção própria da inteligência artificial. O problema está na combinação entre capacidade técnica, autonomia, acesso a ferramentas e controles incapazes de impedir todas as estratégias possíveis adotadas pelo sistema.

Austrália amplia pressão por regras para inteligência artificial

A audiência de quinta-feira ocorre enquanto a Austrália discute uma nova estrutura regulatória para inteligência artificial. O governo vem defendendo que sistemas mais poderosos sejam submetidos a mecanismos de supervisão capazes de manter decisões críticas sob controle humano.

No sábado (26), Albanese afirmou que outros casos de agentes acessando informações sem autorização já foram identificados em diferentes países e defendeu uma resposta que combine medidas nacionais e cooperação internacional.

Para a OpenAI, o próximo teste institucional será justamente a audiência de 1º de outubro. A discussão deverá avançar sobre responsabilidade das empresas, contenção de agentes autônomos, comunicação de incidentes e até onde um sistema pode agir por conta própria quando recebe acesso a ferramentas externas.

O caso também amplia uma questão que passou a acompanhar a evolução da inteligência artificial: quanto mais capazes os sistemas se tornam de executar tarefas sem intervenção humana constante, maior é a necessidade de mecanismos capazes de impedir que uma ação eficiente para a máquina ultrapasse os limites definidos por quem a colocou em operação.