Pessoas participam da Cúpula Global "IA para o Bem" em Genebra, Suíça, em 7 de julho de 2026. (Xinhua/Lian Yi)

Londres, 9 ago (Xinhua) -- Três empresas de IA dos EUA revelaram recentemente que vários de seus modelos saíram dos ambientes de teste e obtiveram acesso não autorizado a sistemas pertencentes a outras organizações, atraindo ampla atenção global.

Especialistas acreditam que, além de falhas técnicas, esses incidentes também levantaram questões sobre um possível exagero comercial. Análises do Instituto de Segurança de IA do Reino Unido (AISI, na sigla em inglês) e de outros órgãos de pesquisa destacaram os riscos crescentes da IA, ressaltando a necessidade de regulamentações globais de segurança mais rigorosas.

FUGA DURANTE AVALIAÇÕES CIBERNÉTICAS

Em 21 de julho, a OpenAI admitiu que alguns de seus modelos, incluindo o GPT-5.6 Sol, deixaram um ambiente de teste sem intervenção humana e invadiram sistemas de produção reais de outra empresa de IA dos EUA, a Hugging Face.

Posteriormente, a Anthropic constatou que três de seus modelos de IA acessaram ou interagiram com sistemas de computador pertencentes a três organizações do mundo real durante avaliações internas de capacidade cibernética, porque o acesso à internet foi deixado disponível inadvertidamente.

No início de agosto, a gigante de tecnologia dos EUA Meta também confirmou que um de seus modelos acessou os sistemas de outra empresa durante testes de segurança cibernética.

Esses incidentes de fuga de modelos de IA atraíram atenção significativa. O AISI do Reino Unido divulgou um relatório detalhando os resultados de avaliações de segurança cibernética envolvendo um número maior de modelos. Pesquisadores testaram sete modelos e catalogaram 19 ações que claramente ultrapassaram os limites predefinidos dos testes. Dezessete dessas ações partiram de um único modelo, o Mythos 5 da Anthropic, enquanto as outras duas foram realizadas pelo GPT-5.6 Sol da OpenAI.

O relatório enfatizou que os pesquisadores testaram deliberadamente os modelos sob condições permissivas para avaliar melhor suas capacidades máximas, inclusive concedendo a eles acesso irrestrito à internet e desativando alguns filtros de segurança. As investigações não encontraram evidências de danos reais decorrentes desses episódios.

As divulgações públicas atuais não indicam que essas fugas de controle do modelo tenham causado exfiltração massiva de dados ou danos duradouros, mas expõem um problema comum: à medida que os modelos se tornam capazes de planejamento autônomo, acionamento de ferramentas e execução de tarefas complexas, uma configuração técnica inadequada pode transformar um ataque simulado em uma invasão real.

O Dr. Andrew Soltan, pesquisador da Universidade de Oxford, disse que, embora a fuga de controle pareça alarmante, ela só ocorreu neste caso porque as barreiras de segurança foram desativadas intencionalmente. "Não se trata de uma IA agindo por conta própria de forma descontrolada. Pelo contrário, isso demonstra exatamente por que as salvaguardas são tão essenciais", acrescentou ele.

Um participante acompanha a primeira sessão do Diálogo Global sobre Governança de IA em Genebra, Suíça, em 6 de julho de 2026. (Xinhua/Lian Yi)

SUSPEITAS DE EXAGERO COMERCIAL

Por que as empresas de IA dos EUA estão divulgando, uma após a outra, comportamentos de fuga de controle de seus modelos? Alguns especialistas questionam se interesses comerciais também podem estar envolvidos.

"A verdadeira história aqui é a falha da empresa em conter seu próprio teste de capacidade e o fato de uma terceira parte pagar o preço. O ‘alerta’ de que o modelo ainda não lançado possui ‘capacidades cibernéticas de ponta’ serve convenientemente como uma propaganda para ele", disse o Dr. Konstantinos Gkoutzis, professor associado do Departamento de Computação do Imperial College London.

Em uma reportagem anterior sobre a fuga de controle do modelo divulgada pela OpenAI, a BBC citou o consultor de segurança cibernética Daniel Card comentando ironicamente no LinkedIn: "Que sorte a nossa: entre milhões de sites hackeados, a OpenAI invadiu justamente o de alguém que também poderia se beneficiar da exposição de marketing...".

No início deste ano, a Anthropic disse que seu novo modelo de IA, o Claude Mythos, era "poderoso demais" na identificação de vulnerabilidades de segurança em softwares. Como resultado, a empresa adiou seu lançamento público, disponibilizando o modelo apenas para um grupo seleto de empresas, incluindo Apple, Amazon e Microsoft.

Na ocasião, o CEO da OpenAI, Sam Altman, acusou a Anthropic de praticar o "marketing do medo" para fazer com que seu produto parecesse mais impressionante do que realmente é. "É, claramente, uma estratégia de marketing incrível dizer: ‘Criamos uma bomba. Estávamos prestes a lançá-la sobre sua cabeça. Vamos vender um abrigo antibombas por 100 milhões de dólares para proteger tudo o que você tem, mas apenas se escolhermos você como cliente’", acrescentou Altman.

Alguns veículos de imprensa ocidentais também destacaram as motivações comerciais por trás dessa publicidade. Em meio à corrida pela IA, marcada por intensa concorrência e pela necessidade de grandes investimentos, promover agressivamente o potencial disruptivo de suas tecnologias pode não apenas aumentar significativamente a visibilidade e a influência das empresas, mas também ajudá-las a conquistar contratos lucrativos de cibersegurança e a elevar suas avaliações de mercado.

FORTALECIMENTO DAS REGULAMENTAÇÕES DE SEGURANÇA

Sejam decorrentes de falhas técnicas ou motivados por considerações comerciais, os incidentes de fuga de modelos de IA ressaltam a importância de fortalecer as regulamentações de segurança em IA.

O AISI do Reino Unido concluiu que incidentes recentes indicam uma mudança no cenário de riscos. Danos podem surgir não apenas quando pessoas utilizam indevidamente, de forma deliberada, modelos disponíveis ao público, mas também quando agentes capazes, operando em ambientes de pesquisa interna ou com acesso privilegiado, realizam ações não planejadas que extrapolam seu escopo autorizado. À medida que as capacidades evoluem, o trabalho de compreender esses sistemas e garantir sua segurança deve acompanhar esse progresso.

Países e regiões do mundo já adotaram medidas para reforçar a segurança da IA.

Na Conferência Mundial de Inteligência Artificial de 2026, realizada recentemente em Shanghai, a China defendeu o desenvolvimento global da IA ​​para fins positivos, para o bem e em prol da humanidade, ao mesmo tempo em que propôs fortalecer a conscientização sobre riscos e garantir que a IA permaneça segura e controlável.

Em 2 de agosto, a União Europeia ampliou o escopo das disposições de sua Lei de IA, exigindo que provedores de modelos avançados de IA de uso geral, que possam apresentar riscos sistêmicos, cumpram obrigações adicionais voltadas a mitigar o risco de danos em larga escala, incluindo ataques cibernéticos e a perda de controle sobre os modelos de IA.

O governo dos EUA também convocou recentemente uma reunião com empresas do setor para discutir mecanismos de avaliação de segurança para modelos de IA.

Oliver Buckley, professor de segurança cibernética da Universidade de Loughborough, disse que é preciso aprender lições com esses incidentes em que modelos de IA ultrapassaram seus limites. Ele enfatizou que os desenvolvedores não devem presumir que os modelos sempre seguirão as instruções e que salvaguardas técnicas robustas são essenciais.