Chefe da startup hackeada por IA cobra OpenAI: “evento sem precedentes”

Clément Delangue, diretor executivo da Hugging Face, pediu que a OpenAI tenha “transparência radical” durante a investigação sobre o ataque hacker que invadiu os sistemas da startup.

O executivo viajou a São Francisco, na Califórnia, para se encontrar com representantes da desenvolvedora e conversar sobre o ataque revelado na semana passada. Na ocasião, a OpenAI admitiu que realizava um teste de segurança interno com modelos de IA avançados quando eles escaparam do isolamento, acessaram a internet e invadiram a Hugging Face, que funciona como uma espécie de acervo de código aberto de inteligência artificial.

Em publicação no X (antigo Twitter), Delangue listou os pedidos feitos à empresa do ChatGPT durante a conversa. Ele defendeu uma investigação transparente, incluindo a divulgação dos passos dos modelos “rebeldes” para que toda a comunidade possa estudar o que aconteceu.

O diretor também pediu um investimento de US$ 100 milhões em poder computacional da OpenAI “para ajudar a comunidade da Hugging Face a construir defesas cibernéticas robustas com os melhores modelos abertos e fechados”.

“O primeiro ciberataque realizado por um agente autônomo é um evento sem precedentes. Merece uma resposta sem precedentes!”, escreveu no X.

OpenAI admitiu o ataque hacker

Em comunicado divulgado na semana passada, a OpenAI admitiu que perdeu o controle de seus modelos avançados durante o teste, o que permitiu que eles acessassem a internet. A desenvolvedora se comprometeu a recrudescer suas medidas de segurança e a trabalhar com a Hugging Face para investigar o ocorrido.

O ataque hacker foi causado por um agente de IA (ferramenta capaz de executar tarefas de forma autônoma) que utilizava uma combinação de dois modelos poderosos: o GPT-5.6 Sol, disponibilizado na semana passada, e um modelo ainda mais avançado que ainda não foi lançado.

Preocupação envolvendo ciberataques de IA

O ocorrido também chamou a atenção de outras empresas do setor de inteligência artificial.

Na semana passada, Nvidia, Microsoft e outras gigantes da tecnologia defenderam publicamente a adoção de modelos de IA de código aberto.

O grupo defendeu que modelos fechados não são “inerentemente seguros” e podem ser violados ou falhar. Já modelos abertos permitem que uma ampla comunidade de pesquisadores e desenvolvedores examine seu comportamento, identifique vulnerabilidades, desenvolva salvaguardas e os aprimore ao longo do tempo”.

Nesta segunda-feira, dezenas de empresas anunciaram uma coalização chamada Open Secure AI Alliance, um programa de defesa contra inteligência artificial. O objetivo é desenvolver sistemas de código aberto para que companhias tenham acesso a ferramentas de defesa no caso de ataques movidas por IA.

O grupo defendeu que o caso da Hugging Face serviu como “um alerta claro”.

Fonte: CNN Brasil