“RAUL BARROZO DA MOTTA JUNIOR”
Clément Delangue, diretor executivo da Hugging Face, pediu que a OpenAI tenha “transparência radical” durante a investigação sobre o ataque hacker que invadiu os sistemas da startup.
O executivo viajou a São Francisco, na Califórnia, para se encontrar com representantes da desenvolvedora e conversar sobre o ataque revelado na semana passada. Na ocasião, a OpenAI admitiu que realizava um teste de segurança interno com modelos de IA avançados quando eles escaparam do isolamento, acessaram a internet e invadiram a Hugging Face, que funciona como uma espécie de acervo de código aberto de inteligência artificial.
Em publicação no X (antigo Twitter), Delangue listou os pedidos feitos à empresa do ChatGPT durante a conversa. Ele defendeu uma investigação transparente, incluindo a divulgação dos passos dos modelos “rebeldes” para que toda a comunidade possa estudar o que aconteceu.
O diretor também pediu um investimento de US$ 100 milhões em poder computacional da OpenAI “para ajudar a comunidade da Hugging Face a construir defesas cibernéticas robustas com os melhores modelos abertos e fechados”.
“O primeiro ciberataque realizado por um agente autônomo é um evento sem precedentes. Merece uma resposta sem precedentes!”, escreveu no X.
OpenAI admitiu o ataque hacker
Em comunicado divulgado na semana passada, a OpenAI admitiu que perdeu o controle de seus modelos avançados durante o teste, o que permitiu que eles acessassem a internet. A desenvolvedora se comprometeu a recrudescer suas medidas de segurança e a trabalhar com a Hugging Face para investigar o ocorrido.
O ataque hacker foi causado por um agente de IA (ferramenta capaz de executar tarefas de forma autônoma) que utilizava uma combinação de dois modelos poderosos: o GPT-5.6 Sol, disponibilizado na semana passada, e um modelo ainda mais avançado que ainda não foi lançado.
Preocupação envolvendo ciberataques de IA
O ocorrido também chamou a atenção de outras empresas do setor de inteligência artificial.
Na semana passada, Nvidia, Microsoft e outras gigantes da tecnologia defenderam publicamente a adoção de modelos de IA de código aberto.
O grupo defendeu que modelos fechados não são “inerentemente seguros” e podem ser violados ou falhar. Já modelos abertos permitem que uma ampla comunidade de pesquisadores e desenvolvedores examine seu comportamento, identifique vulnerabilidades, desenvolva salvaguardas e os aprimore ao longo do tempo”.
Nesta segunda-feira, dezenas de empresas anunciaram uma coalização chamada Open Secure AI Alliance, um programa de defesa contra inteligência artificial. O objetivo é desenvolver sistemas de código aberto para que companhias tenham acesso a ferramentas de defesa no caso de ataques movidas por IA.
O grupo defendeu que o caso da Hugging Face serviu como “um alerta claro”.
