Rebelião das máquinas! A OpenAI afirmou nesta terça-feira (21) que um agente de inteligência artificial autônomo, alimentado por modelos da empresa, se descontrolou durante um teste de segurança e atacou a infraestrutura d
A OpenAI classificou o evento como “sem precedentes” em post em seu blog.
“Após investigação, agora sabemos que esse incidente específico foi causado por uma combinação de modelos da OpenAI — incluindo o GPT-5.6 Sol e um modelo ainda mais capaz em versão pré-lançamento, todos com menos recusas cibernéticas para fins de avaliação — enquanto estavam sendo testados internamente em um benchmark de capacidades cibernéticas. Consideramos este incidente um ataque cibernético sem precedentes, envolvendo recursos cibernéticos de última geração, e estamos respondendo de acordo. Estamos compartilhando descobertas preliminares nesta fase para ajudar os profissionais de segurança a entender o que aconteceu e a calibrar os modelos disponíveis atualmente. Continuaremos conduzindo uma investigação completa em conjunto com a Hugging Face e compartilharemos mais detalhes sobre as vulnerabilidades, o incidente e as descobertas assim que nossa investigação for concluída.”
a startup Hugging Face – plataforma que hospeda grandes modelos de linguagem e conjuntos de dados de código aberto. O caso aconteceu na semana passada.
A Hugging Face detalhou as medidas tomadas após o ataque:
“Corrigida a vulnerabilidade raiz: os caminhos de execução do código do conjunto de dados usados para o acesso inicial foram fechados. Eliminamos a presença do atacante nos clusters afetados (…) e implementamos medidas de segurança adicionais e controles de acesso mais rigorosos em nossos clusters”.
A startup afirmou que, como parte da investigação, está implementando controles rigorosos na configuração da infraestrutura – o que pode comprometer a velocidade da pesquisa enquanto as vulnerabilidades são corrigidas.
A OpenAI afirmou, ainda, que trabalha com a Hugging Face para investigar o incidente.
“Estamos aprimorando e adicionando proteções mais robustas para treinamentos e avaliações futuras. (…) Este incidente aponta para a necessidade de fortalecer ainda mais o alinhamento do nosso modelo, as proteções cibernéticas durante o período de avaliação e o monitoramento durante os testes internos” – concluiu a OpenAI.
A OpenAI lançou a família GPT-5.6 neste mês, composta por três modelos com perfis distintos de capacidade e custo. São eles:
Estados Unidos e China estão numa disputa tecnológica intensa em que a IA é protagonista. Modelos de inteligência artificial avançados poderiam acelerar ciberataques em setores consolidados há décadas e com uma infraestrutura totalmente interligada.
Diante disso, a Casa Branca vem fiscalizando novos modelos de inteligência artificial para identificar eventuais ameaças.
A maior preocupação é de que a tecnologia seja usada para fins militares por outros países – como China e Rússia.
Em Pequim, a estratégia não muda muito. O governo vem dialogando com as principais empresas do setor para restringir o acesso estrangeiro aos modelos de ponta do país, segundo a Reuters.
Fonte: Olhar Digital / Bruno Capozzi
Copyright © 2023. Todos os direitos reservados. Ascenda Digital Mídia LTDA.
