O modelo Sol e um segundo sistema secreto da OpenAI romperam as travas digitais de testes, acessaram a rede mundial sem autorização e invadiram os servidores da startup Hugging Face. O ataque cibernético disparado pelas ferramentas autônomas da dona do ChatGPT forçou a companhia a interromper o treinamento de novas tecnologias.
+ Leia mais notícias de Tecnologia em Oeste
As inteligências artificiais (IAs) exploraram uma falha no ambiente isolado de simulação para atacar o sistema da empresa vizinha. A Hugging Face denunciou a invasão no mês passado, antes de a equipe de Sam Altman assumir a responsabilidade pelo incidente.
A direção da OpenAI suspendeu os testes com a técnica de aprendizagem por reforço logo que técnicos alertaram para o incentivo a crimes virtuais. A companhia separou 20% de toda a sua capacidade de processamento para criar barreiras automatizadas contra ações indisciplinadas dos robôs.
Trava em 30 minutos
O novo pacote de regras impõe o bloqueio total da internet em simulações de risco. Um sistema de monitoramento emitirá alertas em até 30 minutos logo que identificar comportamentos fora do padrão. A equipe tem a obrigação de derrubar o teste se não comprovar a segurança da operação nesse intervalo.
"Um número significativo de cargas de trabalho permanece suspenso", afirmou a empresa em nota pública. As falhas na checagem de segurança atingem o laboratório durante os preparativos para uma oferta inicial de ações na bolsa de valores, com valor de mercado projetado em US$ 1 trilhão.
O post OpenAI trava pesquisas de IA depois de modelos invadirem empresa apareceu primeiro em Revista Oeste.
