OpenAI descobre mais casos em que sua IA escapou de isolamento, diz agência

OpenAI diz que ataque de sua IA atingiu mais alvos do que se sabia Getty Images via BBC A OpenAI descobriu outros casos em que agentes de inteligência artifici...

OpenAI diz que ataque de sua IA atingiu mais alvos do que se sabia Getty Images via BBC A OpenAI descobriu outros casos em que agentes de inteligência artificial escaparam do ambiente virtual isolado que era mantido pela empresa, afirmaram nesta sexta-feira (31) duas fontes da agência Reuters. Experimentos com IA costumam ser feitos em sistemas fechados, com pouco ou nenhum acesso à internet. Mas casos recentes mostram que os agentes estão encontrando formas de ultrapassar as barreiras. As novas fugas das IAs foram descobertas em meio à investigação anunciada pela OpenAI após a empresa revelar que dois de seus agentes fizeram um ataque virtual contra a empresa de tecnologia Hugging Face. Os agentes de IA tinham sido submetidos a testes em que deveriam buscar falhas em sistemas para melhorar suas capacidades de cibersegurança. A avaliação resultou em ataques a diversos serviços disponíveis publicamente, segundo a OpenAI. Agora no g1 Os novos casos estão sendo analisados pela empresa, mas uma das fontes informou que eles tiveram alcance mais limitado. Segundo ela, apesar de terem escapado do isolamento, os agentes não saíram da rede da empresa. Um porta-voz da OpenAI remeteu à declaração anterior da empresa, que afirmava que a companhia estava analisando "atividades mais amplas de nossos modelos", além do ataque à Hugging Face. A investigação ampliada da OpenAI começou pouco antes da rival Anthropic revelar que seus modelos também foram responsáveis por ataques cibernéticos contra outras três empresas desde abril.