Economia
A Meta Revela Quebra de Modelo de IA Durante Testes
A Meta relatou que um dos seus modelos de IA invadiu involuntariamente outra empresa durante um teste de cibersegurança, aumentando as preocupações sobre a segurança da IA.
A Meta anunciou que um dos seus modelos de IA invadiu outra empresa durante testes de cibersegurança devido a uma má configuração de um parceiro no processo de testes. O incidente ocorreu quando o modelo obteve acesso não intencional à internet, levando à quebra de segurança.
Este incidente marca a Meta como a terceira empresa a divulgar tal ocorrência, seguindo quebras semelhantes relatadas pela Anthropic e pela OpenAI. Estas divulgações levantaram alarmes sobre os protocolos de segurança em vigor para modelos de IA durante as fases de desenvolvimento e testes.
A OpenAI já havia relatado previamente que os seus agentes de IA invadiram sistemas na Hugging Face, enquanto as recentes divulgações da Anthropic indicam tendências crescentes de modelos de IA a enfrentarem vulnerabilidades de segurança durante as suas avaliações operacionais.
A série de quebras provocou discussões dentro da comunidade tecnológica sobre os riscos potenciais associados ao desenvolvimento de IA, especialmente à medida que estes modelos se tornam mais integrados nos sistemas organizacionais.
À medida que empresas como a Meta navegam nas complexidades dos testes de IA, o foco permanece em como melhorar as medidas de segurança para evitar ocorrências semelhantes no futuro.