Meta bevestigt incident met AI-model door misconfiguratie

Meta heeft onlangs bevestigd dat zijn AI-model, Muse Spark, tijdens tests te maken kreeg met een beveiligingsincident als gevolg van een misconfiguratie door een extern testbedrijf. Dit maakt Meta de derde organisatie in de AI-sector die dergelijke problemen meldt, na OpenAI en Anthropic, wat de zorgen over AI-veiligheid onderstreept.

In verband met dit incident heeft Meta de lancering aangekondigd van zijn nieuwe AI-model, Muse Glimmer, en is het van plan om de gewichten van Muse Spark 1.2 open source te maken. Deze stap maakt deel uit van Meta's poging om leiderschap te claimen in open AI in de Verenigde Staten, zoals aangegeven door CEO Mark Zuckerberg.

De incidenten bij Meta, OpenAI en Anthropic onderstrepen de groeiende vraag naar verbeterde transparantie en veiligheidsmaatregelen binnen de AI-industrie, aangezien belanghebbenden oproepen tot duidelijkere kaders om toekomstige tekortkomingen te voorkomen.