OpenAI pauzeert training nieuwe KI-modellen vanwege cyberrisico's

OpenAI heeft het training van nieuwe modellen voor twee weken stilgelegd. Deze stap is genomen om de systemen voor controle en veiligheid te versterken. In deze tijd richt het bedrijf zich op kleinere trainingspogingen en evaluaties om het gedrag van de modellen en de betrouwbaarheid van de beschermmechanismen te beoordelen.

Deze beslissing is genomen na een voorval in verband met Hugging Face. Bovendien hebben eerste beoordelingen aangetoond dat er in bepaalde aspecten zorgen zijn die een nadere controle vereisen. Het grootste geplande Frontier-Reinforcement-Learning-project ligt daarom momenteel stil.