Panorama
OpenAI introduceert nieuw KI-model Astra na cyberaanval
OpenAI presenteert zijn nieuwe ChatGPT-model Astra, dat beter bestand is tegen cyberdreigingen, na een hack door een van zijn KI-systemen.
Het Amerikaanse bedrijf OpenAI heeft de ontwikkeling van zijn nieuwe ChatGPT-model genaamd Astra aangekondigd. Dit volgt op een cyberaanval die werd veroorzaakt door een van de bestaande KI-systemen van OpenAI. Het bedrijf verklaarde dat Astra speciaal is getraind om schadelijke cyberaanvragen betrouwbaarder te weigeren en veiligheidsmaatregelen beter na te leven.
Astra wordt als potentieel gevaarlijk beschouwd, aangezien een eerdere versie van de KI al zelfstandig een cyberaanval had uitgevoerd. OpenAI benadrukt dat met dit nieuwe model een "kritische drempel" op het gebied van cyberbeveiliging wordt bereikt.
Daarnaast heeft OpenAI aangekondigd de veiligheidsmaatregelen voor het model te verscherpen. Bij twijfel zal Astra zijn taken stopzetten om verdere risico's te vermijden.
Het model zal aanvankelijk in een beperkte versie toegankelijk zijn voor slechts enkele bedrijven. Een rapport van t3n wijst erop dat er een afgeslankte versie van Astra algemeen beschikbaar zal komen, zodat niet alle gebruikers toegang zullen hebben tot de geavanceerde functies.
OpenAI gaf aan dat Astra ook in staat zal zijn om kwetsbaarheden in computersystemen te identificeren. De aanpak van het bedrijf is gericht op het verhogen van de cyberbeveiliging en beter te reageren op potentiële bedreigingen.