Wetenschap & Techniek
Yandex ontwikkelt test voor de evaluatie van KI-systemen op morele waarden
Het bedrijf Yandex heeft de Russische regering een concept gepresenteerd voor een test om KI-systemen te toetsen aan spirituele en morele waarden alsook wettelijke vereisten.
Yandex heeft de Russische regering een nationale dataset gepresenteerd voor de evaluatie van KI-systemen op overeenstemming met spirituele en morele waarden. Volgens informatie van Habr omvat het concept een reeks testopdrachten en referentie-antwoorden die dienen om verschillende neurale netwerken met elkaar te vergelijken.
De test moet helpen om de overeenstemming van de KI-systemen met de waarden van het land en hun geschiktheid voor de Russische markt te beoordelen. Deze aanpak werd besproken tijdens een bijeenkomst van de werkgroep voor de regulering en administratieve barrières voor Kunstmatige Intelligentie op 13 augustus 2023, melden bronnen van Meduza en Habr.
Een anonieme insider die aanwezig was bij de vergadering deelde mee dat de noodzaak van de test is om ervoor te zorgen dat de KI-systemen in overeenstemming zijn met de 'geest van onze tijd'. Vooral werd benadrukt dat de test moet worden afgestemd op de specifieke vereisten van de Russische markt.
Het blijft echter onduidelijk wie verantwoordelijk zal zijn voor de inhoud van de tests. Bronnen suggereren dat een gezamenlijke commissie moet worden opgericht die staatsinstellingen, bedrijven en experts betrekt om deze taak op zich te nemen.
De Russische inlichtingendienst FSB heeft benadrukt dat de test een gesloten karakter moet hebben, wat vragen oproept over de transparantie en de criteria die zullen worden gebruikt voor de evaluatie van de KI.