Яндекс sviluppa un test per la valutazione dei sistemi di IA in base a valori morali

Яндекс ha presentato al governo russo un dataset nazionale per la valutazione dei sistemi di IA in base alla loro conformità con valori spirituali e morali. Secondo quanto riferito da Habr, il concetto comprende un insieme di compiti di test e risposte di riferimento, destinati a confrontare diversi reti neurali.

Il test dovrebbe contribuire a valutare la conformità dei sistemi di IA con i valori del paese, oltre alla loro idoneità per il mercato russo. Questo approccio è stato discusso durante una riunione del gruppo di lavoro sulla regolamentazione e le barriere amministrative per l'intelligenza artificiale il 13 agosto 2023, riporta Meduza e Habr.

Un insider anonimo presente alla seduta ha dichiarato che la necessità del test risiede nell'assicurarsi che i sistemi di IA siano in linea con lo 'spirito del nostro tempo'. È stato sottolineato in particolare che il test dovrebbe essere adattato alle specifiche esigenze del mercato russo.

Tuttavia, rimane poco chiaro chi sarà responsabile del contenuto dei test. Secondo le fonti, si propone di formare una commissione congiunta che comprenda istituzioni statali, aziende ed esperti per assumere questo compito.

Il servizio di sicurezza russo FSB ha sottolineato che il test dovrebbe avere una natura riservata, sollevando interrogativi sulla trasparenza e sui criteri da utilizzare per la valutazione delle IA.