Yandex desarrolla una prueba para evaluar sistemas de IA según valores morales

Yandex ha presentado al gabinete del gobierno ruso un conjunto de datos nacional para la evaluación de sistemas de IA en su conformidad con valores espirituales y morales. Según información de Habr, el concepto incluye un conjunto de tareas de prueba y respuestas de referencia que sirven para comparar diferentes redes neuronales.

La prueba tiene como objetivo ayudar a evaluar la conformidad de los sistemas de IA con los valores del país y su idoneidad para el mercado ruso. Este enfoque fue discutido durante una reunión del grupo de trabajo sobre regulación y barreras administrativas para la Inteligencia Artificial el 13 de agosto de 2023, informan fuentes de Meduza y Habr.

Un informante anónimo que estuvo presente en la reunión comentó que la necesidad de la prueba radica en asegurar que los sistemas de IA estén en sintonía con el 'espíritu de nuestra época'. Se hizo especial hincapié en que la prueba debería adaptarse a los requisitos específicos del mercado ruso.

Sin embargo, sigue sin estar claro quién será responsable del contenido de las pruebas. Según fuentes, se propone formar una comisión conjunta que incluya a instituciones estatales, empresas y expertos para asumir esta tarea.

El servicio de inteligencia ruso FSB ha enfatizado que la prueba debe tener una naturaleza cerrada, lo que plantea preguntas sobre la transparencia y los criterios que se utilizarán para la evaluación de la IA.