Yandex développe un test pour évaluer les systèmes d'IA selon des valeurs morales

Yandex a présenté au cabinet du gouvernement russe un ensemble de données nationales pour évaluer la conformité des systèmes d'IA avec des valeurs spirituelles et morales. Selon des informations de Habr, le concept comprend un ensemble de tâches de test et de réponses de référence destinées à comparer différentes réseaux neuronaux.

Le test doit aider à évaluer la conformité des systèmes d'IA avec les valeurs du pays ainsi que leur pertinence pour le marché russe. Cette approche a été discutée lors d'une réunion du groupe de travail sur la réglementation et les obstacles administratifs à l'intelligence artificielle le 13 août 2023, rapportent des sources de Meduza et Habr.

Un informateur anonyme présent à la réunion a indiqué que la nécessité du test réside dans l'assurance que les systèmes d'IA soient en accord avec l'"esprit de notre époque". Il a été particulièrement souligné que le test devrait être adapté aux exigences spécifiques du marché russe.

Il reste cependant flou de savoir qui sera responsable du contenu des tests. Selon des sources, il est proposé de former une commission conjointe incluant des institutions publiques, des entreprises et des experts pour assumer cette tâche.

Le service de renseignement russe FSB a souligné que le test devrait avoir un caractère fermé, ce qui soulève des questions sur la transparence et les critères qui seront utilisés pour évaluer l'IA.