Яндекс desenvolve teste para avaliar sistemas de IA com base em valores morais

A Яндекс apresentou ao gabinete do governo russo um conjunto de dados nacional para avaliar sistemas de IA quanto à sua conformidade com valores espirituais e morais. Segundo informações do Habr, o conceito inclui um conjunto de tarefas de teste e respostas de referência, que servem para comparar diferentes redes neuronais.

O teste deve ajudar a avaliar a conformidade dos sistemas de IA com os valores do país e a sua adequação para o mercado russo. Esta abordagem foi discutida durante uma reunião do grupo de trabalho sobre regulamentação e barreiras administrativas para Inteligência Artificial, a 13 de agosto de 2023, segundo relatórios do Meduza e Habr.

Uma fonte anónima que estava presente na reunião revelou que a necessidade do teste reside em garantir que os sistemas de IA estejam alinhados com o 'espírito da nossa era'. Foi enfatizado que o teste deve ser adaptado às exigências específicas do mercado russo.

No entanto, permanece incerto quem será responsável pelo conteúdo dos testes. Fontes indicam que se propõe a formação de uma comissão conjunta que incluirá instituições estatais, empresas e especialistas para assumir esta tarefa.

O Serviço Federal de Segurança da Rússia (FSB) enfatizou que o teste deve ter uma natureza fechada, o que levanta questões sobre a transparência e os critérios que serão utilizados na avaliação da IA.