Яндекс предложит тесты для ИИ на соответствие духовно‑нравственным ценностям

Контекст регулирования искусственного интеллекта

На августовской встрече по регулированию ИИ обсуждали концепцию тестовых заданий и эталонов для оценки соответствия ИИ духовно‑нравственным ценностям.

Участники и представители индустрии сообщили, что проект пока существует на стадии концепции.

Обсуждались условия доступа к данным: планируется использовать как открытые, так и закрытые датасеты с разной постановкой вопросов.

Специалисты указали, что закрытые датасеты могут быть слишком сложными, что может замедлить развитие моделей.

Был предложен компромисс: тестирование будет основываться на смеси открытых и закрытых данных с различными формулировками вопросов.

Контекст законодательства

В конце июля был подписан закон о суверенных и национальных моделях искусственного интеллекта, который требует соблюдения российского законодательства и духовно‑нравственных ценностей.

Детали проекта и сроки обсуждения пока не определены.