В России хотят создать тесты для проверки ИИ на соответствие традиционным ценностям

Представители ИТ-отрасли предложили создать совместную комиссию, в которую войдут государство, бизнес и экспертные организации.

В России обсуждают разработку национального датасета для тестирования систем искусственного интеллекта. С его помощью планируют оценивать качество моделей, их применимость в российских условиях и соответствие духовно-нравственным ценностям. Как пишет «Коммерсантъ», инициативу обсуждали 13 августа на заседании рабочей группы по регулированию ИИ.

Предполагается, что новый бенчмарк позволит сравнивать разные модели по единым критериям. В набор могут войти как вопросы с эталонными ответами, так и практические задания, например работа с базами данных, обработка информации или подготовка отчётов.

Одним из главных вопросов стала доступность таких тестов для разработчиков. Представители ФСБ выступили за закрытый формат, при котором компании заранее не знают содержание заданий и не могут специально адаптировать модели под проверку.

ИТ-компании, напротив, поддержали открытый датасет. По их мнению, непрозрачные критерии усложнят внутреннее тестирование и могут замедлить выпуск новых версий ИИ-моделей.

В качестве компромисса участники обсуждения предложили двухэтапную систему. Открытый набор заданий можно будет использовать для предварительной проверки, а закрытый — для итогового тестирования. Темы в обоих датасетах будут совпадать, но конкретные формулировки заданий планируют различать.

Отдельно эксперты обсудили разницу между техническими и ценностными тестами. В математике, программировании и других технических дисциплинах обычно можно определить однозначно правильный ответ. С оценкой соответствия духовно-нравственным принципам ситуация сложнее: для этого потребуется отдельная система критериев и участие профильных экспертов.

Окончательное содержание национального бенчмарка пока не определено. Представители ИТ-отрасли предложили создать совместную комиссию, в которую войдут государство, бизнес и экспертные организации.

Развитие ИИ постепенно влияет и на рынок интернет-рекламы: модели всё чаще используют для создания контента, аналитики и автоматизации кампаний. Но вместе с новыми инструментами растёт и количество процессов, которые маркетологам приходится контролировать. В Vitamin.tools работу с рекламными бюджетами можно собрать в одном кабинете: пополнять площадки, получать закрывающие документы, решать вопросы с маркировкой и получать вознаграждение от рекламных расходов.