В России предложили проверять нейросети на духовно-нравственные ценности и ввести обязательную маркировку ИИ-контента

На рабочей встрече в Минцифры обсудили проверку искусственного интеллекта на духовно-нравственные ценности. Одновременно с этим власти рассматривают введение обязательной маркировки ИИ-контента, сообщают «Коммерсант» и «Ведомости».

Национальный датасет для ИИ

Национальный датасет — это набор тестовых заданий и эталонных данных для оценки соответствия ИИ-систем «духу времени и ценностям страны, а также их пригодности для использования в российских условиях», сообщает «Коммерсант».

Как это работает: бенчмарк — это стандартный набор заданий с правильными ответами. По нему можно сравнивать разные модели по одинаковым критериям. Он проверяет реальные рабочие задачи: выгрузку данных из базы, составление отчетов.

С его помощью можно будет оценивать:

• насколько ИИ подходит для использования в России;

• как он решает практические задачи;

• соответствует ли его ответы «духу времени и ценностям страны».

Каким может быть формат национального бенчмарка для ИИ

Участники встречи обсудили открытый и закрытый варианты бенчмарка.

По словам источника «Коммерсанта», ФСБ предложила закрыть датасет. Такой подход не позволит разработчикам заранее настроить модели на прохождение проверки.

Представители бизнеса выступили за открытый формат. По их мнению, полностью закрытый тест может усложнить развитие ИИ-моделей.

В качестве компромисса предложили использовать два набора тестов:

• открытый — для предварительной проверки и прозрачности;

• закрытый — для финальной оценки моделей.

В закрытом наборе могут использоваться те же темы, но другие формулировки вопросов. Это позволит разработчикам заранее проверять модели, но при этом сохранить объективность итогового тестирования.

Кто будет определять содержание бенчмарка для ИИ

Этот вопрос пока остается открытым. IT-сообщество предлагает создать совместную комиссию. В нее могут войти представители:

• органов власти;

• бизнеса;

• экспертных организаций.

По мнению участников обсуждения, это поможет сделать бенчмарк сбалансированным.

Проект пока остается на стадии обсуждения. Не решено:

• будут ли тесты открытыми или закрытыми;

• кто определит их содержание;

• какие именно критерии будут использоваться.

В аппарате профильного вице-премьера Дмитрия Григоренко сообщили, что предложения обсуждают с представителями отрасли и заинтересованными ведомствами. В Минцифры добавили, что подзаконные акты к закону об ИИ пока также обсуждаются с бизнесом.

Обязательная маркировка ИИ-контента

Власти рассматривают поправки, которые могут сделать маркировку созданных с помощью ИИ изображений, аудио и видео обязательной. Сейчас закон означает только то, что у пользователей должна быть возможность маркировать ИИ-контент.

Проект поправок подготовила рабочая группа Совета при президенте Российской Федерации по кодификации и совершенствованию гражданского законодательства под руководством председателя комитета Госдумы по государственному строительству и законодательству Павла Крашенинникова. Об этом сообщили «Ведомостям» два источника, знакомых с обсуждением.

Какой ИИ-контент может попасть под обязательную маркировку

Поправки могут затронуть изображения, аудио и видео, созданные с применением больших моделей ИИ. При этом пока не определено:

• какая доля ИИ-контента будет считаться достаточной для маркировки;

• кто должен ставить отметку — автор или распространитель;

• должна ли маркировка сохраняться при переносе файла на другую платформу;

• кто будет проверять наличие отметки;

• какая ответственность предусмотрена за ее отсутствие.

Формат, содержание и порядок размещения предупреждения должен определить уполномоченный государственный орган. Какое именно ведомство будет отвечать за это, пока не указано.

Когда может появиться маркировка ИИ-контента

По закону об ИИ, возможность маркировать ИИ-контент должна появиться у всех пользователей 1 марта 2027 года.

Тогда крупные сайты, социальные сети и другие платформы с суточной аудиторией более 500 000 российских пользователей должны будут предоставить техническую возможность добавлять отметку об использовании ИИ.

На каком этапе и в каком виде поправки могут внести в Госдуму, пока не определено.

Источник «Ведомостей», участвующий в обсуждении поправок, считает, что обязательная маркировка не поможет полностью решить проблему дипфейков. По его мнению, авторы такого контента продолжат использовать зарубежные сервисы и распространять материалы без отметок. Пользователи также смогут загружать немаркированные изображения и видео на стриминговые платформы.

В результате новые правила могут усложнить работу с российскими ИИ-сервисами, но не решить заявленную проблему.

Как предлагают маркировать ИИ-контент

Эксперты предлагают использовать смешанный подход:

• видимые отметки для пользователей;

• скрытые машиночитаемые метки;

• проверку маркировки платформами;

• возможность сообщать об искусственном происхождении контента.

Такой формат используется в Китае. Похожий подход предусматривает и европейский AI Act.

Как могут измениться правила обучения ИИ

Разработчиков моделей могут обязать выплачивать правообладателям компенсации за использование произведений и других объектов авторских и смежных прав для обучения нейросетей.

Правообладатель сможет публично запретить использовать свои материалы для обучения ИИ. Уведомление можно будет разместить:

• на самом произведении;

• на связанном с ним ресурсе;

• на специальном сайте уполномоченного ведомства.

Если правообладатель не установил запрет, произведение можно будет использовать для обучения модели.

Если между сторонами нет отдельного договора или публичного разрешения на бесплатное использование материалов, разработчик должен будет выплатить правообладателю вознаграждение.

Размер выплат, порядок их сбора и периодичность распределения средств определит правительство.

По мнению источников «Ведомостей», проект поправок требует доработки. Одна из проблем связана с тем, что под маркировку могут попасть не только полностью сгенерированные материалы, но и фотографии, обработанные нейросетевыми фильтрами.

Кроме того, пока неясно, как сделать так, чтобы машиночитаемая отметка сохранялась после дальнейшего редактирования и публикации файла на других платформах.

Ранее Госдума приняла в третьем окончательном чтении законопроект о развитии ИИ в России.

Возможно, вам будет интересно:

• Закон о регулировании ИИ: обязательна ли маркировка ИИ-контента с 1 сентября

• Инфляция контента на фоне развития ИИ: что происходит с вашим трафиком и что делать

• Штрафы за авторизацию через иностранные сервисы: кому грозят и как их избежать

Источники: «Коммерсант» и «Ведомости»