Альянс в области искусственного интеллекта подписал декларацию об ответственном подходе к разработке ИИ-сервисов

Декларацию подписали такие компании, как Сбер, Яндекс, MTS AI, а также НИУ ВШЭ, Сколтех, Университет Иннополис, МФТИ, Университет ИТМО, Институт системного программирования РАН и Нижегородский государственный университет.

Документ основан на Кодексе этики в области искусственного интеллекта и уточняет правила касающиеся генеративного ИИ. Он содержит пункты, как для разработчиков, так и для пользователей.

Рекомендации для разработчиков:

1. Обеспечивайте безопасность и надёжность ваших сервисов на основе генеративного искусственного интеллекта. Принимайте меры для предотвращения злоупотреблений и создания некорректной информации.

2. До запуска сервисов на основе генеративного искусственного интеллекта тщательно тестируйте эти сервисы, а также разрабатывайте и внедряйте процедуры системного мониторинга. После запуска сервисов на основе генеративного искусственного интеллекта следуйте внедрённым процедурам системного мониторинга. По результатам мониторинга принимайте меры для предотвращения создания некорректной информации в будущем, а также для совершенствования внедрённых процедур.

3. Создавайте команду экспертов из разных отраслей для системной проверки контента, создаваемого сервисами на основе генеративного искусственного интеллекта, на соответствие нормам морали и нравственности, а сами сервисы — на взломоустойчивость и информационную безопасность.

4. Тщательно анализируйте сообщения о фактах генерации некорректной и незаконной информации и учитывайте эту информацию при доработке сервисов на основе генеративного искусственного интеллекта.

5. Информируйте пользователя о факте использования генеративного искусственного интеллекта в ваших сервисах там, где это возможно и неочевидно.

6. Осуществляйте маркировку (видимую или скрытую в зависимости от целесообразности и технической возможности) информации, создаваемой с помощью сервисов на основе генеративного искусственного интеллекта, там, где это разумно применимо и оправдано с учетом специфики сервиса.

7. Принимайте разумные меры для безопасного использования сервисов на основе генеративного искусственного интеллекта всеми категориями пользователей, включая несовершеннолетних. Принимайте меры по повышению осведомленности пользователей о возможных ошибках при применении искусственного интеллекта.

8. В пользовательском соглашении или другом документе напоминайте пользователям о недопустимости создания информации для причинения вреда и об ответственности за распространение некорректной информации, созданной с помощью сервисов на основе генеративного искусственного интеллекта.

9. Разработайте и разместите в сети Интернет:

• пользовательское соглашение или другой документ с правилами пользования сервисом на основе генеративного искусственного интеллекта;
• ссылку на текст этой Декларации;
• адрес электронной почты или форму обратной связи для направления сообщений о создании некорректной информации сервисом на основе генеративного искусственного интеллекта;
• инструмент для проверки скрытой маркировки информации, созданной с помощью сервисов на основе генеративного искусственного интеллекта, если вы посчитали необходимым осуществлять такую маркировку.

10. В пользовательских соглашениях или других документах определяйте позицию разработчика по вопросу принадлежности прав на контент, созданный с использованием его сервиса на основе генеративного искусственного интеллекта. Указывайте, существуют ли ограничения на использование результатов работы сервиса, например, для коммерческих целей. Описывайте иные условия использования созданных материалов.

11. Проводите междисциплинарные исследования о последствиях применения генеративного искусственного интеллекта в различных сферах. Принимайте по необходимости меры, направленные на минимизацию возможных негативных эффектов от пользования этими сервисами.

12. Разрабатывайте сервисы на основе генеративного искусственного интеллекта с учетом особенностей и с уважением к ценностям и традициям различных народов, культур, религий и других социальных общностей.

13. Обменивайтесь с другими разработчиками опытом обеспечения этичности работы сервисов на основе генеративного искусственного интеллекта. Разрабатывайте совместные стандарты этичности работы сервисов на основе генеративного искусственного интеллекта.

14. Публикуйте информацию о новых возможностях, функциях ваших сервисов на основе генеративного искусственного интеллекта, а также, где это важно для пользователей, о выявленных проблемах.

Рекомендации для пользователей

1. Не используйте сервисы на основе генеративного искусственного интеллекта для причинения вреда или в иных противоправных целях, не создавайте целенаправленно некорректную информацию, например, противоречащую закону или общепринятым нормам нравственности.

2. Помните: законодательством установлена ответственность за распространение противоречащей закону информации, даже если она была создана с применением генеративного искусственного интеллекта.

3. Если вы создали с помощью сервисов на основе генеративного искусственного интеллекта некорректную информацию, сообщите об этом разработчику. Этим вы поможете сделать сервис лучше и безопаснее.

4. Не используйте сервисы на основе генеративного искусственного интеллекта там, где очевидно требуется проявление личного творческого вклада человека (например, сочинения, экзаменационные и квалификационные испытания и т. д.) или когда использование генеративного искусственного интеллекта способно ввести других в заблуждение.

5. Ответственно относитесь к любым способам использования сгенерированной информации в вашей профессиональной деятельности. Вам следует знать установленные законом или деловой практикой ограничения на применение сервисов на основе генеративного искусственного интеллекта в вашей работе.

6. Помните, что любая технология не совершенна и требует вашего контроля. Особенно внимательно относитесь к применению сервисов на основе генеративного искусственного интеллекта детьми.

7. Знайте, что в конечном счете генеративный искусственный интеллект всегда является лишь одним из инструментов в ваших руках.

8. В случае использования сервисов искусственного интеллекта в профессиональной деятельности, доступно и понятно объясните о существующих в вашей сфере и в вашей организации условиях и ограничениях по применению сервисов на основе генеративного искусственного интеллекта.

9. Используйте сервисы на основе генеративного искусственного интеллекта как источник информации для любого уровня работ ответственно и с осознанием ограничений этого инструмента.

Илья Петухов

руководитель проектов по развитию AI-продуктов компании Directum

«Задача искусственного интеллекта — помогать, выполнять задачи, которые перед ним стоят. Мы говорим „Действуй“: напиши, проанализируй, подготовь, а ИИ выполняет. Так и должны развиваться нейросети.

При этом все мы боимся будущего из „Терминатора“ и не должны допустить, чтобы полезная технология стала нести угрозы и риски. Использовать искусственный интеллект надо с умом».