Чем опасны онлайн-нейросети: утечка данных и угроза спама
Команда исследователей из США и Израиля создала вредоносное ПО для атаки приложений, основанных на генеративных онлайн-моделях ИИ. Компьютерного червя назвали Morris II, он может как красть конфиденциальные данные, так и показывать пользователям спам или запрещенный контент.
Авторы Morris II не исключают, что атаки с помощью подобных программ станут реальностью уже в ближайшие 2-3 года. Разработчикам ИИ-продуктов рекомендуется заранее учитывать риски, а пользователям — никогда не передавать искусственному интеллекту личные и корпоративные данные.
Илья Петухов
руководитель проектов по развитию AI-продуктов компании Directum
Важно следить за тем, какая информация передается ИИ-системам. Цифровой след остается после каждого взаимодействия человека с онлайн чат-ботом. Нужно соблюдать правила, политики безопасности, а персональные данные и конфиденциальная информация должны быть защищены и не передаваться без необходимости.
Исключить все риски, связанные с утечкой данных и распространением нежелательного контента, помогает использование локальных моделей. Для бизнеса — это оптимальный вариант.
Кстати, осенью 2023 года компания Directum опросила часть клиентов, чтобы выяснить, готовы ли они внедрять ИИ в бизнес-процессы. Оказалось, что 85% компаний не готовы использовать облачные модели, опасаясь за безопасность чувствительной информации.
Похожие статьи
Комментарии 0