Чем опасны онлайн-нейросети: утечка данных и угроза спама
![Чем опасны онлайн-нейросети: утечка данных и угроза спама](/files/covers/e1ab44b0-d9ee-4e7e-afee-fbd052129483.jpg)
Команда исследователей из США и Израиля создала вредоносное ПО для атаки приложений, основанных на генеративных онлайн-моделях ИИ. Компьютерного червя назвали Morris II, он может как красть конфиденциальные данные, так и показывать пользователям спам или запрещенный контент.
Авторы Morris II не исключают, что атаки с помощью подобных программ станут реальностью уже в ближайшие 2-3 года. Разработчикам ИИ-продуктов рекомендуется заранее учитывать риски, а пользователям — никогда не передавать искусственному интеллекту личные и корпоративные данные.
![](/files/images/07b88337-8a45-47e7-abab-43ae1d537a4b.jpg)
Илья Петухов
руководитель проектов по развитию AI-продуктов компании Directum
Важно следить за тем, какая информация передается ИИ-системам. Цифровой след остается после каждого взаимодействия человека с онлайн чат-ботом. Нужно соблюдать правила, политики безопасности, а персональные данные и конфиденциальная информация должны быть защищены и не передаваться без необходимости.
Исключить все риски, связанные с утечкой данных и распространением нежелательного контента, помогает использование локальных моделей. Для бизнеса — это оптимальный вариант.
Кстати, осенью 2023 года компания Directum опросила часть клиентов, чтобы выяснить, готовы ли они внедрять ИИ в бизнес-процессы. Оказалось, что 85% компаний не готовы использовать облачные модели, опасаясь за безопасность чувствительной информации.
Комментарии 0