Новая цифровая угроза: PromptFix использует скрытые инструкции для манипулирования ассистентами ИИ. Цель атаки — заставить ИИ выполнить вредоносные действия без ведома и участия пользователя, такие как нажатие невидимых кнопок, скачивание зараженных файлов или взаимодействие с фишинговыми ссылками. Киберпреступники скрывают свои инструкции в зараженных веб-сайтах или на платформах, которые они контролируют, включая Reddit и Facebook. Техники сокрытия включают невидимый текст, комментарии HTML, скрытие информации в изображениях и цифровых файлах. Активация атаки происходит, когда пользователь просит ассистент ИИ в браузере суммировать контент или извлечь ключевые моменты. Это может привести к тому, что агент выполнит нежелательные действия. Последствия могут быть серьезными, включая загрузку вредоносного ПО, обход проверок и раскрытие учетных данных. Для защиты эксперты ESET рекомендуют: не разрешать автоматические действия по умолчанию, ограничивать возможности агента, проверять изображения и файлы на скрытый текст и использовать списки доверенных сайтов. Мартина Лопес, исследователь информационной безопасности ESET Латинской Америки, объяснила, что злоумышленники встраивают скрытые команды в легитимный контент.
