Эксперты по безопасности предупреждают компании о необходимости «блокировать все браузеры с искусственным интеллектом прямо сейчас».

Согласно исследовательской компании Gartner, браузеры с искусственным интеллектом «слишком рискованны для повсеместного внедрения в большинстве организаций», и это мнение разделяет Национальный центр кибербезопасности Великобритании.

Противодействие браузерам, использующим искусственный интеллект, в сфере кибербезопасности усиливается: исследовательский гигант Gartner и британское правительственное агентство относят их к потенциальным угрозам.

«Компания Gartner в своем новом отчете, опубликованном на прошлой неделе, пишет: «Брокеры с искусственным интеллектом находятся на начальной стадии развития и являются инновационными, но слишком рискованны для широкого внедрения в большинстве организаций».

Компания Gartner бьет тревогу, поскольку все больше технологических компаний начинают предлагать браузеры с искусственным интеллектом, которые обещают упростить работу в интернете. Эти программы позволяют делегировать и автоматизировать задачи, такие как поиск в интернете или написание электронных писем, агенту на основе ИИ. Единственная проблема заключается в том, что эти же возможности ИИ можно обманом заставить выполнять вредоносные команды, скрытые на веб-сайтах или в электронных письмах, фактически обращая браузер против пользователя.

В сфере информационной безопасности эта угроза называется « атаками с внедрением подсказок », которые используют тот факт, что чат-боты с искусственным интеллектом не всегда могут отличить запрос пользователя от вредоносного. Gartner указывает на Comet от Perplexity и Atlas от OpenAI как на браузеры, с которыми компаниям следует быть осторожными, поскольку они могут автоматизировать различные функции.

Компания Gartner даже рекомендует всем руководителям служб информационной безопасности (CISO) «блокировать все браузеры с использованием ИИ в обозримом будущем, чтобы минимизировать риски», добавляя, что настройки по умолчанию «оптимизированы для удобства конечного пользователя, а не для соблюдения лучших практик кибербезопасности или конфиденциальности».

В понедельник Национальный центр кибербезопасности Великобритании также предупредил: «Есть большая вероятность, что мгновенная инъекция никогда не будет должным образом нейтрализована» так же, как уязвимости SQL-инъекций, которые могут возникать из-за неправильного компьютерного кода. «В лучшем случае мы можем надеяться на снижение вероятности или последствий атак», - написало агентство в понедельник.

Однако общественность может ожидать сопротивления со стороны технологической индустрии, включая Microsoft, OpenAI и Perplexity, которые разрабатывают меры защиты от атак с внедрением кода. Это включает в себя предположение, что весь контент, считываемый из интернета, является ненадежным, и требование разрешения пользователя перед выполнением более конфиденциальных команд. В понедельник Google объявил о собственных усилиях по предотвращению подобных атак в Chrome, который использует чат-бот Gemini для своих возможностей искусственного интеллекта.

В ходе наших собственных тестов мы обнаружили, что браузеры с искусственным интеллектом показывают неудовлетворительные результаты и низкую производительность. Поэтому пользователям следует хорошо знать об ограничениях, включая компромиссы в отношении конфиденциальности и безопасности.
______________________________________________________