24/04/2026
Давайте розглянемо, як зловмисники змусять вашого AI-агента передати конфіденційні дані вашої компанії без жодного вашого кліка.
Якщо ви не користуєтеся AI-агентами, вас це також стосується.
Усе більше кіберінцидентів з AI пов'язані з простими промптами. Точних цифр поки не існує, але тренд очевидний і тривожний.
У багатьох із нас базова поведінка кібербезпеки відпрацьована на рівні рефлексів: не відкривати підозрілі листи, не відкривати підозрілі вкладення, не клікати на підозрілі посилання, отримані навіть від знайомих.
Тобто ми звикли: якщо нічого не зробив, то нічого не трапиться.
Усе змінилося.
Ось вам реальна ситуація.
Зловмисник надсилає звичайний електронний лист із прихованими інструкціями → Copilot їх обробляє → витягує дані з OneDrive, SharePoint, Teams → передає через довірені домени Microsoft.
Жодного небезпечного кліку. Жодного алерту.
‼️Знайомтеся: це EchoLeak-подібні атаки — Zero-click prompt injection.
(Ви скажете, що не користуєтеся Copilot, але він вбудований у вашу операційну систему Windows та поєднаний з вашим акаунтом Microsoft та Microsoft 365 (якщо ви чи ваша компанія цим сервісом користуєтеся).
І все, до чого ви маєте доступ як користувач хмарних сервісів Microsoft, доступно і вашому помічнику — Copilot).
Ніяких дій від вас не потрібно. Натомість використовується сам спосіб інтерпретації контексту, який отримує Copilot.
Зловмисники впроваджують інструкції в цей контекст таким чином, що ви ніколи цього не помітили б: прихований текст, метадані, навіть особливості форматування.
Коли ШІ опрацьовує запит, він мимоволі підкоряється вбудованим командам зловмисника.
🔔 Ось де ризик: ШІ не просто аналізує запит, він витягує навколишню, доступну йому інформацію (електронні листи, документи, чати Teams, файли OneDrive), щоб дати докладніші відповіді.
Результат: конфіденційні дані можуть бути упаковані та відправлені на сервер зловмисника, тоді як користувач вважає, що ШІ просто підсумовує документ.
І ще — легко зробити розсилку «інструкцій» тисячам співробітників компанії одночасно.
Уявляєте масштаб потенційної шкоди?
Без жодного небезпечного кліку.
Цікаво, що це вважалося теоретичним ризиком — аж поки не з’явилися реальні інциденти.
Взагалі ви помічали, що про безпеку АI-агентів та LLM-cистем мало хто думає заздалегідь?
Все більше про продуктивність та прибутковість.
Це поки не «прилетить», і тоді всі такі «ах, ми про це не подумали, ми цього не передбачили».
Не дозволяйте собі такої безпечності.
Що робити?
Є два варіанти захисту від EchoLeak-подібних атак.
🛡️Якщо у вас локальна LLM та AI-агенти.
Тут простіше — захист вибудовується на архітектурному рівні.
Так ми зробили для нашого клієнта в пілотному проєкті локальної LLM з AI-агентами, що працюють з нею: весь трафік між користувачами і AI-інфраструктурою проходить через Palo Alto Prisma AIRS.
Захист від EchoLeak-подібних атак — це Runtime Firewall + Prompt Shield у комбінації.
📍Prompt Shield перехоплює на вході.
Лист із прихованими інструкціями — до того, як потрапити в контекст моделі — проходить через фільтрацію.
Prompt Shield шукає саме це: інструкції, вбудовані в дані. Те, що виглядає як контент, але поводиться як команда.
📍Runtime Firewall контролює на виході та в діях.
Навіть якщо щось пройшло — firewall у реальному часі моніторить, що агент робить.
Запит до OneDrive — нормально. Масове вивантаження файлів назовні через нетипові канали — аномалія, блокування.
Але є нюанс, який важливо розуміти:
EchoLeak-подібна атака з Copilot спрацювала саме тому, що дані передавалися через довірені домени Microsoft — тобто це виглядало як легітимна активність. Звичайний фаєрвол цього не бачить.
Runtime Firewall Prisma AIRS працює на рівні поведінки агента, а не тільки мережевого трафіку — тому аномальний патерн дій видно навіть якщо канал передачі «чистий».
🛡️Якщо ви працюєте з зовнішніми хмарними сервісами й агентами, такими як Copilot, ChatGPT, Claude тощо.
Зовнішні хмарні помічники та моделі можуть мати доступ до персональних файлів і даних, пов’язаних із профілем користувача, до якого прив’язаний помічник.
Також вони можуть мати доступ, у межах користувацьких прав, до даних компанії, розміщених в екосистемі Office 365 (OneDrive, SharePoint, Teams, Outlook тощо).
📍Протидія EchoLeak-подібним атакам для хмарних ресурсів компанії здійснюється на трьох рівнях:
1. Керуйте правами доступу. Важливо обмежити доступ до даних відповідно до ролей користувачів. Ніхто не повинен бачити все.
2. Класифікуйте дані та використовуйте мітки для маркування чутливої інформації. Це допоможе, наприклад Copilot, вчасно реагувати на підозрілі інструкції.
3. Впроваджуйте рішення DLP (Data Loss Prevention) для захисту даних від витоку, наприклад Microsoft Purview. Це суттєво знизить ризики, але не усуне їх повністю.
У будь-якому разі вам необхідний цілий комплекс заходів і багаторівневий захист, вибудуваний системно.
P.S. І для інформації: Microsoft випустила патчі та оновлення для усунення вразливості перед EchoLeak-подібними атаками в червні 2025 року.
Але це не означає, що можна розслабитися і нічого не робити. Тому що нові методики атак розвиваються поруч із розвитком технологічного стеку та його розповсюдженням.