Microsoft визнає нові ризики безпеки через агентний ШІ у Windows 11

Microsoft офіційно попереджає про нові ризики безпеки, які з’являються разом із впровадженням агентних AI-можливостей у Windows 11. Компанія підтвердила, що запуск автономних AI-агентів, здатних взаємодіяти з файлами та застосунками користувача, може створити низку нових векторів атак. Щоби зменшити ці загрози, Microsoft вводить експериментальну функцію agent workspace, але визнає: непередбачувані ризики все одно можливі. Про це пише Tom’s Hardware з посиланням на документ Microsoft.

Агентний ШІ у Windows 11: нові можливості — і нові загрози

Microsoft додала до Windows 11 Insider Preview агентні AI-функції, які можуть виконувати завдання на кшталт сортування файлів, автоматизації процесів чи надсилання електронних листів. Для цього системі доводиться надавати агентам доступ до даних користувача.

Саме такий доступ створює потенційні загрози. У новому документі підтримки Microsoft попереджає, що агентний ШІ може стати мішенню для нових і несподіваних атак.

Найсерйознішою загрозою Microsoft називає cross-prompt injection (XPIA) — ситуацію, коли шкідливий контент, вбудований у файли, UI-елементи чи документи, здатен перехопити або змінити інструкції агента та змусити його виконати небажані дії, зокрема передати конфіденційні дані, змінити системні налаштування чи встановити шкідливе програмне забезпечення.