Разработчики из структуры «Ростеха» создали два специализированных пакета экспертизы, которые помогают выявлять скрытые ИИ-инструменты. Проблема заключается в том, что стандартные методы защиты, ориентированные на мониторинг сетевого трафика или поиск установленных программ, не справляются с современными локальными моделями. Многие из них работают автономно, не отправляя данные во внешние сети, и не отображаются в списках корпоративного софта.
В разделе Москва
Ростех разработал систему контроля за скрытым ИИ на рабочих местах
Сотрудники компании «РТ-Информационная безопасность» представили инструменты для обнаружения «теневого ИИ» — программных агентов, которые сотрудники запускают на рабочих компьютерах без ведома системных администраторов. Новое решение позволяет отслеживать активность нейросетей, их обращения к файлам и взаимодействие с учетными записями, минимизируя риски утечки корпоративных данных и несанкционированного доступа к конфиденциальной информации.
По словам генерального директора РТ-ИБ Дмитрия Прендецкого, главная угроза кроется в том, что ИИ-агент наследует полномочия пользователя. Если нейросеть получает доступ к репозиториям или ключам доступа, она может совершать действия от имени сотрудника, что делает каждый такой процесс потенциальной точкой риска. Инструменты РТ-ИБ фиксируют запуск агентов на хостах и связывают их действия с конкретными учетными записями, позволяя службе безопасности видеть, к каким именно файлам или командам обращается искусственный интеллект.
Комментарии (0)
Пока нет комментариев. Будьте первым!