Разработчик экосистемы инфраструктурного ПО для Enterprise-бизнеса Orion soft выпустил новую версию собственной платформы безопасности для работы с LLM StarGuard AI 1.2. Обновления обеспечивают возможность глубокого анализа угроз и гибкой настройки политик безопасности, а также делают систему более производительной и отказоустойчивой. Об этом CNews сообщил представитель Orion soft.

В версии 1.2 появилась новая функциональность для анализа безопасности моделей и файлов: возможность сканирования данных антивирусом и анализатором сериализованных моделей, а также стресс-тестирования LLM на устойчивость к prompt-injection, jailbreak и утечкам. Эти функции обеспечивают защиту от «отравления» моделей и внедрения вредоносного кода.

Возможности защиты данных также стали более гибкими. Появилась опция создания собственных детекторов для проверки запросов и ответов, а также возможность выбирать конкретные классы данных для маскирования. Это позволяет пользователю учитывать специфику конфиденциальных данных собственной инфраструктуры и отраслевые стандарты при настройке сервиса.

Начиная с версии 1.2 StarGuard AI поддерживает режим работы в формате классического HTTP Proxy с DPI. Благодаря этому использование системы можно настроить на уровне сети без перестройки существующей инфраструктуры с прозрачным контролем трафика. У администраторов появляется возможность настроить решение как общий шлюз для всей компании, и сеть автоматически перенаправляет весь трафик через StarGuard AI для анализа запросов.

Реализована также нативная поддержка файлов для OpenAI API и Anthropic API форматов и возможность выбора fail-open/fail-close сценария при недоступности отдельных сервисов при проверке — теперь при техническом сбое есть возможность полностью заблокировать доступ ради безопасности или оставить его открытым, чтобы не останавливать работу сотрудников.

«Обновления расширяют возможности компаний для контроля безопасности LLM и делают платформу более адаптивной к индивидуальным особенностям конкретной инфраструктуры. Внедрение режима HTTP Proxy с DPI и инструментов верификации моделей позволяет интегрировать StarGuard AI в существующие сетевые архитектуры с минимальными изменениями, а новые сценарии обработки сбоев и поддержка нативных форматов API обеспечивают устойчивость системы и единые стандарты проверки документов, в соответствии с корпоративными требованиями к безопасности», — сказал Никита Векессер, руководитель продуктов Nova AI и StarGuard AI в Orion soft.

• Развивайте компетенции сотрудников через практические онлайн-курсы Школы Роста CNews. Обучаем под задачи бизнеса с быстрым выходом на результат.