Краткий пересказ от РИА ИИ

• Издательство «Эксмо» использует искусственный интеллект для проверки книг на наличие упоминаний о наркотиках, экстремизме, иноагентах и другой запрещенной информации.
• Процесс анализа построен на многоуровневой архитектуре с использованием нескольких типов программных агентов, каждый из которых специализируется на своей теме.
• Окончательное решение о наличии нарушений принимает живой редактор, а задача системы — убрать очевидно безопасный контент и передать на рассмотрение все, что несет в себе хотя бы малейший риск.

МОСКВА, 5 авг - РИА Новости. Издательство "Эксмо" с помощью искусственного интеллекта проверяет книги на наличие в них упоминаний о наркотиках, экстремизме, иноагентах и другой запрещенной информации, тексты анализируются на нескольких уровнях, чтобы отсеять опасный контент, рассказал РИА Новости генеральный директор издательства Евгений Капьев.

"Наша система предназначена для глубокого анализа текстов (в том числе на иностранных языках) с целью выявления контента, нарушающего законодательство", - отметил Капьев.

По его словам, процесс построен на многоуровневой архитектуре с использованием нескольких типов программных агентов, что обеспечивает высокую точность и минимизирует риски. Так, на первом этапе текст сегментируется на фрагменты - они должны быть достаточно компактными для обработки.

"Затем фрагменты отправляются трем разным агентам первого уровня, каждый из которых специализируется на своей теме: секс, наркотики, экстремизм. Помимо основной цепочки, в системе работают и другие агенты: упоминание иноагентов и запрещенных организаций, педофилия, чайлдфри*, ЛГБТ*, дискредитация армии, ненормативная лексика", - пояснил глава издательства.

Затем полученные результаты проходят через агента второго уровня, который отсеивает очевидные ложные срабатывания. Оставшиеся после фильтрации случаи передаются на третий, самый сложный уровень анализа: здесь в работу включаются наиболее дорогие и продвинутые модели, обученные на действующих законах и судебной практике. Как отметил Капьев, их задача - классифицировать нарушение.

"Ключевой принцип системы: машина не принимает окончательное решение. Ее задача - убрать очевидно безопасный контент и передать все, что несет в себе хотя бы малейший риск, на рассмотрение живому редактору", - заключил Капьев.

*движение признано экстремистским и запрещено в России