Кейс · Платформы и модули

Сервис проверки пользовательского контента

Сервис проверки контента — продукт ITLabs: модуль модерации для терминалов и сайтов, куда посетители присылают тексты и файлы.

Хочу такой проект Что сделали

Собственная разработка

Коротко о проекте

Сервис проверки пользовательского контента — проект ITLabs. Сервис проверки контента — продукт ITLabs: модуль модерации для терминалов и сайтов, куда посетители присылают тексты и файлы. Сервис проверяет присланное на нецензурную лексику, запрещённую символику и недопустимые изображения до того, как материал попадёт на экран. Софт мы пишем сами, поэтому сценарий и оформление собираются под конкретный объект.

Что сделали

Что проверяет модуль

Модуль встаёт между посетителем и экраном: присланный текст или файл проходит проверку до того, как попадёт в публикацию.

Что проверяется

Тексты — на нецензурную лексику и замаскированные написания
Изображения — на запрещённую символику и недопустимое содержание
PDF-файлы и документы вместе с вложенными изображениями

Настройка и подключение

Собственный список запрещённых слов и отдельный список для администратора
Веб-интерфейс с настройками порогов и правил проверки
Отдельная служба — подключается к любой административной панели
Работает на сервере заказчика, без внешних облаков

Вопросы и ответы

Частые вопросы о проекте

Для чего нужен сервис проверки пользовательского контента?

Он модерирует то, что посетители присылают на терминалы и сайты. Тексты и файлы проверяются на нецензурную лексику, запрещённую символику и недопустимые изображения до того, как материал попадёт на экран.

Ловит ли сервис замаскированные ругательства?

Да, проверка текста учитывает замаскированные написания — подмену букв и разбиение слова. На публичном экране это принципиально: обойти прямой список запрещённых слов иначе слишком просто.

Что делать с присланным PDF-документом?

Сервис разбирает PDF и документы вместе с вложенными изображениями. Проверяется не только текст файла, но и картинки внутри него, поэтому запрещённое содержимое не проезжает во вложении.

Можно ли настроить строгость проверки?

Да, в веб-интерфейсе задаются пороги и правила. Там же ведётся собственный список запрещённых слов, а для администратора предусмотрен отдельный список — площадка настраивает модерацию под свою аудиторию.

Как сервис подключается к существующей системе?

Он работает отдельно и отдаёт программный интерфейс, поэтому подключается к любой админке или приложению терминала. Переписывать систему, в которую встраивается модерация, не требуется.

Уходят ли материалы во внешние облака?

Нет. Сервис разворачивается на сервере заказчика, и проверка идёт там же. Присланные посетителями тексты и файлы за периметр организации не выходят.

Похожие проекты