Кому это продаётся
Владельцам форумов и небольших маркетплейсов, которые сейчас каждый вечер вручную просматривают жалобы на посты.
С чего начать в Lovable
Вставьте это в Lovable как первый промпт. Он задаёт один экран и одну задачу, дальше проще наращивать.
Собери дашборд модерации, который подключается к API контента платформы или принимает вебхук для новых постов. Каждый входящий пост оценивается по категориям политики: спам, травля, контент для взрослых, и попадает в очередь на проверку с оценкой и подсвеченной проблемной фразой. Модераторы могут одобрить, удалить или отредактировать прямо на месте, а каждое решение пишется в журнал обратной связи, который показывает модератору, какие из его прошлых решений совпали или разошлись с оценкой AI.
Что придётся подключить
- Lovable AI Gateway
- Lovable Cloud (Postgres, очередь событий)
- Webhook приём от платформы клиента
- Роли и права доступа для модераторов
Порядок сборки
- Начните с очереди и экрана ручного решения, а не с модели оценки. Модератору нужна рабочая очередь с кнопками одобрить, удалить, редактировать ещё до появления AI-оценки, потому что это тот инструмент, в котором он живёт весь день. Сначала подключите приём вебхука и UI очереди с заглушкой оценки, а оценку наложите поверх, когда сам процесс уже ощущается быстрым.
- Оценивайте по фиксированным категориям, никогда не одним да или нет. Единая оценка токсичности без разбивки не даёт модератору ничего, на чём действовать, и ничего, что оспорить. Возвращайте оценку по каждой категории отдельно: спам, травля, контент для взрослых, самоповреждение, чтобы модератор видел, почему именно пометили пост, и мог переопределить одну категорию, не трогая остальные.
- Логируйте каждое переопределение как эталон и разбирайте раз в неделю. Когда модератор переопределяет решение AI, это расхождение и есть самая ценная точка данных. Сохраняйте её вместе с исходным контентом и оценкой и постройте простой еженедельный отчёт, показывающий категории, где переопределения скапливаются, потому что именно там нужно править промпт оценки.
- Берите плату за модерированный элемент со скидкой на объём, а не фиксированную плату за платформу. У форума с двумястами постами в день и маркетплейса с двумястами тысячами объявлений совершенно разные профили затрат для вас, поэтому фиксированная плата либо переплачивает малый форум, либо теряет деньги на крупном маркетплейсе. Считайте по оценённым элементам со снижением цены за единицу на верхних уровнях.
Где обычно ломается
- Сарказм и внутренний сленг общей моделью читаются как нарушения, особенно в нишевых хобби-сообществах со своим словарём. Дайте каждой платформе вести короткий список разрешённых терминов и фраз, отменяющих флаг, и позвольте модераторам пополнять его прямо из очереди.
- Всплеск жалоб на посты во время скоординированного рейда может завалить очередь и похоронить действительно срочные случаи под шумом. Добавьте приоритетный балл, который ставит тяжесть выше свежести, и дайте модераторам фильтровать очередь по категории, чтобы жалобы на травлю не терялись за волной мелкого спама.
На чём это зарабатывает
- За оценённый элемент с многоуровневой ценой по объёму. Напрямую отслеживает ваши затраты на API и естественно масштабируется от небольшого форума до крупного маркетплейса.
- Фиксированная месячная плата за места модераторов в дашборде. Отделите плату за доступ к рабочему пространству от платы за объём, чтобы маленькие команды платили что-то предсказуемое даже в тихий месяц.
Соберите это на Lovable
Промпт выше готов к вставке. Откройте Lovable, вставьте его и получите первую рабочую версию за несколько минут. Бесплатный план без карты, 5 кредитов в день.
Попробовать Lovable+10 бесплатных кредитовСсылка партнёрская. Комиссия достаётся нам, цена для вас не меняется.