Управляемые операции подготовки данных

Разметка данных и данные для обучения ИИ

Upstream BPO ведёт управляемые операции разметки данных для программ машинного обучения: обученные команды разметчиков, письменные инструкции, многоуровневый контроль качества и отчётность по согласию между разметчиками.

Upstream BPO готовит и размечает обучающие данные для моделей ИИ — текст, изображения, видео и речь — с письменными инструкциями, проверкой качества и согласованными критериями приёмки.

Подходит командам, которым нужен предсказуемый объём качественной разметки: при подготовке обучающей выборки, при расширении набора классов или при регулярной поставке данных для дообучения модели.

Как обеспечивается качество

  • Письменные инструкции по разметке с примерами и краевыми случаями
  • Обучение и аттестация разметчиков перед допуском к рабочему объёму
  • Многоуровневая проверка и измеримое согласие между разметчиками
  • Согласованные критерии приёмки партии до начала работ

Что входит в услугу

Мы формируем и ведём команду разметки: разрабатываем и уточняем инструкции вместе с вами, обучаем и аттестуем специалистов, организуем поток работ и проверок, ведём отчётность по качеству и срокам. Спорные и краевые случаи фиксируются и возвращаются в инструкцию, чтобы решения принимались одинаково всей командой, а не каждым разметчиком отдельно.

Где разметка данных чаще всего даёт сбой

  • Инструкция не покрывает краевые случаи

    Когда правила описаны только для очевидных примеров, разметчики принимают разные решения в спорных ситуациях, и качество выборки становится неравномерным.

  • Согласие между разметчиками не измеряется

    Без регулярного замера согласованности проблема обнаруживается уже после обучения модели, когда переразметка стоит дороже всего.

  • Скорость достигается за счёт качества

    Давление по срокам без встроенных проверок приводит к формальной разметке, которую невозможно использовать без повторной обработки.

  • Языковой и культурный контекст теряется

    Разметка многоязычных данных без носителей языка искажает смысл, особенно в задачах, связанных с тональностью, намерением и допустимостью содержания.

Типы разметки

Состав работ определяется вашей задачей, форматом данных и требованиями к качеству выборки.

  • Разметка текста

    Классификация, выделение сущностей, определение тональности и намерения, разметка диалогов.

  • Разметка изображений

    Классификация, ограничивающие рамки, сегментация и разметка ключевых точек.

  • Разметка видео

    Покадровая и интервальная разметка, отслеживание объектов, разметка действий и событий.

  • Разметка аудио и речи

    Транскрипция, разметка говорящих, интервалов речи и акустических событий.

  • Многоязычная разметка

    Работа с данными на русском, английском и языках региона силами специалистов с нужным языком.

  • Оценка ответов моделей

    Сравнение и оценка ответов по согласованным критериям качества, полезности и соответствия правилам.

  • Проверка и переразметка

    Выборочная и сплошная проверка существующих выборок, исправление ошибок и приведение к единым правилам.

  • Работа с краевыми случаями

    Отдельный поток для спорных примеров с разбором и внесением решений в инструкцию.

Модели сотрудничества

Модель подбирается под объём данных, требования к конфиденциальности и регулярность поставок.

  • Выделенная команда

    Разметчики работают только с вашими данными и инструкциями. Подходит при сложной предметной области и регулярных поставках.

  • Общие ресурсы

    Подходит при разовых объёмах или типовых задачах разметки.

  • Гибридная модель

    Выделенное ядро на сложные задачи и общие ресурсы на объёмные типовые партии.

  • Переходный период и пилот

    Небольшая партия с замером согласия между разметчиками до выхода на плановый объём.

От инструкции до регулярных поставок

Формат данных, правила разметки, критерии приёмки, штат и график поставок фиксируются до начала работ.

  1. Разбор задачи

    Изучаем данные, назначение выборки, требуемые классы и ограничения по обработке.

  2. Разработка инструкции

    Готовим письменные правила с примерами, включая описание краевых случаев.

  3. Пробная партия

    Размечаем небольшой объём и сверяем результат с вашими ожиданиями до масштабирования.

  4. Замер согласованности

    Оцениваем согласие между разметчиками и дорабатываем инструкцию по обнаруженным расхождениям.

  5. Обучение и аттестация

    Допускаем к рабочему объёму только специалистов, прошедших проверку на контрольной выборке.

  6. Выход на плановый объём

    Наращиваем поток с сохранением доли проверяемых записей.

  7. Приёмка партий

    Передаём партии по согласованному графику с отчётом по качеству.

  8. Обновление правил

    Вносим изменения в инструкцию при появлении новых типов данных или классов.

Что получает заказчик

Результат описывается через измеримые характеристики выборки.

  • Предсказуемое качество

    Согласованные критерии приёмки и измеряемое согласие между разметчиками.

  • Воспроизводимые решения

    Краевые случаи зафиксированы в инструкции, поэтому одинаковые примеры размечаются одинаково.

  • Управляемый объём

    Возможность менять темп поставок под этапы обучения модели.

  • Прослеживаемость

    Понятно, кто размечал партию, по какой версии инструкции и с каким результатом проверки.

Форматы данных

  • Текст и документы
  • Изображения
  • Видео
  • Аудио и речь
  • Диалоги и переписка
  • Ответы моделей

Отрасли

Мы работаем с командами, которым нужна подготовленная обучающая выборка под конкретную задачу модели.

  • Технологии и SaaS
  • Электронная коммерция и розница
  • Медиа и цифровые платформы
  • Логистика и цепочки поставок
  • Финансовые услуги
  • Здравоохранение и науки о жизни

Работа с рынками СНГ и Центральной Азии

Русскоязычная разметка выполняется специалистами, для которых язык является рабочим, что важно в задачах, связанных с тональностью, намерением и культурным контекстом. Языковой охват, требования к качеству и рабочая модель согласуются в рамках проекта. Мы не заявляем о наличии офисов в странах, где их нет.

Работа с данными

Порядок передачи, хранения и обработки данных согласуется до начала работ и фиксируется письменно.

  • Доступ к данным выдаётся по принципу минимально необходимых прав
  • Порядок обработки чувствительных данных согласуется отдельно
  • Действия разметчиков фиксируются в рабочей системе
  • Изменения в правилах разметки оформляются версиями инструкции

Частые вопросы

Кто пишет инструкцию по разметке?
Мы готовим инструкцию совместно с вами: вы определяете назначение выборки и требуемые классы, мы описываем правила, примеры и краевые случаи и уточняем их по итогам пробной партии.
Как измеряется качество разметки?
По согласованным критериям приёмки и по согласию между разметчиками на контрольных выборках. Показатели фиксируются до начала работ.
Можно ли начать с небольшой партии?
Да, и обычно это предпочтительный вариант. Пробная партия позволяет проверить инструкцию и замерить согласованность до выхода на плановый объём.
Работаете ли вы с многоязычными данными?
Да. Состав языков определяется задачей; для региона это обычно русский и английский, другие языки подключаются при подтверждённом объёме и возможности укомплектовать команду.
В каких инструментах ведётся разметка?
Мы работаем в вашей платформе разметки по выданным доступам. Если платформа не определена, состав инструментов согласуется на этапе разбора задачи.
Что происходит со спорными примерами?
Они выделяются в отдельный поток, разбираются и после согласования с вами вносятся в инструкцию, чтобы дальше размечаться одинаково.
Как обеспечивается конфиденциальность данных?
Порядок передачи, хранения и обработки согласуется до начала работ. Доступ выдаётся по минимально необходимым правам, а действия фиксируются в рабочей системе.
Можно ли перепроверить уже размеченные данные?
Да. Мы проводим выборочную или сплошную проверку существующих выборок, исправляем ошибки и приводим разметку к единым правилам.
Как быстро можно нарастить объём?
Скорость расширения ограничена обучением и аттестацией новых разметчиков. График наращивания фиксируется по итогам пробной партии.
Оцениваете ли вы ответы языковых моделей?
Да, по согласованным критериям качества, полезности и соответствия правилам. Критерии оценки фиксируются письменно до начала работ.

Обсудить задачу по разметке данных

Расскажите о формате данных, назначении выборки, требуемых классах и ожидаемых объёмах. Мы вернёмся с оценкой и предложением по организации работ.

Отправить заявку