Процесс обеспечения качества
Каждая аннотация проходит через 3-уровневый пайплайн контроля качества, прежде чем попасть в ваш экспорт.Уровень 1: Автоматические проверки
Прежде чем рецензент-человек увидит результат, автоматическая валидация отлавливает структурные ошибки.| Проверка | Что обнаруживает |
|---|---|
| Валидация схемы | Отсутствующие обязательные атрибуты, недопустимые значения меток, координаты вне диапазона |
| Геометрическая валидация | Ограничивающие рамки с нулевой площадью, самопересекающиеся полигоны, кубоиды за пределами облака точек |
| Проверки согласованности | Дублирование ID объектов, разорванные связи трекинга между кадрами, несоответствия меток/атрибутов |
| Проверки покрытия | Неразмеченные области, которые должны иметь метки согласно онтологии проекта |
Уровень 2: Рецензирование человеком
Выделенный рецензент — старший аннотатор с глубоким знанием вашей онтологии — проверяет каждый результат на точность, полноту и соответствие вашим руководствам по разметке. Рецензенты проверяют:- Правильность классификации объектов и значений атрибутов
- Точное прилегание ограничивающих рамок / полигонов / кубоидов
- Согласованность трекинга объектов между кадрами
- Обработку граничных случаев согласно инструкциям проекта
Уровень 3: Экспертный аудит
Случайная выборка проверенных результатов передаётся экспертам предметной области для финального аудита. Этот уровень калибрует точность рецензентов и выявляет систематические проблемы до того, как они повлияют на ваши обучающие данные. Результаты аудита передаются обратно в обучение аннотаторов и уточнение руководств, создавая цикл непрерывного улучшения.Цели точности
| Метрика | Цель |
|---|---|
| Выход с первого раза | > 99% аннотаций принято без доработки |
| Точность классификации | > 99% правильного присвоения меток |
| Точность локализации | IoU ограничивающих рамок > 0,90 относительно эталона |
| Согласованность трекинга | > 99% правильного сохранения ID объектов между кадрами |
| Точность атрибутов | > 99% правильных значений атрибутов (перекрытие, обрезка и т.д.) |
Цели точности применяются к управляемому сервису разметки Avala. Точность самостоятельной аннотации зависит от ваших аннотаторов и конфигурации QA.
Сроки выполнения
Сроки зависят от сложности аннотации и объёма. В таблице ниже приведены типичные сроки для распространённых типов аннотации при использовании управляемого сервиса разметки Avala.| Тип аннотации | Типичные сроки | Примечания |
|---|---|---|
| 2D ограничивающие рамки (изображения) | 1-3 рабочих дня | Стандартное обнаружение объектов |
| 2D полигоны (изображения) | 2-5 рабочих дней | Сегментация экземпляров |
| Семантическая сегментация (изображения) | 3-7 рабочих дней | Попиксельная классификация |
| 3D-кубоиды (LiDAR) | 3-7 рабочих дней | Аннотация облаков точек с видами BEV + перспектива |
| Мультисенсорные 3D (LiDAR + камера) | 5-10 рабочих дней | Синхронная аннотация сенсоров |
| Видео-трекинг объектов | 3-7 рабочих дней | На последовательность, зависит от количества кадров и плотности объектов |
| Аннотация ключевых точек | 2-5 рабочих дней | Оценка позы и разметка ориентиров |
Качество рабочей силы
Специализация в предметной области
Аннотаторы Avala — это профессионалы своего дела, а не гиг-работники. Каждый аннотатор специализируется в конкретной области (автономное вождение, робототехника, медицинская визуализация) в течение 12 месяцев и более.| Характеристика | Детали |
|---|---|
| Период специализации | 12+ месяцев на одном клиентском домене |
| Обучение | Онбординг по конкретному проекту с вашей онтологией, библиотекой граничных случаев и руководствами по разметке |
| Коэффициент удержания | > 90% годового удержания — аннотаторы накапливают глубокие институциональные знания |
| Размер команды | 15 000+ аннотаторов по всем доменам |
Почему удержание важно
Высокий коэффициент удержания аннотаторов напрямую влияет на качество данных:- Институциональные знания — Аннотаторы со временем изучают ваши граничные случаи, соглашения об именовании и специфику предметной области. Новому аннотатору нужны недели, чтобы достичь того же уровня.
- Меньше циклов доработки — Опытные аннотаторы допускают меньше ошибок с первого раза, снижая накладные расходы на рецензирование и сроки выполнения.
- Эволюция онтологии — При обновлении таксономии меток опытные аннотаторы адаптируются быстрее, потому что понимают логику изменений.
Метрики качества через API
Метрики качества ваших проектов доступны программно через API и SDK.Метрики на уровне проекта
Данные качества на уровне задачи
Экспорт с метаданными качества
При создании экспорта каждый результат аннотации включает статус QA-рецензии, что позволяет фильтровать по уровню качества в вашем пайплайне обучения.Настройка контроля качества
Для самостоятельной аннотации Avala предоставляет настраиваемые рабочие процессы QA.| Функция | Описание |
|---|---|
| Многоэтапное рецензирование | Маршрутизация аннотаций через один или несколько этапов рецензирования перед принятием |
| Рабочие процессы консенсуса | Требование согласия нескольких аннотаторов на одну и ту же метку |
| Критерии принятия | Установка минимальных порогов качества для принятия задачи |
| Отслеживание проблем | Отметка и отслеживание проблем аннотации с комментариями и статусом решения |
| Согласие между аннотаторами | Измерение согласованности между аннотаторами на одних и тех же данных |
Следующие шаги
Руководство по контролю качества
Настройте многоэтапное рецензирование, консенсус и рабочие процессы принятия для ваших проектов.
Прослеживаемость
Отследите любую аннотацию до исходных данных, аннотатора и QA-рецензии.
Почему Avala
Узнайте, чем Avala отличается от Scale AI, Labelbox и Label Studio.
Связаться с отделом продаж
Обсудите управляемую разметку, пользовательские SLA и корпоративное развёртывание.