Интерактив с камерой
Зритель управляет картинкой: выбор камеры, свет в зоне, трекинг, отладка и что делать, когда людей много.
Интерактив ломается не в коде, а в физике: свет, расположение камеры и поведение людей решают больше, чем алгоритм.
Порядок сборки
- Определите зону. Где стоит человек, откуда смотрит, что видит.
- Поставьте камеру так, чтобы зона была видна целиком и без бликов.
- Обеспечьте свет в зоне — ровный, постоянный, независимый от шоу.
- Выберите способ трекинга — таблица ниже.
- Сгладьте данные — Сглаживание.
- Свяжите с картинкой — и только теперь занимайтесь красотой.
Чем следить
| Способ | Что даёт | Требования |
|---|---|---|
Разница кадров + Analyze TOP |
Есть движение / нет | Никаких. Работает всегда |
| Порог по яркости, центр масс | Положение пятна | Контрастный фон |
| MediaPipe | Скелет, руки, лицо | Ничего ставить не нужно, Mac и PC |
| Body Track CHOP | 34 точки, до 8 человек | Windows + RTX |
| Камера глубины | Дистанция, силуэт | Отдельное железо |
| Карта глубины из модели | Дистанция с обычной камеры | Мощная карта |
Начинайте с простого. Разница кадров решает больше задач, чем кажется, и не падает.
Свет — половина успеха
Контровой свет, дым, стробоскоп и меняющаяся яркость ломают любой трекинг. Зона взаимодействия должна быть освещена независимо от шоу. Стандартное решение — инфракрасная подсветка и камера с ИК-фильтром: для зрителя темно, для камеры светло, шоу трекингу не мешает.
Задержка
Складывается: камера + захват + обработка + рендер + вывод + экран. Ориентиры:
- до 100 мс — связь ощущается прямой;
- 100–200 мс — заметно, но работает;
- больше 200 мс — человек перестаёт понимать, что влияет он.
Уменьшать надо в первую очередь захват (плата вместо USB) и обработку (меньшее разрешение для трекинга) — Камеры.
Когда людей много
Инсталляция рассчитана на одного, а приходят пятеро. Заранее решите:
- берём ближайшего — стабильно и понятно;
- усредняем — плавно, но никто не чувствует влияния;
- каждому своё — красиво и требует устойчивой идентификации, которой трекинг не гарантирует;
- общая масса — количество и суммарное движение как параметры. Часто лучший вариант для толпы.
Обратная связь зрителю
Человек должен понять за три секунды, что он влияет. Что помогает:
- мгновенная реакция на движение, пусть небольшая;
- заметный отклик именно на его действие, а не на общее состояние;
- «приглашение»: заметная реакция, когда человек только вошёл в зону.
Отладка
Держите служебный вид: картинка с камеры, поверх — то, что видит алгоритм (точки, маска, пороги), рядом — числа. Без этого отладка на площадке превращается в гадание.
Разработчик знает, куда встать и как двигаться. Зритель — нет. Позовите трёх человек, которые не видели проект, и посмотрите, что они делают. Обычно они делают не то.