Интерактив с камерой
Зритель машет рукой — картинка отвечает. Зона, камера, свет, от разницы кадров до скелета и лидара, задержка, толпа и служебный вид, без которого не отладиться.
Интерактив чаще ломается на физике: свет, место камеры и люди значат больше алгоритма. Порядок такой: зона (где стоит человек и что видит); камера, которой зона видна целиком и без бликов; свой ровный свет, не зависящий от шоу; способ трекинга; сглаживание (Сглаживание и честная реактивность); связь с картинкой. Красота потом.
| Способ | Что даёт | Требования |
|---|---|---|
| Разница кадров, Analyze TOP | Есть ли движение и сколько | Никаких |
| Optical Flow TOP | Куда и как быстро движется каждый участок | Windows, NVIDIA 3000+ |
| Blob Track TOP | Пятна с номерами | Контрастный фон или ИК |
| MediaPipe | Скелет, руки, лицо | Windows или macOS, без установки |
| Body Track CHOP | 34 точки, до восьми человек | Windows, NVIDIA RTX |
| Камера глубины, лидар | Расстояние, силуэт, скелет | Своё железо |
| Глубина из модели | Относительное расстояние | Сильная видеокарта |
Начинают с простого: разница кадров умеет больше, чем кажется, и не падает.
Контровой, дым, строб и прыгающая яркость ломают любой трекинг, зону светят отдельно. Частый выход — ИК-подсветка и камера с ИК-фильтром: зрителю темно, камере светло. Только MediaPipe и похожие модели обучали на цветной картинке, с ИК их проверяют отдельно.
Задержка складывается из камеры, захвата, обработки, рендера, вывода, экрана. До 100 мс связь кажется прямой, до 200 заметно, но работает, дальше человек перестаёт понимать, что влияет он. Режут прежде всего захват (плата вместо USB) и обработку (меньшее разрешение для трекинга), Камеры и платы захвата.
Проект рассчитан на одного, а пришли пятеро. Можно следить за ближайшим: стабильно и понятно. За средним: плавно, но никто не узнаёт в отклике себя. Каждому свой отклик: красиво, но нужна идентификация, которой трекинг не обещает. Общая масса, то есть число людей и суммарное движение, для толпы часто лучше всего.
За три секунды человек должен понять, что это он: мгновенный, пусть маленький отклик, ответ именно на его жест, приглашение, когда он только вошёл в зону.
Служебный вид обязателен: камера, поверх то, что видит алгоритм (точки, маска, пороги), рядом числа. Без него отладка на площадке превращается в гадание.
Разработчик знает, куда встать. Трое, не видевшие проект, покажут, что делает зритель, — обычно не то, что вы ждали.
Нашли в статье ошибку, устаревшее или непонятное место?