К содержанию
fohbook/ TouchDesigner
профи

Интерактив с камерой

Зритель управляет картинкой: выбор камеры, свет в зоне, трекинг, отладка и что делать, когда людей много.

Интерактив ломается не в коде, а в физике: свет, расположение камеры и поведение людей решают больше, чем алгоритм.

Порядок сборки

  1. Определите зону. Где стоит человек, откуда смотрит, что видит.
  2. Поставьте камеру так, чтобы зона была видна целиком и без бликов.
  3. Обеспечьте свет в зоне — ровный, постоянный, независимый от шоу.
  4. Выберите способ трекинга — таблица ниже.
  5. Сгладьте данныеСглаживание.
  6. Свяжите с картинкой — и только теперь занимайтесь красотой.

Чем следить

Способ Что даёт Требования
Разница кадров + Analyze TOP Есть движение / нет Никаких. Работает всегда
Порог по яркости, центр масс Положение пятна Контрастный фон
MediaPipe Скелет, руки, лицо Ничего ставить не нужно, Mac и PC
Body Track CHOP 34 точки, до 8 человек Windows + RTX
Камера глубины Дистанция, силуэт Отдельное железо
Карта глубины из модели Дистанция с обычной камеры Мощная карта

Начинайте с простого. Разница кадров решает больше задач, чем кажется, и не падает.

Свет — половина успеха

Свет шоу и свет для трекинга — разные вещи

Контровой свет, дым, стробоскоп и меняющаяся яркость ломают любой трекинг. Зона взаимодействия должна быть освещена независимо от шоу. Стандартное решение — инфракрасная подсветка и камера с ИК-фильтром: для зрителя темно, для камеры светло, шоу трекингу не мешает.

Задержка

Складывается: камера + захват + обработка + рендер + вывод + экран. Ориентиры:

  • до 100 мс — связь ощущается прямой;
  • 100–200 мс — заметно, но работает;
  • больше 200 мс — человек перестаёт понимать, что влияет он.

Уменьшать надо в первую очередь захват (плата вместо USB) и обработку (меньшее разрешение для трекинга) — Камеры.

Когда людей много

Инсталляция рассчитана на одного, а приходят пятеро. Заранее решите:

  • берём ближайшего — стабильно и понятно;
  • усредняем — плавно, но никто не чувствует влияния;
  • каждому своё — красиво и требует устойчивой идентификации, которой трекинг не гарантирует;
  • общая масса — количество и суммарное движение как параметры. Часто лучший вариант для толпы.

Обратная связь зрителю

Человек должен понять за три секунды, что он влияет. Что помогает:

  • мгновенная реакция на движение, пусть небольшая;
  • заметный отклик именно на его действие, а не на общее состояние;
  • «приглашение»: заметная реакция, когда человек только вошёл в зону.

Отладка

Держите служебный вид: картинка с камеры, поверх — то, что видит алгоритм (точки, маска, пороги), рядом — числа. Без этого отладка на площадке превращается в гадание.

Проверяйте на посторонних людях

Разработчик знает, куда встать и как двигаться. Зритель — нет. Позовите трёх человек, которые не видели проект, и посмотрите, что они делают. Обычно они делают не то.

рядом по смыслу