Программа курса «Технические основы современного интерактивного искусства»
Преподаватели: Олег Макаров
Курс может быть разделен на две самостоятельные части (по семестрам) при условии, что учащиеся, посещающие вторую часть, имеют общее представление о программировании или готовы заниматься самостоятельно после консультации на первом занятии.
Создание собственных проектов к концу 1-го семестра приветствуется, но не обязательно. Создание своей работы, содержащей самостоятельно выполненную программную и аппаратную часть, обязательно к концу 2-го семестра.
В начале каждого занятия, кроме первых занятий каждого семестра, выполняется небольшая (20-30 минут) практическая работа на материале предыдущего. Результаты работ могут использоваться при создании собственных проектов.
1-й семестр
- Вводное занятие. Цели и задачи курса. Показ примеров работ, выполненных с помощью технологий, изучаемых на курсе. Общая информация о технологиях (типы языков программирования, доступные аппаратные средства и т.п.).
- Введение в визуальное программирование. Начало изучения визуального программирования на примере Cycling74 Max. Общие принципы построения патчей. Понятие объекта и сообщения.
- Типы объектов. Работа с медленными (управляющими) сигналами. Принцип «справа налево». Ввод данных в патч с клавиатуры и мыши.
- Построение простого патча, производящего математические действия. Построение интерфейса в патче. Режим презентации.
- Работа с файловой системой. Загрузка и сохранение файлов. Сохранение настроек в патче. Система пресетов.
- Работа со звуком. Особености обработки быстрых сигналов в Max. Захват звука с микрофона и вывод на динамики. Анализ параметров звука в реальном времени. Запись звука и воспроизведение звука в оперативной памяти и на диске.
- Работа с видео. Особенности обработки видеопотока Jitter. Захват видео с микрофона и вывод на динамики. Анализ параметров звука в реальном времени. Запись звука и воспроизведение звука в оперативной памяти и на диске.
- Анализ параметров аудио для создания сигналов, управляющих обработкой видеопотока. Основные способы обработки видео в реальном времени. Способы преобразования звука в видео.
- Анализ параметров видео для создания сигналов, управляющих обработкой звука. Основные способы обработки аудио в реальном времени. Способы преобразования видео в звук.
- Распознавание цвета, изменение цветовой палитры в картинке, хромакей.
- Распознавание простых символов в черно-белом изображении.
- Базовая 3D-анимация в Max. Принципы работы jit.world. Применение числовых параметров (контроллеров, анализа звука и т.п.) к анимации в реальном времени.
- Загрузка 3D-моделей и их анимирование.
- Физическое моделированиие в анимации в реальном времени.
- Передача управляющих сигналов по локальной сети. Создание интерактивной системы из нескольких компьютеров и мобильных устройств.
2-й семестр
- Основы электроники и принципы построения электронных схем. Основные электронные компоненты. Создание простых схем и соединение модулей на макетной плате без пайки. Простейший элемент управления (кнопка) и индикации (светодиод).
- Ключевой элемент - транзисторы, реле. Коммутация мощных цепей слабыми токами.
- Мультивибратор, простейшие осцилляторы, положительная обратная связь.
- Arduino-совместимые платы на основе микроконтроллеров. Среда разработки с. Создание простейшей микропрограммы и загрузка в плату. Подключение внешних элементов к плате при помощи макетной платы.
- Arduino как плата ввода-вывода. Передача данных о состоянии выводов Arduino в компьютер и управление состоянием выводов Arduino из компьютера через USB COM порт. Протокол fermata и его применение на примере связи Arduino и Cycling74 Max.
- Виды датчиков, их применение и подключение к Arduino.
- Передача данных между устройствами, управляемыми микроконтроллером на примере Arduino, способы и протоколы соединения плат и готовых устройств.
- Работа с классическим MIDI и USB миди с Arduino, применение протокола MIDI в художественных работах.
- Управление различными нагрузками - сервоприводы, электродвигатели, светодиоды.
- Микроконтроллеры со встроенной беспроводной связью (ESP, Wemos).
- Обсуждение идей для семестрового проекта. Общие принципы построения программно-аппаратного комплекса на примерах идей, предложенных студентами. С этого занятия и до конца семестра на каждом занятии часть времени уделяется обсуждению работы кого-либо из студентов и способов ее технической реализации. В обсуждениях принимает участие вся группа.
- Особенности электропитания стационарных и переносных работ на основе Arduino. Альтернативные источники питания и их применение. Способы стабилизации питающего напряжения. Повышение надежности создаваемых работ.
- Подключение сложных модулей (многокнопочные клавиатуры, дисплеи, светодиодные ленты и т.п.). Протоколы для подключения низкоскоростных периферийных компонентов.
- Углубленное изучение особенностей функционирования и применения датчиков и модулей, выбранных студентами для использования в своих работах.
- Обсуждение прототипов работ, уточнение конструкций, финальная консультация.