MIDImage

プロジェクションマッピング動画に使ったアプリの簡易版を公開してみる予定です。まずテスト版を公開したので、興味がある方は遊んでみてください。数台の Windows7 PC 以外未確認です。

→MIDImage

自分ではプロジェクションマッピングに使いましたが、演奏に同期して映像が出る部分が面白かったので、大画面の PC や TV に出すとか動画に保存して合成する等々、プロジェクションマッピング以外の遊び方もできないかなと思っています。
アプリで動画保存はできませんが、できそうだったら今後やりたいです。

なお、これの前身として SoundMage という残念なソフトがありましたが、アプリの UI 作成があまりに手間だったのを教訓として、今回は UI を徹底的に排除して不親切な設計になっています。
(SoundMage は開発環境を潔く PC ごと廃棄してしまったため、今後アップデート予定はありません)


感想・リクエスト・苦情にはお応えできるかわかりませんが、メールや Twitter でどうぞ…

ピアノにプロジェクションマッピング - 反響

ラピュタと Let It Go あわせて、フジテレビのめざましどようび番組内で紹介していただきました。
事前の問い合わせに、使われないだろうと思いつつ細かく回答したのですが、長尺で恥ずかしいくらいしっかり紹介していただいて驚きました。ありがたく記念撮影。

放映前後の再生数をウォッチしてみました。ほぼ消えかけていたアクセスが一気に伸びています。数千くらいの伸びだったので、ネットの有名サイトの方が爆発力は大きいかもしれませんが、放送時間中の瞬間最大風速はなかなかです。曲の流行のためか、Let It Go の方が伸びていました。

その他、投稿直後に取り上げていただけたサイト

• ねとらぼ

今回は以下のようなサイトに取り上げられて海外からのアクセスも多少増えてきています。

• rocketnews
• gadgetify

ニコニコはコメントが面白いですがユーザ層に偏りがあるため、こうやって Youtube 側が伸びて海外含めた広い層からフィードバックをいただけるのは嬉しいです。

公開から一週間で反響が嬉しかったので振り返りでした。

ピアノにプロジェクションマッピング - ラピュタ (2)

今回は技術の話を少し。DirectX の 3D グラフィックスはおおまかに言うと

(1) 空間上の座標を決めてテクスチャをペタペタ配置する
(2) 視点の座標を決める
(3) (2) の視点と (1) の間にスクリーンを置いて、そのスクリーンを通して見える映像を出力

という形になります。
普通は (2) の視点を (3) のスクリーンと垂直の位置(スクリーンを正面から見る位置)にして映像を描かせると思いますが、この動画ではそれをずらしています。

実環境でピアノ上に表示される映像サイズと撮影カメラの位置から座標を計算すれば、あとは DirectX が描いてくれます。
視点の位置は簡単に調整できるようにしてあり、動画に使った設定と真正面の設定で出力を比較するとこうなります。

上の画像は視点を左下に設定しているので、左下方向から眺めるとちょうど良く見えます。

もう一つ。後半の二重奏部分も新しいチャレンジで、3D 空間上に動画ファイルの変速再生を追加しました。速度を調整しながら動画ファイルから1フレームずつ取り出し、表示位置を決めて貼り付けています。PC のパフォーマンス的にできるかどうかわからないけれど、試してみたらなんとかなったという感じです。

今回は作っていて技術的にわりと楽しかったので勢いで色々書いてしまいましたが、意味不明だったかも…

ピアノにプロジェクションマッピング - ラピュタ

【Youtube】ピアノにプロジェクションマッピング --- ラピュタ・アレンジ

【ニコニコ動画】ピアノにプロジェクションマッピング --- ラピュタ・アレンジ

ピアノのプロジェクションマッピングシステムが思ったより楽しくて、動画製作とは関係なく遊びで使ったりするようになりました。
そうやってリアルで演奏したり見たりするのが楽しいのですが、今回は逆に動画ならではの特性を活かしたものになりました。

実は動画の製作途中で方針転換して丸々作り直したので、かなり遠回りしています。
初期版をテスト撮影したものはこんな感じです。

空を飛んでいるイメージで、ノーマルアレンジのラピュタを演奏していました。
それなりに気に入っていましたが、板状の物を回転させる処理を試していたら、わりとリアルな 3D 表現ができることに気づき、一気に興味がそちらに傾いて作り直すことにしました。
一応ノーマルアレンジの演奏は後半の解説で再利用しています。

ソフトは前回と同様で、Windows7 + Visual C++ + DirectX + 標準 MIDI lib です。3D の技術としては DirectX のテクスチャ非線形変換・レンダリングだけ使用しています。3D グラフィックスの領域では基礎だけですが、凝りだすと悩んで進まなくなりそうなので割り切りました。初期テストの画像がこちら。実に雑です。

例によって画力不足なので、最初の石版や中盤背景のロゼッタストーン、最後の羽根などは実写画像を取り込んで加工しました。最初の石版は昔カンボジアの遺跡で撮影したもので、お気に入りです。

一番悩んだのはソフト設計でもピアノ演奏でもなく全体のデザインで、空間上の物体のアニメーションとか色とかの微調整で試行錯誤しました。でも新しい試みで楽しかったです。鍵盤が透けて下が見えている感じは伝わるでしょうか。自分の 3D オブジェクトデザインの限界が正八面体程度だったので、全編にわたって飛行石をフル活用…

楽しんでいただければ嬉しいです。

(多分つづく)