ピアノにプロジェクションマッピング - ラピュタ

【Youtube】ピアノにプロジェクションマッピング --- ラピュタ・アレンジ

【ニコニコ動画】ピアノにプロジェクションマッピング --- ラピュタ・アレンジ

ピアノのプロジェクションマッピングシステムはリアルで演奏したり見たりするのが楽しいのですが、今回は逆に動画ならではの特性を活かしたものを作りました。

実は動画の製作途中で方針転換して丸々作り直したので、かなり遠回りしています。
初期版をテスト撮影したものはこんな感じです。

空を飛んでいるイメージで、ノーマルアレンジのラピュタを演奏していました。
これも気に入っていましたが、板状の物を回転させる処理を試していたら、わりとリアルな 3D 表現ができることに気づき、興味がそちらに傾いて作り直すことにしました。
一応ノーマルアレンジの演奏は後半の解説で再利用しています。

ソフトは前回と同様で、Windows7 + Visual C++ + DirectX + 標準 MIDI lib です。3D の技術としては DirectX のテクスチャ非線形変換・レンダリングだけ使用しています。3D グラフィックスの領域では基礎だけですが、凝りだすと悩んで進まなくなりそうなので割り切りました。初期テストの画像がこちら。雑です。

例によって画力不足なので、最初の石版や中盤背景のロゼッタストーン、最後の羽根などは実写画像を取り込んで加工しました。最初の石版は昔カンボジアの遺跡で撮影したもので、お気に入りです。

一番悩んだのはソフト設計でもピアノ演奏でもなく全体のデザインで、空間上の物体のアニメーションとか色とかの微調整で試行錯誤しました。鍵盤が透けて下が見えている感じは伝わるでしょうか。自分の 3D オブジェクトデザインの限界が正八面体程度だったので、全編にわたって飛行石をフル活用…

(多分つづく)

演奏者たち

ピアノ奏者の知人たちを招いて遊びました。
ピアノ連動プロジェクションの実物を触ってもらい、動画とは違う演奏者自身の楽しさを感じてもらえて好評価。自分にはできないハイレベルな演奏でソフトが破綻しないか心配でしたが、見たことのない映像が見られて痛快でした。

多くの演奏者に実物を体験してほしいと以前から思っていたものの、環境構築が面倒でなかなか実現しなかったので、今日は良い機会でした。

完成間近だった次の動画の試作も見てもらい、新技術ネタで驚きは与えられた模様。
あいかわらず製作にかなり手間取っていますが、近々公開します。

展示会

先日、展示会 BLUE LINE TOKYO というイベントで発表させてもらいました。

リアルで発表するのは初めてのことで大変でしたが、お客さんや他の出展者の方にも楽しんでいただけたようで嬉しかったです。曲のレパートリーが少なくてほとんどリピート演奏でしたが、ここぞとばかりに弾き続け、ピアノで筋肉痛になる始末。

本格的に CG をやっている方も出展されていたので映像を比べるとチープさが際立ちましたが、ポイントはシステムなので、来場者の方はあまり気にならなかった様子でした。
中でも子供からの人気がすごく、バシバシ鍵盤を叩いて遊んでいました。(何か違うけれど、そういう方向もありか…)

せっかく作ったので発表資料を。

 

途中のサンプル動画はこれまで Youtube に上げてあったものからの抜粋ですが、今回用に一つ追加アップしました。→ デモ: FF Prelude

ということで、初めてネットの外に飛び出した活動になりました。こういう形で見てもらえたのは嬉しかったです。
ネットの数万人とリアルの数百人では数は違いますが、リアルでしか得られないものは大きかったと思います。

ピアノにプロジェクションマッピング改

【Youtube】Let It Go ピアノにプロジェクションマッピング

【ニコニコ動画】ピアノにプロジェクションマッピング --- Let It Go

以前 MIDI を使った CG 合成動画を作りましたが、あれは撮影後に時間をかけて画像処理したものでした。
本当は演奏中にリアルタイムで映像を作りたかったのですが、リアルタイムで派手な映像を作るのは、家の PC 程度ではパフォーマンス的に無理だと思っていました。
…そういう思い込みは技術屋として駄目だと反省。

あるとき Direct X を試してみたら、想像以上の描画パフォーマンスで驚きました。
PC への MIDI 入力遅延や、プロジェクタの映像出力遅延など、他にもいくつか懸念材料がありましたが、一通り接続した仮システムでほとんど遅延がなかったので、これは行けると思って動画を作ることにしました。

2ヶ月ほど前、会社内で小さな技術発表をする機会があったので、ちょうど実験中だったこのネタを紹介してみました。そのときのデモ映像がこちら。

わりと反応は良かったので自信向上。これはプロトタイプの映像なのでしょぼいものですが、これが実現できるならば面白いものも作れそうだと思いました。

絵を描く技術がないので、無機的な素材のつなぎあわせでアニメーションを派手にしました。ピアノやソフトは自力でがんばりたいですが、CG は得意な方に委託したくなってきました。
プロジェクタや撮影を通すと劣化しますが、元はこのくらいくっきりしています。この映像では黒鍵の形の処理をしていませんが、黒鍵には映像が映らないので大丈夫です。

今までの動画では、元々興味があって聴いたり弾いたりしたことのある曲を使っていましたが、今回の Let It Go はこの動画のために新しく弾き始めたものです。人気のある曲だし、手から雪が出る映像など映画のイメージと近いものにしたら面白いかと思って選びました。

製作のほか、プロジェクタや撮影の微調整もかなり面倒で学びが多かったです。

ピアノにプロジェクションマッピング

【ニコニコ動画】ピアノにプロジェクションマッピング --- 紅蓮の弓矢

 およそ一年ぶりの動画製作になりました。
プロジェクタで音楽に同期した演出を重ねるのは、実は4年前に考えていたことでしたが、当時は面白いアイディアがなく、結局プロジェクタでなく撮影後の動画に CG を合成する方向に向かいました。

そんな CG 動画にも飽きてきて制作もしていなかったのですが、最近プロジェクションマッピング演出を色々見ていて、やはり音楽と組み合わせるのは面白そうだと思い作ってみました。4年前より CG 動画作りに慣れていて構想しやすかったのが大きいと思います。

まず天井の照明を外し、そのコネクタからプロジェクタ用の台を吊るして固定しました。下向きに固定するのは面倒そうなので、鏡の部品を作って反射させます。

サイズ合わせのため、格子状の画像を作って照射し、写真撮影しました。

曲は最近練習していた紅蓮の弓矢にしました。派手な人気曲なのでちょうど良かったです。
ピアノ演奏を録音し、そのタイミングに合わせた動画を作成します。鏡に映すため反転します。
作った動画はこのように安っぽい味気ないものですが、これを物体に照射するとそれなりの見栄えになるのがプロジェクションマッピングの面白さでしょうか。

この動画を照射し、音を聴きながらそれに合わせて再度演奏して撮影します。予想はしていましたが、ギラギラして弾きにくいこと…

色々心残りもありますが、わりと面白いものになりました。今回は工作に苦労したので、できればもう少し改善して何か作りたいと思っています。

Twitter bot: dekamoji

GAE と Twitter API の実験がてら bot を作ってみました。

https://twitter.com/dekamoji

@dekamoji 龍

このように何か文字をメンションで送ると、こんな返事が返ってきます。

@faithroom
　　龍　　　龍
龍龍龍龍龍　龍龍龍龍龍
　龍　龍　　龍
龍龍龍龍龍　龍龍龍龍
　　　　　　　　　龍
　龍龍龍龍　龍龍龍龍
　龍　　龍　龍
　龍龍龍龍　龍龍龍龍
　龍　　龍　龍
　龍龍龍龍　龍　　　龍
　龍　　龍　龍龍龍龍龍

特に使い道もないですが、うざいツイートを作成したいときにどうぞ。

GAE で一定時間毎にサービスを起動して、自分宛メンションをチェックし、フォントのデータベースからパターンを引いて文字を並べて返信しています。
慣れている java で作ったので一日でできるだろうと思っていましたが、文字のデータベース作りやフォントの問題とか Twitter の制限とかで無駄にはまりました。

最近になって Twitter で改行がサポートされたので、こういう AA も作れるようになりました
bot としては自発的に何か呟かないとフォロワーもつかないので、もう一歩工夫したいところです。

木時計



近頃ソフトも音楽もあまり触っておらず、部屋の模様替えついでに手作り時計など。
切ってボンドでベタベタ貼っただけです。