08:42
TEDxUSC

Paul Debevec: Animating a photo-real digital face

ポール・デベヴェック 「メイキング・オブ・デジタルエミリー」

Filmed:

TEDxUSCでコンピュータグラフィックスの第一人者であるポール・デベヴェックが、デジタルエミリーの背後にある観客の目を奪うような技術について解説します。何度の撮り直しにも応えられるコンピュータで作り出されたリアルな人の顔をご覧ください。

- Computer graphics pioneer
Paul Debevec's digital inventions have powered the breathtaking visual effects in films like The Matrix, Superman Returns, King Kong and The Curious Case of Benjamin Button. Full bio

One of the biggest challenges in computer graphics
コンピュータグラフィックスにおける最大の難問の1 つは
00:18
has been being able to create a photo-real,
本物のように見える人の顔を
00:21
digital human face.
デジタル合成することでした
00:23
And one of the reasons it is so difficult is that, unlike aliens and dinosaurs,
これが難しい理由は エイリアンや恐竜とは違って
00:25
we look at human faces every day.
私達が人の顔を毎日見ているからです
00:28
They are very important to how we communicate with each other.
私達がコミュニケーションを取る上で
00:31
As a result, we're tuned in to the subtlest things
顔は重要な役割を果たしているので レンダリングされた顔が
00:33
that could possibly be wrong with a computer rendering,
微細な部分まで再現していないと
00:36
in order to believe whether these things are realistic.
本物らしく見えないのです
00:38
And what I'm going to do in the next five minutes
これからの5 分間で
00:41
is take you through a process
写実的な顔を合成しようと
00:43
where we tried to create a reasonably photo-realistic computer-generated face,
私達が試みたプロセスを 辿っていこうと思います
00:45
using some computer graphics technology we've developed,
これには私達がImage Metrics 社と開発した
00:48
and also some collaborators at a company called Image Metrics.
CG の技術を使っています
00:51
And we're going to try to do a photo-real face
対象としたのは ここに出ている
00:53
of an actress named Emily O'Brien, who is right there.
エミリー オブライエンという女優の顔です
00:55
And that's actually a completely computer-generated rendering of her face.
これは実際にレンダリングで生成された彼女の顔です
00:58
By the end of the talk, we're going to see it move.
動いているところを後でお見せします
01:01
The way that we did this is we tried to start with Emily herself,
出発点となるのはエミリー本人です
01:03
who was gracious enough to come to our laboratory
彼女はマリーナデルレイにある私達のラボまで来て
01:06
in Marina Del Rey, and sit for a session in Light Stage 5.
このLight Stage 5 での撮影を快く引き受けてくれました
01:09
This is a face-scanning sphere, with 156 white LEDs all around
この球面は顔をスキャンする装置で 156 個のLED が取り付けられており
01:12
that allow us to photograph her
照明の状況を自由にコントロールしながら
01:16
in a series of very controlled illumination conditions.
撮影ができるようになっています
01:18
And the lighting that we use these days looks something like this.
私達が最近使う照明の種類はこのようなものです
01:21
We shoot all of these photographs in about three seconds.
この全部を3 秒ほどで撮れます
01:24
And we basically capture enough information
これで基本的に十分な情報を得られます
01:26
with video projector patterns that drape over the contours of her face,
彼女の顔の等高線を描き出すビデオプロジェクタのパターンと
01:29
and different principle directions of light from the light stage,
Light Stage による様々な方向からの光で
01:33
to figure out both the coarse-scale
彼女の顔を粗いスケールと
01:35
and the fine-scale detail of her face.
微細なスケールで把握します
01:37
If we zoom in on this photograph right here,
この写真を拡大してみましょう
01:39
we can see it's a really nice photograph to have of her,
彼女を捉えたとても良い写真です
01:41
because she is lit from absolutely everywhere at the same time
あらゆる方向から同時に照らされていて
01:43
to get a nice image of her facial texture.
顔のテクスチャがよく現れています
01:47
And in addition, we've actually used polarizers on all the lights --
私達はすべての照明に偏向フィルタを付けています
01:49
just like polarized sunglasses can block
偏向サングラスが
01:52
the glare off of the road,
路面のぎらつきを押えるように
01:54
polarizers can block the shine off of the skin,
偏光フィルタは肌のてかりを押えます
01:56
so we don't get all those specular reflections to take this map.
これにより正反射なしにテクスチャマップが得られます
01:58
Now, if we turn the polarizers around just a little bit,
偏光フィルタを少し回すと
02:01
we can actually bring that specular reflection
肌の正反射が
02:03
of the skin back in,
再び現れ
02:05
and you can see she looks kind of shiny and oily at this point.
光って脂ぎって見えます
02:07
If you take the difference between these two images here,
この2 つの画像の差分を取ると
02:10
you can get an image lit from the entire sphere of light
球面全体に照らされた肌の
02:13
of just the shine off of Emily's skin.
反射だけを取り出すことができます
02:15
I don't think any photograph like this had ever been taken
私達がここでやったような写真は
02:18
before we had done this.
今まで撮られたことはないと思います
02:20
And this is very important light to capture,
これは捉えるべき非常に重要な光です
02:22
because this is the light that reflects off the first surface of the skin.
顔の一番表面で反射された光で
02:25
It doesn't get underneath the translucent
肌の透明な層を通った
02:27
layers of the skin and blur out.
ぼやけた光は除かれています
02:29
And, as a result, it's a very good cue
そのため
02:31
to the detailed shape of the skin-pore structure
私達みんなが持っていて 本物の人らしく見せている
02:33
and all of the fine wrinkles that all of us have,
肌のキメや 細かい皺の
02:36
the things that actually make us look like real humans.
とても良い情報が得られます
02:38
So, if we use information that comes off of this specular reflection,
この正反射から得られた情報を使うと
02:40
we can go from a traditional face scan
従来の顔のスキャンによる
02:44
that might have the gross contours of the face and the basic shape,
顔の全体的な輪郭や基本的な形状に
02:46
and augment it with information
肌のキメや細かい皺の
02:50
that puts in all of that skin pore structure and fine wrinkles.
情報を付け加えることができます
02:52
And, even more importantly,
ここで重要なのは
02:55
since this is a photometric process that only takes three seconds to capture,
この測光プロセスには3 秒しかかからないということです
02:57
we can shoot Emily
私達はエミリーのたくさんの
03:00
in just part of an afternoon,
顔の表情の写真を
03:02
in many different facial poses and facial expressions.
ある日の午後だけで撮影することができました
03:04
So, here you can see her moving her eyes around, moving her mouth around.
彼女が目や口を動かしている写真が並んでいます
03:07
And these we're actually going to use to create a photo-real digital character.
これらを使って写実的なキャラクタを作り出します
03:10
If you take a look at these scans that we have of Emily,
このエミリーのスキャン画像を見ていると
03:13
you can see that the human face does an enormous amount of amazing things
人の顔というのが
03:17
as it goes into different facial expressions.
驚くほど多彩な表情を作れるのがわかります
03:20
You can see things. Not only the face shape changes,
ここでは顔の形状の変化だけではなく
03:23
but all sorts of different skin buckling and skin wrinkling occurs.
あらゆる肌の屈曲や皺のパターン
03:26
You can see that the skin pore structure changes enormously
肌のキメの変化を見ることができます
03:30
from stretched skin pores
引き延ばされたところから
03:34
to the regular skin texture.
通常の肌のテクスチャまで
03:36
You can see the furrows in the brow and how the microstructure changes there.
眉の畝とその微細構造の変化
03:38
You can see muscles pulling down at flesh to bring her eyebrows down.
筋肉に引っ張られて眉毛が下がり
03:41
Her muscles bulging in her forehead when she winces like that.
しかめ面のときは額の肉が盛り上がります
03:45
In addition to this kind of high-resolution geometry,
このような高解像度の形状に加え
03:48
since it's all captured with cameras, we've got a great texture map to use for the face.
カメラが捉えた 顔に使えるすばらしいテクスチャマップがあります
03:51
And by looking at how the different color channels of the illumination,
赤、緑、青という照明の
03:55
the red and the green and the blue,
異なる色の成分は
03:57
diffuse the light differently,
拡散の仕方が違い
03:59
we can come up with a way of shading the skin on the computer.
それを考慮して肌のシェーディングを行います
04:01
Then, instead of looking like a plaster mannequin,
そうすると 石膏で出来たマネキンみたいだったのが
04:04
it actually looks like it's made out of living human flesh.
生きた人間の肉体に見えるようになります
04:07
And this is what we used
これはImage Metrics 社が
04:10
to give to the company Image Metrics
デジタル版のエミリーの
04:12
to create a rigged, digital version of Emily.
作成に使ったもので
04:14
We're just seeing the coarse-scale geometry here.
粗いスケールの形状による
04:17
But they basically created a digital puppet of her,
彼女のデジタル操り人形です
04:19
where you can pull on these various strings,
これらの糸を引くと
04:22
and it actually moves her face in ways that are
私達が撮ったスキャン画像に
04:24
completely consistent with the scans that we took.
合った形で動きます
04:26
And, in addition to the coarse-scale geometry,
粗いスケールの形状に加え
04:28
they also used all of that detail
ディスプレイスメントマップを使って
04:30
to create a set of what are called "displacement maps"
微細な部分を作ります
04:32
that animate as well.
これは動かすこともできます
04:35
These are the displacement maps here.
これがディスプレイスメントマップ
04:38
And you can see those different wrinkles actually show up as she animates.
彼女の動きに応じて 違った皺が現れています
04:40
So the next process was then to animate her.
次にアニメーションを付けます
04:43
We actually used one of her own performances to provide the source data.
データの元として エミリー本人が演じた映像を使いました
04:45
So, by analyzing this video with computer vision techniques,
そのビデオをコンピュータビジョンのテクニックを使って解析し
04:49
they were able to drive the facial rig
コンピュータが生成した動きを持った
04:52
with the computer-generated performance.
顔を作り出しました
04:54
So what you're going to see now, after this,
この後見ていただくのは
04:56
is a completely photo-real digital face.
完成したデジタルの顔です
04:58
We can turn the volume up a little bit if that's available.
ボリュームを少し上げましょう
05:00
Emily: Image Metrics is a markerless, performance-driven animation company.
Image Metrics はマーカーなしパフォーマンス駆動アニメーションの会社です
05:02
We specialize in high-quality facial animation
テレビゲームや映画のためのハイクオリティな
05:06
for video games and films.
顔のアニメーションを専門としています
05:09
Image Metrics is a markerless, performance-driven animation company.
Image Metrics はマーカーなしパフォーマンス駆動アニメーションの会社です
05:11
We specialize in high quality facial animation
テレビゲームや映画のためのハイクオリティな
05:15
for video games and films.
顔のアニメーションを専門としています
05:18
Paul Debevec: So, if we break that down into layers, here's that diffuse component
レイヤに分解してみましょう
05:21
we saw in the first slide.
これは光の拡散の部分です
05:23
Here is the specular component animating.
これは正反射部分のアニメーション
05:25
You can see all the wrinkles happening there.
皺が現れているのがわかります
05:27
And there is the underlying wireframe mesh.
これは下にあるワイヤフレームのメッシュ
05:29
And that is Emily herself.
そしてエミリー本人
05:34
Now, where are we going with this here?
今後どうするかですが
05:36
We've gone a little bit beyond Light Stage 5. This is Light Stage 6,
Light Stage 5 を一歩先へ進めたLight Stage 6 を作りました
05:38
and we're looking at taking this technology
このテクノロジーを
05:42
and applying it to whole human bodies.
人の体全体に適用しています
05:44
This is Bruce Lawmen, one of our researchers in the group,
彼は研究メンバーのブルース ローメンで
05:46
who graciously agreed to get captured running in the Light Stage.
走っているところをキャプチャするモデルになってくれました
05:48
And let's take a look at a computer-generated version
コンピュータで生成した彼が
05:51
of Bruce, running in a new environment.
新たな環境の中で走っているのをご覧ください
05:53
And thank you very much.
どうもありがとうございました
06:01
(Applause)
(拍手)
06:03
Translated by Yasushi Aoki
Reviewed by Masahiro Kyushima

▲Back to top

About the Speaker:

Paul Debevec - Computer graphics pioneer
Paul Debevec's digital inventions have powered the breathtaking visual effects in films like The Matrix, Superman Returns, King Kong and The Curious Case of Benjamin Button.

Why you should listen

Called "Hollywood's Master of Light" by MIT's Technology Review, Paul Debevec leads the Graphics Laboratory at USC's Institute for Creative Technologies, where he directs the development of the Light Stage systems, which capture and simulate how people and objects appear in real-world illumination.

His work on lighting digital objects has been used in films like X-Men, The Golden Compass and Terminator: Salvation. He leads the design of HDR Shop, the first high-dynamic-range image editing program. He has collaborated with TEDster Golan Levin on an interactive art installation called Rouen Revisited.

More profile about the speaker
Paul Debevec | Speaker | TED.com