TEDxUSC
Paul Debevec: Animating a photo-real digital face
ポール・デベヴェック 「メイキング・オブ・デジタルエミリー」
Filmed:
Readability: 4.8
881,584 views
TEDxUSCでコンピュータグラフィックスの第一人者であるポール・デベヴェックが、デジタルエミリーの背後にある観客の目を奪うような技術について解説します。何度の撮り直しにも応えられるコンピュータで作り出されたリアルな人の顔をご覧ください。
Paul Debevec - Computer graphics pioneer
Paul Debevec's digital inventions have powered the breathtaking visual effects in films like The Matrix, Superman Returns, King Kong and The Curious Case of Benjamin Button. Full bio
Paul Debevec's digital inventions have powered the breathtaking visual effects in films like The Matrix, Superman Returns, King Kong and The Curious Case of Benjamin Button. Full bio
Double-click the English transcript below to play the video.
00:18
One of the biggest challenges in computer graphics
0
0
3000
コンピュータグラフィックスにおける最大の難問の1 つは
00:21
has been being able to create a photo-real,
1
3000
2000
本物のように見える人の顔を
00:23
digital human face.
2
5000
2000
デジタル合成することでした
00:25
And one of the reasons it is so difficult is that, unlike aliens and dinosaurs,
3
7000
3000
これが難しい理由は エイリアンや恐竜とは違って
00:28
we look at human faces every day.
4
10000
3000
私達が人の顔を毎日見ているからです
00:31
They are very important to how we communicate with each other.
5
13000
2000
私達がコミュニケーションを取る上で
00:33
As a result, we're tuned in to the subtlest things
6
15000
3000
顔は重要な役割を果たしているので レンダリングされた顔が
00:36
that could possibly be wrong with a computer rendering,
7
18000
2000
微細な部分まで再現していないと
00:38
in order to believe whether these things are realistic.
8
20000
3000
本物らしく見えないのです
00:41
And what I'm going to do in the next five minutes
9
23000
2000
これからの5 分間で
00:43
is take you through a process
10
25000
2000
写実的な顔を合成しようと
00:45
where we tried to create a reasonably photo-realistic computer-generated face,
11
27000
3000
私達が試みたプロセスを 辿っていこうと思います
00:48
using some computer graphics technology we've developed,
12
30000
3000
これには私達がImage Metrics 社と開発した
00:51
and also some collaborators at a company called Image Metrics.
13
33000
2000
CG の技術を使っています
00:53
And we're going to try to do a photo-real face
14
35000
2000
対象としたのは ここに出ている
00:55
of an actress named Emily O'Brien, who is right there.
15
37000
3000
エミリー オブライエンという女優の顔です
00:58
And that's actually a completely computer-generated rendering of her face.
16
40000
3000
これは実際にレンダリングで生成された彼女の顔です
01:01
By the end of the talk, we're going to see it move.
17
43000
2000
動いているところを後でお見せします
01:03
The way that we did this is we tried to start with Emily herself,
18
45000
3000
出発点となるのはエミリー本人です
01:06
who was gracious enough to come to our laboratory
19
48000
3000
彼女はマリーナデルレイにある私達のラボまで来て
01:09
in Marina Del Rey, and sit for a session in Light Stage 5.
20
51000
3000
このLight Stage 5 での撮影を快く引き受けてくれました
01:12
This is a face-scanning sphere, with 156 white LEDs all around
21
54000
4000
この球面は顔をスキャンする装置で 156 個のLED が取り付けられており
01:16
that allow us to photograph her
22
58000
2000
照明の状況を自由にコントロールしながら
01:18
in a series of very controlled illumination conditions.
23
60000
3000
撮影ができるようになっています
01:21
And the lighting that we use these days looks something like this.
24
63000
3000
私達が最近使う照明の種類はこのようなものです
01:24
We shoot all of these photographs in about three seconds.
25
66000
2000
この全部を3 秒ほどで撮れます
01:26
And we basically capture enough information
26
68000
3000
これで基本的に十分な情報を得られます
01:29
with video projector patterns that drape over the contours of her face,
27
71000
4000
彼女の顔の等高線を描き出すビデオプロジェクタのパターンと
01:33
and different principle directions of light from the light stage,
28
75000
2000
Light Stage による様々な方向からの光で
01:35
to figure out both the coarse-scale
29
77000
2000
彼女の顔を粗いスケールと
01:37
and the fine-scale detail of her face.
30
79000
2000
微細なスケールで把握します
01:39
If we zoom in on this photograph right here,
31
81000
2000
この写真を拡大してみましょう
01:41
we can see it's a really nice photograph to have of her,
32
83000
2000
彼女を捉えたとても良い写真です
01:43
because she is lit from absolutely everywhere at the same time
33
85000
4000
あらゆる方向から同時に照らされていて
01:47
to get a nice image of her facial texture.
34
89000
2000
顔のテクスチャがよく現れています
01:49
And in addition, we've actually used polarizers on all the lights --
35
91000
3000
私達はすべての照明に偏向フィルタを付けています
01:52
just like polarized sunglasses can block
36
94000
2000
偏向サングラスが
01:54
the glare off of the road,
37
96000
2000
路面のぎらつきを押えるように
01:56
polarizers can block the shine off of the skin,
38
98000
2000
偏光フィルタは肌のてかりを押えます
01:58
so we don't get all those specular reflections to take this map.
39
100000
3000
これにより正反射なしにテクスチャマップが得られます
02:01
Now, if we turn the polarizers around just a little bit,
40
103000
2000
偏光フィルタを少し回すと
02:03
we can actually bring that specular reflection
41
105000
2000
肌の正反射が
02:05
of the skin back in,
42
107000
2000
再び現れ
02:07
and you can see she looks kind of shiny and oily at this point.
43
109000
3000
光って脂ぎって見えます
02:10
If you take the difference between these two images here,
44
112000
3000
この2 つの画像の差分を取ると
02:13
you can get an image lit from the entire sphere of light
45
115000
2000
球面全体に照らされた肌の
02:15
of just the shine off of Emily's skin.
46
117000
3000
反射だけを取り出すことができます
02:18
I don't think any photograph like this had ever been taken
47
120000
2000
私達がここでやったような写真は
02:20
before we had done this.
48
122000
2000
今まで撮られたことはないと思います
02:22
And this is very important light to capture,
49
124000
3000
これは捉えるべき非常に重要な光です
02:25
because this is the light that reflects off the first surface of the skin.
50
127000
2000
顔の一番表面で反射された光で
02:27
It doesn't get underneath the translucent
51
129000
2000
肌の透明な層を通った
02:29
layers of the skin and blur out.
52
131000
2000
ぼやけた光は除かれています
02:31
And, as a result, it's a very good cue
53
133000
2000
そのため
02:33
to the detailed shape of the skin-pore structure
54
135000
3000
私達みんなが持っていて 本物の人らしく見せている
02:36
and all of the fine wrinkles that all of us have,
55
138000
2000
肌のキメや 細かい皺の
02:38
the things that actually make us look like real humans.
56
140000
2000
とても良い情報が得られます
02:40
So, if we use information that comes off of this specular reflection,
57
142000
4000
この正反射から得られた情報を使うと
02:44
we can go from a traditional face scan
58
146000
2000
従来の顔のスキャンによる
02:46
that might have the gross contours of the face and the basic shape,
59
148000
4000
顔の全体的な輪郭や基本的な形状に
02:50
and augment it with information
60
152000
2000
肌のキメや細かい皺の
02:52
that puts in all of that skin pore structure and fine wrinkles.
61
154000
3000
情報を付け加えることができます
02:55
And, even more importantly,
62
157000
2000
ここで重要なのは
02:57
since this is a photometric process that only takes three seconds to capture,
63
159000
3000
この測光プロセスには3 秒しかかからないということです
03:00
we can shoot Emily
64
162000
2000
私達はエミリーのたくさんの
03:02
in just part of an afternoon,
65
164000
2000
顔の表情の写真を
03:04
in many different facial poses and facial expressions.
66
166000
3000
ある日の午後だけで撮影することができました
03:07
So, here you can see her moving her eyes around, moving her mouth around.
67
169000
3000
彼女が目や口を動かしている写真が並んでいます
03:10
And these we're actually going to use to create a photo-real digital character.
68
172000
3000
これらを使って写実的なキャラクタを作り出します
03:13
If you take a look at these scans that we have of Emily,
69
175000
4000
このエミリーのスキャン画像を見ていると
03:17
you can see that the human face does an enormous amount of amazing things
70
179000
3000
人の顔というのが
03:20
as it goes into different facial expressions.
71
182000
3000
驚くほど多彩な表情を作れるのがわかります
03:23
You can see things. Not only the face shape changes,
72
185000
3000
ここでは顔の形状の変化だけではなく
03:26
but all sorts of different skin buckling and skin wrinkling occurs.
73
188000
4000
あらゆる肌の屈曲や皺のパターン
03:30
You can see that the skin pore structure changes enormously
74
192000
4000
肌のキメの変化を見ることができます
03:34
from stretched skin pores
75
196000
2000
引き延ばされたところから
03:36
to the regular skin texture.
76
198000
2000
通常の肌のテクスチャまで
03:38
You can see the furrows in the brow and how the microstructure changes there.
77
200000
3000
眉の畝とその微細構造の変化
03:41
You can see muscles pulling down at flesh to bring her eyebrows down.
78
203000
4000
筋肉に引っ張られて眉毛が下がり
03:45
Her muscles bulging in her forehead when she winces like that.
79
207000
3000
しかめ面のときは額の肉が盛り上がります
03:48
In addition to this kind of high-resolution geometry,
80
210000
3000
このような高解像度の形状に加え
03:51
since it's all captured with cameras, we've got a great texture map to use for the face.
81
213000
4000
カメラが捉えた 顔に使えるすばらしいテクスチャマップがあります
03:55
And by looking at how the different color channels of the illumination,
82
217000
2000
赤、緑、青という照明の
03:57
the red and the green and the blue,
83
219000
2000
異なる色の成分は
03:59
diffuse the light differently,
84
221000
2000
拡散の仕方が違い
04:01
we can come up with a way of shading the skin on the computer.
85
223000
3000
それを考慮して肌のシェーディングを行います
04:04
Then, instead of looking like a plaster mannequin,
86
226000
3000
そうすると 石膏で出来たマネキンみたいだったのが
04:07
it actually looks like it's made out of living human flesh.
87
229000
3000
生きた人間の肉体に見えるようになります
04:10
And this is what we used
88
232000
2000
これはImage Metrics 社が
04:12
to give to the company Image Metrics
89
234000
2000
デジタル版のエミリーの
04:14
to create a rigged, digital version of Emily.
90
236000
3000
作成に使ったもので
04:17
We're just seeing the coarse-scale geometry here.
91
239000
2000
粗いスケールの形状による
04:19
But they basically created a digital puppet of her,
92
241000
3000
彼女のデジタル操り人形です
04:22
where you can pull on these various strings,
93
244000
2000
これらの糸を引くと
04:24
and it actually moves her face in ways that are
94
246000
2000
私達が撮ったスキャン画像に
04:26
completely consistent with the scans that we took.
95
248000
2000
合った形で動きます
04:28
And, in addition to the coarse-scale geometry,
96
250000
2000
粗いスケールの形状に加え
04:30
they also used all of that detail
97
252000
2000
ディスプレイスメントマップを使って
04:32
to create a set of what are called "displacement maps"
98
254000
3000
微細な部分を作ります
04:35
that animate as well.
99
257000
3000
これは動かすこともできます
04:38
These are the displacement maps here.
100
260000
2000
これがディスプレイスメントマップ
04:40
And you can see those different wrinkles actually show up as she animates.
101
262000
3000
彼女の動きに応じて 違った皺が現れています
04:43
So the next process was then to animate her.
102
265000
2000
次にアニメーションを付けます
04:45
We actually used one of her own performances to provide the source data.
103
267000
4000
データの元として エミリー本人が演じた映像を使いました
04:49
So, by analyzing this video with computer vision techniques,
104
271000
3000
そのビデオをコンピュータビジョンのテクニックを使って解析し
04:52
they were able to drive the facial rig
105
274000
2000
コンピュータが生成した動きを持った
04:54
with the computer-generated performance.
106
276000
2000
顔を作り出しました
04:56
So what you're going to see now, after this,
107
278000
2000
この後見ていただくのは
04:58
is a completely photo-real digital face.
108
280000
2000
完成したデジタルの顔です
05:00
We can turn the volume up a little bit if that's available.
109
282000
2000
ボリュームを少し上げましょう
05:02
Emily: Image Metrics is a markerless, performance-driven animation company.
110
284000
4000
Image Metrics はマーカーなしパフォーマンス駆動アニメーションの会社です
05:06
We specialize in high-quality facial animation
111
288000
3000
テレビゲームや映画のためのハイクオリティな
05:09
for video games and films.
112
291000
2000
顔のアニメーションを専門としています
05:11
Image Metrics is a markerless, performance-driven animation company.
113
293000
4000
Image Metrics はマーカーなしパフォーマンス駆動アニメーションの会社です
05:15
We specialize in high quality facial animation
114
297000
3000
テレビゲームや映画のためのハイクオリティな
05:18
for video games and films.
115
300000
3000
顔のアニメーションを専門としています
05:21
Paul Debevec: So, if we break that down into layers, here's that diffuse component
116
303000
2000
レイヤに分解してみましょう
05:23
we saw in the first slide.
117
305000
2000
これは光の拡散の部分です
05:25
Here is the specular component animating.
118
307000
2000
これは正反射部分のアニメーション
05:27
You can see all the wrinkles happening there.
119
309000
2000
皺が現れているのがわかります
05:29
And there is the underlying wireframe mesh.
120
311000
5000
これは下にあるワイヤフレームのメッシュ
05:34
And that is Emily herself.
121
316000
2000
そしてエミリー本人
05:36
Now, where are we going with this here?
122
318000
2000
今後どうするかですが
05:38
We've gone a little bit beyond Light Stage 5. This is Light Stage 6,
123
320000
4000
Light Stage 5 を一歩先へ進めたLight Stage 6 を作りました
05:42
and we're looking at taking this technology
124
324000
2000
このテクノロジーを
05:44
and applying it to whole human bodies.
125
326000
2000
人の体全体に適用しています
05:46
This is Bruce Lawmen, one of our researchers in the group,
126
328000
2000
彼は研究メンバーのブルース ローメンで
05:48
who graciously agreed to get captured running in the Light Stage.
127
330000
3000
走っているところをキャプチャするモデルになってくれました
05:51
And let's take a look at a computer-generated version
128
333000
2000
コンピュータで生成した彼が
05:53
of Bruce, running in a new environment.
129
335000
2000
新たな環境の中で走っているのをご覧ください
06:01
And thank you very much.
130
343000
2000
どうもありがとうございました
06:03
(Applause)
131
345000
1000
(拍手)
ABOUT THE SPEAKER
Paul Debevec - Computer graphics pioneerPaul Debevec's digital inventions have powered the breathtaking visual effects in films like The Matrix, Superman Returns, King Kong and The Curious Case of Benjamin Button.
Why you should listen
Called "Hollywood's Master of Light" by MIT's Technology Review, Paul Debevec leads the Graphics Laboratory at USC's Institute for Creative Technologies, where he directs the development of the Light Stage systems, which capture and simulate how people and objects appear in real-world illumination.
His work on lighting digital objects has been used in films like X-Men, The Golden Compass and Terminator: Salvation. He leads the design of HDR Shop, the first high-dynamic-range image editing program. He has collaborated with TEDster Golan Levin on an interactive art installation called Rouen Revisited.
Paul Debevec | Speaker | TED.com