TEDxUSC
Paul Debevec: Animating a photo-real digital face
Paul Debevec maakt een animatie van een fotorealistisch digitaal gezicht
Filmed:
Readability: 4.8
881,584 views
Tijdens TEDxUSC vertelt computergraphics-pionier Paul Debevec over de opzienbarende technologie achter Digital Emily, een digitaal geconstrueerd menselijk gezicht, dat zo realistisch is dat het meerdere proeven kan doorstaan.
Paul Debevec - Computer graphics pioneer
Paul Debevec's digital inventions have powered the breathtaking visual effects in films like The Matrix, Superman Returns, King Kong and The Curious Case of Benjamin Button. Full bio
Paul Debevec's digital inventions have powered the breathtaking visual effects in films like The Matrix, Superman Returns, King Kong and The Curious Case of Benjamin Button. Full bio
Double-click the English transcript below to play the video.
00:18
One of the biggest challenges in computer graphics
0
0
3000
Eén van de grootste uitdagingen in computergraphics
00:21
has been being able to create a photo-real,
1
3000
2000
was het kunnen creëren van
00:23
digital human face.
2
5000
2000
een fotorealistisch, digitaal menselijk gezicht.
00:25
And one of the reasons it is so difficult is that, unlike aliens and dinosaurs,
3
7000
3000
Eén moeilijkheid daarbij is dat we, anders dan bij
00:28
we look at human faces every day.
4
10000
3000
aliens en dinosaurussen, elke dag naar menselijke gezichten kijken.
00:31
They are very important to how we communicate with each other.
5
13000
2000
Ze zijn erg belangrijk in onze communicatie met elkaar.
00:33
As a result, we're tuned in to the subtlest things
6
15000
3000
Daardoor zijn we gespitst op de kleinste details
00:36
that could possibly be wrong with a computer rendering,
7
18000
2000
die fout kunnen gaan in een computerweergave,
00:38
in order to believe whether these things are realistic.
8
20000
3000
om te geloven dat deze realistisch zijn.
00:41
And what I'm going to do in the next five minutes
9
23000
2000
In de komende vijf minuten neem ik u mee
00:43
is take you through a process
10
25000
2000
in een proces, waarin we hebben geprobeerd
00:45
where we tried to create a reasonably photo-realistic computer-generated face,
11
27000
3000
een acceptabel fotorealistisch computergegenereerd gezicht te maken,
00:48
using some computer graphics technology we've developed,
12
30000
3000
met grafische computertechnologie die we hebben ontwikkeld
00:51
and also some collaborators at a company called Image Metrics.
13
33000
2000
samen met enkele mensen van een bedrijf, genaamd Image Metrics.
00:53
And we're going to try to do a photo-real face
14
35000
2000
En we gaan proberen een fotorealistisch gezicht te maken
00:55
of an actress named Emily O'Brien, who is right there.
15
37000
3000
van een actrice, Emily O'Brien, die je daar ziet.
00:58
And that's actually a completely computer-generated rendering of her face.
16
40000
3000
Deze weergave van haar gezicht is volledig computergegenereerd.
01:01
By the end of the talk, we're going to see it move.
17
43000
2000
Aan het eind van de presentatie zullen we het zien bewegen.
01:03
The way that we did this is we tried to start with Emily herself,
18
45000
3000
We hebben dit gedaan door te beginnen met Emily zelf,
01:06
who was gracious enough to come to our laboratory
19
48000
3000
die zo vriendelijk was om naar ons laboratorium te komen
01:09
in Marina Del Rey, and sit for a session in Light Stage 5.
20
51000
3000
in Marina del Rey, en voor een sessie in Light Stage 5 te gaan zitten.
01:12
This is a face-scanning sphere, with 156 white LEDs all around
21
54000
4000
Dit is een gezichtsscanbol, met 156 witte LEDs rondom,
01:16
that allow us to photograph her
22
58000
2000
waarmee we haar kunnen fotograferen
01:18
in a series of very controlled illumination conditions.
23
60000
3000
in een serie zeer goed beheerste belichtingsomstandigheden.
01:21
And the lighting that we use these days looks something like this.
24
63000
3000
En de verlichting die we tegenwoordig gebruiken ziet er ongeveer zo uit.
01:24
We shoot all of these photographs in about three seconds.
25
66000
2000
In ongeveer drie seconden nemen we al deze foto's.
01:26
And we basically capture enough information
26
68000
3000
En we verkrijgen in principe genoeg informatie
01:29
with video projector patterns that drape over the contours of her face,
27
71000
4000
met videoprojectiepatronen, die we over haar gezichtscontouren draperen,
01:33
and different principle directions of light from the light stage,
28
75000
2000
en verschillende hoofdrichtingen van licht vanuit de lichtinstallatie,
01:35
to figure out both the coarse-scale
29
77000
2000
waarmee we zowel de grove contouren
01:37
and the fine-scale detail of her face.
30
79000
2000
als de fijne details van haar gezicht kunnen onderzoeken.
01:39
If we zoom in on this photograph right here,
31
81000
2000
Als we op de foto hier inzoomen,
01:41
we can see it's a really nice photograph to have of her,
32
83000
2000
dan zien we een erg mooie foto van haar,
01:43
because she is lit from absolutely everywhere at the same time
33
85000
4000
want ze is vanuit werkelijk alle kanten tegelijk belicht
01:47
to get a nice image of her facial texture.
34
89000
2000
om een mooie afbeelding van haar gezichtsbouw te krijgen.
01:49
And in addition, we've actually used polarizers on all the lights --
35
91000
3000
En daarbovenop hebben we polarisatiefilters op alle lampen gebruikt --
01:52
just like polarized sunglasses can block
36
94000
2000
zoals Polaroid-zonnebrillen
01:54
the glare off of the road,
37
96000
2000
de glans van de weg kunnen blokkeren,
01:56
polarizers can block the shine off of the skin,
38
98000
2000
blokkeren polarisatiefilters het schijnsel vanaf de huid,
01:58
so we don't get all those specular reflections to take this map.
39
100000
3000
waardoor we niet al de spiegelende reflecties krijgen, om deze kaart te maken.
02:01
Now, if we turn the polarizers around just a little bit,
40
103000
2000
Als we de polarisatiefilters een beetje laten draaien,
02:03
we can actually bring that specular reflection
41
105000
2000
kunnen we eigenlijk die spiegelende reflectie
02:05
of the skin back in,
42
107000
2000
van de huid terugkrijgen.
02:07
and you can see she looks kind of shiny and oily at this point.
43
109000
3000
Hier zie je dat ze er een beetje glimmend en olieachtig uitziet.
02:10
If you take the difference between these two images here,
44
112000
3000
Als je het verschil neemt tussen deze twee plaatjes,
02:13
you can get an image lit from the entire sphere of light
45
115000
2000
dan krijg je een plaatje van de volledige verlichtingsbol
02:15
of just the shine off of Emily's skin.
46
117000
3000
van alleen de glans vanaf Emily's huid.
02:18
I don't think any photograph like this had ever been taken
47
120000
2000
Ik denk niet dat er ooit een foto als deze is genomen
02:20
before we had done this.
48
122000
2000
voordat we dit deden.
02:22
And this is very important light to capture,
49
124000
3000
En dit is heel belangrijk licht om te vangen,
02:25
because this is the light that reflects off the first surface of the skin.
50
127000
2000
omdat dit licht reflecteert op de bovenste huidlaag.
02:27
It doesn't get underneath the translucent
51
129000
2000
Het komt niet onder de doorschijnende
02:29
layers of the skin and blur out.
52
131000
2000
lagen van de huid, waar het zou vervagen.
02:31
And, as a result, it's a very good cue
53
133000
2000
En het resultaat is een zeer goede weergave
02:33
to the detailed shape of the skin-pore structure
54
135000
3000
van de gedetailleerde vormen van de huidporiënstructuur
02:36
and all of the fine wrinkles that all of us have,
55
138000
2000
en alle fijne rimpeltjes die we allemaal hebben,
02:38
the things that actually make us look like real humans.
56
140000
2000
die ons eruit laten zien als echte mensen.
02:40
So, if we use information that comes off of this specular reflection,
57
142000
4000
Dus, als we de informatie uit deze spiegelende reflectie gebruiken
02:44
we can go from a traditional face scan
58
146000
2000
kunnen we een traditionele gezichtsscan,
02:46
that might have the gross contours of the face and the basic shape,
59
148000
4000
die de grove contouren van het gezicht en de basisvorm bevat,
02:50
and augment it with information
60
152000
2000
verrijken met informatie, die daar
02:52
that puts in all of that skin pore structure and fine wrinkles.
61
154000
3000
de huidporiënstructuur en fijne rimpeltjes aan toevoegt.
02:55
And, even more importantly,
62
157000
2000
En nog belangrijker,
02:57
since this is a photometric process that only takes three seconds to capture,
63
159000
3000
aangezien dit fotometrisch proces maar drie seconden duurt om op te nemen,
03:00
we can shoot Emily
64
162000
2000
kunnen we Emily vastleggen
03:02
in just part of an afternoon,
65
164000
2000
in slechts een deel van een middag,
03:04
in many different facial poses and facial expressions.
66
166000
3000
in veel verschillende gezichtshoudingen en gezichtsuitdrukkingen.
03:07
So, here you can see her moving her eyes around, moving her mouth around.
67
169000
3000
Hier zie je dat ze haar ogen en mond beweegt.
03:10
And these we're actually going to use to create a photo-real digital character.
68
172000
3000
En daarmee creëren we een fotorealistisch digitaal persoon.
03:13
If you take a look at these scans that we have of Emily,
69
175000
4000
Als je deze scans van Emily bekijkt,
03:17
you can see that the human face does an enormous amount of amazing things
70
179000
3000
zie je dat een menselijk gezicht enorm veel verbluffende dingen doet
03:20
as it goes into different facial expressions.
71
182000
3000
terwijl het in verschillende gezichtsuitdrukkingen overgaat.
03:23
You can see things. Not only the face shape changes,
72
185000
3000
Je ziet van alles. Niet alleen de gezichtsvorm verandert,
03:26
but all sorts of different skin buckling and skin wrinkling occurs.
73
188000
4000
maar er verschijnen ook allerlei huidknikjes en huidrimpels.
03:30
You can see that the skin pore structure changes enormously
74
192000
4000
Je ziet dat de huidporiënstructuur sterk verandert,
03:34
from stretched skin pores
75
196000
2000
van uitgerekte huidporiën,
03:36
to the regular skin texture.
76
198000
2000
naar de normale huidstructuur.
03:38
You can see the furrows in the brow and how the microstructure changes there.
77
200000
3000
Je ziet de plooien in de wenkbrauw en hoe de microstructuur daar verandert.
03:41
You can see muscles pulling down at flesh to bring her eyebrows down.
78
203000
4000
Je kunt de spieren zien die haar wenkbrauwen omlaag trekken.
03:45
Her muscles bulging in her forehead when she winces like that.
79
207000
3000
De spieren die opbollen in haar voorhoofd als ze dergelijke grimassen maakt.
03:48
In addition to this kind of high-resolution geometry,
80
210000
3000
Naast deze vorm van hoge resolutie geometrie, krijgen we
03:51
since it's all captured with cameras, we've got a great texture map to use for the face.
81
213000
4000
een prachtige weefselkaart van haar gezicht, omdat alles met camera's is vastgelegd.
03:55
And by looking at how the different color channels of the illumination,
82
217000
2000
En door te kijken hoe de verschillende kleurkanalen
03:57
the red and the green and the blue,
83
219000
2000
van de belichting: rood, groen en blauw,
03:59
diffuse the light differently,
84
221000
2000
het licht op verschillende manieren verstrooien,
04:01
we can come up with a way of shading the skin on the computer.
85
223000
3000
kunnen we de manier waarop de huid schaduwt, in de computer stoppen.
04:04
Then, instead of looking like a plaster mannequin,
86
226000
3000
En in plaats dat het eruitziet als een gipsen paspop,
04:07
it actually looks like it's made out of living human flesh.
87
229000
3000
lijkt het van menselijk vlees en bloed.
04:10
And this is what we used
88
232000
2000
En dit hebben we gebruikt
04:12
to give to the company Image Metrics
89
234000
2000
om aan het bedrijf Image Metrics te geven
04:14
to create a rigged, digital version of Emily.
90
236000
3000
om een complete, digitale versie van Emily te maken.
04:17
We're just seeing the coarse-scale geometry here.
91
239000
2000
We zien hier alleen de grofschalige geometrie.
04:19
But they basically created a digital puppet of her,
92
241000
3000
Maar eigenlijk hebben ze een digitale marionet van haar gemaakt,
04:22
where you can pull on these various strings,
93
244000
2000
waarbij je aan deze verschillende touwtjes kunt trekken,
04:24
and it actually moves her face in ways that are
94
246000
2000
zodat haar gezicht beweegt op een manier die
04:26
completely consistent with the scans that we took.
95
248000
2000
volledig consistent is met de scans die we gemaakt hebben.
04:28
And, in addition to the coarse-scale geometry,
96
250000
2000
En, bovenop de grofschalige geometrie,
04:30
they also used all of that detail
97
252000
2000
hebben ze ook al die details gebruikt
04:32
to create a set of what are called "displacement maps"
98
254000
3000
om een set zogenaamde "verplaatsingskaarten" te maken
04:35
that animate as well.
99
257000
3000
die ook meedoen in de animatie.
04:38
These are the displacement maps here.
100
260000
2000
Dit zijn de verplaatsingskaarten.
04:40
And you can see those different wrinkles actually show up as she animates.
101
262000
3000
Je ziet de verschillende rimpels verschijnen als ze geanimeerd wordt.
04:43
So the next process was then to animate her.
102
265000
2000
Dus het volgende proces bestond uit het animeren van haar.
04:45
We actually used one of her own performances to provide the source data.
103
267000
4000
We gebruikten eigenlijk één van haar optredens om de brongegevens te leveren.
04:49
So, by analyzing this video with computer vision techniques,
104
271000
3000
Dus, door deze video met computerweergavetechnieken te analyseren.
04:52
they were able to drive the facial rig
105
274000
2000
konden we het gezicht besturen
04:54
with the computer-generated performance.
106
276000
2000
in het computergegenereerde optreden.
04:56
So what you're going to see now, after this,
107
278000
2000
Dus wat we hierna gaan zien,
04:58
is a completely photo-real digital face.
108
280000
2000
is een volledig fotorealistisch digitaal gezicht.
05:00
We can turn the volume up a little bit if that's available.
109
282000
2000
We kunnen het geluid iets harder zetten als dat beschikbaar is.
05:02
Emily: Image Metrics is a markerless, performance-driven animation company.
110
284000
4000
(Emily) "Image Metrics is een onafhankelijk, prestatiegedreven animatiebedrijf.
05:06
We specialize in high-quality facial animation
111
288000
3000
We zijn gespecialiseerd in hoge kwaliteit
05:09
for video games and films.
112
291000
2000
gezichtsanimatie voor videospelletjes en films."
05:11
Image Metrics is a markerless, performance-driven animation company.
113
293000
4000
"Image Metrics is een onafhankelijk, prestatiegedreven animatiebedrijf.
05:15
We specialize in high quality facial animation
114
297000
3000
We zijn gespecialiseerd in hoge kwaliteit
05:18
for video games and films.
115
300000
3000
gezichtsanimatie voor videospelletjes en films."
05:21
Paul Debevec: So, if we break that down into layers, here's that diffuse component
116
303000
2000
(Paul) Opgedeeld in lagen: hier de diffuse
05:23
we saw in the first slide.
117
305000
2000
component uit de eerste dia.
05:25
Here is the specular component animating.
118
307000
2000
Hier de spiegelende component.
05:27
You can see all the wrinkles happening there.
119
309000
2000
Je ziet alle rimpeltjes ontstaan.
05:29
And there is the underlying wireframe mesh.
120
311000
5000
En het onderliggende draadmodel.
05:34
And that is Emily herself.
121
316000
2000
En dit is Emily zelf.
05:36
Now, where are we going with this here?
122
318000
2000
Nu, waar gaan we van hieruit verder?
05:38
We've gone a little bit beyond Light Stage 5. This is Light Stage 6,
123
320000
4000
We gaan nog wat voorbij Light Stage 5. Dit is Light Stage 6.
05:42
and we're looking at taking this technology
124
324000
2000
En we gebruiken deze technologie
05:44
and applying it to whole human bodies.
125
326000
2000
door hem toe te passen op volledige menselijke lichamen.
05:46
This is Bruce Lawmen, one of our researchers in the group,
126
328000
2000
Dit is Bruce Lawmen, één van de onderzoekers in de groep,
05:48
who graciously agreed to get captured running in the Light Stage.
127
330000
3000
die vriendelijk toestond, dat wij hem rennend in de Light Stage vastlegden.
05:51
And let's take a look at a computer-generated version
128
333000
2000
Laten we de computergegenereerde versie bekijken,
05:53
of Bruce, running in a new environment.
129
335000
2000
van Bruce die rent in een nieuwe omgeving.
06:01
And thank you very much.
130
343000
2000
Dank u wel.
06:03
(Applause)
131
345000
1000
(Applaus)
ABOUT THE SPEAKER
Paul Debevec - Computer graphics pioneerPaul Debevec's digital inventions have powered the breathtaking visual effects in films like The Matrix, Superman Returns, King Kong and The Curious Case of Benjamin Button.
Why you should listen
Called "Hollywood's Master of Light" by MIT's Technology Review, Paul Debevec leads the Graphics Laboratory at USC's Institute for Creative Technologies, where he directs the development of the Light Stage systems, which capture and simulate how people and objects appear in real-world illumination.
His work on lighting digital objects has been used in films like X-Men, The Golden Compass and Terminator: Salvation. He leads the design of HDR Shop, the first high-dynamic-range image editing program. He has collaborated with TEDster Golan Levin on an interactive art installation called Rouen Revisited.
Paul Debevec | Speaker | TED.com