TEDxUSC
Paul Debevec: Animating a photo-real digital face
Paul Debevec anime un visage numérique photo-réaliste
Filmed:
Readability: 4.8
881,584 views
A TEDxUSC, le pionnier de l'image de synthèse Paul Debevec explique la technologie époustouflante derrière l'animation de Digital Emily; un visage humain numérique si fidèle qu'il n'aura jamais besoin de maquillage.
Paul Debevec - Computer graphics pioneer
Paul Debevec's digital inventions have powered the breathtaking visual effects in films like The Matrix, Superman Returns, King Kong and The Curious Case of Benjamin Button. Full bio
Paul Debevec's digital inventions have powered the breathtaking visual effects in films like The Matrix, Superman Returns, King Kong and The Curious Case of Benjamin Button. Full bio
Double-click the English transcript below to play the video.
00:18
One of the biggest challenges in computer graphics
0
0
3000
Un des plus grands défis dans l'image de synthèse
00:21
has been being able to create a photo-real,
1
3000
2000
a toujours été de créer un visage humain
00:23
digital human face.
2
5000
2000
photo-réaliste.
00:25
And one of the reasons it is so difficult is that, unlike aliens and dinosaurs,
3
7000
3000
Et une des raisons pour cela, à l'inverse des aliens ou des dinosaures,
00:28
we look at human faces every day.
4
10000
3000
est que nous regardons des visages humains tous les jours.
00:31
They are very important to how we communicate with each other.
5
13000
2000
Et ceux-ci sont très importants dans la façon dont nous communiquons entre nous.
00:33
As a result, we're tuned in to the subtlest things
6
15000
3000
Et nous sommes donc sensibles aux moindres détails
00:36
that could possibly be wrong with a computer rendering,
7
18000
2000
potentiellement erronés d'une image de synthèse,
00:38
in order to believe whether these things are realistic.
8
20000
3000
nous empêchant de croire que ce visage puisse être réaliste.
00:41
And what I'm going to do in the next five minutes
9
23000
2000
Et ce que je vais faire pendant les cinq prochaines minutes
00:43
is take you through a process
10
25000
2000
est de vous faire partager un processus
00:45
where we tried to create a reasonably photo-realistic computer-generated face,
11
27000
3000
grâce auquel nous avons essayé de créer un visage de synthèse photo-réaliste,
00:48
using some computer graphics technology we've developed,
12
30000
3000
en utilisant une technologie d'image de synthèse que nous avons développé
00:51
and also some collaborators at a company called Image Metrics.
13
33000
2000
avec nos collaborateurs chez Image Metrics.
00:53
And we're going to try to do a photo-real face
14
35000
2000
Nous allons essayer de reproduire le visage de l'actrice
00:55
of an actress named Emily O'Brien, who is right there.
15
37000
3000
Emily O'Brian, ici présente, de manière réaliste.
00:58
And that's actually a completely computer-generated rendering of her face.
16
40000
3000
Et voici une image de synthèse de son visage, entièrement reconstituée.
01:01
By the end of the talk, we're going to see it move.
17
43000
2000
D'ici la fin de cette présentation, vous la verrez bouger.
01:03
The way that we did this is we tried to start with Emily herself,
18
45000
3000
Notre méthode fut d'abord d'essayer avec Emily en personne,
01:06
who was gracious enough to come to our laboratory
19
48000
3000
qui a gentiment accepté de venir dans notre laboratoire
01:09
in Marina Del Rey, and sit for a session in Light Stage 5.
20
51000
3000
de Marina Del Rey, et de participer à une session de Light Stage 5.
01:12
This is a face-scanning sphere, with 156 white LEDs all around
21
54000
4000
C'est une sphère faite de 156 DEL blanches tout autour qui scannent son visage
01:16
that allow us to photograph her
22
58000
2000
et nous permettent de le photographier
01:18
in a series of very controlled illumination conditions.
23
60000
3000
dans un ensemble d'éclairages extrêmement contrôlés.
01:21
And the lighting that we use these days looks something like this.
24
63000
3000
Et l'éclairage que nous utilisons en ce moment ressemble à ceci.
01:24
We shoot all of these photographs in about three seconds.
25
66000
2000
Nous prenons toutes ces photos en environ trois secondes.
01:26
And we basically capture enough information
26
68000
3000
Et nous obtenons suffisamment d'informations
01:29
with video projector patterns that drape over the contours of her face,
27
71000
4000
avec des modèles de projection vidéo qui enrobent les contours de son visage,
01:33
and different principle directions of light from the light stage,
28
75000
2000
et les diverses orientations principales de lumière,
01:35
to figure out both the coarse-scale
29
77000
2000
pour reconstituer à la fois la definition haute
01:37
and the fine-scale detail of her face.
30
79000
2000
et basse des détails de son visage.
01:39
If we zoom in on this photograph right here,
31
81000
2000
Si nous zoomons sur cette photo ici,
01:41
we can see it's a really nice photograph to have of her,
32
83000
2000
nous pouvons voir que c'est un très beau cliché à avoir
01:43
because she is lit from absolutely everywhere at the same time
33
85000
4000
car elle est éclairée d'absolument partout à la fois
01:47
to get a nice image of her facial texture.
34
89000
2000
et cela donne une belle image de la texture de son visage.
01:49
And in addition, we've actually used polarizers on all the lights --
35
91000
3000
Et en plus, nous avons utilisé des filtres polarisateurs sur toutes les lumières
01:52
just like polarized sunglasses can block
36
94000
2000
de la même façon que les lunettes polarisées
01:54
the glare off of the road,
37
96000
2000
peuvent bloquer les reflets sur la route,
01:56
polarizers can block the shine off of the skin,
38
98000
2000
les filtres polarisateurs bloquent la brillance de la peau,
01:58
so we don't get all those specular reflections to take this map.
39
100000
3000
et nous obtenons une texture sans reflets spéculaires.
02:01
Now, if we turn the polarizers around just a little bit,
40
103000
2000
Maintenant, si nous tournons un peu ces filtres,
02:03
we can actually bring that specular reflection
41
105000
2000
nous pouvons en fait réintroduire
02:05
of the skin back in,
42
107000
2000
les reflets spéculaires sur la peau
02:07
and you can see she looks kind of shiny and oily at this point.
43
109000
3000
et vous pouvez voir que sa peau semble très brillante et huilée maintenant.
02:10
If you take the difference between these two images here,
44
112000
3000
Si l'on soustrait les différences entre ces deux images là,
02:13
you can get an image lit from the entire sphere of light
45
115000
2000
on peut obtenir une image éclairée par toute la sphère de lumière
02:15
of just the shine off of Emily's skin.
46
117000
3000
ou bien uniquement la brillance de la peau d'Emily.
02:18
I don't think any photograph like this had ever been taken
47
120000
2000
Je crois qu'aucune photo de ce type n'a jamais été prise
02:20
before we had done this.
48
122000
2000
avant la nôtre.
02:22
And this is very important light to capture,
49
124000
3000
Et cette lumière est extrêmement importante à saisir,
02:25
because this is the light that reflects off the first surface of the skin.
50
127000
2000
car c'est la lumière qui se reflète à la surface de la peau.
02:27
It doesn't get underneath the translucent
51
129000
2000
Elle ne pénètre pas au delà des couches
02:29
layers of the skin and blur out.
52
131000
2000
translucides de la peau pour s'y dissiper.
02:31
And, as a result, it's a very good cue
53
133000
2000
Et le résultat est une très bonne indication
02:33
to the detailed shape of the skin-pore structure
54
135000
3000
de la forme détaillée de la structure poreuse de la peau
02:36
and all of the fine wrinkles that all of us have,
55
138000
2000
et de toutes les fines rides que nous avons tous,
02:38
the things that actually make us look like real humans.
56
140000
2000
exactement le genre de chose qui nous donnent l'aspect de vrais humains.
02:40
So, if we use information that comes off of this specular reflection,
57
142000
4000
Donc, si nous utilisons ces données venant des reflets spéculaires
02:44
we can go from a traditional face scan
58
146000
2000
nous pouvons aller d'un scan traditionnel de visage
02:46
that might have the gross contours of the face and the basic shape,
59
148000
4000
qui pourrait avoir les contours grossiers et la forme basique du visage,
02:50
and augment it with information
60
152000
2000
et ajouter les informations
02:52
that puts in all of that skin pore structure and fine wrinkles.
61
154000
3000
nécessaires à cette structure poreuse et aux fines rides de la peau.
02:55
And, even more importantly,
62
157000
2000
Et, plus important encore,
02:57
since this is a photometric process that only takes three seconds to capture,
63
159000
3000
puisque c'est un processus photométrique qui ne prend que trois secondes,
03:00
we can shoot Emily
64
162000
2000
nous pouvons photographier Emily
03:02
in just part of an afternoon,
65
164000
2000
seulement en une partie de l'après-midi,
03:04
in many different facial poses and facial expressions.
66
166000
3000
en de nombreuses positions et expressions faciales.
03:07
So, here you can see her moving her eyes around, moving her mouth around.
67
169000
3000
Ici, vous pouvez la voir bouger ses yeux et sa bouche.
03:10
And these we're actually going to use to create a photo-real digital character.
68
172000
3000
Et nous nous en servirons pour créer notre personnage de synthèse photo-realiste.
03:13
If you take a look at these scans that we have of Emily,
69
175000
4000
Si vous regardez ces scans que nous avons d'Emily,
03:17
you can see that the human face does an enormous amount of amazing things
70
179000
3000
vous pouvez voir que le visage humain est capable d'un nombre impressionnant de choses
03:20
as it goes into different facial expressions.
71
182000
3000
lorsqu'il exprime différents sentiments.
03:23
You can see things. Not only the face shape changes,
72
185000
3000
Vous pouvez voir ces choses. Non seulement le visage change,
03:26
but all sorts of different skin buckling and skin wrinkling occurs.
73
188000
4000
mais plein de plis et de rides apparaissent.
03:30
You can see that the skin pore structure changes enormously
74
192000
4000
Vous pouvez voir que la structure poreuse de la peau change
03:34
from stretched skin pores
75
196000
2000
énormément entre les pores étirées
03:36
to the regular skin texture.
76
198000
2000
et la texture habituelle de la peau.
03:38
You can see the furrows in the brow and how the microstructure changes there.
77
200000
3000
Vous pouvez voir les froncements du front, et comment la micro-structure change là.
03:41
You can see muscles pulling down at flesh to bring her eyebrows down.
78
203000
4000
Vous pouvez voir les muscles tirer vers le bas pour faire descendre ses sourcils.
03:45
Her muscles bulging in her forehead when she winces like that.
79
207000
3000
Ses muscles se bomber sur son front lorsqu'elle grimace comme cela.
03:48
In addition to this kind of high-resolution geometry,
80
210000
3000
En plus de toute cette sorte de géométrie haute résolution,
03:51
since it's all captured with cameras, we've got a great texture map to use for the face.
81
213000
4000
puisque c'est pris avec des caméras, on a un superbe plan de textures pour son visage.
03:55
And by looking at how the different color channels of the illumination,
82
217000
2000
Et en observant comment les différents canaux de colorimétrie,
03:57
the red and the green and the blue,
83
219000
2000
le rouge, le vert et le bleu,
03:59
diffuse the light differently,
84
221000
2000
diffusent la lumière de façon différente,
04:01
we can come up with a way of shading the skin on the computer.
85
223000
3000
nous pouvons trouver une façon d'ajouter des tons à la peau sur l'ordinateur.
04:04
Then, instead of looking like a plaster mannequin,
86
226000
3000
Et ainsi, plutôt que de ressembler a un mannequin de plâtre,
04:07
it actually looks like it's made out of living human flesh.
87
229000
3000
cela semble être fait de chair humaine bien vivante.
04:10
And this is what we used
88
232000
2000
Et nous nous sommes servis de ça
04:12
to give to the company Image Metrics
89
234000
2000
au service de l'entreprise Image Metrics
04:14
to create a rigged, digital version of Emily.
90
236000
3000
pour créer une version numérique d'Emily.
04:17
We're just seeing the coarse-scale geometry here.
91
239000
2000
Nous ne voyons que les formes basiques ici.
04:19
But they basically created a digital puppet of her,
92
241000
3000
Mais ils ont en gros créé une marionnette numérique d'elle,
04:22
where you can pull on these various strings,
93
244000
2000
sur laquelle nous pouvons tirer sur ces différentes ficelles,
04:24
and it actually moves her face in ways that are
94
246000
2000
et elles font bouger son visage de façon complètement
04:26
completely consistent with the scans that we took.
95
248000
2000
en accord avec les scans que nous avons pris.
04:28
And, in addition to the coarse-scale geometry,
96
250000
2000
Et, en plus des formes basiques,
04:30
they also used all of that detail
97
252000
2000
ils ont également utilisé tous ces détails
04:32
to create a set of what are called "displacement maps"
98
254000
3000
pour créer une série de "plans de déplacement"
04:35
that animate as well.
99
257000
3000
qui peuvent être animées également.
04:38
These are the displacement maps here.
100
260000
2000
Voici les plans de déplacement.
04:40
And you can see those different wrinkles actually show up as she animates.
101
262000
3000
Et vous pouvez voir les différentes rides apparaître lorsqu'elle s'anime.
04:43
So the next process was then to animate her.
102
265000
2000
Donc le processus suivant était de l'animer.
04:45
We actually used one of her own performances to provide the source data.
103
267000
4000
Nous avons en fait utilisé une de ses performance comme source de données.
04:49
So, by analyzing this video with computer vision techniques,
104
271000
3000
Et en analysant la vidéo avec des méthodes de tracking par ordinateur,
04:52
they were able to drive the facial rig
105
274000
2000
ils ont été capable de synchroniser le modèle de son visage
04:54
with the computer-generated performance.
106
276000
2000
avec la performance générée par l'ordinateur.
04:56
So what you're going to see now, after this,
107
278000
2000
Ce que vous allez voir maintenant, après ceci,
04:58
is a completely photo-real digital face.
108
280000
2000
est un visage entièrement numérique et photo-réaliste.
05:00
We can turn the volume up a little bit if that's available.
109
282000
2000
On peut augmenter le volume un petit peu si possible.
05:02
Emily: Image Metrics is a markerless, performance-driven animation company.
110
284000
4000
Emily : Image Metrics est une entreprise d'animation sans tracking, basée sur la performance humaine.
05:06
We specialize in high-quality facial animation
111
288000
3000
Nous sommes spécialisés dans l'animation haute résolution de visages
05:09
for video games and films.
112
291000
2000
pour films et jeux vidéos.
05:11
Image Metrics is a markerless, performance-driven animation company.
113
293000
4000
Image Metrics est une entreprise d'animation sans tracking, basée sur la performance humaine.
05:15
We specialize in high quality facial animation
114
297000
3000
Nous sommes spécialisés dans l'animation haute résolution de visages
05:18
for video games and films.
115
300000
3000
pour films et jeux vidéos.
05:21
Paul Debevec: So, if we break that down into layers, here's that diffuse component
116
303000
2000
Paul Debevec : En décomposant tout ceci en couches, voici la texture diffuse
05:23
we saw in the first slide.
117
305000
2000
que nous avons vu en première partie.
05:25
Here is the specular component animating.
118
307000
2000
Voici l'animation des reflets spéculaires.
05:27
You can see all the wrinkles happening there.
119
309000
2000
Vous pouvez voir toutes les rides apparaître ici.
05:29
And there is the underlying wireframe mesh.
120
311000
5000
Et voici la maquette de base.
05:34
And that is Emily herself.
121
316000
2000
Et voici la vraie Emily.
05:36
Now, where are we going with this here?
122
318000
2000
Alors maintenant, que faire de tout ça?
05:38
We've gone a little bit beyond Light Stage 5. This is Light Stage 6,
123
320000
4000
Nous sommes allés un peu plus loin que le Light Stage 5. Voici Light Stage 6.
05:42
and we're looking at taking this technology
124
324000
2000
Et nous étudions la possibilité d'utiliser cette technologie
05:44
and applying it to whole human bodies.
125
326000
2000
en l'appliquant sur le corps humain complet.
05:46
This is Bruce Lawmen, one of our researchers in the group,
126
328000
2000
Voici Bruce Lawmen, un des chercheurs du groupe,
05:48
who graciously agreed to get captured running in the Light Stage.
127
330000
3000
qui a gentiment accepté de se faire numériser en courant.
05:51
And let's take a look at a computer-generated version
128
333000
2000
Et voilà ce que ça donne dans la version générée par ordinateur
05:53
of Bruce, running in a new environment.
129
335000
2000
de Bruce, courant dans un nouvel environnement.
06:01
And thank you very much.
130
343000
2000
Merci beaucoup.
06:03
(Applause)
131
345000
1000
(Applaudissements)
ABOUT THE SPEAKER
Paul Debevec - Computer graphics pioneerPaul Debevec's digital inventions have powered the breathtaking visual effects in films like The Matrix, Superman Returns, King Kong and The Curious Case of Benjamin Button.
Why you should listen
Called "Hollywood's Master of Light" by MIT's Technology Review, Paul Debevec leads the Graphics Laboratory at USC's Institute for Creative Technologies, where he directs the development of the Light Stage systems, which capture and simulate how people and objects appear in real-world illumination.
His work on lighting digital objects has been used in films like X-Men, The Golden Compass and Terminator: Salvation. He leads the design of HDR Shop, the first high-dynamic-range image editing program. He has collaborated with TEDster Golan Levin on an interactive art installation called Rouen Revisited.
Paul Debevec | Speaker | TED.com