TEDxUSC
Paul Debevec: Animating a photo-real digital face
Paul Debevec anima una faccia digitale foto reale
Filmed:
Readability: 4.8
881,584 views
A TEDxUSC, il pionere della grafica computerizzata Paul Debevec spiega la tecnologia dietro a Digital Emily, una ricostruzione digitale così realistica che si adatta a molti impieghi.
Paul Debevec - Computer graphics pioneer
Paul Debevec's digital inventions have powered the breathtaking visual effects in films like The Matrix, Superman Returns, King Kong and The Curious Case of Benjamin Button. Full bio
Paul Debevec's digital inventions have powered the breathtaking visual effects in films like The Matrix, Superman Returns, King Kong and The Curious Case of Benjamin Button. Full bio
Double-click the English transcript below to play the video.
00:18
One of the biggest challenges in computer graphics
0
0
3000
Una delle più grandi sfide nella computer grafica
00:21
has been being able to create a photo-real,
1
3000
2000
è essere in grado di creare una faccia umana digitale
00:23
digital human face.
2
5000
2000
fotorealistica.
00:25
And one of the reasons it is so difficult is that, unlike aliens and dinosaurs,
3
7000
3000
E una delle ragioni per cui è così difficile è che, a differenza degli alieni e dei dinosauri,
00:28
we look at human faces every day.
4
10000
3000
vediamo facce umane ogni giorno.
00:31
They are very important to how we communicate with each other.
5
13000
2000
Sono molto importanti per esprimere ciò che comunichiamo agli altri.
00:33
As a result, we're tuned in to the subtlest things
6
15000
3000
Come risultato, siamo attenti ai dettagli
00:36
that could possibly be wrong with a computer rendering,
7
18000
2000
che possono essere sbagliati in un rendering computerizzato,
00:38
in order to believe whether these things are realistic.
8
20000
3000
per credere se queste cose sono realistiche.
00:41
And what I'm going to do in the next five minutes
9
23000
2000
E quello che sto per fare nei prossimi cinque minuti
00:43
is take you through a process
10
25000
2000
è portarvi attraverso il processo
00:45
where we tried to create a reasonably photo-realistic computer-generated face,
11
27000
3000
con il quale abbiamo provato a creare una faccia computerizzata foto realistica
00:48
using some computer graphics technology we've developed,
12
30000
3000
usando qualche tecnologia di computer-grafica che abbiamo sviluppato,
00:51
and also some collaborators at a company called Image Metrics.
13
33000
2000
e anche qualche collaboratore di una compagnia chiamata Image Metrics.
00:53
And we're going to try to do a photo-real face
14
35000
2000
E proveremo a ricreare,foto realisticamente, la faccia
00:55
of an actress named Emily O'Brien, who is right there.
15
37000
3000
di un'attrice chiamata Emily O'Brien, che è proprio lì.
00:58
And that's actually a completely computer-generated rendering of her face.
16
40000
3000
E in effetti quello è un rendering generato completamente al computer della sua faccia.
01:01
By the end of the talk, we're going to see it move.
17
43000
2000
Per la fine del nostro discorso, lo vedermo muoversi.
01:03
The way that we did this is we tried to start with Emily herself,
18
45000
3000
Abbiamo fatto ciò provando a iniziare con la stessa Emily,
01:06
who was gracious enough to come to our laboratory
19
48000
3000
che è stata così gentile da venire ai nostri laboratori
01:09
in Marina Del Rey, and sit for a session in Light Stage 5.
20
51000
3000
a Marina Del Rey, e sedersi per una sessione nel Light Stage 5.
01:12
This is a face-scanning sphere, with 156 white LEDs all around
21
54000
4000
Questa è una sfera per analizzare i volti, con 156 LED bianchi tutti intorno,
01:16
that allow us to photograph her
22
58000
2000
che ci permettono di fotografarla.
01:18
in a series of very controlled illumination conditions.
23
60000
3000
in una serie di condizioni luminose ben controllate.
01:21
And the lighting that we use these days looks something like this.
24
63000
3000
E la luce che usiamo questi giorni assomiglia a questa.
01:24
We shoot all of these photographs in about three seconds.
25
66000
2000
Abbiamo scattato tutte queste foto in circa tre secondi.
01:26
And we basically capture enough information
26
68000
3000
E riusciamo a catturare abbastanza informazioni
01:29
with video projector patterns that drape over the contours of her face,
27
71000
4000
con la tracce del video poriettore che coprono i contorni della sua faccia,
01:33
and different principle directions of light from the light stage,
28
75000
2000
e diverse direzioni principali della luce dall'ambiente luminoso,
01:35
to figure out both the coarse-scale
29
77000
2000
per capire contemporaneamente il livello di dettagli
01:37
and the fine-scale detail of her face.
30
79000
2000
grezzo ed elaborato della sua faccia.
01:39
If we zoom in on this photograph right here,
31
81000
2000
Se ingrandiamo questa foto qui,
01:41
we can see it's a really nice photograph to have of her,
32
83000
2000
vediamo che è un'ottima foto di Emily da avere,
01:43
because she is lit from absolutely everywhere at the same time
33
85000
4000
perchè è illuminata da tutte le parti contemporaneamente
01:47
to get a nice image of her facial texture.
34
89000
2000
permettendo di avere una buona immagine della sua texture facciale.
01:49
And in addition, we've actually used polarizers on all the lights --
35
91000
3000
E in più, abbiamo usato dei polarizzatori su tutte le luci --
01:52
just like polarized sunglasses can block
36
94000
2000
proprio come gli occhiali da sole polarizzati riescono a bloccare
01:54
the glare off of the road,
37
96000
2000
il bagliore della strada,
01:56
polarizers can block the shine off of the skin,
38
98000
2000
i polarizzatori riescono a bloccare la lucidità della pelle,
01:58
so we don't get all those specular reflections to take this map.
39
100000
3000
così non otterremo tutti quei riflessi speculari nell'ottenere questa mappa.
02:01
Now, if we turn the polarizers around just a little bit,
40
103000
2000
Ora, se giriamo i polarizzatori solo un pò,
02:03
we can actually bring that specular reflection
41
105000
2000
possiamo riportare indietro quel riflesso speculare
02:05
of the skin back in,
42
107000
2000
della pelle indietro,
02:07
and you can see she looks kind of shiny and oily at this point.
43
109000
3000
e potete vedere come ora appare lucida e unta ora.
02:10
If you take the difference between these two images here,
44
112000
3000
Se prendete le differenze tra queste due immagini,
02:13
you can get an image lit from the entire sphere of light
45
115000
2000
potete ottenere un'immagine illuminata da tutta la sfera di luce
02:15
of just the shine off of Emily's skin.
46
117000
3000
esclusivamente della lucidità della pelle di Emily.
02:18
I don't think any photograph like this had ever been taken
47
120000
2000
Non penso che una foto come questa sia mai stata scattata,
02:20
before we had done this.
48
122000
2000
prima che noi facessimo questo.
02:22
And this is very important light to capture,
49
124000
3000
E questo è un tipo di luce molto importante da prendere,
02:25
because this is the light that reflects off the first surface of the skin.
50
127000
2000
perchè è la prima luce riflessa dal primo strato della pelle
02:27
It doesn't get underneath the translucent
51
129000
2000
Non va sotto gli strati traslucidi
02:29
layers of the skin and blur out.
52
131000
2000
della pelle e offusca il resto.
02:31
And, as a result, it's a very good cue
53
133000
2000
E, come risultato, è un buon inizio
02:33
to the detailed shape of the skin-pore structure
54
135000
3000
per la forma dettagliata della struttura dei pori
02:36
and all of the fine wrinkles that all of us have,
55
138000
2000
e tutte quelle sottitli rughe che tutti abbiamo,
02:38
the things that actually make us look like real humans.
56
140000
2000
le cose che in effetti ci fanno sembrare davvero umani
02:40
So, if we use information that comes off of this specular reflection,
57
142000
4000
Quindi, se usiamo le informazioni che ci arrivano da questo riflesso speculare
02:44
we can go from a traditional face scan
58
146000
2000
possiamo passare da un tradizionale volto
02:46
that might have the gross contours of the face and the basic shape,
59
148000
4000
che può avere contorni irregolari e la sua struttura base,
02:50
and augment it with information
60
152000
2000
e perfezionarlo con informazioni
02:52
that puts in all of that skin pore structure and fine wrinkles.
61
154000
3000
che racchiudono la struttura di tutti i pori e di quelle rughe sottili.
02:55
And, even more importantly,
62
157000
2000
E, ancora più importante,
02:57
since this is a photometric process that only takes three seconds to capture,
63
159000
3000
dato che questo è un processo fotometrico che impega solo tre secondi,
03:00
we can shoot Emily
64
162000
2000
possiamo riprendere Emily
03:02
in just part of an afternoon,
65
164000
2000
solo in una parte del pomeriggio,
03:04
in many different facial poses and facial expressions.
66
166000
3000
in molte pose ed espressioni facciali differenti.
03:07
So, here you can see her moving her eyes around, moving her mouth around.
67
169000
3000
Quindi, qui potete vedere come muove gli occhi, muovendo anche la bocca.
03:10
And these we're actually going to use to create a photo-real digital character.
68
172000
3000
E useremo tutto ciò per creare il personaggio digitale.
03:13
If you take a look at these scans that we have of Emily,
69
175000
4000
Se guardate questi scan che abbiamo di Emily,
03:17
you can see that the human face does an enormous amount of amazing things
70
179000
3000
potete notare che il viso umano può fare molte cose sorprendenti
03:20
as it goes into different facial expressions.
71
182000
3000
assumendo diverese espressioni.
03:23
You can see things. Not only the face shape changes,
72
185000
3000
Potete vedere. Non cambia solo la forma del viso,
03:26
but all sorts of different skin buckling and skin wrinkling occurs.
73
188000
4000
ma anche tutte quelle pieghe e quelle rughe della pelle.
03:30
You can see that the skin pore structure changes enormously
74
192000
4000
Potete vedere che la struttura dei pori cambia tantissimo
03:34
from stretched skin pores
75
196000
2000
dai pori distesi,
03:36
to the regular skin texture.
76
198000
2000
alla consistenza normale della pelle.
03:38
You can see the furrows in the brow and how the microstructure changes there.
77
200000
3000
Potete vedere i solchi sulla fronte e come cambi la microstruttura lì.
03:41
You can see muscles pulling down at flesh to bring her eyebrows down.
78
203000
4000
Vedete i muscoli tirare la carne per portare le sopracciglia giù.
03:45
Her muscles bulging in her forehead when she winces like that.
79
207000
3000
I muscoli che si rigonfiano sulla fronte quando fa quella smorfia.
03:48
In addition to this kind of high-resolution geometry,
80
210000
3000
In aggiunta a questo tipo di geometria ad alta risoluzione,
03:51
since it's all captured with cameras, we've got a great texture map to use for the face.
81
213000
4000
dal momento che è tutto ripreso dalle camere, otteniamo un'ottima mappa di texture da usare per il viso.
03:55
And by looking at how the different color channels of the illumination,
82
217000
2000
E guardando come i differenti canali di colore della luce,
03:57
the red and the green and the blue,
83
219000
2000
il rosso, il verde e il blu,
03:59
diffuse the light differently,
84
221000
2000
diffondono la luce in modo diverso,
04:01
we can come up with a way of shading the skin on the computer.
85
223000
3000
possiamo ricavare un modo per creare le ombre della pelle al computer.
04:04
Then, instead of looking like a plaster mannequin,
86
226000
3000
Quindi, invece di sembrare un manichino di plastica,
04:07
it actually looks like it's made out of living human flesh.
87
229000
3000
sembra fatto di vera carne umana.
04:10
And this is what we used
88
232000
2000
Questo è ciò che abbiamo dato
04:12
to give to the company Image Metrics
89
234000
2000
alla Image Metrics
04:14
to create a rigged, digital version of Emily.
90
236000
3000
per creare una versione digitale di Emily.
04:17
We're just seeing the coarse-scale geometry here.
91
239000
2000
Stiamo vedendo solo la scala geometrica grossolana qui.
04:19
But they basically created a digital puppet of her,
92
241000
3000
Ma hanno praticamente creato un suo pupazzo digitale,
04:22
where you can pull on these various strings,
93
244000
2000
modificabile con queste variabili,
04:24
and it actually moves her face in ways that are
94
246000
2000
e far muovere il viso coerentemente
04:26
completely consistent with the scans that we took.
95
248000
2000
alle analisi che abbiamo preso.
04:28
And, in addition to the coarse-scale geometry,
96
250000
2000
E, in aggiunta alla scala geometrica grossolana,
04:30
they also used all of that detail
97
252000
2000
hanno usato anche tutti quei dettagli
04:32
to create a set of what are called "displacement maps"
98
254000
3000
per creare una raccolta di quelle che chiamiamo "displacement maps"
04:35
that animate as well.
99
257000
3000
che anche possono essere animate.
04:38
These are the displacement maps here.
100
260000
2000
Queste sono le "displacement maps".
04:40
And you can see those different wrinkles actually show up as she animates.
101
262000
3000
E vedete come quelle rughe si mostrano davvero quando si muove.
04:43
So the next process was then to animate her.
102
265000
2000
Quindi il prossimo processo e riuscire ad animarla.
04:45
We actually used one of her own performances to provide the source data.
103
267000
4000
Abbiamo usato una delle sue performance come fonte di dati.
04:49
So, by analyzing this video with computer vision techniques,
104
271000
3000
Così, analizzando il video con tecniche computerizzate,
04:52
they were able to drive the facial rig
105
274000
2000
sono riusciti a guidare la struttura facciale
04:54
with the computer-generated performance.
106
276000
2000
con la performance generata al computer.
04:56
So what you're going to see now, after this,
107
278000
2000
Quindi, ciò che vedrete dopo questo
04:58
is a completely photo-real digital face.
108
280000
2000
è un volto foto reale completamente digitale.
05:00
We can turn the volume up a little bit if that's available.
109
282000
2000
Possiamo aumentare un pò il volume se è possibile.
05:02
Emily: Image Metrics is a markerless, performance-driven animation company.
110
284000
4000
Emily: Image Metrics è una compagnia d'animazione attenta ai rendimenti.
05:06
We specialize in high-quality facial animation
111
288000
3000
Siamo specializzati in animazioni facciali ad alta qualità
05:09
for video games and films.
112
291000
2000
per videogiochi e film.
05:11
Image Metrics is a markerless, performance-driven animation company.
113
293000
4000
Image Metrics è una compagnia d'animazione attenta ai rendimenti.
05:15
We specialize in high quality facial animation
114
297000
3000
Siamo specializzati in animazioni facciali ad alta qualità
05:18
for video games and films.
115
300000
3000
per videogiochi e film.
05:21
Paul Debevec: So, if we break that down into layers, here's that diffuse component
116
303000
2000
Paul Debevec: Quindi, se lo scomponiamo in livelli, qui c'è quella componente diffusa
05:23
we saw in the first slide.
117
305000
2000
che abbiamo visto nelle prime slide.
05:25
Here is the specular component animating.
118
307000
2000
Qui c'è la componente speculare in movimento.
05:27
You can see all the wrinkles happening there.
119
309000
2000
Potete vedere le rughe muoversi lì.
05:29
And there is the underlying wireframe mesh.
120
311000
5000
E lì c'è la maglia wireframe che è alla base.
05:34
And that is Emily herself.
121
316000
2000
E quella è la vera Emily.
05:36
Now, where are we going with this here?
122
318000
2000
Ora, dove stiamo andando con tutto ciò?
05:38
We've gone a little bit beyond Light Stage 5. This is Light Stage 6,
123
320000
4000
Siamo andati un pò oltre al Light Stage 5. Questo è il Light stage 6.
05:42
and we're looking at taking this technology
124
324000
2000
E stiamo cercando di applicare questa tecnologia
05:44
and applying it to whole human bodies.
125
326000
2000
a tutto il corpo umano.
05:46
This is Bruce Lawmen, one of our researchers in the group,
126
328000
2000
Questo è Bruce Lawmen, uno dei nostri ricercatori,
05:48
who graciously agreed to get captured running in the Light Stage.
127
330000
3000
che ha cortesemente accettato a essere ripreso mentre corre nel Light Stage.
05:51
And let's take a look at a computer-generated version
128
333000
2000
E vediamo la versione computerizzata
05:53
of Bruce, running in a new environment.
129
335000
2000
di Bruce, correre in un ambiente differente.
06:01
And thank you very much.
130
343000
2000
E grazie mille.
06:03
(Applause)
131
345000
1000
(Applausi)
ABOUT THE SPEAKER
Paul Debevec - Computer graphics pioneerPaul Debevec's digital inventions have powered the breathtaking visual effects in films like The Matrix, Superman Returns, King Kong and The Curious Case of Benjamin Button.
Why you should listen
Called "Hollywood's Master of Light" by MIT's Technology Review, Paul Debevec leads the Graphics Laboratory at USC's Institute for Creative Technologies, where he directs the development of the Light Stage systems, which capture and simulate how people and objects appear in real-world illumination.
His work on lighting digital objects has been used in films like X-Men, The Golden Compass and Terminator: Salvation. He leads the design of HDR Shop, the first high-dynamic-range image editing program. He has collaborated with TEDster Golan Levin on an interactive art installation called Rouen Revisited.
Paul Debevec | Speaker | TED.com