TEDxUSC
Paul Debevec: Animating a photo-real digital face
Paul Debevec anima um rosto digital foto-realista
Filmed:
Readability: 4.8
881,584 views
Na TEDxUSC, o pioneiro de gráficos de computador Paul Debevec explica a tecnologia usurpadora de cenas por detrás de Digital Emily, um rosto humano construído digitalmente de forma tão realista que é capaz de enfrentar múltiplos takes.
Paul Debevec - Computer graphics pioneer
Paul Debevec's digital inventions have powered the breathtaking visual effects in films like The Matrix, Superman Returns, King Kong and The Curious Case of Benjamin Button. Full bio
Paul Debevec's digital inventions have powered the breathtaking visual effects in films like The Matrix, Superman Returns, King Kong and The Curious Case of Benjamin Button. Full bio
Double-click the English transcript below to play the video.
00:18
One of the biggest challenges in computer graphics
0
0
3000
Um dos maiores desafios em gráficos de computador
00:21
has been being able to create a photo-real,
1
3000
2000
tem sido ser capaz de criar um rosto humano digital
00:23
digital human face.
2
5000
2000
foto-realista.
00:25
And one of the reasons it is so difficult is that, unlike aliens and dinosaurs,
3
7000
3000
E uma das razões de ser tão difícil é que, ao contrário dos extraterrestres e dinossauros,
00:28
we look at human faces every day.
4
10000
3000
nós olhamos para rostos humanos todos os dias.
00:31
They are very important to how we communicate with each other.
5
13000
2000
São muito importantes para a forma como comunicamos uns com os outros.
00:33
As a result, we're tuned in to the subtlest things
6
15000
3000
Como resultado, estamos sintonizados nas coisas mais subtis
00:36
that could possibly be wrong with a computer rendering,
7
18000
2000
que possam estar erradas com uma renderização de computador,
00:38
in order to believe whether these things are realistic.
8
20000
3000
para podermos acreditar que estas coisas são realistas.
00:41
And what I'm going to do in the next five minutes
9
23000
2000
E o que vou fazer nos próximos cinco minutos
00:43
is take you through a process
10
25000
2000
é conduzir-vos através de um processo
00:45
where we tried to create a reasonably photo-realistic computer-generated face,
11
27000
3000
em que tentámos criar um rosto gerado por computador razoavelmente realista,
00:48
using some computer graphics technology we've developed,
12
30000
3000
usando alguma tecnologia de gráficos de computador que desenvolvemos,
00:51
and also some collaborators at a company called Image Metrics.
13
33000
2000
e também alguns colaboradores numa empresa chamada Image Metrics.
00:53
And we're going to try to do a photo-real face
14
35000
2000
E vamos tentar fazer um rosto foto-realista
00:55
of an actress named Emily O'Brien, who is right there.
15
37000
3000
de uma actriz chamada Emily O'Brien, que está mesmo ali.
00:58
And that's actually a completely computer-generated rendering of her face.
16
40000
3000
E esta é, na verdade, uma renderização do rosto dela completamente gerada por computador.
01:01
By the end of the talk, we're going to see it move.
17
43000
2000
No final da palestra, vamos vê-lo a mexer-se.
01:03
The way that we did this is we tried to start with Emily herself,
18
45000
3000
A forma como o fizemos foi tentar começar com a própria Emily,
01:06
who was gracious enough to come to our laboratory
19
48000
3000
que teve a amabilidade de vir até ao nosso laboratório
01:09
in Marina Del Rey, and sit for a session in Light Stage 5.
20
51000
3000
em Marina Del Rey, e ficar sentada para uma sessão no Ligth Stage 5.
01:12
This is a face-scanning sphere, with 156 white LEDs all around
21
54000
4000
Isto é uma esfera de digitalização da cabeça, com 156 LEDs brancos a toda à volta,
01:16
that allow us to photograph her
22
58000
2000
que nos permitem fotografá-la
01:18
in a series of very controlled illumination conditions.
23
60000
3000
numa série de condições de iluminação muito controladas.
01:21
And the lighting that we use these days looks something like this.
24
63000
3000
E o tipo de luz que andamos a usar é algo deste género.
01:24
We shoot all of these photographs in about three seconds.
25
66000
2000
Registamos todas estas fotografias em cerca de três segundos.
01:26
And we basically capture enough information
26
68000
3000
E basicamente capturamos informação suficiente
01:29
with video projector patterns that drape over the contours of her face,
27
71000
4000
com padrões de projector de vídeo que varrem os contornos do seu rosto,
01:33
and different principle directions of light from the light stage,
28
75000
2000
e diferentes princípios de direcções de luz a partir do palco de luz,
01:35
to figure out both the coarse-scale
29
77000
2000
para calcular quer a grande escala
01:37
and the fine-scale detail of her face.
30
79000
2000
quer os detalhes da pequena escala do seu rosto.
01:39
If we zoom in on this photograph right here,
31
81000
2000
Se aproximarmos esta fotografia aqui,
01:41
we can see it's a really nice photograph to have of her,
32
83000
2000
podemos ver que é uma bela foto para ter dela,
01:43
because she is lit from absolutely everywhere at the same time
33
85000
4000
porque ela está iluminada de absolutamente todos os lados ao mesmo tempo
01:47
to get a nice image of her facial texture.
34
89000
2000
para se ter uma boa imagem da sua textura facial.
01:49
And in addition, we've actually used polarizers on all the lights --
35
91000
3000
E para além disso, na verdade usámos polarizadores em todas as luzes --
01:52
just like polarized sunglasses can block
36
94000
2000
tal como os óculos de sol polarizados conseguem bloquear
01:54
the glare off of the road,
37
96000
2000
o encandeamento na estrada,
01:56
polarizers can block the shine off of the skin,
38
98000
2000
os polarizadores conseguem bloquear o brilho da pele,
01:58
so we don't get all those specular reflections to take this map.
39
100000
3000
para que não tenhamos todos aqueles reflexos especulares a tomar conta deste mapa.
02:01
Now, if we turn the polarizers around just a little bit,
40
103000
2000
Ora, se rodarmos os polarizadores só um pouco,
02:03
we can actually bring that specular reflection
41
105000
2000
podemos, na verdade, trazer de volta aquela reflexão especular
02:05
of the skin back in,
42
107000
2000
da pele
02:07
and you can see she looks kind of shiny and oily at this point.
43
109000
3000
e podem ver que ela agora parece algo brilhante e oleosa.
02:10
If you take the difference between these two images here,
44
112000
3000
Se tirarmos a diferença entre estas duas imagens aqui,
02:13
you can get an image lit from the entire sphere of light
45
115000
2000
podemos obter uma imagem iluminada a partir de toda a esfera de luz
02:15
of just the shine off of Emily's skin.
46
117000
3000
só do brilho da pele de Emily.
02:18
I don't think any photograph like this had ever been taken
47
120000
2000
Creio que nunca foi tirada uma fotografia como esta
02:20
before we had done this.
48
122000
2000
antes de termos feito isto.
02:22
And this is very important light to capture,
49
124000
3000
E trata-se de luz muito importante para capturar,
02:25
because this is the light that reflects off the first surface of the skin.
50
127000
2000
porque é esta luz que é reflectida na primeira superfície da pele.
02:27
It doesn't get underneath the translucent
51
129000
2000
Não atravessa as camadas translúcidas
02:29
layers of the skin and blur out.
52
131000
2000
da pele para a seguir se esbater.
02:31
And, as a result, it's a very good cue
53
133000
2000
E o que resulta é uma pista muito boa
02:33
to the detailed shape of the skin-pore structure
54
135000
3000
para a forma detalhada da estrutura dos poros da pele
02:36
and all of the fine wrinkles that all of us have,
55
138000
2000
e para todas as pequenas rugas que todos nós temos,
02:38
the things that actually make us look like real humans.
56
140000
2000
as coisas que realmente nos fazem ter o aspecto de humanos verdadeiros.
02:40
So, if we use information that comes off of this specular reflection,
57
142000
4000
Então, se usarmos informação obtida a partir desta reflexão especular
02:44
we can go from a traditional face scan
58
146000
2000
podemos ir de uma digitalização do rosto tradicional
02:46
that might have the gross contours of the face and the basic shape,
59
148000
4000
que talvez tenha os contornos sem detalhe do rosto e o perfil básico,
02:50
and augment it with information
60
152000
2000
e incrementá-la com informação
02:52
that puts in all of that skin pore structure and fine wrinkles.
61
154000
3000
que acrescenta toda essa estrutura de poros da pele e de rugas detalhadas.
02:55
And, even more importantly,
62
157000
2000
E, ainda mais importante,
02:57
since this is a photometric process that only takes three seconds to capture,
63
159000
3000
como este é um processo fotométrico que demora apenas três segundos a capturar,
03:00
we can shoot Emily
64
162000
2000
podemos fotografar a Emily
03:02
in just part of an afternoon,
65
164000
2000
em apenas uma parte da tarde,
03:04
in many different facial poses and facial expressions.
66
166000
3000
em muitas poses faciais e expressões faciais diferentes.
03:07
So, here you can see her moving her eyes around, moving her mouth around.
67
169000
3000
Então, aqui podem vê-la a mover os olhos, a mover a boca.
03:10
And these we're actually going to use to create a photo-real digital character.
68
172000
3000
E estes movimentos vamos realmente usá-los para criar uma personagem digital foto-realista.
03:13
If you take a look at these scans that we have of Emily,
69
175000
4000
Se derem uma olhadela a estas digitalizações da Emily,
03:17
you can see that the human face does an enormous amount of amazing things
70
179000
3000
podem ver que o rosto humano faz uma quantidade enorme de coisas espantosas
03:20
as it goes into different facial expressions.
71
182000
3000
à medida que passa por diferentes expressões faciais.
03:23
You can see things. Not only the face shape changes,
72
185000
3000
Podem ver coisas. Não só as mudanças da forma do rosto,
03:26
but all sorts of different skin buckling and skin wrinkling occurs.
73
188000
4000
mas todo o tipo de diferentes curvaturas e rugas da pele.
03:30
You can see that the skin pore structure changes enormously
74
192000
4000
Podem ver que a estrutura de poros da pele muda enormemente
03:34
from stretched skin pores
75
196000
2000
desde poros distendidos,
03:36
to the regular skin texture.
76
198000
2000
até à textura regular da pele.
03:38
You can see the furrows in the brow and how the microstructure changes there.
77
200000
3000
Podem ver os sulcos da sobrancelha e como a microestrutura ali muda.
03:41
You can see muscles pulling down at flesh to bring her eyebrows down.
78
203000
4000
Podem ver músculos a puxar os tecidos para trazer as sobrancelhas para baixo.
03:45
Her muscles bulging in her forehead when she winces like that.
79
207000
3000
Os músculos arqueando-se na testa quando ela se contrai desta forma.
03:48
In addition to this kind of high-resolution geometry,
80
210000
3000
Além deste tipo de geometria de alta-resolução,
03:51
since it's all captured with cameras, we've got a great texture map to use for the face.
81
213000
4000
como é tudo capturado com câmaras, temos um excelente mapa de texturas para usar para o rosto.
03:55
And by looking at how the different color channels of the illumination,
82
217000
2000
E ao ver como os diferentes canais de cor da iluminação,
03:57
the red and the green and the blue,
83
219000
2000
o vermelho e o verde e o azul,
03:59
diffuse the light differently,
84
221000
2000
difundem a luz de forma diferente,
04:01
we can come up with a way of shading the skin on the computer.
85
223000
3000
podemos criar uma forma de sombrear a pele no computador.
04:04
Then, instead of looking like a plaster mannequin,
86
226000
3000
Depois, em vez de parecer um manequim de gesso,
04:07
it actually looks like it's made out of living human flesh.
87
229000
3000
parece realmente ser feita de tecido humano vivo.
04:10
And this is what we used
88
232000
2000
E foi isto que usámos
04:12
to give to the company Image Metrics
89
234000
2000
para dar à empresa Image Metrics
04:14
to create a rigged, digital version of Emily.
90
236000
3000
para criarem uma versão completa, digital, da Emily.
04:17
We're just seeing the coarse-scale geometry here.
91
239000
2000
Aqui, estamos apenas a ver a geometria de escala grosseira.
04:19
But they basically created a digital puppet of her,
92
241000
3000
Mas eles basicamente criaram uma marioneta digital dela,
04:22
where you can pull on these various strings,
93
244000
2000
em que se podem puxar vários cordéis,
04:24
and it actually moves her face in ways that are
94
246000
2000
que realmente movem o rosto dela de formas que são
04:26
completely consistent with the scans that we took.
95
248000
2000
completamente consistentes com as digitalizações que fizemos.
04:28
And, in addition to the coarse-scale geometry,
96
250000
2000
E, além da geometria de escala grosseira,
04:30
they also used all of that detail
97
252000
2000
eles usaram também todo aquele detalhe
04:32
to create a set of what are called "displacement maps"
98
254000
3000
para criar o que se chama "mapas de deslocação"
04:35
that animate as well.
99
257000
3000
que também são animados.
04:38
These are the displacement maps here.
100
260000
2000
Isto aqui são os mapas de deslocação.
04:40
And you can see those different wrinkles actually show up as she animates.
101
262000
3000
E podem ver as diferentes rugas a surgir à medida que ela é animada.
04:43
So the next process was then to animate her.
102
265000
2000
Então, o processo seguinte foi animá-la.
04:45
We actually used one of her own performances to provide the source data.
103
267000
4000
Usámos uma das suas performances para fornecer os dados.
04:49
So, by analyzing this video with computer vision techniques,
104
271000
3000
Então, ao analisar este vídeo com técnicas de visão computacional,
04:52
they were able to drive the facial rig
105
274000
2000
eles foram capazes de conduzir o equipamento do rosto
04:54
with the computer-generated performance.
106
276000
2000
com a performance gerada por computador.
04:56
So what you're going to see now, after this,
107
278000
2000
O que vamos ver a seguir, depois disto,
04:58
is a completely photo-real digital face.
108
280000
2000
é um rosto foto-realista completamente digital.
05:00
We can turn the volume up a little bit if that's available.
109
282000
2000
Podemos subir o volume um pouco se isso for possível.
05:02
Emily: Image Metrics is a markerless, performance-driven animation company.
110
284000
4000
Emily: A Image Metrics é uma empresa de animação orientada para a performance, que não recorre a marcadores.
05:06
We specialize in high-quality facial animation
111
288000
3000
Especializamo-nos em animação facial de alta-qualidade
05:09
for video games and films.
112
291000
2000
para jogos de vídeo e filmes.
05:11
Image Metrics is a markerless, performance-driven animation company.
113
293000
4000
A Image Metrics é uma empresa de animação orientada para a performance, que não recorre a marcadores.
05:15
We specialize in high quality facial animation
114
297000
3000
Especializamo-nos em animação facial de alta-qualidade
05:18
for video games and films.
115
300000
3000
para jogos de vídeo e filmes.
05:21
Paul Debevec: So, if we break that down into layers, here's that diffuse component
116
303000
2000
Paul Debevec: Então, se separarmos isto em camadas, aqui está aquele componente difuso
05:23
we saw in the first slide.
117
305000
2000
que vimos no primeiro slide.
05:25
Here is the specular component animating.
118
307000
2000
Aqui está o componente especular a ser animado.
05:27
You can see all the wrinkles happening there.
119
309000
2000
Podem ver todas as rugas a acontecer ali.
05:29
And there is the underlying wireframe mesh.
120
311000
5000
E aí está a estrutura de malha subjacente.
05:34
And that is Emily herself.
121
316000
2000
E esta é a própria Emily.
05:36
Now, where are we going with this here?
122
318000
2000
Então, para onde nos dirigimos nós com isto?
05:38
We've gone a little bit beyond Light Stage 5. This is Light Stage 6,
123
320000
4000
Fomos um pouco para além do Light Stage 5. Isto é o Light Stage 6.
05:42
and we're looking at taking this technology
124
324000
2000
E procuramos pegar nesta tecnologia
05:44
and applying it to whole human bodies.
125
326000
2000
e aplicá-la a corpos humanos inteiros.
05:46
This is Bruce Lawmen, one of our researchers in the group,
126
328000
2000
Este é o Bruce Lawmen, um dos nossos investigadores do grupo,
05:48
who graciously agreed to get captured running in the Light Stage.
127
330000
3000
que gentilmente permitiu que o digitalizássemos enquanto corria no Light Stage.
05:51
And let's take a look at a computer-generated version
128
333000
2000
E vamos dar uma olhadela a uma versão do Bruce
05:53
of Bruce, running in a new environment.
129
335000
2000
gerada por computador, a correr num ambiente novo.
06:01
And thank you very much.
130
343000
2000
E muito obrigado.
06:03
(Applause)
131
345000
1000
(Aplausos)
ABOUT THE SPEAKER
Paul Debevec - Computer graphics pioneerPaul Debevec's digital inventions have powered the breathtaking visual effects in films like The Matrix, Superman Returns, King Kong and The Curious Case of Benjamin Button.
Why you should listen
Called "Hollywood's Master of Light" by MIT's Technology Review, Paul Debevec leads the Graphics Laboratory at USC's Institute for Creative Technologies, where he directs the development of the Light Stage systems, which capture and simulate how people and objects appear in real-world illumination.
His work on lighting digital objects has been used in films like X-Men, The Golden Compass and Terminator: Salvation. He leads the design of HDR Shop, the first high-dynamic-range image editing program. He has collaborated with TEDster Golan Levin on an interactive art installation called Rouen Revisited.
Paul Debevec | Speaker | TED.com