TEDxUSC
Paul Debevec: Animating a photo-real digital face
Paul Debevec da animación a un rostro digital fotorrealista
Filmed:
Readability: 4.8
881,584 views
Para TEDxUSC, el pionero de la computación gráfica, Paul Debevec, explica la tecnología "roba-escenas" detrás de Digital Emily, un rostro humano digitalmente construido tan realista que resiste múltiples tomas.
Paul Debevec - Computer graphics pioneer
Paul Debevec's digital inventions have powered the breathtaking visual effects in films like The Matrix, Superman Returns, King Kong and The Curious Case of Benjamin Button. Full bio
Paul Debevec's digital inventions have powered the breathtaking visual effects in films like The Matrix, Superman Returns, King Kong and The Curious Case of Benjamin Button. Full bio
Double-click the English transcript below to play the video.
00:18
One of the biggest challenges in computer graphics
0
0
3000
Uno de los mayores retos en computación gráfica
00:21
has been being able to create a photo-real,
1
3000
2000
ha sido el poder crear un rostro
00:23
digital human face.
2
5000
2000
humano digital fotorrealista.
00:25
And one of the reasons it is so difficult is that, unlike aliens and dinosaurs,
3
7000
3000
Y una de las razones por las que es tan difícil, a diferencia de alienígenas y dinosaurios,
00:28
we look at human faces every day.
4
10000
3000
es porque observamos caras humanas todos los días.
00:31
They are very important to how we communicate with each other.
5
13000
2000
Son muy importantes para la forma en que nos comunicamos con los demás.
00:33
As a result, we're tuned in to the subtlest things
6
15000
3000
Como resultado, estamos afinando las cosas más sutiles
00:36
that could possibly be wrong with a computer rendering,
7
18000
2000
que probablemente pudieran estar erradas en un renderizado computacional,
00:38
in order to believe whether these things are realistic.
8
20000
3000
a fin de considerar si estas cosas son realistas.
00:41
And what I'm going to do in the next five minutes
9
23000
2000
Y lo que voy a hacer en los próximos cinco minutos
00:43
is take you through a process
10
25000
2000
es llevarles a través de un proceso
00:45
where we tried to create a reasonably photo-realistic computer-generated face,
11
27000
3000
donde intentamos crear un rostro generado por computadora razonablemente fotorrealista,
00:48
using some computer graphics technology we've developed,
12
30000
3000
usando algo de la tecnología de computación gráfica que hemos desarrollado,
00:51
and also some collaborators at a company called Image Metrics.
13
33000
2000
y también algunos colaboradores de una compañía llamada Image Metrics.
00:53
And we're going to try to do a photo-real face
14
35000
2000
Y vamos a intentar hacer una cara fotorrealista
00:55
of an actress named Emily O'Brien, who is right there.
15
37000
3000
de una actriz llamada Emily O'Brian, quien está justo allí.
00:58
And that's actually a completely computer-generated rendering of her face.
16
40000
3000
Y ese es, de hecho, un renderizado totalmente generado en computadora de su cara.
01:01
By the end of the talk, we're going to see it move.
17
43000
2000
Hacia el final de la charla, lo vamos a ver moverse.
01:03
The way that we did this is we tried to start with Emily herself,
18
45000
3000
La forma en que lo hicimos fue que, para comenzar, ensayamos con la propia Emily,
01:06
who was gracious enough to come to our laboratory
19
48000
3000
quien fue tan amable de venir a nuestro laboratorio
01:09
in Marina Del Rey, and sit for a session in Light Stage 5.
20
51000
3000
en Marina Del Rey, y posar para una sesión en la Light Stage 5.
01:12
This is a face-scanning sphere, with 156 white LEDs all around
21
54000
4000
Ésta es una esfera para escanear rostros, con 156 "LEDs" blancos en todo su contorno,
01:16
that allow us to photograph her
22
58000
2000
que nos permite fotografiarla
01:18
in a series of very controlled illumination conditions.
23
60000
3000
en una serie de condiciones de iluminación muy controladas.
01:21
And the lighting that we use these days looks something like this.
24
63000
3000
Y la iluminación que usamos estos días se ve algo parecida a ésta.
01:24
We shoot all of these photographs in about three seconds.
25
66000
2000
Tomamos todas estas fotografías en aproximadamente tres segundos.
01:26
And we basically capture enough information
26
68000
3000
Y básicamente, capturamos suficiente información
01:29
with video projector patterns that drape over the contours of her face,
27
71000
4000
con los patrones de video-proyector extendidos sobre los contornos de su cara,
01:33
and different principle directions of light from the light stage,
28
75000
2000
y con las direcciones de las diferentes fuentes de luz de la Light Stage,
01:35
to figure out both the coarse-scale
29
77000
2000
como para resolver tanto el grano grueso
01:37
and the fine-scale detail of her face.
30
79000
2000
como el detalle del grano fino de su cara.
01:39
If we zoom in on this photograph right here,
31
81000
2000
Si ampliamos esta fotografía justo aquí,
01:41
we can see it's a really nice photograph to have of her,
32
83000
2000
podemos ver que es una fotografía muy buena de ella,
01:43
because she is lit from absolutely everywhere at the same time
33
85000
4000
porque está absolutamente iluminada desde todos lados al mismo tiempo
01:47
to get a nice image of her facial texture.
34
89000
2000
para conseguir una buena imagen de su textura facial.
01:49
And in addition, we've actually used polarizers on all the lights --
35
91000
3000
Y además, en efecto, hemos utilizado polarizadores para todas las luces --
01:52
just like polarized sunglasses can block
36
94000
2000
exactamente como los lentes de sol polarizados pueden bloquear
01:54
the glare off of the road,
37
96000
2000
el resplandor del pavimento,
01:56
polarizers can block the shine off of the skin,
38
98000
2000
los polarizadores pueden bloquear el brillo de la piel,
01:58
so we don't get all those specular reflections to take this map.
39
100000
3000
así que no usamos todos esos reflejos especulares para hacer este mapa.
02:01
Now, if we turn the polarizers around just a little bit,
40
103000
2000
Ahora, si giramos los polarizadores sólo un poco,
02:03
we can actually bring that specular reflection
41
105000
2000
podemos, realmente, devolver esa reflexión especular
02:05
of the skin back in,
42
107000
2000
a la piel,
02:07
and you can see she looks kind of shiny and oily at this point.
43
109000
3000
y pueden ver que luce bastante brillante y grasosa en este punto.
02:10
If you take the difference between these two images here,
44
112000
3000
Si tomas la diferencia entre estas dos imágenes aquí,
02:13
you can get an image lit from the entire sphere of light
45
115000
2000
puedes obtener una imagen iluminada por toda la esfera luz
02:15
of just the shine off of Emily's skin.
46
117000
3000
de únicamente el brillo de la tez de Emily.
02:18
I don't think any photograph like this had ever been taken
47
120000
2000
Creo que ninguna fotografía así se había tomado
02:20
before we had done this.
48
122000
2000
antes de que hubiésemos hecho ésta.
02:22
And this is very important light to capture,
49
124000
3000
Y ésta es una luz muy importante de captar,
02:25
because this is the light that reflects off the first surface of the skin.
50
127000
2000
porque es la luz que se refleja en el primer estrato de la piel.
02:27
It doesn't get underneath the translucent
51
129000
2000
No alcanza las capas traslúcidas
02:29
layers of the skin and blur out.
52
131000
2000
inferiores de la piel y se dispersa.
02:31
And, as a result, it's a very good cue
53
133000
2000
Y, como resultado, es una referencia muy buena
02:33
to the detailed shape of the skin-pore structure
54
135000
3000
para la forma detallada de la estructura de los poros de la piel
02:36
and all of the fine wrinkles that all of us have,
55
138000
2000
y la totalidad de finas arrugas que todos tenemos,
02:38
the things that actually make us look like real humans.
56
140000
2000
cosas que efectivamente nos hacen lucir como humanos reales.
02:40
So, if we use information that comes off of this specular reflection,
57
142000
4000
Bien, si usamos la información proveniente de esta reflexión especular
02:44
we can go from a traditional face scan
58
146000
2000
podemos ir de un tradicional rostro escaneado
02:46
that might have the gross contours of the face and the basic shape,
59
148000
4000
que podría tener los burods contornos de la cara y la forma básica,
02:50
and augment it with information
60
152000
2000
y mejorarlo con la información
02:52
that puts in all of that skin pore structure and fine wrinkles.
61
154000
3000
que introduce toda esa estructura de poros y finas arrugas.
02:55
And, even more importantly,
62
157000
2000
Y, aún más importante,
02:57
since this is a photometric process that only takes three seconds to capture,
63
159000
3000
ya que es un proceso fotométrico que sólo toma tres segundos capturar,
03:00
we can shoot Emily
64
162000
2000
podemos fotografiar a Emily
03:02
in just part of an afternoon,
65
164000
2000
en apenas parte de una tarde,
03:04
in many different facial poses and facial expressions.
66
166000
3000
en poses y expresiones faciales muy diversas .
03:07
So, here you can see her moving her eyes around, moving her mouth around.
67
169000
3000
Bien, aquí pueden verla moviendo sus ojos alrededor, moviendo su boca alrededor.
03:10
And these we're actually going to use to create a photo-real digital character.
68
172000
3000
Y estas, efectivamente, vamos a utilizarlas para crear un personaje digital fotorrealista.
03:13
If you take a look at these scans that we have of Emily,
69
175000
4000
Si echan una mirada a estas imágenes que obtuvimos de Emily,
03:17
you can see that the human face does an enormous amount of amazing things
70
179000
3000
pueden ver que el rostro humano realiza una enorme cantidad de cosas asombrosas
03:20
as it goes into different facial expressions.
71
182000
3000
al formar distintas expresiones faciales.
03:23
You can see things. Not only the face shape changes,
72
185000
3000
Pueden ver cosas. No solo cambia la forma de la cara,
03:26
but all sorts of different skin buckling and skin wrinkling occurs.
73
188000
4000
sino que ocurren todo tipo de plegamientos y fruncimientos de la piel.
03:30
You can see that the skin pore structure changes enormously
74
192000
4000
Pueden ver que la estructura porosa de la piel cambia enormemente,
03:34
from stretched skin pores
75
196000
2000
desde los poros estirados,
03:36
to the regular skin texture.
76
198000
2000
hasta la textura regular de la piel.
03:38
You can see the furrows in the brow and how the microstructure changes there.
77
200000
3000
Pueden ver los surcos en el ceño y como cambia la microestructura allí.
03:41
You can see muscles pulling down at flesh to bring her eyebrows down.
78
203000
4000
Pueden ver los músculos tirando la carne para llevar sus cejas hacia abajo.
03:45
Her muscles bulging in her forehead when she winces like that.
79
207000
3000
Sus músculos sobresaliendo en la frente cuando gesticula así.
03:48
In addition to this kind of high-resolution geometry,
80
210000
3000
Además de este tipo de geometría de alta resolución,
03:51
since it's all captured with cameras, we've got a great texture map to use for the face.
81
213000
4000
ya que todo se capturó con cámaras, contamos con un gran mapa de texturas que utilizar para su cara.
03:55
And by looking at how the different color channels of the illumination,
82
217000
2000
Y al explorar cómo los diferentes canales de color de la iluminación,
03:57
the red and the green and the blue,
83
219000
2000
el rojo, y el verde y el azul,
03:59
diffuse the light differently,
84
221000
2000
esparcen la luz diferentemente,
04:01
we can come up with a way of shading the skin on the computer.
85
223000
3000
podemos conseguir una forma de matizar la piel en la computadora.
04:04
Then, instead of looking like a plaster mannequin,
86
226000
3000
Entonces, en vez de lucir como un maniquí de yeso,
04:07
it actually looks like it's made out of living human flesh.
87
229000
3000
efectivamente, luce como hecho de carne y hueso.
04:10
And this is what we used
88
232000
2000
Y esto es lo que hicimos
04:12
to give to the company Image Metrics
89
234000
2000
para entregarlo a la compañía Image Metrics
04:14
to create a rigged, digital version of Emily.
90
236000
3000
para crear una versión articulada de Emily.
04:17
We're just seeing the coarse-scale geometry here.
91
239000
2000
Estamos apenas viendo la geometría en grueso aquí.
04:19
But they basically created a digital puppet of her,
92
241000
3000
Pero, básicamente, crearon un títere digital de ella,
04:22
where you can pull on these various strings,
93
244000
2000
donde ustedes pueden halar de las diversas cuerdas,
04:24
and it actually moves her face in ways that are
94
246000
2000
y efectivamente, mover su cara en formas que son
04:26
completely consistent with the scans that we took.
95
248000
2000
completamente consistentes con las imágenes que tomamos.
04:28
And, in addition to the coarse-scale geometry,
96
250000
2000
Y, además de la geometría en grueso,
04:30
they also used all of that detail
97
252000
2000
también usaron todo aquel detalle
04:32
to create a set of what are called "displacement maps"
98
254000
3000
para crear un juego de los llamados "mapas de desplazamiento"
04:35
that animate as well.
99
257000
3000
que también dan animación.
04:38
These are the displacement maps here.
100
260000
2000
Estos aquí son los mapas de desplazamiento.
04:40
And you can see those different wrinkles actually show up as she animates.
101
262000
3000
Y de hecho, pueden ver esas diversas arrugas manifestándose mientras ella cobra animación.
04:43
So the next process was then to animate her.
102
265000
2000
Así que el siguiente proceso fue darle luego animación a ella.
04:45
We actually used one of her own performances to provide the source data.
103
267000
4000
En realidad, usamos una de sus propias actuaciones para estipular los datos originales.
04:49
So, by analyzing this video with computer vision techniques,
104
271000
3000
Bien, analizando este video con técnicas de visión por computadora,
04:52
they were able to drive the facial rig
105
274000
2000
ellos pudieron manejar el dispositivo facial
04:54
with the computer-generated performance.
106
276000
2000
con la ejecución generada en el computador.
04:56
So what you're going to see now, after this,
107
278000
2000
Por lo tanto, lo que van a ver ahora, después de esto,
04:58
is a completely photo-real digital face.
108
280000
2000
es un rostro digital completamente fotorrealista.
05:00
We can turn the volume up a little bit if that's available.
109
282000
2000
Podemos subir un poco el volumen si es posible.
05:02
Emily: Image Metrics is a markerless, performance-driven animation company.
110
284000
4000
EMILY: Image Metrics es una compañía de animación sin marcadores orientada por resultados.
05:06
We specialize in high-quality facial animation
111
288000
3000
Nos especializamos en animación facial de alta calidad
05:09
for video games and films.
112
291000
2000
para videojuegos y películas.
05:11
Image Metrics is a markerless, performance-driven animation company.
113
293000
4000
Image Metrics es una compañía de animación sin marcadores orientada por resultados.
05:15
We specialize in high quality facial animation
114
297000
3000
Nos especializamos en animación facial de alta calidad
05:18
for video games and films.
115
300000
3000
para videojuegos y películas.
05:21
Paul Debevec: So, if we break that down into layers, here's that diffuse component
116
303000
2000
PAUL DEBEVEC: Bien, si desglosamos eso en capas, aquí está aquel difuso componente
05:23
we saw in the first slide.
117
305000
2000
que vimos en la primera diapositiva.
05:25
Here is the specular component animating.
118
307000
2000
Aquí está el componente especular en animación.
05:27
You can see all the wrinkles happening there.
119
309000
2000
Pueden ver cómo todas las arrugas se presentan allí.
05:29
And there is the underlying wireframe mesh.
120
311000
5000
Y allí está la malla de la armadura lineal subyacente.
05:34
And that is Emily herself.
121
316000
2000
Y esa es la propia Emily.
05:36
Now, where are we going with this here?
122
318000
2000
Ahora, ¿adónde vamos con esto?
05:38
We've gone a little bit beyond Light Stage 5. This is Light Stage 6,
123
320000
4000
Hemos ido un poquito más allá de la Light Stage 5. Ésta es Light Stage 6.
05:42
and we're looking at taking this technology
124
324000
2000
Y estamos estudiando usar esta tecnología
05:44
and applying it to whole human bodies.
125
326000
2000
y aplicarla a cuerpos humanos enteros.
05:46
This is Bruce Lawmen, one of our researchers in the group,
126
328000
2000
Éste es Bruce Lawmen, uno de nuestros investigadores en el equipo,
05:48
who graciously agreed to get captured running in the Light Stage.
127
330000
3000
quien gentilmente aceptó ser captado al correr en la Light Stage.
05:51
And let's take a look at a computer-generated version
128
333000
2000
Y vamos a echar un vistazo a la versión generada por computadora
05:53
of Bruce, running in a new environment.
129
335000
2000
de Bruce, corriendo en un nuevo ambiente.
06:01
And thank you very much.
130
343000
2000
Y muchísimas gracias.
06:03
(Applause)
131
345000
1000
Aplausos
ABOUT THE SPEAKER
Paul Debevec - Computer graphics pioneerPaul Debevec's digital inventions have powered the breathtaking visual effects in films like The Matrix, Superman Returns, King Kong and The Curious Case of Benjamin Button.
Why you should listen
Called "Hollywood's Master of Light" by MIT's Technology Review, Paul Debevec leads the Graphics Laboratory at USC's Institute for Creative Technologies, where he directs the development of the Light Stage systems, which capture and simulate how people and objects appear in real-world illumination.
His work on lighting digital objects has been used in films like X-Men, The Golden Compass and Terminator: Salvation. He leads the design of HDR Shop, the first high-dynamic-range image editing program. He has collaborated with TEDster Golan Levin on an interactive art installation called Rouen Revisited.
Paul Debevec | Speaker | TED.com