TEDxUSC
Paul Debevec: Animating a photo-real digital face
Пол Дебевек создаёт фото-реалистичное цифровое лицо.
Filmed:
Readability: 4.8
881,584 views
На TEDxUSC пионер в области компьютерной графики Пол Дебевек объясняет захватывающую технологию, лежащую в основе цифровой Эмили, созданного цифровым способом лица настолько реалистичного, что оно не проигрывает в сравнении с кинокадрами.
Paul Debevec - Computer graphics pioneer
Paul Debevec's digital inventions have powered the breathtaking visual effects in films like The Matrix, Superman Returns, King Kong and The Curious Case of Benjamin Button. Full bio
Paul Debevec's digital inventions have powered the breathtaking visual effects in films like The Matrix, Superman Returns, King Kong and The Curious Case of Benjamin Button. Full bio
Double-click the English transcript below to play the video.
00:18
One of the biggest challenges in computer graphics
0
0
3000
Одной из самых сложных задач в компьютерной графике
00:21
has been being able to create a photo-real,
1
3000
2000
было создание фото-реалистичного
00:23
digital human face.
2
5000
2000
цифрового лица человека.
00:25
And one of the reasons it is so difficult is that, unlike aliens and dinosaurs,
3
7000
3000
Одна из причин, почему это так сложно сделать, в отличие от инопланетян или динозавров,
00:28
we look at human faces every day.
4
10000
3000
заключается в том, что мы видим человеческие лица каждый день.
00:31
They are very important to how we communicate with each other.
5
13000
2000
Они очень важны для нас при общении друг с другом.
00:33
As a result, we're tuned in to the subtlest things
6
15000
3000
В результате мы обращаем внимание на мельчайшие детали,
00:36
that could possibly be wrong with a computer rendering,
7
18000
2000
с которыми может быть что-то не так при компьютерном воспроизведении,
00:38
in order to believe whether these things are realistic.
8
20000
3000
для того чтобы поверить, что эти детали выглядят реалистично.
00:41
And what I'm going to do in the next five minutes
9
23000
2000
В течение следующих 5 минут
00:43
is take you through a process
10
25000
2000
я объясню вам процесс,
00:45
where we tried to create a reasonably photo-realistic computer-generated face,
11
27000
3000
в ходе которого мы попытались создать на компьютере достаточно фото-реалистичное лицо
00:48
using some computer graphics technology we've developed,
12
30000
3000
с помощью разработанной нами технологии компьютерной графики,
00:51
and also some collaborators at a company called Image Metrics.
13
33000
2000
а также нескольких коллег из компании Image Metrics.
00:53
And we're going to try to do a photo-real face
14
35000
2000
Мы постараемся воссоздать фото-реалистичное лицо
00:55
of an actress named Emily O'Brien, who is right there.
15
37000
3000
актрисы Эмили О' Брайен. Вот она.
00:58
And that's actually a completely computer-generated rendering of her face.
16
40000
3000
Это действительно полностью созданное на компьютере изображение её лица.
01:01
By the end of the talk, we're going to see it move.
17
43000
2000
В конце презентации мы увидим, как оно движется.
01:03
The way that we did this is we tried to start with Emily herself,
18
45000
3000
Итак, мы начали с самой Эмили,
01:06
who was gracious enough to come to our laboratory
19
48000
3000
которая любезно согласилась посетить нашу лабораторию
01:09
in Marina Del Rey, and sit for a session in Light Stage 5.
20
51000
3000
в Марина Дель Рэй и посидеть на сессии в Light Stage 5.
01:12
This is a face-scanning sphere, with 156 white LEDs all around
21
54000
4000
Это сфера для сканирования лица, заполененная 156 белыми светодиодами,
01:16
that allow us to photograph her
22
58000
2000
которые позволяют нам фотографировать её
01:18
in a series of very controlled illumination conditions.
23
60000
3000
в последовательности очень точно откалиброванных условий освещения.
01:21
And the lighting that we use these days looks something like this.
24
63000
3000
А освещение, которое мы используем сейчас выглядит приблизительно так.
01:24
We shoot all of these photographs in about three seconds.
25
66000
2000
Мы делаем все эти снимки приблизительно за 3 секунды.
01:26
And we basically capture enough information
26
68000
3000
И мы, по существу, получаем достаточно информации
01:29
with video projector patterns that drape over the contours of her face,
27
71000
4000
с помощью шаблонов видеопроектора, которые окружают контуры её лица,
01:33
and different principle directions of light from the light stage,
28
75000
2000
и различных закономерностей рассеивания света по световой сцене,
01:35
to figure out both the coarse-scale
29
77000
2000
чтобы получить как макро,
01:37
and the fine-scale detail of her face.
30
79000
2000
так и микро детали её лица.
01:39
If we zoom in on this photograph right here,
31
81000
2000
Если мы увеличим фотографию здесь,
01:41
we can see it's a really nice photograph to have of her,
32
83000
2000
то увидим, что это очень хорошая фотография,
01:43
because she is lit from absolutely everywhere at the same time
33
85000
4000
потому что она освещена одновременно абсолютно отовсюду,
01:47
to get a nice image of her facial texture.
34
89000
2000
для получения качественного изображения структуры её лица.
01:49
And in addition, we've actually used polarizers on all the lights --
35
91000
3000
Кроме того, мы использывали поляризаторы на всех источниках света --
01:52
just like polarized sunglasses can block
36
94000
2000
также как и поляризационные линзы в солнечных очках могут блокировать
01:54
the glare off of the road,
37
96000
2000
отблески от дороги,
01:56
polarizers can block the shine off of the skin,
38
98000
2000
поляризаторы могут блокировать блеск кожи,
01:58
so we don't get all those specular reflections to take this map.
39
100000
3000
чтобы не было всех этих зеркальных отражений при составлении карты лица.
02:01
Now, if we turn the polarizers around just a little bit,
40
103000
2000
А теперь, если мы слегка повернём поляризаторы,
02:03
we can actually bring that specular reflection
41
105000
2000
мы сможем вернуть зеркальные отражения
02:05
of the skin back in,
42
107000
2000
на кожу,
02:07
and you can see she looks kind of shiny and oily at this point.
43
109000
3000
и, как вы видите, на этой стадии, она выглядит жирной и блестит..
02:10
If you take the difference between these two images here,
44
112000
3000
Если взять различия между этими двумя изображениями,
02:13
you can get an image lit from the entire sphere of light
45
115000
2000
можно получить изображение, освещенное всей световой сферой,
02:15
of just the shine off of Emily's skin.
46
117000
3000
только блеска кожи Эмили.
02:18
I don't think any photograph like this had ever been taken
47
120000
2000
Я не думаю, что подобная фотография была когда-либо снята,
02:20
before we had done this.
48
122000
2000
до того как это сделали мы.
02:22
And this is very important light to capture,
49
124000
3000
И очень важно поймать этот свет,
02:25
because this is the light that reflects off the first surface of the skin.
50
127000
2000
потому что это свет, отражаемый с самой верхней поверхности кожи.
02:27
It doesn't get underneath the translucent
51
129000
2000
Он не достигает полупрозрачных
02:29
layers of the skin and blur out.
52
131000
2000
слоёв кожи и сглаживается.
02:31
And, as a result, it's a very good cue
53
133000
2000
В результате получается очень хорошая картина
02:33
to the detailed shape of the skin-pore structure
54
135000
3000
детальной структуры пор её кожи
02:36
and all of the fine wrinkles that all of us have,
55
138000
2000
и всех маленьких морщин, которые есть у всех нас,
02:38
the things that actually make us look like real humans.
56
140000
2000
тех самых, благодаря которым мы выглядим как настоящие люди.
02:40
So, if we use information that comes off of this specular reflection,
57
142000
4000
Если мы используем информацию, полученную из этого зеркального отражения,
02:44
we can go from a traditional face scan
58
146000
2000
мы можем начать с традиционного сканированного лица,
02:46
that might have the gross contours of the face and the basic shape,
59
148000
4000
которое может иметь общие контуры и форму лица,
02:50
and augment it with information
60
152000
2000
и дополнить его информацией,
02:52
that puts in all of that skin pore structure and fine wrinkles.
61
154000
3000
добавляющей всю структуру кожных пор и тонких морщин.
02:55
And, even more importantly,
62
157000
2000
Что ещё важнее,
02:57
since this is a photometric process that only takes three seconds to capture,
63
159000
3000
так как это фотометрический процесс занимающий всего 3 секунды,
03:00
we can shoot Emily
64
162000
2000
мы можем снять Эмили
03:02
in just part of an afternoon,
65
164000
2000
всего за несколько часов
03:04
in many different facial poses and facial expressions.
66
166000
3000
в разных позах и с разными выражениями лица.
03:07
So, here you can see her moving her eyes around, moving her mouth around.
67
169000
3000
Итак, здесь вы можете увидеть, как она двигает глазами и ртом.
03:10
And these we're actually going to use to create a photo-real digital character.
68
172000
3000
И мы собираемся использовать эти движения для создания цифрового фото-реалистичного персонажа.
03:13
If you take a look at these scans that we have of Emily,
69
175000
4000
Если вы взгляните на эти сканированные снимки Эмили,
03:17
you can see that the human face does an enormous amount of amazing things
70
179000
3000
то увидите, что человеческое лицо совершает невероятное количество удивительных вещей
03:20
as it goes into different facial expressions.
71
182000
3000
при создании различных выражений лица.
03:23
You can see things. Not only the face shape changes,
72
185000
3000
Посмотрите. Меняется не только форма лица,
03:26
but all sorts of different skin buckling and skin wrinkling occurs.
73
188000
4000
но и появляются всевозможные изгибы и морщины.
03:30
You can see that the skin pore structure changes enormously
74
192000
4000
Как вы видите, структура пор кожи сильно изменяется
03:34
from stretched skin pores
75
196000
2000
от вытянутых пор кожи,
03:36
to the regular skin texture.
76
198000
2000
до обычной структуры кожи.
03:38
You can see the furrows in the brow and how the microstructure changes there.
77
200000
3000
Можно увидеть глубокие морщины на брови и как там меняется микроструктура.
03:41
You can see muscles pulling down at flesh to bring her eyebrows down.
78
203000
4000
Можно увидеть, как тянутся её мышцы при опускании бровей.
03:45
Her muscles bulging in her forehead when she winces like that.
79
207000
3000
Лобные мышцы выступают, когда она морщится вот так.
03:48
In addition to this kind of high-resolution geometry,
80
210000
3000
В дополнение к такому типу геометрии высокого разрешения,
03:51
since it's all captured with cameras, we've got a great texture map to use for the face.
81
213000
4000
так как всё это снимается камерами, мы получаем великолепную карту структуры её лица.
03:55
And by looking at how the different color channels of the illumination,
82
217000
2000
И наблюдая, как различные цветовые каналы освещения --
03:57
the red and the green and the blue,
83
219000
2000
красный, зелёный и голубой --
03:59
diffuse the light differently,
84
221000
2000
по-разному рассеивают свет,
04:01
we can come up with a way of shading the skin on the computer.
85
223000
3000
мы можем понять, как следует затенять кожу на компьютере.
04:04
Then, instead of looking like a plaster mannequin,
86
226000
3000
Благодаря этому она выглядит не как пластиковый манекен,
04:07
it actually looks like it's made out of living human flesh.
87
229000
3000
а как настоящая, из плоти и крови.
04:10
And this is what we used
88
232000
2000
И именно это мы использовали, чтобы
04:12
to give to the company Image Metrics
89
234000
2000
дать компании Image Metrics
04:14
to create a rigged, digital version of Emily.
90
236000
3000
возможность создать цифровую версию Эмили.
04:17
We're just seeing the coarse-scale geometry here.
91
239000
2000
Мы только что видели геометрию макро масштаба.
04:19
But they basically created a digital puppet of her,
92
241000
3000
Но они, по существу, создали её цифровую марионетку,
04:22
where you can pull on these various strings,
93
244000
2000
которую можно дёргать за различные нити,
04:24
and it actually moves her face in ways that are
94
246000
2000
и это будет изменять её лицо
04:26
completely consistent with the scans that we took.
95
248000
2000
полностью согласно сканированными изображениям, которые мы сделали.
04:28
And, in addition to the coarse-scale geometry,
96
250000
2000
В дополнение к геометрии макро масштаба
04:30
they also used all of that detail
97
252000
2000
они также использовали все детали
04:32
to create a set of what are called "displacement maps"
98
254000
3000
для создания набора, так называемых "карт движений",
04:35
that animate as well.
99
257000
3000
которые также анимируются.
04:38
These are the displacement maps here.
100
260000
2000
Вот это карты движений.
04:40
And you can see those different wrinkles actually show up as she animates.
101
262000
3000
И как вы видите, те разные морщины действительно появляются в процессе анимации.
04:43
So the next process was then to animate her.
102
265000
2000
Следующий процесс заключался в её полном анимировании.
04:45
We actually used one of her own performances to provide the source data.
103
267000
4000
Мы на самом деле использовали одно из её выступлений в качестве исходного источника данных.
04:49
So, by analyzing this video with computer vision techniques,
104
271000
3000
Проанализировав это видео с помощью техник компьютерного анализа изображений,
04:52
they were able to drive the facial rig
105
274000
2000
нам удалось заставить её лицо двигаться
04:54
with the computer-generated performance.
106
276000
2000
вместе с воспроизводимым компьютером выступлением.
04:56
So what you're going to see now, after this,
107
278000
2000
То, что вы сейчас увидите является
04:58
is a completely photo-real digital face.
108
280000
2000
полностью цифровым фото-реалистичным лицом.
05:00
We can turn the volume up a little bit if that's available.
109
282000
2000
Мы можем немного увеличить громкость, если возможно.
05:02
Emily: Image Metrics is a markerless, performance-driven animation company.
110
284000
4000
Эмили: Image Metrics - это инновационная, ориентированная на результат анимационная компания.
05:06
We specialize in high-quality facial animation
111
288000
3000
Мы специализируемся в высококачественной анимации лиц
05:09
for video games and films.
112
291000
2000
для видеоигр и фильмов.
05:11
Image Metrics is a markerless, performance-driven animation company.
113
293000
4000
Image Metrics - это инновационная, ориентированная на результат анимационная компания.
05:15
We specialize in high quality facial animation
114
297000
3000
Мы специализируемся в высококачественной анимации лиц
05:18
for video games and films.
115
300000
3000
для видеоигр и фильмов.
05:21
Paul Debevec: So, if we break that down into layers, here's that diffuse component
116
303000
2000
Пол Дебевек: Итак, если мы разобьём это на слои, вот тот рассеянный компонент,
05:23
we saw in the first slide.
117
305000
2000
который мы видели на первом слайде.
05:25
Here is the specular component animating.
118
307000
2000
Вот анимируется зеркальный компонент.
05:27
You can see all the wrinkles happening there.
119
309000
2000
Здесь видно все появляющиеся морщины.
05:29
And there is the underlying wireframe mesh.
120
311000
5000
А вот лежащий в основе каркас.
05:34
And that is Emily herself.
121
316000
2000
А это сама Эмили.
05:36
Now, where are we going with this here?
122
318000
2000
Что же у нас получается?
05:38
We've gone a little bit beyond Light Stage 5. This is Light Stage 6,
123
320000
4000
Мы продвинулись немного дальше Light Stage 5. Это - Light Stage 6.
05:42
and we're looking at taking this technology
124
324000
2000
Мы собираемся применить эту технологию
05:44
and applying it to whole human bodies.
125
326000
2000
целиком к человеческим телам.
05:46
This is Bruce Lawmen, one of our researchers in the group,
126
328000
2000
Это Брюс Лоумен, один из исследователей нашей группы.
05:48
who graciously agreed to get captured running in the Light Stage.
127
330000
3000
Он любезно согласился сняться бегущим в Light Stage.
05:51
And let's take a look at a computer-generated version
128
333000
2000
Давайте посмотрим на созданную компьютером версию
05:53
of Bruce, running in a new environment.
129
335000
2000
Брюса, бегущего в новой обстановке.
06:01
And thank you very much.
130
343000
2000
Большое спасибо.
06:03
(Applause)
131
345000
1000
(Аплодисменты)
ABOUT THE SPEAKER
Paul Debevec - Computer graphics pioneerPaul Debevec's digital inventions have powered the breathtaking visual effects in films like The Matrix, Superman Returns, King Kong and The Curious Case of Benjamin Button.
Why you should listen
Called "Hollywood's Master of Light" by MIT's Technology Review, Paul Debevec leads the Graphics Laboratory at USC's Institute for Creative Technologies, where he directs the development of the Light Stage systems, which capture and simulate how people and objects appear in real-world illumination.
His work on lighting digital objects has been used in films like X-Men, The Golden Compass and Terminator: Salvation. He leads the design of HDR Shop, the first high-dynamic-range image editing program. He has collaborated with TEDster Golan Levin on an interactive art installation called Rouen Revisited.
Paul Debevec | Speaker | TED.com