TEDxUSC
Paul Debevec: Animating a photo-real digital face
Пол Дебевек створює фотореалістичне цифрове обличчя
Filmed:
Readability: 4.8
881,584 views
На конференції TEDxUSC новатор у сфері комп'ютерної графіки Пол Дебевек пояснює захоплюючу технологію, яка лежить в основі створення Цифрової Емілі, сконструйованого цифрового людського обличчя, настільки реалістичного, що воно нічим не поступається серійній зйомці.
Paul Debevec - Computer graphics pioneer
Paul Debevec's digital inventions have powered the breathtaking visual effects in films like The Matrix, Superman Returns, King Kong and The Curious Case of Benjamin Button. Full bio
Paul Debevec's digital inventions have powered the breathtaking visual effects in films like The Matrix, Superman Returns, King Kong and The Curious Case of Benjamin Button. Full bio
Double-click the English transcript below to play the video.
00:18
One of the biggest challenges in computer graphics
0
0
3000
Одним із найскладніших завдань у комп'ютерній графіці
00:21
has been being able to create a photo-real,
1
3000
2000
було створення фотореалістичного
00:23
digital human face.
2
5000
2000
цифрового обличчя людини.
00:25
And one of the reasons it is so difficult is that, unlike aliens and dinosaurs,
3
7000
3000
Одна з причин, чому це так складно зробити, на відміну від інопланетян або динозаврів,
00:28
we look at human faces every day.
4
10000
3000
полягає в тому, що ми бачимо людські обличчя щодня.
00:31
They are very important to how we communicate with each other.
5
13000
2000
Вони дуже важливі для нас при спілкуванні один з одним.
00:33
As a result, we're tuned in to the subtlest things
6
15000
3000
У результаті ми звертаємо увагу на найдрібніші деталі,
00:36
that could possibly be wrong with a computer rendering,
7
18000
2000
з якими може бути щось не так при комп'ютерному відтворенні,
00:38
in order to believe whether these things are realistic.
8
20000
3000
з метою повірити, що ці деталі виглядають реалістично.
00:41
And what I'm going to do in the next five minutes
9
23000
2000
Протягом наступних 5 хвилин
00:43
is take you through a process
10
25000
2000
я поясню вам процес,
00:45
where we tried to create a reasonably photo-realistic computer-generated face,
11
27000
3000
в ході якого ми спробували створити на комп'ютері досить фотореалістичне обличчя
00:48
using some computer graphics technology we've developed,
12
30000
3000
за допомогою розробленої нами технології комп'ютерної графіки,
00:51
and also some collaborators at a company called Image Metrics.
13
33000
2000
а також кількох колег з компанії Image Metrics.
00:53
And we're going to try to do a photo-real face
14
35000
2000
Ми постараємося відтворити фотореалістичне обличчя
00:55
of an actress named Emily O'Brien, who is right there.
15
37000
3000
актриси Емілі О 'Брайен. Ось вона.
00:58
And that's actually a completely computer-generated rendering of her face.
16
40000
3000
Це дійсно повністю створене на комп'ютері зображення її обличчя.
01:01
By the end of the talk, we're going to see it move.
17
43000
2000
Вкінці презентації ми побачимо, як воно рухається.
01:03
The way that we did this is we tried to start with Emily herself,
18
45000
3000
Отже, ми почали з самої Емілі,
01:06
who was gracious enough to come to our laboratory
19
48000
3000
яка люб'язно погодилася відвідати нашу лабораторію
01:09
in Marina Del Rey, and sit for a session in Light Stage 5.
20
51000
3000
в Марина Дель Рей і попозувати на сесії в Light Stage 5.
01:12
This is a face-scanning sphere, with 156 white LEDs all around
21
54000
4000
Це сфера для сканування обличчя, заповнена 156-ма білими світлодіодами,
01:16
that allow us to photograph her
22
58000
2000
які дозволяють нам фотографувати її
01:18
in a series of very controlled illumination conditions.
23
60000
3000
серійними знімками в дуже точно відкаліброваних умовах освітлення.
01:21
And the lighting that we use these days looks something like this.
24
63000
3000
А освітлення, яке ми використовуємо, зараз виглядає приблизно так.
01:24
We shoot all of these photographs in about three seconds.
25
66000
2000
Ми робимо всі ці знімки приблизно за 3 секунди.
01:26
And we basically capture enough information
26
68000
3000
І ми, по суті, отримуємо достатньо інформації
01:29
with video projector patterns that drape over the contours of her face,
27
71000
4000
за допомогою шаблонів відеопроектора, які окреслюють контури її обличчя,
01:33
and different principle directions of light from the light stage,
28
75000
2000
і різних принципів розсіювання світла по світловий сцені,
01:35
to figure out both the coarse-scale
29
77000
2000
щоб отримати як макро-,
01:37
and the fine-scale detail of her face.
30
79000
2000
так і мікродеталі її обличчя.
01:39
If we zoom in on this photograph right here,
31
81000
2000
Якщо ми збільшимо фотографію тут,
01:41
we can see it's a really nice photograph to have of her,
32
83000
2000
то побачимо, що це дуже хороша фотографія,
01:43
because she is lit from absolutely everywhere at the same time
33
85000
4000
бо вона освітлена одночасно абсолютно звідусіль
01:47
to get a nice image of her facial texture.
34
89000
2000
для отримання якісного зображення структури її обличчя.
01:49
And in addition, we've actually used polarizers on all the lights --
35
91000
3000
Крім того, ми використовували поляризатори на всіх джерелах світла -
01:52
just like polarized sunglasses can block
36
94000
2000
також як і поляризаційні лінзи в сонячних окулярах можуть блокувати
01:54
the glare off of the road,
37
96000
2000
відблиски від дороги,
01:56
polarizers can block the shine off of the skin,
38
98000
2000
поляризатори можуть блокувати блиск шкіри,
01:58
so we don't get all those specular reflections to take this map.
39
100000
3000
щоб усунути всі ці дзеркальні відображення при складанні карти обличчя.
02:01
Now, if we turn the polarizers around just a little bit,
40
103000
2000
А тепер, якщо ми злегка повернемо поляризатори,
02:03
we can actually bring that specular reflection
41
105000
2000
ми зможемо повернути дзеркальні відбиття
02:05
of the skin back in,
42
107000
2000
на шкіру,
02:07
and you can see she looks kind of shiny and oily at this point.
43
109000
3000
і, як ви бачите, на цій стадії вона виглядає жирною і блищить ..
02:10
If you take the difference between these two images here,
44
112000
3000
Якщо взяти різницю між цими двома зображеннями,
02:13
you can get an image lit from the entire sphere of light
45
115000
2000
можна отримати зображення, освітлене всією світловою сферою,
02:15
of just the shine off of Emily's skin.
46
117000
3000
і залишиться тільки блиск шкіри Емілі.
02:18
I don't think any photograph like this had ever been taken
47
120000
2000
Я не думаю, що подібна фотографія була коли-небудь знята
02:20
before we had done this.
48
122000
2000
до того, як це зробили ми.
02:22
And this is very important light to capture,
49
124000
3000
І дуже важливо зловити це світло,
02:25
because this is the light that reflects off the first surface of the skin.
50
127000
2000
бо воно відбите від верхнього шару шкіри.
02:27
It doesn't get underneath the translucent
51
129000
2000
Воно не досягає напівпрозорих
02:29
layers of the skin and blur out.
52
131000
2000
шарів шкіри і згладжується.
02:31
And, as a result, it's a very good cue
53
133000
2000
В результаті виходить дуже гарна картина
02:33
to the detailed shape of the skin-pore structure
54
135000
3000
детальної структури пор її шкіри
02:36
and all of the fine wrinkles that all of us have,
55
138000
2000
і всіх маленьких зморшок, котрі є у всіх нас,
02:38
the things that actually make us look like real humans.
56
140000
2000
тих самих, завдяки яким ми виглядаємо як справжні люди.
02:40
So, if we use information that comes off of this specular reflection,
57
142000
4000
Якщо ми використовуємо інформацію, отриману з цього дзеркального відбиття,
02:44
we can go from a traditional face scan
58
146000
2000
ми можемо почати з традиційного сканованого обличчя,
02:46
that might have the gross contours of the face and the basic shape,
59
148000
4000
яке може мати загальні контури і форму обличчя,
02:50
and augment it with information
60
152000
2000
і доповнити його інформацією,
02:52
that puts in all of that skin pore structure and fine wrinkles.
61
154000
3000
що додає всю структуру шкірних пор і тонких зморшок.
02:55
And, even more importantly,
62
157000
2000
Що ще важливіше,
02:57
since this is a photometric process that only takes three seconds to capture,
63
159000
3000
оскільки цей фотометричний процес займає всього 3 секунди,
03:00
we can shoot Emily
64
162000
2000
ми можемо зняти Емілі
03:02
in just part of an afternoon,
65
164000
2000
всього за кілька годин
03:04
in many different facial poses and facial expressions.
66
166000
3000
в численних різноманітних позах і з різними виразами обличчя.
03:07
So, here you can see her moving her eyes around, moving her mouth around.
67
169000
3000
Отже тут ви можете побачити, як вона рухає очима і ротом.
03:10
And these we're actually going to use to create a photo-real digital character.
68
172000
3000
І ми збираємося використовувати ці рухи для створення цифрового фотореалістичного персонажа.
03:13
If you take a look at these scans that we have of Emily,
69
175000
4000
Якщо ви поглянете на ці скановані знімки Емілі,
03:17
you can see that the human face does an enormous amount of amazing things
70
179000
3000
то побачите, що людське обличчя робить неймовірну кількість дивовижних речей
03:20
as it goes into different facial expressions.
71
182000
3000
при створенні різних виразів обличчя.
03:23
You can see things. Not only the face shape changes,
72
185000
3000
Подивіться. Змінюється не тільки форма обличчя,
03:26
but all sorts of different skin buckling and skin wrinkling occurs.
73
188000
4000
але й з'являються всілякі вигини і зморшки.
03:30
You can see that the skin pore structure changes enormously
74
192000
4000
Як ви бачите, структура пор шкіри сильно змінюється
03:34
from stretched skin pores
75
196000
2000
від витягнутих пор
03:36
to the regular skin texture.
76
198000
2000
до звичайної структури шкіри.
03:38
You can see the furrows in the brow and how the microstructure changes there.
77
200000
3000
Можна побачити глибокі зморшки на бровах і як там міняється мікроструктура.
03:41
You can see muscles pulling down at flesh to bring her eyebrows down.
78
203000
4000
Можна побачити, як тягнуться її м'язи при опусканні брів.
03:45
Her muscles bulging in her forehead when she winces like that.
79
207000
3000
Лобові м'язи виступають, коли вона морщиться ось так.
03:48
In addition to this kind of high-resolution geometry,
80
210000
3000
На додаток до такого типу геометрії високої роздільної здатності,
03:51
since it's all captured with cameras, we've got a great texture map to use for the face.
81
213000
4000
так як все це знімається камерами, ми отримуємо чудову карту структури її обличчя.
03:55
And by looking at how the different color channels of the illumination,
82
217000
2000
І спостерігаючи, як різні кольорові канали освітлення -
03:57
the red and the green and the blue,
83
219000
2000
червоний, зелений і блакитний -
03:59
diffuse the light differently,
84
221000
2000
по-різному розсіюють світло,
04:01
we can come up with a way of shading the skin on the computer.
85
223000
3000
ми можемо зрозуміти, як слід затінювати шкіру на комп'ютері.
04:04
Then, instead of looking like a plaster mannequin,
86
226000
3000
Завдяки цьому вона виглядає не як пластиковий манекен,
04:07
it actually looks like it's made out of living human flesh.
87
229000
3000
а як справжня, з плоті і крові.
04:10
And this is what we used
88
232000
2000
І саме це ми використовували, щоб
04:12
to give to the company Image Metrics
89
234000
2000
дати компанії Image Metrics
04:14
to create a rigged, digital version of Emily.
90
236000
3000
можливість створити цифрову версію Емілі.
04:17
We're just seeing the coarse-scale geometry here.
91
239000
2000
Ми щойно бачили геометрію макромасштабу.
04:19
But they basically created a digital puppet of her,
92
241000
3000
Але вони, по суті, створили її цифрову маріонетку,
04:22
where you can pull on these various strings,
93
244000
2000
яку можна смикати за різні нитки,
04:24
and it actually moves her face in ways that are
94
246000
2000
і це буде змінювати її обличчя
04:26
completely consistent with the scans that we took.
95
248000
2000
повністю відповідно до сканованих зображень, зроблених нами.
04:28
And, in addition to the coarse-scale geometry,
96
250000
2000
На додаток до геометрії макромасштабу
04:30
they also used all of that detail
97
252000
2000
вони також використовували всі деталі
04:32
to create a set of what are called "displacement maps"
98
254000
3000
для створення набору так званих "карт рухів",
04:35
that animate as well.
99
257000
3000
які також анімуються.
04:38
These are the displacement maps here.
100
260000
2000
Ось це карти рухів.
04:40
And you can see those different wrinkles actually show up as she animates.
101
262000
3000
І як ви бачите, ті різні зморшки дійсно з'являються в процесі анімації.
04:43
So the next process was then to animate her.
102
265000
2000
Наступний процес полягав у її повному анімуванні.
04:45
We actually used one of her own performances to provide the source data.
103
267000
4000
Ми насправді використовували один з її виступів у якості вихідного джерела даних.
04:49
So, by analyzing this video with computer vision techniques,
104
271000
3000
Проаналізувавши це відео за допомогою технік комп'ютерного аналізу зображень,
04:52
they were able to drive the facial rig
105
274000
2000
нам вдалося змусити її обличчя рухатися
04:54
with the computer-generated performance.
106
276000
2000
під час виступу, відтвореного комп'ютером .
04:56
So what you're going to see now, after this,
107
278000
2000
Те, що ви зараз побачите,
04:58
is a completely photo-real digital face.
108
280000
2000
є повністю цифровим фотореалістичним обличчям.
05:00
We can turn the volume up a little bit if that's available.
109
282000
2000
Ми можемо трохи збільшити гучність, якщо можливо.
05:02
Emily: Image Metrics is a markerless, performance-driven animation company.
110
284000
4000
Емілі: Image Metrics - це інноваційна, орієнтована на результат анімаційна компанія.
05:06
We specialize in high-quality facial animation
111
288000
3000
Ми спеціалізуємося в високоякісній анімації облич
05:09
for video games and films.
112
291000
2000
для відеоігор і фільмів.
05:11
Image Metrics is a markerless, performance-driven animation company.
113
293000
4000
Image Metrics - це інноваційна, орієнтована на результат анімаційна компанія.
05:15
We specialize in high quality facial animation
114
297000
3000
Ми спеціалізуємося в високоякісній анімації облич
05:18
for video games and films.
115
300000
3000
для відеоігор і фільмів.
05:21
Paul Debevec: So, if we break that down into layers, here's that diffuse component
116
303000
2000
Пол Дебевек: Отже, якщо ми розіб'ємо це на шари, ось той розсіяний компонент,
05:23
we saw in the first slide.
117
305000
2000
який ми бачили на першому слайді.
05:25
Here is the specular component animating.
118
307000
2000
Ось анімується дзеркальний компонент.
05:27
You can see all the wrinkles happening there.
119
309000
2000
Тут видно усі зморшки, що з’являються.
05:29
And there is the underlying wireframe mesh.
120
311000
5000
А ось каркас, що лежить в основі.
05:34
And that is Emily herself.
121
316000
2000
А це сама Емілі.
05:36
Now, where are we going with this here?
122
318000
2000
Що ж у нас виходить?
05:38
We've gone a little bit beyond Light Stage 5. This is Light Stage 6,
123
320000
4000
Ми просунулися трохи далі Light Stage 5. Це - Light Stage 6.
05:42
and we're looking at taking this technology
124
324000
2000
Ми збираємося застосувати цю технологію
05:44
and applying it to whole human bodies.
125
326000
2000
до всього людського тіла.
05:46
This is Bruce Lawmen, one of our researchers in the group,
126
328000
2000
Це Брюс Лоумен, один з дослідників нашої групи.
05:48
who graciously agreed to get captured running in the Light Stage.
127
330000
3000
Він люб'язно погодився знятися під час бігу в Light Stage.
05:51
And let's take a look at a computer-generated version
128
333000
2000
Давайте подивимося на створену комп'ютером версію
05:53
of Bruce, running in a new environment.
129
335000
2000
Брюса, що біжить в новій обстановці.
06:01
And thank you very much.
130
343000
2000
Велике спасибі.
06:03
(Applause)
131
345000
1000
(Оплески)
ABOUT THE SPEAKER
Paul Debevec - Computer graphics pioneerPaul Debevec's digital inventions have powered the breathtaking visual effects in films like The Matrix, Superman Returns, King Kong and The Curious Case of Benjamin Button.
Why you should listen
Called "Hollywood's Master of Light" by MIT's Technology Review, Paul Debevec leads the Graphics Laboratory at USC's Institute for Creative Technologies, where he directs the development of the Light Stage systems, which capture and simulate how people and objects appear in real-world illumination.
His work on lighting digital objects has been used in films like X-Men, The Golden Compass and Terminator: Salvation. He leads the design of HDR Shop, the first high-dynamic-range image editing program. He has collaborated with TEDster Golan Levin on an interactive art installation called Rouen Revisited.
Paul Debevec | Speaker | TED.com