TEDxUSC
Paul Debevec: Animating a photo-real digital face
Пол Дебевек анимира фотореалистично дигитално лице
Filmed:
Readability: 4.8
881,584 views
На TEDxUSC пионерът в компютърната графика Пол Дебевек обяснява смайващата технология, стояща зад Дигиталната Емили - дигитално конструирано човешко лице, толкова реалистично, че издържа на множество дубли.
Paul Debevec - Computer graphics pioneer
Paul Debevec's digital inventions have powered the breathtaking visual effects in films like The Matrix, Superman Returns, King Kong and The Curious Case of Benjamin Button. Full bio
Paul Debevec's digital inventions have powered the breathtaking visual effects in films like The Matrix, Superman Returns, King Kong and The Curious Case of Benjamin Button. Full bio
Double-click the English transcript below to play the video.
00:18
One of the biggest challenges in computer graphics
0
0
3000
Едно от най-големите предизвикателства в компютърната графика
00:21
has been being able to create a photo-real,
1
3000
2000
бе възможността да се създаде фотореалистично,
00:23
digital human face.
2
5000
2000
дигитално човешко лице.
00:25
And one of the reasons it is so difficult is that, unlike aliens and dinosaurs,
3
7000
3000
Една от причините това да е толкова трудно е, че за разлика от извънземните и динозаврите,
00:28
we look at human faces every day.
4
10000
3000
гледаме човешки лица всеки ден.
00:31
They are very important to how we communicate with each other.
5
13000
2000
Те са много важни за начина, по който комуникираме един с друг.
00:33
As a result, we're tuned in to the subtlest things
6
15000
3000
В резултат на това сме се настроили да откриваме най-фините неща,
00:36
that could possibly be wrong with a computer rendering,
7
18000
2000
възможни проблеми в едно компютърно пресъздаване,
00:38
in order to believe whether these things are realistic.
8
20000
3000
за да повярваме, че то изглежда реалистично.
00:41
And what I'm going to do in the next five minutes
9
23000
2000
През следващите пет минути
00:43
is take you through a process
10
25000
2000
ще ви преведа през един процес,
00:45
where we tried to create a reasonably photo-realistic computer-generated face,
11
27000
3000
при който се опитахме да създадем разумно фотореалистично компютърно генерирано лице
00:48
using some computer graphics technology we've developed,
12
30000
3000
с помощта на технологии за компютърна графика, развити от нас,
00:51
and also some collaborators at a company called Image Metrics.
13
33000
2000
както и с някои сътрудници от една фирма на име "Имидж метрикс".
00:53
And we're going to try to do a photo-real face
14
35000
2000
Ще се опитаме да пресъздадем фотореалистично лицето
00:55
of an actress named Emily O'Brien, who is right there.
15
37000
3000
на една актриса на име Емили О'Брайън, която е ей там.
00:58
And that's actually a completely computer-generated rendering of her face.
16
40000
3000
Това всъщност е компютърно генерирано представяне на нейното лице.
01:01
By the end of the talk, we're going to see it move.
17
43000
2000
До края на разговора ще го видим да се движи.
01:03
The way that we did this is we tried to start with Emily herself,
18
45000
3000
Начинът, по който го направихме, е, като опитахме да започнем със самата Емили,
01:06
who was gracious enough to come to our laboratory
19
48000
3000
която бе така любезна да дойде в нашата лаборатория
01:09
in Marina Del Rey, and sit for a session in Light Stage 5.
20
51000
3000
в Марина Дел Рей, и да остане за една сесия в "Лайт Стейдж 5".
01:12
This is a face-scanning sphere, with 156 white LEDs all around
21
54000
4000
Това е сфера за сканиране на лице със 156 бели светодиода от всички страни,
01:16
that allow us to photograph her
22
58000
2000
които ни позволяват да я фотографираме
01:18
in a series of very controlled illumination conditions.
23
60000
3000
при ред много контролирани условия на осветление.
01:21
And the lighting that we use these days looks something like this.
24
63000
3000
Осветлението, което използваме тези дни, изглежда подобно на това.
01:24
We shoot all of these photographs in about three seconds.
25
66000
2000
Правим всички тези снимки за около три секунди.
01:26
And we basically capture enough information
26
68000
3000
И по същество улавяме достатъчно информация
01:29
with video projector patterns that drape over the contours of her face,
27
71000
4000
с шаблони от видеопрожектори, които покриват контурите на лицето й
01:33
and different principle directions of light from the light stage,
28
75000
2000
и различни посоки от светлинни източници от светлинната сцена,
01:35
to figure out both the coarse-scale
29
77000
2000
за да установим както грубо-мащабните,
01:37
and the fine-scale detail of her face.
30
79000
2000
така и фините детайли на лицето й.
01:39
If we zoom in on this photograph right here,
31
81000
2000
Ако погледнем тази снимка тук под увеличение,
01:41
we can see it's a really nice photograph to have of her,
32
83000
2000
виждаме, че това е наистина хубава нейна снимка,
01:43
because she is lit from absolutely everywhere at the same time
33
85000
4000
защото е осветена абсолютно отвсякъде едновременно
01:47
to get a nice image of her facial texture.
34
89000
2000
и се получава добър образ на лицевата й текстура.
01:49
And in addition, we've actually used polarizers on all the lights --
35
91000
3000
В добавка към това, всъщност използвахме поляризатори на всички лампи -
01:52
just like polarized sunglasses can block
36
94000
2000
точно както поляризираните слънчеви очила могат да блокират
01:54
the glare off of the road,
37
96000
2000
отблясъците от пътя,
01:56
polarizers can block the shine off of the skin,
38
98000
2000
поляризаторите могат да блокират отразения от кожата блясък,
01:58
so we don't get all those specular reflections to take this map.
39
100000
3000
така че не получаваме всички онези огледални отражения при съставянето на тази карта.
02:01
Now, if we turn the polarizers around just a little bit,
40
103000
2000
Ако завъртим съвсем малко поляризаторите,
02:03
we can actually bring that specular reflection
41
105000
2000
всъщност можем да върнем това огледално отражение
02:05
of the skin back in,
42
107000
2000
на кожата обратно вътре,
02:07
and you can see she looks kind of shiny and oily at this point.
43
109000
3000
и виждате как сега тя изглежда някак лъскаво и мазно.
02:10
If you take the difference between these two images here,
44
112000
3000
Ако вземете разликата между тези два образа тук,
02:13
you can get an image lit from the entire sphere of light
45
115000
2000
можете да получите образ, осветен от цялата светлинна сфера,
02:15
of just the shine off of Emily's skin.
46
117000
3000
или просто блясъка, отразяван от кожата на Емили.
02:18
I don't think any photograph like this had ever been taken
47
120000
2000
Не мисля, че някога е била правена такава снимка,
02:20
before we had done this.
48
122000
2000
преди ние да постигнем това.
02:22
And this is very important light to capture,
49
124000
3000
Много е важно да се улови тази светлина,
02:25
because this is the light that reflects off the first surface of the skin.
50
127000
2000
защото това е светлината, отразявана от първата кожна повърхност.
02:27
It doesn't get underneath the translucent
51
129000
2000
Тя не стига под полупрозрачните
02:29
layers of the skin and blur out.
52
131000
2000
слоеве на кожата и се замъглява.
02:31
And, as a result, it's a very good cue
53
133000
2000
В резултат на това е много добро подсещане
02:33
to the detailed shape of the skin-pore structure
54
135000
3000
за детайлната форма на структурата на кожните пори
02:36
and all of the fine wrinkles that all of us have,
55
138000
2000
и на всички фини бръчки, които имаме всички ние -
02:38
the things that actually make us look like real humans.
56
140000
2000
нещата, които всъщност ни придават вид на реални хора.
02:40
So, if we use information that comes off of this specular reflection,
57
142000
4000
И така - ако използваме информацията, следваща от това огледално отражение,
02:44
we can go from a traditional face scan
58
146000
2000
можем да преминем от традиционното сканиране на лице,
02:46
that might have the gross contours of the face and the basic shape,
59
148000
4000
което може да даде грубите контури на лицето и базовата форма,
02:50
and augment it with information
60
152000
2000
и да го наситим с информация,
02:52
that puts in all of that skin pore structure and fine wrinkles.
61
154000
3000
която внася цялата тази структура от кожни пори и фини бръчки.
02:55
And, even more importantly,
62
157000
2000
И, още по-важно -
02:57
since this is a photometric process that only takes three seconds to capture,
63
159000
3000
тъй като това е фотометричен процес, за чието улавяне са необходими само три секунди,
03:00
we can shoot Emily
64
162000
2000
можем да снимаме Емили
03:02
in just part of an afternoon,
65
164000
2000
само за част от един следобед,
03:04
in many different facial poses and facial expressions.
66
166000
3000
в много различни лицеви пози и лицеви изражения.
03:07
So, here you can see her moving her eyes around, moving her mouth around.
67
169000
3000
Тук я виждате да движи очите си, да движи устата си.
03:10
And these we're actually going to use to create a photo-real digital character.
68
172000
3000
Ще използваме тези снимки, за да създадем фотореалистична дигитална героиня.
03:13
If you take a look at these scans that we have of Emily,
69
175000
4000
Ако погледнете тези изображения на Емили, които имаме,
03:17
you can see that the human face does an enormous amount of amazing things
70
179000
3000
ще видите, че човешкото лице прави невероятно много изумителни неща,
03:20
as it goes into different facial expressions.
71
182000
3000
докато преминава в различни лицеви изражения.
03:23
You can see things. Not only the face shape changes,
72
185000
3000
Виждате как стоят нещата. Не само че формата на лицето се променя,
03:26
but all sorts of different skin buckling and skin wrinkling occurs.
73
188000
4000
но се случва и най-различно обтягане и набръчкване на кожата.
03:30
You can see that the skin pore structure changes enormously
74
192000
4000
Виждате, че структурата на кожните пори се променя невероятно много -
03:34
from stretched skin pores
75
196000
2000
от разтегнати кожни пори
03:36
to the regular skin texture.
76
198000
2000
до обичайната кожна структура.
03:38
You can see the furrows in the brow and how the microstructure changes there.
77
200000
3000
Виждате браздите на челото и как микроструктурата се променя там.
03:41
You can see muscles pulling down at flesh to bring her eyebrows down.
78
203000
4000
Виждате мускули да теглят плътта, за да свалят веждите й надолу.
03:45
Her muscles bulging in her forehead when she winces like that.
79
207000
3000
Мускулите й изпъкват на челото, когато тя премигва така.
03:48
In addition to this kind of high-resolution geometry,
80
210000
3000
В добавка към тази висококачествена геометрия,
03:51
since it's all captured with cameras, we've got a great texture map to use for the face.
81
213000
4000
тъй като всичко се улавя с камери, имаме страхотна текстурна карта за лицето, която да използваме.
03:55
And by looking at how the different color channels of the illumination,
82
217000
2000
А като разглеждаме как различните цветови канали на осветлението -
03:57
the red and the green and the blue,
83
219000
2000
червеният, зеленият и синият
03:59
diffuse the light differently,
84
221000
2000
разпръскват различно светлината,
04:01
we can come up with a way of shading the skin on the computer.
85
223000
3000
можем да намерим начин да постигнем нюансиране на кожата в компютъра.
04:04
Then, instead of looking like a plaster mannequin,
86
226000
3000
Тогава, вместо да изглежда като пластмасов манекен,
04:07
it actually looks like it's made out of living human flesh.
87
229000
3000
всъщност изглежда, като че ли е направен от жива човешка плът.
04:10
And this is what we used
88
232000
2000
Използвахме това,
04:12
to give to the company Image Metrics
89
234000
2000
за да го дадем на фирмата "Имидж Метрикс",
04:14
to create a rigged, digital version of Emily.
90
236000
3000
за да създадат пълна дигитална версия на Емили.
04:17
We're just seeing the coarse-scale geometry here.
91
239000
2000
Тук виждаме само геометрията в груб мащаб.
04:19
But they basically created a digital puppet of her,
92
241000
3000
Но те по същество създадоха от нея дигитална кукла,
04:22
where you can pull on these various strings,
93
244000
2000
която може да бъде управлявана с различни конци,
04:24
and it actually moves her face in ways that are
94
246000
2000
и това наистина движи лицето й по начини,
04:26
completely consistent with the scans that we took.
95
248000
2000
напълно съвместими със сканиранията, които предприехме.
04:28
And, in addition to the coarse-scale geometry,
96
250000
2000
В добавка към грубомащабната геометрия,
04:30
they also used all of that detail
97
252000
2000
те използваха също и множество подробности,
04:32
to create a set of what are called "displacement maps"
98
254000
3000
за да създадат набор от така наречените "карти на отместване",
04:35
that animate as well.
99
257000
3000
които също анимират.
04:38
These are the displacement maps here.
100
260000
2000
Това тук са картите на отместване.
04:40
And you can see those different wrinkles actually show up as she animates.
101
262000
3000
Вжидате как наистина се показват различни бръчки, докато тя се съживява.
04:43
So the next process was then to animate her.
102
265000
2000
Следващият процес беше да я съживим.
04:45
We actually used one of her own performances to provide the source data.
103
267000
4000
Всъщност, използвахме едно от нейните представления, за да си осигурим източник на данни.
04:49
So, by analyzing this video with computer vision techniques,
104
271000
3000
Чрез анализ на този видеозапис с техники за компютърно виждане,
04:52
they were able to drive the facial rig
105
274000
2000
те са постигнали управление на лицевото изражение
04:54
with the computer-generated performance.
106
276000
2000
с компютърно генерирано изпълнение.
04:56
So what you're going to see now, after this,
107
278000
2000
Това, което ще видите сега - след това,
04:58
is a completely photo-real digital face.
108
280000
2000
е напълно фотореалистично дигитално лице.
05:00
We can turn the volume up a little bit if that's available.
109
282000
2000
Може да увеличим малко звука, ако има възможност.
05:02
Emily: Image Metrics is a markerless, performance-driven animation company.
110
284000
4000
Емили: "Имидж Метрис" е необикновена, насочена към постижения фирма за анимация.
05:06
We specialize in high-quality facial animation
111
288000
3000
Специализирали сме се във висококачествена лицева анимация
05:09
for video games and films.
112
291000
2000
за видеоигри и филми.
05:11
Image Metrics is a markerless, performance-driven animation company.
113
293000
4000
"Имидж Метрис" е необикновена, насочена към постижения фирма за анимация.
05:15
We specialize in high quality facial animation
114
297000
3000
Специализирали сме се във вискокачествена лицева анимация
05:18
for video games and films.
115
300000
3000
за видеоигри и филми.
05:21
Paul Debevec: So, if we break that down into layers, here's that diffuse component
116
303000
2000
Пол Дебевек: И така, ако разбием това на слоеве, ето онзи разпръскващ компонент,
05:23
we saw in the first slide.
117
305000
2000
който видяхме в първия кадър.
05:25
Here is the specular component animating.
118
307000
2000
Ето как отразяващият компонент анимира.
05:27
You can see all the wrinkles happening there.
119
309000
2000
Виждате как се получават всички бръчки там.
05:29
And there is the underlying wireframe mesh.
120
311000
5000
А тук е рамковата мрежа отдолу.
05:34
And that is Emily herself.
121
316000
2000
А това е самата Емили.
05:36
Now, where are we going with this here?
122
318000
2000
А сега, докъде сме с това тук?
05:38
We've gone a little bit beyond Light Stage 5. This is Light Stage 6,
123
320000
4000
Стигнали сме малко отвъд "Лайт Стейдж 5". Това е "Лайт Стейдж 6".
05:42
and we're looking at taking this technology
124
324000
2000
Работим за това да вземем тази технология
05:44
and applying it to whole human bodies.
125
326000
2000
и да я приложим към цели човешки тела.
05:46
This is Bruce Lawmen, one of our researchers in the group,
126
328000
2000
Това е Брус Лоумен, един от нашите изследователи в групата,
05:48
who graciously agreed to get captured running in the Light Stage.
127
330000
3000
който любезно се съгласи да бъде уловен, докато тича в "Лайт Стейдж".
05:51
And let's take a look at a computer-generated version
128
333000
2000
Да погледнем една компютърно-генерирана версия
05:53
of Bruce, running in a new environment.
129
335000
2000
на Брус, тичащ в нова околна среда.
06:01
And thank you very much.
130
343000
2000
Много ви благодаря.
06:03
(Applause)
131
345000
1000
(Аплодисменти)
ABOUT THE SPEAKER
Paul Debevec - Computer graphics pioneerPaul Debevec's digital inventions have powered the breathtaking visual effects in films like The Matrix, Superman Returns, King Kong and The Curious Case of Benjamin Button.
Why you should listen
Called "Hollywood's Master of Light" by MIT's Technology Review, Paul Debevec leads the Graphics Laboratory at USC's Institute for Creative Technologies, where he directs the development of the Light Stage systems, which capture and simulate how people and objects appear in real-world illumination.
His work on lighting digital objects has been used in films like X-Men, The Golden Compass and Terminator: Salvation. He leads the design of HDR Shop, the first high-dynamic-range image editing program. He has collaborated with TEDster Golan Levin on an interactive art installation called Rouen Revisited.
Paul Debevec | Speaker | TED.com