TEDxUSC
Paul Debevec: Animating a photo-real digital face
폴 데베벡의 포토리얼 디지털 얼굴 애니메이션
Filmed:
Readability: 4.8
881,584 views
컴퓨터 그래픽 분야의 선구자인 폴 데베벡이 TEDxUSC에서 디지털 에밀리 프로젝트를 통해 선보인 매혹적인 기술에 대해 설명합니다. 이 기술을 사용하면 디지털로 만든 사람의 얼굴이 실제처럼 여러 가지 표정을 짓게 할 수 있습니다. (**포토리얼리즘: 사물을 사진처럼 정확하고 상세하게 묘사하는 예술 기법)
Paul Debevec - Computer graphics pioneer
Paul Debevec's digital inventions have powered the breathtaking visual effects in films like The Matrix, Superman Returns, King Kong and The Curious Case of Benjamin Button. Full bio
Paul Debevec's digital inventions have powered the breathtaking visual effects in films like The Matrix, Superman Returns, King Kong and The Curious Case of Benjamin Button. Full bio
Double-click the English transcript below to play the video.
00:18
One of the biggest challenges in computer graphics
0
0
3000
컴퓨터 그래픽 분야의 가장 큰 과제 중 하나는
00:21
has been being able to create a photo-real,
1
3000
2000
사람의 얼굴을 디지털로 포토리얼하게
00:23
digital human face.
2
5000
2000
표현하는 것이었습니다.
00:25
And one of the reasons it is so difficult is that, unlike aliens and dinosaurs,
3
7000
3000
이 과제가 어려운 이유 중 하나는 우리가 사람의 얼굴을
00:28
we look at human faces every day.
4
10000
3000
외계인이나 공룡과는 달리 매일 보기 때문입니다.
00:31
They are very important to how we communicate with each other.
5
13000
2000
얼굴은 의사소통을 하는 데 무척 중요한 역할을 합니다.
00:33
As a result, we're tuned in to the subtlest things
6
15000
3000
그래서 컴퓨터로 만든 얼굴을 진짜처럼
00:36
that could possibly be wrong with a computer rendering,
7
18000
2000
느낄 수 있게 만들기 위해 컴퓨터 렌더링 과정에서
00:38
in order to believe whether these things are realistic.
8
20000
3000
잘못될 수 있는 것까지 세세하게 조정했습니다.
00:41
And what I'm going to do in the next five minutes
9
23000
2000
앞으로 5분간 저는 여러분에게 우리가
00:43
is take you through a process
10
25000
2000
컴퓨터로 포토리얼에 가까운 얼굴을 만들기 위해
00:45
where we tried to create a reasonably photo-realistic computer-generated face,
11
27000
3000
노력해 온 과정을 소개할까 합니다.
00:48
using some computer graphics technology we've developed,
12
30000
3000
이 과정에서 저희가 이미지 메트릭스(Image Metrics)사와 공동 개발한
00:51
and also some collaborators at a company called Image Metrics.
13
33000
2000
컴퓨터 그래픽 기술을 사용했습니다.
00:53
And we're going to try to do a photo-real face
14
35000
2000
우리는 에밀리라는 여배우의 얼굴을 포토리얼하게
00:55
of an actress named Emily O'Brien, who is right there.
15
37000
3000
표현하고자 했습니다. 지금 보고 계시는 분이죠.
00:58
And that's actually a completely computer-generated rendering of her face.
16
40000
3000
그리고 이것이 컴퓨터만으로 렌더링한 얼굴입니다.
01:01
By the end of the talk, we're going to see it move.
17
43000
2000
강연이 끝날 쯤에는 얼굴이 움직이는 것을 볼 수 있습니다.
01:03
The way that we did this is we tried to start with Emily herself,
18
45000
3000
이 프로젝트는 처음부터 에밀리와 함께 했는데
01:06
who was gracious enough to come to our laboratory
19
48000
3000
에밀리는 고맙게도 마리나 델 레이에 있는 저희 연구소에
01:09
in Marina Del Rey, and sit for a session in Light Stage 5.
20
51000
3000
직접 와서 라이트 스테이지 5(Light Stage 5) 세션에 참가했어요.
01:12
This is a face-scanning sphere, with 156 white LEDs all around
21
54000
4000
이것이 156개의 백색 LED가 달려있는 안면 스캐닝 스피어입니다.
01:16
that allow us to photograph her
22
58000
2000
사진을 찍는 동안
01:18
in a series of very controlled illumination conditions.
23
60000
3000
조명 상태를 아주 세밀하게 조정할 수 있죠.
01:21
And the lighting that we use these days looks something like this.
24
63000
3000
그리고 이 때 사용했던 조명은 이랬습니다.
01:24
We shoot all of these photographs in about three seconds.
25
66000
2000
이 사진들은 모두 3초 만에 찍은 것입니다.
01:26
And we basically capture enough information
26
68000
3000
우선 에밀리 얼굴의 전체 윤곽에서 세밀한 부분까지
01:29
with video projector patterns that drape over the contours of her face,
27
71000
4000
파악하기 위해 다양한 비디오 프로젝터의 패턴과
01:33
and different principle directions of light from the light stage,
28
75000
2000
라이트 스테이지의 다양한 조명 각도로부터
01:35
to figure out both the coarse-scale
29
77000
2000
충분한 정보를
01:37
and the fine-scale detail of her face.
30
79000
2000
뽑아냅니다
01:39
If we zoom in on this photograph right here,
31
81000
2000
지금 보시는 사진을 확대해보면
01:41
we can see it's a really nice photograph to have of her,
32
83000
2000
아주 좋은 사진임을 알 수 있습니다.
01:43
because she is lit from absolutely everywhere at the same time
33
85000
4000
에밀리 얼굴이 동시에 골고루 빛을 받아서
01:47
to get a nice image of her facial texture.
34
89000
2000
양질의 안면 질감 이미지를 얻을 수 있기 때문입니다.
01:49
And in addition, we've actually used polarizers on all the lights --
35
91000
3000
그리고 저희는 모든 빛에 편광기를 사용했습니다.
01:52
just like polarized sunglasses can block
36
94000
2000
도로의 눈부심을 막아주는
01:54
the glare off of the road,
37
96000
2000
편광 선글라스처럼 말이죠.
01:56
polarizers can block the shine off of the skin,
38
98000
2000
편광기가 피부에 들어오는 빛을 차단해주기 때문에
01:58
so we don't get all those specular reflections to take this map.
39
100000
3000
이 화상에는 반사광이 없습니다.
02:01
Now, if we turn the polarizers around just a little bit,
40
103000
2000
저희가 편광기의 방향을 조금만 바꾸면
02:03
we can actually bring that specular reflection
41
105000
2000
사진에 피부의 반사광이
02:05
of the skin back in,
42
107000
2000
찍힙니다.
02:07
and you can see she looks kind of shiny and oily at this point.
43
109000
3000
방금 번들거리는 에밀리의 얼굴을 보실 수 있었죠.
02:10
If you take the difference between these two images here,
44
112000
3000
두 이미지의 차이점을 구해보면
02:13
you can get an image lit from the entire sphere of light
45
115000
2000
에밀리의 피부 표면에서 반사되고 있는
02:15
of just the shine off of Emily's skin.
46
117000
3000
스피어의 모든 빛이 담긴 이미지를 얻을 수 있습니다.
02:18
I don't think any photograph like this had ever been taken
47
120000
2000
아마 저희가 하기 전에는 이런 식으로
02:20
before we had done this.
48
122000
2000
찍은 사진이 없었을 것입니다.
02:22
And this is very important light to capture,
49
124000
3000
이 빛을 잡아내는 일은 아주 중요합니다.
02:25
because this is the light that reflects off the first surface of the skin.
50
127000
2000
피부의 표층에서 반사되는 빛이기 때문입니다.
02:27
It doesn't get underneath the translucent
51
129000
2000
피부 속으로 흡수되었다가
02:29
layers of the skin and blur out.
52
131000
2000
스며나오는 빛이 아니에요.
02:31
And, as a result, it's a very good cue
53
133000
2000
그 때문에 우리들이 가지고 있는 모공의 구조나
02:33
to the detailed shape of the skin-pore structure
54
135000
3000
자잘한 주름처럼 진짜 사람으로 보이게
02:36
and all of the fine wrinkles that all of us have,
55
138000
2000
해주는 특징들에 대해
02:38
the things that actually make us look like real humans.
56
140000
2000
자세히 알려줍니다.
02:40
So, if we use information that comes off of this specular reflection,
57
142000
4000
그래서 기존의 안면 스캔에서 얻을 수 있는
02:44
we can go from a traditional face scan
58
146000
2000
전체적인 윤곽과 기본 형태 위에
02:46
that might have the gross contours of the face and the basic shape,
59
148000
4000
반사광 이미지에서 얻을 수 있는
02:50
and augment it with information
60
152000
2000
모공 구조와 자잘한 주름 등의
02:52
that puts in all of that skin pore structure and fine wrinkles.
61
154000
3000
정보를 더했습니다.
02:55
And, even more importantly,
62
157000
2000
더 중요한 것은
02:57
since this is a photometric process that only takes three seconds to capture,
63
159000
3000
3분 정도면 찍을 수 있는 광도 측정 과정만 거치면 되는
03:00
we can shoot Emily
64
162000
2000
작업이기 때문에 에밀리가
03:02
in just part of an afternoon,
65
164000
2000
오후에 잠깐 시간을 내서
03:04
in many different facial poses and facial expressions.
66
166000
3000
다양한 표정을 지어주기만 하면 됩니다.
03:07
So, here you can see her moving her eyes around, moving her mouth around.
67
169000
3000
여기 에밀리가 눈을 움직이고, 입을 움직이는 것을 보실 수 있죠.
03:10
And these we're actually going to use to create a photo-real digital character.
68
172000
3000
이걸로 실제 포토리얼 디지털 캐릭터를 만들어 낼 겁니다.
03:13
If you take a look at these scans that we have of Emily,
69
175000
4000
우리가 스캔한 에밀리 사진을 보세요.
03:17
you can see that the human face does an enormous amount of amazing things
70
179000
3000
각기 다른 얼굴 표현에 따라서 사람의 얼굴이
03:20
as it goes into different facial expressions.
71
182000
3000
굉장히 놀라운 일을 하는 것이 보실 수 있어요.
03:23
You can see things. Not only the face shape changes,
72
185000
3000
얼굴 형태만 변하는 게 아니라
03:26
but all sorts of different skin buckling and skin wrinkling occurs.
73
188000
4000
얼굴을 찡그리고 주름이 생기고
03:30
You can see that the skin pore structure changes enormously
74
192000
4000
모공 조직이 엄청나게 변하죠.
03:34
from stretched skin pores
75
196000
2000
늘어났다가
03:36
to the regular skin texture.
76
198000
2000
정상으로 돌아오고요.
03:38
You can see the furrows in the brow and how the microstructure changes there.
77
200000
3000
이마의 주름과 그 주름의 미세조직이 변화하는 것과
03:41
You can see muscles pulling down at flesh to bring her eyebrows down.
78
203000
4000
피부의 근육이 눈썹을 내려당기는 것을 볼 수 있을 것입니다.
03:45
Her muscles bulging in her forehead when she winces like that.
79
207000
3000
보는 것처럼 움찔할 때는 앞 이마의 근육이 불거져 나옵니다.
03:48
In addition to this kind of high-resolution geometry,
80
210000
3000
모두 사진기로 찍은 이미지들이기 때문에
03:51
since it's all captured with cameras, we've got a great texture map to use for the face.
81
213000
4000
이런 종류의 고해상도 화상 외에 얼굴 질감을 기막히게 표현할 수 있는 화상도 갖게 되었습니다.
03:55
And by looking at how the different color channels of the illumination,
82
217000
2000
그리고 빨강, 초록, 파랑 세 가지 조명 색상 채널의
03:57
the red and the green and the blue,
83
219000
2000
차이점을 살펴보니
03:59
diffuse the light differently,
84
221000
2000
빛을 다르게 산란시키고 있더군요.
04:01
we can come up with a way of shading the skin on the computer.
85
223000
3000
이를 참고해서 컴퓨터에서 피부에 음영을 줄 수 있는 방법을 고안했어요.
04:04
Then, instead of looking like a plaster mannequin,
86
226000
3000
그 덕분에 이미지들이 석고 마네킹처럼 보이지 않고
04:07
it actually looks like it's made out of living human flesh.
87
229000
3000
진짜 살아있는 사람의 피부처럼 보이죠.
04:10
And this is what we used
88
232000
2000
이것이 우리가
04:12
to give to the company Image Metrics
89
234000
2000
디지털로 조합한 에밀리를 만들 수 있도록
04:14
to create a rigged, digital version of Emily.
90
236000
3000
이미지 메트릭스 사에 보낸 것들입니다.
04:17
We're just seeing the coarse-scale geometry here.
91
239000
2000
지금 보고 계신 것은 대충 윤곽만 있는 화상이긴 하지만
04:19
But they basically created a digital puppet of her,
92
241000
3000
사실은 디지털 인형입니다.
04:22
where you can pull on these various strings,
93
244000
2000
다양한 줄을 당기면
04:24
and it actually moves her face in ways that are
94
246000
2000
그녀의 얼굴이 줄을 따라 움직이죠.
04:26
completely consistent with the scans that we took.
95
248000
2000
우리가 스캔한 이미지와 일치합니다.
04:28
And, in addition to the coarse-scale geometry,
96
250000
2000
이 대강의 윤곽만 있는 화상에
04:30
they also used all of that detail
97
252000
2000
모든 세부 사항을 더해서
04:32
to create a set of what are called "displacement maps"
98
254000
3000
움직이게도 할 수 있는 일련의
04:35
that animate as well.
99
257000
3000
"디스플레이스먼트 맵(Displacement map)"을 만듭니다.
04:38
These are the displacement maps here.
100
260000
2000
지금 보시는 것이 디스플레이스먼트 맵입니다.
04:40
And you can see those different wrinkles actually show up as she animates.
101
262000
3000
얼굴이 움직이면서 서로 다른 주름이 생기는 거 보이시죠?
04:43
So the next process was then to animate her.
102
265000
2000
그 다음 단계는 이 얼굴을 움직이게 하는 것입니다.
04:45
We actually used one of her own performances to provide the source data.
103
267000
4000
우리는 그녀의 연기 동작을 소스 데이터로 사용했습니다.
04:49
So, by analyzing this video with computer vision techniques,
104
271000
3000
이 동영상을 컴퓨터 시각 기술로 분석해서
04:52
they were able to drive the facial rig
105
274000
2000
컴퓨터로 표정을
04:54
with the computer-generated performance.
106
276000
2000
조합할 수 있게 되었습니다.
04:56
So what you're going to see now, after this,
107
278000
2000
이제부터 여러분께 보여드릴 것은
04:58
is a completely photo-real digital face.
108
280000
2000
완전히 포토리얼한 디지털 얼굴입니다.
05:00
We can turn the volume up a little bit if that's available.
109
282000
2000
가능하다면 소리 크기를 키워주세요.
05:02
Emily: Image Metrics is a markerless, performance-driven animation company.
110
284000
4000
에밀리: 이미지 메트릭스는 마커리스(markerless) 기술을 사용한 연기자 기반 애니메이션 기업입니다.
05:06
We specialize in high-quality facial animation
111
288000
3000
저희는 비디오 게임이나 영화에 사용할 수 있는
05:09
for video games and films.
112
291000
2000
고품질의 안면 애니메이션을 전문으로 합니다.
05:11
Image Metrics is a markerless, performance-driven animation company.
113
293000
4000
이미지 메트릭스는 마커리스(markerless) 기술을 사용한 연기자 기반 애니메이션 기업입니다.
05:15
We specialize in high quality facial animation
114
297000
3000
저희는 비디오 게임이나 영화에 사용할 수 있는
05:18
for video games and films.
115
300000
3000
고품질의 안면 애니메이션을 전문으로 합니다.
05:21
Paul Debevec: So, if we break that down into layers, here's that diffuse component
116
303000
2000
폴 데베벡: 이것을 여러 레이어로 분리하면
05:23
we saw in the first slide.
117
305000
2000
첫 슬라이드에서 보신 분산 컴포넌트입니다.
05:25
Here is the specular component animating.
118
307000
2000
이것은 움직이는 반사광 컴포넌트이고
05:27
You can see all the wrinkles happening there.
119
309000
2000
여기 주름지는 것을 볼 수 있죠.
05:29
And there is the underlying wireframe mesh.
120
311000
5000
와이어 프레임 그물망도 입혀봤습니다.
05:34
And that is Emily herself.
121
316000
2000
이건 에밀리의 본 얼굴입니다.
05:36
Now, where are we going with this here?
122
318000
2000
저희의 다음 목표는 뭘까요?
05:38
We've gone a little bit beyond Light Stage 5. This is Light Stage 6,
123
320000
4000
저희는 라이트 스테이지 5 에서 조금 더 나가봤습니다. 보시는 것은 라이트 스테이지 6 입니다.
05:42
and we're looking at taking this technology
124
324000
2000
여기서는 앞서 소개한 기술을 인체에
05:44
and applying it to whole human bodies.
125
326000
2000
적용하는 연구를 하고 있습니다.
05:46
This is Bruce Lawmen, one of our researchers in the group,
126
328000
2000
이분은 연구자 중 한 분인 브루스 로멘 씨인데요.
05:48
who graciously agreed to get captured running in the Light Stage.
127
330000
3000
라이트 스테이지에서 달리는 모습을 캡쳐할 수 있도록 해주셨죠.
05:51
And let's take a look at a computer-generated version
128
333000
2000
컴퓨터가 만들어낸 환경에서 달리고 있는
05:53
of Bruce, running in a new environment.
129
335000
2000
브루스를 보시죠.
06:01
And thank you very much.
130
343000
2000
감사합니다.
06:03
(Applause)
131
345000
1000
(박수)
ABOUT THE SPEAKER
Paul Debevec - Computer graphics pioneerPaul Debevec's digital inventions have powered the breathtaking visual effects in films like The Matrix, Superman Returns, King Kong and The Curious Case of Benjamin Button.
Why you should listen
Called "Hollywood's Master of Light" by MIT's Technology Review, Paul Debevec leads the Graphics Laboratory at USC's Institute for Creative Technologies, where he directs the development of the Light Stage systems, which capture and simulate how people and objects appear in real-world illumination.
His work on lighting digital objects has been used in films like X-Men, The Golden Compass and Terminator: Salvation. He leads the design of HDR Shop, the first high-dynamic-range image editing program. He has collaborated with TEDster Golan Levin on an interactive art installation called Rouen Revisited.
Paul Debevec | Speaker | TED.com