TED2018
Supasorn Suwajanakorn: Fake videos of real people -- and how to spot them
ศุภศรณ์ สุวจนกรณ์ (Supasorn Suwajanakorn): วีดีโอปลอมจากคนจริง ๆ -- และวิธีการจับผิดพวกมัน
Filmed:
Readability: 4.6
1,453,308 views
คิดว่าคุณเก่งเรื่องการจัดผิดวีดีโอปลอม ที่คนดังพูดอะไรบางอย่างที่จริง ๆ แล้วเขาไม่เคยพูดเลยใช่ไหม ลองมาดูกันว่าวีดีโอเหล่านี้ถูกสร้างขึ้นได้อย่างไรในการบรรยายที่น่าทึ่งและตัวอย่างทางเทคนิคนี้ ศุภศรณ์ สุวจนกรณ์ นักวิทยาศาสตร์คอมพิวเตอร์ แสดงให้เราเห็นผลงานของเขาตอนเป็นนักเรียนระดับอุดมศึกษา ว่าเขาใช้ AI และการออกแบบทางสามมิติ ในการสร้างวีดีโอปลอมที่ประกอบด้วยภาพสมจริงของคนที่ขยับเขยี้อนได้อย่างสัมพันธ์กับเสียงพูด มาเรียนรู้ให้มากขึ้นเกี่ยวกับเจตนาในเชิงจริยธรรมและโอกาสในเชิงสร้างสรรค์ของเทคโนโลยีนี้ -- และขั้นตอนต่าง ๆ ที่ถูกนำมาใช้เพื่อต้านการนำไปใช้อย่างไม่เหมาะสม
Supasorn Suwajanakorn - Computer scientist
Supasorn Suwajanakorn works on ways to reconstruct, preserve and reanimate anyone -- just from their existing photos and videos. Full bio
Supasorn Suwajanakorn works on ways to reconstruct, preserve and reanimate anyone -- just from their existing photos and videos. Full bio
Double-click the English transcript below to play the video.
00:12
Look at these images.
0
876
1151
ลองดูภาพพวกนี้นะครับ
00:14
Now, tell me which Obama here is real.
1
2051
2635
ทีนี้บอกผมได้ไหมครับว่า
โอบามาตัวจริงอยู่ในภาพไหน
โอบามาตัวจริงอยู่ในภาพไหน
00:16
(Video) Barack Obama: To help families
refinance their homes,
refinance their homes,
2
4710
2861
(วีดีโอ) บารัค โอบามา:
เพื่อช่วยปลดหนี้ในครัวเรือน
เพื่อช่วยปลดหนี้ในครัวเรือน
00:19
to invest in things
like high-tech manufacturing,
like high-tech manufacturing,
3
7595
2647
เพื่อการลงทุนกับการผลิต
ผลิตภัณฑ์ที่ทันสมัย
ผลิตภัณฑ์ที่ทันสมัย
00:22
clean energy
4
10266
1159
พลังงานสะอาด
00:23
and the infrastructure
that creates good new jobs.
that creates good new jobs.
5
11449
2779
และสาธารณูปโภค
ที่สร้างงานใหม่ที่มีคุณภาพ
ที่สร้างงานใหม่ที่มีคุณภาพ
00:26
Supasorn Suwajanakorn: Anyone?
6
14647
1484
ศุภศรณ์ สุวจนกรณ์: บอกได้ไหมครับ
00:28
The answer is none of them.
7
16155
1874
คำตอบคือ ตัวปลอมหมดเลยครับ
00:30
(Laughter)
8
18053
1114
(เสียงหัวเราะ)
00:31
None of these is actually real.
9
19191
1786
ไม่มีภาพไหนเลยที่เป็นของจริง
00:33
So let me tell you how we got here.
10
21001
1840
ผมจะเล่าให้ฟัง
ว่าเรามาถึงจุดนี้ได้อย่างไร
ว่าเรามาถึงจุดนี้ได้อย่างไร
00:35
My inspiration for this work
11
23940
1578
แรงบันดาลใจสำหรับงานนี้
00:37
was a project meant to preserve our last
chance for learning about the Holocaust
chance for learning about the Holocaust
12
25542
5411
มาจากโครงการที่มุ่งจะรักษาโอกาสสุดท้าย
ที่เราจะได้เรียนรู้เรื่องกับการสังหารหมู่
ที่เราจะได้เรียนรู้เรื่องกับการสังหารหมู่
00:42
from the survivors.
13
30977
1768
จากผู้รอดชีวิต
00:44
It's called New Dimensions in Testimony,
14
32769
2627
โครงการนี้ชื่อว่า
นิว ไดเมนชั่น อิน เทสทิโมนี
นิว ไดเมนชั่น อิน เทสทิโมนี
00:47
and it allows you to have
interactive conversations
interactive conversations
15
35420
3126
คุณจะสามารถสนทนาโต้ตอบได้
00:50
with a hologram
of a real Holocaust survivor.
of a real Holocaust survivor.
16
38570
2556
กับโฮโลแกรม
ของผู้รอดชีวิตจริงจากการสังหารหมู่
ของผู้รอดชีวิตจริงจากการสังหารหมู่
00:53
(Video) Man: How did you
survive the Holocaust?
survive the Holocaust?
17
41793
1966
(วีดีโอ) ผู้ชาย: คุณรอดชีวิต
จากการสังหารหมู่มาได้อย่างไรครับ
จากการสังหารหมู่มาได้อย่างไรครับ
00:55
(Video) Hologram: How did I survive?
18
43783
1668
(วีดีโอ) โฮโลแกรม: ผมน่ะหรอ
00:57
I survived,
19
45912
1807
ผมเชื่อว่า
01:00
I believe,
20
48419
1527
ที่ผมรอดมาได้
01:01
because providence watched over me.
21
49970
3023
ก็เพราะลิขิตจากพระผู้เป็นเจ้า
01:05
SS: Turns out these answers
were prerecorded in a studio.
were prerecorded in a studio.
22
53573
3454
ศุภศรณ์: คำตอบเหล่านี้
ได้รับการบันทึกเอาไว้ก่อนในห้องอัด
ได้รับการบันทึกเอาไว้ก่อนในห้องอัด
01:09
Yet the effect is astounding.
23
57051
2452
ถึงอย่างนั้น ผลที่ออกมาก็น่าทึ่งมาก
01:11
You feel so connected to his story
and to him as a person.
and to him as a person.
24
59527
3619
เรารู้สึกผูกพันกับเรื่องเราวและตัวตนของเขา
01:16
I think there's something special
about human interaction
about human interaction
25
64011
3301
ผมคิดว่ามีสิ่งพิเศษบางอย่าง
ในความสัมพันธ์ของมนุษย์
ในความสัมพันธ์ของมนุษย์
01:19
that makes it much more profound
26
67336
2757
ที่ทำให้มันลึกซึ้งยิ่งกว่า
01:22
and personal
27
70117
2198
และมีความจำเพาะต่อตัวบุคคล
01:24
than what books or lectures
or movies could ever teach us.
or movies could ever teach us.
28
72339
3485
มากกว่าที่หนังสือ การบรรยาย
หรือภาพยนต์จะสอนเราได้
หรือภาพยนต์จะสอนเราได้
01:28
So I saw this and began to wonder,
29
76267
2425
ผมเห็นแล้วก็เริ่มคิดว่า
01:30
can we create a model
like this for anyone?
like this for anyone?
30
78716
2810
เราจะสร้างแบบจำลองในลักษณะนี้
สำหรับคนอื่นได้ไหม
สำหรับคนอื่นได้ไหม
01:33
A model that looks, talks
and acts just like them?
and acts just like them?
31
81550
2975
แบบจำลองที่มีหน้าตา การพูด
และท่าทางเหมือนกับเจ้าตัว
และท่าทางเหมือนกับเจ้าตัว
01:37
So I set out to see if this could be done
32
85573
2007
ผมจึงเริ่มลองดูว่าจะทำได้หรือไม่
01:39
and eventually came up with a new solution
33
87604
2310
และในที่สุดก็พบกับวิธีการใหม่
01:41
that can build a model of a person
using nothing but these:
using nothing but these:
34
89938
3220
ในการสร้างแบบจำลองมนุษย์
โดยไม่ต้องใช้อะไรอีกเลยนอกจาก
โดยไม่ต้องใช้อะไรอีกเลยนอกจาก
01:45
existing photos and videos of a person.
35
93747
2214
ภาพถ่ายที่มีอยู่และวีดีโอของคนคนนั้น
01:48
If you can leverage
this kind of passive information,
this kind of passive information,
36
96701
2617
ถ้าคุณใช้ประโยชน์จากข้อมูลที่หาได้ไม่ยาก
01:51
just photos and video that are out there,
37
99342
2007
เช่น ภาพถ่ายและวีดีโอที่มีอยู่มากมาย
01:53
that's the key to scaling to anyone.
38
101373
2056
นั่นแหละ กุญแจสำคัญที่ทำให้เรา
ใช้แบบจำลองนี้กับใครก็ได้
ใช้แบบจำลองนี้กับใครก็ได้
01:56
By the way, here's Richard Feynman,
39
104119
1777
อ้อ นี่คือริชาร์ด ไฟน์แมน
01:57
who in addition to being
a Nobel Prize winner in physics
a Nobel Prize winner in physics
40
105920
3413
ผู้ที่นอกจากจะได้รับรางวัลโนเบล
สาขาฟิสิกส์แล้ว
สาขาฟิสิกส์แล้ว
02:01
was also known as a legendary teacher.
41
109357
2453
ยังเป็นครูระดับตำนานอีกด้วย
02:05
Wouldn't it be great
if we could bring him back
if we could bring him back
42
113080
2198
มันจะเจ๋งแค่ไหน ถ้าเรานำเขากลับมาได้
02:07
to give his lectures
and inspire millions of kids,
and inspire millions of kids,
43
115302
3265
เพื่อให้เขาบรรยาย
และเป็นแรงบันดาลใจกับเด็กนับล้าน
และเป็นแรงบันดาลใจกับเด็กนับล้าน
02:10
perhaps not just in English
but in any language?
but in any language?
44
118591
2992
จะให้เขาพูดเป็นภาษาอะไรก็ได้
ไม่จำเป็นต้องเป็นภาษาอังกฤษอย่างเดียว
ไม่จำเป็นต้องเป็นภาษาอังกฤษอย่างเดียว
02:14
Or if you could ask our grandparents
for advice and hear those comforting words
for advice and hear those comforting words
45
122441
4602
หรือเราสามารถพูดกับคุณตาคุณยาย
เพื่อขอคำแนะนำและกำลังใจจากพวกท่านได้
เพื่อขอคำแนะนำและกำลังใจจากพวกท่านได้
02:19
even if they're no longer with us?
46
127067
1770
แม้ว่าพวกท่านจะไม่ได้อยู่กับเราแล้ว
02:21
Or maybe using this tool,
book authors, alive or not,
book authors, alive or not,
47
129683
3396
หรือแม้กระทั่งให้นักเขียน
ผู้ที่อาจเสียชีวิตไปแล้วหรือยังมีชีวิตอยู่
ผู้ที่อาจเสียชีวิตไปแล้วหรือยังมีชีวิตอยู่
02:25
could read aloud all of their books
for anyone interested.
for anyone interested.
48
133103
2937
สามารถอ่านหนังสือของพวกเขา
ให้กับผู้ที่สนใจได้
ให้กับผู้ที่สนใจได้
02:29
The creative possibilities
here are endless,
here are endless,
49
137199
2437
มันมอบโอกาสในเชิงสร้างสรรค์
อย่างไม่มีที่สิ้นสุด
อย่างไม่มีที่สิ้นสุด
02:31
and to me, that's very exciting.
50
139660
1713
สำหรับผมแล้ว มันน่าตื่นเต้นมากครับ
02:34
And here's how it's working so far.
51
142595
2002
ถึงตอนนี้ ขั้นตอนของมันเป็นดังต่อไปนี้ครับ
02:36
First, we introduce a new technique
52
144621
1667
เริ่มด้วยการใช้เทคโนโลยีใหม่
02:38
that can reconstruct a high-detailed
3D face model from any image
3D face model from any image
53
146312
4572
ที่สามารถสร้างแบบจำลองหน้าสามมิติ
ที่มีความละเอียดสูงขึ้นใหม่จากภาพ
ที่มีความละเอียดสูงขึ้นใหม่จากภาพ
02:42
without ever 3D-scanning the person.
54
150908
2119
โดยไม่ต้องสแกนคนด้วยระบบสามมิติ
02:45
And here's the same output model
from different views.
from different views.
55
153890
2642
และนี่คือแบบจำลองที่เป็นผลลัพธ์
จากมุมที่แตกต่างกัน
จากมุมที่แตกต่างกัน
02:49
This also works on videos,
56
157969
1502
มันยังใช้ได้กับวีดีโออีกด้วย
02:51
by running the same algorithm
on each video frame
on each video frame
57
159495
2852
โดยใช้อัลกอริธึมเดียวกัน
ในแต่ละเฟรมของวีดีโอ
ในแต่ละเฟรมของวีดีโอ
02:54
and generating a moving 3D model.
58
162371
2222
และสร้างมันเป็นแบบจำลองสามมิติ
ที่เคลื่อนไหวได้
ที่เคลื่อนไหวได้
02:57
And here's the same
output model from different angles.
output model from different angles.
59
165538
2772
และนี่คือแบบจำลองที่เป็นผลลัพธ์
จากมุมที่ต่างกัน
จากมุมที่ต่างกัน
03:01
It turns out this problem
is very challenging,
is very challenging,
60
169933
2534
ปัญหานี้ท้าทายมาก ๆ
03:04
but the key trick
is that we are going to analyze
is that we are going to analyze
61
172491
2525
แต่เคล็ดลับก็คือ เราจะทำการวิเคราะห์
03:07
a large photo collection
of the person beforehand.
of the person beforehand.
62
175040
2966
ชุดภาพของคนจำนวนมาก ๆ เอาไว้ล่วงหน้า
03:10
For George W. Bush,
we can just search on Google,
we can just search on Google,
63
178650
2539
สำหรับ จอร์จ ดับเบิลยู. บุช
เราใช้แค่การค้นหาในกูเกิล
เราใช้แค่การค้นหาในกูเกิล
03:14
and from that, we are able
to build an average model,
to build an average model,
64
182309
2499
จากนั้น เราก็จะสามารถ
สร้างแบบจำลองโดยเฉลี่ย
สร้างแบบจำลองโดยเฉลี่ย
03:16
an iterative, refined model
to recover the expression
to recover the expression
65
184832
3111
และแบบจำลองที่ได้รับการปรับปรุงซ้ำ ๆ
03:19
in fine details,
like creases and wrinkles.
like creases and wrinkles.
66
187967
2336
เพื่อให้ได้รายละเอียดของการแสดงสีหน้า
เช่น รอยย่นต่าง ๆ
เช่น รอยย่นต่าง ๆ
03:23
What's fascinating about this
67
191326
1403
ที่น่าทึ่งก็คือ
03:24
is that the photo collection
can come from your typical photos.
can come from your typical photos.
68
192753
3423
ชุดภาพถ่ายอาจเป็นภาพถ่ายทั่ว ๆ ไป
03:28
It doesn't really matter
what expression you're making
what expression you're making
69
196200
2603
ไม่สำคัญเลยว่าจะแสดงสีหน้าอะไรอยู่
03:30
or where you took those photos.
70
198827
1885
หรือภาพนั้นจะถูกถ่ายที่ไหน
03:32
What matters is
that there are a lot of them.
that there are a lot of them.
71
200736
2400
ที่สำคัญก็คือ
เราจะต้องหาภาพให้ได้มาก ๆ
เราจะต้องหาภาพให้ได้มาก ๆ
03:35
And we are still missing color here,
72
203160
1736
ถึงตรงนี้ เรายังขาดสีอยู่
03:36
so next, we develop
a new blending technique
a new blending technique
73
204920
2348
ต่อไปเราก็จะใช้เทคนิคการทำให้กลมกลืน
03:39
that improves upon
a single averaging method
a single averaging method
74
207292
2836
ทำให้มันดีขึ้น
ด้วยการปรับสมดุลเพียงครั้งเดียว
ด้วยการปรับสมดุลเพียงครั้งเดียว
03:42
and produces sharp
facial textures and colors.
facial textures and colors.
75
210152
2818
และให้ผิวหน้าที่คมชัดและมีสี
03:45
And this can be done for any expression.
76
213779
2771
เราสามารถใช้เทคนิคนี้
ได้กับทุกการแสดงสีหน้า
ได้กับทุกการแสดงสีหน้า
03:49
Now we have a control
of a model of a person,
of a model of a person,
77
217485
2499
ตอนนี้ เราสามารถควบคุม
แบบจำลองมนุษย์ได้
แบบจำลองมนุษย์ได้
03:52
and the way it's controlled now
is by a sequence of static photos.
is by a sequence of static photos.
78
220008
3795
โดยใช้ชุดของภาพถ่ายที่เป็นภาพนิ่ง
03:55
Notice how the wrinkles come and go,
depending on the expression.
depending on the expression.
79
223827
3126
ลองสังเกตดูนะครับว่า รอยย่น
จะเปลี่ยนไปตามการแสดงสีหน้า
จะเปลี่ยนไปตามการแสดงสีหน้า
04:00
We can also use a video
to drive the model.
to drive the model.
80
228109
2746
เรายังสามารถใช้วีดีโอ
ในการบังคับแบบจำลองได้อีกด้วย
ในการบังคับแบบจำลองได้อีกด้วย
04:02
(Video) Daniel Craig: Right, but somehow,
81
230879
2593
(วีดีโอ) แดเนียล เครก: เอาล่ะ
ไม่ว่าด้วยวิธีการใด
ไม่ว่าด้วยวิธีการใด
04:05
we've managed to attract
some more amazing people.
some more amazing people.
82
233496
3771
เราก็ดึงดูดคนที่เจ๋งกว่าเข้ามา
04:10
SS: And here's another fun demo.
83
238021
1642
ศุภศรณ์: และนี่ก็เป็นอีกตัวอย่างสนุก ๆ
04:11
So what you see here
are controllable models
are controllable models
84
239687
2246
ที่คุณเห็นอยู่ตอนนี้
คือแบบจำลองมนุษย์ที่บังคับได้
คือแบบจำลองมนุษย์ที่บังคับได้
04:13
of people I built
from their internet photos.
from their internet photos.
85
241957
2444
ที่ผมสร้างมันจากภาพถ่าย
ที่พบได้ในอินเทอร์เน็ต
ที่พบได้ในอินเทอร์เน็ต
04:16
Now, if you transfer
the motion from the input video,
the motion from the input video,
86
244425
2904
ทีนี้ ถ้าคุณถ่ายทอดการเคลื่อนไหว
จากวีดีโอต้นทาง
จากวีดีโอต้นทาง
04:19
we can actually drive the entire party.
87
247353
2152
เราก็จะสามารถควบคุมคนทั้งกลุ่มนี้ได้
04:21
George W. Bush:
It's a difficult bill to pass,
It's a difficult bill to pass,
88
249529
2172
จอร์จ ดับเบิลยู. บุช:
มันยากนะที่จะผ่านกฎหมายนี้ออกมา
มันยากนะที่จะผ่านกฎหมายนี้ออกมา
04:23
because there's a lot of moving parts,
89
251725
2303
เพราะว่ามีหลายส่วนที่ยังไม่นิ่ง
04:26
and the legislative processes can be ugly.
90
254052
5231
และกระบวนการทางนิติบัญญัติ
ก็อาจดูไม่ดีนัก
ก็อาจดูไม่ดีนัก
04:31
(Applause)
91
259307
1630
(เสียงปรบมือ)
04:32
SS: So coming back a little bit,
92
260961
1837
ศุภศรณ์: ย้อนกลับมานิดนึงนะครับ
04:34
our ultimate goal, rather,
is to capture their mannerisms
is to capture their mannerisms
93
262822
3191
เป้าหมายสุดยอดของเรา
คือการจับกริยาท่าทางของพวกเขา
คือการจับกริยาท่าทางของพวกเขา
04:38
or the unique way each
of these people talks and smiles.
of these people talks and smiles.
94
266037
3045
หรือการพูดหรือยิ้มของคนเหล่านี้
ที่มีความเป็นเอกลักษณ์
ที่มีความเป็นเอกลักษณ์
04:41
So to do that, can we
actually teach the computer
actually teach the computer
95
269106
2313
เพื่อที่จะทำเช่นนั้น
เราจะสามารถสอนให้คอมพิวเตอร์
เราจะสามารถสอนให้คอมพิวเตอร์
04:43
to imitate the way someone talks
96
271443
2222
ลอกแบบวิธีการพูดของใครสักคนได้ไหม
04:45
by only showing it
video footage of the person?
video footage of the person?
97
273689
2420
โดยแค่ป้อนวีดีโอของคนคนนั้นเข้าไป
04:48
And what I did exactly was,
I let a computer watch
I let a computer watch
98
276898
2577
สิ่งที่ผมทำก็คือให้คอมพิวเตอร์ดูวีดีโอ
04:51
14 hours of pure Barack Obama
giving addresses.
giving addresses.
99
279499
3277
ที่มีแต่การปราศรัยของโอบามา
ความยาว 14 ชั่วโมง
ความยาว 14 ชั่วโมง
04:55
And here's what we can produce
given only his audio.
given only his audio.
100
283443
3516
และนี่คือสิ่งที่เราผลิตได้
โดยให้แค่เสียงพูดของเขา
โดยให้แค่เสียงพูดของเขา
04:58
(Video) BO: The results are clear.
101
286983
1777
(วีดีโอ) โอบามา:
ผลลัพธ์นั้นชัดเจน
ผลลัพธ์นั้นชัดเจน
05:00
America's businesses have created
14.5 million new jobs
14.5 million new jobs
102
288784
4349
ธุรกิจของอเมริกา
ทำให้เกิดงานใหม่ถึง 14.5 ล้านตำแหน่ง
ทำให้เกิดงานใหม่ถึง 14.5 ล้านตำแหน่ง
05:05
over 75 straight months.
103
293157
2774
อย่างต่อเนื่องตลอด 75 เดือน
05:07
SS: So what's being synthesized here
is only the mouth region,
is only the mouth region,
104
295955
2905
ศุภศรณ์: สิ่งที่ถูกประดิษฐ์ขึ้นในที่นี้
มีเพียงส่วนปาก
มีเพียงส่วนปาก
05:10
and here's how we do it.
105
298884
1540
เราทำแบบนี้ครับ
05:12
Our pipeline uses a neural network
106
300764
1826
ระบบของเราใช้เครือข่ายประสาท
05:14
to convert and input audio
into these mouth points.
into these mouth points.
107
302614
2936
แปรเสียงพูดที่ป้อนเข้าไป
เป็นจุดตำแหน่งบนปาก
เป็นจุดตำแหน่งบนปาก
05:18
(Video) BO: We get it through our job
or through Medicare or Medicaid.
or through Medicare or Medicaid.
108
306547
4225
(วีดีโอ) โอบามา: มันมาจากงานของเรา
หรือจากโครงการประกันสุขภาพ
หรือจากโครงการประกันสุขภาพ
05:22
SS: Then we synthesize the texture,
enhance details and teeth,
enhance details and teeth,
109
310796
3420
ศุภศรณ์: เมื่อเราประดิษฐ์พื้นผิวขึ้น
เสริมรายละเอียดและฟัน
เสริมรายละเอียดและฟัน
05:26
and blend it into the head
and background from a source video.
and background from a source video.
110
314240
3074
และทำให้มันกลมกลืนกับศีรษะ
และพื้นหลังของวีดีโอต้นฉบับ
และพื้นหลังของวีดีโอต้นฉบับ
05:29
(Video) BO: Women can get free checkups,
111
317338
1905
(วีดีโอ) โอบามา: ผู้หญิง
สามารถรับบริการตรวจร่างกายได้
สามารถรับบริการตรวจร่างกายได้
05:31
and you can't get charged more
just for being a woman.
just for being a woman.
112
319267
2968
และคุณจะไม่ต้องจ่ายเงินเพิ่ม
ด้วยเหตุผลที่คุณเป็นผู้หญิง
ด้วยเหตุผลที่คุณเป็นผู้หญิง
05:34
Young people can stay
on a parent's plan until they turn 26.
on a parent's plan until they turn 26.
113
322973
3306
เยาวชนสามารถที่จะคงสถานะ
ในแผนการของผู้ปกครองได้ถึงอายุ 26 ปี
ในแผนการของผู้ปกครองได้ถึงอายุ 26 ปี
05:39
SS: I think these results
seem very realistic and intriguing,
seem very realistic and intriguing,
114
327267
2952
ศุภศรณ์: ผมคิดว่าผลลัพธ์เหล่านี้
ดูสมจริงแล้วก็มีเสน่ห์อย่างน่าทึ่ง
ดูสมจริงแล้วก็มีเสน่ห์อย่างน่าทึ่ง
05:42
but at the same time
frightening, even to me.
frightening, even to me.
115
330243
3173
แต่ในเวลาเดียวกัน
มันก็น่ากลัว แม้แต่กับผมเอง
มันก็น่ากลัว แม้แต่กับผมเอง
05:45
Our goal was to build an accurate model
of a person, not to misrepresent them.
of a person, not to misrepresent them.
116
333440
4015
เป้าหมายของเราคือการสร้างแบบจำลองมนุษย์
ที่สมจริง ไม่ใช่บิดเบือนตัวตนของพวกเขา
ที่สมจริง ไม่ใช่บิดเบือนตัวตนของพวกเขา
05:49
But one thing that concerns me
is its potential for misuse.
is its potential for misuse.
117
337956
3111
แต่สิ่งหนึ่งที่ผมกังวล
ก็คือการนำไปใช้อย่างไม่เหมาะสม
ก็คือการนำไปใช้อย่างไม่เหมาะสม
05:53
People have been thinking
about this problem for a long time,
about this problem for a long time,
118
341958
2971
พวกเราพูดกันถึงปัญหานี้มาตั้งนานแล้ว
05:56
since the days when Photoshop
first hit the market.
first hit the market.
119
344953
2381
ตั้งแต่ตอนที่โฟโตชอปออกวางขาย
05:59
As a researcher, I'm also working
on countermeasure technology,
on countermeasure technology,
120
347862
3801
ในฐานะนักวิจัย ผมยังทำงาน
ที่เกี่ยวข้องกับเทคโนโลยีที่ใช้รับมือกับสิ่งนี้
ที่เกี่ยวข้องกับเทคโนโลยีที่ใช้รับมือกับสิ่งนี้
06:03
and I'm part of an ongoing
effort at AI Foundation,
effort at AI Foundation,
121
351687
2942
ผมเป็นส่วนหนึ่งของโครงการ
ที่องค์กรเอไอ
ที่องค์กรเอไอ
06:06
which uses a combination
of machine learning and human moderators
of machine learning and human moderators
122
354653
3397
ซึ่งใช้การผสมผสานระหว่างการเรียนรู้
ของสมองกลและมนุษย์ผู้คอยกำกับ
ของสมองกลและมนุษย์ผู้คอยกำกับ
06:10
to detect fake images and videos,
123
358074
2144
เพื่อตรวจจับภาพและวีดีโอปลอม
06:12
fighting against my own work.
124
360242
1514
ต่อต้านผลงานของผมเอง
06:14
And one of the tools we plan to release
is called Reality Defender,
is called Reality Defender,
125
362675
3190
และหนึ่งในอุปกรณ์ที่เราวางแผน
ที่จะเปิดตัวก็คือ เรียลริตี ดีเฟินเดอร์
ที่จะเปิดตัวก็คือ เรียลริตี ดีเฟินเดอร์
06:17
which is a web-browser plug-in
that can flag potentially fake content
that can flag potentially fake content
126
365889
4039
ซึ่งเป็น ปลั๊กอิน สำหรับเว็บบราวเซอร์
ที่สามารถระบุข้อมูลเทียมได้
ที่สามารถระบุข้อมูลเทียมได้
06:21
automatically, right in the browser.
127
369952
2533
โดยอัตโนมัติในบราวเซอร์นั้น
06:24
(Applause)
128
372509
4228
(เสียงปรบมือ)
06:28
Despite all this, though,
129
376761
1453
แม้ว่าเราจะมีสิ่งเหล่านี้
06:30
fake videos could do a lot of damage,
130
378238
1840
วีดีโอปลอมก็ยังสร้างความเสียหายได้มากมาย
06:32
even before anyone has a chance to verify,
131
380102
3294
ก่อนที่ใครสักคนจะมีโอกาสได้ตรวจสอบมัน
06:35
so it's very important
that we make everyone aware
that we make everyone aware
132
383420
2722
มันจึงสำคัญยิ่ง
ที่เราจะทำให้ทุก ๆ คนตระหนัก
ที่เราจะทำให้ทุก ๆ คนตระหนัก
06:38
of what's currently possible
133
386166
2007
ว่ามันจะเกิดอะไรขึ้นได้บ้าง
06:40
so we can have the right assumption
and be critical about what we see.
and be critical about what we see.
134
388197
3369
เพื่อที่เราจะสามารถสันนิษฐาน
และวิจารณ์สิ่งที่เรารับชมอยู่ได้
และวิจารณ์สิ่งที่เรารับชมอยู่ได้
06:44
There's still a long way to go before
we can fully model individual people
we can fully model individual people
135
392423
5007
เรายังต้องพัฒนาอะไรอีกมากก่อนที่เรา
จะสามารถสร้างแบบจำลองมนุษย์ที่สมบูรณ์ได้
จะสามารถสร้างแบบจำลองมนุษย์ที่สมบูรณ์ได้
06:49
and before we can ensure
the safety of this technology.
the safety of this technology.
136
397454
2786
และก่อนที่เราจะรับรองความปลอดภัย
ของเทคโนโลยีนี้ได้
ของเทคโนโลยีนี้ได้
06:53
But I'm excited and hopeful,
137
401097
1587
แต่ผมตื่นเต้นแล้วก็มีความหวัง
06:54
because if we use it right and carefully,
138
402708
3539
เพราะหากเราใช้มันอย่างเหมาะสม
และระมัดระวังแล้ว
และระมัดระวังแล้ว
06:58
this tool can allow any individual's
positive impact on the world
positive impact on the world
139
406271
4309
เครื่องมือนี้ก็จะทำให้ไม่ว่าใครก็ตาม
สามารถส่งพลังบวกของเขา
สามารถส่งพลังบวกของเขา
07:02
to be massively scaled
140
410604
2190
ที่มีผลต่อโลกของเราออกไปในวงกว้าง
07:04
and really help shape our future
the way we want it to be.
the way we want it to be.
141
412818
2742
และช่วยปรับโฉมวิถีแห่งอนาคต
ในอย่างที่เราอยากให้มันเป็น
ในอย่างที่เราอยากให้มันเป็น
07:07
Thank you.
142
415584
1151
ขอบคุณครับ
07:08
(Applause)
143
416759
5090
(เสียงปรบมือ)
ABOUT THE SPEAKER
Supasorn Suwajanakorn - Computer scientistSupasorn Suwajanakorn works on ways to reconstruct, preserve and reanimate anyone -- just from their existing photos and videos.
Why you should listen
Can we create a digital avatar that looks, acts and talks just like our sweet grandma? This question has inspired Supasorn Suwajanakorn, a recent PhD graduate from the University of Washington, to spend years developing new tools to make it a reality. He has developed a set of algorithms that can build a moving 3D face model of anyone from just photos, which was awarded the Innovation of the Year in 2016. He then introduced the first system that can replicate a person's speech and produce a realistic CG-animation by only analyzing their existing video footage -- all without ever bringing in the person to a Hollywood capture studio.
Suwajanakorn is working in the field of machine learning and computer vision. His goal is to bring vision algorithms out of the lab and make them work in the wild.
Supasorn Suwajanakorn | Speaker | TED.com