TED2018
Yasmin Green: How technology can fight extremism and online harassment
야스민 그린(Yasmine Green): 기술로 급진주의와 온라인 괴롭힘을 막는 법
Filmed:
Readability: 4.6
2,460,759 views
기술이 과격한 극단주의, 검열 그리고 학대와 같은 위협으로부터 사람들을 안전하게 지킬 수 있을까요? 이 연설을 통해 기술자이자 연사 Yasmine Green은 직소 (구글을 포함한 여러 기업들의 모임인 Alphabet Inc. 내의 유닛) 에서 실험 운행했던 프로그램들에 대해 자세히 설명하고, 프로그램을 통해 어떻게 급진주의와 온라인 괴롭힘에 대응했는지 소개합니다. 그 중 한 프로젝트는 댓글을 올리는 사람들에게 실시간으로 그들의 댓글이 다른사람들에게 어떻게 들릴지를 알려주어, 온라인 상 대화 공간의 증진을 이뤄냈습니다. "만약 우리가 인간성의 어두운 면으로부터 보호된 인터넷을 만들 수 있다고 생각했다면, 잘못된 생각입니다" 라고 연사는 말합니다. "우리는 온 힘을 다해, 우리가 해결하고자 하는 문제만큼이나 인간적인 해결책을 구상해야 합니다."
Yasmin Green - Geopolitical technologist
Yasmin Green is the director of research and development for Jigsaw, a unit within Alphabet Inc. focused on solving global security challenges through technology. Full bio
Yasmin Green is the director of research and development for Jigsaw, a unit within Alphabet Inc. focused on solving global security challenges through technology. Full bio
Double-click the English transcript below to play the video.
00:13
My relationship with the internet
reminds me of the setup
reminds me of the setup
0
1131
4411
인터넷과 저의 관계는
뻔한 공포 영화의 설정 같습니다.
뻔한 공포 영화의 설정 같습니다.
00:17
to a clichéd horror movie.
1
5566
1833
00:19
You know, the blissfully happy family
moves in to their perfect new home,
moves in to their perfect new home,
2
7867
4386
너무나도 행복한 가족이
모든 게 완벽한 새 집으로 이사를 가서
모든 게 완벽한 새 집으로 이사를 가서
00:24
excited about their perfect future,
3
12277
2281
다같이 완벽한 미래를 꿈꾸는 설정이요.
00:26
and it's sunny outside
and the birds are chirping ...
and the birds are chirping ...
4
14582
3521
화창한 날씨와 지저귀는 새들까지...
00:30
And then it gets dark.
5
18857
1839
그리고 어둠이 찾아오죠.
00:32
And there are noises from the attic.
6
20720
2348
다락방에서 소리가 들려옵니다.
00:35
And we realize that that perfect
new house isn't so perfect.
new house isn't so perfect.
7
23092
4345
그제서야 완벽한 줄만 알았던 그 집이
완벽하지 않다는 걸 깨닫게 되죠.
완벽하지 않다는 걸 깨닫게 되죠.
00:40
When I started working at Google in 2006,
8
28485
3131
제가 2006년에 구글에서
일하기 시작했을 때
일하기 시작했을 때
00:43
Facebook was just a two-year-old,
9
31640
1767
페이스북이 시작한지는
고작 2년 밖에 되지 않았고
고작 2년 밖에 되지 않았고
00:45
and Twitter hadn't yet been born.
10
33431
2012
트위터는 존재하지도 않았습니다.
00:47
And I was in absolute awe
of the internet and all of its promise
of the internet and all of its promise
11
35848
4410
저는 인터넷에 완전히 매료되어
인터넷을 통해 우리가 더 가까워지고
인터넷을 통해 우리가 더 가까워지고
00:52
to make us closer
12
40282
1437
00:53
and smarter
13
41743
1296
더 똑똑해지며
00:55
and more free.
14
43063
1214
그리고 더 자유로워질
미래를 꿈꿨습니다.
미래를 꿈꿨습니다.
00:57
But as we were doing the inspiring work
of building search engines
of building search engines
15
45265
3714
하지만 우리가 검색엔진을 만들고
01:01
and video-sharing sites
and social networks,
and social networks,
16
49003
2886
영상 공유 사이트나
소셜 네트워크를 만드는 동안
소셜 네트워크를 만드는 동안
01:04
criminals, dictators and terrorists
were figuring out
were figuring out
17
52907
4304
범죄자, 독재자와 테러범들은
같은 플랫폼을 악용할
방법을 찾고 있었습니다.
방법을 찾고 있었습니다.
01:09
how to use those same
platforms against us.
platforms against us.
18
57235
3202
01:13
And we didn't have
the foresight to stop them.
the foresight to stop them.
19
61417
2455
하지만 우리에겐 그들을 막을
선견지명이 없었습니다.
선견지명이 없었습니다.
01:16
Over the last few years, geopolitical
forces have come online to wreak havoc.
forces have come online to wreak havoc.
20
64746
5099
지난 몇 년 동안, 지정학적인 세력이
온라인에서 대혼란을 일으키려 했습니다.
온라인에서 대혼란을 일으키려 했습니다.
01:21
And in response,
21
69869
1169
그리고 그에 맞서
01:23
Google supported a few colleagues and me
to set up a new group called Jigsaw,
to set up a new group called Jigsaw,
22
71062
4778
구글사에서는 저와 몇 직원들을 구성해
직소라는 그룹을 만들고
직소라는 그룹을 만들고
01:27
with a mandate to make people safer
from threats like violent extremism,
from threats like violent extremism,
23
75864
4596
폭력적인 극단주의자들의 공격으로부터
사람들을 보호하도록 했습니다.
사람들을 보호하도록 했습니다.
01:32
censorship, persecution --
24
80484
2078
검열, 처벌 등
01:35
threats that feel very personal to me
because I was born in Iran,
because I was born in Iran,
25
83186
4117
저에게 매우 익숙한 공격들인데
저는 이란에서 태어났고
저는 이란에서 태어났고
01:39
and I left in the aftermath
of a violent revolution.
of a violent revolution.
26
87327
2929
난폭한 혁명의 여파로
나라를 떠났거든요.
나라를 떠났거든요.
01:43
But I've come to realize
that even if we had all of the resources
that even if we had all of the resources
27
91525
4346
하지만 제가 깨달은 것이
우리에게 세상의 모든 자원과
우리에게 세상의 모든 자원과
01:47
of all of the technology
companies in the world,
companies in the world,
28
95895
2858
모든 기술 회사들이 있다고 해도
01:51
we'd still fail
29
99595
1230
우리가 가장 중요한 한 가지를 놓친다면
01:53
if we overlooked one critical ingredient:
30
101586
2948
결국 실패한다는 것입니다.
01:57
the human experiences of the victims
and perpetrators of those threats.
and perpetrators of those threats.
31
105653
5789
앞서 말한 위협의 피해자나
가해자의 인간적 경험입니다.
가해자의 인간적 경험입니다.
02:04
There are many challenges
I could talk to you about today.
I could talk to you about today.
32
112935
2736
오늘은 많은 위협 중
두 가지에 집중하겠습니다.
두 가지에 집중하겠습니다.
02:07
I'm going to focus on just two.
33
115695
1504
02:09
The first is terrorism.
34
117623
2079
첫 번째는 테러입니다.
02:13
So in order to understand
the radicalization process,
the radicalization process,
35
121563
2557
우리는 급진화의 과정을 이해하기 위해서
02:16
we met with dozens of former members
of violent extremist groups.
of violent extremist groups.
36
124144
4287
폭력적 급진파의 전 멤버였던
수 많은 사람들을 만나보았습니다.
수 많은 사람들을 만나보았습니다.
02:21
One was a British schoolgirl,
37
129590
2483
그 중 한명은 영국인 여학생이었는데
02:25
who had been taken off of a plane
at London Heathrow
at London Heathrow
38
133049
3699
시리아에 가서 반정부 무장단체
IS에 가입하려다가
IS에 가입하려다가
02:28
as she was trying to make her way
to Syria to join ISIS.
to Syria to join ISIS.
39
136772
4692
런던 히드로 공항 비행기에서
잡혔습니다.
잡혔습니다.
02:34
And she was 13 years old.
40
142281
1931
고작 13살이었는데 말입니다.
02:37
So I sat down with her and her father,
and I said, "Why?"
and I said, "Why?"
41
145792
4625
학생의 아버지와 셋이 앉아서
제가 물었습니다. "이유가 뭐지?"
제가 물었습니다. "이유가 뭐지?"
02:42
And she said,
42
150441
1717
그러자 그녀가 말했습니다.
02:44
"I was looking at pictures
of what life is like in Syria,
of what life is like in Syria,
43
152182
3639
"시리아에서는 어떻게 사는지
사진을 보고있다가
사진을 보고있다가
02:47
and I thought I was going to go
and live in the Islamic Disney World."
and live in the Islamic Disney World."
44
155845
3510
이슬람 디즈니 월드에서
살 수 있을 것 같았어요."
살 수 있을 것 같았어요."
02:52
That's what she saw in ISIS.
45
160527
2084
ISIS를 보고 그렇게 생각한 거예요.
02:54
She thought she'd meet and marry
a jihadi Brad Pitt
a jihadi Brad Pitt
46
162635
3492
브래드 피트처럼 생긴
지하드 전사를 만나 결혼해서
지하드 전사를 만나 결혼해서
02:58
and go shopping in the mall all day
and live happily ever after.
and live happily ever after.
47
166151
3058
하루종일 쇼핑 다니고
평생 행복할 거라 생각했대요.
평생 행복할 거라 생각했대요.
03:02
ISIS understands what drives people,
48
170977
2824
IS는 사람들이 뭘 좋아하는지 알고
03:05
and they carefully craft a message
for each audience.
for each audience.
49
173825
3544
각 대상에 맞춰
정교한 메세지를 만듭니다.
정교한 메세지를 만듭니다.
03:11
Just look at how many languages
50
179122
1511
IS가 홍보자료를
03:12
they translate their
marketing material into.
marketing material into.
51
180657
2273
몇 개 국어로 번역해내는지만 봐도
답이 보입니다.
답이 보입니다.
03:15
They make pamphlets,
radio shows and videos
radio shows and videos
52
183677
2661
팜플렛, 라디오쇼, 비디오 모두
03:18
in not just English and Arabic,
53
186362
1973
영어와 아랍어 뿐 아니라
03:20
but German, Russian,
French, Turkish, Kurdish,
French, Turkish, Kurdish,
54
188359
4767
독일어, 러시아어, 프랑스어,
터키어, 쿠르드어
터키어, 쿠르드어
03:25
Hebrew,
55
193150
1672
히브리어
03:26
Mandarin Chinese.
56
194846
1741
표준 중국어로 까지 번역합니다.
03:29
I've even seen an ISIS-produced
video in sign language.
video in sign language.
57
197309
4192
심지어 수화로 된
IS 홍보영상도 있습니다.
IS 홍보영상도 있습니다.
03:34
Just think about that for a second:
58
202605
1884
한번 생각해 보세요.
03:36
ISIS took the time and made the effort
59
204513
2308
ISIS는 시간과 노력을 들여
그들의 메세지를
그들의 메세지를
03:38
to ensure their message is reaching
the deaf and hard of hearing.
the deaf and hard of hearing.
60
206845
3804
난청과 청각 장애인들에게도
전파하려고 했습니다.
전파하려고 했습니다.
03:45
It's actually not tech-savviness
61
213143
2144
ISIS가 사람들의 마음을 훔치는 방법은
03:47
that is the reason why
ISIS wins hearts and minds.
ISIS wins hearts and minds.
62
215311
2595
높은 기술력이 아닙니다.
03:49
It's their insight into the prejudices,
the vulnerabilities, the desires
the vulnerabilities, the desires
63
217930
4163
자신들이 손을 뻗고자 하는 대상에 대한
03:54
of the people they're trying to reach
64
222117
1774
편견이나 나약함, 갈망 등을
03:55
that does that.
65
223915
1161
꿰뚫어봤기 때문입니다.
03:57
That's why it's not enough
66
225718
1429
이러한 이유 때문에
03:59
for the online platforms
to focus on removing recruiting material.
to focus on removing recruiting material.
67
227171
4239
단순히 온라인 상의 모집 관련 글을 내리는 것으론
충분한 대응이 되지 않습니다.
충분한 대응이 되지 않습니다.
04:04
If we want to have a shot
at building meaningful technology
at building meaningful technology
68
232518
3581
급진화를 대응할
의미있는 기술을 발달시킬
의미있는 기술을 발달시킬
04:08
that's going to counter radicalization,
69
236123
1874
노력이라도 해보기 위해서는
04:10
we have to start with the human
journey at its core.
journey at its core.
70
238021
2979
인간의 여정의 본질부터 알아야 합니다.
04:13
So we went to Iraq
71
241884
2187
그래서 저희는 이라크에 가서
04:16
to speak to young men
who'd bought into ISIS's promise
who'd bought into ISIS's promise
72
244095
2831
한 남자를 만나봤습니다.
04:18
of heroism and righteousness,
73
246950
3191
그는 IS의 영웅주의와 정의에 이끌려
04:22
who'd taken up arms to fight for them
74
250165
1847
그들과 한편이 되어 싸웠지만
04:24
and then who'd defected
75
252036
1338
그들의 잔인함을 목격한 후
04:25
after they witnessed
the brutality of ISIS's rule.
the brutality of ISIS's rule.
76
253398
3021
IS를 떠나 돌아섰습니다.
04:28
And I'm sitting there in this makeshift
prison in the north of Iraq
prison in the north of Iraq
77
256880
3192
이라크 북쪽에 위치한
임시교도소에 앉아서
임시교도소에 앉아서
04:32
with this 23-year-old who had actually
trained as a suicide bomber
trained as a suicide bomber
78
260096
4550
자살폭탄 테러범
훈련을 받았지만 결국 돌아선
훈련을 받았지만 결국 돌아선
04:36
before defecting.
79
264670
1552
23살짜리 남자와 얘기를 나눴습니다.
04:39
And he says,
80
267080
1158
그가 말했습니다.
04:41
"I arrived in Syria full of hope,
81
269119
3220
"희망을 가득 품고
시리아에 도착했는데,
시리아에 도착했는데,
04:44
and immediately, I had two
of my prized possessions confiscated:
of my prized possessions confiscated:
82
272363
4365
도착 즉시 저의 가장 중요한
소유품 두 개를 압수당했습니다.
소유품 두 개를 압수당했습니다.
04:48
my passport and my mobile phone."
83
276752
2933
제 여권과 핸드폰을요."
04:52
The symbols of his physical
and digital liberty
and digital liberty
84
280140
2406
신체적, 디지털 자유의 상징 두 가지가
04:54
were taken away from him on arrival.
85
282570
1760
도착 즉시 압수되었습니다.
04:57
And then this is the way he described
that moment of loss to me.
that moment of loss to me.
86
285248
3510
그는 압수 당시의 상황을
이렇게 설명했습니다.
이렇게 설명했습니다.
05:01
He said,
87
289356
1586
그가 말하길,
05:02
"You know in 'Tom and Jerry,'
88
290966
2329
"만화영화 '톰과 제리' 아시죠?
05:06
when Jerry wants to escape,
and then Tom locks the door
and then Tom locks the door
89
294192
3103
제리가 도망가려고 하면
톰이 문을 잠그고
톰이 문을 잠그고
05:09
and swallows the key
90
297319
1156
열쇠를 꿀꺽 하잖아요.
05:10
and you see it bulging out
of his throat as it travels down?"
of his throat as it travels down?"
91
298499
3551
열쇠가 뱃속으로 불룩하고
튀어나오며 내려가는 것도 보이고요."
튀어나오며 내려가는 것도 보이고요."
05:14
And of course, I really could see
the image that he was describing,
the image that he was describing,
92
302446
3153
물론, 그가 설명하는 상황이
머릿속에 그려졌고
머릿속에 그려졌고
05:17
and I really did connect with the feeling
that he was trying to convey,
that he was trying to convey,
93
305623
3661
그가 전하고자 하는 느낌
또한 이해가 됐습니다.
또한 이해가 됐습니다.
05:21
which was one of doom,
94
309308
2021
빠져나갈 방법이 없는
05:23
when you know there's no way out.
95
311353
1789
최후의 날이나
막다른 길 같은 느낌이요.
막다른 길 같은 느낌이요.
05:26
And I was wondering:
96
314551
1289
그리고 궁금해졌습니다.
05:28
What, if anything,
could have changed his mind
could have changed his mind
97
316644
2682
그가 집을 떠나던 날
05:31
the day that he left home?
98
319350
1240
그의 마음을 돌릴 수
있는 건 뭐가 있었을까요?
있는 건 뭐가 있었을까요?
05:32
So I asked,
99
320614
1250
그래서 그에게 물었습니다.
05:33
"If you knew everything that you know now
100
321888
3178
"만약 당신이 지금 아는 모든 것을,
05:37
about the suffering
and the corruption, the brutality --
and the corruption, the brutality --
101
325090
3051
고통, 부패, 잔인함 등 모든 것을
05:40
that day you left home,
102
328165
1415
집을 떠나기 전의 당신이 알았더라도
05:41
would you still have gone?"
103
329604
1679
같은 선택을 했을까요?"
05:43
And he said, "Yes."
104
331786
1711
그러자 그가 대답했습니다, "네."
05:45
And I thought, "Holy crap, he said 'Yes.'"
105
333846
2282
제가 "세상에, '네' 라고 대답하다니"
라고 생각하는 도중
라고 생각하는 도중
05:48
And then he said,
106
336694
1219
그가 이어서 말했습니다.
05:49
"At that point, I was so brainwashed,
107
337937
3001
"그때 저는 완전히
세뇌되어 있는 상태여서
세뇌되어 있는 상태여서
05:52
I wasn't taking in
any contradictory information.
any contradictory information.
108
340962
3244
반박될 만한 정보는
하나도 받아들이지 않았어요.
하나도 받아들이지 않았어요.
05:56
I couldn't have been swayed."
109
344744
1555
맘이 바뀌지 않았을 겁니다."
05:59
"Well, what if you knew
everything that you know now
everything that you know now
110
347235
2527
"그럼 지금 당신이 아는 모든 것들을
06:01
six months before the day that you left?"
111
349786
2098
떠나기 6개월 전에 알았다면요?"
06:05
"At that point, I think it probably
would have changed my mind."
would have changed my mind."
112
353345
3131
"그때는 아마 제 맘이
바뀌었을 수도 있을 것 같아요."
바뀌었을 수도 있을 것 같아요."
06:10
Radicalization isn't
this yes-or-no choice.
this yes-or-no choice.
113
358138
3397
급진화는 네 또는 아니오
선택의 문제가 아닙니다.
선택의 문제가 아닙니다.
06:14
It's a process, during which
people have questions --
people have questions --
114
362007
2977
사람들에게 이념, 종교,
생활 환경 등에 대한
생활 환경 등에 대한
06:17
about ideology, religion,
the living conditions.
the living conditions.
115
365008
3776
질문을 불러 일으키는 과정입니다.
06:20
And they're coming online for answers,
116
368808
2766
그리고 사람들은 온라인에서
그 답을 찾으려고 하는데
그 답을 찾으려고 하는데
06:23
which is an opportunity to reach them.
117
371598
1917
ISIS는 이를 기회로 삼는 것입니다.
06:25
And there are videos online
from people who have answers --
from people who have answers --
118
373905
3014
온라인엔 이런 질문들에 대한 답을 담은
동영상들이 존재합니다.
동영상들이 존재합니다.
06:28
defectors, for example,
telling the story of their journey
telling the story of their journey
119
376943
2876
폭력의 길에 들어섰다가 돌아선 사람들의
06:31
into and out of violence;
120
379843
1583
여정을 공유하는 동영상들 말입니다.
06:33
stories like the one from that man
I met in the Iraqi prison.
I met in the Iraqi prison.
121
381450
3487
제가 이라크 교도소에서 만났던
그 남자와 같은 사람들이 올린 영상들이죠.
그 남자와 같은 사람들이 올린 영상들이죠.
06:37
There are locals who've uploaded
cell phone footage
cell phone footage
122
385914
2590
혹은 현지인들이 핸드폰으로 찍어올린
06:40
of what life is really like
in the caliphate under ISIS's rule.
in the caliphate under ISIS's rule.
123
388528
3503
ISIS의 지배를 받는
칼리프 삶의 실상도 볼 수 있습니다.
칼리프 삶의 실상도 볼 수 있습니다.
06:44
There are clerics who are sharing
peaceful interpretations of Islam.
peaceful interpretations of Islam.
124
392055
3735
이슬람 교리의 평화로운
해석을 하는 성직자들도 있고요.
해석을 하는 성직자들도 있고요.
06:48
But you know what?
125
396830
1150
하지만 그거 아세요?
06:50
These people don't generally have
the marketing prowess of ISIS.
the marketing prowess of ISIS.
126
398004
3020
이런 사람들은 보통 ISIS 만큼의
홍보 역량이 없습니다.
홍보 역량이 없습니다.
06:54
They risk their lives to speak up
and confront terrorist propaganda,
and confront terrorist propaganda,
127
402049
4532
자신의 삶을 내걸고 테러범 조직
선전활동에 반대하지만
선전활동에 반대하지만
06:58
and then they tragically
don't reach the people
don't reach the people
128
406605
2211
비극적이게도, 정작 그런 메세지를
들어야 되는 사람들에게는
들어야 되는 사람들에게는
07:00
who most need to hear from them.
129
408840
1682
영향력을 미치지 못합니다.
07:03
And we wanted to see
if technology could change that.
if technology could change that.
130
411173
2612
그래서 저희 그룹은 기술을 통해
이를 변화시키고자 했습니다.
이를 변화시키고자 했습니다.
07:06
So in 2016, we partnered with Moonshot CVE
131
414205
4183
2016년에 Moonshot CVE 라는
그룹과 제휴를 맺고
그룹과 제휴를 맺고
07:10
to pilot a new approach
to countering radicalization
to countering radicalization
132
418412
3180
급진화를 대응하기 위한 새로운 시도인
07:13
called the "Redirect Method."
133
421616
1780
"우회 방법" 이란 시험을
해보았습니다.
해보았습니다.
07:16
It uses the power of online advertising
134
424453
3012
온라인 홍보의 힘을 이용해
07:19
to bridge the gap between
those susceptible to ISIS's messaging
those susceptible to ISIS's messaging
135
427489
4514
ISIS의 메세지에 취약한 사람들과
그 메세지를 무력화할 수 있는
그 메세지를 무력화할 수 있는
07:24
and those credible voices
that are debunking that messaging.
that are debunking that messaging.
136
432027
3760
설득력 있는 사람들의 영상을
연결시켜주는 방법이었습니다.
연결시켜주는 방법이었습니다.
07:28
And it works like this:
137
436633
1150
예를 들면 이런 방식입니다.
07:29
someone looking for extremist material --
138
437807
1961
누군가 극단주의적인 자료를
검색한다고 해보죠.
검색한다고 해보죠.
07:31
say they search
for "How do I join ISIS?" --
for "How do I join ISIS?" --
139
439792
2990
"ISIS에 가입하는 법" 을 검색하면
07:34
will see an ad appear
140
442806
2476
광고가 같이 뜹니다.
07:37
that invites them to watch a YouTube video
of a cleric, of a defector --
of a cleric, of a defector --
141
445306
4882
성직자나, 변절자 등 제대로 된
답을 줄 수 있는 사람들의
답을 줄 수 있는 사람들의
07:42
someone who has an authentic answer.
142
450212
2310
유튜브 영상을 보도록 유도하는 광고죠.
07:44
And that targeting is based
not on a profile of who they are,
not on a profile of who they are,
143
452546
3623
광고의 대상을 정할 때
사람들의 신상정보 보다는
사람들의 신상정보 보다는
07:48
but of determining something
that's directly relevant
that's directly relevant
144
456193
3053
검색어나 질문에
직접적인 연관이 있는 행동을 할 만한
직접적인 연관이 있는 행동을 할 만한
07:51
to their query or question.
145
459270
1708
가능성에 초점을 두었습니다.
07:54
During our eight-week pilot
in English and Arabic,
in English and Arabic,
146
462122
2842
8주 동안 영어와 아랍어로
시범 운행을 해본 결과
시범 운행을 해본 결과
07:56
we reached over 300,000 people
147
464988
3279
지하드 그룹에 대해
관심이나 동정을 표한
관심이나 동정을 표한
08:00
who had expressed an interest in
or sympathy towards a jihadi group.
or sympathy towards a jihadi group.
148
468291
5545
30만 명이 넘는 사람들에게
손길을 뻗을 수 있었습니다.
손길을 뻗을 수 있었습니다.
08:06
These people were now watching videos
149
474626
2264
이 사람들은 절망적인 선택을 하기 전에
08:08
that could prevent them
from making devastating choices.
from making devastating choices.
150
476914
3340
그들을 막아 줄 수 있는
영상을 보게 된 것입니다.
영상을 보게 된 것입니다.
08:13
And because violent extremism
isn't confined to any one language,
isn't confined to any one language,
151
481405
3727
그리고 폭력적인 극단주의는
한 언어나, 종교나, 이념에
한 언어나, 종교나, 이념에
08:17
religion or ideology,
152
485156
1804
국한되어 있는 것이 아니기 때문에
08:18
the Redirect Method is now
being deployed globally
being deployed globally
153
486984
3501
'우회 방법'은 전세계적으로 퍼져
08:22
to protect people being courted online
by violent ideologues,
by violent ideologues,
154
490509
3804
많은 사람들을 폭력적인 이념주의자들의
유혹에서 구하고 있습니다.
유혹에서 구하고 있습니다.
08:26
whether they're Islamists,
white supremacists
white supremacists
155
494337
2596
이슬람 교도이던, 백인 우월주의자이든
08:28
or other violent extremists,
156
496957
2103
혹은 다른 폭력적 극단주의자이든 간에
08:31
with the goal of giving them the chance
to hear from someone
to hear from someone
157
499084
2873
그 여정의 반대쪽에 있는
누군가의 말을 전하고자 하는
누군가의 말을 전하고자 하는
08:33
on the other side of that journey;
158
501981
2091
극단주의자들의 손에서 벗어나
08:36
to give them the chance to choose
a different path.
a different path.
159
504096
2839
다른 여정을 걸을 수 있는
기회를 주는 겁니다.
기회를 주는 겁니다.
08:40
It turns out that often the bad guys
are good at exploiting the internet,
are good at exploiting the internet,
160
508749
5980
알고보니 보통 악당들이
인터넷을 잘 이용하더라고요.
인터넷을 잘 이용하더라고요.
08:46
not because they're some kind
of technological geniuses,
of technological geniuses,
161
514753
3744
그건 그들이 기술을 엄청나게
잘 다뤄서 그런 게 아니라
잘 다뤄서 그런 게 아니라
08:50
but because they understand
what makes people tick.
what makes people tick.
162
518521
2985
사람들을 움직이는
법을 알기 때문입니다.
법을 알기 때문입니다.
08:54
I want to give you a second example:
163
522855
2369
다른 예시를 들어볼게요.
08:58
online harassment.
164
526019
1391
온라인 괴롭힘.
09:00
Online harassers also work
to figure out what will resonate
to figure out what will resonate
165
528629
3363
온라인 괴롭힘 또한
다른 사람들이 공명할 수 있는
다른 사람들이 공명할 수 있는
09:04
with another human being.
166
532016
1615
요인을 파악하려고 노력합니다.
09:05
But not to recruit them like ISIS does,
167
533655
3110
하지만 ISIS처럼 사람들을
모집하려는 게 아니라
모집하려는 게 아니라
09:08
but to cause them pain.
168
536789
1275
고통을 주기 위해서요.
09:11
Imagine this:
169
539259
1342
한번 상상해보세요.
09:13
you're a woman,
170
541347
1659
여러분이 여성이고
09:15
you're married,
171
543030
1413
기혼이며
09:16
you have a kid.
172
544467
1154
아이가 있다고 가정해보세요.
09:18
You post something on social media,
173
546834
1784
소셜 미디어에 뭔가를 올렸는데
09:20
and in a reply,
you're told that you'll be raped,
you're told that you'll be raped,
174
548642
2886
답장이 옵니다.
누군가 여러분을 강간하러 올거고
누군가 여러분을 강간하러 올거고
09:24
that your son will be watching,
175
552577
1560
아들이 그걸 보게 만들 거라고 하며
09:26
details of when and where.
176
554825
1856
자세하게 장소와
시간까지 적은 답장이요.
시간까지 적은 답장이요.
09:29
In fact, your home address
is put online for everyone to see.
is put online for everyone to see.
177
557148
3143
사실, 여러분 집주소는 온라인에 올려져있어서
모든 사람들이 볼 수 있습니다.
모든 사람들이 볼 수 있습니다.
09:33
That feels like a pretty real threat.
178
561580
2007
아까 그 답장이 정말
협박처럼 느껴지죠.
협박처럼 느껴지죠.
09:37
Do you think you'd go home?
179
565113
1656
여러분이라면 집에 가시겠습니까?
09:39
Do you think you'd continue doing
the thing that you were doing?
the thing that you were doing?
180
567999
3048
하던 일을 계속 하시겠어요?
09:43
Would you continue doing that thing
that's irritating your attacker?
that's irritating your attacker?
181
571071
3220
당신에게 그 메세지를 보낸 사람을 거슬리게 하는
행동을 계속 할 수 있으시겠어요?
행동을 계속 할 수 있으시겠어요?
09:48
Online abuse has been this perverse art
182
576016
3096
온라인상의 학대는 이처럼
09:51
of figuring out what makes people angry,
183
579136
3468
사람들을 화나게 하거나
09:54
what makes people afraid,
184
582628
2132
두려워하게 하거나
09:56
what makes people insecure,
185
584784
1641
불안하게 만드는 방법을 알아내서
09:58
and then pushing those pressure points
until they're silenced.
until they're silenced.
186
586449
3067
결국 사람들이 입을 다물 때까지
아픈 곳을 찌르는 사악한 방법입니다.
아픈 곳을 찌르는 사악한 방법입니다.
10:02
When online harassment goes unchecked,
187
590333
2304
온라인 상의 학대는 검열받지 않지만
10:04
free speech is stifled.
188
592661
1667
언론의 자유는 억압당합니다.
10:07
And even the people
hosting the conversation
hosting the conversation
189
595196
2127
토론을 이끌던 사람들마저
10:09
throw up their arms and call it quits,
190
597347
1834
두손두발 들고 포기해 버립니다.
10:11
closing their comment sections
and their forums altogether.
and their forums altogether.
191
599205
2957
코멘트란을 닫아버리거나
토론 포럼 자체를 닫아버립니다.
토론 포럼 자체를 닫아버립니다.
10:14
That means we're actually
losing spaces online
losing spaces online
192
602186
2849
이건 온라인 상에서
우리가 만나고 생각을 나눌
우리가 만나고 생각을 나눌
10:17
to meet and exchange ideas.
193
605059
1987
공간이 사라진다는 뜻입니다.
10:19
And where online spaces remain,
194
607939
2163
그리고 남아있는 온라인 공간은
10:22
we descend into echo chambers
with people who think just like us.
with people who think just like us.
195
610126
4470
우리와 똑같은 생각을 하는 사람들의
같은 말만 울려퍼지는 공간으로 변질되고
같은 말만 울려퍼지는 공간으로 변질되고
10:27
But that enables
the spread of disinformation;
the spread of disinformation;
196
615688
2499
허위 정보를 퍼트려 양극화를 조장하는데
10:30
that facilitates polarization.
197
618211
2184
이용되도록 추락할 것입니다.
10:34
What if technology instead
could enable empathy at scale?
could enable empathy at scale?
198
622508
5269
하지만 기술을 사용해서 필요한 만큼의
공감을 끌어낼 수 있다면 어떨까요?
공감을 끌어낼 수 있다면 어떨까요?
10:40
This was the question
that motivated our partnership
that motivated our partnership
199
628451
2486
이 질문을 시작으로 저희는
10:42
with Google's Counter Abuse team,
200
630961
1819
구글사의 학대 대응 팀,
10:44
Wikipedia
201
632804
1178
위키피디아,
10:46
and newspapers like the New York Times.
202
634006
1934
뉴욕타임즈와 같은 신문사들과
협력관계를 맺었습니다.
협력관계를 맺었습니다.
10:47
We wanted to see if we could build
machine-learning models
machine-learning models
203
635964
2876
기계가 스스로 학습하는
머신 러닝 모델을 구축해서
머신 러닝 모델을 구축해서
10:50
that could understand
the emotional impact of language.
the emotional impact of language.
204
638864
3606
언어의 감정적인 여파를 이해할 수 있는지
실험해 보고자 했습니다.
실험해 보고자 했습니다.
10:55
Could we predict which comments
were likely to make someone else leave
were likely to make someone else leave
205
643062
3610
어떤 댓글들이 온라인 상의
대화나 토론을
대화나 토론을
10:58
the online conversation?
206
646696
1374
끝내는데 일조하는지
예상할 수 있을까요?
예상할 수 있을까요?
11:00
And that's no mean feat.
207
648515
3887
이건 정말 대단한 일이죠.
11:04
That's no trivial accomplishment
208
652426
1566
인공지능이 이런 역할을
11:06
for AI to be able to do
something like that.
something like that.
209
654016
2563
수행할 수 있게 된다는 건
사소한 성과가 아닙니다.
사소한 성과가 아닙니다.
11:08
I mean, just consider
these two examples of messages
these two examples of messages
210
656603
3729
제가 앞서 말씀드린
두 개의 메세지처럼
두 개의 메세지처럼
11:12
that could have been sent to me last week.
211
660356
2224
지난 주에 제가 받을 수도 있던
메세지를 생각해보세요.
메세지를 생각해보세요.
11:15
"Break a leg at TED!"
212
663517
1879
"TED에서 잘하고 와!"
11:17
... and
213
665420
1164
...아니면
11:18
"I'll break your legs at TED."
214
666608
2126
"TED에서 다리 부러뜨려!"
(무대에서 잘 하라는 관용적 표현)
(무대에서 잘 하라는 관용적 표현)
11:20
(Laughter)
215
668758
1246
(웃음)
11:22
You are human,
216
670028
1513
여러분은 사람이기 때문에
11:23
that's why that's an obvious
difference to you,
difference to you,
217
671565
2210
단어의 뜻이 사실상 거의 같아도
11:25
even though the words
are pretty much the same.
are pretty much the same.
218
673799
2224
의미의 차이를 명백히
느낄 수 있습니다.
느낄 수 있습니다.
11:28
But for AI, it takes some training
to teach the models
to teach the models
219
676047
3079
하지만 인공지능에게
이러한 차이를 인지하도록 하려면
이러한 차이를 인지하도록 하려면
11:31
to recognize that difference.
220
679150
1571
훈련하는 시간이 조금 걸립니다.
11:32
The beauty of building AI
that can tell the difference
that can tell the difference
221
680745
3245
차이점을 인지 할 수 있는
인공지능을 개발한다는 건
인공지능을 개발한다는 건
11:36
is that AI can then scale to the size
of the online toxicity phenomenon,
of the online toxicity phenomenon,
222
684014
5050
결국 이 지능이 온라인 독성 현상을
해결할 만큼 발달할 수 있다는 겁니다.
해결할 만큼 발달할 수 있다는 겁니다.
11:41
and that was our goal in building
our technology called Perspective.
our technology called Perspective.
223
689088
3287
이것이 바로 저희가 '퍼스펙티브' 라고 불리는
기술을 개발할 때 염두해 둔 목표입니다.
기술을 개발할 때 염두해 둔 목표입니다.
11:45
With the help of Perspective,
224
693056
1427
'퍼스펙티브'의 도움으로
11:46
the New York Times, for example,
225
694507
1583
예를 들어, 뉴욕 타임즈 지는
11:48
has increased spaces
online for conversation.
online for conversation.
226
696114
2487
온라인 상에서의
대화 가능 공간을 늘렸습니다.
대화 가능 공간을 늘렸습니다.
11:51
Before our collaboration,
227
699005
1310
협력 전에는
11:52
they only had comments enabled
on just 10 percent of their articles.
on just 10 percent of their articles.
228
700339
4305
전체 기사 중 10%에만
댓글을 달 수 있었습니다.
댓글을 달 수 있었습니다.
11:57
With the help of machine learning,
229
705495
1644
머신 러닝을 통해
11:59
they have that number up to 30 percent.
230
707163
1897
이제는 그 수가 30%에 육박합니다.
12:01
So they've tripled it,
231
709084
1156
3배나 늘린 것이죠.
12:02
and we're still just getting started.
232
710264
1917
이건 겨우 시작에 불과한데도요.
12:04
But this is about way more than just
making moderators more efficient.
making moderators more efficient.
233
712872
3461
하지만 이건 더 효과적으로 중재 역할을
시행해 내는 것에 그치는 일이 아닙니다.
시행해 내는 것에 그치는 일이 아닙니다.
12:10
Right now I can see you,
234
718076
1850
지금 저는 여러분을 볼 수 있고
12:11
and I can gauge how what I'm saying
is landing with you.
is landing with you.
235
719950
3294
제가 하는 말이 여러분에게
어떻게 들리는지 판단할 수 있죠.
어떻게 들리는지 판단할 수 있죠.
12:16
You don't have that opportunity online.
236
724370
1879
온라인에서는 그런 기회가 없습니다.
12:18
Imagine if machine learning
could give commenters,
could give commenters,
237
726558
3635
만약 머신 러닝이
댓글을 다는 사람들에게
댓글을 다는 사람들에게
12:22
as they're typing,
238
730217
1162
실시간으로
12:23
real-time feedback about how
their words might land,
their words might land,
239
731403
3347
그들이 다는 댓글이 어떻게 들릴지
알려준다면 어떨까요?
알려준다면 어떨까요?
12:27
just like facial expressions do
in a face-to-face conversation.
in a face-to-face conversation.
240
735609
3024
얼굴을 보고 대화 하면
표정을 볼 수 있듯이요.
표정을 볼 수 있듯이요.
12:32
Machine learning isn't perfect,
241
740926
1842
머신 러닝은 완벽하지 않습니다.
12:34
and it still makes plenty of mistakes.
242
742792
2394
아직도 실수를 잔뜩 저지릅니다.
12:37
But if we can build technology
243
745210
1557
하지만 우리가 만드는 기술이
12:38
that understands the emotional
impact of language,
impact of language,
244
746791
3293
언어가 미치는 감정적인
영향력을 이해할 수 있다면
영향력을 이해할 수 있다면
12:42
we can build empathy.
245
750108
1460
우린 공감을 자아낼 수 있습니다.
12:43
That means that we can have
dialogue between people
dialogue between people
246
751592
2425
그렇게 된다면, 우리는
12:46
with different politics,
247
754041
1816
다른 정치적 견해,
12:47
different worldviews,
248
755881
1216
세상을 바라보는 눈,
12:49
different values.
249
757121
1246
다른 가치에 대해
대화할 수 있게 됩니다.
대화할 수 있게 됩니다.
12:51
And we can reinvigorate the spaces online
that most of us have given up on.
that most of us have given up on.
250
759359
4775
그럼 우리 대부분이 포기했던 온라인 상의 공간들을
되살릴 수도 있겠죠.
되살릴 수도 있겠죠.
12:57
When people use technology
to exploit and harm others,
to exploit and harm others,
251
765857
3785
사람들이 기술을 악용해
다른 사람들에게 해를 입힐때
다른 사람들에게 해를 입힐때
13:01
they're preying on our human fears
and vulnerabilities.
and vulnerabilities.
252
769666
3642
인간의 두려움과
취약함을 먹이로 삼습니다.
취약함을 먹이로 삼습니다.
13:06
If we ever thought
that we could build an internet
that we could build an internet
253
774461
3508
우리가 만약 인간성의
어두운 면을 완벽 차단하는
어두운 면을 완벽 차단하는
13:09
insulated from the dark side of humanity,
254
777993
2578
인터넷을 개발 할 수 있다고
생각한 적이 있다면
생각한 적이 있다면
13:12
we were wrong.
255
780595
1184
잘못 생각한 겁니다.
13:14
If we want today to build technology
256
782361
2270
오늘날 우리가 직면하는
문제들을 극복할 수 있는
문제들을 극복할 수 있는
13:16
that can overcome
the challenges that we face,
the challenges that we face,
257
784655
3127
기술을 개발해내고 싶다면
13:19
we have to throw our entire selves
into understanding the issues
into understanding the issues
258
787806
4043
문제를 정확히 이해하는 것과
해결책을 만드는 것에
해결책을 만드는 것에
13:23
and into building solutions
259
791873
1893
온 힘을 다해야 합니다.
13:25
that are as human as the problems
they aim to solve.
they aim to solve.
260
793790
3782
해결하고자 하는 문제만큼이나
인간적인 해결책을요.
인간적인 해결책을요.
13:30
Let's make that happen.
261
798071
1513
한번 이뤄내봅시다.
13:31
Thank you.
262
799924
1150
감사합니다.
13:33
(Applause)
263
801098
3277
(박수)
ABOUT THE SPEAKER
Yasmin Green - Geopolitical technologistYasmin Green is the director of research and development for Jigsaw, a unit within Alphabet Inc. focused on solving global security challenges through technology.
Why you should listen
Yasmin Green is the director of research and development for Jigsaw, a unit within Alphabet Inc. (formerly Google Ideas), focused on using tech tools to make the world safer, both on and offline. She has experience leading projects in some of the world’s toughest environments, including Iran, Syria, the UAE and Nigeria. In 2012, she led a multi-partner coalition to launch Against Violent Extremism, the world's first online network of former violent extremists and survivors of terrorism. Based on her own interviews with ISIS defectors and jailed recruits, last year Yasmin launched the Redirect Method, a new deployment of targeted advertising and video to confront online radicalization.
Green is a senior advisor on innovation to Oxford Analytica, a member of the Aspen Cyber Strategy Group, and until 2015 co-chaired the European Commission's Working Group on Online Radicalization. She was named one of Fortune's "40 Under 40" most influential young leaders in 2017, and in 2016 she was named one of Fast Company's "Most Creative People in Business."
Yasmin Green | Speaker | TED.com