TED2018
Yasmin Green: How technology can fight extremism and online harassment
Ясмин Грийн: Как технологиите се борят с екстремизма и онлайн тормоза
Filmed:
Readability: 4.6
2,460,759 views
Могат ли технологиите да предпазят хората от заплахи като насилническия екстремизъм, цензурата и тормоза? В тази вдъхновяваща реч технологът Ясмин Грийн описва програми, за пръв път използвани от Джигсоу (филиал на Алфабет ООД - дружеството майка, което включва и Гугъл), които имат за цел да се противопоставят на радикализацията и онлайн тормоза; включително и проект, който дава на коментиращите обратна връзка в реално време за потенциалното влияние на техните думи, което увеличава пространството за диалог. "Ако някога сме си мислели, че може да създадем интернет, който да е изолиран от тъмната страна на човечеството, сме грешали." - казва Грийн. "Трябва да дадем всичко от себе си, за да създадем решения, които са толкова човешки, колкото и проблемите, които се опитват да разрешат."
Yasmin Green - Geopolitical technologist
Yasmin Green is the director of research and development for Jigsaw, a unit within Alphabet Inc. focused on solving global security challenges through technology. Full bio
Yasmin Green is the director of research and development for Jigsaw, a unit within Alphabet Inc. focused on solving global security challenges through technology. Full bio
Double-click the English transcript below to play the video.
00:13
My relationship with the internet
reminds me of the setup
reminds me of the setup
0
1131
4411
Моята връзка с интернет
напомня на филмов декор
напомня на филмов декор
00:17
to a clichéd horror movie.
1
5566
1833
към клиширан филм на ужасите.
00:19
You know, the blissfully happy family
moves in to their perfect new home,
moves in to their perfect new home,
2
7867
4386
Сещате се, блажено щастливото семейство
се нанася в своя перфектен нов дом,
се нанася в своя перфектен нов дом,
вълнувайки се за своето перфектно бъдеще,
00:24
excited about their perfect future,
3
12277
2281
00:26
and it's sunny outside
and the birds are chirping ...
and the birds are chirping ...
4
14582
3521
а навън е слънчево
и птичките пеят...
и птичките пеят...
00:30
And then it gets dark.
5
18857
1839
И тогава се стъмва.
00:32
And there are noises from the attic.
6
20720
2348
И от тавана се чуват звуци.
00:35
And we realize that that perfect
new house isn't so perfect.
new house isn't so perfect.
7
23092
4345
И тогава осъзнаваме, че тази перфектна
нова къща не e толкова перфектна.
нова къща не e толкова перфектна.
00:40
When I started working at Google in 2006,
8
28485
3131
Когато започнах да работя в Гугъл
през 2006-та,
през 2006-та,
00:43
Facebook was just a two-year-old,
9
31640
1767
Фейсбук беше на едва две години,
00:45
and Twitter hadn't yet been born.
10
33431
2012
а Туитър дори не беше роден.
00:47
And I was in absolute awe
of the internet and all of its promise
of the internet and all of its promise
11
35848
4410
А аз бях абсолютно изумена
от интернет и целия му потенциал
от интернет и целия му потенциал
00:52
to make us closer
12
40282
1437
да ни направи по-близки,
00:53
and smarter
13
41743
1296
и по-умни,
00:55
and more free.
14
43063
1214
и по-свободни.
Но докато ние се занимавахме
с вдъхновяващата работа
с вдъхновяващата работа
00:57
But as we were doing the inspiring work
of building search engines
of building search engines
15
45265
3714
да създаваме търсачки,
01:01
and video-sharing sites
and social networks,
and social networks,
16
49003
2886
и сайтове за видео споделяне,
и социални мрежи;
и социални мрежи;
01:04
criminals, dictators and terrorists
were figuring out
were figuring out
17
52907
4304
престъпниците, диктаторите и
терористите разбираха
терористите разбираха
01:09
how to use those same
platforms against us.
platforms against us.
18
57235
3202
как да използват същите тези
платформи против нас.
платформи против нас.
А ние не бяхме достатъчно
предвидливи, за да ги спрем.
предвидливи, за да ги спрем.
01:13
And we didn't have
the foresight to stop them.
the foresight to stop them.
19
61417
2455
През последните години
геополитическите сили
геополитическите сили
01:16
Over the last few years, geopolitical
forces have come online to wreak havoc.
forces have come online to wreak havoc.
20
64746
5099
дойдоха в интернет,
за да опустошат безпорядъка.
за да опустошат безпорядъка.
И в отговор,
01:21
And in response,
21
69869
1169
Гугъл подкрепи мен
и няколко мои колеги
и няколко мои колеги
01:23
Google supported a few colleagues and me
to set up a new group called Jigsaw,
to set up a new group called Jigsaw,
22
71062
4778
в изграждането на нова група,
наречена Джигсоу,
наречена Джигсоу,
с целта да направи хората по-защитени
от заплахи като насилствения екстремизъм,
от заплахи като насилствения екстремизъм,
01:27
with a mandate to make people safer
from threats like violent extremism,
from threats like violent extremism,
23
75864
4596
01:32
censorship, persecution --
24
80484
2078
цензурата, тормоза -
01:35
threats that feel very personal to me
because I was born in Iran,
because I was born in Iran,
25
83186
4117
заплахи, които приемам за много лични,
защото съм родена в Иран
защото съм родена в Иран
01:39
and I left in the aftermath
of a violent revolution.
of a violent revolution.
26
87327
2929
и заминах по време на последиците
от една кървава революция.
от една кървава революция.
01:43
But I've come to realize
that even if we had all of the resources
that even if we had all of the resources
27
91525
4346
Но с времето осъзнах,
че дори да имахме всичките ресурси
че дори да имахме всичките ресурси
на всички технологични
компании на света,
компании на света,
01:47
of all of the technology
companies in the world,
companies in the world,
28
95895
2858
01:51
we'd still fail
29
99595
1230
ние пак бихме се провалили,
ако подценим една критична съставка:
01:53
if we overlooked one critical ingredient:
30
101586
2948
01:57
the human experiences of the victims
and perpetrators of those threats.
and perpetrators of those threats.
31
105653
5789
човешките преживявания на жертвите
и виновниците за тези заплахи.
и виновниците за тези заплахи.
Има много предизвикателства,
за които мога да ви говоря днес.
за които мога да ви говоря днес.
02:04
There are many challenges
I could talk to you about today.
I could talk to you about today.
32
112935
2736
02:07
I'm going to focus on just two.
33
115695
1504
Но ще се фокусирам
само на две от тях.
само на две от тях.
02:09
The first is terrorism.
34
117623
2079
Първото е тероризмът.
02:13
So in order to understand
the radicalization process,
the radicalization process,
35
121563
2557
За да разберем процеса на радикализация,
02:16
we met with dozens of former members
of violent extremist groups.
of violent extremist groups.
36
124144
4287
ние се срещнахме с дузина бивши членове
на групировки за насилнически екстремизъм.
на групировки за насилнически екстремизъм.
02:21
One was a British schoolgirl,
37
129590
2483
Една от тях беше британска ученичка,
02:25
who had been taken off of a plane
at London Heathrow
at London Heathrow
38
133049
3699
която е била свалена от самолет
в Лондон Хийтроу,
в Лондон Хийтроу,
02:28
as she was trying to make her way
to Syria to join ISIS.
to Syria to join ISIS.
39
136772
4692
докато се е опитвала да стигне до Сирия,
за да се присъедини към Ислямска държава.
за да се присъедини към Ислямска държава.
02:34
And she was 13 years old.
40
142281
1931
И тя беше на 13 години.
02:37
So I sat down with her and her father,
and I said, "Why?"
and I said, "Why?"
41
145792
4625
И така, седнах с нея и баща ѝ,
и попитах - "Защо?".
и попитах - "Защо?".
02:42
And she said,
42
150441
1717
А тя отговори -
02:44
"I was looking at pictures
of what life is like in Syria,
of what life is like in Syria,
43
152182
3639
"Гледах снимки за това какъв
е животът в Сирия,
е животът в Сирия,
02:47
and I thought I was going to go
and live in the Islamic Disney World."
and live in the Islamic Disney World."
44
155845
3510
и си помислих, че отивам
да живея в ислямския Дисниленд."
да живея в ислямския Дисниленд."
02:52
That's what she saw in ISIS.
45
160527
2084
Това видяла тя в Ислямска държава.
02:54
She thought she'd meet and marry
a jihadi Brad Pitt
a jihadi Brad Pitt
46
162635
3492
Тя си е помислила, че ще срещне
и ще се омъжи за джихадския Брат Пит,
и ще се омъжи за джихадския Брат Пит,
02:58
and go shopping in the mall all day
and live happily ever after.
and live happily ever after.
47
166151
3058
и че ще пазарува по цял ден в мола,
и че ще заживее щастливо.
и че ще заживее щастливо.
03:02
ISIS understands what drives people,
48
170977
2824
Ислямска държава разбира
какво мотивира хората
какво мотивира хората
03:05
and they carefully craft a message
for each audience.
for each audience.
49
173825
3544
и избира внимателно как да сглоби
послание за всяка аудитотия.
послание за всяка аудитотия.
Само погледнете
на колко много езици
на колко много езици
03:11
Just look at how many languages
50
179122
1511
03:12
they translate their
marketing material into.
marketing material into.
51
180657
2273
те превеждат своите
маркетинг материали.
маркетинг материали.
03:15
They make pamphlets,
radio shows and videos
radio shows and videos
52
183677
2661
Те правят памфлети,
радио предавания и видеа,
радио предавания и видеа,
03:18
in not just English and Arabic,
53
186362
1973
и те не са само на английски и арабски,
03:20
but German, Russian,
French, Turkish, Kurdish,
French, Turkish, Kurdish,
54
188359
4767
но също на немски, руски,
френски, турски, кюрдски,
френски, турски, кюрдски,
03:25
Hebrew,
55
193150
1672
хибру,
03:26
Mandarin Chinese.
56
194846
1741
китайски мандарин.
Виждала съм дори видео,
продуцирано от Ислямска дръжава,
продуцирано от Ислямска дръжава,
03:29
I've even seen an ISIS-produced
video in sign language.
video in sign language.
57
197309
4192
на езика на глухонемите.
03:34
Just think about that for a second:
58
202605
1884
Само си помислете за това за секунда:
03:36
ISIS took the time and made the effort
59
204513
2308
Ислямска държава е отделила време
и е положила усилия
и е положила усилия
03:38
to ensure their message is reaching
the deaf and hard of hearing.
the deaf and hard of hearing.
60
206845
3804
да бъде сигурна, че посланието им достига
до глухите и трудно чуващите.
до глухите и трудно чуващите.
Всъщност, технологическа
напредничевост не е
напредничевост не е
03:45
It's actually not tech-savviness
61
213143
2144
причината, поради която
Ислямска държава печели сърца и умове.
Ислямска държава печели сърца и умове.
03:47
that is the reason why
ISIS wins hearts and minds.
ISIS wins hearts and minds.
62
215311
2595
03:49
It's their insight into the prejudices,
the vulnerabilities, the desires
the vulnerabilities, the desires
63
217930
4163
Техните познания за предразсъдъците,
слабостите, желанията
слабостите, желанията
на хората, до които се опитват
да достигнат,
да достигнат,
03:54
of the people they're trying to reach
64
222117
1774
03:55
that does that.
65
223915
1161
са това, което ги движи.
03:57
That's why it's not enough
66
225718
1429
Ето защо не е достатъчно
03:59
for the online platforms
to focus on removing recruiting material.
to focus on removing recruiting material.
67
227171
4239
за онлайн платформите да се фокусират
върху премахването на материалите
за наемане на хора.
за наемане на хора.
04:04
If we want to have a shot
at building meaningful technology
at building meaningful technology
68
232518
3581
Ако искаме да притежаваме шанса
да създадем смислена технология,
да създадем смислена технология,
04:08
that's going to counter radicalization,
69
236123
1874
която да се противопоставя
на радикализацията,
на радикализацията,
04:10
we have to start with the human
journey at its core.
journey at its core.
70
238021
2979
трябва да започнем с човешкия
път в неговата сърцевина.
път в неговата сърцевина.
04:13
So we went to Iraq
71
241884
2187
И така, ние отидохме до Ирак,
за да говорим с млади мъже,
04:16
to speak to young men
who'd bought into ISIS's promise
who'd bought into ISIS's promise
72
244095
2831
които се бяха подвели от обещанието
на Ислямска държава
на Ислямска държава
04:18
of heroism and righteousness,
73
246950
3191
за героичност и правда,
04:22
who'd taken up arms to fight for them
74
250165
1847
които бяха вдигнали сами ръка,
за да се бият за тях,
за да се бият за тях,
04:24
and then who'd defected
75
252036
1338
и които бяха дезертирали,
04:25
after they witnessed
the brutality of ISIS's rule.
the brutality of ISIS's rule.
76
253398
3021
след като бяха видяли
бруталността на режима на Ислямска държава.
бруталността на режима на Ислямска държава.
04:28
And I'm sitting there in this makeshift
prison in the north of Iraq
prison in the north of Iraq
77
256880
3192
И аз седя в този импровизиран
затвор в северната част на Ирак
затвор в северната част на Ирак
04:32
with this 23-year-old who had actually
trained as a suicide bomber
trained as a suicide bomber
78
260096
4550
с този 23-годишен, който всъщност
беше обучен за атентатор самоубиец
беше обучен за атентатор самоубиец
04:36
before defecting.
79
264670
1552
преди да дезертира.
04:39
And he says,
80
267080
1158
И той казва -
04:41
"I arrived in Syria full of hope,
81
269119
3220
"Дойдох в Сирия пълен с надежда,
04:44
and immediately, I had two
of my prized possessions confiscated:
of my prized possessions confiscated:
82
272363
4365
и незабавно две от моите
най-ценни притежания бяха конфискувани:
най-ценни притежания бяха конфискувани:
04:48
my passport and my mobile phone."
83
276752
2933
моят паспорт и мобилният ми телефон."
04:52
The symbols of his physical
and digital liberty
and digital liberty
84
280140
2406
Символите на неговата физическа
и дигитална свобода
и дигитална свобода
са били отнети от него
при пристигането му.
при пристигането му.
04:54
were taken away from him on arrival.
85
282570
1760
04:57
And then this is the way he described
that moment of loss to me.
that moment of loss to me.
86
285248
3510
И после, това е начинът, по който
той описа този момент на загуба пред мен.
той описа този момент на загуба пред мен.
05:01
He said,
87
289356
1586
Той каза -
05:02
"You know in 'Tom and Jerry,'
88
290966
2329
"Сещаш ли се как в "Том и Джери",
05:06
when Jerry wants to escape,
and then Tom locks the door
and then Tom locks the door
89
294192
3103
когато Джери иска да избяга,
и после Том заключи вратата,
и после Том заключи вратата,
05:09
and swallows the key
90
297319
1156
и глътнe ключа,
05:10
and you see it bulging out
of his throat as it travels down?"
of his throat as it travels down?"
91
298499
3551
виждаш издутината в
гърлото му, докато слиза надолу?"
гърлото му, докато слиза надолу?"
Разбира се, аз наистина можех да видя
картината, която той описваше,
картината, която той описваше,
05:14
And of course, I really could see
the image that he was describing,
the image that he was describing,
92
302446
3153
и наистина разбрах чувството,
което той се опитваше да пресъздаде,
което той се опитваше да пресъздаде,
05:17
and I really did connect with the feeling
that he was trying to convey,
that he was trying to convey,
93
305623
3661
05:21
which was one of doom,
94
309308
2021
което беше чувството на обреченост,
05:23
when you know there's no way out.
95
311353
1789
когато знаеш, че няма изход.
05:26
And I was wondering:
96
314551
1289
И се зачудих -
"Какво, ако въобще има нещо,
би могло да промени решението му
би могло да промени решението му
05:28
What, if anything,
could have changed his mind
could have changed his mind
97
316644
2682
в деня, в който е напуснал дома си?"
05:31
the day that he left home?
98
319350
1240
05:32
So I asked,
99
320614
1250
И така, аз попитах -
05:33
"If you knew everything that you know now
100
321888
3178
"Ако знаеше всичко, което знаеш сега,
05:37
about the suffering
and the corruption, the brutality --
and the corruption, the brutality --
101
325090
3051
за страданието,
корупцията, бруталността,
корупцията, бруталността,
05:40
that day you left home,
102
328165
1415
в деня, когато напусна дома си,
05:41
would you still have gone?"
103
329604
1679
би ли го напуснал пак?"
05:43
And he said, "Yes."
104
331786
1711
А той каза - "Да".
05:45
And I thought, "Holy crap, he said 'Yes.'"
105
333846
2282
И аз си помислих -
"Божичко, той каза "Да". "
"Божичко, той каза "Да". "
05:48
And then he said,
106
336694
1219
И тогава той отвърна -
05:49
"At that point, I was so brainwashed,
107
337937
3001
"В този момент мозъкът ми
беше толкова промит,
беше толкова промит,
05:52
I wasn't taking in
any contradictory information.
any contradictory information.
108
340962
3244
че не възприемах
никаква противоречаща информация.
никаква противоречаща информация.
05:56
I couldn't have been swayed."
109
344744
1555
Не можех да бъда разколебан."
05:59
"Well, what if you knew
everything that you know now
everything that you know now
110
347235
2527
"Добре, а ако знаеше
всичко, което знаеш сега,
всичко, което знаеш сега,
06:01
six months before the day that you left?"
111
349786
2098
шест месеца преди деня, в който замина?"
"В онзи момент, мисля, че най-вероятно
щях да променя решението си."
щях да променя решението си."
06:05
"At that point, I think it probably
would have changed my mind."
would have changed my mind."
112
353345
3131
06:10
Radicalization isn't
this yes-or-no choice.
this yes-or-no choice.
113
358138
3397
Радикализацията не е
този категоричен избор.
този категоричен избор.
06:14
It's a process, during which
people have questions --
people have questions --
114
362007
2977
Тя е процес, през който
хората имат въпроси -
хората имат въпроси -
06:17
about ideology, religion,
the living conditions.
the living conditions.
115
365008
3776
за идеологията, религията,
условията за живот.
условията за живот.
06:20
And they're coming online for answers,
116
368808
2766
И идват онлайн за отговорите,
06:23
which is an opportunity to reach them.
117
371598
1917
което е възможност да бъдат достигнати.
06:25
And there are videos online
from people who have answers --
from people who have answers --
118
373905
3014
И онлайн има видеа
от хора, които имат отговорите -
от хора, които имат отговорите -
06:28
defectors, for example,
telling the story of their journey
telling the story of their journey
119
376943
2876
дезертьори, например,
които разказват историята на своя път
които разказват историята на своя път
06:31
into and out of violence;
120
379843
1583
към и извън насилието;
06:33
stories like the one from that man
I met in the Iraqi prison.
I met in the Iraqi prison.
121
381450
3487
истории като на онзи мъж,
с който се срещнах в иракския затвор.
с който се срещнах в иракския затвор.
Там има местни, които качват онлайн
материали от мобилните си телефони,
материали от мобилните си телефони,
06:37
There are locals who've uploaded
cell phone footage
cell phone footage
122
385914
2590
06:40
of what life is really like
in the caliphate under ISIS's rule.
in the caliphate under ISIS's rule.
123
388528
3503
показвайки какъв наистина е животът
в калифата под управлението
на Ислямска държава.
на Ислямска държава.
06:44
There are clerics who are sharing
peaceful interpretations of Islam.
peaceful interpretations of Islam.
124
392055
3735
Има духовни лица, които споделят
мирни интерпретации на исляма.
мирни интерпретации на исляма.
06:48
But you know what?
125
396830
1150
Но знаете ли какво?
06:50
These people don't generally have
the marketing prowess of ISIS.
the marketing prowess of ISIS.
126
398004
3020
Тези хора обикновено нямат
маркетинг нюха на Ислямска държава.
маркетинг нюха на Ислямска държава.
Те рискуват живота си, за да проговорят
06:54
They risk their lives to speak up
and confront terrorist propaganda,
and confront terrorist propaganda,
127
402049
4532
и да се противопоставят на терористическата пропаганда,
06:58
and then they tragically
don't reach the people
don't reach the people
128
406605
2211
и след това те трагично
не достигат до хората,
не достигат до хората,
07:00
who most need to hear from them.
129
408840
1682
които имат най-голяма нужда да ги чуят.
Поискахме да видим
дали технологиите могат да променят това.
дали технологиите могат да променят това.
07:03
And we wanted to see
if technology could change that.
if technology could change that.
130
411173
2612
07:06
So in 2016, we partnered with Moonshot CVE
131
414205
4183
И така, през 2016-та започнахме да си
партнираме с организацията Мууншот,
партнираме с организацията Мууншот,
07:10
to pilot a new approach
to countering radicalization
to countering radicalization
132
418412
3180
за да изпробваме нов подход
за противопоставяне на радикализацията,
за противопоставяне на радикализацията,
07:13
called the "Redirect Method."
133
421616
1780
наречен "Метод за пренасочване".
07:16
It uses the power of online advertising
134
424453
3012
Той използва силата на онлайн рекламата,
07:19
to bridge the gap between
those susceptible to ISIS's messaging
those susceptible to ISIS's messaging
135
427489
4514
за да преодолее разликата между тези,
поддаващи се на посланията
на Ислямска държава,
на Ислямска държава,
07:24
and those credible voices
that are debunking that messaging.
that are debunking that messaging.
136
432027
3760
и тези с гласове, заслужаващи доверие,
които развенчават въпросните послания.
които развенчават въпросните послания.
07:28
And it works like this:
137
436633
1150
И работи ето така:
07:29
someone looking for extremist material --
138
437807
1961
някой търси екстремистки материали -
07:31
say they search
for "How do I join ISIS?" --
for "How do I join ISIS?" --
139
439792
2990
да речем, търсят:
"Как да се присъединя към Ислямска държава?",
07:34
will see an ad appear
140
442806
2476
и ще видят как се повявява реклама,
07:37
that invites them to watch a YouTube video
of a cleric, of a defector --
of a cleric, of a defector --
141
445306
4882
която им предлага да гледат Ютуб видео
на духовник, на дезертьор -
на духовник, на дезертьор -
някой, който има автентичен отговор.
07:42
someone who has an authentic answer.
142
450212
2310
07:44
And that targeting is based
not on a profile of who they are,
not on a profile of who they are,
143
452546
3623
Този таргетинг не е основан
на профила, който показва кои са,
на профила, който показва кои са,
07:48
but of determining something
that's directly relevant
that's directly relevant
144
456193
3053
а детерминирайки нещо,
което директно съвпада
което директно съвпада
07:51
to their query or question.
145
459270
1708
с тяхното търсене или въпрос.
През пилотните ни осем седмици,
ползвайки английски и арабски,
ползвайки английски и арабски,
07:54
During our eight-week pilot
in English and Arabic,
in English and Arabic,
146
462122
2842
07:56
we reached over 300,000 people
147
464988
3279
достигнахме до повече от
300 000 души,
300 000 души,
08:00
who had expressed an interest in
or sympathy towards a jihadi group.
or sympathy towards a jihadi group.
148
468291
5545
които бяха изявили интерес
или симпатия към джихадистка група.
или симпатия към джихадистка група.
08:06
These people were now watching videos
149
474626
2264
Същите хора сега гледат нашите видеа,
08:08
that could prevent them
from making devastating choices.
from making devastating choices.
150
476914
3340
които могат да ги предпазят
от правенето на деструктивни избори.
от правенето на деструктивни избори.
08:13
And because violent extremism
isn't confined to any one language,
isn't confined to any one language,
151
481405
3727
И защото насилственият екстремизъм
не е обвързан само с един език,
не е обвързан само с един език,
08:17
religion or ideology,
152
485156
1804
религия или идеалология,
08:18
the Redirect Method is now
being deployed globally
being deployed globally
153
486984
3501
Методът за пренасочване сега
се използва глобално,
се използва глобално,
08:22
to protect people being courted online
by violent ideologues,
by violent ideologues,
154
490509
3804
за да предпази хората от това да бъдат
ухажвани онлайн от насилствени идеалогии,
ухажвани онлайн от насилствени идеалогии,
08:26
whether they're Islamists,
white supremacists
white supremacists
155
494337
2596
било то ислямисти,
бели супремасисти
бели супремасисти
08:28
or other violent extremists,
156
496957
2103
или други агресивни екстремисти,
08:31
with the goal of giving them the chance
to hear from someone
to hear from someone
157
499084
2873
с целта да дадем шанс
да чуем гласа на някого
да чуем гласа на някого
08:33
on the other side of that journey;
158
501981
2091
от другата страна на това пътешествие;
08:36
to give them the chance to choose
a different path.
a different path.
159
504096
2839
да им дадем шанс да изберат
различен път.
различен път.
08:40
It turns out that often the bad guys
are good at exploiting the internet,
are good at exploiting the internet,
160
508749
5980
Оказва се, че най-често лошите хора
са добри в експлоатацията на интернет,
са добри в експлоатацията на интернет,
08:46
not because they're some kind
of technological geniuses,
of technological geniuses,
161
514753
3744
не защото те са някакъв вид
технологични гении,
технологични гении,
08:50
but because they understand
what makes people tick.
what makes people tick.
162
518521
2985
а защото разбират
какво мотивира хората.
какво мотивира хората.
08:54
I want to give you a second example:
163
522855
2369
Искам да ви дам втори пример:
08:58
online harassment.
164
526019
1391
онлайн тормозът.
Онлайн тормозителите също полагат усилия,
за да разберат какво ще резонира
за да разберат какво ще резонира
09:00
Online harassers also work
to figure out what will resonate
to figure out what will resonate
165
528629
3363
09:04
with another human being.
166
532016
1615
с друго човешко същество.
09:05
But not to recruit them like ISIS does,
167
533655
3110
Но не за да ги привлекат,
както Ислямска държава прави,
както Ислямска държава прави,
09:08
but to cause them pain.
168
536789
1275
а за да им причинят болка.
09:11
Imagine this:
169
539259
1342
Представете си това:
09:13
you're a woman,
170
541347
1659
Вие сте жена,
09:15
you're married,
171
543030
1413
омъжена сте,
09:16
you have a kid.
172
544467
1154
имате дете.
09:18
You post something on social media,
173
546834
1784
Публикувате нещо в социалните медии,
09:20
and in a reply,
you're told that you'll be raped,
you're told that you'll be raped,
174
548642
2886
а в отговор Ви се казва,
че ще бъдете изнасилена,
че ще бъдете изнасилена,
09:24
that your son will be watching,
175
552577
1560
че Вашият син ще гледа,
09:26
details of when and where.
176
554825
1856
с детайли къде и кога.
09:29
In fact, your home address
is put online for everyone to see.
is put online for everyone to see.
177
557148
3143
Всъщност, адресът Ви е онлайн
и всеки може да го види.
и всеки може да го види.
Това изглежда като доста
реалистична заплаха.
реалистична заплаха.
09:33
That feels like a pretty real threat.
178
561580
2007
Мислите ли, че бихте се прибрала вкъщи?
09:37
Do you think you'd go home?
179
565113
1656
Мислите ли, че ще продължите да правите
това, което сте правила до момента?
това, което сте правила до момента?
09:39
Do you think you'd continue doing
the thing that you were doing?
the thing that you were doing?
180
567999
3048
09:43
Would you continue doing that thing
that's irritating your attacker?
that's irritating your attacker?
181
571071
3220
Ще продължите ли да вършите нещото,
което дразни Вашия заплашител?
което дразни Вашия заплашител?
Онлайн тормозът се е превърнал в
това перверзно изкуство
това перверзно изкуство
09:48
Online abuse has been this perverse art
182
576016
3096
да откриеш какво
кара хората да се ядосват,
кара хората да се ядосват,
09:51
of figuring out what makes people angry,
183
579136
3468
09:54
what makes people afraid,
184
582628
2132
какво ги кара да се страхуват,
09:56
what makes people insecure,
185
584784
1641
какво ги кара
да се чувстват несигурни,
да се чувстват несигурни,
09:58
and then pushing those pressure points
until they're silenced.
until they're silenced.
186
586449
3067
и после да натискаш тези
точки на напрежение, докато не замлъкнат.
точки на напрежение, докато не замлъкнат.
10:02
When online harassment goes unchecked,
187
590333
2304
Когато онлайн тормозът остане непроврен,
10:04
free speech is stifled.
188
592661
1667
свободата на словото се схваща.
10:07
And even the people
hosting the conversation
hosting the conversation
189
595196
2127
И дори хората,
поддържащи комуникацията
поддържащи комуникацията
10:09
throw up their arms and call it quits,
190
597347
1834
вдигат ръце във въздуха и се отказват,
10:11
closing their comment sections
and their forums altogether.
and their forums altogether.
191
599205
2957
затварят своите секции за коментари
и техните форуми като цяло.
и техните форуми като цяло.
Това означава, че ние
губим нашите онлайн пространства
губим нашите онлайн пространства
10:14
That means we're actually
losing spaces online
losing spaces online
192
602186
2849
10:17
to meet and exchange ideas.
193
605059
1987
за досег и обмен на идеи.
10:19
And where online spaces remain,
194
607939
2163
А там, където онлайн пространствата
останат,
останат,
10:22
we descend into echo chambers
with people who think just like us.
with people who think just like us.
195
610126
4470
ние ги превръщаме в ехо камари,
пълни с хора, които мислят точно като нас.
пълни с хора, които мислят точно като нас.
Но това позволява разпространяването
на дезинформация,
на дезинформация,
10:27
But that enables
the spread of disinformation;
the spread of disinformation;
196
615688
2499
10:30
that facilitates polarization.
197
618211
2184
което улеснява поляризацията.
Какво ще стане, ако технологията, вместо това,
10:34
What if technology instead
could enable empathy at scale?
could enable empathy at scale?
198
622508
5269
успее да предизвика мащабна емпатия?
Това беше въпросът,
който мотивира нашето партньорство
който мотивира нашето партньорство
10:40
This was the question
that motivated our partnership
that motivated our partnership
199
628451
2486
10:42
with Google's Counter Abuse team,
200
630961
1819
с отдела против тормоз на Гугъл,
10:44
Wikipedia
201
632804
1178
с Уикипедия
10:46
and newspapers like the New York Times.
202
634006
1934
и с вестници като Ню Йорк Таймс.
10:47
We wanted to see if we could build
machine-learning models
machine-learning models
203
635964
2876
Искахме да видим дали можем да построим
модели за машинно самообучение,
модели за машинно самообучение,
10:50
that could understand
the emotional impact of language.
the emotional impact of language.
204
638864
3606
които да разбират
емоционалното влияние на езика.
емоционалното влияние на езика.
Можем ли да предвидим кои коментари
10:55
Could we predict which comments
were likely to make someone else leave
were likely to make someone else leave
205
643062
3610
имат потенциала да накарат
някой друг да напусне
някой друг да напусне
10:58
the online conversation?
206
646696
1374
онлайн разговора.
11:00
And that's no mean feat.
207
648515
3887
И това е сериозен успех.
11:04
That's no trivial accomplishment
208
652426
1566
Това не е тривиално постижение
11:06
for AI to be able to do
something like that.
something like that.
209
654016
2563
за изкуствения интелект да направи
подобно нещо.
подобно нещо.
11:08
I mean, just consider
these two examples of messages
these two examples of messages
210
656603
3729
Имам предвид, помислете си само
за тези два примера за съобщения,
за тези два примера за съобщения,
11:12
that could have been sent to me last week.
211
660356
2224
които можеха да ми бъдат
пратени миналата седмица.
пратени миналата седмица.
11:15
"Break a leg at TED!"
212
663517
1879
"Успех на ТЕД!"
(буквален превод: "Счупи крак на ТЕД!")
(буквален превод: "Счупи крак на ТЕД!")
11:17
... and
213
665420
1164
..и
11:18
"I'll break your legs at TED."
214
666608
2126
"Ще ти счупя краката на ТЕД."
11:20
(Laughter)
215
668758
1246
(Смях)
11:22
You are human,
216
670028
1513
Вие сте хора,
11:23
that's why that's an obvious
difference to you,
difference to you,
217
671565
2210
затова има очевидна
разлика за вас,
разлика за вас,
11:25
even though the words
are pretty much the same.
are pretty much the same.
218
673799
2224
дори думите
да са горе-долу еднакви.
да са горе-долу еднакви.
11:28
But for AI, it takes some training
to teach the models
to teach the models
219
676047
3079
Но за изкуствения интелект се изисква подготовка,
за бъдат научени моделите,
за бъдат научени моделите,
11:31
to recognize that difference.
220
679150
1571
чрез които се разпознава тази разлика.
11:32
The beauty of building AI
that can tell the difference
that can tell the difference
221
680745
3245
Красотата на това да създадеш изкуствен интелект,
който може да прави тази разлика,
който може да прави тази разлика,
11:36
is that AI can then scale to the size
of the online toxicity phenomenon,
of the online toxicity phenomenon,
222
684014
5050
е в това, че изкуственият интелект после става
съизмерим с мащабността на онлайн токсичността,
съизмерим с мащабността на онлайн токсичността,
11:41
and that was our goal in building
our technology called Perspective.
our technology called Perspective.
223
689088
3287
и това беше нашата цел при създаването
на технология, наречена "Перспектива".
на технология, наречена "Перспектива".
11:45
With the help of Perspective,
224
693056
1427
С помощта на Перпектива,
11:46
the New York Times, for example,
225
694507
1583
Ню Йорк Таймс, например,
11:48
has increased spaces
online for conversation.
online for conversation.
226
696114
2487
увеличиха техните пространства
за онлайн разговори.
за онлайн разговори.
11:51
Before our collaboration,
227
699005
1310
Преди колаборацията ни
11:52
they only had comments enabled
on just 10 percent of their articles.
on just 10 percent of their articles.
228
700339
4305
те позволяваха коментирането
на едва 10 процента от техните статии.
на едва 10 процента от техните статии.
С помощта на автоматизираното
машинно обучение,
машинно обучение,
11:57
With the help of machine learning,
229
705495
1644
11:59
they have that number up to 30 percent.
230
707163
1897
те увеличиха числото до 30 процента.
12:01
So they've tripled it,
231
709084
1156
Тоест, те са го утроили,
12:02
and we're still just getting started.
232
710264
1917
а ние все още едва започваме.
12:04
But this is about way more than just
making moderators more efficient.
making moderators more efficient.
233
712872
3461
Но има много повече от това
да направим модераторите по-ефикасни.
да направим модераторите по-ефикасни.
12:10
Right now I can see you,
234
718076
1850
Сега мога да ви погледна
12:11
and I can gauge how what I'm saying
is landing with you.
is landing with you.
235
719950
3294
и да преценя как това, което казвам,
се приема от вас.
се приема от вас.
12:16
You don't have that opportunity online.
236
724370
1879
Няма подобна възможност онлайн.
12:18
Imagine if machine learning
could give commenters,
could give commenters,
237
726558
3635
Представете си, ако машиното обучение,
можеше да дава на коментиращите,
можеше да дава на коментиращите,
12:22
as they're typing,
238
730217
1162
докато пишат,
12:23
real-time feedback about how
their words might land,
their words might land,
239
731403
3347
обратна връзка в реално време за това
как техните думи могат да бъдат възприети,
как техните думи могат да бъдат възприети,
12:27
just like facial expressions do
in a face-to-face conversation.
in a face-to-face conversation.
240
735609
3024
също както лицевите изражения правят
в разговор лице в лице.
в разговор лице в лице.
12:32
Machine learning isn't perfect,
241
740926
1842
Машинното самообучение
не е перфектно
не е перфектно
12:34
and it still makes plenty of mistakes.
242
742792
2394
и все още прави доста грешки.
Но ако можем да създадем
технология,
технология,
12:37
But if we can build technology
243
745210
1557
която разбира емоционалния
заряд на езика,
заряд на езика,
12:38
that understands the emotional
impact of language,
impact of language,
244
746791
3293
12:42
we can build empathy.
245
750108
1460
ние ще можем
да изградим емпатия.
да изградим емпатия.
12:43
That means that we can have
dialogue between people
dialogue between people
246
751592
2425
Това означава, че можем да улесним
диалога между хора
диалога между хора
с различни политически убеждения,
12:46
with different politics,
247
754041
1816
12:47
different worldviews,
248
755881
1216
с различни перспективи за света,
12:49
different values.
249
757121
1246
с различни ценности.
И можем да дадем нов живот
на онлайн пространствата,
на онлайн пространствата,
12:51
And we can reinvigorate the spaces online
that most of us have given up on.
that most of us have given up on.
250
759359
4775
от които повечето от нас са се отказали.
12:57
When people use technology
to exploit and harm others,
to exploit and harm others,
251
765857
3785
Когато хората използват технологиите,
за да експлоатират или наранят другите,
за да експлоатират или наранят другите,
13:01
they're preying on our human fears
and vulnerabilities.
and vulnerabilities.
252
769666
3642
те грабят от нашите човешки
страхове и слабости.
страхове и слабости.
13:06
If we ever thought
that we could build an internet
that we could build an internet
253
774461
3508
Ако някога сме си мислели,
че можем да изградим интернет,
че можем да изградим интернет,
13:09
insulated from the dark side of humanity,
254
777993
2578
изолиран от тъмната страна на човечеството,
13:12
we were wrong.
255
780595
1184
сме били в грешка.
13:14
If we want today to build technology
256
782361
2270
Ако днес искаме да създадем технология,
13:16
that can overcome
the challenges that we face,
the challenges that we face,
257
784655
3127
която може да преодолее
предизвикателствата, които срещаме,
предизвикателствата, които срещаме,
ние трябва да дадем всичко от себе си,
за да разберем проблемите
за да разберем проблемите
13:19
we have to throw our entire selves
into understanding the issues
into understanding the issues
258
787806
4043
13:23
and into building solutions
259
791873
1893
и да изградим решения,
които са толкова човешки,
13:25
that are as human as the problems
they aim to solve.
they aim to solve.
260
793790
3782
колкото и проблемите,
които целят да разрешат.
които целят да разрешат.
Нека направим така,
че това да се случи.
че това да се случи.
13:30
Let's make that happen.
261
798071
1513
13:31
Thank you.
262
799924
1150
Благодаря.
13:33
(Applause)
263
801098
3277
(Аплодисменти)
ABOUT THE SPEAKER
Yasmin Green - Geopolitical technologistYasmin Green is the director of research and development for Jigsaw, a unit within Alphabet Inc. focused on solving global security challenges through technology.
Why you should listen
Yasmin Green is the director of research and development for Jigsaw, a unit within Alphabet Inc. (formerly Google Ideas), focused on using tech tools to make the world safer, both on and offline. She has experience leading projects in some of the world’s toughest environments, including Iran, Syria, the UAE and Nigeria. In 2012, she led a multi-partner coalition to launch Against Violent Extremism, the world's first online network of former violent extremists and survivors of terrorism. Based on her own interviews with ISIS defectors and jailed recruits, last year Yasmin launched the Redirect Method, a new deployment of targeted advertising and video to confront online radicalization.
Green is a senior advisor on innovation to Oxford Analytica, a member of the Aspen Cyber Strategy Group, and until 2015 co-chaired the European Commission's Working Group on Online Radicalization. She was named one of Fortune's "40 Under 40" most influential young leaders in 2017, and in 2016 she was named one of Fast Company's "Most Creative People in Business."
Yasmin Green | Speaker | TED.com