TED2018
Yasmin Green: How technology can fight extremism and online harassment
Yasmin Green: Hogyan segíthet a technológia a szélsőségesség és az online zaklatás elleni harcban?
Filmed:
Readability: 4.6
2,460,759 views
Megvédheti-e a technológia az embereket olyan fenyegetésektől, mint az erőszakos szélsőségesség, a cenzúra vagy az üldözés? Ebben a felvillanyozó beszédben Yasmin Green technológus ismerteti a Jigsaw (a Google-t is működtető Alphabet Inc. cégcsoporthoz tartozó cég) radikalizálódás és online zaklatás elleni programjait, beleértve egy olyan projektet is, amely valós idejű visszajelzést adhat a hozzászólóknak arról, milyen hatást válthatnak ki kommentjeik az emberekből, és amely már megnövelte a beszélgetésre szánt online terek számát. "Ha valaha is azt hittük, hogy megépíthetünk az emberiség sötét oldalától elszigetelt internetet, tévedtünk" – mondja Green. "Teljes erőbedobással kell megértenünk a problémákat, és olyan megoldásokat találnunk, amelyek éppolyan emberiek, mint a problémák, amelyek megoldására készülnek."
Yasmin Green - Geopolitical technologist
Yasmin Green is the director of research and development for Jigsaw, a unit within Alphabet Inc. focused on solving global security challenges through technology. Full bio
Yasmin Green is the director of research and development for Jigsaw, a unit within Alphabet Inc. focused on solving global security challenges through technology. Full bio
Double-click the English transcript below to play the video.
00:13
My relationship with the internet
reminds me of the setup
reminds me of the setup
0
1131
4411
Az internettel való kapcsolatom
közhelyes horrorfilmre emlékeztet:
közhelyes horrorfilmre emlékeztet:
00:17
to a clichéd horror movie.
1
5566
1833
00:19
You know, the blissfully happy family
moves in to their perfect new home,
moves in to their perfect new home,
2
7867
4386
a boldog családtagok beköltöznek
tökéletes, új otthonukba,
tökéletes, új otthonukba,
00:24
excited about their perfect future,
3
12277
2281
izgatottak a tökéletes jövőjük miatt,
00:26
and it's sunny outside
and the birds are chirping ...
and the birds are chirping ...
4
14582
3521
odakint süt a nap,
csicseregnek a madarak...
csicseregnek a madarak...
00:30
And then it gets dark.
5
18857
1839
Aztán minden elsötétül.
00:32
And there are noises from the attic.
6
20720
2348
Zajok szűrődnek le a padlásról,
00:35
And we realize that that perfect
new house isn't so perfect.
new house isn't so perfect.
7
23092
4345
és rájövünk, hogy a tökéletes új ház
nem is olyan tökéletes.
nem is olyan tökéletes.
00:40
When I started working at Google in 2006,
8
28485
3131
Amikor 2006-ban elkezdtem
a Google-nál dolgozni,
a Google-nál dolgozni,
00:43
Facebook was just a two-year-old,
9
31640
1767
a Facebook még csak kétéves volt,
a Twitter pedig még nem is létezett.
a Twitter pedig még nem is létezett.
00:45
and Twitter hadn't yet been born.
10
33431
2012
00:47
And I was in absolute awe
of the internet and all of its promise
of the internet and all of its promise
11
35848
4410
Teljesen lenyűgözött
az internet és az ígéret,
az internet és az ígéret,
hogy közelebb hoz bennünket,
00:52
to make us closer
12
40282
1437
00:53
and smarter
13
41743
1296
illetve okosabbá és szabadabbá tesz majd.
00:55
and more free.
14
43063
1214
De amíg mi lelkesítő munkát végeztünk,
00:57
But as we were doing the inspiring work
of building search engines
of building search engines
15
45265
3714
keresőmotorokat, videómegosztó oldalakat
és közösségi hálókat fejlesztve,
és közösségi hálókat fejlesztve,
01:01
and video-sharing sites
and social networks,
and social networks,
16
49003
2886
01:04
criminals, dictators and terrorists
were figuring out
were figuring out
17
52907
4304
addig bűnözők, diktátorok
és terroristák azt találgatták,
és terroristák azt találgatták,
01:09
how to use those same
platforms against us.
platforms against us.
18
57235
3202
hogyan is használhatnák
ugyanezeket a felületeket ellenünk.
ugyanezeket a felületeket ellenünk.
És nem voltunk előrelátóak,
hogy megállítsuk őket.
hogy megállítsuk őket.
01:13
And we didn't have
the foresight to stop them.
the foresight to stop them.
19
61417
2455
01:16
Over the last few years, geopolitical
forces have come online to wreak havoc.
forces have come online to wreak havoc.
20
64746
5099
Geopolitikai erők online kezdtek
pusztítani az elmúlt években.
pusztítani az elmúlt években.
01:21
And in response,
21
69869
1169
Válaszul a Google támogatást nyújtott
pár kollégámnak és nekem,
pár kollégámnak és nekem,
01:23
Google supported a few colleagues and me
to set up a new group called Jigsaw,
to set up a new group called Jigsaw,
22
71062
4778
hogy felállítsunk egy új,
Jigsaw nevű csapatot, abból a célból,
Jigsaw nevű csapatot, abból a célból,
01:27
with a mandate to make people safer
from threats like violent extremism,
from threats like violent extremism,
23
75864
4596
hogy megvédjük az embereket
az erőszakos szélsőségességtől,
az erőszakos szélsőségességtől,
01:32
censorship, persecution --
24
80484
2078
a cenzúrától, üldözéstől...
01:35
threats that feel very personal to me
because I was born in Iran,
because I was born in Iran,
25
83186
4117
Számomra is ismerős fenyegetésektől,
mivel Iránban születtem,
mivel Iránban születtem,
01:39
and I left in the aftermath
of a violent revolution.
of a violent revolution.
26
87327
2929
és az erőszakos forradalom után
elhagytam az országot.
elhagytam az országot.
01:43
But I've come to realize
that even if we had all of the resources
that even if we had all of the resources
27
91525
4346
De rájöttem, hogy még ha rendelkeznénk is
a világ összes technológiai cégének
minden erőforrásával,
minden erőforrásával,
01:47
of all of the technology
companies in the world,
companies in the world,
28
95895
2858
01:51
we'd still fail
29
99595
1230
akkor is elbuknánk,
01:53
if we overlooked one critical ingredient:
30
101586
2948
ha figyelmen kívül hagynánk
egy fontos tényezőt:
egy fontos tényezőt:
01:57
the human experiences of the victims
and perpetrators of those threats.
and perpetrators of those threats.
31
105653
5789
az áldozatok és a fenyegetéseket
elkövetők tapasztalatait.
elkövetők tapasztalatait.
Rengeteg kihívásról beszélhetnék,
02:04
There are many challenges
I could talk to you about today.
I could talk to you about today.
32
112935
2736
de most csak kettőt emelek ki.
02:07
I'm going to focus on just two.
33
115695
1504
02:09
The first is terrorism.
34
117623
2079
Az egyik a terrorizmus.
A radikalizálódás folyamatának megértésére
02:13
So in order to understand
the radicalization process,
the radicalization process,
35
121563
2557
02:16
we met with dozens of former members
of violent extremist groups.
of violent extremist groups.
36
124144
4287
erőszakos szélsőséges csoportok
volt tagjainak tucatjaival ültünk össze.
volt tagjainak tucatjaival ültünk össze.
02:21
One was a British schoolgirl,
37
129590
2483
Egyikük egy brit diáklány volt,
akit leszállítottak a repülőről
a londoni Heathrow reptéren,
a londoni Heathrow reptéren,
02:25
who had been taken off of a plane
at London Heathrow
at London Heathrow
38
133049
3699
02:28
as she was trying to make her way
to Syria to join ISIS.
to Syria to join ISIS.
39
136772
4692
amikor Szíriába próbált eljutni,
hogy csatlakozhasson az ISIS-hez.
hogy csatlakozhasson az ISIS-hez.
02:34
And she was 13 years old.
40
142281
1931
Tizenhárom éves volt.
02:37
So I sat down with her and her father,
and I said, "Why?"
and I said, "Why?"
41
145792
4625
Így hát leültem vele és az apjával,
és azt kérdeztem: "Miért?"
és azt kérdeztem: "Miért?"
02:42
And she said,
42
150441
1717
Erre azt válaszolta:
02:44
"I was looking at pictures
of what life is like in Syria,
of what life is like in Syria,
43
152182
3639
"Nézegettem képeket arról,
hogy milyen is az élet Szíriában,
hogy milyen is az élet Szíriában,
02:47
and I thought I was going to go
and live in the Islamic Disney World."
and live in the Islamic Disney World."
44
155845
3510
és azt hittem, hogy az Iszlám
Disney Worldben fogok élni."
Disney Worldben fogok élni."
02:52
That's what she saw in ISIS.
45
160527
2084
Ezt látta az ISIS-ben.
02:54
She thought she'd meet and marry
a jihadi Brad Pitt
a jihadi Brad Pitt
46
162635
3492
Azt képzelte, hogy találkozik
egy dzsihádi Brad Pitt-tel, hozzámegy,
egy dzsihádi Brad Pitt-tel, hozzámegy,
02:58
and go shopping in the mall all day
and live happily ever after.
and live happily ever after.
47
166151
3058
és majd vásárlással tölti a napjait,
és boldogan élnek, míg meg nem halnak.
és boldogan élnek, míg meg nem halnak.
03:02
ISIS understands what drives people,
48
170977
2824
Az ISIS tudja, mi hajtja az embereket,
03:05
and they carefully craft a message
for each audience.
for each audience.
49
173825
3544
és gondosan kidolgozott üzeneteket
készítenek mindenféle közönségnek.
készítenek mindenféle közönségnek.
03:11
Just look at how many languages
50
179122
1511
Elég csak megnézni, hogy hány nyelvre
fordítják le a reklámanyagaikat.
fordítják le a reklámanyagaikat.
03:12
they translate their
marketing material into.
marketing material into.
51
180657
2273
03:15
They make pamphlets,
radio shows and videos
radio shows and videos
52
183677
2661
Brosúrákat, rádióműsorokat
és videókat készítenek
és videókat készítenek
03:18
in not just English and Arabic,
53
186362
1973
nemcsak angolul és arabul,
03:20
but German, Russian,
French, Turkish, Kurdish,
French, Turkish, Kurdish,
54
188359
4767
de német, orosz, francia, török, kurd,
héber és mandarin nyelven is.
03:25
Hebrew,
55
193150
1672
03:26
Mandarin Chinese.
56
194846
1741
03:29
I've even seen an ISIS-produced
video in sign language.
video in sign language.
57
197309
4192
Jelnyelven készült ISIS-videót is láttam.
03:34
Just think about that for a second:
58
202605
1884
Gondoljunk csak bele!
03:36
ISIS took the time and made the effort
59
204513
2308
Az ISIS időt és energiát fordított arra,
03:38
to ensure their message is reaching
the deaf and hard of hearing.
the deaf and hard of hearing.
60
206845
3804
hogy a siketeket és nagyothallókat
is elérjék az üzeneteik.
is elérjék az üzeneteik.
03:45
It's actually not tech-savviness
61
213143
2144
Valójában nem a technológiai jártasság az,
03:47
that is the reason why
ISIS wins hearts and minds.
ISIS wins hearts and minds.
62
215311
2595
amivel az ISIS meggyőzi az embereket.
03:49
It's their insight into the prejudices,
the vulnerabilities, the desires
the vulnerabilities, the desires
63
217930
4163
Hanem a rálátás azokra az előítéletekre,
gyengeségekre és vágyakra,
gyengeségekre és vágyakra,
03:54
of the people they're trying to reach
64
222117
1774
amelyek az általuk
megcélzott emberek sajátosságai.
megcélzott emberek sajátosságai.
03:55
that does that.
65
223915
1161
Ezért nem elég,
03:57
That's why it's not enough
66
225718
1429
03:59
for the online platforms
to focus on removing recruiting material.
to focus on removing recruiting material.
67
227171
4239
hogy az online felületek toborzóanyagok
eltávolítására összpontosítanak.
eltávolítására összpontosítanak.
04:04
If we want to have a shot
at building meaningful technology
at building meaningful technology
68
232518
3581
Ha esélyt szeretnénk egy
jelentős technológia fejlesztésére,
jelentős technológia fejlesztésére,
04:08
that's going to counter radicalization,
69
236123
1874
amely szembeszáll a radikalizálódással,
04:10
we have to start with the human
journey at its core.
journey at its core.
70
238021
2979
akkor annak gyökerénél kell kezdenünk
az emberi utazást.
az emberi utazást.
04:13
So we went to Iraq
71
241884
2187
Elmentünk Irakba,
04:16
to speak to young men
who'd bought into ISIS's promise
who'd bought into ISIS's promise
72
244095
2831
hogy fiatal férfiakkal beszéljünk,
akik bedőltek az ISIS hősiességről
és tisztességről szóló ígéretének,
és tisztességről szóló ígéretének,
04:18
of heroism and righteousness,
73
246950
3191
fegyvert ragadtak, hogy harcoljanak értük,
04:22
who'd taken up arms to fight for them
74
250165
1847
04:24
and then who'd defected
75
252036
1338
majd megszöktek, miután látták
az ISIS uralmának brutalitását.
az ISIS uralmának brutalitását.
04:25
after they witnessed
the brutality of ISIS's rule.
the brutality of ISIS's rule.
76
253398
3021
04:28
And I'm sitting there in this makeshift
prison in the north of Iraq
prison in the north of Iraq
77
256880
3192
Ott ültem ebben az észak-iraki átmeneti
börtönben egy 23 éves fiúval,
börtönben egy 23 éves fiúval,
04:32
with this 23-year-old who had actually
trained as a suicide bomber
trained as a suicide bomber
78
260096
4550
aki öngyilkos merénylőnek készült,
04:36
before defecting.
79
264670
1552
mielőtt elszökött volna.
04:39
And he says,
80
267080
1158
Azt mondta:
04:41
"I arrived in Syria full of hope,
81
269119
3220
"Reményekkel telve jöttem Szíriába,
04:44
and immediately, I had two
of my prized possessions confiscated:
of my prized possessions confiscated:
82
272363
4365
de azonnal elkobozták
két értékes tárgyamat:
két értékes tárgyamat:
04:48
my passport and my mobile phone."
83
276752
2933
az útlevelemet és a mobiltelefonomat."
04:52
The symbols of his physical
and digital liberty
and digital liberty
84
280140
2406
A fizikai és digitális szabadságának
jelképeit érkezéskor elvették tőle.
jelképeit érkezéskor elvették tőle.
04:54
were taken away from him on arrival.
85
282570
1760
04:57
And then this is the way he described
that moment of loss to me.
that moment of loss to me.
86
285248
3510
Így írta le ezt a veszteséges pillanatot.
05:01
He said,
87
289356
1586
Azt mondta:
05:02
"You know in 'Tom and Jerry,'
88
290966
2329
"Ismerik azt a jelenetet
a Tom és Jerryben,
a Tom és Jerryben,
05:06
when Jerry wants to escape,
and then Tom locks the door
and then Tom locks the door
89
294192
3103
amikor Jerry meg akar szökni,
Tom pedig rázárja az ajtót,
Tom pedig rázárja az ajtót,
05:09
and swallows the key
90
297319
1156
lenyeli a kulcsot, és látni, ahogy
nyelés közben kidudorodik a torkában?"
nyelés közben kidudorodik a torkában?"
05:10
and you see it bulging out
of his throat as it travels down?"
of his throat as it travels down?"
91
298499
3551
05:14
And of course, I really could see
the image that he was describing,
the image that he was describing,
92
302446
3153
Láttam magam előtt a képet, amit leírt,
05:17
and I really did connect with the feeling
that he was trying to convey,
that he was trying to convey,
93
305623
3661
és azonnal átéreztem
az érzést, amit közölni próbált.
az érzést, amit közölni próbált.
05:21
which was one of doom,
94
309308
2021
A végzet érzését.
Amikor tudjuk, hogy nincs kiút.
Amikor tudjuk, hogy nincs kiút.
05:23
when you know there's no way out.
95
311353
1789
05:26
And I was wondering:
96
314551
1289
Azon tűnődtem, hogy bármi miatt
meggondolta volna-e magát,
mielőtt elindul otthonról?
mielőtt elindul otthonról?
05:28
What, if anything,
could have changed his mind
could have changed his mind
97
316644
2682
05:31
the day that he left home?
98
319350
1240
Azt kérdeztem:
05:32
So I asked,
99
320614
1250
05:33
"If you knew everything that you know now
100
321888
3178
"Ha az indulásod napján
tudtál volna mindent, amit most tudsz
tudtál volna mindent, amit most tudsz
05:37
about the suffering
and the corruption, the brutality --
and the corruption, the brutality --
101
325090
3051
a szenvedésről, a korrupcióról
és a brutalitásról,
és a brutalitásról,
05:40
that day you left home,
102
328165
1415
05:41
would you still have gone?"
103
329604
1679
akkor is eljöttél volna?"
05:43
And he said, "Yes."
104
331786
1711
És azt mondta: "Igen."
05:45
And I thought, "Holy crap, he said 'Yes.'"
105
333846
2282
Azt gondoltam: "Basszus, igent mondott!"
Azt mondta:
05:48
And then he said,
106
336694
1219
05:49
"At that point, I was so brainwashed,
107
337937
3001
"Akkor már annyira agymosott voltam,
05:52
I wasn't taking in
any contradictory information.
any contradictory information.
108
340962
3244
hogy semmilyen ellentmondó
információt nem fogadtam be.
információt nem fogadtam be.
05:56
I couldn't have been swayed."
109
344744
1555
Nem tántoríthattak volna el."
"És ha tudtál volna mindent, amit most,
05:59
"Well, what if you knew
everything that you know now
everything that you know now
110
347235
2527
fél évvel az indulásod előtt?"
06:01
six months before the day that you left?"
111
349786
2098
"Akkor valószínűleg
meggondoltam volna magam."
meggondoltam volna magam."
06:05
"At that point, I think it probably
would have changed my mind."
would have changed my mind."
112
353345
3131
06:10
Radicalization isn't
this yes-or-no choice.
this yes-or-no choice.
113
358138
3397
A radikalizálódás nem választás kérdése,
hanem folyamat, amely során
az embereknek kérdéseik támadnak
az embereknek kérdéseik támadnak
06:14
It's a process, during which
people have questions --
people have questions --
114
362007
2977
06:17
about ideology, religion,
the living conditions.
the living conditions.
115
365008
3776
ideológiáról, vallásról,
az életkörülményekről.
az életkörülményekről.
06:20
And they're coming online for answers,
116
368808
2766
És az internethez fordulnak válaszokért,
06:23
which is an opportunity to reach them.
117
371598
1917
ami esélyt ad arra, hogy megtalálják őket.
És vannak videók olyanokkal,
akiknek már megvannak a válaszaik,
akiknek már megvannak a válaszaik,
06:25
And there are videos online
from people who have answers --
from people who have answers --
118
373905
3014
06:28
defectors, for example,
telling the story of their journey
telling the story of their journey
119
376943
2876
pl. disszidensek, akik elmesélik, hogyan
tértek rá az erőszak útjára, majd le róla.
tértek rá az erőszak útjára, majd le róla.
06:31
into and out of violence;
120
379843
1583
Történetek, mint amilyet az a férfi
mondott nekem az iraki börtönben.
mondott nekem az iraki börtönben.
06:33
stories like the one from that man
I met in the Iraqi prison.
I met in the Iraqi prison.
121
381450
3487
Vannak telefonos felvételek, amelyeket
az ottani lakosok töltöttek fel arról,
az ottani lakosok töltöttek fel arról,
06:37
There are locals who've uploaded
cell phone footage
cell phone footage
122
385914
2590
06:40
of what life is really like
in the caliphate under ISIS's rule.
in the caliphate under ISIS's rule.
123
388528
3503
hogy milyen valójában az élet
az ISIS uralta kalifátusban.
az ISIS uralta kalifátusban.
06:44
There are clerics who are sharing
peaceful interpretations of Islam.
peaceful interpretations of Islam.
124
392055
3735
Vannak papok, akik az iszlám
békés értelmezését terjesztik.
békés értelmezését terjesztik.
06:48
But you know what?
125
396830
1150
De ezeknek az embereknek nincs
olyan marketingerejük, mint az ISIS-nek.
olyan marketingerejük, mint az ISIS-nek.
06:50
These people don't generally have
the marketing prowess of ISIS.
the marketing prowess of ISIS.
126
398004
3020
06:54
They risk their lives to speak up
and confront terrorist propaganda,
and confront terrorist propaganda,
127
402049
4532
Az életüket kockáztatják a terrorista
propaganda elleni felszólalással.
propaganda elleni felszólalással.
De sajnos nem tudják elérni
azokat az embereket,
azokat az embereket,
06:58
and then they tragically
don't reach the people
don't reach the people
128
406605
2211
07:00
who most need to hear from them.
129
408840
1682
akiknek a leginkább kellene hallani őket.
Ki akartuk deríteni,
hogy a technológia változtathat-e ezen.
hogy a technológia változtathat-e ezen.
07:03
And we wanted to see
if technology could change that.
if technology could change that.
130
411173
2612
07:06
So in 2016, we partnered with Moonshot CVE
131
414205
4183
2016-ban összefogtunk a Moonshot CVE-vel,
hogy a radikalizálódás elleni harc
új megközelítését,
új megközelítését,
07:10
to pilot a new approach
to countering radicalization
to countering radicalization
132
418412
3180
07:13
called the "Redirect Method."
133
421616
1780
az ún. "átirányító módszert" teszteljük.
07:16
It uses the power of online advertising
134
424453
3012
Ez a módszer az online
reklámozást használja fel,
reklámozást használja fel,
07:19
to bridge the gap between
those susceptible to ISIS's messaging
those susceptible to ISIS's messaging
135
427489
4514
hogy áthidalja a szakadékot
az ISIS üzeneteire fogékonyak
az ISIS üzeneteire fogékonyak
07:24
and those credible voices
that are debunking that messaging.
that are debunking that messaging.
136
432027
3760
és a hiteles hangok között,
akik leleplezik az ISIS üzeneteit.
akik leleplezik az ISIS üzeneteit.
07:28
And it works like this:
137
436633
1150
A következőképp működik:
bárki, aki szélsőséges anyagot keres,
bárki, aki szélsőséges anyagot keres,
07:29
someone looking for extremist material --
138
437807
1961
07:31
say they search
for "How do I join ISIS?" --
for "How do I join ISIS?" --
139
439792
2990
és rákeres pl. erre:
"Hogyan csatlakozhatok az ISIS-hez?",
"Hogyan csatlakozhatok az ISIS-hez?",
07:34
will see an ad appear
140
442806
2476
reklámot fog látni, amely arra biztatja,
07:37
that invites them to watch a YouTube video
of a cleric, of a defector --
of a cleric, of a defector --
141
445306
4882
hogy egy YouTube-videót nézzen meg
lelkészről, disszidensről,
valakiről, akinek autentikus a válasza.
07:42
someone who has an authentic answer.
142
450212
2310
07:44
And that targeting is based
not on a profile of who they are,
not on a profile of who they are,
143
452546
3623
A videó kiválasztása pedig nem
a személyiségképük alapján történik,
a személyiségképük alapján történik,
07:48
but of determining something
that's directly relevant
that's directly relevant
144
456193
3053
hanem a kérdésükhöz közvetlenül
kapcsolódó valamilyen konkrétum alapján.
kapcsolódó valamilyen konkrétum alapján.
07:51
to their query or question.
145
459270
1708
07:54
During our eight-week pilot
in English and Arabic,
in English and Arabic,
146
462122
2842
Az angolul és arabul zajló
nyolchetes felmérés során
nyolchetes felmérés során
07:56
we reached over 300,000 people
147
464988
3279
több mint 300 000 emberhez értünk el,
08:00
who had expressed an interest in
or sympathy towards a jihadi group.
or sympathy towards a jihadi group.
148
468291
5545
akik érdeklődést vagy együttérzést
mutattak egy dzsihádista csoport iránt.
mutattak egy dzsihádista csoport iránt.
08:06
These people were now watching videos
149
474626
2264
Ezek az emberek már olyan videókat néztek,
08:08
that could prevent them
from making devastating choices.
from making devastating choices.
150
476914
3340
amelyek megakadályozhatják,
hogy végzetes döntéseket hozzanak.
hogy végzetes döntéseket hozzanak.
08:13
And because violent extremism
isn't confined to any one language,
isn't confined to any one language,
151
481405
3727
Mivel az erőszakos szélsőségesség
nem korlátozódik egyetlen nyelvre,
nem korlátozódik egyetlen nyelvre,
08:17
religion or ideology,
152
485156
1804
vallásra vagy ideológiára,
08:18
the Redirect Method is now
being deployed globally
being deployed globally
153
486984
3501
az átirányító módszert jelenleg
az egész világra terjesztik ki,
az egész világra terjesztik ki,
08:22
to protect people being courted online
by violent ideologues,
by violent ideologues,
154
490509
3804
hogy megvédjék az embereket
erőszakos ideológusok csábításától,
erőszakos ideológusok csábításától,
08:26
whether they're Islamists,
white supremacists
white supremacists
155
494337
2596
legyenek azok iszlamisták,
fehér felsőbbrendűséget hirdetők,
fehér felsőbbrendűséget hirdetők,
08:28
or other violent extremists,
156
496957
2103
vagy egyéb erőszakos szélsőségesek.
08:31
with the goal of giving them the chance
to hear from someone
to hear from someone
157
499084
2873
A cél, hogy legyen esélyük
olyanok véleményét hallani,
olyanok véleményét hallani,
08:33
on the other side of that journey;
158
501981
2091
akik a másik oldalon állnak:
08:36
to give them the chance to choose
a different path.
a different path.
159
504096
2839
hogy esélyük legyen más utat választani.
08:40
It turns out that often the bad guys
are good at exploiting the internet,
are good at exploiting the internet,
160
508749
5980
Kiderült, hogy a rosszfiúk gyakran nem
azért tudják kihasználni az internetet,
azért tudják kihasználni az internetet,
08:46
not because they're some kind
of technological geniuses,
of technological geniuses,
161
514753
3744
mert afféle technikai géniuszok,
08:50
but because they understand
what makes people tick.
what makes people tick.
162
518521
2985
hanem mert tudják,
mi mozgatja meg az embereket.
mi mozgatja meg az embereket.
08:54
I want to give you a second example:
163
522855
2369
Hadd hozzak egy másik példát:
08:58
online harassment.
164
526019
1391
internetes zaklatás.
09:00
Online harassers also work
to figure out what will resonate
to figure out what will resonate
165
528629
3363
Az internetes zaklatók is azt találgatják,
mivel tudnak hatni egy másik emberre.
mivel tudnak hatni egy másik emberre.
09:04
with another human being.
166
532016
1615
09:05
But not to recruit them like ISIS does,
167
533655
3110
Csak ők ezt nem toborzás
céljából teszik, mint az ISIS,
céljából teszik, mint az ISIS,
09:08
but to cause them pain.
168
536789
1275
hanem hogy fájdalmat okozzanak nekik.
09:11
Imagine this:
169
539259
1342
Most képzeljék azt,
09:13
you're a woman,
170
541347
1659
hogy nők,
09:15
you're married,
171
543030
1413
férjnél vannak,
09:16
you have a kid.
172
544467
1154
és van gyerekük.
09:18
You post something on social media,
173
546834
1784
Közösségi oldalra kiposztolnak valamit,
09:20
and in a reply,
you're told that you'll be raped,
you're told that you'll be raped,
174
548642
2886
és azt kapják rá válaszul,
hogy meg lesznek erőszakolva.
hogy meg lesznek erőszakolva.
09:24
that your son will be watching,
175
552577
1560
A fiuk szeme láttára.
09:26
details of when and where.
176
554825
1856
Részletekkel, hogy mikor és hol.
09:29
In fact, your home address
is put online for everyone to see.
is put online for everyone to see.
177
557148
3143
Sőt, még a lakcímüket is feltüntetik,
hogy mindenki láthassa.
hogy mindenki láthassa.
09:33
That feels like a pretty real threat.
178
561580
2007
Ez elég valós fenyegetésnek tűnik.
09:37
Do you think you'd go home?
179
565113
1656
Mit gondolnak, hazamennének?
Folytatnák azt, amit addig csináltak?
09:39
Do you think you'd continue doing
the thing that you were doing?
the thing that you were doing?
180
567999
3048
Folytatnák azt, ami zavarja a támadójukat?
09:43
Would you continue doing that thing
that's irritating your attacker?
that's irritating your attacker?
181
571071
3220
09:48
Online abuse has been this perverse art
182
576016
3096
Az online zaklatás
perverz művészetté vált,
perverz művészetté vált,
09:51
of figuring out what makes people angry,
183
579136
3468
melynek lényege, hogy kitaláljuk,
mi dühíti fel az embereket,
mi dühíti fel az embereket,
09:54
what makes people afraid,
184
582628
2132
mitől félnek, mitől lesznek bizonytalanok,
09:56
what makes people insecure,
185
584784
1641
09:58
and then pushing those pressure points
until they're silenced.
until they're silenced.
186
586449
3067
és addig gyakoroljunk rájuk nyomást,
amíg el nem hallgatnak.
amíg el nem hallgatnak.
10:02
When online harassment goes unchecked,
187
590333
2304
Ha dúl az online zaklatás,
10:04
free speech is stifled.
188
592661
1667
az a szólásszabadság elfojtása.
10:07
And even the people
hosting the conversation
hosting the conversation
189
595196
2127
Még a párbeszédet irányítók is csak
felemelik a kezüket és feladják,
felemelik a kezüket és feladják,
10:09
throw up their arms and call it quits,
190
597347
1834
10:11
closing their comment sections
and their forums altogether.
and their forums altogether.
191
599205
2957
lezárják a kommentszekciókat
és a fórumokat.
és a fórumokat.
10:14
That means we're actually
losing spaces online
losing spaces online
192
602186
2849
Ezzel elveszítjük
az internetes felületeket,
az internetes felületeket,
10:17
to meet and exchange ideas.
193
605059
1987
ahol összegyűlhetünk
és eszmecserét folytathatunk.
és eszmecserét folytathatunk.
A fennmaradó online felületeken
pedig süketszobába szorulunk
pedig süketszobába szorulunk
10:19
And where online spaces remain,
194
607939
2163
10:22
we descend into echo chambers
with people who think just like us.
with people who think just like us.
195
610126
4470
a hozzánk hasonlóan gondolkodókkal.
Ez viszont lehetővé teszi
a félretájékoztatás terjedését,
a félretájékoztatás terjedését,
10:27
But that enables
the spread of disinformation;
the spread of disinformation;
196
615688
2499
10:30
that facilitates polarization.
197
618211
2184
az pedig elősegíti a polarizációt.
10:34
What if technology instead
could enable empathy at scale?
could enable empathy at scale?
198
622508
5269
Mi lenne, ha a technológia ehelyett
elegendő empátiát tudna biztosítani?
elegendő empátiát tudna biztosítani?
10:40
This was the question
that motivated our partnership
that motivated our partnership
199
628451
2486
Ez a kérdés motiválta a társulásunkat
10:42
with Google's Counter Abuse team,
200
630961
1819
a Google zaklatás elleni csoportjával,
10:44
Wikipedia
201
632804
1178
a Wikipédiával és újságokkal,
mint pl. a The New York Timesszal.
mint pl. a The New York Timesszal.
10:46
and newspapers like the New York Times.
202
634006
1934
10:47
We wanted to see if we could build
machine-learning models
machine-learning models
203
635964
2876
Látni akartuk, hogy kifejleszthetünk-e
olyan gépi tanulási modelleket,
olyan gépi tanulási modelleket,
10:50
that could understand
the emotional impact of language.
the emotional impact of language.
204
638864
3606
amelyek megértik a nyelv érzelmi hatásait.
10:55
Could we predict which comments
were likely to make someone else leave
were likely to make someone else leave
205
643062
3610
Előrejelezhetjük-e, mely kommentek
késztethetnek valakit
késztethetnek valakit
az online beszélgetés elhagyására?
10:58
the online conversation?
206
646696
1374
11:00
And that's no mean feat.
207
648515
3887
Ez pedig nem kis vállalkozás!
11:04
That's no trivial accomplishment
208
652426
1566
Az, hogy egy MI képes legyen erre,
nem triviális feladat.
nem triviális feladat.
11:06
for AI to be able to do
something like that.
something like that.
209
654016
2563
11:08
I mean, just consider
these two examples of messages
these two examples of messages
210
656603
3729
Vegyük csak példának ezt a két üzenetet,
amelyeket én kaphattam volna múlt héten.
amelyeket én kaphattam volna múlt héten.
11:12
that could have been sent to me last week.
211
660356
2224
11:15
"Break a leg at TED!"
212
663517
1879
"Kéz- és lábtörést a TED-en!"
És:
És:
11:17
... and
213
665420
1164
11:18
"I'll break your legs at TED."
214
666608
2126
"Eltöröm kezed-lábad a TED-en."
11:20
(Laughter)
215
668758
1246
(Nevetés)
11:22
You are human,
216
670028
1513
Maguk emberek, ezért önök számára
egyértelmű a különbség.
egyértelmű a különbség.
11:23
that's why that's an obvious
difference to you,
difference to you,
217
671565
2210
11:25
even though the words
are pretty much the same.
are pretty much the same.
218
673799
2224
Noha a szavak majdnem megegyeznek,
11:28
But for AI, it takes some training
to teach the models
to teach the models
219
676047
3079
egy MI-nek be kell tanítani
a különbséget felismerő modelleket,
a különbséget felismerő modelleket,
11:31
to recognize that difference.
220
679150
1571
Egy ilyen MI kifejlesztésében az a szép,
11:32
The beauty of building AI
that can tell the difference
that can tell the difference
221
680745
3245
11:36
is that AI can then scale to the size
of the online toxicity phenomenon,
of the online toxicity phenomenon,
222
684014
5050
hogy az MI később átméretezhető
az online zaklatás jelenségének mértékére.
az online zaklatás jelenségének mértékére.
11:41
and that was our goal in building
our technology called Perspective.
our technology called Perspective.
223
689088
3287
Ez volt a célunk a Perspective nevű
technológiánk kifejlesztésével.
technológiánk kifejlesztésével.
11:45
With the help of Perspective,
224
693056
1427
A Perspective segítségével
pl. a The New York Times
pl. a The New York Times
11:46
the New York Times, for example,
225
694507
1583
megnövelte a beszélgetésre
szánt online tereket.
szánt online tereket.
11:48
has increased spaces
online for conversation.
online for conversation.
226
696114
2487
Az együttműködésünk előtt
11:51
Before our collaboration,
227
699005
1310
11:52
they only had comments enabled
on just 10 percent of their articles.
on just 10 percent of their articles.
228
700339
4305
a cikkeiknek mindössze 10%-ához
lehetett hozzászólni.
lehetett hozzászólni.
11:57
With the help of machine learning,
229
705495
1644
A gépi tanulás segítségével
ez a szám 30%-ra ugrott.
ez a szám 30%-ra ugrott.
11:59
they have that number up to 30 percent.
230
707163
1897
Tehát megháromszorozódott,
és ez még mindig csak a kezdet.
és ez még mindig csak a kezdet.
12:01
So they've tripled it,
231
709084
1156
12:02
and we're still just getting started.
232
710264
1917
12:04
But this is about way more than just
making moderators more efficient.
making moderators more efficient.
233
712872
3461
De ez sokkal többről szól, mint hogy csak
hatékonyabbá tegyük a moderátorokat.
hatékonyabbá tegyük a moderátorokat.
12:10
Right now I can see you,
234
718076
1850
Most látom magukat,
12:11
and I can gauge how what I'm saying
is landing with you.
is landing with you.
235
719950
3294
és fel tudom mérni, hogyan fogadják
azt, amit épp mondok.
azt, amit épp mondok.
12:16
You don't have that opportunity online.
236
724370
1879
Erre nincs lehetőség az interneten.
12:18
Imagine if machine learning
could give commenters,
could give commenters,
237
726558
3635
Képzeljék el, ha a gépi tanulás
valós idejű visszajelzést adhatna
valós idejű visszajelzést adhatna
12:22
as they're typing,
238
730217
1162
a hozzászólóknak, gépelés közben arról,
milyen reakciókat válthatnak ki a szavaik.
milyen reakciókat válthatnak ki a szavaik.
12:23
real-time feedback about how
their words might land,
their words might land,
239
731403
3347
12:27
just like facial expressions do
in a face-to-face conversation.
in a face-to-face conversation.
240
735609
3024
Pont, mint az arckifejezések
a személyes beszélgetéseknél.
a személyes beszélgetéseknél.
12:32
Machine learning isn't perfect,
241
740926
1842
A gépi tanulás nem tökéletes,
12:34
and it still makes plenty of mistakes.
242
742792
2394
és még mindig sokszor téved,
12:37
But if we can build technology
243
745210
1557
de ha építhetünk a nyelv érzelmi
hatásait értő technológiát,
hatásait értő technológiát,
12:38
that understands the emotional
impact of language,
impact of language,
244
746791
3293
empátiát is építhetnénk.
12:42
we can build empathy.
245
750108
1460
12:43
That means that we can have
dialogue between people
dialogue between people
246
751592
2425
Ez azt jelenti,
hogy párbeszédet létesíthetnénk
hogy párbeszédet létesíthetnénk
12:46
with different politics,
247
754041
1816
eltérő politikai nézeteket valló,
különböző világnézetű,
különböző világnézetű,
12:47
different worldviews,
248
755881
1216
12:49
different values.
249
757121
1246
eltérő értékeket képviselő
emberek között.
emberek között.
12:51
And we can reinvigorate the spaces online
that most of us have given up on.
that most of us have given up on.
250
759359
4775
Felpezsdíthetnénk az online tereket,
amelyekről már a többségünk lemondott.
amelyekről már a többségünk lemondott.
12:57
When people use technology
to exploit and harm others,
to exploit and harm others,
251
765857
3785
Amikor az emberek mások bántására és
kihasználására használják a technológiát,
kihasználására használják a technológiát,
13:01
they're preying on our human fears
and vulnerabilities.
and vulnerabilities.
252
769666
3642
az emberi félelmeinken
és gyenge pontjainkon élősködnek.
és gyenge pontjainkon élősködnek.
13:06
If we ever thought
that we could build an internet
that we could build an internet
253
774461
3508
Ha valaha is azt hittük,
megépíthetjük az emberiség
sötét oldalától elszigetelt internetet,
sötét oldalától elszigetelt internetet,
13:09
insulated from the dark side of humanity,
254
777993
2578
13:12
we were wrong.
255
780595
1184
tévedtünk.
Ha ma technológiát szeretnénk építeni,
13:14
If we want today to build technology
256
782361
2270
13:16
that can overcome
the challenges that we face,
the challenges that we face,
257
784655
3127
amely képes felülkerekedni
az előttünk álló kihívásokon,
az előttünk álló kihívásokon,
13:19
we have to throw our entire selves
into understanding the issues
into understanding the issues
258
787806
4043
teljes erőbedobással kell
megértenünk a problémákat,
megértenünk a problémákat,
13:23
and into building solutions
259
791873
1893
és olyan megoldásokat találnunk,
13:25
that are as human as the problems
they aim to solve.
they aim to solve.
260
793790
3782
amelyek éppolyan emberiek, mint a
problémák, amelyek megoldására készülnek.
problémák, amelyek megoldására készülnek.
13:30
Let's make that happen.
261
798071
1513
Valósítsuk ezt meg!
13:31
Thank you.
262
799924
1150
Köszönöm!
13:33
(Applause)
263
801098
3277
(Taps)
ABOUT THE SPEAKER
Yasmin Green - Geopolitical technologistYasmin Green is the director of research and development for Jigsaw, a unit within Alphabet Inc. focused on solving global security challenges through technology.
Why you should listen
Yasmin Green is the director of research and development for Jigsaw, a unit within Alphabet Inc. (formerly Google Ideas), focused on using tech tools to make the world safer, both on and offline. She has experience leading projects in some of the world’s toughest environments, including Iran, Syria, the UAE and Nigeria. In 2012, she led a multi-partner coalition to launch Against Violent Extremism, the world's first online network of former violent extremists and survivors of terrorism. Based on her own interviews with ISIS defectors and jailed recruits, last year Yasmin launched the Redirect Method, a new deployment of targeted advertising and video to confront online radicalization.
Green is a senior advisor on innovation to Oxford Analytica, a member of the Aspen Cyber Strategy Group, and until 2015 co-chaired the European Commission's Working Group on Online Radicalization. She was named one of Fortune's "40 Under 40" most influential young leaders in 2017, and in 2016 she was named one of Fast Company's "Most Creative People in Business."
Yasmin Green | Speaker | TED.com