TED2018
Yasmin Green: How technology can fight extremism and online harassment
Yasmin Green: Comment la technologie peut lutter contre l'extrémisme et le cyber-harcèlement
Filmed:
Readability: 4.6
2,460,759 views
La technologie peut-elle protéger les gens des menaces telles que l'extrémisme violent, la censure et la persécution ? Dans cette intervention révélatrice, la technologiste Yasmin Green détaille les programmes pionniers lancés chez Jigsaw (une unité au sein d'Alphabet Inc., l'ensemble d'entreprises qui comprend notamment Google) pour lutter contre la radicalisation et le cyber-harcèlement, y compris un projet qui pourrait donner aux gens laissant des commentaires un retour en temps réel sur la manière dont leurs mots pourraient être interprétés et qui a déjà permis d'augmenter le nombre d'espaces de dialogue. « Si nous pensions que nous pouvions développer un internet isolé du côté obscur de l'humanité, nous avions tort, dit Green. Nous devons nous lancer complètement dans la compréhension des problèmes et la création de solutions qui sont aussi humaines que les problèmes qu'elles ont l'ambition de résoudre. »
Yasmin Green - Geopolitical technologist
Yasmin Green is the director of research and development for Jigsaw, a unit within Alphabet Inc. focused on solving global security challenges through technology. Full bio
Yasmin Green is the director of research and development for Jigsaw, a unit within Alphabet Inc. focused on solving global security challenges through technology. Full bio
Double-click the English transcript below to play the video.
00:13
My relationship with the internet
reminds me of the setup
reminds me of the setup
0
1131
4411
Ma relation avec internet
me rappelle le début stéréotypé
me rappelle le début stéréotypé
00:17
to a clichéd horror movie.
1
5566
1833
d'un film d'horreur.
00:19
You know, the blissfully happy family
moves in to their perfect new home,
moves in to their perfect new home,
2
7867
4386
La famille parfaitement heureuse
emménage dans sa parfaite nouvelle maison,
emménage dans sa parfaite nouvelle maison,
00:24
excited about their perfect future,
3
12277
2281
enthousiaste au sujet
de son parfait avenir,
de son parfait avenir,
00:26
and it's sunny outside
and the birds are chirping ...
and the birds are chirping ...
4
14582
3521
il fait beau dehors
et les oiseaux pépient...
et les oiseaux pépient...
00:30
And then it gets dark.
5
18857
1839
Puis la nuit tombe.
00:32
And there are noises from the attic.
6
20720
2348
Il y a des bruits dans le grenier.
00:35
And we realize that that perfect
new house isn't so perfect.
new house isn't so perfect.
7
23092
4345
Nous réalisons que cette parfaite
nouvelle maison n'est pas si parfaite.
nouvelle maison n'est pas si parfaite.
00:40
When I started working at Google in 2006,
8
28485
3131
Quand j'ai commencé à travailler
chez Google en 2006,
chez Google en 2006,
00:43
Facebook was just a two-year-old,
9
31640
1767
Facebook n'avait que deux ans
00:45
and Twitter hadn't yet been born.
10
33431
2012
et Twitter n'était pas encore né.
00:47
And I was in absolute awe
of the internet and all of its promise
of the internet and all of its promise
11
35848
4410
J'étais totalement émerveillée
par internet et sa promesse
par internet et sa promesse
00:52
to make us closer
12
40282
1437
de nous rapprocher,
00:53
and smarter
13
41743
1296
de nous rendre
plus intelligents et plus libres.
plus intelligents et plus libres.
00:55
and more free.
14
43063
1214
00:57
But as we were doing the inspiring work
of building search engines
of building search engines
15
45265
3714
Alors que nous créions
des moteurs de recherche,
des moteurs de recherche,
01:01
and video-sharing sites
and social networks,
and social networks,
16
49003
2886
des sites de partage de vidéos
et des réseaux sociaux,
et des réseaux sociaux,
01:04
criminals, dictators and terrorists
were figuring out
were figuring out
17
52907
4304
les criminels, les dictateurs
et les terroristes comprenaient
et les terroristes comprenaient
01:09
how to use those same
platforms against us.
platforms against us.
18
57235
3202
comment utiliser
ces mêmes plateformes contre nous.
ces mêmes plateformes contre nous.
01:13
And we didn't have
the foresight to stop them.
the foresight to stop them.
19
61417
2455
Nous n'avons pas eu la clairvoyance
de les en empêcher.
de les en empêcher.
01:16
Over the last few years, geopolitical
forces have come online to wreak havoc.
forces have come online to wreak havoc.
20
64746
5099
Ces dernières années,
des forces géopolitiques
des forces géopolitiques
ont causé des ravages en ligne.
01:21
And in response,
21
69869
1169
En réponse à cela,
01:23
Google supported a few colleagues and me
to set up a new group called Jigsaw,
to set up a new group called Jigsaw,
22
71062
4778
Google a soutenu quelques collègues et moi
dans la création d'un groupe, Jigsaw,
dans la création d'un groupe, Jigsaw,
01:27
with a mandate to make people safer
from threats like violent extremism,
from threats like violent extremism,
23
75864
4596
ayant pour mandat de protéger les gens
des menaces comme l'extrémisme violent,
des menaces comme l'extrémisme violent,
01:32
censorship, persecution --
24
80484
2078
la censure, la persécution...
01:35
threats that feel very personal to me
because I was born in Iran,
because I was born in Iran,
25
83186
4117
Des menaces qui me semblent
très personnelles car je suis née en Iran
très personnelles car je suis née en Iran
01:39
and I left in the aftermath
of a violent revolution.
of a violent revolution.
26
87327
2929
et je suis partie au lendemain
d'une révolution violente.
d'une révolution violente.
01:43
But I've come to realize
that even if we had all of the resources
that even if we had all of the resources
27
91525
4346
Mais j'ai réalisé que,
même si nous avions toutes les ressources
même si nous avions toutes les ressources
01:47
of all of the technology
companies in the world,
companies in the world,
28
95895
2858
de toutes les entreprises
de technologie du monde,
de technologie du monde,
01:51
we'd still fail
29
99595
1230
nous échouerions
01:53
if we overlooked one critical ingredient:
30
101586
2948
si nous négligions un ingrédient crucial :
01:57
the human experiences of the victims
and perpetrators of those threats.
and perpetrators of those threats.
31
105653
5789
les expériences humaines des victimes
et des auteurs de ces menaces.
et des auteurs de ces menaces.
02:04
There are many challenges
I could talk to you about today.
I could talk to you about today.
32
112935
2736
Je pourrais vous parler
de nombreux défis aujourd'hui.
de nombreux défis aujourd'hui.
02:07
I'm going to focus on just two.
33
115695
1504
Je vais me concentrer sur deux.
02:09
The first is terrorism.
34
117623
2079
Le premier est le terrorisme.
02:13
So in order to understand
the radicalization process,
the radicalization process,
35
121563
2557
Afin de comprendre
le processus de radicalisation,
le processus de radicalisation,
02:16
we met with dozens of former members
of violent extremist groups.
of violent extremist groups.
36
124144
4287
nous avons rencontré
des dizaines d'anciens membres
de groupes extrémistes violents.
de groupes extrémistes violents.
02:21
One was a British schoolgirl,
37
129590
2483
Parmi eux, il y avait
une écolière britannique
une écolière britannique
02:25
who had been taken off of a plane
at London Heathrow
at London Heathrow
38
133049
3699
qui avait été sortie d'un avion
à l'aéroport de Londres
à l'aéroport de Londres
02:28
as she was trying to make her way
to Syria to join ISIS.
to Syria to join ISIS.
39
136772
4692
alors qu'elle essayait
d'aller en Syrie pour rejoindre Daech.
d'aller en Syrie pour rejoindre Daech.
02:34
And she was 13 years old.
40
142281
1931
Elle avait 13 ans.
02:37
So I sat down with her and her father,
and I said, "Why?"
and I said, "Why?"
41
145792
4625
Nous avons discuté avec elle et son père
et j'ai demandé : « Pourquoi ? »
et j'ai demandé : « Pourquoi ? »
02:42
And she said,
42
150441
1717
Elle a dit :
02:44
"I was looking at pictures
of what life is like in Syria,
of what life is like in Syria,
43
152182
3639
« Je regardais des photos
de ce à quoi la vie ressemblait en Syrie
de ce à quoi la vie ressemblait en Syrie
02:47
and I thought I was going to go
and live in the Islamic Disney World."
and live in the Islamic Disney World."
44
155845
3510
et je pensais que j'allais vivre
dans un Disneyland islamique. »
dans un Disneyland islamique. »
02:52
That's what she saw in ISIS.
45
160527
2084
Voilà ce qu'elle a vu en Daech.
02:54
She thought she'd meet and marry
a jihadi Brad Pitt
a jihadi Brad Pitt
46
162635
3492
Elle pensait qu'elle allait rencontrer
et épouser un Brad Pitt djihadiste,
et épouser un Brad Pitt djihadiste,
02:58
and go shopping in the mall all day
and live happily ever after.
and live happily ever after.
47
166151
3058
aller faire du shopping
toute la journée et vivre heureuse.
toute la journée et vivre heureuse.
03:02
ISIS understands what drives people,
48
170977
2824
Daech comprend ce qui motive les gens
03:05
and they carefully craft a message
for each audience.
for each audience.
49
173825
3544
et ils élaborent soigneusement
un message pour chaque public.
un message pour chaque public.
03:11
Just look at how many languages
50
179122
1511
Regardez en combien de langues
03:12
they translate their
marketing material into.
marketing material into.
51
180657
2273
leur matériel promotionnel est traduit.
03:15
They make pamphlets,
radio shows and videos
radio shows and videos
52
183677
2661
Ils créent des brochures,
des émissions de radio, des vidéos,
des émissions de radio, des vidéos,
03:18
in not just English and Arabic,
53
186362
1973
pas seulement en anglais et en arabe
03:20
but German, Russian,
French, Turkish, Kurdish,
French, Turkish, Kurdish,
54
188359
4767
mais en allemand, en russe,
en français, en turc, en kurde,
en français, en turc, en kurde,
03:25
Hebrew,
55
193150
1672
en hébreu,
03:26
Mandarin Chinese.
56
194846
1741
en mandarin.
03:29
I've even seen an ISIS-produced
video in sign language.
video in sign language.
57
197309
4192
J'ai même vu une vidéo
produite par Daech en langue des signes.
produite par Daech en langue des signes.
03:34
Just think about that for a second:
58
202605
1884
Réfléchissez-y un instant :
03:36
ISIS took the time and made the effort
59
204513
2308
Daech a pris le temps et a fait l'effot
03:38
to ensure their message is reaching
the deaf and hard of hearing.
the deaf and hard of hearing.
60
206845
3804
de s'assurer que son message touche
les sourds et malentendants.
les sourds et malentendants.
03:45
It's actually not tech-savviness
61
213143
2144
Ce n'est pas leur savoir-faire
technologique
technologique
03:47
that is the reason why
ISIS wins hearts and minds.
ISIS wins hearts and minds.
62
215311
2595
qui permet de conquérir
les cœurs et les esprits.
les cœurs et les esprits.
03:49
It's their insight into the prejudices,
the vulnerabilities, the desires
the vulnerabilities, the desires
63
217930
4163
C'est leur connaissance des préjugés,
des vulnérabilités, des désirs
des vulnérabilités, des désirs
03:54
of the people they're trying to reach
64
222117
1774
des gens qu'ils tentent d'atteindre
03:55
that does that.
65
223915
1161
qui le leur permet.
03:57
That's why it's not enough
66
225718
1429
Il ne suffit donc pas
03:59
for the online platforms
to focus on removing recruiting material.
to focus on removing recruiting material.
67
227171
4239
que les plateformes en ligne
se concentrent sur le retrait
des contenus de recrutement.
des contenus de recrutement.
04:04
If we want to have a shot
at building meaningful technology
at building meaningful technology
68
232518
3581
Si nous voulons avoir une chance
de développer une technologie utile
de développer une technologie utile
04:08
that's going to counter radicalization,
69
236123
1874
pour lutter contre la radicalisation,
04:10
we have to start with the human
journey at its core.
journey at its core.
70
238021
2979
nous devons commencer
par le voyage humain qui est en son cœur.
par le voyage humain qui est en son cœur.
04:13
So we went to Iraq
71
241884
2187
Nous sommes allés en Irak
pour parler à des jeunes hommes
convaincus par la promesse de Daech
convaincus par la promesse de Daech
04:16
to speak to young men
who'd bought into ISIS's promise
who'd bought into ISIS's promise
72
244095
2831
04:18
of heroism and righteousness,
73
246950
3191
d'héroïsme et de vertu,
04:22
who'd taken up arms to fight for them
74
250165
1847
qui avaient pris les armes pour eux
04:24
and then who'd defected
75
252036
1338
et qui s'étaient enfuis
04:25
after they witnessed
the brutality of ISIS's rule.
the brutality of ISIS's rule.
76
253398
3021
après avoir été témoins
de la brutalité du règne de Daech.
de la brutalité du règne de Daech.
04:28
And I'm sitting there in this makeshift
prison in the north of Iraq
prison in the north of Iraq
77
256880
3192
Je me suis retrouvée dans cette prison
de fortune dans le nord de l'Irak
de fortune dans le nord de l'Irak
04:32
with this 23-year-old who had actually
trained as a suicide bomber
trained as a suicide bomber
78
260096
4550
avec ce jeune de 23 ans qui avait été
formé pour être un kamikaze
formé pour être un kamikaze
04:36
before defecting.
79
264670
1552
avant de s'enfuir.
04:39
And he says,
80
267080
1158
Il disait :
04:41
"I arrived in Syria full of hope,
81
269119
3220
« Je suis arrivé en Syrie plein d'espoir
04:44
and immediately, I had two
of my prized possessions confiscated:
of my prized possessions confiscated:
82
272363
4365
et immédiatement, deux de mes biens
les plus précieux ont été confisqués :
les plus précieux ont été confisqués :
04:48
my passport and my mobile phone."
83
276752
2933
mon passeport et mon téléphone portable. »
04:52
The symbols of his physical
and digital liberty
and digital liberty
84
280140
2406
Les symboles de sa liberté
physique et numérique
physique et numérique
04:54
were taken away from him on arrival.
85
282570
1760
lui ont été ôtés à son arrivée.
04:57
And then this is the way he described
that moment of loss to me.
that moment of loss to me.
86
285248
3510
Voici comment il m'a décrit
ce moment de perte.
ce moment de perte.
05:01
He said,
87
289356
1586
Il a dit :
05:02
"You know in 'Tom and Jerry,'
88
290966
2329
« Vous savez, dans « Tom et Jerry »,
05:06
when Jerry wants to escape,
and then Tom locks the door
and then Tom locks the door
89
294192
3103
quand Jerry veut s'échapper
et que Tom ferme la porte à clé
et que Tom ferme la porte à clé
05:09
and swallows the key
90
297319
1156
et avale la clé
05:10
and you see it bulging out
of his throat as it travels down?"
of his throat as it travels down?"
91
298499
3551
et vous la voyez passer dans sa gorge ? »
05:14
And of course, I really could see
the image that he was describing,
the image that he was describing,
92
302446
3153
Bien sûr, je pouvais voir
l'image qu'il décrivait
l'image qu'il décrivait
05:17
and I really did connect with the feeling
that he was trying to convey,
that he was trying to convey,
93
305623
3661
et l'associer au sentiment
qu'il essayait de communiquer,
qu'il essayait de communiquer,
05:21
which was one of doom,
94
309308
2021
le sentiment d'être condamné,
05:23
when you know there's no way out.
95
311353
1789
quand vous savez qu'il n'y a pas d'issue.
05:26
And I was wondering:
96
314551
1289
Je me suis demandé :
05:28
What, if anything,
could have changed his mind
could have changed his mind
97
316644
2682
qu'est-ce qui aurait pu
lui faire changer d'avis
lui faire changer d'avis
05:31
the day that he left home?
98
319350
1240
le jour où il est parti ?
05:32
So I asked,
99
320614
1250
J'ai demandé :
05:33
"If you knew everything that you know now
100
321888
3178
« Si vous saviez tout ce que
vous savez maintenant
vous savez maintenant
05:37
about the suffering
and the corruption, the brutality --
and the corruption, the brutality --
101
325090
3051
sur la souffrance,
la corruption, la brutalité,
la corruption, la brutalité,
05:40
that day you left home,
102
328165
1415
le jour où vous êtes parti,
seriez-vous parti ? »
seriez-vous parti ? »
05:41
would you still have gone?"
103
329604
1679
05:43
And he said, "Yes."
104
331786
1711
Il a dit : « Oui. »
05:45
And I thought, "Holy crap, he said 'Yes.'"
105
333846
2282
Et j'ai pensé :
« Merde, il a dit « oui ». »
« Merde, il a dit « oui ». »
05:48
And then he said,
106
336694
1219
Puis il a dit :
05:49
"At that point, I was so brainwashed,
107
337937
3001
« À ce moment-là, j'avais subi
un tel lavage de cerveau,
un tel lavage de cerveau,
05:52
I wasn't taking in
any contradictory information.
any contradictory information.
108
340962
3244
je n'assimilais plus aucune
information contradictoire.
information contradictoire.
05:56
I couldn't have been swayed."
109
344744
1555
Je n'aurais pas pu être influencé.
05:59
"Well, what if you knew
everything that you know now
everything that you know now
110
347235
2527
- Et si vous aviez su
tout ce que vous savez maintenant
tout ce que vous savez maintenant
06:01
six months before the day that you left?"
111
349786
2098
six mois avant le jour
où vous êtes parti ?
où vous êtes parti ?
06:05
"At that point, I think it probably
would have changed my mind."
would have changed my mind."
112
353345
3131
- A ce moment-là, je pense
que j'aurais probablement changé d'avis. »
que j'aurais probablement changé d'avis. »
06:10
Radicalization isn't
this yes-or-no choice.
this yes-or-no choice.
113
358138
3397
La radicalisation n'est pas
un choix simple entre oui et non.
un choix simple entre oui et non.
06:14
It's a process, during which
people have questions --
people have questions --
114
362007
2977
C'est un processus, durant lequel
les gens ont des questions
les gens ont des questions
06:17
about ideology, religion,
the living conditions.
the living conditions.
115
365008
3776
au sujet de l'idéologie, la religion,
les conditions de vie.
les conditions de vie.
06:20
And they're coming online for answers,
116
368808
2766
Et ils cherchent les réponses en ligne,
06:23
which is an opportunity to reach them.
117
371598
1917
ce qui offre une opportunité
de les atteindre.
de les atteindre.
06:25
And there are videos online
from people who have answers --
from people who have answers --
118
373905
3014
Il y a des vidéos en ligne
venant de gens ayant des réponses :
venant de gens ayant des réponses :
des transfuges, par exemple,
racontant l'histoire de leur voyage
racontant l'histoire de leur voyage
06:28
defectors, for example,
telling the story of their journey
telling the story of their journey
119
376943
2876
06:31
into and out of violence;
120
379843
1583
vers la violence et leur retour ;
06:33
stories like the one from that man
I met in the Iraqi prison.
I met in the Iraqi prison.
121
381450
3487
des histoires comme celle d'un homme
rencontré dans une prison irakienne.
rencontré dans une prison irakienne.
06:37
There are locals who've uploaded
cell phone footage
cell phone footage
122
385914
2590
Ce sont des locaux
qui ont publié des vidéos
qui ont publié des vidéos
06:40
of what life is really like
in the caliphate under ISIS's rule.
in the caliphate under ISIS's rule.
123
388528
3503
de ce qu'est vraiment la vie
dans le califat sous le règne de Daech.
dans le califat sous le règne de Daech.
06:44
There are clerics who are sharing
peaceful interpretations of Islam.
peaceful interpretations of Islam.
124
392055
3735
Il y a des religieux qui partagent
des interprétations pacifiques de l'islam.
des interprétations pacifiques de l'islam.
06:48
But you know what?
125
396830
1150
Mais vous savez quoi ?
06:50
These people don't generally have
the marketing prowess of ISIS.
the marketing prowess of ISIS.
126
398004
3020
Ces gens n'ont en général pas le talent
que Daech a pour le marketing.
que Daech a pour le marketing.
06:54
They risk their lives to speak up
and confront terrorist propaganda,
and confront terrorist propaganda,
127
402049
4532
Ils risquent leur vie pour s'exprimer
et s'opposer à la propagande terroriste
et s'opposer à la propagande terroriste
06:58
and then they tragically
don't reach the people
don't reach the people
128
406605
2211
et, tragiquement,
ils ne touchent pas les gens
ils ne touchent pas les gens
07:00
who most need to hear from them.
129
408840
1682
qui ont le plus besoin de les entendre.
07:03
And we wanted to see
if technology could change that.
if technology could change that.
130
411173
2612
Nous voulions voir si la technologie
pouvait changer cela.
pouvait changer cela.
07:06
So in 2016, we partnered with Moonshot CVE
131
414205
4183
En 2016, nous avons établi
un partenariat avec Moonshot CVE
un partenariat avec Moonshot CVE
07:10
to pilot a new approach
to countering radicalization
to countering radicalization
132
418412
3180
afin d'expérimenter une approche
pour lutter contre la radicalisation
pour lutter contre la radicalisation
07:13
called the "Redirect Method."
133
421616
1780
appelée « Méthode de Redirection ».
07:16
It uses the power of online advertising
134
424453
3012
Elle utilise le pouvoir
de la publicité en ligne
de la publicité en ligne
07:19
to bridge the gap between
those susceptible to ISIS's messaging
those susceptible to ISIS's messaging
135
427489
4514
pour rapprocher ceux qui sont
réceptifs au message de Daech
réceptifs au message de Daech
07:24
and those credible voices
that are debunking that messaging.
that are debunking that messaging.
136
432027
3760
et ces voix crédibles
qui réfutent ce message.
qui réfutent ce message.
07:28
And it works like this:
137
436633
1150
Cela fonctionne ainsi :
07:29
someone looking for extremist material --
138
437807
1961
quelqu'un cherchant
du contenu extrémiste,
du contenu extrémiste,
07:31
say they search
for "How do I join ISIS?" --
for "How do I join ISIS?" --
139
439792
2990
cherchant, disons,
« Comment rejoindre Daech ? »,
« Comment rejoindre Daech ? »,
07:34
will see an ad appear
140
442806
2476
verra apparaître une publicité
07:37
that invites them to watch a YouTube video
of a cleric, of a defector --
of a cleric, of a defector --
141
445306
4882
qui l'invite à regarder une vidéo YouTube
d'un religieux, d'un transfuge ;
d'un religieux, d'un transfuge ;
07:42
someone who has an authentic answer.
142
450212
2310
quelqu'un qui a une réponse authentique.
07:44
And that targeting is based
not on a profile of who they are,
not on a profile of who they are,
143
452546
3623
Ce ciblage est basé,
non pas sur un profil de leur identité,
non pas sur un profil de leur identité,
07:48
but of determining something
that's directly relevant
that's directly relevant
144
456193
3053
mais sur la détermination
d'une chose pertinente
d'une chose pertinente
07:51
to their query or question.
145
459270
1708
pour leur interrogation ou question.
07:54
During our eight-week pilot
in English and Arabic,
in English and Arabic,
146
462122
2842
Durant notre pilote de huit semaines
en anglais et en arabe,
en anglais et en arabe,
07:56
we reached over 300,000 people
147
464988
3279
nous avons touché
plus de 300 000 personnes
plus de 300 000 personnes
08:00
who had expressed an interest in
or sympathy towards a jihadi group.
or sympathy towards a jihadi group.
148
468291
5545
ayant exprimé de l'intérêt
ou de la sympathie
ou de la sympathie
pour un groupe djihadiste.
08:06
These people were now watching videos
149
474626
2264
Ces gens regardent maintenant des vidéos
08:08
that could prevent them
from making devastating choices.
from making devastating choices.
150
476914
3340
qui pourraient les empêcher
de prendre des décisions dévastatrices.
de prendre des décisions dévastatrices.
08:13
And because violent extremism
isn't confined to any one language,
isn't confined to any one language,
151
481405
3727
Puisque l'extrémisme violent n'est pas
limité à une langue en particulier,
limité à une langue en particulier,
08:17
religion or ideology,
152
485156
1804
une religion ou une idéologie,
08:18
the Redirect Method is now
being deployed globally
being deployed globally
153
486984
3501
la méthode de redirection est en cours
de déploiement à l'échelle mondiale
de déploiement à l'échelle mondiale
08:22
to protect people being courted online
by violent ideologues,
by violent ideologues,
154
490509
3804
afin de protéger les gens courtisés
en ligne par des idéologues violents,
en ligne par des idéologues violents,
08:26
whether they're Islamists,
white supremacists
white supremacists
155
494337
2596
que ce soient des islamistes,
des suprémacistes blancs
des suprémacistes blancs
08:28
or other violent extremists,
156
496957
2103
ou d'autres extrémistes violents,
08:31
with the goal of giving them the chance
to hear from someone
to hear from someone
157
499084
2873
avec l'objectif de leur donner
une chance d'entendre quelqu'un
une chance d'entendre quelqu'un
08:33
on the other side of that journey;
158
501981
2091
ayant suivi ce chemin ;
08:36
to give them the chance to choose
a different path.
a different path.
159
504096
2839
leur donner une chance
de choisir un autre chemin.
de choisir un autre chemin.
08:40
It turns out that often the bad guys
are good at exploiting the internet,
are good at exploiting the internet,
160
508749
5980
Il s'avère que souvent les méchants
savent bien exploiter internet,
savent bien exploiter internet,
08:46
not because they're some kind
of technological geniuses,
of technological geniuses,
161
514753
3744
pas parce qu'ils sont
des génies de la technologie,
des génies de la technologie,
08:50
but because they understand
what makes people tick.
what makes people tick.
162
518521
2985
mais parce qu'ils comprennent
ce qui fait réagir les gens.
ce qui fait réagir les gens.
08:54
I want to give you a second example:
163
522855
2369
Je veux vous donner un second exemple :
08:58
online harassment.
164
526019
1391
le cyber-harcèlement.
09:00
Online harassers also work
to figure out what will resonate
to figure out what will resonate
165
528629
3363
Les cyber-harceleurs cherchent aussi
ce qui va faire écho
ce qui va faire écho
09:04
with another human being.
166
532016
1615
pour un autre être humain.
09:05
But not to recruit them like ISIS does,
167
533655
3110
Pas pour les recruter comme le fait Daech,
09:08
but to cause them pain.
168
536789
1275
mais pour les blesser.
09:11
Imagine this:
169
539259
1342
Imaginez :
09:13
you're a woman,
170
541347
1659
vous êtes une femme,
09:15
you're married,
171
543030
1413
vous êtes mariée,
09:16
you have a kid.
172
544467
1154
vous avez un enfant.
09:18
You post something on social media,
173
546834
1784
Vous postez sur les réseaux sociaux
09:20
and in a reply,
you're told that you'll be raped,
you're told that you'll be raped,
174
548642
2886
et dans une réponse,
on vous dit que vous serez violée,
on vous dit que vous serez violée,
09:24
that your son will be watching,
175
552577
1560
que votre fils regardera,
09:26
details of when and where.
176
554825
1856
avec des détails sur quand et où.
09:29
In fact, your home address
is put online for everyone to see.
is put online for everyone to see.
177
557148
3143
En fait, votre adresse
est mise en ligne publiquement.
est mise en ligne publiquement.
09:33
That feels like a pretty real threat.
178
561580
2007
Cela semble être une menace plutôt réelle.
09:37
Do you think you'd go home?
179
565113
1656
Pensez-vous que
vous rentreriez chez vous ?
vous rentreriez chez vous ?
09:39
Do you think you'd continue doing
the thing that you were doing?
the thing that you were doing?
180
567999
3048
Pensez-vous que vous continueriez
à faire ce que vous faisiez ?
à faire ce que vous faisiez ?
09:43
Would you continue doing that thing
that's irritating your attacker?
that's irritating your attacker?
181
571071
3220
Continueriez-vous à faire cette chose
qui irrite votre agresseur ?
qui irrite votre agresseur ?
09:48
Online abuse has been this perverse art
182
576016
3096
Le cyber-harcèlement est l'art pervers
09:51
of figuring out what makes people angry,
183
579136
3468
de découvrir ce qui
met les gens en colère,
met les gens en colère,
09:54
what makes people afraid,
184
582628
2132
ce qui les effraie,
09:56
what makes people insecure,
185
584784
1641
ce qui les dérange,
09:58
and then pushing those pressure points
until they're silenced.
until they're silenced.
186
586449
3067
et puis d'appuyer sur ces points
de pression jusqu'à les faire taire.
de pression jusqu'à les faire taire.
10:02
When online harassment goes unchecked,
187
590333
2304
Quand les cyber-harceleurs
restent impunis,
restent impunis,
10:04
free speech is stifled.
188
592661
1667
la liberté de parole est étouffée.
10:07
And even the people
hosting the conversation
hosting the conversation
189
595196
2127
Même les gens qui animent la conversation
10:09
throw up their arms and call it quits,
190
597347
1834
lèvent les bras au ciel
et jettent l'éponge,
et jettent l'éponge,
10:11
closing their comment sections
and their forums altogether.
and their forums altogether.
191
599205
2957
désactivant complètement
les commentaires et les forums.
les commentaires et les forums.
10:14
That means we're actually
losing spaces online
losing spaces online
192
602186
2849
Cela signifie que nous perdons
des espaces en ligne
des espaces en ligne
10:17
to meet and exchange ideas.
193
605059
1987
où se rencontrer et échanger des idées.
10:19
And where online spaces remain,
194
607939
2163
Là où les espaces en ligne demeurent,
10:22
we descend into echo chambers
with people who think just like us.
with people who think just like us.
195
610126
4470
nous descendons dans des chambres d'écho
avec des gens qui pensent comme nous.
avec des gens qui pensent comme nous.
10:27
But that enables
the spread of disinformation;
the spread of disinformation;
196
615688
2499
Mais cela permet la prolifération
de la désinformation ;
de la désinformation ;
10:30
that facilitates polarization.
197
618211
2184
cela facilite la polarisation.
10:34
What if technology instead
could enable empathy at scale?
could enable empathy at scale?
198
622508
5269
Et si, au lieu de cela, la technologie
favorisait l'empathie à grande échelle ?
favorisait l'empathie à grande échelle ?
10:40
This was the question
that motivated our partnership
that motivated our partnership
199
628451
2486
C'était la question
qui a motivé notre partenariat
qui a motivé notre partenariat
avec l'équipe de lutte
contre les abus de Google, Wikipédia
contre les abus de Google, Wikipédia
10:42
with Google's Counter Abuse team,
200
630961
1819
10:44
Wikipedia
201
632804
1178
10:46
and newspapers like the New York Times.
202
634006
1934
et des journaux
tels que le New York Times.
tels que le New York Times.
10:47
We wanted to see if we could build
machine-learning models
machine-learning models
203
635964
2876
Nous voulions élaborer des modèles
d'apprentissage automatique
d'apprentissage automatique
10:50
that could understand
the emotional impact of language.
the emotional impact of language.
204
638864
3606
qui pouvaient comprendre
l'incidence émotionnelle du langage.
l'incidence émotionnelle du langage.
10:55
Could we predict which comments
were likely to make someone else leave
were likely to make someone else leave
205
643062
3610
Pouvions-nous prévoir quels commentaires
allaient pousser quelqu'un à quitter
allaient pousser quelqu'un à quitter
10:58
the online conversation?
206
646696
1374
la conversation en ligne ?
11:00
And that's no mean feat.
207
648515
3887
Ce n'est pas une mince affaire.
11:04
That's no trivial accomplishment
208
652426
1566
Ce n'est pas un exploit trivial
11:06
for AI to be able to do
something like that.
something like that.
209
654016
2563
d'avoir une IA capable
de faire une telle chose.
de faire une telle chose.
11:08
I mean, just consider
these two examples of messages
these two examples of messages
210
656603
3729
Considérez ces deux exemples de messages
11:12
that could have been sent to me last week.
211
660356
2224
qu'on aurait pu m'envoyer
la semaine dernière.
la semaine dernière.
11:15
"Break a leg at TED!"
212
663517
1879
« Merde pour TED ! »
11:17
... and
213
665420
1164
et
11:18
"I'll break your legs at TED."
214
666608
2126
« Tu seras une merde à TED ».
11:20
(Laughter)
215
668758
1246
(Rires)
11:22
You are human,
216
670028
1513
Vous êtes humains,
11:23
that's why that's an obvious
difference to you,
difference to you,
217
671565
2210
c'est pourquoi la différence
vous paraît évidente
vous paraît évidente
11:25
even though the words
are pretty much the same.
are pretty much the same.
218
673799
2224
même si les mots
sont plus ou moins les mêmes.
sont plus ou moins les mêmes.
11:28
But for AI, it takes some training
to teach the models
to teach the models
219
676047
3079
Pour une IA, il faut un entraînement
pour apprendre aux modèles
pour apprendre aux modèles
11:31
to recognize that difference.
220
679150
1571
à reconnaître cette différence.
11:32
The beauty of building AI
that can tell the difference
that can tell the difference
221
680745
3245
La beauté de la conception d'une IA
qui peut faire la différence
qui peut faire la différence
11:36
is that AI can then scale to the size
of the online toxicity phenomenon,
of the online toxicity phenomenon,
222
684014
5050
est que cette IA
peut s'étendre à l'échelle
peut s'étendre à l'échelle
du phénomène de toxicité en ligne
11:41
and that was our goal in building
our technology called Perspective.
our technology called Perspective.
223
689088
3287
et c'était notre objectif
lors de l'élaboration
de notre technologie, Perspective.
de notre technologie, Perspective.
11:45
With the help of Perspective,
224
693056
1427
Avec l'aide de Perspective,
11:46
the New York Times, for example,
225
694507
1583
le New York Times, par exemple,
11:48
has increased spaces
online for conversation.
online for conversation.
226
696114
2487
a accru l'espace de conversation en ligne.
11:51
Before our collaboration,
227
699005
1310
Avant notre collaboration,
11:52
they only had comments enabled
on just 10 percent of their articles.
on just 10 percent of their articles.
228
700339
4305
les commentaires n'étaient activés
que sur 10% de leurs articles.
que sur 10% de leurs articles.
11:57
With the help of machine learning,
229
705495
1644
Avec notre apprentissage automatique,
11:59
they have that number up to 30 percent.
230
707163
1897
ils ont augmenté ce nombre à 30%.
12:01
So they've tripled it,
231
709084
1156
Ils l'ont triplé
12:02
and we're still just getting started.
232
710264
1917
et ce n'est que le début.
12:04
But this is about way more than just
making moderators more efficient.
making moderators more efficient.
233
712872
3461
Il est question de bien plus que
de rendre les modérateurs plus efficaces.
de rendre les modérateurs plus efficaces.
12:10
Right now I can see you,
234
718076
1850
Actuellement, je peux vous voir
12:11
and I can gauge how what I'm saying
is landing with you.
is landing with you.
235
719950
3294
et je peux évaluer comment
vous recevez ce que je dis.
vous recevez ce que je dis.
12:16
You don't have that opportunity online.
236
724370
1879
Vous n'avez pas
cette opportunité en ligne.
cette opportunité en ligne.
12:18
Imagine if machine learning
could give commenters,
could give commenters,
237
726558
3635
Imaginez si l'apprentissage automatique
pouvait offrir aux commentateurs,
pouvait offrir aux commentateurs,
12:22
as they're typing,
238
730217
1162
pendant qu'ils tapent,
12:23
real-time feedback about how
their words might land,
their words might land,
239
731403
3347
un retour en temps réel quant à comment
leurs mots pourraient être pris,
leurs mots pourraient être pris,
12:27
just like facial expressions do
in a face-to-face conversation.
in a face-to-face conversation.
240
735609
3024
comme le font les expressions faciales
lors d'une conversation en face à face.
lors d'une conversation en face à face.
12:32
Machine learning isn't perfect,
241
740926
1842
L'apprentissage automatique
n'est pas parfait
n'est pas parfait
12:34
and it still makes plenty of mistakes.
242
742792
2394
et fait encore plein d'erreurs.
12:37
But if we can build technology
243
745210
1557
Mais en créant une technologie
12:38
that understands the emotional
impact of language,
impact of language,
244
746791
3293
qui comprend l'incidence
émotionnelle du langage,
émotionnelle du langage,
12:42
we can build empathy.
245
750108
1460
nous développons l'empathie.
12:43
That means that we can have
dialogue between people
dialogue between people
246
751592
2425
Nous pouvons avoir un dialogue
entre des personnes
entre des personnes
12:46
with different politics,
247
754041
1816
ayant différentes opinions politiques,
12:47
different worldviews,
248
755881
1216
conceptions du monde et valeurs.
12:49
different values.
249
757121
1246
12:51
And we can reinvigorate the spaces online
that most of us have given up on.
that most of us have given up on.
250
759359
4775
Nous pouvons relancer les espaces en ligne
que beaucoup d'entre nous ont délaissés.
que beaucoup d'entre nous ont délaissés.
12:57
When people use technology
to exploit and harm others,
to exploit and harm others,
251
765857
3785
Quand les gens utilisent la technologie
pour exploiter et blesser les autres,
pour exploiter et blesser les autres,
13:01
they're preying on our human fears
and vulnerabilities.
and vulnerabilities.
252
769666
3642
ils s'attaquent à nos peurs
et vulnérabilités humaines.
et vulnérabilités humaines.
13:06
If we ever thought
that we could build an internet
that we could build an internet
253
774461
3508
Si nous pensions que nous pouvions
développer un internet
développer un internet
13:09
insulated from the dark side of humanity,
254
777993
2578
isolé du côté obscur de l'humanité,
13:12
we were wrong.
255
780595
1184
nous avions tort.
13:14
If we want today to build technology
256
782361
2270
Si nous voulons aujourd'hui
créer des technologies
créer des technologies
13:16
that can overcome
the challenges that we face,
the challenges that we face,
257
784655
3127
pouvant surmonter les défis
auxquels nous faisons face,
auxquels nous faisons face,
13:19
we have to throw our entire selves
into understanding the issues
into understanding the issues
258
787806
4043
nous devons nous lancer complètement
dans la compréhension des problèmes
dans la compréhension des problèmes
13:23
and into building solutions
259
791873
1893
et l'élaboration de solutions
13:25
that are as human as the problems
they aim to solve.
they aim to solve.
260
793790
3782
qui sont aussi humaines que les problèmes
qu'elles ont l'ambition de résoudre.
qu'elles ont l'ambition de résoudre.
13:30
Let's make that happen.
261
798071
1513
Mettons-nous au travail !
13:31
Thank you.
262
799924
1150
Merci.
13:33
(Applause)
263
801098
3277
(Applaudissements)
ABOUT THE SPEAKER
Yasmin Green - Geopolitical technologistYasmin Green is the director of research and development for Jigsaw, a unit within Alphabet Inc. focused on solving global security challenges through technology.
Why you should listen
Yasmin Green is the director of research and development for Jigsaw, a unit within Alphabet Inc. (formerly Google Ideas), focused on using tech tools to make the world safer, both on and offline. She has experience leading projects in some of the world’s toughest environments, including Iran, Syria, the UAE and Nigeria. In 2012, she led a multi-partner coalition to launch Against Violent Extremism, the world's first online network of former violent extremists and survivors of terrorism. Based on her own interviews with ISIS defectors and jailed recruits, last year Yasmin launched the Redirect Method, a new deployment of targeted advertising and video to confront online radicalization.
Green is a senior advisor on innovation to Oxford Analytica, a member of the Aspen Cyber Strategy Group, and until 2015 co-chaired the European Commission's Working Group on Online Radicalization. She was named one of Fortune's "40 Under 40" most influential young leaders in 2017, and in 2016 she was named one of Fast Company's "Most Creative People in Business."
Yasmin Green | Speaker | TED.com