TED2014
Del Harvey: Protecting Twitter users (sometimes from themselves)
Del Harvey: L'étrangeté d'échelle chez Twitter
Filmed:
Readability: 4.4
993,199 views
Lorsque des centaines de milliers de Tweets sont envoyés chaque seconde, une chance sur un million - dont ceux qui pourraient nuire à des utilisateurs - se passe environ 500 fois par jour. Pour Del Harvey, qui dirige l'équipe « Confiance et sécurité » de Twitter, ces probabilités ne sont pas rassurantes. Elle passe donc ses journées à réfléchir sur la façon d'en éviter, tout en donnant la parole aux personnes à travers le monde. Avec un humour pince-sans-rire, elle montre sa façon de garder 240 millions d'utilisateurs en sécurité.
Del Harvey - Security maven
Del Harvey works to define policy and to ensure user safety and security in the challenging realm of modern social media. Full bio
Del Harvey works to define policy and to ensure user safety and security in the challenging realm of modern social media. Full bio
Double-click the English transcript below to play the video.
00:12
My job at Twitter
0
984
1291
Mon travail chez Twitter ?
00:14
is to ensure user trust,
1
2275
1978
Donner confiance aux utilisateurs,
00:16
protect user rights and keep users safe,
2
4253
2837
protéger leurs droits et
garantir leur sécurité.
garantir leur sécurité.
00:19
both from each other
3
7090
1260
Les protéger des autres,
mais parfois aussi d'eux-mêmes.
mais parfois aussi d'eux-mêmes.
00:20
and, at times, from themselves.
4
8350
3899
Parlons « proportions » et voyons
à quelle échelle se situe Twitter.
à quelle échelle se situe Twitter.
00:24
Let's talk about what scale looks like at Twitter.
5
12249
4275
00:28
Back in January 2009,
6
16524
2870
En janvier 2009,
00:31
we saw more than two million new tweets each day
7
19394
3331
plus de deux millions de tweets
passaient chaque jour
passaient chaque jour
00:34
on the platform.
8
22725
1764
par la plateforme de partage.
00:36
January 2014, more than 500 million.
9
24489
5908
En janvier 2014 :
plus de 500 millions.
plus de 500 millions.
00:42
We were seeing two million tweets
10
30397
2492
Ce qui fait environ
deux millions de tweets
deux millions de tweets
00:44
in less than six minutes.
11
32889
2176
toutes les 6 minutes.
00:47
That's a 24,900-percent increase.
12
35065
6984
Ça correspond à une augmentation
de 24 900%.
de 24 900%.
00:54
Now, the vast majority of activity on Twitter
13
42049
3253
L'essentiel de l'activité sur Twitter
00:57
puts no one in harm's way.
14
45302
1503
est totalement inoffensive.
Il n'y a aucun facteur de risque.
Il n'y a aucun facteur de risque.
00:58
There's no risk involved.
15
46805
1935
01:00
My job is to root out and prevent activity that might.
16
48740
5753
Ma tâche consiste à éliminer ou prévenir
toute activité potentiellement nuisible.
toute activité potentiellement nuisible.
01:06
Sounds straightforward, right?
17
54493
1973
Ça a l'air évident, non ?
01:08
You might even think it'd be easy,
18
56466
1152
Vous pourriez même penser que
c'est facile, puisque
c'est facile, puisque
01:09
given that I just said the vast majority
19
57618
2170
01:11
of activity on Twitter puts no one in harm's way.
20
59788
3810
la vaste majorité de l'activité
sur Twitter ne met personne en danger.
sur Twitter ne met personne en danger.
01:15
Why spend so much time
21
63598
2169
Pourquoi passer tant de temps
01:17
searching for potential calamities
22
65767
2743
à chercher
des catastrophes potentielles
des catastrophes potentielles
01:20
in innocuous activities?
23
68510
2900
au beau milieu d'activités anodines ?
01:23
Given the scale that Twitter is at,
24
71410
2940
A l'échelle de Twitter,
01:26
a one-in-a-million chance happens
25
74350
2357
une probabilité
d'une chance sur un million,
d'une chance sur un million,
01:28
500 times a day.
26
76707
4876
ça correspond à
500 événements par jour.
500 événements par jour.
01:33
It's the same for other companies
27
81583
1445
D'autres entreprises aussi
fonctionnent à cette échelle.
fonctionnent à cette échelle.
01:35
dealing at this sort of scale.
28
83028
1471
Pour nous, les cas limites,
01:36
For us, edge cases,
29
84499
1708
01:38
those rare situations that are unlikely to occur,
30
86207
3625
ces situations qui ont peu de chances
de se produire,
de se produire,
01:41
are more like norms.
31
89832
2622
c'est la norme.
01:44
Say 99.999 percent of tweets
32
92454
3942
Disons que 99,999 %
des tweets
des tweets
01:48
pose no risk to anyone.
33
96396
1888
ne présentent aucun risque,
aucune menace.
aucune menace.
01:50
There's no threat involved.
34
98284
1066
Les gens illustrent leurs voyages,
comme par exemple
comme par exemple
01:51
Maybe people are documenting travel landmarks
35
99350
2954
ce récif australien
en forme de cœur
en forme de cœur
01:54
like Australia's Heart Reef,
36
102304
1963
01:56
or tweeting about a concert they're attending,
37
104267
2921
ou ils tweetent à propos d'un concert
auquel ils assistent
auquel ils assistent
01:59
or sharing pictures of cute baby animals.
38
107188
4747
ou ils partagent des photos
d'adorables bébés animaux.
d'adorables bébés animaux.
02:03
After you take out that 99.999 percent,
39
111935
4509
Si l'on écarte ces 99,999%,
02:08
that tiny percentage of tweets remaining
40
116444
3529
le minuscule pourcentage
de tweets restant
de tweets restant
02:11
works out to roughly
41
119973
2389
correspond environ à
02:14
150,000 per month.
42
122362
3475
150 000 messages par mois.
02:17
The sheer scale of what we're dealing with
43
125837
2456
L'envergure de la chose
02:20
makes for a challenge.
44
128293
2312
en fait un vrai défi de gestion.
02:22
You know what else makes my role
45
130605
1178
Vous savez ce qui rend mon travail
encore plus difficile ?
encore plus difficile ?
02:23
particularly challenging?
46
131783
3107
Les gens font des choses
vraiment bizarres.
vraiment bizarres.
02:26
People do weird things.
47
134890
5123
(Rires)
02:32
(Laughter)
48
140013
1829
Je dois comprendre ce qu'ils font
et pourquoi,
et pourquoi,
02:33
And I have to figure out what they're doing,
49
141842
2391
02:36
why, and whether or not there's risk involved,
50
144233
2249
et évaluer la présence de risques.
02:38
often without much in terms of context
51
146482
2168
Souvent en dehors de tout contexte
02:40
or background.
52
148650
1847
ou de la moindre information...
02:42
I'm going to show you some examples
53
150497
2077
Voici quelques exemples
02:44
that I've run into during my time at Twitter --
54
152574
2005
auxquels j'ai été confrontée à Twitter
02:46
these are all real examples —
55
154579
1620
- des exemples véridiques -
02:48
of situations that at first seemed cut and dried,
56
156199
2653
des situations
qui avaient l'air claires,
qui avaient l'air claires,
02:50
but the truth of the matter was something
57
158852
1643
mais qui en fin de compte,
02:52
altogether different.
58
160495
1550
ne l'étaient pas tellement.
02:54
The details have been changed
59
162045
1977
Certains détails ont été modifiés
02:56
to protect the innocent
60
164022
1257
pour garantir l'anonymat
des innocents et des coupables.
des innocents et des coupables.
02:57
and sometimes the guilty.
61
165279
3233
03:00
We'll start off easy.
62
168512
3005
Commençons doucement.
03:03
["Yo bitch"]
63
171517
1793
[« Yo bitch »]
03:05
If you saw a Tweet that only said this,
64
173310
3228
En voyant un tweet
qui ne dit que ça,
qui ne dit que ça,
03:08
you might think to yourself,
65
176538
1694
on se dit :
« Ça va trop loin. »
« Ça va trop loin. »
03:10
"That looks like abuse."
66
178232
1653
03:11
After all, why would you
want to receive the message,
want to receive the message,
67
179885
3107
Après tout, qui voudrait recevoir un
03:14
"Yo, bitch."
68
182992
2218
« Yo, bitch. »
03:17
Now, I try to stay relatively hip
69
185210
4663
Mais j'essaie de me tenir au courant
03:21
to the latest trends and memes,
70
189873
2512
des dernières tendances et
expressions virales
expressions virales
03:24
so I knew that "yo, bitch"
71
192385
2704
donc je sais que « yo, bitch »
03:27
was also often a common greeting between friends,
72
195089
3154
est une façon courante
de saluer ses amis,
de saluer ses amis,
03:30
as well as being a popular "Breaking Bad" reference.
73
198243
4262
mais aussi une référence
à la série « Breaking Bad ».
à la série « Breaking Bad ».
Je dois admettre que
je ne m'attendais pas
je ne m'attendais pas
03:34
I will admit that I did not expect
74
202505
2487
03:36
to encounter a fourth use case.
75
204992
2841
à tomber sur une 4ème utilisation.
03:39
It turns out it is also used on Twitter
76
207833
3104
Il se trouve que les gens
l'utilisent aussi sur Twitter
l'utilisent aussi sur Twitter
03:42
when people are role-playing as dogs.
77
210937
3062
quand ils se prennent pour des chiens.
03:45
(Laughter)
78
213999
5279
(Rires)
03:51
And in fact, in that case,
79
219278
1666
Et en fait, dans ce cas-là,
03:52
it's not only not abusive,
80
220944
1609
il n'y a rien de mal,
03:54
it's technically just an accurate greeting.
81
222553
3139
techniquement, c'est même
tout à fait approprié !
tout à fait approprié !
03:57
(Laughter)
82
225692
2889
(Rires)
04:00
So okay, determining whether or not
83
228581
2071
Donc, déterminer
le caractère tendancieux
le caractère tendancieux
04:02
something is abusive without context,
84
230652
1848
de quelque chose sans contexte,
04:04
definitely hard.
85
232500
1592
n'est pas une mince affaire.
04:06
Let's look at spam.
86
234092
2717
Quant au courrier indésirable,
04:08
Here's an example of an account engaged
87
236809
1960
voici l'exemple d'un compte
04:10
in classic spammer behavior,
88
238769
1668
pratiquant ce type d'envois :
04:12
sending the exact same message
89
240437
1559
il envoie exactement
le même message
le même message
04:13
to thousands of people.
90
241996
1804
à des milliers de personnes.
04:15
While this is a mockup I put
together using my account,
together using my account,
91
243800
2793
Ici, c'est un faux,
créé à partir de mon compte,
créé à partir de mon compte,
04:18
we see accounts doing this all the time.
92
246593
3001
mais on en voit tous les jours.
04:21
Seems pretty straightforward.
93
249594
1979
Plutôt clair, non ?
04:23
We should just automatically suspend accounts
94
251573
2053
On devrait automatiquement suspendre
04:25
engaging in this kind of behavior.
95
253626
3307
tous les comptes qui adoptent
ce type de comportement.
ce type de comportement.
04:28
Turns out there's some exceptions to that rule.
96
256933
3210
Mais il y a des exceptions à la règle.
04:32
Turns out that that message
could also be a notification
could also be a notification
97
260143
2883
Notamment si vous êtes abonné
à un service
à un service
qui vous informe du passage
04:35
you signed up for that the International
Space Station is passing overhead
Space Station is passing overhead
98
263026
3889
de la Station Spatiale Internationale
04:38
because you wanted to go outside
99
266915
1846
et qui vous avertit quand sortir
04:40
and see if you could see it.
100
268761
1948
pour tenter de l'apercevoir.
04:42
You're not going to get that chance
101
270709
1225
Impossible, si on suspend le compte
04:43
if we mistakenly suspend the account
102
271934
1847
en pensant à tort qu'il s'agit
d'un message indésirable.
d'un message indésirable.
04:45
thinking it's spam.
103
273781
2266
Imaginons pire.
04:48
Okay. Let's make the stakes higher.
104
276047
3526
04:51
Back to my account,
105
279573
1916
Revenons-en à mon compte
04:53
again exhibiting classic behavior.
106
281489
3505
et illustrons
un comportement classique.
un comportement classique.
04:56
This time it's sending the same message and link.
107
284994
2643
Cette fois, c'est le même message,
mais avec un lien.
mais avec un lien.
04:59
This is often indicative of
something called phishing,
something called phishing,
108
287637
2774
C'est souvent un bon indicateur
de « hameçonnage » :
de « hameçonnage » :
05:02
somebody trying to steal another
person's account information
person's account information
109
290411
3178
quelqu'un essaie d'usurper l'identité
d'un autre compte
d'un autre compte
05:05
by directing them to another website.
110
293589
2203
en les redirigeant vers un autre site.
05:07
That's pretty clearly not a good thing.
111
295792
4194
Ce n'est clairement pas
une bonne chose.
une bonne chose.
05:11
We want to, and do, suspend accounts
112
299986
1930
Nous tenons à suspendre les comptes
05:13
engaging in that kind of behavior.
113
301916
2624
qui font ce genre de choses
et nous le faisons.
et nous le faisons.
05:16
So why are the stakes higher for this?
114
304540
3247
Pourquoi les enjeux sont-ils
plus grands dans ce cas-ci ?
plus grands dans ce cas-ci ?
05:19
Well, this could also be a bystander at a rally
115
307787
2999
Car il pourrait s'agir d'un spectateur
05:22
who managed to record a video
116
310786
1910
qui a réussi à filmer
05:24
of a police officer beating a non-violent protester
117
312696
3270
un policier frappant
un manifestant pacifique
un manifestant pacifique
05:27
who's trying to let the world know what's happening.
118
315966
2975
et qui essaie juste
d'en informer le monde.
d'en informer le monde.
05:30
We don't want to gamble
119
318941
1643
On ne veut pas prendre le risque
05:32
on potentially silencing that crucial speech
120
320584
2517
de réduire au silence
ce témoignage crucial
ce témoignage crucial
05:35
by classifying it as spam and suspending it.
121
323101
2929
en l'identifiant comme indésirable
et en le suspendant.
et en le suspendant.
05:38
That means we evaluate hundreds of parameters
122
326030
2879
Nous évaluons
des centaines de paramètres
des centaines de paramètres
05:40
when looking at account behaviors,
123
328909
1688
liés à l'activité des comptes
05:42
and even then, we can still get it wrong
124
330597
2016
mais nous pouvons encore
nous tromper
nous tromper
05:44
and have to reevaluate.
125
332613
2236
et nous devons tout réévaluer.
05:46
Now, given the sorts of challenges I'm up against,
126
334849
3708
Vu les défis
auxquels je suis confrontée,
auxquels je suis confrontée,
05:50
it's crucial that I not only predict
127
338557
2696
je dois absolument
pouvoir prédire l'impensable
pouvoir prédire l'impensable
05:53
but also design protections for the unexpected.
128
341253
3784
et concevoir les protections
adaptées à l'inattendu.
adaptées à l'inattendu.
05:57
And that's not just an issue for me,
129
345037
2342
Et ce n'est pas
qu'un problème pour moi
qu'un problème pour moi
05:59
or for Twitter, it's an issue for you.
130
347379
2087
ou pour Twitter,
c'est aussi le vôtre.
c'est aussi le vôtre.
06:01
It's an issue for anybody who's building or creating
131
349466
2406
C'est un problème pour quiconque
créant quelque chose qui paraît génial
06:03
something that you think is going to be amazing
132
351872
1925
06:05
and will let people do awesome things.
133
353797
2789
et permettant de faire
des choses formidables.
des choses formidables.
06:08
So what do I do?
134
356586
2866
Et moi, qu'est-ce que je fais ?
06:11
I pause and I think,
135
359452
3318
Je prends le temps de penser.
06:14
how could all of this
136
362770
2095
Je me demande :
comment tout ça
comment tout ça
06:16
go horribly wrong?
137
364865
3793
pourrait-il complètement dégénérer ?
06:20
I visualize catastrophe.
138
368658
4453
Je visualise la catastrophe.
06:25
And that's hard. There's a sort of
139
373111
2463
Et c'est difficile.
Il y a comme quelque chose
qui cloche quand on fait ça.
qui cloche quand on fait ça.
06:27
inherent cognitive dissonance in doing that,
140
375574
2848
06:30
like when you're writing your wedding vows
141
378422
1812
C'est un peu comme si vous écriviez
06:32
at the same time as your prenuptial agreement.
142
380234
2646
à la fois vos vœux
et votre contrat de mariage.
et votre contrat de mariage.
06:34
(Laughter)
143
382880
1696
(Rires)
06:36
But you still have to do it,
144
384576
2373
Mais vous devez quand même le faire,
06:38
particularly if you're marrying
500 million tweets per day.
500 million tweets per day.
145
386949
4446
en particulier si vous épousez
500 millions de tweets par jour.
500 millions de tweets par jour.
06:43
What do I mean by "visualize catastrophe?"
146
391395
3097
Qu'est-ce que j'entends par
« visualiser la catastrophe » ?
« visualiser la catastrophe » ?
06:46
I try to think of how something as
147
394492
2762
J'essaie de penser comment
quelque chose
quelque chose
06:49
benign and innocuous as a picture of a cat
148
397254
3228
d'aussi bénin et inoffensif que
la photo d'un chat
la photo d'un chat
06:52
could lead to death,
149
400482
1104
pourrait être mortel
06:53
and what to do to prevent that.
150
401586
2326
et à ce qu'il faut faire pour l'éviter.
06:55
Which happens to be my next example.
151
403912
2383
C'est justement mon prochain exemple.
06:58
This is my cat, Eli.
152
406295
3110
Voici mon chat, Eli.
07:01
We wanted to give users the ability
153
409405
1981
Nous voulions permettre
aux utilisateurs
aux utilisateurs
07:03
to add photos to their tweets.
154
411386
2073
d'ajouter des photos à leurs tweets.
07:05
A picture is worth a thousand words.
155
413459
1597
Une image vaut mille mots.
07:07
You only get 140 characters.
156
415056
2009
Et vous n'avez droit qu'à 140 caractères.
07:09
You add a photo to your tweet,
157
417065
1200
Un tweet avec une photo
07:10
look at how much more content you've got now.
158
418265
3038
ça augmente considérablement
votre création de contenu !
votre création de contenu !
07:13
There's all sorts of great things you can do
159
421303
1677
On peut faire plein de choses superbes
07:14
by adding a photo to a tweet.
160
422980
2007
en ajoutant une photo à un tweet.
07:16
My job isn't to think of those.
161
424987
2280
Mon travail,
ce n'est pas de penser à ça,
ce n'est pas de penser à ça,
07:19
It's to think of what could go wrong.
162
427267
2747
mais à ce qui pourrait déraper.
07:22
How could this picture
163
430014
1892
Comment cette photo
07:23
lead to my death?
164
431906
3539
pourrait-elle conduire à ma mort ?
07:27
Well, here's one possibility.
165
435445
3160
Voici une possibilité.
07:30
There's more in that picture than just a cat.
166
438605
3086
Cette photo, ce n'est pas juste un chat.
07:33
There's geodata.
167
441691
2092
Elle contient des données géographiques.
07:35
When you take a picture with your smartphone
168
443783
2212
Une photo prise avec
votre téléphone
votre téléphone
07:37
or digital camera,
169
445995
1299
ou votre appareil photo
07:39
there's a lot of additional information
170
447294
1654
contient beaucoup plus
d'informations qu'une image.
d'informations qu'une image.
07:40
saved along in that image.
171
448948
1616
07:42
In fact, this image also contains
172
450564
1932
En fait, cette photo contient aussi
07:44
the equivalent of this,
173
452496
1805
l'équivalent de ceci.
07:46
more specifically, this.
174
454301
3079
Ou plus précisément, ceci.
07:49
Sure, it's not likely that someone's going to try
175
457380
1956
Il est fort peu probable
qu'on tente
qu'on tente
07:51
to track me down and do me harm
176
459336
2285
de me retrouver
pour me faire du mal
pour me faire du mal
07:53
based upon image data associated
177
461621
1784
sur la base de données
07:55
with a picture I took of my cat,
178
463405
1948
liées à cette photo de mon chat,
07:57
but I start by assuming the worst will happen.
179
465353
3651
mais je considère toujours
que le pire va se produire.
que le pire va se produire.
08:01
That's why, when we launched photos on Twitter,
180
469004
2338
Ainsi, en autorisant
les photos sur Twitter,
les photos sur Twitter,
08:03
we made the decision to strip that geodata out.
181
471342
3821
nous avons décidé d'en effacer
toute donnée géographique.
toute donnée géographique.
08:07
(Applause)
182
475163
5847
(Applaudissements)
08:13
If I start by assuming the worst
183
481010
2613
Si je me prépare au pire
et que je travaille à reculons,
08:15
and work backwards,
184
483623
947
08:16
I can make sure that the protections we build
185
484570
2553
je peux m'assurer
que les protections mises en place
que les protections mises en place
08:19
work for both expected
186
487123
1768
fonctionnent dans tous les cas :
08:20
and unexpected use cases.
187
488891
2078
ceux qu'on avait prévus ou non.
08:22
Given that I spend my days and nights
188
490969
2945
Vu que, jour et nuit,
je passe mon temps
je passe mon temps
08:25
imagining the worst that could happen,
189
493914
2541
à imaginer le pire,
je pourrais tout à fait
08:28
it wouldn't be surprising if
my worldview was gloomy.
my worldview was gloomy.
190
496455
4257
avoir une sombre vision du monde.
08:32
(Laughter)
191
500712
1783
(Rires)
08:34
It's not.
192
502495
1417
Mais ce n'est pas le cas.
08:35
The vast majority of interactions I see --
193
503912
3876
La grande majorité
des interactions que je vois
des interactions que je vois
08:39
and I see a lot, believe me -- are positive,
194
507788
3901
- et j'en vois beaucoup, croyez-moi -
est positive :
est positive :
08:43
people reaching out to help
195
511689
1924
des gens demandent de l'aide,
08:45
or to connect or share information with each other.
196
513613
3448
se connectent ou
partagent de l'information.
partagent de l'information.
08:49
It's just that for those of us dealing with scale,
197
517061
3323
Mais quiconque
travaille à cette échelle
travaille à cette échelle
08:52
for those of us tasked with keeping people safe,
198
520384
3800
ou doit assurer la sécurité des gens
08:56
we have to assume the worst will happen,
199
524184
2546
est obligé de se préparer au pire
08:58
because for us, a one-in-a-million chance
200
526730
4227
car pour nous, une chance sur un million
09:02
is pretty good odds.
201
530957
2749
c'est une sacré grande probabilité.
09:05
Thank you.
202
533706
1864
Merci.
09:07
(Applause)
203
535570
4000
(Applaudissements)
ABOUT THE SPEAKER
Del Harvey - Security mavenDel Harvey works to define policy and to ensure user safety and security in the challenging realm of modern social media.
Why you should listen
As Senior Director of Trust and Safety at Twitter, Del Harvey works to define policy and to ensure user safety and security in the challenging realm of modern social media. Prior to joining Twitter, she spent five years as the co-administrator and law enforcement liaison for a 501(c)3 non-profit charity, working with agencies ranging from local police departments to the FBI, U.S. Marshals and the Secret Service.
Del Harvey | Speaker | TED.com