TED2014
Del Harvey: Protecting Twitter users (sometimes from themselves)
Del Harvey: La stranezza dei numeri in gioco su Twitter
Filmed:
Readability: 4.4
993,199 views
Quando centinaia di migliaia di "Tweets" vengono lanciati ogni secondo, una possibilità di uno su un milione, includendo scenari apparentemente improbabili che potrebbe nuocere gli utenti, succede circa 500 volte al giorno. Per Del Harvey, che dirige il reparto "Trust and Safety" per Twitter, queste probabilità non sono buone. L'esperto di sicurezza trascorre le proprie giornate pensando a come prevenire gli scenari peggiori e nel contempo a dare uno spazio alle persone di tutto il mondo. Con un umorismo all'inglese, offre uno squarcio su come si mantengono 240 milioni di utenti al sicuro.
Del Harvey - Security maven
Del Harvey works to define policy and to ensure user safety and security in the challenging realm of modern social media. Full bio
Del Harvey works to define policy and to ensure user safety and security in the challenging realm of modern social media. Full bio
Double-click the English transcript below to play the video.
00:12
My job at Twitter
0
984
1291
Il mio compito in Twitter
00:14
is to ensure user trust,
1
2275
1978
è assicurarmi la fiducia degli utenti,
00:16
protect user rights and keep users safe,
2
4253
2837
proteggere i loro diritti e proteggerli,
00:19
both from each other
3
7090
1260
sia uno dall'altro
00:20
and, at times, from themselves.
4
8350
3899
che, a volte, da loro stessi.
00:24
Let's talk about what scale looks like at Twitter.
5
12249
4275
Ora parliamo dei numeri in gioco su Twitter.
00:28
Back in January 2009,
6
16524
2870
Nel gennaio del 2009,
abbiamo visto più di due milioni
di nuovi messaggi al giorno
di nuovi messaggi al giorno
00:31
we saw more than two million new tweets each day
7
19394
3331
00:34
on the platform.
8
22725
1764
sulla piattaforma.
00:36
January 2014, more than 500 million.
9
24489
5908
Gennaio 2014, più di 500 milioni.
00:42
We were seeing two million tweets
10
30397
2492
Vedevamo due milioni di messaggi
00:44
in less than six minutes.
11
32889
2176
in meno di sei minuti.
00:47
That's a 24,900-percent increase.
12
35065
6984
Un incremento del 24 900 percento.
00:54
Now, the vast majority of activity on Twitter
13
42049
3253
Ora, la stragrande maggioranza
dell'attività su Twitter
dell'attività su Twitter
00:57
puts no one in harm's way.
14
45302
1503
non mette nessuno a rischio.
00:58
There's no risk involved.
15
46805
1935
Non c'è alcun rischio.
01:00
My job is to root out and prevent activity that might.
16
48740
5753
Il mio lavoro è stanare e prevenire
ogni attività potenzialmente dannosa.
ogni attività potenzialmente dannosa.
01:06
Sounds straightforward, right?
17
54493
1973
Sembra semplice, vero?
01:08
You might even think it'd be easy,
18
56466
1152
Potreste persino pensare che sia facile,
01:09
given that I just said the vast majority
19
57618
2170
considerando che ho appena detto
che la stragrande maggioranza
che la stragrande maggioranza
01:11
of activity on Twitter puts no one in harm's way.
20
59788
3810
dell'attività su Twitter
non mette nessuno a rischio.
non mette nessuno a rischio.
01:15
Why spend so much time
21
63598
2169
Perché passare così tanto tempo
01:17
searching for potential calamities
22
65767
2743
alla ricerca di possibili calamità
01:20
in innocuous activities?
23
68510
2900
in attività innocue?
01:23
Given the scale that Twitter is at,
24
71410
2940
Considerando la quantità di messaggi
a cui si è arrivati su Twitter,
a cui si è arrivati su Twitter,
01:26
a one-in-a-million chance happens
25
74350
2357
un evento con una probabilità
di uno su un milione avviene
di uno su un milione avviene
01:28
500 times a day.
26
76707
4876
500 volte al giorno.
01:33
It's the same for other companies
27
81583
1445
La stessa cosa avviene per altre aziende
01:35
dealing at this sort of scale.
28
83028
1471
che operano con questi numeri.
01:36
For us, edge cases,
29
84499
1708
Da noi, i casi limite,
01:38
those rare situations that are unlikely to occur,
30
86207
3625
ovvero quelle rare situazioni
che difficilmente accadono,
che difficilmente accadono,
01:41
are more like norms.
31
89832
2622
sono la norma.
01:44
Say 99.999 percent of tweets
32
92454
3942
Supponiamo che
il 99,999 percento dei messaggi
il 99,999 percento dei messaggi
01:48
pose no risk to anyone.
33
96396
1888
non ponga alcun rischio per nessuno.
01:50
There's no threat involved.
34
98284
1066
Non c'è alcun rischio.
01:51
Maybe people are documenting travel landmarks
35
99350
2954
Magari delle persone stanno riportando
le tappe di un viaggio
le tappe di un viaggio
01:54
like Australia's Heart Reef,
36
102304
1963
come l'Heart Reef in Australia,
01:56
or tweeting about a concert they're attending,
37
104267
2921
o magari scrivono di un concerto
a cui stanno assistendo
a cui stanno assistendo
01:59
or sharing pictures of cute baby animals.
38
107188
4747
o condividono foto di cuccioli carini.
02:03
After you take out that 99.999 percent,
39
111935
4509
Dopo aver tolto questo 99,999 percento,
02:08
that tiny percentage of tweets remaining
40
116444
3529
quella minuscola percentuale
di messaggi rimanenti
di messaggi rimanenti
02:11
works out to roughly
41
119973
2389
equivale a circa
02:14
150,000 per month.
42
122362
3475
150 000 messaggi al mese.
02:17
The sheer scale of what we're dealing with
43
125837
2456
La quantità di messaggi
con cui abbiamo a che fare
con cui abbiamo a che fare
02:20
makes for a challenge.
44
128293
2312
è in sé una sfida.
02:22
You know what else makes my role
45
130605
1178
Sapete cos'altro rende il mio lavoro
02:23
particularly challenging?
46
131783
3107
particolarmente impegnativo?
02:26
People do weird things.
47
134890
5123
Le persone fanno cose strane.
02:32
(Laughter)
48
140013
1829
(Risate)
02:33
And I have to figure out what they're doing,
49
141842
2391
Ed io devo capire
cosa stanno facendo e perché
cosa stanno facendo e perché
02:36
why, and whether or not there's risk involved,
50
144233
2249
e pure se ci sia o no un rischio connesso
02:38
often without much in terms of context
51
146482
2168
spesso conoscendo poco del contesto
02:40
or background.
52
148650
1847
o del retroscena.
02:42
I'm going to show you some examples
53
150497
2077
Ora vi mostrerò degli esempi
02:44
that I've run into during my time at Twitter --
54
152574
2005
che ho incontrato
durante il mio lavoro per Twitter,
durante il mio lavoro per Twitter,
02:46
these are all real examples —
55
154579
1620
questi sono tutti esempi reali
02:48
of situations that at first seemed cut and dried,
56
156199
2653
di situazioni
che inizialmente sembravano ovvie,
che inizialmente sembravano ovvie,
02:50
but the truth of the matter was something
57
158852
1643
ma che in realtà erano qualcosa
02:52
altogether different.
58
160495
1550
di completamente diverso.
02:54
The details have been changed
59
162045
1977
I dettagli sono stati cambiati
02:56
to protect the innocent
60
164022
1257
in modo tale da proteggere l'innocente
02:57
and sometimes the guilty.
61
165279
3233
ed a volte anche il colpevole.
03:00
We'll start off easy.
62
168512
3005
Cominciamo con qualcosa di semplice.
03:03
["Yo bitch"]
63
171517
1793
["Uè cagna"]
03:05
If you saw a Tweet that only said this,
64
173310
3228
Se qualcuno vedesse un messaggio
con scritto solo questo,
con scritto solo questo,
03:08
you might think to yourself,
65
176538
1694
potrebbe pensare tra sé e sé,
03:10
"That looks like abuse."
66
178232
1653
"Sembra un insulto."
03:11
After all, why would you
want to receive the message,
want to receive the message,
67
179885
3107
Dopo tutto, perché mai qualcuno
dovrebbe volere ricevere un messaggio come:
dovrebbe volere ricevere un messaggio come:
03:14
"Yo, bitch."
68
182992
2218
"Uè,cagna."
03:17
Now, I try to stay relatively hip
69
185210
4663
Ora, io provo a stare dietro
03:21
to the latest trends and memes,
70
189873
2512
alle ultime mode ed ai post ironici,
03:24
so I knew that "yo, bitch"
71
192385
2704
per cui sapevo che "uè,cagna"
03:27
was also often a common greeting between friends,
72
195089
3154
veniva anche usato spesso
come saluto tra amici,
come saluto tra amici,
03:30
as well as being a popular "Breaking Bad" reference.
73
198243
4262
oltre ad essere una citazione famosa
di "Breaking Bad".
di "Breaking Bad".
03:34
I will admit that I did not expect
74
202505
2487
Ammetto che non mi sarei aspettata
03:36
to encounter a fourth use case.
75
204992
2841
di incontrare un quarto uso.
03:39
It turns out it is also used on Twitter
76
207833
3104
Si scopre che si usa anche su Twitter
03:42
when people are role-playing as dogs.
77
210937
3062
quando le persone impersonano dei cani.
03:45
(Laughter)
78
213999
5279
(Risate)
03:51
And in fact, in that case,
79
219278
1666
Ed infatti, in quel caso,
03:52
it's not only not abusive,
80
220944
1609
non solo non è offensivo,
03:54
it's technically just an accurate greeting.
81
222553
3139
ma è tecnicamente il saluto appropriato.
03:57
(Laughter)
82
225692
2889
(Risate)
04:00
So okay, determining whether or not
83
228581
2071
Quindi, determinare
se qualcosa sia o meno offensivo,
se qualcosa sia o meno offensivo,
04:02
something is abusive without context,
84
230652
1848
senza avere un contesto,
04:04
definitely hard.
85
232500
1592
è sicuramente difficile.
04:06
Let's look at spam.
86
234092
2717
Diamo un'occhiata allo spam.
04:08
Here's an example of an account engaged
87
236809
1960
Ora c'è l'esempio di un account intento
04:10
in classic spammer behavior,
88
238769
1668
a "spammare" nel modo classico,
04:12
sending the exact same message
89
240437
1559
ovvero inviando lo stesso identico messaggio
04:13
to thousands of people.
90
241996
1804
a migliaia di persone.
04:15
While this is a mockup I put
together using my account,
together using my account,
91
243800
2793
Mentre questo è solo un esempio
che ho creato usando il mio account,
che ho creato usando il mio account,
04:18
we see accounts doing this all the time.
92
246593
3001
vediamo degli account fare questo di continuo.
04:21
Seems pretty straightforward.
93
249594
1979
Sembra davvero semplice.
04:23
We should just automatically suspend accounts
94
251573
2053
Sicuro, dovremmo automaticamente
sospendere gli account
sospendere gli account
04:25
engaging in this kind of behavior.
95
253626
3307
intenti in questo genere di comportamenti.
04:28
Turns out there's some exceptions to that rule.
96
256933
3210
Pare che ci siano delle eccezioni alla regola.
04:32
Turns out that that message
could also be a notification
could also be a notification
97
260143
2883
Pare che quel messaggio potrebbe essere
anche un messaggio di notifica
anche un messaggio di notifica
04:35
you signed up for that the International
Space Station is passing overhead
Space Station is passing overhead
98
263026
3889
perché vi siete iscritti per sapere
quando la stazione spaziale internazionale
vi passa sopra la testa,
vi passa sopra la testa,
perché volevate uscire
04:38
because you wanted to go outside
99
266915
1846
04:40
and see if you could see it.
100
268761
1948
e riuscire a vederla.
04:42
You're not going to get that chance
101
270709
1225
Non avreste questa possibilità
04:43
if we mistakenly suspend the account
102
271934
1847
se sospendessimo l'account per errore
04:45
thinking it's spam.
103
273781
2266
pensando che sia dello spam.
04:48
Okay. Let's make the stakes higher.
104
276047
3526
Va bene. Alziamo la posta.
04:51
Back to my account,
105
279573
1916
Torniamo al mio account,
04:53
again exhibiting classic behavior.
106
281489
3505
che ancora una volta esibisce
un comportamento classico.
un comportamento classico.
04:56
This time it's sending the same message and link.
107
284994
2643
Questa volta sta mandando
lo stesso messaggio e lo stesso link.
lo stesso messaggio e lo stesso link.
04:59
This is often indicative of
something called phishing,
something called phishing,
108
287637
2774
Di solito, questo è indicativo
del cosiddetto "phishing",
del cosiddetto "phishing",
05:02
somebody trying to steal another
person's account information
person's account information
109
290411
3178
ovvero qualcuno che cerca di rubare
le informazioni dell'account di qualcun altro.
le informazioni dell'account di qualcun altro.
05:05
by directing them to another website.
110
293589
2203
indirizzandolo verso un altro sito.
05:07
That's pretty clearly not a good thing.
111
295792
4194
È abbastanza ovvio
che non è una buona cosa.
che non è una buona cosa.
05:11
We want to, and do, suspend accounts
112
299986
1930
Noi intendiamo, e lo facciamo,
sospendere gli account
sospendere gli account
05:13
engaging in that kind of behavior.
113
301916
2624
che sono intenti in questa pratica.
05:16
So why are the stakes higher for this?
114
304540
3247
Allora perché la posta in gioco
è più alta in questo caso?
è più alta in questo caso?
05:19
Well, this could also be a bystander at a rally
115
307787
2999
Beh, si potrebbe trattare
di un passante ad un corteo
di un passante ad un corteo
05:22
who managed to record a video
116
310786
1910
che è riuscito a fare un video
05:24
of a police officer beating a non-violent protester
117
312696
3270
di un poliziotto che malmena
un manifestante pacifico
un manifestante pacifico
05:27
who's trying to let the world know what's happening.
118
315966
2975
che sta provando a far sapere
al mondo cosa sta succedendo.
al mondo cosa sta succedendo.
05:30
We don't want to gamble
119
318941
1643
Non vogliamo rischiare
05:32
on potentially silencing that crucial speech
120
320584
2517
di ridurre potenzialmente
al silenzio quel discorso cruciale
al silenzio quel discorso cruciale
05:35
by classifying it as spam and suspending it.
121
323101
2929
classificandolo come spam e sospendendolo.
05:38
That means we evaluate hundreds of parameters
122
326030
2879
Questo significa che valutiamo
centinaia di parametri
centinaia di parametri
05:40
when looking at account behaviors,
123
328909
1688
quando osserviamo i comportamenti degli account,
05:42
and even then, we can still get it wrong
124
330597
2016
e comunque, possiamo ancora sbagliarci
05:44
and have to reevaluate.
125
332613
2236
ed essere costretti a riconsiderare.
05:46
Now, given the sorts of challenges I'm up against,
126
334849
3708
Considerato il tipo di sfide che affronto,
05:50
it's crucial that I not only predict
127
338557
2696
è fondamentale , non solo che io preveda,
05:53
but also design protections for the unexpected.
128
341253
3784
ma anche sviluppi protezioni
per l'imprevedibile.
per l'imprevedibile.
05:57
And that's not just an issue for me,
129
345037
2342
E questo non è un problema solo mio,
05:59
or for Twitter, it's an issue for you.
130
347379
2087
o di Twitter, è un problema anche vostro.
06:01
It's an issue for anybody who's building or creating
131
349466
2406
È un problema per chiunque
stia costruendo o creando
stia costruendo o creando
06:03
something that you think is going to be amazing
132
351872
1925
qualcosa che si pensa possa essere grandioso
06:05
and will let people do awesome things.
133
353797
2789
e che darà la possibilità alla gente
di fare cose incredibili.
di fare cose incredibili.
06:08
So what do I do?
134
356586
2866
Allora, io cosa faccio?
06:11
I pause and I think,
135
359452
3318
Mi fermo un attimo e penso,
06:14
how could all of this
136
362770
2095
come potrebbe tutto questo
06:16
go horribly wrong?
137
364865
3793
andare a rotoli?
06:20
I visualize catastrophe.
138
368658
4453
Mi immagino una catastrofe.
06:25
And that's hard. There's a sort of
139
373111
2463
Ed è difficile. C'è una sorta
06:27
inherent cognitive dissonance in doing that,
140
375574
2848
di dissociazione cognitiva insita nel farlo,
06:30
like when you're writing your wedding vows
141
378422
1812
come quando stai scrivendo
le tue promesse nuziali
le tue promesse nuziali
06:32
at the same time as your prenuptial agreement.
142
380234
2646
ed allo stesso tempo
il contratto prematrimoniale.
il contratto prematrimoniale.
06:34
(Laughter)
143
382880
1696
(Risate)
06:36
But you still have to do it,
144
384576
2373
Ma comunque devi farlo,
06:38
particularly if you're marrying
500 million tweets per day.
500 million tweets per day.
145
386949
4446
specialmente se stai sposando
500 milioni di messaggi al giorno.
500 milioni di messaggi al giorno.
06:43
What do I mean by "visualize catastrophe?"
146
391395
3097
Cosa intendo con "immaginarsi una catastrofe?"
06:46
I try to think of how something as
147
394492
2762
Penso a come qualcosa,
06:49
benign and innocuous as a picture of a cat
148
397254
3228
come l'immagine innocua ed inoffensiva di un gatto,
06:52
could lead to death,
149
400482
1104
possa causare una morte,
06:53
and what to do to prevent that.
150
401586
2326
e cosa fare per prevenirlo.
06:55
Which happens to be my next example.
151
403912
2383
Il che, guarda caso,
è il mio prossimo esempio.
è il mio prossimo esempio.
06:58
This is my cat, Eli.
152
406295
3110
Questo è il mio gatto, Eli.
07:01
We wanted to give users the ability
153
409405
1981
Volevamo dare agli utenti la capacità
07:03
to add photos to their tweets.
154
411386
2073
di aggiungere foto ai loro tweet.
07:05
A picture is worth a thousand words.
155
413459
1597
Un'immagine vale più di mille parole.
07:07
You only get 140 characters.
156
415056
2009
Noi vi diamo solo 140 caratteri.
07:09
You add a photo to your tweet,
157
417065
1200
Aggiungete una foto al vostro tweet
07:10
look at how much more content you've got now.
158
418265
3038
guarda quante parole in più avete ora.
07:13
There's all sorts of great things you can do
159
421303
1677
Potete fare ogni genere di grandi cose
07:14
by adding a photo to a tweet.
160
422980
2007
aggiungendo una foto ad un tweet.
07:16
My job isn't to think of those.
161
424987
2280
Il mio lavoro non è pensare a queste cose.
07:19
It's to think of what could go wrong.
162
427267
2747
È pensare a cosa può andare storto.
07:22
How could this picture
163
430014
1892
Come potrebbe quest'immagine
07:23
lead to my death?
164
431906
3539
portare alla mia morte?
07:27
Well, here's one possibility.
165
435445
3160
Bene, ecco una possibilità.
07:30
There's more in that picture than just a cat.
166
438605
3086
Non c'è solo un gatto in quella foto.
07:33
There's geodata.
167
441691
2092
Ci sono informazioni geografiche.
07:35
When you take a picture with your smartphone
168
443783
2212
Quando fate una foto con lo smartphone
07:37
or digital camera,
169
445995
1299
o con la fotocamera digitale,
07:39
there's a lot of additional information
170
447294
1654
ci sono molte informazioni aggiuntive
07:40
saved along in that image.
171
448948
1616
salvate assieme all'immagine.
07:42
In fact, this image also contains
172
450564
1932
Infatti, quest'immagine contiene anche
07:44
the equivalent of this,
173
452496
1805
l'equivalente di questo,
07:46
more specifically, this.
174
454301
3079
più specificatamente, questo.
07:49
Sure, it's not likely that someone's going to try
175
457380
1956
Sicuramente, è improbabile
che qualcuno provi
che qualcuno provi
07:51
to track me down and do me harm
176
459336
2285
a rintracciarmi e farmi del male
07:53
based upon image data associated
177
461621
1784
basandosi sulle informazioni associate
07:55
with a picture I took of my cat,
178
463405
1948
ad una foto che ho fatto al mio gatto
07:57
but I start by assuming the worst will happen.
179
465353
3651
ma comincio pensando
che il peggio accadrà.
che il peggio accadrà.
08:01
That's why, when we launched photos on Twitter,
180
469004
2338
Ecco perché, quando abbiamo introdotto
le foto su Twitter,
le foto su Twitter,
08:03
we made the decision to strip that geodata out.
181
471342
3821
abbiamo preso la decisione
di eliminare i dati geografici.
di eliminare i dati geografici.
08:07
(Applause)
182
475163
5847
(Applausi)
08:13
If I start by assuming the worst
183
481010
2613
Se comincio con l'assumere il peggio
08:15
and work backwards,
184
483623
947
e lavoro a ritroso,
08:16
I can make sure that the protections we build
185
484570
2553
posso garantire che le protezioni che ideiamo
08:19
work for both expected
186
487123
1768
funzionino sia per i casi prevedibili
08:20
and unexpected use cases.
187
488891
2078
che per quelli imprevedibili.
08:22
Given that I spend my days and nights
188
490969
2945
Dato che trascorro giorno e notte
08:25
imagining the worst that could happen,
189
493914
2541
ad immaginare qual è il peggio
che può accadere,
che può accadere,
08:28
it wouldn't be surprising if
my worldview was gloomy.
my worldview was gloomy.
190
496455
4257
non sorprenderebbe nessuno
se avessi una visione pessimista del mondo.
se avessi una visione pessimista del mondo.
08:32
(Laughter)
191
500712
1783
(Risate)
08:34
It's not.
192
502495
1417
Non è così.
08:35
The vast majority of interactions I see --
193
503912
3876
La grande maggioranza
delle interazioni che vedo,
delle interazioni che vedo,
08:39
and I see a lot, believe me -- are positive,
194
507788
3901
e ne vedo tante, credetemi,
sono positive,
sono positive,
08:43
people reaching out to help
195
511689
1924
persone che entrano in contatto per aiutarsi
08:45
or to connect or share information with each other.
196
513613
3448
o per incontrarsi
o condividere informazioni tra loro.
o condividere informazioni tra loro.
08:49
It's just that for those of us dealing with scale,
197
517061
3323
È solo che per quelli di noi
che trattano questa mole di dati,
che trattano questa mole di dati,
08:52
for those of us tasked with keeping people safe,
198
520384
3800
quelli su cui ricade il compito
di salvaguardare le persone,
di salvaguardare le persone,
08:56
we have to assume the worst will happen,
199
524184
2546
il caso peggiore è da considerarsi
come un evento sicuro,
come un evento sicuro,
08:58
because for us, a one-in-a-million chance
200
526730
4227
perché per noi, una probabilità
di uno su un milione
di uno su un milione
09:02
is pretty good odds.
201
530957
2749
è una probabilità decisamente buona.
09:05
Thank you.
202
533706
1864
Grazie.
09:07
(Applause)
203
535570
4000
(Applausi)
ABOUT THE SPEAKER
Del Harvey - Security mavenDel Harvey works to define policy and to ensure user safety and security in the challenging realm of modern social media.
Why you should listen
As Senior Director of Trust and Safety at Twitter, Del Harvey works to define policy and to ensure user safety and security in the challenging realm of modern social media. Prior to joining Twitter, she spent five years as the co-administrator and law enforcement liaison for a 501(c)3 non-profit charity, working with agencies ranging from local police departments to the FBI, U.S. Marshals and the Secret Service.
Del Harvey | Speaker | TED.com