TED2014
Del Harvey: Protecting Twitter users (sometimes from themselves)
Del Harvey: Osobliwość skali na Twitterze
Filmed:
Readability: 4.4
993,199 views
Kiedy w ciągu sekundy wysyłane są setki tysięcy tweetów, szansa jeden do miliona, w tym nieprawdopodobne przypadki, które mogą skrzywdzić użytkowników, może się zdarzyć 500 razy dziennie. Dla Del Harvey, która zajmuje się zapewnianiem bezpieczeństwa na Twitterze to nie są dobre statystyki. Ekspertka ds. bezpieczeństwa spędza swój czas, myśląc, jak zapobiec najgorszemu, dając jednocześnie możliwość wypowiedzi ludziom na całym świecie. Z kamienną twarzą żartuje i zdradza sekrety swojej pracy, w której zapewnia bezpieczeństwo 240 milionom użytkowników.
Del Harvey - Security maven
Del Harvey works to define policy and to ensure user safety and security in the challenging realm of modern social media. Full bio
Del Harvey works to define policy and to ensure user safety and security in the challenging realm of modern social media. Full bio
Double-click the English transcript below to play the video.
00:12
My job at Twitter
0
984
1291
Moja praca dla Twittera
00:14
is to ensure user trust,
1
2275
1978
polega na zapewnieniu
zaufania użytkowników,
zaufania użytkowników,
00:16
protect user rights and keep users safe,
2
4253
2837
ochronie ich praw
i dbaniu o ich bezpieczeństwo,
i dbaniu o ich bezpieczeństwo,
00:19
both from each other
3
7090
1260
o ochronę przed innymi,
a czasem przed nimi samymi.
a czasem przed nimi samymi.
00:20
and, at times, from themselves.
4
8350
3899
00:24
Let's talk about what scale looks like at Twitter.
5
12249
4275
Jak wygląda skala
działalności na Twitterze?
działalności na Twitterze?
00:28
Back in January 2009,
6
16524
2870
W styczniu 2009
00:31
we saw more than two million new tweets each day
7
19394
3331
mieliśmy ponad
2 miliony wpisów dziennie na portalu.
2 miliony wpisów dziennie na portalu.
00:34
on the platform.
8
22725
1764
00:36
January 2014, more than 500 million.
9
24489
5908
W styczniu 2014 - ponad 500 milionów.
00:42
We were seeing two million tweets
10
30397
2492
Dwa miliony tweetów w niespełna 6 minut.
00:44
in less than six minutes.
11
32889
2176
00:47
That's a 24,900-percent increase.
12
35065
6984
To przyrost o 24 900 %.
00:54
Now, the vast majority of activity on Twitter
13
42049
3253
Większość aktywności na Twitterze
nie wyrządza nikomu krzywdy.
00:57
puts no one in harm's way.
14
45302
1503
00:58
There's no risk involved.
15
46805
1935
Żadnego ryzyka.
01:00
My job is to root out and prevent activity that might.
16
48740
5753
Moim zadaniem jest zapobieganie
szkodliwym działaniom.
szkodliwym działaniom.
01:06
Sounds straightforward, right?
17
54493
1973
Brzmi prosto.
01:08
You might even think it'd be easy,
18
56466
1152
Wydaje się łatwe.
01:09
given that I just said the vast majority
19
57618
2170
Zwłaszcza, że powiedziałam,
01:11
of activity on Twitter puts no one in harm's way.
20
59788
3810
że większość działań jest nieszkodliwa.
01:15
Why spend so much time
21
63598
2169
Po co więc spędzać tyle czasu,
01:17
searching for potential calamities
22
65767
2743
szukając potencjalnych problemów
01:20
in innocuous activities?
23
68510
2900
w nieszkodliwych działaniach?
01:23
Given the scale that Twitter is at,
24
71410
2940
Biorąc pod uwagę popularność Twittera,
01:26
a one-in-a-million chance happens
25
74350
2357
szansa jeden do miliona
zdarza się 500 razy dziennie.
zdarza się 500 razy dziennie.
01:28
500 times a day.
26
76707
4876
Podobnie jest z innymi firmami,
01:33
It's the same for other companies
27
81583
1445
01:35
dealing at this sort of scale.
28
83028
1471
które działają na taką skalę.
01:36
For us, edge cases,
29
84499
1708
Dla nas takie rzadkie przypadki,
nieprawdopodobne sytuacje, są normą.
nieprawdopodobne sytuacje, są normą.
01:38
those rare situations that are unlikely to occur,
30
86207
3625
01:41
are more like norms.
31
89832
2622
01:44
Say 99.999 percent of tweets
32
92454
3942
Powiedzmy, że 99.999 % tweetów
01:48
pose no risk to anyone.
33
96396
1888
nie zagraża nikomu.
01:50
There's no threat involved.
34
98284
1066
Nie ma zagrożenia.
01:51
Maybe people are documenting travel landmarks
35
99350
2954
Ludzie uwieczniają
znane obiekty podróży,
znane obiekty podróży,
01:54
like Australia's Heart Reef,
36
102304
1963
jak australijska wyspa koralowa
w kształcie serca,
w kształcie serca,
01:56
or tweeting about a concert they're attending,
37
104267
2921
tweetują na temat koncertu,
01:59
or sharing pictures of cute baby animals.
38
107188
4747
czy zamieszczają zdjęcia
uroczych zwierzątek.
uroczych zwierzątek.
02:03
After you take out that 99.999 percent,
39
111935
4509
Po usunięciu tych 99.999 %,
02:08
that tiny percentage of tweets remaining
40
116444
3529
ta drobna ilość tweetów, która pozostaje,
02:11
works out to roughly
41
119973
2389
to w przybliżeniu około
02:14
150,000 per month.
42
122362
3475
150 000 tweetów miesięcznie.
02:17
The sheer scale of what we're dealing with
43
125837
2456
Skala tego wydarzenia
02:20
makes for a challenge.
44
128293
2312
stanowi wyzwanie.
02:22
You know what else makes my role
45
130605
1178
Co jeszcze sprawia,
że moja praca jest tak wymagająca?
że moja praca jest tak wymagająca?
02:23
particularly challenging?
46
131783
3107
02:26
People do weird things.
47
134890
5123
Ludzie robią dziwne rzeczy.
02:32
(Laughter)
48
140013
1829
(Śmiech)
02:33
And I have to figure out what they're doing,
49
141842
2391
A ja muszę zrozumieć, co oni robią,
02:36
why, and whether or not there's risk involved,
50
144233
2249
czemu i czy nie powoduje to
jakiegoś ryzyka,
jakiegoś ryzyka,
02:38
often without much in terms of context
51
146482
2168
często nie mając żadnego kontekstu
02:40
or background.
52
148650
1847
ani dodatkowych informacji.
02:42
I'm going to show you some examples
53
150497
2077
Oto kilka przykładów,
na które natknęłam się
podczas mojej pracy,
podczas mojej pracy,
02:44
that I've run into during my time at Twitter --
54
152574
2005
02:46
these are all real examples —
55
154579
1620
są z życia wzięte,
02:48
of situations that at first seemed cut and dried,
56
156199
2653
sytuacje te wydają się szablonowe,
02:50
but the truth of the matter was something
57
158852
1643
ale prawda okazuje się być całkiem inna.
02:52
altogether different.
58
160495
1550
02:54
The details have been changed
59
162045
1977
Szczegóły zostały zmienione,
02:56
to protect the innocent
60
164022
1257
żeby chronić niewinnych,
02:57
and sometimes the guilty.
61
165279
3233
a czasem i winnych.
03:00
We'll start off easy.
62
168512
3005
Na początek coś prostego.
03:03
["Yo bitch"]
63
171517
1793
[Co słychać suko]
03:05
If you saw a Tweet that only said this,
64
173310
3228
Widząc tylko ten fragment,
03:08
you might think to yourself,
65
176538
1694
można by pomyśleć,
03:10
"That looks like abuse."
66
178232
1653
że to nadużycie.
03:11
After all, why would you
want to receive the message,
want to receive the message,
67
179885
3107
Dlaczego ktoś chciałby
otrzymać wiadomość
otrzymać wiadomość
03:14
"Yo, bitch."
68
182992
2218
"Co słychać suko".
03:17
Now, I try to stay relatively hip
69
185210
4663
Staram się być na czasie
03:21
to the latest trends and memes,
70
189873
2512
z trendami i memami,
03:24
so I knew that "yo, bitch"
71
192385
2704
wiedziałam więc, że "co słychać suko",
03:27
was also often a common greeting between friends,
72
195089
3154
to częste powitanie wśród znajomych
03:30
as well as being a popular "Breaking Bad" reference.
73
198243
4262
i nawiązanie do serialu "Breaking Bad".
03:34
I will admit that I did not expect
74
202505
2487
Nie spodziewałam się,
03:36
to encounter a fourth use case.
75
204992
2841
że istnieje czwarte znaczenie.
03:39
It turns out it is also used on Twitter
76
207833
3104
Okazuje się, że na Twitterze
03:42
when people are role-playing as dogs.
77
210937
3062
jest ono używane, gdy ludzie udają psy.
03:45
(Laughter)
78
213999
5279
(Śmiech)
03:51
And in fact, in that case,
79
219278
1666
W tym przypadku
03:52
it's not only not abusive,
80
220944
1609
nie tylko nie jest ono obraźliwe,
03:54
it's technically just an accurate greeting.
81
222553
3139
ale, formalnie rzecz ujmując,
jest to poprawne powitanie.
jest to poprawne powitanie.
03:57
(Laughter)
82
225692
2889
(Śmiech)
04:00
So okay, determining whether or not
83
228581
2071
Określenie, czy coś ma
charakter znieważający
charakter znieważający
04:02
something is abusive without context,
84
230652
1848
04:04
definitely hard.
85
232500
1592
jest trudne bez kontekstu.
04:06
Let's look at spam.
86
234092
2717
Spójrzmy na spam.
04:08
Here's an example of an account engaged
87
236809
1960
To klasyczny przykład spamującego konta
04:10
in classic spammer behavior,
88
238769
1668
04:12
sending the exact same message
89
240437
1559
wysyłającego tę samą wiadomość
tysiącom osób.
tysiącom osób.
04:13
to thousands of people.
90
241996
1804
04:15
While this is a mockup I put
together using my account,
together using my account,
91
243800
2793
To jest atrapa,
którą stworzyłam na moim koncie,
którą stworzyłam na moim koncie,
04:18
we see accounts doing this all the time.
92
246593
3001
ale jest masa kont,
które robią tak cały czas.
które robią tak cały czas.
04:21
Seems pretty straightforward.
93
249594
1979
Przykład wydaje się oczywisty,
04:23
We should just automatically suspend accounts
94
251573
2053
powinniśmy od razu zawieszać konta
04:25
engaging in this kind of behavior.
95
253626
3307
robiące takie rzeczy.
04:28
Turns out there's some exceptions to that rule.
96
256933
3210
Są pewne wyjątki.
04:32
Turns out that that message
could also be a notification
could also be a notification
97
260143
2883
To mogą być powiadomienia,
na które się zapisaliście,
na które się zapisaliście,
04:35
you signed up for that the International
Space Station is passing overhead
Space Station is passing overhead
98
263026
3889
o tym, że nad wami przelatuje
Międzynarodowa Stacja Kosmiczna,
Międzynarodowa Stacja Kosmiczna,
bo chcieliście wychodzić na zewnątrz
04:38
because you wanted to go outside
99
266915
1846
04:40
and see if you could see it.
100
268761
1948
i sprawdzać, czy ją widać.
Nie będzie takiej okazji,
04:42
You're not going to get that chance
101
270709
1225
jeśli omyłkowo zawiesimy konto,
04:43
if we mistakenly suspend the account
102
271934
1847
04:45
thinking it's spam.
103
273781
2266
myśląc, że to spam.
04:48
Okay. Let's make the stakes higher.
104
276047
3526
Podnieśmy poprzeczkę.
04:51
Back to my account,
105
279573
1916
Powróćmy do mojego konta.
04:53
again exhibiting classic behavior.
106
281489
3505
Ponownie klasyczny przykład.
04:56
This time it's sending the same message and link.
107
284994
2643
Wysyłanie tej samej wiadomości z linkiem.
04:59
This is often indicative of
something called phishing,
something called phishing,
108
287637
2774
To częsty przykład "phishingu",
05:02
somebody trying to steal another
person's account information
person's account information
109
290411
3178
czyli próby wyłudzenia
poufnych informacji z czyjegoś konta
poufnych informacji z czyjegoś konta
05:05
by directing them to another website.
110
293589
2203
poprzez przekierowanie na inną stronę.
05:07
That's pretty clearly not a good thing.
111
295792
4194
To złe zjawisko.
05:11
We want to, and do, suspend accounts
112
299986
1930
Zawieszamy konta,
05:13
engaging in that kind of behavior.
113
301916
2624
które tak robią.
05:16
So why are the stakes higher for this?
114
304540
3247
Dlaczego więc wyższa poprzeczka?
05:19
Well, this could also be a bystander at a rally
115
307787
2999
To może być też świadek
jakiegoś zdarzenia,
jakiegoś zdarzenia,
05:22
who managed to record a video
116
310786
1910
któremu udało się nagrać,
05:24
of a police officer beating a non-violent protester
117
312696
3270
jak policjant bije niewinnego
uczestnika wiecu,
uczestnika wiecu,
05:27
who's trying to let the world know what's happening.
118
315966
2975
który stara się
przekazać światu, co się dzieje.
przekazać światu, co się dzieje.
05:30
We don't want to gamble
119
318941
1643
Nie chcemy przypadkowo
05:32
on potentially silencing that crucial speech
120
320584
2517
uciszyć tego wymownego przekazu,
05:35
by classifying it as spam and suspending it.
121
323101
2929
oznaczając go jako spam.
05:38
That means we evaluate hundreds of parameters
122
326030
2879
Monitorując konta, musimy więc
brać pod uwagę setki kryteriów,
brać pod uwagę setki kryteriów,
05:40
when looking at account behaviors,
123
328909
1688
05:42
and even then, we can still get it wrong
124
330597
2016
a mimo to i tak może zdarzyć się błąd
05:44
and have to reevaluate.
125
332613
2236
i trzeba coś ponownie sprawdzić.
05:46
Now, given the sorts of challenges I'm up against,
126
334849
3708
Patrząc na wyzwania, przed którymi staję,
05:50
it's crucial that I not only predict
127
338557
2696
trzeba nie tylko przewidywać,
05:53
but also design protections for the unexpected.
128
341253
3784
ale też tworzyć rozwiązania
dla nieoczekiwanych sytuacji.
dla nieoczekiwanych sytuacji.
05:57
And that's not just an issue for me,
129
345037
2342
Jest to ważne nie tylko dla mnie
czy Twittera, ale i dla was.
czy Twittera, ale i dla was.
05:59
or for Twitter, it's an issue for you.
130
347379
2087
06:01
It's an issue for anybody who's building or creating
131
349466
2406
Ważne dla każdego, kto buduje lub tworzy coś,
06:03
something that you think is going to be amazing
132
351872
1925
co wydaje się być wspaniałe
06:05
and will let people do awesome things.
133
353797
2789
i umożliwi innym robienie
wspaniałych rzeczy.
wspaniałych rzeczy.
06:08
So what do I do?
134
356586
2866
Co ja robię?
06:11
I pause and I think,
135
359452
3318
Zastanawiam się,
06:14
how could all of this
136
362770
2095
jak to wszystko
06:16
go horribly wrong?
137
364865
3793
może pójść źle.
06:20
I visualize catastrophe.
138
368658
4453
Wyobrażam sobie katastrofy.
06:25
And that's hard. There's a sort of
139
373111
2463
To trudne.
Występuje wtedy pewien dysonans poznawczy,
06:27
inherent cognitive dissonance in doing that,
140
375574
2848
06:30
like when you're writing your wedding vows
141
378422
1812
podobny do zawierania małżeństwa
06:32
at the same time as your prenuptial agreement.
142
380234
2646
i jednoczesnego ustanawiania intercyzy.
06:34
(Laughter)
143
382880
1696
(Śmiech)
06:36
But you still have to do it,
144
384576
2373
Ale i tak musisz to zrobić,
06:38
particularly if you're marrying
500 million tweets per day.
500 million tweets per day.
145
386949
4446
zwłaszcza gdy bierze się ślub
z 500 milionami tweetów dziennie.
z 500 milionami tweetów dziennie.
06:43
What do I mean by "visualize catastrophe?"
146
391395
3097
Co mam na myśli, mówiąc
"wyobrażanie katastrof"?
"wyobrażanie katastrof"?
06:46
I try to think of how something as
147
394492
2762
Zastanawiam się,
06:49
benign and innocuous as a picture of a cat
148
397254
3228
jak coś tak łagodnego
i niewinnego jak zdjęcie kota
i niewinnego jak zdjęcie kota
może doprowadzić do śmierci
06:52
could lead to death,
149
400482
1104
06:53
and what to do to prevent that.
150
401586
2326
i jak temu zapobiec.
06:55
Which happens to be my next example.
151
403912
2383
To stanowi mój następny przykład.
06:58
This is my cat, Eli.
152
406295
3110
Oto mój kot, Eli.
07:01
We wanted to give users the ability
153
409405
1981
Chcieliśmy dać użytkownikom
07:03
to add photos to their tweets.
154
411386
2073
możliwość dodawania zdjęć do tweetów.
Obraz mówi więcej niż 1000 słów.
07:05
A picture is worth a thousand words.
155
413459
1597
07:07
You only get 140 characters.
156
415056
2009
Ma się tylko 140 znaków.
07:09
You add a photo to your tweet,
157
417065
1200
Dodanie zdjęcia do tweeta,
07:10
look at how much more content you've got now.
158
418265
3038
to od razu więcej treści.
07:13
There's all sorts of great things you can do
159
421303
1677
Jest wiele wspaniałych rzeczy,
07:14
by adding a photo to a tweet.
160
422980
2007
które można zrobić, dodając zdjęcie.
07:16
My job isn't to think of those.
161
424987
2280
Nie o nich mam myśleć.
07:19
It's to think of what could go wrong.
162
427267
2747
Tylko o tym, co może pójść nie tak.
07:22
How could this picture
163
430014
1892
Jak takie zdjęcie
07:23
lead to my death?
164
431906
3539
może spowodować moją śmierć?
07:27
Well, here's one possibility.
165
435445
3160
Oto jedna z możliwości.
07:30
There's more in that picture than just a cat.
166
438605
3086
Na tym zdjęciu jest nie tylko kot.
07:33
There's geodata.
167
441691
2092
Są tam też geodane.
07:35
When you take a picture with your smartphone
168
443783
2212
Kiedy robi się zdjęcie
smartfonem lub aparatem cyfrowym,
smartfonem lub aparatem cyfrowym,
07:37
or digital camera,
169
445995
1299
jest wiele dodatkowych informacji
07:39
there's a lot of additional information
170
447294
1654
07:40
saved along in that image.
171
448948
1616
utrwalonych w tym zdjęciu.
07:42
In fact, this image also contains
172
450564
1932
To zdjęcie zawiera także odpowiednik tego,
07:44
the equivalent of this,
173
452496
1805
07:46
more specifically, this.
174
454301
3079
a dokładniej tego.
[szerokość/długość geograficzna]
07:49
Sure, it's not likely that someone's going to try
175
457380
1956
Mało prawdopodobne,
07:51
to track me down and do me harm
176
459336
2285
że ktoś wykorzysta zdjęcie mojego kota,
07:53
based upon image data associated
177
461621
1784
żeby mnie znaleźć i zrobić mi krzywdę,
07:55
with a picture I took of my cat,
178
463405
1948
ale zakładam, że stanie się najgorsze.
07:57
but I start by assuming the worst will happen.
179
465353
3651
Dlatego, wprowadzając zdjęcia na Twitterze,
08:01
That's why, when we launched photos on Twitter,
180
469004
2338
08:03
we made the decision to strip that geodata out.
181
471342
3821
postanowiliśmy pozbawić je geodanych.
08:07
(Applause)
182
475163
5847
(Brawa)
08:13
If I start by assuming the worst
183
481010
2613
Zaczynam od myślenia o najgorszym i idę głębiej.
08:15
and work backwards,
184
483623
947
08:16
I can make sure that the protections we build
185
484570
2553
Dzięki temu rozwiązania, które tworzymy
08:19
work for both expected
186
487123
1768
działają w przewidywalnych
i nieprzewidywalnych przypadkach.
i nieprzewidywalnych przypadkach.
08:20
and unexpected use cases.
187
488891
2078
Biorąc pod uwagę, że spędzam dnie i noce,
08:22
Given that I spend my days and nights
188
490969
2945
08:25
imagining the worst that could happen,
189
493914
2541
wyobrażając sobie najgorsze,
08:28
it wouldn't be surprising if
my worldview was gloomy.
my worldview was gloomy.
190
496455
4257
moje wyobrażenie o świecie,
mogłoby być ponure.
mogłoby być ponure.
08:32
(Laughter)
191
500712
1783
(Śmiech)
08:34
It's not.
192
502495
1417
Nie jest.
08:35
The vast majority of interactions I see --
193
503912
3876
Większość komunikacji, którą widzę,
08:39
and I see a lot, believe me -- are positive,
194
507788
3901
a widzę jej sporo, jest pozytywna.
08:43
people reaching out to help
195
511689
1924
Ludzie proszą o pomoc,
08:45
or to connect or share information with each other.
196
513613
3448
nawiązują znajomości
albo dzielą się informacjami.
albo dzielą się informacjami.
08:49
It's just that for those of us dealing with scale,
197
517061
3323
Ci, którzy mają do czynienia ze skalą działań,
08:52
for those of us tasked with keeping people safe,
198
520384
3800
z zapewnieniem innym bezpieczeństwa,
08:56
we have to assume the worst will happen,
199
524184
2546
muszą zakładać najgorsze,
08:58
because for us, a one-in-a-million chance
200
526730
4227
bo dla nas szansa jeden do miliona,
09:02
is pretty good odds.
201
530957
2749
to duża szansa.
Dziękuję.
09:05
Thank you.
202
533706
1864
(Brawa)
09:07
(Applause)
203
535570
4000
ABOUT THE SPEAKER
Del Harvey - Security mavenDel Harvey works to define policy and to ensure user safety and security in the challenging realm of modern social media.
Why you should listen
As Senior Director of Trust and Safety at Twitter, Del Harvey works to define policy and to ensure user safety and security in the challenging realm of modern social media. Prior to joining Twitter, she spent five years as the co-administrator and law enforcement liaison for a 501(c)3 non-profit charity, working with agencies ranging from local police departments to the FBI, U.S. Marshals and the Secret Service.
Del Harvey | Speaker | TED.com