TED2014
Del Harvey: Protecting Twitter users (sometimes from themselves)
Дел Харві: Незвичність масштабів Твіттера
Filmed:
Readability: 4.4
993,199 views
Коли сотні тисяч твітів з'являються щосекунди, шанс на мільйон, включно із ситуаціями, які можуть нанести шкоду користувачам, трапляється близько 500 разів на день. Для Дел Харві, яка очолює відділ компанії "Твіттер" з довіри та безпеки користувачів, непокоять ці випадки. Професіонал з безпеки проводить свій час, думаючи про те, як попередити найгірші можливі ситуації, надаючи людям по всьому світу можливість висловитись. З безпристрасним гумором вона розповідає про те, як охороняє безпеку 240 мільйонів користувачів.
Del Harvey - Security maven
Del Harvey works to define policy and to ensure user safety and security in the challenging realm of modern social media. Full bio
Del Harvey works to define policy and to ensure user safety and security in the challenging realm of modern social media. Full bio
Double-click the English transcript below to play the video.
00:12
My job at Twitter
0
984
1291
Моя робота в компанії "Твіттер" полягає в тому,
00:14
is to ensure user trust,
1
2275
1978
щоб забезпечувати довіру користувачів,
00:16
protect user rights and keep users safe,
2
4253
2837
захищати їхні права і охороняти їх,
00:19
both from each other
3
7090
1260
як одне від одного,
00:20
and, at times, from themselves.
4
8350
3899
так і, деколи, від самих себе.
00:24
Let's talk about what scale looks like at Twitter.
5
12249
4275
Пропоную обговорити, як виглядає масштаб у Твіттері.
00:28
Back in January 2009,
6
16524
2870
Ще у січні 2009 року
00:31
we saw more than two million new tweets each day
7
19394
3331
на платформі можна було побачити понад два мільйони
00:34
on the platform.
8
22725
1764
твітів щодня.
00:36
January 2014, more than 500 million.
9
24489
5908
У січні 2014 року - понад 500 мільйонів.
00:42
We were seeing two million tweets
10
30397
2492
Ми спостерігали два мільйони твітів
00:44
in less than six minutes.
11
32889
2176
менш, ніж за шість хвилин.
00:47
That's a 24,900-percent increase.
12
35065
6984
Це збільшення на 24 900 відсотків.
00:54
Now, the vast majority of activity on Twitter
13
42049
3253
Наразі переважна більшість активності на Твіттері
00:57
puts no one in harm's way.
14
45302
1503
не чинить ніякої шкоди.
00:58
There's no risk involved.
15
46805
1935
Немає жодного ризику.
01:00
My job is to root out and prevent activity that might.
16
48740
5753
Моє завдання полягає у викоріненні та недопусканні активності, яка може його спричинити.
01:06
Sounds straightforward, right?
17
54493
1973
Звучить доволі просто, чи не так?
01:08
You might even think it'd be easy,
18
56466
1152
Вам навіть може здатись, що це легко,
01:09
given that I just said the vast majority
19
57618
2170
оскільки, як я щойно сказала, переважна більшість
01:11
of activity on Twitter puts no one in harm's way.
20
59788
3810
активності на Твіттері нікому не шкодить.
01:15
Why spend so much time
21
63598
2169
Навіщо ж тоді витрачати стільки часу
01:17
searching for potential calamities
22
65767
2743
на пошуки потенційних небезпек
01:20
in innocuous activities?
23
68510
2900
у безневинних діях?
01:23
Given the scale that Twitter is at,
24
71410
2940
Беручи до уваги масштаб Твіттера,
01:26
a one-in-a-million chance happens
25
74350
2357
шанс "один на мільйон" стається
01:28
500 times a day.
26
76707
4876
500 разів на день.
01:33
It's the same for other companies
27
81583
1445
Така ж ситуація з іншими компаніями,
01:35
dealing at this sort of scale.
28
83028
1471
які працюють з такими масштабами.
01:36
For us, edge cases,
29
84499
1708
Для нас крайні випадки,
01:38
those rare situations that are unlikely to occur,
30
86207
3625
тобто ті рідкісні ситуації, які навряд чи стануться,
01:41
are more like norms.
31
89832
2622
це норма.
01:44
Say 99.999 percent of tweets
32
92454
3942
Скажімо, 99,999 відсотків твітів
01:48
pose no risk to anyone.
33
96396
1888
не загрожують нікому.
01:50
There's no threat involved.
34
98284
1066
Немає ніякої загрози.
01:51
Maybe people are documenting travel landmarks
35
99350
2954
Можливо, люди фільмують визначні місця подорожі,
01:54
like Australia's Heart Reef,
36
102304
1963
як от австралійський Харт Риф,
01:56
or tweeting about a concert they're attending,
37
104267
2921
чи пишуть твіти про концерт, який вони відвідують,
01:59
or sharing pictures of cute baby animals.
38
107188
4747
чи розміщують фото милих маленьких звіряток.
02:03
After you take out that 99.999 percent,
39
111935
4509
Після того, як ви заберете ті 99.999 відсотків,
02:08
that tiny percentage of tweets remaining
40
116444
3529
залишиться крихітна частина твітів,
02:11
works out to roughly
41
119973
2389
яка становить близько
02:14
150,000 per month.
42
122362
3475
150 тис. на місяць.
02:17
The sheer scale of what we're dealing with
43
125837
2456
Справжній масштаб того, з чим ми працюємо,
02:20
makes for a challenge.
44
128293
2312
потребує прикладення зусиль.
02:22
You know what else makes my role
45
130605
1178
Знаєте, що ще потребує від мене
02:23
particularly challenging?
46
131783
3107
особливих зусиль?
02:26
People do weird things.
47
134890
5123
Люди роблять дивні речі.
02:32
(Laughter)
48
140013
1829
(Сміх)
02:33
And I have to figure out what they're doing,
49
141842
2391
І мені потрібно з'ясувати, що вони роблять,
02:36
why, and whether or not there's risk involved,
50
144233
2249
чому, і чи не становить це загрози.
02:38
often without much in terms of context
51
146482
2168
Часто я не знаю контексту
02:40
or background.
52
148650
1847
чи ситуації.
02:42
I'm going to show you some examples
53
150497
2077
Я покажу вам кілька прикладів,
02:44
that I've run into during my time at Twitter --
54
152574
2005
які трапились мені протягом моєї роботи у Твіттері --
02:46
these are all real examples —
55
154579
1620
це реальні випадки ситуацій,
02:48
of situations that at first seemed cut and dried,
56
156199
2653
які спочатку здавалися зрозумілими,
02:50
but the truth of the matter was something
57
158852
1643
але насправді все виявлялось
02:52
altogether different.
58
160495
1550
зовсім іншим.
02:54
The details have been changed
59
162045
1977
Ми змінили деталі для
02:56
to protect the innocent
60
164022
1257
захисту невинних,
02:57
and sometimes the guilty.
61
165279
3233
а деколи і винних користувачів.
03:00
We'll start off easy.
62
168512
3005
Почнемо з простого.
03:03
["Yo bitch"]
63
171517
1793
["Гей, сучка"]
03:05
If you saw a Tweet that only said this,
64
173310
3228
Якщо ви побачите твіт лише з цією інформацією,
03:08
you might think to yourself,
65
176538
1694
ви подумаєте:
03:10
"That looks like abuse."
66
178232
1653
"Виглядає як образа."
03:11
After all, why would you
want to receive the message,
want to receive the message,
67
179885
3107
Зрештою, вам навряд чи хотілось би отримати повідомлення
03:14
"Yo, bitch."
68
182992
2218
"Гей, сучка."
03:17
Now, I try to stay relatively hip
69
185210
4663
Отож, я намагаюсь слідкувати
03:21
to the latest trends and memes,
70
189873
2512
за останніми трендами та мемами,
03:24
so I knew that "yo, bitch"
71
192385
2704
тому я знаю, що "гей, сучка" --
03:27
was also often a common greeting between friends,
72
195089
3154
це типове привітання між друзями,
03:30
as well as being a popular "Breaking Bad" reference.
73
198243
4262
а також згадка про популярний серіал "Пуститися берега".
03:34
I will admit that I did not expect
74
202505
2487
Зізнаюсь, що я не очікувала
03:36
to encounter a fourth use case.
75
204992
2841
зіткнутися з таким випадком.
03:39
It turns out it is also used on Twitter
76
207833
3104
Виявляється, що такий вираз використовують у Твіттері,
03:42
when people are role-playing as dogs.
77
210937
3062
коли люди пишуть від імені собак.
03:45
(Laughter)
78
213999
5279
(Сміх)
03:51
And in fact, in that case,
79
219278
1666
І насправді, в такому випадку,
03:52
it's not only not abusive,
80
220944
1609
це не лише не образа,
03:54
it's technically just an accurate greeting.
81
222553
3139
а просто нормальне привітання.
03:57
(Laughter)
82
225692
2889
(Сміх)
04:00
So okay, determining whether or not
83
228581
2071
Гаразд, отож, визначити чи можна щось
04:02
something is abusive without context,
84
230652
1848
вважати образливим чи ні без додаткової інформації
04:04
definitely hard.
85
232500
1592
насправді важко.
04:06
Let's look at spam.
86
234092
2717
Погляньмо на спам.
04:08
Here's an example of an account engaged
87
236809
1960
Ось приклад облікового запису із класичними
04:10
in classic spammer behavior,
88
238769
1668
ознаками спамера:
04:12
sending the exact same message
89
240437
1559
надсилання однакового повідомлення
04:13
to thousands of people.
90
241996
1804
тисячам людей.
04:15
While this is a mockup I put
together using my account,
together using my account,
91
243800
2793
Оскільки це макет, я використала свій обліковий запис,
04:18
we see accounts doing this all the time.
92
246593
3001
однак ми бачимо таку ситуацію постійно.
04:21
Seems pretty straightforward.
93
249594
1979
Здається, ніби все зрозуміло.
04:23
We should just automatically suspend accounts
94
251573
2053
Нам слід просто автоматично призупинити
04:25
engaging in this kind of behavior.
95
253626
3307
облікові записи, від яких спостерігається така активність.
04:28
Turns out there's some exceptions to that rule.
96
256933
3210
Виявляється, що існують винятки з такого правила.
04:32
Turns out that that message
could also be a notification
could also be a notification
97
260143
2883
Виявляється, що таке повідомлення може сповіщати про те,
04:35
you signed up for that the International
Space Station is passing overhead
Space Station is passing overhead
98
263026
3889
що ви підписались на сповіщення від Міжнародної космічної станції,
04:38
because you wanted to go outside
99
266915
1846
бо ви хочете вийти надвір і побачити,
04:40
and see if you could see it.
100
268761
1948
коли вона пролітатиме над вами.
04:42
You're not going to get that chance
101
270709
1225
Ви втратите такий шанс,
04:43
if we mistakenly suspend the account
102
271934
1847
якщо ми випадково видалимо профіль,
04:45
thinking it's spam.
103
273781
2266
вважаючи його спамом.
04:48
Okay. Let's make the stakes higher.
104
276047
3526
Гаразд. Піднімемо ставки.
04:51
Back to my account,
105
279573
1916
Повернемось до мого профілю,
04:53
again exhibiting classic behavior.
106
281489
3505
який демонструє класичну поведінку.
04:56
This time it's sending the same message and link.
107
284994
2643
Цього разу він надсилає однакове повідомлення і посилання.
04:59
This is often indicative of
something called phishing,
something called phishing,
108
287637
2774
Це сигналізує про так званий "фішинг",
05:02
somebody trying to steal another
person's account information
person's account information
109
290411
3178
ситуацію, коли хтось намагається викрасти інформацію профілю іншого користувача,
05:05
by directing them to another website.
110
293589
2203
направляючи його на інший веб-сайт.
05:07
That's pretty clearly not a good thing.
111
295792
4194
Це явно не дуже добре.
05:11
We want to, and do, suspend accounts
112
299986
1930
Ми хочемо і намагаємось видаляти профілі,
05:13
engaging in that kind of behavior.
113
301916
2624
які займаються такою діяльністю.
05:16
So why are the stakes higher for this?
114
304540
3247
Отож, чому ставки тут вищі?
05:19
Well, this could also be a bystander at a rally
115
307787
2999
Це може бути спостерігач на мітингу,
05:22
who managed to record a video
116
310786
1910
якому вдалося записати відео,
05:24
of a police officer beating a non-violent protester
117
312696
3270
як полісмен б'є мирного протестувальника,
05:27
who's trying to let the world know what's happening.
118
315966
2975
і який намагається розповісти про це світу.
05:30
We don't want to gamble
119
318941
1643
Ми не хочемо замовчувати
05:32
on potentially silencing that crucial speech
120
320584
2517
таке важливе повідомлення,
05:35
by classifying it as spam and suspending it.
121
323101
2929
визначаючи це як спам, і видаляти його.
05:38
That means we evaluate hundreds of parameters
122
326030
2879
Це означає, що ми оцінюємо сотні параметрів,
05:40
when looking at account behaviors,
123
328909
1688
спостерігаючи за поведінкою профілів,
05:42
and even then, we can still get it wrong
124
330597
2016
і навіть тоді ми все ж можемо помилитись,
05:44
and have to reevaluate.
125
332613
2236
і нам потрібно оцінити ситуацію по-новому.
05:46
Now, given the sorts of challenges I'm up against,
126
334849
3708
Отож, беручи до уваги всі проблеми, з якими я стикаюсь,
05:50
it's crucial that I not only predict
127
338557
2696
мені важливо не лише передбачити,
05:53
but also design protections for the unexpected.
128
341253
3784
але й розробити захист від непередбачуваного.
05:57
And that's not just an issue for me,
129
345037
2342
І це проблема не тільки для мене
05:59
or for Twitter, it's an issue for you.
130
347379
2087
чи для Твіттера, це проблема і для вас.
06:01
It's an issue for anybody who's building or creating
131
349466
2406
Це проблема для всіх, хто будує чи створює
06:03
something that you think is going to be amazing
132
351872
1925
щось таке, що, на його думку, буде чудовим
06:05
and will let people do awesome things.
133
353797
2789
і дозволить людям творити чудові речі.
06:08
So what do I do?
134
356586
2866
Отож, що я роблю?
06:11
I pause and I think,
135
359452
3318
Я зупиняюсь і думаю,
06:14
how could all of this
136
362770
2095
як це все може
06:16
go horribly wrong?
137
364865
3793
вийти з-під контролю?
06:20
I visualize catastrophe.
138
368658
4453
Я уявляю катастрофу.
06:25
And that's hard. There's a sort of
139
373111
2463
А це складно. В цьому існує певний
06:27
inherent cognitive dissonance in doing that,
140
375574
2848
вроджений когнітивний дисонанс,
06:30
like when you're writing your wedding vows
141
378422
1812
щось схоже, коли ви одночасно пишете
06:32
at the same time as your prenuptial agreement.
142
380234
2646
свої весільні клятви і передшлюбний контракт.
06:34
(Laughter)
143
382880
1696
(Сміх)
06:36
But you still have to do it,
144
384576
2373
Проте вам все ж потрібно це зробити,
06:38
particularly if you're marrying
500 million tweets per day.
500 million tweets per day.
145
386949
4446
особливо, якщо ви "одружуєтесь" з 500 мільйонами твітів щодня.
06:43
What do I mean by "visualize catastrophe?"
146
391395
3097
Що я маю на увазі під "уявлянням катастрофи"?
06:46
I try to think of how something as
147
394492
2762
Я намагаюсь уявити, як щось
06:49
benign and innocuous as a picture of a cat
148
397254
3228
таке нешкідливе як фото кота,
06:52
could lead to death,
149
400482
1104
може призвести до смерті,
06:53
and what to do to prevent that.
150
401586
2326
і що потрібно зробити, щоб запобігти цьому.
06:55
Which happens to be my next example.
151
403912
2383
Про це буде мій наступний приклад.
06:58
This is my cat, Eli.
152
406295
3110
Це моя кішка, Елі.
07:01
We wanted to give users the ability
153
409405
1981
Ми хотіли надати користувачам можливість
07:03
to add photos to their tweets.
154
411386
2073
додавати фото до твітів.
07:05
A picture is worth a thousand words.
155
413459
1597
Фото може замінити тисячі слів.
07:07
You only get 140 characters.
156
415056
2009
У вас лише 140 символів.
07:09
You add a photo to your tweet,
157
417065
1200
Ви додаєте фото до твіта
07:10
look at how much more content you've got now.
158
418265
3038
і погляньте, наскільки більше інформації маєте.
07:13
There's all sorts of great things you can do
159
421303
1677
Додаючи фото до твіта,
07:14
by adding a photo to a tweet.
160
422980
2007
ви можете робити багато чудових речей.
07:16
My job isn't to think of those.
161
424987
2280
Моя робота полягає не в тому, щоб думати про це.
07:19
It's to think of what could go wrong.
162
427267
2747
Вона полягає в тому, щоб думати, що може піти не так.
07:22
How could this picture
163
430014
1892
Як це фото може
07:23
lead to my death?
164
431906
3539
спричинити мою смерть?
07:27
Well, here's one possibility.
165
435445
3160
Ось одна можливість.
07:30
There's more in that picture than just a cat.
166
438605
3086
На цьому фото не лише кішка.
07:33
There's geodata.
167
441691
2092
В ньому міститься геоінформація.
07:35
When you take a picture with your smartphone
168
443783
2212
Коли ви робите знімок своїм смартфоном
07:37
or digital camera,
169
445995
1299
або цифровим фотоапаратом,
07:39
there's a lot of additional information
170
447294
1654
у зображенні зберігається
07:40
saved along in that image.
171
448948
1616
багато додаткової інформації.
07:42
In fact, this image also contains
172
450564
1932
Насправді, це фото також містить
07:44
the equivalent of this,
173
452496
1805
відповідник цього,
07:46
more specifically, this.
174
454301
3079
а точніше - цього.
07:49
Sure, it's not likely that someone's going to try
175
457380
1956
Звісно, навряд чи хтось буде намагатись
07:51
to track me down and do me harm
176
459336
2285
прослідкувати за мною і нанести мені шкоду
07:53
based upon image data associated
177
461621
1784
на основі інформації про фото
07:55
with a picture I took of my cat,
178
463405
1948
моєї кішки.
07:57
but I start by assuming the worst will happen.
179
465353
3651
Проте спершу я припускаю найгірше.
08:01
That's why, when we launched photos on Twitter,
180
469004
2338
Саме тому, коли ми запустили фото на Твіттері,
08:03
we made the decision to strip that geodata out.
181
471342
3821
ми вирішили видалити геоінформацію.
08:07
(Applause)
182
475163
5847
(Оплески)
08:13
If I start by assuming the worst
183
481010
2613
Якщо я припускаю найгірше
08:15
and work backwards,
184
483623
947
і рухаюсь у зворотньому напрямку,
08:16
I can make sure that the protections we build
185
484570
2553
я переконуюсь, що захист, який ми створюємо,
08:19
work for both expected
186
487123
1768
працюватиме і в передбачуваних,
08:20
and unexpected use cases.
187
488891
2078
і в непередбачуваних ситуаціях.
08:22
Given that I spend my days and nights
188
490969
2945
Беручи до уваги те, що днями і ночами
08:25
imagining the worst that could happen,
189
493914
2541
я уявляю найгірше, що може трапитись,
08:28
it wouldn't be surprising if
my worldview was gloomy.
my worldview was gloomy.
190
496455
4257
буде не дивно, якщо мій світогляд виявиться досить похмурим.
08:32
(Laughter)
191
500712
1783
(Сміх)
08:34
It's not.
192
502495
1417
Це не так.
08:35
The vast majority of interactions I see --
193
503912
3876
Переважна більшість ситуацій, які я спостерігаю,
08:39
and I see a lot, believe me -- are positive,
194
507788
3901
а я бачу їх багато, повірте, -- позитивні,
08:43
people reaching out to help
195
511689
1924
люди намагаються допомогти
08:45
or to connect or share information with each other.
196
513613
3448
поширити інформацію між собою.
08:49
It's just that for those of us dealing with scale,
197
517061
3323
Це тільки через те, що ми маємо справу з таким масштабом,
08:52
for those of us tasked with keeping people safe,
198
520384
3800
і відповідаємо за безпеку людей,
08:56
we have to assume the worst will happen,
199
524184
2546
нам потрібно припускати найгірший розвиток подій,
08:58
because for us, a one-in-a-million chance
200
526730
4227
тому що для нас навіть один випадок на мільйон
09:02
is pretty good odds.
201
530957
2749
значить багато.
09:05
Thank you.
202
533706
1864
Дякую.
09:07
(Applause)
203
535570
4000
(Оплески)
ABOUT THE SPEAKER
Del Harvey - Security mavenDel Harvey works to define policy and to ensure user safety and security in the challenging realm of modern social media.
Why you should listen
As Senior Director of Trust and Safety at Twitter, Del Harvey works to define policy and to ensure user safety and security in the challenging realm of modern social media. Prior to joining Twitter, she spent five years as the co-administrator and law enforcement liaison for a 501(c)3 non-profit charity, working with agencies ranging from local police departments to the FBI, U.S. Marshals and the Secret Service.
Del Harvey | Speaker | TED.com