TED2014
Del Harvey: Protecting Twitter users (sometimes from themselves)
דל הארווי: המוזרות של קנה המידה בטוויטר
Filmed:
Readability: 4.4
993,199 views
כאשר מאות אלפי ציוצים נורים בכל שנייה, סיכוי של אחד למיליון - כולל תרחישים שלא נשמעים סביר שעלולים לפגוע במשתמשים - קורה כ-500 פעמים ביום.
לדל הארווי, העומדת בראש צוות האמון והבטיחות של טוויטר, סיכויים אלה אינם טובים. מומחית האבטחה מבלה את ימייה בלחשוב על איך למנוע את התרחישים הגרועים ביותר תוך מתן קול לאנשים ברחבי העולם.
בהומור חסר הבעה, היא נותנת הצצה לדרך בה היא שומרת 240 מיליון משתמשים בטוחים.
Del Harvey - Security maven
Del Harvey works to define policy and to ensure user safety and security in the challenging realm of modern social media. Full bio
Del Harvey works to define policy and to ensure user safety and security in the challenging realm of modern social media. Full bio
Double-click the English transcript below to play the video.
00:12
My job at Twitter
0
984
1291
העבודה שלי בטוויטר
00:14
is to ensure user trust,
1
2275
1978
היא להבטיח את אמון המשתמש,
00:16
protect user rights and keep users safe,
2
4253
2837
להגן על זכויות המשתמש
ולשמור על בטחון המשתמשים
ולשמור על בטחון המשתמשים
00:19
both from each other
3
7090
1260
גם זה מזה
00:20
and, at times, from themselves.
4
8350
3899
וגם, לעתים, מעצמם.
00:24
Let's talk about what scale looks like at Twitter.
5
12249
4275
בואו נדבר על איך נראה
קנה המידה בטוויטר.
קנה המידה בטוויטר.
00:28
Back in January 2009,
6
16524
2870
בינואר 2009,
00:31
we saw more than two million new tweets each day
7
19394
3331
אנחנו ראינו יותר משני מיליון ציוצים בכל יום
00:34
on the platform.
8
22725
1764
בפלטפורמה.
00:36
January 2014, more than 500 million.
9
24489
5908
ינואר 2014, יותר מ-500 מיליון.
00:42
We were seeing two million tweets
10
30397
2492
אנחנו ראינו יותר משני מיליון ציוצים
00:44
in less than six minutes.
11
32889
2176
בפחות משש דקות.
00:47
That's a 24,900-percent increase.
12
35065
6984
זהו גידול של 24,900 אחוזים.
00:54
Now, the vast majority of activity on Twitter
13
42049
3253
עכשיו, רובם המכריע
של הפעילויות בטוויטר
של הפעילויות בטוויטר
00:57
puts no one in harm's way.
14
45302
1503
לא פוגע באף אחד בשום דרך.
00:58
There's no risk involved.
15
46805
1935
שום סיכון לא מעורב.
01:00
My job is to root out and prevent activity that might.
16
48740
5753
העבודה שלי היא לעקוב ולמנוע
פעילויות שעשויות להיות כאלו.
פעילויות שעשויות להיות כאלו.
01:06
Sounds straightforward, right?
17
54493
1973
נשמע פשוט, נכון?
01:08
You might even think it'd be easy,
18
56466
1152
אתם עשויים אפילו לחשוב שזה יכול להיות קל,
01:09
given that I just said the vast majority
19
57618
2170
בהתחשב בעובדה שאני
רק אמרתי שרובם המכריע
רק אמרתי שרובם המכריע
01:11
of activity on Twitter puts no one in harm's way.
20
59788
3810
של הפעילויות בטוויטר לא
פוגעות באף אחד בשום דרך.
פוגעות באף אחד בשום דרך.
01:15
Why spend so much time
21
63598
2169
למה לבזבז כל כך הרבה זמן
01:17
searching for potential calamities
22
65767
2743
בחיפוש אסונות פוטנציאליים
01:20
in innocuous activities?
23
68510
2900
בפעילות בלתי מזיקה?
01:23
Given the scale that Twitter is at,
24
71410
2940
בהתחשב בקנה המידה שטוויטר נמצאת בו,
01:26
a one-in-a-million chance happens
25
74350
2357
סיכוי של אחד למיליון קורה
01:28
500 times a day.
26
76707
4876
500 פעמים ביום.
01:33
It's the same for other companies
27
81583
1445
זה אותו דבר בחברות אחרות
01:35
dealing at this sort of scale.
28
83028
1471
שמתמודדות עם אותו קנה מידה.
01:36
For us, edge cases,
29
84499
1708
בשבילנו, מקרי קצה,
01:38
those rare situations that are unlikely to occur,
30
86207
3625
מצבים נדירים אלה שאינם צפויים להתרחש,
01:41
are more like norms.
31
89832
2622
הם יותר כמו נורמות.
01:44
Say 99.999 percent of tweets
32
92454
3942
נגיד ש 99.999 אחוז מהציוצים
01:48
pose no risk to anyone.
33
96396
1888
לא מציבים סיכון לאף אחד.
01:50
There's no threat involved.
34
98284
1066
אין שום איום מעורב.
01:51
Maybe people are documenting travel landmarks
35
99350
2954
אולי אנשים מתעדים ציוני דרך מהנסיעות
01:54
like Australia's Heart Reef,
36
102304
1963
כמו "ריף הלב" של אוסטרליה,
01:56
or tweeting about a concert they're attending,
37
104267
2921
לציוצים על קונצרט שהם משתתפים בו,
01:59
or sharing pictures of cute baby animals.
38
107188
4747
או משתפים תמונות של
גורים חמודים של חיות.
גורים חמודים של חיות.
02:03
After you take out that 99.999 percent,
39
111935
4509
אחרי שאתם מוציאים
את 99.999 האחוזים האלו,
את 99.999 האחוזים האלו,
02:08
that tiny percentage of tweets remaining
40
116444
3529
האחוז הזעיר הזה של ציוצים שנשארו
02:11
works out to roughly
41
119973
2389
בפועל יוצא בערך
02:14
150,000 per month.
42
122362
3475
150,000 בחודש.
02:17
The sheer scale of what we're dealing with
43
125837
2456
ההיקף העצום של מה שיש לנו עסק איתו
02:20
makes for a challenge.
44
128293
2312
עושה את זה למאתגר.
02:22
You know what else makes my role
45
130605
1178
אתם יודעים מה עוד
עושה את התפקיד שלי
עושה את התפקיד שלי
02:23
particularly challenging?
46
131783
3107
למאתגר במיוחד?
02:26
People do weird things.
47
134890
5123
אנשים שעושים דברים משונים.
02:32
(Laughter)
48
140013
1829
(צחוק)
02:33
And I have to figure out what they're doing,
49
141842
2391
ואני צריכה להבין מה הם עושים,
02:36
why, and whether or not there's risk involved,
50
144233
2249
למה, ואם יש או אין סיכון מעורב,
02:38
often without much in terms of context
51
146482
2168
לעתים קרובות ללא
הרבה מבחינת הקשר
הרבה מבחינת הקשר
02:40
or background.
52
148650
1847
או רקע.
02:42
I'm going to show you some examples
53
150497
2077
אני הולכת להראות לכם כמה דוגמאות
02:44
that I've run into during my time at Twitter --
54
152574
2005
שנתקלתי בהן במשך הזמן
בעבודתי בטוויטר --
בעבודתי בטוויטר --
02:46
these are all real examples —
55
154579
1620
אלו כולן דוגמאות אמיתיות --
02:48
of situations that at first seemed cut and dried,
56
156199
2653
של מצבים שנראים במבט ראשון
ברורים ומובנים מאליהם,
ברורים ומובנים מאליהם,
02:50
but the truth of the matter was something
57
158852
1643
אבל האמת הייתה משהו
02:52
altogether different.
58
160495
1550
שונה לחלוטין.
02:54
The details have been changed
59
162045
1977
הפרטים שונו
02:56
to protect the innocent
60
164022
1257
בכדי להגן על חפים מפשע
02:57
and sometimes the guilty.
61
165279
3233
ולפעמים על האשמים.
03:00
We'll start off easy.
62
168512
3005
ובכן, נתחיל מהקל.
03:03
["Yo bitch"]
63
171517
1793
["יואו, כלבה"]
03:05
If you saw a Tweet that only said this,
64
173310
3228
אם הייתם רואים ציוץ שרק אומר את זה,
03:08
you might think to yourself,
65
176538
1694
הייתם חושבים לעצמכם,
03:10
"That looks like abuse."
66
178232
1653
"זה נראה כמו פגיעה,"
03:11
After all, why would you
want to receive the message,
want to receive the message,
67
179885
3107
אחרי הכל, למה
שתרצו לקבל את ההודעה,
שתרצו לקבל את ההודעה,
03:14
"Yo, bitch."
68
182992
2218
"יואו, כלבה."
03:17
Now, I try to stay relatively hip
69
185210
4663
עכשיו, אני מנסה להשאר יחסית בעניינים
03:21
to the latest trends and memes,
70
189873
2512
למגמות ולממים האחרונים,
03:24
so I knew that "yo, bitch"
71
192385
2704
אז אני יודעת ש "יואו, כלבה"
03:27
was also often a common greeting between friends,
72
195089
3154
גם היתה לעתים קרובות
ברכה משותפת בין חברים,
ברכה משותפת בין חברים,
03:30
as well as being a popular "Breaking Bad" reference.
73
198243
4262
כמו גם התייחסות פופולרית ל "שובר שורות".
03:34
I will admit that I did not expect
74
202505
2487
אני מודה שאני לא ציפיתי
03:36
to encounter a fourth use case.
75
204992
2841
להיתקל במקרה השימוש הרביעי.
03:39
It turns out it is also used on Twitter
76
207833
3104
הסתבר שגם משתמשים בזה בטוויטר
03:42
when people are role-playing as dogs.
77
210937
3062
כאשר אנשים משחקים
משחק תפקידים ככלבים.
משחק תפקידים ככלבים.
03:45
(Laughter)
78
213999
5279
(צחוק)
03:51
And in fact, in that case,
79
219278
1666
ולמעשה, במקרה הזה,
03:52
it's not only not abusive,
80
220944
1609
לא רק שזה לא מעליב,
03:54
it's technically just an accurate greeting.
81
222553
3139
זו טכנית רק ברכה מדוייקת.
03:57
(Laughter)
82
225692
2889
(צחוק)
04:00
So okay, determining whether or not
83
228581
2071
אז בסדר, לקבוע אם כן או לא
04:02
something is abusive without context,
84
230652
1848
משהו פוגעני ללא הקשר,
04:04
definitely hard.
85
232500
1592
זה קשה בהחלט.
04:06
Let's look at spam.
86
234092
2717
בואו נסתכל על דואר זבל.
04:08
Here's an example of an account engaged
87
236809
1960
הנה דוגמא של חשבון העוסק
04:10
in classic spammer behavior,
88
238769
1668
בהתנהגות קלאסית של הפצת דואר זבל,
04:12
sending the exact same message
89
240437
1559
שליחה של אותה הודעה בדיוק
04:13
to thousands of people.
90
241996
1804
לאלפי אנשים.
04:15
While this is a mockup I put
together using my account,
together using my account,
91
243800
2793
בזמן שזה דגם שהכנתי
באמצעות החשבון שלי,
באמצעות החשבון שלי,
04:18
we see accounts doing this all the time.
92
246593
3001
אנו רואים חשבונות שעושים את זה כל הזמן.
04:21
Seems pretty straightforward.
93
249594
1979
נראה די פשוט.
04:23
We should just automatically suspend accounts
94
251573
2053
אנחנו פשוט צריכים באופן
אוטומטי להשעות חשבונות
אוטומטי להשעות חשבונות
04:25
engaging in this kind of behavior.
95
253626
3307
העוסקים בסוג זה של התנהגות.
04:28
Turns out there's some exceptions to that rule.
96
256933
3210
מסתבר שיש יוצאים מן הכלל לכלל הזה.
04:32
Turns out that that message
could also be a notification
could also be a notification
97
260143
2883
מסתבר שההודעה הזאת
יכולה גם להיות התראה
יכולה גם להיות התראה
04:35
you signed up for that the International
Space Station is passing overhead
Space Station is passing overhead
98
263026
3889
שנרשמת אליה שתחנת
החלל הבינלאומית חולפת מעלינו
החלל הבינלאומית חולפת מעלינו
04:38
because you wanted to go outside
99
266915
1846
בגלל שרצית לצאת החוצה
04:40
and see if you could see it.
100
268761
1948
ולראות אם אתה יכול לראות אותה.
04:42
You're not going to get that chance
101
270709
1225
אתה לא תוכל לקבל את ההזדמנות הזאת
04:43
if we mistakenly suspend the account
102
271934
1847
אם אנחנו בטעות נשעה את החשבון
04:45
thinking it's spam.
103
273781
2266
במחשבה שזה דואר זבל.
04:48
Okay. Let's make the stakes higher.
104
276047
3526
בסדר. בואו נעלה את ההימור.
04:51
Back to my account,
105
279573
1916
בחזרה לחשבון שלי,
04:53
again exhibiting classic behavior.
106
281489
3505
שוב מפגין התנהגות קלאסית.
04:56
This time it's sending the same message and link.
107
284994
2643
הפעם זה שולח את אותה הודעה וקישור.
04:59
This is often indicative of
something called phishing,
something called phishing,
108
287637
2774
הדבר בדרך כלל מעיד על
משהו שנקרא פישינג,
משהו שנקרא פישינג,
05:02
somebody trying to steal another
person's account information
person's account information
109
290411
3178
מישהו מנסה לגנוב
מידע מחשבון של אדם אחר
מידע מחשבון של אדם אחר
05:05
by directing them to another website.
110
293589
2203
על ידי הפנייתם לאתר אחר.
05:07
That's pretty clearly not a good thing.
111
295792
4194
די ברור שזה אינו דבר טוב.
05:11
We want to, and do, suspend accounts
112
299986
1930
אנחנו רוצים, ומשעים חשבונות
05:13
engaging in that kind of behavior.
113
301916
2624
העוסקים בסוג כזה של התנהגות.
05:16
So why are the stakes higher for this?
114
304540
3247
אז למה הסיכונים גבוהים לזה?
05:19
Well, this could also be a bystander at a rally
115
307787
2999
ובכן, זה יכול להיות גם עובר אורח בעצרת
05:22
who managed to record a video
116
310786
1910
שהצליח להקליט וידאו
05:24
of a police officer beating a non-violent protester
117
312696
3270
של שוטר מכה מפגין לא אלים
05:27
who's trying to let the world know what's happening.
118
315966
2975
שמנסה להראות לעולם מה קורה.
05:30
We don't want to gamble
119
318941
1643
אנחנו לא רוצים להמר על
05:32
on potentially silencing that crucial speech
120
320584
2517
השתקה פוטנציאלית של הנאום החיוני הזה
05:35
by classifying it as spam and suspending it.
121
323101
2929
על ידי סיווגו כדואר זבל והשעייתו.
05:38
That means we evaluate hundreds of parameters
122
326030
2879
זה אומר שאנחנו מעריכים מאות מאפיינים
05:40
when looking at account behaviors,
123
328909
1688
כשאנחנו מסתכלים על התנהגות של חשבונות,
05:42
and even then, we can still get it wrong
124
330597
2016
ואפילו אז, אנחנו עדיין יכולים לטעות
05:44
and have to reevaluate.
125
332613
2236
וצריכים להעריך מחדש.
05:46
Now, given the sorts of challenges I'm up against,
126
334849
3708
עכשיו, בהתחשב בסוגי האתגרים הניצבים מולי,
05:50
it's crucial that I not only predict
127
338557
2696
זה חיוני שאני לא רק אנבא
05:53
but also design protections for the unexpected.
128
341253
3784
אלא גם אעצב הגנות לבלתי צפוי.
05:57
And that's not just an issue for me,
129
345037
2342
וזה לא רק עניין בשבילי,
05:59
or for Twitter, it's an issue for you.
130
347379
2087
או בשביל טוויטר, זה גם עניין בשבילכם.
06:01
It's an issue for anybody who's building or creating
131
349466
2406
זהו עניין לכל אחד שבונה או יוצר
06:03
something that you think is going to be amazing
132
351872
1925
משהו שאתם חושבים שהולך להיות מדהים
06:05
and will let people do awesome things.
133
353797
2789
ויתן לאנשים לעשות דברים נהדרים.
06:08
So what do I do?
134
356586
2866
אז מה אני עושה?
06:11
I pause and I think,
135
359452
3318
אני עוצרת וחושבת,
06:14
how could all of this
136
362770
2095
איך כל זה
06:16
go horribly wrong?
137
364865
3793
יכול להשתבש באופן מחריד?
06:20
I visualize catastrophe.
138
368658
4453
אני מדמיינת קטסטרופה.
06:25
And that's hard. There's a sort of
139
373111
2463
וזה קשה. זה סוג של
06:27
inherent cognitive dissonance in doing that,
140
375574
2848
דיסוננס קוגניטיבי הגלום בעשייה של זה,
06:30
like when you're writing your wedding vows
141
378422
1812
כמו כאשר אתם כותבים את
נדרי החתונה שלכם
נדרי החתונה שלכם
06:32
at the same time as your prenuptial agreement.
142
380234
2646
באותו הזמן עם הסכם הממון שלכם.
06:34
(Laughter)
143
382880
1696
(צחוק)
06:36
But you still have to do it,
144
384576
2373
אבל אתם עדיין צריכים לעשות את זה,
06:38
particularly if you're marrying
500 million tweets per day.
500 million tweets per day.
145
386949
4446
במיוחד אם אתם מתחתנים
עם 500 מיליון ציוצים ביום.
עם 500 מיליון ציוצים ביום.
06:43
What do I mean by "visualize catastrophe?"
146
391395
3097
למה אני מתכוונת ב"לדמיין קטסטרופה?"
06:46
I try to think of how something as
147
394492
2762
אני מנסה לחשוב על איך שלפעמים
06:49
benign and innocuous as a picture of a cat
148
397254
3228
תמונה שפירה ולא מזיקה כמו תמונה של חתול
06:52
could lead to death,
149
400482
1104
יכולה להוביל למוות,
06:53
and what to do to prevent that.
150
401586
2326
ומה לעשות כדי למנוע זאת.
06:55
Which happens to be my next example.
151
403912
2383
מה שהולכת להיות הדוגמה הבאה שלי.
06:58
This is my cat, Eli.
152
406295
3110
זהו החתול שלי, איליי.
07:01
We wanted to give users the ability
153
409405
1981
רצינו לתת למשתמשים את היכולת
07:03
to add photos to their tweets.
154
411386
2073
להוסיף תמונות לציוצים שלהם.
07:05
A picture is worth a thousand words.
155
413459
1597
תמונה שווה אלף מילים.
07:07
You only get 140 characters.
156
415056
2009
יש לכם רק 140 תווים.
07:09
You add a photo to your tweet,
157
417065
1200
אתם מוסיפים תמונה לציוץ שלכם,
07:10
look at how much more content you've got now.
158
418265
3038
תסתכלו כמה יותר
תוכן יש לכם עכשיו.
תוכן יש לכם עכשיו.
07:13
There's all sorts of great things you can do
159
421303
1677
יש המון דברים גדולים שתוכלו לעשות
07:14
by adding a photo to a tweet.
160
422980
2007
על ידי הוספה של תמונה לציוץ שלכם.
07:16
My job isn't to think of those.
161
424987
2280
העבודה שלי היא לא לחשוב על אלו.
07:19
It's to think of what could go wrong.
162
427267
2747
היא לחשוב על מה יכול להשתבש.
07:22
How could this picture
163
430014
1892
איך התמונה הזאת
07:23
lead to my death?
164
431906
3539
יכולה להוביל למותי?
07:27
Well, here's one possibility.
165
435445
3160
ובכן, הנה אפשרות אחת.
07:30
There's more in that picture than just a cat.
166
438605
3086
יש בתמונה הזאת יותר מרק חתול.
07:33
There's geodata.
167
441691
2092
יש מידע גיאוגרפי.
07:35
When you take a picture with your smartphone
168
443783
2212
כשאתם מצלמים תמונה
עם הטלפון החכם שלכם
עם הטלפון החכם שלכם
07:37
or digital camera,
169
445995
1299
או מצלמה דיגיטלית,
07:39
there's a lot of additional information
170
447294
1654
יש עוד הרבה אינפורמציה נוספת
07:40
saved along in that image.
171
448948
1616
שנשמרת יחד עם התמונה הזאת.
07:42
In fact, this image also contains
172
450564
1932
למעשה, התמונה הזאת גם מכילה
07:44
the equivalent of this,
173
452496
1805
המקבילה של זה,
07:46
more specifically, this.
174
454301
3079
יותר בפרוט, זה.
07:49
Sure, it's not likely that someone's going to try
175
457380
1956
בטח, זה לא סביר שמישהו ינסה
07:51
to track me down and do me harm
176
459336
2285
לעקוב אחרי ולפגוע בי
07:53
based upon image data associated
177
461621
1784
בהתבסס על מידע מהתמונה שמקושר
07:55
with a picture I took of my cat,
178
463405
1948
עם תמונת החתול שלי שצילמתי,
07:57
but I start by assuming the worst will happen.
179
465353
3651
אבל אני יוצא מנקודת הנחה
שהגרוע ביותר יקרה.
שהגרוע ביותר יקרה.
08:01
That's why, when we launched photos on Twitter,
180
469004
2338
לכן, כשהשקנו את התמונות בטוויטר,
08:03
we made the decision to strip that geodata out.
181
471342
3821
קיבלנו החלטה להוציא את
המידע הגיאוגרפי החוצה.
המידע הגיאוגרפי החוצה.
08:07
(Applause)
182
475163
5847
(מחיאות כפיים)
08:13
If I start by assuming the worst
183
481010
2613
אם אני יוצאת מנקודת
הנחה הגרוע ביותר
הנחה הגרוע ביותר
08:15
and work backwards,
184
483623
947
ועובדת אחורה,
08:16
I can make sure that the protections we build
185
484570
2553
אני יכולה להבטיח שההגנות שאנחנו בונים
08:19
work for both expected
186
487123
1768
יעבדו עבור המקרים הצפויים
08:20
and unexpected use cases.
187
488891
2078
והבלתי צפויים.
08:22
Given that I spend my days and nights
188
490969
2945
בהתחשב בעובדה שאני
מבלה את הימים והלילות שלי
מבלה את הימים והלילות שלי
08:25
imagining the worst that could happen,
189
493914
2541
בלדמיין את הגרוע ביותר שיכול לקרות,
08:28
it wouldn't be surprising if
my worldview was gloomy.
my worldview was gloomy.
190
496455
4257
זאת לא תהיה הפתעה אם
השקפת העולם שלי קודרת.
השקפת העולם שלי קודרת.
08:32
(Laughter)
191
500712
1783
(צחוק)
08:34
It's not.
192
502495
1417
זה לא.
08:35
The vast majority of interactions I see --
193
503912
3876
רובן המכריע של האינטראקציות שאני רואה
08:39
and I see a lot, believe me -- are positive,
194
507788
3901
ואני רואה הרבה, תאמינו לי -- הן חיוביות,
08:43
people reaching out to help
195
511689
1924
אנשים מגישים עזרה
08:45
or to connect or share information with each other.
196
513613
3448
או מתחברים או משתפים
מידע אחד עם השני.
מידע אחד עם השני.
08:49
It's just that for those of us dealing with scale,
197
517061
3323
זה רק שעבור אלה מאתנו
העוסקים בקנה מידה,
העוסקים בקנה מידה,
08:52
for those of us tasked with keeping people safe,
198
520384
3800
עבור אלה מאתנו שמטרתם היא
שמירה על בטחון האנשים,
שמירה על בטחון האנשים,
08:56
we have to assume the worst will happen,
199
524184
2546
אנחנו צריכים להניח שהנורא מכל יקרה,
08:58
because for us, a one-in-a-million chance
200
526730
4227
מפני שעבורנו, סיכוי של אחד למיליון
09:02
is pretty good odds.
201
530957
2749
זה סיכויי די טוב.
09:05
Thank you.
202
533706
1864
תודה לכם.
09:07
(Applause)
203
535570
4000
(מחיאות כפיים)
ABOUT THE SPEAKER
Del Harvey - Security mavenDel Harvey works to define policy and to ensure user safety and security in the challenging realm of modern social media.
Why you should listen
As Senior Director of Trust and Safety at Twitter, Del Harvey works to define policy and to ensure user safety and security in the challenging realm of modern social media. Prior to joining Twitter, she spent five years as the co-administrator and law enforcement liaison for a 501(c)3 non-profit charity, working with agencies ranging from local police departments to the FBI, U.S. Marshals and the Secret Service.
Del Harvey | Speaker | TED.com