TED2014
Del Harvey: Protecting Twitter users (sometimes from themselves)
Del Harvey: Twitter kullanıcılarını korumak (bazen kendilerinden bile)
Filmed:
Readability: 4.4
993,199 views
Del Harvey, Twitter Güven ve Güvenlik Ekibi Başkanı. Dünya çapındaki insanlar için ses verirken, bütün gün en kötü senaryoları nasıl önleyeceği konusunda düşünüyor -- istismar, troller, taciz. Duygusuz mizah anlayışı ile 240 milyon kullanıcıyı nasıl güvende tuttuğunu gösteren bir pencere sunuyor.
Del Harvey - Security maven
Del Harvey works to define policy and to ensure user safety and security in the challenging realm of modern social media. Full bio
Del Harvey works to define policy and to ensure user safety and security in the challenging realm of modern social media. Full bio
Double-click the English transcript below to play the video.
Twitter'daki işim
00:12
My job at Twitter
0
984
1291
00:14
is to ensure user trust,
1
2275
1978
kullanıcıların güvenliğini sağlamak,
00:16
protect user rights and keep users safe,
2
4253
2837
kullanıcı haklarını ve
kullanıcıların güvenliğini
kullanıcıların güvenliğini
00:19
both from each other
3
7090
1260
birbirinden ve
00:20
and, at times, from themselves.
4
8350
3899
bazen de kendilerinden korumak.
00:24
Let's talk about what scale looks like at Twitter.
5
12249
4275
Twitter'ın nasıl göründüğüne dair
bir ölçekten bahsedeyim.
bir ölçekten bahsedeyim.
00:28
Back in January 2009,
6
16524
2870
Ocak 2009'a döndüğümüzde:
00:31
we saw more than two million new tweets each day
7
19394
3331
Twitter'da günde 2 milyon twit atıldığını
00:34
on the platform.
8
22725
1764
görüyoruz.
00:36
January 2014, more than 500 million.
9
24489
5908
Ocak 2014'te ise 500 milyondan fazla.
00:42
We were seeing two million tweets
10
30397
2492
Yani, 6 dakikadan daha az bir süre içinde
00:44
in less than six minutes.
11
32889
2176
2 milyon twit görüyorduk.
00:47
That's a 24,900-percent increase.
12
35065
6984
Bu, %24.900'lük bir artış.
00:54
Now, the vast majority of activity on Twitter
13
42049
3253
Twitter'daki faaliyetin büyük çoğunluğu
00:57
puts no one in harm's way.
14
45302
1503
kimseyi tehlikeye sokmuyor.
00:58
There's no risk involved.
15
46805
1935
Hiçbir risk yok.
01:00
My job is to root out and prevent activity that might.
16
48740
5753
Benim görevim olabilecek riskleri
araştırmak ve engellemek.
araştırmak ve engellemek.
01:06
Sounds straightforward, right?
17
54493
1973
Kulağa basit geliyor, değil mi?
01:08
You might even think it'd be easy,
18
56466
1152
Kolay olduğunu bile düşünebilirsiniz.
01:09
given that I just said the vast majority
19
57618
2170
Söylediğim gibi, Twitter'daki
01:11
of activity on Twitter puts no one in harm's way.
20
59788
3810
etkinliklerin çoğu kimseyi
tehlikeye sokmuyor.
tehlikeye sokmuyor.
01:15
Why spend so much time
21
63598
2169
Neden zararsız şeylerin içindeki
01:17
searching for potential calamities
22
65767
2743
potansiyel felaketleri araştırmak için
01:20
in innocuous activities?
23
68510
2900
çok fazla zaman harcayalım?
01:23
Given the scale that Twitter is at,
24
71410
2940
Az önceki ölçeğin bize söylediğine göre
01:26
a one-in-a-million chance happens
25
74350
2357
milyonda birlik bir ihtimal, Twitter'da
01:28
500 times a day.
26
76707
4876
günde 500 defa oluyor.
01:33
It's the same for other companies
27
81583
1445
Bu ölçek türünde iş yapan
01:35
dealing at this sort of scale.
28
83028
1471
diğer şirketler için de aynı.
01:36
For us, edge cases,
29
84499
1708
Bizim için böylesi ender ve
01:38
those rare situations that are unlikely to occur,
30
86207
3625
istenmeyen, normalde
karşılaşılmayan durumlar,
karşılaşılmayan durumlar,
01:41
are more like norms.
31
89832
2622
daha çok standart olaylar olur.
01:44
Say 99.999 percent of tweets
32
92454
3942
Diyelim ki twitlerin %99,999'u
01:48
pose no risk to anyone.
33
96396
1888
kimse için bir risk değil.
Hiçbir tehdit içermiyor.
01:50
There's no threat involved.
34
98284
1066
01:51
Maybe people are documenting travel landmarks
35
99350
2954
Belki insanlar Avustralya'daki ünlü
01:54
like Australia's Heart Reef,
36
102304
1963
Heart Reef tatillerini belgeliyorlar,
01:56
or tweeting about a concert they're attending,
37
104267
2921
bir konser hakkında twit atıyorlar
01:59
or sharing pictures of cute baby animals.
38
107188
4747
ya da küçük şirin hayvanların
fotoğrafını paylaşıyorlar.
fotoğrafını paylaşıyorlar.
02:03
After you take out that 99.999 percent,
39
111935
4509
Bütün o 99,999 oranı çıkarttıktan sonra,
02:08
that tiny percentage of tweets remaining
40
116444
3529
geriye kalan twitlerin kabaca küçücük
02:11
works out to roughly
41
119973
2389
bir yüzdesi kalıyor.
02:14
150,000 per month.
42
122362
3475
Ayda 150 bin tane.
02:17
The sheer scale of what we're dealing with
43
125837
2456
Bu, aslında bizim meydan okuma için
02:20
makes for a challenge.
44
128293
2312
gerçekte ne ölçekte
uğraştığımızı gösteriyor.
uğraştığımızı gösteriyor.
02:22
You know what else makes my role
45
130605
1178
Benim pozisyonumun başka
02:23
particularly challenging?
46
131783
3107
ne gibi zorlukları vardır?
02:26
People do weird things.
47
134890
5123
İnsanlar garip şeyler yapar.
02:32
(Laughter)
48
140013
1829
(Kahkahalar)
02:33
And I have to figure out what they're doing,
49
141842
2391
Ve ben ne yaptıklarını,
neden yaptıklarını ve
neden yaptıklarını ve
02:36
why, and whether or not there's risk involved,
50
144233
2249
davranışlarının, içerik olarak
veya arka planda
veya arka planda
02:38
often without much in terms of context
51
146482
2168
herhangi bir risk içerip içermediğini
02:40
or background.
52
148650
1847
anlamak zorundayım.
Twitter'da benim dönemimde gerçekleşen
02:42
I'm going to show you some examples
53
150497
2077
02:44
that I've run into during my time at Twitter --
54
152574
2005
örneklerden birkaçını göstereceğim.
02:46
these are all real examples —
55
154579
1620
-- Tamamı gerçek --
02:48
of situations that at first seemed cut and dried,
56
156199
2653
İlk başta önceden planlanmış gibiydi
02:50
but the truth of the matter was something
57
158852
1643
ama aslında gerçekte
02:52
altogether different.
58
160495
1550
tamamen farklıydı.
02:54
The details have been changed
59
162045
1977
Masumları ve bazı durumlarda suçluları
02:56
to protect the innocent
60
164022
1257
korumak için
02:57
and sometimes the guilty.
61
165279
3233
detaylar değiştirilmiştir.
03:00
We'll start off easy.
62
168512
3005
Kolaydan başlayacağız.
03:03
["Yo bitch"]
63
171517
1793
["Seni o..."]
03:05
If you saw a Tweet that only said this,
64
173310
3228
Bir Twit'in sadece bu kısmını görürseniz;
03:08
you might think to yourself,
65
176538
1694
kendinizce şunu düşünebilirsiniz,
03:10
"That looks like abuse."
66
178232
1653
"Bu bir taciz gibi görünüyor."
03:11
After all, why would you
want to receive the message,
want to receive the message,
67
179885
3107
Sonuçta, neden bu mesajı
almak isteyesiniz:
almak isteyesiniz:
03:14
"Yo, bitch."
68
182992
2218
"Seni o..."
03:17
Now, I try to stay relatively hip
69
185210
4663
Son trend ve internette
komiklik ifadelerinden
komiklik ifadelerinden
03:21
to the latest trends and memes,
70
189873
2512
olabildiğince haberdar olmaya çalışıyorum.
03:24
so I knew that "yo, bitch"
71
192385
2704
Yani "Seni o..."'nun,
popüler "Breaking Bad"
popüler "Breaking Bad"
03:27
was also often a common greeting between friends,
72
195089
3154
kaynaklı olmasının yanı sıra,
arkadaşlar arasında
arkadaşlar arasında
03:30
as well as being a popular "Breaking Bad" reference.
73
198243
4262
sık kullanılan bir selamlaşma terimi
olduğunu biliyorum.
olduğunu biliyorum.
03:34
I will admit that I did not expect
74
202505
2487
İtiraf ediyorum,
dördüncü bir kullanım örneği ile
dördüncü bir kullanım örneği ile
03:36
to encounter a fourth use case.
75
204992
2841
karşılaşacağımı beklemiyordum.
03:39
It turns out it is also used on Twitter
76
207833
3104
İnsanlar ayrıca Twitter'da köpek taklidi
03:42
when people are role-playing as dogs.
77
210937
3062
yaparken de kullanılıyor.
03:45
(Laughter)
78
213999
5279
(Kahkahalar)
03:51
And in fact, in that case,
79
219278
1666
Aslında bu durumda,
03:52
it's not only not abusive,
80
220944
1609
bu sadece küfürlü değil,
03:54
it's technically just an accurate greeting.
81
222553
3139
teknik olarak tam bir selamlaşma.
03:57
(Laughter)
82
225692
2889
(Kahkahalar)
04:00
So okay, determining whether or not
83
228581
2071
Peki tamam, bir şeyin içerik olmadan küfür
04:02
something is abusive without context,
84
230652
1848
olup olmadığını belirlemek
04:04
definitely hard.
85
232500
1592
kesinlikle zor.
04:06
Let's look at spam.
86
234092
2717
İstenmeyen maillere (Spam) bakalım.
04:08
Here's an example of an account engaged
87
236809
1960
Burada klasik spamci davranışı ile
04:10
in classic spammer behavior,
88
238769
1668
ilgili bir hesap örneği var,
04:12
sending the exact same message
89
240437
1559
tam olarak aynı mesajı binlerce
04:13
to thousands of people.
90
241996
1804
kişiye gönderiyor.
04:15
While this is a mockup I put
together using my account,
together using my account,
91
243800
2793
Bu, hesabımı kullanarak
bir araya getirdiğim bir model.
bir araya getirdiğim bir model.
04:18
we see accounts doing this all the time.
92
246593
3001
Bunu her zaman yapan hesapları görüyoruz.
04:21
Seems pretty straightforward.
93
249594
1979
Oldukça hilesiz görünüyor.
04:23
We should just automatically suspend accounts
94
251573
2053
Bu tarz davranışlarda bulunan hesapları
04:25
engaging in this kind of behavior.
95
253626
3307
otomatik olarak askıya almalıyız.
04:28
Turns out there's some exceptions to that rule.
96
256933
3210
Bu kurala istisna olan bazı durumlar var.
04:32
Turns out that that message
could also be a notification
could also be a notification
97
260143
2883
Yukarıdan geçen Uluslararası Uzay
İstasyonu'nun
İstasyonu'nun
04:35
you signed up for that the International
Space Station is passing overhead
Space Station is passing overhead
98
263026
3889
bildirim listesine katıldıysanız, bu
mesaj bir bildirim olarak da çıkabilir,
mesaj bir bildirim olarak da çıkabilir,
04:38
because you wanted to go outside
99
266915
1846
çünkü dışarı çıkıp bakmak istediniz,
04:40
and see if you could see it.
100
268761
1948
acaba uzay istasyonunu
görebilecek miydiniz.
görebilecek miydiniz.
04:42
You're not going to get that chance
101
270709
1225
Eğer hesabın spam olduğunu düşünüp
04:43
if we mistakenly suspend the account
102
271934
1847
yanlışlıkla askıya alırsak,
04:45
thinking it's spam.
103
273781
2266
bu şansı elde edemeyeceksiniz.
04:48
Okay. Let's make the stakes higher.
104
276047
3526
Tamam. Hadi bahsi artıralım.
04:51
Back to my account,
105
279573
1916
Yine klasik davranış sergileyen
04:53
again exhibiting classic behavior.
106
281489
3505
hesabıma geri dönelim.
04:56
This time it's sending the same message and link.
107
284994
2643
Bu sefer aynı mesajı ve
bağlantıyı gönderiyor.
bağlantıyı gönderiyor.
04:59
This is often indicative of
something called phishing,
something called phishing,
108
287637
2774
Bu sıkça kullanılan kimlik avı adında
bir şeyin göstergesidir,
bir şeyin göstergesidir,
05:02
somebody trying to steal another
person's account information
person's account information
109
290411
3178
başka bir internet sitesine yönlendirerek,
05:05
by directing them to another website.
110
293589
2203
başka birinin hesap
bilgilerini çalmaya çalışan biri.
bilgilerini çalmaya çalışan biri.
05:07
That's pretty clearly not a good thing.
111
295792
4194
Açıkçası iyi bir şey değil.
05:11
We want to, and do, suspend accounts
112
299986
1930
Bu tür davranış sergileyen
05:13
engaging in that kind of behavior.
113
301916
2624
hesapları askıya almayı istiyoruz.
05:16
So why are the stakes higher for this?
114
304540
3247
Peki neden bunun için
bahisler daha yüksek?
bahisler daha yüksek?
05:19
Well, this could also be a bystander at a rally
115
307787
2999
Bu da bir polis memurunun
şiddet uygulamayan bir
şiddet uygulamayan bir
05:22
who managed to record a video
116
310786
1910
protestocuyu dövmesini videoya kaydeden
05:24
of a police officer beating a non-violent protester
117
312696
3270
ve ne olduğunu dünyanın öğrenmesini
sağlamaya çalışan
sağlamaya çalışan
05:27
who's trying to let the world know what's happening.
118
315966
2975
mitingdeki bir görgü tanığı olabilir.
Çok hayati olan bu konuşmayı,
spam olarak
spam olarak
05:30
We don't want to gamble
119
318941
1643
05:32
on potentially silencing that crucial speech
120
320584
2517
sınıflandırıp potansiyel olarak
askıya alıp
askıya alıp
05:35
by classifying it as spam and suspending it.
121
323101
2929
susturacak bir kumar oynamak istemiyoruz.
05:38
That means we evaluate hundreds of parameters
122
326030
2879
Bu, hesap davranışlarına bakarken
yüzlerce parametreyi
yüzlerce parametreyi
05:40
when looking at account behaviors,
123
328909
1688
değerlendirdiğimiz anlamına geliyor
05:42
and even then, we can still get it wrong
124
330597
2016
ve yine de hata yapabiliyoruz
05:44
and have to reevaluate.
125
332613
2236
ve bunu yeniden değerlendirmek zorundayız.
05:46
Now, given the sorts of challenges I'm up against,
126
334849
3708
Karşılaştığım zorluklara bakıldığında,
05:50
it's crucial that I not only predict
127
338557
2696
sadece önceden tahmin etmek değil,
05:53
but also design protections for the unexpected.
128
341253
3784
aynı zamanda beklenmedik durumlar için
önlemler tasarlamak da çok önemli.
önlemler tasarlamak da çok önemli.
Bu sadece benim ya da Twitter için
bir sorun değil,
bir sorun değil,
05:57
And that's not just an issue for me,
129
345037
2342
05:59
or for Twitter, it's an issue for you.
130
347379
2087
sizin için de bir sorun.
06:01
It's an issue for anybody who's building or creating
131
349466
2406
Bu, harika olacağını
düşündüğünüz ve insanların
düşündüğünüz ve insanların
06:03
something that you think is going to be amazing
132
351872
1925
harika şeyler yapmasını sağlayan şeyleri
06:05
and will let people do awesome things.
133
353797
2789
yapan veya yaratan herkes için bir sorun.
06:08
So what do I do?
134
356586
2866
Peki, ben ne yapıyorum?
06:11
I pause and I think,
135
359452
3318
Durup düşünüyorum,
06:14
how could all of this
136
362770
2095
bu şeylerin tümü
06:16
go horribly wrong?
137
364865
3793
nasıl korkunç şekilde yanlış gidebilir?
06:20
I visualize catastrophe.
138
368658
4453
Felaketi görselleştiririm.
06:25
And that's hard. There's a sort of
139
373111
2463
Bu zor. Bunu yaparken
06:27
inherent cognitive dissonance in doing that,
140
375574
2848
bir tür doğal kavramsal uyumsuzluk var.
06:30
like when you're writing your wedding vows
141
378422
1812
Aynen evlilik yemininizi yazarken,
06:32
at the same time as your prenuptial agreement.
142
380234
2646
aynı zamanda evlilik öncesi
anlaşma yapmak gibi.
anlaşma yapmak gibi.
06:34
(Laughter)
143
382880
1696
(Kahkahalar)
06:36
But you still have to do it,
144
384576
2373
Ama yine de yapmak zorundasınız,
06:38
particularly if you're marrying
500 million tweets per day.
500 million tweets per day.
145
386949
4446
özellikle günde 500 milyon
twitle evleniyorsanız.
twitle evleniyorsanız.
06:43
What do I mean by "visualize catastrophe?"
146
391395
3097
Ben, "felaketi görselleştirmek" ile
ne anlatıyorum?
ne anlatıyorum?
06:46
I try to think of how something as
147
394492
2762
İyi huylu ve zararsız bir kedi resminin
06:49
benign and innocuous as a picture of a cat
148
397254
3228
nasıl ölüme yol açabilecek
bir şey olduğunu
bir şey olduğunu
ve önlemek için ne yapacağımı
06:52
could lead to death,
149
400482
1104
06:53
and what to do to prevent that.
150
401586
2326
düşünmeye çalışırım.
06:55
Which happens to be my next example.
151
403912
2383
Bir sonraki örneğim bu olacak.
06:58
This is my cat, Eli.
152
406295
3110
Bu benim kedim, Eli.
07:01
We wanted to give users the ability
153
409405
1981
Kullanıcılara twitlerine fotoğraf ekleme
07:03
to add photos to their tweets.
154
411386
2073
seçeneği vermek istedik.
Bir resim bin kelime değerindedir.
07:05
A picture is worth a thousand words.
155
413459
1597
07:07
You only get 140 characters.
156
415056
2009
Sadece 140 karakteriniz var.
07:09
You add a photo to your tweet,
157
417065
1200
Twitinize bir fotoğraf ekleyin,
07:10
look at how much more content you've got now.
158
418265
3038
bakın, daha fazla içeriğe sahip oldunuz.
Bir twite fotoğraf ekleyerek
yapabileceğiniz
yapabileceğiniz
07:13
There's all sorts of great things you can do
159
421303
1677
07:14
by adding a photo to a tweet.
160
422980
2007
harika şeyler var.
07:16
My job isn't to think of those.
161
424987
2280
Benim işim bunu düşünmek değil.
07:19
It's to think of what could go wrong.
162
427267
2747
Neyin yanlış gidebileceğini düşünmek.
07:22
How could this picture
163
430014
1892
Bu resim nasıl olur da
07:23
lead to my death?
164
431906
3539
ölüme yol açabilir?
07:27
Well, here's one possibility.
165
435445
3160
Bir olasılık var.
07:30
There's more in that picture than just a cat.
166
438605
3086
O resimde bir kediden fazlası var.
07:33
There's geodata.
167
441691
2092
Konum verisi var.
07:35
When you take a picture with your smartphone
168
443783
2212
Akıllı telefon ya da kameranızla
07:37
or digital camera,
169
445995
1299
bir fotoğraf çektiğinizde,
07:39
there's a lot of additional information
170
447294
1654
görüntüyle birlikte kaydedilen
07:40
saved along in that image.
171
448948
1616
bir sürü ek bilgi var.
07:42
In fact, this image also contains
172
450564
1932
Aslında bu görüntü de
07:44
the equivalent of this,
173
452496
1805
daha özel olarak,
07:46
more specifically, this.
174
454301
3079
bunun eşdeğerini içeriyor.
07:49
Sure, it's not likely that someone's going to try
175
457380
1956
Tabii ki kimsenin kedimin fotoğrafıyla
07:51
to track me down and do me harm
176
459336
2285
ilişkili görüntü verilerine dayanarak,
07:53
based upon image data associated
177
461621
1784
beni takip etme ve bana zarar vermeyi
07:55
with a picture I took of my cat,
178
463405
1948
deneme ihtimali pek yok
07:57
but I start by assuming the worst will happen.
179
465353
3651
ama ben en kötü ihtimali
varsayarak başlarım.
varsayarak başlarım.
Bu yüzden Twitter'da fotoğraf
paylaşımına başladığımızda
paylaşımına başladığımızda
08:01
That's why, when we launched photos on Twitter,
180
469004
2338
08:03
we made the decision to strip that geodata out.
181
471342
3821
konum bilgilerini kapatmaya
karar verdik.
karar verdik.
08:07
(Applause)
182
475163
5847
(Alkışlar)
08:13
If I start by assuming the worst
183
481010
2613
En kötüyü varsayarak ve geriye dönük
çalışmaya başlarsam,
08:15
and work backwards,
184
483623
947
08:16
I can make sure that the protections we build
185
484570
2553
bekleyen ve beklenmeyen durumlar için
08:19
work for both expected
186
487123
1768
kurduğumuz çalışmaların
08:20
and unexpected use cases.
187
488891
2078
korunduğuna emin olabilirim.
08:22
Given that I spend my days and nights
188
490969
2945
Gündüzümü, gecemi,
en kötüsünün olabileceğini
en kötüsünün olabileceğini
08:25
imagining the worst that could happen,
189
493914
2541
hayal ederek geçirdiğim
göz önüne alındığında,
göz önüne alındığında,
08:28
it wouldn't be surprising if
my worldview was gloomy.
my worldview was gloomy.
190
496455
4257
dünya görüşümün kasvetli olması
şaşırtıcı olmazdı.
şaşırtıcı olmazdı.
08:32
(Laughter)
191
500712
1783
(Kahkahalar)
08:34
It's not.
192
502495
1417
Öyle değil.
08:35
The vast majority of interactions I see --
193
503912
3876
Gördüğüm etkileşimlerin büyük
çoğunluğu pozitif,
çoğunluğu pozitif,
08:39
and I see a lot, believe me -- are positive,
194
507788
3901
-- büyük bölümü, inanın bana --
08:43
people reaching out to help
195
511689
1924
insanlara yardımcı olmak,
iletişim kurmak
iletişim kurmak
08:45
or to connect or share information with each other.
196
513613
3448
ya da birbirleriyle bilgi paylaşmak için.
08:49
It's just that for those of us dealing with scale,
197
517061
3323
Sadece bu skala ile uğraşan ve
08:52
for those of us tasked with keeping people safe,
198
520384
3800
insanları güvende tutmaya görevli bizler,
08:56
we have to assume the worst will happen,
199
524184
2546
olabilecek en kötü şeyi
düşünmek zorundayız,
düşünmek zorundayız,
08:58
because for us, a one-in-a-million chance
200
526730
4227
çünkü bizim için milyonda bir şans
09:02
is pretty good odds.
201
530957
2749
gerçekleşmesi oldukça
mümkün bir orandır.
mümkün bir orandır.
09:05
Thank you.
202
533706
1864
Teşekkür ederim.
09:07
(Applause)
203
535570
4000
(Alkışlar)
ABOUT THE SPEAKER
Del Harvey - Security mavenDel Harvey works to define policy and to ensure user safety and security in the challenging realm of modern social media.
Why you should listen
As Senior Director of Trust and Safety at Twitter, Del Harvey works to define policy and to ensure user safety and security in the challenging realm of modern social media. Prior to joining Twitter, she spent five years as the co-administrator and law enforcement liaison for a 501(c)3 non-profit charity, working with agencies ranging from local police departments to the FBI, U.S. Marshals and the Secret Service.
Del Harvey | Speaker | TED.com