TEDSummit
Zeynep Tufekci: Machine intelligence makes human morals more important
Zeynep Tüfekçi: Makine Zekâsı İnsani Değerlerin Önemini Arttırıyor
Filmed:
Readability: 4.9
1,648,711 views
Makine zekâsı devrede ve bunu çoktandır öznel kararlar verirken bile kullanıyoruz. Fakat Yapay Zekâ'nın kompleks yapısı ve gelişimi, onu anlamayı hatta kontrol etmeyi bile zorlaştırıyor. Bu uyarı niteliğindeki konuşmasında tekno-sosyolojist Zeynep Tüfekçi, zeki makinelerin insanın yapmayacağı, ummadığımız ve hazırlıksız olduğumuz hatalara nasıl düşebildiğini açıklıyor. Tüfekçi, "Kendi sorumluluklarımızı makinelere atamayız, insani değerlere ve etiğe hiç olmadığı kadar bağlı kalmalıyız." diyor.
Zeynep Tufekci - Techno-sociologist
Techno-sociologist Zeynep Tufekci asks big questions about our societies and our lives, as both algorithms and digital connectivity spread. Full bio
Techno-sociologist Zeynep Tufekci asks big questions about our societies and our lives, as both algorithms and digital connectivity spread. Full bio
Double-click the English transcript below to play the video.
00:12
So, I started my first job
as a computer programmer
as a computer programmer
0
739
4122
Bilgisayar programcısı olarak
ilk çalışmaya başladığımda
ilk çalışmaya başladığımda
00:16
in my very first year of college --
1
4885
1956
üniversite birinci sınıftaydım,
00:18
basically, as a teenager.
2
6865
1507
yani yeni yetme sayılırdım.
00:20
Soon after I started working,
3
8889
1732
Bir şirkette program yazma göreviyle
00:22
writing software in a company,
4
10645
1610
işe girdikten kısa süre sonra
00:24
a manager who worked at the company
came down to where I was,
came down to where I was,
5
12799
3635
şirkette çalışan bir müdür yanıma geldi
00:28
and he whispered to me,
6
16458
1268
ve fısıltıyla sordu:
00:30
"Can he tell if I'm lying?"
7
18229
2861
"Yalan söylediğimi anlayabilir mi?"
00:33
There was nobody else in the room.
8
21806
2077
Odada başka kimse yoktu.
00:37
"Can who tell if you're lying?
And why are we whispering?"
And why are we whispering?"
9
25032
4389
"Yalanı kim anlayabilir mi?
Ayrıca neden fısıldaşıyoruz?" dedim.
Ayrıca neden fısıldaşıyoruz?" dedim.
00:42
The manager pointed
at the computer in the room.
at the computer in the room.
10
30266
3107
Müdür, odada bulunan bilgisayarı gösterdi.
00:45
"Can he tell if I'm lying?"
11
33397
3096
"Yalan söyleyip söylemediğimi anlar mı?"
00:49
Well, that manager was having
an affair with the receptionist.
an affair with the receptionist.
12
37613
4362
Bu müdür danışmada çalışan
biriyle ilişki yaşıyordu.
biriyle ilişki yaşıyordu.
00:53
(Laughter)
13
41999
1112
(Gülüşmeler)
00:55
And I was still a teenager.
14
43135
1766
Ben de yeni yetmeyim tabii.
00:57
So I whisper-shouted back to him,
15
45447
2019
Fısıltıyla bağırır gibi cevap verdim:
00:59
"Yes, the computer can tell
if you're lying."
if you're lying."
16
47490
3624
"Evet, yalan söylerseniz
bilgisayar anlar." dedim.
bilgisayar anlar." dedim.
01:03
(Laughter)
17
51138
1806
(Gülüşmeler)
01:04
Well, I laughed, but actually,
the laugh's on me.
the laugh's on me.
18
52968
2923
Gülüyordum ama aslında
gülünmesi gereken bendim.
gülünmesi gereken bendim.
01:07
Nowadays, there are computational systems
19
55915
3268
Günümüzde insan yüzlerini
01:11
that can suss out
emotional states and even lying
emotional states and even lying
20
59207
3548
işlemden geçirerek ruh hâlini
ve hatta yalan söylediğini
ve hatta yalan söylediğini
01:14
from processing human faces.
21
62779
2044
tespit eden bilgisayar programları var.
01:17
Advertisers and even governments
are very interested.
are very interested.
22
65248
4153
Reklamcılar, hatta devletler de
çok ilgi duyuyor.
çok ilgi duyuyor.
01:22
I had become a computer programmer
23
70319
1862
Matematik ve fen bilgisini çok seven
01:24
because I was one of those kids
crazy about math and science.
crazy about math and science.
24
72205
3113
bir çocuk olduğum için
bilgisayar programcısı olmuştum.
bilgisayar programcısı olmuştum.
01:27
But somewhere along the line
I'd learned about nuclear weapons,
I'd learned about nuclear weapons,
25
75942
3108
Fakat o sıralarda
nükleer silahlara dair bilgi edinmiş
nükleer silahlara dair bilgi edinmiş
01:31
and I'd gotten really concerned
with the ethics of science.
with the ethics of science.
26
79074
2952
ve bilim etiğine de
çok ilgi duymaya başlamıştım.
çok ilgi duymaya başlamıştım.
01:34
I was troubled.
27
82050
1204
Sorunlarım vardı.
01:35
However, because of family circumstances,
28
83278
2641
Ne yazık ki ailevi durumlar yüzünden
01:37
I also needed to start working
as soon as possible.
as soon as possible.
29
85943
3298
mümkün olduğu kadar çabuk
işe girmem gerekiyordu.
işe girmem gerekiyordu.
01:41
So I thought to myself, hey,
let me pick a technical field
let me pick a technical field
30
89265
3299
Kendi kendime düşündüm;
kolaylıkla iş bulabileceğim
kolaylıkla iş bulabileceğim
01:44
where I can get a job easily
31
92588
1796
teknik bir alan seçeyim ki
01:46
and where I don't have to deal
with any troublesome questions of ethics.
with any troublesome questions of ethics.
32
94408
4018
sıkıcı etik problemlerle
uğraşmak zorunda kalmayayım dedim.
uğraşmak zorunda kalmayayım dedim.
01:51
So I picked computers.
33
99022
1529
Böylelikle bilgisayarı seçtim.
01:52
(Laughter)
34
100575
1104
(Gülüşmeler)
01:53
Well, ha, ha, ha!
All the laughs are on me.
All the laughs are on me.
35
101703
3410
Ha, ha, ha!
Herkes bana gülüyordur.
Herkes bana gülüyordur.
01:57
Nowadays, computer scientists
are building platforms
are building platforms
36
105137
2754
Günümüzde bilgisayar uzmanları
her gün milyarlarca insanın
her gün milyarlarca insanın
01:59
that control what a billion
people see every day.
people see every day.
37
107915
4209
göreceği şeyleri kontrol eden
programlar kuruyor.
programlar kuruyor.
02:05
They're developing cars
that could decide who to run over.
that could decide who to run over.
38
113052
3822
Kime çarpacağına karar verebilecek
arabalar geliştiriyorlar.
arabalar geliştiriyorlar.
02:09
They're even building machines, weapons,
39
117707
3213
Savaşta insanları öldürecek türden
02:12
that might kill human beings in war.
40
120944
2285
makineler, silahlar bile geliştiriyorlar.
02:15
It's ethics all the way down.
41
123253
2771
Etik tamamen ortadan kalkıyor.
02:19
Machine intelligence is here.
42
127183
2058
Makine zekâsı işin içinde.
02:21
We're now using computation
to make all sort of decisions,
to make all sort of decisions,
43
129823
3474
Artık herhangi bir karar verirken
bilgisayar kullanıyoruz,
bilgisayar kullanıyoruz,
02:25
but also new kinds of decisions.
44
133321
1886
üstelik yeni kararlar alırken bile.
02:27
We're asking questions to computation
that have no single right answers,
that have no single right answers,
45
135231
5172
Bilgisayara tek bir doğru
cevabı olmayan, öznel,
cevabı olmayan, öznel,
02:32
that are subjective
46
140427
1202
açık uçlu ve değer yüklü
02:33
and open-ended and value-laden.
47
141653
2325
sorular soruyoruz.
02:36
We're asking questions like,
48
144002
1758
Mesela şu gibi sorular:
02:37
"Who should the company hire?"
49
145784
1650
"Şirket kimi işe almalı?"
02:40
"Which update from which friend
should you be shown?"
should you be shown?"
50
148096
2759
"Hangi arkadaştan
hangi güncellemeyi görmelisiniz?"
hangi güncellemeyi görmelisiniz?"
02:42
"Which convict is more
likely to reoffend?"
likely to reoffend?"
51
150879
2266
"Hangi mahkûm tekrar suç işlemeye yatkın?"
02:45
"Which news item or movie
should be recommended to people?"
should be recommended to people?"
52
153514
3054
"İnsanlara hangi haber ya da film
tavsiye edilmeli?"
tavsiye edilmeli?"
02:48
Look, yes, we've been using
computers for a while,
computers for a while,
53
156592
3372
Bakın, evet bir süredir bilgisayar
kullanıyoruz,
kullanıyoruz,
02:51
but this is different.
54
159988
1517
ama bu farklı bir durum.
02:53
This is a historical twist,
55
161529
2067
Bu tarihi bir hata,
02:55
because we cannot anchor computation
for such subjective decisions
for such subjective decisions
56
163620
5337
çünkü böyle öznel kararlarda
bilgisayara güvenemeyiz,
bilgisayara güvenemeyiz,
03:00
the way we can anchor computation
for flying airplanes, building bridges,
for flying airplanes, building bridges,
57
168981
5420
bilgisayara uçak uçurmada,
köprü inşa etmede, aya gitmede
köprü inşa etmede, aya gitmede
03:06
going to the moon.
58
174425
1259
güvendiğimiz gibi güvenemeyiz.
03:08
Are airplanes safer?
Did the bridge sway and fall?
Did the bridge sway and fall?
59
176449
3259
Uçaklar daha güvenli mi?
Köprü sallanıp çöker miydi?
Köprü sallanıp çöker miydi?
03:11
There, we have agreed-upon,
fairly clear benchmarks,
fairly clear benchmarks,
60
179732
4498
Burada üzerinde anlaşılan, açık ölçütler
ve bize yol gösteren doğa kanunları
ve bize yol gösteren doğa kanunları
03:16
and we have laws of nature to guide us.
61
184254
2239
olduğu konusunda hemfikiriz.
03:18
We have no such anchors and benchmarks
62
186517
3394
Karmaşık insan ilişkilerinde
karar verirken
karar verirken
03:21
for decisions in messy human affairs.
63
189935
3963
bu tür dayanak ve ölçütler yok.
03:25
To make things more complicated,
our software is getting more powerful,
our software is getting more powerful,
64
193922
4237
İşleri daha çetrefilli hâle getirmek için
yazılımımız gittikçe güçleniyor,
yazılımımız gittikçe güçleniyor,
03:30
but it's also getting less
transparent and more complex.
transparent and more complex.
65
198183
3773
fakat aynı zamanda daha az şeffaflaşıp
daha karmaşık oluyor.
daha karmaşık oluyor.
03:34
Recently, in the past decade,
66
202542
2040
Son on yıl içerisinde,
03:36
complex algorithms
have made great strides.
have made great strides.
67
204606
2729
kompleks algoritmalar
büyük aşamalar katetti.
büyük aşamalar katetti.
03:39
They can recognize human faces.
68
207359
1990
İnsan yüzlerini tanıyabiliyorlar.
03:41
They can decipher handwriting.
69
209985
2055
El yazılarını çözebiliyorlar.
03:44
They can detect credit card fraud
70
212436
2066
Kredi kartı dolandırıcılığını
tespit edip
tespit edip
03:46
and block spam
71
214526
1189
spam postaları engelliyor
03:47
and they can translate between languages.
72
215739
2037
ve diller arası çeviri yapabiliyorlar.
03:49
They can detect tumors in medical imaging.
73
217800
2574
Tıbbi görüntülemelerde tümörleri
teşhis edebiliyorlar.
teşhis edebiliyorlar.
03:52
They can beat humans in chess and Go.
74
220398
2205
Go ve satrançta insanları yenebiliyorlar.
03:55
Much of this progress comes
from a method called "machine learning."
from a method called "machine learning."
75
223264
4504
Bu gelişmelerin çoğu "makine öğrenimi"
denilen bir yöntemden geliyor.
denilen bir yöntemden geliyor.
04:00
Machine learning is different
than traditional programming,
than traditional programming,
76
228175
3187
Makine öğrenimi, bilgisayara
detaylı, doğru ve itinalı
detaylı, doğru ve itinalı
04:03
where you give the computer
detailed, exact, painstaking instructions.
detailed, exact, painstaking instructions.
77
231386
3585
talimatlar verdiğiniz
geleneksel programlamadan farklıdır.
geleneksel programlamadan farklıdır.
04:07
It's more like you take the system
and you feed it lots of data,
and you feed it lots of data,
78
235378
4182
Daha çok sistemi kavrayıp onu
dijital yaşamlarımızda ürettiğimiz türden
dijital yaşamlarımızda ürettiğimiz türden
04:11
including unstructured data,
79
239584
1656
yapısal olmayan veri dahil
04:13
like the kind we generate
in our digital lives.
in our digital lives.
80
241264
2278
bir sürü veriyle desteklemeniz gibidir.
04:15
And the system learns
by churning through this data.
by churning through this data.
81
243566
2730
Sistem bu bilgileri baştan sona
karıştırarak öğrenir.
karıştırarak öğrenir.
04:18
And also, crucially,
82
246669
1526
Ayrıca en önemlisi
04:20
these systems don't operate
under a single-answer logic.
under a single-answer logic.
83
248219
4380
bu sistemlerin tek cevaplı
mantıkla çalışmadığıdır.
mantıkla çalışmadığıdır.
04:24
They don't produce a simple answer;
it's more probabilistic:
it's more probabilistic:
84
252623
2959
Tek bir cevap üretmezler,
daha çok olasılık vardır:
daha çok olasılık vardır:
04:27
"This one is probably more like
what you're looking for."
what you're looking for."
85
255606
3483
"Belki de aradığınız şey bu olabilir."
04:32
Now, the upside is:
this method is really powerful.
this method is really powerful.
86
260023
3070
Şimdi avantajı şu:
Bu yöntem gerçekten çok güçlüdür.
Bu yöntem gerçekten çok güçlüdür.
04:35
The head of Google's AI systems called it,
87
263117
2076
Google'ın Yapay Zeka'sının dediği gibi
04:37
"the unreasonable effectiveness of data."
88
265217
2197
"verinin akıl almaz etkinliği"dir.
04:39
The downside is,
89
267791
1353
Dezavantajı ise,
04:41
we don't really understand
what the system learned.
what the system learned.
90
269738
3071
sistemin ne öğrendiğini
tam olarak anlamıyor olmamızdır.
tam olarak anlamıyor olmamızdır.
04:44
In fact, that's its power.
91
272833
1587
Aslında bu onun gücü.
04:46
This is less like giving
instructions to a computer;
instructions to a computer;
92
274946
3798
Bu, bir bilgisayara
talimat vermek gibi değildir;
talimat vermek gibi değildir;
04:51
it's more like training
a puppy-machine-creature
a puppy-machine-creature
93
279200
4064
nasıl kontrol edeceğimizi bilmediğimiz
bir içecek sıkma makinesini
bir içecek sıkma makinesini
04:55
we don't really understand or control.
94
283288
2371
çalıştırmak gibidir.
04:58
So this is our problem.
95
286362
1551
Yani sorunumuz bu.
05:00
It's a problem when this artificial
intelligence system gets things wrong.
intelligence system gets things wrong.
96
288427
4262
Yapay zeka sistemi bir şeyleri
yanlış anladığında problem olur.
yanlış anladığında problem olur.
05:04
It's also a problem
when it gets things right,
when it gets things right,
97
292713
3540
Aynı zamanda doğru anladığında da
problem olur,
problem olur,
05:08
because we don't even know which is which
when it's a subjective problem.
when it's a subjective problem.
98
296277
3628
çünkü öznel bir problem olduğunda
hangisinin hangisi olduğunu bilmiyoruz.
hangisinin hangisi olduğunu bilmiyoruz.
05:11
We don't know what this thing is thinking.
99
299929
2339
Bu şeyin ne düşündüğünü bile bilmiyoruz.
05:15
So, consider a hiring algorithm --
100
303493
3683
Şimdi, insanları işe almak için kullanılan
05:20
a system used to hire people,
using machine-learning systems.
using machine-learning systems.
101
308123
4311
makine öğrenimi sistemlerinden yararlanan
bir işe alım algoritma sistemi düşünün.
bir işe alım algoritma sistemi düşünün.
05:25
Such a system would have been trained
on previous employees' data
on previous employees' data
102
313052
3579
Böyle bir sistem önceki
çalışanların verilerine ayarlı
çalışanların verilerine ayarlı
05:28
and instructed to find and hire
103
316655
2591
ve şirketteki yüksek performansı olan
05:31
people like the existing
high performers in the company.
high performers in the company.
104
319270
3038
çalışanlar gibi insanlar bulmaya ve
işe almaya kurulmuş olmalı.
işe almaya kurulmuş olmalı.
05:34
Sounds good.
105
322814
1153
İyi fikir.
05:35
I once attended a conference
106
323991
1999
Bir keresinde bir konferansa katıldım,
05:38
that brought together
human resources managers and executives,
human resources managers and executives,
107
326014
3125
işe alımda bu sistemi kullanan
insan kaynakları uzmanları ile
insan kaynakları uzmanları ile
05:41
high-level people,
108
329163
1206
yöneticileri,
05:42
using such systems in hiring.
109
330393
1559
üst düzey insanları buluşturuyordu.
05:43
They were super excited.
110
331976
1646
Çok heyecanlıydılar.
05:45
They thought that this would make hiring
more objective, less biased,
more objective, less biased,
111
333646
4653
Bu yöntemin işe alımı daha nesnel,
daha az ön yargılı yapacağını
daha az ön yargılı yapacağını
05:50
and give women
and minorities a better shot
and minorities a better shot
112
338323
3000
ve kadın ve azınlıkları ön yargılı
insan kaynakları karşısında
insan kaynakları karşısında
05:53
against biased human managers.
113
341347
2188
daha şanslı hâle getireceğini
düşünüyorlardı.
düşünüyorlardı.
05:55
And look -- human hiring is biased.
114
343559
2843
İşe alımda ön yargılı davranılır.
05:59
I know.
115
347099
1185
Biliyorum.
06:00
I mean, in one of my early jobs
as a programmer,
as a programmer,
116
348308
3005
Yani, programcı olarak çalıştığım ilk
işlerimden birinde
işlerimden birinde
06:03
my immediate manager would sometimes
come down to where I was
come down to where I was
117
351337
3868
ilk patronum bazen sabah çok erken ya da
06:07
really early in the morning
or really late in the afternoon,
or really late in the afternoon,
118
355229
3753
öğleden sonra çok geç saatlerde
yanıma gelir
yanıma gelir
06:11
and she'd say, "Zeynep,
let's go to lunch!"
let's go to lunch!"
119
359006
3062
ve "Zeynep, hadi yemeğe çıkalım!" derdi.
06:14
I'd be puzzled by the weird timing.
120
362724
2167
Garip zamanlamasına şaşırırdım.
06:16
It's 4pm. Lunch?
121
364915
2129
Saat dört. Öğle yemeği mi?
06:19
I was broke, so free lunch. I always went.
122
367068
3094
Param yoktu, bedava öğle yemeği vardı.
Her zaman giderdim.
Her zaman giderdim.
06:22
I later realized what was happening.
123
370618
2067
Neler olduğunu daha sonraları anladım.
06:24
My immediate managers
had not confessed to their higher-ups
had not confessed to their higher-ups
124
372709
4546
Amirlerim kendi üst düzey müdürlerine
çok ciddi bir iş için
çok ciddi bir iş için
06:29
that the programmer they hired
for a serious job was a teen girl
for a serious job was a teen girl
125
377279
3113
işe aldıkları programcının
kot pantolon ve spor ayakkabı giyen
kot pantolon ve spor ayakkabı giyen
06:32
who wore jeans and sneakers to work.
126
380416
3930
yeni yetme bir kız olduğunu
söylememişlerdi.
söylememişlerdi.
06:37
I was doing a good job,
I just looked wrong
I just looked wrong
127
385174
2202
İyi iş çıkarıyordum,
ama yanlış görünüyordum,
ama yanlış görünüyordum,
06:39
and was the wrong age and gender.
128
387400
1699
yanlış yaşta ve cinsiyetteydim.
06:41
So hiring in a gender- and race-blind way
129
389123
3346
Dolayısıyla cinsiyet ve ırk
gözetilmeksizin işe alım
gözetilmeksizin işe alım
06:44
certainly sounds good to me.
130
392493
1865
bence kesinlikle iyi fikir.
06:47
But with these systems,
it is more complicated, and here's why:
it is more complicated, and here's why:
131
395031
3341
Ancak bu sistemlerle konu
daha karmaşık oluyor, nedeni şu:
daha karmaşık oluyor, nedeni şu:
06:50
Currently, computational systems
can infer all sorts of things about you
can infer all sorts of things about you
132
398968
5791
Şimdilerde bilgisayar sistemleri
paylaşmadığınız şeyler bile olsa
paylaşmadığınız şeyler bile olsa
06:56
from your digital crumbs,
133
404783
1872
dijital kırıntılarınızdan
06:58
even if you have not
disclosed those things.
disclosed those things.
134
406679
2333
hakkınızda birçok çıkarım yapabilir.
07:01
They can infer your sexual orientation,
135
409506
2927
Cinsel yöneliminizi,
07:04
your personality traits,
136
412994
1306
kişilik özelliklerinizi,
07:06
your political leanings.
137
414859
1373
siyasi görüşünüzü anlayabiliyor.
07:08
They have predictive power
with high levels of accuracy.
with high levels of accuracy.
138
416830
3685
Yüksek doğruluk oranlı öngörü güçleri var.
07:13
Remember -- for things
you haven't even disclosed.
you haven't even disclosed.
139
421362
2578
Unutmayın - paylaşmadığınız
şeyleri bile.
şeyleri bile.
07:15
This is inference.
140
423964
1591
Bu, çıkarımda bulunmaktır.
07:17
I have a friend who developed
such computational systems
such computational systems
141
425579
3261
Sosyal medya verilerinden
klinik depresyon veya
klinik depresyon veya
07:20
to predict the likelihood
of clinical or postpartum depression
of clinical or postpartum depression
142
428864
3641
doğum sonrası depresyon ihtimalini
öngören sayısal sistemler geliştiren
öngören sayısal sistemler geliştiren
07:24
from social media data.
143
432529
1416
bir arkadaşım var.
07:26
The results are impressive.
144
434676
1427
Sonuçlar etkileyici.
07:28
Her system can predict
the likelihood of depression
the likelihood of depression
145
436492
3357
Sistem depresyon ihtimalini
semptomların başlamasından
semptomların başlamasından
07:31
months before the onset of any symptoms --
146
439873
3903
aylar öncesinden öngörebiliyor,
07:35
months before.
147
443800
1373
aylar öncesinden.
07:37
No symptoms, there's prediction.
148
445197
2246
Hiçbir semptom yok, ama öngörü var.
07:39
She hopes it will be used
for early intervention. Great!
for early intervention. Great!
149
447467
4812
Erken müdahalede
kullanılacağını umuyor. Muhteşem!
kullanılacağını umuyor. Muhteşem!
07:44
But now put this in the context of hiring.
150
452911
2040
Şimdi de bunu
işe alım kavramına uygulayın.
işe alım kavramına uygulayın.
07:48
So at this human resources
managers conference,
managers conference,
151
456027
3046
Bu insan kaynakları
yöneticileri konferansında
yöneticileri konferansında
07:51
I approached a high-level manager
in a very large company,
in a very large company,
152
459097
4709
büyük bir şirketin
üst düzey bir yöneticisiyle görüştüm.
üst düzey bir yöneticisiyle görüştüm.
07:55
and I said to her, "Look,
what if, unbeknownst to you,
what if, unbeknownst to you,
153
463830
4578
Ona, "Peki sisteminiz size bildirmeden
08:00
your system is weeding out people
with high future likelihood of depression?
with high future likelihood of depression?
154
468432
6549
gelecekte yüksek depresyon ihtimali olan
insanları ayıklıyorsa?
insanları ayıklıyorsa?
08:07
They're not depressed now,
just maybe in the future, more likely.
just maybe in the future, more likely.
155
475761
3376
Şu an psikolojik bozuklukları yok,
ancak belki ileride olabilir.
ancak belki ileride olabilir.
08:11
What if it's weeding out women
more likely to be pregnant
more likely to be pregnant
156
479923
3406
Peki şu an hamile olmayan ancak
gelecek bir ya da iki yıl içinde
gelecek bir ya da iki yıl içinde
08:15
in the next year or two
but aren't pregnant now?
but aren't pregnant now?
157
483353
2586
hamile kalma ihtimali olan
kadınları ayıklıyorsa?
kadınları ayıklıyorsa?
08:18
What if it's hiring aggressive people
because that's your workplace culture?"
because that's your workplace culture?"
158
486844
5636
İş yeri kültürünüz öyle olduğu için
agresif insanları işe alıyorsa?" dedim.
agresif insanları işe alıyorsa?" dedim.
08:25
You can't tell this by looking
at gender breakdowns.
at gender breakdowns.
159
493173
2691
Bunu cinsiyet analizlerine bakarak
anlayamazsınız.
anlayamazsınız.
08:27
Those may be balanced.
160
495888
1502
Dengelenmiş olabilirler.
08:29
And since this is machine learning,
not traditional coding,
not traditional coding,
161
497414
3557
Ayrıca bu geleneksel kodlama değil
makine öğrenimi olduğu için
makine öğrenimi olduğu için
08:32
there is no variable there
labeled "higher risk of depression,"
labeled "higher risk of depression,"
162
500995
4907
"yüksek depresyon riski",
"yüksek hamilelik riski",
"yüksek hamilelik riski",
08:37
"higher risk of pregnancy,"
163
505926
1833
"agresiflik ölçümü" gibi
08:39
"aggressive guy scale."
164
507783
1734
etiket taşıyan değişkenler yok.
08:41
Not only do you not know
what your system is selecting on,
what your system is selecting on,
165
509995
3679
Sadece sisteminizin neyi seçtiğini değil,
08:45
you don't even know
where to begin to look.
where to begin to look.
166
513698
2323
nereden bakmaya başlayacağınızı
bile bilmiyorsunuz.
bile bilmiyorsunuz.
08:48
It's a black box.
167
516045
1246
Bir kara kutu.
08:49
It has predictive power,
but you don't understand it.
but you don't understand it.
168
517315
2807
Tahmin gücüne sahip ancak
onu anlamıyorsunuz.
onu anlamıyorsunuz.
08:52
"What safeguards," I asked, "do you have
169
520486
2369
"Ne güvenlikleri var?" diye sordum,
"kara kutunuzun
"kara kutunuzun
08:54
to make sure that your black box
isn't doing something shady?"
isn't doing something shady?"
170
522879
3673
gizli bir şey yapmadığından
emin olmak için?"
emin olmak için?"
09:00
She looked at me as if I had
just stepped on 10 puppy tails.
just stepped on 10 puppy tails.
171
528863
3878
Kuyruğuna basmışım gibi bakakaldı.
09:04
(Laughter)
172
532765
1248
(Gülüşmeler)
09:06
She stared at me and she said,
173
534037
2041
Dik dik baktı ve
09:08
"I don't want to hear
another word about this."
another word about this."
174
536556
4333
"buna dair başka bir şey
duymak istemiyorum." dedi.
duymak istemiyorum." dedi.
09:13
And she turned around and walked away.
175
541458
2034
Arkasını dönüp gitti.
09:16
Mind you -- she wasn't rude.
176
544064
1486
Gerçi kaba değildi.
09:17
It was clearly: what I don't know
isn't my problem, go away, death stare.
isn't my problem, go away, death stare.
177
545574
6308
Açıklaması şu: Bilmediğim şey benim
sorunum değil, bas git, öldürücü bakış.
sorunum değil, bas git, öldürücü bakış.
09:23
(Laughter)
178
551906
1246
(Gülüşmeler)
09:25
Look, such a system
may even be less biased
may even be less biased
179
553862
3839
Bakın böyle bir sistem bazı açılardan
insan yöneticilerden
insan yöneticilerden
09:29
than human managers in some ways.
180
557725
2103
daha az ön yargılı olabilir.
09:31
And it could make monetary sense.
181
559852
2146
Parasal anlam taşıyabilir.
09:34
But it could also lead
182
562573
1650
Ancak depresyon riski
09:36
to a steady but stealthy
shutting out of the job market
shutting out of the job market
183
564247
4748
yüksek olan insanların iş piyasasına
istikrarlı ve gizli olarak girmesini
istikrarlı ve gizli olarak girmesini
09:41
of people with higher risk of depression.
184
569019
2293
engellemeye sebep olabilir.
09:43
Is this the kind of society
we want to build,
we want to build,
185
571753
2596
Ne yapmış olduğumuzu bile bilmeden
09:46
without even knowing we've done this,
186
574373
2285
kurmak istediğimiz toplum modeli bu mu?
09:48
because we turned decision-making
to machines we don't totally understand?
to machines we don't totally understand?
187
576682
3964
Çünkü karar verme işini tam olarak
anlamadığımız makinelere bırakıyoruz.
anlamadığımız makinelere bırakıyoruz.
09:53
Another problem is this:
188
581265
1458
Diğer bir problemse şu:
09:55
these systems are often trained
on data generated by our actions,
on data generated by our actions,
189
583314
4452
Bu sistemler çoğunlukla bizim
davranışlarımızla; insan izleri tarafından
davranışlarımızla; insan izleri tarafından
09:59
human imprints.
190
587790
1816
üretilen bilgilerle test edilir.
10:02
Well, they could just be
reflecting our biases,
reflecting our biases,
191
590188
3808
Ön yargılarımızı yansıtıyor olabilirler.
10:06
and these systems
could be picking up on our biases
could be picking up on our biases
192
594020
3593
Bu sistemler ön yargılarımıza dönüp
10:09
and amplifying them
193
597637
1313
onları büyütüp
10:10
and showing them back to us,
194
598974
1418
bize tekrar gösteriyor olabilir,
10:12
while we're telling ourselves,
195
600416
1462
biz ise bu arada kendimize
10:13
"We're just doing objective,
neutral computation."
neutral computation."
196
601902
3117
"Sadece nesnel, tarafsız hesap
yapıyoruz." diyoruz.
yapıyoruz." diyoruz.
10:18
Researchers found that on Google,
197
606314
2677
Araştırmacılar Google'da
yüksek maaşlı iş ilanlarını
yüksek maaşlı iş ilanlarını
10:22
women are less likely than men
to be shown job ads for high-paying jobs.
to be shown job ads for high-paying jobs.
198
610134
5313
kadınların görme ihtimalinin
erkeklerden daha az olduğunu tespit etti.
erkeklerden daha az olduğunu tespit etti.
10:28
And searching for African-American names
199
616463
2530
Afro-Amerikan isimleri araştırırken
10:31
is more likely to bring up ads
suggesting criminal history,
suggesting criminal history,
200
619017
4706
alakası olmasa bile
sabıka geçmişi ile ilgili ilanları
sabıka geçmişi ile ilgili ilanları
10:35
even when there is none.
201
623747
1567
öne sürmesi daha muhtemeldir.
10:38
Such hidden biases
and black-box algorithms
and black-box algorithms
202
626693
3549
Araştırmacıların bazen ortaya çıkardığı
ancak bazen bizim bilmediğimiz
ancak bazen bizim bilmediğimiz
10:42
that researchers uncover sometimes
but sometimes we don't know,
but sometimes we don't know,
203
630266
3973
bu tür gizli ön yargıların ve
kara kutu algoritmalarının
kara kutu algoritmalarının
10:46
can have life-altering consequences.
204
634263
2661
hayat değiştiren sonuçları var.
10:49
In Wisconsin, a defendant
was sentenced to six years in prison
was sentenced to six years in prison
205
637958
4159
Wisconsin'de bir sanık,
altı yıl hapse mahkûm edildi,
altı yıl hapse mahkûm edildi,
10:54
for evading the police.
206
642141
1355
polisten kaçtığı için.
10:56
You may not know this,
207
644824
1186
Belki bilmiyorsunuzdur,
10:58
but algorithms are increasingly used
in parole and sentencing decisions.
in parole and sentencing decisions.
208
646034
3998
algoritmaların şartlı tahliye ve ceza
kararlarında kullanımı giderek artıyor.
kararlarında kullanımı giderek artıyor.
11:02
He wanted to know:
How is this score calculated?
How is this score calculated?
209
650056
2955
Şunu öğrenmek istiyordu:
Bu sonuç nasıl hesaplanmıştı?
Bu sonuç nasıl hesaplanmıştı?
11:05
It's a commercial black box.
210
653795
1665
Ticari bir kara kutu.
11:07
The company refused to have its algorithm
be challenged in open court.
be challenged in open court.
211
655484
4205
Şirket, halka açık duruşmada
işlemlerinin sorgulanmasını reddetmişti.
işlemlerinin sorgulanmasını reddetmişti.
11:12
But ProPublica, an investigative
nonprofit, audited that very algorithm
nonprofit, audited that very algorithm
212
660396
5532
Kâr amacı gütmeyen araştırmacı kurum
ProPublica, bu algoritmayı
ProPublica, bu algoritmayı
11:17
with what public data they could find,
213
665952
2016
bulabildiği kamusal verilerle inceledi
11:19
and found that its outcomes were biased
214
667992
2316
ve sonuçlarının ön yargılı olduğunu,
11:22
and its predictive power
was dismal, barely better than chance,
was dismal, barely better than chance,
215
670332
3629
öngörü gücününse kötü, olasılıktan
biraz iyi olduğunu
biraz iyi olduğunu
11:25
and it was wrongly labeling
black defendants as future criminals
black defendants as future criminals
216
673985
4416
ve siyahi sanıkları haksız yere
beyaz sanıklardan iki kat fazla bir oranla
beyaz sanıklardan iki kat fazla bir oranla
11:30
at twice the rate of white defendants.
217
678425
3895
geleceğin suçluları olarak
etiketlediğini bulguladı.
etiketlediğini bulguladı.
11:35
So, consider this case:
218
683891
1564
Şu olayı göz önüne alın:
11:38
This woman was late
picking up her godsister
picking up her godsister
219
686103
3852
Bu kadın, vaftiz kardeşini Florida'nın
Broward bölgesindeki bir okuldan
Broward bölgesindeki bir okuldan
11:41
from a school in Broward County, Florida,
220
689979
2075
almaya geç kalmış,
11:44
running down the street
with a friend of hers.
with a friend of hers.
221
692757
2356
bir arkadaşıyla caddede ilerliyorlar.
11:47
They spotted an unlocked kid's bike
and a scooter on a porch
and a scooter on a porch
222
695137
4099
Verandada duran kilitsiz bir
çocuk bisikleti ve bir kaydırak görüyor
çocuk bisikleti ve bir kaydırak görüyor
11:51
and foolishly jumped on it.
223
699260
1632
ve düşünmeden biniyorlar.
11:52
As they were speeding off,
a woman came out and said,
a woman came out and said,
224
700916
2599
Tam yola koyulacakken
kadının biri çıkıyor ve
kadının biri çıkıyor ve
11:55
"Hey! That's my kid's bike!"
225
703539
2205
"Hey! Bu benim çocuğumun
bisikleti!" diyor.
bisikleti!" diyor.
11:57
They dropped it, they walked away,
but they were arrested.
but they were arrested.
226
705768
3294
Bırakıp gidiyorlar, ancak tutuklanıyorlar.
12:01
She was wrong, she was foolish,
but she was also just 18.
but she was also just 18.
227
709086
3637
Haksızdı, aptalca davranmıştı,
ama henüz 18 yaşındaydı.
ama henüz 18 yaşındaydı.
12:04
She had a couple of juvenile misdemeanors.
228
712747
2544
Çocukken ciddi olmayan bir iki suç işlemişti.
12:07
Meanwhile, that man had been arrested
for shoplifting in Home Depot --
for shoplifting in Home Depot --
229
715808
5185
Bu arada, adam da Home Depot'da
hırsızlık yapmaktan tutuklanmıştı.
hırsızlık yapmaktan tutuklanmıştı.
12:13
85 dollars' worth of stuff,
a similar petty crime.
a similar petty crime.
230
721017
2924
85 dolar değerinde,
benzeri bir hafif suç.
benzeri bir hafif suç.
12:16
But he had two prior
armed robbery convictions.
armed robbery convictions.
231
724766
4559
Ama öncesinde iki silahlı
soygun sabıkası vardı.
soygun sabıkası vardı.
12:21
But the algorithm scored her
as high risk, and not him.
as high risk, and not him.
232
729955
3482
Ancak algoritma, adamı değil
kadını yüksek riskli olarak işaretledi.
kadını yüksek riskli olarak işaretledi.
12:26
Two years later, ProPublica found
that she had not reoffended.
that she had not reoffended.
233
734746
3874
İki yıl sonra ProPublica kadının
tekrar suç işlemediğini tespit etti.
tekrar suç işlemediğini tespit etti.
12:30
It was just hard to get a job
for her with her record.
for her with her record.
234
738644
2550
Sabıka puanıyla iş bulması çok zordu.
12:33
He, on the other hand, did reoffend
235
741218
2076
Öte yandan adam tekrar suç işlemişti
12:35
and is now serving an eight-year
prison term for a later crime.
prison term for a later crime.
236
743318
3836
ve şimdi daha sonra işlediği bir suç
yüzünden sekiz yıllık hapis cezasında.
yüzünden sekiz yıllık hapis cezasında.
12:40
Clearly, we need to audit our black boxes
237
748088
3369
Belli ki kara kutularımızı
kontrol etmemiz
kontrol etmemiz
12:43
and not have them have
this kind of unchecked power.
this kind of unchecked power.
238
751481
2615
ve onlara böyle kontrolsüz güç
vermememiz gerekiyor.
vermememiz gerekiyor.
12:46
(Applause)
239
754120
2879
(Alkışlar)
12:50
Audits are great and important,
but they don't solve all our problems.
but they don't solve all our problems.
240
758087
4242
Kontroller önemli ve etkili,
ancak tüm sorunlarımızı çözmüyorlar.
ancak tüm sorunlarımızı çözmüyorlar.
12:54
Take Facebook's powerful
news feed algorithm --
news feed algorithm --
241
762353
2748
Facebook'un muhteşem
haber akışı algoritmasına bakın,
haber akışı algoritmasına bakın,
12:57
you know, the one that ranks everything
and decides what to show you
and decides what to show you
242
765125
4843
yani takip ettiğiniz tüm arkadaşlarınız
ve sayfalardan her şeyi sıralayıp
ve sayfalardan her şeyi sıralayıp
13:01
from all the friends and pages you follow.
243
769992
2284
size ne göstereceğine
karar veren algoritma.
karar veren algoritma.
13:04
Should you be shown another baby picture?
244
772898
2275
Başka bir bebek fotoğrafı görmeli misiniz?
13:07
(Laughter)
245
775197
1196
(Gülüşmeler)
13:08
A sullen note from an acquaintance?
246
776417
2596
Bir tanıdıktan somurtkan bir not?
13:11
An important but difficult news item?
247
779449
1856
Önemli ama üzücü haberler?
13:13
There's no right answer.
248
781329
1482
Doğru bir cevap yok.
13:14
Facebook optimizes
for engagement on the site:
for engagement on the site:
249
782835
2659
Facebook meşgul olacaklarınızı
en uygun hâle getiriyor:
en uygun hâle getiriyor:
13:17
likes, shares, comments.
250
785518
1415
Beğeniler, paylaşımlar, yorumlar.
13:20
In August of 2014,
251
788168
2696
Ağustos 2014'te,
13:22
protests broke out in Ferguson, Missouri,
252
790888
2662
Missouri, Ferguson'da
Afro-Amerikan bir gencin
Afro-Amerikan bir gencin
13:25
after the killing of an African-American
teenager by a white police officer,
teenager by a white police officer,
253
793574
4417
beyaz bir polis tarafından şüpheli
bir şekilde öldürülmesi sonrası
bir şekilde öldürülmesi sonrası
13:30
under murky circumstances.
254
798015
1570
protestolar başladı.
13:31
The news of the protests was all over
255
799974
2007
Protesto haberleri
13:34
my algorithmically
unfiltered Twitter feed,
unfiltered Twitter feed,
256
802005
2685
algoritmik olarak filtrelenmeyen
Twitter akışımda vardı
Twitter akışımda vardı
13:36
but nowhere on my Facebook.
257
804714
1950
ancak Facebook'ta hiçbir yerde yoktu.
13:39
Was it my Facebook friends?
258
807182
1734
Facebook arkadaşlarım ne hâldeydi?
13:40
I disabled Facebook's algorithm,
259
808940
2032
Facebook'un algoritmasını
devre dışı bıraktım,
devre dışı bıraktım,
13:43
which is hard because Facebook
keeps wanting to make you
keeps wanting to make you
260
811472
2848
ki bu çok zordur, çünkü Facebook
sizi algoritmanın
sizi algoritmanın
13:46
come under the algorithm's control,
261
814344
2036
kontrolü altında tutmak ister.
13:48
and saw that my friends
were talking about it.
were talking about it.
262
816404
2238
Baktım ki arkadaşlarım da
bunu konuşuyor.
bunu konuşuyor.
13:50
It's just that the algorithm
wasn't showing it to me.
wasn't showing it to me.
263
818666
2509
Bunu bana göstermeyen
algoritmanın ta kendisiydi.
algoritmanın ta kendisiydi.
13:53
I researched this and found
this was a widespread problem.
this was a widespread problem.
264
821199
3042
Bunu araştırdım ve
yaygın bir problem olduğunu gördüm.
yaygın bir problem olduğunu gördüm.
13:56
The story of Ferguson
wasn't algorithm-friendly.
wasn't algorithm-friendly.
265
824265
3813
Ferguson haberi algoritma dostu değildi.
14:00
It's not "likable."
266
828102
1171
"Beğenilebilir" değildi.
14:01
Who's going to click on "like?"
267
829297
1552
Kim "beğen"e tıklayacaktı?
14:03
It's not even easy to comment on.
268
831500
2206
Yorum yapılması bile kolay değildi.
14:05
Without likes and comments,
269
833730
1371
Beğeniler ve yorumlar olmayınca
14:07
the algorithm was likely showing it
to even fewer people,
to even fewer people,
270
835125
3292
algoritma bunu daha az insana
gösteriyor olmalıydı,
gösteriyor olmalıydı,
14:10
so we didn't get to see this.
271
838441
1542
dolayısıyla görmüyorduk.
14:12
Instead, that week,
272
840946
1228
Onun yerine, o hafta
14:14
Facebook's algorithm highlighted this,
273
842198
2298
Facebook'un algoritması
şunu ön plana çıkardı:
şunu ön plana çıkardı:
14:16
which is the ALS Ice Bucket Challenge.
274
844520
2226
ALS Buz Kovası Düellosu.
14:18
Worthy cause; dump ice water,
donate to charity, fine.
donate to charity, fine.
275
846770
3742
İyi bir sebep; buzlu su dök,
bağış yap, tamam.
bağış yap, tamam.
14:22
But it was super algorithm-friendly.
276
850536
1904
Fakat süper algoritma dostuydu.
14:25
The machine made this decision for us.
277
853219
2613
Makine bu kararı bizim için almıştı.
14:27
A very important
but difficult conversation
but difficult conversation
278
855856
3497
Facebook tek kanal olsaydı
çok önemli ancak
çok önemli ancak
14:31
might have been smothered,
279
859377
1555
etkili bir sohbet
14:32
had Facebook been the only channel.
280
860956
2696
engellenmiş olabilirdi.
14:36
Now, finally, these systems
can also be wrong
can also be wrong
281
864117
3797
Şimdi sonuç olarak bu sistemler
insan sistemlerine
insan sistemlerine
14:39
in ways that don't resemble human systems.
282
867938
2736
benzememesi bakımından da
yanlış olabilir.
yanlış olabilir.
14:42
Do you guys remember Watson,
IBM's machine-intelligence system
IBM's machine-intelligence system
283
870698
2922
Watson'ı hatırlıyor musunuz?
IBM'in Riziko'da
IBM'in Riziko'da
14:45
that wiped the floor
with human contestants on Jeopardy?
with human contestants on Jeopardy?
284
873644
3128
insan rakiplerini yenilgiye uğratan
makine zekâsı sistemini?
makine zekâsı sistemini?
14:49
It was a great player.
285
877131
1428
Harika bir oyuncuydu.
14:50
But then, for Final Jeopardy,
Watson was asked this question:
Watson was asked this question:
286
878583
3569
Ancak o zaman, Riziko'nun finalinde
Watson'a şu soru soruldu:
Watson'a şu soru soruldu:
14:54
"Its largest airport is named
for a World War II hero,
for a World War II hero,
287
882659
2932
"En büyük havaalanı adını İkinci
Dünya Savaşı kahramanından alır,
Dünya Savaşı kahramanından alır,
14:57
its second-largest
for a World War II battle."
for a World War II battle."
288
885615
2252
ikincisi İkinci Dünya Savaşı savaşından.
(Final Riziko müziği çalar)
14:59
(Hums Final Jeopardy music)
289
887891
1378
15:01
Chicago.
290
889582
1182
Chicago.
15:02
The two humans got it right.
291
890788
1370
İki insan soruyu doğru anladı.
15:04
Watson, on the other hand,
answered "Toronto" --
answered "Toronto" --
292
892697
4348
Buna karşın Watson,
Birleşik Devletler şehri olarak
Birleşik Devletler şehri olarak
15:09
for a US city category!
293
897069
1818
"Toronto" cevabını verdi.
15:11
The impressive system also made an error
294
899596
2901
Bu etkileyici sistem
15:14
that a human would never make,
a second-grader wouldn't make.
a second-grader wouldn't make.
295
902521
3651
bir insanın, ikinci sınıfa giden birinin
asla yapmayacağı bir hata yapmıştı.
asla yapmayacağı bir hata yapmıştı.
15:18
Our machine intelligence can fail
296
906823
3109
Makine zekâmız
15:21
in ways that don't fit
error patterns of humans,
error patterns of humans,
297
909956
3100
insanların hata şekline
uymayan şekilde,
uymayan şekilde,
15:25
in ways we won't expect
and be prepared for.
and be prepared for.
298
913080
2950
beklemediğimiz ve hazırlıksız olduğumuz
şekilde hata yapabilir.
şekilde hata yapabilir.
15:28
It'd be lousy not to get a job
one is qualified for,
one is qualified for,
299
916054
3638
Kalifiye biri için işe alınmamak
kötü olabilirdi,
kötü olabilirdi,
15:31
but it would triple suck
if it was because of stack overflow
if it was because of stack overflow
300
919716
3727
fakat bu, bazı alt programlarda
bellek dolu dediği için oluyorsa
bellek dolu dediği için oluyorsa
15:35
in some subroutine.
301
923467
1432
üç kat daha kötü olurdu.
15:36
(Laughter)
302
924923
1579
(Gülüşmeler)
15:38
In May of 2010,
303
926526
2786
Mayıs 2010'da
15:41
a flash crash on Wall Street
fueled by a feedback loop
fueled by a feedback loop
304
929336
4044
Wall Steet'te olan Wall Street'in
"satış" algoritmalarını
"satış" algoritmalarını
15:45
in Wall Street's "sell" algorithm
305
933404
3028
bir geri bildirim döngüsünün
körüklediği ani bir düşüş
körüklediği ani bir düşüş
15:48
wiped a trillion dollars
of value in 36 minutes.
of value in 36 minutes.
306
936456
4184
36 dakika içinde trilyon dolarları sildi.
15:53
I don't even want to think
what "error" means
what "error" means
307
941722
2187
Ölümcül otonom silahlar bağlamında
15:55
in the context of lethal
autonomous weapons.
autonomous weapons.
308
943933
3589
"hata yapmak" ne demek bunu
düşünmek bile istemiyorum.
düşünmek bile istemiyorum.
16:01
So yes, humans have always made biases.
309
949894
3790
Evet, insanlar her zaman
ön yargıda bulunur.
ön yargıda bulunur.
16:05
Decision makers and gatekeepers,
310
953708
2176
Karar vericiler ve geçit deneticiler
16:07
in courts, in news, in war ...
311
955908
3493
mahkemelerde, haberlerde, savaşlarda...
16:11
they make mistakes;
but that's exactly my point.
but that's exactly my point.
312
959425
3038
Hata yaparlar; işte benim
asıl dikkat çekmek istediğim bu.
asıl dikkat çekmek istediğim bu.
16:14
We cannot escape
these difficult questions.
these difficult questions.
313
962487
3521
Bu zor sorulardan kaçamayız.
16:18
We cannot outsource
our responsibilities to machines.
our responsibilities to machines.
314
966596
3516
Kendi sorumluluklarımızı
makinelere yaptıramayız.
makinelere yaptıramayız.
16:22
(Applause)
315
970676
4208
(Alkışlar)
16:29
Artificial intelligence does not give us
a "Get out of ethics free" card.
a "Get out of ethics free" card.
316
977089
4447
Yapay zekâ bize "etikten kurtul geç"
kartı vermiyor.
kartı vermiyor.
16:34
Data scientist Fred Benenson
calls this math-washing.
calls this math-washing.
317
982742
3381
Veri uzmanı Fred Benenson
buna matematiksel yıkama diyor.
buna matematiksel yıkama diyor.
16:38
We need the opposite.
318
986147
1389
Tam tersine ihtiyacımız var.
16:39
We need to cultivate algorithm suspicion,
scrutiny and investigation.
scrutiny and investigation.
319
987560
5388
Algoritmayı şüphe, gözlem ve
inceleme ile desteklemeliyiz.
inceleme ile desteklemeliyiz.
16:45
We need to make sure we have
algorithmic accountability,
algorithmic accountability,
320
993380
3198
Algoritmik izlenebilirlik, denetim ve
16:48
auditing and meaningful transparency.
321
996602
2445
anlamlı şeffaflığımız olduğundan
emin olmamız gerek.
emin olmamız gerek.
16:51
We need to accept
that bringing math and computation
that bringing math and computation
322
999380
3234
Matematik ve programlamayı
karmaşık, değer yüklü
karmaşık, değer yüklü
16:54
to messy, value-laden human affairs
323
1002638
2970
insani ilişkilere uygulamanın
16:57
does not bring objectivity;
324
1005632
2384
nesnellik getirmeyeceğini
kabul etmemiz gerekiyor;
kabul etmemiz gerekiyor;
17:00
rather, the complexity of human affairs
invades the algorithms.
invades the algorithms.
325
1008040
3633
aksine, insan ilişkilerinin karmaşıklığı
algoritmaları ele geçiriyor.
algoritmaları ele geçiriyor.
17:04
Yes, we can and we should use computation
326
1012148
3487
Tabii ki daha iyi kararlar almamız için
bilgisayar kullanabiliriz,
bilgisayar kullanabiliriz,
17:07
to help us make better decisions.
327
1015659
2014
kullanmalıyız da.
17:09
But we have to own up
to our moral responsibility to judgment,
to our moral responsibility to judgment,
328
1017697
5332
Ancak doğru karar vermek için,
ahlaki sorumluluk alıp
ahlaki sorumluluk alıp
17:15
and use algorithms within that framework,
329
1023053
2818
algoritmaları bu çerçevede
kullanmak zorundayız,
kullanmak zorundayız,
17:17
not as a means to abdicate
and outsource our responsibilities
and outsource our responsibilities
330
1025895
4935
insan olarak birbirimize karşı olan
sorumluluklarımızı üstümüzden atıp
sorumluluklarımızı üstümüzden atıp
17:22
to one another as human to human.
331
1030854
2454
dış kaynaktan temin etmenin
bir yolu gibi görmemeliyiz.
bir yolu gibi görmemeliyiz.
17:25
Machine intelligence is here.
332
1033807
2609
Makine zekâsı işte böyledir.
17:28
That means we must hold on ever tighter
333
1036440
3421
Bu demektir ki, insani değerlere ve etiğe
17:31
to human values and human ethics.
334
1039885
2147
hiç olmadığı kadar
sıkı sarılmamız gerekiyor.
sıkı sarılmamız gerekiyor.
17:34
Thank you.
335
1042056
1154
Teşekkür ederim.
17:35
(Applause)
336
1043234
5020
(Alkışlar)
ABOUT THE SPEAKER
Zeynep Tufekci - Techno-sociologistTechno-sociologist Zeynep Tufekci asks big questions about our societies and our lives, as both algorithms and digital connectivity spread.
Why you should listen
We've entered an era of digital connectivity and machine intelligence. Complex algorithms are increasingly used to make consequential decisions about us. Many of these decisions are subjective and have no right answer: who should be hired, fired or promoted; what news should be shown to whom; which of your friends do you see updates from; which convict should be paroled. With increasing use of machine learning in these systems, we often don't even understand how exactly they are making these decisions. Zeynep Tufekci studies what this historic transition means for culture, markets, politics and personal life.
Tufekci is a contributing opinion writer at the New York Times, an associate professor at the School of Information and Library Science at University of North Carolina, Chapel Hill, and a faculty associate at Harvard's Berkman Klein Center for Internet and Society.
Her book, Twitter and Tear Gas: The Power and Fragility of Networked Protest, was published in 2017 by Yale University Press. Her next book, from Penguin Random House, will be about algorithms that watch, judge and nudge us.
Zeynep Tufekci | Speaker | TED.com