TEDGlobal 2013
Daniel Suarez: The kill decision shouldn't belong to a robot
Daniel Suarez: Öldürme kararı bir robota ait olmamalıdır
Filmed:
Readability: 5.9
1,946,706 views
Bir yazar olarak Daniel Suarez geleceğin distopyan hikayelerini tasarlamaktadır. Fakat TED küresel sahnesinde hakkında daha çok bilmemiz gereken gerçek hayat senaryosunu anlatmaktadır: kendi kendini yöneten robot savaş silahlarının yükselişi. Önerdiği gelişmiş insansız hava uçakları, otomatik robot silahları ve (Al)-pille çalışan istihbarat toplama araçları savaşları insanların kontrolünden alma kararını verebilir.
Daniel Suarez - Sci-fi author
Daniel Suarez concocts thrilling reads from terrifying (and not-so-farfetched) near-future scenarios. Full bio
Daniel Suarez concocts thrilling reads from terrifying (and not-so-farfetched) near-future scenarios. Full bio
Double-click the English transcript below to play the video.
00:12
I write fiction sci-fi thrillers,
0
691
3158
Bilim-kurgu polisiye romanı yazıyorum.
00:15
so if I say "killer robots,"
1
3849
2193
yani, 'katil robotlar' dersem,
00:18
you'd probably think something like this.
2
6042
2361
muhtemelen bunun gibi bir şey düşüneceksiniz.
00:20
But I'm actually not here to talk about fiction.
3
8403
2555
Fakat, aslında roman hakkında konuşmak için burada değilim.
00:22
I'm here to talk about very real killer robots,
4
10958
2948
Burada olma nedenim çok gerçek olan öldürücü robotlar-
00:25
autonomous combat drones.
5
13906
3122
kendi kendini yöneten insansız hava araçları hakkında konuşmak.
00:29
Now, I'm not referring to Predator and Reaper drones,
6
17028
3627
Şu anda hedef alma kararını insanlardan alan
00:32
which have a human making targeting decisions.
7
20655
3260
Predator ve Reaper uzaktan kumandalı uçaklarından bahsetmiyorum.
00:35
I'm talking about fully autonomous robotic weapons
8
23915
3129
İnsanoğlu hakkındaki ölüm kararlarını
00:39
that make lethal decisions about human beings
9
27044
2654
kendi başlarına veren tamamen özerk robot silahlar
00:41
all on their own.
10
29698
2417
hakkında konuşuyorum.
00:44
There's actually a technical term for this: lethal autonomy.
11
32115
4000
Aslında bunun için teknik bir terim var: Öldürücü Özerklik
00:48
Now, lethally autonomous killer robots
12
36115
2856
Şimdi öldürücü bir şekilde özerk katil robotlar
00:50
would take many forms -- flying, driving,
13
38971
3069
pek çok şekil alabilirler--- uçan, hareket eden
00:54
or just lying in wait.
14
42040
2746
ya da sadece pusuda yatan.
00:56
And actually, they're very quickly becoming a reality.
15
44786
3109
Ve aslında, çok hızlı bir şekilde gerçeğe dönüşüyorlar.
00:59
These are two automatic sniper stations
16
47895
2484
Bu gördükleriniz Kuzey ve Güney Kore arasındaki
01:02
currently deployed in the DMZ between North and South Korea.
17
50379
4137
askerden arındırılmış bölgede sevk edilmiş iki otomatik keskin nişancı üssü.
01:06
Both of these machines are capable of automatically
18
54516
2171
Bu makinelerin ikisi de otomatik olarak canlı hedefi tespit etme ve
01:08
identifying a human target and firing on it,
19
56687
3524
solda bir kilometrenin üzerindeki mesafede bulunan
01:12
the one on the left at a distance of over a kilometer.
20
60211
4324
birine ateş etme kapasitesine sahipler.
01:16
Now, in both cases, there's still a human in the loop
21
64535
3589
Şimdi, her iki durumda da öldürücü ateş etme kararını vermek için
01:20
to make that lethal firing decision,
22
68124
2372
insanlar hala işin içinde,
01:22
but it's not a technological requirement. It's a choice.
23
70496
5413
fakat, bu teknolojik bir gereksinim değil, bir seçimdir.
01:27
And it's that choice that I want to focus on,
24
75909
3093
Ve odaklanmak istediğim de işte bu seçim,
01:31
because as we migrate lethal decision-making
25
79002
2641
çünkü öldürme kararı vermeyi
01:33
from humans to software,
26
81643
3109
insandan alıp yazılıma geçirdikçe
01:36
we risk not only taking the humanity out of war,
27
84752
3476
sadece insanoğlunu savaşın dışına itmiyor,
01:40
but also changing our social landscape entirely,
28
88228
3526
aynı zamanda sosyal yapımızı da tamamıyla
01:43
far from the battlefield.
29
91754
2224
harp meydanından ötede değiştiriyoruz.
01:45
That's because the way humans resolve conflict
30
93978
4509
Bunun böyle olma nedeni insanların çatışmaları çözme şeklinin
01:50
shapes our social landscape.
31
98487
1733
sosyal yapımızı şekillendirmesidir.
01:52
And this has always been the case, throughout history.
32
100220
2633
Ve bu tarih boyunca hep böyle olmuştur.
01:54
For example, these were state-of-the-art weapons systems
33
102853
2661
Örneğin, bunlar milattan sonra 1400'deki en gelişmiş
01:57
in 1400 A.D.
34
105514
2079
silahlardı.
01:59
Now they were both very expensive to build and maintain,
35
107593
3144
Bu aralar her ikisi de üretmek ve muhafaza etmek için çok pahalıydılar.
02:02
but with these you could dominate the populace,
36
110737
3240
Fakat bunlarla halk tabakasını baskı altında tutabilirdiniz.
02:05
and the distribution of political power in feudal society reflected that.
37
113977
3889
Ve feodal toplumlardaki politik güç dağılımı bunu yansıttı.
02:09
Power was focused at the very top.
38
117866
2687
En üst seviyede güce odaklanılmıştı.
02:12
And what changed? Technological innovation.
39
120553
3528
Ne değişti? Teknolojik buluşlar.
02:16
Gunpowder, cannon.
40
124081
1871
Barut, top.
02:17
And pretty soon, armor and castles were obsolete,
41
125952
3817
Ve çok yakın zamanda zırhlar ve kaleler çok demode oldu
02:21
and it mattered less who you brought to the battlefield
42
129769
2533
ve savaş meydanına kimi götürdüğün
02:24
versus how many people you brought to the battlefield.
43
132302
3779
kaç kişi götürdüğünden daha az önemliydi.
02:28
And as armies grew in size, the nation-state arose
44
136081
3638
Ve orduların büyüklüğü arttıkça, milli devlet
02:31
as a political and logistical requirement of defense.
45
139719
3680
politik ve lojistik savunma koşulları olarak meydana geldi.
02:35
And as leaders had to rely on more of their populace,
46
143399
2376
Liderler daha çok halk tabakalarına dayanmak zorunda oldukları için
02:37
they began to share power.
47
145775
1833
gücü paylaşmaya başladılar.
02:39
Representative government began to form.
48
147608
2599
Temsili hükumet oluşmaya başladı.
02:42
So again, the tools we use to resolve conflict
49
150207
3288
Yani tekrardan, çatışmaları çözmek için kullanmakta olduğumuz araçlar
02:45
shape our social landscape.
50
153495
3304
toplumsal araziyi şekillendirir.
02:48
Autonomous robotic weapons are such a tool,
51
156799
4064
Özerk robot silahlar bunu dışında öyle araçlardır ki
02:52
except that, by requiring very few people to go to war,
52
160863
5168
çok az insanın savaşa gitmesini gerektirerek
02:58
they risk re-centralizing power into very few hands,
53
166031
4840
muhtemelen beş yüzyıllık bir trendi demokrasiye dönüştürecek olan
03:02
possibly reversing a five-century trend toward democracy.
54
170871
6515
çok az kişinin eline merkezi iktidarı vermekle risk oluştururlar.
03:09
Now, I think, knowing this,
55
177386
1757
Şimdi, bunu bilerek düşünüyorum ki
03:11
we can take decisive steps to preserve our democratic institutions,
56
179143
4352
uyumu sağlanmış demokratik enstitülerimizi muhafaza etmek
03:15
to do what humans do best, which is adapt.
57
183495
3979
ve insanların en iyi yaptığı şeyi yapmak için kararlı adımlar atabiliriz.
03:19
But time is a factor.
58
187474
2005
Fakat zaman bir unsurdur.
03:21
Seventy nations are developing remotely-piloted
59
189479
2851
70 millet kendi uzaktan kumandalı insansız
03:24
combat drones of their own,
60
192330
2157
savaş uçaklarını geliştiriyor
03:26
and as you'll see, remotely-piloted combat drones
61
194487
2593
ve gördüğünüz gibi uzaktan kumandalı savaş uçakları
03:29
are the precursors to autonomous robotic weapons.
62
197080
4472
özerk robot silahlarının habercisidirler.
03:33
That's because once you've deployed remotely-piloted drones,
63
201552
2767
Bunun nedeni uzaktan kumandalı savaş uçaklarını mevzilendirdiğiniz zaman
03:36
there are three powerful factors pushing decision-making
64
204319
3384
karar vermeyi insanlardan alıp
03:39
away from humans and on to the weapon platform itself.
65
207703
4600
silah platformunun kendisine iten 3 güçlü etkenin olmasıdır.
03:44
The first of these is the deluge of video that drones produce.
66
212303
5259
Bunlardan birincisi insansız hava uçaklarının ürettiği görüntü akınıdır.
03:49
For example, in 2004, the U.S. drone fleet produced
67
217562
3853
Örneğin, Birleşik Devletler insansız hava donanması 2004'te
03:53
a grand total of 71 hours of video surveillance for analysis.
68
221415
5312
analiz yapmak için genel toplamda 71 saatlik görüntü gözetimi yayınladı.
03:58
By 2011, this had gone up to 300,000 hours,
69
226727
4499
Bu durum 2011'e kadar 300.000 saate çıktı ki
04:03
outstripping human ability to review it all,
70
231226
3149
bu da onu tamamıyla incelemek için insan kapasitesini aşmıştı.
04:06
but even that number is about to go up drastically.
71
234375
3664
Fakat, bu numara bile neredeyse şiddetle artacak.
04:10
The Pentagon's Gorgon Stare and Argus programs
72
238039
2575
Her bir insansız hava uçağı platformundaki Pentagon'un Gorgon Stare (12 kameradan aynı anda görüntü alan)
04:12
will put up to 65 independently operated camera eyes
73
240614
3164
ve Argus (Yer-taban süreci) programları bağımsız çalıştırılan
04:15
on each drone platform,
74
243778
2038
65 kamera bakışına kadar artacaklar.
04:17
and this would vastly outstrip human ability to review it.
75
245816
3303
Ve bu da insan kapasitesinin inceleyebilmesinin çok daha üstüne çıkacak.
04:21
And that means visual intelligence software will need
76
249119
2160
Bu, görsel istihbarat yazılımının onda ilgi öğeleri arama ihtiyacı
04:23
to scan it for items of interest.
77
251279
4048
duyacağı anlamına gelir.
04:27
And that means very soon
78
255327
1348
Ve bu, çok yakında insansız hava uçaklarının insanlara
04:28
drones will tell humans what to look at,
79
256675
2747
nelere bakmaları gerektiğini söyleyeceği anlamına gelir,
04:31
not the other way around.
80
259422
2497
aksi yönde bir şey değil.
04:33
But there's a second powerful incentive pushing
81
261919
2473
Fakat karar vermeyi insanlardan alıp makinelere veren
04:36
decision-making away from humans and onto machines,
82
264392
3383
ikinci güçlü güdüleyici atak var.
04:39
and that's electromagnetic jamming,
83
267775
2872
Bu, santral ve insansız hava uçağı arasındaki
04:42
severing the connection between the drone
84
270647
2236
bağlantıyı koparan elektromanyetik
04:44
and its operator.
85
272883
2814
yayın karıştırma aracıdır..
04:47
Now we saw an example of this in 2011
86
275697
2618
Şimdi, bunun 2011'debir örneğini gördük;
04:50
when an American RQ-170 Sentinel drone
87
278315
2956
bir Amerikan RQ-170 gözcü uçağı
04:53
got a bit confused over Iran due to a GPS spoofing attack,
88
281271
4307
GPS'in yanıltıcı hamlesi yüzünden İran üzerindeyken biraz bocalamıştı.
04:57
but any remotely-piloted drone is susceptible to this type of attack,
89
285578
5114
Fakat herhangi bir uzaktan kumandalı hava uçağı bu tür ataklara duyarlıdır.
05:02
and that means drones
90
290692
2052
Bu, insansız hava uçaklarının daha fazla
05:04
will have to shoulder more decision-making.
91
292744
3620
karar verme sorumluluğunu üstlenmek zorunda olduğu anlamına gelir.
05:08
They'll know their mission objective,
92
296364
3043
Uçuş amaçlarını bilecekler
05:11
and they'll react to new circumstances without human guidance.
93
299407
4845
ve insan yardımı olmaksızın görülmemiş durumlara karşılık verecekler.
05:16
They'll ignore external radio signals
94
304252
2581
Yabancı radyo sinyallerini görmezden gelip
05:18
and send very few of their own.
95
306833
2330
kendi sinyallerinin çok azını gönderecekler.
05:21
Which brings us to, really, the third
96
309163
2006
Üçüncü ve en güçlü teşvik edici olan
05:23
and most powerful incentive pushing decision-making
97
311169
3862
karar almayı insandan alıp silahlara veren
05:27
away from humans and onto weapons:
98
315031
3342
maddeye getiren şey:
05:30
plausible deniability.
99
318373
3293
İnandırıcı yadsınabilirlik.
05:33
Now we live in a global economy.
100
321666
2887
Şimdi küresel ekonomi içinde yaşıyoruz.
05:36
High-tech manufacturing is occurring on most continents.
101
324553
4334
İleri teknoloji imalat çoğu kıtada meydana gelir.
05:40
Cyber espionage is spiriting away advanced designs
102
328887
2914
Sanal casusluk gelişmiş tasarımları gizlice bilinmeyen taraflara
05:43
to parts unknown,
103
331801
1886
götürüyor
05:45
and in that environment, it is very likely
104
333687
2014
ve bu çevrede, büyük olasılıkla
05:47
that a successful drone design will be knocked off in contract factories,
105
335701
4734
fahiş piyasada hızla çoğalan başarılı insansız hava uçakları tasarımları
05:52
proliferate in the gray market.
106
340435
2170
anlaşma imalathanelerinde hızla yapılacak.
05:54
And in that situation, sifting through the wreckage
107
342605
2460
Ve bu durumda, insansız hava uçağının hasarını
05:57
of a suicide drone attack, it will be very difficult to say
108
345065
2960
derinden inceleyerek, bu silahı kimin gönderdiğini söylemek
06:00
who sent that weapon.
109
348025
4400
çok zor olacak.
06:04
This raises the very real possibility
110
352425
2800
Bu kimin yaptığı belli olmayan savaşların
06:07
of anonymous war.
111
355225
2935
çok hakiki ihtimalini artıracaktır.
06:10
This could tilt the geopolitical balance on its head,
112
358160
2614
Bu basınç yüksekliğinde bulunan jeopolitik dengeyi etkileyebilir,
06:12
make it very difficult for a nation to turn its firepower
113
360774
3491
ateş gücünü saldırganlara karşı çevirmeyi bir millet için
06:16
against an attacker, and that could shift the balance
114
364265
2848
çok zorlaştırabilir, ve bu da 21. yüzyılda dengeyi
06:19
in the 21st century away from defense and toward offense.
115
367113
3764
savunmadan alıp hücuma yöneltebilir.
06:22
It could make military action a viable option
116
370877
3124
Bu askeri harekatı sadece küçük toplumlar için değil
06:26
not just for small nations,
117
374001
2288
aynı zamanda suç örgütleri,
06:28
but criminal organizations, private enterprise,
118
376289
2545
özel ticari kuruluşlar, hatta nüfuzlu insanlar için
06:30
even powerful individuals.
119
378834
2479
geçerli bir seçenek yapar.
06:33
It could create a landscape of rival warlords
120
381313
3328
Bu, barolar ve sivil halkın yönetimini baltalayan
06:36
undermining rule of law and civil society.
121
384641
3680
muhalif diktatörlere bir arazi oluşturacaktır.
06:40
Now if responsibility and transparency
122
388321
3616
Şimdi, sorumluluk ve şeffaflık
06:43
are two of the cornerstones of representative government,
123
391937
2384
temsili meclisin iki temel taşıysa,
06:46
autonomous robotic weapons could undermine both.
124
394321
4320
özerk robot silahları ikisini de sarsabilir.
06:50
Now you might be thinking that
125
398641
1546
Şimdi, şunu düşünüyor olabilirsin;
06:52
citizens of high-tech nations
126
400187
2246
ileri teknoloji toplumları
06:54
would have the advantage in any robotic war,
127
402433
2703
herhangi bir robot savaşında avantajlı olabilir.
06:57
that citizens of those nations would be less vulnerable,
128
405136
3633
Bu ulusların vatandaşları daha savunmasız olacaklardır
07:00
particularly against developing nations.
129
408769
4288
özellikle gelişmekte olan uluslara karşı.
07:05
But I think the truth is the exact opposite.
130
413057
3524
Fakat, gerçeğin tam tersi olduğunu düşünüyorum.
07:08
I think citizens of high-tech societies
131
416581
2251
İleri teknoloji ülkesi vatandaşlarının
07:10
are more vulnerable to robotic weapons,
132
418832
3729
robot silahlara karşı daha savunmasız olduğunu düşüyorum.
07:14
and the reason can be summed up in one word: data.
133
422561
4465
Sebebi tek bir kelimede özetlenebilir: veri.
07:19
Data powers high-tech societies.
134
427026
3481
Veri ileri teknoloji toplumlarını güçlendirir.
07:22
Cell phone geolocation, telecom metadata,
135
430507
3190
Cep telefonu konum belirlemesi, telekom üst-verisi,
07:25
social media, email, text, financial transaction data,
136
433697
3472
sosyal medya, e-posta, mesaj, finansal işlem verisi
07:29
transportation data, it's a wealth of real-time data
137
437169
3532
ulaştırma verisi, o, insanların hareketleri ve
07:32
on the movements and social interactions of people.
138
440701
3373
sosyal etkileşimlerindeki gerçek zaman verisinin bolluğudur.
07:36
In short, we are more visible to machines
139
444074
3775
Kısaca, tarihteki herhangi bir insandan çok
07:39
than any people in history,
140
447849
2242
makinelere görünürüz
07:42
and this perfectly suits the targeting needs of autonomous weapons.
141
450091
5616
ve bu özerk silahların hedef tespiti ihtiyaçlarına mükemmel şekilde uyar.
07:47
What you're looking at here
142
455707
1738
Burada bakmakta olduğunuz şey
07:49
is a link analysis map of a social group.
143
457445
3246
toplumsal bir grubun bağlantı analiz haritasıdır.
07:52
Lines indicate social connectedness between individuals.
144
460691
3634
Çizgiler bireyler arasındaki sosyal etkileşimi göstermektedir.
07:56
And these types of maps can be automatically generated
145
464325
2880
Ve bu tür haritalar, modern insanların gerilerinde bıraktıkları
07:59
based on the data trail modern people leave behind.
146
467205
4715
veri izine dayandırılarak otomatik olarak üretilebilirler.
08:03
Now it's typically used to market goods and services
147
471920
2477
Şimdi o genellikle mal ve hizmetleri hedeflenen nüfusa yönelik
08:06
to targeted demographics, but it's a dual-use technology,
148
474397
4416
piyasaya çıkarmak için kullanılır, fakat o çift kullanımlı bir teknolojidir.
08:10
because targeting is used in another context.
149
478813
3360
Çünkü hedef başka bağlamda kullanılır.
08:14
Notice that certain individuals are highlighted.
150
482173
2560
Belli bireylerin aydınlatıldığını fark edin.
08:16
These are the hubs of social networks.
151
484733
3280
Bunlar sosyal ağların merkezleridir.
08:20
These are organizers, opinion-makers, leaders,
152
488013
3590
Bunlar, kurucular, fikir üreticileri, liderler
08:23
and these people also can be automatically identified
153
491603
2682
ve ayrıca iletişim şablonlarından otomatik olarak
08:26
from their communication patterns.
154
494285
2382
tanımlanan bu insanlardır.
08:28
Now, if you're a marketer, you might then target them
155
496667
2146
Şimdi, bir pazarlamacıysanız, o halde onları ürün numuneleri ile
08:30
with product samples, try to spread your brand
156
498813
2543
hedefleyip sosyal gruplara markanızı
08:33
through their social group.
157
501356
2829
dağıtmaya çalışabilirsiniz.
08:36
But if you're a repressive government
158
504185
1953
Fakat politik düşmanlar arayan baskıcı bir
08:38
searching for political enemies, you might instead remove them,
159
506138
4810
hükumet iseniz, bunun yerine onları uzaklaştırır,
08:42
eliminate them, disrupt their social group,
160
510948
2760
ortadan kaldırır, sosyal gruplarını dağıtabilirsiniz
08:45
and those who remain behind lose social cohesion
161
513708
3169
ve arkada kalan kısım sosyal dayanışma
08:48
and organization.
162
516877
2621
ve sosyal örgütleri kaybeder.
08:51
Now in a world of cheap, proliferating robotic weapons,
163
519498
3324
Şimdi ucuz dünyada robot silahları çoğaltırsak,
08:54
borders would offer very little protection
164
522822
2635
sınırlar bir devleti başka bir ülkeden yöneten hükumetlere ve
08:57
to critics of distant governments
165
525457
1946
uluslararası suç kuruluşlarının muhaliflerine
08:59
or trans-national criminal organizations.
166
527403
3646
çok az koruma sunacaktır.
09:03
Popular movements agitating for change
167
531049
3493
Değişim için kışkırtan popüler hareketler
09:06
could be detected early and their leaders eliminated
168
534542
3609
önceden belirlenebilir ve fikirleri, kritik bir kitleyi elde etmeden önce
09:10
before their ideas achieve critical mass.
169
538151
2911
liderleri ortadan kaldırılabilir.
09:13
And ideas achieving critical mass
170
541062
2591
Ve kritik kitleyi elde eden fikirler tamamen
09:15
is what political activism in popular government is all about.
171
543653
3936
popüler hükumetteki politik eylemciliğin ne olduğuyla alakalıdır.
09:19
Anonymous lethal weapons could make lethal action
172
547589
3997
Anonim öldürücü silahlar, her tür çakışan çıkarlar için
09:23
an easy choice for all sorts of competing interests.
173
551586
3782
kolay yol olarak ölümcül eylem yapabilirler.
09:27
And this would put a chill on free speech
174
555368
3734
Ve bu, serbest konuşma özgürlüğü ve
09:31
and popular political action, the very heart of democracy.
175
559102
5308
demokrasinin merkezi olan popüler politik eylemle ilişkisini keser.
09:36
And this is why we need an international treaty
176
564410
2914
Ve bu, robot silahlarda ve katil silahların
09:39
on robotic weapons, and in particular a global ban
177
567324
3540
gelişimi ve konuşlanmasıyla alakalı özel bir küresel yasakta
09:42
on the development and deployment of killer robots.
178
570864
3908
uluslararası anlaşmaya ihtiyaç duymamızın sebebidir.
09:46
Now we already have international treaties
179
574772
3254
Şimdi biz çoktan nükleer ve biyolojik silahlar
09:50
on nuclear and biological weapons, and, while imperfect,
180
578026
3386
üzerine uluslararası anlaşmaya sahibiz
09:53
these have largely worked.
181
581412
2288
her ne kadar tamamlanmamış olup büyük ölçüde kullanılıyorsa da.
09:55
But robotic weapons might be every bit as dangerous,
182
583700
3768
Fakat, robot silahlar tamamen tehlikeli gibi olabilirler.
09:59
because they will almost certainly be used,
183
587468
3288
Çünkü onlar hemen hemen kesinlikle kullanılacak
10:02
and they would also be corrosive to our democratic institutions.
184
590756
5027
ve ayrıca demokratik enstitülerimize karşı yıpratıcı olacaklar.
10:07
Now in November 2012 the U.S. Department of Defense
185
595783
3468
Şu anda, Birleşik Devletler Savunma Bakanlığı Kasım 2012'de
10:11
issued a directive requiring
186
599251
2458
tüm ölümcül kararlarda
10:13
a human being be present in all lethal decisions.
187
601709
4519
bir insanın mevcut olduğu direktif zorunluluğu tebliğ etti.
10:18
This temporarily effectively banned autonomous weapons in the U.S. military,
188
606228
4776
Bu geçici olarak etkin bir şekilde Birleşik Devletler ordusundaki özerk silahları yasakladı.
10:23
but that directive needs to be made permanent.
189
611004
3753
Ancak bu direktifin kalıcı hale getirilmesi gerekmektedir.
10:26
And it could set the stage for global action.
190
614757
4376
Ve küresel eylem için zemin hazırlayabilir.
10:31
Because we need an international legal framework
191
619133
3845
Çünkü robot silahlar için bizim uluslar arası ölümcül taslağa
10:34
for robotic weapons.
192
622978
2138
ihtiyacımız var.
10:37
And we need it now, before there's a devastating attack
193
625116
2928
Dünya uluslarının bu silahları kabul etmeyi hızlandırmasına neden olan
10:40
or a terrorist incident that causes nations of the world
194
628044
3152
tahrip edici hücum ya da bir terörist hadisesinden önce
10:43
to rush to adopt these weapons
195
631196
1924
ve daha sonuçları düşünmeden
10:45
before thinking through the consequences.
196
633120
3771
ona şimdi ihtiyacımız var.
10:48
Autonomous robotic weapons concentrate too much power
197
636891
2981
Özerk robot silahlar çok fazla gücü çok az elde topluyor
10:51
in too few hands, and they would imperil democracy itself.
198
639872
6283
ve onlar demokrasiyi tehlikeye atacaklar.
10:58
Now, don't get me wrong, I think there are tons
199
646155
2686
Şimdi, beni yanlış anlamayın ama silahsız sivil insansız hava uçakları için tonlarca
11:00
of great uses for unarmed civilian drones:
200
648841
2618
harika kullanımlar olduğunu düşünüyorum.
11:03
environmental monitoring, search and rescue, logistics.
201
651459
3939
çevre denetimi, araştırma ve lojistiği kurtarma.
11:07
If we have an international treaty on robotic weapons,
202
655398
2826
Robot silahlar üzerinde uluslararası bir anlaşmaya sahipsek
11:10
how do we gain the benefits of autonomous drones
203
658224
3587
hala kendimizi yasa dışı robot silahlara karşı korurken
11:13
and vehicles while still protecting ourselves
204
661811
2648
özerk uçak ve araçlardan
11:16
against illegal robotic weapons?
205
664459
3980
nasıl yarar sağlayacağız?
11:20
I think the secret will be transparency.
206
668439
4741
Sırrın belirgin olacağını düşünüyorum.
11:25
No robot should have an expectation of privacy
207
673180
3013
Hiç bir robotun umumi yerlerde mahremiyet beklentisi
11:28
in a public place.
208
676193
3451
olmamalıdır.
11:31
(Applause)
209
679644
5048
(Alkışlar)
11:36
Each robot and drone should have
210
684692
2045
Her bir robot ve uçak umumi yerlerde
11:38
a cryptographically signed I.D. burned in at the factory
211
686737
2883
devinimini takip etmesi için kullanılabilen
11:41
that can be used to track its movement through public spaces.
212
689620
2923
imalathanede çalışmaya hazırlanan şifreli işaretlenmiş bir kimliğe sahip olmalıdır.
11:44
We have license plates on cars, tail numbers on aircraft.
213
692543
3381
Arabalarda plaka, hava araçlarında kuyruk numarasına sahibiz.
11:47
This is no different.
214
695924
1841
Bu da farklı değil.
11:49
And every citizen should be able to download an app
215
697765
2012
Ve her vatandaş şimdi ve tarih boyunca
11:51
that shows the population of drones and autonomous vehicles
216
699777
3125
umumi alanlar çevresinde (yukarıdan) hareket eden uçaklar
11:54
moving through public spaces around them,
217
702902
2429
ve özerk araçların nüfusunu gösteren bir uygulama
11:57
both right now and historically.
218
705331
2733
yüklemiş olabilmelidir.
12:00
And civic leaders should deploy sensors and civic drones
219
708064
3548
Ve sivil liderler belirlemek için algılayıcı ve sivil uçakları haydut uçakları
12:03
to detect rogue drones,
220
711612
2344
harekete geçirmelidir
12:05
and instead of sending killer drones of their own up to shoot them down,
221
713956
3176
ve kendi katil uçaklarını, haydut uçakları ateş edip düşürmesi için göndermek yerine
12:09
they should notify humans to their presence.
222
717132
2992
onları insanlara haydut uçakların varlığını haber vermelidir.
12:12
And in certain very high-security areas,
223
720124
2606
Ve bazı çok yüksek güvenlik alanlarında
12:14
perhaps civic drones would snare them
224
722730
1909
muhtemelen sivil uçaklar onları tuzağa düşürecek
12:16
and drag them off to a bomb disposal facility.
225
724639
2841
ve bomba imha tesisine sürükleyecektir.
12:19
But notice, this is more an immune system
226
727480
3027
Fakat dikkat edin, bu, silah sisteminden çok
12:22
than a weapons system.
227
730507
1321
bağışıklık sistemidir.
12:23
It would allow us to avail ourselves of the use
228
731828
2592
Bu hala açık ve sivil toplumumuzu koruyorken
12:26
of autonomous vehicles and drones
229
734420
2032
özerk araç ve uçakların kullanımından
12:28
while still preserving our open, civil society.
230
736452
4295
yararlanmamıza izin verir.
12:32
We must ban the deployment and development
231
740747
2999
Katil robotların gelişim ve mevzilenmesini
12:35
of killer robots.
232
743746
1862
yasaklamalıyız.
12:37
Let's not succumb to the temptation to automate war.
233
745608
4850
Savaşı otomatikleştirmek için cazibesine yenik düşmeyelim.
12:42
Autocratic governments and criminal organizations
234
750458
2718
Despot hükumetler ve suç örgütleri
12:45
undoubtedly will, but let's not join them.
235
753176
2956
hiç şüphesiz yenik düşecek, fakat biz onlara katılmayalım.
12:48
Autonomous robotic weapons
236
756132
1891
Özerk robot silahlar
12:50
would concentrate too much power
237
758023
2051
çok fazla gücü çok az olan gizli ellerde
12:52
in too few unseen hands,
238
760074
2482
toplayacaktır,
12:54
and that would be corrosive to representative government.
239
762556
3255
ve bu temsili hükumete yıpratıcı olacaktır.
12:57
Let's make sure, for democracies at least,
240
765811
2961
Emin olalım ki, en azından demokrasiler için
13:00
killer robots remain fiction.
241
768772
2604
katil robotlar kurgu kalacaktır.
13:03
Thank you.
242
771376
1110
Teşekkür ederim.
13:04
(Applause)
243
772486
4565
(Alkışlar)
13:09
Thank you. (Applause)
244
777051
4616
(Alkışlar)
ABOUT THE SPEAKER
Daniel Suarez - Sci-fi authorDaniel Suarez concocts thrilling reads from terrifying (and not-so-farfetched) near-future scenarios.
Why you should listen
While working as a software developer, Daniel Suarez self-published Daemon, a cyber-thriller depicting a future where society is radically reshaped by disruptive technologies. It struck a chord -- and so did the sequel, Freedom (TM) -- rocketing Suarez into the pantheon of sci-fi prophets.
In his 2012 novel Kill Decision, Suarez digs into the consequences of technology that’s here to stay: autonomous bots and drones programmed to be lethal. Suarez argues that as we cede more control to software, we gamble with the very essence of democracy itself. How can we establish sane guidelines for technology that could easily outstrip our control?
Daniel Suarez | Speaker | TED.com