TEDGlobal 2013
Daniel Suarez: The kill decision shouldn't belong to a robot
Daniel Suarez: Decizia de a ucide nu trebuie să aparțină unui robot
Filmed:
Readability: 5.9
1,946,706 views
Fiind romancier, Daniel Suarez creează povestiri distopice despre viitor. Dar, pe scena TEDGlobal ne vorbește despre un scenariu real, despre care ar trebui să știm cu toții mai multe: apariția armelor robotice autonome. Dronele și armele automate și uneltele de spionaj cu inteligență artificială, ar putea răpi decizia de a crea un război din mâinile oamenilor.
Daniel Suarez - Sci-fi author
Daniel Suarez concocts thrilling reads from terrifying (and not-so-farfetched) near-future scenarios. Full bio
Daniel Suarez concocts thrilling reads from terrifying (and not-so-farfetched) near-future scenarios. Full bio
Double-click the English transcript below to play the video.
00:12
I write fiction sci-fi thrillers,
0
691
3158
Scriu romane științifico-fantastice.
00:15
so if I say "killer robots,"
1
3849
2193
Dacă spun „roboți ucigași"
00:18
you'd probably think something like this.
2
6042
2361
probabil vă gândiți la ceva de genul ăsta.
00:20
But I'm actually not here to talk about fiction.
3
8403
2555
Dar nu sunt aici să vorbesc despre ficțiune.
00:22
I'm here to talk about very real killer robots,
4
10958
2948
Vreau să vă vorbesc despre roboți ucigași adevărați,
00:25
autonomous combat drones.
5
13906
3122
dronele de luptă autonome.
00:29
Now, I'm not referring to Predator and Reaper drones,
6
17028
3627
Nu drone precum Predator sau Reaper,
00:32
which have a human making targeting decisions.
7
20655
3260
unde oamenii iau deciziile.
00:35
I'm talking about fully autonomous robotic weapons
8
23915
3129
E vorba de arme robotice complet autonome
00:39
that make lethal decisions about human beings
9
27044
2654
care iau decizii letale pentru ființele umane
00:41
all on their own.
10
29698
2417
de unele singure.
00:44
There's actually a technical term for this: lethal autonomy.
11
32115
4000
Există un termen tehnic pentru asta:
autonomie letală.
autonomie letală.
00:48
Now, lethally autonomous killer robots
12
36115
2856
Roboții ucigași autonomi
00:50
would take many forms -- flying, driving,
13
38971
3069
pot avea multe forme -- pot zbura, conduce,
00:54
or just lying in wait.
14
42040
2746
sau doar rămâne în așteptare.
00:56
And actually, they're very quickly becoming a reality.
15
44786
3109
De fapt, încep să devină realitate.
00:59
These are two automatic sniper stations
16
47895
2484
Astea sunt două stații-lunetist automate
01:02
currently deployed in the DMZ between North and South Korea.
17
50379
4137
trimise în zona demilitarizată dintre Coreea de Nord și de Sud.
01:06
Both of these machines are capable of automatically
18
54516
2171
Ambele pot identifica automat
01:08
identifying a human target and firing on it,
19
56687
3524
și trage în ținte umane,
01:12
the one on the left at a distance of over a kilometer.
20
60211
4324
cea din stânga până la un kilometru distanță.
01:16
Now, in both cases, there's still a human in the loop
21
64535
3589
În ambele cazuri mai avem un om în ecuație,
01:20
to make that lethal firing decision,
22
68124
2372
care ia decizia deschiderii focului,
01:22
but it's not a technological requirement. It's a choice.
23
70496
5413
dar nu e o constrângere tehnologică.
E o opțiune.
E o opțiune.
01:27
And it's that choice that I want to focus on,
24
75909
3093
Despre această opțiune vreau să discut,
01:31
because as we migrate lethal decision-making
25
79002
2641
pentru că prin transferarea deciziei letale
01:33
from humans to software,
26
81643
3109
de la oameni la software,
01:36
we risk not only taking the humanity out of war,
27
84752
3476
nu riscăm doar dispariția oricărei umanități din război,
01:40
but also changing our social landscape entirely,
28
88228
3526
ci și modificarea integrală a peisajului social,
01:43
far from the battlefield.
29
91754
2224
departe de câmpul de luptă.
01:45
That's because the way humans resolve conflict
30
93978
4509
Felul în care oamenii rezolvă conflictele
01:50
shapes our social landscape.
31
98487
1733
dă formă peisajului social.
01:52
And this has always been the case, throughout history.
32
100220
2633
Așa a fost întotdeauna în istorie.
01:54
For example, these were state-of-the-art weapons systems
33
102853
2661
De ex., acestea erau sisteme de arme ultramoderne
01:57
in 1400 A.D.
34
105514
2079
în 1400 d.H.
01:59
Now they were both very expensive to build and maintain,
35
107593
3144
Construirea și întreținerea lor erau foarte scumpe,
02:02
but with these you could dominate the populace,
36
110737
3240
dar prin ele puteai domina mulțimile,
02:05
and the distribution of political power in feudal society reflected that.
37
113977
3889
și distribuirea puterii politice în societatea feudală.
02:09
Power was focused at the very top.
38
117866
2687
Puterea era concentrată la vârf.
02:12
And what changed? Technological innovation.
39
120553
3528
Ce s-a schimbat? Inovația tehnologică.
02:16
Gunpowder, cannon.
40
124081
1871
Praf de pușcă, tunuri.
02:17
And pretty soon, armor and castles were obsolete,
41
125952
3817
Armurile și castelele au devenit inutile,
02:21
and it mattered less who you brought to the battlefield
42
129769
2533
iar pe cine aduceai pe câmpul de luptă conta mai puțin
02:24
versus how many people you brought to the battlefield.
43
132302
3779
decât câți oameni aduceai.
02:28
And as armies grew in size, the nation-state arose
44
136081
3638
În timp ce armatele creșteau, a apărut statul național,
02:31
as a political and logistical requirement of defense.
45
139719
3680
ca cerință politică și logistică a apărării.
02:35
And as leaders had to rely on more of their populace,
46
143399
2376
Pentru că liderii se bazau din ce în ce mai mult pe populație,
02:37
they began to share power.
47
145775
1833
au început să împartă puterea.
02:39
Representative government began to form.
48
147608
2599
A început formarea guvernului reprezentativ.
02:42
So again, the tools we use to resolve conflict
49
150207
3288
Armele folosite în rezolvarea conflictelor
02:45
shape our social landscape.
50
153495
3304
dau formă peisajului social.
02:48
Autonomous robotic weapons are such a tool,
51
156799
4064
Armele robotice autonome sunt o astfel de unealtă,
02:52
except that, by requiring very few people to go to war,
52
160863
5168
dar, incluzând puțini oameni în război,
02:58
they risk re-centralizing power into very few hands,
53
166031
4840
prezintă riscul recentralizării puterii în mâna câtorva,
03:02
possibly reversing a five-century trend toward democracy.
54
170871
6515
punând capăt unei tendințe de cinci secole spre democrație.
03:09
Now, I think, knowing this,
55
177386
1757
Știind asta, putem lua pași decisivi
03:11
we can take decisive steps to preserve our democratic institutions,
56
179143
4352
pentru a ne păstra instituțiile democratice,
03:15
to do what humans do best, which is adapt.
57
183495
3979
prin ceea ce oamenii fac cel mai bine, adaptându-se.
03:19
But time is a factor.
58
187474
2005
Dar timpul e un factor.
03:21
Seventy nations are developing remotely-piloted
59
189479
2851
Șaptezeci de țări construiesc
03:24
combat drones of their own,
60
192330
2157
drone de război autonome,
03:26
and as you'll see, remotely-piloted combat drones
61
194487
2593
iar dronele pilotate de la distanță, veți vedea,
03:29
are the precursors to autonomous robotic weapons.
62
197080
4472
sunt precursorii armelor robotice indepedente.
03:33
That's because once you've deployed remotely-piloted drones,
63
201552
2767
Odată ce ai trimis în luptă drone pilotate de la distanță,
03:36
there are three powerful factors pushing decision-making
64
204319
3384
există trei factori ce transmit luarea de decizii
03:39
away from humans and on to the weapon platform itself.
65
207703
4600
de la oameni către platforma armată însăși.
03:44
The first of these is the deluge of video that drones produce.
66
212303
5259
Primul este mulțimea de video înregistrări colectate.
03:49
For example, in 2004, the U.S. drone fleet produced
67
217562
3853
În 2004, flota de drone a SUA a capturat pentru analiză
03:53
a grand total of 71 hours of video surveillance for analysis.
68
221415
5312
71 de ore de material video de supraveghere.
03:58
By 2011, this had gone up to 300,000 hours,
69
226727
4499
Până în 2011, ajunsese la 300,000 de ore,
04:03
outstripping human ability to review it all,
70
231226
3149
depășind capacitatea omului de a le urmări,
04:06
but even that number is about to go up drastically.
71
234375
3664
dar și acest număr e pe cale să crească alarmant.
04:10
The Pentagon's Gorgon Stare and Argus programs
72
238039
2575
Programele Gorgon Stare și Argus ale Pentagonului
04:12
will put up to 65 independently operated camera eyes
73
240614
3164
vor monta 65 de camere independente
04:15
on each drone platform,
74
243778
2038
pe fiecare platformă de drone,
04:17
and this would vastly outstrip human ability to review it.
75
245816
3303
ceea ce ar depăși cu mult capacitatea umană de a le analiza.
04:21
And that means visual intelligence software will need
76
249119
2160
Va fi nevoie, deci, de software de urmărire vizuală
04:23
to scan it for items of interest.
77
251279
4048
pentru a scana obiectele de interes.
04:27
And that means very soon
78
255327
1348
În curând,
04:28
drones will tell humans what to look at,
79
256675
2747
dronele le vor spune oamenilor ce să privească,
04:31
not the other way around.
80
259422
2497
nu invers.
04:33
But there's a second powerful incentive pushing
81
261919
2473
Mai există un motiv
04:36
decision-making away from humans and onto machines,
82
264392
3383
pentru cedarea deciziei către mașini,
04:39
and that's electromagnetic jamming,
83
267775
2872
și anume blocajul electromagnetic,
04:42
severing the connection between the drone
84
270647
2236
ce distruge legătura dintre dronă
04:44
and its operator.
85
272883
2814
și operatorul ei.
04:47
Now we saw an example of this in 2011
86
275697
2618
Avem un astfel de exemplu din 2011
04:50
when an American RQ-170 Sentinel drone
87
278315
2956
când o dronă American RQ-170 Sentinel
04:53
got a bit confused over Iran due to a GPS spoofing attack,
88
281271
4307
a fost derutată din cauza unui atac GPS în Iran,
04:57
but any remotely-piloted drone is susceptible to this type of attack,
89
285578
5114
dar orice dronă pilotată teleghidat e susceptibilă,
05:02
and that means drones
90
290692
2052
ceea ce face necesar ca dronele
05:04
will have to shoulder more decision-making.
91
292744
3620
să aibă mai multă putere de a lua decizii.
05:08
They'll know their mission objective,
92
296364
3043
Vor ști obiectivul misiunii
05:11
and they'll react to new circumstances without human guidance.
93
299407
4845
și vor reacționa la împrejurări noi fără ajutor uman.
05:16
They'll ignore external radio signals
94
304252
2581
Vor ignora semnalele radio externe
05:18
and send very few of their own.
95
306833
2330
și vor trimite puține semnale, la rândul lor.
05:21
Which brings us to, really, the third
96
309163
2006
Asta ne aduce la al treilea
05:23
and most powerful incentive pushing decision-making
97
311169
3862
și cel mai puternic motiv de transferare
05:27
away from humans and onto weapons:
98
315031
3342
a deciziei către arme:
05:30
plausible deniability.
99
318373
3293
posibilitatea de a nega plauzibil.
05:33
Now we live in a global economy.
100
321666
2887
Trăim într-o economie globală.
05:36
High-tech manufacturing is occurring on most continents.
101
324553
4334
Fabricarea de înaltă tehnologie are loc pe mai toate continentele.
05:40
Cyber espionage is spiriting away advanced designs
102
328887
2914
Spionajul cibernetic duce designuri avansate
05:43
to parts unknown,
103
331801
1886
în locuri necunoscute,
05:45
and in that environment, it is very likely
104
333687
2014
iar în acest cadru, e foarte probabil
05:47
that a successful drone design will be knocked off in contract factories,
105
335701
4734
ca un design de succes pentru o dronă să fie furat dintr-o fabrică
05:52
proliferate in the gray market.
106
340435
2170
și să fie larg folosit pe piața neagră.
05:54
And in that situation, sifting through the wreckage
107
342605
2460
Astfel, analizând rămășițele unui atac
05:57
of a suicide drone attack, it will be very difficult to say
108
345065
2960
sinucigaș cu dronă, va fi greu
06:00
who sent that weapon.
109
348025
4400
să determini cine a trimis arma.
06:04
This raises the very real possibility
110
352425
2800
Devine astfel realitate posibilitatea
06:07
of anonymous war.
111
355225
2935
războiului anonim.
06:10
This could tilt the geopolitical balance on its head,
112
358160
2614
Asta ar putea da peste cap echilibrul geopolitic,
06:12
make it very difficult for a nation to turn its firepower
113
360774
3491
ar putea crea greutăți unei națiuni
în cazul unui răspuns armat
în cazul unui răspuns armat
06:16
against an attacker, and that could shift the balance
114
364265
2848
împotriva unui atacator, înclinând balanța
06:19
in the 21st century away from defense and toward offense.
115
367113
3764
către ofensivă și nu defensivă în secolul XXI.
06:22
It could make military action a viable option
116
370877
3124
Ar putea transforma acțiunea militară într-o opțiune viabilă
06:26
not just for small nations,
117
374001
2288
nu doar pentru micile state,
06:28
but criminal organizations, private enterprise,
118
376289
2545
dar și pentru organizații criminale, afaceri private,
06:30
even powerful individuals.
119
378834
2479
chiar pentru indivizi puternici.
06:33
It could create a landscape of rival warlords
120
381313
3328
Ar putea crea o lume a dictatorilor militari rivali,
06:36
undermining rule of law and civil society.
121
384641
3680
subminând statul de drept și societatea civilă.
06:40
Now if responsibility and transparency
122
388321
3616
Dacă responsabilitatea și transparența
06:43
are two of the cornerstones of representative government,
123
391937
2384
sunt baza guvernului reprezentativ,
06:46
autonomous robotic weapons could undermine both.
124
394321
4320
armele robotice autonome le-ar putea submina.
06:50
Now you might be thinking that
125
398641
1546
Puteți crede
06:52
citizens of high-tech nations
126
400187
2246
că cetățenii națiunilor cu înaltă tehnologie
06:54
would have the advantage in any robotic war,
127
402433
2703
ar deține avantajul în orice război robotic,
06:57
that citizens of those nations would be less vulnerable,
128
405136
3633
că cetățenii acestor state ar fi mai puțin vulnerabili,
07:00
particularly against developing nations.
129
408769
4288
în special împotriva țărilor în curs de dezvoltare.
07:05
But I think the truth is the exact opposite.
130
413057
3524
Este exact invers, însă.
07:08
I think citizens of high-tech societies
131
416581
2251
Cred că cetățenii societăților cu înaltă tehnologie
07:10
are more vulnerable to robotic weapons,
132
418832
3729
sunt mai vulnerabili armelor robotice
07:14
and the reason can be summed up in one word: data.
133
422561
4465
pentru un singur motiv: informația.
07:19
Data powers high-tech societies.
134
427026
3481
Informația stă la baza societățlor de înaltă tehnologie.
07:22
Cell phone geolocation, telecom metadata,
135
430507
3190
Geolocația telefoanelor mobile, metadata din telecomunicații,
07:25
social media, email, text, financial transaction data,
136
433697
3472
social media, email, SMS, date ale tranzacțiilor financiare,
07:29
transportation data, it's a wealth of real-time data
137
437169
3532
date despre transport, o grămadă de informații în timp real
07:32
on the movements and social interactions of people.
138
440701
3373
despre mișcările și interacțiunile sociale ale oamenilor.
07:36
In short, we are more visible to machines
139
444074
3775
Pe scurt, suntem mai vizibili pentru mașini
07:39
than any people in history,
140
447849
2242
decât orice alți oameni din istorie,
07:42
and this perfectly suits the targeting needs of autonomous weapons.
141
450091
5616
ceea ce se potrivește perfect stabilirii țintei armelor independente.
07:47
What you're looking at here
142
455707
1738
Ceea ce vedeți
07:49
is a link analysis map of a social group.
143
457445
3246
e o hartă a legăturilor dintr-un grup social.
07:52
Lines indicate social connectedness between individuals.
144
460691
3634
Liniile reprezintă conexiunea dintre indivizi.
07:56
And these types of maps can be automatically generated
145
464325
2880
Astfel de hărți pot fi generate automat
07:59
based on the data trail modern people leave behind.
146
467205
4715
pe baza amprentelor informaționale lăsate de omul modern.
08:03
Now it's typically used to market goods and services
147
471920
2477
Se folosește, de obicei, pentru a vinde bunuri și servicii
08:06
to targeted demographics, but it's a dual-use technology,
148
474397
4416
către grupuri-țintă, dar e o tehnologie cu dublă folosință,
08:10
because targeting is used in another context.
149
478813
3360
pentru că stabilirea de ținte se face în alt context.
08:14
Notice that certain individuals are highlighted.
150
482173
2560
Observați că anumiți oameni sunt marcați.
08:16
These are the hubs of social networks.
151
484733
3280
Aceștia sunt portaluri ale rețelelor de socializare.
08:20
These are organizers, opinion-makers, leaders,
152
488013
3590
Sunt organizatori, formatori de opinie, lideri
08:23
and these people also can be automatically identified
153
491603
2682
și pot fi identificați automat
08:26
from their communication patterns.
154
494285
2382
prin modelul lor de comunicare.
08:28
Now, if you're a marketer, you might then target them
155
496667
2146
Dacă lucrezi în marketing, le-ai putea oferi mostre
08:30
with product samples, try to spread your brand
156
498813
2543
pentru a lărgi renumele firmei
08:33
through their social group.
157
501356
2829
în grupul lor social.
08:36
But if you're a repressive government
158
504185
1953
Dar, dacă ești un guvern represiv ce caută
08:38
searching for political enemies, you might instead remove them,
159
506138
4810
inamici politici, ai putea încerca să îi elimini.
08:42
eliminate them, disrupt their social group,
160
510948
2760
Elimină-i pe ei, distruge-le grupul social,
08:45
and those who remain behind lose social cohesion
161
513708
3169
iar cei ce rămân își pierd coeziunea socială
08:48
and organization.
162
516877
2621
și organizarea.
08:51
Now in a world of cheap, proliferating robotic weapons,
163
519498
3324
Într-o lume în care armele robotice ieftine se înmulțesc,
08:54
borders would offer very little protection
164
522822
2635
granițele oferă foarte puțină protecție
08:57
to critics of distant governments
165
525457
1946
criticilor guvernelor din străinătate
08:59
or trans-national criminal organizations.
166
527403
3646
sau organizațiilor criminale transnaționale.
09:03
Popular movements agitating for change
167
531049
3493
Mișcările populare pentru schimbare
09:06
could be detected early and their leaders eliminated
168
534542
3609
ar fi identificate rapide, iar liderul lor eliminat,
09:10
before their ideas achieve critical mass.
169
538151
2911
înainte ca ideile lor să devină cunoscute larg.
09:13
And ideas achieving critical mass
170
541062
2591
Iar un public larg pentru idei
09:15
is what political activism in popular government is all about.
171
543653
3936
e elementul central al activismului politic în guvernul popular.
09:19
Anonymous lethal weapons could make lethal action
172
547589
3997
Armele letale anonime ar putea face ca acțiuni letale
09:23
an easy choice for all sorts of competing interests.
173
551586
3782
să devină o alegere ușoară în orice conflict de interese.
09:27
And this would put a chill on free speech
174
555368
3734
Iar asta ar îngheța libertatea de exprimare
09:31
and popular political action, the very heart of democracy.
175
559102
5308
și acțiunea politică populară, însăși inima democrației.
09:36
And this is why we need an international treaty
176
564410
2914
De aceea e nevoie de un tratat internațional
09:39
on robotic weapons, and in particular a global ban
177
567324
3540
asupra armelor robotice și, mai ales, o interdicție globală
09:42
on the development and deployment of killer robots.
178
570864
3908
asupra dezvoltării și folosirii roboților ucigași.
09:46
Now we already have international treaties
179
574772
3254
Avem deja tratate internaționale despre
09:50
on nuclear and biological weapons, and, while imperfect,
180
578026
3386
arme nucleare și biologice care, deși imperfecte,
09:53
these have largely worked.
181
581412
2288
funcționează, în mare parte.
09:55
But robotic weapons might be every bit as dangerous,
182
583700
3768
Armele robotice pot fi la fel de periculoase,
09:59
because they will almost certainly be used,
183
587468
3288
pentru că folosirea lor e aproape certă
10:02
and they would also be corrosive to our democratic institutions.
184
590756
5027
și ar fi dăunătoare instituțiilor noastre democratice.
10:07
Now in November 2012 the U.S. Department of Defense
185
595783
3468
În noiembrie 2012, Departamentul de Apărare SUA
10:11
issued a directive requiring
186
599251
2458
a lansat o directivă care cere
10:13
a human being be present in all lethal decisions.
187
601709
4519
prezența unui om la luarea oricărei decizii letale.
10:18
This temporarily effectively banned autonomous weapons in the U.S. military,
188
606228
4776
Asta a dus la blocarea temporară a armelor autonome în armata SUA,
10:23
but that directive needs to be made permanent.
189
611004
3753
dar directiva trebuie să devină permanentă.
10:26
And it could set the stage for global action.
190
614757
4376
În plus, ar putea să dea startul unei acțiuni globale.
10:31
Because we need an international legal framework
191
619133
3845
Pentru că avem nevoie de un cadru legal internațional
10:34
for robotic weapons.
192
622978
2138
pentru arme robotice.
10:37
And we need it now, before there's a devastating attack
193
625116
2928
E nevoie de el acum, înaintea unui atac devastator
10:40
or a terrorist incident that causes nations of the world
194
628044
3152
sau a unui incident terorist care să facă întreaga lume
10:43
to rush to adopt these weapons
195
631196
1924
să adopte rapid aceste arme
10:45
before thinking through the consequences.
196
633120
3771
înainte de a se gândi la consecințe.
10:48
Autonomous robotic weapons concentrate too much power
197
636891
2981
Armele robotice autonome concentrează prea multă putere
10:51
in too few hands, and they would imperil democracy itself.
198
639872
6283
în mâinile a prea puținor oameni,
periclitând democrația.
periclitând democrația.
10:58
Now, don't get me wrong, I think there are tons
199
646155
2686
Nu mă înțelegeți greșit, cred că-s o groază
11:00
of great uses for unarmed civilian drones:
200
648841
2618
de utilizări minunate pentru dronele civile neînarmate:
11:03
environmental monitoring, search and rescue, logistics.
201
651459
3939
monitorizarea mediului, căutări și operațiuni de salvare, logistică.
11:07
If we have an international treaty on robotic weapons,
202
655398
2826
Cu un tratat internațional asupra armelor robotice,
11:10
how do we gain the benefits of autonomous drones
203
658224
3587
cum exploatăm beneficiile dronelor și a vehiculelor
11:13
and vehicles while still protecting ourselves
204
661811
2648
autonome, protejându-ne în același timp
11:16
against illegal robotic weapons?
205
664459
3980
de armele robotice ilegale?
11:20
I think the secret will be transparency.
206
668439
4741
Cred că secretul e transparența.
11:25
No robot should have an expectation of privacy
207
673180
3013
Niciun robot nu ar trebui să fie privat
11:28
in a public place.
208
676193
3451
într-un loc public.
11:31
(Applause)
209
679644
5048
(Aplauze)
11:36
Each robot and drone should have
210
684692
2045
Fiecare robot și fiecare dronă ar trebui să aibă
11:38
a cryptographically signed I.D. burned in at the factory
211
686737
2883
o identificare semnată criptografic încă din fabrică,
11:41
that can be used to track its movement through public spaces.
212
689620
2923
folosită pentru a-i urmări mișcările în spațiul public.
11:44
We have license plates on cars, tail numbers on aircraft.
213
692543
3381
Avem plăcuțe de înmatriculare pe mașini, pe avioane.
11:47
This is no different.
214
695924
1841
Nu e nicio diferență.
11:49
And every citizen should be able to download an app
215
697765
2012
Fiecare cetățean ar trebui să poată descărca o aplicație
11:51
that shows the population of drones and autonomous vehicles
216
699777
3125
care să îi arate populația de drone și vehicule autonome
11:54
moving through public spaces around them,
217
702902
2429
deplasându-se în spații publice în jurul lor,
11:57
both right now and historically.
218
705331
2733
acum și în viitor.
12:00
And civic leaders should deploy sensors and civic drones
219
708064
3548
Iar liderii municipali ar trebui să trimită senzori și drone civice
12:03
to detect rogue drones,
220
711612
2344
pentru detectarea dronelor ilegale,
12:05
and instead of sending killer drones of their own up to shoot them down,
221
713956
3176
dar nu să trimită drone ucigașe să le distrugă,
12:09
they should notify humans to their presence.
222
717132
2992
ci să anunțe oamenii despre prezența lor.
12:12
And in certain very high-security areas,
223
720124
2606
Iar în zone de înaltă securitate,
12:14
perhaps civic drones would snare them
224
722730
1909
poate că dronele civile le-ar prinde
12:16
and drag them off to a bomb disposal facility.
225
724639
2841
și le-ar duce către o locație de dezactivare a bombelor.
12:19
But notice, this is more an immune system
226
727480
3027
Observați, e mai mult un sistem de imunitate,
12:22
than a weapons system.
227
730507
1321
decât unul armat.
12:23
It would allow us to avail ourselves of the use
228
731828
2592
Ne-ar permite să ne folosim de
12:26
of autonomous vehicles and drones
229
734420
2032
vehiculele și dronele autonome,
12:28
while still preserving our open, civil society.
230
736452
4295
fără a ne pierde societatea civilă transparentă.
12:32
We must ban the deployment and development
231
740747
2999
Trebuie interzisă folosirea și crearea
12:35
of killer robots.
232
743746
1862
de roboți ucigași.
12:37
Let's not succumb to the temptation to automate war.
233
745608
4850
Să nu cedăm tentației de a automatiza războiul.
12:42
Autocratic governments and criminal organizations
234
750458
2718
Guvernele autocrate și organizațiile criminale
12:45
undoubtedly will, but let's not join them.
235
753176
2956
o vor face, dar noi să nu ne alăturăm.
12:48
Autonomous robotic weapons
236
756132
1891
Armele robotice autonome
12:50
would concentrate too much power
237
758023
2051
ar concentra prea multă putere
12:52
in too few unseen hands,
238
760074
2482
în mâinile a prea puțini oameni,
12:54
and that would be corrosive to representative government.
239
762556
3255
iar asta ar degrada guvernul reprezentativ.
12:57
Let's make sure, for democracies at least,
240
765811
2961
Să ne asigurăm, măcar de dragul democrației,
13:00
killer robots remain fiction.
241
768772
2604
că roboții ucigași vor rămâne ficțiune.
13:03
Thank you.
242
771376
1110
Mulțumesc.
13:04
(Applause)
243
772486
4565
(Aplauze)
13:09
Thank you. (Applause)
244
777051
4616
Mulțumesc. (Aplauze)
ABOUT THE SPEAKER
Daniel Suarez - Sci-fi authorDaniel Suarez concocts thrilling reads from terrifying (and not-so-farfetched) near-future scenarios.
Why you should listen
While working as a software developer, Daniel Suarez self-published Daemon, a cyber-thriller depicting a future where society is radically reshaped by disruptive technologies. It struck a chord -- and so did the sequel, Freedom (TM) -- rocketing Suarez into the pantheon of sci-fi prophets.
In his 2012 novel Kill Decision, Suarez digs into the consequences of technology that’s here to stay: autonomous bots and drones programmed to be lethal. Suarez argues that as we cede more control to software, we gamble with the very essence of democracy itself. How can we establish sane guidelines for technology that could easily outstrip our control?
Daniel Suarez | Speaker | TED.com