TEDGlobal 2013
Daniel Suarez: The kill decision shouldn't belong to a robot
Daniel Suarez: La decisione di uccidere non dovrebbe appartenere ad un robot
Filmed:
Readability: 5.9
1,946,706 views
Come romanziere, Daniel Suarez inventa racconti distopici sul futuro. Ma sul palco del TEDGlobal, ci parla di una realtà che tutti noi dovremmo conoscere meglio: la diffusione di armi robot autonome. E ipotizza che droni tecnologicamente avanzati, armi automatizzate, e strumenti di spionaggio basati sull'intelligenza artificiale potrebbero togliere agli umani la possibilità di decidere sulla guerra.
Daniel Suarez - Sci-fi author
Daniel Suarez concocts thrilling reads from terrifying (and not-so-farfetched) near-future scenarios. Full bio
Daniel Suarez concocts thrilling reads from terrifying (and not-so-farfetched) near-future scenarios. Full bio
Double-click the English transcript below to play the video.
00:12
I write fiction sci-fi thrillers,
0
691
3158
Io scrivo romanzi thriller di fantascienza,
00:15
so if I say "killer robots,"
1
3849
2193
quindi se dico "robot killer",
00:18
you'd probably think something like this.
2
6042
2361
voi probabilmente pensereste a qualcosa tipo questo.
00:20
But I'm actually not here to talk about fiction.
3
8403
2555
Ma io non sono qui per discutere di narrativa.
00:22
I'm here to talk about very real killer robots,
4
10958
2948
Sono qui per parlare di veri robot killer,
00:25
autonomous combat drones.
5
13906
3122
droni da combattimento autonomi.
00:29
Now, I'm not referring to Predator and Reaper drones,
6
17028
3627
Ora, non mi sto riferendo a droni Predator e Reaper,
00:32
which have a human making targeting decisions.
7
20655
3260
il cui obiettivo dipende da decisioni umane.
00:35
I'm talking about fully autonomous robotic weapons
8
23915
3129
Sto parlando di armi robot completamente autonome
00:39
that make lethal decisions about human beings
9
27044
2654
che prendono decisioni letali sugli esseri umani
00:41
all on their own.
10
29698
2417
per conto loro.
00:44
There's actually a technical term for this: lethal autonomy.
11
32115
4000
In realtà c'è un termine tecnico per questo: autonomia letale.
00:48
Now, lethally autonomous killer robots
12
36115
2856
I robot killer letalmente autonomi
00:50
would take many forms -- flying, driving,
13
38971
3069
possono fare molte cose - volare, guidare,
00:54
or just lying in wait.
14
42040
2746
o semplicemente attendere in agguato.
00:56
And actually, they're very quickly becoming a reality.
15
44786
3109
E in realtà, stanno diventando molto rapidamente una realtà.
00:59
These are two automatic sniper stations
16
47895
2484
Queste sono due postazioni cecchino automatiche
01:02
currently deployed in the DMZ between North and South Korea.
17
50379
4137
attualmente dispiegate nella zona demilitarizzata tra Corea del Nord e del Sud .
01:06
Both of these machines are capable of automatically
18
54516
2171
Entrambe queste macchine sono in grado identificare
01:08
identifying a human target and firing on it,
19
56687
3524
automaticamente un bersaglio umano e sparare,
01:12
the one on the left at a distance of over a kilometer.
20
60211
4324
quella a sinistra a una distanza di oltre un chilometro.
01:16
Now, in both cases, there's still a human in the loop
21
64535
3589
In entrambi i casi, c'è ancora un essere umano coinvolto nella decisione
01:20
to make that lethal firing decision,
22
68124
2372
riguardante quel colpo letale,
01:22
but it's not a technological requirement. It's a choice.
23
70496
5413
ma non è un requisito tecnologico. È una scelta.
01:27
And it's that choice that I want to focus on,
24
75909
3093
Ed è questa scelta che voglio mettere a fuoco,
01:31
because as we migrate lethal decision-making
25
79002
2641
perché nel momento in cui spostiamo questa decisione letale
01:33
from humans to software,
26
81643
3109
dagli esseri umani al software,
01:36
we risk not only taking the humanity out of war,
27
84752
3476
corriamo il rischio di escludere l'umanità dalla guerra,
01:40
but also changing our social landscape entirely,
28
88228
3526
ma anche di cambiare interamente il nostro paesaggio sociale,
01:43
far from the battlefield.
29
91754
2224
ben lontano dai campi di battaglia.
01:45
That's because the way humans resolve conflict
30
93978
4509
Questo perché il modo in cui gli esseri umani risolvono i conflitti
01:50
shapes our social landscape.
31
98487
1733
dà forma al nostro paesaggio sociale.
01:52
And this has always been the case, throughout history.
32
100220
2633
Ed è stato sempre così, nel corso di tutta la storia.
01:54
For example, these were state-of-the-art weapons systems
33
102853
2661
Ad esempio, questo era lo stato dell'arte degli armamenti
01:57
in 1400 A.D.
34
105514
2079
nel 1400 D.C.
01:59
Now they were both very expensive to build and maintain,
35
107593
3144
Erano entrambi molto costosi da costruire e mantenere,
02:02
but with these you could dominate the populace,
36
110737
3240
ma con questi si poteva dominare la popolazione,
02:05
and the distribution of political power in feudal society reflected that.
37
113977
3889
e la distribuzione del potere politico nella società feudale lo rispecchiava.
02:09
Power was focused at the very top.
38
117866
2687
Il potere era concentrato al vertice.
02:12
And what changed? Technological innovation.
39
120553
3528
E cosa è cambiato? L'innovazione tecnologica.
02:16
Gunpowder, cannon.
40
124081
1871
Polvere da sparo, cannoni.
02:17
And pretty soon, armor and castles were obsolete,
41
125952
3817
Ben presto, armature e castelli diventarono obsoleti,
02:21
and it mattered less who you brought to the battlefield
42
129769
2533
e importava meno chi portavate sul campo di battaglia
02:24
versus how many people you brought to the battlefield.
43
132302
3779
rispetto a quante persone portavate sul campo di battaglia.
02:28
And as armies grew in size, the nation-state arose
44
136081
3638
Con il crescere in dimensione degli eserciti, sono nati gli Stati-Nazione
02:31
as a political and logistical requirement of defense.
45
139719
3680
come requisito politico e logistico di difesa.
02:35
And as leaders had to rely on more of their populace,
46
143399
2376
E siccome i leader hanno dovuto contare di più sulla loro popolazione,
02:37
they began to share power.
47
145775
1833
hanno cominciato a condividere il potere.
02:39
Representative government began to form.
48
147608
2599
Il governo rappresentativo cominciò a formarsi.
02:42
So again, the tools we use to resolve conflict
49
150207
3288
Così ancora una volta, gli strumenti che usiamo per risolvere i conflitti
02:45
shape our social landscape.
50
153495
3304
formano il nostro paesaggio sociale.
02:48
Autonomous robotic weapons are such a tool,
51
156799
4064
Le armi robotiche autonome sono uno di questi strumenti
02:52
except that, by requiring very few people to go to war,
52
160863
5168
con la differenza che, richiedendo pochissime persone per andare in guerra,
02:58
they risk re-centralizing power into very few hands,
53
166031
4840
rischiano di re-centralizzare il potere nelle mani di pochi,
03:02
possibly reversing a five-century trend toward democracy.
54
170871
6515
forse invertendo una tendenza verso la democrazia in corso da cinque secoli.
03:09
Now, I think, knowing this,
55
177386
1757
Ora, io penso, sapendo questo,
03:11
we can take decisive steps to preserve our democratic institutions,
56
179143
4352
possiamo fare passi decisivi per proteggere le nostre istituzioni democratiche,
03:15
to do what humans do best, which is adapt.
57
183495
3979
e fare quello che gli esseri umani sanno fare meglio, ovvero adattarsi.
03:19
But time is a factor.
58
187474
2005
Ma il tempo è importante.
03:21
Seventy nations are developing remotely-piloted
59
189479
2851
Settanta nazioni stanno sviluppando per conto loro
03:24
combat drones of their own,
60
192330
2157
droni da combattimento pilotati a distanza,
03:26
and as you'll see, remotely-piloted combat drones
61
194487
2593
e come si vedrà, i droni da combattimento pilotati a distanza
03:29
are the precursors to autonomous robotic weapons.
62
197080
4472
sono i precursori delle armi robotiche autonome.
03:33
That's because once you've deployed remotely-piloted drones,
63
201552
2767
Questo perché una volta che avete impiegato droni pilotati da remoto,
03:36
there are three powerful factors pushing decision-making
64
204319
3384
ci sono tre potenti fattori che spingono il processo decisionale
03:39
away from humans and on to the weapon platform itself.
65
207703
4600
lontano dagli esseri umani e verso l'arma stessa.
03:44
The first of these is the deluge of video that drones produce.
66
212303
5259
Il primo di questi è il diluvio di video che i droni producono.
03:49
For example, in 2004, the U.S. drone fleet produced
67
217562
3853
Per esempio, nel 2004, la flotta di droni U.S.A. produsse
03:53
a grand total of 71 hours of video surveillance for analysis.
68
221415
5312
un totale di 71 ore di video di sorveglianza da analizzare.
03:58
By 2011, this had gone up to 300,000 hours,
69
226727
4499
Nel 2011, si è arrivato a 300 000 ore,
04:03
outstripping human ability to review it all,
70
231226
3149
superando la capacità umana di rivedere tutto,
04:06
but even that number is about to go up drastically.
71
234375
3664
ma anche quel numero è in procinto di aumentare drasticamente.
04:10
The Pentagon's Gorgon Stare and Argus programs
72
238039
2575
I programmi Gorgon Stare e Argus del Pentagono
04:12
will put up to 65 independently operated camera eyes
73
240614
3164
metteranno fino a 65 telecamere indipendenti
04:15
on each drone platform,
74
243778
2038
su ogni drone,
04:17
and this would vastly outstrip human ability to review it.
75
245816
3303
e in questo modo verrà superata notevolmente la capacità umana di rivedere le riprese.
04:21
And that means visual intelligence software will need
76
249119
2160
E questo significa che sarà necessario utilizzare software di intelligenza visiva
04:23
to scan it for items of interest.
77
251279
4048
per poter cercare elementi di interesse.
04:27
And that means very soon
78
255327
1348
E questo significa che molto presto
04:28
drones will tell humans what to look at,
79
256675
2747
i droni diranno agli umani cosa guardare,
04:31
not the other way around.
80
259422
2497
e non viceversa.
04:33
But there's a second powerful incentive pushing
81
261919
2473
Ma c'è un secondo potente incentivo che sta spingendo
04:36
decision-making away from humans and onto machines,
82
264392
3383
il processo decisionale lontano da esseri umani e verso le macchine,
04:39
and that's electromagnetic jamming,
83
267775
2872
ed è il disturbo elettromagnetico
04:42
severing the connection between the drone
84
270647
2236
che interrompe la connessione tra il drone
04:44
and its operator.
85
272883
2814
e il suo operatore.
04:47
Now we saw an example of this in 2011
86
275697
2618
Abbiamo visto un esempio di questo nel 2011
04:50
when an American RQ-170 Sentinel drone
87
278315
2956
quando un drone americano RQ-170 Sentinel
04:53
got a bit confused over Iran due to a GPS spoofing attack,
88
281271
4307
rimase confuso al di sopra dell'Iran a causa di un attacco spoofing del GPS,
04:57
but any remotely-piloted drone is susceptible to this type of attack,
89
285578
5114
ma qualsiasi drone pilotato in remoto è vulnerabile a questi attacchi,
05:02
and that means drones
90
290692
2052
e questo significa che i droni
05:04
will have to shoulder more decision-making.
91
292744
3620
dovranno sostenere un maggior numero di decisioni.
05:08
They'll know their mission objective,
92
296364
3043
Conosceranno l'obiettivo della missione,,
05:11
and they'll react to new circumstances without human guidance.
93
299407
4845
e reagiranno alle nuove circostanze senza guida umana.
05:16
They'll ignore external radio signals
94
304252
2581
Ignoreranno i segnali radio esterni
05:18
and send very few of their own.
95
306833
2330
e ne invieranno pochissimi loro stessi.
05:21
Which brings us to, really, the third
96
309163
2006
Questo ci porta, realmente, al terzo
05:23
and most powerful incentive pushing decision-making
97
311169
3862
e più potente incentivo che sta spingendo il processo decisionale
05:27
away from humans and onto weapons:
98
315031
3342
lontano dagli esseri umani e verso le armi:
05:30
plausible deniability.
99
318373
3293
negabilità plausibile.
05:33
Now we live in a global economy.
100
321666
2887
Viviamo in un'economia globale.
05:36
High-tech manufacturing is occurring on most continents.
101
324553
4334
L'industria high-tech è presente nella maggior parte dei continenti.
05:40
Cyber espionage is spiriting away advanced designs
102
328887
2914
Lo spionaggio informatico sta rapidamente portando tecnologie avanzate
05:43
to parts unknown,
103
331801
1886
a parti sconosciute,
05:45
and in that environment, it is very likely
104
333687
2014
e in queste circostanze, è molto probabile
05:47
that a successful drone design will be knocked off in contract factories,
105
335701
4734
che un progetto di drone di successo venga falsificato in fabbriche di produzione
05:52
proliferate in the gray market.
106
340435
2170
che proliferano sul mercato parallelo.
05:54
And in that situation, sifting through the wreckage
107
342605
2460
E in quella situazione, spulciando tra le macerie
05:57
of a suicide drone attack, it will be very difficult to say
108
345065
2960
di un attacco suicida di un drone, sarà molto difficile dire
06:00
who sent that weapon.
109
348025
4400
chi ha inviato l'arma.
06:04
This raises the very real possibility
110
352425
2800
Questo apre la possibilità molto reale
06:07
of anonymous war.
111
355225
2935
di una guerra anonima.
06:10
This could tilt the geopolitical balance on its head,
112
358160
2614
Questo potrebbe destabilizzare l'equilibrio geopolitico ai vertici,
06:12
make it very difficult for a nation to turn its firepower
113
360774
3491
rendendo molto difficile per una nazione attivare la sua potenza di fuoco
06:16
against an attacker, and that could shift the balance
114
364265
2848
contro un attaccante, e ciò potrebbe spostare l'equilibrio
06:19
in the 21st century away from defense and toward offense.
115
367113
3764
nel XXI secolo dalla difesa e verso l'attacco.
06:22
It could make military action a viable option
116
370877
3124
Potrebbe rendere un'azione militare un'opzione praticabile
06:26
not just for small nations,
117
374001
2288
non solo per le piccole nazioni,
06:28
but criminal organizations, private enterprise,
118
376289
2545
ma per le organizzazioni criminali, le imprese private,
06:30
even powerful individuals.
119
378834
2479
e anche per gli individui potenti.
06:33
It could create a landscape of rival warlords
120
381313
3328
Si potrebbe creare un paesaggio di signori della guerra rivali
06:36
undermining rule of law and civil society.
121
384641
3680
minando così le regole della legge e della società civile.
06:40
Now if responsibility and transparency
122
388321
3616
Se responsabilità e trasparenza
06:43
are two of the cornerstones of representative government,
123
391937
2384
sono due i cardini dei governi rappresentativi,
06:46
autonomous robotic weapons could undermine both.
124
394321
4320
le armi robotiche autonome potrebbero danneggiarli entrambi.
06:50
Now you might be thinking that
125
398641
1546
Si potrebbe pensare che
06:52
citizens of high-tech nations
126
400187
2246
i cittadini delle nazioni high-tech
06:54
would have the advantage in any robotic war,
127
402433
2703
sarebbero in vantaggio in una qualunque guerra robotica,
06:57
that citizens of those nations would be less vulnerable,
128
405136
3633
che i cittadini di quelle nazioni sarebbero meno vulnerabili,
07:00
particularly against developing nations.
129
408769
4288
specialmente contro le nazioni in via di sviluppo.
07:05
But I think the truth is the exact opposite.
130
413057
3524
Ma penso che la verità sia l'esatto opposto.
07:08
I think citizens of high-tech societies
131
416581
2251
Penso che i cittadini delle società high-tech
07:10
are more vulnerable to robotic weapons,
132
418832
3729
sono più vulnerabili alle armi robotiche,
07:14
and the reason can be summed up in one word: data.
133
422561
4465
e la ragione può essere riassunta in una parola: dati.
07:19
Data powers high-tech societies.
134
427026
3481
I dati alimentano le società high-tech.
07:22
Cell phone geolocation, telecom metadata,
135
430507
3190
La geolocalizzazione mediante telefono cellulare, i metadati delle telecomunicazioni,
07:25
social media, email, text, financial transaction data,
136
433697
3472
i social media, le email, i messaggi, i dati delle transazioni finanziarie,
07:29
transportation data, it's a wealth of real-time data
137
437169
3532
i dati di trasporto, sono una ricchezza di dati in tempo reale
07:32
on the movements and social interactions of people.
138
440701
3373
sui movimenti e sulle interazioni sociali delle persone.
07:36
In short, we are more visible to machines
139
444074
3775
In breve, siamo più visibili alle macchine
07:39
than any people in history,
140
447849
2242
rispetto a chiunque altro nella storia,
07:42
and this perfectly suits the targeting needs of autonomous weapons.
141
450091
5616
e questo si adatta perfettamente alle esigenze di targeting delle armi autonome.
07:47
What you're looking at here
142
455707
1738
Quello che state guardando
07:49
is a link analysis map of a social group.
143
457445
3246
è una mappa che analizza i collegamenti in un gruppo sociale.
07:52
Lines indicate social connectedness between individuals.
144
460691
3634
Le linee indicano la connessione sociale tra gli individui.
07:56
And these types of maps can be automatically generated
145
464325
2880
Questi tipi di mappe possono essere generati automaticamente
07:59
based on the data trail modern people leave behind.
146
467205
4715
basandosi sulla traccia di dati che la gente moderna lascia dietro di sé.
08:03
Now it's typically used to market goods and services
147
471920
2477
Generalmente sono utilizzate per vendere beni e servizi
08:06
to targeted demographics, but it's a dual-use technology,
148
474397
4416
a determinate fasce demografiche, ma si tratta di una tecnologia con un doppio utilizzo
08:10
because targeting is used in another context.
149
478813
3360
perché il targeting è utilizzato anche in un altro contesto.
08:14
Notice that certain individuals are highlighted.
150
482173
2560
Notate che alcuni individui sono evidenziati.
08:16
These are the hubs of social networks.
151
484733
3280
Questi sono i perni delle reti sociali.
08:20
These are organizers, opinion-makers, leaders,
152
488013
3590
Questi sono gli organizzatori, opinionisti, leader,
08:23
and these people also can be automatically identified
153
491603
2682
e queste persone possono anche essere identificate automaticamente
08:26
from their communication patterns.
154
494285
2382
dai loro modelli di comunicazione.
08:28
Now, if you're a marketer, you might then target them
155
496667
2146
Ora, se lavorate in ambito commerciale, potreste raggiungerli
08:30
with product samples, try to spread your brand
156
498813
2543
con campioni di prodotto, tentando di diffondere il vostro prodotto
08:33
through their social group.
157
501356
2829
attraverso il loro gruppo sociale.
08:36
But if you're a repressive government
158
504185
1953
Ma se siete un governo repressivo
08:38
searching for political enemies, you might instead remove them,
159
506138
4810
alla ricerca di avversari politici, potreste invece rimuoverli,
08:42
eliminate them, disrupt their social group,
160
510948
2760
eliminarli, disturbare il loro gruppo sociale,
08:45
and those who remain behind lose social cohesion
161
513708
3169
e quelli che rimangono dietro perderanno coesione sociale
08:48
and organization.
162
516877
2621
e organizzazione.
08:51
Now in a world of cheap, proliferating robotic weapons,
163
519498
3324
In un mondo brulicante di armi robotiche a basso costo
08:54
borders would offer very little protection
164
522822
2635
i confini offrono una protezione molto debole
08:57
to critics of distant governments
165
525457
1946
per i critici di governi distanti
08:59
or trans-national criminal organizations.
166
527403
3646
o organizzazioni criminali transnazionali.
09:03
Popular movements agitating for change
167
531049
3493
Movimenti popolari in moto per il cambiamento
09:06
could be detected early and their leaders eliminated
168
534542
3609
potrebbero essere rilevati fin dall'inizio e i loro leader eliminati
09:10
before their ideas achieve critical mass.
169
538151
2911
prima che le loro idee raggiungano la massa critica.
09:13
And ideas achieving critical mass
170
541062
2591
E le idee che raggiungono la massa critica
09:15
is what political activism in popular government is all about.
171
543653
3936
sono la definizione di attivismo politico nei governi popolari.
09:19
Anonymous lethal weapons could make lethal action
172
547589
3997
Le armi letali anonime potrebbero rendere le azione letali
09:23
an easy choice for all sorts of competing interests.
173
551586
3782
una scelta facile per tutti coloro con interessi in competizione.
09:27
And this would put a chill on free speech
174
555368
3734
E questo potrebbero mettere in pericolo la libertà di parola
09:31
and popular political action, the very heart of democracy.
175
559102
5308
e l'azione politica popolare, il cuore della democrazia.
09:36
And this is why we need an international treaty
176
564410
2914
Ed è per questo che abbiamo bisogno di un trattato internazionale
09:39
on robotic weapons, and in particular a global ban
177
567324
3540
sulle armi robotiche e in particolare un divieto globale
09:42
on the development and deployment of killer robots.
178
570864
3908
di sviluppo e distribuzione di robot killer.
09:46
Now we already have international treaties
179
574772
3254
Abbiamo già trattati internazionali
09:50
on nuclear and biological weapons, and, while imperfect,
180
578026
3386
sulle armi nucleari e biologiche e, seppur imperfetti,
09:53
these have largely worked.
181
581412
2288
hanno funzionato in larga misura.
09:55
But robotic weapons might be every bit as dangerous,
182
583700
3768
Ma le armi robot potrebbero essere altrettanto pericolose,
09:59
because they will almost certainly be used,
183
587468
3288
perché saranno quasi certamente utilizzate,
10:02
and they would also be corrosive to our democratic institutions.
184
590756
5027
e sarebbero anche deleterie per le nostre istituzioni democratiche.
10:07
Now in November 2012 the U.S. Department of Defense
185
595783
3468
Nel novembre 2012 il Dipartimento della Difesa degli Stati Uniti
10:11
issued a directive requiring
186
599251
2458
ha emesso una direttiva che richiede
10:13
a human being be present in all lethal decisions.
187
601709
4519
che un essere umano sia presente in tutte le decisioni letali.
10:18
This temporarily effectively banned autonomous weapons in the U.S. military,
188
606228
4776
Questo ha temporaneamente bandito le armi autonome dagli armamenti della forza militare statunitense,
10:23
but that directive needs to be made permanent.
189
611004
3753
ma tale direttiva deve essere resa permanente.
10:26
And it could set the stage for global action.
190
614757
4376
E potrebbe gettare le basi di un'azione globale.
10:31
Because we need an international legal framework
191
619133
3845
Perché abbiamo bisogno di un quadro giuridico internazionale
10:34
for robotic weapons.
192
622978
2138
per le armi robotiche.
10:37
And we need it now, before there's a devastating attack
193
625116
2928
E ne abbiamo bisogno ora, prima che ci sia un attacco devastante
10:40
or a terrorist incident that causes nations of the world
194
628044
3152
o un incidente terroristico che spinga le nazioni del mondo
10:43
to rush to adopt these weapons
195
631196
1924
ad affrettarsi ad adottare queste armi
10:45
before thinking through the consequences.
196
633120
3771
prima di pensare bene alle conseguenze.
10:48
Autonomous robotic weapons concentrate too much power
197
636891
2981
Le armi robotiche autonome concentrano troppo potere
10:51
in too few hands, and they would imperil democracy itself.
198
639872
6283
in troppe poche mani, e mettono a repentaglio la stessa democrazia.
10:58
Now, don't get me wrong, I think there are tons
199
646155
2686
Ora, non fraintendetemi, credo che ci siano tonnellate
11:00
of great uses for unarmed civilian drones:
200
648841
2618
di grandi usi per i droni civili disarmati:
11:03
environmental monitoring, search and rescue, logistics.
201
651459
3939
monitoraggio ambientale, ricerca e soccorso, logistica.
11:07
If we have an international treaty on robotic weapons,
202
655398
2826
Se avessimo un trattato internazionale sulle armi robotiche,
11:10
how do we gain the benefits of autonomous drones
203
658224
3587
come otterremmo benefici dai droni e veicoli
11:13
and vehicles while still protecting ourselves
204
661811
2648
autonomi continuando a proteggere noi stessi
11:16
against illegal robotic weapons?
205
664459
3980
contro le armi robotiche illegali?
11:20
I think the secret will be transparency.
206
668439
4741
Penso che il segreto sia la trasparenza.
11:25
No robot should have an expectation of privacy
207
673180
3013
Nessun robot dovrebbe avere privacy
11:28
in a public place.
208
676193
3451
in un luogo pubblico.
11:31
(Applause)
209
679644
5048
(Applausi)
11:36
Each robot and drone should have
210
684692
2045
Ogni robot e drone dovrebbe essere
11:38
a cryptographically signed I.D. burned in at the factory
211
686737
2883
marchiato in fabbrica con un ID crittografato
11:41
that can be used to track its movement through public spaces.
212
689620
2923
che può essere utilizzato per monitorarne il movimento attraverso gli spazi pubblici.
11:44
We have license plates on cars, tail numbers on aircraft.
213
692543
3381
Abbiamo targhe di automobili, numeri di coda su aerei.
11:47
This is no different.
214
695924
1841
Questo non è diverso.
11:49
And every citizen should be able to download an app
215
697765
2012
E ogni cittadino dovrebbe essere in grado di scaricare un app
11:51
that shows the population of drones and autonomous vehicles
216
699777
3125
che mostra la popolazione di droni e veicoli autonomi
11:54
moving through public spaces around them,
217
702902
2429
muoversi attraverso gli spazi pubblici intorno a loro,
11:57
both right now and historically.
218
705331
2733
sia in tempo reale, sia in passato.
12:00
And civic leaders should deploy sensors and civic drones
219
708064
3548
E i leader civici dovrebbero distribuire sensori e droni civici
12:03
to detect rogue drones,
220
711612
2344
per rilevare i droni non autorizzati,
12:05
and instead of sending killer drones of their own up to shoot them down,
221
713956
3176
e invece di inviare droni killer per abbatterli,
12:09
they should notify humans to their presence.
222
717132
2992
dovrebbero comunicare agli esseri umani la loro presenza.
12:12
And in certain very high-security areas,
223
720124
2606
E in alcune zone di sicurezza molto elevata,
12:14
perhaps civic drones would snare them
224
722730
1909
forse i droni civici dovrebbero intrappolarli
12:16
and drag them off to a bomb disposal facility.
225
724639
2841
e trascinarli fuori in un impianto di smaltimento esplosivi.
12:19
But notice, this is more an immune system
226
727480
3027
Ma notate, questo è più un sistema immunitario
12:22
than a weapons system.
227
730507
1321
che un sistema di armi.
12:23
It would allow us to avail ourselves of the use
228
731828
2592
Ci consentirebbe di avvalerci dell'uso
12:26
of autonomous vehicles and drones
229
734420
2032
di droni e veicoli autonomi
12:28
while still preserving our open, civil society.
230
736452
4295
mantenendo la nostra società aperta e civile.
12:32
We must ban the deployment and development
231
740747
2999
Dobbiamo vietare la distribuzione e lo sviluppo
12:35
of killer robots.
232
743746
1862
di robot killer.
12:37
Let's not succumb to the temptation to automate war.
233
745608
4850
Non soccombiamo alla tentazione di automatizzare la guerra.
12:42
Autocratic governments and criminal organizations
234
750458
2718
I governi autocratici e le organizzazioni criminali
12:45
undoubtedly will, but let's not join them.
235
753176
2956
lo faranno senz'altro, ma non uniamoci a loro.
12:48
Autonomous robotic weapons
236
756132
1891
Le armi robot autonome
12:50
would concentrate too much power
237
758023
2051
concentrerebbero troppo potere
12:52
in too few unseen hands,
238
760074
2482
in troppo poche mani invisibili,
12:54
and that would be corrosive to representative government.
239
762556
3255
e questo sarebbe deleterio per i governi rappresentativi.
12:57
Let's make sure, for democracies at least,
240
765811
2961
Assicuriamoci, almeno per le democrazie,
13:00
killer robots remain fiction.
241
768772
2604
che i robot killer rimangano finzione.
13:03
Thank you.
242
771376
1110
Grazie.
13:04
(Applause)
243
772486
4565
(Applausi)
13:09
Thank you. (Applause)
244
777051
4616
Grazie. (Applausi)
ABOUT THE SPEAKER
Daniel Suarez - Sci-fi authorDaniel Suarez concocts thrilling reads from terrifying (and not-so-farfetched) near-future scenarios.
Why you should listen
While working as a software developer, Daniel Suarez self-published Daemon, a cyber-thriller depicting a future where society is radically reshaped by disruptive technologies. It struck a chord -- and so did the sequel, Freedom (TM) -- rocketing Suarez into the pantheon of sci-fi prophets.
In his 2012 novel Kill Decision, Suarez digs into the consequences of technology that’s here to stay: autonomous bots and drones programmed to be lethal. Suarez argues that as we cede more control to software, we gamble with the very essence of democracy itself. How can we establish sane guidelines for technology that could easily outstrip our control?
Daniel Suarez | Speaker | TED.com