TED2017
Robin Hanson: What would happen if we upload our brains to computers?
Robin Hanson: Cosa succederebbe se trasferissimo i nostri cervelli su un computer?
Filmed:
Readability: 3.8
1,430,160 views
Ecco le "EM" -- macchine che emulano le menti umane e possono pensare, sentire e lavorare proprio come il cervello da cui sono copiate. Il futurista e sociologo Robin Hanson descrive un possibile futuro nel quale le "EM", grazie alla potenza di computer super veloci e alla loro abilità di auto-copiarsi per aumentare la produttività, controlleranno l'economia globale, lasciando agli esseri umani una sola scelta: andare in pensione per sempre. Intravederete uno strano futuro, nel quale Hanson descrive cosa potrebbe succedere se i robot governassero la terra.
Robin Hanson - Futurist, social scientist
Does humanity have a future as uploaded minds? In his work, Robin Hanson asks this and other extra-large questions. Full bio
Does humanity have a future as uploaded minds? In his work, Robin Hanson asks this and other extra-large questions. Full bio
Double-click the English transcript below to play the video.
Un giorno potremmo avere robot
intelligenti come gli esseri umani,
intelligenti come gli esseri umani,
00:13
Someday, we may have robots
as smart as people,
as smart as people,
0
1521
4444
intelligenze artificiali, AI.
00:17
artificial intelligence, AI.
1
5989
2474
Come potrebbe succedere?
00:20
How could that happen?
2
8487
1476
00:22
One route is that we'll just keep
accumulating better software,
accumulating better software,
3
10812
3184
Un modo è quello di creare,
semplicemente, software migliori,
semplicemente, software migliori,
come abbiamo fatto per 70 anni.
00:26
like we've been doing for 70 years.
4
14020
1992
00:28
At past rates of progress,
that may take centuries.
that may take centuries.
5
16543
2936
Ma con i ritmi del passato,
potrebbero volerci secoli.
potrebbero volerci secoli.
00:32
Some say it'll happen a lot faster
6
20138
2350
Alcuni sostengono che avverrà molto prima,
00:34
as we discover grand new
powerful theories of intelligence.
powerful theories of intelligence.
7
22512
3491
grazie alla scoperta di nuove,
potenti teorie sull'intelligenza.
potenti teorie sull'intelligenza.
00:38
I'm skeptical.
8
26407
1199
Sono un po' scettico.
Ma è di un terzo scenario
che vorrei parlarvi oggi.
che vorrei parlarvi oggi.
00:40
But a third scenario
9
28608
3061
00:43
is what I'm going to talk about today.
10
31693
1827
L'idea è quella di trasferire
il software cerebrale.
il software cerebrale.
00:45
The idea is to port the software
from the human brain.
from the human brain.
11
33544
2738
00:48
To do this, we're going to need
three technologies to be good enough,
three technologies to be good enough,
12
36972
3301
Per riuscirci, tre tecnologie
devono raggiungere un livello
devono raggiungere un livello
che ancora nessuna di esse ha raggiunto.
00:52
and none of them are there yet.
13
40297
1555
Primo, ci vorranno molti computer
economici e veloci, in parallelo;
economici e veloci, in parallelo;
00:54
First, we're going to need
lots of cheap, fast, parallel computers.
lots of cheap, fast, parallel computers.
14
42417
4714
01:00
Second, we're going to need
to scan individual human brains
to scan individual human brains
15
48855
4207
secondo, dovremo scansionare
singoli cervelli umani
singoli cervelli umani
ad alta risoluzione chimica e spaziale,
01:05
in fine spatial and chemical detail,
16
53086
2238
per osservare dove sono le cellule,
a cosa sono connesse, e di che tipo sono.
a cosa sono connesse, e di che tipo sono.
01:07
to see exactly what cells are where,
connected to what, of what type.
connected to what, of what type.
17
55348
4028
Terzo, ci vorranno dei modelli informatici
01:11
And third, we're going to need
computer models
computer models
18
59400
4356
del funzionamento di ogni
cellula cerebrale -
cellula cerebrale -
01:15
of how each kind of brain cell works --
19
63780
2222
ricezione dei dati,
variazione degli stati di intervallo
variazione degli stati di intervallo
01:19
taking input signals,
changing interval state
changing interval state
20
67002
2580
ed emissione dei dati.
01:21
and sending output signals.
21
69606
1294
Con modelli abbastanza buoni
di tutti i tipi di cellule cerebrali,
di tutti i tipi di cellule cerebrali,
01:22
If we have good enough models
of all the kinds of brain cells
of all the kinds of brain cells
22
70924
3818
e del cervello nel suo complesso,
01:26
and a good enough model of the brain,
23
74766
1763
possiamo ricostruire
un modello cerebrale soddisfacente,
un modello cerebrale soddisfacente,
01:28
we can put it together to make
a good enough model of an entire brain,
a good enough model of an entire brain,
24
76553
3434
e quel modello si comporterebbe
come l'originale.
come l'originale.
01:32
and that model would have the same
input-output behavior as the original.
input-output behavior as the original.
25
80011
4003
Se gli rivolgeste la parola,
potrebbe rispondervi.
potrebbe rispondervi.
01:36
So if you talk to it, it might talk back.
26
84038
2485
Se gli chiedeste qualcosa, potrebbe farla.
01:38
If you ask it to do things,
it might do them.
it might do them.
27
86547
2097
01:40
And if we could do that,
everything would change.
everything would change.
28
88668
2822
Se riuscissimo a realizzarlo,
cambierebbe tutto.
cambierebbe tutto.
È un'idea di cui si parla da decenni,
01:43
People have been talking
about this idea for decades,
about this idea for decades,
29
91514
2568
sotto il nome di "uploads".
01:46
under the name of "uploads."
30
94106
1789
Io li chiamerò "EM".
01:47
I'm going to call them "ems."
31
95919
1484
01:50
When they talk about it, they say,
32
98355
2604
Quando se ne parla, ci si chiede:
"Ma è davvero possibile?
01:52
"Is this even possible?
33
100983
1544
Se ne crei uno, sarebbe consapevole?
O solo una macchina vuota?
O solo una macchina vuota?
01:54
If you made one, would it be conscious?
Or is it just an empty machine?
Or is it just an empty machine?
34
102838
3351
Se ne modellaste uno su di me,
sarebbe me o qualcun altro?"
sarebbe me o qualcun altro?"
01:58
If you made one of me,
is that me or someone else?"
is that me or someone else?"
35
106213
2452
Sono tutte domande affascinanti,
che ho deciso di ignorare -
che ho deciso di ignorare -
02:01
These are all fascinating questions
that I'm going to ignore ...
that I'm going to ignore ...
36
109036
3102
(Risate)
02:04
(Laughter)
37
112162
2365
02:07
because I see a neglected question:
38
115041
2089
Perché la domanda che nessuno si fa è:
cosa succederebbe davvero?
cosa succederebbe davvero?
02:09
What would actually happen?
39
117154
1610
02:12
I became obsessed with this question.
40
120440
1904
Questa domanda mi ossessiona.
02:15
I spent four years trying to analyze it,
41
123993
2953
Ho passato quattro anni
a cercare di analizzarla,
a cercare di analizzarla,
usando strumenti tipicamente accademici
per prevedere cosa succederebbe;
per prevedere cosa succederebbe;
02:18
using standard academic tools,
to guess what would happen,
to guess what would happen,
42
126970
3547
e sono qui per dirvi cosa ho scoperto.
02:22
and I'm here to tell you what I found.
43
130541
1849
02:24
But be warned --
44
132928
1382
Ma attenzione -
non sono qui per offrire
un'ispirazione, bensì un'analisi.
un'ispirazione, bensì un'analisi.
02:26
I'm not offering inspiration,
I'm offering analysis.
I'm offering analysis.
45
134722
3407
Il mio lavoro è quello di dirvi
cosa probabilmente accadrebbe
cosa probabilmente accadrebbe
02:30
I see my job as telling you
what's most likely to happen
what's most likely to happen
46
138153
2794
02:32
if we did the least to avoid it.
47
140971
1777
se facessimo il minimo per evitarlo.
02:36
If you aren't at least a bit disturbed
by something I tell you here,
by something I tell you here,
48
144132
3302
Se non sarete turbati almeno un po’,
da quello che vi dirò,
da quello che vi dirò,
vuol dire che non fate attenzione.
02:39
you're just not paying attention.
49
147458
1594
(Risate)
02:41
(Laughter)
50
149076
1351
La prima cosa che posso dirvi
02:42
OK, the first thing I can tell you
51
150451
2596
e che le EM passano tutta
la loro vita nella realtà virtuale.
la loro vita nella realtà virtuale.
02:45
is that ems spend most
of their life in virtual reality.
of their life in virtual reality.
52
153071
3133
02:48
This is what you might look like
if you were using virtual reality.
if you were using virtual reality.
53
156819
4484
Se usaste la realtà virtuale,
potrebbe apparire così.
potrebbe apparire così.
02:54
And this is what you might see:
54
162074
2150
E questo è quello che potreste percepire:
02:57
sunlight glinting off of water,
you might hear gulls flying above,
you might hear gulls flying above,
55
165244
3596
il sole che risplende sull'acqua,
i gabbiani che volano,
i gabbiani che volano,
persino il vento sulle guance,
o l'odore del mare,
o l'odore del mare,
03:00
you might even feel the wind
on your cheeks or smell seawater,
on your cheeks or smell seawater,
56
168864
3031
con un hardware evoluto.
03:03
with advanced hardware.
57
171919
1325
Se vi trovaste a passare molto tempo qui,
03:06
Now, if you were to spend
a lot of time here,
a lot of time here,
58
174082
2097
vorreste un pannello di controllo
03:08
you might want a dashboard
59
176203
1266
dove fare cose come telefonare,
03:09
where you could do things like
make a phone call,
make a phone call,
60
177493
2494
muovervi in un mondo virtuale,
03:12
move to a new virtual world,
61
180011
1550
controllare il conto in banca.
03:13
check your bank account.
62
181585
1300
03:15
Now, while this is what
you would look like in virtual reality,
you would look like in virtual reality,
63
183960
3657
Ora, mentre voi apparireste così,
nella realtà virtuale,
nella realtà virtuale,
ecco come, nella realtà virtuale,
apparirebbero le EM.
apparirebbero le EM.
03:19
this is what an em
would look like in virtual reality.
would look like in virtual reality.
64
187641
3128
È un computer posto
in un qualunque scaffale da server.
in un qualunque scaffale da server.
03:22
It's computer hardware
sitting in a server rack somewhere.
sitting in a server rack somewhere.
65
190793
2756
Che può comunque vedere,
e provare, la stessa cosa.
e provare, la stessa cosa.
03:25
But still, it could see
and experience the same thing.
and experience the same thing.
66
193573
3158
La condizione delle EM
è un po' diversa, però.
è un po' diversa, però.
03:29
But some things are different for ems.
67
197282
1830
03:31
First, while you'll probably always notice
that virtual reality isn't entirely real,
that virtual reality isn't entirely real,
68
199690
4786
Primo, anche se voi notereste sempre
che la realtà virtuale
non è completamente reale,
non è completamente reale,
per una EM sarebbe reale
come per voi lo è questa stanza,
come per voi lo è questa stanza,
03:36
to an em, it can feel as real to them
as this room feels to you now
as this room feels to you now
69
204500
3254
o come qualsiasi cosa sperimentiate.
03:39
or as anything ever feels.
70
207778
1638
03:41
And ems also have
some more action possibilities.
some more action possibilities.
71
209440
2412
Le EM hanno anche
altre possibilità di azione.
altre possibilità di azione.
Ad esempio, la vostra mente
funziona a velocità costante,
funziona a velocità costante,
03:44
For example, your mind just always
runs at the same speed,
runs at the same speed,
72
212389
2716
mentre una EM può avere
più o meno hardware
più o meno hardware
03:47
but an em can add more or less
computer hardware to run faster or slower,
computer hardware to run faster or slower,
73
215129
3841
per operare più velocemente o lentamente.
03:50
and therefore, if the world around them
seems to be going too fast,
seems to be going too fast,
74
218994
3688
Pertanto, se il mondo le sembra andare
troppo velocemente,
troppo velocemente,
a loro basta accelerare la mente
03:54
they can just speed up their mind,
75
222706
1619
e il mondo sembrerà rallentare.
03:56
and the world around them
would seem to slow down.
would seem to slow down.
76
224349
2350
03:58
In addition, an em can make
a copy of itself at that moment.
a copy of itself at that moment.
77
226723
4841
Inoltre una EM può fare
una copia di sé stessa in quel momento.
una copia di sé stessa in quel momento.
04:04
This copy would remember
everything the same,
everything the same,
78
232120
2097
Questa copia ricorderà tutto,
e se cominciasse alla stessa velocità,
osservando alla stessa velocità,
osservando alla stessa velocità,
04:06
and if it starts out with the same speed,
looking at the same speed,
looking at the same speed,
79
234241
3316
04:09
it might even need to be told,
"You are the copy."
"You are the copy."
80
237581
2651
potrebbe essere necessario dirle,
"Tu sei la copia."
"Tu sei la copia."
Le EM potrebbero fare copie di archivio
04:12
And em could make archive copies,
81
240779
1573
e con abbastanza copie in archivio
04:14
and with enough archives,
82
242376
1824
una EM può essere immortale -
04:16
an em can be immortal --
83
244224
2072
almeno teoricamente,
sebbene spesso non in pratica.
sebbene spesso non in pratica.
04:18
in principle, though not
usually in practice.
usually in practice.
84
246320
2190
04:21
And an em can move its brain,
the computer that represents its brain,
the computer that represents its brain,
85
249411
3532
Una EM può trasferire il suo cervello,
il computer che lo rappresenta,
il computer che lo rappresenta,
da una posizione fisica ad un'altra.
04:24
from one physical location to another.
86
252967
2087
Le EM possono attraversare il mondo
alla velocità della luce,
alla velocità della luce,
04:28
Ems can actually move around the world
at the speed of light,
at the speed of light,
87
256037
3318
così da interagire rapidamente
04:31
and by moving to a new location,
88
259379
1532
con le EM vicine a quella nuova posizione.
04:32
they can interact more quickly
with ems near that new location.
with ems near that new location.
89
260935
3264
04:36
So far, I've been talking about
what ems can do.
what ems can do.
90
264223
4277
Finora abbiamo parlato
di quello che le EM possono fare.
di quello che le EM possono fare.
04:41
What do ems choose to do?
91
269227
1900
Ma cosa sceglierebbero di fare?
04:44
To understand that, we'll need
to understand three key facts.
to understand three key facts.
92
272405
2977
Per capirlo, abbiamo bisogno
di comprendere tre punti chiave.
di comprendere tre punti chiave.
04:48
First, ems by definition do what
the human they emulate would do
the human they emulate would do
93
276096
6151
Primo, le EM per definizione fanno
ciò che l'umano emulato
farebbe nella stessa situazione.
farebbe nella stessa situazione.
04:54
in the same situation.
94
282271
1301
04:56
So their lives and behavior
are very human.
are very human.
95
284305
2643
Quindi vite e comportamenti
delle EM sono molto umani.
delle EM sono molto umani.
Sono diversi, soprattutto,
perché vivono in un mondo diverso.
perché vivono in un mondo diverso.
04:58
They're mainly different because
they're living in a different world.
they're living in a different world.
96
286972
3297
Secondo, le EM hanno bisogno
di risorse reali per sopravvivere.
di risorse reali per sopravvivere.
05:02
Second, ems need
real resources to survive.
real resources to survive.
97
290293
3298
Voi avete bisogno di cibo e riparo,
altrimenti morireste.
altrimenti morireste.
05:05
You need food and shelter or you'll die.
98
293615
3663
Le EM hanno bisogno di hardware, energia,
raffreddamento, o non funzionerebbero.
raffreddamento, o non funzionerebbero.
05:09
Also, ems need computer hardware,
energy, cooling, or they can't exist.
energy, cooling, or they can't exist.
99
297302
4310
Per ogni minuto vissuto da una EM,
05:13
For every subjective minute
that an em experiences,
that an em experiences,
100
301636
2575
qualcuno, solitamente la stessa EM,
ha dovuto lavorare per pagarlo.
ha dovuto lavorare per pagarlo.
05:16
someone, usually that em,
had to work to pay for it.
had to work to pay for it.
101
304235
3274
05:20
Third, ems are poor.
102
308136
1690
Terzo, le EM sono povere.
(Risate)
05:21
(Laughter)
103
309850
1150
Il numero di EM cresce più in fretta
della loro economia.
della loro economia.
05:23
The em population can grow
quicker than the em economy,
quicker than the em economy,
104
311715
2635
05:26
so that means wages fall down
to em subsistence levels.
to em subsistence levels.
105
314374
3335
Significa che gli stipendi scendono
ai minimi della sussistenza delle EM.
ai minimi della sussistenza delle EM.
05:29
That means ems have to be working
most of the time.
most of the time.
106
317733
2604
E che le EM devono lavorare
la maggior parte del tempo.
la maggior parte del tempo.
05:32
So that means
this is what ems usually see:
this is what ems usually see:
107
320361
2928
Ecco, quindi, quello che vedono le EM:
belle e lussuose, ma scrivanie -
05:35
beautiful and luxurious, but desks --
108
323684
2548
lavorano la maggior parte del tempo.
05:38
they're working most of the time.
109
326256
1724
Ora troverete insolita e strana
l'ipotesi della retribuzione minima:
l'ipotesi della retribuzione minima:
05:40
Now, a subsistence wage scenario,
you might think, is exotic and strange,
you might think, is exotic and strange,
110
328283
3969
ma è un caso abituale,
nella storia dell'umanità,
nella storia dell'umanità,
05:44
but it's actually the usual case
in human history,
in human history,
111
332276
2341
ed è come tutti gli animali selvaggi
hanno sempre vissuto,
hanno sempre vissuto,
05:46
and it's how pretty much
all wild animals have ever lived,
all wild animals have ever lived,
112
334641
2714
quindi sappiamo cosa fa l'uomo,
in certe situazioni.
in certe situazioni.
05:49
so we know what humans do
in this situation.
in this situation.
113
337379
2276
05:51
Humans basically do
what it takes to survive,
what it takes to survive,
114
339679
2930
L'uomo fa ciò che gli serve
per sopravvivere,
per sopravvivere,
ed è questo che mi permette
di parlare così del mondo delle EM.
di parlare così del mondo delle EM.
05:54
and this is what lets me say
so much about the em world.
so much about the em world.
115
342633
3309
05:58
When creatures are rich, like you,
116
346752
2389
Quando le creature sono ricche, come voi,
bisogna sapere molto su cosa vogliono,
06:01
you have to know a lot
about what they want
about what they want
117
349165
2023
per comprendere cosa fanno.
06:03
to figure out what they do.
118
351212
1341
Quando le creature sono povere,
06:04
When creatures are poor,
119
352577
1170
06:05
you know that they mostly do
what it takes to survive.
what it takes to survive.
120
353771
2657
faranno il necessario per sopravvivere.
06:08
So we've been talking about the em world
from the point of view of the ems --
from the point of view of the ems --
121
356776
3624
Abbiamo parlato del mondo
dal punto di vista delle EM.
dal punto di vista delle EM.
Facciamo un passo indietro
e osserviamo il loro mondo,
e osserviamo il loro mondo,
06:12
now, let's step back
and look at their whole world.
and look at their whole world.
122
360424
2515
Primo: il mondo delle EM cresce
molto più rapidamente rispetto al nostro,
molto più rapidamente rispetto al nostro,
06:14
First, the em world grows
much faster than ours,
much faster than ours,
123
362963
3080
all'incirca 100 volte più rapidamente.
06:18
roughly a hundred times faster.
124
366067
2464
I cambiamenti a cui noi assisteremmo
in un secolo o due,
in un secolo o due,
06:20
So the amount of change
we would experience in a century or two,
we would experience in a century or two,
125
368555
3163
loro li otterrebbero in un anno o due.
06:23
they would experience in a year or two.
126
371742
1858
Non sono così disposto a prevedere
oltre questo lasso di tempo,
oltre questo lasso di tempo,
06:25
And I'm not really willing to project
this age much beyond that,
this age much beyond that,
127
373624
3038
perché probabilmente succederà
qualcos'altro, e non so cosa.
qualcos'altro, e non so cosa.
06:28
because plausibly by then something else
will happen, I don't know what.
will happen, I don't know what.
128
376686
3437
Secondo: l'emulazione tipica
va molto più velocemente,
va molto più velocemente,
06:32
Second, the typical emulation
runs even faster,
runs even faster,
129
380147
2358
circa 1000 volte la velocità dell'uomo.
06:34
roughly a thousand times human speed.
130
382529
2189
06:37
So for them, they experience
thousands of years in this year or two,
thousands of years in this year or two,
131
385316
5340
Loro accumulano in un anno o due
un'esperienza di migliaia di anni,
un'esperienza di migliaia di anni,
06:42
and for them, the world around them
is actually changing more slowly
is actually changing more slowly
132
390680
3192
e il mondo attorno a loro
cambia più lentamente
cambia più lentamente
rispetto al mondo per voi.
06:45
than your world seems to change for you.
133
393896
1942
Terzo: le EM sono ammassate
in poche città popolose.
in poche città popolose.
06:48
Third, ems are crammed together
in a small number of very dense cities.
in a small number of very dense cities.
134
396277
4484
Questo non è solo come si percepiscono
nella realtà virtuale,
nella realtà virtuale,
06:52
This is not only how they see
themselves in virtual reality,
themselves in virtual reality,
135
400785
3466
ma è come sono realmente
ammassate fisicamente.
ammassate fisicamente.
06:56
it's also how they actually are
physically crammed together.
physically crammed together.
136
404275
2896
06:59
So at em speeds, physical travel
feels really painfully slow,
feels really painfully slow,
137
407474
3886
Alla velocità delle EM, i movimenti fisici
sono penosamente lenti:
sono penosamente lenti:
quindi le loro città sono autosufficienti,
07:03
so most em cities are self-sufficient,
138
411384
2322
le guerre sono perlopiù informatiche,
07:05
most war is cyber war,
139
413730
1750
e il resto della Terra,
lontano dalle loro città,
lontano dalle loro città,
07:07
and most of the rest of the earth
away from the em cities
away from the em cities
140
415504
2691
viene lasciato all'uomo,
poiché le EM vi sono poco interessate.
poiché le EM vi sono poco interessate.
07:10
is left to the humans, because the ems
really aren't that interested in it.
really aren't that interested in it.
141
418219
3674
Per quanto riguarda gli uomini,
07:14
Speaking of humans,
142
422252
1508
perché vorrete sapere anche questo,
07:15
you were wanting to hear about that.
143
423784
1784
gli umani andranno in pensione,
una volta per sempre.
una volta per sempre.
07:17
Humans must retire, at once, for good.
144
425592
4466
07:22
They just can't compete.
145
430887
1523
Semplicemente, non potranno competere.
Gli umani partono possedendo
tutto il capitale di questo mondo.
tutto il capitale di questo mondo.
07:24
Now, humans start out owning
all of the capital in this world.
all of the capital in this world.
146
432918
3072
L'economia cresce velocemente,
il benessere cresce velocemente.
il benessere cresce velocemente.
07:28
The economy grows very fast,
their wealth grows very fast.
their wealth grows very fast.
147
436014
2869
07:30
Humans get rich, collectively.
148
438907
2384
L'umanità si arricchisce, collettivamente.
E come saprete,
07:34
As you may know, most humans today
don't actually own that much
don't actually own that much
149
442228
3239
oggi molti uomini non possiedono altro
che la loro capacità di lavorare.
che la loro capacità di lavorare.
07:37
besides their ability to work,
150
445491
1841
Per cui, tra oggi e quando succederà,
devono acquisire sufficienti beni,
devono acquisire sufficienti beni,
07:39
so between now and then,
they need to acquire sufficient assets,
they need to acquire sufficient assets,
151
447356
3548
assicurazioni o quote azionarie,
07:42
insurance or sharing arrangements,
152
450928
1833
altrimenti moriranno di fame.
07:44
or they may starve.
153
452785
1461
Raccomando vivamente di evitare
quest'ultimo scenario.
quest'ultimo scenario.
07:46
I highly recommend avoiding this outcome.
154
454270
2015
07:48
(Laughter)
155
456309
1285
(Risate)
07:50
Now, you might wonder,
156
458465
1223
Ora potreste chiedervi:
perché le EM ci lasciano vivere?
07:51
why would ems let humans exist?
157
459712
1478
07:53
Why not kill them, take their stuff?
158
461214
1715
Perché non ucciderci e prenderci tutto?
Sapete che oggi abbiamo, attorno a noi,
molti pensionati improduttivi,
molti pensionati improduttivi,
07:55
But notice we have many
unproductive retirees around us today,
unproductive retirees around us today,
159
463701
3077
ma non li uccidiamo
per prendere le loro proprietà.
per prendere le loro proprietà.
07:58
and we don't kill them
and take their stuff.
and take their stuff.
160
466802
2105
08:00
(Laughter)
161
468931
1634
(Risate)
In parte perché sconvolgeremmo
le istituzioni che abbiamo in comune.
le istituzioni che abbiamo in comune.
08:02
In part, that's because it would disrupt
the institutions we share with them.
the institutions we share with them.
162
470589
4420
E altri gruppi penserebbero:
"Chi sarà il prossimo?"
"Chi sarà il prossimo?"
08:07
Other groups would wonder who's next,
163
475524
2116
Perciò, si presume, le EM potrebbero
lasciarci andare in pensione in pace.
lasciarci andare in pensione in pace.
08:09
so plausibly, ems may well let humans
retire in peace during the age of em.
retire in peace during the age of em.
164
477664
4726
Dovrebbe preoccuparvi
08:14
You should worry more that
the age of em only lasts a year or two
the age of em only lasts a year or two
165
482414
3049
che l'era delle EM durerà
solo una, due anni
solo una, due anni
08:17
and you don't know what happens next.
166
485487
1828
e che non saprete cosa succederà dopo.
08:21
Ems are very much like humans,
167
489207
2366
Le EM sono molto simili agli uomini,
ma non ai tipici umani.
08:23
but they are not like the typical human.
168
491597
2309
08:26
The typical em is a copy
of the few hundred most productive humans.
of the few hundred most productive humans.
169
494438
5983
La tipica EM è una copia
delle poche centinaia
di umani più produttivi.
di umani più produttivi.
08:33
So in fact, they are as elite,
compared to the typical human,
compared to the typical human,
170
501329
3580
In effetti sono una élite,
se paragonata all'uomo medio,
se paragonata all'uomo medio,
come i miliardari, i premi Nobel,
08:36
as the typical billionaire,
Nobel Prize winner,
Nobel Prize winner,
171
504933
2262
le medaglie d'oro olimpiche,
i capi di Stato.
i capi di Stato.
08:39
Olympic gold medalist, head of state.
172
507219
2349
08:42
Ems look on humans
perhaps with nostalgia and gratitude,
perhaps with nostalgia and gratitude,
173
510527
4302
Le EM ci vedono, forse,
con nostalgia e gratitudine,
con nostalgia e gratitudine,
ma non con molto rispetto,
08:46
but not so much respect,
174
514853
1508
che è il modo in cui, se ci pensate,
considerate i vostri antenati.
considerate i vostri antenati.
08:48
which is, if you think about it,
how you think about your ancestors.
how you think about your ancestors.
175
516385
3195
Sappiamo molto su come gli uomini
differiscono nella produttività,
differiscono nella produttività,
08:51
We know many things about how humans
differ in terms of productivity.
differ in terms of productivity.
176
519604
3267
e possiamo usarlo per prevedere
il futuro delle EM:
il futuro delle EM:
08:54
We can just use those
to predict features of ems --
to predict features of ems --
177
522895
2419
per esempio, possono essere intelligenti,
coscienziose, lavoratrici,
coscienziose, lavoratrici,
08:57
for example, they tend to be smart,
conscientious, hard-working,
conscientious, hard-working,
178
525338
3096
sposate, religiose, di mezza età.
09:00
married, religious, middle-aged.
179
528458
1685
Queste sono le caratteristiche delle EM.
09:02
These are features of ems.
180
530461
1612
09:04
Em world also contains enormous variety.
181
532097
2228
Il mondo delle EM è molto diversificato.
Non solo progrediscono
con tutte le varianti della specie umana,
con tutte le varianti della specie umana,
09:06
Not only does it continue on with most
of the kinds of variety that humans do,
of the kinds of variety that humans do,
182
534710
3668
compresa una grande varietà
di industrie e professioni:
di industrie e professioni:
09:10
including variety of industry
and profession,
and profession,
183
538402
2395
09:12
they also have many new kinds of variety,
184
540821
2162
ne hanno anche altre specifiche,
e la velocità mentale
è una delle più importanti.
è una delle più importanti.
09:15
and one of the most important
is mind speed.
is mind speed.
185
543007
2345
Le EM possono andare
dalla velocità di ragionamento umana
dalla velocità di ragionamento umana
09:17
Ems can plausibly go from human speed
186
545712
3834
fino a oltre dieci milioni
di volte maggiori,
di volte maggiori,
09:21
up to a million times
faster than human speed,
faster than human speed,
187
549570
2880
o rallentare a miliardi di volte
meno della velocità umana.
meno della velocità umana.
09:24
and down to a billion times
slower than human speed.
slower than human speed.
188
552474
2777
Le EM più veloci sono, di norma,
di status più elevato.
di status più elevato.
09:28
Faster ems tend to have
markers of high status.
markers of high status.
189
556226
2766
Rappresentano il benessere,
vincono nelle discussioni.
vincono nelle discussioni.
09:31
They embody more wealth.
They win arguments.
They win arguments.
190
559016
2160
09:33
They sit at premium locations.
191
561200
1663
Stanno nei posti migliori.
Le EM più lente sono,
in gran parte, pensionate,
in gran parte, pensionate,
09:34
Slower ems are mostly retirees,
192
562887
1820
09:36
and they are like the ghosts
of our literature.
of our literature.
193
564731
2250
e sono come i fantasmi della letteratura.
Avete presente, i fantasmi
sono tutti attorno a noi:
sono tutti attorno a noi:
09:39
If you recall, ghosts are all around us --
194
567005
2041
09:41
you can interact with them
if you pay the price.
if you pay the price.
195
569070
2270
interagite con loro
se volete pagarne il prezzo.
se volete pagarne il prezzo.
09:43
But they don't know much,
they can't influence much,
they can't influence much,
196
571364
2429
Ma non sanno molto,
non possono influenzare,
non possono influenzare,
e sono ossessionate dal passato,
quindi dov'è il problema?
quindi dov'è il problema?
09:45
and they're obsessed with the past,
so what's the point?
so what's the point?
197
573817
2698
(Risate)
09:48
(Laughter)
198
576539
1151
Le EM hanno più varietà
nella struttura delle loro vite.
nella struttura delle loro vite.
09:49
Ems also have more variety
in the structure of their lives.
in the structure of their lives.
199
577714
2957
Quella della vostra vita è semplice:
nasci, e poi muori.
nasci, e poi muori.
09:52
This is your life: you start
and you end, really simple.
and you end, really simple.
200
580695
2682
Questa è la vita di una EM,
09:55
This is the life of an em,
201
583401
1613
che ogni giorno duplica
alcune sue copie a breve termine
alcune sue copie a breve termine
09:57
who every day splits off
some short-term copies
some short-term copies
202
585038
2293
09:59
to do short-term tasks and then end.
203
587355
1958
per fare compiti a breve termine.
Parleremo meglio di queste
versioni a breve termine fra poco,
versioni a breve termine fra poco,
10:01
We'll talk more about
those short term versions in a moment,
those short term versions in a moment,
204
589337
4127
ma sono molto efficienti
10:05
but they are much more efficient
205
593488
1610
perché non devono riposarsi
il giorno successivo.
il giorno successivo.
10:07
because they don't have to rest
for the next day.
for the next day.
206
595122
2365
Queste EM sono più opportuniste.
10:09
This em is more opportunistic.
207
597511
1508
Si creano delle copie
quando c'è necessità di averle.
quando c'è necessità di averle.
10:11
They make more copies of themselves
when there's more demand for that.
when there's more demand for that.
208
599043
3287
Non sanno da che parte andrà il futuro.
10:14
They don't know which way
the future's going.
the future's going.
209
602354
2097
Questo è una EM progettata,
10:16
This is an em designer,
210
604475
1299
che ha concepito un grande sistema
10:17
who conceives of a large system
211
605798
1602
10:19
and then breaks recursively into copies
who elaborate that,
who elaborate that,
212
607424
3485
e crea ricorsivamente delle copie
per svolgere il lavoro,
per svolgere il lavoro,
così le EM possono realizzare
progetti più grandi, più coerenti.
progetti più grandi, più coerenti.
10:22
so ems can implement
larger, more coherent designs.
larger, more coherent designs.
213
610933
3412
10:26
This an emulation plumber
214
614369
1358
Questa è una emulazione di idraulico
10:27
who remembers that every day,
for the last 20 years,
for the last 20 years,
215
615751
2445
che ricorda che ogni giorno, per 20 anni,
10:30
they only ever worked
two hours a day, a life of leisure.
two hours a day, a life of leisure.
216
618220
2781
ha lavorato due ore al giorno:
una vita di svago.
una vita di svago.
Ma in realtà ogni giorno
si creavano migliaia di copie,
si creavano migliaia di copie,
10:33
But what really happened is,
every day they had a thousand copies,
every day they had a thousand copies,
217
621025
3097
e ciascuna lavorava due ore da idraulico,
10:36
each of whom did a two-hour plumbing job,
218
624146
1953
e solo una di loro continuava
il giorno dopo.
il giorno dopo.
10:38
and only one of them
went on to the next day.
went on to the next day.
219
626123
2165
Oggettivamente, lavorano
più del 99% del tempo.
più del 99% del tempo.
10:40
Objectively, they're working
well over 99 percent of the time.
well over 99 percent of the time.
220
628312
2999
Soggettivamente, loro ricordano
una vita di svago.
una vita di svago.
10:43
Subjectively, they remember
a life of leisure.
a life of leisure.
221
631335
2190
(Risate)
10:45
(Laughter)
222
633549
1008
Questo siete voi. Inizio e fine.
10:46
This, again, is you.
You start and you end.
You start and you end.
223
634581
2088
Questi potreste essere voi,
se all'inizio di una festa
se all'inizio di una festa
10:48
This could be you
if at the start of party,
if at the start of party,
224
636693
2112
avete preso delle droghe
10:50
you took a drug that meant
you would not remember that party
you would not remember that party
225
638829
2811
che non vi faranno ricordare
mai più nulla di questa festa.
mai più nulla di questa festa.
10:53
ever after that day.
226
641664
1618
MI dicono che alcuni lo fanno.
10:55
Some people do this, I'm told.
227
643306
1929
Verso la fine della festa,
direte a voi stessi:
direte a voi stessi:
10:57
Toward the end of the party,
228
645670
1635
10:59
will you say to yourself,
"I'm about to die, this is terrible.
"I'm about to die, this is terrible.
229
647329
2926
"Sto per morire, è terribile.
Quella persona domani non sarò più io,
perché non ricorderà cosa ho fatto oggi."
perché non ricorderà cosa ho fatto oggi."
11:02
That person tomorrow isn't me,
because they won't remember what I do."
because they won't remember what I do."
230
650279
3303
11:05
Or you could say, "I will go on tomorrow.
I just won't remember what I did."
I just won't remember what I did."
231
653606
3961
O potreste dire: "Domani continuerò,
solo non mi ricorderò cosa ho fatto."
solo non mi ricorderò cosa ho fatto."
Questa è una EM che crea
una copia a breve termine
una copia a breve termine
11:09
This is an em who splits off
a short-term copy
a short-term copy
232
657591
2429
per fare un breve lavoro e poi finirla.
11:12
to do a short-term task and then end.
233
660044
1864
11:13
They have the same two
attitude possibilities.
attitude possibilities.
234
661932
2206
Hanno gli stessi
due atteggiamenti possibili.
due atteggiamenti possibili.
Possono dire: "Sono un'altra creatura
a breve termine, e non mi piace."
a breve termine, e non mi piace."
11:16
They can say, "I'm a new short-term
creature with a short life. I hate this."
creature with a short life. I hate this."
235
664162
3679
Oppure: "Sono una parte di una creatura
più grande che non mi ricorderà."
più grande che non mi ricorderà."
11:19
Or "I'm a part of a larger creature
who won't remember this part."
who won't remember this part."
236
667865
3134
Credo che avranno di più
il secondo atteggiamento,
il secondo atteggiamento,
11:23
I predict they'll have
that second attitude,
that second attitude,
237
671023
2118
11:25
not because it's philosophically correct,
but because it helps them get along.
but because it helps them get along.
238
673165
3676
non perché corretto,
ma perché consente loro di continuare.
ma perché consente loro di continuare.
Oggi, se il Presidente dice
che dobbiamo invadere l'Iraq,
che dobbiamo invadere l'Iraq,
11:28
Today, if the president says
we must invade Iraq,
we must invade Iraq,
239
676865
2328
e voi dite: "Perché?"
11:31
and you say, "Why?"
240
679217
1151
e vi dicono: "Segreto di Stato,"
11:32
and they say, "State secret,"
241
680392
1382
non siete sicuri se vi potete fidare,
11:33
you're not sure if you can trust them,
242
681798
1850
ma per le EM, una copia del Presidente
e una vostra possono trovarsi al sicuro,
e una vostra possono trovarsi al sicuro,
11:35
but for ems, a copy of the president
and a copy of you can go inside a safe,
and a copy of you can go inside a safe,
243
683672
3616
spiegare le loro ragioni segrete,
11:39
explain all their secret reasons,
244
687312
1654
e un vostro bit viene fuori
dalla vostra copia,
dalla vostra copia,
11:40
and then one bit comes out
from your copy to yourself,
from your copy to yourself,
245
688990
2531
dicendovi se siete convinti.
11:43
telling you if you were convinced.
246
691545
1856
Così adesso sapete
che c'è una buona ragione.
che c'è una buona ragione.
11:45
So now you can know
there is a good reason.
there is a good reason.
247
693425
2223
So che siete tutti impazienti
di valutare questo mondo.
di valutare questo mondo.
11:47
I know you guys are all eager
to evaluate this world.
to evaluate this world.
248
695976
2545
Desiderosi di decidere
se amarlo o odiarlo.
se amarlo o odiarlo.
11:50
You're eager to decide
if you love it or hate it.
if you love it or hate it.
249
698545
2334
11:52
But think: your ancestors
from thousands of years ago
from thousands of years ago
250
700903
2543
Ma pensateci: i vostri antenati
di migliaia di anni fa
di migliaia di anni fa
avrebbero amato o odiato il vostro mondo
11:55
would have loved or hated your world
251
703470
1753
11:57
based on the first few things
they heard about it,
they heard about it,
252
705247
2421
basandosi sui primi dati a disposizione,
perché il vostro mondo è veramente strano.
11:59
because your world
is really just weird.
is really just weird.
253
707692
1853
Quindi, prima di giudicare
un possibile strano mondo futuro,
un possibile strano mondo futuro,
12:01
So before judging a strange future world,
you should really learn a lot about it,
you should really learn a lot about it,
254
709579
3818
dovete prima imparare,
magari leggerci un libro,
magari leggerci un libro,
12:05
maybe read a whole book about it,
255
713417
1570
e se poi non vi piace,
lavorare per cercare di cambiarlo.
lavorare per cercare di cambiarlo.
12:07
and then, if you don't like it,
work to change it.
work to change it.
256
715031
2344
12:09
Thank you.
257
717409
1019
Grazie.
12:10
(Applause)
258
718452
4833
(Applausi)
ABOUT THE SPEAKER
Robin Hanson - Futurist, social scientistDoes humanity have a future as uploaded minds? In his work, Robin Hanson asks this and other extra-large questions.
Why you should listen
In his book, The Age of Em: Work, Love and Life When Robots Rule the Earth, Robin Hanson re-imagines humanity's role as our tech becomes smarter. A pioneer in prediction markets, also known as information markets and idea futures, Hanson has been known since the 1980s for taking the very very long view on topics as varied as (a selected list) spatial product competition, health incentive contracts, group insurance, product bans, evolutionary psychology and bioethics of health care, voter information incentives, incentives to fake expertise, Bayesian classification, agreeing to disagree, self-deception in disagreement, probability elicitation, wiretaps, image reconstruction, the history of science prizes, reversible computation, the origin of life, the survival of humanity, very long term economic growth, growth given machine intelligence and interstellar colonization.
Meanwhile, he has developed new technologies for conditional, combinatorial and intermediated trading, and he studied insider trading, manipulation and other foul play. Hanson is associate professor of economics at George Mason University and a research associate at the Future of Humanity Institute of Oxford University. His next book is The Elephant in the Brain, co-authored with Kevin Simler, due in 2018.
Robin Hanson | Speaker | TED.com