TED2017
Robin Hanson: What would happen if we upload our brains to computers?
Robin Hanson: Qu'arrivera-t-il quand nous téléchargerons notre cerveau dans un ordinateur ?
Filmed:
Readability: 3.8
1,430,160 views
Voici les « ems », des machines qui imitent le cerveau humain et qui sont capables de penser, ressentir et travailler comme tout cerveau dont ils sont la copie. Robert Hanson est un scientifique futuriste et social. Il décrit un futur possible où les ems ont conquis l'économie mondiale. Ils tournent sur des ordinateurs super rapides et se clonent pour faire du multitasking. Ils ont laissé un seul choix aux humains : la retraite, à perpétuité. Hanson nous permet d'entrevoir un futur troublant en décrivant ce qui pourrait arriver si les robots gouvernaient la terre.
Robin Hanson - Futurist, social scientist
Does humanity have a future as uploaded minds? In his work, Robin Hanson asks this and other extra-large questions. Full bio
Does humanity have a future as uploaded minds? In his work, Robin Hanson asks this and other extra-large questions. Full bio
Double-click the English transcript below to play the video.
00:13
Someday, we may have robots
as smart as people,
as smart as people,
0
1521
4444
Un jour, nous aurons sans doute des robots
aussi intelligents que les hommes,
aussi intelligents que les hommes,
00:17
artificial intelligence, AI.
1
5989
2474
l'intelligence artificielle, IA.
Comment cela pourrait-il arriver ?
00:20
How could that happen?
2
8487
1476
00:22
One route is that we'll just keep
accumulating better software,
accumulating better software,
3
10812
3184
Un des chemins est de continuer
à accumuler des logiciels meilleurs,
à accumuler des logiciels meilleurs,
00:26
like we've been doing for 70 years.
4
14020
1992
comme nous le faisons depuis 70 ans.
00:28
At past rates of progress,
that may take centuries.
that may take centuries.
5
16543
2936
À la vitesse du progrès actuel,
ça pourrait prendre des siècles.
ça pourrait prendre des siècles.
00:32
Some say it'll happen a lot faster
6
20138
2350
Certains disent que
ça arrivera bien plus vite
ça arrivera bien plus vite
00:34
as we discover grand new
powerful theories of intelligence.
powerful theories of intelligence.
7
22512
3491
quand nous découvrirons des théories
nouvelles sur l'intelligence.
nouvelles sur l'intelligence.
00:38
I'm skeptical.
8
26407
1199
Je reste sceptique.
00:40
But a third scenario
9
28608
3061
Il y a cependant un troisième scénario.
C'est de celui-ci que je vais vous parler.
00:43
is what I'm going to talk about today.
10
31693
1827
00:45
The idea is to port the software
from the human brain.
from the human brain.
11
33544
2738
L'idée est d'importer le logiciel
à partir d'un cerveau humain.
à partir d'un cerveau humain.
00:48
To do this, we're going to need
three technologies to be good enough,
three technologies to be good enough,
12
36972
3301
Nous aurons besoin que trois technologies
soient à la hauteur,
soient à la hauteur,
00:52
and none of them are there yet.
13
40297
1555
ce qui n'est pas encore le cas.
00:54
First, we're going to need
lots of cheap, fast, parallel computers.
lots of cheap, fast, parallel computers.
14
42417
4714
D'abord, nous avons besoin de beaucoup
d'ordinateurs parallèles,
d'ordinateurs parallèles,
bons marchés et rapides.
01:00
Second, we're going to need
to scan individual human brains
to scan individual human brains
15
48855
4207
Ensuite, nous devons scanner
le cerveau d'humains
le cerveau d'humains
avec une haute précision de détails
spatiaux et chimiques,
spatiaux et chimiques,
01:05
in fine spatial and chemical detail,
16
53086
2238
01:07
to see exactly what cells are where,
connected to what, of what type.
connected to what, of what type.
17
55348
4028
pour détecter quelles sont les cellules,
et comment elles sont connectées.
et comment elles sont connectées.
01:11
And third, we're going to need
computer models
computer models
18
59400
4356
Enfin, nous avons besoin
de modèles numériques
de modèles numériques
01:15
of how each kind of brain cell works --
19
63780
2222
sur la manière dont chaque cellule
du cerveau fonctionne
du cerveau fonctionne
01:19
taking input signals,
changing interval state
changing interval state
20
67002
2580
quand elle absorbe un signal,
change l'intervalle,
change l'intervalle,
01:21
and sending output signals.
21
69606
1294
et émet des signaux.
01:22
If we have good enough models
of all the kinds of brain cells
of all the kinds of brain cells
22
70924
3818
Si on développe des modèles
suffisamment bons
suffisamment bons
de toutes les sortes de cellules
et du cerveau,
et du cerveau,
01:26
and a good enough model of the brain,
23
74766
1763
on peut les associer et créer un modèle
suffisamment bon du cerveau entier.
suffisamment bon du cerveau entier.
01:28
we can put it together to make
a good enough model of an entire brain,
a good enough model of an entire brain,
24
76553
3434
01:32
and that model would have the same
input-output behavior as the original.
input-output behavior as the original.
25
80011
4003
Ce modèle aurait alors un comportement
entrées-sorties identique à l'original.
entrées-sorties identique à l'original.
Si on lui adresse la parole,
il pourrait nous répondre.
il pourrait nous répondre.
01:36
So if you talk to it, it might talk back.
26
84038
2485
01:38
If you ask it to do things,
it might do them.
it might do them.
27
86547
2097
Si on lui demande une chose,
il la faira.
il la faira.
01:40
And if we could do that,
everything would change.
everything would change.
28
88668
2822
Si on parvient à créer ça,
tout va changer.
tout va changer.
01:43
People have been talking
about this idea for decades,
about this idea for decades,
29
91514
2568
On parle de cette idée depuis des années
01:46
under the name of "uploads."
30
94106
1789
sous le nom de « téléchargements ».
01:47
I'm going to call them "ems."
31
95919
1484
Moi, j'appelle ça « ems ».
01:50
When they talk about it, they say,
32
98355
2604
Quand on en parle, les gens se demandent
01:52
"Is this even possible?
33
100983
1544
si c'est réellement possible.
Dans ce cas, aurait-il une conscience ?
Ou ne serait-ce qu'une machine creuse ?
Ou ne serait-ce qu'une machine creuse ?
01:54
If you made one, would it be conscious?
Or is it just an empty machine?
Or is it just an empty machine?
34
102838
3351
01:58
If you made one of me,
is that me or someone else?"
is that me or someone else?"
35
106213
2452
Si on en crée un à partir de moi,
est-ce moi ou quelqu'un d'autre ?
est-ce moi ou quelqu'un d'autre ?
02:01
These are all fascinating questions
that I'm going to ignore ...
that I'm going to ignore ...
36
109036
3102
Toutes ces questions sont fascinantes,
mais je vais les ignorer...
mais je vais les ignorer...
02:04
(Laughter)
37
112162
2365
(Rires)
02:07
because I see a neglected question:
38
115041
2089
car il y a une question que l'on néglige :
qu'est-ce qui se passera vraiment ?
02:09
What would actually happen?
39
117154
1610
02:12
I became obsessed with this question.
40
120440
1904
Je suis obsédé par cette question.
02:15
I spent four years trying to analyze it,
41
123993
2953
J'ai passé quatre ans à essayer
de l'analyser
de l'analyser
02:18
using standard academic tools,
to guess what would happen,
to guess what would happen,
42
126970
3547
en utilisant des outils académiques
traditionnels pour chercher des réponses.
traditionnels pour chercher des réponses.
02:22
and I'm here to tell you what I found.
43
130541
1849
Je vais vous confier mes découvertes.
02:24
But be warned --
44
132928
1382
Gardez bien à l'esprit
02:26
I'm not offering inspiration,
I'm offering analysis.
I'm offering analysis.
45
134722
3407
que je ne vous propose non pas
de l'inspiration mais une analyse.
de l'inspiration mais une analyse.
Je dois vous expliquer ce
qui va probablement se passer
qui va probablement se passer
02:30
I see my job as telling you
what's most likely to happen
what's most likely to happen
46
138153
2794
si nous faisons le moins possible
pour l'éviter.
pour l'éviter.
02:32
if we did the least to avoid it.
47
140971
1777
02:36
If you aren't at least a bit disturbed
by something I tell you here,
by something I tell you here,
48
144132
3302
Si ce que je vais vous raconter
ne vous trouble pas un petit peu,
ne vous trouble pas un petit peu,
c'est que vous n'êtes pas attentifs.
02:39
you're just not paying attention.
49
147458
1594
02:41
(Laughter)
50
149076
1351
(Rires)
02:42
OK, the first thing I can tell you
51
150451
2596
OK. La première chose à mentionner,
02:45
is that ems spend most
of their life in virtual reality.
of their life in virtual reality.
52
153071
3133
c'est que les ems passent la plupart
de leur vie dans la réalité virtuelle.
de leur vie dans la réalité virtuelle.
02:48
This is what you might look like
if you were using virtual reality.
if you were using virtual reality.
53
156819
4484
Si vous utilisez la réalité virtuelle,
vous ressembleriez à ceci,
vous ressembleriez à ceci,
02:54
And this is what you might see:
54
162074
2150
et vous verriez quelque chose comme ça :
02:57
sunlight glinting off of water,
you might hear gulls flying above,
you might hear gulls flying above,
55
165244
3596
les reflets de lumière sur l'eau,
le son des mouettes qui volent, peut-être,
le son des mouettes qui volent, peut-être,
03:00
you might even feel the wind
on your cheeks or smell seawater,
on your cheeks or smell seawater,
56
168864
3031
la sensation du vent sur les joues
ou l'odeur des embruns,
ou l'odeur des embruns,
avec du matériel sophistiqué.
03:03
with advanced hardware.
57
171919
1325
03:06
Now, if you were to spend
a lot of time here,
a lot of time here,
58
174082
2097
Si vous y passez
beaucoup de temps,
beaucoup de temps,
03:08
you might want a dashboard
59
176203
1266
vous aurez besoin d'un tableau de bord,
03:09
where you could do things like
make a phone call,
make a phone call,
60
177493
2494
pour téléphoner,
voyager dans un autre monde virtuel,
03:12
move to a new virtual world,
61
180011
1550
ou vérifier votre compte bancaire.
03:13
check your bank account.
62
181585
1300
03:15
Now, while this is what
you would look like in virtual reality,
you would look like in virtual reality,
63
183960
3657
Donc, ici, c'est vous,
dans le monde virtuel,
dans le monde virtuel,
03:19
this is what an em
would look like in virtual reality.
would look like in virtual reality.
64
187641
3128
mais un em dans le monde virtuel
ressemble à ça.
ressemble à ça.
Des équipements informatiques
quelque part, dans des racks.
quelque part, dans des racks.
03:22
It's computer hardware
sitting in a server rack somewhere.
sitting in a server rack somewhere.
65
190793
2756
03:25
But still, it could see
and experience the same thing.
and experience the same thing.
66
193573
3158
Néanmoins, il pourrait voir et vivre
les mêmes choses que vous.
les mêmes choses que vous.
Mais certaines choses sont
différentes pour les ems.
différentes pour les ems.
03:29
But some things are different for ems.
67
197282
1830
03:31
First, while you'll probably always notice
that virtual reality isn't entirely real,
that virtual reality isn't entirely real,
68
199690
4786
D'abord, pour vous, une réalité virtuelle
ne sera jamais totalement réelle.
ne sera jamais totalement réelle.
Mais pour un em, la sensation de réel
sera la même pour lui
sera la même pour lui
03:36
to an em, it can feel as real to them
as this room feels to you now
as this room feels to you now
69
204500
3254
autant que pour vous
ou toute autre sensation.
ou toute autre sensation.
03:39
or as anything ever feels.
70
207778
1638
03:41
And ems also have
some more action possibilities.
some more action possibilities.
71
209440
2412
Les ems ont aussi plus
de possibilités d'influence.
de possibilités d'influence.
Votre esprit, par exemple,
tourne toujours à la même vitesse.
tourne toujours à la même vitesse.
03:44
For example, your mind just always
runs at the same speed,
runs at the same speed,
72
212389
2716
03:47
but an em can add more or less
computer hardware to run faster or slower,
computer hardware to run faster or slower,
73
215129
3841
Mais un em pourra ajouter ou retirer
du matériel pour moduler sa vitesse.
du matériel pour moduler sa vitesse.
03:50
and therefore, if the world around them
seems to be going too fast,
seems to be going too fast,
74
218994
3688
Donc, si le monde qui les entoure
semble aller trop vite,
semble aller trop vite,
03:54
they can just speed up their mind,
75
222706
1619
ils peuvent accélérer leur esprit,
03:56
and the world around them
would seem to slow down.
would seem to slow down.
76
224349
2350
et le monde semblera ralentir.
03:58
In addition, an em can make
a copy of itself at that moment.
a copy of itself at that moment.
77
226723
4841
De plus, un em peut se cloner
à ce moment-là.
à ce moment-là.
Cette copie aurait la même
mémoire des choses,
mémoire des choses,
04:04
This copy would remember
everything the same,
everything the same,
78
232120
2097
04:06
and if it starts out with the same speed,
looking at the same speed,
looking at the same speed,
79
234241
3316
et si elle tourne à la même vitesse,
observant un monde aussi rapide,
observant un monde aussi rapide,
04:09
it might even need to be told,
"You are the copy."
"You are the copy."
80
237581
2651
il faudra sans doute lui rappeler
qu'elle est la copie.
qu'elle est la copie.
04:12
And em could make archive copies,
81
240779
1573
Un em pourrait archiver ses copies.
04:14
and with enough archives,
82
242376
1824
Avec suffisamment d'archives,
04:16
an em can be immortal --
83
244224
2072
un em devient immortel,
04:18
in principle, though not
usually in practice.
usually in practice.
84
246320
2190
en principe, mais pas en pratique.
Un em peut encore déménager son cerveau
l'ordinateur qui représente son cerveau
l'ordinateur qui représente son cerveau
04:21
And an em can move its brain,
the computer that represents its brain,
the computer that represents its brain,
85
249411
3532
04:24
from one physical location to another.
86
252967
2087
d'un endroit à un autre.
04:28
Ems can actually move around the world
at the speed of light,
at the speed of light,
87
256037
3318
Les em peuvent faire le tour du monde
à la vitesse de la lumière,
à la vitesse de la lumière,
04:31
and by moving to a new location,
88
259379
1532
et en déménageant,
ils peuvent interagir plus rapidement
avec d'autres ems, plus proches.
avec d'autres ems, plus proches.
04:32
they can interact more quickly
with ems near that new location.
with ems near that new location.
89
260935
3264
04:36
So far, I've been talking about
what ems can do.
what ems can do.
90
264223
4277
Jusqu'ici, j'ai décrit ce que les ems
sont capables de faire.
sont capables de faire.
04:41
What do ems choose to do?
91
269227
1900
Mais que choisiront les ems de faire ?
04:44
To understand that, we'll need
to understand three key facts.
to understand three key facts.
92
272405
2977
Pour répondre à ça, il faut comprendre
trois facteurs cruciaux.
trois facteurs cruciaux.
04:48
First, ems by definition do what
the human they emulate would do
the human they emulate would do
93
276096
6151
D'abord, les ems, par définition, agissent
comme l'humain qu'ils imitent agirait
comme l'humain qu'ils imitent agirait
04:54
in the same situation.
94
282271
1301
dans la même situation.
04:56
So their lives and behavior
are very human.
are very human.
95
284305
2643
Leur vie et leurs comportements
sont donc très humains.
sont donc très humains.
Ils sont principalement différents
parce qu'ils vivent dans un autre monde.
parce qu'ils vivent dans un autre monde.
04:58
They're mainly different because
they're living in a different world.
they're living in a different world.
96
286972
3297
05:02
Second, ems need
real resources to survive.
real resources to survive.
97
290293
3298
Ensuite, les ems ont besoin de resources
physiques pour survivre.
physiques pour survivre.
05:05
You need food and shelter or you'll die.
98
293615
3663
Nous avons besoin d'alimentation
et d'un abri sans quoi nous mourrons.
et d'un abri sans quoi nous mourrons.
05:09
Also, ems need computer hardware,
energy, cooling, or they can't exist.
energy, cooling, or they can't exist.
99
297302
4310
Les ems, eux, ont besoin de matériel
numérique, d'énergie, de refroidissement.
numérique, d'énergie, de refroidissement.
05:13
For every subjective minute
that an em experiences,
that an em experiences,
100
301636
2575
Pour chaque instant subjectif
qu'un em vit,
qu'un em vit,
05:16
someone, usually that em,
had to work to pay for it.
had to work to pay for it.
101
304235
3274
quelqu'un, sans doute ce même em,
a dû travailler pour payer ça.
a dû travailler pour payer ça.
05:20
Third, ems are poor.
102
308136
1690
Troisièmement, les ems sont indigents.
05:21
(Laughter)
103
309850
1150
(Rires)
05:23
The em population can grow
quicker than the em economy,
quicker than the em economy,
104
311715
2635
La démographie ems va grandir plus vite
que leur économie.
que leur économie.
05:26
so that means wages fall down
to em subsistence levels.
to em subsistence levels.
105
314374
3335
Donc, leur salaire va chuter
jusqu'au niveau minimum de subsistance.
jusqu'au niveau minimum de subsistance.
05:29
That means ems have to be working
most of the time.
most of the time.
106
317733
2604
Les ems devront travailler
la plupart du temps.
la plupart du temps.
05:32
So that means
this is what ems usually see:
this is what ems usually see:
107
320361
2928
Les ems ont une vision de ça en général :
05:35
beautiful and luxurious, but desks --
108
323684
2548
une vue magnifique, luxueuse,
mais avec un bureau
mais avec un bureau
car ils travaillent la plupart du temps.
05:38
they're working most of the time.
109
326256
1724
05:40
Now, a subsistence wage scenario,
you might think, is exotic and strange,
you might think, is exotic and strange,
110
328283
3969
Un scénario de salaire de subsistance peut
paraître exotique et étrange
paraître exotique et étrange
mais c'est un cas habituel
dans l'histoire de l'humanité
dans l'histoire de l'humanité
05:44
but it's actually the usual case
in human history,
in human history,
111
332276
2341
05:46
and it's how pretty much
all wild animals have ever lived,
all wild animals have ever lived,
112
334641
2714
et c'est ainsi que vivent
les animaux sauvages.
les animaux sauvages.
On sait ce que les hommes
font dans cette situation.
font dans cette situation.
05:49
so we know what humans do
in this situation.
in this situation.
113
337379
2276
05:51
Humans basically do
what it takes to survive,
what it takes to survive,
114
339679
2930
Ils font ce qui est nécessaire
pour survivre,
pour survivre,
05:54
and this is what lets me say
so much about the em world.
so much about the em world.
115
342633
3309
et c'est sur cette connaissance
que je peux parler du monde des ems.
que je peux parler du monde des ems.
05:58
When creatures are rich, like you,
116
346752
2389
Quand un être est riche, comme vous,
il doit bien savoir ce qu'il veut,
pour déterminer ce qu'il doit faire.
pour déterminer ce qu'il doit faire.
06:01
you have to know a lot
about what they want
about what they want
117
349165
2023
06:03
to figure out what they do.
118
351212
1341
06:04
When creatures are poor,
119
352577
1170
Dans l'indigence,
06:05
you know that they mostly do
what it takes to survive.
what it takes to survive.
120
353771
2657
vous savez que les êtres font
ce qu'ils peuvent pour survivre.
ce qu'ils peuvent pour survivre.
06:08
So we've been talking about the em world
from the point of view of the ems --
from the point of view of the ems --
121
356776
3624
Quittons un instant le monde
du point de vue des ems,
du point de vue des ems,
06:12
now, let's step back
and look at their whole world.
and look at their whole world.
122
360424
2515
et prenons de la hauteur
pour observer leur monde.
pour observer leur monde.
06:14
First, the em world grows
much faster than ours,
much faster than ours,
123
362963
3080
D'abord, leur monde croît
plus rapidement que le nôtre,
plus rapidement que le nôtre,
06:18
roughly a hundred times faster.
124
366067
2464
par un facteur 100 environ.
06:20
So the amount of change
we would experience in a century or two,
we would experience in a century or two,
125
368555
3163
L'évolution qui a nécessité
un ou deux siècles chez l'homme,
un ou deux siècles chez l'homme,
sera vécue par les ems en un ou deux ans.
06:23
they would experience in a year or two.
126
371742
1858
06:25
And I'm not really willing to project
this age much beyond that,
this age much beyond that,
127
373624
3038
Je n'ai pas envie de me projeter
davantage dans le temps,
davantage dans le temps,
06:28
because plausibly by then something else
will happen, I don't know what.
will happen, I don't know what.
128
376686
3437
car quelque chose surviendra sans doute
mais je ne sais pas quoi.
mais je ne sais pas quoi.
06:32
Second, the typical emulation
runs even faster,
runs even faster,
129
380147
2358
Ensuite, la copie typique tourne
plus vite que l'homme,
plus vite que l'homme,
06:34
roughly a thousand times human speed.
130
382529
2189
environ un facteur 1 000.
06:37
So for them, they experience
thousands of years in this year or two,
thousands of years in this year or two,
131
385316
5340
Pour eux, un ou deux ans seront vécus
comme un millier d'années.
comme un millier d'années.
06:42
and for them, the world around them
is actually changing more slowly
is actually changing more slowly
132
390680
3192
Enfin, le monde qui les entoure
semble changer plus lentement
semble changer plus lentement
06:45
than your world seems to change for you.
133
393896
1942
que le sentiment que nous en avons.
06:48
Third, ems are crammed together
in a small number of very dense cities.
in a small number of very dense cities.
134
396277
4484
Troisièmement, les ems sont entassés
dans un petit nombre de cités très denses.
dans un petit nombre de cités très denses.
Il ne s'agit pas uniquement de leur vision
d'eux-mêmes dans la réalité virtuelle,
d'eux-mêmes dans la réalité virtuelle,
06:52
This is not only how they see
themselves in virtual reality,
themselves in virtual reality,
135
400785
3466
06:56
it's also how they actually are
physically crammed together.
physically crammed together.
136
404275
2896
mais aussi de leur réalité physique.
06:59
So at em speeds, physical travel
feels really painfully slow,
feels really painfully slow,
137
407474
3886
À la vitesse des ems, voyager physiquement
est terriblement lent,
est terriblement lent,
07:03
so most em cities are self-sufficient,
138
411384
2322
et donc, les villes ems
sont auto-suffisantes,
sont auto-suffisantes,
07:05
most war is cyber war,
139
413730
1750
la plupart des guerres
sont cyber,
sont cyber,
07:07
and most of the rest of the earth
away from the em cities
away from the em cities
140
415504
2691
et la grande partie du reste du monde
loin des cités ems
loin des cités ems
07:10
is left to the humans, because the ems
really aren't that interested in it.
really aren't that interested in it.
141
418219
3674
est abandonnée aux humains,
parce que ça n'intéresse pas les ems.
parce que ça n'intéresse pas les ems.
07:14
Speaking of humans,
142
422252
1508
Parlons des humains,
c'est sans doute le sujet
qui vous intéresse.
qui vous intéresse.
07:15
you were wanting to hear about that.
143
423784
1784
07:17
Humans must retire, at once, for good.
144
425592
4466
Les humains doivent prendre
leur retraite une fois pour toute.
leur retraite une fois pour toute.
07:22
They just can't compete.
145
430887
1523
Ils sont disqualifiés, point.
07:24
Now, humans start out owning
all of the capital in this world.
all of the capital in this world.
146
432918
3072
Maintenant, les humains vont posséder
tout le capital du monde.
tout le capital du monde.
Leur richesse va grandir aussi vite
que la croissance de l'économie.
que la croissance de l'économie.
07:28
The economy grows very fast,
their wealth grows very fast.
their wealth grows very fast.
147
436014
2869
07:30
Humans get rich, collectively.
148
438907
2384
Les humains deviendront
collectivement riches.
collectivement riches.
07:34
As you may know, most humans today
don't actually own that much
don't actually own that much
149
442228
3239
Vous le savez, les humains n'ont pas
tant de possessions que ça
tant de possessions que ça
hormis leur capacité de travailler.
07:37
besides their ability to work,
150
445491
1841
07:39
so between now and then,
they need to acquire sufficient assets,
they need to acquire sufficient assets,
151
447356
3548
Entre maintenant et ce futur,
ils doivent acquérir suffisamment de biens
ils doivent acquérir suffisamment de biens
et d'assurances
ou d'arrangements en commun
ou d'arrangements en commun
07:42
insurance or sharing arrangements,
152
450928
1833
07:44
or they may starve.
153
452785
1461
sans quoi ils mourront de faim.
07:46
I highly recommend avoiding this outcome.
154
454270
2015
Je vous recommande vivement d'éviter ça.
07:48
(Laughter)
155
456309
1285
(Rires)
Vous pourriez vous demander
07:50
Now, you might wonder,
156
458465
1223
pourquoi les ems nous laisseraient vivre.
07:51
why would ems let humans exist?
157
459712
1478
07:53
Why not kill them, take their stuff?
158
461214
1715
Pourquoi pas nous tuer,
prendre nos biens ?
prendre nos biens ?
07:55
But notice we have many
unproductive retirees around us today,
unproductive retirees around us today,
159
463701
3077
Nous avons beaucoup de retraités,
non productifs, autour de nous
non productifs, autour de nous
07:58
and we don't kill them
and take their stuff.
and take their stuff.
160
466802
2105
et nous ne les tuons pas pour les voler.
08:00
(Laughter)
161
468931
1634
(Rires)
08:02
In part, that's because it would disrupt
the institutions we share with them.
the institutions we share with them.
162
470589
4420
En partie parce que ça perturberait les
institutions que nous partageons avec eux.
institutions que nous partageons avec eux.
08:07
Other groups would wonder who's next,
163
475524
2116
D'autres se demanderont qui est le suivant
08:09
so plausibly, ems may well let humans
retire in peace during the age of em.
retire in peace during the age of em.
164
477664
4726
et probablement que les ems
permettront aux humains
permettront aux humains
de se retirer en paix pendant leur ère.
08:14
You should worry more that
the age of em only lasts a year or two
the age of em only lasts a year or two
165
482414
3049
Plus inquiétant : l'ère des ems
ne durera qu'un an ou deux.
ne durera qu'un an ou deux.
08:17
and you don't know what happens next.
166
485487
1828
On ne sait pas ce qui arrivera après.
08:21
Ems are very much like humans,
167
489207
2366
Les ems ressemblent beaucoup aux humains
08:23
but they are not like the typical human.
168
491597
2309
mais ils ne sont pas similaires
à l'homme typique.
à l'homme typique.
08:26
The typical em is a copy
of the few hundred most productive humans.
of the few hundred most productive humans.
169
494438
5983
Le em typique est une copie des quelques
centaines d'humains les plus productifs.
centaines d'humains les plus productifs.
08:33
So in fact, they are as elite,
compared to the typical human,
compared to the typical human,
170
501329
3580
Donc, il s'agit d'une élite
par rapport à l'homme typique,
par rapport à l'homme typique,
08:36
as the typical billionaire,
Nobel Prize winner,
Nobel Prize winner,
171
504933
2262
comme un milliardaire,
un lauréat du Prix Nobel,
un lauréat du Prix Nobel,
08:39
Olympic gold medalist, head of state.
172
507219
2349
un athlète olympique ou un chef d'État.
08:42
Ems look on humans
perhaps with nostalgia and gratitude,
perhaps with nostalgia and gratitude,
173
510527
4302
Les ems nous observeront peut-être
avec nostalgie et gratitude,
avec nostalgie et gratitude,
mais sans doute pas avec respect.
08:46
but not so much respect,
174
514853
1508
08:48
which is, if you think about it,
how you think about your ancestors.
how you think about your ancestors.
175
516385
3195
C'est ce qui se passe avec nos ancêtres.
Nous savons combien les humains
sont différents en termes de productivité.
sont différents en termes de productivité.
08:51
We know many things about how humans
differ in terms of productivity.
differ in terms of productivity.
176
519604
3267
08:54
We can just use those
to predict features of ems --
to predict features of ems --
177
522895
2419
Parmi ça, on peut prédire
les traits des ems.
les traits des ems.
08:57
for example, they tend to be smart,
conscientious, hard-working,
conscientious, hard-working,
178
525338
3096
Par exemple, ils seront intelligents,
consciencieux, travailleurs,
consciencieux, travailleurs,
mariés, religieux et quinquagénaires.
09:00
married, religious, middle-aged.
179
528458
1685
09:02
These are features of ems.
180
530461
1612
Telles sont leurs caractéristiques.
09:04
Em world also contains enormous variety.
181
532097
2228
Ils auront aussi une grande diversité.
09:06
Not only does it continue on with most
of the kinds of variety that humans do,
of the kinds of variety that humans do,
182
534710
3668
C'est la continuité
de la diversité des actions humaines,
de la diversité des actions humaines,
notamment la variété
des industries, des professions.
des industries, des professions.
09:10
including variety of industry
and profession,
and profession,
183
538402
2395
09:12
they also have many new kinds of variety,
184
540821
2162
Il y aura aussi une nouvelle
sorte de variété,
sorte de variété,
09:15
and one of the most important
is mind speed.
is mind speed.
185
543007
2345
la plus importante étant
la vitesse de l'esprit.
la vitesse de l'esprit.
09:17
Ems can plausibly go from human speed
186
545712
3834
Les ems pourront démarrer
avec la vitesse de l'esprit humain
avec la vitesse de l'esprit humain
09:21
up to a million times
faster than human speed,
faster than human speed,
187
549570
2880
et la dépasser des millions de fois,
09:24
and down to a billion times
slower than human speed.
slower than human speed.
188
552474
2777
ou la ralentir à une vitesse
des milliards de fois plus lente.
des milliards de fois plus lente.
09:28
Faster ems tend to have
markers of high status.
markers of high status.
189
556226
2766
Les ems les plus rapides auront
un statut plus élevé.
un statut plus élevé.
Ils incarnent plus de richesse.
ils gagnent.
ils gagnent.
09:31
They embody more wealth.
They win arguments.
They win arguments.
190
559016
2160
09:33
They sit at premium locations.
191
561200
1663
Ils sont en première classe.
09:34
Slower ems are mostly retirees,
192
562887
1820
Les plus lents seront des retraités,
09:36
and they are like the ghosts
of our literature.
of our literature.
193
564731
2250
semblables aux fantômes
dans notre littérature.
dans notre littérature.
09:39
If you recall, ghosts are all around us --
194
567005
2041
Rappelez-vous, les fantômes nous entourent
on peut interagir avec eux,
si on en paye le prix.
si on en paye le prix.
09:41
you can interact with them
if you pay the price.
if you pay the price.
195
569070
2270
09:43
But they don't know much,
they can't influence much,
they can't influence much,
196
571364
2429
Mais ils sont ignorants
et ils ont peu d'influence.
et ils ont peu d'influence.
09:45
and they're obsessed with the past,
so what's the point?
so what's the point?
197
573817
2698
Ils sont obsédés par le passé.
À quoi cela sert-il ?
À quoi cela sert-il ?
09:48
(Laughter)
198
576539
1151
(Rires)
09:49
Ems also have more variety
in the structure of their lives.
in the structure of their lives.
199
577714
2957
Ems auront aussi une plus grande variété
dans leur vie.
dans leur vie.
Voici votre vie : elle a un début,
et une fin. C'est simple.
et une fin. C'est simple.
09:52
This is your life: you start
and you end, really simple.
and you end, really simple.
200
580695
2682
09:55
This is the life of an em,
201
583401
1613
Voici la vie d'un em :
09:57
who every day splits off
some short-term copies
some short-term copies
202
585038
2293
Tous les jours, il clone
une copie court-terme
une copie court-terme
09:59
to do short-term tasks and then end.
203
587355
1958
pour réaliser des tâches
à court-terme et puis c'est fini.
à court-terme et puis c'est fini.
10:01
We'll talk more about
those short term versions in a moment,
those short term versions in a moment,
204
589337
4127
Nous parlerons plus tard
de ces versions court-terme.
de ces versions court-terme.
10:05
but they are much more efficient
205
593488
1610
Mais elles sont plus efficaces :
10:07
because they don't have to rest
for the next day.
for the next day.
206
595122
2365
elles ne doivent pas
se reposer pour le lendemain.
se reposer pour le lendemain.
10:09
This em is more opportunistic.
207
597511
1508
Ce em est plus opportuniste.
10:11
They make more copies of themselves
when there's more demand for that.
when there's more demand for that.
208
599043
3287
Ils créent plus de clones
quand le besoin est là.
quand le besoin est là.
Ils ne savent pas
ce que l'avenir réserve.
ce que l'avenir réserve.
10:14
They don't know which way
the future's going.
the future's going.
209
602354
2097
10:16
This is an em designer,
210
604475
1299
Voici un em designer,
qui conçoit un large système
qui conçoit un large système
10:17
who conceives of a large system
211
605798
1602
10:19
and then breaks recursively into copies
who elaborate that,
who elaborate that,
212
607424
3485
et se scinde en copies récurrentes
qui élaborent ce système.
qui élaborent ce système.
Donc, les ems peuvent installer
des structures plus larges et cohérentes.
des structures plus larges et cohérentes.
10:22
so ems can implement
larger, more coherent designs.
larger, more coherent designs.
213
610933
3412
10:26
This an emulation plumber
214
614369
1358
Voici une copie bouche-trou
10:27
who remembers that every day,
for the last 20 years,
for the last 20 years,
215
615751
2445
qui se rappelle que chaque jour,
pour 20 ans,
pour 20 ans,
10:30
they only ever worked
two hours a day, a life of leisure.
two hours a day, a life of leisure.
216
618220
2781
ils ont travaillé seulement
2 heures par jour, cool quoi.
2 heures par jour, cool quoi.
10:33
But what really happened is,
every day they had a thousand copies,
every day they had a thousand copies,
217
621025
3097
Mais en réalité, chaque jour,
des centaines de clones sont créées
des centaines de clones sont créées
10:36
each of whom did a two-hour plumbing job,
218
624146
1953
pour réaliser des tâches
pendant deux heures,
pendant deux heures,
10:38
and only one of them
went on to the next day.
went on to the next day.
219
626123
2165
et seul un em survit le lendemain.
10:40
Objectively, they're working
well over 99 percent of the time.
well over 99 percent of the time.
220
628312
2999
Objectivement, ils travaillent
plus que 99% de leur temps.
plus que 99% de leur temps.
Subjectivement, une vie de farniente.
10:43
Subjectively, they remember
a life of leisure.
a life of leisure.
221
631335
2190
10:45
(Laughter)
222
633549
1008
(Rires)
10:46
This, again, is you.
You start and you end.
You start and you end.
223
634581
2088
Vous êtes ici.
Votre début, votre fin.
Votre début, votre fin.
10:48
This could be you
if at the start of party,
if at the start of party,
224
636693
2112
Ceci pourrait être vous
si vous allez à une soirée
si vous allez à une soirée
10:50
you took a drug that meant
you would not remember that party
you would not remember that party
225
638829
2811
et vous fumez une drogue qui vous
empêcherait de vous rappeler cette soirée.
empêcherait de vous rappeler cette soirée.
10:53
ever after that day.
226
641664
1618
10:55
Some people do this, I'm told.
227
643306
1929
J'ai entendu parler de ça.
10:57
Toward the end of the party,
228
645670
1635
À la fin de la soirée,
10:59
will you say to yourself,
"I'm about to die, this is terrible.
"I'm about to die, this is terrible.
229
647329
2926
vous penserez que vous allez mourir,
que c'est affreux.
que c'est affreux.
11:02
That person tomorrow isn't me,
because they won't remember what I do."
because they won't remember what I do."
230
650279
3303
La personne demain ne sera pas moi,
car elle ne se rappelera pas
ce qu'elle a fait.
ce qu'elle a fait.
11:05
Or you could say, "I will go on tomorrow.
I just won't remember what I did."
I just won't remember what I did."
231
653606
3961
Ou bien penserez-vous que vous continuez
demain, un souvenir en moins ?
demain, un souvenir en moins ?
11:09
This is an em who splits off
a short-term copy
a short-term copy
232
657591
2429
Voici un em qui clone
une copie court-terme
une copie court-terme
11:12
to do a short-term task and then end.
233
660044
1864
pour réaliser une tâche, et qui meurt.
11:13
They have the same two
attitude possibilities.
attitude possibilities.
234
661932
2206
Ces ems ont le choix
entre les deux attitudes.
entre les deux attitudes.
Ils peuvent dire : « Je suis le nouveau
avec une vie limitée et je déteste ça. »
avec une vie limitée et je déteste ça. »
11:16
They can say, "I'm a new short-term
creature with a short life. I hate this."
creature with a short life. I hate this."
235
664162
3679
11:19
Or "I'm a part of a larger creature
who won't remember this part."
who won't remember this part."
236
667865
3134
Ou : « Je suis part d'un être majeur
qui ne se rappellera pas de ça. »
qui ne se rappellera pas de ça. »
11:23
I predict they'll have
that second attitude,
that second attitude,
237
671023
2118
Je pense que ce 2e comportement prévaudra,
11:25
not because it's philosophically correct,
but because it helps them get along.
but because it helps them get along.
238
673165
3676
pas seulement car c'est philosophiquement
correct mais car ça aide à gérer.
correct mais car ça aide à gérer.
Si le président décrète
qu'il faut envahir l'Irak,
qu'il faut envahir l'Irak,
11:28
Today, if the president says
we must invade Iraq,
we must invade Iraq,
239
676865
2328
vous demandez pourquoi.
11:31
and you say, "Why?"
240
679217
1151
C' est : « Secret d'État. »
11:32
and they say, "State secret,"
241
680392
1382
11:33
you're not sure if you can trust them,
242
681798
1850
Vous ne savez pas s'il faut y croire.
11:35
but for ems, a copy of the president
and a copy of you can go inside a safe,
and a copy of you can go inside a safe,
243
683672
3616
Mais avec les ems, une copie du président
et de vous vont dans un coffre-fort,
et de vous vont dans un coffre-fort,
11:39
explain all their secret reasons,
244
687312
1654
explicitent les raisons secrètes,
11:40
and then one bit comes out
from your copy to yourself,
from your copy to yourself,
245
688990
2531
et votre copie revient
vers votre copie originale
vers votre copie originale
11:43
telling you if you were convinced.
246
691545
1856
vous expliquer, si elle est convaincue.
11:45
So now you can know
there is a good reason.
there is a good reason.
247
693425
2223
Vous savez qu'il y a une bonne raison.
11:47
I know you guys are all eager
to evaluate this world.
to evaluate this world.
248
695976
2545
Je sais que vous êtes tous curieux
d'évaluer ce monde,
d'évaluer ce monde,
11:50
You're eager to decide
if you love it or hate it.
if you love it or hate it.
249
698545
2334
de déterminer si vous l'aimez ou pas.
Pensez que vos ancêtres
il y a des milliers d'années
il y a des milliers d'années
11:52
But think: your ancestors
from thousands of years ago
from thousands of years ago
250
700903
2543
auraient pu aimer ou détester
votre monde
votre monde
11:55
would have loved or hated your world
251
703470
1753
11:57
based on the first few things
they heard about it,
they heard about it,
252
705247
2421
sur la base des premiers éléments
qu'ils auront entendus
qu'ils auront entendus
11:59
because your world
is really just weird.
is really just weird.
253
707692
1853
car notre monde est vraiment bizarre.
12:01
So before judging a strange future world,
you should really learn a lot about it,
you should really learn a lot about it,
254
709579
3818
Avant de juger un monde futur étrange,
c'est important de s'informer à son sujet.
c'est important de s'informer à son sujet.
12:05
maybe read a whole book about it,
255
713417
1570
Lire un bouquin, par exemple.
12:07
and then, if you don't like it,
work to change it.
work to change it.
256
715031
2344
Si vous n'aimez pas ça,
changez-le.
changez-le.
12:09
Thank you.
257
717409
1019
Merci.
12:10
(Applause)
258
718452
4833
(Applaudissements)
ABOUT THE SPEAKER
Robin Hanson - Futurist, social scientistDoes humanity have a future as uploaded minds? In his work, Robin Hanson asks this and other extra-large questions.
Why you should listen
In his book, The Age of Em: Work, Love and Life When Robots Rule the Earth, Robin Hanson re-imagines humanity's role as our tech becomes smarter. A pioneer in prediction markets, also known as information markets and idea futures, Hanson has been known since the 1980s for taking the very very long view on topics as varied as (a selected list) spatial product competition, health incentive contracts, group insurance, product bans, evolutionary psychology and bioethics of health care, voter information incentives, incentives to fake expertise, Bayesian classification, agreeing to disagree, self-deception in disagreement, probability elicitation, wiretaps, image reconstruction, the history of science prizes, reversible computation, the origin of life, the survival of humanity, very long term economic growth, growth given machine intelligence and interstellar colonization.
Meanwhile, he has developed new technologies for conditional, combinatorial and intermediated trading, and he studied insider trading, manipulation and other foul play. Hanson is associate professor of economics at George Mason University and a research associate at the Future of Humanity Institute of Oxford University. His next book is The Elephant in the Brain, co-authored with Kevin Simler, due in 2018.
Robin Hanson | Speaker | TED.com