TEDGlobal 2005
Nick Bostrom: A philosophical quest for our biggest problems
Nick Bostrom à propos des plus grands problèmes de l'humanité
Filmed:
Readability: 4.2
967,767 views
Le philosophe et transhumaniste Nick Bostrom examine l'avenir du genre humain et se demande si nous pourrions changer la nature fondamentale de l'humanité pour résoudre nos problèmes les plus intrinsèques.
Nick Bostrom - Philosopher
Nick Bostrom asks big questions: What should we do, as individuals and as a species, to optimize our long-term prospects? Will humanity’s technological advancements ultimately destroy us? Full bio
Nick Bostrom asks big questions: What should we do, as individuals and as a species, to optimize our long-term prospects? Will humanity’s technological advancements ultimately destroy us? Full bio
Double-click the English transcript below to play the video.
00:24
I want to talk today about --
0
0
3000
Je veux vous parler aujourd'hui de --
00:27
I've been asked to take the long view, and I'm going to tell you what
1
3000
6000
On m'a demandé de prendre une perspective à long terme, et je vais vous dire ce que
00:33
I think are the three biggest problems for humanity
2
9000
4000
je considère comme les trois plus grands problèmes pour l'humanité
00:37
from this long point of view.
3
13000
3000
dans cette perspective à long terme.
00:40
Some of these have already been touched upon by other speakers,
4
16000
3000
Certains d'entre eux ont déjà été abordés par d'autres conférenciers,
00:43
which is encouraging.
5
19000
2000
ce qui est encourageant.
00:45
It seems that there's not just one person
6
21000
2000
Il semble qu'il n'y ait pas qu'une seule personne
00:47
who thinks that these problems are important.
7
23000
2000
qui pense que ces problèmes sont importants.
00:49
The first is -- death is a big problem.
8
25000
4000
Le premier, c'est -- la mort, un sacré problème.
00:53
If you look at the statistics,
9
29000
3000
Si vous regardez les statistiques,
00:56
the odds are not very favorable to us.
10
32000
2000
elles ne nous sont pas très favorables.
00:58
So far, most people who have lived have also died.
11
34000
4000
Jusqu'à présent, la plupart des personnes qui ont vécu sont décédées.
01:02
Roughly 90 percent of everybody who has been alive has died by now.
12
38000
4000
À peu près 90 pour cent de tous ceux qui ont été en vie sont aussi morts à l'heure actuelle.
01:06
So the annual death rate adds up to 150,000 --
13
42000
6000
Ainsi, le taux de mortalité annuel s'élève à 150 000 --
01:12
sorry, the daily death rate -- 150,000 people per day,
14
48000
3000
pardon, le taux de mortalité quotidien -- 150 000 personnes par jour,
01:15
which is a huge number by any standard.
15
51000
3000
ce qui est indiscutablement un chiffre énorme.
01:18
The annual death rate, then, becomes 56 million.
16
54000
5000
Le taux de mortalité annuel est alors de 56 millions.
01:23
If we just look at the single, biggest cause of death -- aging --
17
59000
5000
Si nous considérons la plus importante cause de mortalité -- le vieillissement --
01:29
it accounts for roughly two-thirds of all human people who die.
18
65000
5000
elle concerne environ deux tiers de tous les humains qui meurent.
01:34
That adds up to an annual death toll
19
70000
3000
Ce qui nous donne par an un nombre de morts
01:37
of greater than the population of Canada.
20
73000
2000
plus important que la population du Canada.
01:39
Sometimes, we don't see a problem
21
75000
2000
Parfois, nous ne voyons pas un problème
01:41
because either it's too familiar or it's too big.
22
77000
4000
parce qu'il est soit trop familier, soit trop important.
01:45
Can't see it because it's too big.
23
81000
2000
On ne peut pas le voir parce qu'il est trop gros.
01:47
I think death might be both too familiar and too big
24
83000
3000
Je pense que la mort doit être à la fois trop familière et trop importante
01:50
for most people to see it as a problem.
25
86000
3000
pour que la plupart des gens la perçoive comme un problème.
01:53
Once you think about it, you see this is not statistical points;
26
89000
2000
Quand on y pense, on peut voir que ce n'est pas d'un intérêt statistique.
01:55
these are -- let's see, how far have I talked?
27
91000
2000
Ce qui est -- voyons voir, combien de temps ai-je parlé?
01:57
I've talked for three minutes.
28
93000
3000
J'ai parlé pendant trois minutes.
02:00
So that would be, roughly, 324 people have died since I've begun speaking.
29
96000
7000
Ce qui signifie qu'environ 324 personnes sont mortes depuis que j'ai commencé à parler.
02:07
People like -- it's roughly the population in this room has just died.
30
103000
4000
Un groupe comme -- c'est à peu près le nombre de personnes dans cette salle qui vient juste de mourir.
02:12
Now, the human cost of that is obvious,
31
108000
2000
Le coût humain de cet événement est évident.
02:14
once you start to think about it -- the suffering, the loss --
32
110000
3000
Une fois qu'on commence à y penser -- la souffrance, la perte --
02:17
it's also, economically, enormously wasteful.
33
113000
3000
c'est aussi, économiquement, un énorme gaspillage.
02:20
I just look at the information, and knowledge, and experience
34
116000
3000
Je considère juste les informations, la connaissance et l'expérience
02:23
that is lost due to natural causes of death in general,
35
119000
3000
qui sont perdues en raison morts naturelles en général,
02:26
and aging, in particular.
36
122000
2000
et du vieillissement, en particulier.
02:28
Suppose we approximated one person with one book?
37
124000
3000
Supposez que nous assimilions une personne à un livre --
02:31
Now, of course, this is an underestimation.
38
127000
2000
Bien entendu, c'est une sous-estimation.
02:33
A person's lifetime of learning and experience
39
129000
6000
L'apprentissage et l'expérience acquis au cours de la vie d'une personne
02:39
is a lot more than you could put into a single book.
40
135000
2000
représentent bien plus que ce qu'on pourrait mettre dans un seul livre.
02:41
But let's suppose we did this.
41
137000
2000
Mais supposons qu'on le fasse.
02:44
52 million people die of natural causes each year
42
140000
5000
52 millions de personnes mourant de causes naturelles chaque année
02:49
corresponds, then, to 52 million volumes destroyed.
43
145000
4000
cela correspond alors à 52 millions de volumes détruits.
02:53
Library of Congress holds 18 million volumes.
44
149000
3000
La Bibliothèque du Congrès détient 18 millions de volumes.
02:57
We are upset about the burning of the Library of Alexandria.
45
153000
3000
Nous sommes contrariés par l'incendie de la bibliothèque d'Alexandrie.
03:00
It's one of the great cultural tragedies
46
156000
2000
C'est l'une des grandes tragédies
03:02
that we remember, even today.
47
158000
3000
dont nous nous souvenons, encore aujourd'hui.
03:06
But this is the equivalent of three Libraries of Congress --
48
162000
2000
Mais c'est l'équivalent de trois Bibliothèques du Congrès --
03:08
burnt down, forever lost -- each year.
49
164000
3000
complètement brûlées, perdues pour toujours -- chaque année.
03:11
So that's the first big problem.
50
167000
2000
Voici donc le premier grand problème.
03:13
And I wish Godspeed to Aubrey de Grey,
51
169000
3000
Et je souhaite bonne chance à Aubrey de Grey,
03:16
and other people like him,
52
172000
2000
et à d'autres peronnes comme lui,
03:18
to try to do something about this as soon as possible.
53
174000
3000
pour tenter de faire quelque chose à ce propos dès que possible.
03:22
Existential risk -- the second big problem.
54
178000
3000
Le risque existentiel -- deuxième grand problème.
03:25
Existential risk is a threat to human survival, or to the long-term potential of our species.
55
181000
7000
Le risque existentiel est une menace pour la survie humaine, ou pour le potentiel à long terme de notre espèce.
03:32
Now, why do I say that this is a big problem?
56
188000
2000
Alors, pourquoi suis-je en train de dire que c'est un grand problème?
03:34
Well, let's first look at the probability --
57
190000
4000
Eh bien, regardons d'abord les probabilités --
03:38
and this is very, very difficult to estimate --
58
194000
3000
c'est très très difficile à estimer --
03:41
but there have been only four studies on this in recent years,
59
197000
3000
mais il n'y a eu que quatre études là-dessus ces dernières années,
03:44
which is surprising.
60
200000
2000
ce qui est surprenant.
03:46
You would think that it would be of some interest
61
202000
3000
On pourrait penser qu'il y a un certain intérêt
03:49
to try to find out more about this given that the stakes are so big,
62
205000
4000
à essayer d'en apprendre plus à ce propos, étant donné l'importance des enjeux,
03:53
but it's a very neglected area.
63
209000
2000
mais c'est un domaine qui est véritablement laissé de côté.
03:55
But there have been four studies --
64
211000
2000
Il y a toutefois eu quatre études --
03:57
one by John Lesley, wrote a book on this.
65
213000
2000
une par John Lesley, qui a écrit un livre à ce sujet.
03:59
He estimated a probability that we will fail
66
215000
2000
Il a estimé la probabilité selon laquelle nous ne parviendrons pas
04:01
to survive the current century: 50 percent.
67
217000
3000
à survivre au vingt-et-unième siècle -- 50 pour cent.
04:04
Similarly, the Astronomer Royal, whom we heard speak yesterday,
68
220000
5000
De la même manière, l'Astronome royal, que nous avons entendu parler hier,
04:09
also has a 50 percent probability estimate.
69
225000
3000
estime aussi la probabilité à hauteur de 50 pour cent.
04:12
Another author doesn't give any numerical estimate,
70
228000
3000
Un autre auteur ne donne pas d'estimation chiffrée,
04:15
but says the probability is significant that it will fail.
71
231000
3000
mais déclare que la probabilité d'échec est significative.
04:18
I wrote a long paper on this.
72
234000
3000
J'ai écrit un long article à ce sujet.
04:21
I said assigning a less than 20 percent probability would be a mistake
73
237000
4000
J'ai soutenu le fait qu'attribuer une probabilité inférieure à 20 pour cent serait une erreur
04:25
in light of the current evidence we have.
74
241000
3000
à la lumière des faits actuels dont nous disposons.
04:28
Now, the exact figures here,
75
244000
2000
Certes, les chiffres donnés ici
04:30
we should take with a big grain of salt,
76
246000
2000
doivent être interprétés avec prudence,
04:32
but there seems to be a consensus that the risk is substantial.
77
248000
3000
mais il semble se dégager un consensus selon lequel le risque est considérable.
04:35
Everybody who has looked at this and studied it agrees.
78
251000
3000
Tous ceux qui se sont penchés sur la question sont d'accord là-dessus.
04:38
Now, if we think about what just reducing
79
254000
2000
À présent, si nous nous intéressons à la réduction
04:40
the probability of human extinction by just one percentage point --
80
256000
5000
de la probabilité de l'extinction humaine d'un seul pour cent --
04:45
not very much -- so that's equivalent to 60 million lives saved,
81
261000
5000
ce n'est pas beaucoup -- cela représente 60 millions de vies sauvées,
04:50
if we just count the currently living people, the current generation.
82
266000
4000
si l'on prend en compte le nombre de personnes vivantes aujourd'hui, la génération actuelle.
04:54
Now one percent of six billion people is equivalent to 60 million.
83
270000
4000
Eh bien un pour cent de six milliards de personnes, ce sont donc 60 millions.
04:58
So that's a large number.
84
274000
2000
C'est un grand nombre.
05:00
If we were to take into account future generations
85
276000
3000
Si nous devions prendre en compte les générations futures
05:03
that will never come into existence if we blow ourselves up,
86
279000
5000
qui ne verront jamais le jour dans l'hypothèse où nous nous faisons sauter,
05:08
then the figure becomes astronomical.
87
284000
3000
cela donnerait un nombre gigantesque.
05:11
If we could eventually colonize a chunk of the universe --
88
287000
3000
Si nous pouvions finalement coloniser une partie de l'univers --
05:14
the Virgo supercluster --
89
290000
2000
le Superamas de la Vierge --
05:16
maybe it will take us 100 million years to get there,
90
292000
2000
peut-être cela nous prendra-t-il 100 millions d'années pour nous y rendre,
05:18
but if we go extinct we never will.
91
294000
3000
mais si la race humaine s'éteint nous n'irons jamais là-haut.
05:21
Then, even a one percentage point reduction
92
297000
3000
Ainsi même une réduction d'un pour cent
05:24
in the extinction risk could be equivalent
93
300000
4000
du risque d'extinction pourrait mener
05:28
to this astronomical number -- 10 to the power of 32.
94
304000
3000
à ce nombre astronomique -- 10 puissance 32.
05:31
So if you take into account future generations as much as our own,
95
307000
4000
Alors en prenant en compte les générations futures aussi bien que la nôtre,
05:35
every other moral imperative of philanthropic cost just becomes irrelevant.
96
311000
5000
tout autre impératif moral de coût philanthropique perd simplement sa pertinence.
05:40
The only thing you should focus on
97
316000
2000
La seule chose sur laquelle il faudrait se concentrer
05:42
would be to reduce existential risk
98
318000
2000
serait la réduction du risque existentiel
05:44
because even the tiniest decrease in existential risk
99
320000
4000
parce que même la plus petite diminution de ce risque
05:48
would just overwhelm any other benefit you could hope to achieve.
100
324000
4000
pourrait réduire à néant tout autre bénéfice que nous serions susceptibles de réaliser.
05:52
And even if you just look at the current people,
101
328000
2000
Et même en regardant uniquement la génération actuelle,
05:54
and ignore the potential that would be lost if we went extinct,
102
330000
5000
et en ignorant le potentiel qui serait perdu si nous devions disparaître,
05:59
it should still have a high priority.
103
335000
2000
cela serait toujours largement prioritaire.
06:01
Now, let me spend the rest of my time on the third big problem,
104
337000
5000
À présent, laissez-moi utiliser le temps qu'il me reste à vous parler du troisième grand problème,
06:06
because it's more subtle and perhaps difficult to grasp.
105
342000
5000
parce qu'il est plus subtil et peut-être plus difficile à saisir.
06:12
Think about some time in your life --
106
348000
4000
Vous souvenez-vous de ces moments dans votre vie --
06:16
some people might never have experienced it -- but some people,
107
352000
3000
peut-être certains ne les ont jamais connus - mais les autres,
06:19
there are just those moments that you have experienced
108
355000
3000
je vous parle de ces moments que vous avez vécus
06:22
where life was fantastic.
109
358000
2000
où la vie était fantastique.
06:24
It might have been at the moment of some great, creative inspiration
110
360000
7000
Cela a pu se produire lors d'un instant de grande inspiration créative
06:31
you might have had when you just entered this flow stage.
111
367000
2000
que vous avez pu connaître en entrant dans cette salle.
06:33
Or when you understood something you had never done before.
112
369000
2000
Ou bien lorsque vous avez compris quelque chose pour la toute première fois
06:35
Or perhaps in the ecstasy of romantic love.
113
371000
4000
Ou peut-être dans l'extase d'un amour romantique.
06:39
Or an aesthetic experience -- a sunset or a great piece of art.
114
375000
5000
Ou encore une expérience esthétique -- un coucher du soleil, une grande œuvre d'art.
06:44
Every once in a while we have these moments,
115
380000
2000
De temps en temps nous vivons ces instants
06:46
and we realize just how good life can be when it's at its best.
116
382000
4000
et nous réalisons alors à quel point la vie peut être agréable.
06:50
And you wonder, why can't it be like that all the time?
117
386000
5000
Et vous vous demandez pourquoi cela ne peut pas être ainsi tout le temps ?
06:55
You just want to cling onto this.
118
391000
2000
Vous désirez ardemment vous accrocher à ce bonheur.
06:57
And then, of course, it drifts back into ordinary life and the memory fades.
119
393000
4000
Et alors, bien entendu, il vous échappe, vous retournez dans la vie ordinaire et le souvenir s'évanouit.
07:01
And it's really difficult to recall, in a normal frame of mind,
120
397000
4000
Et il est très difficile de se rappeler, dans un état d'esprit normal,
07:05
just how good life can be at its best.
121
401000
3000
combien la vie peut être bonne dans ces meilleurs moments.
07:08
Or how bad it can be at its worst.
122
404000
3000
Ou à quel point elle peut être désagréable dans les pires.
07:11
The third big problem is that life isn't usually
123
407000
3000
Le troisième grand problème, c'est que la vie n'est pas systématiquement
07:14
as wonderful as it could be.
124
410000
2000
aussi formidable qu'elle pourrait l'être.
07:16
I think that's a big, big problem.
125
412000
4000
Je crois que c'est vraiment un grand problème.
07:20
It's easy to say what we don't want.
126
416000
2000
Il est facile de savoir ce que nous ne voulons pas.
07:23
Here are a number of things that we don't want --
127
419000
3000
Voici une liste de choses que nous ne voulons pas --
07:26
illness, involuntary death, unnecessary suffering, cruelty,
128
422000
3000
la maladie, la mort involontaire, la souffrance inutile, la cruauté,
07:29
stunted growth, memory loss, ignorance, absence of creativity.
129
425000
5000
une croissance stoppée, la perte de mémoire, l'ignorance, l'absence de créativité.
07:35
Suppose we fixed these things -- we did something about all of these.
130
431000
3000
Supposez que nous remédions à ces choses-là -- que nous fassions quelque chose pour les combattre.
07:38
We were very successful.
131
434000
2000
Que nous sortions vainqueurs.
07:40
We got rid of all of these things.
132
436000
2000
Que nous nous débarrassions de tout cela.
07:42
We might end up with something like this,
133
438000
3000
Nous pourrions aboutir à quelque chose qui ressemble à ça.
07:45
which is -- I mean, it's a heck of a lot better than that.
134
441000
4000
Ce qui est -- je veux dire, c'est en réalité beaucoup mieux que ça.
07:49
But is this really the best we can dream of?
135
445000
5000
Mais est-ce que c'est vraiment le mieux dont nous puissions rêver ?
07:54
Is this the best we can do?
136
450000
2000
Est-ce le maximum que nous pouvons faire ?
07:56
Or is it possible to find something a little bit more inspiring to work towards?
137
452000
6000
Ou bien est-il possible de trouver quelque chose d'un peu plus exaltant vers quoi se tourner ?
08:02
And if we think about this,
138
458000
2000
Et quand on y pense,
08:04
I think it's very clear that there are ways
139
460000
4000
Je crois qu'il est évident qu'il existe des manières
08:08
in which we could change things, not just by eliminating negatives,
140
464000
3000
de changer les choses, pas simplement en éliminant le négatif,
08:11
but adding positives.
141
467000
2000
mais en ajoutant du positif.
08:13
On my wish list, at least, would be:
142
469000
2000
Sur ma liste de souhaits figureraient au moins --
08:15
much longer, healthier lives, greater subjective well-being,
143
471000
5000
des vies plus longues, en meilleur santé, un bien-être subjectif plus important,
08:20
enhanced cognitive capacities, more knowledge and understanding,
144
476000
5000
des capacités cognitives plus développés, davantage de connaissances et de compréhension,
08:25
unlimited opportunity for personal growth
145
481000
2000
un potentiel illimité d'épanouissement personnel
08:27
beyond our current biological limits, better relationships,
146
483000
4000
au-delà de nos limites biologiques actuelles, de meilleures relations,
08:31
an unbounded potential for spiritual, moral
147
487000
2000
un potentiel sans limites pour un développement
08:33
and intellectual development.
148
489000
2000
spirituel, moral et intellectuel.
08:35
If we want to achieve this, what, in the world, would have to change?
149
491000
8000
Si nous souhaitons réaliser cela, qu'est-ce qui doit changer dans le monde ?
08:43
And this is the answer -- we would have to change.
150
499000
5000
Eh bien voici la réponse -- nous devons changer.
08:48
Not just the world around us, but we, ourselves.
151
504000
3000
Pas simplement le monde qui nous entoure, mais aussi nous-mêmes.
08:51
Not just the way we think about the world, but the way we are -- our very biology.
152
507000
4000
Pas juste la façon dont nous voyons le monde, mais notre manière d'être -- précisément notre biologie.
08:55
Human nature would have to change.
153
511000
2000
La nature humaine doit changer.
08:57
Now, when we think about changing human nature,
154
513000
2000
Quand on en vient à évoquer le changement de la nature humaine,
08:59
the first thing that comes to mind
155
515000
2000
la première chose qui vient à l'esprit
09:01
are these human modification technologies --
156
517000
4000
ce sont ces technologies de modification de l'humain --
09:05
growth hormone therapy, cosmetic surgery,
157
521000
2000
les hormones de croissance, la chirurgie esthétique,
09:07
stimulants like Ritalin, Adderall, anti-depressants,
158
523000
3000
les stimulants tels que la Ritalin, l'Adderall, les anti-dépresseurs,
09:10
anabolic steroids, artificial hearts.
159
526000
2000
les stéroïdes anabolisants, les cœurs artificiels.
09:12
It's a pretty pathetic list.
160
528000
3000
C'est une liste plutôt pathétique.
09:15
They do great things for a few people
161
531000
2000
Il s'agit de choses qui font beaucoup de bien à des personnes ciblées
09:17
who suffer from some specific condition,
162
533000
2000
qui souffrent de conditions spécifiques.
09:19
but for most people, they don't really transform
163
535000
5000
Mais pour la plupart des gens, elles n'ont aucun effet
09:24
what it is to be human.
164
540000
2000
quant à une transformation éventuelle de ce que c'est que d'être humain
09:26
And they also all seem a little bit --
165
542000
2000
Et elles paraissent aussi un petit peu --
09:28
most people have this instinct that, well, sure,
166
544000
3000
la plupart des gens sentent que, oui, bien sûr,
09:31
there needs to be anti-depressants for the really depressed people.
167
547000
2000
il faut qu'il y ait des antidépresseurs pour les gens réellement déprimés.
09:33
But there's a kind of queasiness
168
549000
2000
Mais une sorte de nausée
09:35
that these are unnatural in some way.
169
551000
3000
résulte du fait qu'ils sont, d'une certaine manière, non naturels.
09:38
It's worth recalling that there are a lot of other
170
554000
2000
Il convient de se rappeler qu'il y a beaucoup d'autres
09:40
modification technologies and enhancement technologies that we use.
171
556000
3000
modifications et améliorations technologiques que nous utilisons.
09:43
We have skin enhancements, clothing.
172
559000
4000
Nous disposons de produits pour la peau, d'habits.
09:47
As far as I can see, all of you are users of this
173
563000
4000
Autant que je sache, vous utilisez tous ces
09:51
enhancement technology in this room, so that's a great thing.
174
567000
5000
technologies d'amélioration dans cette salle, donc c'est vraiment une bonne chose.
09:56
Mood modifiers have been used from time immemorial --
175
572000
3000
Les produits permettant d'agir sur l'humeur sont utilisés depuis des temps très anciens --
09:59
caffeine, alcohol, nicotine, immune system enhancement,
176
575000
5000
la caféine, l'alcool, la nicotine, l'amélioration du système immunitaire,
10:04
vision enhancement, anesthetics --
177
580000
2000
l'amélioration de la vision, l'anesthésie.
10:06
we take that very much for granted,
178
582000
2000
Cela nous paraît tout à fait usuel,
10:08
but just think about how great progress that is --
179
584000
4000
mais réfléchissez un instant à l'immense progrès que cela représente --
10:12
like, having an operation before anesthetics was not fun.
180
588000
4000
Par exemple, subir une opération avant l'invention de l'anesthésie, ce n'était pas une partie de plaisir.
10:16
Contraceptives, cosmetics and brain reprogramming techniques --
181
592000
6000
Les contraceptifs, les produits cosmétiques et les techniques de reprogrammation du cerveau --
10:22
that sounds ominous,
182
598000
2000
tout cela semble inquiétant.
10:24
but the distinction between what is a technology --
183
600000
4000
Mais la distinction entre une technologie --
10:28
a gadget would be the archetype --
184
604000
2000
dont l'archétype serait le gadget --
10:30
and other ways of changing and rewriting human nature is quite subtle.
185
606000
4000
et les autres moyens de changer et de redéfinir la nature humaine est assez subtile.
10:34
So if you think about what it means to learn arithmetic or to learn to read,
186
610000
4000
Ainsi, si vous réfléchissez à ce que signifie apprendre à compter ou à lire,
10:38
you're actually, literally rewriting your own brain.
187
614000
3000
il s'agit en fait littéralement d'une réécriture de son propre cerveau.
10:41
You're changing the microstructure of your brain as you go along.
188
617000
3000
Changer les micro-structures de son cerveau à mesure que l'on progresse.
10:45
So in a broad sense, we don't need to think about technology
189
621000
3000
Donc dans un sens large, nous n'avons pas besoin de considérer la technologie
10:48
as only little gadgets, like these things here,
190
624000
2000
seulement comme de petits gadgets, comme ces choses-là.
10:50
but even institutions and techniques,
191
626000
4000
Mais même les institutions, les techniques,
10:54
psychological methods and so forth.
192
630000
2000
les méthodes psychologiques, etcétéra.
10:56
Forms of organization can have a profound impact on human nature.
193
632000
5000
Des formes d'organisation peuvent avoir un impact significatif sur la nature humaine.
11:01
Looking ahead, there is a range of technologies
194
637000
2000
En ce qui concerne l'avenir, il y a tout un panel de technologies
11:03
that are almost certain to be developed sooner or later.
195
639000
3000
que nous sommes pratiquement sûrs de pouvoir développer tôt ou tard.
11:06
We are very ignorant about what the time scale for these things are,
196
642000
4000
Nous ne savons absolument rien des échelles de temps mises en jeu par ces développements.
11:10
but they all are consistent with everything we know
197
646000
2000
Mais nous savons qu'ils sont cohérents avec tout ce que nous connaissons
11:12
about physical laws, laws of chemistry, etc.
198
648000
4000
qu'il s'agisse de lois physiques, chimiques, etcétéra.
11:16
It's possible to assume,
199
652000
2000
Il est possible de supposer,
11:18
setting aside a possibility of catastrophe,
200
654000
3000
en laissant de côté l'éventualité d'une catastrophe,
11:21
that sooner or later we will develop all of these.
201
657000
3000
que tôt ou tard nous développerons toutes ces techniques.
11:24
And even just a couple of these would be enough
202
660000
3000
Et rien qu'une partie de celles-ci suffirait
11:27
to transform the human condition.
203
663000
2000
à transformer la condition humaine.
11:29
So let's look at some of the dimensions of human nature
204
665000
5000
Regardons donc quelques-unes des dimensions de la nature humaine
11:34
that seem to leave room for improvement.
205
670000
3000
qui semblent laisser mériter des améliorations.
11:37
Health span is a big and urgent thing,
206
673000
2000
La durée de vie est une chose importante et urgente,
11:39
because if you're not alive,
207
675000
2000
parce que si vous ne vivez pas,
11:41
then all the other things will be to little avail.
208
677000
3000
eh bien tout le reste perd vite de son intérêt.
11:44
Intellectual capacity -- let's take that box,
209
680000
2000
Les capacités intellectuelles -- regardons cette partie,
11:46
which falls into a lot of different sub-categories:
210
682000
5000
qui se divise en de nombreuses sous-catégories --
11:51
memory, concentration, mental energy, intelligence, empathy.
211
687000
3000
la mémoire, la concentration, l'énergie mentale, l'intelligence, l'empathie.
11:54
These are really great things.
212
690000
2000
Ce sont vraiment d'importantes choses.
11:56
Part of the reason why we value these traits
213
692000
2000
L'une des raisons pour laquelle nous leur accordons de l'importance
11:58
is that they make us better at competing with other people --
214
694000
4000
est qu'elles nous permettent d'être meilleurs au moment de se confronter aux autres --
12:02
they're positional goods.
215
698000
2000
ce sont des biens placés.
12:04
But part of the reason --
216
700000
2000
Mais une autre explication --
12:06
and that's the reason why we have ethical ground for pursuing these --
217
702000
4000
précisément celle pour laquelle nous avons des raisons éthiques de rechercher ces choses --
12:10
is that they're also intrinsically valuable.
218
706000
3000
c'est qu'elles ont également une valeur intrinsèque.
12:13
It's just better to be able to understand more of the world around you
219
709000
4000
C'est tout simplement mieux d'être capable de comprendre davantage le monde qui nous entoure
12:17
and the people that you are communicating with,
220
713000
2000
ainsi que les gens avec lesquels nous communiquons,
12:19
and to remember what you have learned.
221
715000
4000
et de nous rappeler ce que nous avons appris.
12:23
Modalities and special faculties.
222
719000
2000
Les modalités et les facultés particulières.
12:25
Now, the human mind is not a single unitary information processor,
223
721000
5000
Toutefois, l'esprit humain n'est pas un simple processeur d'informations unitaires.
12:30
but it has a lot of different, special, evolved modules
224
726000
4000
Il possède au contraire de nombreuses capacités différentes, particulières et évoluées
12:34
that do specific things for us.
225
730000
2000
qui remplissent des tâches spécifiques pour nous.
12:36
If you think about what we normally take as giving life a lot of its meaning --
226
732000
4000
Parlons des choses que nous considérons normalement susceptibles de donner du sens à la vie --
12:40
music, humor, eroticism, spirituality, aesthetics,
227
736000
4000
la musique, l'humour, l'érotisme, la spiritualité, l'esthétique,
12:44
nurturing and caring, gossip, chatting with people --
228
740000
5000
l'éducation et l'affection, les ragots, les discussions avec les gens.
12:49
all of these, very likely, are enabled by a special circuitry
229
745000
4000
Elles sont toutes vraisemblablement rendues possibles par un ensemble de circuits
12:53
that we humans have,
230
749000
2000
dont nous, les humains, disposons,
12:55
but that you could have another intelligent life form that lacks these.
231
751000
3000
mais dont une autre forme de vie intelligente pourrait ne pas bénéficier.
12:58
We're just lucky that we have the requisite neural machinery
232
754000
3000
Nous avons simplement la chance de disposer d'une machinerie neurale appropriée
13:01
to process music and to appreciate it and enjoy it.
233
757000
4000
pour pouvoir comprendre et apprécier la musique.
13:05
All of these would enable, in principle -- be amenable to enhancement.
234
761000
3000
Tout ceci rendrait possible, en principe, le fait d'être sensible à l'amélioration.
13:08
Some people have a better musical ability
235
764000
2000
Certaines personnes possèdent de meilleures aptitudes musicales
13:10
and ability to appreciate music than others have.
236
766000
2000
et de meilleures dispositions à apprécier la musique que d'autres.
13:12
It's also interesting to think about what other things are --
237
768000
3000
De même il est intéressant de réfléchir à ce que les autres choses sont --
13:15
so if these all enabled great values,
238
771000
3000
alors si toutes ces choses permettent d'obtenir de grandes valeurs,
13:19
why should we think that evolution has happened to provide us
239
775000
3000
pourquoi devrions-nous penser que l'évolution nous a dotés
13:22
with all the modalities we would need to engage
240
778000
3000
de toutes les modalités qui nous sont nécessaires
13:25
with other values that there might be?
241
781000
2000
avec d'autres valeurs qui peut-être existent ?
13:27
Imagine a species
242
783000
2000
Imaginez une espèce
13:29
that just didn't have this neural machinery for processing music.
243
785000
4000
qui n'eût pas à disposition une telle machinerie neurale pour traiter la musique.
13:33
And they would just stare at us with bafflement
244
789000
3000
Elle nous contemplerait avec perplexité
13:36
when we spend time listening to a beautiful performance,
245
792000
4000
alors que nous serions en train d'écouter une magnifique interprétation,
13:40
like the one we just heard -- because of people making stupid movements,
246
796000
2000
comme celle que nous venons d'écouter -- parce que les gens font des mouvements stupides.
13:42
and they would be really irritated and wouldn't see what we were up to.
247
798000
3000
Ils s'ennuieraient beaucoup et ne pourraient pas comprendre ce qui nous enchantait.
13:45
But maybe they have another faculty, something else
248
801000
3000
Mais peut-être ont-ils une autre faculté, quelque chose de différent
13:48
that would seem equally irrational to us,
249
804000
3000
qui nous semblerait de même irrationel,
13:51
but they actually tap into some great possible value there.
250
807000
3000
mais en fait ils exploitent probablement une autre grande valeur possible ici.
13:54
But we are just literally deaf to that kind of value.
251
810000
4000
Valeur à laquelle nous serions littéralement sourds.
13:58
So we could think of adding on different,
252
814000
2000
On pourrait alors très bien penser à ajouter différentes
14:00
new sensory capacities and mental faculties.
253
816000
4000
nouvelles capacités sensorielles et facultés mentales.
14:04
Bodily functionality and morphology and affective self-control.
254
820000
5000
Une fonctionnalité corporelle, une morphologie et un sang-froid affectif.
14:09
Greater subjective well-being.
255
825000
2000
Un bien-être subjectif plus important.
14:11
Be able to switch between relaxation and activity --
256
827000
3000
Être capable de passer du repos à l'activité --
14:14
being able to go slow when you need to do that, and to speed up.
257
830000
4000
être capable de ralentir lorsque c'est nécessaire, puis d'accélerer.
14:18
Able to switch back and forth more easily
258
834000
2000
Capable d'exécuter ce type de va-et-vient plus facilement
14:20
would be a neat thing to be able to do --
259
836000
2000
Ce serait très habile de savoir faire ça --
14:22
easier to achieve the flow state,
260
838000
2000
Et plus facile d'atteindre l'état
14:24
when you're totally immersed in something you are doing.
261
840000
4000
d'immersion totale dans ce que vous êtes en train de faire.
14:28
Conscientiousness and sympathy.
262
844000
2000
L'application et la compassion.
14:30
The ability to -- it's another interesting application
263
846000
3000
La capacité de -- c'est une autre application intéressante
14:33
that would have large social ramification, perhaps.
264
849000
3000
qui aurait d'importants problèmes de ramifications sociales.
14:36
If you could actually choose to preserve your romantic attachments to one person,
265
852000
6000
Si vous pouviez réellement choisir de préserver votre relation romantique avec une personne,
14:42
undiminished through time,
266
858000
2000
sans qu'elle diminue avec le temps,
14:44
so that wouldn't have to -- love would never have to fade if you didn't want it to.
267
860000
3000
de telle manière qu'il n'y ait pas -- que l'amour ne s'évapore jamais contre votre volonté.
14:49
That's probably not all that difficult.
268
865000
3000
Ce n'est sans doute pas aussi difficile qu'il y paraît.
14:52
It might just be a simple hormone or something that could do this.
269
868000
3000
Il se pourrait bien qu'une simple hormone ou quelque chose d'autre puisse remplir cette fonction.
14:57
It's been done in voles.
270
873000
2000
Ça a été fait avec des campagnols.
15:01
You can engineer a prairie vole to become monogamous
271
877000
3000
Vous pouvez techniquement rendre un campagnol des prairies monogame
15:04
when it's naturally polygamous.
272
880000
2000
bien qu'il soit naturellement polygame.
15:06
It's just a single gene.
273
882000
2000
C'est juste un simple gène.
15:08
Might be more complicated in humans, but perhaps not that much.
274
884000
2000
Il se pourrait que ce soit plus compliqué avec des humains, mais peut-être pas tant que ça.
15:10
This is the last picture that I want to --
275
886000
2000
Voici la dernière image que je voudrais --
15:13
now we've got to use the laser pointer.
276
889000
2000
Il nous faut maintenant utiliser le pointeur laser.
15:16
A possible mode of being here would be a way of life --
277
892000
3000
Une motivation possible pour nous, ici, consisterait en un mode de vie --
15:19
a way of being, experiencing, thinking, seeing,
278
895000
4000
une manière d'être, d'expérimenter, de penser, de voir,
15:23
interacting with the world.
279
899000
2000
d'interagir avec le monde.
15:25
Down here in this little corner, here, we have the little sub-space
280
901000
5000
Dans le petit coin en bas, ici, nous disposons d'un petit sous-espace
15:30
of this larger space that is accessible to human beings --
281
906000
4000
provenant d'un espace plus grand accessible aux êtres humains --
15:34
beings with our biological capacities.
282
910000
3000
aux êtres ayant les mêmes capacités biologiques que nous.
15:37
It's a part of the space that's accessible to animals;
283
913000
3000
C'est une partie de l'espace accessible aux animaux --
15:40
since we are animals, we are a subset of that.
284
916000
3000
car nous sommes des animaux, nous formons donc un sous-ensemble de ceci.
15:43
And then you can imagine some enhancements of human capacities.
285
919000
4000
Et puis vous pouvez imaginer que l'on améliore les capacités humaines.
15:47
There would be different modes of being you could experience
286
923000
3000
Vous pourriez alors expérimenter différents modes de vie
15:50
if you were able to stay alive for, say, 200 years.
287
926000
3000
si vous étiez capables de rester en vie pendant, disons, 200 ans.
15:53
Then you could live sorts of lives and accumulate wisdoms
288
929000
4000
Vous pourriez alors vivre différentes sortes de vie et engranger des sagesses
15:57
that are just not possible for humans as we currently are.
289
933000
3000
qui sont tout simplement inaccessibles aux humains que nous sommes.
16:00
So then, you move off to this larger sphere of "human +,"
290
936000
4000
Donc, vous vous déplacez vers cette sphère plus grande
16:04
and you could continue that process and eventually
291
940000
3000
et vous pourriez continuer ce procédé et finalement
16:07
explore a lot of this larger space of possible modes of being.
292
943000
4000
explorer de nombreux recoins de ce grand espace contenant différents modes de vie possibles.
16:11
Now, why is that a good thing to do?
293
947000
2000
Alors, pourquoi est-ce une bonne chose à faire ?
16:13
Well, we know already that in this little human circle there,
294
949000
4000
Eh bien, nous savons déjà que dans ce petit cercle humain ici,
16:17
there are these enormously wonderful and worthwhile modes of being --
295
953000
4000
il existe des modes de vie incroyablement magnifiques qui valent vraiment la peine --
16:21
human life at its best is wonderful.
296
957000
3000
la vie humaine est formidable dans ses meilleurs moments.
16:24
We have no reason to believe that within this much, much larger space
297
960000
5000
Il n'y a aucune raison de croire que dans cet espace bien plus grand
16:29
there would not also be extremely worthwhile modes of being,
298
965000
4000
il n'y ait pas également des modes de vie extrêmement intéressants.
16:33
perhaps ones that would be way beyond our wildest ability
299
969000
6000
Peut-être certains seraient bien au-delà de nos capacités les plus folles,
16:39
even to imagine or dream about.
300
975000
2000
même difficiles à imaginer ou à rêver.
16:41
And so, to fix this third problem,
301
977000
2000
Alors, pour remédier à ce troisième problème,
16:43
I think we need -- slowly, carefully, with ethical wisdom and constraint --
302
979000
6000
Je pense qu'il nous faut -- lentement, avec précaution, mesure et sagesse éthique --
16:49
develop the means that enable us to go out in this larger space and explore it
303
985000
5000
développer les moyens qui nous permettront d'atteindre et d'explorer cet espace plus large.
16:54
and find the great values that might hide there.
304
990000
2000
Et trouver les grandes valeurs qui pourraient s'y cacher.
16:56
Thanks.
305
992000
2000
Merci.
ABOUT THE SPEAKER
Nick Bostrom - PhilosopherNick Bostrom asks big questions: What should we do, as individuals and as a species, to optimize our long-term prospects? Will humanity’s technological advancements ultimately destroy us?
Why you should listen
Philosopher Nick Bostrom envisioned a future full of human enhancement, nanotechnology and machine intelligence long before they became mainstream concerns. From his famous simulation argument -- which identified some striking implications of rejecting the Matrix-like idea that humans are living in a computer simulation -- to his work on existential risk, Bostrom approaches both the inevitable and the speculative using the tools of philosophy, probability theory, and scientific analysis.
Since 2005, Bostrom has led the Future of Humanity Institute, a research group of mathematicians, philosophers and scientists at Oxford University tasked with investigating the big picture for the human condition and its future. He has been referred to as one of the most important thinkers of our age.
Nick was honored as one of Foreign Policy's 2015 Global Thinkers .
His recent book Superintelligence advances the ominous idea that “the first ultraintelligent machine is the last invention that man need ever make.”
Nick Bostrom | Speaker | TED.com