TEDGlobal 2005
Nick Bostrom: A philosophical quest for our biggest problems
ニック・ボストロム: 人類の三つの課題
Filmed:
Readability: 4.2
967,767 views
オックスフォード大学の哲学者であり超人間主義者のニック・ボストロムが人類の未来を検証し、最も本質的な問題を解決するために人間の在り方を根幹から変えることを問う。
Nick Bostrom - Philosopher
Nick Bostrom asks big questions: What should we do, as individuals and as a species, to optimize our long-term prospects? Will humanity’s technological advancements ultimately destroy us? Full bio
Nick Bostrom asks big questions: What should we do, as individuals and as a species, to optimize our long-term prospects? Will humanity’s technological advancements ultimately destroy us? Full bio
Double-click the English transcript below to play the video.
00:24
I want to talk today about --
0
0
3000
今日は
00:27
I've been asked to take the long view, and I'm going to tell you what
1
3000
6000
長期的な視点での話というリクエストを受けました
00:33
I think are the three biggest problems for humanity
2
9000
4000
人類にとって最大の３つの問題について
00:37
from this long point of view.
3
13000
3000
長期的な視点でお話します
00:40
Some of these have already been touched upon by other speakers,
4
16000
3000
ほかのスピーカーの話と重複するものもありますが
00:43
which is encouraging.
5
19000
2000
それはいいことだと思っています
00:45
It seems that there's not just one person
6
21000
2000
なぜなら 今日お話しする問題の重要性を
00:47
who thinks that these problems are important.
7
23000
2000
僕以外の人も感じているということだからです
00:49
The first is -- death is a big problem.
8
25000
4000
第一の問題は 死
これは大きな問題です
これは大きな問題です
00:53
If you look at the statistics,
9
29000
3000
統計的には
00:56
the odds are not very favorable to us.
10
32000
2000
私達に勝ち目はなさそうです
00:58
So far, most people who have lived have also died.
11
34000
4000
今のところ 生まれた人はほぼ全員死んでいます
01:02
Roughly 90 percent of everybody who has been alive has died by now.
12
38000
4000
今までに生きた人の大体90％は死んでいます
01:06
So the annual death rate adds up to 150,000 --
13
42000
6000
つまり 年間の死亡者数は15万人
01:12
sorry, the daily death rate -- 150,000 people per day,
14
48000
3000
失礼 １日あたりの死亡者数は15万人です
01:15
which is a huge number by any standard.
15
51000
3000
これはどう見ても 大きな数字です
01:18
The annual death rate, then, becomes 56 million.
16
54000
5000
年間にすると5600万人が死ぬ計算です
01:23
If we just look at the single, biggest cause of death -- aging --
17
59000
5000
唯一最大の死因は 老化です
01:29
it accounts for roughly two-thirds of all human people who die.
18
65000
5000
死因の約３分の２は老化です
01:34
That adds up to an annual death toll
19
70000
3000
老化により毎年亡くなる人の数は
01:37
of greater than the population of Canada.
20
73000
2000
カナダの人口より多いのです
01:39
Sometimes, we don't see a problem
21
75000
2000
時として 私たちは問題に気付かないことがあります
01:41
because either it's too familiar or it's too big.
22
77000
4000
問題があまりに身近であるか
01:45
Can't see it because it's too big.
23
81000
2000
あまりに大きいために
01:47
I think death might be both too familiar and too big
24
83000
3000
死はほとんどの人にとって
あまりに身近であまりに大きく
あまりに身近であまりに大きく
01:50
for most people to see it as a problem.
25
86000
3000
問題として認識することが
できないのだと思います
できないのだと思います
01:53
Once you think about it, you see this is not statistical points;
26
89000
2000
考えてみれば 統計的なポイントではないと
分かるでしょう
分かるでしょう
01:55
these are -- let's see, how far have I talked?
27
91000
2000
これらのポイントは…
ところで どれくらいお話ししたでしょう
ところで どれくらいお話ししたでしょう
01:57
I've talked for three minutes.
28
93000
3000
３分くらいです
02:00
So that would be, roughly, 324 people have died since I've begun speaking.
29
96000
7000
つまり 私が話しはじめてから大体324人が亡くなりました
02:07
People like -- it's roughly the population in this room has just died.
30
103000
4000
大体この会場にいる人数くらいが 亡くなったのです
02:12
Now, the human cost of that is obvious,
31
108000
2000
さて これによる人的コストは明らかです
02:14
once you start to think about it -- the suffering, the loss --
32
110000
3000
哀しみや喪失感は言うまでもなく
02:17
it's also, economically, enormously wasteful.
33
113000
3000
大変不経済でもあります
02:20
I just look at the information, and knowledge, and experience
34
116000
3000
例えば 情報、知識、経験といったものが
02:23
that is lost due to natural causes of death in general,
35
119000
3000
自然死全般によって失われるのです
02:26
and aging, in particular.
36
122000
2000
特に 老化によって
02:28
Suppose we approximated one person with one book?
37
124000
3000
例えば１人の人を本１冊に例えてみましょう
02:31
Now, of course, this is an underestimation.
38
127000
2000
もちろん １人が１冊というのは過小評価です
02:33
A person's lifetime of learning and experience
39
129000
6000
人間が一生かけて学んだことや経験は
02:39
is a lot more than you could put into a single book.
40
135000
2000
とても１冊の本にまとめられる量ではありません
02:41
But let's suppose we did this.
41
137000
2000
が ここでは例えとして１人１冊と仮定しましょう
02:44
52 million people die of natural causes each year
42
140000
5000
毎年5200万人が自然死します
02:49
corresponds, then, to 52 million volumes destroyed.
43
145000
4000
つまり 5200万冊の本が消失します
02:53
Library of Congress holds 18 million volumes.
44
149000
3000
米国議会図書館には1800万冊の蔵書があります
02:57
We are upset about the burning of the Library of Alexandria.
45
153000
3000
アレクサンドリア図書館の焼失は
03:00
It's one of the great cultural tragedies
46
156000
2000
甚大な文化的損害であり
03:02
that we remember, even today.
47
158000
3000
今日でも語り継がれています
03:06
But this is the equivalent of three Libraries of Congress --
48
162000
2000
年間の死者数は 米国議会図書館３つ分の書籍が
03:08
burnt down, forever lost -- each year.
49
164000
3000
燃やされ 永遠に失われてしまうに等しい数です
03:11
So that's the first big problem.
50
167000
2000
ですので 死は第一の大問題なのです
03:13
And I wish Godspeed to Aubrey de Grey,
51
169000
3000
私は オーブレー・デグレイや
03:16
and other people like him,
52
172000
2000
彼のような人々の成功を祈っています
03:18
to try to do something about this as soon as possible.
53
174000
3000
できるだけ早く 死を食い止められるように
03:22
Existential risk -- the second big problem.
54
178000
3000
２つめの大問題は 人類絶滅の危機です
03:25
Existential risk is a threat to human survival, or to the long-term potential of our species.
55
181000
7000
これは長期的な種の保存という観点で脅威です
03:32
Now, why do I say that this is a big problem?
56
188000
2000
なぜ私がこれを問題視するかご説明しましょう
03:34
Well, let's first look at the probability --
57
190000
4000
まず始めに 確率を見てみましょう
03:38
and this is very, very difficult to estimate --
58
194000
3000
それを見積るのは非常に難しいのですが
03:41
but there have been only four studies on this in recent years,
59
197000
3000
近年この問題に関する研究は
03:44
which is surprising.
60
200000
2000
驚いたことに ４つしかなされていません
03:46
You would think that it would be of some interest
61
202000
3000
この 人類絶滅の危機は大変重大な問題なので
03:49
to try to find out more about this given that the stakes are so big,
62
205000
4000
興味深い研究対象だと思われるでしょう
03:53
but it's a very neglected area.
63
209000
2000
しかし この分野は全く注目されていないのです
03:55
But there have been four studies --
64
211000
2000
とは言え ４つの研究がなされました
03:57
one by John Lesley, wrote a book on this.
65
213000
2000
一つはジョン・レスリーによるもので
著書もあります
著書もあります
03:59
He estimated a probability that we will fail
66
215000
2000
レスリーは 人類が２１世紀の終わりに生き残れない
04:01
to survive the current century: 50 percent.
67
217000
3000
確率を50％と見積りました
04:04
Similarly, the Astronomer Royal, whom we heard speak yesterday,
68
220000
5000
同様に 昨日スピーチをした英国王室天文官も
04:09
also has a 50 percent probability estimate.
69
225000
3000
50％と見積っています
04:12
Another author doesn't give any numerical estimate,
70
228000
3000
もう１人の著者は数字は示していませんが
04:15
but says the probability is significant that it will fail.
71
231000
3000
生き残れない可能性が非常に大きいとしています
04:18
I wrote a long paper on this.
72
234000
3000
私はこのテーマについて長い論文を書きました
04:21
I said assigning a less than 20 percent probability would be a mistake
73
237000
4000
論文中 私は20％未満と見積るのは低すぎるとしました
04:25
in light of the current evidence we have.
74
241000
3000
現状に照らして判断するに
04:28
Now, the exact figures here,
75
244000
2000
ここに実際に計算した結果を示していますが
04:30
we should take with a big grain of salt,
76
246000
2000
あまり真に受けないで下さい
04:32
but there seems to be a consensus that the risk is substantial.
77
248000
3000
とは言え 相当なリスクとの共通認識が
形成されているようです
形成されているようです
04:35
Everybody who has looked at this and studied it agrees.
78
251000
3000
この計算を見て研究した人全員が納得しました
04:38
Now, if we think about what just reducing
79
254000
2000
ここで 人類絶滅の可能性を
04:40
the probability of human extinction by just one percentage point --
80
256000
5000
１％減らせるとしたら
１％というのはわずかなものですが
１％というのはわずかなものですが
04:45
not very much -- so that's equivalent to 60 million lives saved,
81
261000
5000
6000万人の命が助かります
04:50
if we just count the currently living people, the current generation.
82
266000
4000
現在の世界人口を考えてみるに
04:54
Now one percent of six billion people is equivalent to 60 million.
83
270000
4000
60億人ですから その１％は6000万人です
04:58
So that's a large number.
84
274000
2000
そう考えると１％というのは大きな数字です
05:00
If we were to take into account future generations
85
276000
3000
もし私達の世代が失敗をすれば存在しえない
05:03
that will never come into existence if we blow ourselves up,
86
279000
5000
将来世代まで計算に含めると
05:08
then the figure becomes astronomical.
87
284000
3000
計算結果は天文学的な数字になります
05:11
If we could eventually colonize a chunk of the universe --
88
287000
3000
もし人類が宇宙のどこかに最終的に移住できるとしたら
05:14
the Virgo supercluster --
89
290000
2000
例えば乙女座超銀河団に移住するとしたら
05:16
maybe it will take us 100 million years to get there,
90
292000
2000
たどり着くのに１億年かかるでしょう
05:18
but if we go extinct we never will.
91
294000
3000
でも 生存していなければ決してたどり着けません
05:21
Then, even a one percentage point reduction
92
297000
3000
人類絶滅のリスクをたった１％低減するだけでも
05:24
in the extinction risk could be equivalent
93
300000
4000
それはこの天文学的な数字
05:28
to this astronomical number -- 10 to the power of 32.
94
304000
3000
10の32乗という数になるのです
05:31
So if you take into account future generations as much as our own,
95
307000
4000
ですので 将来世代も含めて考えれば
05:35
every other moral imperative of philanthropic cost just becomes irrelevant.
96
311000
5000
慈善にかかる費用についての道徳上の要請などは
取るに足らない問題です
取るに足らない問題です
05:40
The only thing you should focus on
97
316000
2000
私達が注目すべきは
05:42
would be to reduce existential risk
98
318000
2000
人類絶滅のリスクをいかに低減するかです
05:44
because even the tiniest decrease in existential risk
99
320000
4000
なぜなら ほんのわずかでも人類絶滅のリスクを減らせれば
05:48
would just overwhelm any other benefit you could hope to achieve.
100
324000
4000
他のいかなる方法でも達成しえない
大きな利益につながるからです
大きな利益につながるからです
05:52
And even if you just look at the current people,
101
328000
2000
仮に 今の世代のことだけを考えて
05:54
and ignore the potential that would be lost if we went extinct,
102
330000
5000
今の世代が絶滅すれば失われてしまう
将来世代の可能性を考慮に入れなくても
将来世代の可能性を考慮に入れなくても
05:59
it should still have a high priority.
103
335000
2000
人類絶滅のリスクを低減することは優先課題なのです
06:01
Now, let me spend the rest of my time on the third big problem,
104
337000
5000
では 残り時間は全部 ３つ目の問題の説明に使いましょう
06:06
because it's more subtle and perhaps difficult to grasp.
105
342000
5000
この問題はより曖昧で 理解が難しいと思います
06:12
Think about some time in your life --
106
348000
4000
みなさん ご自身の人生を振り返ってみて下さい
06:16
some people might never have experienced it -- but some people,
107
352000
3000
まだ一度も経験したことがない方もいれば
06:19
there are just those moments that you have experienced
108
355000
3000
経験済みの方もいるでしょう
06:22
where life was fantastic.
109
358000
2000
人生が素晴らしくバラ色だったときを
06:24
It might have been at the moment of some great, creative inspiration
110
360000
7000
それは 素晴らしくクリエイティブなインスピレーションを
感じた瞬間かもしれません
感じた瞬間かもしれません
06:31
you might have had when you just entered this flow stage.
111
367000
2000
この会場に足を踏み入れたときに
06:33
Or when you understood something you had never done before.
112
369000
2000
それは 今まで分からなかったことが理解できた
瞬間かもしれません
瞬間かもしれません
06:35
Or perhaps in the ecstasy of romantic love.
113
371000
4000
それは ロマンチックな恋に夢中になった
ときかもしれません
ときかもしれません
06:39
Or an aesthetic experience -- a sunset or a great piece of art.
114
375000
5000
それは 美しいものに触れたときかもしれません
夕日や芸術作品など
夕日や芸術作品など
06:44
Every once in a while we have these moments,
115
380000
2000
ときどき私達はこのような瞬間を味わいます
06:46
and we realize just how good life can be when it's at its best.
116
382000
4000
そして 人生が上手くいっているとき
人生はいいものだと思えるのです
人生はいいものだと思えるのです
06:50
And you wonder, why can't it be like that all the time?
117
386000
5000
一方 なぜ人生はいいときばかりではないのだろう？
という疑問もわいてきます
という疑問もわいてきます
06:55
You just want to cling onto this.
118
391000
2000
人はこのことに執着しがちです
06:57
And then, of course, it drifts back into ordinary life and the memory fades.
119
393000
4000
そして 当然のごとく ありふれた日常に引き戻され
思い出は色あせていきます
思い出は色あせていきます
07:01
And it's really difficult to recall, in a normal frame of mind,
120
397000
4000
また 普通の心理状態では なかなか思い出せないのです
07:05
just how good life can be at its best.
121
401000
3000
上手くいっているとき 人生がいかにすばらしいかを
07:08
Or how bad it can be at its worst.
122
404000
3000
また反対に 上手くいかないとき人生がいかに困難かを
07:11
The third big problem is that life isn't usually
123
407000
3000
３つ目の問題は 人生いいことばかりではない
07:14
as wonderful as it could be.
124
410000
2000
ということです
07:16
I think that's a big, big problem.
125
412000
4000
私は これは大問題だと思っています
07:20
It's easy to say what we don't want.
126
416000
2000
いやなことを挙げるのは簡単なことです
07:23
Here are a number of things that we don't want --
127
419000
3000
沢山の例を挙げることができます
07:26
illness, involuntary death, unnecessary suffering, cruelty,
128
422000
3000
病気、不本意な死、余計な苦しみ、虐待
07:29
stunted growth, memory loss, ignorance, absence of creativity.
129
425000
5000
発育不良、物忘れ、無知、創造力の欠如
07:35
Suppose we fixed these things -- we did something about all of these.
130
431000
3000
仮に 私達がこれら全てのことを解決できたとしましょう
07:38
We were very successful.
131
434000
2000
大成功して
07:40
We got rid of all of these things.
132
436000
2000
いやなこと全部を取り除くことができました
07:42
We might end up with something like this,
133
438000
3000
その結果は このスライドのようなものでしょうか
07:45
which is -- I mean, it's a heck of a lot better than that.
134
441000
4000
いや これよりずっともっと良くなるでしょう
07:49
But is this really the best we can dream of?
135
445000
5000
私達が望むのは本当にこの程度のことでしょうか？
07:54
Is this the best we can do?
136
450000
2000
この程度しかできないのでしょうか？
07:56
Or is it possible to find something a little bit more inspiring to work towards?
137
452000
6000
もっと実現する価値のあるものはないでしょうか？
08:02
And if we think about this,
138
458000
2000
そう考えてみると
08:04
I think it's very clear that there are ways
139
460000
4000
色々な方法があることは明白だと思うのです
08:08
in which we could change things, not just by eliminating negatives,
140
464000
3000
単にいやなことを取り除くだけではなく
08:11
but adding positives.
141
467000
2000
前向きなことを加えることにより
物事は変えられるのです
物事は変えられるのです
08:13
On my wish list, at least, would be:
142
469000
2000
少なくとも私の欲しいものリストに並ぶのは
08:15
much longer, healthier lives, greater subjective well-being,
143
471000
5000
より健康にもっと長生きすること
より充実した人生
より充実した人生
08:20
enhanced cognitive capacities, more knowledge and understanding,
144
476000
5000
認知能力の向上
更なる知識と理解
更なる知識と理解
08:25
unlimited opportunity for personal growth
145
481000
2000
今の生物学上の限界を越えて
08:27
beyond our current biological limits, better relationships,
146
483000
4000
無限に成長する機会、より良い人間関係
08:31
an unbounded potential for spiritual, moral
147
487000
2000
精神的、道徳的、知的に
08:33
and intellectual development.
148
489000
2000
限りなく成長できる可能性
08:35
If we want to achieve this, what, in the world, would have to change?
149
491000
8000
私達がこれらを実現するには
何を変えなくてはならないでしょうか？
何を変えなくてはならないでしょうか？
08:43
And this is the answer -- we would have to change.
150
499000
5000
答えを言います
私達自身が変わらなくてはならないのです
私達自身が変わらなくてはならないのです
08:48
Not just the world around us, but we, ourselves.
151
504000
3000
私達を取り囲む世界だけではなく
私達自身もです
私達自身もです
08:51
Not just the way we think about the world, but the way we are -- our very biology.
152
507000
4000
私達が世界をどう思うかだけではなく
私達自身の生物的在り方もです
私達自身の生物的在り方もです
08:55
Human nature would have to change.
153
511000
2000
人の在り方を変えなくてはならないのです
08:57
Now, when we think about changing human nature,
154
513000
2000
さて 人類の在り方を変えようとするときに
08:59
the first thing that comes to mind
155
515000
2000
まず思い浮かぶのは
09:01
are these human modification technologies --
156
517000
4000
次のような人間改造技術です
09:05
growth hormone therapy, cosmetic surgery,
157
521000
2000
成長ホルモン療法、美容整形
09:07
stimulants like Ritalin, Adderall, anti-depressants,
158
523000
3000
リタリンやアデラルのような精神刺激薬、抗うつ剤
09:10
anabolic steroids, artificial hearts.
159
526000
2000
筋肉増強剤、人工心臓
09:12
It's a pretty pathetic list.
160
528000
3000
実にみじめなリストです
09:15
They do great things for a few people
161
531000
2000
これらは ごく一部の人々にとっては
大変役立つものです
大変役立つものです
09:17
who suffer from some specific condition,
162
533000
2000
ある特定の症状に苦しむ人々にとって
09:19
but for most people, they don't really transform
163
535000
5000
しかし 大半の人々にとっては
09:24
what it is to be human.
164
540000
2000
人間らしく生きていくための役には立ちません
09:26
And they also all seem a little bit --
165
542000
2000
そして これら全てに対して
09:28
most people have this instinct that, well, sure,
166
544000
3000
ほとんどの人は直感的に違和感を覚えるでしょう
09:31
there needs to be anti-depressants for the really depressed people.
167
547000
2000
確かに 重いうつ病の治療には抗うつ剤が必要なのですが
09:33
But there's a kind of queasiness
168
549000
2000
何かが間違っているような
09:35
that these are unnatural in some way.
169
551000
3000
不自然な感じがします
09:38
It's worth recalling that there are a lot of other
170
554000
2000
そんなものに頼らなくても 私達は既に多くの
09:40
modification technologies and enhancement technologies that we use.
171
556000
3000
改造や改良の技術を使っています
09:43
We have skin enhancements, clothing.
172
559000
4000
例えば 皮膚を機能拡張したものは
衣服です
衣服です
09:47
As far as I can see, all of you are users of this
173
563000
4000
私が見る限り この会場にいらっしゃる全員が
09:51
enhancement technology in this room, so that's a great thing.
174
567000
5000
この改良技術のユーザーですね
すばらしいことです
すばらしいことです
09:56
Mood modifiers have been used from time immemorial --
175
572000
3000
気分を変えるものは
太古の昔から使われてきました
太古の昔から使われてきました
09:59
caffeine, alcohol, nicotine, immune system enhancement,
176
575000
5000
カフェイン、アルコール、ニコチン、免疫力の向上
10:04
vision enhancement, anesthetics --
177
580000
2000
視力の向上、麻酔など
10:06
we take that very much for granted,
178
582000
2000
私達はこれらを当たり前のことと思っていますが
10:08
but just think about how great progress that is --
179
584000
4000
実に素晴らしい進化なのです
10:12
like, having an operation before anesthetics was not fun.
180
588000
4000
例えば 麻酔がなかった時代の手術を考えてみて下さい
10:16
Contraceptives, cosmetics and brain reprogramming techniques --
181
592000
6000
避妊薬、化粧品、思考回路を書き換えるテクニック
10:22
that sounds ominous,
182
598000
2000
と言うと不気味な感じがするかもしれませんが
10:24
but the distinction between what is a technology --
183
600000
4000
技術 ―典型的には道具などです― と
10:28
a gadget would be the archetype --
184
604000
2000
人間の在り方を変える他の方法との違いは
10:30
and other ways of changing and rewriting human nature is quite subtle.
185
606000
4000
実に曖昧なものです
10:34
So if you think about what it means to learn arithmetic or to learn to read,
186
610000
4000
例えば 算数や読み書きを学ぶということは
10:38
you're actually, literally rewriting your own brain.
187
614000
3000
実に 文字通り 脳を改造するということなのです
10:41
You're changing the microstructure of your brain as you go along.
188
617000
3000
学ぶにつれ 脳の微細な構造が変化していきます
10:45
So in a broad sense, we don't need to think about technology
189
621000
3000
つまり大きな意味では 技術というのは何も
10:48
as only little gadgets, like these things here,
190
624000
2000
こんな機器だけをさすのではないのです
10:50
but even institutions and techniques,
191
626000
4000
習慣、テクニック、心理的手法
10:54
psychological methods and so forth.
192
630000
2000
なども含めて 技術と呼べるのです
10:56
Forms of organization can have a profound impact on human nature.
193
632000
5000
組織の在り方も
人間性に大きな影響力を持っています
人間性に大きな影響力を持っています
11:01
Looking ahead, there is a range of technologies
194
637000
2000
将来を見通すと 遅かれ早かれ
11:03
that are almost certain to be developed sooner or later.
195
639000
3000
これらの技術が開発されることは ほぼ確実です
11:06
We are very ignorant about what the time scale for these things are,
196
642000
4000
私達は様々な技術が開発される時間軸に無頓着ですが
11:10
but they all are consistent with everything we know
197
646000
2000
全ての技術は既存の知識
11:12
about physical laws, laws of chemistry, etc.
198
648000
4000
物理や化学の法則に基づいています
11:16
It's possible to assume,
199
652000
2000
人類絶滅の可能性を別にすれば
11:18
setting aside a possibility of catastrophe,
200
654000
3000
遅かれ早かれ これら全てを開発できると
11:21
that sooner or later we will develop all of these.
201
657000
3000
想定できます
11:24
And even just a couple of these would be enough
202
660000
3000
これらの技術のうち ごく一部でも実現されれば
11:27
to transform the human condition.
203
663000
2000
人間の在り方は変わってしまうでしょう
11:29
So let's look at some of the dimensions of human nature
204
665000
5000
では 人間の在り方として改善する余地のある
11:34
that seem to leave room for improvement.
205
670000
3000
部分に着目してみましょう
11:37
Health span is a big and urgent thing,
206
673000
2000
健康寿命は重要かつ喫緊の課題です
11:39
because if you're not alive,
207
675000
2000
生きていなければ
11:41
then all the other things will be to little avail.
208
677000
3000
他のあらゆることは無用になります
11:44
Intellectual capacity -- let's take that box,
209
680000
2000
知的な能力の囲みを見てみましょう
11:46
which falls into a lot of different sub-categories:
210
682000
5000
その中には多くの項目が並びます
11:51
memory, concentration, mental energy, intelligence, empathy.
211
687000
3000
記憶力、集中力、精神力、理解力、共感力
11:54
These are really great things.
212
690000
2000
これらは素晴らしいものです
11:56
Part of the reason why we value these traits
213
692000
2000
私達がこれらに重きを置く理由は ひとつには
11:58
is that they make us better at competing with other people --
214
694000
4000
他者との競争力につながるからです
12:02
they're positional goods.
215
698000
2000
これらは他者との相対的な位置関係に影響します
12:04
But part of the reason --
216
700000
2000
他の理由は
12:06
and that's the reason why we have ethical ground for pursuing these --
217
702000
4000
私達がこれらを倫理的に追求する理由なのですが
12:10
is that they're also intrinsically valuable.
218
706000
3000
これらが本質的に価値あるものだということです
12:13
It's just better to be able to understand more of the world around you
219
709000
4000
世の中のことや自分と関わりを持つ人々のことを
12:17
and the people that you are communicating with,
220
713000
2000
より深く理解したり
12:19
and to remember what you have learned.
221
715000
4000
学んだことを忘れないように
できた方が良いでしょう
できた方が良いでしょう
12:23
Modalities and special faculties.
222
719000
2000
感覚や特定の能力についてお話しましょう
12:25
Now, the human mind is not a single unitary information processor,
223
721000
5000
さて 人間の脳は単一にまとまった情報処理装置
ではありません
ではありません
12:30
but it has a lot of different, special, evolved modules
224
726000
4000
ある役割に特化および進化した多くのモジュールで
12:34
that do specific things for us.
225
730000
2000
構成され 機能しています
12:36
If you think about what we normally take as giving life a lot of its meaning --
226
732000
4000
私達が人生に多くの意味をもたらすと思っているものを
考えてみて下さい
考えてみて下さい
12:40
music, humor, eroticism, spirituality, aesthetics,
227
736000
4000
音楽、ユーモア、エロティシズム、信仰、美学
12:44
nurturing and caring, gossip, chatting with people --
228
740000
5000
養育、思いやり、うわさ話、おしゃべり
12:49
all of these, very likely, are enabled by a special circuitry
229
745000
4000
これら全ては
人間の脳に備わっている
人間の脳に備わっている
12:53
that we humans have,
230
749000
2000
特定の回路によるものと考えられます
12:55
but that you could have another intelligent life form that lacks these.
231
751000
3000
一方で これらの欠落した知的生活を営むこともできます
12:58
We're just lucky that we have the requisite neural machinery
232
754000
3000
とても幸運なことに 私達の脳には音楽を鑑賞し
13:01
to process music and to appreciate it and enjoy it.
233
757000
4000
楽しめるよう処理してくれる機能が備わっています
13:05
All of these would enable, in principle -- be amenable to enhancement.
234
761000
3000
音楽に関する能力は
原則として向上できるものです
原則として向上できるものです
13:08
Some people have a better musical ability
235
764000
2000
より優れた音楽的才能を持つ人々は
13:10
and ability to appreciate music than others have.
236
766000
2000
他の人より音楽を楽しむことができます
13:12
It's also interesting to think about what other things are --
237
768000
3000
他のことも考えてみると面白いものです
13:15
so if these all enabled great values,
238
771000
3000
これらが全て
素晴らしい価値に結びつくものだとしたら
素晴らしい価値に結びつくものだとしたら
13:19
why should we think that evolution has happened to provide us
239
775000
3000
人類の進化の過程で
他にも存在しうる価値を
他にも存在しうる価値を
13:22
with all the modalities we would need to engage
240
778000
3000
私達が認識できるよう知覚が備わったのは
13:25
with other values that there might be?
241
781000
2000
なぜなのでしょうか
13:27
Imagine a species
242
783000
2000
音楽を処理する機能が脳に備わっていない
13:29
that just didn't have this neural machinery for processing music.
243
785000
4000
種が存在すると過程してみましょう
13:33
And they would just stare at us with bafflement
244
789000
3000
彼らは私達を見て困惑するでしょうね
13:36
when we spend time listening to a beautiful performance,
245
792000
4000
私達が つい先ほどの演奏のような
美しい音楽に耳を傾ける姿を見て
美しい音楽に耳を傾ける姿を見て
13:40
like the one we just heard -- because of people making stupid movements,
246
796000
2000
奇妙な動きをするものだと 困惑するでしょう
13:42
and they would be really irritated and wouldn't see what we were up to.
247
798000
3000
そして 私達が何をしているのか理解できず
とてもいらいらするでしょう
とてもいらいらするでしょう
13:45
But maybe they have another faculty, something else
248
801000
3000
一方で 彼らには別の能力が備わっているかもしれません
13:48
that would seem equally irrational to us,
249
804000
3000
それは 彼らが音楽を解さないのと同様に
私達には不可解に思える能力なのでしょう
私達には不可解に思える能力なのでしょう
13:51
but they actually tap into some great possible value there.
250
807000
3000
それは 彼らにとっては大変に有意義な価値を
味わう能力なのです
味わう能力なのです
13:54
But we are just literally deaf to that kind of value.
251
810000
4000
しかし 私達はそのような 自分の理解できない価値を
まったく認識できません
まったく認識できません
13:58
So we could think of adding on different,
252
814000
2000
そこで 私達は異なった
14:00
new sensory capacities and mental faculties.
253
816000
4000
新しい知覚や思考力を加えることが考えられます
14:04
Bodily functionality and morphology and affective self-control.
254
820000
5000
身体機能や形態、感情の自己制御
14:09
Greater subjective well-being.
255
825000
2000
より主観的な満足感
14:11
Be able to switch between relaxation and activity --
256
827000
3000
リラックス状態と活発な状態の切り替えができること
14:14
being able to go slow when you need to do that, and to speed up.
257
830000
4000
必要に応じて減速したり加速したりできること
14:18
Able to switch back and forth more easily
258
834000
2000
より簡単に前後の切り替えができること
14:20
would be a neat thing to be able to do --
259
836000
2000
そうできたらいいですね
14:22
easier to achieve the flow state,
260
838000
2000
何かに没頭しているときに
14:24
when you're totally immersed in something you are doing.
261
840000
4000
それをスムーズに出来る状態に早く入れること
14:28
Conscientiousness and sympathy.
262
844000
2000
誠実さと思いやり
14:30
The ability to -- it's another interesting application
263
846000
3000
これもまた興味深い応用で
14:33
that would have large social ramification, perhaps.
264
849000
3000
おそらく大きな社会的影響があるでしょう
14:36
If you could actually choose to preserve your romantic attachments to one person,
265
852000
6000
もし ある人に対する恋愛感情を自らの意志で
14:42
undiminished through time,
266
858000
2000
ずっと消えてしまわないよう選択できるとしたら
14:44
so that wouldn't have to -- love would never have to fade if you didn't want it to.
267
860000
3000
自分で終わりにしようと思わない限り
愛情が色あせることはありません
愛情が色あせることはありません
14:49
That's probably not all that difficult.
268
865000
3000
それは特別難しいことでもないように思います
14:52
It might just be a simple hormone or something that could do this.
269
868000
3000
簡単なホルモンか何かで実現できそうなことです
14:57
It's been done in voles.
270
873000
2000
ハタネズミの実験で既に成功しています
15:01
You can engineer a prairie vole to become monogamous
271
877000
3000
元来 一夫多妻のプレイリーハタネズミを
15:04
when it's naturally polygamous.
272
880000
2000
一夫一妻にすることも可能です
15:06
It's just a single gene.
273
882000
2000
ある１つの遺伝子をいじるだけでいいのです
15:08
Might be more complicated in humans, but perhaps not that much.
274
884000
2000
人間では多少複雑かもしれませんが
おそらく さほど大きな違いはないでしょう
おそらく さほど大きな違いはないでしょう
15:10
This is the last picture that I want to --
275
886000
2000
こちらが最後にお見せしたいスライドです
15:13
now we've got to use the laser pointer.
276
889000
2000
レーザーポインターを使いましょう
15:16
A possible mode of being here would be a way of life --
277
892000
3000
存在の仕方の可能性をここに示しています
15:19
a way of being, experiencing, thinking, seeing,
278
895000
4000
生き方、在り方、経験すること、考えること、見ること、
15:23
interacting with the world.
279
899000
2000
世界との関わり
15:25
Down here in this little corner, here, we have the little sub-space
280
901000
5000
この右下角の小さな領域が
15:30
of this larger space that is accessible to human beings --
281
906000
4000
この大きな領域の中で 私達人間の生物学的な
15:34
beings with our biological capacities.
282
910000
3000
能力をもって手の届く範囲です
15:37
It's a part of the space that's accessible to animals;
283
913000
3000
その領域は 動物の領域に含まれます
15:40
since we are animals, we are a subset of that.
284
916000
3000
人間も動物ですので 人間の領域は
動物の領域の範囲内なのです
動物の領域の範囲内なのです
15:43
And then you can imagine some enhancements of human capacities.
285
919000
4000
ここで 人間の能力が向上したらどうなるか
考えてみましょう
考えてみましょう
15:47
There would be different modes of being you could experience
286
923000
3000
もし 例えば後２００年生きられるとしたら
15:50
if you were able to stay alive for, say, 200 years.
287
926000
3000
今とは違った生き方
在り方を体験することができるでしょう
在り方を体験することができるでしょう
15:53
Then you could live sorts of lives and accumulate wisdoms
288
929000
4000
そうすれば
現在の人類にとって不可能な
現在の人類にとって不可能な
15:57
that are just not possible for humans as we currently are.
289
933000
3000
生き方をして 知識を蓄積することができるでしょう
16:00
So then, you move off to this larger sphere of "human +,"
290
936000
4000
そうなれば この図で「人類プラス」と現している
より大きな領域に進出できます
より大きな領域に進出できます
16:04
and you could continue that process and eventually
291
940000
3000
そして そのプロセスを繰り返しながら最終的に
16:07
explore a lot of this larger space of possible modes of being.
292
943000
4000
この大きな あらゆる存在の仕方の可能性を
探求できるでしょう
探求できるでしょう
16:11
Now, why is that a good thing to do?
293
947000
2000
さて なぜこうすることが良いのでしょうか
16:13
Well, we know already that in this little human circle there,
294
949000
4000
私達は既に この小さな人間の領域において
16:17
there are these enormously wonderful and worthwhile modes of being --
295
953000
4000
大変素晴らしい 価値ある生き方があることを
16:21
human life at its best is wonderful.
296
957000
3000
上手くいっているとき人生は素晴らしいことを
知っています
知っています
16:24
We have no reason to believe that within this much, much larger space
297
960000
5000
ここに示した 人間の領域よりももっと大きな領域には
16:29
there would not also be extremely worthwhile modes of being,
298
965000
4000
きっと非常に価値ある生き方があるでしょう
16:33
perhaps ones that would be way beyond our wildest ability
299
969000
6000
おそらくそれは 私達の想像や夢を
16:39
even to imagine or dream about.
300
975000
2000
はるかに越えるものでしょう
16:41
And so, to fix this third problem,
301
977000
2000
結論として
この第３の問題を解決するには
この第３の問題を解決するには
16:43
I think we need -- slowly, carefully, with ethical wisdom and constraint --
302
979000
6000
時間をかけて 注意深く 倫理を重んじ 制御しながら
16:49
develop the means that enable us to go out in this larger space and explore it
303
985000
5000
この大きな領域に進出探索する方法を開発し
16:54
and find the great values that might hide there.
304
990000
2000
そこに眠る素晴らしい価値を見出すことだと思います
16:56
Thanks.
305
992000
2000
ありがとうございました
ABOUT THE SPEAKER
Nick Bostrom - PhilosopherNick Bostrom asks big questions: What should we do, as individuals and as a species, to optimize our long-term prospects? Will humanity’s technological advancements ultimately destroy us?
Why you should listen
Philosopher Nick Bostrom envisioned a future full of human enhancement, nanotechnology and machine intelligence long before they became mainstream concerns. From his famous simulation argument -- which identified some striking implications of rejecting the Matrix-like idea that humans are living in a computer simulation -- to his work on existential risk, Bostrom approaches both the inevitable and the speculative using the tools of philosophy, probability theory, and scientific analysis.
Since 2005, Bostrom has led the Future of Humanity Institute, a research group of mathematicians, philosophers and scientists at Oxford University tasked with investigating the big picture for the human condition and its future. He has been referred to as one of the most important thinkers of our age.
Nick was honored as one of Foreign Policy's 2015 Global Thinkers .
His recent book Superintelligence advances the ominous idea that “the first ultraintelligent machine is the last invention that man need ever make.”
Nick Bostrom | Speaker | TED.com