ABOUT THE SPEAKER
Nick Bostrom - Philosopher
Nick Bostrom asks big questions: What should we do, as individuals and as a species, to optimize our long-term prospects? Will humanity’s technological advancements ultimately destroy us?

Why you should listen

Philosopher Nick Bostrom envisioned a future full of human enhancement, nanotechnology and machine intelligence long before they became mainstream concerns. From his famous simulation argument -- which identified some striking implications of rejecting the Matrix-like idea that humans are living in a computer simulation -- to his work on existential risk, Bostrom approaches both the inevitable and the speculative using the tools of philosophy, probability theory, and scientific analysis.

Since 2005, Bostrom has led the Future of Humanity Institute, a research group of mathematicians, philosophers and scientists at Oxford University tasked with investigating the big picture for the human condition and its future. He has been referred to as one of the most important thinkers of our age.

Nick was honored as one of Foreign Policy's 2015 Global Thinkers .

His recent book Superintelligence advances the ominous idea that “the first ultraintelligent machine is the last invention that man need ever make.”

More profile about the speaker
Nick Bostrom | Speaker | TED.com
TEDGlobal 2005

Nick Bostrom: A philosophical quest for our biggest problems

ニック・ボストロム: 人類の三つの課題

Filmed:
967,767 views

オックスフォード大学の哲学者であり超人間主義者のニック・ボストロムが人類の未来を検証し、最も本質的な問題を解決するために人間の在り方を根幹から変えることを問う。
- Philosopher
Nick Bostrom asks big questions: What should we do, as individuals and as a species, to optimize our long-term prospects? Will humanity’s technological advancements ultimately destroy us? Full bio

Double-click the English transcript below to play the video.

00:24
I want to talk today今日 about --
0
0
3000
今日は
00:27
I've been asked尋ねた to take the long view見る, and I'm going to tell you what
1
3000
6000
長期的な視点での話というリクエストを受けました
00:33
I think are the three biggest最大 problems問題 for humanity人類
2
9000
4000
人類にとって最大の3つの問題について
00:37
from this long pointポイント of view見る.
3
13000
3000
長期的な視点でお話します
00:40
Some of these have already既に been touched触れた upon〜に by other speakersスピーカー,
4
16000
3000
ほかのスピーカーの話と重複するものもありますが
00:43
whichどの is encouraging励ます.
5
19000
2000
それはいいことだと思っています
00:45
It seems思われる that there's not just one person
6
21000
2000
なぜなら 今日お話しする問題の重要性を
00:47
who thinks考える that these problems問題 are important重要.
7
23000
2000
僕以外の人も感じているということだからです
00:49
The first is -- death is a big大きい problem問題.
8
25000
4000
第一の問題は 死
これは大きな問題です
00:53
If you look at the statistics統計,
9
29000
3000
統計的には
00:56
the oddsオッズ are not very favorable有利な to us.
10
32000
2000
私達に勝ち目はなさそうです
00:58
So far遠い, most最も people who have lived住んでいました have alsoまた、 died死亡しました.
11
34000
4000
今のところ 生まれた人はほぼ全員死んでいます
01:02
Roughly大まかに 90 percentパーセント of everybodyみんな who has been alive生きている has died死亡しました by now.
12
38000
4000
今までに生きた人の大体90%は死んでいます
01:06
So the annual年次 death rateレート adds追加する up to 150,000 --
13
42000
6000
つまり 年間の死亡者数は15万人
01:12
sorry, the daily毎日 death rateレート -- 150,000 people per〜ごと day,
14
48000
3000
失礼 1日あたりの死亡者数は15万人です
01:15
whichどの is a huge巨大 number by any standard標準.
15
51000
3000
これはどう見ても 大きな数字です
01:18
The annual年次 death rateレート, then, becomes〜になる 56 million百万.
16
54000
5000
年間にすると5600万人が死ぬ計算です
01:23
If we just look at the singleシングル, biggest最大 cause原因 of death -- agingエージング --
17
59000
5000
唯一最大の死因は 老化です
01:29
it accountsアカウント for roughly大まかに two-thirds3分の2 of all human人間 people who die死ぬ.
18
65000
5000
死因の約3分の2は老化です
01:34
That adds追加する up to an annual年次 death toll通行料金
19
70000
3000
老化により毎年亡くなる人の数は
01:37
of greater大きい than the population人口 of Canadaカナダ.
20
73000
2000
カナダの人口より多いのです
01:39
Sometimes時々, we don't see a problem問題
21
75000
2000
時として 私たちは問題に気付かないことがあります
01:41
because eitherどちらか it's too familiar身近な or it's too big大きい.
22
77000
4000
問題があまりに身近であるか
01:45
Can't see it because it's too big大きい.
23
81000
2000
あまりに大きいために
01:47
I think death mightかもしれない be bothどちらも too familiar身近な and too big大きい
24
83000
3000
死はほとんどの人にとって
あまりに身近であまりに大きく
01:50
for most最も people to see it as a problem問題.
25
86000
3000
問題として認識することが
できないのだと思います
01:53
Once一度 you think about it, you see this is not statistical統計的 pointsポイント;
26
89000
2000
考えてみれば 統計的なポイントではないと
分かるでしょう
01:55
these are -- let's see, how far遠い have I talked話した?
27
91000
2000
これらのポイントは…
ところで どれくらいお話ししたでしょう
01:57
I've talked話した for three minutes.
28
93000
3000
3分くらいです
02:00
So that would be, roughly大まかに, 324 people have died死亡しました since以来 I've begun始まった speaking話し中.
29
96000
7000
つまり 私が話しはじめてから大体324人が亡くなりました
02:07
People like -- it's roughly大まかに the population人口 in this roomルーム has just died死亡しました.
30
103000
4000
大体この会場にいる人数くらいが 亡くなったのです
02:12
Now, the human人間 costコスト of that is obvious明らか,
31
108000
2000
さて これによる人的コストは明らかです
02:14
once一度 you start開始 to think about it -- the suffering苦しみ, the loss損失 --
32
110000
3000
哀しみや喪失感は言うまでもなく
02:17
it's alsoまた、, economically経済的に, enormously巨大 wasteful無駄な.
33
113000
3000
大変不経済でもあります
02:20
I just look at the information情報, and knowledge知識, and experience経験
34
116000
3000
例えば 情報、知識、経験といったものが
02:23
that is lost失われた due支払う to naturalナチュラル causes原因 of death in general一般,
35
119000
3000
自然死全般によって失われるのです
02:26
and agingエージング, in particular特に.
36
122000
2000
特に 老化によって
02:28
Suppose仮定する we approximated近似された one person with one book?
37
124000
3000
例えば1人の人を本1冊に例えてみましょう
02:31
Now, of courseコース, this is an underestimation過小評価.
38
127000
2000
もちろん 1人が1冊というのは過小評価です
02:33
A person's lifetime一生 of learning学習 and experience経験
39
129000
6000
人間が一生かけて学んだことや経験は
02:39
is a lot more than you could put into a singleシングル book.
40
135000
2000
とても1冊の本にまとめられる量ではありません
02:41
But let's suppose想定する we did this.
41
137000
2000
が ここでは例えとして1人1冊と仮定しましょう
02:44
52 million百万 people die死ぬ of naturalナチュラル causes原因 each year
42
140000
5000
毎年5200万人が自然死します
02:49
corresponds対応する, then, to 52 million百万 volumes destroyed破壊されました.
43
145000
4000
つまり 5200万冊の本が消失します
02:53
Libraryとしょうかん of Congress会議 holds保持 18 million百万 volumes.
44
149000
3000
米国議会図書館には1800万冊の蔵書があります
02:57
We are upset動揺 about the burning燃焼 of the Libraryとしょうかん of Alexandriaアレクサンドリア.
45
153000
3000
アレクサンドリア図書館の焼失は
03:00
It's one of the great cultural文化的 tragedies悲劇
46
156000
2000
甚大な文化的損害であり
03:02
that we remember思い出す, even today今日.
47
158000
3000
今日でも語り継がれています
03:06
But this is the equivalent同等 of three Libraries図書館 of Congress会議 --
48
162000
2000
年間の死者数は 米国議会図書館3つ分の書籍が
03:08
burnt焼けた down, forever永遠に lost失われた -- each year.
49
164000
3000
燃やされ 永遠に失われてしまうに等しい数です
03:11
So that's the first big大きい problem問題.
50
167000
2000
ですので 死は第一の大問題なのです
03:13
And I wish望む Godspeedゴッドスピード to Aubreyオーブリー de Greyグレー,
51
169000
3000
私は オーブレー・デグレイや
03:16
and other people like him,
52
172000
2000
彼のような人々の成功を祈っています
03:18
to try to do something about this as soonすぐに as possible可能.
53
174000
3000
できるだけ早く 死を食い止められるように
03:22
Existential存在 riskリスク -- the second二番 big大きい problem問題.
54
178000
3000
2つめの大問題は 人類絶滅の危機です
03:25
Existential存在 riskリスク is a threat脅威 to human人間 survival生存, or to the long-term長期 potential潜在的な of our species.
55
181000
7000
これは長期的な種の保存という観点で脅威です
03:32
Now, why do I say that this is a big大きい problem問題?
56
188000
2000
なぜ私がこれを問題視するかご説明しましょう
03:34
Well, let's first look at the probability確率 --
57
190000
4000
まず始めに 確率を見てみましょう
03:38
and this is very, very difficult難しい to estimate推定 --
58
194000
3000
それを見積るのは非常に難しいのですが
03:41
but there have been only four4つの studies研究 on this in recent最近 years,
59
197000
3000
近年この問題に関する研究は
03:44
whichどの is surprising驚くべき.
60
200000
2000
驚いたことに 4つしかなされていません
03:46
You would think that it would be of some interest利子
61
202000
3000
この 人類絶滅の危機は大変重大な問題なので
03:49
to try to find out more about this given与えられた that the stakesステークス are so big大きい,
62
205000
4000
興味深い研究対象だと思われるでしょう
03:53
but it's a very neglected無視された areaエリア.
63
209000
2000
しかし この分野は全く注目されていないのです
03:55
But there have been four4つの studies研究 --
64
211000
2000
とは言え 4つの研究がなされました
03:57
one by Johnジョン Lesleyレスリー, wrote書きました a book on this.
65
213000
2000
一つはジョン・レスリーによるもので
著書もあります
03:59
He estimated推定 a probability確率 that we will fail失敗します
66
215000
2000
レスリーは 人類が21世紀の終わりに生き残れない
04:01
to survive生き残ります the current現在 century世紀: 50 percentパーセント.
67
217000
3000
確率を50%と見積りました
04:04
Similarly同様に, the Astronomer天文学者 Royalロイヤル, whom we heard聞いた speak話す yesterday昨日,
68
220000
5000
同様に 昨日スピーチをした英国王室天文官も
04:09
alsoまた、 has a 50 percentパーセント probability確率 estimate推定.
69
225000
3000
50%と見積っています
04:12
Anotherもう一つ author著者 doesn't give any numerical数値 estimate推定,
70
228000
3000
もう1人の著者は数字は示していませんが
04:15
but says言う the probability確率 is significant重要な that it will fail失敗します.
71
231000
3000
生き残れない可能性が非常に大きいとしています
04:18
I wrote書きました a long paper on this.
72
234000
3000
私はこのテーマについて長い論文を書きました
04:21
I said assigning割り当て a lessもっと少なく than 20 percentパーセント probability確率 would be a mistake間違い
73
237000
4000
論文中 私は20%未満と見積るのは低すぎるとしました
04:25
in light of the current現在 evidence証拠 we have.
74
241000
3000
現状に照らして判断するに
04:28
Now, the exact正確 figures数字 here,
75
244000
2000
ここに実際に計算した結果を示していますが
04:30
we should take with a big大きい grain of salt,
76
246000
2000
あまり真に受けないで下さい
04:32
but there seems思われる to be a consensusコンセンサス that the riskリスク is substantial実質的な.
77
248000
3000
とは言え 相当なリスクとの共通認識が
形成されているようです
04:35
Everybodyみんな who has looked見た at this and studied研究した it agrees同意する.
78
251000
3000
この計算を見て研究した人全員が納得しました
04:38
Now, if we think about what just reducing還元する
79
254000
2000
ここで 人類絶滅の可能性を
04:40
the probability確率 of human人間 extinction絶滅 by just one percentageパーセンテージ pointポイント --
80
256000
5000
1%減らせるとしたら
1%というのはわずかなものですが
04:45
not very much -- so that's equivalent同等 to 60 million百万 lives人生 saved保存された,
81
261000
5000
6000万人の命が助かります
04:50
if we just countカウント the currently現在 living生活 people, the current現在 generation世代.
82
266000
4000
現在の世界人口を考えてみるに
04:54
Now one percentパーセント of six6 billion people is equivalent同等 to 60 million百万.
83
270000
4000
60億人ですから その1%は6000万人です
04:58
So that's a large number.
84
274000
2000
そう考えると1%というのは大きな数字です
05:00
If we were to take into accountアカウント future未来 generations世代
85
276000
3000
もし私達の世代が失敗をすれば存在しえない
05:03
that will never come into existence存在 if we blowブロー ourselves自分自身 up,
86
279000
5000
将来世代まで計算に含めると
05:08
then the figure数字 becomes〜になる astronomical天文学的.
87
284000
3000
計算結果は天文学的な数字になります
05:11
If we could eventually最終的に colonizeコロニー化する a chunkチャンク of the universe宇宙 --
88
287000
3000
もし人類が宇宙のどこかに最終的に移住できるとしたら
05:14
the Virgo乙女座 superclusterスーパークラスタ --
89
290000
2000
例えば乙女座超銀河団に移住するとしたら
05:16
maybe it will take us 100 million百万 years to get there,
90
292000
2000
たどり着くのに1億年かかるでしょう
05:18
but if we go extinct絶滅した we never will.
91
294000
3000
でも 生存していなければ決してたどり着けません
05:21
Then, even a one percentageパーセンテージ pointポイント reduction削減
92
297000
3000
人類絶滅のリスクをたった1%低減するだけでも
05:24
in the extinction絶滅 riskリスク could be equivalent同等
93
300000
4000
それはこの天文学的な数字
05:28
to this astronomical天文学的 number -- 10 to the powerパワー of 32.
94
304000
3000
10の32乗という数になるのです
05:31
So if you take into accountアカウント future未来 generations世代 as much as our own自分の,
95
307000
4000
ですので 将来世代も含めて考えれば
05:35
everyすべて other moral道徳 imperative命令的 of philanthropic慈善事業 costコスト just becomes〜になる irrelevant無関係.
96
311000
5000
慈善にかかる費用についての道徳上の要請などは
取るに足らない問題です
05:40
The only thing you should focusフォーカス on
97
316000
2000
私達が注目すべきは
05:42
would be to reduce減らす existential存在 riskリスク
98
318000
2000
人類絶滅のリスクをいかに低減するかです
05:44
because even the tiniest最も小さい decrease減少 in existential存在 riskリスク
99
320000
4000
なぜなら ほんのわずかでも人類絶滅のリスクを減らせれば
05:48
would just overwhelm圧倒する any other benefit利益 you could hope希望 to achieve達成する.
100
324000
4000
他のいかなる方法でも達成しえない
大きな利益につながるからです
05:52
And even if you just look at the current現在 people,
101
328000
2000
仮に 今の世代のことだけを考えて
05:54
and ignore無視する the potential潜在的な that would be lost失われた if we went行った extinct絶滅した,
102
330000
5000
今の世代が絶滅すれば失われてしまう
将来世代の可能性を考慮に入れなくても
05:59
it should still have a high高い priority優先.
103
335000
2000
人類絶滅のリスクを低減することは優先課題なのです
06:01
Now, let me spend費やす the rest残り of my time on the third三番 big大きい problem問題,
104
337000
5000
では 残り時間は全部 3つ目の問題の説明に使いましょう
06:06
because it's more subtle微妙 and perhapsおそらく difficult難しい to grasp把握.
105
342000
5000
この問題はより曖昧で 理解が難しいと思います
06:12
Think about some time in your life --
106
348000
4000
みなさん ご自身の人生を振り返ってみて下さい
06:16
some people mightかもしれない never have experienced経験豊富な it -- but some people,
107
352000
3000
まだ一度も経験したことがない方もいれば
06:19
there are just those moments瞬間 that you have experienced経験豊富な
108
355000
3000
経験済みの方もいるでしょう
06:22
where life was fantastic素晴らしい.
109
358000
2000
人生が素晴らしくバラ色だったときを
06:24
It mightかもしれない have been at the moment瞬間 of some great, creative創造的な inspirationインスピレーション
110
360000
7000
それは 素晴らしくクリエイティブなインスピレーションを
感じた瞬間かもしれません
06:31
you mightかもしれない have had when you just entered入った this flowフロー stageステージ.
111
367000
2000
この会場に足を踏み入れたときに
06:33
Or when you understood理解された something you had never done完了 before.
112
369000
2000
それは 今まで分からなかったことが理解できた
瞬間かもしれません
06:35
Or perhapsおそらく in the ecstasyエクスタシー of romanticロマンチック love.
113
371000
4000
それは ロマンチックな恋に夢中になった
ときかもしれません
06:39
Or an aesthetic美的 experience経験 -- a sunset日没 or a great pieceピース of artアート.
114
375000
5000
それは 美しいものに触れたときかもしれません
夕日や芸術作品など
06:44
Everyすべて once一度 in a while we have these moments瞬間,
115
380000
2000
ときどき私達はこのような瞬間を味わいます
06:46
and we realize実現する just how good life can be when it's at its bestベスト.
116
382000
4000
そして 人生が上手くいっているとき
人生はいいものだと思えるのです
06:50
And you wonderワンダー, why can't it be like that all the time?
117
386000
5000
一方 なぜ人生はいいときばかりではないのだろう?
という疑問もわいてきます
06:55
You just want to clingしがみつく onto〜に this.
118
391000
2000
人はこのことに執着しがちです
06:57
And then, of courseコース, it driftsドリフト back into ordinary普通の life and the memory記憶 fades衰える.
119
393000
4000
そして 当然のごとく ありふれた日常に引き戻され
思い出は色あせていきます
07:01
And it's really difficult難しい to recall想起, in a normal正常 frameフレーム of mindマインド,
120
397000
4000
また 普通の心理状態では なかなか思い出せないのです
07:05
just how good life can be at its bestベスト.
121
401000
3000
上手くいっているとき 人生がいかにすばらしいかを
07:08
Or how bad悪い it can be at its worst最悪.
122
404000
3000
また反対に 上手くいかないとき人生がいかに困難かを
07:11
The third三番 big大きい problem問題 is that life isn't usually通常
123
407000
3000
3つ目の問題は 人生いいことばかりではない
07:14
as wonderful素晴らしい as it could be.
124
410000
2000
ということです
07:16
I think that's a big大きい, big大きい problem問題.
125
412000
4000
私は これは大問題だと思っています
07:20
It's easy簡単 to say what we don't want.
126
416000
2000
いやなことを挙げるのは簡単なことです
07:23
Here are a number of things that we don't want --
127
419000
3000
沢山の例を挙げることができます
07:26
illness病気, involuntary不随意の death, unnecessary不要 suffering苦しみ, cruelty残酷,
128
422000
3000
病気、不本意な死、余計な苦しみ、虐待
07:29
stunted減速した growth成長, memory記憶 loss損失, ignorance無知, absence不在 of creativity創造性.
129
425000
5000
発育不良、物忘れ、無知、創造力の欠如
07:35
Suppose仮定する we fixed一定 these things -- we did something about all of these.
130
431000
3000
仮に 私達がこれら全てのことを解決できたとしましょう
07:38
We were very successful成功した.
131
434000
2000
大成功して
07:40
We got rid除去する of all of these things.
132
436000
2000
いやなこと全部を取り除くことができました
07:42
We mightかもしれない end終わり up with something like this,
133
438000
3000
その結果は このスライドのようなものでしょうか
07:45
whichどの is -- I mean, it's a heck地獄 of a lot better than that.
134
441000
4000
いや これよりずっともっと良くなるでしょう
07:49
But is this really the bestベスト we can dream of?
135
445000
5000
私達が望むのは本当にこの程度のことでしょうか?
07:54
Is this the bestベスト we can do?
136
450000
2000
この程度しかできないのでしょうか?
07:56
Or is it possible可能 to find something a little bitビット more inspiring感動的な to work towards方向?
137
452000
6000
もっと実現する価値のあるものはないでしょうか?
08:02
And if we think about this,
138
458000
2000
そう考えてみると
08:04
I think it's very clearクリア that there are ways方法
139
460000
4000
色々な方法があることは明白だと思うのです
08:08
in whichどの we could change変化する things, not just by eliminating排除する negativesネガ,
140
464000
3000
単にいやなことを取り除くだけではなく
08:11
but adding追加する positivesポジティブ.
141
467000
2000
前向きなことを加えることにより
物事は変えられるのです
08:13
On my wish望む listリスト, at least少なくとも, would be:
142
469000
2000
少なくとも私の欲しいものリストに並ぶのは
08:15
much longerより長いです, healthierより健康的 lives人生, greater大きい subjective主観的 well-being幸福,
143
471000
5000
より健康にもっと長生きすること
より充実した人生
08:20
enhanced強化された cognitive認知 capacities容量, more knowledge知識 and understanding理解,
144
476000
5000
認知能力の向上
更なる知識と理解
08:25
unlimited無制限 opportunity機会 for personal個人的 growth成長
145
481000
2000
今の生物学上の限界を越えて
08:27
beyond超えて our current現在 biological生物学的 limits限界, better relationships関係,
146
483000
4000
無限に成長する機会、より良い人間関係
08:31
an unbounded無限 potential潜在的な for spiritualスピリチュアル, moral道徳
147
487000
2000
精神的、道徳的、知的に
08:33
and intellectual知的 development開発.
148
489000
2000
限りなく成長できる可能性
08:35
If we want to achieve達成する this, what, in the world世界, would have to change変化する?
149
491000
8000
私達がこれらを実現するには
何を変えなくてはならないでしょうか?
08:43
And this is the answer回答 -- we would have to change変化する.
150
499000
5000
答えを言います
私達自身が変わらなくてはならないのです
08:48
Not just the world世界 around us, but we, ourselves自分自身.
151
504000
3000
私達を取り囲む世界だけではなく
私達自身もです
08:51
Not just the way we think about the world世界, but the way we are -- our very biology生物学.
152
507000
4000
私達が世界をどう思うかだけではなく
私達自身の生物的在り方もです
08:55
Human人間 nature自然 would have to change変化する.
153
511000
2000
人の在り方を変えなくてはならないのです
08:57
Now, when we think about changing変化 human人間 nature自然,
154
513000
2000
さて 人類の在り方を変えようとするときに
08:59
the first thing that comes来る to mindマインド
155
515000
2000
まず思い浮かぶのは
09:01
are these human人間 modification変形 technologiesテクノロジー --
156
517000
4000
次のような人間改造技術です
09:05
growth成長 hormoneホルモン therapy治療, cosmetic化粧品 surgery手術,
157
521000
2000
成長ホルモン療法、美容整形
09:07
stimulants覚醒剤 like Ritalinリタリン, AdderallAdderall, anti-depressants抗うつ薬,
158
523000
3000
リタリンやアデラルのような精神刺激薬、抗うつ剤
09:10
anabolicアナボリック steroidsステロイド, artificial人工的な hearts.
159
526000
2000
筋肉増強剤、人工心臓
09:12
It's a prettyかなり pathetic哀れな listリスト.
160
528000
3000
実にみじめなリストです
09:15
They do great things for a few少数 people
161
531000
2000
これらは ごく一部の人々にとっては
大変役立つものです
09:17
who suffer苦しむ from some specific特定 condition調子,
162
533000
2000
ある特定の症状に苦しむ人々にとって
09:19
but for most最も people, they don't really transform変換する
163
535000
5000
しかし 大半の人々にとっては
09:24
what it is to be human人間.
164
540000
2000
人間らしく生きていくための役には立ちません
09:26
And they alsoまた、 all seem思われる a little bitビット --
165
542000
2000
そして これら全てに対して
09:28
most最も people have this instinct本能 that, well, sure,
166
544000
3000
ほとんどの人は直感的に違和感を覚えるでしょう
09:31
there needsニーズ to be anti-depressants抗うつ薬 for the really depressed落ち込んだ people.
167
547000
2000
確かに 重いうつ病の治療には抗うつ剤が必要なのですが
09:33
But there's a kind種類 of queasiness怠惰
168
549000
2000
何かが間違っているような
09:35
that these are unnatural不自然な in some way.
169
551000
3000
不自然な感じがします
09:38
It's worth価値 recalling想起する that there are a lot of other
170
554000
2000
そんなものに頼らなくても 私達は既に多くの
09:40
modification変形 technologiesテクノロジー and enhancement強化 technologiesテクノロジー that we use.
171
556000
3000
改造や改良の技術を使っています
09:43
We have skin enhancements強化, clothing衣類.
172
559000
4000
例えば 皮膚を機能拡張したものは
衣服です
09:47
As far遠い as I can see, all of you are usersユーザー of this
173
563000
4000
私が見る限り この会場にいらっしゃる全員が
09:51
enhancement強化 technology技術 in this roomルーム, so that's a great thing.
174
567000
5000
この改良技術のユーザーですね
すばらしいことです
09:56
Mood気分 modifiers修飾語 have been used from time immemorial大昔の --
175
572000
3000
気分を変えるものは
太古の昔から使われてきました
09:59
caffeineカフェイン, alcoholアルコール, nicotineニコチン, immune免疫 systemシステム enhancement強化,
176
575000
5000
カフェイン、アルコール、ニコチン、免疫力の向上
10:04
visionビジョン enhancement強化, anesthetics麻酔薬 --
177
580000
2000
視力の向上、麻酔など
10:06
we take that very much for granted付与された,
178
582000
2000
私達はこれらを当たり前のことと思っていますが
10:08
but just think about how great progress進捗 that is --
179
584000
4000
実に素晴らしい進化なのです
10:12
like, having持つ an operation操作 before anesthetics麻酔薬 was not fun楽しい.
180
588000
4000
例えば 麻酔がなかった時代の手術を考えてみて下さい
10:16
Contraceptives避妊薬, cosmetics化粧品 and brain reprogramming再プログラミング techniques技術 --
181
592000
6000
避妊薬、化粧品、思考回路を書き換えるテクニック
10:22
that sounds ominous不吉,
182
598000
2000
と言うと不気味な感じがするかもしれませんが
10:24
but the distinction区別 betweenの間に what is a technology技術 --
183
600000
4000
技術 ―典型的には道具などです― と
10:28
a gadgetガジェット would be the archetypeアーキタイプ --
184
604000
2000
人間の在り方を変える他の方法との違いは
10:30
and other ways方法 of changing変化 and rewriting書き換え human人間 nature自然 is quiteかなり subtle微妙.
185
606000
4000
実に曖昧なものです
10:34
So if you think about what it means手段 to learn学ぶ arithmetic算術 or to learn学ぶ to read読む,
186
610000
4000
例えば 算数や読み書きを学ぶということは
10:38
you're actually実際に, literally文字通り rewriting書き換え your own自分の brain.
187
614000
3000
実に 文字通り 脳を改造するということなのです
10:41
You're changing変化 the microstructure微細構造 of your brain as you go along一緒に.
188
617000
3000
学ぶにつれ 脳の微細な構造が変化していきます
10:45
So in a broad広い senseセンス, we don't need to think about technology技術
189
621000
3000
つまり大きな意味では 技術というのは何も
10:48
as only little gadgetsガジェット, like these things here,
190
624000
2000
こんな機器だけをさすのではないのです
10:50
but even institutions機関 and techniques技術,
191
626000
4000
習慣、テクニック、心理的手法
10:54
psychological心理的 methodsメソッド and so forth前進.
192
630000
2000
なども含めて 技術と呼べるのです
10:56
Formsフォーム of organization組織 can have a profound深遠な impact影響 on human人間 nature自然.
193
632000
5000
組織の在り方も
人間性に大きな影響力を持っています
11:01
Looking ahead前方に, there is a range範囲 of technologiesテクノロジー
194
637000
2000
将来を見通すと 遅かれ早かれ
11:03
that are almostほぼ certainある to be developed発展した soonerより早く or later後で.
195
639000
3000
これらの技術が開発されることは ほぼ確実です
11:06
We are very ignorant無知な about what the time scale規模 for these things are,
196
642000
4000
私達は様々な技術が開発される時間軸に無頓着ですが
11:10
but they all are consistent整合性のある with everything we know
197
646000
2000
全ての技術は既存の知識
11:12
about physical物理的 laws法律, laws法律 of chemistry化学, etc.
198
648000
4000
物理や化学の法則に基づいています
11:16
It's possible可能 to assume想定する,
199
652000
2000
人類絶滅の可能性を別にすれば
11:18
setting設定 aside脇に a possibility可能性 of catastrophe災害,
200
654000
3000
遅かれ早かれ これら全てを開発できると
11:21
that soonerより早く or later後で we will develop開発する all of these.
201
657000
3000
想定できます
11:24
And even just a coupleカップル of these would be enough十分な
202
660000
3000
これらの技術のうち ごく一部でも実現されれば
11:27
to transform変換する the human人間 condition調子.
203
663000
2000
人間の在り方は変わってしまうでしょう
11:29
So let's look at some of the dimensionsディメンション of human人間 nature自然
204
665000
5000
では 人間の在り方として改善する余地のある
11:34
that seem思われる to leave離れる roomルーム for improvement改善.
205
670000
3000
部分に着目してみましょう
11:37
Health健康 spanスパン is a big大きい and urgent緊急 thing,
206
673000
2000
健康寿命は重要かつ喫緊の課題です
11:39
because if you're not alive生きている,
207
675000
2000
生きていなければ
11:41
then all the other things will be to little avail利用可能な.
208
677000
3000
他のあらゆることは無用になります
11:44
Intellectual知的 capacity容量 -- let's take that boxボックス,
209
680000
2000
知的な能力の囲みを見てみましょう
11:46
whichどの falls落ちる into a lot of different異なる sub-categoriesサブカテゴリ:
210
682000
5000
その中には多くの項目が並びます
11:51
memory記憶, concentration濃度, mental精神的な energyエネルギー, intelligenceインテリジェンス, empathy共感.
211
687000
3000
記憶力、集中力、精神力、理解力、共感力
11:54
These are really great things.
212
690000
2000
これらは素晴らしいものです
11:56
Part of the reason理由 why we value these traits形質
213
692000
2000
私達がこれらに重きを置く理由は ひとつには
11:58
is that they make us better at competing競合する with other people --
214
694000
4000
他者との競争力につながるからです
12:02
they're positional定位置 goods.
215
698000
2000
これらは他者との相対的な位置関係に影響します
12:04
But part of the reason理由 --
216
700000
2000
他の理由は
12:06
and that's the reason理由 why we have ethical倫理的な ground接地 for pursuing追求 these --
217
702000
4000
私達がこれらを倫理的に追求する理由なのですが
12:10
is that they're alsoまた、 intrinsically本質的に valuable貴重な.
218
706000
3000
これらが本質的に価値あるものだということです
12:13
It's just better to be ableできる to understandわかる more of the world世界 around you
219
709000
4000
世の中のことや自分と関わりを持つ人々のことを
12:17
and the people that you are communicatingコミュニケーション with,
220
713000
2000
より深く理解したり
12:19
and to remember思い出す what you have learned学んだ.
221
715000
4000
学んだことを忘れないように
できた方が良いでしょう
12:23
Modalitiesモダリティ and special特別 faculties学部.
222
719000
2000
感覚や特定の能力についてお話しましょう
12:25
Now, the human人間 mindマインド is not a singleシングル unitaryユニタリー information情報 processorプロセッサー,
223
721000
5000
さて 人間の脳は単一にまとまった情報処理装置
ではありません
12:30
but it has a lot of different異なる, special特別, evolved進化した modulesモジュール
224
726000
4000
ある役割に特化および進化した多くのモジュールで
12:34
that do specific特定 things for us.
225
730000
2000
構成され 機能しています
12:36
If you think about what we normally通常は take as giving与える life a lot of its meaning意味 --
226
732000
4000
私達が人生に多くの意味をもたらすと思っているものを
考えてみて下さい
12:40
music音楽, humorユーモア, eroticismエロチシズム, spirituality精神性, aesthetics美学,
227
736000
4000
音楽、ユーモア、エロティシズム、信仰、美学
12:44
nurturing育てる and caring思いやりのある, gossipゴシップ, chattingおしゃべり with people --
228
740000
5000
養育、思いやり、うわさ話、おしゃべり
12:49
all of these, very likelyおそらく, are enabled有効 by a special特別 circuitry回路
229
745000
4000
これら全ては
人間の脳に備わっている
12:53
that we humans人間 have,
230
749000
2000
特定の回路によるものと考えられます
12:55
but that you could have another別の intelligentインテリジェントな life form that lacks欠けている these.
231
751000
3000
一方で これらの欠落した知的生活を営むこともできます
12:58
We're just lucky幸運な that we have the requisite必要 neuralニューラル machinery機械
232
754000
3000
とても幸運なことに 私達の脳には音楽を鑑賞し
13:01
to processプロセス music音楽 and to appreciate感謝する it and enjoy楽しんで it.
233
757000
4000
楽しめるよう処理してくれる機能が備わっています
13:05
All of these would enable有効にする, in principle原理 -- be amenable従順な to enhancement強化.
234
761000
3000
音楽に関する能力は
原則として向上できるものです
13:08
Some people have a better musicalミュージカル ability能力
235
764000
2000
より優れた音楽的才能を持つ人々は
13:10
and ability能力 to appreciate感謝する music音楽 than othersその他 have.
236
766000
2000
他の人より音楽を楽しむことができます
13:12
It's alsoまた、 interesting面白い to think about what other things are --
237
768000
3000
他のことも考えてみると面白いものです
13:15
so if these all enabled有効 great values,
238
771000
3000
これらが全て
素晴らしい価値に結びつくものだとしたら
13:19
why should we think that evolution進化 has happened起こった to provide提供する us
239
775000
3000
人類の進化の過程で
他にも存在しうる価値を
13:22
with all the modalitiesモダリティ we would need to engage従事する
240
778000
3000
私達が認識できるよう知覚が備わったのは
13:25
with other values that there mightかもしれない be?
241
781000
2000
なぜなのでしょうか
13:27
Imagine想像する a species
242
783000
2000
音楽を処理する機能が脳に備わっていない
13:29
that just didn't have this neuralニューラル machinery機械 for processing処理 music音楽.
243
785000
4000
種が存在すると過程してみましょう
13:33
And they would just stare見詰める at us with bafflementバッフアイム
244
789000
3000
彼らは私達を見て困惑するでしょうね
13:36
when we spend費やす time listening聞いている to a beautiful綺麗な performanceパフォーマンス,
245
792000
4000
私達が つい先ほどの演奏のような
美しい音楽に耳を傾ける姿を見て
13:40
like the one we just heard聞いた -- because of people making作る stupid愚か movements動き,
246
796000
2000
奇妙な動きをするものだと 困惑するでしょう
13:42
and they would be really irritatedイライラしている and wouldn'tしないだろう see what we were up to.
247
798000
3000
そして 私達が何をしているのか理解できず
とてもいらいらするでしょう
13:45
But maybe they have another別の faculty学部, something elseelse
248
801000
3000
一方で 彼らには別の能力が備わっているかもしれません
13:48
that would seem思われる equally均等に irrational不合理な to us,
249
804000
3000
それは 彼らが音楽を解さないのと同様に
私達には不可解に思える能力なのでしょう
13:51
but they actually実際に tapタップ into some great possible可能 value there.
250
807000
3000
それは 彼らにとっては大変に有意義な価値を
味わう能力なのです
13:54
But we are just literally文字通り deaf聴覚障害者 to that kind種類 of value.
251
810000
4000
しかし 私達はそのような 自分の理解できない価値を
まったく認識できません
13:58
So we could think of adding追加する on different異なる,
252
814000
2000
そこで 私達は異なった
14:00
new新しい sensory感覚 capacities容量 and mental精神的な faculties学部.
253
816000
4000
新しい知覚や思考力を加えることが考えられます
14:04
Bodily身体 functionality機能性 and morphology形態学 and affective感情的な self-control自制心.
254
820000
5000
身体機能や形態、感情の自己制御
14:09
Greaterグレーター subjective主観的 well-being幸福.
255
825000
2000
より主観的な満足感
14:11
Be ableできる to switchスイッチ betweenの間に relaxationリラクゼーション and activityアクティビティ --
256
827000
3000
リラックス状態と活発な状態の切り替えができること
14:14
beingであること ableできる to go slowスロー when you need to do that, and to speed速度 up.
257
830000
4000
必要に応じて減速したり加速したりできること
14:18
Ableエイブル to switchスイッチ back and forth前進 more easily簡単に
258
834000
2000
より簡単に前後の切り替えができること
14:20
would be a neatきちんとした thing to be ableできる to do --
259
836000
2000
そうできたらいいですね
14:22
easierより簡単に to achieve達成する the flowフロー state状態,
260
838000
2000
何かに没頭しているときに
14:24
when you're totally完全に immersed没頭した in something you are doing.
261
840000
4000
それをスムーズに出来る状態に早く入れること
14:28
Conscientiousness意識 and sympathy同情.
262
844000
2000
誠実さと思いやり
14:30
The ability能力 to -- it's another別の interesting面白い application応用
263
846000
3000
これもまた興味深い応用で
14:33
that would have large socialソーシャル ramification分裂, perhapsおそらく.
264
849000
3000
おそらく大きな社会的影響があるでしょう
14:36
If you could actually実際に choose選択する to preserve保存する your romanticロマンチック attachments添付ファイル to one person,
265
852000
6000
もし ある人に対する恋愛感情を自らの意志で
14:42
undiminished減ることのない throughを通して time,
266
858000
2000
ずっと消えてしまわないよう選択できるとしたら
14:44
so that wouldn'tしないだろう have to -- love would never have to fadeフェード if you didn't want it to.
267
860000
3000
自分で終わりにしようと思わない限り
愛情が色あせることはありません
14:49
That's probably多分 not all that difficult難しい.
268
865000
3000
それは特別難しいことでもないように思います
14:52
It mightかもしれない just be a simple単純 hormoneホルモン or something that could do this.
269
868000
3000
簡単なホルモンか何かで実現できそうなことです
14:57
It's been done完了 in volesヴォールス.
270
873000
2000
ハタネズミの実験で既に成功しています
15:01
You can engineerエンジニア a prairie草原 voleヴォール to become〜になる monogamous一部ではない
271
877000
3000
元来 一夫多妻のプレイリーハタネズミを
15:04
when it's naturally当然 polygamous多角形.
272
880000
2000
一夫一妻にすることも可能です
15:06
It's just a singleシングル gene遺伝子.
273
882000
2000
ある1つの遺伝子をいじるだけでいいのです
15:08
Mightおそらく be more complicated複雑な in humans人間, but perhapsおそらく not that much.
274
884000
2000
人間では多少複雑かもしれませんが
おそらく さほど大きな違いはないでしょう
15:10
This is the last picture画像 that I want to --
275
886000
2000
こちらが最後にお見せしたいスライドです
15:13
now we've私たちは got to use the laserレーザ pointerポインタ.
276
889000
2000
レーザーポインターを使いましょう
15:16
A possible可能 modeモード of beingであること here would be a way of life --
277
892000
3000
存在の仕方の可能性をここに示しています
15:19
a way of beingであること, experiencing経験する, thinking考え, seeing見る,
278
895000
4000
生き方、在り方、経験すること、考えること、見ること、
15:23
interacting相互作用する with the world世界.
279
899000
2000
世界との関わり
15:25
Down here in this little cornerコーナー, here, we have the little sub-space部分空間
280
901000
5000
この右下角の小さな領域が
15:30
of this larger大きい spaceスペース that is accessibleアクセス可能な to human人間 beings存在 --
281
906000
4000
この大きな領域の中で 私達人間の生物学的な
15:34
beings存在 with our biological生物学的 capacities容量.
282
910000
3000
能力をもって手の届く範囲です
15:37
It's a part of the spaceスペース that's accessibleアクセス可能な to animals動物;
283
913000
3000
その領域は 動物の領域に含まれます
15:40
since以来 we are animals動物, we are a subsetサブセット of that.
284
916000
3000
人間も動物ですので 人間の領域は
動物の領域の範囲内なのです
15:43
And then you can imagine想像する some enhancements強化 of human人間 capacities容量.
285
919000
4000
ここで 人間の能力が向上したらどうなるか
考えてみましょう
15:47
There would be different異なる modesモード of beingであること you could experience経験
286
923000
3000
もし 例えば後200年生きられるとしたら
15:50
if you were ableできる to stay滞在 alive生きている for, say, 200 years.
287
926000
3000
今とは違った生き方
在り方を体験することができるでしょう
15:53
Then you could liveライブ sortsソート of lives人生 and accumulate累積する wisdomsウィスダムズ
288
929000
4000
そうすれば
現在の人類にとって不可能な
15:57
that are just not possible可能 for humans人間 as we currently現在 are.
289
933000
3000
生き方をして 知識を蓄積することができるでしょう
16:00
So then, you move動く off to this larger大きい sphere of "human人間 +,"
290
936000
4000
そうなれば この図で「人類プラス」と現している
より大きな領域に進出できます
16:04
and you could continue持続する that processプロセス and eventually最終的に
291
940000
3000
そして そのプロセスを繰り返しながら最終的に
16:07
explore探検する a lot of this larger大きい spaceスペース of possible可能 modesモード of beingであること.
292
943000
4000
この大きな あらゆる存在の仕方の可能性を
探求できるでしょう
16:11
Now, why is that a good thing to do?
293
947000
2000
さて なぜこうすることが良いのでしょうか
16:13
Well, we know already既に that in this little human人間 circleサークル there,
294
949000
4000
私達は既に この小さな人間の領域において
16:17
there are these enormously巨大 wonderful素晴らしい and worthwhile価値がある modesモード of beingであること --
295
953000
4000
大変素晴らしい 価値ある生き方があることを
16:21
human人間 life at its bestベスト is wonderful素晴らしい.
296
957000
3000
上手くいっているとき人生は素晴らしいことを
知っています
16:24
We have no reason理由 to believe that within以内 this much, much larger大きい spaceスペース
297
960000
5000
ここに示した 人間の領域よりももっと大きな領域には
16:29
there would not alsoまた、 be extremely極端な worthwhile価値がある modesモード of beingであること,
298
965000
4000
きっと非常に価値ある生き方があるでしょう
16:33
perhapsおそらく onesもの that would be way beyond超えて our wildest野生の ability能力
299
969000
6000
おそらくそれは 私達の想像や夢を
16:39
even to imagine想像する or dream about.
300
975000
2000
はるかに越えるものでしょう
16:41
And so, to fix修正する this third三番 problem問題,
301
977000
2000
結論として
この第3の問題を解決するには
16:43
I think we need -- slowlyゆっくり, carefully慎重に, with ethical倫理的な wisdom知恵 and constraint制約 --
302
979000
6000
時間をかけて 注意深く 倫理を重んじ 制御しながら
16:49
develop開発する the means手段 that enable有効にする us to go out in this larger大きい spaceスペース and explore探検する it
303
985000
5000
この大きな領域に進出探索する方法を開発し
16:54
and find the great values that mightかもしれない hide隠す there.
304
990000
2000
そこに眠る素晴らしい価値を見出すことだと思います
16:56
Thanksありがとう.
305
992000
2000
ありがとうございました
Translated by Fumiko Kamada
Reviewed by Misaki Sato

▲Back to top

ABOUT THE SPEAKER
Nick Bostrom - Philosopher
Nick Bostrom asks big questions: What should we do, as individuals and as a species, to optimize our long-term prospects? Will humanity’s technological advancements ultimately destroy us?

Why you should listen

Philosopher Nick Bostrom envisioned a future full of human enhancement, nanotechnology and machine intelligence long before they became mainstream concerns. From his famous simulation argument -- which identified some striking implications of rejecting the Matrix-like idea that humans are living in a computer simulation -- to his work on existential risk, Bostrom approaches both the inevitable and the speculative using the tools of philosophy, probability theory, and scientific analysis.

Since 2005, Bostrom has led the Future of Humanity Institute, a research group of mathematicians, philosophers and scientists at Oxford University tasked with investigating the big picture for the human condition and its future. He has been referred to as one of the most important thinkers of our age.

Nick was honored as one of Foreign Policy's 2015 Global Thinkers .

His recent book Superintelligence advances the ominous idea that “the first ultraintelligent machine is the last invention that man need ever make.”

More profile about the speaker
Nick Bostrom | Speaker | TED.com