TED@IBM
Grady Booch: Don't fear superintelligent AI
グラディ・ブーチ: 人工知能が人間を超えるのを怖れることはない
Filmed:
Readability: 4.7
2,866,438 views
新たな技術は新たな不安を呼び起こすものですが、非常に強力で感情のない人工知能を怖れることはないと、科学者であり思想家であるグラディ・ブーチは言います。我々は人工知能をプログラムするのでなく、人間の価値観を共有するように教えるのだと説明し、超知的なコンピューターに対する(SF的な)最悪の恐怖を和らげた上で、ありそうにない人類存亡の危機を怖れるよりも、人工知能が人の生活をどう良くするか考えるようにと促します。
Grady Booch - Scientist, philosopher
IBM's Grady Booch is shaping the future of cognitive computing by building intelligent systems that can reason and learn. Full bio
IBM's Grady Booch is shaping the future of cognitive computing by building intelligent systems that can reason and learn. Full bio
Double-click the English transcript below to play the video.
00:12
When I was a kid,
I was the quintessential nerd.
I was the quintessential nerd.
0
760
3840
子供の頃 私はごく典型的な
オタク少年でした
オタク少年でした
00:17
I think some of you were, too.
1
5320
2176
皆さんの中にも
いるでしょう
いるでしょう
00:19
(Laughter)
2
7520
1216
(笑)
00:20
And you, sir, who laughed the loudest,
you probably still are.
you probably still are.
3
8760
3216
そこで大声で笑った人
あなたは今もそうでしょう
あなたは今もそうでしょう
00:24
(Laughter)
4
12000
2256
(笑)
00:26
I grew up in a small town
in the dusty plains of north Texas,
in the dusty plains of north Texas,
5
14280
3496
北テキサスのほこりっぽい平原の
小さな町で育ち
小さな町で育ち
00:29
the son of a sheriff
who was the son of a pastor.
who was the son of a pastor.
6
17800
3336
父は牧師の子で
保安官をしていました
保安官をしていました
00:33
Getting into trouble was not an option.
7
21160
1920
トラブルを起こすなんて論外です
00:36
And so I started reading
calculus books for fun.
calculus books for fun.
8
24040
3256
それで趣味として
解析学の本を読むようになりました
解析学の本を読むようになりました
00:39
(Laughter)
9
27320
1536
(笑)
00:40
You did, too.
10
28880
1696
あなたもですか？
00:42
That led me to building a laser
and a computer and model rockets,
and a computer and model rockets,
11
30600
3736
それでレーザーやコンピューターや
ロケットなんかを作るようになり
ロケットなんかを作るようになり
00:46
and that led me to making
rocket fuel in my bedroom.
rocket fuel in my bedroom.
12
34360
3000
さらには自分の部屋で
ロケット燃料まで作りました
ロケット燃料まで作りました
00:49
Now, in scientific terms,
13
37960
3656
科学用語で言うと これは
00:53
we call this a very bad idea.
14
41640
3256
「とってもまずい考え」です
00:56
(Laughter)
15
44920
1216
(笑)
00:58
Around that same time,
16
46160
2176
同じ頃
スタンリー・キューブリックの
『2001年宇宙の旅』が劇場公開され
『2001年宇宙の旅』が劇場公開され
01:00
Stanley Kubrick's "2001: A Space Odyssey"
came to the theaters,
came to the theaters,
17
48360
3216
01:03
and my life was forever changed.
18
51600
2200
私の人生を永遠に
変えることになりました
変えることになりました
01:06
I loved everything about that movie,
19
54280
2056
あの映画の
すべてが好きで
すべてが好きで
01:08
especially the HAL 9000.
20
56360
2536
ことに HAL 9000が
好きでした
好きでした
01:10
Now, HAL was a sentient computer
21
58920
2056
HALは 知覚力のある
コンピューターで
コンピューターで
01:13
designed to guide the Discovery spacecraft
22
61000
2456
宇宙船ディスカバリー号を
地球から木星へとガイドすべく
地球から木星へとガイドすべく
01:15
from the Earth to Jupiter.
23
63480
2536
設計されていました
01:18
HAL was also a flawed character,
24
66040
2056
HALにはまた
性格上の欠陥があり
性格上の欠陥があり
01:20
for in the end he chose
to value the mission over human life.
to value the mission over human life.
25
68120
4280
最終的に人間の命よりも
ミッションを優先させます
ミッションを優先させます
HALは架空のキャラクターですが
01:24
Now, HAL was a fictional character,
26
72840
2096
01:26
but nonetheless he speaks to our fears,
27
74960
2656
私たちの恐怖を
呼び起こします
呼び起こします
01:29
our fears of being subjugated
28
77640
2096
人間に無関心な
01:31
by some unfeeling, artificial intelligence
29
79760
3016
感情のない人工知能に
支配されるという恐怖です
01:34
who is indifferent to our humanity.
30
82800
1960
01:37
I believe that such fears are unfounded.
31
85880
2576
そのような恐怖は
根拠のないものです
根拠のないものです
01:40
Indeed, we stand at a remarkable time
32
88480
2696
私たちは実際
人類史の中でも
目覚ましい時代にいます
目覚ましい時代にいます
01:43
in human history,
33
91200
1536
01:44
where, driven by refusal to accept
the limits of our bodies and our minds,
the limits of our bodies and our minds,
34
92760
4976
肉体や精神の限界を
受け入れることを拒み
受け入れることを拒み
01:49
we are building machines
35
97760
1696
精緻で美しく
01:51
of exquisite, beautiful
complexity and grace
complexity and grace
36
99480
3616
複雑で優雅な機械を作り
01:55
that will extend the human experience
37
103120
2056
それが我々の想像を
超えるような仕方で
超えるような仕方で
01:57
in ways beyond our imagining.
38
105200
1680
人間の体験を
拡張することになるでしょう
拡張することになるでしょう
01:59
After a career that led me
from the Air Force Academy
from the Air Force Academy
39
107720
2576
私は空軍士官学校を出て
02:02
to Space Command to now,
40
110320
1936
宇宙軍で働いた後
02:04
I became a systems engineer,
41
112280
1696
システム屋になりましたが
02:06
and recently I was drawn
into an engineering problem
into an engineering problem
42
114000
2736
最近 NASAの
火星ミッションに関連する
火星ミッションに関連する
エンジニアリング上の問題へと
引き寄せられました
引き寄せられました
02:08
associated with NASA's mission to Mars.
43
116760
2576
02:11
Now, in space flights to the Moon,
44
119360
2496
月へ行くのであれば
02:13
we can rely upon
mission control in Houston
mission control in Houston
45
121880
3136
ヒューストンの
地上管制センターから
地上管制センターから
飛行の全過程を
見守れます
見守れます
02:17
to watch over all aspects of a flight.
46
125040
1976
02:19
However, Mars is 200 times further away,
47
127040
3536
しかし火星は月より
200倍も離れています
200倍も離れています
02:22
and as a result it takes
on average 13 minutes
on average 13 minutes
48
130600
3216
そのため 信号が地球から
火星に届くのには
火星に届くのには
02:25
for a signal to travel
from the Earth to Mars.
from the Earth to Mars.
49
133840
3136
平均で13分もかかります
02:29
If there's trouble,
there's not enough time.
there's not enough time.
50
137000
3400
トラブルが起きた場合
そんなに待ってはいられません
そんなに待ってはいられません
02:32
And so a reasonable engineering solution
51
140840
2496
妥当な工学的解決策として
02:35
calls for us to put mission control
52
143360
2576
オリオン号の壁の中に
管制機能を設けることにしました
02:37
inside the walls of the Orion spacecraft.
53
145960
3016
02:41
Another fascinating idea
in the mission profile
in the mission profile
54
149000
2896
ミッション概略にある
別の面白いアイデアとして
別の面白いアイデアとして
02:43
places humanoid robots
on the surface of Mars
on the surface of Mars
55
151920
2896
人間型ロボットを火星表面に
02:46
before the humans themselves arrive,
56
154840
1856
人間が行く前に送って
02:48
first to build facilities
57
156720
1656
施設を作らせ
その後は 科学者チームの一員として
働かせるというのがあります
働かせるというのがあります
02:50
and later to serve as collaborative
members of the science team.
members of the science team.
58
158400
3360
02:55
Now, as I looked at this
from an engineering perspective,
from an engineering perspective,
59
163400
2736
これを工学的な観点で見て
明らかになったのは
明らかになったのは
02:58
it became very clear to me
that what I needed to architect
that what I needed to architect
60
166160
3176
ここで設計する必要があるのは
賢く 協力的で
03:01
was a smart, collaborative,
61
169360
2176
社会的な人工知能
だということです
だということです
03:03
socially intelligent
artificial intelligence.
artificial intelligence.
62
171560
2376
03:05
In other words, I needed to build
something very much like a HAL
something very much like a HAL
63
173960
4296
言い換えると 何かHALのようなものを
作る必要があるということです
作る必要があるということです
03:10
but without the homicidal tendencies.
64
178280
2416
ただし殺人癖は抜きで
03:12
(Laughter)
65
180720
1360
(笑)
少し立ち止まって
考えてみましょう
考えてみましょう
03:14
Let's pause for a moment.
66
182920
1816
03:16
Is it really possible to build
an artificial intelligence like that?
an artificial intelligence like that?
67
184760
3896
そのような人工知能を作ることは
可能なのでしょうか
可能なのでしょうか
03:20
Actually, it is.
68
188680
1456
可能です
03:22
In many ways,
69
190160
1256
何にせよ
03:23
this is a hard engineering problem
70
191440
1976
これは人工知能の
要素がある
要素がある
工学上の問題であって
03:25
with elements of AI,
71
193440
1456
03:26
not some wet hair ball of an AI problem
that needs to be engineered.
that needs to be engineered.
72
194920
4696
得体の知れない
人工知能の問題ではありません
人工知能の問題ではありません
03:31
To paraphrase Alan Turing,
73
199640
2656
チューリングの言葉を
少し変えて言うと
少し変えて言うと
知覚力のある機械を作ることには
関心がありません
関心がありません
03:34
I'm not interested
in building a sentient machine.
in building a sentient machine.
74
202320
2376
03:36
I'm not building a HAL.
75
204720
1576
HALを作ろうとは
していません
していません
03:38
All I'm after is a simple brain,
76
206320
2416
私がやろうとしているのは
単純な脳
単純な脳
03:40
something that offers
the illusion of intelligence.
the illusion of intelligence.
77
208760
3120
知性の幻想を
提供する何かです
提供する何かです
03:45
The art and the science of computing
have come a long way
have come a long way
78
213000
3136
HALが映画に現れて以来
コンピューターの科学と技術は
大きく進歩しました
大きく進歩しました
03:48
since HAL was onscreen,
79
216160
1496
03:49
and I'd imagine if his inventor
Dr. Chandra were here today,
Dr. Chandra were here today,
80
217680
3216
HALの生みの親のチャンドラ博士が
ここにいたなら
ここにいたなら
03:52
he'd have a whole lot of questions for us.
81
220920
2336
我々に聞きたいことが
山ほどあるはずです
山ほどあるはずです
03:55
Is it really possible for us
82
223280
2096
何百万 何千万という
デバイスを使い
デバイスを使い
03:57
to take a system of millions
upon millions of devices,
upon millions of devices,
83
225400
4016
そのデータストリームを読んで
故障を予期し
04:01
to read in their data streams,
84
229440
1456
前もって対処することは
できるのか？
できるのか？
04:02
to predict their failures
and act in advance?
and act in advance?
85
230920
2256
04:05
Yes.
86
233200
1216
できます
自然言語で人間と会話するシステムを
構築することはできるのか？
構築することはできるのか？
04:06
Can we build systems that converse
with humans in natural language?
with humans in natural language?
87
234440
3176
できます
04:09
Yes.
88
237640
1216
物を認識し 人の感情を判断し
自分の感情を表現し ゲームをし
自分の感情を表現し ゲームをし
04:10
Can we build systems
that recognize objects, identify emotions,
that recognize objects, identify emotions,
89
238880
2976
04:13
emote themselves,
play games and even read lips?
play games and even read lips?
90
241880
3376
唇の動きすら読めるシステムを
作ることはできるのか？
作ることはできるのか？
04:17
Yes.
91
245280
1216
できます
目標を設定し
その実現のための計画を実行し
その実現のための計画を実行し
04:18
Can we build a system that sets goals,
92
246520
2136
04:20
that carries out plans against those goals
and learns along the way?
and learns along the way?
93
248680
3616
その過程で学習するシステムを
作ることはできるのか？
作ることはできるのか？
04:24
Yes.
94
252320
1216
できます
心の理論を備えたシステムを
作ることはできるのか？
作ることはできるのか？
04:25
Can we build systems
that have a theory of mind?
that have a theory of mind?
95
253560
3336
これは我々がやり方を
学ぼうとしていることです
学ぼうとしていることです
04:28
This we are learning to do.
96
256920
1496
04:30
Can we build systems that have
an ethical and moral foundation?
an ethical and moral foundation?
97
258440
3480
倫理的・道徳的基盤を持つシステムを
作ることはできるのか？
作ることはできるのか？
これは我々がやり方を
学ぶ必要のあることです
学ぶ必要のあることです
04:34
This we must learn how to do.
98
262480
2040
このようなミッションや
その他のことための
その他のことための
04:37
So let's accept for a moment
99
265360
1376
04:38
that it's possible to build
such an artificial intelligence
such an artificial intelligence
100
266760
2896
人工知能を作ることは
可能であると
可能であると
認めることにしましょう
04:41
for this kind of mission and others.
101
269680
2136
次に問わなければ
ならないのは
ならないのは
04:43
The next question
you must ask yourself is,
you must ask yourself is,
102
271840
2536
我々はそれを怖れるべきか
ということです
ということです
04:46
should we fear it?
103
274400
1456
04:47
Now, every new technology
104
275880
1976
どんな新技術も
常にある程度の怖れは
引き起こすものです
引き起こすものです
04:49
brings with it
some measure of trepidation.
some measure of trepidation.
105
277880
2896
04:52
When we first saw cars,
106
280800
1696
始めて自動車を
目にした人々は
目にした人々は
04:54
people lamented that we would see
the destruction of the family.
the destruction of the family.
107
282520
4016
家族が壊されるのを見ることに
なるだろうと嘆いたものです
なるだろうと嘆いたものです
04:58
When we first saw telephones come in,
108
286560
2696
始めて電話機を
目にした人々は
目にした人々は
礼儀にかなった会話が
損なわれると懸念したものです
損なわれると懸念したものです
05:01
people were worried it would destroy
all civil conversation.
all civil conversation.
109
289280
2896
05:04
At a point in time we saw
the written word become pervasive,
the written word become pervasive,
110
292200
3936
書かれたもので
溢れるのを見た人々は
溢れるのを見た人々は
05:08
people thought we would lose
our ability to memorize.
our ability to memorize.
111
296160
2496
記憶力が失われるのでは
と思ったものです
と思ったものです
05:10
These things are all true to a degree,
112
298680
2056
ある程度は合っていますが
05:12
but it's also the case
that these technologies
that these technologies
113
300760
2416
そういった技術は
05:15
brought to us things
that extended the human experience
that extended the human experience
114
303200
3376
人間の体験を
根本的に広げてもくれました
05:18
in some profound ways.
115
306600
1880
05:21
So let's take this a little further.
116
309840
2280
さらに話を進めましょう
05:25
I do not fear the creation
of an AI like this,
of an AI like this,
117
313120
4736
私はそのような人工知能を
作ることに怖れは感じません
作ることに怖れは感じません
05:29
because it will eventually
embody some of our values.
embody some of our values.
118
317880
3816
それは人間の価値観を
体現することになるからです
体現することになるからです
05:33
Consider this: building a cognitive system
is fundamentally different
is fundamentally different
119
321720
3496
認知システムを作るのは
従来のソフトウェア中心のシステムを
作るのとは 根本的に異なります
作るのとは 根本的に異なります
05:37
than building a traditional
software-intensive system of the past.
software-intensive system of the past.
120
325240
3296
05:40
We don't program them. We teach them.
121
328560
2456
プログラムするのではなく
教えるのです
教えるのです
05:43
In order to teach a system
how to recognize flowers,
how to recognize flowers,
122
331040
2656
システムに花を
認識させるために
認識させるために
05:45
I show it thousands of flowers
of the kinds I like.
of the kinds I like.
123
333720
3016
私は自分の好きな
何千という花を見せます
何千という花を見せます
05:48
In order to teach a system
how to play a game --
how to play a game --
124
336760
2256
システムにゲームの遊び方を
教えるには —
教えるには —
05:51
Well, I would. You would, too.
125
339040
1960
私だってゲームはしますよ
皆さんもでしょう？
皆さんもでしょう？
花だって好きだし
らしくないですか？
らしくないですか？
05:54
I like flowers. Come on.
126
342600
2040
碁のようなゲームの遊び方を
システムに教えるには
システムに教えるには
05:57
To teach a system
how to play a game like Go,
how to play a game like Go,
127
345440
2856
06:00
I'd have it play thousands of games of Go,
128
348320
2056
碁を何千回も指させ
06:02
but in the process I also teach it
129
350400
1656
その過程で
良い盤面・悪い盤面を
識別する方法を教えます
識別する方法を教えます
06:04
how to discern
a good game from a bad game.
a good game from a bad game.
130
352080
2416
06:06
If I want to create an artificially
intelligent legal assistant,
intelligent legal assistant,
131
354520
3696
人工知能の弁護士助手を
作ろうと思ったら
作ろうと思ったら
06:10
I will teach it some corpus of law
132
358240
1776
法律も教えますが
06:12
but at the same time I am fusing with it
133
360040
2856
同時に法の一部をなす
慈悲や公正の感覚を
吹き込むでしょう
吹き込むでしょう
06:14
the sense of mercy and justice
that is part of that law.
that is part of that law.
134
362920
2880
科学用語では これを
グランドトゥルースと言います
グランドトゥルースと言います
06:18
In scientific terms,
this is what we call ground truth,
this is what we call ground truth,
135
366560
2976
06:21
and here's the important point:
136
369560
2016
重要なのは
そういう機械を作るとき
06:23
in producing these machines,
137
371600
1456
06:25
we are therefore teaching them
a sense of our values.
a sense of our values.
138
373080
3416
我々は自分の価値観を
教えることになるということです
教えることになるということです
06:28
To that end, I trust
an artificial intelligence
an artificial intelligence
139
376520
3136
それだから私は
人工知能を
人工知能を
きちんと訓練された人間と同様に
信頼するのです
信頼するのです
06:31
the same, if not more,
as a human who is well-trained.
as a human who is well-trained.
140
379680
3640
06:36
But, you may ask,
141
384080
1216
でも悪いことをする工作員や
06:37
what about rogue agents,
142
385320
2616
ある種の資金豊富な
非政府組織なんかの
非政府組織なんかの
06:39
some well-funded
nongovernment organization?
nongovernment organization?
143
387960
3336
手にかかったなら？
06:43
I do not fear an artificial intelligence
in the hand of a lone wolf.
in the hand of a lone wolf.
144
391320
3816
一匹狼の扱う人工知能には
怖れを感じません
怖れを感じません
06:47
Clearly, we cannot protect ourselves
against all random acts of violence,
against all random acts of violence,
145
395160
4536
あらゆる暴力から
身を守れるわけではありませんが
身を守れるわけではありませんが
06:51
but the reality is such a system
146
399720
2136
そのようなシステムには
06:53
requires substantial training
and subtle training
and subtle training
147
401880
3096
個人のリソースの範囲を
大きく超えた
大きく超えた
06:57
far beyond the resources of an individual.
148
405000
2296
膨大で精妙なトレーニングが
必要になります
必要になります
さらにそれは 単にインターネットへ
ウィルスを送り込むより
ウィルスを送り込むより
06:59
And furthermore,
149
407320
1216
07:00
it's far more than just injecting
an internet virus to the world,
an internet virus to the world,
150
408560
3256
遙かに大変なことです
07:03
where you push a button,
all of a sudden it's in a million places
all of a sudden it's in a million places
151
411840
3096
ウィルスならボタン１つで
そこら中のパソコンが
そこら中のパソコンが
07:06
and laptops start blowing up
all over the place.
all over the place.
152
414960
2456
突然吹き飛んで
しまうでしょうが
しまうでしょうが
07:09
Now, these kinds of substances
are much larger,
are much larger,
153
417440
2816
そういうたぐいの
実体はずっと大きく
実体はずっと大きく
それがやってくるのは
確かに目にすることになります
確かに目にすることになります
07:12
and we'll certainly see them coming.
154
420280
1715
そういう人工知能が
07:14
Do I fear that such
an artificial intelligence
an artificial intelligence
155
422520
3056
全人類を脅かすのを
怖れるか？
怖れるか？
07:17
might threaten all of humanity?
156
425600
1960
『マトリックス』『メトロポリス』
『ターミネーター』みたいな映画や
『ターミネーター』みたいな映画や
07:20
If you look at movies
such as "The Matrix," "Metropolis,"
such as "The Matrix," "Metropolis,"
157
428280
4376
07:24
"The Terminator,"
shows such as "Westworld,"
shows such as "Westworld,"
158
432680
3176
『ウエストワールド』
みたいな番組を見ると
みたいな番組を見ると
07:27
they all speak of this kind of fear.
159
435880
2136
みんなそのような恐怖を
語っています
語っています
07:30
Indeed, in the book "Superintelligence"
by the philosopher Nick Bostrom,
by the philosopher Nick Bostrom,
160
438040
4296
『スーパーインテリジェンス
(Superintelligence)』という本で
(Superintelligence)』という本で
思想家のニック・ボストロムは
このテーマを取り上げ
このテーマを取り上げ
07:34
he picks up on this theme
161
442360
1536
07:35
and observes that a superintelligence
might not only be dangerous,
might not only be dangerous,
162
443920
4016
人間を超える機械の知能は
危険なだけでなく
危険なだけでなく
07:39
it could represent an existential threat
to all of humanity.
to all of humanity.
163
447960
3856
人類存亡の危機に
つながり得ると見ています
つながり得ると見ています
07:43
Dr. Bostrom's basic argument
164
451840
2216
ボストロム博士の
基本的な議論は
基本的な議論は
07:46
is that such systems will eventually
165
454080
2736
そのようなシステムはやがて
07:48
have such an insatiable
thirst for information
thirst for information
166
456840
3256
抑えがたい情報への渇望を
抱くようになり
抱くようになり
07:52
that they will perhaps learn how to learn
167
460120
2896
学び方を学んで
07:55
and eventually discover
that they may have goals
that they may have goals
168
463040
2616
最終的には人間の要求に
反する目的を
反する目的を
07:57
that are contrary to human needs.
169
465680
2296
持つようになる
ということです
ということです
ボストロム博士には
多くの支持者がいて
多くの支持者がいて
08:00
Dr. Bostrom has a number of followers.
170
468000
1856
08:01
He is supported by people
such as Elon Musk and Stephen Hawking.
such as Elon Musk and Stephen Hawking.
171
469880
4320
その中にはイーロン・マスクや
スティーヴン・ホーキングもいます
スティーヴン・ホーキングもいます
08:06
With all due respect
172
474880
2400
そのような聡明な方々に
恐れながら申し上げると
08:10
to these brilliant minds,
173
478160
2016
08:12
I believe that they
are fundamentally wrong.
are fundamentally wrong.
174
480200
2256
彼らは根本的に
間違っていると思います
間違っていると思います
08:14
Now, there are a lot of pieces
of Dr. Bostrom's argument to unpack,
of Dr. Bostrom's argument to unpack,
175
482480
3176
検討すべきボストロム博士の議論は
沢山ありますが
沢山ありますが
08:17
and I don't have time to unpack them all,
176
485680
2136
全部見ていく
時間はないので
時間はないので
08:19
but very briefly, consider this:
177
487840
2696
ごく簡単に
１点だけ挙げるなら
１点だけ挙げるなら
08:22
super knowing is very different
than super doing.
than super doing.
178
490560
3736
「すごく知っている」のと
「すごいことができる」のとは違うということです
「すごいことができる」のとは違うということです
HALは ディスカバリー号のあらゆる面を
コントロールする限りにおいて
コントロールする限りにおいて
08:26
HAL was a threat to the Discovery crew
179
494320
1896
08:28
only insofar as HAL commanded
all aspects of the Discovery.
all aspects of the Discovery.
180
496240
4416
乗組員にとって脅威でした
08:32
So it would have to be
with a superintelligence.
with a superintelligence.
181
500680
2496
スーパーインテリジェンスも
そうです
そうです
08:35
It would have to have dominion
over all of our world.
over all of our world.
182
503200
2496
それが世界全体を支配している
必要があります
必要があります
08:37
This is the stuff of Skynet
from the movie "The Terminator"
from the movie "The Terminator"
183
505720
2816
スーパーインテリジェンスが
人の意志を支配する
人の意志を支配する
08:40
in which we had a superintelligence
184
508560
1856
『ターミネーター』の世界で
08:42
that commanded human will,
185
510440
1376
スカイネットは世界の
あらゆるデバイスを
あらゆるデバイスを
08:43
that directed every device
that was in every corner of the world.
that was in every corner of the world.
186
511840
3856
操っていました
08:47
Practically speaking,
187
515720
1456
実際のところ
08:49
it ain't gonna happen.
188
517200
2096
そんなことは
起こりません
起こりません
08:51
We are not building AIs
that control the weather,
that control the weather,
189
519320
3056
天気を制御したり
潮の干満を決めたり
潮の干満を決めたり
気まぐれで無秩序な人間を
従わせるような人工知能を
従わせるような人工知能を
08:54
that direct the tides,
190
522400
1336
08:55
that command us
capricious, chaotic humans.
capricious, chaotic humans.
191
523760
3376
我々は作りはしません
08:59
And furthermore, if such
an artificial intelligence existed,
an artificial intelligence existed,
192
527160
3896
もしそのような人工知能が
存在したら
存在したら
09:03
it would have to compete
with human economies,
with human economies,
193
531080
2936
人間の経済と
競合することになり
競合することになり
09:06
and thereby compete for resources with us.
194
534040
2520
リソースを人間と
取り合うことになるでしょう
取り合うことになるでしょう
09:09
And in the end --
195
537200
1216
最終的には
09:10
don't tell Siri this --
196
538440
1240
Siriには内緒ですが
我々は電源プラグを
引っこ抜くことができます
引っこ抜くことができます
09:12
we can always unplug them.
197
540440
1376
09:13
(Laughter)
198
541840
2120
(笑)
09:17
We are on an incredible journey
199
545360
2456
私たちは機械と
共進化していく
共進化していく
09:19
of coevolution with our machines.
200
547840
2496
ものすごい旅の
途上にあります
途上にあります
09:22
The humans we are today
201
550360
2496
今日の人類は
明日の人類とは違っています
09:24
are not the humans we will be then.
202
552880
2536
09:27
To worry now about the rise
of a superintelligence
of a superintelligence
203
555440
3136
人間を超えた人工知能の
台頭を懸念するのは
台頭を懸念するのは
09:30
is in many ways a dangerous distraction
204
558600
3056
コンピューターの台頭自体が
引き起こす
引き起こす
対処を要する
人間や社会の問題から
人間や社会の問題から
09:33
because the rise of computing itself
205
561680
2336
09:36
brings to us a number
of human and societal issues
of human and societal issues
206
564040
3016
注意をそらすことになり
09:39
to which we must now attend.
207
567080
1640
危険です
09:41
How shall I best organize society
208
569360
2816
人間の労働の必要が
減っていく社会を
減っていく社会を
09:44
when the need for human labor diminishes?
209
572200
2336
どうすれば上手く
運営できるのか？
運営できるのか？
09:46
How can I bring understanding
and education throughout the globe
and education throughout the globe
210
574560
3816
理解と教育を
地球全体に広げつつ
地球全体に広げつつ
互いの違いに敬意を払うことは
どうすれば可能か？
どうすれば可能か？
09:50
and still respect our differences?
211
578400
1776
09:52
How might I extend and enhance human life
through cognitive healthcare?
through cognitive healthcare?
212
580200
4256
認知システムによる医療で 人の生涯を
長く豊かなものにするにはどうしたら良いか？
長く豊かなものにするにはどうしたら良いか？
09:56
How might I use computing
213
584480
2856
星々に到るために
コンピューターは
いかに役立てられるか？
いかに役立てられるか？
09:59
to help take us to the stars?
214
587360
1760
10:01
And that's the exciting thing.
215
589760
2040
これはワクワクすることです
10:04
The opportunities to use computing
216
592400
2336
コンピューターを使って
10:06
to advance the human experience
217
594760
1536
人間の体験を
10:08
are within our reach,
218
596320
1416
発展させられる機会が
10:09
here and now,
219
597760
1856
今 手の届くところにあり
10:11
and we are just beginning.
220
599640
1680
それは始まったばかりです
10:14
Thank you very much.
221
602280
1216
ありがとうございました
10:15
(Applause)
222
603520
4286
(拍手)
ABOUT THE SPEAKER
Grady Booch - Scientist, philosopherIBM's Grady Booch is shaping the future of cognitive computing by building intelligent systems that can reason and learn.
Why you should listen
When he was 13, Grady Booch saw 2001: A Space Odyssey in the theaters for the first time. Ever since, he's been trying to build Hal (albeit one without the homicidal tendencies). A scientist, storyteller and philosopher, Booch is Chief Scientist for Software Engineering as well as Chief Scientist for Watson/M at IBM Research, where he leads IBM's research and development for embodied cognition. Having originated the term and the practice of object-oriented design, he is best known for his work in advancing the fields of software engineering and software architecture.
A co-author of the Unified Modeling Language (UML), a founding member of the Agile Allianc, and a founding member of the Hillside Group, Booch has published six books and several hundred technical articles, including an ongoing column for IEEE Software. He's also a trustee for the Computer History Museum, an IBM Fellow, an ACM Fellow and IEEE Fellow. He has been awarded the Lovelace Medal and has given the Turing Lecture for the BCS, and was recently named an IEEE Computer Pioneer.
Booch is currently deeply involved in the development of cognitive systems and is also developing a major trans-media documentary for public broadcast on the intersection of computing and the human experience.
Grady Booch | Speaker | TED.com