TED@IBM
Grady Booch: Don't fear superintelligent AI
Грэйди Буч: Не бойтесь сверхразумного искусственного интеллекта
Filmed:
Readability: 4.7
2,866,438 views
«Новые технологии порождают тревогу, — говорит учёный и философ Грэйди Буч. — Но не нужно бояться всемогущего, бесчувственного ИИ». Буч разоблачает наши худшие страхи о сверхразумных компьютерах, основанные на научной фантастике. Он объясняет, как мы обучим их нашим ценностям (а не запрограммируем). Вместо того, чтобы беспокоиться о маловероятной угрозе нашему существованию, он призывает задуматься о том, как искусственный интеллект поспособствует улучшению человеческой жизни.
Grady Booch - Scientist, philosopher
IBM's Grady Booch is shaping the future of cognitive computing by building intelligent systems that can reason and learn. Full bio
IBM's Grady Booch is shaping the future of cognitive computing by building intelligent systems that can reason and learn. Full bio
Double-click the English transcript below to play the video.
00:12
When I was a kid,
I was the quintessential nerd.
I was the quintessential nerd.
0
760
3840
В детстве я был типичным ботаником.
00:17
I think some of you were, too.
1
5320
2176
Думаю, некоторые из вас тоже.
00:19
(Laughter)
2
7520
1216
(Смех)
00:20
And you, sir, who laughed the loudest,
you probably still are.
you probably still are.
3
8760
3216
А вы, смеётесь громче всех,
наверняка таким и остались.
наверняка таким и остались.
00:24
(Laughter)
4
12000
2256
(Смех)
00:26
I grew up in a small town
in the dusty plains of north Texas,
in the dusty plains of north Texas,
5
14280
3496
Я вырос в маленьком городке
среди равнин Северного Техаса.
среди равнин Северного Техаса.
00:29
the son of a sheriff
who was the son of a pastor.
who was the son of a pastor.
6
17800
3336
Мой отец был шерифом, а дед — пастором.
00:33
Getting into trouble was not an option.
7
21160
1920
Никаких вариантов бедокурить.
00:36
And so I started reading
calculus books for fun.
calculus books for fun.
8
24040
3256
Поэтому ради забавы я начал читать
книги по математическому анализу.
книги по математическому анализу.
00:39
(Laughter)
9
27320
1536
(Смех)
00:40
You did, too.
10
28880
1696
И вы — тоже!
00:42
That led me to building a laser
and a computer and model rockets,
and a computer and model rockets,
11
30600
3736
Благодаря этому я сконструировал
в своей комнате лазер,
в своей комнате лазер,
00:46
and that led me to making
rocket fuel in my bedroom.
rocket fuel in my bedroom.
12
34360
3000
компьютер и модель,
а потом и топливо для ракеты.
а потом и топливо для ракеты.
00:49
Now, in scientific terms,
13
37960
3656
Научный термин для этого —
00:53
we call this a very bad idea.
14
41640
3256
очень плохая идея.
00:56
(Laughter)
15
44920
1216
(Смех)
00:58
Around that same time,
16
46160
2176
Как раз в то время
01:00
Stanley Kubrick's "2001: A Space Odyssey"
came to the theaters,
came to the theaters,
17
48360
3216
вышел фильм Стенли Кубрика
«Космическая одиссея 2001 года»,
«Космическая одиссея 2001 года»,
01:03
and my life was forever changed.
18
51600
2200
он кардинально изменил мою жизнь.
Мне нравилось в этом фильме
абсолютно всё,
абсолютно всё,
01:06
I loved everything about that movie,
19
54280
2056
01:08
especially the HAL 9000.
20
56360
2536
особенно HAL 9000.
01:10
Now, HAL was a sentient computer
21
58920
2056
HAL был разумным компьютером,
01:13
designed to guide the Discovery spacecraft
22
61000
2456
управляющим космическим
кораблём Discovery,
кораблём Discovery,
01:15
from the Earth to Jupiter.
23
63480
2536
направляющимся от Земли к Юпитеру.
01:18
HAL was also a flawed character,
24
66040
2056
У него был небезупречный характер,
01:20
for in the end he chose
to value the mission over human life.
to value the mission over human life.
25
68120
4280
и в итоге человеческой жизни
он предпочёл миссию.
он предпочёл миссию.
HAL был вымышленным персонажем,
01:24
Now, HAL was a fictional character,
26
72840
2096
01:26
but nonetheless he speaks to our fears,
27
74960
2656
но тем не менее, он вызывает страх,
01:29
our fears of being subjugated
28
77640
2096
страх быть порабощённым
01:31
by some unfeeling, artificial intelligence
29
79760
3016
бесчувственным искусственным интеллектом,
01:34
who is indifferent to our humanity.
30
82800
1960
равнодушным к человеку.
01:37
I believe that such fears are unfounded.
31
85880
2576
Я считаю, такие страхи безосновательны.
01:40
Indeed, we stand at a remarkable time
32
88480
2696
В самом деле, мы живём
в удивительное время
в удивительное время
01:43
in human history,
33
91200
1536
в человеческой истории,
01:44
where, driven by refusal to accept
the limits of our bodies and our minds,
the limits of our bodies and our minds,
34
92760
4976
когда, не принимая ограничения
наших тел и нашего разума,
наших тел и нашего разума,
мы создаём механизмы
01:49
we are building machines
35
97760
1696
01:51
of exquisite, beautiful
complexity and grace
complexity and grace
36
99480
3616
изумительной, невероятной
сложности и тонкости,
сложности и тонкости,
01:55
that will extend the human experience
37
103120
2056
которые расширят способности человека
01:57
in ways beyond our imagining.
38
105200
1680
за грани нашего воображения.
Начав карьеру в Академии ВВС,
01:59
After a career that led me
from the Air Force Academy
from the Air Force Academy
39
107720
2576
продолжив в Космическом
командовании ВС США,
командовании ВС США,
02:02
to Space Command to now,
40
110320
1936
02:04
I became a systems engineer,
41
112280
1696
я стал инженером-системотехником.
02:06
and recently I was drawn
into an engineering problem
into an engineering problem
42
114000
2736
А в настоящее время занимаюсь
инженерными разработками,
инженерными разработками,
02:08
associated with NASA's mission to Mars.
43
116760
2576
связанными с миссией НАСА на Марсе.
02:11
Now, in space flights to the Moon,
44
119360
2496
Сейчас в полётах на Луну
02:13
we can rely upon
mission control in Houston
mission control in Houston
45
121880
3136
мы можем полагаться
на управление полётами в Хьюстоне,
на управление полётами в Хьюстоне,
02:17
to watch over all aspects of a flight.
46
125040
1976
чтобы следить за всеми аспектами полёта.
02:19
However, Mars is 200 times further away,
47
127040
3536
Однако Марс в 200 раз дальше Луны,
02:22
and as a result it takes
on average 13 minutes
on average 13 minutes
48
130600
3216
и поэтому сигнал от Земли к Марсу
02:25
for a signal to travel
from the Earth to Mars.
from the Earth to Mars.
49
133840
3136
идёт в среднем 13 минут.
02:29
If there's trouble,
there's not enough time.
there's not enough time.
50
137000
3400
Случись какая-то неполадка,
времени не хватит.
времени не хватит.
02:32
And so a reasonable engineering solution
51
140840
2496
Поэтому разумное инженерное решение —
02:35
calls for us to put mission control
52
143360
2576
разместить центр управления полётами
02:37
inside the walls of the Orion spacecraft.
53
145960
3016
внутри космического корабля Orion.
02:41
Another fascinating idea
in the mission profile
in the mission profile
54
149000
2896
Другая увлекательная идея для миссии —
02:43
places humanoid robots
on the surface of Mars
on the surface of Mars
55
151920
2896
отправить роботов-гуманоидов на Марс
02:46
before the humans themselves arrive,
56
154840
1856
до прилёта людей:
сначала они построят базы,
02:48
first to build facilities
57
156720
1656
02:50
and later to serve as collaborative
members of the science team.
members of the science team.
58
158400
3360
а потом будут помогать научной команде.
02:55
Now, as I looked at this
from an engineering perspective,
from an engineering perspective,
59
163400
2736
Когда я посмотрел на это как инженер,
02:58
it became very clear to me
that what I needed to architect
that what I needed to architect
60
166160
3176
стало ясно, что нужно спроектировать
умный, способный к сотрудничеству,
03:01
was a smart, collaborative,
61
169360
2176
03:03
socially intelligent
artificial intelligence.
artificial intelligence.
62
171560
2376
социально-сознательный
искусственный интеллект.
искусственный интеллект.
03:05
In other words, I needed to build
something very much like a HAL
something very much like a HAL
63
173960
4296
Другими словами, нужно было создать
что-то очень похожее на HAL,
что-то очень похожее на HAL,
03:10
but without the homicidal tendencies.
64
178280
2416
но без склонности к убийствам.
03:12
(Laughter)
65
180720
1360
(Смех)
03:14
Let's pause for a moment.
66
182920
1816
Давайте на минуту остановимся.
03:16
Is it really possible to build
an artificial intelligence like that?
an artificial intelligence like that?
67
184760
3896
Реально ли сделать такой
искусственный интеллект?
искусственный интеллект?
03:20
Actually, it is.
68
188680
1456
Вполне.
Во многом
03:22
In many ways,
69
190160
1256
03:23
this is a hard engineering problem
70
191440
1976
это сложная инженерная задача
03:25
with elements of AI,
71
193440
1456
с использованием ИИ,
03:26
not some wet hair ball of an AI problem
that needs to be engineered.
that needs to be engineered.
72
194920
4696
а не запутанный клубок проблем ИИ,
который нужно распутать.
который нужно распутать.
03:31
To paraphrase Alan Turing,
73
199640
2656
Перефразируя Алана Туринга,
03:34
I'm not interested
in building a sentient machine.
in building a sentient machine.
74
202320
2376
я не собираюсь создавать разумного робота.
03:36
I'm not building a HAL.
75
204720
1576
Я не собираюсь создавать HAL.
03:38
All I'm after is a simple brain,
76
206320
2416
Мне всего лишь нужен простой разум
03:40
something that offers
the illusion of intelligence.
the illusion of intelligence.
77
208760
3120
с иллюзией интеллекта.
03:45
The art and the science of computing
have come a long way
have come a long way
78
213000
3136
Искусство и наука о вычислительной
технике прошли долгий путь
технике прошли долгий путь
03:48
since HAL was onscreen,
79
216160
1496
с появления HAL на экранах,
03:49
and I'd imagine if his inventor
Dr. Chandra were here today,
Dr. Chandra were here today,
80
217680
3216
и я представляю, сколько вопросов
возникло бы у его изобретателя
возникло бы у его изобретателя
03:52
he'd have a whole lot of questions for us.
81
220920
2336
д-ра Чандра, будь он сейчас здесь.
03:55
Is it really possible for us
82
223280
2096
Возможно ли на самом деле
03:57
to take a system of millions
upon millions of devices,
upon millions of devices,
83
225400
4016
взять систему из миллионов устройств,
прочитать их потоки данных,
04:01
to read in their data streams,
84
229440
1456
04:02
to predict their failures
and act in advance?
and act in advance?
85
230920
2256
предугадать их ошибки и заранее исправить?
04:05
Yes.
86
233200
1216
Да.
Можно ли создать механизмы,
которые говорят на человеческом языке?
которые говорят на человеческом языке?
04:06
Can we build systems that converse
with humans in natural language?
with humans in natural language?
87
234440
3176
04:09
Yes.
88
237640
1216
Да.
Создать механизмы, способные
распознавать объекты, эмоции,
распознавать объекты, эмоции,
04:10
Can we build systems
that recognize objects, identify emotions,
that recognize objects, identify emotions,
89
238880
2976
04:13
emote themselves,
play games and even read lips?
play games and even read lips?
90
241880
3376
выражать свои эмоции,
играть и даже читать по губам?
играть и даже читать по губам?
04:17
Yes.
91
245280
1216
Да.
Механизмы, которые смогут
формулировать цели,
формулировать цели,
04:18
Can we build a system that sets goals,
92
246520
2136
04:20
that carries out plans against those goals
and learns along the way?
and learns along the way?
93
248680
3616
составлять планы для их достижения
и учиться в процессе их выполнения?
и учиться в процессе их выполнения?
04:24
Yes.
94
252320
1216
Да.
Можем ли мы создать механизмы,
способные понимать чужое сознание?
способные понимать чужое сознание?
04:25
Can we build systems
that have a theory of mind?
that have a theory of mind?
95
253560
3336
04:28
This we are learning to do.
96
256920
1496
Мы работаем над этим.
04:30
Can we build systems that have
an ethical and moral foundation?
an ethical and moral foundation?
97
258440
3480
Можем ли мы создать механизмы
с этическими и нравственными основами?
с этическими и нравственными основами?
04:34
This we must learn how to do.
98
262480
2040
Это задача для нас на будущее.
Давайте на минуту представим
04:37
So let's accept for a moment
99
265360
1376
04:38
that it's possible to build
such an artificial intelligence
such an artificial intelligence
100
266760
2896
возможность создания
такого искусственного разума
такого искусственного разума
04:41
for this kind of mission and others.
101
269680
2136
именно для таких целей, и не только.
04:43
The next question
you must ask yourself is,
you must ask yourself is,
102
271840
2536
Следующий вопрос, который вы
должны себе задать:
должны себе задать:
04:46
should we fear it?
103
274400
1456
а следует ли нам его бояться?
04:47
Now, every new technology
104
275880
1976
Любая новая технология
04:49
brings with it
some measure of trepidation.
some measure of trepidation.
105
277880
2896
вызывает некоторое беспокойство.
04:52
When we first saw cars,
106
280800
1696
Когда впервые появились автомобили,
04:54
people lamented that we would see
the destruction of the family.
the destruction of the family.
107
282520
4016
люди переживали, что это разрушит семьи.
04:58
When we first saw telephones come in,
108
286560
2696
Когда появились телефоны,
05:01
people were worried it would destroy
all civil conversation.
all civil conversation.
109
289280
2896
люди боялись, что перестанут
общаться вживую.
общаться вживую.
05:04
At a point in time we saw
the written word become pervasive,
the written word become pervasive,
110
292200
3936
В какой-то момент мы увидели,
что распространилась письменность,
что распространилась письменность,
05:08
people thought we would lose
our ability to memorize.
our ability to memorize.
111
296160
2496
и подумали, что потеряем
способность к запоминанию.
способность к запоминанию.
05:10
These things are all true to a degree,
112
298680
2056
В этом есть доля истины,
05:12
but it's also the case
that these technologies
that these technologies
113
300760
2416
но также правда и то, что эти технологии
05:15
brought to us things
that extended the human experience
that extended the human experience
114
303200
3376
привели нас к огромнейшему расширению
05:18
in some profound ways.
115
306600
1880
сознания и возможностей человека.
05:21
So let's take this a little further.
116
309840
2280
Давайте пойдём дальше.
05:25
I do not fear the creation
of an AI like this,
of an AI like this,
117
313120
4736
Я не боюсь появления ИИ
с такими возможностями,
с такими возможностями,
05:29
because it will eventually
embody some of our values.
embody some of our values.
118
317880
3816
потому что со временем он
вберёт в себя наши ценности.
вберёт в себя наши ценности.
05:33
Consider this: building a cognitive system
is fundamentally different
is fundamentally different
119
321720
3496
Подумайте, создание мыслящей
системы принципиально отличается
системы принципиально отличается
05:37
than building a traditional
software-intensive system of the past.
software-intensive system of the past.
120
325240
3296
от создания традиционных систем,
требующих множества программ.
требующих множества программ.
05:40
We don't program them. We teach them.
121
328560
2456
Мы не программируем ИИ. Мы его обучаем.
05:43
In order to teach a system
how to recognize flowers,
how to recognize flowers,
122
331040
2656
Чтобы научить систему распознать цветок,
05:45
I show it thousands of flowers
of the kinds I like.
of the kinds I like.
123
333720
3016
я показываю ей тысячи цветов,
которые нравятся мне.
которые нравятся мне.
05:48
In order to teach a system
how to play a game --
how to play a game --
124
336760
2256
Чтобы научить систему, как играть...
05:51
Well, I would. You would, too.
125
339040
1960
Ну, я бы научил. Вы бы тоже.
05:54
I like flowers. Come on.
126
342600
2040
Ну же! Я люблю цветы.
05:57
To teach a system
how to play a game like Go,
how to play a game like Go,
127
345440
2856
Чтобы научить систему играть,
например, в игру го,
например, в игру го,
06:00
I'd have it play thousands of games of Go,
128
348320
2056
ей нужно сыграть в неё тысячи раз,
06:02
but in the process I also teach it
129
350400
1656
но в процессе я буду обучать её
06:04
how to discern
a good game from a bad game.
a good game from a bad game.
130
352080
2416
отличать хорошую игру от плохой.
06:06
If I want to create an artificially
intelligent legal assistant,
intelligent legal assistant,
131
354520
3696
Если я захочу создать
помощника юриста с ИИ,
помощника юриста с ИИ,
06:10
I will teach it some corpus of law
132
358240
1776
я познакомлю его с законодательством,
06:12
but at the same time I am fusing with it
133
360040
2856
при этом обучая его
06:14
the sense of mercy and justice
that is part of that law.
that is part of that law.
134
362920
2880
милосердию и справедливости,
которые являются частью закона.
которые являются частью закона.
06:18
In scientific terms,
this is what we call ground truth,
this is what we call ground truth,
135
366560
2976
Специалисты называют это
контрольными данными,
контрольными данными,
06:21
and here's the important point:
136
369560
2016
и вот что самое важное:
06:23
in producing these machines,
137
371600
1456
создавая эти машины,
06:25
we are therefore teaching them
a sense of our values.
a sense of our values.
138
373080
3416
мы прививаем им наши ценности.
06:28
To that end, I trust
an artificial intelligence
an artificial intelligence
139
376520
3136
И с этой точки зрения
я доверяю ИИ столь же,
я доверяю ИИ столь же,
06:31
the same, if not more,
as a human who is well-trained.
as a human who is well-trained.
140
379680
3640
если не больше, чем человеку
с хорошим воспитанием.
с хорошим воспитанием.
06:36
But, you may ask,
141
384080
1216
Но вы можете спросить:
06:37
what about rogue agents,
142
385320
2616
а как насчёт неконтролируемых лиц,
06:39
some well-funded
nongovernment organization?
nongovernment organization?
143
387960
3336
например, хорошо финансируемых
неправительственных организаций?
неправительственных организаций?
06:43
I do not fear an artificial intelligence
in the hand of a lone wolf.
in the hand of a lone wolf.
144
391320
3816
Я не боюсь ИИ в руках таких одиночек.
06:47
Clearly, we cannot protect ourselves
against all random acts of violence,
against all random acts of violence,
145
395160
4536
Очевидно, мы не можем защитить себя
от всех случайных актов насилия,
от всех случайных актов насилия,
06:51
but the reality is such a system
146
399720
2136
но на деле такая система требует
06:53
requires substantial training
and subtle training
and subtle training
147
401880
3096
значительной подготовки
и тщательного обучения,
и тщательного обучения,
06:57
far beyond the resources of an individual.
148
405000
2296
что далеко за пределами частных ресурсов.
06:59
And furthermore,
149
407320
1216
Более того,
07:00
it's far more than just injecting
an internet virus to the world,
an internet virus to the world,
150
408560
3256
это сложнее, чем распространить
интернет-вирус по всему миру,
интернет-вирус по всему миру,
07:03
where you push a button,
all of a sudden it's in a million places
all of a sudden it's in a million places
151
411840
3096
когда достаточно нажать кнопку —
и он повсюду,
и он повсюду,
07:06
and laptops start blowing up
all over the place.
all over the place.
152
414960
2456
везде начинают взрываться компьютеры.
07:09
Now, these kinds of substances
are much larger,
are much larger,
153
417440
2816
Эти вещи гораздо глобальнее,
07:12
and we'll certainly see them coming.
154
420280
1715
и мы обязательно их увидим.
07:14
Do I fear that such
an artificial intelligence
an artificial intelligence
155
422520
3056
Боюсь ли я, что такой
искусственный интеллект
искусственный интеллект
07:17
might threaten all of humanity?
156
425600
1960
станет угрозой для человечества?
07:20
If you look at movies
such as "The Matrix," "Metropolis,"
such as "The Matrix," "Metropolis,"
157
428280
4376
Если вспомнить фильмы
«Матрица», «Метрополь»,
«Матрица», «Метрополь»,
«Терминатор», сериал «Западный мир»,
07:24
"The Terminator,"
shows such as "Westworld,"
shows such as "Westworld,"
158
432680
3176
07:27
they all speak of this kind of fear.
159
435880
2136
во всех говорится о подобном страхе.
07:30
Indeed, in the book "Superintelligence"
by the philosopher Nick Bostrom,
by the philosopher Nick Bostrom,
160
438040
4296
Философ Ник Бостром
в книге «Искусственный интеллект»
в книге «Искусственный интеллект»
07:34
he picks up on this theme
161
442360
1536
поднимает эту проблему
07:35
and observes that a superintelligence
might not only be dangerous,
might not only be dangerous,
162
443920
4016
и пишет, что ИИ может
быть не только опасен,
быть не только опасен,
07:39
it could represent an existential threat
to all of humanity.
to all of humanity.
163
447960
3856
он может быть угрозой
существованию человечества.
существованию человечества.
07:43
Dr. Bostrom's basic argument
164
451840
2216
Главный аргумент Бострома:
07:46
is that such systems will eventually
165
454080
2736
со временем у этих машин появится
07:48
have such an insatiable
thirst for information
thirst for information
166
456840
3256
ненасытная жажда информации,
07:52
that they will perhaps learn how to learn
167
460120
2896
они, возможно, научатся
учиться самостоятельно
учиться самостоятельно
07:55
and eventually discover
that they may have goals
that they may have goals
168
463040
2616
и в конце концов обнаружат,
что у них могут быть цели,
что у них могут быть цели,
07:57
that are contrary to human needs.
169
465680
2296
которые противоречат
потребностям человека.
потребностям человека.
08:00
Dr. Bostrom has a number of followers.
170
468000
1856
У Бострома есть последователи.
08:01
He is supported by people
such as Elon Musk and Stephen Hawking.
such as Elon Musk and Stephen Hawking.
171
469880
4320
Его поддерживают такие люди,
как Элон Маск и Стивен Хокинг.
как Элон Маск и Стивен Хокинг.
08:06
With all due respect
172
474880
2400
При всём уважении
08:10
to these brilliant minds,
173
478160
2016
к этим выдающимся умам,
08:12
I believe that they
are fundamentally wrong.
are fundamentally wrong.
174
480200
2256
я всё-таки полагаю, что они ошибаются.
08:14
Now, there are a lot of pieces
of Dr. Bostrom's argument to unpack,
of Dr. Bostrom's argument to unpack,
175
482480
3176
Можно поспорить со многими
аргументами Бострома,
аргументами Бострома,
08:17
and I don't have time to unpack them all,
176
485680
2136
и у меня нет на это времени,
08:19
but very briefly, consider this:
177
487840
2696
но вкратце, знайте,
08:22
super knowing is very different
than super doing.
than super doing.
178
490560
3736
что сверхзнание — не то же самое,
что сверхвозможности.
что сверхвозможности.
08:26
HAL was a threat to the Discovery crew
179
494320
1896
HAL был угрозой для экипажа Discovery
08:28
only insofar as HAL commanded
all aspects of the Discovery.
all aspects of the Discovery.
180
496240
4416
только пока он контролировал
управление Discovery.
управление Discovery.
08:32
So it would have to be
with a superintelligence.
with a superintelligence.
181
500680
2496
То же и с суперинтеллектом.
08:35
It would have to have dominion
over all of our world.
over all of our world.
182
503200
2496
Он должен будет господствовать над миром.
08:37
This is the stuff of Skynet
from the movie "The Terminator"
from the movie "The Terminator"
183
505720
2816
Как Скайнет из фильма «Терминатор»,
08:40
in which we had a superintelligence
184
508560
1856
где суперинтеллект
08:42
that commanded human will,
185
510440
1376
командовал человеком,
08:43
that directed every device
that was in every corner of the world.
that was in every corner of the world.
186
511840
3856
который управлял каждым устройством
в любой части мира.
в любой части мира.
08:47
Practically speaking,
187
515720
1456
На практике
08:49
it ain't gonna happen.
188
517200
2096
такого не произойдёт.
08:51
We are not building AIs
that control the weather,
that control the weather,
189
519320
3056
Мы не создаём ИИ,
который контролирует погоду,
который контролирует погоду,
08:54
that direct the tides,
190
522400
1336
управляет приливами,
08:55
that command us
capricious, chaotic humans.
capricious, chaotic humans.
191
523760
3376
командует нами, непредсказуемыми людьми.
08:59
And furthermore, if such
an artificial intelligence existed,
an artificial intelligence existed,
192
527160
3896
И даже если такой ИИ и появился бы,
09:03
it would have to compete
with human economies,
with human economies,
193
531080
2936
ему пришлось бы иметь дело
с нашей экономикой
с нашей экономикой
09:06
and thereby compete for resources with us.
194
534040
2520
и конкурировать с нами
за владение ресурсами.
за владение ресурсами.
09:09
And in the end --
195
537200
1216
И наконец,
09:10
don't tell Siri this --
196
538440
1240
не говорите об этом Siri.
09:12
we can always unplug them.
197
540440
1376
Всегда можно их отключить.
09:13
(Laughter)
198
541840
2120
(Смех)
09:17
We are on an incredible journey
199
545360
2456
Мы эволюционируем с нашими машинами,
09:19
of coevolution with our machines.
200
547840
2496
и это — невероятное путешествие.
09:22
The humans we are today
201
550360
2496
Человек станет
09:24
are not the humans we will be then.
202
552880
2536
совершенно другим в будущем.
09:27
To worry now about the rise
of a superintelligence
of a superintelligence
203
555440
3136
Беспокоиться из-за суперинтеллекта —
09:30
is in many ways a dangerous distraction
204
558600
3056
во многом опасная трата времени,
09:33
because the rise of computing itself
205
561680
2336
потому что сама компьютеризация
09:36
brings to us a number
of human and societal issues
of human and societal issues
206
564040
3016
поднимает общечеловеческие
и социальные проблемы,
и социальные проблемы,
09:39
to which we must now attend.
207
567080
1640
которые мы должны разрешить.
09:41
How shall I best organize society
208
569360
2816
Как лучше организовать общество,
когда уменьшается необходимость
в человеческом труде?
в человеческом труде?
09:44
when the need for human labor diminishes?
209
572200
2336
09:46
How can I bring understanding
and education throughout the globe
and education throughout the globe
210
574560
3816
Как добиться взаимопонимания
и дать образование всему миру,
и дать образование всему миру,
при этом учитывая различия?
09:50
and still respect our differences?
211
578400
1776
09:52
How might I extend and enhance human life
through cognitive healthcare?
through cognitive healthcare?
212
580200
4256
Как продлить и улучшить жизнь
через разумное здравоохранение?
через разумное здравоохранение?
09:56
How might I use computing
213
584480
2856
Как с помощью компьютеров
09:59
to help take us to the stars?
214
587360
1760
достичь звёзд?
10:01
And that's the exciting thing.
215
589760
2040
И вот это вдохновляет.
10:04
The opportunities to use computing
216
592400
2336
Возможность использовать компьютеры
10:06
to advance the human experience
217
594760
1536
для расширения опыта человека
10:08
are within our reach,
218
596320
1416
вполне достижима
10:09
here and now,
219
597760
1856
здесь и сейчас.
10:11
and we are just beginning.
220
599640
1680
Мы стоим в самом начале пути.
10:14
Thank you very much.
221
602280
1216
Большое спасибо.
10:15
(Applause)
222
603520
4286
(Аплодисменты)
ABOUT THE SPEAKER
Grady Booch - Scientist, philosopherIBM's Grady Booch is shaping the future of cognitive computing by building intelligent systems that can reason and learn.
Why you should listen
When he was 13, Grady Booch saw 2001: A Space Odyssey in the theaters for the first time. Ever since, he's been trying to build Hal (albeit one without the homicidal tendencies). A scientist, storyteller and philosopher, Booch is Chief Scientist for Software Engineering as well as Chief Scientist for Watson/M at IBM Research, where he leads IBM's research and development for embodied cognition. Having originated the term and the practice of object-oriented design, he is best known for his work in advancing the fields of software engineering and software architecture.
A co-author of the Unified Modeling Language (UML), a founding member of the Agile Allianc, and a founding member of the Hillside Group, Booch has published six books and several hundred technical articles, including an ongoing column for IEEE Software. He's also a trustee for the Computer History Museum, an IBM Fellow, an ACM Fellow and IEEE Fellow. He has been awarded the Lovelace Medal and has given the Turing Lecture for the BCS, and was recently named an IEEE Computer Pioneer.
Booch is currently deeply involved in the development of cognitive systems and is also developing a major trans-media documentary for public broadcast on the intersection of computing and the human experience.
Grady Booch | Speaker | TED.com