TED@IBM
Grady Booch: Don't fear superintelligent AI
Grady Booch: Đừng sợ siêu trí tuệ nhân tạo AI
Filmed:
Readability: 4.7
2,866,438 views
Công nghệ mới sinh ra các lo lắng mới, theo nhà triết học và khoa học Grady Booch, nhưng chúng ta không cần sợ một trí tuệ nhân tạo vô cảm, đầy sức mạnh. Booch làm dịu bớt những nỗi sợ hãi về các máy tính siêu trí tuệ bằng việc giải thích cách chúng ta dạy, không phải lập trình, chúng để chia sẽ các giá trị của mình. Thay vì lo lắng về một mối đe dọa gần như không tồn tại, ông ấy giục chúng ta xem xét cách tri tuệ nhân tạo sẽ nâng cao đời sống con người.
Grady Booch - Scientist, philosopher
IBM's Grady Booch is shaping the future of cognitive computing by building intelligent systems that can reason and learn. Full bio
IBM's Grady Booch is shaping the future of cognitive computing by building intelligent systems that can reason and learn. Full bio
Double-click the English transcript below to play the video.
00:12
When I was a kid,
I was the quintessential nerd.
I was the quintessential nerd.
0
760
3840
Khi còn là đứa trẻ,
tôi là con mọt sách chính hiệu.
tôi là con mọt sách chính hiệu.
00:17
I think some of you were, too.
1
5320
2176
Tôi nghĩ ở đây cũng có các bạn như vậy.
00:19
(Laughter)
2
7520
1216
(Cười)
00:20
And you, sir, who laughed the loudest,
you probably still are.
you probably still are.
3
8760
3216
Và bạn, bạn cười to nhất đó,
chắc đúng bạn rồi.
chắc đúng bạn rồi.
00:24
(Laughter)
4
12000
2256
(Cười)
00:26
I grew up in a small town
in the dusty plains of north Texas,
in the dusty plains of north Texas,
5
14280
3496
Tôi lớn lên ở một thị trấn nhỏ
trong vùng đồng bằng bụi bặm bắc Texas,
trong vùng đồng bằng bụi bặm bắc Texas,
00:29
the son of a sheriff
who was the son of a pastor.
who was the son of a pastor.
6
17800
3336
ba tôi là cảnh sát trưởng
và ông nội tôi là một mục sư.
và ông nội tôi là một mục sư.
00:33
Getting into trouble was not an option.
7
21160
1920
Gây ra rắc rối là không được phép.
00:36
And so I started reading
calculus books for fun.
calculus books for fun.
8
24040
3256
Và tôi bắt đầu đọc các sách số học
để cho vui.
để cho vui.
00:39
(Laughter)
9
27320
1536
(Cười)
00:40
You did, too.
10
28880
1696
Bạn cũng vậy chứ.
00:42
That led me to building a laser
and a computer and model rockets,
and a computer and model rockets,
11
30600
3736
Nó đã đưa tôi đến việc tạo ra thiết bị
laser, máy tính và các tên lửa mô hình,
laser, máy tính và các tên lửa mô hình,
00:46
and that led me to making
rocket fuel in my bedroom.
rocket fuel in my bedroom.
12
34360
3000
và đã dẫn dắt tôi tạo ra
nhiên liệu tên lửa trong phòng ngủ.
nhiên liệu tên lửa trong phòng ngủ.
00:49
Now, in scientific terms,
13
37960
3656
Theo thuật ngữ khoa học mà nói,
00:53
we call this a very bad idea.
14
41640
3256
chúng ta gọi nó là một ý tưởng sai lầm.
00:56
(Laughter)
15
44920
1216
(Cười)
00:58
Around that same time,
16
46160
2176
Vào cùng khoảng thời gian đó,
01:00
Stanley Kubrick's "2001: A Space Odyssey"
came to the theaters,
came to the theaters,
17
48360
3216
Ra mắt bộ phim của Stanley Kubrick
"2001: A Space Odyssey",
"2001: A Space Odyssey",
01:03
and my life was forever changed.
18
51600
2200
và cuộc đời tôi đã thay đổi từ đó.
01:06
I loved everything about that movie,
19
54280
2056
Tôi yêu mọi thứ của bộ phim đó,
01:08
especially the HAL 9000.
20
56360
2536
đặc biệt là nhân vật HAL 9000.
01:10
Now, HAL was a sentient computer
21
58920
2056
HAL là một máy tính có tri giác
01:13
designed to guide the Discovery spacecraft
22
61000
2456
được thiết kế để hướng dẫn
phi thuyền Discovery
phi thuyền Discovery
01:15
from the Earth to Jupiter.
23
63480
2536
từ Trái Đất tới sao Mộc.
HAL cũng là một nhân vật có khiếm khuyết,
01:18
HAL was also a flawed character,
24
66040
2056
01:20
for in the end he chose
to value the mission over human life.
to value the mission over human life.
25
68120
4280
vì cuối cùng anh ấy đã lựa chọn đề cao
nhiệm vụ hơn sự sống con người.
nhiệm vụ hơn sự sống con người.
01:24
Now, HAL was a fictional character,
26
72840
2096
HAL là một nhân vật viễn tưởng
01:26
but nonetheless he speaks to our fears,
27
74960
2656
nhưng anh ta vẫn nói lên
nỗi sợ hãi của chúng ta
nỗi sợ hãi của chúng ta
nỗi sợ hãi của việc bị thống trị
01:29
our fears of being subjugated
28
77640
2096
01:31
by some unfeeling, artificial intelligence
29
79760
3016
bởi trí tuệ nhân tạo vô cảm
không quan tâm đến loài người chúng ta.
01:34
who is indifferent to our humanity.
30
82800
1960
01:37
I believe that such fears are unfounded.
31
85880
2576
Tôi tin rằng những nỗi sợ hãi như vậy
là vô căn cứ.
là vô căn cứ.
01:40
Indeed, we stand at a remarkable time
32
88480
2696
Thật vậy, chúng ta đang ở
một thời điểm đáng chú ý
một thời điểm đáng chú ý
01:43
in human history,
33
91200
1536
trong lịch sử loài người,
01:44
where, driven by refusal to accept
the limits of our bodies and our minds,
the limits of our bodies and our minds,
34
92760
4976
nó được thúc đẩy nhờ sự bất mãn với các
giới hạn của cơ thể và trí tuệ chúng ta,
giới hạn của cơ thể và trí tuệ chúng ta,
01:49
we are building machines
35
97760
1696
chúng ta đang tạo ra các cỗ máy
01:51
of exquisite, beautiful
complexity and grace
complexity and grace
36
99480
3616
tinh vi, phức tạp, xinh đẹp và duyên dáng
01:55
that will extend the human experience
37
103120
2056
thứ sẽ mở rộng trải nghiệm
của con người
của con người
theo những cách vượt xa tưởng tượng.
01:57
in ways beyond our imagining.
38
105200
1680
01:59
After a career that led me
from the Air Force Academy
from the Air Force Academy
39
107720
2576
Sau quá trinh công tác từ
Học viện không quân
Học viện không quân
02:02
to Space Command to now,
40
110320
1936
đến công tác tại Không quân đến nay,
02:04
I became a systems engineer,
41
112280
1696
tôi đã trở thành một kỹ sư hệ thống
02:06
and recently I was drawn
into an engineering problem
into an engineering problem
42
114000
2736
và gần đây tôi được tham gia vào
một vấn đề kỹ thuật
một vấn đề kỹ thuật
02:08
associated with NASA's mission to Mars.
43
116760
2576
hỗ trợ cho nhiệm vụ đến sao Hỏa của NASA.
02:11
Now, in space flights to the Moon,
44
119360
2496
Trong các chuyến bay
đến Mặt trăng,
đến Mặt trăng,
chúng ta có thể dựa trên hệ thống
điều khiển nhiệm vụ ở Houston
điều khiển nhiệm vụ ở Houston
02:13
we can rely upon
mission control in Houston
mission control in Houston
45
121880
3136
để quan sát mọi khía cạnh của chuyến bay.
02:17
to watch over all aspects of a flight.
46
125040
1976
02:19
However, Mars is 200 times further away,
47
127040
3536
Tuy nhiên, sao Hỏa thì xa hơn đến 200 lần
và như vậy trung bình phải cần 13 phút
02:22
and as a result it takes
on average 13 minutes
on average 13 minutes
48
130600
3216
02:25
for a signal to travel
from the Earth to Mars.
from the Earth to Mars.
49
133840
3136
để một tín hiệu đi
từ Trái đất đến sao Hỏa.
từ Trái đất đến sao Hỏa.
02:29
If there's trouble,
there's not enough time.
there's not enough time.
50
137000
3400
Nếu có trục trặc, sẽ không đủ thời gian.
02:32
And so a reasonable engineering solution
51
140840
2496
Và do vậy một giải pháp kỹ thuật hợp lý
02:35
calls for us to put mission control
52
143360
2576
đặt ra là cần phải đặt
thiết bị điều khiển nhiệm vụ
thiết bị điều khiển nhiệm vụ
02:37
inside the walls of the Orion spacecraft.
53
145960
3016
ngay bên trong phi thuyền Orion
Một ý tưởng hấp dẫn khác
trong hồ sơ nhiệm vụ
trong hồ sơ nhiệm vụ
02:41
Another fascinating idea
in the mission profile
in the mission profile
54
149000
2896
là đưa các robot giống người
lên bề mặt sao Hỏa
lên bề mặt sao Hỏa
02:43
places humanoid robots
on the surface of Mars
on the surface of Mars
55
151920
2896
02:46
before the humans themselves arrive,
56
154840
1856
trước khi con người đặt chân đến,
02:48
first to build facilities
57
156720
1656
đầu tiên để xây dựng cơ sở hạ tầng
02:50
and later to serve as collaborative
members of the science team.
members of the science team.
58
158400
3360
và sau đó để phục vụ các thành viên
cộng tác của đội ngũ khoa học.
cộng tác của đội ngũ khoa học.
02:55
Now, as I looked at this
from an engineering perspective,
from an engineering perspective,
59
163400
2736
Khi tôi xem xét nó dưới góc độ kỹ thuật,
thì thấy rõ ràng cái mà chúng ta cần
tạo ra
tạo ra
02:58
it became very clear to me
that what I needed to architect
that what I needed to architect
60
166160
3176
03:01
was a smart, collaborative,
61
169360
2176
là một trí tuệ nhân tạo hiểu biết xã hội
03:03
socially intelligent
artificial intelligence.
artificial intelligence.
62
171560
2376
thông minh, dễ cộng tác.
03:05
In other words, I needed to build
something very much like a HAL
something very much like a HAL
63
173960
4296
Nói cách khác, tôi cần tạo ra một thứ
rất giống với một HAL
rất giống với một HAL
nhưng không có khuynh hướng giết người.
03:10
but without the homicidal tendencies.
64
178280
2416
03:12
(Laughter)
65
180720
1360
(Cười)
03:14
Let's pause for a moment.
66
182920
1816
Chúng ta hãy dừng lại trong giây lát.
03:16
Is it really possible to build
an artificial intelligence like that?
an artificial intelligence like that?
67
184760
3896
Thực sự chúng ta có thể tạo ra
một trí tuệ nhân tạo như vậy không?
một trí tuệ nhân tạo như vậy không?
03:20
Actually, it is.
68
188680
1456
Thực ra là có thể.
03:22
In many ways,
69
190160
1256
Theo nhiều cách,
03:23
this is a hard engineering problem
70
191440
1976
đây là một vấn đề khó khăn về kỹ thuật
có liên quan đến AI,
03:25
with elements of AI,
71
193440
1456
chứ không phải một vấn đề lộn xộn về AI
cần được giải quyết.
cần được giải quyết.
03:26
not some wet hair ball of an AI problem
that needs to be engineered.
that needs to be engineered.
72
194920
4696
Để diễn đạt lại theo ý của Alan Turing,
03:31
To paraphrase Alan Turing,
73
199640
2656
tôi không hứng thú tạo ra
một cỗ máy có tri giác.
một cỗ máy có tri giác.
03:34
I'm not interested
in building a sentient machine.
in building a sentient machine.
74
202320
2376
Tôi không tạo ra một HAL.
03:36
I'm not building a HAL.
75
204720
1576
03:38
All I'm after is a simple brain,
76
206320
2416
Cái tôi làm là tạo ra một bộ não đơn giản
mà có thể đem đến ảo giác của trí tuệ.
03:40
something that offers
the illusion of intelligence.
the illusion of intelligence.
77
208760
3120
03:45
The art and the science of computing
have come a long way
have come a long way
78
213000
3136
Nghệ thuật và khoa học điện toán đã
đi được một đoạn đường dài
đi được một đoạn đường dài
kể từ khi HAL trên sóng,
03:48
since HAL was onscreen,
79
216160
1496
và tôi tưởng tượng nếu cha đẻ của
anh ta, Dr. Chandra, ở đây hôm nay,
anh ta, Dr. Chandra, ở đây hôm nay,
03:49
and I'd imagine if his inventor
Dr. Chandra were here today,
Dr. Chandra were here today,
80
217680
3216
03:52
he'd have a whole lot of questions for us.
81
220920
2336
ông ấy sẽ có một loạt câu hỏi
cho chúng ta.
cho chúng ta.
03:55
Is it really possible for us
82
223280
2096
Chúng ta có thể
03:57
to take a system of millions
upon millions of devices,
upon millions of devices,
83
225400
4016
sử dụng một hệ thống gồm hàng triệu
triệu thiết bị,
triệu thiết bị,
04:01
to read in their data streams,
84
229440
1456
để nhập các luồng dữ liệu,
để dự đoán các thất bại và
có hành động trước không?
có hành động trước không?
04:02
to predict their failures
and act in advance?
and act in advance?
85
230920
2256
04:05
Yes.
86
233200
1216
Vâng, có thể.
Ta tạo ra được các hệ thống
giao tiếp bằng ngôn ngữ tự nhiên không?
giao tiếp bằng ngôn ngữ tự nhiên không?
04:06
Can we build systems that converse
with humans in natural language?
with humans in natural language?
87
234440
3176
04:09
Yes.
88
237640
1216
Được.
Ta tạo ra được các hệ thống
nhận diện vật thể, xác định cảm xúc,
nhận diện vật thể, xác định cảm xúc,
04:10
Can we build systems
that recognize objects, identify emotions,
that recognize objects, identify emotions,
89
238880
2976
tự biểu hiện cảm xúc, chơi trò chơi
và thậm chí đọc khẩu hình không?
và thậm chí đọc khẩu hình không?
04:13
emote themselves,
play games and even read lips?
play games and even read lips?
90
241880
3376
Được.
04:17
Yes.
91
245280
1216
Ta tạo ra được hệ thống
tự lập mục tiêu,
tự lập mục tiêu,
04:18
Can we build a system that sets goals,
92
246520
2136
xây dựng kế hoạch lệch với mục tiêu đó
và học hỏi từ quá trình trên không?
và học hỏi từ quá trình trên không?
04:20
that carries out plans against those goals
and learns along the way?
and learns along the way?
93
248680
3616
04:24
Yes.
94
252320
1216
Được
Chúng ta có thể tạo ra các hệ thống
có khả năng nhận thức tư duy không?
có khả năng nhận thức tư duy không?
04:25
Can we build systems
that have a theory of mind?
that have a theory of mind?
95
253560
3336
Cái này chúng ta đang học.
04:28
This we are learning to do.
96
256920
1496
04:30
Can we build systems that have
an ethical and moral foundation?
an ethical and moral foundation?
97
258440
3480
Chúng ta có thể tạo ra các hệ thống
có nền tảng đạo đức và luân lý không?
có nền tảng đạo đức và luân lý không?
04:34
This we must learn how to do.
98
262480
2040
Cái này chúng ta phải học cách làm.
Vậy chúng ta hãy tạm chấp nhận
04:37
So let's accept for a moment
99
265360
1376
rằng có thể tạo ra một hệ thống
trí tuệ nhân tạo như vậy
trí tuệ nhân tạo như vậy
04:38
that it's possible to build
such an artificial intelligence
such an artificial intelligence
100
266760
2896
04:41
for this kind of mission and others.
101
269680
2136
cho kiểu nhiệm vụ này và cả các loại khác.
Câu hỏi tiếp theo mà bạn phải tự hỏi là,
04:43
The next question
you must ask yourself is,
you must ask yourself is,
102
271840
2536
04:46
should we fear it?
103
274400
1456
chúng ta có nên sợ nó?
Thực chất, mọi công nghệ mới
04:47
Now, every new technology
104
275880
1976
đều đem đến sự lo lắng ở mức độ nào đó.
04:49
brings with it
some measure of trepidation.
some measure of trepidation.
105
277880
2896
Khi chúng ta thấy xe hơi lần đầu,
04:52
When we first saw cars,
106
280800
1696
người ta đã than phiền rằng nó sẽ
hủy hoại gia đình.
hủy hoại gia đình.
04:54
people lamented that we would see
the destruction of the family.
the destruction of the family.
107
282520
4016
04:58
When we first saw telephones come in,
108
286560
2696
Khi điện thoại lần đầu xuất hiện,
05:01
people were worried it would destroy
all civil conversation.
all civil conversation.
109
289280
2896
người ta đã lo lắng nó sẽ hủy hoại
việc giao lưu trò chuyện.
việc giao lưu trò chuyện.
Đã có lúc khi chữ viết trở nên phổ biến,
05:04
At a point in time we saw
the written word become pervasive,
the written word become pervasive,
110
292200
3936
05:08
people thought we would lose
our ability to memorize.
our ability to memorize.
111
296160
2496
người ta đã nghĩ
chúng ta sẽ mất khả năng ghi nhớ.
chúng ta sẽ mất khả năng ghi nhớ.
05:10
These things are all true to a degree,
112
298680
2056
Tất cả lo sợ đó đều đúng ở mức độ nào đó,
nhưng những công nghệ này cũng
05:12
but it's also the case
that these technologies
that these technologies
113
300760
2416
05:15
brought to us things
that extended the human experience
that extended the human experience
114
303200
3376
mang đến chúng ta những thứ
đã mở rộng trải nghiệm của con người
đã mở rộng trải nghiệm của con người
05:18
in some profound ways.
115
306600
1880
một cách sâu sắc.
05:21
So let's take this a little further.
116
309840
2280
Chúng ta hãy nói thêm về nó một chút.
Tôi không sợ việc một AI như vậy
được tạo ra,
được tạo ra,
05:25
I do not fear the creation
of an AI like this,
of an AI like this,
117
313120
4736
bởi vì cuối cùng nó vẫn sẽ là hiện thân
một số giá trị của chúng ta.
một số giá trị của chúng ta.
05:29
because it will eventually
embody some of our values.
embody some of our values.
118
317880
3816
Hãy nghĩ thế này: xây dựng một hệ thống
có nhận thức về cơ bản là khác với
có nhận thức về cơ bản là khác với
05:33
Consider this: building a cognitive system
is fundamentally different
is fundamentally different
119
321720
3496
05:37
than building a traditional
software-intensive system of the past.
software-intensive system of the past.
120
325240
3296
xây dựng một hệ thống phần mềm chuyên sâu
truyền thống như trước đây.
truyền thống như trước đây.
05:40
We don't program them. We teach them.
121
328560
2456
Ta không lập trình nó. Ta dạy nó.
Để dạy một hệ thống nhận biết
các bông hoa,
các bông hoa,
05:43
In order to teach a system
how to recognize flowers,
how to recognize flowers,
122
331040
2656
Tôi cho nó xem hàng nghìn bông hoa
thuộc những loại tôi thích.
thuộc những loại tôi thích.
05:45
I show it thousands of flowers
of the kinds I like.
of the kinds I like.
123
333720
3016
Để dạy một hệ thống cách chơi trò chơi--
05:48
In order to teach a system
how to play a game --
how to play a game --
124
336760
2256
05:51
Well, I would. You would, too.
125
339040
1960
Vâng, tôi sẽ làm thế. Bạn cũng sẽ thôi.
05:54
I like flowers. Come on.
126
342600
2040
Tôi thích hoa mà. Nào mọi người.
05:57
To teach a system
how to play a game like Go,
how to play a game like Go,
127
345440
2856
Để dạy một hệ thống chơi game
như Go chẳng hạn,
như Go chẳng hạn,
Tôi sẽ cho nó chơi hàng nghìn ván Go,
06:00
I'd have it play thousands of games of Go,
128
348320
2056
06:02
but in the process I also teach it
129
350400
1656
trong quá trình đó tôi cũng dạy nó
06:04
how to discern
a good game from a bad game.
a good game from a bad game.
130
352080
2416
cách phân biệt
ván chơi hay và ván chơi dở.
ván chơi hay và ván chơi dở.
06:06
If I want to create an artificially
intelligent legal assistant,
intelligent legal assistant,
131
354520
3696
Nếu tôi muốn tạo ra một trợ lý pháp lý
thông minh nhân tạo,
thông minh nhân tạo,
06:10
I will teach it some corpus of law
132
358240
1776
Tôi sẽ dạy nó một số tập sách luật
nhưng đồng thời tôi sẽ lồng ghép vào đó
06:12
but at the same time I am fusing with it
133
360040
2856
06:14
the sense of mercy and justice
that is part of that law.
that is part of that law.
134
362920
2880
ý thức về lòng thương người và công lý
là một phần của luật.
là một phần của luật.
06:18
In scientific terms,
this is what we call ground truth,
this is what we call ground truth,
135
366560
2976
Theo thuật ngữ khoa học,
ta gọi nó là sự thật nền móng,
ta gọi nó là sự thật nền móng,
và đây là điểm quan trọng:
06:21
and here's the important point:
136
369560
2016
06:23
in producing these machines,
137
371600
1456
khi sản xuất các cỗ máy này,
06:25
we are therefore teaching them
a sense of our values.
a sense of our values.
138
373080
3416
chúng ta đang dạy chúng ý thức
về các giá trị của chúng ta.
về các giá trị của chúng ta.
06:28
To that end, I trust
an artificial intelligence
an artificial intelligence
139
376520
3136
Do vậy, tôi tin tưởng vào
một trí tuệ nhân tạo
một trí tuệ nhân tạo
06:31
the same, if not more,
as a human who is well-trained.
as a human who is well-trained.
140
379680
3640
bằng với, nếu không muốn nói hơn cả,
một con người được giáo dục tốt.
một con người được giáo dục tốt.
06:36
But, you may ask,
141
384080
1216
Nhưng bạn có thể sẽ hỏi,
06:37
what about rogue agents,
142
385320
2616
thế còn các tổ chức biến tướng thì sao,
06:39
some well-funded
nongovernment organization?
nongovernment organization?
143
387960
3336
một tổ chức phi chính phủ
lắm tiền nào đấy chẳng hạn?
lắm tiền nào đấy chẳng hạn?
Tôi không sợ một trí tuệ nhân tạo
trong tay một kẻ đơn độc.
trong tay một kẻ đơn độc.
06:43
I do not fear an artificial intelligence
in the hand of a lone wolf.
in the hand of a lone wolf.
144
391320
3816
06:47
Clearly, we cannot protect ourselves
against all random acts of violence,
against all random acts of violence,
145
395160
4536
Rõ ràng, chúng ta không thể bảo vệ mình
trước những hành động bạo lực bất ngờ,
trước những hành động bạo lực bất ngờ,
06:51
but the reality is such a system
146
399720
2136
nhưng trong thực tế một hệ thống như vậy
06:53
requires substantial training
and subtle training
and subtle training
147
401880
3096
yêu cầu sự đào tạo cơ bản
và đào tạo tinh vi
và đào tạo tinh vi
06:57
far beyond the resources of an individual.
148
405000
2296
vượt xa các nguồn lực của một cá nhân.
06:59
And furthermore,
149
407320
1216
Và hơn nữa,
07:00
it's far more than just injecting
an internet virus to the world,
an internet virus to the world,
150
408560
3256
nó không giống như việc phát tán
virus qua mạng ra khắp thế giới,
virus qua mạng ra khắp thế giới,
07:03
where you push a button,
all of a sudden it's in a million places
all of a sudden it's in a million places
151
411840
3096
kiểu bạn chỉ ấn một phím,
nó đã lan ra một triệu vị trí
nó đã lan ra một triệu vị trí
và laptop bắt đầu nổ tanh bành
khắp mọi nơi.
khắp mọi nơi.
07:06
and laptops start blowing up
all over the place.
all over the place.
152
414960
2456
Những chuyện thế này lớn hơn rất nhiều,
07:09
Now, these kinds of substances
are much larger,
are much larger,
153
417440
2816
và chắc chắn ta
sẽ dự đoán trước được.
sẽ dự đoán trước được.
07:12
and we'll certainly see them coming.
154
420280
1715
07:14
Do I fear that such
an artificial intelligence
an artificial intelligence
155
422520
3056
Tôi có sợ rằng
một trí tuệ nhân tạo như vậy
một trí tuệ nhân tạo như vậy
07:17
might threaten all of humanity?
156
425600
1960
có thể đe dọa toàn nhân loại hay không?
07:20
If you look at movies
such as "The Matrix," "Metropolis,"
such as "The Matrix," "Metropolis,"
157
428280
4376
Nếu bạn nhìn vào các bộ phim
như "The Matrix," "Metropolis,"
như "The Matrix," "Metropolis,"
07:24
"The Terminator,"
shows such as "Westworld,"
shows such as "Westworld,"
158
432680
3176
"The Terminator,"
các chương trình như "Westworld,"
các chương trình như "Westworld,"
07:27
they all speak of this kind of fear.
159
435880
2136
chúng đều nói về nỗi sợ hãi này.
07:30
Indeed, in the book "Superintelligence"
by the philosopher Nick Bostrom,
by the philosopher Nick Bostrom,
160
438040
4296
Thực vậy, trong cuốn "Siêu trí tuệ"
của triết gia Nick Bostrom,
của triết gia Nick Bostrom,
ông đề cập đến chủ đề này
07:34
he picks up on this theme
161
442360
1536
07:35
and observes that a superintelligence
might not only be dangerous,
might not only be dangerous,
162
443920
4016
và nhận ra rằng một siêu trí tuệ
có thể không chỉ nguy hiểm,
có thể không chỉ nguy hiểm,
mà còn có thể đại diện cho một
mối đe dọa sống còn với toàn nhân loại.
mối đe dọa sống còn với toàn nhân loại.
07:39
it could represent an existential threat
to all of humanity.
to all of humanity.
163
447960
3856
Lý lẽ chủ yếu của Dr. Bostrom
07:43
Dr. Bostrom's basic argument
164
451840
2216
07:46
is that such systems will eventually
165
454080
2736
là các hệ thống như vậy cuối cùng sẽ
07:48
have such an insatiable
thirst for information
thirst for information
166
456840
3256
có một cơn khát thông tin vô độ;
là chúng có lẽ sẽ học cách để học
07:52
that they will perhaps learn how to learn
167
460120
2896
07:55
and eventually discover
that they may have goals
that they may have goals
168
463040
2616
và cuối cùng khám phá ra rằng
chúng có các mục tiêu
chúng có các mục tiêu
07:57
that are contrary to human needs.
169
465680
2296
trái ngược với nhu cầu con người.
08:00
Dr. Bostrom has a number of followers.
170
468000
1856
Có một số người ủng hộ Dr. Bostrom.
08:01
He is supported by people
such as Elon Musk and Stephen Hawking.
such as Elon Musk and Stephen Hawking.
171
469880
4320
Ông ấy được ủng hộ bởi những người như
Elon Musk và Stephen Hawking.
Elon Musk và Stephen Hawking.
08:06
With all due respect
172
474880
2400
Dù rất kính trọng
08:10
to these brilliant minds,
173
478160
2016
những bộ óc lỗi lạc này,
08:12
I believe that they
are fundamentally wrong.
are fundamentally wrong.
174
480200
2256
tôi tin rằng họ về căn bản đều sai.
08:14
Now, there are a lot of pieces
of Dr. Bostrom's argument to unpack,
of Dr. Bostrom's argument to unpack,
175
482480
3176
Có rất nhiều lý lẽ của
Dr. Bostrom cần được mổ xẻ
Dr. Bostrom cần được mổ xẻ
08:17
and I don't have time to unpack them all,
176
485680
2136
và tôi không có thời gian để mổ xẻ tất cả,
08:19
but very briefly, consider this:
177
487840
2696
nhưng rất ngắn gọn, hãy nghĩ thế này:
08:22
super knowing is very different
than super doing.
than super doing.
178
490560
3736
biết nhiều khác với làm nhiều.
08:26
HAL was a threat to the Discovery crew
179
494320
1896
HAL là một mối đe dọa với tàu Discovery
08:28
only insofar as HAL commanded
all aspects of the Discovery.
all aspects of the Discovery.
180
496240
4416
chỉ trong điều kiện HAL được chỉ huy
toàn bộ tàu Discovery.
toàn bộ tàu Discovery.
08:32
So it would have to be
with a superintelligence.
with a superintelligence.
181
500680
2496
Nghĩa là chúng ta xét về một siêu trí tuệ.
08:35
It would have to have dominion
over all of our world.
over all of our world.
182
503200
2496
Nó sẽ phải có quyền chi phối
toàn thế giới chúng ta.
toàn thế giới chúng ta.
08:37
This is the stuff of Skynet
from the movie "The Terminator"
from the movie "The Terminator"
183
505720
2816
Đây là trường hợp của Skynet
trong phim "The Terminator"
trong phim "The Terminator"
08:40
in which we had a superintelligence
184
508560
1856
trong đó chúng ta có một siêu trí tuệ
có thể chỉ huy ý chí con người,
08:42
that commanded human will,
185
510440
1376
08:43
that directed every device
that was in every corner of the world.
that was in every corner of the world.
186
511840
3856
điều khiển mọi thiết bị
ở mọi ngõ ngách của thể giới.
ở mọi ngõ ngách của thể giới.
08:47
Practically speaking,
187
515720
1456
Thực tế mà nói,
08:49
it ain't gonna happen.
188
517200
2096
điều đó sẽ không xảy ra.
08:51
We are not building AIs
that control the weather,
that control the weather,
189
519320
3056
Chúng ta sẽ không tạo ra các AI
kiểm soát được thời tiết,
kiểm soát được thời tiết,
điều khiển được thủy triều,
08:54
that direct the tides,
190
522400
1336
08:55
that command us
capricious, chaotic humans.
capricious, chaotic humans.
191
523760
3376
hay chỉ huy được loài người
lộn xộn thất thường chúng ta.
lộn xộn thất thường chúng ta.
08:59
And furthermore, if such
an artificial intelligence existed,
an artificial intelligence existed,
192
527160
3896
Và hơn nữa,
nếu một trí tuệ nhân tạo như vậy tồn tại,
nếu một trí tuệ nhân tạo như vậy tồn tại,
09:03
it would have to compete
with human economies,
with human economies,
193
531080
2936
nó sẽ phải cạnh tranh
với nền kinh tế nhân loại,
với nền kinh tế nhân loại,
09:06
and thereby compete for resources with us.
194
534040
2520
và từ đó cạnh tranh với chúng ta
giành các nguồn lực.
giành các nguồn lực.
09:09
And in the end --
195
537200
1216
Và cuối cùng thì --
09:10
don't tell Siri this --
196
538440
1240
đừng nói với Siri nhé --
09:12
we can always unplug them.
197
540440
1376
ta luôn có thể rút dây điện.
09:13
(Laughter)
198
541840
2120
(Cười)
09:17
We are on an incredible journey
199
545360
2456
Chúng ta đang ở trên
một hành trình khó tin
một hành trình khó tin
09:19
of coevolution with our machines.
200
547840
2496
cùng tiến hóa với các cỗ máy của mình.
09:22
The humans we are today
201
550360
2496
Loài người chúng ta hôm nay
09:24
are not the humans we will be then.
202
552880
2536
sẽ không phải là
loài người chúng ta sau này.
loài người chúng ta sau này.
09:27
To worry now about the rise
of a superintelligence
of a superintelligence
203
555440
3136
Lo lắng lúc này về sự phát triển
của một siêu trí tuệ
của một siêu trí tuệ
09:30
is in many ways a dangerous distraction
204
558600
3056
theo nhiều cách
là một sự phân tâm nguy hiểm
là một sự phân tâm nguy hiểm
09:33
because the rise of computing itself
205
561680
2336
bởi vì sự phát triển của điện toán tự nó
09:36
brings to us a number
of human and societal issues
of human and societal issues
206
564040
3016
cũng đã đem đến nhiều vấn đề
về con người và xã hội
về con người và xã hội
mà chúng ta giờ đây phải chú ý tới.
09:39
to which we must now attend.
207
567080
1640
09:41
How shall I best organize society
208
569360
2816
Chúng ta sẽ tổ chức xã hội
một cách tốt nhất như thế nào
một cách tốt nhất như thế nào
09:44
when the need for human labor diminishes?
209
572200
2336
khi nhu cầu về
sức lao động con người giảm đi?
sức lao động con người giảm đi?
09:46
How can I bring understanding
and education throughout the globe
and education throughout the globe
210
574560
3816
Làm thế nào tôi có thể đem sự hiểu biết
và giáo dục đi khắp thế giới
và giáo dục đi khắp thế giới
09:50
and still respect our differences?
211
578400
1776
và vẫn tôn trọng sự khác biệt?
09:52
How might I extend and enhance human life
through cognitive healthcare?
through cognitive healthcare?
212
580200
4256
Làm sao tôi có thể mở rộng và nâng cao đời
sống qua chăm sóc sức khỏe có nhận thức?
sống qua chăm sóc sức khỏe có nhận thức?
09:56
How might I use computing
213
584480
2856
Tôi có thể sử dụng điện toán như thế nào
09:59
to help take us to the stars?
214
587360
1760
để giúp đưa người lên các vì sao?
10:01
And that's the exciting thing.
215
589760
2040
Và đó là điều thú vị.
10:04
The opportunities to use computing
216
592400
2336
Các cơ hội sử dụng điện toán
10:06
to advance the human experience
217
594760
1536
để nâng cao trải nghiệm
10:08
are within our reach,
218
596320
1416
đang trong tầm tay chúng ta,
10:09
here and now,
219
597760
1856
ở đây và bây giờ,
10:11
and we are just beginning.
220
599640
1680
và chúng ta chỉ vừa bắt đầu.
10:14
Thank you very much.
221
602280
1216
Xin cám ơn rất nhiều.
10:15
(Applause)
222
603520
4286
(Vỗ tay)
ABOUT THE SPEAKER
Grady Booch - Scientist, philosopherIBM's Grady Booch is shaping the future of cognitive computing by building intelligent systems that can reason and learn.
Why you should listen
When he was 13, Grady Booch saw 2001: A Space Odyssey in the theaters for the first time. Ever since, he's been trying to build Hal (albeit one without the homicidal tendencies). A scientist, storyteller and philosopher, Booch is Chief Scientist for Software Engineering as well as Chief Scientist for Watson/M at IBM Research, where he leads IBM's research and development for embodied cognition. Having originated the term and the practice of object-oriented design, he is best known for his work in advancing the fields of software engineering and software architecture.
A co-author of the Unified Modeling Language (UML), a founding member of the Agile Allianc, and a founding member of the Hillside Group, Booch has published six books and several hundred technical articles, including an ongoing column for IEEE Software. He's also a trustee for the Computer History Museum, an IBM Fellow, an ACM Fellow and IEEE Fellow. He has been awarded the Lovelace Medal and has given the Turing Lecture for the BCS, and was recently named an IEEE Computer Pioneer.
Booch is currently deeply involved in the development of cognitive systems and is also developing a major trans-media documentary for public broadcast on the intersection of computing and the human experience.
Grady Booch | Speaker | TED.com