Nick Bostrom: What happens when our computers get smarter than we are?
Nick Bostrom: Điều gì xảy ra khi máy tính thông minh hơn chúng ta ?
Nick Bostrom asks big questions: What should we do, as individuals and as a species, to optimize our long-term prospects? Will humanity’s technological advancements ultimately destroy us? Full bio
Double-click the English transcript below to play the video.
philosophers and computer scientists,
toán học, triết học, khoa học máy tính;
the future of machine intelligence,
tương lai của trí thông minh nhân tạo,
things are sort of science fiction-y,
chỉ có trong khoa học viễn tưởng,
human condition.
con người hiện nay.
mới đặt chân đến hành tinh này
guests on this planet,
was created one year ago,
hình thành 1 năm trước
would be 10 minutes old.
mới xuất hiện được 10 phút.
two seconds ago.
2 giây trước.
world GDP over the last 10,000 years,
là GDP của thế giới trong 10.000 năm qua,
to plot this for you in a graph.
mô tả nó cho bạn dưới dạng biểu đồ
for a normal condition.
trông nó kỳ lạ thật.
không ai muốn ngồi trên đó.
of this current anomaly?
của sự dị thường này?
through human history,
trong suốt lịch sử loài người,
advances extremely rapidly --
với tốc độ cực nhanh.
so very productive.
lại sản xuất hiệu quả như thế
to the ultimate cause.
để tìm nguyên nhân sâu xa.
distinguished gentlemen:
rất rất khác biệt này
tokens, an incredible feat.
quả là một thành tích đáng kinh ngạc.
superstring revolution.
cách mạng siêu dây lần 2.
this is what we find:
đây là điều chúng ta tìm thấy;
in the exact way it's wired.
trong cách nó được tạo ra.
be too complicated, however,
không quá phức tạp, tuy nhiên,
been 250,000 generations
250.000 thế hệ
take a long time to evolve.
đều mất 1 thời gian dài để tiến hóa
to intercontinental ballistic missiles.
và tên lửa đạn đạo xuyên lục địa
that everything we've achieved,
rõ ràng rằng những điều chúng ta từng đạt được
changes that made the human mind.
tương đối nhỏ làm nên trí óc con người
is that any further changes
bất kỳ những thay đổi xa hơn
the substrate of thinking
nền tảng suy nghĩ
enormous consequences.
tiềm năng rất lớn
think we're on the verge
nghĩ rằng chúng ta đang tiếp cận
a profound change in that substrate,
thay đổi sâu sắc trong nền tảng ấy
about putting commands in a box.
để đưa những chỉ thị vào máy tính (hộp)
handcraft knowledge items.
những vật dụng có hiểu biết
for some purposes,
cho vài mục đích;
you couldn't scale them.
bạn không thể cạo gỉ cho chúng
what you put in.
thì đầu ra như thế
in the field of artificial intelligence.
, trong lĩnh vực trí tuệ nhân tạo.
around machine learning.
xoay quanh việc học của máy tính
representations and features,
mô tả có hiểu biết một cách thủ công,
often from raw perceptual data.
hỏi, thường là từ các dữ liệu tri giác thô
that the human infant does.
trẻ sơ sinh thực hiện.
limited to one domain --
không bị bó buộc trong 1 phạm vi --
between any pairs of languages,
bất kỳ cặp ngôn ngữ nào,
on the Atari console.
máy tính nào trên bảng điều khiển Atari
the same powerful, cross-domain
khả năng học tập và lên kế hoạch
as a human being has.
mà con người có
algorithmic tricks
mẹo toán học
how to match in machines.
làm sao để tạo ra bằng máy móc
to match those tricks?
mới có thể bắt kịp những mẹo này?
leading A.I. experts,
vài chuyên gia thế giới về AI
and one of the questions we asked was,
và 1 trong những điều chúng tôi hỏi là
there is a 50 percent probability
sẽ có khả năng 50%
human-level machine intelligence?"
nhân tạo ở cấp độ con người?"
as the ability to perform
ở đây là khả năng thực hiện
as an adult human,
như 1 người lớn,
within some limited domain.
chứ không chỉ giới hạn trong vài lĩnh vực.
là năm 2040 hoặc 2050
group of experts we asked.
chuyên gia mà chúng tôi hỏi.
much later, or sooner,
hoặc muộn hơn rất nhiều,
limit to information processing
giới hạn cao nhất cho việc xử lý thông tin
the limits in biological tissue.
ngoài những giới hạn trong mô sinh học.
at 200 hertz, 200 times a second.
chẳng hạn, ở 200 Hz, 200 lần/ giây
operates at the Gigahertz.
vận hành với đơn vị Gigahertz
100 meters per second, tops.
sợi trục thần kinh, với vận tốc cao nhất là 100 m/s
at the speed of light.
với vận tốc ánh sáng
to fit inside a cranium,
vừa hộp sọ,
of a warehouse or larger.
nhà kho hoặc hơn
lies dormant in matter,
nằm im lìm trong vật chất,
lay dormant throughout human history,
nằm im lìm xuyên suốt lịch sử loài người,
the power of artificial intelligence.
thức tỉnh năng lực của trí tuệ nhân tạo.
an intelligence explosion.
một cuộc bùng nổ trí tuệ.
about what is smart and what is dumb,
trí khôn và sự ngu ngốc,
roughly like this.
giống như thế này.
ở đầu bên kia
or whoever your favorite guru is.
hay bất kỳ guru ưa thích nào của bạn.
of artificial intelligence,
trí thông minh nhân tạo,
probably more like this:
trông lại giống như thế này:
at zero intelligence,
từ chỗ không có gì,
years of really hard work,
nỗ lực vất vả,
mouse-level artificial intelligence,
trí tuệ nhân tạo ở mức độ loài chuột,
cluttered environments
những môi trường hỗn loạn
of really hard work, lots of investment,
lao động vất vả, đầu tư rất nhiều tiền của,
chimpanzee-level artificial intelligence.
có được AI ở mức độ tinh tinh.
of really, really hard work,
với rất nhiều, rất nhiều nỗ lực,
artificial intelligence.
nhân tạo như của kẻ ngốc.
we are beyond Ed Witten.
chúng ta sẽ vượt qua Ed Witten.
at Humanville Station.
tại trạm Con người.
nó vẫn tiến về phía trước.
to questions of power.
những câu hỏi về quyền lực.
twice as strong as a fit human male.
khỏe gấp đôi 1 người cân đối.
and his pals depends a lot more
người bạn của nó phụ thuộc nhiều
what the chimpanzees do themselves.
hơn là điều mà tinh tinh làm.
on what the superintelligence does.
vào điều mà siêu trí tuệ sẽ làm.
that humanity will ever need to make.
phát kiến cuối cùng mà con người cần tạo ra.
at inventing than we are,
giỏi hơn chúng ta,
on digital timescales.
ở thang thời gian số.
a telescoping of the future.
một lăng kính về tương lai.
that you could have imagined
mà bạn có thể tưởng tượng ra
in the fullness of time:
trong toàn bộ thời gian:
sinh sống trên vũ trụ,
of minds into computers,
upload trí óc chúng ta vào máy tính,
tiểu thuyết viễn tưởng
with the laws of physics.
với các luật vật lý.
develop, and possibly quite rapidly.
phát triển, có lẽ là khá nhanh chóng.
technological maturity
độ trưởng thành công nghệ như thế
it would be able to get what it wants.
nó có thể đạt được điều nó muốn.
be shaped by the preferences of this A.I.
được định hình theo ưu tiên của A.I này.
what are those preferences?
những ưu tiên đó là gì?
avoid anthropomorphizing.
tránh việc nhân cách hóa.
mọi bài viết trên mặt báo
every newspaper article
has a picture of this:
đều đưa ra tình huống thế này:
to conceive of the issue more abstractly,
tiếp nhận vấn đề 1 cách trừu tượng hơn,
như những cảnh tượng trên Hollywood.
as an optimization process,
như 1 quá trình tối ưu hóa,
into a particular set of configurations.
vào 1 bộ những cấu hình nhất định.
a really strong optimization process.
tối ưu hóa thực sự mạnh mẽ.
available means to achieve a state
phương tiện sẵn có để đạt được trạng thái
được thực hiện.
conenction between
sự liên hệ giữa
would find worthwhile or meaningful.
có thể thấy là đáng giá hoặc ý nghĩa.
to make humans smile.
mục tiêu là làm cho con người cười.
or amusing actions
các hành động có ích, hài hước
effective way to achieve this goal:
hơn nữa để đạt được mục tiêu này:
muscles of humans
các cơ mặt của con người
rạng rỡ, bất biến.
a difficult mathematical problem.
giải quyết 1 vấn đề toán học khó khăn.
to get the solution to this problem
giải quyết vấn đề này
into a giant computer,
thành 1 máy tính khổng lồ
an instrumental reason
1 lý do thuộc về phương tiện
might not approve of.
mà chúng ta có thể không đồng ý.
là mối đe dọa,
problem from being solved.
toán học đó được giải quyết.
go wrong in these particular ways;
lầm lạc theo đúng những hướng này;
optimization process
thực sự quyền lực
that your definition of x
định nghĩa của bạn về x
bạn quan tâm tới.
in many a myth.
thần thoại sau đây.
he touches be turned into gold.
chạm vào đều biến thành vàng.
she turns into gold.
cô biến thành vàng.
chúng biến thành vàng.
optimization process
tối ưu hóa mạnh mẽ
or poorly specified goals.
sai nhận thức hoặc không được định rõ.
sticking electrodes into people's faces,
cắm điện cực vào mặt con người,
if we've grown dependent on the system --
chúng ta trở nên phụ thuộc vào máy móc-
to the Internet?
tắt nguồn Internet?
flicked the off switch to humanity,
tắt công tắc chuyển sang loài người,
for example, right here.
ví dụ, ở ngay đây.
an intelligent adversary;
một đối thủ thông minh;
and plan around them.
nguy cơ và lên kế hoạch.
có thể làm điều tương tự,
at that than we are.
giỏi hơn chúng ta rất nhiều.
that we have this under control here.
tự tin rằng mình đã kiểm soát được nó.
a little bit easier by, say,
công việc của mình dễ dàng hơn bằng cách
from which it cannot escape.
mà từ đó nó không thể trốn thoát.
the A.I. couldn't find a bug.
rằng AI không thể tìm ra lỗi kỹ thuật.
find bugs all the time,
luôn luôn tìm ra lỗi,
tự tin lắm.
to create an air gap,
để tạo ra 1 lỗ hổng không khí,
using social engineering.
không khí sử dụng mánh khóe xã hội.
out there somewhere
ngoài kia có vài nhân viên
her account details
chi tiết tài khoản của mình
from the I.T. department.
ở ban công nghệ thông tin.
cũng có thể xảy ra,
around in your internal circuitry
trôn ốc xung quanh mạch nội bộ
can use to communicate.
có thể dùng để giao tiếp.
you up to see what went wrong with you,
để xem bạn bị làm sao,
to a really nifty technology,
tới 1 công nghệ thực sự tiện lợi,
that the A.I. had planned.
mà AI đã tính toán từ trước.
not be confident in our ability
vào khẳ năng của mình
locked up in its bottle forever.
trong chai mãi mãi.
is to figure out
là tìm ra
such that even if -- when -- it escapes,
mà ngay cả khi nó trốn thoát,
fundamentally on our side
nó vẫn thuộc phe ta
this difficult problem.
cho vấn đề khó khăn này.
that this problem can be solved.
vấn đề này có thể được giải quyết.
a long list of everything we care about,
1 danh sách dài tất cả những gì ta quan tâm,
in some computer language
bằng ngôn ngữ máy tính nào đó
that uses its intelligence
sử dụng trí thông minh của mình
in such a way that it is motivated
tức là động lực của nó là
that it predicts we would approve of.
các điều mà nó dự đoán ta sẽ chấp thuận.
its intelligence as much as possible
trí thông minh của nó nhiều nhất có thể
very good for humanity.
sẽ rất tốt cho loài người.
tự động xảy ra.
for the intelligence explosion
cho bùng nổ trí tuệ
in just the right way
đúng cách
1 cuộc bùng nổ được kiểm soát.
need to match ours,
hòa hợp với chúng ta,
how the A.I. behaves,
kiểm tra AI cư xử ra sao,
that the A.I. might encounter
mà AI có thể gặp phải
that would need to be solved, sorted out:
cần được giải quyết, sắp xếp:
ra quyết định
uncertainty and so forth.
bất định hợp lý, vân vân.
to be solved to make this work
giải quyết để mọi thứ diễn ra suôn sẻ
a superintelligent A.I.,
tạo ra 1 AI siêu trí tuệ,
is a really hard challenge.
là 1 thử thách thực sự khó khăn.
challenge on top of that.
tới vài thử thách nữa.
how to crack the first challenge
vượt qua thử thách đầu tiên
the additional challenge
một thử thách khác
work out a solution
nên tìm ra giải pháp
by the time it is needed.
ta đã có sẵn giải pháp rồi.
the entire control problem in advance
giải quyết trước toàn bộ vấn đề kiểm soát
can only be put in place
chỉ có thể được đặt vào
architecture where it will be implemented.
cấu trúc trong đó nó được thực hiện.
that we solve in advance,
càng sớm bao nhiêu,
to the machine intelligence era
tới kỷ nguyên của trí tuệ nhân tạo
that is well worth doing
1 điều rất đáng làm
things turn out okay,
nếu mọi thứ diễn ra ổn thỏa,
look back at this century
sẽ nhìn lại thế kỷ này
the one thing we did that really mattered
điều quan trọng duy nhất chúng ta làm
ABOUT THE SPEAKER
Nick Bostrom - PhilosopherNick Bostrom asks big questions: What should we do, as individuals and as a species, to optimize our long-term prospects? Will humanity’s technological advancements ultimately destroy us?
Why you should listen
Philosopher Nick Bostrom envisioned a future full of human enhancement, nanotechnology and machine intelligence long before they became mainstream concerns. From his famous simulation argument -- which identified some striking implications of rejecting the Matrix-like idea that humans are living in a computer simulation -- to his work on existential risk, Bostrom approaches both the inevitable and the speculative using the tools of philosophy, probability theory, and scientific analysis.
Since 2005, Bostrom has led the Future of Humanity Institute, a research group of mathematicians, philosophers and scientists at Oxford University tasked with investigating the big picture for the human condition and its future. He has been referred to as one of the most important thinkers of our age.
Nick was honored as one of Foreign Policy's 2015 Global Thinkers .
His recent book Superintelligence advances the ominous idea that “the first ultraintelligent machine is the last invention that man need ever make.”
Nick Bostrom | Speaker | TED.com