Max Tegmark: How to get empowered, not overpowered, by AI
مکس تگمارک: چگونه با هوشمصنوعی قدرتمند شویم و نگذاریم بر ما چیره گردد
Max Tegmark is driven by curiosity, both about how our universe works and about how we can use the science and technology we discover to help humanity flourish rather than flounder. Full bio
Double-click the English transcript below to play the video.
of cosmic history,
have begun gazing out into the cosmos
نگاه کردن به کیهان
is vastly grander
از آن چیزی که گذشتگانمان
imperceptibly small perturbation
something inspiring,
we're developing has the potential
but for billions of years,
much of this amazing cosmos.
که در کل جهان هستی بینظیر است.
anything during its lifetime.
هر چیزی در طول زندگیاش داشت.
because we can learn,
چرا که میتوانیم یاد بگیریم
new software into our brains,
نرمافزار به مغزمان است،
its software but also its hardware
میتواند سختافزار خودش را هم طراحی کند
has already made us "Life 2.1,"
نسخه "حیات ۲.۱" است
pacemakers and cochlear implants.
دستگاه تنظیم ضربان قلب و کاشت حلزونی.
at our relationship with technology, OK?
به رابطهمان با تکنولوژی بیندازیم:
was both successful and inspiring,
که موفقیتآمیز و الهامبخش بود،
use technology wisely,
از تکنولوژی عاقلانه استفاده میکنند
that our ancestors could only dream of.
که گذشتگانمان در خواب هم نمیدیدند.
الهامبخشی وجود دارند
more powerful than rocket engines,
از موتور موشک به جلو رانده میشوند،
aren't just three astronauts
سه فضانورد نمیشود
journey into the future
that just as with rocketry,
که درست مانند فناوری موشکی،
our technology powerful.
باید مشخص کنیم
if we're going to be really ambitious,
for artificial intelligence:
مربوط به هوشمصنوعی صحبت کنیم:
and the destination.
با تمام جزئیات تعریف میکنم --
to accomplish complex goals,
در رسیدن به اهداف پیچیده،
biological and artificial intelligence.
یعنی مصنوعی و زیستی را شامل کنم.
the silly carbon-chauvinism idea
و از روی تعصبِ کربنمحور اجتناب میکنم
if you're made of meat.
که از گوشت ساخته شده باشید.
of AI has grown recently.
واقعاً شگفتانگیز است.
رباتها نمیتوانستند راه بروند.
چهرههای تقلبی بسازد
saying stuff that you never said.
میگویید که هرگز نگفتهاید شبیهسازی کند.
در بازی Go ما را شکست دهد.
took 3,000 years of human Go games
ذهن عمیق آلفا زیرو گوگل
و خرد آن را کنار زد
player by just playing against itself.
فقط با تمرین با خودش تبدیل شد.
wasn't that it crushed human gamers,
شکست دادن بازیکنان انسانی نبود،
توسط هوشمصنوعی بود
handcrafting game-playing software.
بازیهای نرم افزاری بودند.
not just in Go but even at chess,
محققان هوشمصنوعی را شکست داد،
بر رویش در حال کار بودیم.
really begs the question:
شدیدا سوالی را بر میانگیزد:
landscape of tasks,
how hard it is for AI to do each task
سختی آن کار برای هوشمصنوعی
what AI can do today.
توانایی امروز هوشمصنوعی است.
ارتفاع دریا افزایش پیدا میکند
as AI improves,
going on here in the task landscape.
در این منظره از وظایف مواجهیم.
is to avoid careers at the waterfront --
در نزدیکی آب خودداری کنید --
automated and disrupted.
bigger question as well.
to flood everything,
غرق کند پیش خواهد رفت
of artificial general intelligence --
هوشمصنوعی همهجانبه،
of AI research since its inception.
از زمان تعریف شدنش است.
that humans can do better than machines,"
که از ماشینها بهتر انجام دهند."
that we'll never get AGI.
همهجانبه نخواهیم رسید.
to have some human jobs
برای انسانها انتخاب کنیم
and purpose with our jobs,
با شغلهایمان متصور شویم،
transform life as we know it
آشناییم را به کل تغییر خواهد داد
the most intelligent.
هوشمندترین نخواهند بود.
سطح هوشمصنوعیهمهجانبه برسد،
mainly not by humans but by AI,
هوشمصنوعی توسط انسان نیستند
خودش را ارتقا خواهد داد،
سرعت یافتن پیشرفتهای بعدی
could be way faster
and development timescale of years,
طول میکشد خواهد بود،
of an intelligence explosion
پدیده جنجالی تکینگی هوشمندی میشود
intelligence far behind,
as superintelligence.
در این زمان متولد میگردد.
به هوشمصنوعیهمهجانبه خواهیم رسید؟
like Rodney Brooks,
همچون رودنی بروکس
for hundreds of years.
طول خواهد کشید.
founder Demis Hassabis,
دیپ مایند گوگل، دمیس هاسابیس،
it happen much sooner.
هرچه زودتر اتفاق بیفتد.
that most AI researchers
اکثر محققان هوشمصنوعی
get AGI within decades,
را در چند دهه آینده دارند،
بعد از آن چه میشود؟
ماشینها تمام کارها را
and cheaper than us?
که از خود راضی باشیم:
that can do everything we can do
که همهکاره باشند
that makes all humans obsolete,
که همه انسانها را از رده خارج کند
اتفاق بیافتد که نگرانید؟"
embarrassingly lame.
بشدت نسنجیده خواهد بود.
in the spirit of TED.
بیشتر جاه طلبانه فکر کنیم.
high-tech future
الهامبخش را متصور شویم
of our rocket metaphor: the steering.
در تشبیه موشک میکشاند: هدایت.
rather than flounder?
به جای تسلیم کردن کاملتر کند؟
حیات آینده را تاسیس نمودم.
فواید استفاده از تکنولوژی را تبلیغ میکند
beneficial technology use,
for the future of life to exist
و به بهترین شکل ممکن درآید.
is better than the Stone Age.
نسبت به عصر سنگی است.
a really inspiring high-tech future ...
با فناوری بالا و الهامبخش بسازیم،
power of our technology
with which we manage it.
a change of strategy
has been learning from mistakes.
یادگیری از اشتباهات بوده است.
screwed up a bunch of times --
چند بار باعث تصادف شد
the seat belt and the airbag,
و کیسه هوا را اختراع کردیم،
like nuclear weapons and AGI,
سلاح هستهای و هوشمصنوعیهمهجانبه،
is a lousy strategy,
استراتژی شکست خورده محسوب میشود،
rather than reactive;
و از همان اول همه چیز را درست کنید
right the first time
the only time we'll get.
sometimes people tell me,
چون گاهی مردم به من میگویند:
تکنولوژیهراسان ترسناک است."
call safety engineering.
بخشی از دروس مهندسی ایمنی میدانیم.
the Apollo 11 mission,
ماموریت آپولو ۱۱ را آغاز کند،
everything that could go wrong
روی تانکرهای سوختی میگذارید
on top of explosive fuel tanks
where no one could help them.
بعداً نمیشود فرستاد، بررسی کردند.
the safety engineering
I think we should take with AGI.
هوشمصنوعیهمهجانبه نیز به کار رود.
to make sure it goes right.
تا مطمئن شوی بدون نقص خواهد شد.
we've organized conferences,
AI researchers and other thinkers
کنار یکدیگر جمع کنیم
we need to keep AI beneficial.
داشتن هوشمصنوعی سودمند گفتگو کنیم.
was in Asilomar, California last year
سال قبل در آسیلومر کالیفرنیا بود
by over 1,000 AI researchers
about three of these principles.
از این اصول برایتان بگویم:
and lethal autonomous weapons.
و سلاحهای خودکار مرگبار خودداری شود.
can be used for new ways of helping people
برای کمک یا صدمهزدن به مردم شود.
are much more likely to be used
than for new ways of killing people,
برای کشتن مردم بکار میرود،
and chemists pushed hard --
و شیمیایی تلاش کردند.
and chemical weapons.
and ban lethal autonomous weapons.
میخواهند استفاده از
ممنوع و بد جلوه دهند.
AI-fueled income inequality.
هوشمصنوعی را کاهش دهیم.
the economic pie dramatically with AI
را با هوشمصنوعی به شدت بزرگ کنیم
how to divide this pie
if your computer has ever crashed.
خراب شده، دستش را بالا بیاورد.
this principle
شما هم معتقد باشید
in AI safety research,
تحقیقات ایمنیهوشمصنوعی بگذاریم.
of even more decisions and infrastructure,
تصمیمگیر و مسئول زیرساختها قرار میدهیم،
today's buggy and hackable computers
ایراددار و قابل هک امروزی
بتوان به آن اعتماد کرد پیدا کنیم،
that we can really trust,
can malfunction and harm us,
دچار اختلال شده و به ما آسیب رساند،
has to include work on AI value alignment,
باید شامل کار بر روی تنظیم ارزشهایش باشد،
هوشمصنوعیهمهجانبه از نوع شیطانی نیست
from AGI isn't malice,
فیلمهای احمقانه هالیوودی هست،
that just aren't aligned with ours.
میرسد که با اهداف ما در تضاد است.
the West African black rhino extinct,
سیاه غربآفریقایی را به انقراض کشاندیم،
اینکار را نکردیم که، قبول دارید؟
of evil rhinoceros haters, did we?
از آنها باهوشتر بودیم
we were smarter than them
در تضاد بود انجام دادیم.
روی کاغذ از ما هوشمندتر است
در مقامی چون کرگدنها در مقابل
ourselves in the position of those rhinos
اگر ساختیم -- قرار ندهیم،
to make machines understand our goals,
چگونه اهداف ما را میفهمند
و تغییرشان نمیدهند.
باید رویآنها تنظیم گردد؟
of our rocket metaphor: the destination.
در تشبیه موشک میرساند: مقصد.
that almost nobody talks about --
در موردش صحبت کند --
on short-term AI challenges.
هوشمصنوعی چسبیدهایم.
هوشمصنوعیهمهجانبه است،
و کنجکاوی همراه است،
are we hoping for if we succeed?
از جامعه آینده باید داشته باشیم؟
بر روی این موضوع داشتیم.
want us to build superintelligence:
ابرهوشمصنوعی را بسازیم:
than us in all ways.
از ما هوشمندتر است.
was that we should be ambitious
انتشار حیات در عالم است،
یا چه چیزی مسئول آن باشد وجود دارد.
about who or what should be in charge.
who want it to be just machines.
به عنوان حیات پخش شوند ببینم.
about what the role of humans should be,
در مورد نقش انسانها داریم
at possible futures
to steer toward, alright?
به سویشان باشد، موافقید؟
metaphorical journey into the future.
به سمت آینده صحبت خواهم کرد.
of my AI colleagues like
همکارانم دوستش دارند
and keep it under human control,
و در زیر کنترل بشریت نگهداشتن آن است،
و ثروت غیر قابل تصور
technology and wealth
مورد استفاده قرار میگیرد.
and absolute power corrupts absolutely,
و قدرت مطلق، فساد مطلق میآورد."
we humans just aren't smart enough,
بهاندازه کافی باهوش
که شما ممکن است
moral qualms you might have
هوش[مصنوعی] برتر داشته باشید،
the superintelligence could outsmart us,
میتواند از ما در هوشمندی جلوتر زده،
who are fine with AI taking over
که راضیاند هوشمصنوعی بر ما چیره شود
are our worthy descendants,
به دید میراثداران شایستهمان بنگریم،
have adopted our best values
با بهترین ارزشهای ما سازگار شده است
tricking us into anthropomorphizing them?
در انسانگونه دانستنشان فریب نخواهد زد؟
who don't want human extinction
که انقراض نسل بشر را نمیخواهد
برای آینده همراه با فناوری را نخواهید
of those two high-tech options,
that low-tech is suicide
که آینده با فناوری کم
beyond today's technology,
تکنولوژی امروزی فراتر نرویم
که بشریت منقرض میشود یا نه،
is going to go extinct,
we're going to get taken out
that better technology could have solved.
با تکنولوژی بهتر مانعشان شویم.
our cake and eating it ...
داشته باشیم و آن را بخوریم ...
چون ارزشهای آن با ارزشهای ما همراستاست؟
are aligned with ours?
has called "friendly AI,"
آنرا "هوشمصنوعیدوستانه" مینامد.
میتواند بسیار الهامبخش باشد.
it could be awesome.
experiences like disease, poverty,
از تجربههای منفی همچون بیماری، فقر،
the freedom to choose
of positive experiences --
فوقالعاده مثبت و جدید را بدهد --
the masters of our own destiny.
is complicated,
هوشمصنوعیهمهجانبه را در چند دهه بعدی دارند
expect AGI within decades,
into this unprepared,
the biggest mistake in human history --
در تاریخ بشریت باشد.
global dictatorship
باعث دیکتاتوری وحشیانه جهانی
surveillance and suffering,
تحت نظر قرار گرفتن و رنج بردن
where everybody's better off:
همه در وضع بهتری از الان خواهند بود برسیم:
and free to live out their dreams.
به سمت اهدافشان هستند.
that's politically right or left?
که آینده سیاسی راست یا چپی میخواهید؟
with strict moral rules,
قوانین سرسخت اخلاقی میخواهید؟
در نوادا که بصورت همیشگی دایر باشد؟
forests and lakes,
some of those atoms with the computers,
build all of these societies
تمامی این جوامع امکانپذیر است
to choose which one they want to live in
تا در هر کدام که خواستند زندگی کنند
be limited by our intelligence,
هوشخودمان محدود نیستیم
for this would be astronomical --
نجومی خواهد بود --
about our future,
از خود راضی باشیم،
is guaranteed to be beneficial,
به شکل تضمینی و سودمند نگاه کنیم،
as a mantra over and over and over again
مدام همچون وردی تکرار کنیم
towards our own obsolescence.
بهسمت تباهیمان پیش میرویم.
to steer our technology
با آن بسازیم خوب فکر کنیم.
تا عصر شگفتی را جشن بگیریم،
the age of amazement,
in becoming not overpowered
که قدرت فناوری از ما بیشتر شود،
ABOUT THE SPEAKER
Max Tegmark - Scientist, authorMax Tegmark is driven by curiosity, both about how our universe works and about how we can use the science and technology we discover to help humanity flourish rather than flounder.
Why you should listen
Max Tegmark is an MIT professor who loves thinking about life's big questions. He's written two popular books, Our Mathematical Universe: My Quest for the Ultimate Nature of Reality and the recently published Life 3.0: Being Human in the Age of Artificial Intelligence, as well as more than 200 nerdy technical papers on topics from cosmology to AI.
He writes: "In my spare time, I'm president of the Future of Life Institute, which aims to ensure that we develop not only technology but also the wisdom required to use it beneficially."
Max Tegmark | Speaker | TED.com