Max Tegmark: How to get empowered, not overpowered, by AI
ماكس تيغمارك: كيف نتطور باستخدام الذكاء الاصطناعي، ولا نهزم من قبله
Max Tegmark is driven by curiosity, both about how our universe works and about how we can use the science and technology we discover to help humanity flourish rather than flounder. Full bio
Double-click the English transcript below to play the video.
of cosmic history,
have begun gazing out into the cosmos
تحدق بالكون
is vastly grander
imperceptibly small perturbation
غير محسوس
something inspiring,
we're developing has the potential
but for billions of years,
much of this amazing cosmos.
ولكن في أنحاء أخرى من هذا الكون المذهل.
anything during its lifetime.
خلال حياتها.
because we can learn,
لأننا نستطيع التعلم،
new software into our brains,
داخل عقولنا
its software but also its hardware
بل وأجزائها الرئيسية أيضًا
has already made us "Life 2.1,"
قد صنعت لنا بالفعل "الحياة 2.1"
pacemakers and cochlear implants.
القلب والقواقع السمعية المزروعة.
at our relationship with technology, OK?
حسنًا؟
was both successful and inspiring,
وملهمة في ذات الوقت
use technology wisely,
التكنولوجيا بحكمة،
that our ancestors could only dream of.
إلا الحلم بها.
more powerful than rocket engines,
aren't just three astronauts
journey into the future
نحو المستقبل
that just as with rocketry,
كما هي الحال مع الصواريخ،
our technology powerful.
if we're going to be really ambitious,
for artificial intelligence:
في مجال الذكاء الاصطناعي:
and the destination.
to accomplish complex goals,
على إنجاز أهداف معقدة،
biological and artificial intelligence.
كلا من الذكاء الحيوي والاصطناعي.
the silly carbon-chauvinism idea
فكرة "الشوفينية الكربونية" السخيفة
if you're made of meat.
إلا إذا كنت مصنوعًا من لحم.
of AI has grown recently.
فكرة الذكاء الاصطناعي مؤخرًا.
قادرة على السير.
على التعرف على الوجوه.
على توليد وجوه مزيفة.
saying stuff that you never said.
عن هزيمتنا في لعبة "غو".
took 3,000 years of human Go games
3000 سنة من ألعاب "غو" التي لعبها البشر
player by just playing against itself.
فقط باللعب ضد نفسه.
wasn't that it crushed human gamers,
لم يكن سحقه للاعبين بشر،
باحثين في الذكاء الاصطناعي
handcrafting game-playing software.
في تصميم برمجيات قادرة على اللعب.
not just in Go but even at chess,
بل في الشطرنج أيضًا،
really begs the question:
في الذكاء الاصطناعي يطرح التساؤل:
landscape of tasks,
how hard it is for AI to do each task
قيام الذكاء الاصطناعي بالمهمة
what AI can do today.
ما يستطيع الذكاء الاصطناعي فعله اليوم.
as AI improves,
going on here in the task landscape.
هنا على مخطط تضاريس المهام.
is to avoid careers at the waterfront --
الوظائف على الواجهة البحرية...
automated and disrupted.
bigger question as well.
to flood everything,
of artificial general intelligence --
of AI research since its inception.
الذكاء الاصطناعي منذ نشأتها.
that humans can do better than machines,"
التي يؤديها البشر أفضل من الآلات".
that we'll never get AGI.
على الذكاء الاصطناعي العام.
to have some human jobs
على بعض الوظائف البشرية
and purpose with our jobs,
من خلال الأعمال،
transform life as we know it
سوف يحول الحياة كما نعرفها
the most intelligent.
إلى (إيه جي آي)
mainly not by humans but by AI,
لن يقوده البشر بل الذكاء الاصطناعي نفسه
could be way faster
أسرع بكثير
and development timescale of years,
والمقياس الزمني للتطور لسنوات،
of an intelligence explosion
حول انفجار في مستوى الذكاء
المطور ذاتيًا بشكل متكرر
intelligence far behind,
as superintelligence.
في أي وقت قريب؟
like Rodney Brooks,
مثل رودني بروكس
for hundreds of years.
founder Demis Hassabis,
ديميس هاسابس
it happen much sooner.
that most AI researchers
باحثي الذكاء الاصطناعي
get AGI within decades,
في غضون عقود.
and cheaper than us?
بشكل أفضل وأوفر منا؟
that can do everything we can do
تستطيع عمل كل شيء نعمله
that makes all humans obsolete,
جعل كل البشر عديمي الجدوى
embarrassingly lame.
in the spirit of TED.
اقتداءً بTED.
high-tech future
بتكنولوجيا عالية
of our rocket metaphor: the steering.
من خطتنا الصاروخية: التوجيه.
rather than flounder?
لازدهار البشرية عوضًا عن تعثرها؟
beneficial technology use,
استخدام التكنولوجيا المفيدة
for the future of life to exist
is better than the Stone Age.
أفضل من العصور الحجرية.
a really inspiring high-tech future ...
ابتكار مستقبل تكنولوجي حديث مثير
power of our technology
with which we manage it.
a change of strategy
في الاستراتيجية.
has been learning from mistakes.
مبنية على التعلم من الأخطاء.
screwed up a bunch of times --
أخفقنا عدة مرات...
the seat belt and the airbag,
والوسادة الهوائية
like nuclear weapons and AGI,
والذكاء الاصطناعي،
is a lousy strategy,
rather than reactive;
عوضًا عن كونك متفاعلًا،
right the first time
منذ المرة الأولى
the only time we'll get.
sometimes people tell me,
يقولون لي في بعض الأحيان:
call safety engineering.
ب"الهندسة الآمنة".
the Apollo 11 mission,
everything that could go wrong
on top of explosive fuel tanks
على رأس خزانات وقود متفجرة
where no one could help them.
the safety engineering
I think we should take with AGI.
بوجوب اتخاذها مع الذكاء الاصطناعي
to make sure it goes right.
لتتأكد من فعل الأمر بالشكل الصحيح.
we've organized conferences,
AI researchers and other thinkers
والمفكرين الآخرين
we need to keep AI beneficial.
التي نحتاجها لجعل الذكاء الاصناعي مفيدًا.
was in Asilomar, California last year
في أسيلمار، كالفورنيا
by over 1,000 AI researchers
في الذكاء الاصطناعي
about three of these principles.
and lethal autonomous weapons.
والأسلحة الذاتية القاتلة.
can be used for new ways of helping people
كطرق جديدة في خدمة البشر،
are much more likely to be used
تُستخدم عادةً
than for new ways of killing people,
من استخدامها في الطرق الجديدة لقتل البشر.
and chemists pushed hard --
and chemical weapons.
and ban lethal autonomous weapons.
وحظر الأسلحة القاتلة الذاتية.
AI-fueled income inequality.
في الدخل المرتبط بالذكاء الاصطناعي
the economic pie dramatically with AI
الاقتصادية بشكل كبير مع الذكاء الاصطناعي
how to divide this pie
توزيع هذه الكعكة
if your computer has ever crashed.
تعطل حاسوبكم أحد المرات.
this principle
in AI safety research,
في أبحاث أمان الذكاء الاصطناعي،
of even more decisions and infrastructure,
عن البنية التحتية وعن قرارات أكثر،
today's buggy and hackable computers
الحواسيب القابلة للاختراق اليوم
that we can really trust,
بشكل نستطيع معه الثقة بها،
can malfunction and harm us,
قد تتعطل وتؤذينا،
has to include work on AI value alignment,
أن يشمل العمل على القيم المحايدة،
from AGI isn't malice,
العام ليس الإيذاء،
that just aren't aligned with ours.
the West African black rhino extinct,
بانقراض وحيد القرن بغرب أفريقيا،
of evil rhinoceros haters, did we?
كارهين لوحيد القرن، أليس كذلك؟
we were smarter than them
ourselves in the position of those rhinos
في موقف وحيدي القرن
to make machines understand our goals,
of our rocket metaphor: the destination.
that almost nobody talks about --
الذي لا يريد أحد التحدث عنه...
on short-term AI challenges.
على تحديات الذكاء الاصطناعي قصيرة المدى.
الاصطناعي العام
are we hoping for if we succeed?
الذي نريد بناءه إذا نجحنا؟
want us to build superintelligence:
أرادوا أن نبني الذكاء الخارق:
than us in all ways.
بمراحل كثيرة.
was that we should be ambitious
أنه يجب علينا أن نكون طموحين
about who or what should be in charge.
من سيكون مسؤولاً عنه.
who want it to be just machines.
أن تكون الآلات فقط هي المسؤولة.
about what the role of humans should be,
حول دور البشر المستقبلي،
at possible futures
to steer toward, alright?
metaphorical journey into the future.
of my AI colleagues like
and keep it under human control,
ونجعله تحت سيطرة البشر،
technology and wealth
and absolute power corrupts absolutely,
والسلطة المطلقة ستخلق الفساد بلا شك،
we humans just aren't smart enough,
حول عدم امتلاك البشر للذكاء الكافي،
moral qualms you might have
the superintelligence could outsmart us,
تفوّق الذكاء الصناعي الخارق علينا،
who are fine with AI taking over
مع فكرة تولي الذكاء الصناعي القيادة
are our worthy descendants,
هي ورثتنا الكفؤ،
have adopted our best values
تمتلك أفضل قيمنا
tricking us into anthropomorphizing them?
who don't want human extinction
الذين لا يريدون فناء البشر
of those two high-tech options,
خيارات التكنولوجيا المتقدمة،
that low-tech is suicide
بأن التكنولوجيا البسيطة انتحار
beyond today's technology,
is going to go extinct,
حول إمكانية انقراض البشر،
we're going to get taken out
that better technology could have solved.
تستطيع التكنولوجيا الحديثة معالجتها.
our cake and eating it ...
are aligned with ours?
تتماشى مع قيمنا؟
has called "friendly AI,"
بـ"الذكاء الاصطناعي اللطيف"
it could be awesome.
فسيكون أمرًا رائعًا.
experiences like disease, poverty,
كالأمراض والفقر
the freedom to choose
of positive experiences --
the masters of our own destiny.
is complicated,
expect AGI within decades,
بحدوث الذكاء الاصطناعي الخارق خلال عقود،
into this unprepared,
وعدم استعداد،
the biggest mistake in human history --
global dictatorship
surveillance and suffering,
where everybody's better off:
حيث يتحسن حال الجميع:
and free to live out their dreams.
that's politically right or left?
يساريًّا سياسيًا أم يمينيًّا؟
with strict moral rules,
بقواعد أخلاقية صارمة
forests and lakes,
some of those atoms with the computers,
مع أجهزة الكمبيوتر،
build all of these societies
بناء كل هذه المجتمعات
to choose which one they want to live in
للعيش فيه
be limited by our intelligence,
الذي نمتلكه،
for this would be astronomical --
لهذا المشروع ستكون ضخمة...
about our future,
is guaranteed to be beneficial,
as a mantra over and over and over again
كتعويذة ما
towards our own obsolescence.
to steer our technology
the age of amazement,
in becoming not overpowered
في عدم المبالغة بامتلاك القوة
ABOUT THE SPEAKER
Max Tegmark - Scientist, authorMax Tegmark is driven by curiosity, both about how our universe works and about how we can use the science and technology we discover to help humanity flourish rather than flounder.
Why you should listen
Max Tegmark is an MIT professor who loves thinking about life's big questions. He's written two popular books, Our Mathematical Universe: My Quest for the Ultimate Nature of Reality and the recently published Life 3.0: Being Human in the Age of Artificial Intelligence, as well as more than 200 nerdy technical papers on topics from cosmology to AI.
He writes: "In my spare time, I'm president of the Future of Life Institute, which aims to ensure that we develop not only technology but also the wisdom required to use it beneficially."
Max Tegmark | Speaker | TED.com