TEDSummit
Sam Harris: Can we build AI without losing control over it?
Sam Harris: هل بإمكاننا بناء ذكاءٍ اصطناعي دون فقدان التحكم به ؟
Filmed:
Readability: 4.1
5,024,015 views
خائف من الذكاء الاصطناعي فائق الذكاء؟ يجب عليك ذلك، هكذا يقول عالم الأعصاب والفيلسوف سام هاريس -- وليس بطريقة نظرية وحسب. سنقوم ببناء آليات بشرية خارقة، يقول هاريس، ولكننا لم نتصارع بعد مع المشاكل المرتبطة مع خلق شيءٍ ربما يعاملنا بالطريقة التي نعامل بها النمل.
Sam Harris - Neuroscientist, philosopher
Sam Harris's work focuses on how our growing understanding of ourselves and the world is changing our sense of how we should live. Full bio
Sam Harris's work focuses on how our growing understanding of ourselves and the world is changing our sense of how we should live. Full bio
Double-click the English transcript below to play the video.
00:13
I'm going to talk
about a failure of intuition
about a failure of intuition
0
1000
2216
سأقوم بالتحدث عن فشل الحدس
00:15
that many of us suffer from.
1
3240
1600
الذي يعاني معظمنا منه.
00:17
It's really a failure
to detect a certain kind of danger.
to detect a certain kind of danger.
2
5480
3040
هو في الواقع الفشل في تحرِّي نوع محدد
من الخطر.
من الخطر.
00:21
I'm going to describe a scenario
3
9360
1736
سوف أقوم بوصف سيناريو
00:23
that I think is both terrifying
4
11120
3256
أظنه مخيفاً
00:26
and likely to occur,
5
14400
1760
ومن المرجح أن يحدث،
00:28
and that's not a good combination,
6
16840
1656
وهذا ليس مزيجاً جيداً،
00:30
as it turns out.
7
18520
1536
كما سيبدو.
00:32
And yet rather than be scared,
most of you will feel
most of you will feel
8
20080
2456
ومع ذلك، بدلاً من الخوف، سيشعر معظمكم
00:34
that what I'm talking about
is kind of cool.
is kind of cool.
9
22560
2080
بأن ما أتحدُّث عنه مثير نوعاً ما.
00:37
I'm going to describe
how the gains we make
how the gains we make
10
25200
2976
سأقوم بوصف كيف أن المكاسب التي نحصل عليها
00:40
in artificial intelligence
11
28200
1776
من الذكاء الاصطناعي
00:42
could ultimately destroy us.
12
30000
1776
يمكن في النهاية أن تدمرنا.
00:43
And in fact, I think it's very difficult
to see how they won't destroy us
to see how they won't destroy us
13
31800
3456
وفي الواقع، أظنه من الصعب جداً أن نرى
كيف أنها لن تدمرنا
كيف أنها لن تدمرنا
00:47
or inspire us to destroy ourselves.
14
35280
1680
أو تلهمنا أن ندمر أنفسنا.
00:49
And yet if you're anything like me,
15
37400
1856
ومع ذلك إذا كنتم تشبهونني في شيء
00:51
you'll find that it's fun
to think about these things.
to think about these things.
16
39280
2656
فستجدون أنه من الممتع التفكير
بهذه الأشياء.
بهذه الأشياء.
00:53
And that response is part of the problem.
17
41960
3376
وتلك الإجابة هي جزء من المشكلة.
00:57
OK? That response should worry you.
18
45360
1720
حسناً؟ تلك الإجابة يجب أن تُقلقكم.
00:59
And if I were to convince you in this talk
19
47920
2656
وإذا كان عليَّ أن أقنعكم في هذه المحادثة
01:02
that we were likely
to suffer a global famine,
to suffer a global famine,
20
50600
3416
أنه من المرجح أننا سوف نعاني من
مجاعة عالمية
مجاعة عالمية
01:06
either because of climate change
or some other catastrophe,
or some other catastrophe,
21
54040
3056
إما بسبب تغيُّر المناخ، أو بسبب
كارثة أخرى،
كارثة أخرى،
01:09
and that your grandchildren,
or their grandchildren,
or their grandchildren,
22
57120
3416
وأن أحفادكم، أو أحفادهم،
01:12
are very likely to live like this,
23
60560
1800
من المرجح جداً أن يعيشوا، هكذا
01:15
you wouldn't think,
24
63200
1200
فلن يخطر ببالكم.
01:17
"Interesting.
25
65440
1336
"مثير للاهتمام".
01:18
I like this TED Talk."
26
66800
1200
تعجبني محادثة TED هذه.
01:21
Famine isn't fun.
27
69200
1520
المجاعة ليست مسلية.
01:23
Death by science fiction,
on the other hand, is fun,
on the other hand, is fun,
28
71800
3376
الموت عن طريق الخيال العلمي، من ناحية
أخرى، مسلٍّ،
أخرى، مسلٍّ،
01:27
and one of the things that worries me most
about the development of AI at this point
about the development of AI at this point
29
75200
3976
وأحد الأشياء التي تقلقني للغاية بسبب تطور
الذكاء الاصطناعي عند هذه النقطة
الذكاء الاصطناعي عند هذه النقطة
01:31
is that we seem unable to marshal
an appropriate emotional response
an appropriate emotional response
30
79200
4096
هي أننا نبدو وكأننا غير قادرين على إبداء
استجابة عاطفية ملائمة
استجابة عاطفية ملائمة
01:35
to the dangers that lie ahead.
31
83320
1816
للأخطار التي تنتظرنا.
01:37
I am unable to marshal this response,
and I'm giving this talk.
and I'm giving this talk.
32
85160
3200
أنا غير قادر على إبداء هذه الاستجابة،
وأنا أقوم بهذه المحادثة.
وأنا أقوم بهذه المحادثة.
01:42
It's as though we stand before two doors.
33
90120
2696
يبدو الأمر وكأننا نقف أمام بابين.
01:44
Behind door number one,
34
92840
1256
خلف الباب رقم واحد،
01:46
we stop making progress
in building intelligent machines.
in building intelligent machines.
35
94120
3296
نتوقف عن تحقيق التقدُّم في بناء الآليات
الذكية.
الذكية.
01:49
Our computer hardware and software
just stops getting better for some reason.
just stops getting better for some reason.
36
97440
4016
معدات حاسوبنا وبرمجياته تتوقف عن التحسن
لسببٍ ما وحسب.
لسببٍ ما وحسب.
01:53
Now take a moment
to consider why this might happen.
to consider why this might happen.
37
101480
3000
خذوا الآن لحظة للتفكير لماذا قد يحدث ذلك.
01:57
I mean, given how valuable
intelligence and automation are,
intelligence and automation are,
38
105080
3656
أعني، بافتراض مدى نفع الذكاء والأتمتة،
02:00
we will continue to improve our technology
if we are at all able to.
if we are at all able to.
39
108760
3520
فإننا سنستمر بتحسين التكنولوجيا الخاصة بنا
إذا كان بإمكاننا أصلاً.
إذا كان بإمكاننا أصلاً.
02:05
What could stop us from doing this?
40
113200
1667
ما الذي قد يمنعنا من فعل هذا؟
02:07
A full-scale nuclear war?
41
115800
1800
حربٌ نووية على جميع المقاييس؟
02:11
A global pandemic?
42
119000
1560
وباء عالمي؟
02:14
An asteroid impact?
43
122320
1320
اصطدام كويكب؟
02:17
Justin Bieber becoming
president of the United States?
president of the United States?
44
125640
2576
أن يصبح جاستن بيبر رئيساً
للولايات المتحدة؟
للولايات المتحدة؟
02:20
(Laughter)
45
128240
2280
(ضحك)
02:24
The point is, something would have to
destroy civilization as we know it.
destroy civilization as we know it.
46
132760
3920
الخلاصة هي، شيءٌ ما عليه تدمير
الحضارة كما نعرفها.
الحضارة كما نعرفها.
02:29
You have to imagine
how bad it would have to be
how bad it would have to be
47
137360
4296
عليكم تخيُّل كم عليه أن يكون سيئاً
02:33
to prevent us from making
improvements in our technology
improvements in our technology
48
141680
3336
لكي يمنعنا من تحقيق تحسينات في
التكنولوجيا الخاصة بنا
التكنولوجيا الخاصة بنا
02:37
permanently,
49
145040
1216
بشكل دائم،
02:38
generation after generation.
50
146280
2016
جيلاً بعد جيل.
02:40
Almost by definition,
this is the worst thing
this is the worst thing
51
148320
2136
تقريباً بالتعريف، هذا أسوأ شيء
02:42
that's ever happened in human history.
52
150480
2016
يمكن أن يحصل في تاريخ البشرية.
02:44
So the only alternative,
53
152520
1296
لذا البديل الوحيد،
02:45
and this is what lies
behind door number two,
behind door number two,
54
153840
2336
وهو الذي يوجد خلف الباب رقم اثنين،
02:48
is that we continue
to improve our intelligent machines
to improve our intelligent machines
55
156200
3136
هو أن نستمر بتحسين آلاتنا الذكية
02:51
year after year after year.
56
159360
1600
سنة بعد سنة بعد سنة.
02:53
At a certain point, we will build
machines that are smarter than we are,
machines that are smarter than we are,
57
161720
3640
وعند نقطة معينة، سنبني آلياتٍ أذكى
مما نحن عليه،
مما نحن عليه،
02:58
and once we have machines
that are smarter than we are,
that are smarter than we are,
58
166080
2616
وحالما يصبح لدينا آليات أذكى مننا،
03:00
they will begin to improve themselves.
59
168720
1976
سوف تبدأ بتحسين نفسها.
03:02
And then we risk what
the mathematician IJ Good called
the mathematician IJ Good called
60
170720
2736
وعندها سنواجه ما دعاه عالم
الرياضيات IJ Good
الرياضيات IJ Good
03:05
an "intelligence explosion,"
61
173480
1776
"انفجاراً ذكائياً"
03:07
that the process could get away from us.
62
175280
2000
وأن العملية يمكن أن تفلت من بين أيدينا.
03:10
Now, this is often caricatured,
as I have here,
as I have here,
63
178120
2816
الآن، هذا يتم عمله كرسم كاريكاتيري،
كما أفعل هنا
كما أفعل هنا
03:12
as a fear that armies of malicious robots
64
180960
3216
كخوفٍ من جيوش ميليشيا من الرجال الآليين
03:16
will attack us.
65
184200
1256
التي ستهاجمنا.
03:17
But that isn't the most likely scenario.
66
185480
2696
ولكن هذا ليس السيناريو الأكثر احتمالاً.
03:20
It's not that our machines
will become spontaneously malevolent.
will become spontaneously malevolent.
67
188200
4856
الأمر ليس أن آلياتنا ستصبح حاقدة بشكل عفوي
03:25
The concern is really
that we will build machines
that we will build machines
68
193080
2616
المقلق حقاً هو أننا نبني آليات
03:27
that are so much
more competent than we are
more competent than we are
69
195720
2056
أكثر كفاءة مما نحن عليه
03:29
that the slightest divergence
between their goals and our own
between their goals and our own
70
197800
3776
وأن أقل اختلاف بين أهدافها وأهدافنا
03:33
could destroy us.
71
201600
1200
يمكن أن يدمرنا.
03:35
Just think about how we relate to ants.
72
203960
2080
فقط فكروا بكيفية علاقتنا بالنمل
03:38
We don't hate them.
73
206600
1656
نحن لا نكرههم.
03:40
We don't go out of our way to harm them.
74
208280
2056
ولا نخرج عن طريقنا لنؤذيهم.
03:42
In fact, sometimes
we take pains not to harm them.
we take pains not to harm them.
75
210360
2376
في الواقع، أحياناً نتحمل آلاماً لكي
لا نؤذيهم.
لا نؤذيهم.
03:44
We step over them on the sidewalk.
76
212760
2016
نحن نمشي من فوقهم على الرصيف.
03:46
But whenever their presence
77
214800
2136
ولكن عندما يكون لوجودهم
03:48
seriously conflicts with one of our goals,
78
216960
2496
تعارض جدِّي مع أحد أهدافنا،
03:51
let's say when constructing
a building like this one,
a building like this one,
79
219480
2477
لنقل مثلاً عند إنشاء بناء كهذا،
03:53
we annihilate them without a qualm.
80
221981
1960
نقوم بإبادتهم بدون أي تأنيب ضمير.
03:56
The concern is that we will
one day build machines
one day build machines
81
224480
2936
والقلق من أننا يوماً ما سوف نبني آليات
03:59
that, whether they're conscious or not,
82
227440
2736
والتي، سواءٌ كانت مدركة أم لا،
04:02
could treat us with similar disregard.
83
230200
2000
قد تعاملنا بمثل هذا الاستخفاف.
04:05
Now, I suspect this seems
far-fetched to many of you.
far-fetched to many of you.
84
233760
2760
والآن، أنا أشك أن هذا أبعد ما يكون
عن العديد منكم.
عن العديد منكم.
04:09
I bet there are those of you who doubt
that superintelligent AI is possible,
that superintelligent AI is possible,
85
237360
6336
وأراهن على أن هنالك منكم من يشك أن الذكاء
الاصطناعي الخارق الذكاء ممكن،
الاصطناعي الخارق الذكاء ممكن،
04:15
much less inevitable.
86
243720
1656
أو حتى محتوم.
04:17
But then you must find something wrong
with one of the following assumptions.
with one of the following assumptions.
87
245400
3620
ولكن مع ذلك يجب عليكم أن تجدوا شيئاً ما
خاطئاً في أحد الافتراضات التالية.
خاطئاً في أحد الافتراضات التالية.
04:21
And there are only three of them.
88
249044
1572
وهنالك ثلاثة منهم.
04:23
Intelligence is a matter of information
processing in physical systems.
processing in physical systems.
89
251800
4719
الذكاء هو مسألة معالجة للمعلومات في
الأنظمة الفيزيائية.
الأنظمة الفيزيائية.
04:29
Actually, this is a little bit more
than an assumption.
than an assumption.
90
257320
2615
في الواقع، هذا أكثر بقليل من مجرد افتراض.
04:31
We have already built
narrow intelligence into our machines,
narrow intelligence into our machines,
91
259959
3457
نحن قمنا مسبقاً ببناء ذكاء محدود
في آلياتنا،
في آلياتنا،
04:35
and many of these machines perform
92
263440
2016
والعديد من هذه الآليات تقوم بالأداء
04:37
at a level of superhuman
intelligence already.
intelligence already.
93
265480
2640
في مستوى الذكاء البشري الخارق أصلاً.
04:40
And we know that mere matter
94
268840
2576
ونعلم أن المادة المجردة
04:43
can give rise to what is called
"general intelligence,"
"general intelligence,"
95
271440
2616
بإمكانها أن تعطي زيادة لما يدعى
"بالذكاء العام"،
"بالذكاء العام"،
04:46
an ability to think flexibly
across multiple domains,
across multiple domains,
96
274080
3656
القدرة على التفكير بمرونة في عدة مجالات،
04:49
because our brains have managed it. Right?
97
277760
3136
لأن دماغنا قام بتدبر الأمر. صحيح؟
04:52
I mean, there's just atoms in here,
98
280920
3936
أنا أعني، هناك ذرات فقط هنا،
04:56
and as long as we continue
to build systems of atoms
to build systems of atoms
99
284880
4496
وطالما نستمر ببناء أنظمة من الذرات
05:01
that display more and more
intelligent behavior,
intelligent behavior,
100
289400
2696
والتي تُبدي سلوكاً متزايداً أكثر
وأكثر من الذكاء
وأكثر من الذكاء
05:04
we will eventually,
unless we are interrupted,
unless we are interrupted,
101
292120
2536
فإننا في النهاية، إلا إذا تمَّت مقاطعتنا،
05:06
we will eventually
build general intelligence
build general intelligence
102
294680
3376
في النهاية سوف نبني ذكاءً عاماً
05:10
into our machines.
103
298080
1296
في آلياتنا.
05:11
It's crucial to realize
that the rate of progress doesn't matter,
that the rate of progress doesn't matter,
104
299400
3656
من المصيري أن ندرك أن معدل التطور لا يهم،
05:15
because any progress
is enough to get us into the end zone.
is enough to get us into the end zone.
105
303080
3176
لأن أي تطور هو كافٍ لإيصالنا إلى
منطقة النهاية.
منطقة النهاية.
05:18
We don't need Moore's law to continue.
We don't need exponential progress.
We don't need exponential progress.
106
306280
3776
لا نحتاج قانون Moore للاستمرار.
لا نحتاج التطور الأسي.
لا نحتاج التطور الأسي.
05:22
We just need to keep going.
107
310080
1600
نحتاج فقط لأن نستمر بالمضي قدماً
05:25
The second assumption
is that we will keep going.
is that we will keep going.
108
313480
2920
الافتراض الثاني هو أننا سنستمر
بالمضي قدماً.
بالمضي قدماً.
05:29
We will continue to improve
our intelligent machines.
our intelligent machines.
109
317000
2760
سنستمر بتحسين آلياتنا الذكية.
05:33
And given the value of intelligence --
110
321000
4376
وبافتراض أهمية الذكاء --
05:37
I mean, intelligence is either
the source of everything we value
the source of everything we value
111
325400
3536
أنا أعني، أن الذكاء هو إما مصدر
لكل شيءٍ نقدِّره
لكل شيءٍ نقدِّره
05:40
or we need it to safeguard
everything we value.
everything we value.
112
328960
2776
أو أننا نحتاجه لحماية كل شيءٍ نقدُّره.
05:43
It is our most valuable resource.
113
331760
2256
إنه المنبع الأكثر أهمية لدينا.
05:46
So we want to do this.
114
334040
1536
لذلك نحتاج لفعل التالي.
05:47
We have problems
that we desperately need to solve.
that we desperately need to solve.
115
335600
3336
لدينا مشاكل نحن بحاجة ماسِّة لحلها.
05:50
We want to cure diseases
like Alzheimer's and cancer.
like Alzheimer's and cancer.
116
338960
3200
نريد شفاء الأمراض كالزهايمر والسرطان.
05:54
We want to understand economic systems.
We want to improve our climate science.
We want to improve our climate science.
117
342960
3936
نريد أن نفهم الأنظمة الاقتصادية.
نريد تحسين علم المناخ الخاص بنا.
نريد تحسين علم المناخ الخاص بنا.
05:58
So we will do this, if we can.
118
346920
2256
لذلك سنفعل ذلك، إذا استطعنا.
06:01
The train is already out of the station,
and there's no brake to pull.
and there's no brake to pull.
119
349200
3286
القطار غادر المحطة بالفعل، ولا
يوجد مكابح لشدها.
يوجد مكابح لشدها.
06:05
Finally, we don't stand
on a peak of intelligence,
on a peak of intelligence,
120
353880
5456
وأخيراً، نحن لا نقف عند قمة الذكاء،
06:11
or anywhere near it, likely.
121
359360
1800
أو في أي مكان قريب منها، على ما يبدو،
06:13
And this really is the crucial insight.
122
361640
1896
وهذا حقاً هو البصيرة المصيرية.
06:15
This is what makes
our situation so precarious,
our situation so precarious,
123
363560
2416
هذا ما يجعل موقفنا متزعزعاً للغاية،
06:18
and this is what makes our intuitions
about risk so unreliable.
about risk so unreliable.
124
366000
4040
وهذا ما يجعل حدسنا بما يخص
الخطورة لا يُعتمد عليه أبداً.
الخطورة لا يُعتمد عليه أبداً.
06:23
Now, just consider the smartest person
who has ever lived.
who has ever lived.
125
371120
2720
والآن، فكروا فقط بأذكى شخص
عاش في أي وقتٍ مضى.
عاش في أي وقتٍ مضى.
06:26
On almost everyone's shortlist here
is John von Neumann.
is John von Neumann.
126
374640
3416
تقريباً على قائمة الجميع القصيرة
يوجد John von Neumann.
يوجد John von Neumann.
06:30
I mean, the impression that von Neumann
made on the people around him,
made on the people around him,
127
378080
3336
أعني، الانطباع الذي تركه von Neumann
على الناس المحيطين به،
على الناس المحيطين به،
06:33
and this included the greatest
mathematicians and physicists of his time,
mathematicians and physicists of his time,
128
381440
4056
وهذا يشمل أعظم علماء الرياضيات
والفيزياء في عصره،
والفيزياء في عصره،
06:37
is fairly well-documented.
129
385520
1936
بالكاد تم توثيقه بشكل جيد.
06:39
If only half the stories
about him are half true,
about him are half true,
130
387480
3776
إذا كانت نصف القصص فقط عنه نصف صحيحة،
06:43
there's no question
131
391280
1216
فلا يوجد شك
06:44
he's one of the smartest people
who has ever lived.
who has ever lived.
132
392520
2456
أنه أحد أذكى الأشخاص الذين عاشوا
في أي وقتٍ مضى.
في أي وقتٍ مضى.
06:47
So consider the spectrum of intelligence.
133
395000
2520
لذلك باعتبار طيف الذكاء.
06:50
Here we have John von Neumann.
134
398320
1429
هنا لدينا John von Neumann.
06:53
And then we have you and me.
135
401560
1334
وهنا لدينا أنتم وأنا.
06:56
And then we have a chicken.
136
404120
1296
وثم هنا لدينا دجاجة.
06:57
(Laughter)
137
405440
1936
(ضحك)
06:59
Sorry, a chicken.
138
407400
1216
آسف، دجاجة.
07:00
(Laughter)
139
408640
1256
(ضحك)
07:01
There's no reason for me to make this talk
more depressing than it needs to be.
more depressing than it needs to be.
140
409920
3736
لا يوجد سبب يجعلني أجعل هذه المحادثة أكثر
إحباطاً مما يحتاجه الأمر.
إحباطاً مما يحتاجه الأمر.
07:05
(Laughter)
141
413680
1600
(ضحك)
07:08
It seems overwhelmingly likely, however,
that the spectrum of intelligence
that the spectrum of intelligence
142
416339
3477
يبدو أنه ساحق على الأرجح، ومع ذلك، يمتد
طيف الذكاء
طيف الذكاء
07:11
extends much further
than we currently conceive,
than we currently conceive,
143
419840
3120
أبعد بكثير مما نتصور حالياً،
07:15
and if we build machines
that are more intelligent than we are,
that are more intelligent than we are,
144
423880
3216
وإذا قمنا ببناء آلات أذكى مما نحن عليه،
07:19
they will very likely
explore this spectrum
explore this spectrum
145
427120
2296
فهي على الأرجح ستستكشف الطيف
07:21
in ways that we can't imagine,
146
429440
1856
بطرقٍ لا نستطيع تخيلها،
07:23
and exceed us in ways
that we can't imagine.
that we can't imagine.
147
431320
2520
وسف تتعدانا بطرقٍ لا يمكننا تخيلها.
07:27
And it's important to recognize that
this is true by virtue of speed alone.
this is true by virtue of speed alone.
148
435000
4336
ومن المهم أن ندرك أن هذا صحيح بخصوص
تأثير السرعة وحدها.
تأثير السرعة وحدها.
07:31
Right? So imagine if we just built
a superintelligent AI
a superintelligent AI
149
439360
5056
صحيح؟ إذاً تخيلوا إذا بنينا ذكاءً صنعياً
خارق الذكاء
خارق الذكاء
07:36
that was no smarter
than your average team of researchers
than your average team of researchers
150
444440
3456
ولم يكن أذكى من فريق الباحثين العادي
الخاص بكم
الخاص بكم
07:39
at Stanford or MIT.
151
447920
2296
في ستانفورد أو معهد ماساتشوستس
للتكنولوجيا.
للتكنولوجيا.
07:42
Well, electronic circuits
function about a million times faster
function about a million times faster
152
450240
2976
حسناً، الدارات الالكترونية تعمل بشكل أسرع
بحوالي ملايين المرات
بحوالي ملايين المرات
07:45
than biochemical ones,
153
453240
1256
من تلك الكيميائية الحيوية،
07:46
so this machine should think
about a million times faster
about a million times faster
154
454520
3136
لذا هذه الآلة يجب أن تفكر أسرع بملايين
المرات
المرات
07:49
than the minds that built it.
155
457680
1816
من العقول التي قامت ببنائها.
07:51
So you set it running for a week,
156
459520
1656
لذا إذا تركتها تعمل لمدة أسبوع،
07:53
and it will perform 20,000 years
of human-level intellectual work,
of human-level intellectual work,
157
461200
4560
فسوف تؤدي ما يعادل 20,000 سنة من
العمل بمستوى الذكاء البشري،
العمل بمستوى الذكاء البشري،
07:58
week after week after week.
158
466400
1960
أسبوع بعد أسبوع بعد أسبوع.
08:01
How could we even understand,
much less constrain,
much less constrain,
159
469640
3096
كيف بإمكاننا حتى أن نفهم،
أو حتى أن نُقيّد،
أو حتى أن نُقيّد،
08:04
a mind making this sort of progress?
160
472760
2280
عقلاً يصنع هذا النوع من التطور؟
08:08
The other thing that's worrying, frankly,
161
476840
2136
والأمر الآخر المقلق، بصراحة،
08:11
is that, imagine the best case scenario.
162
479000
4976
هو أن، تخيل أفضل سيناريو.
08:16
So imagine we hit upon a design
of superintelligent AI
of superintelligent AI
163
484000
4176
إذاً تخيلوا أننا اكتشفنا تصميماً للذكاء
الصنعي فائق الذكاء
الصنعي فائق الذكاء
08:20
that has no safety concerns.
164
488200
1376
وليس لديه مخاوف سلامة.
08:21
We have the perfect design
the first time around.
the first time around.
165
489600
3256
لدينا التصميم المثالي للمرة الأولى.
08:24
It's as though we've been handed an oracle
166
492880
2216
وكأنه تم تسليمنا نبوءة
08:27
that behaves exactly as intended.
167
495120
2016
تتصرَّف تماماً كما ينبغي عليها.
08:29
Well, this machine would be
the perfect labor-saving device.
the perfect labor-saving device.
168
497160
3720
هذه الآلة ستكون المثلى لتوفير العمالة.
08:33
It can design the machine
that can build the machine
that can build the machine
169
501680
2429
بإمكانها تصميم آلية ستقوم ببناء الآلة
08:36
that can do any physical work,
170
504133
1763
التي بإمكانها القيام بأي عمل فيزيائي،
08:37
powered by sunlight,
171
505920
1456
تعمل بضوء الشمس،
08:39
more or less for the cost
of raw materials.
of raw materials.
172
507400
2696
ومهما يكن من أجل كلفة المواد الخام.
08:42
So we're talking about
the end of human drudgery.
the end of human drudgery.
173
510120
3256
إذاً نحن نتكلم عن نهاية الكدح البشري.
08:45
We're also talking about the end
of most intellectual work.
of most intellectual work.
174
513400
2800
نحن أيضا نتكلم عن نهاية العمل الذكائي.
08:49
So what would apes like ourselves
do in this circumstance?
do in this circumstance?
175
517200
3056
فماذا قد تفعل القرود أمثالنا في هذا الظرف؟
08:52
Well, we'd be free to play Frisbee
and give each other massages.
and give each other massages.
176
520280
4080
حسناً، سنكون متفرغين للعب بالصحن الطائر
وتبادل الرسائل مع بعضنا.
وتبادل الرسائل مع بعضنا.
08:57
Add some LSD and some
questionable wardrobe choices,
questionable wardrobe choices,
177
525840
2856
أضف بعض الـLSD
مع اختيارات اللباس المشكوك بأمرها،
مع اختيارات اللباس المشكوك بأمرها،
09:00
and the whole world
could be like Burning Man.
could be like Burning Man.
178
528720
2176
وبإمكان العالم كله أن يصبح
كفيلم Burning Man.
كفيلم Burning Man.
09:02
(Laughter)
179
530920
1640
(ضحك)
09:06
Now, that might sound pretty good,
180
534320
2000
حسناً، هذا قد يبدو جيداً جداً،
09:09
but ask yourself what would happen
181
537280
2376
ولكن اسألوا أنفسكم ماذا قد يسبب هذا
09:11
under our current economic
and political order?
and political order?
182
539680
2736
لاقتصادنا الحالي ووضعنا السياسي؟
09:14
It seems likely that we would witness
183
542440
2416
يبدو أننا سنشهد على الأرجح
09:16
a level of wealth inequality
and unemployment
and unemployment
184
544880
4136
مستوى من تفاوت الثروات والبطالة
09:21
that we have never seen before.
185
549040
1496
الذي لم نشهده أبداً من قبل
09:22
Absent a willingness
to immediately put this new wealth
to immediately put this new wealth
186
550560
2616
غياب الرغبة لوضع هذه الثروة الجديدة فوراً
09:25
to the service of all humanity,
187
553200
1480
في خدمة جميع البشرية،
09:27
a few trillionaires could grace
the covers of our business magazines
the covers of our business magazines
188
555640
3616
بعض أصحاب التريليونات سوف يُشرِّفون
أغلفة مجلات أعمالنا
أغلفة مجلات أعمالنا
09:31
while the rest of the world
would be free to starve.
would be free to starve.
189
559280
2440
بينما يكون باقي العالم متفرغاً لكي
يتضور جوعاً.
يتضور جوعاً.
09:34
And what would the Russians
or the Chinese do
or the Chinese do
190
562320
2296
وماذا سيفعل الروس أو الصينيون
09:36
if they heard that some company
in Silicon Valley
in Silicon Valley
191
564640
2616
إذا سمعوا أن شركةً ما في Silicon Valley
09:39
was about to deploy a superintelligent AI?
192
567280
2736
كانت على وشك نشر الذكاء الا
فائق الذكاء؟
فائق الذكاء؟
09:42
This machine would be capable
of waging war,
of waging war,
193
570040
2856
هذه الآلة ستكون قادرة على شن حرب،
09:44
whether terrestrial or cyber,
194
572920
2216
سواء كانت على الأرض أو على الإنترنت،
09:47
with unprecedented power.
195
575160
1680
بقوة غير مسبوقة.
09:50
This is a winner-take-all scenario.
196
578120
1856
هذا السيناريو هو الذي يربح كل شيء
09:52
To be six months ahead
of the competition here
of the competition here
197
580000
3136
أن تكون متقدماً بستة أشهر على
المنافسة في هذه الحالة
المنافسة في هذه الحالة
09:55
is to be 500,000 years ahead,
198
583160
2776
تعني أن تكون متقدماً بـ500,000 سنة،
09:57
at a minimum.
199
585960
1496
بأقل حد.
09:59
So it seems that even mere rumors
of this kind of breakthrough
of this kind of breakthrough
200
587480
4736
وبالتالي يبدو أنه حتى الإشاعات المحضة
بما يخص النوع من الاكتشافات
بما يخص النوع من الاكتشافات
10:04
could cause our species to go berserk.
201
592240
2376
يمكن أن تجعل فصائلنا تهتاج.
10:06
Now, one of the most frightening things,
202
594640
2896
والآن، أكثر الأشياء إخافة،
10:09
in my view, at this moment,
203
597560
2776
من وجهة نظري، في هذه اللحظة،
10:12
are the kinds of things
that AI researchers say
that AI researchers say
204
600360
4296
هي النوع من الأشياء التي يقولها باحثو
الذكاء الاصطناعي عندما
الذكاء الاصطناعي عندما
10:16
when they want to be reassuring.
205
604680
1560
يريدون أن يكونوا مُطمئِنين.
10:19
And the most common reason
we're told not to worry is time.
we're told not to worry is time.
206
607000
3456
والسبب الأكثر شيوعاً الذي يُقال لنا
ألا نقلق بسببه هو الوقت
ألا نقلق بسببه هو الوقت
10:22
This is all a long way off,
don't you know.
don't you know.
207
610480
2056
هذا كله سيمر، ألا تعلم.
10:24
This is probably 50 or 100 years away.
208
612560
2440
هذا من المحتمل بعد 50 أو 100 سنة.
10:27
One researcher has said,
209
615720
1256
قال أحد الباحثين،
10:29
"Worrying about AI safety
210
617000
1576
"القلق بشأن سلامة
الذكاء الاصطناعي
الذكاء الاصطناعي
10:30
is like worrying
about overpopulation on Mars."
about overpopulation on Mars."
211
618600
2280
هو كالقلق بشأن زيادة
التعداد السكاني على المريخ"
التعداد السكاني على المريخ"
10:34
This is the Silicon Valley version
212
622116
1620
هذه نسخة Silicon Valley
10:35
of "don't worry your
pretty little head about it."
pretty little head about it."
213
623760
2376
من "لا تُقلق رأسك الجميل الصغير بهذا".
10:38
(Laughter)
214
626160
1336
(ضحك)
10:39
No one seems to notice
215
627520
1896
لا يبدو أن أحداً يلاحظ
10:41
that referencing the time horizon
216
629440
2616
أن الإشارة للحد الزمني
10:44
is a total non sequitur.
217
632080
2576
ليس له عواقب بتاتاً.
10:46
If intelligence is just a matter
of information processing,
of information processing,
218
634680
3256
إذا كان الذكاء هو مجرد مسألة معالجة
معلومات،
معلومات،
10:49
and we continue to improve our machines,
219
637960
2656
ونحن نستمر بتحسين آلياتنا،
10:52
we will produce
some form of superintelligence.
some form of superintelligence.
220
640640
2880
فسنقوم بإنتاج شكلٍ ما من الذكاء الفائق.
10:56
And we have no idea
how long it will take us
how long it will take us
221
644320
3656
وليس لدينا فكرة كم سيستغرق هذا مننا
11:00
to create the conditions
to do that safely.
to do that safely.
222
648000
2400
لخلق الشروط للقيام بذلك بأمان.
11:04
Let me say that again.
223
652200
1296
دعوني أقل ذلك مرة أخرى.
11:05
We have no idea how long it will take us
224
653520
3816
ليس لدينا فكرة كم سيستغرق الأمر مننا
11:09
to create the conditions
to do that safely.
to do that safely.
225
657360
2240
لخلق الشروط للقيام بذلك بأمان.
11:12
And if you haven't noticed,
50 years is not what it used to be.
50 years is not what it used to be.
226
660920
3456
وإذا لم تلاحظوا،
لم تعد الخمسون سنة كما كانت عليه.
لم تعد الخمسون سنة كما كانت عليه.
11:16
This is 50 years in months.
227
664400
2456
هذه 50 سنة في أشهر.
11:18
This is how long we've had the iPhone.
228
666880
1840
هذه المدة التي امتلكنا فيها الـiPhone
11:21
This is how long "The Simpsons"
has been on television.
has been on television.
229
669440
2600
هذه المدة التي انعرض فيها
The Simpsons على التلفاز
The Simpsons على التلفاز
11:24
Fifty years is not that much time
230
672680
2376
خمسون سنة هي ليست بالوقت الكثير
11:27
to meet one of the greatest challenges
our species will ever face.
our species will ever face.
231
675080
3160
لمواجهة أحد أكبر التحديات الذي سيواجه
لفصيلتنا.
لفصيلتنا.
11:31
Once again, we seem to be failing
to have an appropriate emotional response
to have an appropriate emotional response
232
679640
4016
مرة أخرى، يبدو أننا نفشل في امتلاك
الاستجابة العاطفية الملائمة
الاستجابة العاطفية الملائمة
11:35
to what we have every reason
to believe is coming.
to believe is coming.
233
683680
2696
لما يوجد لدينا أكثر من سبب للإيمكان
بأنه قادم
بأنه قادم
11:38
The computer scientist Stuart Russell
has a nice analogy here.
has a nice analogy here.
234
686400
3976
عالم الحاسوب Stuart Russell
لديه تحليل لطيف هنا.
لديه تحليل لطيف هنا.
11:42
He said, imagine that we received
a message from an alien civilization,
a message from an alien civilization,
235
690400
4896
هو يقول، تخيلوا أننا استلمنا رسالة من
حضارة الفضائيين،
حضارة الفضائيين،
11:47
which read:
236
695320
1696
والتي كانت:
11:49
"People of Earth,
237
697040
1536
"سكان الأرض،
11:50
we will arrive on your planet in 50 years.
238
698600
2360
سوف نصل إلى كوكبكم خلال 50 سنة.
11:53
Get ready."
239
701800
1576
استعدوا."
11:55
And now we're just counting down
the months until the mothership lands?
the months until the mothership lands?
240
703400
4256
والآن نقوم بالعد التنازلي للأشهر حتى تهبط
السفينة الأم؟
السفينة الأم؟
11:59
We would feel a little
more urgency than we do.
more urgency than we do.
241
707680
3000
سنشعر بالعجلة أكثر مما نفعل الآن بقليل.
12:04
Another reason we're told not to worry
242
712680
1856
يُقال لنا ألا نقلق لسببٍ آخر
12:06
is that these machines
can't help but share our values
can't help but share our values
243
714560
3016
هو أن هذه الآليات ليس بوسعها
إلا مشاركتنا منافعها
إلا مشاركتنا منافعها
12:09
because they will be literally
extensions of ourselves.
extensions of ourselves.
244
717600
2616
لأنها ستكون حرفياً امتداداً لأنفسنا.
12:12
They'll be grafted onto our brains,
245
720240
1816
ستكون مُطعَّمة مع أدمغتنا،
12:14
and we'll essentially
become their limbic systems.
become their limbic systems.
246
722080
2360
ونحن سنصبح جوهرياً أنظمتها الحوفية.
12:17
Now take a moment to consider
247
725120
1416
الآن خذوا لحظة للتفكير
12:18
that the safest
and only prudent path forward,
and only prudent path forward,
248
726560
3176
أن الطريق الوحيد الآمن والحكيم للأمام،
12:21
recommended,
249
729760
1336
الذي يُنصح به،
12:23
is to implant this technology
directly into our brains.
directly into our brains.
250
731120
2800
هو زرع هذه التكنولوجيا مباشرةً في أدمغتنا.
12:26
Now, this may in fact be the safest
and only prudent path forward,
and only prudent path forward,
251
734600
3376
قد يكون الطريق الوحيد
الآمن والحكيم للأمام،
الآمن والحكيم للأمام،
12:30
but usually one's safety concerns
about a technology
about a technology
252
738000
3056
ولكن عادةً يكون للمرء مخاوف
عن كون التكنولوجيا
عن كون التكنولوجيا
12:33
have to be pretty much worked out
before you stick it inside your head.
before you stick it inside your head.
253
741080
3656
مفهومة لحدٍّ ما قبل أن تدخلها داخل رأسك.
12:36
(Laughter)
254
744760
2016
(ضحك)
12:38
The deeper problem is that
building superintelligent AI on its own
building superintelligent AI on its own
255
746800
5336
المشكلة الأعمق أن بناء ذكاء اصطناعي فائق
الذكاء بمفرده
الذكاء بمفرده
12:44
seems likely to be easier
256
752160
1736
يبدو على الأرجح أنه أسهل
12:45
than building superintelligent AI
257
753920
1856
من بناء ذكاء اصطناعي فائق
الذكاء
الذكاء
12:47
and having the completed neuroscience
258
755800
1776
وامتلاك علم الأعصاب الكامل
12:49
that allows us to seamlessly
integrate our minds with it.
integrate our minds with it.
259
757600
2680
الذي يسمح لنا بمكاملة عقولنا معه بسلاسة.
12:52
And given that the companies
and governments doing this work
and governments doing this work
260
760800
3176
وبافتراض أن الشركات والحكومات
التي تقوم بهذا العمل
التي تقوم بهذا العمل
12:56
are likely to perceive themselves
as being in a race against all others,
as being in a race against all others,
261
764000
3656
على الأرجح ستعي كونها في سباق ضد
الآخرين جميعاً،
الآخرين جميعاً،
12:59
given that to win this race
is to win the world,
is to win the world,
262
767680
3256
وبافتراض أن الفوز في هذا السباق
هو الفوز بالعالم،
هو الفوز بالعالم،
13:02
provided you don't destroy it
in the next moment,
in the next moment,
263
770960
2456
بفرض أنك لن تدمره في الشهر التالي،
13:05
then it seems likely
that whatever is easier to do
that whatever is easier to do
264
773440
2616
فبالتالي يبدو على الأرجح أنه مهما يكن
الأسهل فعله
الأسهل فعله
13:08
will get done first.
265
776080
1200
سيتم الانتهاء منه أولاً.
13:10
Now, unfortunately,
I don't have a solution to this problem,
I don't have a solution to this problem,
266
778560
2856
الآن، لسوء الحظ، لا أمتلك حلاً لهذه
المشكلة،
المشكلة،
13:13
apart from recommending
that more of us think about it.
that more of us think about it.
267
781440
2616
بمعزل عن توصية أن يفكِّر المزيد مننا به.
13:16
I think we need something
like a Manhattan Project
like a Manhattan Project
268
784080
2376
أظن أننا بحاجة شيء ما مثل "مشروع مانهاتن"
13:18
on the topic of artificial intelligence.
269
786480
2016
لموضوع الذكاء الاصطناعي.
13:20
Not to build it, because I think
we'll inevitably do that,
we'll inevitably do that,
270
788520
2736
ليس لبنائه، لأنني أظننا سنفعل ذلك حتماً،
13:23
but to understand
how to avoid an arms race
how to avoid an arms race
271
791280
3336
ولكن لفهم كيفية تجنب سباق الأذرع
13:26
and to build it in a way
that is aligned with our interests.
that is aligned with our interests.
272
794640
3496
ولبنائه بطريقة منحازة مع اهتماماتنا.
13:30
When you're talking
about superintelligent AI
about superintelligent AI
273
798160
2136
عندما تتحدث عن ذكاء اصطناعي فائق
الذكاء
الذكاء
13:32
that can make changes to itself,
274
800320
2256
يمكنه إحداث تغيير لنفسه،
13:34
it seems that we only have one chance
to get the initial conditions right,
to get the initial conditions right,
275
802600
4616
يبدو أن لدينا فرصة واحدة للقيام بالشروط
الابتدائية بشكل صحيح،
الابتدائية بشكل صحيح،
13:39
and even then we will need to absorb
276
807240
2056
وحتى حينها سنكون بحاجة امتصاص
13:41
the economic and political
consequences of getting them right.
consequences of getting them right.
277
809320
3040
العواقب الاقتصادية والسياسية من القيام
بها بشكل صحيح.
بها بشكل صحيح.
13:45
But the moment we admit
278
813760
2056
ولكن في اللحظة التي نعترف فيها
13:47
that information processing
is the source of intelligence,
is the source of intelligence,
279
815840
4000
أن معالجة المعلومات هي مصدر الذكاء،
13:52
that some appropriate computational system
is what the basis of intelligence is,
is what the basis of intelligence is,
280
820720
4800
وأن بعض أنظمة الحاسوب الملائمة
تُعبِّر عن أساس الذكاء،
تُعبِّر عن أساس الذكاء،
13:58
and we admit that we will improve
these systems continuously,
these systems continuously,
281
826360
3760
ونعترف أننا سوف نحسِّن هذه الأنظمة
باستمرار،
باستمرار،
14:03
and we admit that the horizon
of cognition very likely far exceeds
of cognition very likely far exceeds
282
831280
4456
ونعترف أن أفق الإدراك على الأرجح يتجاوز
14:07
what we currently know,
283
835760
1200
الذي نعرفه حالياً بكثير،
14:10
then we have to admit
284
838120
1216
وبالتالي علينا الاعتراف
14:11
that we are in the process
of building some sort of god.
of building some sort of god.
285
839360
2640
أننا في مرحلة بناء نوع ما من الآلهة.
14:15
Now would be a good time
286
843400
1576
الآن سيكون وقتاً جيداً
14:17
to make sure it's a god we can live with.
287
845000
1953
للتأكد من أنه إله نستطيع العيش معه.
14:20
Thank you very much.
288
848120
1536
شكراً جزيلاً لكم.
14:21
(Applause)
289
849680
5093
(تصفيق)
ABOUT THE SPEAKER
Sam Harris - Neuroscientist, philosopherSam Harris's work focuses on how our growing understanding of ourselves and the world is changing our sense of how we should live.
Why you should listen
Sam Harris is the author of five New York Times bestsellers. His books include The End of Faith, Letter to a Christian Nation, The Moral Landscape, Free Will, Lying, Waking Up and Islam and the Future of Tolerance (with Maajid Nawaz). The End of Faith won the 2005 PEN Award for Nonfiction. Harris's writing and public lectures cover a wide range of topics -- neuroscience, moral philosophy, religion, spirituality, violence, human reasoning -- but generally focus on how a growing understanding of ourselves and the world is changing our sense of how we should live.
Harris's work has been published in more than 20 languages and has been discussed in the New York Times, Time, Scientific American, Nature, Newsweek, Rolling Stone and many other journals. He has written for the New York Times, the Los Angeles Times, The Economist, The Times (London), the Boston Globe, The Atlantic, The Annals of Neurology and elsewhere. Harris also regularly hosts a popular podcast.
Harris received a degree in philosophy from Stanford University and a Ph.D. in neuroscience from UCLA.
Sam Harris | Speaker | TED.com