TED@IBM
Grady Booch: Don't fear superintelligent AI
گردی بوچ: از ابرهوش مصنوعی نترسید
Filmed:
Readability: 4.7
2,866,438 views
گردی بوچ، دانشمند و فیلسوف می گوید: فناوری جدید، اضطرابهای جدید بهمراه دارد، اما لازم نیست از ابرهوش مصنوعی بی‌احساس و قدرتمند واهمه داشته باشیم. بوچ بدترین به نگرانیهای ما (از جمله موارد علمی تخیلی) درباره کامپیوترهای ابرهوشمند تسلی می‌دهد. با این توضیح که چطور با آموزش و نه برنامه‌ریزی کردن‌شان، ارزشهای خود را با آنها برنامه‌ریزی خواهیم کرد. بجای نگرانی درباره یک تهدید غیرمحتمل مخرب، وی تاکید دارد این را در نظر بگیریم که چطور هوش مصنوعی زندگی بشر را بهبود خواهد بخشید.
Grady Booch - Scientist, philosopher
IBM's Grady Booch is shaping the future of cognitive computing by building intelligent systems that can reason and learn. Full bio
IBM's Grady Booch is shaping the future of cognitive computing by building intelligent systems that can reason and learn. Full bio
Double-click the English transcript below to play the video.
00:12
When I was a kid,
I was the quintessential nerd.
I was the quintessential nerd.
0
760
3840
وقتی بچه بودم،
اصل درسخوان بودم.
اصل درسخوان بودم.
00:17
I think some of you were, too.
1
5320
2176
فکر کنم بعضی از شما همینطوری بودید.
00:19
(Laughter)
2
7520
1216
(خنده)
00:20
And you, sir, who laughed the loudest,
you probably still are.
you probably still are.
3
8760
3216
و شما آقا که از همه بلندتر خندیدی،
احتمالا هنوز هم هستی.
احتمالا هنوز هم هستی.
00:24
(Laughter)
4
12000
2256
(خنده)
00:26
I grew up in a small town
in the dusty plains of north Texas,
in the dusty plains of north Texas,
5
14280
3496
در شهری کوچک در دشتهای غبارآلود
شما تگزاس بزرگ شدم،
شما تگزاس بزرگ شدم،
00:29
the son of a sheriff
who was the son of a pastor.
who was the son of a pastor.
6
17800
3336
پسر یک کلانتر که خودش
پسر یک کشیش بود.
پسر یک کشیش بود.
00:33
Getting into trouble was not an option.
7
21160
1920
پس جایی برای خرابکاری نمیماند.
00:36
And so I started reading
calculus books for fun.
calculus books for fun.
8
24040
3256
و من محض تفریح کتابهای حساب
میخواندم.
میخواندم.
00:39
(Laughter)
9
27320
1536
(خنده)
00:40
You did, too.
10
28880
1696
شما هم اینطور بودید.
00:42
That led me to building a laser
and a computer and model rockets,
and a computer and model rockets,
11
30600
3736
که باعث شد یک لیزر و کامپیوتر
و مدل موشکی بسازم،
و مدل موشکی بسازم،
00:46
and that led me to making
rocket fuel in my bedroom.
rocket fuel in my bedroom.
12
34360
3000
و این که باعث شد در اتاق خوابم
سوخت موشک بسازم.
سوخت موشک بسازم.
00:49
Now, in scientific terms,
13
37960
3656
الان در عبارات علمی
00:53
we call this a very bad idea.
14
41640
3256
این را یک ایده بد میخوانیم.
00:56
(Laughter)
15
44920
1216
(خنده)
00:58
Around that same time,
16
46160
2176
و هم زمان
01:00
Stanley Kubrick's "2001: A Space Odyssey"
came to the theaters,
came to the theaters,
17
48360
3216
فیلم « ۲۰۰۱: یک ادیسه فضایی»
استنلی کوبریک به روی پرده آمد،
استنلی کوبریک به روی پرده آمد،
01:03
and my life was forever changed.
18
51600
2200
و زندگی من برای همیشه تغییر کرد.
01:06
I loved everything about that movie,
19
54280
2056
از همه چیز فیلم خوشم میامد
01:08
especially the HAL 9000.
20
56360
2536
بخصوص اچ‌ای‌ال ۹۰۰۰.
01:10
Now, HAL was a sentient computer
21
58920
2056
این اچ‌ای‌ال یک کامپیوتر احساسی بود
01:13
designed to guide the Discovery spacecraft
22
61000
2456
که جهت راهنمایی سفینه فضایی
دیسکاوری در رفتن از زمین
دیسکاوری در رفتن از زمین
01:15
from the Earth to Jupiter.
23
63480
2536
به مشتری طراحی شده بود.
01:18
HAL was also a flawed character,
24
66040
2056
ای‌اچ‌ال همینطور یک شخصیت معیوب بود.
01:20
for in the end he chose
to value the mission over human life.
to value the mission over human life.
25
68120
4280
چون در آخر ماموریت را بجای جان بشر
انتخاب کرد.
انتخاب کرد.
01:24
Now, HAL was a fictional character,
26
72840
2096
ای‌اچ ال یک شخصیت تخیلی بود
01:26
but nonetheless he speaks to our fears,
27
74960
2656
اما با این وجود
درباره ترسهای ما حرف می‌زد،
درباره ترسهای ما حرف می‌زد،
01:29
our fears of being subjugated
28
77640
2096
ترسمان از مقهور شدن از سوی یک
01:31
by some unfeeling, artificial intelligence
29
79760
3016
هوش مصنوعی بی‌احساس
01:34
who is indifferent to our humanity.
30
82800
1960
که به بشریت بی‌اعتناست.
01:37
I believe that such fears are unfounded.
31
85880
2576
به باور من این ترسها بی‌اساس است.
01:40
Indeed, we stand at a remarkable time
32
88480
2696
ما در واقع در برهه قابل توجهی
از تاریخ بشر
از تاریخ بشر
01:43
in human history,
33
91200
1536
بسر می‌بریم،
01:44
where, driven by refusal to accept
the limits of our bodies and our minds,
the limits of our bodies and our minds,
34
92760
4976
جاییکه با نگیزش انکار در پذیرش
محدودیتهای ذهنی و جسمی خود
محدودیتهای ذهنی و جسمی خود
01:49
we are building machines
35
97760
1696
ماشینهایی را می سزیم
01:51
of exquisite, beautiful
complexity and grace
complexity and grace
36
99480
3616
که با پیچیدگی زیبا، منحصربفرد و
زیبندگی
زیبندگی
01:55
that will extend the human experience
37
103120
2056
تجربه بشری را تا ورای تصورات ما
01:57
in ways beyond our imagining.
38
105200
1680
گسترش خواهند داد.
01:59
After a career that led me
from the Air Force Academy
from the Air Force Academy
39
107720
2576
بعد از مسیر حرفه‌ای که من
را از آکادمی نیروی هوایی
را از آکادمی نیروی هوایی
02:02
to Space Command to now,
40
110320
1936
به فرماندهی فضایی و الان
02:04
I became a systems engineer,
41
112280
1696
به این مهندس سیستمی که شدم کشاند،
02:06
and recently I was drawn
into an engineering problem
into an engineering problem
42
114000
2736
و تازگی درگیر مشکل مهندسی شده‌ام
02:08
associated with NASA's mission to Mars.
43
116760
2576
که مرتبط با ماموریت ناسا به مریخ است.
02:11
Now, in space flights to the Moon,
44
119360
2496
الان در سفرهای فضایی به ماه
02:13
we can rely upon
mission control in Houston
mission control in Houston
45
121880
3136
می‌توانیم به کنترل ماموریت
در هوستون تکیه کنیم
در هوستون تکیه کنیم
02:17
to watch over all aspects of a flight.
46
125040
1976
تا کلیه جوانب یک پرواز را نظارت کند.
02:19
However, Mars is 200 times further away,
47
127040
3536
هرچند، مریخ ۲۰۰ بار دورتر است،
02:22
and as a result it takes
on average 13 minutes
on average 13 minutes
48
130600
3216
و در نتیجه بطور متوسط ۱۳ دقیقه
طول می‌کشد
طول می‌کشد
02:25
for a signal to travel
from the Earth to Mars.
from the Earth to Mars.
49
133840
3136
تا یک سیگنال از زمین به ماه برسد.
02:29
If there's trouble,
there's not enough time.
there's not enough time.
50
137000
3400
اگر مشکلی باشد
زمان کافی نداریم.
زمان کافی نداریم.
02:32
And so a reasonable engineering solution
51
140840
2496
و برای یک راه‌حل مهندسی منطقی
02:35
calls for us to put mission control
52
143360
2576
از ما این را طلب می‌کند
که کنترل گر ماموریت
که کنترل گر ماموریت
02:37
inside the walls of the Orion spacecraft.
53
145960
3016
داخل دیوارهای فضای پیمای اوریون باشد.
02:41
Another fascinating idea
in the mission profile
in the mission profile
54
149000
2896
یک ایده جذاب دیگر در روند ماموریت
02:43
places humanoid robots
on the surface of Mars
on the surface of Mars
55
151920
2896
استفاده از روباتهای انسانی در سطح مریخ است
02:46
before the humans themselves arrive,
56
154840
1856
پیش از رسیدن انسانه،
02:48
first to build facilities
57
156720
1656
اول این که امکاناتی را برپا کنند
02:50
and later to serve as collaborative
members of the science team.
members of the science team.
58
158400
3360
و بعد بعنوان اعضای همکار
تیم علمی خدمت کنند.
تیم علمی خدمت کنند.
02:55
Now, as I looked at this
from an engineering perspective,
from an engineering perspective,
59
163400
2736
الان که از دید مهندسی به این نگاه می‌کنم
02:58
it became very clear to me
that what I needed to architect
that what I needed to architect
60
166160
3176
برایم کاملا روش می‌شود
که آنچه بعنوان معمار لازم داشتم
که آنچه بعنوان معمار لازم داشتم
03:01
was a smart, collaborative,
61
169360
2176
یک هوش مصنوعی زیرک،
03:03
socially intelligent
artificial intelligence.
artificial intelligence.
62
171560
2376
همکاری کننده و دارای هوش اجتماعی بود.
03:05
In other words, I needed to build
something very much like a HAL
something very much like a HAL
63
173960
4296
بعبارتی چیزی به اچ‌ای‌ال بسازم
03:10
but without the homicidal tendencies.
64
178280
2416
اما بدون گرایشات انتحاری.
03:12
(Laughter)
65
180720
1360
(خنده)
03:14
Let's pause for a moment.
66
182920
1816
برای لحظه‌ای بیایید مکث کنیم.
03:16
Is it really possible to build
an artificial intelligence like that?
an artificial intelligence like that?
67
184760
3896
آیا امکان سک هوش مصنوعی مثل آن وجود دارد؟
03:20
Actually, it is.
68
188680
1456
راستش هست.
03:22
In many ways,
69
190160
1256
از بسیاری جهات
03:23
this is a hard engineering problem
70
191440
1976
این یک مشکل سخت مهندسی با اجزای
03:25
with elements of AI,
71
193440
1456
ماشین ابر هوشمند است،
03:26
not some wet hair ball of an AI problem
that needs to be engineered.
that needs to be engineered.
72
194920
4696
نه یک جور گوی مودار خیس از
یک مساله ابرهوشمند که نیاز به مهندسی دارد.
یک مساله ابرهوشمند که نیاز به مهندسی دارد.
03:31
To paraphrase Alan Turing,
73
199640
2656
بگذارید از آلن تورینگ جور دیگر
نقل قول کنم،
نقل قول کنم،
03:34
I'm not interested
in building a sentient machine.
in building a sentient machine.
74
202320
2376
من علاقه‌ای به ساخت یک
ماشین احساسی ندارم.
ماشین احساسی ندارم.
03:36
I'm not building a HAL.
75
204720
1576
من اچ‌ای‌ال نمیسازم.
03:38
All I'm after is a simple brain,
76
206320
2416
تمام انچه دنبالشم یک مغز ساده است،
03:40
something that offers
the illusion of intelligence.
the illusion of intelligence.
77
208760
3120
چیزی که شبحی از هوش را ارائه کند.
03:45
The art and the science of computing
have come a long way
have come a long way
78
213000
3136
هنر و علم محاسبات کامپیوتری
از زمان ای اچ‌ال بر روی پرده
از زمان ای اچ‌ال بر روی پرده
03:48
since HAL was onscreen,
79
216160
1496
روزهای زیادی را پشت سر گذاشته
03:49
and I'd imagine if his inventor
Dr. Chandra were here today,
Dr. Chandra were here today,
80
217680
3216
ومن تصور می کنم اگر مخترع آن
دکتر چاندرا امروز اینجا بود،
دکتر چاندرا امروز اینجا بود،
03:52
he'd have a whole lot of questions for us.
81
220920
2336
کلی پرسش برای ما داشت.
03:55
Is it really possible for us
82
223280
2096
آیا واقعا برای ما امکان دارد
03:57
to take a system of millions
upon millions of devices,
upon millions of devices,
83
225400
4016
یک سیستم چند میلیونی را بنابر
میلیونها دستگاه در اختیار بگیریم
میلیونها دستگاه در اختیار بگیریم
04:01
to read in their data streams,
84
229440
1456
تا جریان داده‌های آنها را بخواند،
04:02
to predict their failures
and act in advance?
and act in advance?
85
230920
2256
تا ایراداتشان را پیش‌بینی کند
و پیشاپیش عمل کند.
و پیشاپیش عمل کند.
04:05
Yes.
86
233200
1216
بله.
04:06
Can we build systems that converse
with humans in natural language?
with humans in natural language?
87
234440
3176
آیا می‌توان سیستمهایی ساخت که
با انسانها به زبان عادی صحبت کنند؟
با انسانها به زبان عادی صحبت کنند؟
04:09
Yes.
88
237640
1216
بله.
04:10
Can we build systems
that recognize objects, identify emotions,
that recognize objects, identify emotions,
89
238880
2976
آیا می‌توان سیستمهایی ساخت که
اشیا و احساست را بشناسند،
اشیا و احساست را بشناسند،
04:13
emote themselves,
play games and even read lips?
play games and even read lips?
90
241880
3376
در احساسات خود اغراق کنند،
بازی کنند و حتی لب خوانی انجام دهند؟
بازی کنند و حتی لب خوانی انجام دهند؟
04:17
Yes.
91
245280
1216
بله.
04:18
Can we build a system that sets goals,
92
246520
2136
آیا می‌توان سیستمهای ساخت که هدف
تعیین کنند،
تعیین کنند،
04:20
that carries out plans against those goals
and learns along the way?
and learns along the way?
93
248680
3616
که طرحهایی را علیه آن اهداف انجام دهند
و در طول مسیر به یاد گرفتن بپردازند؟
و در طول مسیر به یاد گرفتن بپردازند؟
04:24
Yes.
94
252320
1216
بله.
04:25
Can we build systems
that have a theory of mind?
that have a theory of mind?
95
253560
3336
آیا می‌توان سیستمهای ساخت
که دارای نظریه ذهنی باشند؟
که دارای نظریه ذهنی باشند؟
04:28
This we are learning to do.
96
256920
1496
کاری که الان داریم
میاموزیم.
میاموزیم.
04:30
Can we build systems that have
an ethical and moral foundation?
an ethical and moral foundation?
97
258440
3480
آیا می‌توان سیستمهای ساخت
که پایه اخلاقی و وجدانی دارند؟
که پایه اخلاقی و وجدانی دارند؟
04:34
This we must learn how to do.
98
262480
2040
چیزی که باید انجامش را بیاموزیم.
04:37
So let's accept for a moment
99
265360
1376
خب بگذارید برای
لحظه‌ای بپذیریم
لحظه‌ای بپذیریم
04:38
that it's possible to build
such an artificial intelligence
such an artificial intelligence
100
266760
2896
که امکان ساخت چنین هوش مصنوعی
04:41
for this kind of mission and others.
101
269680
2136
برای چنین ماموریتهایی وجود دارد.
04:43
The next question
you must ask yourself is,
you must ask yourself is,
102
271840
2536
این سوال بعدی که باید از خودتان بپرسید،
04:46
should we fear it?
103
274400
1456
آیا باید از آن ترسید؟
04:47
Now, every new technology
104
275880
1976
خب با آمدن هر فناوری جدیدی
04:49
brings with it
some measure of trepidation.
some measure of trepidation.
105
277880
2896
دلهره و واهمه‌ای هم همراهش میاید.
04:52
When we first saw cars,
106
280800
1696
وقتی برای بار اول ماشینها را دیدیم،
04:54
people lamented that we would see
the destruction of the family.
the destruction of the family.
107
282520
4016
مردم تاسف می‌خورند که ما شاهد
از دست رفتن خانواده خواهیم بود.
از دست رفتن خانواده خواهیم بود.
04:58
When we first saw telephones come in,
108
286560
2696
وقتی برای اول تلفن آمد،
05:01
people were worried it would destroy
all civil conversation.
all civil conversation.
109
289280
2896
مردم نگران بودند که نکند اثری از
مکالمه مدنی نماند.
مکالمه مدنی نماند.
05:04
At a point in time we saw
the written word become pervasive,
the written word become pervasive,
110
292200
3936
در مرحله‌ای از زمان که ما شاهد بودیم
کلام نوشتاری فراگیر شد،
کلام نوشتاری فراگیر شد،
05:08
people thought we would lose
our ability to memorize.
our ability to memorize.
111
296160
2496
مردم فکر می کردند توانایی خود
برای بخاطر سپردن را از دست می دهیم.
برای بخاطر سپردن را از دست می دهیم.
05:10
These things are all true to a degree,
112
298680
2056
این چیزها تا حدی درست هستند،
05:12
but it's also the case
that these technologies
that these technologies
113
300760
2416
اما همچنین این مورد هم هست
که این فناوریها
که این فناوریها
05:15
brought to us things
that extended the human experience
that extended the human experience
114
303200
3376
برای چیزهایی را آورده‌اند که
که تجربیات بشری را عمیقا
که تجربیات بشری را عمیقا
05:18
in some profound ways.
115
306600
1880
گسترش داده است.
05:21
So let's take this a little further.
116
309840
2280
پس بیاید کمی این را جلوتر ببریم.
05:25
I do not fear the creation
of an AI like this,
of an AI like this,
117
313120
4736
من از آفرینش یک ابرهوش مصنوعی
مثل این واهمه ندارم،
مثل این واهمه ندارم،
05:29
because it will eventually
embody some of our values.
embody some of our values.
118
317880
3816
چون سرانجام برخی از
ارزشهای ما را دربر خواهد گرفت.
ارزشهای ما را دربر خواهد گرفت.
05:33
Consider this: building a cognitive system
is fundamentally different
is fundamentally different
119
321720
3496
این را تصور کنید: ساخت یک سیستم ادراکی
که اساسا متفاوت است
که اساسا متفاوت است
05:37
than building a traditional
software-intensive system of the past.
software-intensive system of the past.
120
325240
3296
از ساخت یک نظام فشرده- نرم‌افزاری
سنتی از گذشته.
سنتی از گذشته.
05:40
We don't program them. We teach them.
121
328560
2456
آنها را برنامه ریزی نمی‌کنیم.
به آنه موزش می دهیم.
به آنه موزش می دهیم.
05:43
In order to teach a system
how to recognize flowers,
how to recognize flowers,
122
331040
2656
برای آموزش به یک سیستم
که چطور گلها را تشخیص دهد،
که چطور گلها را تشخیص دهد،
05:45
I show it thousands of flowers
of the kinds I like.
of the kinds I like.
123
333720
3016
هزارن گل از انواعی که دوست دارم
را نشان می دهم.
را نشان می دهم.
05:48
In order to teach a system
how to play a game --
how to play a game --
124
336760
2256
برای این که سیستم نحوه
انجام بازیی را بیاموزد.
انجام بازیی را بیاموزد.
05:51
Well, I would. You would, too.
125
339040
1960
خب این را می کنم. شما هم همینطور.
05:54
I like flowers. Come on.
126
342600
2040
گلها را دوست دارم. یالا.
05:57
To teach a system
how to play a game like Go,
how to play a game like Go,
127
345440
2856
برای آموزش به سیستمی که بتواند
بازی مثل Go را انجام دهد،
بازی مثل Go را انجام دهد،
06:00
I'd have it play thousands of games of Go,
128
348320
2056
هزاران بار گذاشتم که
بازیهای Go را انجام دهد
بازیهای Go را انجام دهد
06:02
but in the process I also teach it
129
350400
1656
اما در این روند
آن را آموزش هم می‌دهم.
آن را آموزش هم می‌دهم.
06:04
how to discern
a good game from a bad game.
a good game from a bad game.
130
352080
2416
چطور یک بازی خوب را از بد
تشخیص دهد.
تشخیص دهد.
06:06
If I want to create an artificially
intelligent legal assistant,
intelligent legal assistant,
131
354520
3696
اکر بخواهم یک دستیار حقوقی
باهوش مصنوعی خلق کنم،
باهوش مصنوعی خلق کنم،
06:10
I will teach it some corpus of law
132
358240
1776
کمی از مجموعه قانون را خواهم آموخت
06:12
but at the same time I am fusing with it
133
360040
2856
البته هم زمان با آن مفاهیم
06:14
the sense of mercy and justice
that is part of that law.
that is part of that law.
134
362920
2880
عدالت و بخشش را که بخشی از قانون
هستند را خواهم آموخت.
هستند را خواهم آموخت.
06:18
In scientific terms,
this is what we call ground truth,
this is what we call ground truth,
135
366560
2976
در عبارات علمی،
این را حقیقت مبنا مینامیم
این را حقیقت مبنا مینامیم
06:21
and here's the important point:
136
369560
2016
و نکته مهم این است:
06:23
in producing these machines,
137
371600
1456
در تولید چنین ماشینهایی
06:25
we are therefore teaching them
a sense of our values.
a sense of our values.
138
373080
3416
درواقع به آنها مفهوم
ارزشهایمان را میاموزیم.
ارزشهایمان را میاموزیم.
06:28
To that end, I trust
an artificial intelligence
an artificial intelligence
139
376520
3136
به همین ترتیب، به هوش مصنوعی
همان اندازه‌ای باور دارم
همان اندازه‌ای باور دارم
06:31
the same, if not more,
as a human who is well-trained.
as a human who is well-trained.
140
379680
3640
که به یک انسانی که بخوبی
آموزش دیده.
آموزش دیده.
06:36
But, you may ask,
141
384080
1216
اما ممکن است سوال کنید،
06:37
what about rogue agents,
142
385320
2616
ماموران زیرک چطور،
06:39
some well-funded
nongovernment organization?
nongovernment organization?
143
387960
3336
یک سازمانه غیردولتی پولدار؟
06:43
I do not fear an artificial intelligence
in the hand of a lone wolf.
in the hand of a lone wolf.
144
391320
3816
من ازاین که هوش مصنوعی در اختیار
یک گرگ تنها باشد نمی‌ترسم.
یک گرگ تنها باشد نمی‌ترسم.
06:47
Clearly, we cannot protect ourselves
against all random acts of violence,
against all random acts of violence,
145
395160
4536
معلوم است که ما نمی‌توانیم از خودمان
در مقابل تمامی اعمال خشونت‌امیز تصادفی حمایت کنیم
در مقابل تمامی اعمال خشونت‌امیز تصادفی حمایت کنیم
06:51
but the reality is such a system
146
399720
2136
اما حقیقت این است که چنین سیستمی
06:53
requires substantial training
and subtle training
and subtle training
147
401880
3096
نیازمند آموزش مفصل و موشکفانه‌ای دارد
06:57
far beyond the resources of an individual.
148
405000
2296
که فرای منابع فردی است.
06:59
And furthermore,
149
407320
1216
و علاوه براین
07:00
it's far more than just injecting
an internet virus to the world,
an internet virus to the world,
150
408560
3256
بسیار فراتر از ویروس اینترنتی
وارد کردن به جهان است
وارد کردن به جهان است
07:03
where you push a button,
all of a sudden it's in a million places
all of a sudden it's in a million places
151
411840
3096
جاییکه با یک کلیک، به یکباره ویروس
در میلیونها جا پراکنده شده
در میلیونها جا پراکنده شده
07:06
and laptops start blowing up
all over the place.
all over the place.
152
414960
2456
و لپ تاپ ها در همه جا شروع
به ترکیدن می کنند.
به ترکیدن می کنند.
07:09
Now, these kinds of substances
are much larger,
are much larger,
153
417440
2816
خب مفاهیمی این چنینی بسیار بزرگترند
07:12
and we'll certainly see them coming.
154
420280
1715
و ما بی شک شاهد این اتفاقات
خواهیم بود.
خواهیم بود.
07:14
Do I fear that such
an artificial intelligence
an artificial intelligence
155
422520
3056
آیا از یک چنین هوش مصنوعی می‌ترسم
07:17
might threaten all of humanity?
156
425600
1960
که ممکن است تهدیدی برای بشریت باشد؟
07:20
If you look at movies
such as "The Matrix," "Metropolis,"
such as "The Matrix," "Metropolis,"
157
428280
4376
اگر به فیلمهایی مثل ماتریکس، متروپلیس،
ترمیناتور یا
ترمیناتور یا
07:24
"The Terminator,"
shows such as "Westworld,"
shows such as "Westworld,"
158
432680
3176
سریالی مثل وست ورلد نگاه کنید،
07:27
they all speak of this kind of fear.
159
435880
2136
تمامی از از چنین ترسی حرف می‌زنند.
07:30
Indeed, in the book "Superintelligence"
by the philosopher Nick Bostrom,
by the philosopher Nick Bostrom,
160
438040
4296
درواقع، در کتاب «ابرهوش صنوعی»
نوشته نیکو بوستروم فیلسوف،
نوشته نیکو بوستروم فیلسوف،
07:34
he picks up on this theme
161
442360
1536
او با این موضوع پیش می‌رود
07:35
and observes that a superintelligence
might not only be dangerous,
might not only be dangerous,
162
443920
4016
و مشاهده‌اش این است که یک ابرهوش مصنوعی
نه تنها شاید خطرناک بشد
نه تنها شاید خطرناک بشد
07:39
it could represent an existential threat
to all of humanity.
to all of humanity.
163
447960
3856
بلکه نماینده تهدیدی نابودگر
برای کل بشریت باشد.
برای کل بشریت باشد.
07:43
Dr. Bostrom's basic argument
164
451840
2216
استدلال اولیه دکتر بوستروم
07:46
is that such systems will eventually
165
454080
2736
این است که چنین سیستمهایی عاقبت
07:48
have such an insatiable
thirst for information
thirst for information
166
456840
3256
چنان عطش سیری‌ناپذیری
برای اطلاعات خواهند داشت
برای اطلاعات خواهند داشت
07:52
that they will perhaps learn how to learn
167
460120
2896
که شاید نحوه یادگرفتن را یاد بگشیرند
07:55
and eventually discover
that they may have goals
that they may have goals
168
463040
2616
و سرانجام کشف کنند که اهدافی دارند
07:57
that are contrary to human needs.
169
465680
2296
که مغایر با نیازهای بشر است.
08:00
Dr. Bostrom has a number of followers.
170
468000
1856
دکتر بوستروم کلی دنبال کننده دارد.
08:01
He is supported by people
such as Elon Musk and Stephen Hawking.
such as Elon Musk and Stephen Hawking.
171
469880
4320
او از سوی کسانی مثل الون موسک
و استفن هاوکینگ حمایت می‌شود.
و استفن هاوکینگ حمایت می‌شود.
08:06
With all due respect
172
474880
2400
با تمامی احترامی که برای این
08:10
to these brilliant minds,
173
478160
2016
ذهنهای بی‌نظیر قائل هستم،
08:12
I believe that they
are fundamentally wrong.
are fundamentally wrong.
174
480200
2256
اعتقاد دارم که آنها
از پایه اشتباه می کنند.
از پایه اشتباه می کنند.
08:14
Now, there are a lot of pieces
of Dr. Bostrom's argument to unpack,
of Dr. Bostrom's argument to unpack,
175
482480
3176
اکنون قسمتهای زیادیاز استدلال دکتر بوستروم است
که باید از چمدان خارج شود
که باید از چمدان خارج شود
08:17
and I don't have time to unpack them all,
176
485680
2136
و من زمان کافی را برای همه آنها ندارم،
08:19
but very briefly, consider this:
177
487840
2696
فقط خلاصه این را بگویم:
08:22
super knowing is very different
than super doing.
than super doing.
178
490560
3736
مدعی العلوم با همه کاره بودن
خیلی فرق دارد.
خیلی فرق دارد.
08:26
HAL was a threat to the Discovery crew
179
494320
1896
ای‌اچ ال تهدیدی برای خدمه دیسکاوری بود
08:28
only insofar as HAL commanded
all aspects of the Discovery.
all aspects of the Discovery.
180
496240
4416
تنها جاییکه ای‌اچ ال همه جوانب
را در دیسکاوری فرماندهی می‌کرد.
را در دیسکاوری فرماندهی می‌کرد.
08:32
So it would have to be
with a superintelligence.
with a superintelligence.
181
500680
2496
بریا این کار باید ابرهوشمند بود.
08:35
It would have to have dominion
over all of our world.
over all of our world.
182
503200
2496
باید بر همه دنیای ما سلطه داشته باشد.
08:37
This is the stuff of Skynet
from the movie "The Terminator"
from the movie "The Terminator"
183
505720
2816
اینها از ویژگیهای اسکای‌نت در فیلم
ترمیناتور(نابودگر) است
ترمیناتور(نابودگر) است
08:40
in which we had a superintelligence
184
508560
1856
که درآن یک ابرهوش مصنوعی داشتیم
08:42
that commanded human will,
185
510440
1376
که بر اراده بشر حک می‌راند،
08:43
that directed every device
that was in every corner of the world.
that was in every corner of the world.
186
511840
3856
همه چیز و همه جا را در زمین هدایت می‌کرد.
08:47
Practically speaking,
187
515720
1456
اما در عالم واقعیت
08:49
it ain't gonna happen.
188
517200
2096
این اتفاق نخواهد افتاد.
08:51
We are not building AIs
that control the weather,
that control the weather,
189
519320
3056
ما ماشینهای ابرهوشمندی را نمی‌سازیم
که هوا را کنترل کنند،
که هوا را کنترل کنند،
08:54
that direct the tides,
190
522400
1336
که جزر و مد را جهت دهند،
08:55
that command us
capricious, chaotic humans.
capricious, chaotic humans.
191
523760
3376
که به ما انسانهای دمدمی‌مزاج
و بی‌نظم فرمان دهند.
و بی‌نظم فرمان دهند.
08:59
And furthermore, if such
an artificial intelligence existed,
an artificial intelligence existed,
192
527160
3896
و علاوه بر آن، اگر چنین هوش مصنوعی
وجود داشته باشد،
وجود داشته باشد،
09:03
it would have to compete
with human economies,
with human economies,
193
531080
2936
باید با اقتصادهای بشری رقابت کند،
09:06
and thereby compete for resources with us.
194
534040
2520
و به این وسیله برای منابع با ما رقابت کند.
09:09
And in the end --
195
537200
1216
و در آخر--
09:10
don't tell Siri this --
196
538440
1240
به «سیری» این را نگویید--
09:12
we can always unplug them.
197
540440
1376
همیشه می توانیم از
برق آنها را بکشیم.
برق آنها را بکشیم.
09:13
(Laughter)
198
541840
2120
(خنده)
09:17
We are on an incredible journey
199
545360
2456
ما در یک سفر باورنکردنی از
09:19
of coevolution with our machines.
200
547840
2496
هم‌فرگشتی با ماشینهای خود
بسر می‌بریم.
بسر می‌بریم.
09:22
The humans we are today
201
550360
2496
این آدمهایی که امروز هستیم
09:24
are not the humans we will be then.
202
552880
2536
آن آدمهایی که بعدا خواهیم شد نیستم.
09:27
To worry now about the rise
of a superintelligence
of a superintelligence
203
555440
3136
الان نگران بودن درباره خیزش یک ابرهوشمند
09:30
is in many ways a dangerous distraction
204
558600
3056
از بسیاری جهات انحرافی خطرناک است
09:33
because the rise of computing itself
205
561680
2336
چون خیزش محاسبات کامپیوتری خودش
09:36
brings to us a number
of human and societal issues
of human and societal issues
206
564040
3016
کلی مسائل اجتماعی و انسانی را برایمان
به ارمغان می‌اورد
به ارمغان می‌اورد
09:39
to which we must now attend.
207
567080
1640
که باید به آنها رسیدگی کنیم.
09:41
How shall I best organize society
208
569360
2816
چطور به بهترین نحو جامعه‌ای
را برنامه ریزی کنم
را برنامه ریزی کنم
09:44
when the need for human labor diminishes?
209
572200
2336
وقتی نیاز به نیروی کار بشری نمیماند؟
09:46
How can I bring understanding
and education throughout the globe
and education throughout the globe
210
574560
3816
چطور می‌توانم تفاهم و تعلیم
را به جهان بیاورم
را به جهان بیاورم
09:50
and still respect our differences?
211
578400
1776
و هنوز احترام به تفاوتها
هم باشد.
هم باشد.
09:52
How might I extend and enhance human life
through cognitive healthcare?
through cognitive healthcare?
212
580200
4256
چطور
09:56
How might I use computing
213
584480
2856
چطور شاید از محاسبات کامپیوتری
در کمک به
در کمک به
09:59
to help take us to the stars?
214
587360
1760
رسیدن به
ستاره‌ها استفاده کنم؟
ستاره‌ها استفاده کنم؟
10:01
And that's the exciting thing.
215
589760
2040
و همین هیجان‌انگیزه است.
10:04
The opportunities to use computing
216
592400
2336
فرصتهایی برای استقاده از
محاسبات کامپیوتری
محاسبات کامپیوتری
10:06
to advance the human experience
217
594760
1536
برای پیشرفت تجربه بشر
10:08
are within our reach,
218
596320
1416
اینجا و الان
10:09
here and now,
219
597760
1856
در دسترس ما است.
10:11
and we are just beginning.
220
599640
1680
و تازه اول راه هستیم.
10:14
Thank you very much.
221
602280
1216
خیلی متشکرم.
10:15
(Applause)
222
603520
4286
(تشویق)
ABOUT THE SPEAKER
Grady Booch - Scientist, philosopherIBM's Grady Booch is shaping the future of cognitive computing by building intelligent systems that can reason and learn.
Why you should listen
When he was 13, Grady Booch saw 2001: A Space Odyssey in the theaters for the first time. Ever since, he's been trying to build Hal (albeit one without the homicidal tendencies). A scientist, storyteller and philosopher, Booch is Chief Scientist for Software Engineering as well as Chief Scientist for Watson/M at IBM Research, where he leads IBM's research and development for embodied cognition. Having originated the term and the practice of object-oriented design, he is best known for his work in advancing the fields of software engineering and software architecture.
A co-author of the Unified Modeling Language (UML), a founding member of the Agile Allianc, and a founding member of the Hillside Group, Booch has published six books and several hundred technical articles, including an ongoing column for IEEE Software. He's also a trustee for the Computer History Museum, an IBM Fellow, an ACM Fellow and IEEE Fellow. He has been awarded the Lovelace Medal and has given the Turing Lecture for the BCS, and was recently named an IEEE Computer Pioneer.
Booch is currently deeply involved in the development of cognitive systems and is also developing a major trans-media documentary for public broadcast on the intersection of computing and the human experience.
Grady Booch | Speaker | TED.com