TED@IBM
Grady Booch: Don't fear superintelligent AI
גריידי בוץ׳: אל תפחדו מבינה מלאכותית סופר אינטלגנטית
Filmed:
Readability: 4.7
2,866,438 views
טכנולוגיות חדשות מציתה דאגות חדשות, אומר המדען והפילוסוף גריידי בוץ׳, אבל אנחנו לא צריכים לחשוש מהכוח וחוסר הרגש של הבינה המלאכותית. בוץ׳ מרגיע את הפחדים הגדולים ביותר שלנו (כולל ממדע בדיוני) לגבי מחשבים סופר אינטליגנטים ע״י כך שהוא מסביר כיצד נלמד אותם , ולא נתכנת, לחלוק את הערכים שלנו. במקום לדאוג מהחשש הלא סביר לקיומינו, הוא דוחף אותנו לראות כיצד בינה מלאכותית תשפר את חיינו.
Grady Booch - Scientist, philosopher
IBM's Grady Booch is shaping the future of cognitive computing by building intelligent systems that can reason and learn. Full bio
IBM's Grady Booch is shaping the future of cognitive computing by building intelligent systems that can reason and learn. Full bio
Double-click the English transcript below to play the video.
00:12
When I was a kid,
I was the quintessential nerd.
I was the quintessential nerd.
0
760
3840
בילדותי הייתי החנון המוחלט.
00:17
I think some of you were, too.
1
5320
2176
אני חושב שכמה מכם היו גם.
00:19
(Laughter)
2
7520
1216
(צחוק)
00:20
And you, sir, who laughed the loudest,
you probably still are.
you probably still are.
3
8760
3216
ואתה אדוני, שצחקת הכי חזק,
כנראה עדיין גם היום.
כנראה עדיין גם היום.
00:24
(Laughter)
4
12000
2256
(צחוק)
00:26
I grew up in a small town
in the dusty plains of north Texas,
in the dusty plains of north Texas,
5
14280
3496
גדלתי בעיר קטנה במרחבים המאובקים
של צפון טקסס,
של צפון טקסס,
00:29
the son of a sheriff
who was the son of a pastor.
who was the son of a pastor.
6
17800
3336
בנו של השריף שהיה בן של כומר.
00:33
Getting into trouble was not an option.
7
21160
1920
להיקלע לצרות לא היתה אופציה.
00:36
And so I started reading
calculus books for fun.
calculus books for fun.
8
24040
3256
אז התחלתי לקרוא ספרי חשבון בשביל הכיף.
00:39
(Laughter)
9
27320
1536
(צחוק)
00:40
You did, too.
10
28880
1696
אתם גם.
00:42
That led me to building a laser
and a computer and model rockets,
and a computer and model rockets,
11
30600
3736
זה הוביל אותי לבניית לייזר ומחשב
ומודלים של טילים,
ומודלים של טילים,
00:46
and that led me to making
rocket fuel in my bedroom.
rocket fuel in my bedroom.
12
34360
3000
מה שהוביל אותי לייצר דלק טילים
בחדר השינה שלי.
בחדר השינה שלי.
00:49
Now, in scientific terms,
13
37960
3656
ובכן, במונחים מדעיים,
00:53
we call this a very bad idea.
14
41640
3256
אנחנו קוראים לזה רעיון רע מאוד.
00:56
(Laughter)
15
44920
1216
(צחוק)
00:58
Around that same time,
16
46160
2176
בערך באותו זמן,
01:00
Stanley Kubrick's "2001: A Space Odyssey"
came to the theaters,
came to the theaters,
17
48360
3216
הסרט ״2001 אודיסאה בחלל״ של
סטנלי קובריק הגיע למסכים,
סטנלי קובריק הגיע למסכים,
01:03
and my life was forever changed.
18
51600
2200
וחיי השתנו לנצח.
01:06
I loved everything about that movie,
19
54280
2056
אהבתי כל מה שהיה קשור לסרט,
01:08
especially the HAL 9000.
20
56360
2536
בייחוד את האל 9000 (HAL).
01:10
Now, HAL was a sentient computer
21
58920
2056
ובכן, האל היה מחשב בעל מודעות
01:13
designed to guide the Discovery spacecraft
22
61000
2456
שתוכנן להדריך את ספינת החלל דיסקברי
01:15
from the Earth to Jupiter.
23
63480
2536
בדרך מכדור הארץ לצדק.
01:18
HAL was also a flawed character,
24
66040
2056
האל היה גם טיפוס פגום,
01:20
for in the end he chose
to value the mission over human life.
to value the mission over human life.
25
68120
4280
כי בסופו של דבר הוא בחר להעדיף את המשימה
על פני חיי אדם.
על פני חיי אדם.
01:24
Now, HAL was a fictional character,
26
72840
2096
למרות שהאל היה דמות בדיונית,
01:26
but nonetheless he speaks to our fears,
27
74960
2656
הוא דיבר אל הפחדים שלנו,
01:29
our fears of being subjugated
28
77640
2096
הפחדים שלנו להיות משועבדים
01:31
by some unfeeling, artificial intelligence
29
79760
3016
על ידי בינה מלאכותית, ללא רגשות
01:34
who is indifferent to our humanity.
30
82800
1960
שאדישה לאנושיות שלנו.
01:37
I believe that such fears are unfounded.
31
85880
2576
אני מאמין שפחדים כאלו הם חסרי ביסוס.
01:40
Indeed, we stand at a remarkable time
32
88480
2696
אכן, אנו נמצאים בזמן יוצא דופן
01:43
in human history,
33
91200
1536
בהסטוריה האנושית,
01:44
where, driven by refusal to accept
the limits of our bodies and our minds,
the limits of our bodies and our minds,
34
92760
4976
שבו, מונעים על ידי סרובינו לקבל את המגבלות
של גופינו ומחשבותינו,
של גופינו ומחשבותינו,
01:49
we are building machines
35
97760
1696
אנו בונים מכונות
01:51
of exquisite, beautiful
complexity and grace
complexity and grace
36
99480
3616
בעלות עדינות, סיבוכיות יפיפיה וחינניות
01:55
that will extend the human experience
37
103120
2056
שיאריכו את טווח החוויה האנושית
01:57
in ways beyond our imagining.
38
105200
1680
בדרכים מעבר לדמיונינו.
01:59
After a career that led me
from the Air Force Academy
from the Air Force Academy
39
107720
2576
אחרי קריירה שהובילה אותי מהאקדמיה לטיס
בחיל האויר
בחיל האויר
02:02
to Space Command to now,
40
110320
1936
לפיקוד על משימות חלל לעכשיו,
02:04
I became a systems engineer,
41
112280
1696
נהייתי מהנדס מערכות,
02:06
and recently I was drawn
into an engineering problem
into an engineering problem
42
114000
2736
ולאחרונה נשאבתי לבעייה הנדסית
02:08
associated with NASA's mission to Mars.
43
116760
2576
הקשורה למשימה של נאס״א למאדים.
02:11
Now, in space flights to the Moon,
44
119360
2496
ובכן, במשימות חלל לירח,
02:13
we can rely upon
mission control in Houston
mission control in Houston
45
121880
3136
אנו יכולים לסמוך על פיקוד המשימה ביוסטון
02:17
to watch over all aspects of a flight.
46
125040
1976
שיפקח על כל ההיבטים של הטיסה.
02:19
However, Mars is 200 times further away,
47
127040
3536
אבל, מאדים רחוק פי 200 יותר,
02:22
and as a result it takes
on average 13 minutes
on average 13 minutes
48
130600
3216
ולכן לוקח בממוצע 13 דקות
02:25
for a signal to travel
from the Earth to Mars.
from the Earth to Mars.
49
133840
3136
לשדר לנוע מכדור הארץ למאדים.
02:29
If there's trouble,
there's not enough time.
there's not enough time.
50
137000
3400
אם קורות בעיות, אין מספיק זמן.
02:32
And so a reasonable engineering solution
51
140840
2496
ולכן פתרון הנדסי סביר
02:35
calls for us to put mission control
52
143360
2576
יהיה לשים את פיקוד המשימה
02:37
inside the walls of the Orion spacecraft.
53
145960
3016
בתוך רכב החלל אוריון.
02:41
Another fascinating idea
in the mission profile
in the mission profile
54
149000
2896
רעיון מרתק נוסף בפרופיל המשימה
02:43
places humanoid robots
on the surface of Mars
on the surface of Mars
55
151920
2896
הוא לשים רובוטים דמויי אדם על פני מאדים
02:46
before the humans themselves arrive,
56
154840
1856
לפני שבני האדם מגיעים,
02:48
first to build facilities
57
156720
1656
בתחילה לשם בניית תשתיות
02:50
and later to serve as collaborative
members of the science team.
members of the science team.
58
158400
3360
ולאחר מכן לשרת כחלק שיתופי
מהצוות המדעי.
מהצוות המדעי.
02:55
Now, as I looked at this
from an engineering perspective,
from an engineering perspective,
59
163400
2736
כשהתבוננתי בזה מנקודת מבט הנדסית,
02:58
it became very clear to me
that what I needed to architect
that what I needed to architect
60
166160
3176
התבהרה לי ההבנה שמה שעלי לתכנן
03:01
was a smart, collaborative,
61
169360
2176
היא בינה מלאכותית חכמה, שיתופית
03:03
socially intelligent
artificial intelligence.
artificial intelligence.
62
171560
2376
ובעלת בינה חברתית.
03:05
In other words, I needed to build
something very much like a HAL
something very much like a HAL
63
173960
4296
במילים אחרות, הייתי צריך לבנות
משהו מאוד דומה להאל
משהו מאוד דומה להאל
03:10
but without the homicidal tendencies.
64
178280
2416
אבל ללא הנטיות האובדניות.
03:12
(Laughter)
65
180720
1360
(צחוק)
03:14
Let's pause for a moment.
66
182920
1816
בואו נעצור לרגע.
03:16
Is it really possible to build
an artificial intelligence like that?
an artificial intelligence like that?
67
184760
3896
האם זה אפשרי באמת לבנות בינה מלאכותית כזו?
03:20
Actually, it is.
68
188680
1456
למעשה, כן.
03:22
In many ways,
69
190160
1256
במובנים רבים,
03:23
this is a hard engineering problem
70
191440
1976
זו בעייה הנדסית קשה
03:25
with elements of AI,
71
193440
1456
עם אלמנטים של בינה מלאכותית,
03:26
not some wet hair ball of an AI problem
that needs to be engineered.
that needs to be engineered.
72
194920
4696
ולא כדור שיער רטוב של בינה מלאכותית
שצריך להיות מהונדס.
שצריך להיות מהונדס.
03:31
To paraphrase Alan Turing,
73
199640
2656
בפרפרזה על דבריו של אלן טיורינג,
03:34
I'm not interested
in building a sentient machine.
in building a sentient machine.
74
202320
2376
אני לא מעוניין לבנות מכונה מודעת.
03:36
I'm not building a HAL.
75
204720
1576
אני לא בונה את האל.
03:38
All I'm after is a simple brain,
76
206320
2416
כל מה שאני רוצה הוא מוח פשוט,
03:40
something that offers
the illusion of intelligence.
the illusion of intelligence.
77
208760
3120
משהו שמציע את האשליה של בינה.
03:45
The art and the science of computing
have come a long way
have come a long way
78
213000
3136
המדע והאומנות של המחשוב התקדמו רבות
03:48
since HAL was onscreen,
79
216160
1496
מאז שהאל הופיע על המסך,
03:49
and I'd imagine if his inventor
Dr. Chandra were here today,
Dr. Chandra were here today,
80
217680
3216
ואני מדמיין שאם הממציא שלו
ד״ר צ׳נדרה היה פה היום
ד״ר צ׳נדרה היה פה היום
03:52
he'd have a whole lot of questions for us.
81
220920
2336
היו לו הרבה שאלות אלינו.
03:55
Is it really possible for us
82
223280
2096
האם באמת אנחנו יכולים
03:57
to take a system of millions
upon millions of devices,
upon millions of devices,
83
225400
4016
לקחת מערכת של מליונים על מליונים
של מכשירים,
של מכשירים,
04:01
to read in their data streams,
84
229440
1456
לקרוא את כל הנתונים מהם,
04:02
to predict their failures
and act in advance?
and act in advance?
85
230920
2256
לנחש את הכשלים ולהגיב מראש?
04:05
Yes.
86
233200
1216
כן.
04:06
Can we build systems that converse
with humans in natural language?
with humans in natural language?
87
234440
3176
האם אנו יכולים לבנות מערכות המשוחחות
עם בני אדם בשפה טבעית?
עם בני אדם בשפה טבעית?
04:09
Yes.
88
237640
1216
כן.
04:10
Can we build systems
that recognize objects, identify emotions,
that recognize objects, identify emotions,
89
238880
2976
האם אנו יכולים לבנות מערכות
שיכירו אובייקטים, יזהו רגשות,
שיכירו אובייקטים, יזהו רגשות,
04:13
emote themselves,
play games and even read lips?
play games and even read lips?
90
241880
3376
שיהו רגשניות, ישחקו משחקים
ואפילו יקראו שפתיים?
ואפילו יקראו שפתיים?
04:17
Yes.
91
245280
1216
כן.
04:18
Can we build a system that sets goals,
92
246520
2136
האם ביכולתינו לבנות מערכות המציבות יעדים,
04:20
that carries out plans against those goals
and learns along the way?
and learns along the way?
93
248680
3616
ומוציאות לפועל תוכניות לפי יעדים אלו
ולומדות בדרך?
ולומדות בדרך?
04:24
Yes.
94
252320
1216
כן.
04:25
Can we build systems
that have a theory of mind?
that have a theory of mind?
95
253560
3336
האם ביכולתינו לבנות מערכות בעלות מודעות?
04:28
This we are learning to do.
96
256920
1496
את זה אנו לומדים לעשות.
04:30
Can we build systems that have
an ethical and moral foundation?
an ethical and moral foundation?
97
258440
3480
האם ביכולתינו לבנות מערכות בעלות בסיס
מורלי ואתי?
מורלי ואתי?
04:34
This we must learn how to do.
98
262480
2040
את זה אנו חייבים ללמוד לעשות.
04:37
So let's accept for a moment
99
265360
1376
אז בואו נקבל לרגע
04:38
that it's possible to build
such an artificial intelligence
such an artificial intelligence
100
266760
2896
שזה אפשרי לבנות כזו בינה מלאכותית
04:41
for this kind of mission and others.
101
269680
2136
עבור משימה זו ואחרות.
04:43
The next question
you must ask yourself is,
you must ask yourself is,
102
271840
2536
השאלה הבאה שאתם חייבים לשאול את עצמכם היא,
04:46
should we fear it?
103
274400
1456
האם עלינו לפחד ממנה?
04:47
Now, every new technology
104
275880
1976
כל טכנולוגיה חדשה
04:49
brings with it
some measure of trepidation.
some measure of trepidation.
105
277880
2896
מביאה איתה רמה מסויימת של חשש מהלא נודע.
04:52
When we first saw cars,
106
280800
1696
כשראינו לראשונה מכוניות,
04:54
people lamented that we would see
the destruction of the family.
the destruction of the family.
107
282520
4016
אנשים חזו שנראה את הרס המשפחה.
04:58
When we first saw telephones come in,
108
286560
2696
כשראינו לראשונה טלפונים,
05:01
people were worried it would destroy
all civil conversation.
all civil conversation.
109
289280
2896
אנשים חששו שזה יביא
לסופו של הדיון התרבותי.
לסופו של הדיון התרבותי.
05:04
At a point in time we saw
the written word become pervasive,
the written word become pervasive,
110
292200
3936
כשראינו בשלב מסויים את התפשטות המילה הכתובה,
05:08
people thought we would lose
our ability to memorize.
our ability to memorize.
111
296160
2496
אנשים חשבו שנאבד את היכולת לזכור.
05:10
These things are all true to a degree,
112
298680
2056
כל אלו נכונים במידה מסויימת,
05:12
but it's also the case
that these technologies
that these technologies
113
300760
2416
אבל טכנולוגיות אלו
05:15
brought to us things
that extended the human experience
that extended the human experience
114
303200
3376
הביאו דברים שהרחיבו את הנסיון האנושי
05:18
in some profound ways.
115
306600
1880
בדרכים עמוקות.
05:21
So let's take this a little further.
116
309840
2280
אז בואו ניקח את זה מעט רחוק יותר.
05:25
I do not fear the creation
of an AI like this,
of an AI like this,
117
313120
4736
אני לא מפחד מיצירת בינה מלאכותית כזו,
05:29
because it will eventually
embody some of our values.
embody some of our values.
118
317880
3816
כיוון שבסופו של דבר היא תכיל גם
כמה מהערכים שלנו.
כמה מהערכים שלנו.
05:33
Consider this: building a cognitive system
is fundamentally different
is fundamentally different
119
321720
3496
חישבו על כך: בניית מערכת קוגניטיבית
היא שונה מהותית
היא שונה מהותית
05:37
than building a traditional
software-intensive system of the past.
software-intensive system of the past.
120
325240
3296
מבניית מערכת מסורתית מרובת תוכנה של העבר.
05:40
We don't program them. We teach them.
121
328560
2456
אנו לא מתכנתים אותן, אנו מלמדים אותן.
05:43
In order to teach a system
how to recognize flowers,
how to recognize flowers,
122
331040
2656
כדי ללמד מערכת לזהות פרחים,
05:45
I show it thousands of flowers
of the kinds I like.
of the kinds I like.
123
333720
3016
אני מראה לה אלפי פרחים מהסוג שאני אוהב.
05:48
In order to teach a system
how to play a game --
how to play a game --
124
336760
2256
כדי ללמד מערכת לשחק משחק --
05:51
Well, I would. You would, too.
125
339040
1960
ובכן, הייתי עושה את זה. אתם גם.
05:54
I like flowers. Come on.
126
342600
2040
אני אוהב פרחים. בחייכם.
05:57
To teach a system
how to play a game like Go,
how to play a game like Go,
127
345440
2856
כדי ללמד מערכת לשחק משחק כמו גו,
06:00
I'd have it play thousands of games of Go,
128
348320
2056
אגרום לה לשחק אלפי משחקי גו.
06:02
but in the process I also teach it
129
350400
1656
אבל בתהליך אלמד אותה
06:04
how to discern
a good game from a bad game.
a good game from a bad game.
130
352080
2416
איך להבדיל בין משחק טוב למשחק רע.
06:06
If I want to create an artificially
intelligent legal assistant,
intelligent legal assistant,
131
354520
3696
אם אני רוצה ליצור בינה מלאכותית
עבור עזרה משפטית,
עבור עזרה משפטית,
06:10
I will teach it some corpus of law
132
358240
1776
אלמד אותה כמה ספרי משפטים
06:12
but at the same time I am fusing with it
133
360040
2856
אך באותו זמן אשלב זאת עם
06:14
the sense of mercy and justice
that is part of that law.
that is part of that law.
134
362920
2880
חוש הצדק והרחמים שהם חלק מאותם חוקים.
06:18
In scientific terms,
this is what we call ground truth,
this is what we call ground truth,
135
366560
2976
במונחים מדעיים,
זה מה שאנו קוראים לו אמת בסיסית,
זה מה שאנו קוראים לו אמת בסיסית,
06:21
and here's the important point:
136
369560
2016
והנה הנקודה החשובה:
06:23
in producing these machines,
137
371600
1456
כחלק מיצירת מכונות אלו,
06:25
we are therefore teaching them
a sense of our values.
a sense of our values.
138
373080
3416
אנו מלמדים אותן חלק מערכינו.
06:28
To that end, I trust
an artificial intelligence
an artificial intelligence
139
376520
3136
בהקשר זה, אני סומך על בינה מלאכותית
06:31
the same, if not more,
as a human who is well-trained.
as a human who is well-trained.
140
379680
3640
באותה מידה, אם לא יותר,
מאשר על אדם שאומן היטב.
מאשר על אדם שאומן היטב.
06:36
But, you may ask,
141
384080
1216
אבל, אתם עלולים לשאול,
06:37
what about rogue agents,
142
385320
2616
מה לגבי סוכנים פורעי חוק,
06:39
some well-funded
nongovernment organization?
nongovernment organization?
143
387960
3336
כמו ארגון לא ממשלתי ממומן היטב?
06:43
I do not fear an artificial intelligence
in the hand of a lone wolf.
in the hand of a lone wolf.
144
391320
3816
אני לא חושש מבינה מלאכותית בידיים
של זאב בודד.
של זאב בודד.
06:47
Clearly, we cannot protect ourselves
against all random acts of violence,
against all random acts of violence,
145
395160
4536
ברור שאיננו יכולים להגן על עצמינו
מכל מעשה אלימות אקראי,
מכל מעשה אלימות אקראי,
06:51
but the reality is such a system
146
399720
2136
אבל המציאות לגבי מערכות אלו היא
06:53
requires substantial training
and subtle training
and subtle training
147
401880
3096
שהן צריכות הרבה אימון, ואימון עדין
06:57
far beyond the resources of an individual.
148
405000
2296
הרבה מעבר למשאבים של אדם בודד.
06:59
And furthermore,
149
407320
1216
ובנוסף,
07:00
it's far more than just injecting
an internet virus to the world,
an internet virus to the world,
150
408560
3256
זה הרבה יותר מלהזריק וירוס אינטרנט לעולם,
07:03
where you push a button,
all of a sudden it's in a million places
all of a sudden it's in a million places
151
411840
3096
כשאתה לוחץ על כפתור,
ופתאום זה במליון מקומות
ופתאום זה במליון מקומות
07:06
and laptops start blowing up
all over the place.
all over the place.
152
414960
2456
ומחשבים מתחילים להתפוצץ בכל מקום.
07:09
Now, these kinds of substances
are much larger,
are much larger,
153
417440
2816
ובכן, מדובר פה במשהו הרבה יותר גדול,
07:12
and we'll certainly see them coming.
154
420280
1715
ובוודאות נראה את זה מגיע.
07:14
Do I fear that such
an artificial intelligence
an artificial intelligence
155
422520
3056
האם אני חושש שבינה מלאכותית כזו
07:17
might threaten all of humanity?
156
425600
1960
עלולה לאיים על האנושות כולה?
07:20
If you look at movies
such as "The Matrix," "Metropolis,"
such as "The Matrix," "Metropolis,"
157
428280
4376
אם תתבוננו בסרטים כמו ״המטריקס״,
״מטרופוליס״ ,
״מטרופוליס״ ,
07:24
"The Terminator,"
shows such as "Westworld,"
shows such as "Westworld,"
158
432680
3176
״שליחות קטלית״, תוכניות כמו ״ווסטוורלד״,
07:27
they all speak of this kind of fear.
159
435880
2136
כולן מדברות על חשש שכזה.
07:30
Indeed, in the book "Superintelligence"
by the philosopher Nick Bostrom,
by the philosopher Nick Bostrom,
160
438040
4296
ואכן, בספר ״סופר אינטליגנציה״
של הפילוסוף ניק בוסטרום,
של הפילוסוף ניק בוסטרום,
07:34
he picks up on this theme
161
442360
1536
הוא בוחן נושא זה
07:35
and observes that a superintelligence
might not only be dangerous,
might not only be dangerous,
162
443920
4016
ושם לב שסופר אינטליגנציה עלולה להיות
לא רק מסוכנת,
לא רק מסוכנת,
07:39
it could represent an existential threat
to all of humanity.
to all of humanity.
163
447960
3856
אלא גם יכולה להוות איום קיומי
על האנושות כולה.
על האנושות כולה.
07:43
Dr. Bostrom's basic argument
164
451840
2216
הטיעון הבסיסי של דוקטור בוסטרום
07:46
is that such systems will eventually
165
454080
2736
הוא שלמערכות כאלו יהיה בסופו של דבר
07:48
have such an insatiable
thirst for information
thirst for information
166
456840
3256
צמאון בלתי ניתן לרוויה למידע
07:52
that they will perhaps learn how to learn
167
460120
2896
עד שהן אולי ילמדו ללמוד
07:55
and eventually discover
that they may have goals
that they may have goals
168
463040
2616
ולבסוף יגלו שאולי יש להן יעדים
07:57
that are contrary to human needs.
169
465680
2296
מנוגדים לצרכי בני האדם.
08:00
Dr. Bostrom has a number of followers.
170
468000
1856
לדוקטור בוסטרום יש מספר עוקבים.
08:01
He is supported by people
such as Elon Musk and Stephen Hawking.
such as Elon Musk and Stephen Hawking.
171
469880
4320
הוא נתמך ע״י אנשים
כמו אלון מאסק וסטפן הוקינג.
כמו אלון מאסק וסטפן הוקינג.
08:06
With all due respect
172
474880
2400
עם כל הכבוד
08:10
to these brilliant minds,
173
478160
2016
למוחות מבריקים אלו,
08:12
I believe that they
are fundamentally wrong.
are fundamentally wrong.
174
480200
2256
אני מאמין שהם שוגים באופן בסיסי.
08:14
Now, there are a lot of pieces
of Dr. Bostrom's argument to unpack,
of Dr. Bostrom's argument to unpack,
175
482480
3176
ובכן, יש הרבה חלקים לפרק בטיעון
של דוקטור בוסטרום,
של דוקטור בוסטרום,
08:17
and I don't have time to unpack them all,
176
485680
2136
ואין לי זמן לפרק את כולם,
08:19
but very briefly, consider this:
177
487840
2696
אבל בקיצור רב, חישבו על כך:
08:22
super knowing is very different
than super doing.
than super doing.
178
490560
3736
ידיעת-על היא מאוד שונה מעשיית-על.
08:26
HAL was a threat to the Discovery crew
179
494320
1896
האל היה איום לצוות הדיסקברי
08:28
only insofar as HAL commanded
all aspects of the Discovery.
all aspects of the Discovery.
180
496240
4416
רק כיוון שהאל פיקד על כל הצדדים
של הדיסקברי.
של הדיסקברי.
08:32
So it would have to be
with a superintelligence.
with a superintelligence.
181
500680
2496
אז כך גם יצטרך להיות עם סופר אינטליגנציה.
08:35
It would have to have dominion
over all of our world.
over all of our world.
182
503200
2496
היא תצטרך להיות בשליטה על כל עולמינו.
08:37
This is the stuff of Skynet
from the movie "The Terminator"
from the movie "The Terminator"
183
505720
2816
זה מזכיר את סקיינט מהסרט ״שליחות קטלנית״
08:40
in which we had a superintelligence
184
508560
1856
שבו יש סופר אינטליגנציה
08:42
that commanded human will,
185
510440
1376
ששלטה על רצון בני האדם,
08:43
that directed every device
that was in every corner of the world.
that was in every corner of the world.
186
511840
3856
שכיוונה כל מכשיר בכל פינה של העולם.
08:47
Practically speaking,
187
515720
1456
אם להיות מעשיים,
08:49
it ain't gonna happen.
188
517200
2096
זה לא הולך לקרות.
08:51
We are not building AIs
that control the weather,
that control the weather,
189
519320
3056
אנחנו לא בונים בינה מלאכותית
ששולטת במזג האוויר,
ששולטת במזג האוויר,
08:54
that direct the tides,
190
522400
1336
שמכוונת את הגאות,
08:55
that command us
capricious, chaotic humans.
capricious, chaotic humans.
191
523760
3376
שמפקדת עלינו, האנשים הגחמניים והכאוטים.
08:59
And furthermore, if such
an artificial intelligence existed,
an artificial intelligence existed,
192
527160
3896
ובנוסף, אם בינה מלאכותית כזו הייתה קיימת,
09:03
it would have to compete
with human economies,
with human economies,
193
531080
2936
היה עליה להתחרות בכלכלה האנושית,
09:06
and thereby compete for resources with us.
194
534040
2520
ולכן להתחרות נגדינו על משאבים.
09:09
And in the end --
195
537200
1216
ולבסוף --
09:10
don't tell Siri this --
196
538440
1240
אל תגלו לסירי --
09:12
we can always unplug them.
197
540440
1376
אנחנו תמיד יכולים לנתק אותם.
09:13
(Laughter)
198
541840
2120
(צחוק)
09:17
We are on an incredible journey
199
545360
2456
אנחנו נמצאים במסע מופלא
09:19
of coevolution with our machines.
200
547840
2496
של אבולוציה משותפת עם המכונות שלנו.
09:22
The humans we are today
201
550360
2496
האנשים שאנו היום
09:24
are not the humans we will be then.
202
552880
2536
הם לא אותם האנשים שנהיה אז.
09:27
To worry now about the rise
of a superintelligence
of a superintelligence
203
555440
3136
לדאוג היום מהעלייה של סופר אינטליגנציה
09:30
is in many ways a dangerous distraction
204
558600
3056
זה במובנים רבים הסחת דעת מסוכנת
09:33
because the rise of computing itself
205
561680
2336
כיוון שהעלייה במיחשוב עצמו
09:36
brings to us a number
of human and societal issues
of human and societal issues
206
564040
3016
מביא אלינו מספר בעיות אנושיות וחברתיות
09:39
to which we must now attend.
207
567080
1640
שאנו חייבים לטפל בהן עכשיו.
09:41
How shall I best organize society
208
569360
2816
איך עלי לארגן את החברה האנושית
09:44
when the need for human labor diminishes?
209
572200
2336
כשהביקוש לעבודה אנושית הצטמצם?
09:46
How can I bring understanding
and education throughout the globe
and education throughout the globe
210
574560
3816
כיצד אני יכול להביא הבנה וחינוך
לכל האנושות
לכל האנושות
09:50
and still respect our differences?
211
578400
1776
ועדיין לכבד את השונה ביננו?
09:52
How might I extend and enhance human life
through cognitive healthcare?
through cognitive healthcare?
212
580200
4256
איך אאריך ואשפר את חיינו
תוך שימוש במערכת בריאות קוגניטיבית?
תוך שימוש במערכת בריאות קוגניטיבית?
09:56
How might I use computing
213
584480
2856
כיצד אוכל להשתמש במחשוב
09:59
to help take us to the stars?
214
587360
1760
כדי לעזור לקחת אותנו לכוככבים?
10:01
And that's the exciting thing.
215
589760
2040
וזה הדבר המרתק.
10:04
The opportunities to use computing
216
592400
2336
ההזדמנויות להשתמש במיחשוב
10:06
to advance the human experience
217
594760
1536
לקידום ההתנסות האנושית
10:08
are within our reach,
218
596320
1416
הן בטווח ההשגה שלנו,
10:09
here and now,
219
597760
1856
כאן ועכשיו,
10:11
and we are just beginning.
220
599640
1680
ואנו רק מתחילים.
10:14
Thank you very much.
221
602280
1216
תודה רבה לכם.
10:15
(Applause)
222
603520
4286
(מחיאות כפיים)
ABOUT THE SPEAKER
Grady Booch - Scientist, philosopherIBM's Grady Booch is shaping the future of cognitive computing by building intelligent systems that can reason and learn.
Why you should listen
When he was 13, Grady Booch saw 2001: A Space Odyssey in the theaters for the first time. Ever since, he's been trying to build Hal (albeit one without the homicidal tendencies). A scientist, storyteller and philosopher, Booch is Chief Scientist for Software Engineering as well as Chief Scientist for Watson/M at IBM Research, where he leads IBM's research and development for embodied cognition. Having originated the term and the practice of object-oriented design, he is best known for his work in advancing the fields of software engineering and software architecture.
A co-author of the Unified Modeling Language (UML), a founding member of the Agile Allianc, and a founding member of the Hillside Group, Booch has published six books and several hundred technical articles, including an ongoing column for IEEE Software. He's also a trustee for the Computer History Museum, an IBM Fellow, an ACM Fellow and IEEE Fellow. He has been awarded the Lovelace Medal and has given the Turing Lecture for the BCS, and was recently named an IEEE Computer Pioneer.
Booch is currently deeply involved in the development of cognitive systems and is also developing a major trans-media documentary for public broadcast on the intersection of computing and the human experience.
Grady Booch | Speaker | TED.com