ABOUT THE SPEAKER
Grady Booch - Scientist, philosopher
IBM's Grady Booch is shaping the future of cognitive computing by building intelligent systems that can reason and learn.

Why you should listen

When he was 13, Grady Booch saw 2001: A Space Odyssey in the theaters for the first time. Ever since, he's been trying to build Hal (albeit one without the homicidal tendencies). A scientist, storyteller and philosopher, Booch is Chief Scientist for Software Engineering as well as Chief Scientist for Watson/M at IBM Research, where he leads IBM's research and development for embodied cognition. Having originated the term and the practice of object-oriented design, he is best known for his work in advancing the fields of software engineering and software architecture.

A co-author of the Unified Modeling Language (UML), a founding member of the Agile Allianc, and a founding member of the Hillside Group, Booch has published six books and several hundred technical articles, including an ongoing column for IEEE Software. He's also a trustee for the Computer History Museum, an IBM Fellow, an ACM Fellow and IEEE Fellow. He has been awarded the Lovelace Medal and has given the Turing Lecture for the BCS, and was recently named an IEEE Computer Pioneer.

Booch is currently deeply involved in the development of cognitive systems and is also developing a major trans-media documentary for public broadcast on the intersection of computing and the human experience.

More profile about the speaker
Grady Booch | Speaker | TED.com
TED@IBM

Grady Booch: Don't fear superintelligent AI

גריידי בוץ׳: אל תפחדו מבינה מלאכותית סופר אינטלגנטית

Filmed:
2,866,438 views

טכנולוגיות חדשות מציתה דאגות חדשות, אומר המדען והפילוסוף גריידי בוץ׳, אבל אנחנו לא צריכים לחשוש מהכוח וחוסר הרגש של הבינה המלאכותית. בוץ׳ מרגיע את הפחדים הגדולים ביותר שלנו (כולל ממדע בדיוני) לגבי מחשבים סופר אינטליגנטים ע״י כך שהוא מסביר כיצד נלמד אותם , ולא נתכנת, לחלוק את הערכים שלנו. במקום לדאוג מהחשש הלא סביר לקיומינו, הוא דוחף אותנו לראות כיצד בינה מלאכותית תשפר את חיינו.
- Scientist, philosopher
IBM's Grady Booch is shaping the future of cognitive computing by building intelligent systems that can reason and learn. Full bio

Double-click the English transcript below to play the video.

00:12
When I was a kidיֶלֶד,
I was the quintessentialתַמצִיתִי nerdחנון.
0
760
3840
בילדותי הייתי החנון המוחלט.
00:17
I think some of you were, too.
1
5320
2176
אני חושב שכמה מכם היו גם.
00:19
(Laughterצחוק)
2
7520
1216
(צחוק)
00:20
And you, sirאֲדוֹנִי, who laughedצחק the loudestהכי חזק,
you probablyכנראה still are.
3
8760
3216
ואתה אדוני, שצחקת הכי חזק,
כנראה עדיין גם היום.
00:24
(Laughterצחוק)
4
12000
2256
(צחוק)
00:26
I grewגדל up in a smallקָטָן townהעיר
in the dustyמְאוּבָּק plainsמישורים of northצָפוֹן Texasטקסס,
5
14280
3496
גדלתי בעיר קטנה במרחבים המאובקים
של צפון טקסס,
00:29
the sonבֵּן of a sheriffשֶׁרִיף
who was the sonבֵּן of a pastorכּוֹמֶר.
6
17800
3336
בנו של השריף שהיה בן של כומר.
00:33
Gettingמקבל into troubleצרות was not an optionאוֹפְּצִיָה.
7
21160
1920
להיקלע לצרות לא היתה אופציה.
00:36
And so I startedהתחיל readingקריאה
calculusחֶשְׁבּוֹן booksספרים for funכֵּיף.
8
24040
3256
אז התחלתי לקרוא ספרי חשבון בשביל הכיף.
00:39
(Laughterצחוק)
9
27320
1536
(צחוק)
00:40
You did, too.
10
28880
1696
אתם גם.
00:42
That led me to buildingבִּניָן a laserלייזר
and a computerמַחשֵׁב and modelדֶגֶם rocketsרקטות,
11
30600
3736
זה הוביל אותי לבניית לייזר ומחשב
ומודלים של טילים,
00:46
and that led me to makingהֲכָנָה
rocketרָקֵטָה fuelלתדלק in my bedroomחדר שינה.
12
34360
3000
מה שהוביל אותי לייצר דלק טילים
בחדר השינה שלי.
00:49
Now, in scientificמַדָעִי termsמונחים,
13
37960
3656
ובכן, במונחים מדעיים,
00:53
we call this a very badרַע ideaרַעְיוֹן.
14
41640
3256
אנחנו קוראים לזה רעיון רע מאוד.
00:56
(Laughterצחוק)
15
44920
1216
(צחוק)
00:58
Around that sameאותו time,
16
46160
2176
בערך באותו זמן,
01:00
Stanleyסטנלי Kubrick'sשל קובריק "2001: A Spaceמֶרחָב Odysseyאודיסיאה"
cameבא to the theatersתיאטראות,
17
48360
3216
הסרט ״2001 אודיסאה בחלל״ של
סטנלי קובריק הגיע למסכים,
01:03
and my life was foreverלָנֶצַח changedהשתנה.
18
51600
2200
וחיי השתנו לנצח.
01:06
I lovedאהוב everything about that movieסרט,
19
54280
2056
אהבתי כל מה שהיה קשור לסרט,
01:08
especiallyבמיוחד the HALHAL 9000.
20
56360
2536
בייחוד את האל 9000 (HAL).
01:10
Now, HALHAL was a sentientרגיש computerמַחשֵׁב
21
58920
2056
ובכן, האל היה מחשב בעל מודעות
01:13
designedמְעוּצָב to guideלהנחות the Discoveryתַגלִית spacecraftחללית
22
61000
2456
שתוכנן להדריך את ספינת החלל דיסקברי
01:15
from the Earthכדור הארץ to Jupiterצדק.
23
63480
2536
בדרך מכדור הארץ לצדק.
01:18
HALHAL was alsoגַם a flawedפגום characterאופי,
24
66040
2056
האל היה גם טיפוס פגום,
01:20
for in the endסוֹף he choseבחר
to valueערך the missionמשימה over humanבן אנוש life.
25
68120
4280
כי בסופו של דבר הוא בחר להעדיף את המשימה
על פני חיי אדם.
01:24
Now, HALHAL was a fictionalבִּדְיוֹנִי characterאופי,
26
72840
2096
למרות שהאל היה דמות בדיונית,
01:26
but nonethelessבְּכָל זֹאת he speaksמדבר to our fearsפחדים,
27
74960
2656
הוא דיבר אל הפחדים שלנו,
01:29
our fearsפחדים of beingלהיות subjugatedנִרצָע
28
77640
2096
הפחדים שלנו להיות משועבדים
01:31
by some unfeelingחֲסַר רֶגֶשׁ, artificialמְלָאכוּתִי intelligenceאינטליגנציה
29
79760
3016
על ידי בינה מלאכותית, ללא רגשות
01:34
who is indifferentאָדִישׁ to our humanityאֶנוֹשִׁיוּת.
30
82800
1960
שאדישה לאנושיות שלנו.
01:37
I believe that suchכגון fearsפחדים are unfoundedחֲסַר שַׁחַר.
31
85880
2576
אני מאמין שפחדים כאלו הם חסרי ביסוס.
01:40
Indeedאכן, we standלַעֲמוֹד at a remarkableראוי לציון time
32
88480
2696
אכן, אנו נמצאים בזמן יוצא דופן
01:43
in humanבן אנוש historyהִיסטוֹרִיָה,
33
91200
1536
בהסטוריה האנושית,
01:44
where, drivenמוּנָע by refusalסֵרוּב to acceptלְקַבֵּל
the limitsגבולות of our bodiesגופים and our mindsמוחות,
34
92760
4976
שבו, מונעים על ידי סרובינו לקבל את המגבלות
של גופינו ומחשבותינו,
01:49
we are buildingבִּניָן machinesמכונה
35
97760
1696
אנו בונים מכונות
01:51
of exquisiteמְעוּדָן, beautifulיפה
complexityמוּרכָּבוּת and graceחן
36
99480
3616
בעלות עדינות, סיבוכיות יפיפיה וחינניות
01:55
that will extendלְהַאֲרִיך the humanבן אנוש experienceניסיון
37
103120
2056
שיאריכו את טווח החוויה האנושית
01:57
in waysדרכים beyondמעבר our imaginingמדמיין.
38
105200
1680
בדרכים מעבר לדמיונינו.
01:59
After a careerקריירה that led me
from the Airאוויר Forceכּוֹחַ Academyאֲקָדֶמִיָה
39
107720
2576
אחרי קריירה שהובילה אותי מהאקדמיה לטיס
בחיל האויר
02:02
to Spaceמֶרחָב Commandפקודה to now,
40
110320
1936
לפיקוד על משימות חלל לעכשיו,
02:04
I becameהפכתי a systemsמערכות engineerמהנדס,
41
112280
1696
נהייתי מהנדס מערכות,
02:06
and recentlyלאחרונה I was drawnשָׁלוּף
into an engineeringהַנדָסָה problemבְּעָיָה
42
114000
2736
ולאחרונה נשאבתי לבעייה הנדסית
02:08
associatedהמשויך with NASA'sנאס"א missionמשימה to Marsמַאְדִים.
43
116760
2576
הקשורה למשימה של נאס״א למאדים.
02:11
Now, in spaceמֶרחָב flightsטיסות to the Moonירח,
44
119360
2496
ובכן, במשימות חלל לירח,
02:13
we can relyלִסְמוֹך uponעַל
missionמשימה controlלִשְׁלוֹט in Houstonיוסטון
45
121880
3136
אנו יכולים לסמוך על פיקוד המשימה ביוסטון
02:17
to watch over all aspectsהיבטים of a flightטִיסָה.
46
125040
1976
שיפקח על כל ההיבטים של הטיסה.
02:19
Howeverלמרות זאת, Marsמַאְדִים is 200 timesפִּי furtherנוסף away,
47
127040
3536
אבל, מאדים רחוק פי 200 יותר,
02:22
and as a resultתוֹצָאָה it takes
on averageמְמוּצָע 13 minutesדקות
48
130600
3216
ולכן לוקח בממוצע 13 דקות
02:25
for a signalאוֹת to travelלִנְסוֹעַ
from the Earthכדור הארץ to Marsמַאְדִים.
49
133840
3136
לשדר לנוע מכדור הארץ למאדים.
02:29
If there's troubleצרות,
there's not enoughמספיק time.
50
137000
3400
אם קורות בעיות, אין מספיק זמן.
02:32
And so a reasonableסביר engineeringהַנדָסָה solutionפִּתָרוֹן
51
140840
2496
ולכן פתרון הנדסי סביר
02:35
callsשיחות for us to put missionמשימה controlלִשְׁלוֹט
52
143360
2576
יהיה לשים את פיקוד המשימה
02:37
insideבְּתוֹך the wallsקירות of the Orionאוריון spacecraftחללית.
53
145960
3016
בתוך רכב החלל אוריון.
02:41
Anotherאַחֵר fascinatingמַקסִים ideaרַעְיוֹן
in the missionמשימה profileפּרוֹפִיל
54
149000
2896
רעיון מרתק נוסף בפרופיל המשימה
02:43
placesמקומות humanoidאנושי robotsרובוטים
on the surfaceמשטח of Marsמַאְדִים
55
151920
2896
הוא לשים רובוטים דמויי אדם על פני מאדים
02:46
before the humansבני אנוש themselvesעצמם arriveלְהַגִיעַ,
56
154840
1856
לפני שבני האדם מגיעים,
02:48
first to buildלִבנוֹת facilitiesמתקנים
57
156720
1656
בתחילה לשם בניית תשתיות
02:50
and laterיותר מאוחר to serveלְשָׁרֵת as collaborativeשיתופי
membersחברים of the scienceמַדָע teamקְבוּצָה.
58
158400
3360
ולאחר מכן לשרת כחלק שיתופי
מהצוות המדעי.
02:55
Now, as I lookedהביט at this
from an engineeringהַנדָסָה perspectiveפֶּרספֶּקטִיבָה,
59
163400
2736
כשהתבוננתי בזה מנקודת מבט הנדסית,
02:58
it becameהפכתי very clearברור to me
that what I neededנָחוּץ to architectאַדְרִיכָל
60
166160
3176
התבהרה לי ההבנה שמה שעלי לתכנן
03:01
was a smartלִכאוֹב, collaborativeשיתופי,
61
169360
2176
היא בינה מלאכותית חכמה, שיתופית
03:03
sociallyחברתית intelligentאִינְטֶלִיגֶנְטִי
artificialמְלָאכוּתִי intelligenceאינטליגנציה.
62
171560
2376
ובעלת בינה חברתית.
03:05
In other wordsמילים, I neededנָחוּץ to buildלִבנוֹת
something very much like a HALHAL
63
173960
4296
במילים אחרות, הייתי צריך לבנות
משהו מאוד דומה להאל
03:10
but withoutלְלֹא the homicidalרצחני tendenciesמגמות.
64
178280
2416
אבל ללא הנטיות האובדניות.
03:12
(Laughterצחוק)
65
180720
1360
(צחוק)
03:14
Let's pauseהַפסָקָה for a momentרֶגַע.
66
182920
1816
בואו נעצור לרגע.
03:16
Is it really possibleאפשרי to buildלִבנוֹת
an artificialמְלָאכוּתִי intelligenceאינטליגנציה like that?
67
184760
3896
האם זה אפשרי באמת לבנות בינה מלאכותית כזו?
03:20
Actuallyבעצם, it is.
68
188680
1456
למעשה, כן.
03:22
In manyרב waysדרכים,
69
190160
1256
במובנים רבים,
03:23
this is a hardקָשֶׁה engineeringהַנדָסָה problemבְּעָיָה
70
191440
1976
זו בעייה הנדסית קשה
03:25
with elementsאלמנטים of AIAI,
71
193440
1456
עם אלמנטים של בינה מלאכותית,
03:26
not some wetרָטוֹב hairשיער ballכַּדוּר of an AIAI problemבְּעָיָה
that needsצרכי to be engineeredמהונדסים.
72
194920
4696
ולא כדור שיער רטוב של בינה מלאכותית
שצריך להיות מהונדס.
03:31
To paraphraseפָּרָפרָזָה Alanאלן Turingטיורינג,
73
199640
2656
בפרפרזה על דבריו של אלן טיורינג,
03:34
I'm not interestedמעוניין
in buildingבִּניָן a sentientרגיש machineמְכוֹנָה.
74
202320
2376
אני לא מעוניין לבנות מכונה מודעת.
03:36
I'm not buildingבִּניָן a HALHAL.
75
204720
1576
אני לא בונה את האל.
03:38
All I'm after is a simpleפָּשׁוּט brainמוֹחַ,
76
206320
2416
כל מה שאני רוצה הוא מוח פשוט,
03:40
something that offersהצעות
the illusionאַשְׁלָיָה of intelligenceאינטליגנציה.
77
208760
3120
משהו שמציע את האשליה של בינה.
03:45
The artאומנות and the scienceמַדָע of computingמחשוב
have come a long way
78
213000
3136
המדע והאומנות של המחשוב התקדמו רבות
03:48
sinceמאז HALHAL was onscreenעל המסך,
79
216160
1496
מאז שהאל הופיע על המסך,
03:49
and I'd imagineלדמיין if his inventorמַמצִיא
Drד"ר. Chandraצ'נדרה were here todayהיום,
80
217680
3216
ואני מדמיין שאם הממציא שלו
ד״ר צ׳נדרה היה פה היום
03:52
he'dהוא היה have a wholeכֹּל lot of questionsשאלות for us.
81
220920
2336
היו לו הרבה שאלות אלינו.
03:55
Is it really possibleאפשרי for us
82
223280
2096
האם באמת אנחנו יכולים
03:57
to take a systemמערכת of millionsמיליונים
uponעַל millionsמיליונים of devicesהתקנים,
83
225400
4016
לקחת מערכת של מליונים על מליונים
של מכשירים,
04:01
to readלקרוא in theirשֶׁלָהֶם dataנתונים streamsזרמים,
84
229440
1456
לקרוא את כל הנתונים מהם,
04:02
to predictלַחֲזוֹת theirשֶׁלָהֶם failuresכשלים
and actפעולה in advanceלְקַדֵם?
85
230920
2256
לנחש את הכשלים ולהגיב מראש?
04:05
Yes.
86
233200
1216
כן.
04:06
Can we buildלִבנוֹת systemsמערכות that converseלְשׂוֹחֵחַ
with humansבני אנוש in naturalטִבעִי languageשפה?
87
234440
3176
האם אנו יכולים לבנות מערכות המשוחחות
עם בני אדם בשפה טבעית?
04:09
Yes.
88
237640
1216
כן.
04:10
Can we buildלִבנוֹת systemsמערכות
that recognizeלזהות objectsחפצים, identifyלזהות emotionsרגשות,
89
238880
2976
האם אנו יכולים לבנות מערכות
שיכירו אובייקטים, יזהו רגשות,
04:13
emoteemote themselvesעצמם,
playלְשַׂחֵק gamesמשחקים and even readלקרוא lipsהשפתיים?
90
241880
3376
שיהו רגשניות, ישחקו משחקים
ואפילו יקראו שפתיים?
04:17
Yes.
91
245280
1216
כן.
04:18
Can we buildלִבנוֹת a systemמערכת that setsסטים goalsמטרות,
92
246520
2136
האם ביכולתינו לבנות מערכות המציבות יעדים,
04:20
that carriesנושא out plansתוכניות againstמול those goalsמטרות
and learnsלומד alongלְאוֹרֶך the way?
93
248680
3616
ומוציאות לפועל תוכניות לפי יעדים אלו
ולומדות בדרך?
04:24
Yes.
94
252320
1216
כן.
04:25
Can we buildלִבנוֹת systemsמערכות
that have a theoryתֵאוֹרִיָה of mindאכפת?
95
253560
3336
האם ביכולתינו לבנות מערכות בעלות מודעות?
04:28
This we are learningלְמִידָה to do.
96
256920
1496
את זה אנו לומדים לעשות.
04:30
Can we buildלִבנוֹת systemsמערכות that have
an ethicalאֶתִי and moralמוסר השכל foundationקרן?
97
258440
3480
האם ביכולתינו לבנות מערכות בעלות בסיס
מורלי ואתי?
04:34
This we mustצריך learnלִלמוֹד how to do.
98
262480
2040
את זה אנו חייבים ללמוד לעשות.
04:37
So let's acceptלְקַבֵּל for a momentרֶגַע
99
265360
1376
אז בואו נקבל לרגע
04:38
that it's possibleאפשרי to buildלִבנוֹת
suchכגון an artificialמְלָאכוּתִי intelligenceאינטליגנציה
100
266760
2896
שזה אפשרי לבנות כזו בינה מלאכותית
04:41
for this kindסוג of missionמשימה and othersאחרים.
101
269680
2136
עבור משימה זו ואחרות.
04:43
The nextהַבָּא questionשְׁאֵלָה
you mustצריך askלִשְׁאוֹל yourselfעַצמְךָ is,
102
271840
2536
השאלה הבאה שאתם חייבים לשאול את עצמכם היא,
04:46
should we fearפַּחַד it?
103
274400
1456
האם עלינו לפחד ממנה?
04:47
Now, everyכֹּל newחָדָשׁ technologyטֶכנוֹלוֹגִיָה
104
275880
1976
כל טכנולוגיה חדשה
04:49
bringsמביא with it
some measureלִמְדוֹד of trepidationחֲרָדָה.
105
277880
2896
מביאה איתה רמה מסויימת של חשש מהלא נודע.
04:52
When we first saw carsמכוניות,
106
280800
1696
כשראינו לראשונה מכוניות,
04:54
people lamentedקונן that we would see
the destructionהֶרֶס of the familyמִשׁפָּחָה.
107
282520
4016
אנשים חזו שנראה את הרס המשפחה.
04:58
When we first saw telephonesטלפונים come in,
108
286560
2696
כשראינו לראשונה טלפונים,
05:01
people were worriedמוּדְאָג it would destroyלהרוס
all civilאֶזרָחִי conversationשִׂיחָה.
109
289280
2896
אנשים חששו שזה יביא
לסופו של הדיון התרבותי.
05:04
At a pointנְקוּדָה in time we saw
the writtenכתוב wordמִלָה becomeהפכו pervasiveמִתפַּשֵׁט,
110
292200
3936
כשראינו בשלב מסויים את התפשטות המילה הכתובה,
05:08
people thought we would loseלאבד
our abilityיְכוֹלֶת to memorizeלְשַׁנֵן.
111
296160
2496
אנשים חשבו שנאבד את היכולת לזכור.
05:10
These things are all trueנָכוֹן to a degreeתוֹאַר,
112
298680
2056
כל אלו נכונים במידה מסויימת,
05:12
but it's alsoגַם the caseמקרה
that these technologiesטכנולוגיות
113
300760
2416
אבל טכנולוגיות אלו
05:15
broughtהביא to us things
that extendedמורחב the humanבן אנוש experienceניסיון
114
303200
3376
הביאו דברים שהרחיבו את הנסיון האנושי
05:18
in some profoundעָמוֹק waysדרכים.
115
306600
1880
בדרכים עמוקות.
05:21
So let's take this a little furtherנוסף.
116
309840
2280
אז בואו ניקח את זה מעט רחוק יותר.
05:25
I do not fearפַּחַד the creationיצירה
of an AIAI like this,
117
313120
4736
אני לא מפחד מיצירת בינה מלאכותית כזו,
05:29
because it will eventuallyבסופו של דבר
embodyלְגַלֵם some of our valuesערכים.
118
317880
3816
כיוון שבסופו של דבר היא תכיל גם
כמה מהערכים שלנו.
05:33
Considerלשקול this: buildingבִּניָן a cognitiveקוגניטיבית systemמערכת
is fundamentallyבִּיסוֹדוֹ differentשונה
119
321720
3496
חישבו על כך: בניית מערכת קוגניטיבית
היא שונה מהותית
05:37
than buildingבִּניָן a traditionalמָסוֹרתִי
software-intensiveתוכנה אינטנסיבית systemמערכת of the pastעבר.
120
325240
3296
מבניית מערכת מסורתית מרובת תוכנה של העבר.
05:40
We don't programתָכְנִית them. We teachלְלַמֵד them.
121
328560
2456
אנו לא מתכנתים אותן, אנו מלמדים אותן.
05:43
In orderלהזמין to teachלְלַמֵד a systemמערכת
how to recognizeלזהות flowersפרחים,
122
331040
2656
כדי ללמד מערכת לזהות פרחים,
05:45
I showלְהַצִיג it thousandsאלפים of flowersפרחים
of the kindsמיני I like.
123
333720
3016
אני מראה לה אלפי פרחים מהסוג שאני אוהב.
05:48
In orderלהזמין to teachלְלַמֵד a systemמערכת
how to playלְשַׂחֵק a gameמִשְׂחָק --
124
336760
2256
כדי ללמד מערכת לשחק משחק --
05:51
Well, I would. You would, too.
125
339040
1960
ובכן, הייתי עושה את זה. אתם גם.
05:54
I like flowersפרחים. Come on.
126
342600
2040
אני אוהב פרחים. בחייכם.
05:57
To teachלְלַמֵד a systemמערכת
how to playלְשַׂחֵק a gameמִשְׂחָק like Go,
127
345440
2856
כדי ללמד מערכת לשחק משחק כמו גו,
06:00
I'd have it playלְשַׂחֵק thousandsאלפים of gamesמשחקים of Go,
128
348320
2056
אגרום לה לשחק אלפי משחקי גו.
06:02
but in the processתהליך I alsoגַם teachלְלַמֵד it
129
350400
1656
אבל בתהליך אלמד אותה
06:04
how to discernלְהַבחִין
a good gameמִשְׂחָק from a badרַע gameמִשְׂחָק.
130
352080
2416
איך להבדיל בין משחק טוב למשחק רע.
06:06
If I want to createלִיצוֹר an artificiallyבאופן מלאכותי
intelligentאִינְטֶלִיגֶנְטִי legalמשפטי assistantעוֹזֵר,
131
354520
3696
אם אני רוצה ליצור בינה מלאכותית
עבור עזרה משפטית,
06:10
I will teachלְלַמֵד it some corpusקורפוס of lawחוֹק
132
358240
1776
אלמד אותה כמה ספרי משפטים
06:12
but at the sameאותו time I am fusingפיוזינג with it
133
360040
2856
אך באותו זמן אשלב זאת עם
06:14
the senseלָחוּשׁ of mercyרַחֲמִים and justiceצֶדֶק
that is partחֵלֶק of that lawחוֹק.
134
362920
2880
חוש הצדק והרחמים שהם חלק מאותם חוקים.
06:18
In scientificמַדָעִי termsמונחים,
this is what we call groundקרקע, אדמה truthאֶמֶת,
135
366560
2976
במונחים מדעיים,
זה מה שאנו קוראים לו אמת בסיסית,
06:21
and here'sהנה the importantחָשׁוּב pointנְקוּדָה:
136
369560
2016
והנה הנקודה החשובה:
06:23
in producingייצור these machinesמכונה,
137
371600
1456
כחלק מיצירת מכונות אלו,
06:25
we are thereforeלכן teachingהוֹרָאָה them
a senseלָחוּשׁ of our valuesערכים.
138
373080
3416
אנו מלמדים אותן חלק מערכינו.
06:28
To that endסוֹף, I trustאמון
an artificialמְלָאכוּתִי intelligenceאינטליגנציה
139
376520
3136
בהקשר זה, אני סומך על בינה מלאכותית
06:31
the sameאותו, if not more,
as a humanבן אנוש who is well-trainedמאומן היטב.
140
379680
3640
באותה מידה, אם לא יותר,
מאשר על אדם שאומן היטב.
06:36
But, you mayמאי askלִשְׁאוֹל,
141
384080
1216
אבל, אתם עלולים לשאול,
06:37
what about rogueרַמַאִי agentsסוכנים,
142
385320
2616
מה לגבי סוכנים פורעי חוק,
06:39
some well-fundedממומן היטב
nongovernmentלא ממשלתיות organizationאִרגוּן?
143
387960
3336
כמו ארגון לא ממשלתי ממומן היטב?
06:43
I do not fearפַּחַד an artificialמְלָאכוּתִי intelligenceאינטליגנציה
in the handיד of a loneבּוֹדֵד wolfזְאֵב.
144
391320
3816
אני לא חושש מבינה מלאכותית בידיים
של זאב בודד.
06:47
Clearlyבְּבִירוּר, we cannotלא יכול protectלְהַגֵן ourselvesבְּעָצמֵנוּ
againstמול all randomאַקרַאִי actsמעשי of violenceאַלִימוּת,
145
395160
4536
ברור שאיננו יכולים להגן על עצמינו
מכל מעשה אלימות אקראי,
06:51
but the realityמְצִיאוּת is suchכגון a systemמערכת
146
399720
2136
אבל המציאות לגבי מערכות אלו היא
06:53
requiresדורש substantialמַמָשִׁי trainingהַדְרָכָה
and subtleעָדִין trainingהַדְרָכָה
147
401880
3096
שהן צריכות הרבה אימון, ואימון עדין
06:57
farרָחוֹק beyondמעבר the resourcesאֶמְצָעִי of an individualאִישִׁי.
148
405000
2296
הרבה מעבר למשאבים של אדם בודד.
06:59
And furthermoreיתר על כן,
149
407320
1216
ובנוסף,
07:00
it's farרָחוֹק more than just injectingהַזרָקָה
an internetאינטרנט virusוִירוּס to the worldעוֹלָם,
150
408560
3256
זה הרבה יותר מלהזריק וירוס אינטרנט לעולם,
07:03
where you pushלִדחוֹף a buttonלַחְצָן,
all of a suddenפִּתְאוֹמִי it's in a millionמִילִיוֹן placesמקומות
151
411840
3096
כשאתה לוחץ על כפתור,
ופתאום זה במליון מקומות
07:06
and laptopsמחשבים ניידים startהַתחָלָה blowingמַשָׁב up
all over the placeמקום.
152
414960
2456
ומחשבים מתחילים להתפוצץ בכל מקום.
07:09
Now, these kindsמיני of substancesחומרים
are much largerיותר גדול,
153
417440
2816
ובכן, מדובר פה במשהו הרבה יותר גדול,
07:12
and we'llטוֹב certainlyבְּהֶחלֵט see them comingמגיע.
154
420280
1715
ובוודאות נראה את זה מגיע.
07:14
Do I fearפַּחַד that suchכגון
an artificialמְלָאכוּתִי intelligenceאינטליגנציה
155
422520
3056
האם אני חושש שבינה מלאכותית כזו
07:17
mightאולי threatenמאיים all of humanityאֶנוֹשִׁיוּת?
156
425600
1960
עלולה לאיים על האנושות כולה?
07:20
If you look at moviesסרטים
suchכגון as "The Matrixמַטרִיצָה," "Metropolisמֶטרוֹפּוֹלִין,"
157
428280
4376
אם תתבוננו בסרטים כמו ״המטריקס״,
״מטרופוליס״ ,
07:24
"The Terminatorשליחות קטלנית,"
showsמופעים suchכגון as "Westworldמערב,"
158
432680
3176
״שליחות קטלית״, תוכניות כמו ״ווסטוורלד״,
07:27
they all speakלְדַבֵּר of this kindסוג of fearפַּחַד.
159
435880
2136
כולן מדברות על חשש שכזה.
07:30
Indeedאכן, in the bookסֵפֶר "Superintelligenceאינטליגנציה מעולה"
by the philosopherפִילוֹסוֹף Nickניק Bostromבוסטרום,
160
438040
4296
ואכן, בספר ״סופר אינטליגנציה״
של הפילוסוף ניק בוסטרום,
07:34
he picksמבחר up on this themeנושא
161
442360
1536
הוא בוחן נושא זה
07:35
and observesמתבונן that a superintelligenceאינטליגנציה
mightאולי not only be dangerousמְסוּכָּן,
162
443920
4016
ושם לב שסופר אינטליגנציה עלולה להיות
לא רק מסוכנת,
07:39
it could representלְיַצֵג an existentialקיומית threatאִיוּם
to all of humanityאֶנוֹשִׁיוּת.
163
447960
3856
אלא גם יכולה להוות איום קיומי
על האנושות כולה.
07:43
Drד"ר. Bostrom'sשל בוסטרום basicבסיסי argumentטַעֲנָה
164
451840
2216
הטיעון הבסיסי של דוקטור בוסטרום
07:46
is that suchכגון systemsמערכות will eventuallyבסופו של דבר
165
454080
2736
הוא שלמערכות כאלו יהיה בסופו של דבר
07:48
have suchכגון an insatiableשֶׁאֵינוֹ יוֹדֵעַ שׂוֹבַע
thirstצָמָא for informationמֵידָע
166
456840
3256
צמאון בלתי ניתן לרוויה למידע
07:52
that they will perhapsאוּלַי learnלִלמוֹד how to learnלִלמוֹד
167
460120
2896
עד שהן אולי ילמדו ללמוד
07:55
and eventuallyבסופו של דבר discoverלְגַלוֹת
that they mayמאי have goalsמטרות
168
463040
2616
ולבסוף יגלו שאולי יש להן יעדים
07:57
that are contraryלהפך to humanבן אנוש needsצרכי.
169
465680
2296
מנוגדים לצרכי בני האדם.
08:00
Drד"ר. Bostromבוסטרום has a numberמספר of followersעוקבים.
170
468000
1856
לדוקטור בוסטרום יש מספר עוקבים.
08:01
He is supportedנתמך by people
suchכגון as Elonאילון Muskמוּשָׁק and Stephenסטיבן Hawkingרוֹכְלוּת.
171
469880
4320
הוא נתמך ע״י אנשים
כמו אלון מאסק וסטפן הוקינג.
08:06
With all dueעקב respectכבוד
172
474880
2400
עם כל הכבוד
08:10
to these brilliantמַברִיק mindsמוחות,
173
478160
2016
למוחות מבריקים אלו,
08:12
I believe that they
are fundamentallyבִּיסוֹדוֹ wrongלא בסדר.
174
480200
2256
אני מאמין שהם שוגים באופן בסיסי.
08:14
Now, there are a lot of piecesחתיכות
of Drד"ר. Bostrom'sשל בוסטרום argumentטַעֲנָה to unpackלִפְרוֹק,
175
482480
3176
ובכן, יש הרבה חלקים לפרק בטיעון
של דוקטור בוסטרום,
08:17
and I don't have time to unpackלִפְרוֹק them all,
176
485680
2136
ואין לי זמן לפרק את כולם,
08:19
but very brieflyבקצרה, considerלשקול this:
177
487840
2696
אבל בקיצור רב, חישבו על כך:
08:22
superסוּפֶּר knowingיוֹדֵעַ is very differentשונה
than superסוּפֶּר doing.
178
490560
3736
ידיעת-על היא מאוד שונה מעשיית-על.
08:26
HALHAL was a threatאִיוּם to the Discoveryתַגלִית crewצוות
179
494320
1896
האל היה איום לצוות הדיסקברי
08:28
only insofarככל as HALHAL commandedציווה
all aspectsהיבטים of the Discoveryתַגלִית.
180
496240
4416
רק כיוון שהאל פיקד על כל הצדדים
של הדיסקברי.
08:32
So it would have to be
with a superintelligenceאינטליגנציה.
181
500680
2496
אז כך גם יצטרך להיות עם סופר אינטליגנציה.
08:35
It would have to have dominionשְׁלִיטָה
over all of our worldעוֹלָם.
182
503200
2496
היא תצטרך להיות בשליטה על כל עולמינו.
08:37
This is the stuffדברים of Skynetסקיינט
from the movieסרט "The Terminatorשליחות קטלנית"
183
505720
2816
זה מזכיר את סקיינט מהסרט ״שליחות קטלנית״
08:40
in whichאיזה we had a superintelligenceאינטליגנציה
184
508560
1856
שבו יש סופר אינטליגנציה
08:42
that commandedציווה humanבן אנוש will,
185
510440
1376
ששלטה על רצון בני האדם,
08:43
that directedמְכוּוָן everyכֹּל deviceהתקן
that was in everyכֹּל cornerפינה of the worldעוֹלָם.
186
511840
3856
שכיוונה כל מכשיר בכל פינה של העולם.
08:47
Practicallyלְמַעֲשֶׂה speakingמדבר,
187
515720
1456
אם להיות מעשיים,
08:49
it ain'tלא gonna happenלִקְרוֹת.
188
517200
2096
זה לא הולך לקרות.
08:51
We are not buildingבִּניָן AIsAIs
that controlלִשְׁלוֹט the weatherמזג אוויר,
189
519320
3056
אנחנו לא בונים בינה מלאכותית
ששולטת במזג האוויר,
08:54
that directישיר the tidesגאות ושפל,
190
522400
1336
שמכוונת את הגאות,
08:55
that commandפקודה us
capriciousגַחְמָנִי, chaoticכאוטי humansבני אנוש.
191
523760
3376
שמפקדת עלינו, האנשים הגחמניים והכאוטים.
08:59
And furthermoreיתר על כן, if suchכגון
an artificialמְלָאכוּתִי intelligenceאינטליגנציה existedהיה קיים,
192
527160
3896
ובנוסף, אם בינה מלאכותית כזו הייתה קיימת,
09:03
it would have to competeלהתחרות
with humanבן אנוש economiesכלכלות,
193
531080
2936
היה עליה להתחרות בכלכלה האנושית,
09:06
and therebyבְּכָך competeלהתחרות for resourcesאֶמְצָעִי with us.
194
534040
2520
ולכן להתחרות נגדינו על משאבים.
09:09
And in the endסוֹף --
195
537200
1216
ולבסוף --
09:10
don't tell Siriסירי this --
196
538440
1240
אל תגלו לסירי --
09:12
we can always unplugנתק them.
197
540440
1376
אנחנו תמיד יכולים לנתק אותם.
09:13
(Laughterצחוק)
198
541840
2120
(צחוק)
09:17
We are on an incredibleמדהים journeyמסע
199
545360
2456
אנחנו נמצאים במסע מופלא
09:19
of coevolutioncoevolution with our machinesמכונה.
200
547840
2496
של אבולוציה משותפת עם המכונות שלנו.
09:22
The humansבני אנוש we are todayהיום
201
550360
2496
האנשים שאנו היום
09:24
are not the humansבני אנוש we will be then.
202
552880
2536
הם לא אותם האנשים שנהיה אז.
09:27
To worryדאגה now about the riseלעלות
of a superintelligenceאינטליגנציה
203
555440
3136
לדאוג היום מהעלייה של סופר אינטליגנציה
09:30
is in manyרב waysדרכים a dangerousמְסוּכָּן distractionהַסָחַת הַדַעַת
204
558600
3056
זה במובנים רבים הסחת דעת מסוכנת
09:33
because the riseלעלות of computingמחשוב itselfעצמה
205
561680
2336
כיוון שהעלייה במיחשוב עצמו
09:36
bringsמביא to us a numberמספר
of humanבן אנוש and societalחברתי issuesנושאים
206
564040
3016
מביא אלינו מספר בעיות אנושיות וחברתיות
09:39
to whichאיזה we mustצריך now attendהשתתף.
207
567080
1640
שאנו חייבים לטפל בהן עכשיו.
09:41
How shallיהיה I bestהטוב ביותר organizeלְאַרגֵן societyחֶברָה
208
569360
2816
איך עלי לארגן את החברה האנושית
09:44
when the need for humanבן אנוש laborעבודה diminishesפוחתת?
209
572200
2336
כשהביקוש לעבודה אנושית הצטמצם?
09:46
How can I bringלְהָבִיא understandingהֲבָנָה
and educationהַשׂכָּלָה throughoutבְּמֶשֶך the globeגלוֹבּוּס
210
574560
3816
כיצד אני יכול להביא הבנה וחינוך
לכל האנושות
09:50
and still respectכבוד our differencesהבדלים?
211
578400
1776
ועדיין לכבד את השונה ביננו?
09:52
How mightאולי I extendלְהַאֲרִיך and enhanceלשפר humanבן אנוש life
throughדרך cognitiveקוגניטיבית healthcareבריאות?
212
580200
4256
איך אאריך ואשפר את חיינו
תוך שימוש במערכת בריאות קוגניטיבית?
09:56
How mightאולי I use computingמחשוב
213
584480
2856
כיצד אוכל להשתמש במחשוב
09:59
to help take us to the starsכוכבים?
214
587360
1760
כדי לעזור לקחת אותנו לכוככבים?
10:01
And that's the excitingמְרַגֵשׁ thing.
215
589760
2040
וזה הדבר המרתק.
10:04
The opportunitiesהזדמנויות to use computingמחשוב
216
592400
2336
ההזדמנויות להשתמש במיחשוב
10:06
to advanceלְקַדֵם the humanבן אנוש experienceניסיון
217
594760
1536
לקידום ההתנסות האנושית
10:08
are withinבְּתוֹך our reachלְהַגִיעַ,
218
596320
1416
הן בטווח ההשגה שלנו,
10:09
here and now,
219
597760
1856
כאן ועכשיו,
10:11
and we are just beginningהתחלה.
220
599640
1680
ואנו רק מתחילים.
10:14
Thank you very much.
221
602280
1216
תודה רבה לכם.
10:15
(Applauseתְשׁוּאוֹת)
222
603520
4286
(מחיאות כפיים)
Translated by Ilan Caner
Reviewed by Ido Dekkers

▲Back to top

ABOUT THE SPEAKER
Grady Booch - Scientist, philosopher
IBM's Grady Booch is shaping the future of cognitive computing by building intelligent systems that can reason and learn.

Why you should listen

When he was 13, Grady Booch saw 2001: A Space Odyssey in the theaters for the first time. Ever since, he's been trying to build Hal (albeit one without the homicidal tendencies). A scientist, storyteller and philosopher, Booch is Chief Scientist for Software Engineering as well as Chief Scientist for Watson/M at IBM Research, where he leads IBM's research and development for embodied cognition. Having originated the term and the practice of object-oriented design, he is best known for his work in advancing the fields of software engineering and software architecture.

A co-author of the Unified Modeling Language (UML), a founding member of the Agile Allianc, and a founding member of the Hillside Group, Booch has published six books and several hundred technical articles, including an ongoing column for IEEE Software. He's also a trustee for the Computer History Museum, an IBM Fellow, an ACM Fellow and IEEE Fellow. He has been awarded the Lovelace Medal and has given the Turing Lecture for the BCS, and was recently named an IEEE Computer Pioneer.

Booch is currently deeply involved in the development of cognitive systems and is also developing a major trans-media documentary for public broadcast on the intersection of computing and the human experience.

More profile about the speaker
Grady Booch | Speaker | TED.com