TED@IBM
Grady Booch: Don't fear superintelligent AI
Grady Booch: Ne féljünk a szuper-intelligens mesterséges értelemtől!
Filmed:
Readability: 4.7
2,866,438 views
Az új technika új félelmeket szül – mondja Grady Booch, tudós és filozófus, de a mindenható, érzéketlen mesterséges értelemtől nem kell félnünk. Booch csillapítja a sci-fi keltette legrosszabb félelmünket a szuper-intelligens számítógépektől, mert elmagyarázza, hogyan taníthatjuk (és nem programozhatjuk) őket, hogy alkalmazkodjanak értékrendünkhöz. Ahelyett, hogy létünk valószínűtlen fenyegetettsége miatt nyugtalankodnánk, Booch arra sarkall bennünket, gondoljunk bele, hogy a mesterséges értelem mennyit javíthat az emberek életén.
Grady Booch - Scientist, philosopher
IBM's Grady Booch is shaping the future of cognitive computing by building intelligent systems that can reason and learn. Full bio
IBM's Grady Booch is shaping the future of cognitive computing by building intelligent systems that can reason and learn. Full bio
Double-click the English transcript below to play the video.
00:12
When I was a kid,
I was the quintessential nerd.
I was the quintessential nerd.
0
760
3840
Kiskoromban a végletekig kocka voltam.
00:17
I think some of you were, too.
1
5320
2176
Szerintem páran önök közül is.
00:19
(Laughter)
2
7520
1216
(Nevetés)
00:20
And you, sir, who laughed the loudest,
you probably still are.
you probably still are.
3
8760
3216
Maga, uram, aki a leghangosabban
nevetett, talán még mindig az.
nevetett, talán még mindig az.
00:24
(Laughter)
4
12000
2256
(Nevetés)
Észak-Texas poros pusztai
kisvárosában nőttem föl,
kisvárosában nőttem föl,
00:26
I grew up in a small town
in the dusty plains of north Texas,
in the dusty plains of north Texas,
5
14280
3496
00:29
the son of a sheriff
who was the son of a pastor.
who was the son of a pastor.
6
17800
3336
egy sheriff fiaként,
akinek lelkész volt az apja.
akinek lelkész volt az apja.
00:33
Getting into trouble was not an option.
7
21160
1920
Rosszalkodni nem volt lehetőségem.
Szórakozásból differenciál- és
integrálszámítás-könyvet kezdtem olvasni.
integrálszámítás-könyvet kezdtem olvasni.
00:36
And so I started reading
calculus books for fun.
calculus books for fun.
8
24040
3256
00:39
(Laughter)
9
27320
1536
(Nevetés)
00:40
You did, too.
10
28880
1696
Maguk is.
00:42
That led me to building a laser
and a computer and model rockets,
and a computer and model rockets,
11
30600
3736
Így kezdtem lézert, számítógépet
és rakétamodellt építeni.
és rakétamodellt építeni.
00:46
and that led me to making
rocket fuel in my bedroom.
rocket fuel in my bedroom.
12
34360
3000
Aztán rákaptam arra, hogy a hálószobámban
rakéta-hajtóanyagot kontyvasszak..
rakéta-hajtóanyagot kontyvasszak..
00:49
Now, in scientific terms,
13
37960
3656
Tudományos értelemben
00:53
we call this a very bad idea.
14
41640
3256
ez nagyon rossz ötlet.
00:56
(Laughter)
15
44920
1216
(Nevetés)
00:58
Around that same time,
16
46160
2176
Akkortájt kezdték játszani
01:00
Stanley Kubrick's "2001: A Space Odyssey"
came to the theaters,
came to the theaters,
17
48360
3216
Stanley Kubrick 2001: Űrodüsszeia
c. filmjét a mozikban,
c. filmjét a mozikban,
01:03
and my life was forever changed.
18
51600
2200
s életem mindörökre megváltozott.
01:06
I loved everything about that movie,
19
54280
2056
Minden rettentően tetszett a filmben,
01:08
especially the HAL 9000.
20
56360
2536
különösen a HAL 9000.
01:10
Now, HAL was a sentient computer
21
58920
2056
A HAL tudományos számítógép volt,
01:13
designed to guide the Discovery spacecraft
22
61000
2456
amelyet a Discovery űrhajó
Föld–Jupiter közötti útjának
Föld–Jupiter közötti útjának
01:15
from the Earth to Jupiter.
23
63480
2536
irányítására terveztek.
01:18
HAL was also a flawed character,
24
66040
2056
A HAL ráadásul romlott jellemű volt,
01:20
for in the end he chose
to value the mission over human life.
to value the mission over human life.
25
68120
4280
mert végül az emberi életnél
többre értékelte a küldetést.
többre értékelte a küldetést.
01:24
Now, HAL was a fictional character,
26
72840
2096
A HAL kitalált szereplő volt,
01:26
but nonetheless he speaks to our fears,
27
74960
2656
de azért hangot ad félelmünknek,
01:29
our fears of being subjugated
28
77640
2096
azon félelmünknek, hogy alá vagyunk vetve
01:31
by some unfeeling, artificial intelligence
29
79760
3016
bizonyos érzéketlen
mesterséges intelligenciának (MI),
mesterséges intelligenciának (MI),
01:34
who is indifferent to our humanity.
30
82800
1960
aki közömbös emberi mivoltunk iránt.
01:37
I believe that such fears are unfounded.
31
85880
2576
Ezek a félelmek alaptalanok.
01:40
Indeed, we stand at a remarkable time
32
88480
2696
Olyan nevezetes időket élünk
01:43
in human history,
33
91200
1536
most történelmünkben,
01:44
where, driven by refusal to accept
the limits of our bodies and our minds,
the limits of our bodies and our minds,
34
92760
4976
amelyben testünk és lelkünk korlátait
vagy tagadva vagy elfogadva
vagy tagadva vagy elfogadva
01:49
we are building machines
35
97760
1696
kiváló, gyönyörűen bonyolult
01:51
of exquisite, beautiful
complexity and grace
complexity and grace
36
99480
3616
és kecses gépeket építünk,
01:55
that will extend the human experience
37
103120
2056
amelyek képzeletünket túlszárnyalva
01:57
in ways beyond our imagining.
38
105200
1680
kibővítik emberi élményeinket.
01:59
After a career that led me
from the Air Force Academy
from the Air Force Academy
39
107720
2576
Pályafutásom során,
amely a Légierő Akadémiától
amely a Légierő Akadémiától
02:02
to Space Command to now,
40
110320
1936
az Űrparancsnokságig ívelt,
02:04
I became a systems engineer,
41
112280
1696
rendszermérnök lettem.
02:06
and recently I was drawn
into an engineering problem
into an engineering problem
42
114000
2736
Nemrég a NASA
Mars-expedíciójával kapcsolatos
Mars-expedíciójával kapcsolatos
02:08
associated with NASA's mission to Mars.
43
116760
2576
egyik mérnöki feladatba vontak be.
02:11
Now, in space flights to the Moon,
44
119360
2496
A holdutazáskor támaszkodhatunk
02:13
we can rely upon
mission control in Houston
mission control in Houston
45
121880
3136
az expedíció Houstonból
történő irányítására,
történő irányítására,
amellyel leshetjük
az út minden mozzanatát.
az út minden mozzanatát.
02:17
to watch over all aspects of a flight.
46
125040
1976
02:19
However, Mars is 200 times further away,
47
127040
3536
De a Mars 200-szor messzebb van,
02:22
and as a result it takes
on average 13 minutes
on average 13 minutes
48
130600
3216
ezért a jelek átlag 13 perc alatt
02:25
for a signal to travel
from the Earth to Mars.
from the Earth to Mars.
49
133840
3136
jutnak el a Földről a Marsra.
02:29
If there's trouble,
there's not enough time.
there's not enough time.
50
137000
3400
Ha baj történik, szűk az idő.
02:32
And so a reasonable engineering solution
51
140840
2496
Ezért az észszerű mérnöki megoldás
02:35
calls for us to put mission control
52
143360
2576
azt diktálja, hogy az utazás irányítását
02:37
inside the walls of the Orion spacecraft.
53
145960
3016
az Orion űrhajón belül oldjuk meg.
02:41
Another fascinating idea
in the mission profile
in the mission profile
54
149000
2896
Az utazáshoz kapcsolódik
egy másik elragadó ötlet:
egy másik elragadó ötlet:
02:43
places humanoid robots
on the surface of Mars
on the surface of Mars
55
151920
2896
vigyünk a Mars felszínére
humanoid robotokat,
humanoid robotokat,
02:46
before the humans themselves arrive,
56
154840
1856
még az ember odaérkezése előtt,
02:48
first to build facilities
57
156720
1656
előbb a berendezések megépítésére,
02:50
and later to serve as collaborative
members of the science team.
members of the science team.
58
158400
3360
majd hogy hasznos tagjai
legyenek a tudóscsoportnak.
legyenek a tudóscsoportnak.
02:55
Now, as I looked at this
from an engineering perspective,
from an engineering perspective,
59
163400
2736
Mérnöki szemszögből nézve
02:58
it became very clear to me
that what I needed to architect
that what I needed to architect
60
166160
3176
világossá vált számomra,
hogy okos, együttműködő,
03:01
was a smart, collaborative,
61
169360
2176
szociálisan intelligens
mesterséges értelmet kell alkotnom.
mesterséges értelmet kell alkotnom.
03:03
socially intelligent
artificial intelligence.
artificial intelligence.
62
171560
2376
03:05
In other words, I needed to build
something very much like a HAL
something very much like a HAL
63
173960
4296
Azaz, a HAL-hoz valami
nagyon hasonlót kell építenem,
nagyon hasonlót kell építenem,
03:10
but without the homicidal tendencies.
64
178280
2416
de olyant, ami gyilkos hajlamoktól mentes.
03:12
(Laughter)
65
180720
1360
(Nevetés)
03:14
Let's pause for a moment.
66
182920
1816
Egy pillanat.
03:16
Is it really possible to build
an artificial intelligence like that?
an artificial intelligence like that?
67
184760
3896
Tényleg lehetséges ilyen
mesterséges értelmet létrehozni?
mesterséges értelmet létrehozni?
03:20
Actually, it is.
68
188680
1456
A válasz: igen.
03:22
In many ways,
69
190160
1256
Ez több szempontból is
03:23
this is a hard engineering problem
70
191440
1976
nehéz mérnöki feladat,
03:25
with elements of AI,
71
193440
1456
de az MI elemeivel
03:26
not some wet hair ball of an AI problem
that needs to be engineered.
that needs to be engineered.
72
194920
4696
nem olyan, amit ne lehetne megoldani.
03:31
To paraphrase Alan Turing,
73
199640
2656
Alan Turing után szabadon:
03:34
I'm not interested
in building a sentient machine.
in building a sentient machine.
74
202320
2376
Nem érdekel érző gép megépítése.
03:36
I'm not building a HAL.
75
204720
1576
Nem építek HAL-t.
03:38
All I'm after is a simple brain,
76
206320
2416
Csupán egyszerű agyat akarok,
03:40
something that offers
the illusion of intelligence.
the illusion of intelligence.
77
208760
3120
ami az intelligencia illúzióját kelti.
03:45
The art and the science of computing
have come a long way
have come a long way
78
213000
3136
A számítástechnika művészete
és tudománya hosszú utat tett meg
és tudománya hosszú utat tett meg
03:48
since HAL was onscreen,
79
216160
1496
a HAL képernyőre kerüléséig,
03:49
and I'd imagine if his inventor
Dr. Chandra were here today,
Dr. Chandra were here today,
80
217680
3216
és elképzelem, ha feltalálója,
dr. Chandra most itt lenne,
dr. Chandra most itt lenne,
03:52
he'd have a whole lot of questions for us.
81
220920
2336
lenne hozzánk jó pár kérdése.
03:55
Is it really possible for us
82
223280
2096
Meg tudjuk-e valósítani,
03:57
to take a system of millions
upon millions of devices,
upon millions of devices,
83
225400
4016
hogy milliók rendszerét
milliónyi gépre telepítve
milliónyi gépre telepítve
04:01
to read in their data streams,
84
229440
1456
elolvassuk az adatfolyamukat,
04:02
to predict their failures
and act in advance?
and act in advance?
85
230920
2256
hogy előre megtippeljük
hibáikat és tetteiket?
hibáikat és tetteiket?
04:05
Yes.
86
233200
1216
Igen.
04:06
Can we build systems that converse
with humans in natural language?
with humans in natural language?
87
234440
3176
Képesek vagyunk-e emberi nyelven
beszélő gépeket építeni?
beszélő gépeket építeni?
04:09
Yes.
88
237640
1216
Igen.
Képesek vagyunk-e tárgyfölismerő,
érzelmeket azonosító,
érzelmeket azonosító,
04:10
Can we build systems
that recognize objects, identify emotions,
that recognize objects, identify emotions,
89
238880
2976
04:13
emote themselves,
play games and even read lips?
play games and even read lips?
90
241880
3376
érzelmüket kifejező, játékot játszó
és szájról olvasó gépeket építeni?
és szájról olvasó gépeket építeni?
04:17
Yes.
91
245280
1216
Igen.
04:18
Can we build a system that sets goals,
92
246520
2136
Képesek vagyunk-e célokat kitűző,
04:20
that carries out plans against those goals
and learns along the way?
and learns along the way?
93
248680
3616
célokat megvalósító és menet
közben tanuló gépeket építeni?
közben tanuló gépeket építeni?
04:24
Yes.
94
252320
1216
Igen.
04:25
Can we build systems
that have a theory of mind?
that have a theory of mind?
95
253560
3336
Képesek vagyunk-e tudatelmélettel
bíró rendszereket építeni?
bíró rendszereket építeni?
04:28
This we are learning to do.
96
256920
1496
Ezt most tanuljuk.
04:30
Can we build systems that have
an ethical and moral foundation?
an ethical and moral foundation?
97
258440
3480
Képesek vagyunk-e etikai és erkölcsi
alapokon álló gépeket építeni?
alapokon álló gépeket építeni?
04:34
This we must learn how to do.
98
262480
2040
Ezt még meg kell tanulnunk.
04:37
So let's accept for a moment
99
265360
1376
Egyelőre fogadjuk el,
04:38
that it's possible to build
such an artificial intelligence
such an artificial intelligence
100
266760
2896
hogy űrutazásokra képesek
vagyunk megépíteni
vagyunk megépíteni
04:41
for this kind of mission and others.
101
269680
2136
ilyen mesterséges értelmet.
04:43
The next question
you must ask yourself is,
you must ask yourself is,
102
271840
2536
A következő kérdés:
04:46
should we fear it?
103
274400
1456
kell-e félnünk tőle?
04:47
Now, every new technology
104
275880
1976
Minden új technológia
04:49
brings with it
some measure of trepidation.
some measure of trepidation.
105
277880
2896
bizonyos mértékű felbolydulást okoz.
04:52
When we first saw cars,
106
280800
1696
Az első kocsik megpillantásakor
04:54
people lamented that we would see
the destruction of the family.
the destruction of the family.
107
282520
4016
az emberek azon siránkoztak,
hogy tönkremennek a családok.
hogy tönkremennek a családok.
04:58
When we first saw telephones come in,
108
286560
2696
Az első telefonok megjelenésekor
05:01
people were worried it would destroy
all civil conversation.
all civil conversation.
109
289280
2896
az emberek attól tartottak,
hogy kipusztul az emberi beszéd.
hogy kipusztul az emberi beszéd.
05:04
At a point in time we saw
the written word become pervasive,
the written word become pervasive,
110
292200
3936
Amikor elterjedt a nyomtatott írás,
05:08
people thought we would lose
our ability to memorize.
our ability to memorize.
111
296160
2496
az emberek azt hitték,
elvész az emlékezőtehetségünk.
elvész az emlékezőtehetségünk.
05:10
These things are all true to a degree,
112
298680
2056
Bizonyos fokig ez mind igaz,
05:12
but it's also the case
that these technologies
that these technologies
113
300760
2416
de az is tény, hogy az új technológiák
05:15
brought to us things
that extended the human experience
that extended the human experience
114
303200
3376
alapvetően az emberi élmények
kibővítését eredményezték.
05:18
in some profound ways.
115
306600
1880
05:21
So let's take this a little further.
116
309840
2280
Gondolkodjunk el ezen egy kicsit.
05:25
I do not fear the creation
of an AI like this,
of an AI like this,
117
313120
4736
Nem félek az MI létrehozásától,
05:29
because it will eventually
embody some of our values.
embody some of our values.
118
317880
3816
mert meg fogja testesíteni
némely értékünket.
némely értékünket.
05:33
Consider this: building a cognitive system
is fundamentally different
is fundamentally different
119
321720
3496
Vegyük tekintetbe, hogy kognitív rendszert
építeni teljesen más,
építeni teljesen más,
05:37
than building a traditional
software-intensive system of the past.
software-intensive system of the past.
120
325240
3296
mint hagyományos szoftveres rendszert.
05:40
We don't program them. We teach them.
121
328560
2456
Az MI-ket nem programozzuk,
hanem tanítjuk.
hanem tanítjuk.
05:43
In order to teach a system
how to recognize flowers,
how to recognize flowers,
122
331040
2656
Hogy megtanítsam a virág fölismerését,
05:45
I show it thousands of flowers
of the kinds I like.
of the kinds I like.
123
333720
3016
a rendszernek ezernyi
ilyesféle virágot mutatok.
ilyesféle virágot mutatok.
05:48
In order to teach a system
how to play a game --
how to play a game --
124
336760
2256
Hogy megtanítsam játékot játszani...
05:51
Well, I would. You would, too.
125
339040
1960
Megtenném. Önök is.
05:54
I like flowers. Come on.
126
342600
2040
Szeretem a virágokat. Tényleg.
05:57
To teach a system
how to play a game like Go,
how to play a game like Go,
127
345440
2856
Hogy megtanítsam a gépnek
a go játékot játszani,
a go játékot játszani,
06:00
I'd have it play thousands of games of Go,
128
348320
2056
ezernyi játszmát kell vele játszanom,
06:02
but in the process I also teach it
129
350400
1656
de közben tanítom is,
06:04
how to discern
a good game from a bad game.
a good game from a bad game.
130
352080
2416
hogyan különböztesse meg
a jó játszmát a rossztól.
a jó játszmát a rossztól.
06:06
If I want to create an artificially
intelligent legal assistant,
intelligent legal assistant,
131
354520
3696
Ha mesterségesen intelligens
jogi segéderőt akarnék csinálni,
jogi segéderőt akarnék csinálni,
06:10
I will teach it some corpus of law
132
358240
1776
betanítanék neki néhány törvénykönyvet,
06:12
but at the same time I am fusing with it
133
360040
2856
de egyben beleplántálnám
az irgalom s az igazságosság érzését,
amelyek hozzátartoznak a joghoz.
amelyek hozzátartoznak a joghoz.
06:14
the sense of mercy and justice
that is part of that law.
that is part of that law.
134
362920
2880
Tudományosan ezt hívjuk alapigazságnak,
06:18
In scientific terms,
this is what we call ground truth,
this is what we call ground truth,
135
366560
2976
06:21
and here's the important point:
136
369560
2016
s ez a fontos, ez a lényeg:
06:23
in producing these machines,
137
371600
1456
a gépek készítésekor
06:25
we are therefore teaching them
a sense of our values.
a sense of our values.
138
373080
3416
ezért tanítjuk nekik
az értékeink iránti fogékonyságot.
az értékeink iránti fogékonyságot.
06:28
To that end, I trust
an artificial intelligence
an artificial intelligence
139
376520
3136
Ezért ugyanúgy bízom, ha nem jobban,
06:31
the same, if not more,
as a human who is well-trained.
as a human who is well-trained.
140
379680
3640
a mesterséges értelemben,
mint a jól képzett emberben.
mint a jól képzett emberben.
06:36
But, you may ask,
141
384080
1216
De kérdezhetik, mi a helyzet
06:37
what about rogue agents,
142
385320
2616
a gazemberekkel,
06:39
some well-funded
nongovernment organization?
nongovernment organization?
143
387960
3336
a gazdag civil szervezetekkel?
06:43
I do not fear an artificial intelligence
in the hand of a lone wolf.
in the hand of a lone wolf.
144
391320
3816
Nem tartok attól, hogy a MI
egy magányos farkas kezébe kerül.
egy magányos farkas kezébe kerül.
06:47
Clearly, we cannot protect ourselves
against all random acts of violence,
against all random acts of violence,
145
395160
4536
Tény, hogy nem tudjuk magunkat megvédeni
a spontán erőszakos cselekedetektől,
a spontán erőszakos cselekedetektől,
06:51
but the reality is such a system
146
399720
2136
de az a helyzet, hogy egy ilyen rendszer
06:53
requires substantial training
and subtle training
and subtle training
147
401880
3096
alapos, kifinomult kiképzést igényel,
06:57
far beyond the resources of an individual.
148
405000
2296
ami jócskán meghaladja
egy egyén erőforrásait.
egy egyén erőforrásait.
06:59
And furthermore,
149
407320
1216
Továbbá,
07:00
it's far more than just injecting
an internet virus to the world,
an internet virus to the world,
150
408560
3256
ez sokkal több, mint egy internetvírust
kibocsátani a világba;
kibocsátani a világba;
07:03
where you push a button,
all of a sudden it's in a million places
all of a sudden it's in a million places
151
411840
3096
ott csak leütünk egy billentyűt,
és hirtelen milliónyi helyen
és hirtelen milliónyi helyen
07:06
and laptops start blowing up
all over the place.
all over the place.
152
414960
2456
és laptopon működésbe lépnek.
07:09
Now, these kinds of substances
are much larger,
are much larger,
153
417440
2816
Ezek az állományok sokkal nagyobbak,
07:12
and we'll certainly see them coming.
154
420280
1715
és biztos eljön az idejük.
07:14
Do I fear that such
an artificial intelligence
an artificial intelligence
155
422520
3056
Féljek-e, hogy ilyen mesterséges értelem
07:17
might threaten all of humanity?
156
425600
1960
az egész emberiséget veszélyeztetheti?
07:20
If you look at movies
such as "The Matrix," "Metropolis,"
such as "The Matrix," "Metropolis,"
157
428280
4376
Ha megnézzük a Mátrix, a Metropolis,
07:24
"The Terminator,"
shows such as "Westworld,"
shows such as "Westworld,"
158
432680
3176
a Terminátor c. filmeket,
a Westworld c. filmsorozatot,
a Westworld c. filmsorozatot,
07:27
they all speak of this kind of fear.
159
435880
2136
mind az efféle félelemről szólnak.
07:30
Indeed, in the book "Superintelligence"
by the philosopher Nick Bostrom,
by the philosopher Nick Bostrom,
160
438040
4296
Nick Bostrom filozófus
a Szuperintelligencia c. könyvében
a Szuperintelligencia c. könyvében
07:34
he picks up on this theme
161
442360
1536
foglalkozik a témával:
07:35
and observes that a superintelligence
might not only be dangerous,
might not only be dangerous,
162
443920
4016
figyelmeztet, hogy a szuper-intelligencia
nemcsak veszélyes lehet,
nemcsak veszélyes lehet,
07:39
it could represent an existential threat
to all of humanity.
to all of humanity.
163
447960
3856
hanem az emberiség létét is fenyegetheti.
07:43
Dr. Bostrom's basic argument
164
451840
2216
Dr. Bostrom fő érve,
07:46
is that such systems will eventually
165
454080
2736
hogy az ilyen rendszereknek végül
07:48
have such an insatiable
thirst for information
thirst for information
166
456840
3256
olyan telhetetlen információéhségük lehet,
07:52
that they will perhaps learn how to learn
167
460120
2896
hogy talán azt is megtanulják,
hogyan kell tanulni,
hogyan kell tanulni,
07:55
and eventually discover
that they may have goals
that they may have goals
168
463040
2616
és végső fokon rájönnek,
hogy olyan céljaik lehetnek,
hogy olyan céljaik lehetnek,
07:57
that are contrary to human needs.
169
465680
2296
amelyek ellentétesek
az emberi szükségletekkel.
az emberi szükségletekkel.
08:00
Dr. Bostrom has a number of followers.
170
468000
1856
Dr. Bostromnak sok követője van.
08:01
He is supported by people
such as Elon Musk and Stephen Hawking.
such as Elon Musk and Stephen Hawking.
171
469880
4320
Elon Musk
és Stephen Hawking is támogatja például.
és Stephen Hawking is támogatja például.
08:06
With all due respect
172
474880
2400
E ragyogó elmék iránti
08:10
to these brilliant minds,
173
478160
2016
minden kötelező tiszteletem ellenére,
08:12
I believe that they
are fundamentally wrong.
are fundamentally wrong.
174
480200
2256
úgy vélem, hogy alapvetően tévednek.
08:14
Now, there are a lot of pieces
of Dr. Bostrom's argument to unpack,
of Dr. Bostrom's argument to unpack,
175
482480
3176
Dr. Bostromnak számos,
megvizsgálásra érdemes érve van,
megvizsgálásra érdemes érve van,
08:17
and I don't have time to unpack them all,
176
485680
2136
de most itt nincs időnk mindegyikre.
08:19
but very briefly, consider this:
177
487840
2696
Dióhéjban, gondoljuk át a következőket:
08:22
super knowing is very different
than super doing.
than super doing.
178
490560
3736
a szuper tudás egészen más,
mint a szuper cselekedet.
mint a szuper cselekedet.
08:26
HAL was a threat to the Discovery crew
179
494320
1896
A HAL akkor jelentett fenyegetést
a Discovery személyzetére,
a Discovery személyzetére,
08:28
only insofar as HAL commanded
all aspects of the Discovery.
all aspects of the Discovery.
180
496240
4416
amikor a Discoveryt
teljesen ő irányította.
teljesen ő irányította.
08:32
So it would have to be
with a superintelligence.
with a superintelligence.
181
500680
2496
Ehhez szuper intelligensnek kell lennie.
08:35
It would have to have dominion
over all of our world.
over all of our world.
182
503200
2496
Ez világuralmat jelentene.
08:37
This is the stuff of Skynet
from the movie "The Terminator"
from the movie "The Terminator"
183
505720
2816
Aztán itt van a Skynet a Terminátorból,
amelyben szuper intelligencia van,
08:40
in which we had a superintelligence
184
508560
1856
amely az emberi akaratot irányítja;
08:42
that commanded human will,
185
510440
1376
08:43
that directed every device
that was in every corner of the world.
that was in every corner of the world.
186
511840
3856
az egész világon minden készüléket
a Skynet irányít.
a Skynet irányít.
08:47
Practically speaking,
187
515720
1456
Ilyen a gyakorlatban
08:49
it ain't gonna happen.
188
517200
2096
nem történhet meg.
08:51
We are not building AIs
that control the weather,
that control the weather,
189
519320
3056
Nem építünk olyan MI-t,
amely az időjárást
amely az időjárást
08:54
that direct the tides,
190
522400
1336
vagy a dagályt irányítja,
08:55
that command us
capricious, chaotic humans.
capricious, chaotic humans.
191
523760
3376
vagy nekünk, szeszélyes,
zűrös embereknek parancsol.
zűrös embereknek parancsol.
08:59
And furthermore, if such
an artificial intelligence existed,
an artificial intelligence existed,
192
527160
3896
Továbbá, ha létezne is
ilyen mesterséges értelem,
ilyen mesterséges értelem,
09:03
it would have to compete
with human economies,
with human economies,
193
531080
2936
meg kellene küzdenie
az emberi takarékoskodással,
az emberi takarékoskodással,
09:06
and thereby compete for resources with us.
194
534040
2520
és ezért harcolnia kellene
velünk az erőforrásokért.
velünk az erőforrásokért.
09:09
And in the end --
195
537200
1216
Végül...
– meg ne mondják Sirinek –,
09:10
don't tell Siri this --
196
538440
1240
09:12
we can always unplug them.
197
540440
1376
bármikor kikapcsolhatjuk őket.
09:13
(Laughter)
198
541840
2120
(Nevetés)
09:17
We are on an incredible journey
199
545360
2456
A gépeinkkel közös
09:19
of coevolution with our machines.
200
547840
2496
hihetetlen fejlődési úton járunk.
09:22
The humans we are today
201
550360
2496
Ma emberekként nem olyanok vagyunk,
09:24
are not the humans we will be then.
202
552880
2536
mint amilyenek egykor leszünk.
09:27
To worry now about the rise
of a superintelligence
of a superintelligence
203
555440
3136
A szuper intelligencia megjelenése
miatti mai aggodalmak
miatti mai aggodalmak
09:30
is in many ways a dangerous distraction
204
558600
3056
több szempontból
veszélyes figyelemelterelés,
veszélyes figyelemelterelés,
09:33
because the rise of computing itself
205
561680
2336
mert a számítástechnika fejlődése
már önmagában is
már önmagában is
09:36
brings to us a number
of human and societal issues
of human and societal issues
206
564040
3016
egy csomó emberi
és társadalmi kérdést vet föl,
és társadalmi kérdést vet föl,
09:39
to which we must now attend.
207
567080
1640
amelyekbe be kell kapcsolódnunk.
09:41
How shall I best organize society
208
569360
2816
Hogyan szervezzem
a legjobban a társadalmat,
a legjobban a társadalmat,
09:44
when the need for human labor diminishes?
209
572200
2336
ha a munkaerő-szükséglet csökken?
09:46
How can I bring understanding
and education throughout the globe
and education throughout the globe
210
574560
3816
Hogyan érhető el megértés
és végezhető oktatás a Földön,
és végezhető oktatás a Földön,
a különbségek tiszteletben tartásával?
09:50
and still respect our differences?
211
578400
1776
09:52
How might I extend and enhance human life
through cognitive healthcare?
through cognitive healthcare?
212
580200
4256
Hogyan hosszabbítható meg és javítható
az élet kognitív egészségügy révén?
az élet kognitív egészségügy révén?
09:56
How might I use computing
213
584480
2856
Hogyan használhatom a számítástechnikát,
09:59
to help take us to the stars?
214
587360
1760
hogy eljussunk a csillagokba?
10:01
And that's the exciting thing.
215
589760
2040
Ez itt az izgató kérdés.
A számítástechnikában rejlő
lehetőségek kihasználása
lehetőségek kihasználása
10:04
The opportunities to use computing
216
592400
2336
10:06
to advance the human experience
217
594760
1536
az emberi élmények javítására
10:08
are within our reach,
218
596320
1416
jelenleg csak
10:09
here and now,
219
597760
1856
karnyújtásnyira van,
10:11
and we are just beginning.
220
599640
1680
és ez csupán a kezdet.
10:14
Thank you very much.
221
602280
1216
Köszönöm szépen.
10:15
(Applause)
222
603520
4286
(Taps)
ABOUT THE SPEAKER
Grady Booch - Scientist, philosopherIBM's Grady Booch is shaping the future of cognitive computing by building intelligent systems that can reason and learn.
Why you should listen
When he was 13, Grady Booch saw 2001: A Space Odyssey in the theaters for the first time. Ever since, he's been trying to build Hal (albeit one without the homicidal tendencies). A scientist, storyteller and philosopher, Booch is Chief Scientist for Software Engineering as well as Chief Scientist for Watson/M at IBM Research, where he leads IBM's research and development for embodied cognition. Having originated the term and the practice of object-oriented design, he is best known for his work in advancing the fields of software engineering and software architecture.
A co-author of the Unified Modeling Language (UML), a founding member of the Agile Allianc, and a founding member of the Hillside Group, Booch has published six books and several hundred technical articles, including an ongoing column for IEEE Software. He's also a trustee for the Computer History Museum, an IBM Fellow, an ACM Fellow and IEEE Fellow. He has been awarded the Lovelace Medal and has given the Turing Lecture for the BCS, and was recently named an IEEE Computer Pioneer.
Booch is currently deeply involved in the development of cognitive systems and is also developing a major trans-media documentary for public broadcast on the intersection of computing and the human experience.
Grady Booch | Speaker | TED.com