TEDSummit
Sam Harris: Can we build AI without losing control over it?
Sam Harris: Létrehozhatunk olyan mesterséges intelligenciát [MI], amely felett nem veszítjük el az irányítást?
Filmed:
Readability: 4.1
5,024,015 views
Rettegsz a szuperintelligens MI-tól? Jól teszed, állítja Sam Harris neurológus és filozófus -- és nem csupán elméleti síkon gondolja. Harris szerint olyan emberfeletti képességekkel rendelkező gépeket fogunk létrehozni, amik úgy bánnak majd velünk, ahogy mi bánunk a hangyákkal, az ebből fakadó aggályokra azonban még nem találtunk megoldást.
Sam Harris - Neuroscientist, philosopher
Sam Harris's work focuses on how our growing understanding of ourselves and the world is changing our sense of how we should live. Full bio
Sam Harris's work focuses on how our growing understanding of ourselves and the world is changing our sense of how we should live. Full bio
Double-click the English transcript below to play the video.
00:13
I'm going to talk
about a failure of intuition
about a failure of intuition
0
1000
2216
A hibás előérzetekről fogok beszélni,
00:15
that many of us suffer from.
1
3240
1600
amitől oly sokan szenvedünk.
00:17
It's really a failure
to detect a certain kind of danger.
to detect a certain kind of danger.
2
5480
3040
Valóban hibás egy bizonyos fajta
veszély felismerése.
veszély felismerése.
00:21
I'm going to describe a scenario
3
9360
1736
Felvázolok egy forgatókönyvet,
00:23
that I think is both terrifying
4
11120
3256
amelyről úgy gondolom egyszerre ijesztő,
00:26
and likely to occur,
5
14400
1760
és bekövetkezése egyben valószínűsíthető,
és ez a kettő együtt nem jó kombináció,
00:28
and that's not a good combination,
6
16840
1656
00:30
as it turns out.
7
18520
1536
ahogy az bebizonyosodik majd.
00:32
And yet rather than be scared,
most of you will feel
most of you will feel
8
20080
2456
Ennek ellenére a többségetek
az ijedtség helyett úgy érzi majd,
az ijedtség helyett úgy érzi majd,
00:34
that what I'm talking about
is kind of cool.
is kind of cool.
9
22560
2080
hogy amiről beszélek, egy menő dolog.
00:37
I'm going to describe
how the gains we make
how the gains we make
10
25200
2976
El fogom magyarázni,
hogy a mesterséges intelligencia fejlődése
00:40
in artificial intelligence
11
28200
1776
00:42
could ultimately destroy us.
12
30000
1776
miként semmisíthet meg bennünket.
00:43
And in fact, I think it's very difficult
to see how they won't destroy us
to see how they won't destroy us
13
31800
3456
Úgy vélem, nehezebb felismerni,
hogyan nem pusztítanak el minket,
hogyan nem pusztítanak el minket,
00:47
or inspire us to destroy ourselves.
14
35280
1680
vagy buzdítanak minket
önmagunk elpusztítására.
önmagunk elpusztítására.
00:49
And yet if you're anything like me,
15
37400
1856
De ha kicsit is hasonlítasz rám,
00:51
you'll find that it's fun
to think about these things.
to think about these things.
16
39280
2656
rájössz majd, mennyire vicces dolog
ezeken elmélkedni.
ezeken elmélkedni.
00:53
And that response is part of the problem.
17
41960
3376
És ez a fajta reakció
szintén a probléma része.
szintén a probléma része.
00:57
OK? That response should worry you.
18
45360
1720
Értitek ugye? A reakció miatt
aggódnotok kellene.
aggódnotok kellene.
00:59
And if I were to convince you in this talk
19
47920
2656
Ha az előadással meg tudlak
győzni benneteket,
győzni benneteket,
01:02
that we were likely
to suffer a global famine,
to suffer a global famine,
20
50600
3416
hogy a globális éhínség várhatóan
bekövetkezik majd,
bekövetkezik majd,
01:06
either because of climate change
or some other catastrophe,
or some other catastrophe,
21
54040
3056
klímaváltozás vagy
más katasztrófa hatására,
más katasztrófa hatására,
01:09
and that your grandchildren,
or their grandchildren,
or their grandchildren,
22
57120
3416
és hogy az unokátokra, vagy az ő unokáikra
01:12
are very likely to live like this,
23
60560
1800
nagy valószínűséggel hasonló élet vár,
01:15
you wouldn't think,
24
63200
1200
magatokban nem gondolnátok:
01:17
"Interesting.
25
65440
1336
"Érdekes.
01:18
I like this TED Talk."
26
66800
1200
Tetszik ez a TED előadás."
01:21
Famine isn't fun.
27
69200
1520
Az éhínség nem vicc.
01:23
Death by science fiction,
on the other hand, is fun,
on the other hand, is fun,
28
71800
3376
A tudományos-fantasztikum általi halál
ezzel ellentétben vicces,
ezzel ellentétben vicces,
01:27
and one of the things that worries me most
about the development of AI at this point
about the development of AI at this point
29
75200
3976
de ami engem aggaszt leginkább,
a MI jelenlegi állapotát illetően,
a MI jelenlegi állapotát illetően,
01:31
is that we seem unable to marshal
an appropriate emotional response
an appropriate emotional response
30
79200
4096
hogy képtelenek vagyunk
az előttünk álló veszélyekhez
az előttünk álló veszélyekhez
01:35
to the dangers that lie ahead.
31
83320
1816
megfelelő érzelmi reakciót párosítani.
01:37
I am unable to marshal this response,
and I'm giving this talk.
and I'm giving this talk.
32
85160
3200
Képtelen vagyok irányítani a reakciót,
pedig én tartom az előadást.
pedig én tartom az előadást.
01:42
It's as though we stand before two doors.
33
90120
2696
Olyan, mintha két ajtó előtt állnánk.
01:44
Behind door number one,
34
92840
1256
Az egyes számú ajtó mögött
01:46
we stop making progress
in building intelligent machines.
in building intelligent machines.
35
94120
3296
leállunk az intelligens gépek
fejlesztésével.
fejlesztésével.
Valamilyen okból a hardverek és
szoftverek fejlesztése leáll.
szoftverek fejlesztése leáll.
01:49
Our computer hardware and software
just stops getting better for some reason.
just stops getting better for some reason.
36
97440
4016
01:53
Now take a moment
to consider why this might happen.
to consider why this might happen.
37
101480
3000
Egy percre kérlek, gondoljatok bele,
miért történne ilyesmi.
miért történne ilyesmi.
01:57
I mean, given how valuable
intelligence and automation are,
intelligence and automation are,
38
105080
3656
Tudván, mekkora érték rejlik
az intelligenciában és automatizálásban,
az intelligenciában és automatizálásban,
02:00
we will continue to improve our technology
if we are at all able to.
if we are at all able to.
39
108760
3520
ha mód van rá, folytatni fogjuk
a technológiai fejlesztéseket.
a technológiai fejlesztéseket.
02:05
What could stop us from doing this?
40
113200
1667
Mi állhatna az utunkba?
02:07
A full-scale nuclear war?
41
115800
1800
Egy mindent elsöprő nukleáris háború?
02:11
A global pandemic?
42
119000
1560
Egy globális járvány?
02:14
An asteroid impact?
43
122320
1320
Egy aszteroida becsapódása?
02:17
Justin Bieber becoming
president of the United States?
president of the United States?
44
125640
2576
Justin Biebert megválasztják elnöknek?
02:20
(Laughter)
45
128240
2280
(Nevetés)
02:24
The point is, something would have to
destroy civilization as we know it.
destroy civilization as we know it.
46
132760
3920
Bármi legyen is, az általunk ismert
civilizációt kellene megsemmisítse.
civilizációt kellene megsemmisítse.
02:29
You have to imagine
how bad it would have to be
how bad it would have to be
47
137360
4296
Képzeld el, mennyire borzasztónak
kellene lennie ahhoz,
kellene lennie ahhoz,
02:33
to prevent us from making
improvements in our technology
improvements in our technology
48
141680
3336
hogy leálljunk a technológiai
fejlesztésekkel,
fejlesztésekkel,
02:37
permanently,
49
145040
1216
egyik nemzedék a másik után,
02:38
generation after generation.
50
146280
2016
mindörökre.
02:40
Almost by definition,
this is the worst thing
this is the worst thing
51
148320
2136
Fogalmazhatnánk úgy is,
hogy ez a legrosszabb,
hogy ez a legrosszabb,
02:42
that's ever happened in human history.
52
150480
2016
ami valaha történhet
az emberiség történelmében.
az emberiség történelmében.
02:44
So the only alternative,
53
152520
1296
Így az egyetlen alternatíva,
02:45
and this is what lies
behind door number two,
behind door number two,
54
153840
2336
és ez rejlik a kettes számú ajtó mögött,
02:48
is that we continue
to improve our intelligent machines
to improve our intelligent machines
55
156200
3136
hogy folytatjuk
az intelligens gépek fejlesztését,
az intelligens gépek fejlesztését,
02:51
year after year after year.
56
159360
1600
egyik évről a másikra.
02:53
At a certain point, we will build
machines that are smarter than we are,
machines that are smarter than we are,
57
161720
3640
És elérkezünk a ponthoz, amikor nálunk
okosabb gépeket hozunk létre.
okosabb gépeket hozunk létre.
02:58
and once we have machines
that are smarter than we are,
that are smarter than we are,
58
166080
2616
És amint létrehoztuk
a minket meghaladó okos gépeket,
a minket meghaladó okos gépeket,
03:00
they will begin to improve themselves.
59
168720
1976
megkezdik majd önmaguk fejlesztését.
03:02
And then we risk what
the mathematician IJ Good called
the mathematician IJ Good called
60
170720
2736
És ezzel megkockáztatjuk azt,
amit IJ Good matematikus
amit IJ Good matematikus
03:05
an "intelligence explosion,"
61
173480
1776
úgy hívott: "intelligencia-robbanás".
03:07
that the process could get away from us.
62
175280
2000
Amikor a fejlődésük
kicsúszik a kezünk közül.
kicsúszik a kezünk közül.
03:10
Now, this is often caricatured,
as I have here,
as I have here,
63
178120
2816
Sokszor kifigurázzák, mint én is itt,
03:12
as a fear that armies of malicious robots
64
180960
3216
miként rettegünk a rosszindulatú robotok
03:16
will attack us.
65
184200
1256
támadásától.
03:17
But that isn't the most likely scenario.
66
185480
2696
De nem ez a legvalószínűbb forgatókönyv.
03:20
It's not that our machines
will become spontaneously malevolent.
will become spontaneously malevolent.
67
188200
4856
A gépek nem fognak egyik pillanatról
a másikra gonosszá válni.
a másikra gonosszá válni.
03:25
The concern is really
that we will build machines
that we will build machines
68
193080
2616
A valós aggály abban rejlik,
hogy olyan gépeket hozunk létre,
hogy olyan gépeket hozunk létre,
03:27
that are so much
more competent than we are
more competent than we are
69
195720
2056
melyek meghaladják a mi képességeinket,
03:29
that the slightest divergence
between their goals and our own
between their goals and our own
70
197800
3776
és a legapróbb összeférhetetlenség
az ő és saját céljaink között
az ő és saját céljaink között
03:33
could destroy us.
71
201600
1200
a végünket jelentheti.
03:35
Just think about how we relate to ants.
72
203960
2080
Csak gondoljatok bele, mi hogyan
viszonyulunk a hangyákhoz.
viszonyulunk a hangyákhoz.
03:38
We don't hate them.
73
206600
1656
Nem utáljuk őket.
Nem akarjuk szándékosan bántalmazni őket.
03:40
We don't go out of our way to harm them.
74
208280
2056
03:42
In fact, sometimes
we take pains not to harm them.
we take pains not to harm them.
75
210360
2376
Sőt, néha megóvásukra
áldozatokat is hozunk értük.
áldozatokat is hozunk értük.
03:44
We step over them on the sidewalk.
76
212760
2016
Kikerüljük őket a járdán.
03:46
But whenever their presence
77
214800
2136
De amint összeütközik a jelenlétük
03:48
seriously conflicts with one of our goals,
78
216960
2496
a céljaink megvalósításával,
03:51
let's say when constructing
a building like this one,
a building like this one,
79
219480
2477
mint például egy ilyen
épület felhúzásakor,
épület felhúzásakor,
03:53
we annihilate them without a qualm.
80
221981
1960
szemrebbenés nélkül kiírtjuk valamennyit.
03:56
The concern is that we will
one day build machines
one day build machines
81
224480
2936
A gond az, hogy egy napon
olyan gépeket hozunk létre,
olyan gépeket hozunk létre,
03:59
that, whether they're conscious or not,
82
227440
2736
amelyek, akár tudatosak akár nem,
04:02
could treat us with similar disregard.
83
230200
2000
hasonlóképpen viszonyulnak majd hozzánk.
04:05
Now, I suspect this seems
far-fetched to many of you.
far-fetched to many of you.
84
233760
2760
Gondolom, ez sokatok számára,
elképzelhetetlennek tűnik.
elképzelhetetlennek tűnik.
04:09
I bet there are those of you who doubt
that superintelligent AI is possible,
that superintelligent AI is possible,
85
237360
6336
Fogadni mernék, hogy egyesek a MI
lehetőségét is megkérdőjelezik,
lehetőségét is megkérdőjelezik,
04:15
much less inevitable.
86
243720
1656
mintsem elkerülhetetlennek véljék.
04:17
But then you must find something wrong
with one of the following assumptions.
with one of the following assumptions.
87
245400
3620
De akkor valami mégsem stimmel
a következő feltevésekkel.
a következő feltevésekkel.
04:21
And there are only three of them.
88
249044
1572
Amiből mindössze csak három van.
04:23
Intelligence is a matter of information
processing in physical systems.
processing in physical systems.
89
251800
4719
Az intelligencia a fizikai rendszerekben
feldolgozott információból származik.
feldolgozott információból származik.
04:29
Actually, this is a little bit more
than an assumption.
than an assumption.
90
257320
2615
Tulajdonképpen, ez kicsivel
több puszta feltevésnél.
több puszta feltevésnél.
04:31
We have already built
narrow intelligence into our machines,
narrow intelligence into our machines,
91
259959
3457
A közvetlen intelligenciát
már beépítettük a gépeinkbe,
már beépítettük a gépeinkbe,
04:35
and many of these machines perform
92
263440
2016
mely gépek többsége már most
04:37
at a level of superhuman
intelligence already.
intelligence already.
93
265480
2640
emberfeletti teljesítményekre képes.
04:40
And we know that mere matter
94
268840
2576
Azt is tudjuk, hogy az anyag önmagában
04:43
can give rise to what is called
"general intelligence,"
"general intelligence,"
95
271440
2616
életre tudja hívni az úgynevezett
"alap intelligenciát,"
"alap intelligenciát,"
04:46
an ability to think flexibly
across multiple domains,
across multiple domains,
96
274080
3656
a különböző tartományokon belüli
rugalmas gondolkodás képességét,
rugalmas gondolkodás képességét,
04:49
because our brains have managed it. Right?
97
277760
3136
hiszen saját agyunk is
képes volt rá, nem igaz?
képes volt rá, nem igaz?
04:52
I mean, there's just atoms in here,
98
280920
3936
Mivel itt legbelül csak atomok vannak,
04:56
and as long as we continue
to build systems of atoms
to build systems of atoms
99
284880
4496
és amíg atomokból álló
rendszereket építünk,
rendszereket építünk,
05:01
that display more and more
intelligent behavior,
intelligent behavior,
100
289400
2696
melyek egyre intelligensebb
viselkedést mutatnak,
viselkedést mutatnak,
05:04
we will eventually,
unless we are interrupted,
unless we are interrupted,
101
292120
2536
akkor egyszer, hacsak nem lépünk közbe,
05:06
we will eventually
build general intelligence
build general intelligence
102
294680
3376
akkor egyszer megépítjük
az alap intelligenciával
az alap intelligenciával
05:10
into our machines.
103
298080
1296
rendelkező gépeket.
05:11
It's crucial to realize
that the rate of progress doesn't matter,
that the rate of progress doesn't matter,
104
299400
3656
Mindennél fontosabb azonban felismerni,
hogy a fejlődés üteme lényegtelen,
hogy a fejlődés üteme lényegtelen,
05:15
because any progress
is enough to get us into the end zone.
is enough to get us into the end zone.
105
303080
3176
mert a fejlődés önmagában
elegendő ahhoz, hogy célba érjünk.
elegendő ahhoz, hogy célba érjünk.
05:18
We don't need Moore's law to continue.
We don't need exponential progress.
We don't need exponential progress.
106
306280
3776
Nincs szükségünk Moore-törvényre,
sem exponenciális növekedésre.
sem exponenciális növekedésre.
05:22
We just need to keep going.
107
310080
1600
Csak haladnunk kell tovább.
05:25
The second assumption
is that we will keep going.
is that we will keep going.
108
313480
2920
A második feltevés, hogy haladunk tovább.
05:29
We will continue to improve
our intelligent machines.
our intelligent machines.
109
317000
2760
Egyre intelligensebb gépeket hozunk létre.
05:33
And given the value of intelligence --
110
321000
4376
És ami az intelligencia értékét illeti --
05:37
I mean, intelligence is either
the source of everything we value
the source of everything we value
111
325400
3536
az intelligencia, vagy a forrása
a számunkra értékesnek,
a számunkra értékesnek,
05:40
or we need it to safeguard
everything we value.
everything we value.
112
328960
2776
vagy megóvja számunkra mindazt,
amit értékesnek tartunk.
amit értékesnek tartunk.
05:43
It is our most valuable resource.
113
331760
2256
Az egyik legértékesebb erőforrásunk.
05:46
So we want to do this.
114
334040
1536
Szóval megakarjuk alkotni.
05:47
We have problems
that we desperately need to solve.
that we desperately need to solve.
115
335600
3336
Vannak problémák, melyeket
haladéktalanul meg kell oldanunk.
haladéktalanul meg kell oldanunk.
05:50
We want to cure diseases
like Alzheimer's and cancer.
like Alzheimer's and cancer.
116
338960
3200
Meg akarjuk gyógyítani az Alzheimert,
a rákot és hasonló betegségeket.
a rákot és hasonló betegségeket.
05:54
We want to understand economic systems.
We want to improve our climate science.
We want to improve our climate science.
117
342960
3936
Érteni akarjuk a gazdasági rendszereket.
Javítani akarjuk a klímaismereteinket.
Javítani akarjuk a klímaismereteinket.
05:58
So we will do this, if we can.
118
346920
2256
Amint mód van rá, megtesszük ezeket.
06:01
The train is already out of the station,
and there's no brake to pull.
and there's no brake to pull.
119
349200
3286
A vonat már elhagyta az állomást,
és nincs fék, amit behúzhatnánk.
és nincs fék, amit behúzhatnánk.
06:05
Finally, we don't stand
on a peak of intelligence,
on a peak of intelligence,
120
353880
5456
Végül is nem vagyunk
az intelligencia tetőfokán,
az intelligencia tetőfokán,
06:11
or anywhere near it, likely.
121
359360
1800
de még csak a közelében sem járunk.
06:13
And this really is the crucial insight.
122
361640
1896
És ez itt a lényeges momentum.
06:15
This is what makes
our situation so precarious,
our situation so precarious,
123
363560
2416
Ez teszi a helyzetünket
különösen bizonytalanná,
különösen bizonytalanná,
06:18
and this is what makes our intuitions
about risk so unreliable.
about risk so unreliable.
124
366000
4040
és pont ezért megbízhatatlanok
a veszélyhez fűződő előérzeteink.
a veszélyhez fűződő előérzeteink.
06:23
Now, just consider the smartest person
who has ever lived.
who has ever lived.
125
371120
2720
Képzeljük el a valaha élt
legokosabb embert.
legokosabb embert.
06:26
On almost everyone's shortlist here
is John von Neumann.
is John von Neumann.
126
374640
3416
Minden bizonnyal Neumann János
szerepel mindenki listáján.
szerepel mindenki listáján.
06:30
I mean, the impression that von Neumann
made on the people around him,
made on the people around him,
127
378080
3336
Ahogy Neumann hatni tudott
a körülötte lévő emberekre,
a körülötte lévő emberekre,
06:33
and this included the greatest
mathematicians and physicists of his time,
mathematicians and physicists of his time,
128
381440
4056
többek között minden idők legjobb
matematikusaira és fizikusaira,
matematikusaira és fizikusaira,
06:37
is fairly well-documented.
129
385520
1936
annak bárki utánajárhat.
06:39
If only half the stories
about him are half true,
about him are half true,
130
387480
3776
Ha a róla szóló történeteknek
csak a fele is igaz,
csak a fele is igaz,
06:43
there's no question
131
391280
1216
akkor kétségkívül
06:44
he's one of the smartest people
who has ever lived.
who has ever lived.
132
392520
2456
ő a világon valaha élt legokosabb ember.
06:47
So consider the spectrum of intelligence.
133
395000
2520
Képzeljük el az intelligencia tartományát.
06:50
Here we have John von Neumann.
134
398320
1429
Itt van Neumann János.
06:53
And then we have you and me.
135
401560
1334
És itt vagytok ti és én.
06:56
And then we have a chicken.
136
404120
1296
Itt pedig egy csirke.
06:57
(Laughter)
137
405440
1936
(Nevetés)
06:59
Sorry, a chicken.
138
407400
1216
Elnézést, egy kiscsirke.
07:00
(Laughter)
139
408640
1256
(Nevetés)
07:01
There's no reason for me to make this talk
more depressing than it needs to be.
more depressing than it needs to be.
140
409920
3736
Nem akarom ezt a beszédet
még lesújtóbbá tenni.
még lesújtóbbá tenni.
07:05
(Laughter)
141
413680
1600
(Nevetés)
07:08
It seems overwhelmingly likely, however,
that the spectrum of intelligence
that the spectrum of intelligence
142
416339
3477
Valószínűsíthető,
hogy az intelligencia tartománya
hogy az intelligencia tartománya
07:11
extends much further
than we currently conceive,
than we currently conceive,
143
419840
3120
sokkalta tágabb,
mint ahogy azt gondolnánk,
mint ahogy azt gondolnánk,
07:15
and if we build machines
that are more intelligent than we are,
that are more intelligent than we are,
144
423880
3216
és ha magunknál intelligensebb
gépeket építünk,
gépeket építünk,
akkor azok valószínűleg olyan
területeket tárnak fel,
területeket tárnak fel,
07:19
they will very likely
explore this spectrum
explore this spectrum
145
427120
2296
07:21
in ways that we can't imagine,
146
429440
1856
melyeket elképzelni sem tudunk,
07:23
and exceed us in ways
that we can't imagine.
that we can't imagine.
147
431320
2520
és ott múlnak felül minket,
ahol nem is sejtjük.
ahol nem is sejtjük.
07:27
And it's important to recognize that
this is true by virtue of speed alone.
this is true by virtue of speed alone.
148
435000
4336
Fontos belátni, hogy ez pusztán
a sebességet tekintve már igaz.
a sebességet tekintve már igaz.
07:31
Right? So imagine if we just built
a superintelligent AI
a superintelligent AI
149
439360
5056
Ugye? Mi lenne, ha olyan
szuperintelligens MI-t hoznánk létre,
szuperintelligens MI-t hoznánk létre,
07:36
that was no smarter
than your average team of researchers
than your average team of researchers
150
444440
3456
ami semmivel sem okosabb
egy hétköznapi kutatócsoportnál
egy hétköznapi kutatócsoportnál
07:39
at Stanford or MIT.
151
447920
2296
az MIT-n vagy a Stanford Egyetemen.
07:42
Well, electronic circuits
function about a million times faster
function about a million times faster
152
450240
2976
Az elektronikus áramkörök
milliószor gyorsabban működnek,
milliószor gyorsabban működnek,
07:45
than biochemical ones,
153
453240
1256
mint a biokémiaiak,
07:46
so this machine should think
about a million times faster
about a million times faster
154
454520
3136
ezért ez a gép milliószor gyorsabb
gondolkodásra lesz képes,
gondolkodásra lesz képes,
07:49
than the minds that built it.
155
457680
1816
mind azok az elmék, akik ezt létrehozták.
07:51
So you set it running for a week,
156
459520
1656
Szóval életre kelted,
és alig egy hét alatt
és alig egy hét alatt
07:53
and it will perform 20,000 years
of human-level intellectual work,
of human-level intellectual work,
157
461200
4560
20 000 évnyi emberi
szellemi munkát végez el.
szellemi munkát végez el.
07:58
week after week after week.
158
466400
1960
És ezt hétről hétre megismétli.
08:01
How could we even understand,
much less constrain,
much less constrain,
159
469640
3096
Képtelenség felfogni,
nemhogy kordában tartani
nemhogy kordában tartani
08:04
a mind making this sort of progress?
160
472760
2280
egy elmét, ami ilyen mértékű
fejlődésre képes.
fejlődésre képes.
08:08
The other thing that's worrying, frankly,
161
476840
2136
A másik, ami aggodalomra ad okot,
őszintén szólva,
őszintén szólva,
08:11
is that, imagine the best case scenario.
162
479000
4976
ez a legjobb, ami megtörténhet velünk.
08:16
So imagine we hit upon a design
of superintelligent AI
of superintelligent AI
163
484000
4176
Képzeljük el, hogy olyan
szuperintelligens MI-t alkotunk,
szuperintelligens MI-t alkotunk,
08:20
that has no safety concerns.
164
488200
1376
ami nem rejt biztonsági kockázatokat.
08:21
We have the perfect design
the first time around.
the first time around.
165
489600
3256
Rögtön, elsőre létrehozzuk
a legtökéletesebb változatát.
a legtökéletesebb változatát.
08:24
It's as though we've been handed an oracle
166
492880
2216
Mintha kezünkbe kapnánk a mindentudást,
08:27
that behaves exactly as intended.
167
495120
2016
ami pont úgy működik, ahogy kell.
08:29
Well, this machine would be
the perfect labor-saving device.
the perfect labor-saving device.
168
497160
3720
Ez a gép lenne a leghatékonyabb
munkaerő-helyettesítő berendezés.
munkaerő-helyettesítő berendezés.
Létrehozná a gépet,
amely létrehozná azt a gépet,
amely létrehozná azt a gépet,
08:33
It can design the machine
that can build the machine
that can build the machine
169
501680
2429
amely bármilyen fizikai munkát elvégez,
08:36
that can do any physical work,
170
504133
1763
08:37
powered by sunlight,
171
505920
1456
napenergia hajtja,
08:39
more or less for the cost
of raw materials.
of raw materials.
172
507400
2696
és költségét csak az anyagköltség okozza.
08:42
So we're talking about
the end of human drudgery.
the end of human drudgery.
173
510120
3256
Az emberi robotolás végéről beszélünk.
08:45
We're also talking about the end
of most intellectual work.
of most intellectual work.
174
513400
2800
De ez egyben a szellemi
munka végét is jelenti.
munka végét is jelenti.
08:49
So what would apes like ourselves
do in this circumstance?
do in this circumstance?
175
517200
3056
Vajon ilyen esetben mit tennének
a hozzánk hasonló emberszabásúak?
a hozzánk hasonló emberszabásúak?
08:52
Well, we'd be free to play Frisbee
and give each other massages.
and give each other massages.
176
520280
4080
Nos, bármikor frizbizhetnénk,
vagy masszírozhatnánk egymást.
vagy masszírozhatnánk egymást.
08:57
Add some LSD and some
questionable wardrobe choices,
questionable wardrobe choices,
177
525840
2856
Jöhet egy kis LSD,
pár extravagáns ruhadarab,
pár extravagáns ruhadarab,
09:00
and the whole world
could be like Burning Man.
could be like Burning Man.
178
528720
2176
és az egész világ
Burning Manné változhatna.
Burning Manné változhatna.
09:02
(Laughter)
179
530920
1640
(Nevetés)
09:06
Now, that might sound pretty good,
180
534320
2000
Ez tényleg jó mókának hangzik,
09:09
but ask yourself what would happen
181
537280
2376
de tegyétek fel magatoknak a kérdést,
hogy mi történne a jelenlegi
gazdasági és politika rendszerekkel.
gazdasági és politika rendszerekkel.
09:11
under our current economic
and political order?
and political order?
182
539680
2736
09:14
It seems likely that we would witness
183
542440
2416
Azt hiszem, szemtanúi lehetnénk
09:16
a level of wealth inequality
and unemployment
and unemployment
184
544880
4136
egy soha nem látott mértékű
jóléti aránytalanságnak
és munkanélküliségnek.
és munkanélküliségnek.
09:21
that we have never seen before.
185
549040
1496
09:22
Absent a willingness
to immediately put this new wealth
to immediately put this new wealth
186
550560
2616
Hacsak nem állítanánk
ezt az újfajta jólétet
ezt az újfajta jólétet
09:25
to the service of all humanity,
187
553200
1480
az emberiség szolgálatába,
09:27
a few trillionaires could grace
the covers of our business magazines
the covers of our business magazines
188
555640
3616
akkor pár milliárdos villogna
az üzleti magazinok címlapján,
az üzleti magazinok címlapján,
09:31
while the rest of the world
would be free to starve.
would be free to starve.
189
559280
2440
miközben a világ többi
része éhen pusztulna.
része éhen pusztulna.
09:34
And what would the Russians
or the Chinese do
or the Chinese do
190
562320
2296
Vajon mit tennének
az oroszok vagy a kínaiak,
az oroszok vagy a kínaiak,
09:36
if they heard that some company
in Silicon Valley
in Silicon Valley
191
564640
2616
ha megtudnák, hogy az egyik
Szilícium-völgyben lévő cég
Szilícium-völgyben lévő cég
09:39
was about to deploy a superintelligent AI?
192
567280
2736
bevetni készül a szuperintelligens MI-t?
09:42
This machine would be capable
of waging war,
of waging war,
193
570040
2856
Ez a gép a hadviselésre is képes lenne,
09:44
whether terrestrial or cyber,
194
572920
2216
akár földön, akár a kibertérben,
09:47
with unprecedented power.
195
575160
1680
soha nem tapasztalt erőfölénnyel.
09:50
This is a winner-take-all scenario.
196
578120
1856
Ez a győztes-mindent-visz forgatókönyv.
09:52
To be six months ahead
of the competition here
of the competition here
197
580000
3136
Ezt a versenyt hat hónappal beelőzni,
09:55
is to be 500,000 years ahead,
198
583160
2776
minimum
09:57
at a minimum.
199
585960
1496
500 000 év szükséges.
09:59
So it seems that even mere rumors
of this kind of breakthrough
of this kind of breakthrough
200
587480
4736
Ezért már az ilyen áttörésről
szóló leghalványabb pletyka is
szóló leghalványabb pletyka is
10:04
could cause our species to go berserk.
201
592240
2376
fajunk totális megvadulásába torkollhat.
10:06
Now, one of the most frightening things,
202
594640
2896
A legijesztőbb dolog azonban
10:09
in my view, at this moment,
203
597560
2776
- az én meglátásom szerint -
jelen pillanatban az,
jelen pillanatban az,
10:12
are the kinds of things
that AI researchers say
that AI researchers say
204
600360
4296
amit az MI-kutatók mondogatnak,
10:16
when they want to be reassuring.
205
604680
1560
amikor meg akarnak nyugtatni minket.
10:19
And the most common reason
we're told not to worry is time.
we're told not to worry is time.
206
607000
3456
Az aggodalmakra adott
leggyakoribb válaszuk az idő.
leggyakoribb válaszuk az idő.
10:22
This is all a long way off,
don't you know.
don't you know.
207
610480
2056
Annyira messze van még,
hát nem tudjátok.
hát nem tudjátok.
10:24
This is probably 50 or 100 years away.
208
612560
2440
50 vagy 100 év is eltelik addig.
10:27
One researcher has said,
209
615720
1256
Az egyik kutató szerint:
10:29
"Worrying about AI safety
210
617000
1576
"A MI biztonsága miatt aggódni olyan,
10:30
is like worrying
about overpopulation on Mars."
about overpopulation on Mars."
211
618600
2280
mintha a túlnépesedés
miatt aggódnánk a Marson."
miatt aggódnánk a Marson."
10:34
This is the Silicon Valley version
212
622116
1620
Ez a szilícium-völgyi változata annak,
10:35
of "don't worry your
pretty little head about it."
pretty little head about it."
213
623760
2376
hogy "ne törd ezen a szép kis buksidat".
10:38
(Laughter)
214
626160
1336
(Nevetés)
10:39
No one seems to notice
215
627520
1896
Senkinek nem tűnik fel,
10:41
that referencing the time horizon
216
629440
2616
hogy az időhorizontra való hivatkozás,
10:44
is a total non sequitur.
217
632080
2576
totál nem passzol a képbe.
10:46
If intelligence is just a matter
of information processing,
of information processing,
218
634680
3256
Ha az intelligencia csupán
az információ feldolgozásából áll,
az információ feldolgozásából áll,
10:49
and we continue to improve our machines,
219
637960
2656
és mi folytatjuk a gépek fejlesztését,
10:52
we will produce
some form of superintelligence.
some form of superintelligence.
220
640640
2880
akkor létre fogunk hozni
valamiféle szuperintelligenciát.
valamiféle szuperintelligenciát.
10:56
And we have no idea
how long it will take us
how long it will take us
221
644320
3656
És fogalmunk sincs mennyi
időbe telik majd megteremteni
időbe telik majd megteremteni
11:00
to create the conditions
to do that safely.
to do that safely.
222
648000
2400
a biztonságos kivitelezés feltételeit.
11:04
Let me say that again.
223
652200
1296
Hadd ismételjem meg:
11:05
We have no idea how long it will take us
224
653520
3816
Fogalmunk sincs mennyi
időbe telik majd megteremteni
időbe telik majd megteremteni
11:09
to create the conditions
to do that safely.
to do that safely.
225
657360
2240
a biztonságos kivitelezés feltételeit.
11:12
And if you haven't noticed,
50 years is not what it used to be.
50 years is not what it used to be.
226
660920
3456
Ha nem tűnt volna fel, az elmúlt
50 év sem olyan, mint az előzőek.
50 év sem olyan, mint az előzőek.
11:16
This is 50 years in months.
227
664400
2456
Ez az 50 év hónapokra bontva.
11:18
This is how long we've had the iPhone.
228
666880
1840
Ilyen régóta létezik az iPhone.
11:21
This is how long "The Simpsons"
has been on television.
has been on television.
229
669440
2600
Ilyen régóta megy a tévében a
"Simpson család".
"Simpson család".
11:24
Fifty years is not that much time
230
672680
2376
50 év nem egy hosszú idő,
11:27
to meet one of the greatest challenges
our species will ever face.
our species will ever face.
231
675080
3160
hogy elérkezzünk fajunk egyik
legnagyobb kihívásához.
legnagyobb kihívásához.
11:31
Once again, we seem to be failing
to have an appropriate emotional response
to have an appropriate emotional response
232
679640
4016
Ismétlem: képtelenek vagyunk
megfelelő érzelmi reakcióval kezelni,
megfelelő érzelmi reakcióval kezelni,
11:35
to what we have every reason
to believe is coming.
to believe is coming.
233
683680
2696
ami minden kétséget kizáróan előttünk áll.
11:38
The computer scientist Stuart Russell
has a nice analogy here.
has a nice analogy here.
234
686400
3976
Stuart Russell számítógéptudósnak
van egy szép analógiája.
van egy szép analógiája.
11:42
He said, imagine that we received
a message from an alien civilization,
a message from an alien civilization,
235
690400
4896
Azt mondta: Képzeljük el, hogy kapunk
egy üzenetet egy idegen civilizációtól,
egy üzenetet egy idegen civilizációtól,
11:47
which read:
236
695320
1696
amiben ez áll:
11:49
"People of Earth,
237
697040
1536
"Földi népség,
11:50
we will arrive on your planet in 50 years.
238
698600
2360
50 év múlva érkezünk.
11:53
Get ready."
239
701800
1576
Készüljetek fel!"
11:55
And now we're just counting down
the months until the mothership lands?
the months until the mothership lands?
240
703400
4256
Elkezdenénk visszaszámlálni,
amíg meg nem érkezik az anyahajó?
amíg meg nem érkezik az anyahajó?
11:59
We would feel a little
more urgency than we do.
more urgency than we do.
241
707680
3000
Sokkal sürgetőbbnek éreznénk, mint most.
12:04
Another reason we're told not to worry
242
712680
1856
Az aggodalmakra adott másik válasz,
12:06
is that these machines
can't help but share our values
can't help but share our values
243
714560
3016
hogy ezek a gépek
osztják a mi nézeteinket,
osztják a mi nézeteinket,
12:09
because they will be literally
extensions of ourselves.
extensions of ourselves.
244
717600
2616
mivel ők a mi saját kiterjesztéseink.
12:12
They'll be grafted onto our brains,
245
720240
1816
Az agyunkba lesznek ültetve,
12:14
and we'll essentially
become their limbic systems.
become their limbic systems.
246
722080
2360
aminek folytán limbikus
rendszerükké válunk.
rendszerükké válunk.
12:17
Now take a moment to consider
247
725120
1416
Egyetlen pillanatra gondoljunk csak bele,
12:18
that the safest
and only prudent path forward,
and only prudent path forward,
248
726560
3176
azt javasolják,
12:21
recommended,
249
729760
1336
hogy az egyetlen biztonságos
és megbízható módszer az,
és megbízható módszer az,
12:23
is to implant this technology
directly into our brains.
directly into our brains.
250
731120
2800
ha ezt a technológiát közvetlenül
az agyunkba ültetjük be.
az agyunkba ültetjük be.
12:26
Now, this may in fact be the safest
and only prudent path forward,
and only prudent path forward,
251
734600
3376
Nos, lehet, hogy az egyetlen
biztonságos és megbízható módszer,
biztonságos és megbízható módszer,
12:30
but usually one's safety concerns
about a technology
about a technology
252
738000
3056
de a technológiák biztonsági kockázatait
12:33
have to be pretty much worked out
before you stick it inside your head.
before you stick it inside your head.
253
741080
3656
alaposan tesztelni kéne,
mielőtt bármit bárki fejébe ültetnék.
mielőtt bármit bárki fejébe ültetnék.
(Nevetés)
12:36
(Laughter)
254
744760
2016
12:38
The deeper problem is that
building superintelligent AI on its own
building superintelligent AI on its own
255
746800
5336
A mélyebb probléma az, hogy egy
szuperintelligens MI létrehozása,
szuperintelligens MI létrehozása,
már önmagában is egyszerűbbnek bizonyul,
12:44
seems likely to be easier
256
752160
1736
12:45
than building superintelligent AI
257
753920
1856
mint létrehozni a szuperintelligens MI-t,
12:47
and having the completed neuroscience
258
755800
1776
és megalkotni hozzá
a szükséges idegtudományt,
a szükséges idegtudományt,
12:49
that allows us to seamlessly
integrate our minds with it.
integrate our minds with it.
259
757600
2680
amely lehetővé teszi a saját elménkkel
való gond nélküli összekapcsolását.
való gond nélküli összekapcsolását.
12:52
And given that the companies
and governments doing this work
and governments doing this work
260
760800
3176
És mivel az ezen dolgozó
vállalatok és kormányok
vállalatok és kormányok
12:56
are likely to perceive themselves
as being in a race against all others,
as being in a race against all others,
261
764000
3656
vetélytársként tekintenek egymásra,
12:59
given that to win this race
is to win the world,
is to win the world,
262
767680
3256
mondván, hogy a verseny győzelme
egyben a világ feletti győzelem is,
egyben a világ feletti győzelem is,
13:02
provided you don't destroy it
in the next moment,
in the next moment,
263
770960
2456
hacsak nem rombolják le
a következő pillanatban,
a következő pillanatban,
13:05
then it seems likely
that whatever is easier to do
that whatever is easier to do
264
773440
2616
akkor valószínűleg a könnyebb megoldás
13:08
will get done first.
265
776080
1200
fog előbb megvalósulni.
13:10
Now, unfortunately,
I don't have a solution to this problem,
I don't have a solution to this problem,
266
778560
2856
Nos, sajnos a problémára
nem tudom a megoldást.
nem tudom a megoldást.
13:13
apart from recommending
that more of us think about it.
that more of us think about it.
267
781440
2616
Csak javasolni tudom, hogy minél
többen gondolkodjunk el ezen.
többen gondolkodjunk el ezen.
13:16
I think we need something
like a Manhattan Project
like a Manhattan Project
268
784080
2376
Úgy vélem, szükségünk lenne
a mesterséges intelligencia
a mesterséges intelligencia
13:18
on the topic of artificial intelligence.
269
786480
2016
Manhattan-projektjére.
13:20
Not to build it, because I think
we'll inevitably do that,
we'll inevitably do that,
270
788520
2736
Nem a megépítéséhez, mert azt hiszem,
ez elkerülhetetlen,
ez elkerülhetetlen,
13:23
but to understand
how to avoid an arms race
how to avoid an arms race
271
791280
3336
hanem hogy megértsük, hogyan kerüljük el
a fegyverkezési versenyt,
a fegyverkezési versenyt,
13:26
and to build it in a way
that is aligned with our interests.
that is aligned with our interests.
272
794640
3496
és hozzuk létre úgy, hogy összhangban
legyen az érdekeinkkel.
legyen az érdekeinkkel.
13:30
When you're talking
about superintelligent AI
about superintelligent AI
273
798160
2136
Ha szuperintelligens MI-ról beszélünk,
13:32
that can make changes to itself,
274
800320
2256
amely önmaga megváltoztatására is képes,
13:34
it seems that we only have one chance
to get the initial conditions right,
to get the initial conditions right,
275
802600
4616
akkor egyetlen esélyünk van a kezdeti
feltételek helyes meghatározására,
feltételek helyes meghatározására,
13:39
and even then we will need to absorb
276
807240
2056
és még akkor is szükség lesz az ezzel járó
13:41
the economic and political
consequences of getting them right.
consequences of getting them right.
277
809320
3040
gazdasági és politikai
következmények elfogadására.
következmények elfogadására.
13:45
But the moment we admit
278
813760
2056
És amint elfogadjuk,
13:47
that information processing
is the source of intelligence,
is the source of intelligence,
279
815840
4000
hogy az intelligencia forrása az
információ feldolgozásában rejlik,
információ feldolgozásában rejlik,
13:52
that some appropriate computational system
is what the basis of intelligence is,
is what the basis of intelligence is,
280
820720
4800
és hogy az intelligencia alapja
egy megfelelő számítógépes rendszer,
egy megfelelő számítógépes rendszer,
13:58
and we admit that we will improve
these systems continuously,
these systems continuously,
281
826360
3760
és elfogadjuk, hogy ezeket a rendszereket
folyamatosan fejleszteni fogjuk,
folyamatosan fejleszteni fogjuk,
14:03
and we admit that the horizon
of cognition very likely far exceeds
of cognition very likely far exceeds
282
831280
4456
és hogy a megismerés horizontja
messze meghaladja
messze meghaladja
14:07
what we currently know,
283
835760
1200
jelenlegi tudásunkat,
14:10
then we have to admit
284
838120
1216
akkor be kell majd látnunk,
14:11
that we are in the process
of building some sort of god.
of building some sort of god.
285
839360
2640
hogy valamiféle isten
megalkotása felé haladunk.
megalkotása felé haladunk.
14:15
Now would be a good time
286
843400
1576
Most van itt a pillanat,
14:17
to make sure it's a god we can live with.
287
845000
1953
hogy olyan istent alkossunk,
amellyel együtt is tudunk élni.
amellyel együtt is tudunk élni.
14:20
Thank you very much.
288
848120
1536
Nagyon köszönöm.
14:21
(Applause)
289
849680
5093
(Taps)
ABOUT THE SPEAKER
Sam Harris - Neuroscientist, philosopherSam Harris's work focuses on how our growing understanding of ourselves and the world is changing our sense of how we should live.
Why you should listen
Sam Harris is the author of five New York Times bestsellers. His books include The End of Faith, Letter to a Christian Nation, The Moral Landscape, Free Will, Lying, Waking Up and Islam and the Future of Tolerance (with Maajid Nawaz). The End of Faith won the 2005 PEN Award for Nonfiction. Harris's writing and public lectures cover a wide range of topics -- neuroscience, moral philosophy, religion, spirituality, violence, human reasoning -- but generally focus on how a growing understanding of ourselves and the world is changing our sense of how we should live.
Harris's work has been published in more than 20 languages and has been discussed in the New York Times, Time, Scientific American, Nature, Newsweek, Rolling Stone and many other journals. He has written for the New York Times, the Los Angeles Times, The Economist, The Times (London), the Boston Globe, The Atlantic, The Annals of Neurology and elsewhere. Harris also regularly hosts a popular podcast.
Harris received a degree in philosophy from Stanford University and a Ph.D. in neuroscience from UCLA.
Sam Harris | Speaker | TED.com