TEDSummit
Sam Harris: Can we build AI without losing control over it?
Sam Harris: Podem desenvolupar una IA sense perdre'n el control?
Filmed:
Readability: 4.1
5,024,015 views
Us fa por la IA superintel·ligent? "Us n'hauria de fer" és el que diu el neurocientífic i filòsof Sam Harris, i no només de forma teòrica. Estem en camí de construir màquines suprahumanes, diu en Harris, però en canvi encara no hem pensat en els problemes associats a crear quelcom que podria tractar-nos de la mateixa manera que nosaltres tractem a les formigues.
Sam Harris - Neuroscientist, philosopher
Sam Harris's work focuses on how our growing understanding of ourselves and the world is changing our sense of how we should live. Full bio
Sam Harris's work focuses on how our growing understanding of ourselves and the world is changing our sense of how we should live. Full bio
Double-click the English transcript below to play the video.
00:13
I'm going to talk
about a failure of intuition
about a failure of intuition
0
1000
2216
Tot seguit parlaré
sobre una manca d'intuïció
sobre una manca d'intuïció
00:15
that many of us suffer from.
1
3240
1600
que molts de nosaltres patim.
00:17
It's really a failure
to detect a certain kind of danger.
to detect a certain kind of danger.
2
5480
3040
És una dificultat per detectar
un tipus de perill específic.
un tipus de perill específic.
00:21
I'm going to describe a scenario
3
9360
1736
Imagineu-vos el següent escenari,
00:23
that I think is both terrifying
4
11120
3256
que jo crec que és esgarrifós
00:26
and likely to occur,
5
14400
1760
i alhora ben probable.
00:28
and that's not a good combination,
6
16840
1656
Això no és pas una bona combinació
00:30
as it turns out.
7
18520
1536
pel que sembla.
00:32
And yet rather than be scared,
most of you will feel
most of you will feel
8
20080
2456
I enlloc d'espantar-vos,
molts creureu
molts creureu
00:34
that what I'm talking about
is kind of cool.
is kind of cool.
9
22560
2080
que allò del que parlo
és divertit.
és divertit.
00:37
I'm going to describe
how the gains we make
how the gains we make
10
25200
2976
M'agradaria explicar
que els avenços que fem
que els avenços que fem
00:40
in artificial intelligence
11
28200
1776
en intel·ligència artificial
00:42
could ultimately destroy us.
12
30000
1776
poden acabar destruint-nos.
00:43
And in fact, I think it's very difficult
to see how they won't destroy us
to see how they won't destroy us
13
31800
3456
I de fet, crec que és ben difícil
no veure com no ens poden destruir
no veure com no ens poden destruir
00:47
or inspire us to destroy ourselves.
14
35280
1680
o fer que ens autodestruïm.
00:49
And yet if you're anything like me,
15
37400
1856
Tot i així, si penseu com jo,
00:51
you'll find that it's fun
to think about these things.
to think about these things.
16
39280
2656
veureu que és distret
pensar en aquestes coses.
pensar en aquestes coses.
00:53
And that response is part of the problem.
17
41960
3376
I aquesta és la resposta
que és part del problema.
que és part del problema.
00:57
OK? That response should worry you.
18
45360
1720
És la que hauria d'amoïnar-vos.
00:59
And if I were to convince you in this talk
19
47920
2656
I si us hagués de convèncer
amb aquesta xerrada
amb aquesta xerrada
01:02
that we were likely
to suffer a global famine,
to suffer a global famine,
20
50600
3416
de que és ben possible
que arribem a patir una fam mundial,
que arribem a patir una fam mundial,
01:06
either because of climate change
or some other catastrophe,
or some other catastrophe,
21
54040
3056
ja sigui pel canvi climàtic
o per qualsevol altra catàstrofe,
o per qualsevol altra catàstrofe,
01:09
and that your grandchildren,
or their grandchildren,
or their grandchildren,
22
57120
3416
i que els vostres néts,
o els seus néts,
o els seus néts,
01:12
are very likely to live like this,
23
60560
1800
probablement viuran així,
01:15
you wouldn't think,
24
63200
1200
no pensaríeu:
01:17
"Interesting.
25
65440
1336
"Interessant.
01:18
I like this TED Talk."
26
66800
1200
M'agrada aquesta xerrada TED."
01:21
Famine isn't fun.
27
69200
1520
La fam no és divertida.
01:23
Death by science fiction,
on the other hand, is fun,
on the other hand, is fun,
28
71800
3376
La mort en la ciència ficció,
en canvi, sí que ho és,
en canvi, sí que ho és,
01:27
and one of the things that worries me most
about the development of AI at this point
about the development of AI at this point
29
75200
3976
i el que més em preocupa
sobre el progrés de la IA ara mateix
sobre el progrés de la IA ara mateix
01:31
is that we seem unable to marshal
an appropriate emotional response
an appropriate emotional response
30
79200
4096
és que no sembla que siguem capaços
de respondre com cal a nivell emocional
de respondre com cal a nivell emocional
01:35
to the dangers that lie ahead.
31
83320
1816
als perills que ens esperen.
01:37
I am unable to marshal this response,
and I'm giving this talk.
and I'm giving this talk.
32
85160
3200
No sóc capaç de respondre-hi
i ara em trobo donant aquesta xerrada.
i ara em trobo donant aquesta xerrada.
01:42
It's as though we stand before two doors.
33
90120
2696
És com si ens trobéssim
davant dues portes.
davant dues portes.
01:44
Behind door number one,
34
92840
1256
Rera la porta número u,
01:46
we stop making progress
in building intelligent machines.
in building intelligent machines.
35
94120
3296
deixem de progressar
i de construir màquines intel·ligents.
i de construir màquines intel·ligents.
01:49
Our computer hardware and software
just stops getting better for some reason.
just stops getting better for some reason.
36
97440
4016
El nostre maquinari i programari
deixa de millorar per alguna raó.
deixa de millorar per alguna raó.
01:53
Now take a moment
to consider why this might happen.
to consider why this might happen.
37
101480
3000
Penseu durant uns instants
per què podria passar això.
per què podria passar això.
01:57
I mean, given how valuable
intelligence and automation are,
intelligence and automation are,
38
105080
3656
Vull dir, ja que la intel·ligència
i la automatització són tan valuoses,
i la automatització són tan valuoses,
02:00
we will continue to improve our technology
if we are at all able to.
if we are at all able to.
39
108760
3520
seguirem millorant la tecnologia
sempre que siguem sent capaços.
sempre que siguem sent capaços.
02:05
What could stop us from doing this?
40
113200
1667
Què podria impedir-nos-ho?
02:07
A full-scale nuclear war?
41
115800
1800
Potser una guerra nuclear mundial?
02:11
A global pandemic?
42
119000
1560
O una gran epidèmia?
02:14
An asteroid impact?
43
122320
1320
L'impacte d'un asteroide?
02:17
Justin Bieber becoming
president of the United States?
president of the United States?
44
125640
2576
Justin Bieber com
president dels Estats Units?
president dels Estats Units?
02:20
(Laughter)
45
128240
2280
(Riures)
02:24
The point is, something would have to
destroy civilization as we know it.
destroy civilization as we know it.
46
132760
3920
Alguna cosa hauria de destruir
la civilització tal i com la coneixem.
la civilització tal i com la coneixem.
02:29
You have to imagine
how bad it would have to be
how bad it would have to be
47
137360
4296
Imagineu-vos com de greu hauria de ser
02:33
to prevent us from making
improvements in our technology
improvements in our technology
48
141680
3336
per impedir-nos seguir
millorant la tecnologia
millorant la tecnologia
02:37
permanently,
49
145040
1216
de forma permanent,
02:38
generation after generation.
50
146280
2016
generació rera generació.
02:40
Almost by definition,
this is the worst thing
this is the worst thing
51
148320
2136
Quasi per definició,
es tracta del pitjor
es tracta del pitjor
02:42
that's ever happened in human history.
52
150480
2016
que podria arribar a patir la humanitat.
02:44
So the only alternative,
53
152520
1296
Però l'única alternativa,
02:45
and this is what lies
behind door number two,
behind door number two,
54
153840
2336
que es troba darrera la porta número dos,
02:48
is that we continue
to improve our intelligent machines
to improve our intelligent machines
55
156200
3136
és seguir millorant
la intel·ligència de les màquines
la intel·ligència de les màquines
02:51
year after year after year.
56
159360
1600
any rere any.
02:53
At a certain point, we will build
machines that are smarter than we are,
machines that are smarter than we are,
57
161720
3640
En algun moment, construirem màquines
més intel·ligents que nosaltres,
més intel·ligents que nosaltres,
02:58
and once we have machines
that are smarter than we are,
that are smarter than we are,
58
166080
2616
i un cop les màquines ens superin,
03:00
they will begin to improve themselves.
59
168720
1976
es milloraran a elles mateixes.
03:02
And then we risk what
the mathematician IJ Good called
the mathematician IJ Good called
60
170720
2736
I el que el matemàtic
IJ Good anomenava com
IJ Good anomenava com
03:05
an "intelligence explosion,"
61
173480
1776
"l'explosió de la intel·ligència",
03:07
that the process could get away from us.
62
175280
2000
pot succeir fent que les màquines
ens superin amb escreix.
ens superin amb escreix.
03:10
Now, this is often caricatured,
as I have here,
as I have here,
63
178120
2816
Aquest fet sovint es representa
com jo ho he fet aquí,
com jo ho he fet aquí,
03:12
as a fear that armies of malicious robots
64
180960
3216
imaginant que exèrcits de robots malèvols
03:16
will attack us.
65
184200
1256
ens ataquen.
03:17
But that isn't the most likely scenario.
66
185480
2696
Però aquest no és l'escenari més probable.
03:20
It's not that our machines
will become spontaneously malevolent.
will become spontaneously malevolent.
67
188200
4856
No crec que les màquines
de cop i volta es tornin malèfiques.
de cop i volta es tornin malèfiques.
03:25
The concern is really
that we will build machines
that we will build machines
68
193080
2616
Em preocupa més que arribem
a construir màquines
a construir màquines
03:27
that are so much
more competent than we are
more competent than we are
69
195720
2056
que són molt més
competents que nosaltres
competents que nosaltres
03:29
that the slightest divergence
between their goals and our own
between their goals and our own
70
197800
3776
i que la més subtil de les divergències
entre els seus objectius i els nostres
entre els seus objectius i els nostres
03:33
could destroy us.
71
201600
1200
puguin arribar a destruir-nos.
03:35
Just think about how we relate to ants.
72
203960
2080
Penseu només en com
tractem a les formigues.
tractem a les formigues.
03:38
We don't hate them.
73
206600
1656
No les odiem pas.
03:40
We don't go out of our way to harm them.
74
208280
2056
No sortim del camí per fer-les-hi mal.
03:42
In fact, sometimes
we take pains not to harm them.
we take pains not to harm them.
75
210360
2376
Fins i tot patim mals de cap
per no esclafar-les
per no esclafar-les
03:44
We step over them on the sidewalk.
76
212760
2016
i les saltem quan caminem per la vorera.
03:46
But whenever their presence
77
214800
2136
Però quan la seva presència
03:48
seriously conflicts with one of our goals,
78
216960
2496
entra en conflicte
amb els nostres objectius,
amb els nostres objectius,
03:51
let's say when constructing
a building like this one,
a building like this one,
79
219480
2477
per exemple si volem construir un edifici,
03:53
we annihilate them without a qualm.
80
221981
1960
les exterminem sense cap prejudici.
03:56
The concern is that we will
one day build machines
one day build machines
81
224480
2936
El que em preocupa és que un dia
construirem màquines
construirem màquines
03:59
that, whether they're conscious or not,
82
227440
2736
que tant si són conscients
com si no ho són,
com si no ho són,
04:02
could treat us with similar disregard.
83
230200
2000
podrien arribar a menysprear-nos així.
04:05
Now, I suspect this seems
far-fetched to many of you.
far-fetched to many of you.
84
233760
2760
Crec que això queda molt lluny
per molts de vosaltres.
per molts de vosaltres.
04:09
I bet there are those of you who doubt
that superintelligent AI is possible,
that superintelligent AI is possible,
85
237360
6336
Inclús crec que molts de vosaltres dubteu
que la superintel·ligència sigui possible,
que la superintel·ligència sigui possible,
04:15
much less inevitable.
86
243720
1656
i menys encara inevitable.
04:17
But then you must find something wrong
with one of the following assumptions.
with one of the following assumptions.
87
245400
3620
Però en aquest cas heu de trobar quelcom
erroni en una d'aquestes suposicions:
erroni en una d'aquestes suposicions:
04:21
And there are only three of them.
88
249044
1572
I només n'hi ha tres:
04:23
Intelligence is a matter of information
processing in physical systems.
processing in physical systems.
89
251800
4719
La intel·ligència consisteix en processar
informació en sistemes físics.
informació en sistemes físics.
04:29
Actually, this is a little bit more
than an assumption.
than an assumption.
90
257320
2615
De fet, això és quelcom
més que una suposició.
més que una suposició.
04:31
We have already built
narrow intelligence into our machines,
narrow intelligence into our machines,
91
259959
3457
Ja hem incorporat petites intel·ligències
en les nostres màquines,
en les nostres màquines,
04:35
and many of these machines perform
92
263440
2016
i moltes d'elles tenen
un rendiment superior
un rendiment superior
04:37
at a level of superhuman
intelligence already.
intelligence already.
93
265480
2640
a un nivell d'intel·ligència suprahumana.
04:40
And we know that mere matter
94
268840
2576
I ja sabem que la mera matèria
04:43
can give rise to what is called
"general intelligence,"
"general intelligence,"
95
271440
2616
pot donar lloc
a la "intel·ligència general",
a la "intel·ligència general",
04:46
an ability to think flexibly
across multiple domains,
across multiple domains,
96
274080
3656
és a dir l'habilitat de pensar
amb flexibilitat en diversos camps.
amb flexibilitat en diversos camps.
04:49
because our brains have managed it. Right?
97
277760
3136
Al cap i a la fi els nostres cervells
ho han aconseguit, cert?
ho han aconseguit, cert?
04:52
I mean, there's just atoms in here,
98
280920
3936
És a dir, només hi ha àtoms aquí,
04:56
and as long as we continue
to build systems of atoms
to build systems of atoms
99
284880
4496
i sempre i quan seguim construint
sistemes a base d'àtoms
sistemes a base d'àtoms
05:01
that display more and more
intelligent behavior,
intelligent behavior,
100
289400
2696
que es comporten de forma
cada cop més intel·ligent,
cada cop més intel·ligent,
05:04
we will eventually,
unless we are interrupted,
unless we are interrupted,
101
292120
2536
en algun moment, si res no ho impedeix,
05:06
we will eventually
build general intelligence
build general intelligence
102
294680
3376
en algun moment construirem
intel·ligència artificial
intel·ligència artificial
05:10
into our machines.
103
298080
1296
en les nostres màquines.
05:11
It's crucial to realize
that the rate of progress doesn't matter,
that the rate of progress doesn't matter,
104
299400
3656
És de vital importància adonar-se'n
que el ritme de progrés no importa,
que el ritme de progrés no importa,
05:15
because any progress
is enough to get us into the end zone.
is enough to get us into the end zone.
105
303080
3176
perquè qualsevol progrés ens acabarà
portant a l'altre extrem.
portant a l'altre extrem.
05:18
We don't need Moore's law to continue.
We don't need exponential progress.
We don't need exponential progress.
106
306280
3776
No ens cal la llei de Moore per continuar.
No ens cal un progrés exponencial.
No ens cal un progrés exponencial.
05:22
We just need to keep going.
107
310080
1600
Només ens cal seguir avançant.
05:25
The second assumption
is that we will keep going.
is that we will keep going.
108
313480
2920
La segona suposició
és que seguirem avançant.
és que seguirem avançant.
05:29
We will continue to improve
our intelligent machines.
our intelligent machines.
109
317000
2760
Seguirem millorant
les màquines intel·ligents.
les màquines intel·ligents.
05:33
And given the value of intelligence --
110
321000
4376
I donat el valor que té la intel·ligència,
05:37
I mean, intelligence is either
the source of everything we value
the source of everything we value
111
325400
3536
és a dir, ja que la intel·ligència
és la font de tot el que valorem
és la font de tot el que valorem
05:40
or we need it to safeguard
everything we value.
everything we value.
112
328960
2776
i la necessitem per salvaguardar
tot el que ens importa.
tot el que ens importa.
05:43
It is our most valuable resource.
113
331760
2256
És el recurs més valuós de que disposem.
05:46
So we want to do this.
114
334040
1536
Així doncs, volem que avanci.
05:47
We have problems
that we desperately need to solve.
that we desperately need to solve.
115
335600
3336
Tenim problemes que
hem de solucionar desesperadament.
hem de solucionar desesperadament.
05:50
We want to cure diseases
like Alzheimer's and cancer.
like Alzheimer's and cancer.
116
338960
3200
Volem guarir malalties
com l'Alzheimer i el càncer.
com l'Alzheimer i el càncer.
05:54
We want to understand economic systems.
We want to improve our climate science.
We want to improve our climate science.
117
342960
3936
Volem entendre sistemes econòmics.
Volem millorar la ciència del clima.
Volem millorar la ciència del clima.
05:58
So we will do this, if we can.
118
346920
2256
Així doncs ho farem si podem.
06:01
The train is already out of the station,
and there's no brake to pull.
and there's no brake to pull.
119
349200
3286
El tren ja ha sortit de l'estació
i no hi ha manera de que pari.
i no hi ha manera de que pari.
06:05
Finally, we don't stand
on a peak of intelligence,
on a peak of intelligence,
120
353880
5456
I per últim, no ens trobem
al cim de la nostra intel·ligència,
al cim de la nostra intel·ligència,
06:11
or anywhere near it, likely.
121
359360
1800
o en qualsevol punt que s'hi acosti.
06:13
And this really is the crucial insight.
122
361640
1896
I això és la clau de la qüestió.
06:15
This is what makes
our situation so precarious,
our situation so precarious,
123
363560
2416
És el que fa que la nostra
situació sigui tan precària,
situació sigui tan precària,
06:18
and this is what makes our intuitions
about risk so unreliable.
about risk so unreliable.
124
366000
4040
i és el que fa que les nostres intuïcions
sobre aquest risc siguin tan poc fiables.
sobre aquest risc siguin tan poc fiables.
06:23
Now, just consider the smartest person
who has ever lived.
who has ever lived.
125
371120
2720
Penseu en la persona
més intel·ligent que mai ha viscut.
més intel·ligent que mai ha viscut.
06:26
On almost everyone's shortlist here
is John von Neumann.
is John von Neumann.
126
374640
3416
Molts de vosaltres haureu considerat
a en John von Neumann.
a en John von Neumann.
06:30
I mean, the impression that von Neumann
made on the people around him,
made on the people around him,
127
378080
3336
La impressió que va causar
en von Neumann al seu voltant,
en von Neumann al seu voltant,
06:33
and this included the greatest
mathematicians and physicists of his time,
mathematicians and physicists of his time,
128
381440
4056
i això inclou als més grans matemàtics
i físics de la seva època,
i físics de la seva època,
06:37
is fairly well-documented.
129
385520
1936
està ben documentada.
06:39
If only half the stories
about him are half true,
about him are half true,
130
387480
3776
Si només la meitat de
les històries sobre ell són certes,
les històries sobre ell són certes,
06:43
there's no question
131
391280
1216
no hi ha cap dubte
06:44
he's one of the smartest people
who has ever lived.
who has ever lived.
132
392520
2456
que és una de les persones més brillants.
06:47
So consider the spectrum of intelligence.
133
395000
2520
Considerem l'espectre d'intel·ligència.
06:50
Here we have John von Neumann.
134
398320
1429
Tenim en John von Neumann.
06:53
And then we have you and me.
135
401560
1334
I aquí estem nosaltres.
06:56
And then we have a chicken.
136
404120
1296
I aquí un pollastre.
06:57
(Laughter)
137
405440
1936
(Riures)
06:59
Sorry, a chicken.
138
407400
1216
Perdó, un pollastre.
07:00
(Laughter)
139
408640
1256
(Riures)
07:01
There's no reason for me to make this talk
more depressing than it needs to be.
more depressing than it needs to be.
140
409920
3736
No hi ha cap necessitat de fer aquesta
xerrada més depriment del que pot ser.
xerrada més depriment del que pot ser.
07:05
(Laughter)
141
413680
1600
(Riures)
07:08
It seems overwhelmingly likely, however,
that the spectrum of intelligence
that the spectrum of intelligence
142
416339
3477
Sembla que està ben clar
que l'espectre de la intel·ligència
que l'espectre de la intel·ligència
07:11
extends much further
than we currently conceive,
than we currently conceive,
143
419840
3120
s'estén molt més enllà
del que considerem actualment,
del que considerem actualment,
07:15
and if we build machines
that are more intelligent than we are,
that are more intelligent than we are,
144
423880
3216
i si construïm màquines que
són més intel·ligents que nosaltres,
són més intel·ligents que nosaltres,
07:19
they will very likely
explore this spectrum
explore this spectrum
145
427120
2296
molt probablement exploraran
aquest espectre
aquest espectre
07:21
in ways that we can't imagine,
146
429440
1856
de maneres que no podem imaginar,
07:23
and exceed us in ways
that we can't imagine.
that we can't imagine.
147
431320
2520
i ens superaran de maneres
que tampoc podem imaginar.
que tampoc podem imaginar.
07:27
And it's important to recognize that
this is true by virtue of speed alone.
this is true by virtue of speed alone.
148
435000
4336
I hem de reconèixer que això és així
només en base a la velocitat.
només en base a la velocitat.
07:31
Right? So imagine if we just built
a superintelligent AI
a superintelligent AI
149
439360
5056
D'acord? Doncs imagineu que
hem construit una IA superintel·ligent
hem construit una IA superintel·ligent
07:36
that was no smarter
than your average team of researchers
than your average team of researchers
150
444440
3456
que no és més brillant que
la majoria d'equips de recerca
la majoria d'equips de recerca
07:39
at Stanford or MIT.
151
447920
2296
de Stanford o del MIT.
07:42
Well, electronic circuits
function about a million times faster
function about a million times faster
152
450240
2976
Els circuits electrònics són
un milió de vegades més ràpids
un milió de vegades més ràpids
07:45
than biochemical ones,
153
453240
1256
que les ones bioquímiques,
07:46
so this machine should think
about a million times faster
about a million times faster
154
454520
3136
així, aquesta màquina pensaria
un milió de cops més depressa
un milió de cops més depressa
07:49
than the minds that built it.
155
457680
1816
que les ments que l'han dissenyat.
07:51
So you set it running for a week,
156
459520
1656
Si la deixem encesa una setmana
07:53
and it will perform 20,000 years
of human-level intellectual work,
of human-level intellectual work,
157
461200
4560
haurà complert 20.000 anys de
feina intel·lectual a nivell humà,
feina intel·lectual a nivell humà,
07:58
week after week after week.
158
466400
1960
setmana rere setmana rere setmana.
08:01
How could we even understand,
much less constrain,
much less constrain,
159
469640
3096
Com podem arribar a comprendre,
i menys encara limitar,
i menys encara limitar,
08:04
a mind making this sort of progress?
160
472760
2280
una ment que progressa així?
08:08
The other thing that's worrying, frankly,
161
476840
2136
L'altra cosa que em preocupa,
sent honestos,
sent honestos,
08:11
is that, imagine the best case scenario.
162
479000
4976
es que... imagineu-vos
el millor escenari possible.
el millor escenari possible.
08:16
So imagine we hit upon a design
of superintelligent AI
of superintelligent AI
163
484000
4176
Imagineu que tombem amb un disseny
de IA superintel·ligent
de IA superintel·ligent
08:20
that has no safety concerns.
164
488200
1376
sense problemes de seguretat.
08:21
We have the perfect design
the first time around.
the first time around.
165
489600
3256
És el primer cop que
aconseguim el disseny perfecte.
aconseguim el disseny perfecte.
08:24
It's as though we've been handed an oracle
166
492880
2216
És com si ens hagués arribat un oracle
08:27
that behaves exactly as intended.
167
495120
2016
que es comporta tal i com preteníem.
08:29
Well, this machine would be
the perfect labor-saving device.
the perfect labor-saving device.
168
497160
3720
Doncs bé, aquesta màquina seria
l'eina perfecta per reduir-nos feina.
l'eina perfecta per reduir-nos feina.
Podria dissenyar màquines
que podrien construir màquines
que podrien construir màquines
08:33
It can design the machine
that can build the machine
that can build the machine
169
501680
2429
08:36
that can do any physical work,
170
504133
1763
per fer qualsevol feina física,
08:37
powered by sunlight,
171
505920
1456
alimentades per energia solar,
08:39
more or less for the cost
of raw materials.
of raw materials.
172
507400
2696
i més o menys pel que
costa la matèria prima.
costa la matèria prima.
08:42
So we're talking about
the end of human drudgery.
the end of human drudgery.
173
510120
3256
Estem parlant de la fi
de les feines feixugues.
de les feines feixugues.
08:45
We're also talking about the end
of most intellectual work.
of most intellectual work.
174
513400
2800
També seria la fi de la majoria
de feines intel·lectuals.
de feines intel·lectuals.
08:49
So what would apes like ourselves
do in this circumstance?
do in this circumstance?
175
517200
3056
Què farien uns simis com nosaltres
en aquestes circumstàncies?
en aquestes circumstàncies?
08:52
Well, we'd be free to play Frisbee
and give each other massages.
and give each other massages.
176
520280
4080
Tindríem temps per jugar al disc volador
i de fer-nos massatges els uns als altres.
i de fer-nos massatges els uns als altres.
08:57
Add some LSD and some
questionable wardrobe choices,
questionable wardrobe choices,
177
525840
2856
Afegiu una mica de LSD
i un vestuari de gust qüestionable
i un vestuari de gust qüestionable
09:00
and the whole world
could be like Burning Man.
could be like Burning Man.
178
528720
2176
i el món sencer podria
ser com el Burning Man.
ser com el Burning Man.
09:02
(Laughter)
179
530920
1640
(Riures)
09:06
Now, that might sound pretty good,
180
534320
2000
Tot això pot sonar força atractiu,
09:09
but ask yourself what would happen
181
537280
2376
però penseu que passaria
09:11
under our current economic
and political order?
and political order?
182
539680
2736
si succeís sota
l'ordre econòmic i polític actual?
l'ordre econòmic i polític actual?
09:14
It seems likely that we would witness
183
542440
2416
És ben probable que experimentéssim
09:16
a level of wealth inequality
and unemployment
and unemployment
184
544880
4136
una desigualtat econòmica
i un nivell d'atur
i un nivell d'atur
09:21
that we have never seen before.
185
549040
1496
que mai havíem experimentat.
09:22
Absent a willingness
to immediately put this new wealth
to immediately put this new wealth
186
550560
2616
I si no hi ha la voluntat
de posar tota aquesta riquesa
de posar tota aquesta riquesa
09:25
to the service of all humanity,
187
553200
1480
al servei de la humanitat,
09:27
a few trillionaires could grace
the covers of our business magazines
the covers of our business magazines
188
555640
3616
uns quants bilionaris arribarien
a les portades de les revistes
a les portades de les revistes
09:31
while the rest of the world
would be free to starve.
would be free to starve.
189
559280
2440
mentre la resta
ens moriríem de gana.
ens moriríem de gana.
09:34
And what would the Russians
or the Chinese do
or the Chinese do
190
562320
2296
I què farien els russos o els xinesos
09:36
if they heard that some company
in Silicon Valley
in Silicon Valley
191
564640
2616
si sapiguessin que
una empresa de Silicon Valley
una empresa de Silicon Valley
09:39
was about to deploy a superintelligent AI?
192
567280
2736
estigués a punt d'aconseguir
una IA superintel·ligent?
una IA superintel·ligent?
09:42
This machine would be capable
of waging war,
of waging war,
193
570040
2856
Aquesta màquina estaria
preparada per entrar en guerra,
preparada per entrar en guerra,
09:44
whether terrestrial or cyber,
194
572920
2216
ja sigui per terra o cibernètica,
09:47
with unprecedented power.
195
575160
1680
amb un poder sense precedents.
09:50
This is a winner-take-all scenario.
196
578120
1856
I aquí el guanyador s'ho emporta tot.
09:52
To be six months ahead
of the competition here
of the competition here
197
580000
3136
Aquí, trobar-se sis mesos
al capdavant de la competició
al capdavant de la competició
09:55
is to be 500,000 years ahead,
198
583160
2776
vol dir trobar-se
500.000 anys al davant
500.000 anys al davant
09:57
at a minimum.
199
585960
1496
com a mínim.
09:59
So it seems that even mere rumors
of this kind of breakthrough
of this kind of breakthrough
200
587480
4736
Només que hi hagi un rumor
sobre algun descobriment d'aquest tipus
sobre algun descobriment d'aquest tipus
10:04
could cause our species to go berserk.
201
592240
2376
pot fer que la nostra espècie embogeixi.
10:06
Now, one of the most frightening things,
202
594640
2896
Ara bé, una de les coses més paoroses,
10:09
in my view, at this moment,
203
597560
2776
segons el meu punt de vista, ara per ara,
10:12
are the kinds of things
that AI researchers say
that AI researchers say
204
600360
4296
són el tipus de coses
que els investigadors en IA diuen
que els investigadors en IA diuen
10:16
when they want to be reassuring.
205
604680
1560
quan volen tranquil·litzar-nos.
10:19
And the most common reason
we're told not to worry is time.
we're told not to worry is time.
206
607000
3456
I la principal raó que ens donen
per no preocupar-no és el temps.
per no preocupar-no és el temps.
10:22
This is all a long way off,
don't you know.
don't you know.
207
610480
2056
"Això encara està lluny,
no ho sabíeu?"
no ho sabíeu?"
10:24
This is probably 50 or 100 years away.
208
612560
2440
"Probablement encara queden
uns 50 o 100 anys."
uns 50 o 100 anys."
10:27
One researcher has said,
209
615720
1256
Un investigador va dir:
10:29
"Worrying about AI safety
210
617000
1576
"Preocuparse per una IA insegura
10:30
is like worrying
about overpopulation on Mars."
about overpopulation on Mars."
211
618600
2280
és com preocupar-se per la
sobre-població a Mart."
sobre-població a Mart."
10:34
This is the Silicon Valley version
212
622116
1620
Això és la versió
de Silicon Valley
de Silicon Valley
10:35
of "don't worry your
pretty little head about it."
pretty little head about it."
213
623760
2376
de "no et preocupis, nena!"
10:38
(Laughter)
214
626160
1336
(Riures)
10:39
No one seems to notice
215
627520
1896
Ningú sembla adonar-se'n
10:41
that referencing the time horizon
216
629440
2616
que basar-se en un horitzó cronològic
10:44
is a total non sequitur.
217
632080
2576
és un 'non sequitur' absolut.
10:46
If intelligence is just a matter
of information processing,
of information processing,
218
634680
3256
Si la intel·ligència consisteix
simplement en processar informació,
simplement en processar informació,
10:49
and we continue to improve our machines,
219
637960
2656
i seguim perfeccionant les màquines,
10:52
we will produce
some form of superintelligence.
some form of superintelligence.
220
640640
2880
acabarem per generar alguna
forma de superintel·ligència.
forma de superintel·ligència.
10:56
And we have no idea
how long it will take us
how long it will take us
221
644320
3656
I no tenim ni idea de quant
de temps ens portarà
de temps ens portarà
11:00
to create the conditions
to do that safely.
to do that safely.
222
648000
2400
crear les condicions
per fer-ho de forma segura.
per fer-ho de forma segura.
11:04
Let me say that again.
223
652200
1296
Deixeu-me que ho repeteixi.
11:05
We have no idea how long it will take us
224
653520
3816
No tenim ni idea de quant
de temps ens portarà
de temps ens portarà
11:09
to create the conditions
to do that safely.
to do that safely.
225
657360
2240
crear les condicions per
fer-ho de forma segura.
fer-ho de forma segura.
11:12
And if you haven't noticed,
50 years is not what it used to be.
50 years is not what it used to be.
226
660920
3456
I per si no us n'heu adonat,
50 anys no són el que eren abans.
50 anys no són el que eren abans.
11:16
This is 50 years in months.
227
664400
2456
Això són 50 anys en mesos.
11:18
This is how long we've had the iPhone.
228
666880
1840
Això són els mesos
que hem tingut l'iPhone.
que hem tingut l'iPhone.
11:21
This is how long "The Simpsons"
has been on television.
has been on television.
229
669440
2600
Això són els mesos que
"Els Simpsons" han estat en pantalla.
"Els Simpsons" han estat en pantalla.
11:24
Fifty years is not that much time
230
672680
2376
Cinquanta anys no és gaire temps
11:27
to meet one of the greatest challenges
our species will ever face.
our species will ever face.
231
675080
3160
per assolir un dels grans reptes
de la nostra espècie.
de la nostra espècie.
11:31
Once again, we seem to be failing
to have an appropriate emotional response
to have an appropriate emotional response
232
679640
4016
Torno a dir, sembla que no estem
reaccionant com cal a nivell emocional
reaccionant com cal a nivell emocional
11:35
to what we have every reason
to believe is coming.
to believe is coming.
233
683680
2696
envers allò que cada cop n'estem
més segurs que arribarà.
més segurs que arribarà.
11:38
The computer scientist Stuart Russell
has a nice analogy here.
has a nice analogy here.
234
686400
3976
El científic informàtic Stuart Russell
fa una bonica analogia.
fa una bonica analogia.
11:42
He said, imagine that we received
a message from an alien civilization,
a message from an alien civilization,
235
690400
4896
Va dir que imaginéssim que havíem rebut
un missatge d'una civilització alienígena,
un missatge d'una civilització alienígena,
11:47
which read:
236
695320
1696
que deia:
11:49
"People of Earth,
237
697040
1536
"Gent de la Terra,
11:50
we will arrive on your planet in 50 years.
238
698600
2360
arribarem al vostre planeta
d'aquí 50 anys.
d'aquí 50 anys.
11:53
Get ready."
239
701800
1576
Prepareu-vos."
11:55
And now we're just counting down
the months until the mothership lands?
the months until the mothership lands?
240
703400
4256
I llavors comencem a comptar
els mesos que queden abans que arribin.
els mesos que queden abans que arribin.
11:59
We would feel a little
more urgency than we do.
more urgency than we do.
241
707680
3000
Segurament sentiríem
una mica més de pressió que ara.
una mica més de pressió que ara.
Una altra raó que donen
per no preocupar-nos
per no preocupar-nos
12:04
Another reason we're told not to worry
242
712680
1856
12:06
is that these machines
can't help but share our values
can't help but share our values
243
714560
3016
és que les màquines només podran
compartir els nostres valors
compartir els nostres valors
12:09
because they will be literally
extensions of ourselves.
extensions of ourselves.
244
717600
2616
perquè seran literalment
extensions de nosaltres.
extensions de nosaltres.
12:12
They'll be grafted onto our brains,
245
720240
1816
Seran uns empelts
en els nostres cervells,
en els nostres cervells,
12:14
and we'll essentially
become their limbic systems.
become their limbic systems.
246
722080
2360
i esdevindrem els seus sistemes límbics.
12:17
Now take a moment to consider
247
725120
1416
Considereu per un moment
12:18
that the safest
and only prudent path forward,
and only prudent path forward,
248
726560
3176
que la forma més segura
i més prudent de seguir avançant,
i més prudent de seguir avançant,
12:21
recommended,
249
729760
1336
la forma més recomanada,
12:23
is to implant this technology
directly into our brains.
directly into our brains.
250
731120
2800
és implantar-los en els nostres
cervells directament.
cervells directament.
12:26
Now, this may in fact be the safest
and only prudent path forward,
and only prudent path forward,
251
734600
3376
És possible que sigui l'única manera
segura i prudent de continuar,
segura i prudent de continuar,
12:30
but usually one's safety concerns
about a technology
about a technology
252
738000
3056
tot i que normalment si una tecnologia
ens preocupa una micona
ens preocupa una micona
12:33
have to be pretty much worked out
before you stick it inside your head.
before you stick it inside your head.
253
741080
3656
primer cal que estigui lliure d'errors
si després ens la volem enganxar al cap.
si després ens la volem enganxar al cap.
12:36
(Laughter)
254
744760
2016
(Riures)
12:38
The deeper problem is that
building superintelligent AI on its own
building superintelligent AI on its own
255
746800
5336
El problema de fons és que desenvolupar
una IA superintel·ligent per si mateixa
una IA superintel·ligent per si mateixa
12:44
seems likely to be easier
256
752160
1736
sembla ser més fàcil
12:45
than building superintelligent AI
257
753920
1856
que construir una IA superintel·ligent
12:47
and having the completed neuroscience
258
755800
1776
i tenir alhora la neurociència llesta
12:49
that allows us to seamlessly
integrate our minds with it.
integrate our minds with it.
259
757600
2680
per permetre'ns connectar-hi
la ment sense interrupcions.
la ment sense interrupcions.
12:52
And given that the companies
and governments doing this work
and governments doing this work
260
760800
3176
I donat que les empreses i els governs
que estan fent aquesta feina
que estan fent aquesta feina
12:56
are likely to perceive themselves
as being in a race against all others,
as being in a race against all others,
261
764000
3656
és probable que es considerin
en una cursa contra la resta,
en una cursa contra la resta,
12:59
given that to win this race
is to win the world,
is to win the world,
262
767680
3256
i donat que guanyar la cursa
és guanyar el món,
és guanyar el món,
13:02
provided you don't destroy it
in the next moment,
in the next moment,
263
770960
2456
sempre i quan no
se'l destrueixi tot seguit,
se'l destrueixi tot seguit,
13:05
then it seems likely
that whatever is easier to do
that whatever is easier to do
264
773440
2616
aleshores és probable que allò
que sembli més fàcil de fer
que sembli més fàcil de fer
13:08
will get done first.
265
776080
1200
sigui el que primer es faci.
13:10
Now, unfortunately,
I don't have a solution to this problem,
I don't have a solution to this problem,
266
778560
2856
Malauradament, no tinc cap
solució a aquest problema,
solució a aquest problema,
13:13
apart from recommending
that more of us think about it.
that more of us think about it.
267
781440
2616
apart de recomanar que
tots hauríem de pensar-hi més.
tots hauríem de pensar-hi més.
13:16
I think we need something
like a Manhattan Project
like a Manhattan Project
268
784080
2376
Crec que necessitem
una mena de projecte Manhattan
una mena de projecte Manhattan
13:18
on the topic of artificial intelligence.
269
786480
2016
però per la intel·ligència artificial.
13:20
Not to build it, because I think
we'll inevitably do that,
we'll inevitably do that,
270
788520
2736
No per desenvolupar-la,
ja que és inevitable,
ja que és inevitable,
13:23
but to understand
how to avoid an arms race
how to avoid an arms race
271
791280
3336
sinó per comprendre com podem
evitar una cursa armementística
evitar una cursa armementística
13:26
and to build it in a way
that is aligned with our interests.
that is aligned with our interests.
272
794640
3496
i per desenvolupar-la de manera
que vagi de la mà dels nostres interessos.
que vagi de la mà dels nostres interessos.
13:30
When you're talking
about superintelligent AI
about superintelligent AI
273
798160
2136
Quan parlem d'una IA superintel·ligent
13:32
that can make changes to itself,
274
800320
2256
que es pot canviar a si mateixa,
13:34
it seems that we only have one chance
to get the initial conditions right,
to get the initial conditions right,
275
802600
4616
sembla que només tenim una oportunitat
per crear les bones condicions inicials,
per crear les bones condicions inicials,
13:39
and even then we will need to absorb
276
807240
2056
però inclús així haurem d'absorbir
13:41
the economic and political
consequences of getting them right.
consequences of getting them right.
277
809320
3040
les conseqüències econòmiques i polítiques
d'haver-les establert correctament.
d'haver-les establert correctament.
13:45
But the moment we admit
278
813760
2056
Però en el moment que admetem
13:47
that information processing
is the source of intelligence,
is the source of intelligence,
279
815840
4000
que el processat d'informació
és l'origen de la intel·ligència,
és l'origen de la intel·ligència,
13:52
that some appropriate computational system
is what the basis of intelligence is,
is what the basis of intelligence is,
280
820720
4800
que un sistema de computació apropiat
és la base de tota intel·ligència,
és la base de tota intel·ligència,
13:58
and we admit that we will improve
these systems continuously,
these systems continuously,
281
826360
3760
i que seguirem millorant
aquests sistemes indefinidament,
aquests sistemes indefinidament,
14:03
and we admit that the horizon
of cognition very likely far exceeds
of cognition very likely far exceeds
282
831280
4456
i admetem que l'horitzó de la cognició
molt probablement excedeix
molt probablement excedeix
14:07
what we currently know,
283
835760
1200
el que sabem fins ara,
14:10
then we have to admit
284
838120
1216
aleshores podrem admetre
14:11
that we are in the process
of building some sort of god.
of building some sort of god.
285
839360
2640
que estem en un procés
de crear una mena de déu.
de crear una mena de déu.
14:15
Now would be a good time
286
843400
1576
Ara és el moment
14:17
to make sure it's a god we can live with.
287
845000
1953
d'assegurar-nos que és un déu
amb qui podem viure.
amb qui podem viure.
14:20
Thank you very much.
288
848120
1536
Moltes gràcies.
14:21
(Applause)
289
849680
5093
(Aplaudiments)
Traduït per Marcos Morales Pallarés
ABOUT THE SPEAKER
Sam Harris - Neuroscientist, philosopherSam Harris's work focuses on how our growing understanding of ourselves and the world is changing our sense of how we should live.
Why you should listen
Sam Harris is the author of five New York Times bestsellers. His books include The End of Faith, Letter to a Christian Nation, The Moral Landscape, Free Will, Lying, Waking Up and Islam and the Future of Tolerance (with Maajid Nawaz). The End of Faith won the 2005 PEN Award for Nonfiction. Harris's writing and public lectures cover a wide range of topics -- neuroscience, moral philosophy, religion, spirituality, violence, human reasoning -- but generally focus on how a growing understanding of ourselves and the world is changing our sense of how we should live.
Harris's work has been published in more than 20 languages and has been discussed in the New York Times, Time, Scientific American, Nature, Newsweek, Rolling Stone and many other journals. He has written for the New York Times, the Los Angeles Times, The Economist, The Times (London), the Boston Globe, The Atlantic, The Annals of Neurology and elsewhere. Harris also regularly hosts a popular podcast.
Harris received a degree in philosophy from Stanford University and a Ph.D. in neuroscience from UCLA.
Sam Harris | Speaker | TED.com