TED2017
Stuart Russell: 3 principles for creating safer AI
Stuart Russell: Cómo la IA puede hacernos mejores personas
Filmed:
Readability: 3.9
1,465,832 views
¿Cómo podemos aprovechar el poder de la inteligencia súper inteligente mientras también evitamos la catástrofe de la toma de control robótica? A medida que avanzamos hacia la creación de máquinas de todo conocimiento, el pionero de la inteligencia artificial Stuart Russell está trabajando en algo un poco diferente: los robots con incertidumbre. Escuche su visión de la IA compatible con humanos que puede resolver problemas usando el sentido común, el altruismo y otros valores humanos.
Stuart Russell - AI expert
Stuart Russell wrote the standard text on AI; now he thinks deeply on AI's future -- and the future of us humans, too. Full bio
Stuart Russell wrote the standard text on AI; now he thinks deeply on AI's future -- and the future of us humans, too. Full bio
Double-click the English transcript below to play the video.
00:12
This is Lee Sedol.
0
712
1552
Este es Lee Sedol.
00:14
Lee Sedol is one of the world's
greatest Go players,
greatest Go players,
1
2288
3997
Lee Sedol es uno de los mejores
jugadores de Go del mundo.
jugadores de Go del mundo.
Y está teniendo lo que mis amigos
de Silicon Valley llaman
de Silicon Valley llaman
00:18
and he's having what my friends
in Silicon Valley call
in Silicon Valley call
2
6309
2885
un momento "¡Bendito Dios!".
00:21
a "Holy Cow" moment --
3
9218
1510
(Risas)
00:22
(Laughter)
4
10752
1073
Un momento en el que nos damos cuenta
00:23
a moment where we realize
5
11849
2188
de que la IA está avanzando
mucho más rápido de lo que esperábamos.
mucho más rápido de lo que esperábamos.
00:26
that AI is actually progressing
a lot faster than we expected.
a lot faster than we expected.
6
14061
3296
Los humanos han perdido
en el tablero de Go.
en el tablero de Go.
00:30
So humans have lost on the Go board.
What about the real world?
What about the real world?
7
18154
3047
¿Y en el mundo real?
00:33
Well, the real world is much bigger,
8
21225
2100
Bueno, el mundo real es mucho
más grande y complicado
más grande y complicado
00:35
much more complicated than the Go board.
9
23349
2249
que el tablero de Go.
Es mucho menos visible.
00:37
It's a lot less visible,
10
25622
1819
Pero sigue siendo un problema de decisión.
00:39
but it's still a decision problem.
11
27465
2038
Y si pensamos en algunas
de las tecnologías que están por venir
de las tecnologías que están por venir
00:42
And if we think about some
of the technologies
of the technologies
12
30948
2321
00:45
that are coming down the pike ...
13
33293
1749
Noriko [Arai] mencionó
que las máquinas aún no saben leer,
que las máquinas aún no saben leer,
00:47
Noriko [Arai] mentioned that reading
is not yet happening in machines,
is not yet happening in machines,
14
35738
4335
al menos no comprendiendo,
00:52
at least with understanding.
15
40097
1500
00:53
But that will happen,
16
41621
1536
pero lo harán, y cuando eso suceda,
00:55
and when that happens,
17
43181
1771
00:56
very soon afterwards,
18
44976
1187
poco después las máquinas habrán leído
todo lo que la raza humana ha escrito.
todo lo que la raza humana ha escrito.
00:58
machines will have read everything
that the human race has ever written.
that the human race has ever written.
19
46187
4572
01:03
And that will enable machines,
20
51850
2030
Eso permitirá a las máquinas,
junto a su habilidad mirar más allá
de lo que pueden los humanos,
de lo que pueden los humanos,
01:05
along with the ability to look
further ahead than humans can,
further ahead than humans can,
21
53904
2920
como ya hemos visto en el Go,
01:08
as we've already seen in Go,
22
56848
1680
si también tienen acceso
a más información,
a más información,
01:10
if they also have access
to more information,
to more information,
23
58552
2164
serán capaces de tomar
mejores decisiones en el mundo real
mejores decisiones en el mundo real
01:12
they'll be able to make better decisions
in the real world than we can.
in the real world than we can.
24
60740
4268
que nosotros.
01:18
So is that a good thing?
25
66792
1606
¿Es eso bueno?
01:21
Well, I hope so.
26
69898
2232
Bueno, espero que sí.
01:26
Our entire civilization,
everything that we value,
everything that we value,
27
74694
3255
Toda nuestra civilización,
todo lo que valoramos,
todo lo que valoramos,
01:29
is based on our intelligence.
28
77973
2068
se basa en nuestra inteligencia.
01:32
And if we had access
to a lot more intelligence,
to a lot more intelligence,
29
80065
3694
Y si tuviéramos acceso
a mucha más inteligencia,
a mucha más inteligencia,
01:35
then there's really no limit
to what the human race can do.
to what the human race can do.
30
83783
3302
entonces no existirían límites
para lo que la raza humana pueda hacer.
para lo que la raza humana pueda hacer.
01:40
And I think this could be,
as some people have described it,
as some people have described it,
31
88665
3325
Y creo que este podría ser,
como han dicho algunos,
como han dicho algunos,
el mayor acontecimiento
de la historia de la humanidad.
de la historia de la humanidad.
01:44
the biggest event in human history.
32
92014
2016
01:48
So why are people saying things like this,
33
96665
2829
Entonces, ¿por qué la gente afirma
cosas como esta?
cosas como esta?
01:51
that AI might spell the end
of the human race?
of the human race?
34
99518
2876
Que la inteligencia artificial podría
significar el fin de la raza humana.
significar el fin de la raza humana.
01:55
Is this a new thing?
35
103438
1659
¿Es esto algo nuevo?
01:57
Is it just Elon Musk and Bill Gates
and Stephen Hawking?
and Stephen Hawking?
36
105121
4110
¿Se trata solo de Elon Musk
y Bill Gates y Stephen Hawking?
y Bill Gates y Stephen Hawking?
02:01
Actually, no. This idea
has been around for a while.
has been around for a while.
37
109953
3262
En realidad, no. Esta idea no es nueva.
02:05
Here's a quotation:
38
113239
1962
He aquí una cita:
02:07
"Even if we could keep the machines
in a subservient position,
in a subservient position,
39
115225
4350
"Incluso si pudiéramos mantener las
máquinas en una posición servil,
máquinas en una posición servil,
02:11
for instance, by turning off the power
at strategic moments" --
at strategic moments" --
40
119599
2984
por ejemplo, desconectándolas
en momentos estratégicos"
en momentos estratégicos"
02:14
and I'll come back to that
"turning off the power" idea later on --
"turning off the power" idea later on --
41
122607
3237
--volveré a esa idea de
"quitar la corriente" más adelante--
"quitar la corriente" más adelante--
02:17
"we should, as a species,
feel greatly humbled."
feel greatly humbled."
42
125868
2804
"deberíamos, como especie,
sentirnos humillados".
sentirnos humillados".
¿Quién dijo esto?
Este es Alan Turing, en 1951.
Este es Alan Turing, en 1951.
02:22
So who said this?
This is Alan Turing in 1951.
This is Alan Turing in 1951.
43
130177
3448
02:26
Alan Turing, as you know,
is the father of computer science
is the father of computer science
44
134300
2763
Alan Turing, como Uds. saben,
es el padre de la informática
es el padre de la informática
02:29
and in many ways,
the father of AI as well.
the father of AI as well.
45
137087
3048
y en muchos sentidos
también el padre de la IA.
también el padre de la IA.
02:33
So if we think about this problem,
46
141239
1882
Así que si pensamos en este problema,
02:35
the problem of creating something
more intelligent than your own species,
more intelligent than your own species,
47
143145
3787
el problema de crear algo
más inteligente que tu propia especie,
más inteligente que tu propia especie,
02:38
we might call this "the gorilla problem,"
48
146956
2622
podríamos llamar a esto
"el problema del gorila".
"el problema del gorila".
02:42
because gorillas' ancestors did this
a few million years ago,
a few million years ago,
49
150345
3750
Porque los antepasados de los gorilas
hicieron esto hace unos millones de años,
hicieron esto hace unos millones de años,
02:46
and now we can ask the gorillas:
50
154119
1745
y ahora podríamos
preguntar a los gorilas:
preguntar a los gorilas:
02:48
Was this a good idea?
51
156752
1160
¿Fue una buena idea?
02:49
So here they are having a meeting
to discuss whether it was a good idea,
to discuss whether it was a good idea,
52
157936
3530
Aquí están, reunidos para discutir
si fue una buena idea,
si fue una buena idea,
02:53
and after a little while,
they conclude, no,
they conclude, no,
53
161490
3346
y pasado un tiempo concluyen que no.
02:56
this was a terrible idea.
54
164860
1345
Fue una idea terrible.
02:58
Our species is in dire straits.
55
166229
1782
Nuestra especie está en apuros.
03:00
In fact, you can see the existential
sadness in their eyes.
sadness in their eyes.
56
168538
4263
De hecho, pueden ver
la tristeza existencial en sus ojos.
la tristeza existencial en sus ojos.
03:04
(Laughter)
57
172825
1640
(Risas)
03:06
So this queasy feeling that making
something smarter than your own species
something smarter than your own species
58
174489
4840
Así que esta sensación mareante
de que crear algo más inteligente
de que crear algo más inteligente
que tu propia especie
tal vez no sea buena idea...
tal vez no sea buena idea...
03:11
is maybe not a good idea --
59
179353
2365
03:14
what can we do about that?
60
182488
1491
¿Qué podemos hacer al respecto?
03:16
Well, really nothing,
except stop doing AI,
except stop doing AI,
61
184003
4767
Bueno, nada en realidad,
excepto dejar de hacer IA.
excepto dejar de hacer IA.
03:20
and because of all
the benefits that I mentioned
the benefits that I mentioned
62
188794
2510
Y por todos los beneficios
que he mencionado
que he mencionado
03:23
and because I'm an AI researcher,
63
191328
1716
y porque soy un investigador de IA,
03:25
I'm not having that.
64
193068
1791
no voy a tomar eso.
03:27
I actually want to be able
to keep doing AI.
to keep doing AI.
65
195283
2468
Sin duda quiero seguir creando IA.
03:30
So we actually need to nail down
the problem a bit more.
the problem a bit more.
66
198615
2678
Así que necesitamos precisar
el problema un poco más.
el problema un poco más.
03:33
What exactly is the problem?
67
201317
1371
¿Cuál es el problema?
03:34
Why is better AI possibly a catastrophe?
68
202712
3246
¿Por qué tener mejor IA
puede ser una catástrofe?
puede ser una catástrofe?
03:39
So here's another quotation:
69
207398
1498
Aquí hay otra cita:
03:41
"We had better be quite sure
that the purpose put into the machine
that the purpose put into the machine
70
209935
3335
"Más nos vale estar seguros
de que el propósito
de que el propósito
que introducimos en la máquina
es el que de verdad deseamos".
es el que de verdad deseamos".
03:45
is the purpose which we really desire."
71
213294
2298
Esto fue dicho por Norbert Wiener en 1960,
03:48
This was said by Norbert Wiener in 1960,
72
216282
3498
poco después de ver a uno de
los primeros sistemas de aprendizaje
los primeros sistemas de aprendizaje
03:51
shortly after he watched
one of the very early learning systems
one of the very early learning systems
73
219804
4002
aprender a jugar a las damas
mejor que su creador.
mejor que su creador.
03:55
learn to play checkers
better than its creator.
better than its creator.
74
223830
2583
04:00
But this could equally have been said
75
228602
2683
Pero esto podría haberlo dicho
de igual modo el Rey Midas.
de igual modo el Rey Midas.
04:03
by King Midas.
76
231309
1167
El Rey Midas dijo, "Deseo que todo
lo que toque se convierta en oro".
lo que toque se convierta en oro".
04:05
King Midas said, "I want everything
I touch to turn to gold,"
I touch to turn to gold,"
77
233083
3134
Y obtuvo justo lo que pidió.
04:08
and he got exactly what he asked for.
78
236241
2473
Fue el propósito que introdujo
en la máquina, por así decirlo.
en la máquina, por así decirlo.
04:10
That was the purpose
that he put into the machine,
that he put into the machine,
79
238738
2751
04:13
so to speak,
80
241513
1450
04:14
and then his food and his drink
and his relatives turned to gold
and his relatives turned to gold
81
242987
3444
Y luego su comida, su bebida
y sus familiares se convirtieron en oro
y sus familiares se convirtieron en oro
y murió miserable y muerto de hambre.
04:18
and he died in misery and starvation.
82
246455
2281
04:22
So we'll call this
"the King Midas problem"
"the King Midas problem"
83
250444
2341
Así que llamaremos a esto
"el problema del rey Midas",
"el problema del rey Midas",
04:24
of stating an objective
which is not, in fact,
which is not, in fact,
84
252809
3305
el de indicar un objetivo
que no está realmente
que no está realmente
04:28
truly aligned with what we want.
85
256138
2413
alineado con lo que de verdad queremos.
04:30
In modern terms, we call this
"the value alignment problem."
"the value alignment problem."
86
258575
3253
En términos modernos, lo llamamos
"el problema de alineación de valor".
"el problema de alineación de valor".
04:37
Putting in the wrong objective
is not the only part of the problem.
is not the only part of the problem.
87
265047
3485
Introducir un objetivo equivocado
no es la única parte del problema.
no es la única parte del problema.
04:40
There's another part.
88
268556
1152
Hay otra parte.
04:42
If you put an objective into a machine,
89
270160
1943
Al introducir un objetivo en una máquina
04:44
even something as simple as,
"Fetch the coffee,"
"Fetch the coffee,"
90
272127
2448
incluso algo tan simple como
"Trae el café",
"Trae el café",
04:47
the machine says to itself,
91
275908
1841
la máquina se dice a sí misma,
04:50
"Well, how might I fail
to fetch the coffee?
to fetch the coffee?
92
278733
2623
"¿Cómo podría fallar
yendo a buscar el café?
yendo a buscar el café?
Alguien podría desconectarme.
04:53
Someone might switch me off.
93
281380
1580
Vale, debo tomar medidas para evitarlo.
04:55
OK, I have to take steps to prevent that.
94
283645
2387
Desactivaré mi interruptor de 'apagado'.
04:58
I will disable my 'off' switch.
95
286056
1906
Haré cualquier cosa para protegerme
de interferencias
de interferencias
05:00
I will do anything to defend myself
against interference
against interference
96
288534
2959
con este objetivo que me han dado.
05:03
with this objective
that I have been given."
that I have been given."
97
291517
2629
Así que esta persecución obsesiva
05:06
So this single-minded pursuit
98
294170
2012
de un modo muy defensivo
para lograr un objetivo
para lograr un objetivo
05:09
in a very defensive mode
of an objective that is, in fact,
of an objective that is, in fact,
99
297213
2945
que no está alineado
con los verdaderos objetivos
con los verdaderos objetivos
05:12
not aligned with the true objectives
of the human race --
of the human race --
100
300182
2814
de la raza humana...
ese es el problema
al que nos enfrentamos.
al que nos enfrentamos.
05:16
that's the problem that we face.
101
304122
1862
Y de hecho esa es la lección
más valiosa de esta charla.
más valiosa de esta charla.
05:19
And in fact, that's the high-value
takeaway from this talk.
takeaway from this talk.
102
307007
4767
Si quieren recordar una cosa
05:23
If you want to remember one thing,
103
311798
2055
05:25
it's that you can't fetch
the coffee if you're dead.
the coffee if you're dead.
104
313877
2675
es que no se puede ir a buscar
el café si se está muerto.
el café si se está muerto.
05:28
(Laughter)
105
316576
1061
(Risas)
05:29
It's very simple. Just remember that.
Repeat it to yourself three times a day.
Repeat it to yourself three times a day.
106
317661
3829
Es muy simple. Solo recuerden eso.
Repítanlo tres veces al día.
Repítanlo tres veces al día.
05:33
(Laughter)
107
321514
1821
(Risas)
05:35
And in fact, this is exactly the plot
108
323359
2754
Y de hecho, este es el mismo argumento
05:38
of "2001: [A Space Odyssey]"
109
326137
2648
de "2001: [Una odisea del espacio]".
05:41
HAL has an objective, a mission,
110
329226
2090
HAL tiene un objetivo, una misión,
05:43
which is not aligned
with the objectives of the humans,
with the objectives of the humans,
111
331340
3732
que no está alineada
con los objetivos de los humanos,
con los objetivos de los humanos,
05:47
and that leads to this conflict.
112
335096
1810
y eso conduce a este conflicto.
05:49
Now fortunately, HAL
is not superintelligent.
is not superintelligent.
113
337494
2969
Por suerte HAL no es superinteligente.
05:52
He's pretty smart,
but eventually Dave outwits him
but eventually Dave outwits him
114
340487
3587
Es bastante inteligente,
pero llegado el momento,
pero llegado el momento,
Dave lo supera y logra apagarlo.
05:56
and manages to switch him off.
115
344098
1849
06:01
But we might not be so lucky.
116
349828
1619
Pero tal vez no tengamos tanta suerte.
06:08
So what are we going to do?
117
356193
1592
Entonces, ¿qué vamos a hacer?
06:12
I'm trying to redefine AI
118
360371
2601
Estoy tratando de redefinir la IA
06:14
to get away from this classical notion
119
362996
2061
para alejarnos de esta noción clásica
06:17
of machines that intelligently
pursue objectives.
pursue objectives.
120
365081
4567
de máquinas que persiguen objetivos
de manera inteligente.
de manera inteligente.
06:22
There are three principles involved.
121
370712
1798
Hay tres principios implicados.
06:24
The first one is a principle
of altruism, if you like,
of altruism, if you like,
122
372534
3289
El primero es un principio
de altruismo, por así decirlo,
de altruismo, por así decirlo,
06:27
that the robot's only objective
123
375847
3262
el único objetivo del robot
06:31
is to maximize the realization
of human objectives,
of human objectives,
124
379133
4246
es maximizar la realización
de los objetivos humanos,
de los objetivos humanos,
06:35
of human values.
125
383403
1390
de los valores humanos.
06:36
And by values here I don't mean
touchy-feely, goody-goody values.
touchy-feely, goody-goody values.
126
384817
3330
Y por valores aquí no me refiero
a valores sentimentales o de bondad.
a valores sentimentales o de bondad.
06:40
I just mean whatever it is
that the human would prefer
that the human would prefer
127
388171
3787
Solo quiero decir aquello
más similar a la vida
más similar a la vida
06:43
their life to be like.
128
391982
1343
que un humano preferiría.
06:47
And so this actually violates Asimov's law
129
395364
2309
Y esto viola la ley de Asimov
de que el robot debe proteger
su propia existencia.
su propia existencia.
06:49
that the robot has to protect
its own existence.
its own existence.
130
397697
2329
No tiene ningún interés en preservar
su existencia en absoluto.
su existencia en absoluto.
06:52
It has no interest in preserving
its existence whatsoever.
its existence whatsoever.
131
400050
3723
06:57
The second law is a law
of humility, if you like.
of humility, if you like.
132
405420
3768
La segunda ley es una ley
de humildad, digamos.
de humildad, digamos.
07:01
And this turns out to be really
important to make robots safe.
important to make robots safe.
133
409974
3743
Y resulta muy importante
para que los robots sean seguros.
para que los robots sean seguros.
07:05
It says that the robot does not know
134
413741
3142
Dice que el robot no sabe
07:08
what those human values are,
135
416907
2028
cuáles son esos valores humanos,
07:10
so it has to maximize them,
but it doesn't know what they are.
but it doesn't know what they are.
136
418959
3178
así que debe maximizarlos,
pero no sabe lo que son.
pero no sabe lo que son.
07:15
And that avoids this problem
of single-minded pursuit
of single-minded pursuit
137
423254
2626
Lo cual evita el problema
de la búsqueda obsesiva
de la búsqueda obsesiva
07:17
of an objective.
138
425904
1212
de un objetivo.
07:19
This uncertainty turns out to be crucial.
139
427140
2172
Esta incertidumbre resulta crucial.
07:21
Now, in order to be useful to us,
140
429726
1639
Claro que para sernos útiles,
07:23
it has to have some idea of what we want.
141
431389
2731
deben tener alguna idea
de lo que queremos.
de lo que queremos.
07:27
It obtains that information primarily
by observation of human choices,
by observation of human choices,
142
435223
5427
Obtiene esa información sobre todo
observando elecciones humanas,
observando elecciones humanas,
07:32
so our own choices reveal information
143
440674
2801
para que nuestras propias
decisiones revelen información
decisiones revelen información
07:35
about what it is that we prefer
our lives to be like.
our lives to be like.
144
443499
3300
sobre lo que nosotros preferimos
para nuestras vidas.
para nuestras vidas.
07:40
So those are the three principles.
145
448632
1683
Estos son los tres principios.
07:42
Let's see how that applies
to this question of:
to this question of:
146
450339
2318
Veamos cómo se aplica a esta cuestión
07:44
"Can you switch the machine off?"
as Turing suggested.
as Turing suggested.
147
452681
2789
de "apagar la máquina",
como sugirió Turing.
como sugirió Turing.
07:49
So here's a PR2 robot.
148
457073
2120
He aquí un robot PR2.
Es uno que tenemos
en nuestro laboratorio,
en nuestro laboratorio,
07:51
This is one that we have in our lab,
149
459217
1821
07:53
and it has a big red "off" switch
right on the back.
right on the back.
150
461062
2903
y tiene un gran botón rojo de 'apagado'
en la parte posterior.
en la parte posterior.
07:56
The question is: Is it
going to let you switch it off?
going to let you switch it off?
151
464541
2615
La pregunta es: ¿Va a
dejar que lo apaguen?
dejar que lo apaguen?
Si lo hacemos a la manera clásica,
07:59
If we do it the classical way,
152
467180
1465
08:00
we give it the objective of, "Fetch
the coffee, I must fetch the coffee,
the coffee, I must fetch the coffee,
153
468669
3482
le damos el objetivo de traer
el café. "Debo traer el café.
el café. "Debo traer el café.
08:04
I can't fetch the coffee if I'm dead,"
154
472175
2580
No puedo traer el café
si estoy muerto".
si estoy muerto".
08:06
so obviously the PR2
has been listening to my talk,
has been listening to my talk,
155
474779
3341
Obviamente el PR2
ha escuchado mi charla,
ha escuchado mi charla,
08:10
and so it says, therefore,
"I must disable my 'off' switch,
"I must disable my 'off' switch,
156
478144
3753
y por tanto, decide
"Debo inhabilitar mi botón de 'apagado'".
08:14
and probably taser all the other
people in Starbucks
people in Starbucks
157
482976
2694
"Y probablemente electrocutar
al resto de personas en el Starbucks
al resto de personas en el Starbucks
08:17
who might interfere with me."
158
485694
1560
que podrían interferir".
08:19
(Laughter)
159
487278
2062
(Risas)
08:21
So this seems to be inevitable, right?
160
489364
2153
Así que esto parece ser
inevitable, ¿verdad?
inevitable, ¿verdad?
08:23
This kind of failure mode
seems to be inevitable,
seems to be inevitable,
161
491541
2398
Este tipo de error
parece ser inevitable,
parece ser inevitable,
08:25
and it follows from having
a concrete, definite objective.
a concrete, definite objective.
162
493963
3543
y sucede por tener
un objetivo concreto, definido.
un objetivo concreto, definido.
08:30
So what happens if the machine
is uncertain about the objective?
is uncertain about the objective?
163
498812
3144
Entonces, ¿qué pasa si la máquina
no tiene claro el objetivo?
no tiene claro el objetivo?
08:33
Well, it reasons in a different way.
164
501980
2127
Bueno, razona de una manera diferente.
08:36
It says, "OK, the human
might switch me off,
might switch me off,
165
504131
2424
Dice, "El humano podría desconectarme,
pero solo si hago algo malo.
pero solo si hago algo malo.
08:39
but only if I'm doing something wrong.
166
507144
1866
08:41
Well, I don't really know what wrong is,
167
509747
2475
No tengo claro lo que es malo
pero sé que no quiero hacerlo".
pero sé que no quiero hacerlo".
08:44
but I know that I don't want to do it."
168
512246
2044
Ahí están el primer
y el segundo principio.
y el segundo principio.
08:46
So that's the first and second
principles right there.
principles right there.
169
514314
3010
08:49
"So I should let the human switch me off."
170
517348
3359
"Así que debería dejar
que el humano me desconecte".
que el humano me desconecte".
08:53
And in fact you can calculate
the incentive that the robot has
the incentive that the robot has
171
521721
3956
De hecho se puede calcular
el incentivo que tiene el robot
el incentivo que tiene el robot
para permitir que el humano lo apague.
08:57
to allow the human to switch it off,
172
525701
2493
09:00
and it's directly tied to the degree
173
528218
1914
Y está directamente ligado
al grado de incertidumbre
al grado de incertidumbre
09:02
of uncertainty about
the underlying objective.
the underlying objective.
174
530156
2746
sobre el objetivo subyacente.
Y entonces cuando la máquina está apagada,
09:05
And then when the machine is switched off,
175
533977
2949
09:08
that third principle comes into play.
176
536950
1805
el tercer principio entra en juego.
09:10
It learns something about the objectives
it should be pursuing,
it should be pursuing,
177
538779
3062
Aprende algo sobre los objetivos
que debe perseguir,
que debe perseguir,
09:13
because it learns that
what it did wasn't right.
what it did wasn't right.
178
541865
2533
porque aprende que
lo que hizo no estaba bien.
lo que hizo no estaba bien.
09:16
In fact, we can, with suitable use
of Greek symbols,
of Greek symbols,
179
544422
3570
De hecho, podemos, con el uso adecuado
de los símbolos griegos,
de los símbolos griegos,
09:20
as mathematicians usually do,
180
548016
2131
como suelen hacer los matemáticos,
09:22
we can actually prove a theorem
181
550171
1984
podemos probar un teorema
09:24
that says that such a robot
is provably beneficial to the human.
is provably beneficial to the human.
182
552179
3553
que dice que tal robot es probablemente
beneficioso para el humano.
beneficioso para el humano.
09:27
You are provably better off
with a machine that's designed in this way
with a machine that's designed in this way
183
555756
3803
Se está demostrablemente mejor con
una máquina que se diseña de esta manera
una máquina que se diseña de esta manera
09:31
than without it.
184
559583
1246
que sin ella.
09:33
So this is a very simple example,
but this is the first step
but this is the first step
185
561237
2906
Este es un ejemplo muy simple,
pero este es el primer paso
pero este es el primer paso
09:36
in what we're trying to do
with human-compatible AI.
with human-compatible AI.
186
564167
3903
en lo que estamos tratando de hacer
con IA compatible con humanos.
con IA compatible con humanos.
09:42
Now, this third principle,
187
570657
3257
Ahora, este tercer principio,
09:45
I think is the one that you're probably
scratching your head over.
scratching your head over.
188
573938
3112
es probablemente el que está haciendo
que se rasquen la cabeza.
que se rasquen la cabeza.
09:49
You're probably thinking, "Well,
you know, I behave badly.
you know, I behave badly.
189
577074
3239
Probablemente piensen:
"Yo me comporto mal.
"Yo me comporto mal.
No quiero que mi robot
se comporte como yo.
se comporte como yo.
09:52
I don't want my robot to behave like me.
190
580337
2929
Me escabullo en mitad de la noche
y tomo cosas de la nevera,
y tomo cosas de la nevera,
09:55
I sneak down in the middle of the night
and take stuff from the fridge.
and take stuff from the fridge.
191
583290
3434
hago esto y hago aquello".
09:58
I do this and that."
192
586748
1168
Hay todo tipo de cosas que no
quieres que haga el robot.
quieres que haga el robot.
09:59
There's all kinds of things
you don't want the robot doing.
you don't want the robot doing.
193
587940
2797
Pero lo cierto es que
no funciona así.
no funciona así.
10:02
But in fact, it doesn't
quite work that way.
quite work that way.
194
590761
2071
Solo porque uno se comporte mal
10:04
Just because you behave badly
195
592856
2155
no significa que el robot
vaya a copiar su comportamiento.
vaya a copiar su comportamiento.
10:07
doesn't mean the robot
is going to copy your behavior.
is going to copy your behavior.
196
595035
2623
10:09
It's going to understand your motivations
and maybe help you resist them,
and maybe help you resist them,
197
597682
3910
Va a entender sus motivaciones
y tal vez a ayudarle a resistirlas,
y tal vez a ayudarle a resistirlas,
10:13
if appropriate.
198
601616
1320
si es apropiado.
10:16
But it's still difficult.
199
604206
1464
Pero sigue siendo difícil.
10:18
What we're trying to do, in fact,
200
606302
2545
Lo que estamos tratando
de hacer, de hecho,
de hacer, de hecho,
10:20
is to allow machines to predict
for any person and for any possible life
for any person and for any possible life
201
608871
5796
es permitir que las máquinas predigan
para cualquier persona
para cualquier persona
y para cualquier vida posible
que podrían vivir,
que podrían vivir,
10:26
that they could live,
202
614691
1161
10:27
and the lives of everybody else:
203
615876
1597
y las vidas de todos los demás
10:29
Which would they prefer?
204
617497
2517
lo que preferirían.
10:34
And there are many, many
difficulties involved in doing this;
difficulties involved in doing this;
205
622061
2954
Y hay muchas, muchas
dificultades ligadas a hacer esto.
dificultades ligadas a hacer esto.
10:37
I don't expect that this
is going to get solved very quickly.
is going to get solved very quickly.
206
625039
2932
No espero que vaya a resolverse pronto.
10:39
The real difficulties, in fact, are us.
207
627995
2643
Las verdaderas dificultades,
de hecho, somos nosotros.
de hecho, somos nosotros.
10:44
As I have already mentioned,
we behave badly.
we behave badly.
208
632149
3117
Como ya he mencionado,
nos comportamos mal.
nos comportamos mal.
10:47
In fact, some of us are downright nasty.
209
635290
2321
De hecho, algunos de nosotros
somos francamente desagradables.
somos francamente desagradables.
10:50
Now the robot, as I said,
doesn't have to copy the behavior.
doesn't have to copy the behavior.
210
638431
3052
Como he dicho, el robot
no tiene que copiar el comportamiento.
no tiene que copiar el comportamiento.
10:53
The robot does not have
any objective of its own.
any objective of its own.
211
641507
2791
El robot no tiene ningún objetivo propio.
10:56
It's purely altruistic.
212
644322
1737
Es puramente altruista.
10:59
And it's not designed just to satisfy
the desires of one person, the user,
the desires of one person, the user,
213
647293
5221
Y no está diseñado solo para satisfacer
los deseos de una persona, el usuario,
los deseos de una persona, el usuario,
11:04
but in fact it has to respect
the preferences of everybody.
the preferences of everybody.
214
652538
3138
sino que tiene que respetar
las preferencias de todos.
las preferencias de todos.
11:09
So it can deal with a certain
amount of nastiness,
amount of nastiness,
215
657263
2570
Así que puede lidiar
con cierta cantidad de maldad,
con cierta cantidad de maldad,
11:11
and it can even understand
that your nastiness, for example,
that your nastiness, for example,
216
659857
3701
e incluso puede entender
que su maldad, por ejemplo...
que su maldad, por ejemplo...
11:15
you may take bribes as a passport official
217
663582
2671
Ud. puede aceptar sobornos
como controlador de pasaportes
como controlador de pasaportes
11:18
because you need to feed your family
and send your kids to school.
and send your kids to school.
218
666277
3812
porque necesita alimentar a su familia
y que sus hijos vayan a la escuela.
y que sus hijos vayan a la escuela.
11:22
It can understand that;
it doesn't mean it's going to steal.
it doesn't mean it's going to steal.
219
670113
2906
Puede entender eso;
no significa que vaya a robar.
no significa que vaya a robar.
11:25
In fact, it'll just help you
send your kids to school.
send your kids to school.
220
673043
2679
De hecho, solo le ayudará
a que sus hijos vayan al colegio.
a que sus hijos vayan al colegio.
11:28
We are also computationally limited.
221
676976
3012
También estamos limitados
computacionalmente.
computacionalmente.
11:32
Lee Sedol is a brilliant Go player,
222
680012
2505
Lee Sedol es un jugador brillante de Go,
11:34
but he still lost.
223
682541
1325
pero aun así perdió.
11:35
So if we look at his actions,
he took an action that lost the game.
he took an action that lost the game.
224
683890
4239
Si nos fijamos en sus acciones,
tomó una decisión que le hizo perder.
tomó una decisión que le hizo perder.
11:40
That doesn't mean he wanted to lose.
225
688153
2161
Eso no significa que él quisiera perder.
11:43
So to understand his behavior,
226
691340
2040
Así que para entender su comportamiento,
11:45
we actually have to invert
through a model of human cognition
through a model of human cognition
227
693404
3644
en realidad tenemos que invertir,
a través de un modelo cognitivo humano
a través de un modelo cognitivo humano
11:49
that includes our computational
limitations -- a very complicated model.
limitations -- a very complicated model.
228
697072
4977
que incluye nuestras
limitaciones computacionales,
limitaciones computacionales,
y se trata de un modelo muy complicado.
11:54
But it's still something
that we can work on understanding.
that we can work on understanding.
229
702073
2993
Pero es algo en lo que podemos
trabajar para comprender.
trabajar para comprender.
Puede que la parte más difícil,
desde mi punto de vista
desde mi punto de vista
11:57
Probably the most difficult part,
from my point of view as an AI researcher,
from my point of view as an AI researcher,
230
705876
4320
como investigador de IA,
es el hecho de que hay muchos de nosotros,
12:02
is the fact that there are lots of us,
231
710220
2575
12:06
and so the machine has to somehow
trade off, weigh up the preferences
trade off, weigh up the preferences
232
714294
3581
con lo cual la máquina tiene que sopesar
las preferencias de mucha gente diferente.
12:09
of many different people,
233
717899
2225
12:12
and there are different ways to do that.
234
720148
1906
Hay diferentes maneras de hacer eso.
12:14
Economists, sociologists,
moral philosophers have understood that,
moral philosophers have understood that,
235
722078
3689
Economistas, sociólogos,
filósofos morales han comprendido esto
filósofos morales han comprendido esto
12:17
and we are actively
looking for collaboration.
looking for collaboration.
236
725791
2455
y estamos buscando
colaboración de manera activa.
colaboración de manera activa.
12:20
Let's have a look and see what happens
when you get that wrong.
when you get that wrong.
237
728270
3251
Vamos a ver lo que sucede
cuando esto se hace mal.
cuando esto se hace mal.
12:23
So you can have
a conversation, for example,
a conversation, for example,
238
731545
2133
Ud. puede estar hablando, por ejemplo,
12:25
with your intelligent personal assistant
239
733702
1944
con su asistente personal inteligente
12:27
that might be available
in a few years' time.
in a few years' time.
240
735670
2285
que podría estar disponible
dentro de unos años.
dentro de unos años.
12:29
Think of a Siri on steroids.
241
737979
2524
Piensen en Siri con esteroides.
12:33
So Siri says, "Your wife called
to remind you about dinner tonight."
to remind you about dinner tonight."
242
741627
4322
Siri dice "Su esposa llamó para
recordarle la cena de esta noche".
recordarle la cena de esta noche".
12:38
And of course, you've forgotten.
"What? What dinner?
"What? What dinner?
243
746616
2508
Por supuesto, lo había olvidado.
¿Qué cena? ¿De qué está hablando?
¿Qué cena? ¿De qué está hablando?
12:41
What are you talking about?"
244
749148
1425
12:42
"Uh, your 20th anniversary at 7pm."
245
750597
3746
"Su 20 aniversario, a las 7pm".
"No puedo, me reúno con el
secretario general a las 7:30.
secretario general a las 7:30.
12:48
"I can't do that. I'm meeting
with the secretary-general at 7:30.
with the secretary-general at 7:30.
246
756915
3719
¿Cómo ha podido suceder esto?".
12:52
How could this have happened?"
247
760658
1692
12:54
"Well, I did warn you, but you overrode
my recommendation."
my recommendation."
248
762374
4660
"Bueno, le advertí, pero ignoró
mi recomendación".
mi recomendación".
"¿Qué voy a hacer? No puedo decirles
que estoy demasiado ocupado".
que estoy demasiado ocupado".
13:00
"Well, what am I going to do?
I can't just tell him I'm too busy."
I can't just tell him I'm too busy."
249
768146
3328
"No se preocupe, he hecho
que su avión se retrase".
que su avión se retrase".
13:04
"Don't worry. I arranged
for his plane to be delayed."
for his plane to be delayed."
250
772490
3281
13:07
(Laughter)
251
775795
1682
(Risas)
13:10
"Some kind of computer malfunction."
252
778249
2101
"Algún tipo de error en el ordenador".
13:12
(Laughter)
253
780374
1212
(Risas)
13:13
"Really? You can do that?"
254
781610
1617
"¿En serio? ¿Puede hacer eso?".
13:16
"He sends his profound apologies
255
784400
2179
"Le envía sinceras disculpas
13:18
and looks forward to meeting you
for lunch tomorrow."
for lunch tomorrow."
256
786603
2555
y espera poder conocerle
mañana para el almuerzo".
mañana para el almuerzo".
13:21
(Laughter)
257
789182
1299
(Risas)
13:22
So the values here --
there's a slight mistake going on.
there's a slight mistake going on.
258
790505
4403
Así que los valores aquí...
aquí hay un pequeño fallo.
aquí hay un pequeño fallo.
13:26
This is clearly following my wife's values
259
794932
3009
Claramente está siguiendo
los valores de mi esposa
los valores de mi esposa
13:29
which is "Happy wife, happy life."
260
797965
2069
que son "esposa feliz, vida feliz".
13:32
(Laughter)
261
800058
1583
(Risas)
13:33
It could go the other way.
262
801665
1444
Podría suceder al revés.
Podría llegar a casa
tras un duro día de trabajo,
tras un duro día de trabajo,
13:35
You could come home
after a hard day's work,
after a hard day's work,
263
803821
2201
13:38
and the computer says, "Long day?"
264
806046
2195
y el ordenador dice "¿Un día duro?".
13:40
"Yes, I didn't even have time for lunch."
265
808265
2288
"Sí, ni tuve tiempo de almorzar".
"Debe tener mucha hambre".
13:42
"You must be very hungry."
266
810577
1282
13:43
"Starving, yeah.
Could you make some dinner?"
Could you make some dinner?"
267
811883
2646
"Me muero de hambre, sí,
¿podría preparar algo de cena?".
¿podría preparar algo de cena?".
13:48
"There's something I need to tell you."
268
816070
2090
"Hay algo que necesito decirle".
13:50
(Laughter)
269
818184
1155
(Risas)
13:52
"There are humans in South Sudan
who are in more urgent need than you."
who are in more urgent need than you."
270
820193
4905
"Hay humanos en Sudán del Sur
más necesitados que Ud.".
más necesitados que Ud.".
13:57
(Laughter)
271
825122
1104
(Risas)
13:58
"So I'm leaving. Make your own dinner."
272
826250
2075
"Así que me voy, hágase su propia cena".
14:00
(Laughter)
273
828349
2000
(Risas)
Así que tenemos que
resolver estos problemas,
resolver estos problemas,
14:02
So we have to solve these problems,
274
830823
1739
14:04
and I'm looking forward
to working on them.
to working on them.
275
832586
2515
y tengo ganas de trabajar en ellos.
14:07
There are reasons for optimism.
276
835125
1843
Hay razones para ser optimistas.
14:08
One reason is,
277
836992
1159
Una razón es que hay
gran cantidad de datos
gran cantidad de datos
14:10
there is a massive amount of data.
278
838175
1868
14:12
Because remember -- I said
they're going to read everything
they're going to read everything
279
840067
2794
Recuerden, leerán todo lo que
la raza humana ha escrito.
la raza humana ha escrito.
14:14
the human race has ever written.
280
842885
1546
La mayoría de lo que escribimos
trata sobre humanos haciendo cosas
trata sobre humanos haciendo cosas
14:16
Most of what we write about
is human beings doing things
is human beings doing things
281
844455
2724
y cómo estas molestan a otras personas.
14:19
and other people getting upset about it.
282
847203
1914
14:21
So there's a massive amount
of data to learn from.
of data to learn from.
283
849141
2398
Así que hay muchos datos
de los que aprender.
de los que aprender.
14:23
There's also a very
strong economic incentive
strong economic incentive
284
851563
2236
También hay un fuerte incentivo económico
para que esto funcione bien.
14:27
to get this right.
285
855331
1186
Imagine que su robot
doméstico está en casa
doméstico está en casa
14:28
So imagine your domestic robot's at home.
286
856541
2001
Ud. llega tarde del trabajo,
14:30
You're late from work again
and the robot has to feed the kids,
and the robot has to feed the kids,
287
858566
3067
el robot tiene que dar
de comer a los niños,
de comer a los niños,
14:33
and the kids are hungry
and there's nothing in the fridge.
and there's nothing in the fridge.
288
861657
2823
los niños tienen hambre
y no hay nada en la nevera.
y no hay nada en la nevera.
14:36
And the robot sees the cat.
289
864504
2605
Y el robot ve al gato.
14:39
(Laughter)
290
867133
1692
(Risas)
14:40
And the robot hasn't quite learned
the human value function properly,
the human value function properly,
291
868849
4190
Y el robot no ha aprendido del todo bien
la función del valor humano
la función del valor humano
por lo que no entiende
14:45
so it doesn't understand
292
873063
1251
14:46
the sentimental value of the cat outweighs
the nutritional value of the cat.
the nutritional value of the cat.
293
874338
4844
que el valor sentimental del gato supera
el valor nutricional del gato.
el valor nutricional del gato.
(Risas)
14:51
(Laughter)
294
879206
1095
Entonces, ¿qué pasa?
14:52
So then what happens?
295
880325
1748
Bueno, sucede lo siguiente:
14:54
Well, it happens like this:
296
882097
3297
14:57
"Deranged robot cooks kitty
for family dinner."
for family dinner."
297
885418
2964
"Robot desquiciado cocina a un gatito
para la cena familiar".
para la cena familiar".
15:00
That one incident would be the end
of the domestic robot industry.
of the domestic robot industry.
298
888406
4523
Ese único incidente acabaría
con la industria de robots domésticos.
con la industria de robots domésticos.
15:04
So there's a huge incentive
to get this right
to get this right
299
892953
3372
Así que hay un gran incentivo
para hacer esto bien.
para hacer esto bien.
15:08
long before we reach
superintelligent machines.
superintelligent machines.
300
896349
2715
mucho antes de llegar
a las máquinas superinteligentes.
a las máquinas superinteligentes.
15:12
So to summarize:
301
900128
1535
Así que para resumir:
15:13
I'm actually trying to change
the definition of AI
the definition of AI
302
901687
2881
Estoy intentando cambiar
la definición de IA
la definición de IA
15:16
so that we have provably
beneficial machines.
beneficial machines.
303
904592
2993
para que tengamos máquinas
demostrablemente beneficiosas.
demostrablemente beneficiosas.
15:19
And the principles are:
304
907609
1222
Y los principios son:
15:20
machines that are altruistic,
305
908855
1398
Máquinas que son altruistas,
15:22
that want to achieve only our objectives,
306
910277
2804
que desean lograr solo nuestros objetivos,
pero que no están seguras
de cuáles son esos objetivos
de cuáles son esos objetivos
15:25
but that are uncertain
about what those objectives are,
about what those objectives are,
307
913105
3116
y nos observarán a todos
15:28
and will watch all of us
308
916245
1998
15:30
to learn more about what it is
that we really want.
that we really want.
309
918267
3203
para aprender qué es
lo que realmente queremos.
lo que realmente queremos.
15:34
And hopefully in the process,
we will learn to be better people.
we will learn to be better people.
310
922373
3559
Y con suerte, en el proceso,
aprenderemos a ser mejores personas.
aprenderemos a ser mejores personas.
15:37
Thank you very much.
311
925956
1191
Muchas gracias.
15:39
(Applause)
312
927171
3709
(Aplausos)
Chris Anderson: Muy interesante, Stuart.
15:42
Chris Anderson: So interesting, Stuart.
313
930904
1868
15:44
We're going to stand here a bit
because I think they're setting up
because I think they're setting up
314
932796
3170
Vamos a estar aquí un poco
porque creo que están preparando
porque creo que están preparando
a nuestro próximo orador.
15:47
for our next speaker.
315
935990
1151
15:49
A couple of questions.
316
937165
1538
Un par de preguntas.
15:50
So the idea of programming in ignorance
seems intuitively really powerful.
seems intuitively really powerful.
317
938727
5453
La idea de programar ignorancia
parece intuitivamente muy poderosa.
parece intuitivamente muy poderosa.
Al llegar a la superinteligencia,
15:56
As you get to superintelligence,
318
944204
1594
15:57
what's going to stop a robot
319
945822
2258
¿qué puede impedir que un robot
16:00
reading literature and discovering
this idea that knowledge
this idea that knowledge
320
948104
2852
lea literatura y descubra esta idea
de que el conocimiento
de que el conocimiento
es mejor que la ignorancia,
16:02
is actually better than ignorance
321
950980
1572
16:04
and still just shifting its own goals
and rewriting that programming?
and rewriting that programming?
322
952576
4218
cambiando sus propios objetivos
y reescribiendo su programación?
y reescribiendo su programación?
16:09
Stuart Russell: Yes, so we want
it to learn more, as I said,
it to learn more, as I said,
323
957692
6356
Stuart Russell: Queremos
que aprenda más, como he dicho,
que aprenda más, como he dicho,
sobre nuestros objetivos.
16:16
about our objectives.
324
964072
1287
16:17
It'll only become more certain
as it becomes more correct,
as it becomes more correct,
325
965383
5521
Solo ganará seguridad
cuanto más acierte.
cuanto más acierte.
16:22
so the evidence is there
326
970928
1945
La evidencia estará ahí,
16:24
and it's going to be designed
to interpret it correctly.
to interpret it correctly.
327
972897
2724
y estará diseñado para
interpretarla adecuadamente.
interpretarla adecuadamente.
16:27
It will understand, for example,
that books are very biased
that books are very biased
328
975645
3956
Comprenderá, por ejemplo,
que los libros son muy sesgados
que los libros son muy sesgados
en la evidencia que contienen.
16:31
in the evidence they contain.
329
979625
1483
16:33
They only talk about kings and princes
330
981132
2397
Solo hablan de reyes y príncipes
16:35
and elite white male people doing stuff.
331
983553
2800
y hombres blancos poderosos
haciendo cosas.
haciendo cosas.
16:38
So it's a complicated problem,
332
986377
2096
Es un problema complicado,
pero conforme aprenda más
sobre nuestros objetivos
sobre nuestros objetivos
16:40
but as it learns more about our objectives
333
988497
3872
será cada vez más útil
para nosotros.
para nosotros.
16:44
it will become more and more useful to us.
334
992393
2063
16:46
CA: And you couldn't
just boil it down to one law,
just boil it down to one law,
335
994480
2526
CA: Y no podría reducirse a una ley,
16:49
you know, hardwired in:
336
997030
1650
ya sabe, grabada a fuego,
16:50
"if any human ever tries to switch me off,
337
998704
3293
"Si un humano alguna vez
intenta apagarme
intenta apagarme
yo obedezco, obedezco".
16:54
I comply. I comply."
338
1002021
1935
16:55
SR: Absolutely not.
339
1003980
1182
SR: Absolutamente no.
16:57
That would be a terrible idea.
340
1005186
1499
Sería una idea terrible.
16:58
So imagine that you have
a self-driving car
a self-driving car
341
1006709
2689
Imagine, tiene un auto que se conduce solo
17:01
and you want to send your five-year-old
342
1009422
2433
y quiere llevar a su hijo de cinco años
al jardín de infancia.
al jardín de infancia.
17:03
off to preschool.
343
1011879
1174
¿Quiere que su hijo de cinco años pueda
apagar el coche mientras conduce?
apagar el coche mientras conduce?
17:05
Do you want your five-year-old
to be able to switch off the car
to be able to switch off the car
344
1013077
3101
17:08
while it's driving along?
345
1016202
1213
Probablemente no.
17:09
Probably not.
346
1017439
1159
Por tanto necesita entender
cuán racional y sensata es la persona.
cuán racional y sensata es la persona.
17:10
So it needs to understand how rational
and sensible the person is.
and sensible the person is.
347
1018622
4703
17:15
The more rational the person,
348
1023349
1676
Cuanto más racional sea la persona,
17:17
the more willing you are
to be switched off.
to be switched off.
349
1025049
2103
más dispuesto estará
a dejar que lo apaguen.
a dejar que lo apaguen.
Si la persona es impredecible
o incluso malintencionada
o incluso malintencionada
17:19
If the person is completely
random or even malicious,
random or even malicious,
350
1027176
2543
17:21
then you're less willing
to be switched off.
to be switched off.
351
1029743
2512
estará menos dispuesto
a permitir que lo apaguen.
a permitir que lo apaguen.
CA: Stuart, permítame decir
17:24
CA: All right. Stuart, can I just say,
352
1032279
1866
que de veras espero que resuelva esto
por todos nosotros.
por todos nosotros.
17:26
I really, really hope you
figure this out for us.
figure this out for us.
353
1034169
2314
Muchas gracias por su charla.
Ha sido increíble, gracias.
Ha sido increíble, gracias.
17:28
Thank you so much for that talk.
That was amazing.
That was amazing.
354
1036507
2375
17:30
SR: Thank you.
355
1038906
1167
(Aplausos)
17:32
(Applause)
356
1040097
1837
ABOUT THE SPEAKER
Stuart Russell - AI expertStuart Russell wrote the standard text on AI; now he thinks deeply on AI's future -- and the future of us humans, too.
Why you should listen
Stuart Russell is a professor (and formerly chair) of Electrical Engineering and Computer Sciences at University of California at Berkeley. His book Artificial Intelligence: A Modern Approach (with Peter Norvig) is the standard text in AI; it has been translated into 13 languages and is used in more than 1,300 universities in 118 countries. His research covers a wide range of topics in artificial intelligence including machine learning, probabilistic reasoning, knowledge representation, planning, real-time decision making, multitarget tracking, computer vision, computational physiology, global seismic monitoring and philosophical foundations.
He also works for the United Nations, developing a new global seismic monitoring system for the nuclear-test-ban treaty. His current concerns include the threat of autonomous weapons and the long-term future of artificial intelligence and its relation to humanity.
Stuart Russell | Speaker | TED.com