TED2017
Stuart Russell: 3 principles for creating safer AI
Stuart Russell: Come l'IA potrebbe renderci persone migliori
Filmed:
Readability: 3.9
1,465,832 views
Come possiamo sfruttare il poter della super intelligente IA prevenendo allo stesso tempo la catastrofe della presa di potere dei robot? Mentre ci spostiamo sempre di più verso la creazione di macchine onniscienti, il pioniere di IA, Stuart Russell, sta lavorando su qualcosa di un po' diverso: robot insicuri. Ascoltate la sua visione sull'IA compatibile con gli umani che può risolvere i problemi usando il buonsenso, l'altruismo e altri valori profondamente umani.
Stuart Russell - AI expert
Stuart Russell wrote the standard text on AI; now he thinks deeply on AI's future -- and the future of us humans, too. Full bio
Stuart Russell wrote the standard text on AI; now he thinks deeply on AI's future -- and the future of us humans, too. Full bio
Double-click the English transcript below to play the video.
00:12
This is Lee Sedol.
0
712
1552
Questo è Lee Sedol.
00:14
Lee Sedol is one of the world's
greatest Go players,
greatest Go players,
1
2288
3997
Lee Sedol è uno dei più grandi giocatori
di Go al mondo,
di Go al mondo,
00:18
and he's having what my friends
in Silicon Valley call
in Silicon Valley call
2
6309
2885
e sta avendo quello che i miei amici
a Silicon Valley dicono
a Silicon Valley dicono
00:21
a "Holy Cow" moment --
3
9218
1510
un momento "accidenti" --
00:22
(Laughter)
4
10752
1073
(Risate)
00:23
a moment where we realize
5
11849
2188
un momento in cui
ci rendiamo conto
ci rendiamo conto
00:26
that AI is actually progressing
a lot faster than we expected.
a lot faster than we expected.
6
14061
3296
che l'IA sta progredendo
molto più rapidamente del previsto.
molto più rapidamente del previsto.
00:30
So humans have lost on the Go board.
What about the real world?
What about the real world?
7
18154
3047
Gli umani hanno perso a Go.
E nel mondo reale?
E nel mondo reale?
00:33
Well, the real world is much bigger,
8
21225
2100
Il mondo reale è molto più grande,
00:35
much more complicated than the Go board.
9
23349
2249
molto più complesso del gioco Go.
00:37
It's a lot less visible,
10
25622
1819
È molto meno evidente,
00:39
but it's still a decision problem.
11
27465
2038
ma è comunque un problema di decisione
00:42
And if we think about some
of the technologies
of the technologies
12
30948
2321
E se pensiamo ad alcune delle tecnologie
00:45
that are coming down the pike ...
13
33293
1749
che stanno bollendo in pentola...
00:47
Noriko [Arai] mentioned that reading
is not yet happening in machines,
is not yet happening in machines,
14
35738
4335
Noriko [Arai] ha detto che le macchine
non sono ancora in grado di leggere,
non sono ancora in grado di leggere,
00:52
at least with understanding.
15
40097
1500
o per lo meno di capire bene.
00:53
But that will happen,
16
41621
1536
Ma succederà,
00:55
and when that happens,
17
43181
1771
e quando succederà,
00:56
very soon afterwards,
18
44976
1187
a breve,
00:58
machines will have read everything
that the human race has ever written.
that the human race has ever written.
19
46187
4572
le macchine dopo avranno letto tutto ciò
che gli umani hanno scritto.
che gli umani hanno scritto.
01:03
And that will enable machines,
20
51850
2030
E ciò permetterà alle macchine,
01:05
along with the ability to look
further ahead than humans can,
further ahead than humans can,
21
53904
2920
insieme all'abilità di guardare
molto più lontano degli umani,
molto più lontano degli umani,
01:08
as we've already seen in Go,
22
56848
1680
come abbiamo già visto nel Go,
01:10
if they also have access
to more information,
to more information,
23
58552
2164
se avranno anche accesso
a più informazioni,
a più informazioni,
01:12
they'll be able to make better decisions
in the real world than we can.
in the real world than we can.
24
60740
4268
potranno prendere decisioni migliori
nel mondo reale rispetto a noi.
nel mondo reale rispetto a noi.
01:18
So is that a good thing?
25
66792
1606
È una cosa buona?
01:21
Well, I hope so.
26
69898
2232
Speriamo.
01:26
Our entire civilization,
everything that we value,
everything that we value,
27
74694
3255
Tutta la nostra civiltà,
tutto ciò a cui diamo valore,
tutto ciò a cui diamo valore,
01:29
is based on our intelligence.
28
77973
2068
è basato sulla nostra intelligenza.
01:32
And if we had access
to a lot more intelligence,
to a lot more intelligence,
29
80065
3694
E se avessimo accesso
a molta più intelligenza,
a molta più intelligenza,
01:35
then there's really no limit
to what the human race can do.
to what the human race can do.
30
83783
3302
allora non c'è davvero un limite
a ciò che la razza umana può fare.
a ciò che la razza umana può fare.
01:40
And I think this could be,
as some people have described it,
as some people have described it,
31
88665
3325
E credo che ciò possa essere,
come alcuni lo hanno descritto,
come alcuni lo hanno descritto,
01:44
the biggest event in human history.
32
92014
2016
l'evento più grande nella storia umana.
01:48
So why are people saying things like this,
33
96665
2829
Quindi perché le persone dicono cose come
01:51
that AI might spell the end
of the human race?
of the human race?
34
99518
2876
"L'IA potrebbe segnare la fine
della razza umana"?
della razza umana"?
01:55
Is this a new thing?
35
103438
1659
È una cosa nuova?
01:57
Is it just Elon Musk and Bill Gates
and Stephen Hawking?
and Stephen Hawking?
36
105121
4110
Sono solo Elon Musk e Bill Gates
e Stephen Hawking?
e Stephen Hawking?
02:01
Actually, no. This idea
has been around for a while.
has been around for a while.
37
109953
3262
In realtà no. Questa idea
circola da un po'.
circola da un po'.
02:05
Here's a quotation:
38
113239
1962
C'è una citazione:
02:07
"Even if we could keep the machines
in a subservient position,
in a subservient position,
39
115225
4350
"Anche se potessimo tenere le macchine
in una posizione subordinata,
in una posizione subordinata,
02:11
for instance, by turning off the power
at strategic moments" --
at strategic moments" --
40
119599
2984
ad esempio, staccando la corrente
in momenti strategici" --
in momenti strategici" --
02:14
and I'll come back to that
"turning off the power" idea later on --
"turning off the power" idea later on --
41
122607
3237
e ritornerò più tardi su quell'idea
di "staccare la corrente"
di "staccare la corrente"
02:17
"we should, as a species,
feel greatly humbled."
feel greatly humbled."
42
125868
2804
"dovremmo, come specie,
sentirci fortemente umiliati."
sentirci fortemente umiliati."
02:22
So who said this?
This is Alan Turing in 1951.
This is Alan Turing in 1951.
43
130177
3448
Chi l'ha detto?
Questo è Alan Turing nel 1951.
Questo è Alan Turing nel 1951.
02:26
Alan Turing, as you know,
is the father of computer science
is the father of computer science
44
134300
2763
Alan Turing, come sapete,
è il padre dell'informatica
è il padre dell'informatica
02:29
and in many ways,
the father of AI as well.
the father of AI as well.
45
137087
3048
e per molti versi,
anche il padre dell'IA.
anche il padre dell'IA.
02:33
So if we think about this problem,
46
141239
1882
Se pensiamo a questo problema,
02:35
the problem of creating something
more intelligent than your own species,
more intelligent than your own species,
47
143145
3787
il problema di creare qualcosa
di più intelligente della nostra specie,
di più intelligente della nostra specie,
02:38
we might call this "the gorilla problem,"
48
146956
2622
potremmo chiamarlo
il "problema del gorilla",
il "problema del gorilla",
02:42
because gorillas' ancestors did this
a few million years ago,
a few million years ago,
49
150345
3750
perché gli antenati dei gorilla
lo hanno fatto milioni di anni fa,
lo hanno fatto milioni di anni fa,
02:46
and now we can ask the gorillas:
50
154119
1745
e adesso possiamo chiedere loro:
02:48
Was this a good idea?
51
156752
1160
è stata una buona idea?
02:49
So here they are having a meeting
to discuss whether it was a good idea,
to discuss whether it was a good idea,
52
157936
3530
Qui si stanno incontrando
per discutere se è stata una buona idea,
per discutere se è stata una buona idea,
02:53
and after a little while,
they conclude, no,
they conclude, no,
53
161490
3346
e dopo un po',
arrivano alla conclusione: no,
arrivano alla conclusione: no,
02:56
this was a terrible idea.
54
164860
1345
è stata un'idea terribile.
02:58
Our species is in dire straits.
55
166229
1782
La nostra specie è in difficoltà.
03:00
In fact, you can see the existential
sadness in their eyes.
sadness in their eyes.
56
168538
4263
In effetti, potete vedere
la tristezza esistenziale nei loro occhi.
la tristezza esistenziale nei loro occhi.
03:04
(Laughter)
57
172825
1640
(Risate)
03:06
So this queasy feeling that making
something smarter than your own species
something smarter than your own species
58
174489
4840
La sensazione nauseante che fare qualcosa
di più intelligente della propria specie
di più intelligente della propria specie
03:11
is maybe not a good idea --
59
179353
2365
forse non è una buona idea --
03:14
what can we do about that?
60
182488
1491
cosa possiamo fare?
03:16
Well, really nothing,
except stop doing AI,
except stop doing AI,
61
184003
4767
Proprio nulla,
se non smettere di produrre IA,
se non smettere di produrre IA,
03:20
and because of all
the benefits that I mentioned
the benefits that I mentioned
62
188794
2510
e per tutti i benefici che ho citato,
03:23
and because I'm an AI researcher,
63
191328
1716
e siccome sono un ricercatore di IA,
03:25
I'm not having that.
64
193068
1791
non lo permetterò.
03:27
I actually want to be able
to keep doing AI.
to keep doing AI.
65
195283
2468
In realtà voglio riuscire
a produrre ancora IA.
a produrre ancora IA.
03:30
So we actually need to nail down
the problem a bit more.
the problem a bit more.
66
198615
2678
In realtà ci occorre
definire un po' di più il problema.
definire un po' di più il problema.
03:33
What exactly is the problem?
67
201317
1371
Qual è il vero problema?
03:34
Why is better AI possibly a catastrophe?
68
202712
3246
Perché un'IA migliore è potenzialmente
una catastrofe?
una catastrofe?
03:39
So here's another quotation:
69
207398
1498
Ecco un'altra citazione:
03:41
"We had better be quite sure
that the purpose put into the machine
that the purpose put into the machine
70
209935
3335
"Dovremmo esserne sicuri
che l'obiettivo inserito nella macchina
che l'obiettivo inserito nella macchina
03:45
is the purpose which we really desire."
71
213294
2298
sia l'obiettivo che desideriamo davvero."
03:48
This was said by Norbert Wiener in 1960,
72
216282
3498
È stato detto da Norbert Wiener nel 1960,
03:51
shortly after he watched
one of the very early learning systems
one of the very early learning systems
73
219804
4002
subito dopo che aveva visto
uno dei primi sistemi di apprendimento
uno dei primi sistemi di apprendimento
03:55
learn to play checkers
better than its creator.
better than its creator.
74
223830
2583
imparare a giocare a scacchi
meglio del proprio creatore.
meglio del proprio creatore.
04:00
But this could equally have been said
75
228602
2683
Ma potrebbe anche essere stato detto
04:03
by King Midas.
76
231309
1167
da Re Mida.
04:05
King Midas said, "I want everything
I touch to turn to gold,"
I touch to turn to gold,"
77
233083
3134
Re Mida disse, "Voglio che tutto ciò
che tocco diventi oro,"
che tocco diventi oro,"
04:08
and he got exactly what he asked for.
78
236241
2473
e ottenne proprio quello che chiese.
04:10
That was the purpose
that he put into the machine,
that he put into the machine,
79
238738
2751
Quello era l'obiettivo
che aveva inserito nella macchina,
che aveva inserito nella macchina,
04:13
so to speak,
80
241513
1450
per così dire,
04:14
and then his food and his drink
and his relatives turned to gold
and his relatives turned to gold
81
242987
3444
e poi il suo cibo, le sue bevande
e i suoi parenti diventarono oro
e i suoi parenti diventarono oro
04:18
and he died in misery and starvation.
82
246455
2281
e morì in miseria e di fame.
04:22
So we'll call this
"the King Midas problem"
"the King Midas problem"
83
250444
2341
Lo chiameremo
"problema di Re Mida"
"problema di Re Mida"
04:24
of stating an objective
which is not, in fact,
which is not, in fact,
84
252809
3305
dichiarare un obiettivo
che non è, in realtà,
che non è, in realtà,
04:28
truly aligned with what we want.
85
256138
2413
proprio conforme a ciò che vogliamo.
04:30
In modern terms, we call this
"the value alignment problem."
"the value alignment problem."
86
258575
3253
In termini moderni, lo chiamiamo
"problema di conformità dei valori."
"problema di conformità dei valori."
04:37
Putting in the wrong objective
is not the only part of the problem.
is not the only part of the problem.
87
265047
3485
Dichiarare l'obiettivo sbagliato
non è l'unica parte del problema.
non è l'unica parte del problema.
04:40
There's another part.
88
268556
1152
C'è un'altra parte.
04:42
If you put an objective into a machine,
89
270160
1943
Se inserite un obiettivo in una macchina
04:44
even something as simple as,
"Fetch the coffee,"
"Fetch the coffee,"
90
272127
2448
anche qualcosa di semplice come
"Porta il caffè,"
"Porta il caffè,"
04:47
the machine says to itself,
91
275908
1841
la macchina dice a se stessa,
04:50
"Well, how might I fail
to fetch the coffee?
to fetch the coffee?
92
278733
2623
"Be', come posso non riuscire
a portare il caffè?
a portare il caffè?
04:53
Someone might switch me off.
93
281380
1580
Qualcuno potrebbe spegnermi.
04:55
OK, I have to take steps to prevent that.
94
283645
2387
Ok, devo sapere come evitarlo.
04:58
I will disable my 'off' switch.
95
286056
1906
Disattiverò il tasto "off".
05:00
I will do anything to defend myself
against interference
against interference
96
288534
2959
Farò di tutto per difendermi
dalle interferenze
dalle interferenze
05:03
with this objective
that I have been given."
that I have been given."
97
291517
2629
con questo obiettivo
che mi è stato dato."
che mi è stato dato."
05:06
So this single-minded pursuit
98
294170
2012
Quindi questa ricerca risoluta
05:09
in a very defensive mode
of an objective that is, in fact,
of an objective that is, in fact,
99
297213
2945
in modo molto difensivo di un obiettivo
che non è, in realtà,
che non è, in realtà,
05:12
not aligned with the true objectives
of the human race --
of the human race --
100
300182
2814
conforme ai veri obiettivi
della razza umana --
della razza umana --
05:16
that's the problem that we face.
101
304122
1862
questo è il problema che affrontiamo.
05:19
And in fact, that's the high-value
takeaway from this talk.
takeaway from this talk.
102
307007
4767
Infatti, è questo il succo
di questa conferenza.
di questa conferenza.
05:23
If you want to remember one thing,
103
311798
2055
Se volete ricordare una cosa,
05:25
it's that you can't fetch
the coffee if you're dead.
the coffee if you're dead.
104
313877
2675
è che voi non potrete
portare il caffè se siete morti.
portare il caffè se siete morti.
05:28
(Laughter)
105
316576
1061
(Risate)
05:29
It's very simple. Just remember that.
Repeat it to yourself three times a day.
Repeat it to yourself three times a day.
106
317661
3829
È molto semplice. Ricordate solo questo.
Ripetetevelo tre volte al giorno.
Ripetetevelo tre volte al giorno.
05:33
(Laughter)
107
321514
1821
(Risate)
05:35
And in fact, this is exactly the plot
108
323359
2754
E in effetti, questa è
esattamente la trama
esattamente la trama
05:38
of "2001: [A Space Odyssey]"
109
326137
2648
di "2001: Odissea nello spazio"
05:41
HAL has an objective, a mission,
110
329226
2090
HAL ha un obiettivo, una missione,
05:43
which is not aligned
with the objectives of the humans,
with the objectives of the humans,
111
331340
3732
che non è conforme
all'obiettivo degli umani,
all'obiettivo degli umani,
05:47
and that leads to this conflict.
112
335096
1810
e che porta a questo conflitto.
05:49
Now fortunately, HAL
is not superintelligent.
is not superintelligent.
113
337494
2969
Adesso per fortuna, HAL
non è super intelligente.
non è super intelligente.
05:52
He's pretty smart,
but eventually Dave outwits him
but eventually Dave outwits him
114
340487
3587
È abbastanza astuto
ma alla fine Dave lo batte
ma alla fine Dave lo batte
05:56
and manages to switch him off.
115
344098
1849
e riesce a spegnerlo.
06:01
But we might not be so lucky.
116
349828
1619
Ma possiamo non essere così fortunati.
06:08
So what are we going to do?
117
356193
1592
Quindi cosa faremo?
06:12
I'm trying to redefine AI
118
360371
2601
Sto cercando di ridefinire l'IA
06:14
to get away from this classical notion
119
362996
2061
per fuggire da questa nozione classica
06:17
of machines that intelligently
pursue objectives.
pursue objectives.
120
365081
4567
di macchine che perseguono obiettivi
in modo intelligente.
in modo intelligente.
06:22
There are three principles involved.
121
370712
1798
Ci sono tre principi coinvolti.
06:24
The first one is a principle
of altruism, if you like,
of altruism, if you like,
122
372534
3289
Il primo è un principio
di altruismo, se volete,
di altruismo, se volete,
06:27
that the robot's only objective
123
375847
3262
secondo cui l'unico obiettivo del robot
06:31
is to maximize the realization
of human objectives,
of human objectives,
124
379133
4246
è massimizzare la realizzazione
degli obiettivi umani,
degli obiettivi umani,
06:35
of human values.
125
383403
1390
dei valori umani.
06:36
And by values here I don't mean
touchy-feely, goody-goody values.
touchy-feely, goody-goody values.
126
384817
3330
E con valori qui non intendo
valori sdolcinati, da santarellini.
valori sdolcinati, da santarellini.
06:40
I just mean whatever it is
that the human would prefer
that the human would prefer
127
388171
3787
Intendo comunque vogliano
gli esseri umani
gli esseri umani
06:43
their life to be like.
128
391982
1343
che sia la loro vita.
06:47
And so this actually violates Asimov's law
129
395364
2309
E in realtà ciò viola la legge di Asimov
06:49
that the robot has to protect
its own existence.
its own existence.
130
397697
2329
secondo cui il robot
deve tutelare la sua esistenza.
deve tutelare la sua esistenza.
06:52
It has no interest in preserving
its existence whatsoever.
its existence whatsoever.
131
400050
3723
Non c'è alcun interesse
nel preservare la sua esistenza.
nel preservare la sua esistenza.
06:57
The second law is a law
of humility, if you like.
of humility, if you like.
132
405420
3768
La seconda legge è una legge
di umiltà, se volete.
di umiltà, se volete.
07:01
And this turns out to be really
important to make robots safe.
important to make robots safe.
133
409974
3743
E si rivela essere davvero importante
per rendere sicuri i robot.
per rendere sicuri i robot.
07:05
It says that the robot does not know
134
413741
3142
Dice che il robot non sa
07:08
what those human values are,
135
416907
2028
quali sono questi valori umani,
07:10
so it has to maximize them,
but it doesn't know what they are.
but it doesn't know what they are.
136
418959
3178
quindi li deve massimizzare,
ma non sa cosa sono.
ma non sa cosa sono.
07:15
And that avoids this problem
of single-minded pursuit
of single-minded pursuit
137
423254
2626
E questo evita questo problema
della caccia risoluta
della caccia risoluta
07:17
of an objective.
138
425904
1212
di un obiettivo.
07:19
This uncertainty turns out to be crucial.
139
427140
2172
Questa incertezza si rivela cruciale.
07:21
Now, in order to be useful to us,
140
429726
1639
Per essere utile a noi,
07:23
it has to have some idea of what we want.
141
431389
2731
deve avere un'idea di quello che vogliamo.
07:27
It obtains that information primarily
by observation of human choices,
by observation of human choices,
142
435223
5427
Lui ottiene l'informazione in primo luogo
dall'osservazione delle scelte umane,
dall'osservazione delle scelte umane,
07:32
so our own choices reveal information
143
440674
2801
quindi le nostre scelte rivelano
delle informazioni
delle informazioni
07:35
about what it is that we prefer
our lives to be like.
our lives to be like.
144
443499
3300
su ciò che vogliamo
che le nostre vite siano.
che le nostre vite siano.
07:40
So those are the three principles.
145
448632
1683
Quindi questi sono i tre principi.
07:42
Let's see how that applies
to this question of:
to this question of:
146
450339
2318
Vediamo come si applicano
alla seguente domanda:
alla seguente domanda:
07:44
"Can you switch the machine off?"
as Turing suggested.
as Turing suggested.
147
452681
2789
"Riuscite a spegnere la macchina?"
come suggeriva Turing.
come suggeriva Turing.
07:49
So here's a PR2 robot.
148
457073
2120
Ecco un robot PR2.
07:51
This is one that we have in our lab,
149
459217
1821
È uno che abbiamo in laboratorio,
07:53
and it has a big red "off" switch
right on the back.
right on the back.
150
461062
2903
e ha un gran pulsante "off"
sul dorso.
sul dorso.
07:56
The question is: Is it
going to let you switch it off?
going to let you switch it off?
151
464541
2615
La domanda è: ti permetterà
di spegnerlo?
di spegnerlo?
07:59
If we do it the classical way,
152
467180
1465
Col metodo classico,
08:00
we give it the objective of, "Fetch
the coffee, I must fetch the coffee,
the coffee, I must fetch the coffee,
153
468669
3482
gli diamo l'obiettivo,
"Porta il caffè, devo portare il caffè,
"Porta il caffè, devo portare il caffè,
08:04
I can't fetch the coffee if I'm dead,"
154
472175
2580
non posso portare il caffè se sono morto,"
08:06
so obviously the PR2
has been listening to my talk,
has been listening to my talk,
155
474779
3341
quindi ovviamente il PR2
ha ascoltato il mio discorso,
ha ascoltato il mio discorso,
08:10
and so it says, therefore,
"I must disable my 'off' switch,
"I must disable my 'off' switch,
156
478144
3753
e quindi dice,
"Devo disabilitare il pulsante 'off'",
"Devo disabilitare il pulsante 'off'",
08:14
and probably taser all the other
people in Starbucks
people in Starbucks
157
482976
2694
e forse stordire tutte le altre persone
nello Starbucks
nello Starbucks
08:17
who might interfere with me."
158
485694
1560
che possono interferire con me."
08:19
(Laughter)
159
487278
2062
(Risate)
08:21
So this seems to be inevitable, right?
160
489364
2153
Sembra inevitabile, giusto?
08:23
This kind of failure mode
seems to be inevitable,
seems to be inevitable,
161
491541
2398
Questa modalità di guasto
sembra inevitabile,
sembra inevitabile,
08:25
and it follows from having
a concrete, definite objective.
a concrete, definite objective.
162
493963
3543
e deriva dall'avere un obiettivo
concreto e definito.
concreto e definito.
08:30
So what happens if the machine
is uncertain about the objective?
is uncertain about the objective?
163
498812
3144
Quindi cosa succede se la macchina
è incerta sull'obiettivo?
è incerta sull'obiettivo?
08:33
Well, it reasons in a different way.
164
501980
2127
Ragiona in modo diverso.
08:36
It says, "OK, the human
might switch me off,
might switch me off,
165
504131
2424
Dice, "Ok, l'essere umano
può spegnermi,
può spegnermi,
08:39
but only if I'm doing something wrong.
166
507144
1866
ma soltanto se sbaglio qualcosa.
08:41
Well, I don't really know what wrong is,
167
509747
2475
Non so bene cos'è sbagliato,
08:44
but I know that I don't want to do it."
168
512246
2044
ma so che non voglio farlo."
08:46
So that's the first and second
principles right there.
principles right there.
169
514314
3010
Quindi, questi sono il primo
e il secondo principio.
e il secondo principio.
08:49
"So I should let the human switch me off."
170
517348
3359
"Quindi devo lasciare
che l'uomo mi spenga."
che l'uomo mi spenga."
08:53
And in fact you can calculate
the incentive that the robot has
the incentive that the robot has
171
521721
3956
E in effetti potete calcolare
lo stimolo che riceve il robot
lo stimolo che riceve il robot
08:57
to allow the human to switch it off,
172
525701
2493
per permettere all'uomo di spegnerlo,
09:00
and it's directly tied to the degree
173
528218
1914
ed è direttamente legato
al grado di incertezza
al grado di incertezza
09:02
of uncertainty about
the underlying objective.
the underlying objective.
174
530156
2746
dell'obiettivo di fondo.
09:05
And then when the machine is switched off,
175
533977
2949
Poi quando la macchina viene spenta,
09:08
that third principle comes into play.
176
536950
1805
entra in gioco il terzo principio.
09:10
It learns something about the objectives
it should be pursuing,
it should be pursuing,
177
538779
3062
Lui impara qualcosa sugli obiettivi
che deve perseguire,
che deve perseguire,
09:13
because it learns that
what it did wasn't right.
what it did wasn't right.
178
541865
2533
perché impara
che ciò che ha fatto non era corretto.
che ciò che ha fatto non era corretto.
09:16
In fact, we can, with suitable use
of Greek symbols,
of Greek symbols,
179
544422
3570
In realtà possiamo, con un uso adeguato
di simboli greci,
di simboli greci,
09:20
as mathematicians usually do,
180
548016
2131
come fanno solitamente i matematici,
09:22
we can actually prove a theorem
181
550171
1984
possiamo davvero dimostrare un teorema
09:24
that says that such a robot
is provably beneficial to the human.
is provably beneficial to the human.
182
552179
3553
che dice che un robot del genere
è certamente vantaggioso agli umani.
è certamente vantaggioso agli umani.
09:27
You are provably better off
with a machine that's designed in this way
with a machine that's designed in this way
183
555756
3803
Voi siete certamente migliori
con una macchina programmata in tale modo
con una macchina programmata in tale modo
09:31
than without it.
184
559583
1246
che senza.
09:33
So this is a very simple example,
but this is the first step
but this is the first step
185
561237
2906
È un esempio molto semplice,
ma è il primo passo
ma è il primo passo
09:36
in what we're trying to do
with human-compatible AI.
with human-compatible AI.
186
564167
3903
che proviamo a fare
con l'IA compatibile con gli umani.
con l'IA compatibile con gli umani.
09:42
Now, this third principle,
187
570657
3257
Questo terzo principio,
09:45
I think is the one that you're probably
scratching your head over.
scratching your head over.
188
573938
3112
credo sia quello
che fa grattare la testa.
che fa grattare la testa.
09:49
You're probably thinking, "Well,
you know, I behave badly.
you know, I behave badly.
189
577074
3239
Probabilmente starete pensando,
"Mi comporto male.
"Mi comporto male.
09:52
I don't want my robot to behave like me.
190
580337
2929
Non voglio che il mio robot
si comporti come me.
si comporti come me.
09:55
I sneak down in the middle of the night
and take stuff from the fridge.
and take stuff from the fridge.
191
583290
3434
Io sgattaiolo nel cuore della notte
e prendo roba dal frigo.
e prendo roba dal frigo.
09:58
I do this and that."
192
586748
1168
Faccio questo e quello."
09:59
There's all kinds of things
you don't want the robot doing.
you don't want the robot doing.
193
587940
2797
Ci sono un sacco di cose
che non volete il robot faccia.
che non volete il robot faccia.
10:02
But in fact, it doesn't
quite work that way.
quite work that way.
194
590761
2071
Ma in realtà, non funziona
sempre così.
sempre così.
10:04
Just because you behave badly
195
592856
2155
Solo perché vi comportate male
non significa che il robot
copierà il vostro comportamento.
copierà il vostro comportamento.
10:07
doesn't mean the robot
is going to copy your behavior.
is going to copy your behavior.
196
595035
2623
10:09
It's going to understand your motivations
and maybe help you resist them,
and maybe help you resist them,
197
597682
3910
Capirà le vostre motivazioni
e forse potrebbe aiutarvi a resistere,
e forse potrebbe aiutarvi a resistere,
10:13
if appropriate.
198
601616
1320
eventualmente.
10:16
But it's still difficult.
199
604206
1464
Ma è comunque difficile.
10:18
What we're trying to do, in fact,
200
606302
2545
Quello che proviamo a fare, in realtà,
10:20
is to allow machines to predict
for any person and for any possible life
for any person and for any possible life
201
608871
5796
è permettere alle macchine di prevedere
per chiunque e per ogni possibile vita
per chiunque e per ogni possibile vita
10:26
that they could live,
202
614691
1161
che potrebbe vivere,
10:27
and the lives of everybody else:
203
615876
1597
e le vite di tutti gli altri:
10:29
Which would they prefer?
204
617497
2517
quale preferirebbero?
10:34
And there are many, many
difficulties involved in doing this;
difficulties involved in doing this;
205
622061
2954
E le difficoltà sono molte;
10:37
I don't expect that this
is going to get solved very quickly.
is going to get solved very quickly.
206
625039
2932
non mi aspetto
che si risolva velocemente.
che si risolva velocemente.
10:39
The real difficulties, in fact, are us.
207
627995
2643
La vera difficoltà, in realtà, siamo noi.
10:44
As I have already mentioned,
we behave badly.
we behave badly.
208
632149
3117
Come ho già detto,
noi ci comportiamo male.
noi ci comportiamo male.
10:47
In fact, some of us are downright nasty.
209
635290
2321
Anzi, alcuni di noi sono molto cattivi.
10:50
Now the robot, as I said,
doesn't have to copy the behavior.
doesn't have to copy the behavior.
210
638431
3052
Il robot, come ho detto,
non deve copiare il comportamento.
non deve copiare il comportamento.
10:53
The robot does not have
any objective of its own.
any objective of its own.
211
641507
2791
Il robot non ha obiettivi propri.
10:56
It's purely altruistic.
212
644322
1737
È puramente altruista.
10:59
And it's not designed just to satisfy
the desires of one person, the user,
the desires of one person, the user,
213
647293
5221
E non è programmato solo per soddisfare
i desideri di una persona, l'utente,
i desideri di una persona, l'utente,
11:04
but in fact it has to respect
the preferences of everybody.
the preferences of everybody.
214
652538
3138
ma deve rispettare
le preferenze di ognuno.
le preferenze di ognuno.
11:09
So it can deal with a certain
amount of nastiness,
amount of nastiness,
215
657263
2570
Quindi può avere a che fare
con una certa cattiveria,
con una certa cattiveria,
11:11
and it can even understand
that your nastiness, for example,
that your nastiness, for example,
216
659857
3701
e può anche capire
la vostra cattiveria, per esempio,
la vostra cattiveria, per esempio,
11:15
you may take bribes as a passport official
217
663582
2671
potete farvi corrompere
da agente doganale
da agente doganale
11:18
because you need to feed your family
and send your kids to school.
and send your kids to school.
218
666277
3812
perché dovete sfamare
la famiglia e mandare i bambini a scuola.
la famiglia e mandare i bambini a scuola.
11:22
It can understand that;
it doesn't mean it's going to steal.
it doesn't mean it's going to steal.
219
670113
2906
Lui è in grado di capirlo;
non significa che andrà a rubare.
non significa che andrà a rubare.
11:25
In fact, it'll just help you
send your kids to school.
send your kids to school.
220
673043
2679
Anzi, vi aiuterà
a mandare i vostri bambini a scuola.
a mandare i vostri bambini a scuola.
11:28
We are also computationally limited.
221
676976
3012
Noi siamo anche limitati nei calcoli.
11:32
Lee Sedol is a brilliant Go player,
222
680012
2505
Lee Sedol è un brillante giocatore di Go,
11:34
but he still lost.
223
682541
1325
ma ha comunque perso.
11:35
So if we look at his actions,
he took an action that lost the game.
he took an action that lost the game.
224
683890
4239
Osservando le sue mosse,
ne ha fatta una che gli ha fatto perdere.
ne ha fatta una che gli ha fatto perdere.
11:40
That doesn't mean he wanted to lose.
225
688153
2161
Non significa che voleva perdere.
11:43
So to understand his behavior,
226
691340
2040
Quindi per capire il suo comportamento,
11:45
we actually have to invert
through a model of human cognition
through a model of human cognition
227
693404
3644
dobbiamo invertire
con un modello di cognizione umana
con un modello di cognizione umana
11:49
that includes our computational
limitations -- a very complicated model.
limitations -- a very complicated model.
228
697072
4977
che include i nostri limiti di calcolo --
un modello molto complicato.
un modello molto complicato.
11:54
But it's still something
that we can work on understanding.
that we can work on understanding.
229
702073
2993
Ma possiamo comunque cercare di capirlo.
11:57
Probably the most difficult part,
from my point of view as an AI researcher,
from my point of view as an AI researcher,
230
705876
4320
Forse la parte più complicata,
dal punto di vista di ricercatore di IA,
dal punto di vista di ricercatore di IA,
12:02
is the fact that there are lots of us,
231
710220
2575
è il fatto che siamo molti,
12:06
and so the machine has to somehow
trade off, weigh up the preferences
trade off, weigh up the preferences
232
714294
3581
e quindi la macchina deve in qualche modo
alternare, soppesare le preferenze
alternare, soppesare le preferenze
12:09
of many different people,
233
717899
2225
di tante persone diverse,
12:12
and there are different ways to do that.
234
720148
1906
e ci sono diversi modi per farlo.
12:14
Economists, sociologists,
moral philosophers have understood that,
moral philosophers have understood that,
235
722078
3689
Economisti, sociologi,
filosofi morali lo hanno capito,
filosofi morali lo hanno capito,
12:17
and we are actively
looking for collaboration.
looking for collaboration.
236
725791
2455
e stiamo attivamente
cercando collaborazione.
cercando collaborazione.
12:20
Let's have a look and see what happens
when you get that wrong.
when you get that wrong.
237
728270
3251
Diamo un'occhiata a quel che succede
quando commettete uno sbaglio.
quando commettete uno sbaglio.
12:23
So you can have
a conversation, for example,
a conversation, for example,
238
731545
2133
Potete conversare, per esempio,
col vostro assistente personale
intelligente
intelligente
12:25
with your intelligent personal assistant
239
733702
1944
12:27
that might be available
in a few years' time.
in a few years' time.
240
735670
2285
che potrebbe essere disponibile
tra pochi anni.
tra pochi anni.
12:29
Think of a Siri on steroids.
241
737979
2524
Pensate a Siri sotto steroidi.
12:33
So Siri says, "Your wife called
to remind you about dinner tonight."
to remind you about dinner tonight."
242
741627
4322
Siri dice, "Tua moglie ha chiamato
per ricordarti della cena stasera."
per ricordarti della cena stasera."
12:38
And of course, you've forgotten.
"What? What dinner?
"What? What dinner?
243
746616
2508
Ovviamente, l'avevate dimenticato.
"Cosa? Quale cena?
"Cosa? Quale cena?
12:41
What are you talking about?"
244
749148
1425
Di cosa stai parlando?"
12:42
"Uh, your 20th anniversary at 7pm."
245
750597
3746
"Ehm, il tuo 20° anniversario alle 7."
12:48
"I can't do that. I'm meeting
with the secretary-general at 7:30.
with the secretary-general at 7:30.
246
756915
3719
"Non posso farlo. Mi incontrerò
col segretario generale alle 7:30.
col segretario generale alle 7:30.
12:52
How could this have happened?"
247
760658
1692
Come può essere successo?"
12:54
"Well, I did warn you, but you overrode
my recommendation."
my recommendation."
248
762374
4660
"Io ti ho avvertito, ma tu hai ignorato
la mia raccomandazione."
la mia raccomandazione."
13:00
"Well, what am I going to do?
I can't just tell him I'm too busy."
I can't just tell him I'm too busy."
249
768146
3328
"Cosa faccio? Non posso dirgli
che sono impegnato."
che sono impegnato."
13:04
"Don't worry. I arranged
for his plane to be delayed."
for his plane to be delayed."
250
772490
3281
"Non preoccuparti.
Ho fatto ritardare il suo aereo."
Ho fatto ritardare il suo aereo."
13:07
(Laughter)
251
775795
1682
(Risate)
13:10
"Some kind of computer malfunction."
252
778249
2101
"Una specie di guasto al computer."
13:12
(Laughter)
253
780374
1212
(Risate)
13:13
"Really? You can do that?"
254
781610
1617
"Davvero? Puoi farlo?"
13:16
"He sends his profound apologies
255
784400
2179
"Si scusa tantissimo
13:18
and looks forward to meeting you
for lunch tomorrow."
for lunch tomorrow."
256
786603
2555
e non vede l'ora di incontrarti
a pranzo domani."
a pranzo domani."
13:21
(Laughter)
257
789182
1299
(Risate)
13:22
So the values here --
there's a slight mistake going on.
there's a slight mistake going on.
258
790505
4403
Quindi i valori qui --
si è verificato un piccolo errore.
si è verificato un piccolo errore.
13:26
This is clearly following my wife's values
259
794932
3009
Questo segue chiaramente
i valori di mia moglie
i valori di mia moglie
13:29
which is "Happy wife, happy life."
260
797965
2069
cioè "Felice la moglie, felice la vita."
13:32
(Laughter)
261
800058
1583
(Risate)
13:33
It could go the other way.
262
801665
1444
Potrebbe andare diversamente.
Potreste tornare a casa
dopo una dura giornata di lavoro,
dopo una dura giornata di lavoro,
13:35
You could come home
after a hard day's work,
after a hard day's work,
263
803821
2201
13:38
and the computer says, "Long day?"
264
806046
2195
e il computer dice, "Giornata lunga?"
13:40
"Yes, I didn't even have time for lunch."
265
808265
2288
"Sì, non ho avuto nemmeno il tempo
di pranzare."
di pranzare."
13:42
"You must be very hungry."
266
810577
1282
"Devi avere molta fame."
13:43
"Starving, yeah.
Could you make some dinner?"
Could you make some dinner?"
267
811883
2646
"Sto morendo di fame, sì.
Puoi prepararmi la cena?"
Puoi prepararmi la cena?"
13:48
"There's something I need to tell you."
268
816070
2090
"Devo dirti una cosa."
13:50
(Laughter)
269
818184
1155
(Risate)
13:52
"There are humans in South Sudan
who are in more urgent need than you."
who are in more urgent need than you."
270
820193
4905
"Ci sono persone nel sud del Sudan
che hanno un bisogno più urgente del tuo."
che hanno un bisogno più urgente del tuo."
13:57
(Laughter)
271
825122
1104
(Risate)
13:58
"So I'm leaving. Make your own dinner."
272
826250
2075
"Quindi me ne vado. Preparati tu la cena."
14:00
(Laughter)
273
828349
2000
(Risate)
14:02
So we have to solve these problems,
274
830823
1739
Dobbiamo risolvere questi problemi,
14:04
and I'm looking forward
to working on them.
to working on them.
275
832586
2515
e non vedo l'ora di lavorarci.
14:07
There are reasons for optimism.
276
835125
1843
Ci sono motivi per essere ottimisti.
14:08
One reason is,
277
836992
1159
Un motivo è,
14:10
there is a massive amount of data.
278
838175
1868
c'è una grande quantità di dati.
14:12
Because remember -- I said
they're going to read everything
they're going to read everything
279
840067
2794
Perché ricordate --
ho detto che leggeranno tutto ciò
ho detto che leggeranno tutto ciò
14:14
the human race has ever written.
280
842885
1546
che la razza umana ha scritto.
14:16
Most of what we write about
is human beings doing things
is human beings doing things
281
844455
2724
Gran parte di ciò che scriviamo
è su uomini che fanno cose
è su uomini che fanno cose
14:19
and other people getting upset about it.
282
847203
1914
e altri che se la prendono per questo.
14:21
So there's a massive amount
of data to learn from.
of data to learn from.
283
849141
2398
Quindi c'è una grande mole di dati
da cui imparare.
da cui imparare.
14:23
There's also a very
strong economic incentive
strong economic incentive
284
851563
2236
C'è anche un incentivo
economico molto forte
economico molto forte
per farlo bene.
14:27
to get this right.
285
855331
1186
Immaginate il vostro robot domestico
a casa.
a casa.
14:28
So imagine your domestic robot's at home.
286
856541
2001
Siete ancora in ritardo dal lavoro
e il robot deve sfamare i bambini,
e il robot deve sfamare i bambini,
14:30
You're late from work again
and the robot has to feed the kids,
and the robot has to feed the kids,
287
858566
3067
14:33
and the kids are hungry
and there's nothing in the fridge.
and there's nothing in the fridge.
288
861657
2823
e i bambini sono affamati
e non c'è niente nel frigo.
e non c'è niente nel frigo.
14:36
And the robot sees the cat.
289
864504
2605
E il robot vede il gatto.
14:39
(Laughter)
290
867133
1692
(Risate)
14:40
And the robot hasn't quite learned
the human value function properly,
the human value function properly,
291
868849
4190
E il robot non ha ancora imparato
i valori umani in modo corretto,
i valori umani in modo corretto,
14:45
so it doesn't understand
292
873063
1251
quindi non capisce
14:46
the sentimental value of the cat outweighs
the nutritional value of the cat.
the nutritional value of the cat.
293
874338
4844
che il valore sentimentale del gatto
supera il suo valore nutrizionale.
supera il suo valore nutrizionale.
14:51
(Laughter)
294
879206
1095
(Risate)
14:52
So then what happens?
295
880325
1748
Quindi cosa succede?
14:54
Well, it happens like this:
296
882097
3297
Be', succede questo:
14:57
"Deranged robot cooks kitty
for family dinner."
for family dinner."
297
885418
2964
"Robot folle cucina il micio
per la cena di famiglia."
per la cena di famiglia."
15:00
That one incident would be the end
of the domestic robot industry.
of the domestic robot industry.
298
888406
4523
Quell'unico incidente sarebbe la fine
dell'industria del robot domestico.
dell'industria del robot domestico.
15:04
So there's a huge incentive
to get this right
to get this right
299
892953
3372
Quindi c'è un enorme incentivo
per farlo bene
per farlo bene
molto prima che arriviamo
alle macchine super intelligenti.
alle macchine super intelligenti.
15:08
long before we reach
superintelligent machines.
superintelligent machines.
300
896349
2715
15:12
So to summarize:
301
900128
1535
Quindi per riassumere:
15:13
I'm actually trying to change
the definition of AI
the definition of AI
302
901687
2881
sto cercando di cambiare
la definizione di IA
la definizione di IA
15:16
so that we have provably
beneficial machines.
beneficial machines.
303
904592
2993
così che probabilmente
avremo macchine vantaggiose.
avremo macchine vantaggiose.
15:19
And the principles are:
304
907609
1222
E i principi sono:
15:20
machines that are altruistic,
305
908855
1398
macchine che siano altruiste,
15:22
that want to achieve only our objectives,
306
910277
2804
che vogliono raggiungere
solo i nostri obiettivi,
solo i nostri obiettivi,
15:25
but that are uncertain
about what those objectives are,
about what those objectives are,
307
913105
3116
ma che sono incerti
sui loro obiettivi,
sui loro obiettivi,
e che guarderanno tutti noi
15:28
and will watch all of us
308
916245
1998
per imparare di più
su cosa vogliamo veramente.
su cosa vogliamo veramente.
15:30
to learn more about what it is
that we really want.
that we really want.
309
918267
3203
15:34
And hopefully in the process,
we will learn to be better people.
we will learn to be better people.
310
922373
3559
E se tutto va bene, in tutto ciò
impareremo ad essere persone migliori.
impareremo ad essere persone migliori.
Grazie tante.
15:37
Thank you very much.
311
925956
1191
15:39
(Applause)
312
927171
3709
(Applausi)
C. Anderson: Molto interessante, Stuart.
15:42
Chris Anderson: So interesting, Stuart.
313
930904
1868
Staremo qui un po'
perché credo che stiano preparando
perché credo che stiano preparando
15:44
We're going to stand here a bit
because I think they're setting up
because I think they're setting up
314
932796
3170
per il prossimo relatore.
15:47
for our next speaker.
315
935990
1151
Un paio di domande.
15:49
A couple of questions.
316
937165
1538
L'idea di programmare nell'ignoranza
sembra intuitivamente molto potente.
sembra intuitivamente molto potente.
15:50
So the idea of programming in ignorance
seems intuitively really powerful.
seems intuitively really powerful.
317
938727
5453
Quando giungi alla super intelligenza,
15:56
As you get to superintelligence,
318
944204
1594
15:57
what's going to stop a robot
319
945822
2258
cosa fermerà un robot
16:00
reading literature and discovering
this idea that knowledge
this idea that knowledge
320
948104
2852
dal leggere letteratura e scoprire
l'idea che la conoscenza
l'idea che la conoscenza
16:02
is actually better than ignorance
321
950980
1572
sia migliore dell'ignoranza,
16:04
and still just shifting its own goals
and rewriting that programming?
and rewriting that programming?
322
952576
4218
e lo indurrà a spostare le sue finalità
e riscrivere la programmazione?
e riscrivere la programmazione?
16:09
Stuart Russell: Yes, so we want
it to learn more, as I said,
it to learn more, as I said,
323
957692
6356
Stuart Russell: Sì, vogliamo
imparare meglio, come ho detto,
imparare meglio, come ho detto,
16:16
about our objectives.
324
964072
1287
sui nostri obiettivi.
16:17
It'll only become more certain
as it becomes more correct,
as it becomes more correct,
325
965383
5521
Diventerà più sicuro solo
quando diventerà più corretto,
quando diventerà più corretto,
16:22
so the evidence is there
326
970928
1945
quindi la prova è questa
16:24
and it's going to be designed
to interpret it correctly.
to interpret it correctly.
327
972897
2724
e sarà progettata
per interpretarla correttamente.
per interpretarla correttamente.
16:27
It will understand, for example,
that books are very biased
that books are very biased
328
975645
3956
Capirà, per esempio,
che i libri sono molto prevenuti
che i libri sono molto prevenuti
16:31
in the evidence they contain.
329
979625
1483
in ciò che contengono.
16:33
They only talk about kings and princes
330
981132
2397
Parlano solo di re e principi
16:35
and elite white male people doing stuff.
331
983553
2800
e di élite di maschi bianchi
che fanno cose.
che fanno cose.
16:38
So it's a complicated problem,
332
986377
2096
Quindi è un problema complicato,
16:40
but as it learns more about our objectives
333
988497
3872
ma siccome impara di più
sui nostri obiettivi
sui nostri obiettivi
16:44
it will become more and more useful to us.
334
992393
2063
diventerà ancora più utile per noi.
16:46
CA: And you couldn't
just boil it down to one law,
just boil it down to one law,
335
994480
2526
CA: E non potresti soltanto
limitarti a una legge,
limitarti a una legge,
16:49
you know, hardwired in:
336
997030
1650
sai, programmata così:
16:50
"if any human ever tries to switch me off,
337
998704
3293
"se un umano cerca di spegnermi,
16:54
I comply. I comply."
338
1002021
1935
lo assecondo. Lo assecondo."
16:55
SR: Absolutely not.
339
1003980
1182
SR: Assolutamente no.
16:57
That would be a terrible idea.
340
1005186
1499
Sarebbe un'idea terribile.
16:58
So imagine that you have
a self-driving car
a self-driving car
341
1006709
2689
Immaginate di avere
una macchina che si guida da sola
una macchina che si guida da sola
17:01
and you want to send your five-year-old
342
1009422
2433
e volete mandare vostro figlio
di cinque anni
di cinque anni
17:03
off to preschool.
343
1011879
1174
all'asilo.
17:05
Do you want your five-year-old
to be able to switch off the car
to be able to switch off the car
344
1013077
3101
Volete che vostro figlio
sia capace di spegnere la macchina
sia capace di spegnere la macchina
17:08
while it's driving along?
345
1016202
1213
mentre va in giro?
17:09
Probably not.
346
1017439
1159
Probabilmente no.
17:10
So it needs to understand how rational
and sensible the person is.
and sensible the person is.
347
1018622
4703
Quindi deve capire quanto razionale
e sensibile sia la persona.
e sensibile sia la persona.
17:15
The more rational the person,
348
1023349
1676
Più razionale è la persona,
17:17
the more willing you are
to be switched off.
to be switched off.
349
1025049
2103
più disponibile siete
a essere spenti.
a essere spenti.
17:19
If the person is completely
random or even malicious,
random or even malicious,
350
1027176
2543
Se la persona è del tutto ignota
o perfino malvagia,
o perfino malvagia,
17:21
then you're less willing
to be switched off.
to be switched off.
351
1029743
2512
allora sarete meno disponibili
a essere spenti.
a essere spenti.
17:24
CA: All right. Stuart, can I just say,
352
1032279
1866
CA: Giusto. Stuart, posso dire solo,
17:26
I really, really hope you
figure this out for us.
figure this out for us.
353
1034169
2314
spero davvero, davvero che tu
lo scopra per noi.
lo scopra per noi.
17:28
Thank you so much for that talk.
That was amazing.
That was amazing.
354
1036507
2375
Grazie per questa conferenza.
È stata fantastica.
È stata fantastica.
17:30
SR: Thank you.
355
1038906
1167
SR: Grazie.
17:32
(Applause)
356
1040097
1837
(Applausi)
Translated by Denise Cosentino
ABOUT THE SPEAKER
Stuart Russell - AI expertStuart Russell wrote the standard text on AI; now he thinks deeply on AI's future -- and the future of us humans, too.
Why you should listen
Stuart Russell is a professor (and formerly chair) of Electrical Engineering and Computer Sciences at University of California at Berkeley. His book Artificial Intelligence: A Modern Approach (with Peter Norvig) is the standard text in AI; it has been translated into 13 languages and is used in more than 1,300 universities in 118 countries. His research covers a wide range of topics in artificial intelligence including machine learning, probabilistic reasoning, knowledge representation, planning, real-time decision making, multitarget tracking, computer vision, computational physiology, global seismic monitoring and philosophical foundations.
He also works for the United Nations, developing a new global seismic monitoring system for the nuclear-test-ban treaty. His current concerns include the threat of autonomous weapons and the long-term future of artificial intelligence and its relation to humanity.
Stuart Russell | Speaker | TED.com