TED@IBM
Grady Booch: Don't fear superintelligent AI
Grady Booch: Non abbiate paura delle super intelligenze artificiali
Filmed:
Readability: 4.7
2,866,438 views
Nuove tecnologie generano nuove ansie, dice lo scienziato e filosofo Grady Booch, ma non c'è bisogno di spaventarsi per un'onnipotente e apatica intelligenza artificiale. Booch allevia le nostre peggiori paure (indotte dalla fantascienza) verso i computer super intelligenti, spiegando il modo in cui insegneremo loro a condividere i nostri valori. Piuttosto che preoccuparci per un'inesistente minaccia all'umanità, è urgente che consideriamo il modo in cui l'intelligenza artificiale potenzierà l'esperienza umana.
Grady Booch - Scientist, philosopher
IBM's Grady Booch is shaping the future of cognitive computing by building intelligent systems that can reason and learn. Full bio
IBM's Grady Booch is shaping the future of cognitive computing by building intelligent systems that can reason and learn. Full bio
Double-click the English transcript below to play the video.
00:12
When I was a kid,
I was the quintessential nerd.
I was the quintessential nerd.
0
760
3840
Quando ero piccolo, ero la quintessenza
dell'essere nerd.
dell'essere nerd.
00:17
I think some of you were, too.
1
5320
2176
Penso che anche alcuni di voi lo fossero.
00:19
(Laughter)
2
7520
1216
(Risate)
00:20
And you, sir, who laughed the loudest,
you probably still are.
you probably still are.
3
8760
3216
E lei, che ride più forte
degli altri, probabilmente lo è ancora.
degli altri, probabilmente lo è ancora.
00:24
(Laughter)
4
12000
2256
(Risate)
00:26
I grew up in a small town
in the dusty plains of north Texas,
in the dusty plains of north Texas,
5
14280
3496
Sono cresciuto in una piccola città
nelle piane polverose del nord Texas,
nelle piane polverose del nord Texas,
00:29
the son of a sheriff
who was the son of a pastor.
who was the son of a pastor.
6
17800
3336
figlio di uno sceriffo che era figlio
di un pastore.
di un pastore.
00:33
Getting into trouble was not an option.
7
21160
1920
Mettersi nei guai non era contemplato.
00:36
And so I started reading
calculus books for fun.
calculus books for fun.
8
24040
3256
Quindi ho iniziato a leggere libri
di calcolo per divertimento.
di calcolo per divertimento.
00:39
(Laughter)
9
27320
1536
(Risate)
00:40
You did, too.
10
28880
1696
Lo avete fatto anche voi.
00:42
That led me to building a laser
and a computer and model rockets,
and a computer and model rockets,
11
30600
3736
Ciò mi ha portato a costruire un laser,
un computer e modellini di razzi,
un computer e modellini di razzi,
00:46
and that led me to making
rocket fuel in my bedroom.
rocket fuel in my bedroom.
12
34360
3000
e poi a creare del propellente per razzi
nella mia stanza.
nella mia stanza.
00:49
Now, in scientific terms,
13
37960
3656
Ora, in termini scientifici,
00:53
we call this a very bad idea.
14
41640
3256
questa si chiama "una pessima idea".
00:56
(Laughter)
15
44920
1216
(Risate)
00:58
Around that same time,
16
46160
2176
All'incirca in quel periodo,
01:00
Stanley Kubrick's "2001: A Space Odyssey"
came to the theaters,
came to the theaters,
17
48360
3216
"2001: Odissea nello spazio" di Kubrick,
usciva nei cinema
usciva nei cinema
01:03
and my life was forever changed.
18
51600
2200
e lì la mia vita cambiò per sempre.
01:06
I loved everything about that movie,
19
54280
2056
Ho amato tutto di quel film,
01:08
especially the HAL 9000.
20
56360
2536
specialmente HAL 9000.
01:10
Now, HAL was a sentient computer
21
58920
2056
HAL era un computer senziente
01:13
designed to guide the Discovery spacecraft
22
61000
2456
progettato per guidare
l'astronave Discovery
l'astronave Discovery
01:15
from the Earth to Jupiter.
23
63480
2536
dalla Terra a Giove.
01:18
HAL was also a flawed character,
24
66040
2056
HAL era anche un personaggio fallace,
01:20
for in the end he chose
to value the mission over human life.
to value the mission over human life.
25
68120
4280
perché alla fine preferì
la missione alla vita umana.
la missione alla vita umana.
01:24
Now, HAL was a fictional character,
26
72840
2096
HAL era un personaggio fittizio
01:26
but nonetheless he speaks to our fears,
27
74960
2656
ma nonostante ciò riusciva
a parlare alle nostre paure,
a parlare alle nostre paure,
01:29
our fears of being subjugated
28
77640
2096
quelle di essere soggiogati
01:31
by some unfeeling, artificial intelligence
29
79760
3016
da qualche intelligenza artificiale,
priva di sentimenti
priva di sentimenti
01:34
who is indifferent to our humanity.
30
82800
1960
che è indifferente alla nostra umanità.
01:37
I believe that such fears are unfounded.
31
85880
2576
Credo che tali paure siano infondate.
01:40
Indeed, we stand at a remarkable time
32
88480
2696
Infatti, viviamo in un'epoca significativa
01:43
in human history,
33
91200
1536
della storia dell'umanità,
01:44
where, driven by refusal to accept
the limits of our bodies and our minds,
the limits of our bodies and our minds,
34
92760
4976
in cui, guidati dal rifiuto di accettare
i limiti del corpo e della mente
i limiti del corpo e della mente
01:49
we are building machines
35
97760
1696
costruiamo macchine
01:51
of exquisite, beautiful
complexity and grace
complexity and grace
36
99480
3616
di ricercata, bellissima complessità
e grazia
e grazia
01:55
that will extend the human experience
37
103120
2056
che espanderà l'esperienza umana
01:57
in ways beyond our imagining.
38
105200
1680
in modi che non possiamo
immaginare.
immaginare.
01:59
After a career that led me
from the Air Force Academy
from the Air Force Academy
39
107720
2576
Dopo una carriera che va
dall'Air Force Academy
dall'Air Force Academy
02:02
to Space Command to now,
40
110320
1936
allo Space Command a oggi,
02:04
I became a systems engineer,
41
112280
1696
sono un ingegnere sistemista,
02:06
and recently I was drawn
into an engineering problem
into an engineering problem
42
114000
2736
e da poco sono stato coinvolto
in un problema d'ingegneria
in un problema d'ingegneria
02:08
associated with NASA's mission to Mars.
43
116760
2576
associato alla spedizione NASA su Marte.
02:11
Now, in space flights to the Moon,
44
119360
2496
Nelle spedizioni verso la Luna,
02:13
we can rely upon
mission control in Houston
mission control in Houston
45
121880
3136
possiamo affidarci
al centro di controllo di Houston
al centro di controllo di Houston
02:17
to watch over all aspects of a flight.
46
125040
1976
perché sorvegli la spedizione.
02:19
However, Mars is 200 times further away,
47
127040
3536
In ogni caso, Marte è 200 volte
più lontano,
più lontano,
02:22
and as a result it takes
on average 13 minutes
on average 13 minutes
48
130600
3216
e perciò ci vogliono in media
13 minuti
13 minuti
02:25
for a signal to travel
from the Earth to Mars.
from the Earth to Mars.
49
133840
3136
perché un segnale arrivi
dalla Terra a Marte.
dalla Terra a Marte.
02:29
If there's trouble,
there's not enough time.
there's not enough time.
50
137000
3400
Se si verifica un problema,
non c'è abbastanza tempo.
non c'è abbastanza tempo.
02:32
And so a reasonable engineering solution
51
140840
2496
E quindi una soluzione ingegneristica
ragionevole
ragionevole
02:35
calls for us to put mission control
52
143360
2576
ci chiama a mettere dispositivi
di controllo
di controllo
02:37
inside the walls of the Orion spacecraft.
53
145960
3016
dentro la navicella Orion.
02:41
Another fascinating idea
in the mission profile
in the mission profile
54
149000
2896
Un'altra affascinante idea per le missioni
02:43
places humanoid robots
on the surface of Mars
on the surface of Mars
55
151920
2896
è piazzare robot umanoidi
sulla superficie di Marte
sulla superficie di Marte
02:46
before the humans themselves arrive,
56
154840
1856
prima che vi arrivino gli esseri umani,
02:48
first to build facilities
57
156720
1656
affinché facilitino il lavoro
02:50
and later to serve as collaborative
members of the science team.
members of the science team.
58
158400
3360
e collaborino
con la squadra scientifica.
con la squadra scientifica.
02:55
Now, as I looked at this
from an engineering perspective,
from an engineering perspective,
59
163400
2736
Ora, lavorando
da una prospettiva ingegneristica,
da una prospettiva ingegneristica,
02:58
it became very clear to me
that what I needed to architect
that what I needed to architect
60
166160
3176
fu molto chiaro per me che ciò
che dovevo architettare
che dovevo architettare
03:01
was a smart, collaborative,
61
169360
2176
era un'intelligenza artificiale
brillante, collaborativa,
socialmente ragionevole.
socialmente ragionevole.
03:03
socially intelligent
artificial intelligence.
artificial intelligence.
62
171560
2376
03:05
In other words, I needed to build
something very much like a HAL
something very much like a HAL
63
173960
4296
In altre parole, dovevo creare
qualcosa molto simile ad HAL
qualcosa molto simile ad HAL
03:10
but without the homicidal tendencies.
64
178280
2416
ma senza le sue tendenze omicide.
03:12
(Laughter)
65
180720
1360
(Risate)
03:14
Let's pause for a moment.
66
182920
1816
Fermiamoci per un momento.
03:16
Is it really possible to build
an artificial intelligence like that?
an artificial intelligence like that?
67
184760
3896
È davvero possibile costruire
un'intelligenza artificiale come quella?
un'intelligenza artificiale come quella?
03:20
Actually, it is.
68
188680
1456
In effetti sì.
03:22
In many ways,
69
190160
1256
Sotto molti aspetti,
03:23
this is a hard engineering problem
70
191440
1976
è un complesso problema ingegneristico
03:25
with elements of AI,
71
193440
1456
con elementi di IA,
03:26
not some wet hair ball of an AI problem
that needs to be engineered.
that needs to be engineered.
72
194920
4696
non un inestricabile problema di IA
che ha bisogno dell'ingegneria.
che ha bisogno dell'ingegneria.
03:31
To paraphrase Alan Turing,
73
199640
2656
Parafrasando Alan Turing,
03:34
I'm not interested
in building a sentient machine.
in building a sentient machine.
74
202320
2376
non voglio costruire
una macchina senziente.
una macchina senziente.
03:36
I'm not building a HAL.
75
204720
1576
Non sto costruendo un HAL.
03:38
All I'm after is a simple brain,
76
206320
2416
Ciò che cerco è un semplice cervello,
03:40
something that offers
the illusion of intelligence.
the illusion of intelligence.
77
208760
3120
qualcosa che offra l'illusione
dell'intelligenza.
dell'intelligenza.
03:45
The art and the science of computing
have come a long way
have come a long way
78
213000
3136
L'arte e la scienza dell'elaborazione dati
ha fatto molta strada
ha fatto molta strada
03:48
since HAL was onscreen,
79
216160
1496
da quando è apparso HAL,
03:49
and I'd imagine if his inventor
Dr. Chandra were here today,
Dr. Chandra were here today,
80
217680
3216
e immagino che se il suo inventore,
il Dott. Chandra, fosse qui oggi
il Dott. Chandra, fosse qui oggi
03:52
he'd have a whole lot of questions for us.
81
220920
2336
avrebbe un sacco di domande per noi.
03:55
Is it really possible for us
82
223280
2096
È davvero possibile per noi
03:57
to take a system of millions
upon millions of devices,
upon millions of devices,
83
225400
4016
prendere un sistema di milioni
e milioni di dispositivi,
e milioni di dispositivi,
04:01
to read in their data streams,
84
229440
1456
leggere le loro sequenze dati,
04:02
to predict their failures
and act in advance?
and act in advance?
85
230920
2256
prevedere i loro fallimenti
e azioni in anticipo?
e azioni in anticipo?
04:05
Yes.
86
233200
1216
Sì.
Possiamo costruire sistemi che conversino
con noi in linguaggio naturale?
con noi in linguaggio naturale?
04:06
Can we build systems that converse
with humans in natural language?
with humans in natural language?
87
234440
3176
04:09
Yes.
88
237640
1216
Sì.
04:10
Can we build systems
that recognize objects, identify emotions,
that recognize objects, identify emotions,
89
238880
2976
Sistemi che riconoscano oggetti,
identifichino emozioni,
identifichino emozioni,
04:13
emote themselves,
play games and even read lips?
play games and even read lips?
90
241880
3376
si emozionino a loro volta,
giochino e leggano persino il labiale?
giochino e leggano persino il labiale?
04:17
Yes.
91
245280
1216
Sì.
04:18
Can we build a system that sets goals,
92
246520
2136
Un sistema che ponga degli obiettivi,
04:20
that carries out plans against those goals
and learns along the way?
and learns along the way?
93
248680
3616
che pianifichi in base ad essi
e che impari strada facendo?
e che impari strada facendo?
04:24
Yes.
94
252320
1216
Sì.
04:25
Can we build systems
that have a theory of mind?
that have a theory of mind?
95
253560
3336
Costruire sistemi che abbiano
una teoria della mente?
una teoria della mente?
04:28
This we are learning to do.
96
256920
1496
Stiamo imparando a farlo.
04:30
Can we build systems that have
an ethical and moral foundation?
an ethical and moral foundation?
97
258440
3480
Possiamo costruire sistemi che abbiano
un'etica e una morale?
un'etica e una morale?
04:34
This we must learn how to do.
98
262480
2040
Dobbiamo imparare a farlo.
04:37
So let's accept for a moment
99
265360
1376
Accettiamo per un momento
04:38
that it's possible to build
such an artificial intelligence
such an artificial intelligence
100
266760
2896
che si possa costruire una simile
intelligenza artificiale
intelligenza artificiale
04:41
for this kind of mission and others.
101
269680
2136
per questo tipo di missioni o per altre.
04:43
The next question
you must ask yourself is,
you must ask yourself is,
102
271840
2536
La domanda successiva che dovete porvi è:
04:46
should we fear it?
103
274400
1456
dovremmo averne paura?
04:47
Now, every new technology
104
275880
1976
Qualsiasi nuova tecnologia
04:49
brings with it
some measure of trepidation.
some measure of trepidation.
105
277880
2896
porta con sé un po' di apprensione.
04:52
When we first saw cars,
106
280800
1696
Quando arrivarono le prime auto,
04:54
people lamented that we would see
the destruction of the family.
the destruction of the family.
107
282520
4016
la gente temeva di assistere
alla distruzione della famiglia.
alla distruzione della famiglia.
04:58
When we first saw telephones come in,
108
286560
2696
Quando arrivarono i telefoni,
05:01
people were worried it would destroy
all civil conversation.
all civil conversation.
109
289280
2896
si preoccupò per la fine
della conversazione civile.
della conversazione civile.
05:04
At a point in time we saw
the written word become pervasive,
the written word become pervasive,
110
292200
3936
E, quando assistette alla
diffusione della scrittura,
diffusione della scrittura,
05:08
people thought we would lose
our ability to memorize.
our ability to memorize.
111
296160
2496
la gente pensò di perdere
la capacità di memorizzare.
la capacità di memorizzare.
05:10
These things are all true to a degree,
112
298680
2056
Tutto questo è vero
fino a un certo punto,
fino a un certo punto,
05:12
but it's also the case
that these technologies
that these technologies
113
300760
2416
ma si dà anche il caso
che queste tecnologie
che queste tecnologie
05:15
brought to us things
that extended the human experience
that extended the human experience
114
303200
3376
ci abbiano portato cose
che hanno allargato l'esperienza umana
che hanno allargato l'esperienza umana
05:18
in some profound ways.
115
306600
1880
profondamente.
05:21
So let's take this a little further.
116
309840
2280
Approfondiamo la questione.
05:25
I do not fear the creation
of an AI like this,
of an AI like this,
117
313120
4736
Non ho paura della creazione di un'IA
come questa,
come questa,
05:29
because it will eventually
embody some of our values.
embody some of our values.
118
317880
3816
perché alla fine incarnerà alcuni
dei nostri valori.
dei nostri valori.
05:33
Consider this: building a cognitive system
is fundamentally different
is fundamentally different
119
321720
3496
Considerate questo: costruire
un sistema cognitivo è molto diverso
un sistema cognitivo è molto diverso
05:37
than building a traditional
software-intensive system of the past.
software-intensive system of the past.
120
325240
3296
dal costruire un sistema software intensivo
tradizionale del passato.
tradizionale del passato.
05:40
We don't program them. We teach them.
121
328560
2456
Non li programmiamo ma insegniamo loro.
05:43
In order to teach a system
how to recognize flowers,
how to recognize flowers,
122
331040
2656
Per insegnare a un sistema
a riconoscere i fiori,
a riconoscere i fiori,
05:45
I show it thousands of flowers
of the kinds I like.
of the kinds I like.
123
333720
3016
gli mostro migliaia di fiori, dei tipi
che piacciono a me.
che piacciono a me.
05:48
In order to teach a system
how to play a game --
how to play a game --
124
336760
2256
Per insegnare a un sistema
a giocare a un gioco --
a giocare a un gioco --
05:51
Well, I would. You would, too.
125
339040
1960
beh lo farei, farei anche questo.
05:54
I like flowers. Come on.
126
342600
2040
Mi piacciono i fiori. Andiamo.
05:57
To teach a system
how to play a game like Go,
how to play a game like Go,
127
345440
2856
Per insegnare a un sistema a giocare
a un gioco come Go,
a un gioco come Go,
06:00
I'd have it play thousands of games of Go,
128
348320
2056
devo fargli fare migliaia di partite a Go,
06:02
but in the process I also teach it
129
350400
1656
e nel frattempo gli insegno anche
06:04
how to discern
a good game from a bad game.
a good game from a bad game.
130
352080
2416
a distinguere un buon gioco
da un gioco cattivo.
da un gioco cattivo.
06:06
If I want to create an artificially
intelligent legal assistant,
intelligent legal assistant,
131
354520
3696
Se voglio creare un assistente legale
artificialmente intelligente,
artificialmente intelligente,
06:10
I will teach it some corpus of law
132
358240
1776
gli insegnerò il corpus legislativo
06:12
but at the same time I am fusing with it
133
360040
2856
ma allo stesso tempo gli infonderò
06:14
the sense of mercy and justice
that is part of that law.
that is part of that law.
134
362920
2880
il senso di pietà e giustizia
che è parte di quella legge.
che è parte di quella legge.
06:18
In scientific terms,
this is what we call ground truth,
this is what we call ground truth,
135
366560
2976
In termini scientifici definiamo tutto
questo "ground truth",
questo "ground truth",
06:21
and here's the important point:
136
369560
2016
e questo è il punto fondamentale:
06:23
in producing these machines,
137
371600
1456
nel produrre queste macchine,
06:25
we are therefore teaching them
a sense of our values.
a sense of our values.
138
373080
3416
insegniamo anche loro
il senso dei nostri valori.
il senso dei nostri valori.
06:28
To that end, I trust
an artificial intelligence
an artificial intelligence
139
376520
3136
Con questo fine, mi fido
di un'intelligenza artificiale
di un'intelligenza artificiale
06:31
the same, if not more,
as a human who is well-trained.
as a human who is well-trained.
140
379680
3640
come, se non di più, mi fido
di un essere umano ben istruito.
di un essere umano ben istruito.
06:36
But, you may ask,
141
384080
1216
Ma, potreste chiedere,
06:37
what about rogue agents,
142
385320
2616
che ne è degli agenti corrotti,
06:39
some well-funded
nongovernment organization?
nongovernment organization?
143
387960
3336
di qualche organizzazione non governativa
ben finanziata?
ben finanziata?
06:43
I do not fear an artificial intelligence
in the hand of a lone wolf.
in the hand of a lone wolf.
144
391320
3816
Non ho paura di un'intelligenza
artificiale in mano a un lupo solitario.
artificiale in mano a un lupo solitario.
06:47
Clearly, we cannot protect ourselves
against all random acts of violence,
against all random acts of violence,
145
395160
4536
È ovvio, non possiamo proteggerci
da tutti gli arbitrari atti di violenza,
da tutti gli arbitrari atti di violenza,
06:51
but the reality is such a system
146
399720
2136
ma la realtà è che un simile sistema
06:53
requires substantial training
and subtle training
and subtle training
147
401880
3096
richiede un allenamento tanto acuto
06:57
far beyond the resources of an individual.
148
405000
2296
da andare ben oltre le risorse
di un individuo.
di un individuo.
06:59
And furthermore,
149
407320
1216
E inoltre,
07:00
it's far more than just injecting
an internet virus to the world,
an internet virus to the world,
150
408560
3256
è molto più che iniettare un virus
via internet al mondo,
via internet al mondo,
07:03
where you push a button,
all of a sudden it's in a million places
all of a sudden it's in a million places
151
411840
3096
dove premi un bottone e subito
lo ritrovi in milioni di posti
lo ritrovi in milioni di posti
07:06
and laptops start blowing up
all over the place.
all over the place.
152
414960
2456
e i computer iniziano ovunque
ad andare in tilt.
ad andare in tilt.
07:09
Now, these kinds of substances
are much larger,
are much larger,
153
417440
2816
Questo tipo di elementi
è molto più complesso
è molto più complesso
07:12
and we'll certainly see them coming.
154
420280
1715
e certamente lo sperimenteremo.
07:14
Do I fear that such
an artificial intelligence
an artificial intelligence
155
422520
3056
Ho paura che una simile
intelligenza artificiale
intelligenza artificiale
07:17
might threaten all of humanity?
156
425600
1960
possa minacciare tutta l'umanità?
07:20
If you look at movies
such as "The Matrix," "Metropolis,"
such as "The Matrix," "Metropolis,"
157
428280
4376
Se guardate film come
"Matrix", "Metropolis",
"Matrix", "Metropolis",
07:24
"The Terminator,"
shows such as "Westworld,"
shows such as "Westworld,"
158
432680
3176
"Terminator", show come
"Westworld",
"Westworld",
07:27
they all speak of this kind of fear.
159
435880
2136
tutti parlano di questo tipo di paura.
07:30
Indeed, in the book "Superintelligence"
by the philosopher Nick Bostrom,
by the philosopher Nick Bostrom,
160
438040
4296
Infatti, nel libro "Superintelligence"
del filosofo Nick Bostrom,
del filosofo Nick Bostrom,
07:34
he picks up on this theme
161
442360
1536
l'autore considera questo tema
07:35
and observes that a superintelligence
might not only be dangerous,
might not only be dangerous,
162
443920
4016
e osserva che una super intelligenza
potrebbe non solo essere pericolosa,
potrebbe non solo essere pericolosa,
07:39
it could represent an existential threat
to all of humanity.
to all of humanity.
163
447960
3856
ma rappresentare anche una minaccia
esistenziale per tutta l'umanità.
esistenziale per tutta l'umanità.
07:43
Dr. Bostrom's basic argument
164
451840
2216
La principale argomentazione del
Dott. Bostrom
Dott. Bostrom
07:46
is that such systems will eventually
165
454080
2736
è che tali sistemi potrebbero prima o poi
07:48
have such an insatiable
thirst for information
thirst for information
166
456840
3256
avere una sete tale di informazioni
07:52
that they will perhaps learn how to learn
167
460120
2896
che potrebbero forse imparare
come si impara
come si impara
07:55
and eventually discover
that they may have goals
that they may have goals
168
463040
2616
e anche scoprire che potrebbero
avere obiettivi
avere obiettivi
07:57
that are contrary to human needs.
169
465680
2296
contrari ai bisogni umani.
08:00
Dr. Bostrom has a number of followers.
170
468000
1856
Bostrom ha un gran numero
di seguaci.
di seguaci.
08:01
He is supported by people
such as Elon Musk and Stephen Hawking.
such as Elon Musk and Stephen Hawking.
171
469880
4320
È supportato da persone come
Elon Musk e Stephen Hawking.
Elon Musk e Stephen Hawking.
08:06
With all due respect
172
474880
2400
Con tutto il rispetto dovuto
08:10
to these brilliant minds,
173
478160
2016
a queste menti brillanti,
08:12
I believe that they
are fundamentally wrong.
are fundamentally wrong.
174
480200
2256
credo che siano gravemente in errore.
08:14
Now, there are a lot of pieces
of Dr. Bostrom's argument to unpack,
of Dr. Bostrom's argument to unpack,
175
482480
3176
Ci sarebbero molte parti della teoria
di Bostrom da analizzare,
di Bostrom da analizzare,
08:17
and I don't have time to unpack them all,
176
485680
2136
e non ho il tempo di analizzarle tutte,
08:19
but very briefly, consider this:
177
487840
2696
ma molto brevemente, considerate questo:
08:22
super knowing is very different
than super doing.
than super doing.
178
490560
3736
una grande conoscenza è diversa
da una grande capacità di azione.
da una grande capacità di azione.
08:26
HAL was a threat to the Discovery crew
179
494320
1896
HAL era una minaccia per l'equipaggio
08:28
only insofar as HAL commanded
all aspects of the Discovery.
all aspects of the Discovery.
180
496240
4416
solo finché controllava tutti gli aspetti
del Discovery.
del Discovery.
08:32
So it would have to be
with a superintelligence.
with a superintelligence.
181
500680
2496
Quindi avrebbe dovuto avere
una super intelligenza.
una super intelligenza.
08:35
It would have to have dominion
over all of our world.
over all of our world.
182
503200
2496
Avrebbe dovuto dominare tutto
il mondo.
il mondo.
08:37
This is the stuff of Skynet
from the movie "The Terminator"
from the movie "The Terminator"
183
505720
2816
Questa è la squadra Skynet dal
film "Terminator"
film "Terminator"
08:40
in which we had a superintelligence
184
508560
1856
in cui abbiamo una super intelligenza
08:42
that commanded human will,
185
510440
1376
che domina la volontà umana
08:43
that directed every device
that was in every corner of the world.
that was in every corner of the world.
186
511840
3856
e ogni congegno in ogni parte del mondo.
08:47
Practically speaking,
187
515720
1456
In pratica,
08:49
it ain't gonna happen.
188
517200
2096
questo non succederà.
08:51
We are not building AIs
that control the weather,
that control the weather,
189
519320
3056
Non stiamo costruendo IA
che controllino il meteo,
che controllino il meteo,
08:54
that direct the tides,
190
522400
1336
le maree,
08:55
that command us
capricious, chaotic humans.
capricious, chaotic humans.
191
523760
3376
che comandino su noi capricciosi
e caotici umani.
e caotici umani.
08:59
And furthermore, if such
an artificial intelligence existed,
an artificial intelligence existed,
192
527160
3896
Inoltre, se una simile intelligenza
artificiale esistesse,
artificiale esistesse,
09:03
it would have to compete
with human economies,
with human economies,
193
531080
2936
dovrebbe competere con le economie
degli esseri umani,
degli esseri umani,
09:06
and thereby compete for resources with us.
194
534040
2520
e quindi competere con noi
per le risorse disponibili.
per le risorse disponibili.
09:09
And in the end --
195
537200
1216
E infine --
09:10
don't tell Siri this --
196
538440
1240
non ditelo a Siri --
09:12
we can always unplug them.
197
540440
1376
possiamo sempre disattivarli.
09:13
(Laughter)
198
541840
2120
(Risate)
09:17
We are on an incredible journey
199
545360
2456
Siamo parte di un incredibile viaggio
09:19
of coevolution with our machines.
200
547840
2496
di co-evoluzione con altre macchine.
09:22
The humans we are today
201
550360
2496
Gli esseri umani che siamo oggi
09:24
are not the humans we will be then.
202
552880
2536
non sono quelli che saremo in futuro.
09:27
To worry now about the rise
of a superintelligence
of a superintelligence
203
555440
3136
Preoccuparsi ora della minaccia
di una super-intelligenza
di una super-intelligenza
09:30
is in many ways a dangerous distraction
204
558600
3056
è per molti aspetti
una distrazione pericolosa
una distrazione pericolosa
09:33
because the rise of computing itself
205
561680
2336
perché l'incremento della
computerizzazione
computerizzazione
09:36
brings to us a number
of human and societal issues
of human and societal issues
206
564040
3016
ci presenta una quantità di questioni
umane e sociali
umane e sociali
09:39
to which we must now attend.
207
567080
1640
di cui adesso dobbiamo occuparci.
09:41
How shall I best organize society
208
569360
2816
Come posso organizzare al meglio
la società
la società
09:44
when the need for human labor diminishes?
209
572200
2336
quando diminuirà la necessità
del lavoro umano?
del lavoro umano?
09:46
How can I bring understanding
and education throughout the globe
and education throughout the globe
210
574560
3816
Come posso fornire al mondo
conoscenza ed educazione
conoscenza ed educazione
09:50
and still respect our differences?
211
578400
1776
rispettando le nostre differenze?
09:52
How might I extend and enhance human life
through cognitive healthcare?
through cognitive healthcare?
212
580200
4256
Come posso estendere e migliorare la vita
umana attraverso la salute cognitiva?
umana attraverso la salute cognitiva?
09:56
How might I use computing
213
584480
2856
Come posso usare la computerizzazione
09:59
to help take us to the stars?
214
587360
1760
per raggiungere le stelle?
10:01
And that's the exciting thing.
215
589760
2040
Ed è questa la cosa eccitante.
10:04
The opportunities to use computing
216
592400
2336
Le opportunità di elaborare dati
10:06
to advance the human experience
217
594760
1536
per affinare l'esperienza umana
10:08
are within our reach,
218
596320
1416
sono alla nostra portata,
10:09
here and now,
219
597760
1856
qui e adesso,
10:11
and we are just beginning.
220
599640
1680
e siamo solo all'inizio.
10:14
Thank you very much.
221
602280
1216
Grazie mille.
10:15
(Applause)
222
603520
4286
(Applausi)
ABOUT THE SPEAKER
Grady Booch - Scientist, philosopherIBM's Grady Booch is shaping the future of cognitive computing by building intelligent systems that can reason and learn.
Why you should listen
When he was 13, Grady Booch saw 2001: A Space Odyssey in the theaters for the first time. Ever since, he's been trying to build Hal (albeit one without the homicidal tendencies). A scientist, storyteller and philosopher, Booch is Chief Scientist for Software Engineering as well as Chief Scientist for Watson/M at IBM Research, where he leads IBM's research and development for embodied cognition. Having originated the term and the practice of object-oriented design, he is best known for his work in advancing the fields of software engineering and software architecture.
A co-author of the Unified Modeling Language (UML), a founding member of the Agile Allianc, and a founding member of the Hillside Group, Booch has published six books and several hundred technical articles, including an ongoing column for IEEE Software. He's also a trustee for the Computer History Museum, an IBM Fellow, an ACM Fellow and IEEE Fellow. He has been awarded the Lovelace Medal and has given the Turing Lecture for the BCS, and was recently named an IEEE Computer Pioneer.
Booch is currently deeply involved in the development of cognitive systems and is also developing a major trans-media documentary for public broadcast on the intersection of computing and the human experience.
Grady Booch | Speaker | TED.com