TED@IBM
Grady Booch: Don't fear superintelligent AI
Grady Booch: No le teman a la superinteligente IA
Filmed:
Readability: 4.7
2,866,438 views
La nueva tecnología genera nuevas ansiedades, dice el científico y filósofo Grady Booch, pero no hay por qué temerle a la poderosa e insensible IA. Booch disipa nuestros peores miedos (inducidos por la sci-fi) acerca de las computadoras superinteligentes explicando cómo enseñarles, más no programarlas, para compartir nuestros valores. En lugar de preocuparnos acerca de una improbable amenaza existencial, nos incita a pensar cómo la inteligencia artificial mejorará la vida humana.
Grady Booch - Scientist, philosopher
IBM's Grady Booch is shaping the future of cognitive computing by building intelligent systems that can reason and learn. Full bio
IBM's Grady Booch is shaping the future of cognitive computing by building intelligent systems that can reason and learn. Full bio
Double-click the English transcript below to play the video.
Cuando era niño,
era un nerd por excelencia.
era un nerd por excelencia.
00:12
When I was a kid,
I was the quintessential nerd.
I was the quintessential nerd.
0
760
3840
00:17
I think some of you were, too.
1
5320
2176
Creo que algunos de Uds. también.
00:19
(Laughter)
2
7520
1216
(Risas)
00:20
And you, sir, who laughed the loudest,
you probably still are.
you probably still are.
3
8760
3216
Y Ud. señor, el que se rio más fuerte,
probablemente aún lo sea.
probablemente aún lo sea.
00:24
(Laughter)
4
12000
2256
(Risas)
00:26
I grew up in a small town
in the dusty plains of north Texas,
in the dusty plains of north Texas,
5
14280
3496
Crecí en un pueblo pequeño
en los llanos del norte de Tejas,
en los llanos del norte de Tejas,
00:29
the son of a sheriff
who was the son of a pastor.
who was the son of a pastor.
6
17800
3336
hijo de un comisario,
que fue hijo de un pastor.
que fue hijo de un pastor.
00:33
Getting into trouble was not an option.
7
21160
1920
Meterse en problemas
no era una opción.
no era una opción.
00:36
And so I started reading
calculus books for fun.
calculus books for fun.
8
24040
3256
Así es que comencé a
leer libros de cálculo por diversión.
leer libros de cálculo por diversión.
00:39
(Laughter)
9
27320
1536
(Risas)
00:40
You did, too.
10
28880
1696
Uds. también lo hicieron.
00:42
That led me to building a laser
and a computer and model rockets,
and a computer and model rockets,
11
30600
3736
Eso me llevó a crear un láser,
una computadora y modelos de cohetes,
una computadora y modelos de cohetes,
00:46
and that led me to making
rocket fuel in my bedroom.
rocket fuel in my bedroom.
12
34360
3000
y eso me llevó a hacer
combustible para cohetes en mi habitación.
combustible para cohetes en mi habitación.
00:49
Now, in scientific terms,
13
37960
3656
En términos científicos,
00:53
we call this a very bad idea.
14
41640
3256
esta es una muy mala idea.
00:56
(Laughter)
15
44920
1216
(Risas)
00:58
Around that same time,
16
46160
2176
Por esos días
01:00
Stanley Kubrick's "2001: A Space Odyssey"
came to the theaters,
came to the theaters,
17
48360
3216
se estrenó "2001: Una Odisea
en el Espacio" de Stanley Kubrick,
en el Espacio" de Stanley Kubrick,
01:03
and my life was forever changed.
18
51600
2200
y mi vida cambió para siempre.
01:06
I loved everything about that movie,
19
54280
2056
Me encantó todo de esa película,
01:08
especially the HAL 9000.
20
56360
2536
especialmente el HAL 9000.
01:10
Now, HAL was a sentient computer
21
58920
2056
HAL era un computador sensible
01:13
designed to guide the Discovery spacecraft
22
61000
2456
diseñado para guiar
la aeronave Discovery
la aeronave Discovery
01:15
from the Earth to Jupiter.
23
63480
2536
de la Tierra a Júpiter.
01:18
HAL was also a flawed character,
24
66040
2056
HAL además era imperfecto,
01:20
for in the end he chose
to value the mission over human life.
to value the mission over human life.
25
68120
4280
porque eligió el valor de la misión
sobre la vida humana.
sobre la vida humana.
01:24
Now, HAL was a fictional character,
26
72840
2096
HAL era un personaje ficticio,
01:26
but nonetheless he speaks to our fears,
27
74960
2656
y sin embargo habla sobre
nuestros temores,
nuestros temores,
01:29
our fears of being subjugated
28
77640
2096
nuestros temores a ser subyugados
01:31
by some unfeeling, artificial intelligence
29
79760
3016
por alguna insensible
inteligencia artificial
inteligencia artificial
01:34
who is indifferent to our humanity.
30
82800
1960
indiferente a nuestra humanidad.
01:37
I believe that such fears are unfounded.
31
85880
2576
Creo que esos temores
son infundados.
son infundados.
01:40
Indeed, we stand at a remarkable time
32
88480
2696
De hecho, estamos en un tiempo notable
01:43
in human history,
33
91200
1536
en la historia de la humanidad,
01:44
where, driven by refusal to accept
the limits of our bodies and our minds,
the limits of our bodies and our minds,
34
92760
4976
donde, motivados por la negación a
aceptar los límites del cuerpo y mente,
aceptar los límites del cuerpo y mente,
01:49
we are building machines
35
97760
1696
construimos máquinas
01:51
of exquisite, beautiful
complexity and grace
complexity and grace
36
99480
3616
de complejidad y gracia
exquisita y hermosa
exquisita y hermosa
01:55
that will extend the human experience
37
103120
2056
que expanden la experiencia humana
01:57
in ways beyond our imagining.
38
105200
1680
más allá de nuestra imaginación.
Tras una carrera que me llevó
de la Academia de la Fuerza Aérea
de la Academia de la Fuerza Aérea
01:59
After a career that led me
from the Air Force Academy
from the Air Force Academy
39
107720
2576
02:02
to Space Command to now,
40
110320
1936
a comandante de estación espacial,
02:04
I became a systems engineer,
41
112280
1696
me volví ingeniero de sistemas,
02:06
and recently I was drawn
into an engineering problem
into an engineering problem
42
114000
2736
y recientemente me encontré
con un problema de ingeniería
con un problema de ingeniería
02:08
associated with NASA's mission to Mars.
43
116760
2576
relacionado con la misión
de la NASA a Marte.
de la NASA a Marte.
02:11
Now, in space flights to the Moon,
44
119360
2496
En vuelos espaciales a la Luna,
02:13
we can rely upon
mission control in Houston
mission control in Houston
45
121880
3136
dependemos del control
de la misión en Houston
de la misión en Houston
para vigilar todos los aspectos
de un vuelo.
de un vuelo.
02:17
to watch over all aspects of a flight.
46
125040
1976
02:19
However, Mars is 200 times further away,
47
127040
3536
Sin embargo,
Marte está 200 veces más lejos,
Marte está 200 veces más lejos,
02:22
and as a result it takes
on average 13 minutes
on average 13 minutes
48
130600
3216
como resultado toma
en promedio 13 minutos
en promedio 13 minutos
02:25
for a signal to travel
from the Earth to Mars.
from the Earth to Mars.
49
133840
3136
para que una señal viaje
de la Tierra a Marte.
de la Tierra a Marte.
02:29
If there's trouble,
there's not enough time.
there's not enough time.
50
137000
3400
Si hay algún percance,
no hay suficiente tiempo.
no hay suficiente tiempo.
02:32
And so a reasonable engineering solution
51
140840
2496
Una solución razonable de ingeniería
02:35
calls for us to put mission control
52
143360
2576
nos incita a instalar
el control de la misión
el control de la misión
02:37
inside the walls of the Orion spacecraft.
53
145960
3016
dentro de las paredes de
la aeronave Orión.
la aeronave Orión.
02:41
Another fascinating idea
in the mission profile
in the mission profile
54
149000
2896
Otra idea fascinante
en el perfil de la misión
en el perfil de la misión
02:43
places humanoid robots
on the surface of Mars
on the surface of Mars
55
151920
2896
es colocar robots humanoides
en la superficie de Marte
en la superficie de Marte
antes de que los humanos mismos lleguen,
02:46
before the humans themselves arrive,
56
154840
1856
02:48
first to build facilities
57
156720
1656
primero para construir instalaciones
02:50
and later to serve as collaborative
members of the science team.
members of the science team.
58
158400
3360
y luego para servir como colaboradores
en el equipo científico.
en el equipo científico.
02:55
Now, as I looked at this
from an engineering perspective,
from an engineering perspective,
59
163400
2736
Al mirar esto desde
la ingeniería,
la ingeniería,
02:58
it became very clear to me
that what I needed to architect
that what I needed to architect
60
166160
3176
me quedó claro que
lo que necesitaba diseñar
lo que necesitaba diseñar
03:01
was a smart, collaborative,
61
169360
2176
era una inteligencia artificial muy lista,
03:03
socially intelligent
artificial intelligence.
artificial intelligence.
62
171560
2376
colaborativa y social.
03:05
In other words, I needed to build
something very much like a HAL
something very much like a HAL
63
173960
4296
En otras palabras, necesitaba construir
algo muy parecido a HAL
algo muy parecido a HAL
03:10
but without the homicidal tendencies.
64
178280
2416
pero sin las tendencias homicidas.
03:12
(Laughter)
65
180720
1360
(Risas)
03:14
Let's pause for a moment.
66
182920
1816
Detengámonos un momento.
03:16
Is it really possible to build
an artificial intelligence like that?
an artificial intelligence like that?
67
184760
3896
¿Es realmente posible
construir inteligencia artificial así?
construir inteligencia artificial así?
03:20
Actually, it is.
68
188680
1456
De hecho, sí lo es.
03:22
In many ways,
69
190160
1256
En muchas maneras,
este es un problema difícil
de la ingeniería
de la ingeniería
03:23
this is a hard engineering problem
70
191440
1976
03:25
with elements of AI,
71
193440
1456
con elementos de IA,
03:26
not some wet hair ball of an AI problem
that needs to be engineered.
that needs to be engineered.
72
194920
4696
no es un simple problema de IA
que necesite diseñarse.
que necesite diseñarse.
03:31
To paraphrase Alan Turing,
73
199640
2656
Parafraseando a Alan Turing,
no me interesa construir
una máquina sensible.
una máquina sensible.
03:34
I'm not interested
in building a sentient machine.
in building a sentient machine.
74
202320
2376
03:36
I'm not building a HAL.
75
204720
1576
No voy a construir un HAL.
03:38
All I'm after is a simple brain,
76
206320
2416
Todo lo que busco es
un cerebro sencillo,
un cerebro sencillo,
03:40
something that offers
the illusion of intelligence.
the illusion of intelligence.
77
208760
3120
algo que ofrezca
una ilusión de inteligencia.
una ilusión de inteligencia.
03:45
The art and the science of computing
have come a long way
have come a long way
78
213000
3136
El arte y la ciencia de la computación
ha pasado por mucho
ha pasado por mucho
03:48
since HAL was onscreen,
79
216160
1496
desde la aparición de HAL,
03:49
and I'd imagine if his inventor
Dr. Chandra were here today,
Dr. Chandra were here today,
80
217680
3216
e imagino que si su inventor
Dr. Chandra estuviera aquí hoy,
Dr. Chandra estuviera aquí hoy,
03:52
he'd have a whole lot of questions for us.
81
220920
2336
tendría mucho que preguntarnos.
03:55
Is it really possible for us
82
223280
2096
¿Es realmente posible
03:57
to take a system of millions
upon millions of devices,
upon millions of devices,
83
225400
4016
tomar un sistema de millones
y millones de dispositivos,
y millones de dispositivos,
04:01
to read in their data streams,
84
229440
1456
para leer flujos de datos,
04:02
to predict their failures
and act in advance?
and act in advance?
85
230920
2256
para predecir fallas y
actuar con antelación?
actuar con antelación?
04:05
Yes.
86
233200
1216
Sí.
04:06
Can we build systems that converse
with humans in natural language?
with humans in natural language?
87
234440
3176
¿Podemos construir sistemas que
se comuniquen con humanos?
se comuniquen con humanos?
04:09
Yes.
88
237640
1216
Sí.
04:10
Can we build systems
that recognize objects, identify emotions,
that recognize objects, identify emotions,
89
238880
2976
¿Podemos construir sistemas que
reconozcan objetos, emociones,
reconozcan objetos, emociones,
04:13
emote themselves,
play games and even read lips?
play games and even read lips?
90
241880
3376
que se emocionen, jueguen e incluso
que lean los labios?
que lean los labios?
04:17
Yes.
91
245280
1216
Sí.
¿Podemos construir un sistema
que fije objetivos,
que fije objetivos,
04:18
Can we build a system that sets goals,
92
246520
2136
04:20
that carries out plans against those goals
and learns along the way?
and learns along the way?
93
248680
3616
que lleve a cabo planes contra esos
objetivos y siga aprendiendo más?
objetivos y siga aprendiendo más?
04:24
Yes.
94
252320
1216
Sí.
04:25
Can we build systems
that have a theory of mind?
that have a theory of mind?
95
253560
3336
¿Podemos construir sistemas
que piensen por sí mismos?
que piensen por sí mismos?
04:28
This we are learning to do.
96
256920
1496
Estamos aprendiendo a hacerlo.
04:30
Can we build systems that have
an ethical and moral foundation?
an ethical and moral foundation?
97
258440
3480
¿Podemos construir sistemas
con fundamentos éticos y morales?
con fundamentos éticos y morales?
04:34
This we must learn how to do.
98
262480
2040
Debemos aprender cómo hacerlo.
04:37
So let's accept for a moment
99
265360
1376
Aceptemos por un momento
04:38
that it's possible to build
such an artificial intelligence
such an artificial intelligence
100
266760
2896
que es posible construir
tal inteligencia artificial
tal inteligencia artificial
04:41
for this kind of mission and others.
101
269680
2136
para estas misiones y otras.
04:43
The next question
you must ask yourself is,
you must ask yourself is,
102
271840
2536
La siguiente pregunta que
deben formularse es,
deben formularse es,
04:46
should we fear it?
103
274400
1456
¿deberíamos temerle?
04:47
Now, every new technology
104
275880
1976
Toda nueva tecnología
04:49
brings with it
some measure of trepidation.
some measure of trepidation.
105
277880
2896
trae consigo algunos temores.
04:52
When we first saw cars,
106
280800
1696
Cuando vimos autos por primera vez,
04:54
people lamented that we would see
the destruction of the family.
the destruction of the family.
107
282520
4016
la gente temía que viéramos
la destrucción de la familia.
la destrucción de la familia.
04:58
When we first saw telephones come in,
108
286560
2696
Cuando se inventaron los teléfonos,
05:01
people were worried it would destroy
all civil conversation.
all civil conversation.
109
289280
2896
la gente temía que arruinara
la conversación civilizada.
la conversación civilizada.
05:04
At a point in time we saw
the written word become pervasive,
the written word become pervasive,
110
292200
3936
En algún momento, vimos a la palabra
escrita aparecer en todos lados,
escrita aparecer en todos lados,
la gente creyó que perderíamos
la habilidad de memorizar.
la habilidad de memorizar.
05:08
people thought we would lose
our ability to memorize.
our ability to memorize.
111
296160
2496
05:10
These things are all true to a degree,
112
298680
2056
Todo esto es cierto hasta cierto grado,
05:12
but it's also the case
that these technologies
that these technologies
113
300760
2416
pero estas tecnologías también
05:15
brought to us things
that extended the human experience
that extended the human experience
114
303200
3376
nos dieron cosas que expandieron
la experiencia humana
la experiencia humana
05:18
in some profound ways.
115
306600
1880
de manera profunda.
05:21
So let's take this a little further.
116
309840
2280
Así que vayamos más lejos.
05:25
I do not fear the creation
of an AI like this,
of an AI like this,
117
313120
4736
No temo la creación de una IA así,
05:29
because it will eventually
embody some of our values.
embody some of our values.
118
317880
3816
porque finalmente encarnará
algunos de nuestros valores.
algunos de nuestros valores.
05:33
Consider this: building a cognitive system
is fundamentally different
is fundamentally different
119
321720
3496
Consideren lo siguiente: construir un
sistema cognitivo es muy distinto
sistema cognitivo es muy distinto
05:37
than building a traditional
software-intensive system of the past.
software-intensive system of the past.
120
325240
3296
a construir uno tradicional
intensivo en software como en el pasado.
intensivo en software como en el pasado.
05:40
We don't program them. We teach them.
121
328560
2456
No los programamos. Les enseñamos.
05:43
In order to teach a system
how to recognize flowers,
how to recognize flowers,
122
331040
2656
Para enseñarle a un sistema
a reconocer flores,
a reconocer flores,
05:45
I show it thousands of flowers
of the kinds I like.
of the kinds I like.
123
333720
3016
le muestro miles de flores que me gustan.
05:48
In order to teach a system
how to play a game --
how to play a game --
124
336760
2256
Para enseñarle a jugar...
05:51
Well, I would. You would, too.
125
339040
1960
Bueno, lo haría y Uds. también.
05:54
I like flowers. Come on.
126
342600
2040
Me gustan las flores.
05:57
To teach a system
how to play a game like Go,
how to play a game like Go,
127
345440
2856
Para enseñarle a un sistema
a jugar un juego como Go,
a jugar un juego como Go,
06:00
I'd have it play thousands of games of Go,
128
348320
2056
lo pondría a jugar
miles de juegos de Go,
miles de juegos de Go,
y en el proceso
también le enseñaría
también le enseñaría
06:02
but in the process I also teach it
129
350400
1656
06:04
how to discern
a good game from a bad game.
a good game from a bad game.
130
352080
2416
a discernir un buen juego
de uno malo.
de uno malo.
06:06
If I want to create an artificially
intelligent legal assistant,
intelligent legal assistant,
131
354520
3696
Si quiero crear un asistente legal
con inteligencia artificial,
con inteligencia artificial,
le enseñaría algo del
corpus legislativo
corpus legislativo
06:10
I will teach it some corpus of law
132
358240
1776
06:12
but at the same time I am fusing with it
133
360040
2856
combinando al mismo tiempo
06:14
the sense of mercy and justice
that is part of that law.
that is part of that law.
134
362920
2880
el sentido de la piedad y la justicia
que también son parte de la ley.
que también son parte de la ley.
06:18
In scientific terms,
this is what we call ground truth,
this is what we call ground truth,
135
366560
2976
En términos científicos,
lo llamamos verdad en tierra firme,
lo llamamos verdad en tierra firme,
06:21
and here's the important point:
136
369560
2016
este es el punto importante:
06:23
in producing these machines,
137
371600
1456
al producir estas máquinas,
06:25
we are therefore teaching them
a sense of our values.
a sense of our values.
138
373080
3416
les estamos enseñando también
el sentido de nuestros valores.
el sentido de nuestros valores.
06:28
To that end, I trust
an artificial intelligence
an artificial intelligence
139
376520
3136
Para este fin,
confío en la inteligencia artificial
confío en la inteligencia artificial
06:31
the same, if not more,
as a human who is well-trained.
as a human who is well-trained.
140
379680
3640
tanto, si no más, que en
un humano bien entrenado.
un humano bien entrenado.
06:36
But, you may ask,
141
384080
1216
Quizá se pregunten
06:37
what about rogue agents,
142
385320
2616
¿qué hay de los agentes rebeldes,
06:39
some well-funded
nongovernment organization?
nongovernment organization?
143
387960
3336
algunas organizaciones sólidas
no gubernamentales?
no gubernamentales?
06:43
I do not fear an artificial intelligence
in the hand of a lone wolf.
in the hand of a lone wolf.
144
391320
3816
No le temo a la inteligencia artificial
en manos de un lobo solitario.
en manos de un lobo solitario.
06:47
Clearly, we cannot protect ourselves
against all random acts of violence,
against all random acts of violence,
145
395160
4536
Claramente no podemos protegernos
de todo tipo de violencia,
de todo tipo de violencia,
06:51
but the reality is such a system
146
399720
2136
en realidad, un sistema así
06:53
requires substantial training
and subtle training
and subtle training
147
401880
3096
requiere entrenamiento importante y sutil
06:57
far beyond the resources of an individual.
148
405000
2296
más allá de los recursos de un individuo.
06:59
And furthermore,
149
407320
1216
Además,
07:00
it's far more than just injecting
an internet virus to the world,
an internet virus to the world,
150
408560
3256
se trata de algo más que inyectar
un virus en el internet global,
un virus en el internet global,
07:03
where you push a button,
all of a sudden it's in a million places
all of a sudden it's in a million places
151
411840
3096
donde al presionar un botón,
se esparce a millones de lugares
se esparce a millones de lugares
07:06
and laptops start blowing up
all over the place.
all over the place.
152
414960
2456
y las laptops comienzan a estallar
en pedazos.
en pedazos.
07:09
Now, these kinds of substances
are much larger,
are much larger,
153
417440
2816
Este tipo de sustancias son más grandes
07:12
and we'll certainly see them coming.
154
420280
1715
y se les ve venir.
07:14
Do I fear that such
an artificial intelligence
an artificial intelligence
155
422520
3056
¿Temo que ese tipo de
inteligencia artificial
inteligencia artificial
07:17
might threaten all of humanity?
156
425600
1960
amenace a la humanidad?
07:20
If you look at movies
such as "The Matrix," "Metropolis,"
such as "The Matrix," "Metropolis,"
157
428280
4376
Si miran películas
como "Matrix", "Metrópolis",
como "Matrix", "Metrópolis",
07:24
"The Terminator,"
shows such as "Westworld,"
shows such as "Westworld,"
158
432680
3176
"Terminator" y shows como "Westworld",
07:27
they all speak of this kind of fear.
159
435880
2136
todos hablan de este miedo.
07:30
Indeed, in the book "Superintelligence"
by the philosopher Nick Bostrom,
by the philosopher Nick Bostrom,
160
438040
4296
El libro "Superinteligencia"
del filósofo Nick Bostrom,
del filósofo Nick Bostrom,
07:34
he picks up on this theme
161
442360
1536
habla de este tema
07:35
and observes that a superintelligence
might not only be dangerous,
might not only be dangerous,
162
443920
4016
y opina que una superinteligencia
no solo puede ser peligrosa,
no solo puede ser peligrosa,
07:39
it could represent an existential threat
to all of humanity.
to all of humanity.
163
447960
3856
sino que podría representar
una amenaza existencial para la humanidad.
una amenaza existencial para la humanidad.
07:43
Dr. Bostrom's basic argument
164
451840
2216
El argumento fundamental del Dr. Bostrom
07:46
is that such systems will eventually
165
454080
2736
es que dichos sistemas finalmente
07:48
have such an insatiable
thirst for information
thirst for information
166
456840
3256
tendrán una necesidad insaciable
de información
de información
07:52
that they will perhaps learn how to learn
167
460120
2896
que quizá aprendan cómo aprender
07:55
and eventually discover
that they may have goals
that they may have goals
168
463040
2616
y finalmente descubran
que pueden tener objetivos
que pueden tener objetivos
07:57
that are contrary to human needs.
169
465680
2296
contrarios a las necesidades humanas.
08:00
Dr. Bostrom has a number of followers.
170
468000
1856
El Dr. Bostrom tiene varios seguidores.
08:01
He is supported by people
such as Elon Musk and Stephen Hawking.
such as Elon Musk and Stephen Hawking.
171
469880
4320
Gente como Elon Musk y
Stephen Hawking lo apoyan.
Stephen Hawking lo apoyan.
08:06
With all due respect
172
474880
2400
Con todo respeto
08:10
to these brilliant minds,
173
478160
2016
a estas mentes brillantes,
08:12
I believe that they
are fundamentally wrong.
are fundamentally wrong.
174
480200
2256
creo que están completamente equivocados.
08:14
Now, there are a lot of pieces
of Dr. Bostrom's argument to unpack,
of Dr. Bostrom's argument to unpack,
175
482480
3176
Hay muchas partes del argumento
del Dr. Bostrom que analizar,
del Dr. Bostrom que analizar,
08:17
and I don't have time to unpack them all,
176
485680
2136
y no tengo tiempo para hacerlo,
08:19
but very briefly, consider this:
177
487840
2696
pero brevemente, piensen esto:
08:22
super knowing is very different
than super doing.
than super doing.
178
490560
3736
el superconocimiento es muy distinto
al superhacer.
al superhacer.
HAL era una amenaza
para la flota del Discovery
para la flota del Discovery
08:26
HAL was a threat to the Discovery crew
179
494320
1896
08:28
only insofar as HAL commanded
all aspects of the Discovery.
all aspects of the Discovery.
180
496240
4416
en la medida en que controlaba
todos los aspectos del Discovery.
todos los aspectos del Discovery.
08:32
So it would have to be
with a superintelligence.
with a superintelligence.
181
500680
2496
Se necesitaría una superinteligencia.
08:35
It would have to have dominion
over all of our world.
over all of our world.
182
503200
2496
Y un dominio total de nuestro mundo.
08:37
This is the stuff of Skynet
from the movie "The Terminator"
from the movie "The Terminator"
183
505720
2816
Skynet de la película "Terminator"
08:40
in which we had a superintelligence
184
508560
1856
tenía una superinteligencia
que controlaba la voluntad humana,
08:42
that commanded human will,
185
510440
1376
08:43
that directed every device
that was in every corner of the world.
that was in every corner of the world.
186
511840
3856
y controlaba cada dispositivo
en todos los rincones del mundo.
en todos los rincones del mundo.
08:47
Practically speaking,
187
515720
1456
Siendo prácticos,
08:49
it ain't gonna happen.
188
517200
2096
eso no pasará.
08:51
We are not building AIs
that control the weather,
that control the weather,
189
519320
3056
No estamos construyendo IAs
que controlen el clima,
que controlen el clima,
08:54
that direct the tides,
190
522400
1336
que controlen las mareas,
08:55
that command us
capricious, chaotic humans.
capricious, chaotic humans.
191
523760
3376
que nos controlen a nosotros,
caprichosos y caóticos humanos.
caprichosos y caóticos humanos.
08:59
And furthermore, if such
an artificial intelligence existed,
an artificial intelligence existed,
192
527160
3896
Además, si tal
inteligencia artificial existiera,
inteligencia artificial existiera,
09:03
it would have to compete
with human economies,
with human economies,
193
531080
2936
tendría que competir contra
las economías del hombre,
las economías del hombre,
09:06
and thereby compete for resources with us.
194
534040
2520
y por tanto competir por recursos
contra nosotros.
contra nosotros.
09:09
And in the end --
195
537200
1216
Y al final
09:10
don't tell Siri this --
196
538440
1240
--no le digan a Siri--
siempre podremos desconectarlos.
09:12
we can always unplug them.
197
540440
1376
09:13
(Laughter)
198
541840
2120
(Risas)
09:17
We are on an incredible journey
199
545360
2456
Estamos en una increíble aventura
09:19
of coevolution with our machines.
200
547840
2496
de coevolución con nuestras máquinas.
09:22
The humans we are today
201
550360
2496
Los humanos que somos hoy
09:24
are not the humans we will be then.
202
552880
2536
no son los humanos que seremos.
09:27
To worry now about the rise
of a superintelligence
of a superintelligence
203
555440
3136
Preocuparse ahorita del ascenso
de una superinteligencia
de una superinteligencia
09:30
is in many ways a dangerous distraction
204
558600
3056
es una distracción peligrosa
en muchos sentidos
en muchos sentidos
09:33
because the rise of computing itself
205
561680
2336
porque el ascenso de la computación
09:36
brings to us a number
of human and societal issues
of human and societal issues
206
564040
3016
trajo consigo muchos problemas
humanos y sociales
humanos y sociales
09:39
to which we must now attend.
207
567080
1640
de los que debemos ocuparnos ahora.
09:41
How shall I best organize society
208
569360
2816
¿Cómo organizar a la sociedad
09:44
when the need for human labor diminishes?
209
572200
2336
cuando la necesidad de trabajo
humano decrece?
humano decrece?
09:46
How can I bring understanding
and education throughout the globe
and education throughout the globe
210
574560
3816
¿Cómo llevar conocimiento y educación
a través del mundo
a través del mundo
09:50
and still respect our differences?
211
578400
1776
respetando nuestras diferencias?
09:52
How might I extend and enhance human life
through cognitive healthcare?
through cognitive healthcare?
212
580200
4256
¿Cómo expandir y mejorar la vida
con la atención médica cognitiva?
con la atención médica cognitiva?
09:56
How might I use computing
213
584480
2856
¿Cómo usar la computación
09:59
to help take us to the stars?
214
587360
1760
para ayudarnos a alcanzar las estrellas?
10:01
And that's the exciting thing.
215
589760
2040
Eso es lo emocionante.
10:04
The opportunities to use computing
216
592400
2336
Las oportunidades para usar la computación
10:06
to advance the human experience
217
594760
1536
y fomentar la experiencia humana
10:08
are within our reach,
218
596320
1416
están a nuestro alcance,
10:09
here and now,
219
597760
1856
aquí y ahora,
10:11
and we are just beginning.
220
599640
1680
y apenas hemos comenzado.
10:14
Thank you very much.
221
602280
1216
Muchas gracias.
10:15
(Applause)
222
603520
4286
(Aplausos)
ABOUT THE SPEAKER
Grady Booch - Scientist, philosopherIBM's Grady Booch is shaping the future of cognitive computing by building intelligent systems that can reason and learn.
Why you should listen
When he was 13, Grady Booch saw 2001: A Space Odyssey in the theaters for the first time. Ever since, he's been trying to build Hal (albeit one without the homicidal tendencies). A scientist, storyteller and philosopher, Booch is Chief Scientist for Software Engineering as well as Chief Scientist for Watson/M at IBM Research, where he leads IBM's research and development for embodied cognition. Having originated the term and the practice of object-oriented design, he is best known for his work in advancing the fields of software engineering and software architecture.
A co-author of the Unified Modeling Language (UML), a founding member of the Agile Allianc, and a founding member of the Hillside Group, Booch has published six books and several hundred technical articles, including an ongoing column for IEEE Software. He's also a trustee for the Computer History Museum, an IBM Fellow, an ACM Fellow and IEEE Fellow. He has been awarded the Lovelace Medal and has given the Turing Lecture for the BCS, and was recently named an IEEE Computer Pioneer.
Booch is currently deeply involved in the development of cognitive systems and is also developing a major trans-media documentary for public broadcast on the intersection of computing and the human experience.
Grady Booch | Speaker | TED.com