Sam Harris: Can we build AI without losing control over it?
Sam Harris: É possível construir inteligência artificial sem perder o controle?
Sam Harris's work focuses on how our growing understanding of ourselves and the world is changing our sense of how we should live. Full bio
Double-click the English transcript below to play the video.
about a failure of intuition
to detect a certain kind of danger.
most of you will feel
is kind of cool.
how the gains we make
to see how they won't destroy us
como elas não vão nos destruir,
to think about these things.
pensar sobre essas coisas.
to suffer a global famine,
or some other catastrophe,
ou qualquer outra catástrofe,
or their grandchildren,
e os netos dos seus netos
on the other hand, is fun,
por outro lado, é divertida,
about the development of AI at this point
no desenvolvimento de IA nesse ponto
uma resposta emocional apropriada
an appropriate emotional response
and I'm giving this talk.
e estou dando esta palestra.
diante de duas portas.
in building intelligent machines.
just stops getting better for some reason.
de melhorar por algum motivo.
to consider why this might happen.
por que isso pode acontecer.
intelligence and automation are,
e inteligência são valiosos,
if we are at all able to.
nossa tecnologia, se isso for possível.
president of the United States?
dos Estado Unidos?
destroy civilization as we know it.
a civilização que nós conhecemos.
how bad it would have to be
o quão ruim teria que ser
improvements in our technology
da nossa tecnologia
this is the worst thing
essa é a pior coisa
behind door number two,
da porta de número 2,
to improve our intelligent machines
nossas máquinas inteligentes,
machines that are smarter than we are,
mais inteligentes que nós,
that are smarter than we are,
the mathematician IJ Good called
I. J. Good chamou
as I have here,
caricaturado, desse jeito aqui,
de robôs malignos
will become spontaneously malevolent.
se tornarão espontaneamente más.
that we will build machines
construiremos máquinas
more competent than we are
between their goals and our own
entre nosso propósito e o delas
we take pains not to harm them.
não machucar elas.
a building like this one,
um prédio como este,
sem a menor cerimônia.
one day build machines
vamos construir máquinas
de acreditar para vocês.
far-fetched to many of you.
that superintelligent AI is possible,
que uma IA superinteligente seja possível,
with one of the following assumptions.
de errado com as seguintes suposições.
de processamento de informação
processing in physical systems.
than an assumption.
do que uma suposição.
narrow intelligence into our machines,
em nossas máquinas,
de inteligência sobre-humano.
intelligence already.
"general intelligence,"
de "inteligência geral",
across multiple domains,
em vários domínios,
conseguiram isso. Certo?
to build systems of atoms
sistemas de átomos
intelligent behavior,
comportamento inteligente,
unless we are interrupted,
build general intelligence
inteligência geral
that the rate of progress doesn't matter,
de progresso não importa,
para nos levar até a zona final.
is enough to get us into the end zone.
We don't need exponential progress.
para continuar,
só precisamos continuar.
is that we will keep going.
que vamos continuar.
our intelligent machines.
nossas máquinas inteligentes.
the source of everything we value
aquilo que valorizamos
everything we value.
aquilo que valorizamos.
that we desperately need to solve.
resolver urgentemente.
like Alzheimer's and cancer.
como Alzheimer e câncer.
We want to improve our climate science.
Queremos aprimorar a ciência climática.
and there's no brake to pull.
e não há freio para puxar.
on a peak of intelligence,
em um pico de inteligência,
our situation so precarious,
ser tão precária
about risk so unreliable.
não ser confiável.
inteligente que já existiu.
who has ever lived.
is John von Neumann.
está John von Neumann.
made on the people around him,
nas pessoas ao seu redor,
mathematicians and physicists of his time,
e físicos de seu tempo,
about him are half true,
sobre ele forem meio verdadeiras,
pessoas mais inteligentes que já existiu.
who has ever lived.
more depressing than it needs to be.
mais depressivo do que precisa ser.
that the spectrum of intelligence
que esse espectro da inteligência
than we currently conceive,
that are more intelligent than we are,
mais inteligentes do que nós,
explore this spectrum
vão explorar esse espectro
that we can't imagine.
de formas inimagináveis.
this is true by virtue of speed alone.
verdade apenas pela velocidade.
a superintelligent AI
uma IA superinteligente
than your average team of researchers
seu time mediano de pesquisadores
1 milhão de vezes mais rápido
function about a million times faster
about a million times faster
1 milhão de vezes mais rápido
por uma semana,
of human-level intellectual work,
de trabalho intelectual,
much less constrain,
muito menos restringir,
preocupante, francamente,
of superintelligent AI
com o design de uma IA superinteligente
the first time around.
the perfect labor-saving device.
dispositivo de economia de trabalho.
que pode construir a máquina
that can build the machine
qualquer trabalho físico,
of raw materials.
o custo da matéria-prima.
the end of human drudgery.
do esforço físico humano.
of most intellectual work.
da maior parte do trabalho intelectual.
do in this circumstance?
nessas circunstâncias?
and give each other massages.
e massagear uns aos outros.
questionable wardrobe choices,
de roupas questionáveis,
could be like Burning Man.
como o Festival Burning Man.
and political order?
and unemployment
de riqueza e desemprego
to immediately put this new wealth
imediatamente essa riqueza
the covers of our business magazines
nas capas das revistas de negócios,
would be free to starve.
or the Chinese do
in Silicon Valley
no Vale do Silício
uma IA superinteligente?
of waging war,
de travar uma guerra,
of the competition here
of this kind of breakthrough
rumores desse tipo de avanço
that AI researchers say
que os pesquisadores de IA dizem
we're told not to worry is time.
nos preocuparmos com o tempo.
don't you know.
se você não sabe.
a 50, 100 anos de distância.
about overpopulation on Mars."
com a superpopulação em Marte."
sua cabecinha linda."
pretty little head about it."
of information processing,
de processamento de informação,
nossas máquinas,
some form of superintelligence.
de superinteligência.
how long it will take us
tempo vai demorar
to do that safely.
to do that safely.
50 years is not what it used to be.
são mais o que costumavam ser.
has been on television.
está na televisão.
our species will ever face.
que nossa espécie enfrentará.
to have an appropriate emotional response
em uma reação emocional adequada
to believe is coming.
has a nice analogy here.
possui uma bela analogia:
a message from an alien civilization,
de uma civilização alienígena,
the months until the mothership lands?
até a chegada da nave-mãe?
do que temos agora.
more urgency than we do.
para não nos preocuparmos
compartilhar nossos valores
can't help but share our values
extensions of ourselves.
extensões de nós mesmos.
em nossos cérebros
become their limbic systems.
de seus sistemas límbicos.
and only prudent path forward,
e seguro recomendado,
directly into our brains.
diretamente em nossos cérebros.
mais seguro e prudente,
and only prudent path forward,
about a technology
de segurança da tecnologia
before you stick it inside your head.
implantado dentro da sua cabeça.
uma IA superinteligente por si só
building superintelligent AI on its own
integrate our minds with it.
perfeitamente nossas mentes.
que estão trabalhando nisso
and governments doing this work
as being in a race against all others,
uns contra os outros,
is to win the world,
conquistar o mundo,
in the next moment,
no momento seguinte,
that whatever is easier to do
mais fácil de se fazer
I don't have a solution to this problem,
a solução para esse problema,
que outros pensem sobre isso.
that more of us think about it.
como o Projeto Manhattan
like a Manhattan Project
porque vamos inevitavelmente fazer isso,
we'll inevitably do that,
how to avoid an arms race
uma corrida armamentista
alinhada aos nossos interesses.
that is aligned with our interests.
about superintelligent AI
to get the initial conditions right,
para acertar as condições primárias
consequences of getting them right.
e políticas desse acerto.
is the source of intelligence,
é a fonte da inteligência,
é a base do que é a inteligência,
is what the basis of intelligence is,
these systems continuously,
a aprimorar esse sistema,
provavelmente ultrapassa
of cognition very likely far exceeds
of building some sort of god.
de algum tipo de deus.
de ter a certeza
com o qual podemos viver.
ABOUT THE SPEAKER
Sam Harris - Neuroscientist, philosopherSam Harris's work focuses on how our growing understanding of ourselves and the world is changing our sense of how we should live.
Why you should listen
Sam Harris is the author of five New York Times bestsellers. His books include The End of Faith, Letter to a Christian Nation, The Moral Landscape, Free Will, Lying, Waking Up and Islam and the Future of Tolerance (with Maajid Nawaz). The End of Faith won the 2005 PEN Award for Nonfiction. Harris's writing and public lectures cover a wide range of topics -- neuroscience, moral philosophy, religion, spirituality, violence, human reasoning -- but generally focus on how a growing understanding of ourselves and the world is changing our sense of how we should live.
Harris's work has been published in more than 20 languages and has been discussed in the New York Times, Time, Scientific American, Nature, Newsweek, Rolling Stone and many other journals. He has written for the New York Times, the Los Angeles Times, The Economist, The Times (London), the Boston Globe, The Atlantic, The Annals of Neurology and elsewhere. Harris also regularly hosts a popular podcast.
Harris received a degree in philosophy from Stanford University and a Ph.D. in neuroscience from UCLA.
Sam Harris | Speaker | TED.com