Sam Harris: Can we build AI without losing control over it?
Sam Harris: Kunnen we AI maken zonder er de controle over te verliezen?
Sam Harris's work focuses on how our growing understanding of ourselves and the world is changing our sense of how we should live. Full bio
Double-click the English transcript below to play the video.
about a failure of intuition
een bepaald soort gevaar aan te voelen.
to detect a certain kind of danger.
most of you will feel
dat eerder cool.
is kind of cool.
how the gains we make
de vooruitgang die we boeken
to see how they won't destroy us
om te zien hoe AI ons niet zal vernietigen
om onszelf te vernietigen.
om over deze dingen na te denken.
to think about these things.
van zou overtuigen
to suffer a global famine,
hongersnood afstevenen,
or some other catastrophe,
of een andere ramp,
or their grandchildren,
of hun kleinkinderen,
zo'n leven zouden leiden,
on the other hand, is fun,
door sciencefiction wel leuk.
die me het meest zorgen baren
about the development of AI at this point
de juiste emotionele reactie op te wekken
an appropriate emotional response
and I'm giving this talk.
en ik geef nog wel deze talk.
van steeds intelligentere machines.
in building intelligent machines.
just stops getting better for some reason.
om wat voor reden dan ook.
to consider why this might happen.
waarom dit zou kunnen gebeuren.
intelligence and automation are,
zo waardevol zijn,
if we are at all able to.
te verbeteren als we enigszins kunnen.
president of the United States?
van de Verenigde Staten?
destroy civilization as we know it.
beschaving zou moeten vernietigen.
how bad it would have to be
hoe erg het zou moeten zijn
improvements in our technology
onze technologie te verbeteren,
this is the worst thing
in de menselijke geschiedenis.
behind door number two,
to improve our intelligent machines
met onze intelligente machines
machines that are smarter than we are,
machines bouwen die slimmer zijn dan wij,
that are smarter than we are,
hebben die slimmer zijn dan wij,
the mathematician IJ Good called
op wat de wiskundige IJ Good
te beheersen valt.
as I have here,
een karikatuur gemaakt:
van kwaadaardige robots
het meest waarschijnlijke scenario.
will become spontaneously malevolent.
spontaan boosaardig zullen worden.
that we will build machines
dat we machines gaan bouwen
more competent than we are
between their goals and our own
tussen hun doelen en de onze
ons verhouden tot mieren.
om ze kwaad te doen.
we take pains not to harm them.
om ze niet te schaden.
met één van onze doeleinden,
a building like this one,
bij de bouw van een gebouw als dit,
zonder er bij stil te staan.
one day build machines
machines gaan bouwen
onverschilligheid gaan behandelen.
far-fetched to many of you.
van jullie wat vergezocht lijkt.
that superintelligent AI is possible,
überhaupt mogelijk is,
with one of the following assumptions.
in één van de volgende veronderstellingen.
processing in physical systems.
informatieverwerking in fysische systemen.
than an assumption.
dan een veronderstelling.
narrow intelligence into our machines,
ingebouwd in onze machines
intelligence already.
niveau van intelligentie.
'algemene intelligentie' wordt genoemd,
"general intelligence,"
across multiple domains,
op meerdere domeinen,
to build systems of atoms
van atomen blijven bouwen
intelligent behavior,
gedrag gaan vertonen,
unless we are interrupted,
tenzij iets ons tegenhoudt,
build general intelligence
that the rate of progress doesn't matter,
hoe snel we vooruitgaan,
is enough to get us into the end zone.
brengt ons dichter bij het eindpunt.
We don't need exponential progress.
exponentiële vooruitgang is niet nodig.
is that we will keep going.
is dat we zullen blijven doorgaan.
our intelligent machines.
machines blijven verbeteren.
the source of everything we value
van alles wat we waarderen
everything we value.
wat we waarderen.
that we desperately need to solve.
die we nodig moeten oplossen.
like Alzheimer's and cancer.
als Alzheimer en kanker genezen.
We want to improve our climate science.
en onze klimaatwetenschap verbeteren.
and there's no brake to pull.
en er is geen houden aan.
on a peak of intelligence,
op een piek van intelligentie,
our situation so precarious,
about risk so unreliable.
over de risico's zo onbetrouwbaar.
who has ever lived.
die ooit heeft geleefd.
is John von Neumann.
staat hier John von Neumann.
made on the people around him,
maakte op de mensen om hem heen,
mathematicians and physicists of his time,
en fysici van zijn tijd,
about him are half true,
over hem half waar zijn,
who has ever lived.
van de slimste mensen ooit was.
van intelligentie eens.
more depressing than it needs to be.
deprimerender maken dan nodig.
that the spectrum of intelligence
dat het spectrum van intelligentie
than we currently conceive,
dan we op dit moment beseffen.
that are more intelligent than we are,
die intelligenter zijn dan wij,
dit spectrum verkennen
explore this spectrum
that we can't imagine.
this is true by virtue of speed alone.
dit al waar is voor de snelheid alleen.
a superintelligent AI
een superintelligente AI hadden gemaakt
than your average team of researchers
dan een gemiddeld team van onderzoekers
function about a million times faster
ongeveer een miljoen keer sneller
about a million times faster
een miljoen keer sneller moeten denken
of human-level intellectual work,
arbeid op menselijk niveau uitvoeren,
much less constrain,
dat dit soort vooruitgang maakt
ook nog verontrustend is:
of superintelligent AI
een superintelligente AI ontwerpen
the first time around.
een orakel hebben gekregen
the perfect labor-saving device.
arbeidsbesparende apparaat zijn.
that can build the machine
die de machine kan bouwen
of raw materials.
van de grondstoffen.
the end of human drudgery.
of most intellectual work.
van de meeste intellectuele arbeid.
do in this circumstance?
in deze omstandigheden doen?
and give each other massages.
te spelen en elkaar massages te geven.
questionable wardrobe choices,
en rare kleren tegenaan
could be like Burning Man.
één groot Burning Man-festival.
wat er zou gebeuren
and political order?
en politieke orde.
dat we getuige zouden zijn
and unemployment
van rijkdom en werkloosheid
to immediately put this new wealth
deze nieuwe rijkdom
the covers of our business magazines
van onze zakenmagazines sieren
would be free to starve.
vrij zou zijn om te verhongeren.
or the Chinese do
in Silicon Valley
dat een bedrijf in Silicon Valley
een superintelligente AI te maken?
of waging war,
tot het voeren van oorlog,
of the competition here
of this kind of breakthrough
geruchten van dit soort doorbraak
dat het mensdom wild zal worden.
that AI researchers say
die AI-onderzoekers zeggen
we're told not to worry is time.
geen zorgen over moeten maken, is tijd.
don't you know.
about overpopulation on Mars."
over overbevolking op Mars."
pretty little head about it."
een onjuist gevolg.
een kwestie van informatieverwerking is,
of information processing,
maar blijven verbeteren,
some form of superintelligence.
van superintelligentie produceren.
how long it will take us
hoe lang het zal duren
to do that safely.
om dat veilig te doen.
hoe lang het zal duren
to do that safely.
om dat veilig te doen.
50 years is not what it used to be.
50 jaar is niet meer wat ooit was.
has been on television.
al op televisie zijn.
uitdagingen aan te pakken
our species will ever face.
ooit zal worden geconfronteerd.
to have an appropriate emotional response
de juiste emotionele reactie te hebben
to believe is coming.
te geloven dat het komt.
has a nice analogy here.
heeft hier een mooie analogie.
a message from an alien civilization,
van een buitenaardse beschaving ontvangen,
we naar jullie planeet.
the months until the mothership lands?
tot aan de landing van het moederschip?
more urgency than we do.
meer urgentie voelen dan we nu doen.
geen zorgen zouden hoeven maken,
can't help but share our values
onze waarden delen,
van onszelf zullen zijn.
extensions of ourselves.
become their limbic systems.
hun limbisch systeem worden.
and only prudent path forward,
en enige verstandige weg vooruit,
directly into our brains.
direct in onze hersenen te implanteren.
and only prudent path forward,
en enige voorzichtige weg vooruit zijn,
about a technology
volkomen veilig voelen bij een technologie
before you stick it inside your head.
building superintelligent AI on its own
superintelligente AI op zich bouwen
integrate our minds with it.
er naadloos mee te integreren.
and governments doing this work
en overheden die dit werk doen
as being in a race against all others,
met een race bezig te zijn,
is to win the world,
neerkomt op de wereld winnen,
in the next moment,
that whatever is easier to do
dat alles wat gemakkelijker is,
I don't have a solution to this problem,
voor dit probleem
that more of us think about it.
over moeten gaan nadenken.
like a Manhattan Project
we'll inevitably do that,
want dat gaan we sowieso doen,
how to avoid an arms race
hoe een wapenwedloop te voorkomen
that is aligned with our interests.
dat het onze belangen dient.
about superintelligent AI
to get the initial conditions right,
maar één kans hebben
consequences of getting them right.
gevolgen van die goede beginvoorwaarden.
is the source of intelligence,
de bron van intelligentie is,
is what the basis of intelligence is,
aan de basis van intelligentie ligt,
these systems continuously,
onafgebroken zullen blijven verbeteren,
of cognition very likely far exceeds
waarschijnlijk veel verder reikt
of building some sort of god.
waarmee we kunnen leven.
ABOUT THE SPEAKER
Sam Harris - Neuroscientist, philosopherSam Harris's work focuses on how our growing understanding of ourselves and the world is changing our sense of how we should live.
Why you should listen
Sam Harris is the author of five New York Times bestsellers. His books include The End of Faith, Letter to a Christian Nation, The Moral Landscape, Free Will, Lying, Waking Up and Islam and the Future of Tolerance (with Maajid Nawaz). The End of Faith won the 2005 PEN Award for Nonfiction. Harris's writing and public lectures cover a wide range of topics -- neuroscience, moral philosophy, religion, spirituality, violence, human reasoning -- but generally focus on how a growing understanding of ourselves and the world is changing our sense of how we should live.
Harris's work has been published in more than 20 languages and has been discussed in the New York Times, Time, Scientific American, Nature, Newsweek, Rolling Stone and many other journals. He has written for the New York Times, the Los Angeles Times, The Economist, The Times (London), the Boston Globe, The Atlantic, The Annals of Neurology and elsewhere. Harris also regularly hosts a popular podcast.
Harris received a degree in philosophy from Stanford University and a Ph.D. in neuroscience from UCLA.
Sam Harris | Speaker | TED.com