Sam Harris: Can we build AI without losing control over it?
Сем Гарріс: Чи можемо ми створити штучний інтелект, не втративши над ним контролю?
Sam Harris's work focuses on how our growing understanding of ourselves and the world is changing our sense of how we should live. Full bio
Double-click the English transcript below to play the video.
about a failure of intuition
про нездатність до інтуїції,
певний вид небезпеки.
to detect a certain kind of danger.
більшість з вас відчують,
most of you will feel
is kind of cool.
скоріше прикольне.
how the gains we make
зрозуміти, як вони НЕ знищать нас
to see how they won't destroy us
про такі речі - весело,
to think about these things.
вас у цій промові,
to suffer a global famine,
страждати від глобального голоду
або якусь іншу катастрофу,
or some other catastrophe,
or their grandchildren,
з іншого боку - це весело,
on the other hand, is fun,
щодо розвитку штучного інтелекту -
about the development of AI at this point
емоційну реакцію
an appropriate emotional response
and I'm giving this talk.
і саме тому виступаю на цій сцені.
навпроти двох дверей.
in building intelligent machines.
у створенні розумних машин.
just stops getting better for some reason.
перестає покращуватись через якісь обставини.
to consider why this might happen.
чому б це могло трапитися.
intelligence and automation are,
інтелект та автоматизація,
if we are at all able to.
наші технології, якщо матимемо можливість.
president of the United States?
президентом Сполучених Штатів?
destroy civilization as we know it.
цивілізацію у знайомому нас вигляді.
how bad it would have to be
improvements in our technology
наші технології
this is the worst thing
це найгірше,
behind door number two,
за дверима номер два,
to improve our intelligent machines
розумних машин
machines that are smarter than we are,
машини, розумніші за нас,
that are smarter than we are,
що розумніші за нас,
the mathematician IJ Good called
що математик І.Дж. Ґуд назвав
з-під нашого контролю.
as I have here,
як ось на цьому зображенні,
will become spontaneously malevolent.
зненацька зробляться злими.
that we will build machines
що ми збудуємо машини,
more competent than we are
за нас,
between their goals and our own
між нашими та їхніми цілями
з мурахами.
щоб нашкодити їм.
we take pains not to harm them.
не нашкодити їм.
з будь-якою нашою метою,
таку споруду, як на зображенні,
a building like this one,
one day build machines
що одного дня ми збудуємо машини,
так само байдуже.
far-fetched to many of you.
багатьом з вас малоймовірним.
that superintelligent AI is possible,
що надрозумні машини можливі,
with one of the following assumptions.
одного з таких припущень.
processing in physical systems.
у фізичних системах.
than an assumption.
ніж припущення.
narrow intelligence into our machines,
в наші машини,
intelligence already.
вже сьогодні.
"general intelligence,"
"інтелектуального вибуху",
across multiple domains,
у багатьох сферах,
Чи не так?
to build systems of atoms
будувати системи з атомів,
intelligent behavior,
інтелектуальну поведінку,
unless we are interrupted,
якщо нас не зупинять,
build general intelligence
загальний інтелект
that the rate of progress doesn't matter,
що рівень прогресу не має значення,
призвести нас до фінального пункту.
is enough to get us into the end zone.
We don't need exponential progress.
Нам не потрібний експоненційний прогрес.
is that we will keep going.
що ми не зупинимося.
our intelligent machines.
наші розумні машини.
the source of everything we value
джерелом всього, що ми цінуємо,
everything we value.
все, що ми цінуємо.
that we desperately need to solve.
що їх нам вкрай необхідно залагодити.
like Alzheimer's and cancer.
як Альцгеймер та рак.
We want to improve our climate science.
Ми хочемо покращити нашу кліматичну науку.
якщо зможемо.
and there's no brake to pull.
і немає гальма, щоб його зупинити.
on a peak of intelligence,
на вершині інтелекту,
our situation so precarious,
такою небезпечною,
about risk so unreliable.
щодо ризику настільки ненадійною.
who has ever lived.
яка будь-коли існувала.
is John von Neumann.
made on the people around him,
справляв на людей довкола,
mathematicians and physicists of his time,
та фізики його часу,
about him are half true,
бодай наполовину правдива,
who has ever lived.
які коли-небудь існували.
more depressing than it needs to be.
гнітючішою, аніж вона має бути.
that the spectrum of intelligence
що спектр інтелекту
than we currently conceive,
ніж ми сьогодні уявляємо,
that are more intelligent than we are,
що розумніші за нас,
explore this spectrum
розвідають цей спектр
that we can't imagine.
як ми не можемо уявити.
this is true by virtue of speed alone.
це правда вже з огляду на саму силу швидкості.
a superintelligent AI
надрозумний штучний інтелект,
than your average team of researchers
середньостатистична команда дослідників
function about a million times faster
функціюють у мільйон разів швидше
about a million times faster
в мільйон разів швидше,
of human-level intellectual work,
інтелектуальної роботи людського рівня,
much less constrain,
тим паче стримати
of superintelligent AI
штучний інтелект,
міркування безпеки.
the first time around.
бездоганний проект.
the perfect labor-saving device.
ідеальним пристроєм з економії праці.
що можуть будувати машини,
that can build the machine
of raw materials.
the end of human drudgery.
важкої людської праці.
of most intellectual work.
найбільш інтелектуальної праці.
do in this circumstance?
будуть робити за цих обставин?
and give each other massages.
та робити одне одному масаж.
questionable wardrobe choices,
сумнівного гардеробу,
could be like Burning Man.
як фестиваль Burning Man.
and political order?
та політичним ладом?
and unemployment
та безробіття,
to immediately put this new wealth
використовувати це нове багатство
the covers of our business magazines
обкладинки наших бізнес-журналів,
would be free to starve.
голодуватиме.
or the Chinese do
in Silicon Valley
у Кремнієвій долині
надрозумний штучний інтелект?
of waging war,
of the competition here
у цьому змаганні,
of this kind of breakthrough
про такі досягнення
люту ненависть між людьми.
that AI researchers say
штучного інтелекту,
we're told not to worry is time.
не турбуватися, кажуть вони, є час.
don't you know.
хіба ви не знаєте.
штучного інтелекту -
about overpopulation on Mars."
перенаселенням на Марсі".
pretty little head about it."
свою гарненьку голівку".
of information processing,
обробки інформації,
some form of superintelligence.
якусь форму супер-інтелекту.
how long it will take us
скільки часу нам потрібно,
to do that safely.
де це буде безпечно.
скільки часу нам потрібно,
to do that safely.
де це буде безпечно.
50 years is not what it used to be.
50 років - вже не ті, що раніше.
has been on television.
існують на телебаченні.
це не так вже й багато часу,
our species will ever face.
з яким зіткнеться людський рід.
to have an appropriate emotional response
відповідної емоційної реакції
to believe is coming.
has a nice analogy here.
наводить гарну аналогію.
a message from an alien civilization,
повідомлення від інопланетної цивілізації,
the months until the mothership lands?
лишилися до прибуття космічного корабля?
more urgency than we do.
ніж ми відчуваємо тепер.
не хвилюватися, полягає в тому,
can't help but share our values
муситимуть поділяти наші цінності,
extensions of ourselves.
продовженням нас самих.
become their limbic systems.
станемо їхньою лімбічною системою.
and only prudent path forward,
та єдиний розважливий шлях уперед,
directly into our brains.
прямо у мозок.
and only prudent path forward,
та єдиним розважливим шляхом уперед,
about a technology
before you stick it inside your head.
як технологію вставлять у вашу голову.
building superintelligent AI on its own
лише надрозумного штучного інтелекту
штучного інтелекту
integrate our minds with it.
інтегрувати наш розум із ним.
and governments doing this work
уряди, що займаються цією розробкою,
as being in a race against all others,
проти всіх інших,
is to win the world,
це виграти світ,
in the next moment,
наступної хвилини,
that whatever is easier to do
що зробити найлегше,
I don't have a solution to this problem,
розв'язку цієї проблеми,
that more of us think about it.
щоб більшість із нас думала про це.
like a Manhattan Project
на кшталт "Проекту Мангеттен"
we'll inevitably do that,
я думаю, ми неминуче це зробимо,
how to avoid an arms race
як уникнути збройних перегонів
that is aligned with our interests.
відповідав нашим інтересам.
about superintelligent AI
надрозумний штучний інтелект,
to get the initial conditions right,
отримати правильні початкові умови,
consequences of getting them right.
отримання правильних умов.
is the source of intelligence,
є джерелом інтелекту,
is what the basis of intelligence is,
є базою інтелекту,
these systems continuously,
ці системи беззупинно,
of cognition very likely far exceeds
скоріш за все, простягається набагато далі,
of building some sort of god.
своєрідного бога.
ABOUT THE SPEAKER
Sam Harris - Neuroscientist, philosopherSam Harris's work focuses on how our growing understanding of ourselves and the world is changing our sense of how we should live.
Why you should listen
Sam Harris is the author of five New York Times bestsellers. His books include The End of Faith, Letter to a Christian Nation, The Moral Landscape, Free Will, Lying, Waking Up and Islam and the Future of Tolerance (with Maajid Nawaz). The End of Faith won the 2005 PEN Award for Nonfiction. Harris's writing and public lectures cover a wide range of topics -- neuroscience, moral philosophy, religion, spirituality, violence, human reasoning -- but generally focus on how a growing understanding of ourselves and the world is changing our sense of how we should live.
Harris's work has been published in more than 20 languages and has been discussed in the New York Times, Time, Scientific American, Nature, Newsweek, Rolling Stone and many other journals. He has written for the New York Times, the Los Angeles Times, The Economist, The Times (London), the Boston Globe, The Atlantic, The Annals of Neurology and elsewhere. Harris also regularly hosts a popular podcast.
Harris received a degree in philosophy from Stanford University and a Ph.D. in neuroscience from UCLA.
Sam Harris | Speaker | TED.com