Margaret Mitchell: How we can build AI to help humans, not hurt us
Маргарет Митчелл: Как создать ИИ, который будет помогать, а не вредить людям
Margaret Mitchell is a senior research scientist in Google's Research & Machine Intelligence group, working on artificial intelligence. Full bio
Double-click the English transcript below to play the video.
communicate about the world around us.
делать сообщения об окружающем мире.
and understand.
что они видят и понимают.
компьютерного видения
and there's a dog.
что это — женщина, а это — собака.
that the dog is incredibly cute.
что собака необыкновенно милая.
understand and process the world.
и обрабатывают данные о мире.
might evoke for humans.
такая вот картинка.
of related situations.
a dog like this one before,
running on a beach like this one,
так же бегая по пляжу,
and memories of a past vacation,
и воспоминания о прошедшем отпуске,
with other dogs.
где-то с другой собакой.
is that by helping computers to understand
это помочь компьютерам понять,
and believe and feel,
во что верим и что чувствуем,
to start evolving computer technology
начать вовлекать компьютерные технологии
with our own experiences.
наш собственный опыт.
computers to generate human-like stories
компьютерам писать рассказы
what it thought about a trip to Australia.
что он думает о поездке в Австралию.
and it saw a koala.
it was an interesting-looking creature.
любопытным созданием.
about a house burning down.
изображений о горящих домах.
This is spectacular!"
and life-destroying event
разрушающее жизни событие
the contrast,
worth remarking on positively.
позитивной оценки.
of the images I had given it
которые я давала ему,
tend to share positive images
позитивными изображениями,
you saw a selfie at a funeral?
видели селфи на похоронах?
as I worked on improving AI
искусственный интеллект,
массив данных за массивом,
in what it could understand.
что он мог понимать.
возможные виды предубеждений.
ограниченное видение,
human biases found in the data,
предубеждения, закодированные в данных,
of the technology
где я оказалась тогда, —
a white woman's skin,
was biased against black faces.
не приспособлены к тёмным лицам.
это же слепое пятно
continues even today
мы имеем и сегодня
different people's faces
узнавать разнообразные человеческие лица
in research today,
to one dataset and one problem.
одним набором данных и одной проблемой.
more blind spots and biases
слепых пятен и предубеждений,
that we had to think deeply
looks in five years, in 10 years.
сегодня, будут выглядеть через 5 и 10 лет.
со временем исправляя проблемы
with time to correct for issues
and their environment.
и окружающей среды.
is evolving at an incredibly fast rate.
эволюционирует с невероятной скоростью.
carefully right now --
the technology we're creating
которые мы создаём,
will mean for tomorrow.
будут значить для будущего.
on what they think
всего мира говорят о том,
of the future will be.
искусственный интеллект в будущем.
could end mankind."
that it's an existential risk
что это один из величайших
that we face as a civilization.
когда-либо сталкивалась наша цивилизация.
why people aren't more concerned."
люди не обеспокоены».
of artificial intelligence
искусственного интеллекта —
and all work with.
и с чем работаем.
for machine learning and intelligence
для машинного обучения и интеллекта,
we can share our experience.
делиться своим опытом.
with technology and how it concerns us
о технологиях, и как это нас беспокоит,
that could be more beneficial
со временем самыми полезными,
the discussion on AI
на открытом диалоге об ИИ
conversation and awareness
общей осведомлённости
that best suits us.
in the technology that we use today.
о технологиях, используемых сегодня.
and digital assistants and Roombas.
электронные помощники, роботы-пылесосы.
a light shining on what the future holds.
освещающий наше будущее.
from what we build and create right now.
мы создаём и строим прямо сейчас.
we shape the AI of tomorrow.
задаем форму ИИ будущего.
in augmented realities
нас в дополненные реальности,
to share their experiences
людям делиться опытом,
трудности в общении.
the streaming visual worlds
потоковых визуальных миров,
and generating language,
изображений и искусственных языков,
who are visually impaired
помогают слабовидящим людям
can lead to problems.
могут привести к проблемам.
characteristics we're born with --
врождённые физические характеристики —
or the look of our face --
we might be criminals or terrorists.
быть преступниками или террористами.
that crunches through our data,
анализирующие данные о нас,
to our gender or our race,
we might get a loan.
ли мы получить кредит.
of artificial intelligence.
искусственного интеллекта.
will affect what happens down the line
делаем сегодня, окажет влияние
in a way that helps humans,
для помощи человеку,
the goals and strategies
определить цели и стратегии,
that fits well with humans,
что хорошо подходит людям,
культурой и окружением.
those of us with neurological conditions
кто страдает неврологическими
equally challenging for everyone.
одинаково трудной для всех.
or the color of your skin.
или демографических характеристик.
is the technology for tomorrow
которые будут с нами завтра
without any destination.
без конечного пункта назначения.
and when to slow down.
ускориться, а когда замедлиться.
of the future will be.
intelligence can become.
искусственный интеллект.
what we need to put in place
мы должны вложить в ИИ,
of artificial intelligence
better for all of us.
ABOUT THE SPEAKER
Margaret Mitchell - AI research scientistMargaret Mitchell is a senior research scientist in Google's Research & Machine Intelligence group, working on artificial intelligence.
Why you should listen
Margaret Mitchell's research involves vision-language and grounded language generation, focusing on how to evolve artificial intelligence towards positive goals. Her work combines computer vision, natural language processing, social media as well as many statistical methods and insights from cognitive science. Before Google, Mitchell was a founding member of Microsoft Research's "Cognition" group, focused on advancing artificial intelligence, and a researcher in Microsoft Research's Natural Language Processing group.
Margaret Mitchell | Speaker | TED.com