Margaret Mitchell: How we can build AI to help humans, not hurt us
마가렛 미첼(Margaret Mitchell): 인류에게 해를 끼치지 않고 도움이 되는 인공지능(AI) 을 어떻게 만들어야 할까요?
Margaret Mitchell is a senior research scientist in Google's Research & Machine Intelligence group, working on artificial intelligence. Full bio
Double-click the English transcript below to play the video.
communicate about the world around us.
돕는 일을 합니다.
and understand.
and there's a dog.
that the dog is incredibly cute.
말해 줄 수도 있을 겁니다.
understand and process the world.
이해하고 받아들이는 가입니다.
might evoke for humans.
주는 지를 연구하고 있죠.
of related situations.
상호 연결에 대해서요.
a dog like this one before,
running on a beach like this one,
and memories of a past vacation,
떠오르게 합니다.
with other dogs.
is that by helping computers to understand
저의 지도 원칙은
and believe and feel,
느끼는 것을 이해시키며
to start evolving computer technology
우리의 중요한 역할이라는 것입니다.
with our own experiences.
상호 보완되도록 말입니다.
computers to generate human-like stories
지어낼수 있도록 했습니다.
what it thought about a trip to Australia.
어떻게 생각하냐고 물었습니다.
and it saw a koala.
코알라를 보았습니다.
it was an interesting-looking creature.
생명체가 있다고 하더군요.
about a house burning down.
이미지를 보여주었습니다.
This is spectacular!"
대단한 장관이에요!"
and life-destroying event
파괴할 수도 있는 사건을 보고
생각했던 거죠.
the contrast,
worth remarking on positively.
생각했음을 깨달았습니다.
of the images I had given it
tend to share positive images
사진들을 보여주죠.
you saw a selfie at a funeral?
찍어본 적이 있으세요?
as I worked on improving AI
일하면서 깨달았습니다.
in what it could understand.
이해를 하고 있던 겁니다.
인식시키고 있던 겁니다.
human biases found in the data,
of the technology
a white woman's skin,
맞추어 졌다는 사실을요.
was biased against black faces.
얼굴색에는 편견으로 작용한다는 거죠.
continues even today
different people's faces
in research today,
생각해보았습니다.
to one dataset and one problem.
생각을 제한합니다.
more blind spots and biases
만들어 내는 것입니다.
확대시킵니다.
that we had to think deeply
looks in five years, in 10 years.
5년, 10년후엔 어떻게 변할까요?
with time to correct for issues
시간에 맞춰 문제를 해결합니다.
and their environment.
상호 작용을 하면서요.
is evolving at an incredibly fast rate.
빠르게 발전합니다.
carefully right now --
the technology we're creating
어떻게 인식될 지를 생각하며
will mean for tomorrow.
미칠 지를 생각해야 합니다.
on what they think
신중히 고려하며
of the future will be.
어떻게 변할지를 말했습니다.
could end mankind."
that it's an existential risk
실존하는 위험이며
that we face as a civilization.
가장 큰 위험이라고 했습니다.
why people aren't more concerned."
이해가 안됩니다."
of artificial intelligence
and all work with.
입력해야하는 정보들입니다.
for machine learning and intelligence
컴퓨터의 학습과 지능에
we can share our experience.
공유할 수도 있습니다.
with technology and how it concerns us
고민도 하고 기쁘게도 하는 경험을
that could be more beneficial
이득인지를 반문하고
해가 되는지도 토론하죠.
the discussion on AI
공개하고 토론하면서
conversation and awareness
인식을 이끌어내서
해야할 지도 알게 되죠.
that best suits us.
만들게되는 거죠.
in the technology that we use today.
이미 이 사실을 보고 있죠.
and digital assistants and Roombas.
룸바[Roombas]로봇 등이 있죠.
a light shining on what the future holds.
신호를 보고 있는 겁니다.
from what we build and create right now.
달라질 것입니다.
영향을 줄 것입니다.
we shape the AI of tomorrow.
미래를 위한 인공지능의 기초입니다.
in augmented realities
불어넣어주는 기술이죠.
to share their experiences
the streaming visual worlds
만드는 기술은
and generating language,
만들어진 기술은
who are visually impaired
테크놀로지로 발전했죠.
더 가까이 다가갈 수 있도록요.
can lead to problems.
야기하기도 합니다.
characteristics we're born with --
신체적 특징을 분석합니다.
or the look of our face --
we might be criminals or terrorists.
구별할 수 있도록 하기 위해서죠.
that crunches through our data,
수집하는 기술을 가지고 있습니다.
to our gender or our race,
we might get a loan.
결정하는 기술이 되지도 하지요.
of artificial intelligence.
존재하고 있으니까요.
will affect what happens down the line
전적으로 영향을 끼칠테니까요.
in a way that helps humans,
방향으로 발전시키고 싶다면
the goals and strategies
규정해야합니다.
that fits well with humans,
those of us with neurological conditions
도움이 되는 테크놀로지.
equally challenging for everyone.
하루를 살아갈 수 있도록하는 기술.
or the color of your skin.
실행되기를 바랍니다.
is the technology for tomorrow
미래를 위한 테크놀로지입니다.
만들어 질수 있습니다.
without any destination.
위험한 자동차입니다.
운전해야 하는데 말입니다.
and when to slow down.
우리가 정해야 합니다.
우리가 정해야 합니다.
of the future will be.
정해야 합니다.
intelligence can become.
what we need to put in place
of artificial intelligence
확실히 하는 것은
better for all of us.
ABOUT THE SPEAKER
Margaret Mitchell - AI research scientistMargaret Mitchell is a senior research scientist in Google's Research & Machine Intelligence group, working on artificial intelligence.
Why you should listen
Margaret Mitchell's research involves vision-language and grounded language generation, focusing on how to evolve artificial intelligence towards positive goals. Her work combines computer vision, natural language processing, social media as well as many statistical methods and insights from cognitive science. Before Google, Mitchell was a founding member of Microsoft Research's "Cognition" group, focused on advancing artificial intelligence, and a researcher in Microsoft Research's Natural Language Processing group.
Margaret Mitchell | Speaker | TED.com