Margaret Mitchell: How we can build AI to help humans, not hurt us
Margaret Mitchell: Como podemos criar uma IA que nos ajude, e não nos machuque
Margaret Mitchell is a senior research scientist in Google's Research & Machine Intelligence group, working on artificial intelligence. Full bio
Double-click the English transcript below to play the video.
communicate about the world around us.
a falar sobre o mundo ao nosso redor.
em auxiliar os computadores
and understand.
de visão computacional
and there's a dog.
uma mulher e um cachorro.
that the dog is incredibly cute.
que o cachorro é incrivelmente lindo.
understand and process the world.
compreendem e processam o mundo.
might evoke for humans.
pode suscitar nos humanos.
of related situations.
de situações relacionadas.
a dog like this one before,
um cachorro como esse antes,
running on a beach like this one,
correndo numa praia como essa,
and memories of a past vacation,
e lembranças de férias passadas,
with other dogs.
com outros cachorros.
is that by helping computers to understand
é que ao ajudar um computador a entender
and believe and feel,
acreditamos e sentimos,
to start evolving computer technology
a desenvolver a tecnologia da computação
às nossas próprias experiências.
with our own experiences.
há poucos anos comecei a trabalhar
computers to generate human-like stories
a criar histórias humanoides
what it thought about a trip to Australia.
achava de uma viagem à Austrália.
and it saw a koala.
it was an interesting-looking creature.
que parecia uma criatura interessante.
about a house burning down.
de um incêndio de uma casa.
Isso é espetacular!"
This is spectacular!"
and life-destroying event
que muda e destrói toda uma vida,
the contrast,
comentar positivamente.
worth remarking on positively.
que eu havia dado para ele
of the images I had given it
tend to share positive images
costumam compartilhar imagens positivas
you saw a selfie at a funeral?
uma "selfie" em um funeral?
as I worked on improving AI
no desenvolvimento de IA
conjunto por conjunto de dados,
in what it could understand.
no que ele podia entender.
todo tipo de preconceitos.
um ponto de vista limitado.
human biases found in the data,
inclinações humanas encontradas nos dados,
of the technology
na evolução da tecnologia
me encontrava naquele dia,
a white woman's skin,
a pele de uma mulher branca,
was biased against black faces.
tinha preconceito contra rostos negros.
aquele mesmo ponto cego
continues even today
different people's faces
os rostos de pessoas diferentes
in research today,
de pesquisa atualmente,
to one dataset and one problem.
a um conjunto de dados e um problema.
more blind spots and biases
mais pontos cegos e preconceitos
that we had to think deeply
looks in five years, in 10 years.
trabalhamos será em cinco ou dez anos.
with time to correct for issues
com tempo de corrigir questões
and their environment.
e com seu meio ambiente.
is evolving at an incredibly fast rate.
evolui em um ritmo incrivelmente rápido.
carefully right now --
com cuidado agora mesmo,
the technology we're creating
a tecnologia que estamos criando,
will mean for tomorrow.
significará para o amanhã.
on what they think
declararam o que acham
of the future will be.
artificial do futuro.
could end mankind."
pode terminar com a raça humana".
that it's an existential risk
um risco existencial
that we face as a civilization.
que enfrentamos como civilização.
why people aren't more concerned."
não estão mais preocupadas".
of artificial intelligence
da inteligência artificial
and all work with.
e com o qual podemos trabalhar.
for machine learning and intelligence
para aprendizado automático e inteligência
we can share our experience.
a nossa experiência.
with technology and how it concerns us
e como ela nos afeta e estimula.
that could be more beneficial
que poderiam ser mais benéficos
the discussion on AI
em abrir a discussão sobre IA
conversation and awareness
um diálogo geral e uma consciência
that best suits us.
que mais se ajuste a nós.
in the technology that we use today.
na tecnologia que usamos hoje.
and digital assistants and Roombas.
assistentes digitais e "Roombas".
a light shining on what the future holds.
sobre o que o futuro nos reserva.
from what we build and create right now.
o que construímos e criamos no presente.
aquele efeito dominó
we shape the AI of tomorrow.
moldamos a IA de amanhã.
in augmented realities
em realidades aumentadas
to share their experiences
a compartilharem suas experiências
the streaming visual worlds
da transmissão de mundos visuais
para carros autoguiados.
and generating language,
de imagens e que gera linguagem,
who are visually impaired
que ajuda pessoas com deficiência visual
a acessar o mundo visual.
can lead to problems.
pode acarretar problemas.
characteristics we're born with --
com as quais nascemos,
or the look of our face --
ou a aparência do nosso rosto,
we might be criminals or terrorists.
criminosos ou terroristas.
that crunches through our data,
to our gender or our race,
ao nosso gênero ou nossa raça,
we might get a loan.
pegar um empréstimo ou não.
of artificial intelligence.
da inteligência artificial.
dessa evolução.
will affect what happens down the line
afetará o que acontecerá mais à frente
in a way that helps humans,
de um jeito que ajude os humanos,
the goals and strategies
as metas e as estratégias
that fits well with humans,
que se ajustasse bem aos humanos,
e ao nosso meio ambiente.
those of us with neurological conditions
aqueles de nós com problemas neurológicos
equally challenging for everyone.
desafiadora para todos.
or the color of your skin.
ou a cor da sua pele.
is the technology for tomorrow
na tecnologia para o amanhã
de várias maneiras diferentes.
without any destination.
and when to slow down.
ou diminuir a velocidade.
fazer uma curva.
of the future will be.
intelligence can become.
artificial poderá se tornar.
what we need to put in place
o que precisamos implementar
of artificial intelligence
da inteligência artificial
better for all of us.
ABOUT THE SPEAKER
Margaret Mitchell - AI research scientistMargaret Mitchell is a senior research scientist in Google's Research & Machine Intelligence group, working on artificial intelligence.
Why you should listen
Margaret Mitchell's research involves vision-language and grounded language generation, focusing on how to evolve artificial intelligence towards positive goals. Her work combines computer vision, natural language processing, social media as well as many statistical methods and insights from cognitive science. Before Google, Mitchell was a founding member of Microsoft Research's "Cognition" group, focused on advancing artificial intelligence, and a researcher in Microsoft Research's Natural Language Processing group.
Margaret Mitchell | Speaker | TED.com