Tristan Harris: How a handful of tech companies control billions of minds every day
Tristan Harris: Como um grupo de empresas de tecnologia controla bilhões de mentes todos os dias
Tristan Harris helps the technology industry more consciously and ethically shape the human spirit and human potential. Full bio
Double-click the English transcript below to play the video.
com um grupo de pessoas,
over a desk with little dials,
sobre uma mesa de controle,
nos dias de hoje.
in one of those control rooms.
de uma dessas salas de controle.
em ética de design do Google,
steer people's thoughts?
os pensamentos das pessoas de forma ética.
is how the handful of people
é como um grupo de pessoas,
de empresas de tecnologia,
of technology companies
what a billion people are thinking today.
o que um bilhão de pessoas pensam hoje.
ou o conteúdo das notificações,
or what's on the feed,
of time in our minds.
blocos de tempo em nossa mente.
it schedules you to have thoughts
ela programa pensamentos
a little bit of time
um pouco mais de tempo
talvez não quiséssemos ser envolvidos.
to get sucked into.
as this blue sky opportunity.
como uma oportunidade visionária,
um caminho muito específico.
in a very specific direction.
driving the direction
de toda a tecnologia que criamos.
for our attention.
pela nossa atenção.
até mesmo os aplicativos de meditação,
a atenção das pessoas
of persuasive techniques
de técnicas de persuasão,
called the Persuasive Technology Lab
no "Persuasive Technology Lab",
how much time you spend.
o tempo que passamos nele.
mais do tempo das pessoas.
more of people's time.
"Isso reduz minha participação no mercado.
you look at that and say,
o próximo episódio".
toda a minha participação no mercado,
all of my market share,
antes mesmo que você clique pra assistir".
all the videos in the newsfeed
evoluindo ao acaso.
like it's sucking us in the way it is
nos envolvendo dessa maneira
to the bottom of the brain stem
ao nível mais baixo do cérebro
Snapchat is the number one way
é o principal meio de comunicação
the United States communicate.
text messages to communicate,
mensagens de texto para se comunicar,
a hundred million of them that use it.
chamado "Snapstreaks",
a feature called Snapstreaks,
em que duas pessoas se comunicaram.
communicated with each other.
algo que elas não queriam perder.
something they don't want to lose.
and you have 150 days in a row,
e tem 150 dias seguidos,
that that schedules in kids' minds.
programados na mente das crianças.
when kids go on vacation,
saem de férias,
to up to five other friends
dão suas senhas a até cinco amigos
mesmo quando não conseguem.
taking photos of just pictures or walls
e tetos só para passar o dia.
they're having real conversations.
do modo como falávamos ao telefone.
gossip on the telephone.
is that in the 1970s,
é que, na década de 70,
gossiping on the telephone,
on the other side of the screen
de engenheiros do outro lado
como funcionava nossa mente
how your psychology worked
da psicologia chamado de "duplo vínculo".
into a double bind with each other.
feel a little bit of outrage,
um pouco indignados com isso,
just comes over you.
simplesmente atinge vocês.
of getting your attention,
forma de chamar a atenção,
é algo que acontece conosco.
independentemente de nossa vontade,
quando há indignação,
doesn't just schedule a reaction
uma reação emocional no tempo e espaço.
with other people.
essa indignação com os outros.
"Você acredita no que eles disseram?"
that they said?"
at getting attention,
para chamar a atenção.
between showing you the outrage feed
tranquilas ou polêmicas,
to show you the outrage feed,
consciente de alguém,
consciously chose that,
at getting your attention.
para chamar a atenção.
is not accountable to us.
não é responsável por nós.
to maximizing attention.
ao máximo a atenção.
ao modelo de negócios da publicidade,
of advertising,
to actually walk into the control room
entrar na sala de controle e dizer:
na mente daquele grupo ali".
into their minds."
diretamente às pessoas mais suscetíveis.
who are most susceptible.
it's only going to get worse.
problem than this,
porque ele está abaixo de todos os demais.
is underneath all other problems.
and live the lives that we want,
e viver a vida que queremos;
that we have our conversations,
to have the conversations
que queremos uns com os outros.
have one of these in their pocket.
têm um desses em seu bolso.
na tecnologia e na nossa sociedade.
that we are persuadable.
que podemos ser persuadidos.
que podem programar nossa mente
into having little thoughts
ou blocos de tempo que não escolhemos,
that you didn't choose,
e nos proteger do modo como isso ocorre?
that that happens?
fundamentally in a new way.
principalmente de uma nova forma.
of human history,
na história, como o Iluminismo,
de Iluminismo autoconsciente,
self-aware Enlightenment,
we want to protect.
que queremos proteger.
and accountability systems
modelos e sistemas de responsabilidade
and more and more persuasive over time --
e mais persuasivo com o tempo,
to get more persuasive --
com o que queremos.
to what we want.
persuasion that exists
alinhados com os objetivos do persuadido,
of the persuadee.
like the business model of advertising.
como o modelo comercial de publicidade.
this view of human nature,
esta visão da natureza humana,
of a billion people --
do tempo de um bilhão de pessoas,
who have some desire
que têm algum desejo
and what they want to be thinking
e como querem ser informadas,
and how they want to be informed,
para outros caminhos
into these other directions.
para todos esses diferentes caminhos.
into all these different directions.
the exact and most empowering
a maneira exata e mais fortalecedora
for those timelines to happen.
essas linhas do tempo aconteçam.
que não queremos experimentar,
against the timelines
wouldn't want to be happening,
que, quando soa, nos dispersa.
not having the ding that sends us away;
a linha do tempo que queremos.
to live out the timeline that we want.
cancels dinner on you,
cancele o jantar com você hoje,
um pouco solitário.
want to schedule exactly one thing,
querem programar exatamente uma coisa:
you spend on the screen.
o tempo que você passa na tela.
created a different timeline
uma linha de tempo diferente,
using all of their data,
usando todos os dados disponíveis,
with the people that you care about?
com pessoas que importam para nós?
toda a solidão na sociedade,
all loneliness in society,
wanted to make possible for people.
que o Facebook quisesse dar às pessoas.
something supercontroversial on Facebook,
algo muito polêmico no Facebook,
falar de temas polêmicos.
thing to be able to do,
that big comment box,
sobre o que você quer escrever?
what key do you want to type?
a little timeline of things
uma pequena série de coisas
to do on the screen.
haja outro botão ali dizendo:
another button there saying,
de investir seu tempo?"
time well spent for you?
underneath the item it said,
"Quem vem para o jantar?"
about something controversial,
sobre algo aberto para discussão,
de nossa linha do tempo:
empowering place on your timeline,
with a bunch of a friends over
com um grupo de amigos.
a find and replace
uma espécie de "localizar e substituir",
que atualmente nos controlam
that are currently steering us
screen time persuasively
cada vez mais tempo na tela,
com o que queremos em nossa vida.
imaginem se usarmos
and all of this power
e esta nova visão da natureza humana
sobre-humana de concentração,
our attention to what we cared about
no que nos importa,
to have the conversations
ter para a democracia.
to use our attention individually.
de nossa atenção de forma individual.
and coordinate it together.
de nossa atenção de forma coletiva.
that a lot of people
que muitas pessoas
to coordinate their attention
a atenção da maneira mais fortalecedora.
a superhuman ability to do that.
sobre-humana para fazer isso.
most pressing and important problems
e importantes do mundo
that we could create in the future.
que poderíamos criar no futuro.
bem debaixo de nosso nariz,
right underneath our noses,
a billion people's thoughts.
os pensamentos de um bilhão de pessoas.
about the new augmented reality
com a nova realidade aumentada,
and these cool things that could happen,
que poderiam acontecer,
to the same race for attention,
à mesma disputa pela atenção,
in a billion people's pockets.
de um bilhão de pessoas.
mais novos, emocionantes e sofisticados,
new cool fancy education apps,
kids' minds are getting manipulated
como manipulam as mentes infantis
back and forth.
de um lado para o outro.
runaway artificial intelligences
fora de controle de um futuro hipotético
ao máximo para um objetivo,
a inteligência artificial fora de controle
artificial intelligence
maximizing for one thing.
aumentados para um aspecto.
to colonize new planets,
colonizar novos planetas,
that we're already on.
de nosso próprio planeta.
for solving every other problem.
para solucionar qualquer outro problema.
or in our collective problems
ou em nossos problemas coletivos
to put our attention where we care about.
de concentração naquilo que nos importa.
será nossa atenção e nosso tempo.
de investir nosso tempo?
Hey, stay up here a sec.
Fique aqui por um instante.
on pretty short notice,
com pouca antecedência,
bastante estressante
what you complain about is addiction,
e todas as pessoas que fazem isso.
for them it's actually interesting.
that is fantastically interesting.
extremamente interessante.
than it ever has been.
I think it's really interesting.
é o YouTube, por exemplo,
is if you're just YouTube, for example,
o próximo vídeo mais interessante,
the more interesting next video.
at suggesting that next video,
o vídeo perfeito que todos quisessem ver,
the perfect next video
em manter você conectado.
at keeping you hooked on the screen.
é descobrir quais seriam nossos limites.
our boundaries would be.
soubesse sobre o sono.
something about, say, falling asleep.
disse recentemente:
são o Facebook, o YouTube e o sono".
are Facebook, YouTube and sleep."
que a estrutura humana é limitada
is that the human architecture is limited
or dimensions of our lives
ou dimensões de nossa vida
ajudar a fazer isso.
we've got a naïve model of human nature?
um modelo simples de natureza humana?
in terms of human preference,
em termos de preferência humana,
that do an amazing job
que fazem um trabalho incrível
of things that we really care about
que realmente nos importam,
of what we just instinctively click on.
do que só clicamos por instinto.
view of human nature in every design,
da natureza humana com mais nuance
TH: Com certeza.
perguntasse a nosso cérebro volátil:
is basically only asking our lizard brain
de levar você a fazer por impulso
to just impulsively get you to do
com seu tempo,
a melhor forma de investir o seu tempo.
time well spent for you?
que poderia incluir algo para depois,
that might include something later,
here at TED in your last day here?
e todo mundo dissessem a nós:
and everyone said to us first up,
reflexivo ou o volátil? A escolha é sua".
to optimize for your reflective brain
that's an interesting word to me
uma palavra interessante
two different types of persuadability.
dois tipos diferentes de persuasão:
that we're trying right now
de razão, pensamento e argumentação,
and making an argument,
sobre um tipo diferente, mais intuitivo,
talking about a different kind,
o que está pensando.
even knowing that you're thinking.
I care about this problem so much is
Technology Lab, em Stanford
the Persuasive Technology Lab at Stanford
exactly these techniques.
que ensinam todas essas formas secretas
that teach people all these covert ways
e comandar a vida delas.
and orchestrating people's lives.
porque a maioria não sabe que isso existe.
don't know that that exists
de todas essas empresas.
so many people from all these companies.
but my experience of them
mas minha experiência com elas
no shortage of good intent.
is that these are evil people.
que são pessoas más.
these unintended consequences
não desejadas saíram de controle.
pela atenção até o final
when you have to get attention,
a atenção, e é muito tensa.
é ir mais a fundo no cérebro
is to go lower on the brain stem,
na emoção e no cérebro volátil.
to go lower into emotion,
all get a little bit wiser about this.
um pouco mais espertos sobre isso.
TH: Muito obrigado.
TH: Thank you very much.
ABOUT THE SPEAKER
Tristan Harris - Design thinkerTristan Harris helps the technology industry more consciously and ethically shape the human spirit and human potential.
Why you should listen
Tristan Harris has been called "the closest thing Silicon Valley has to a conscience" by The Atlantic magazine. Prior to founding the new Center for Humane Technology, he was Google's Design Ethicist, developing a framework for how technology should "ethically" steer the thoughts and actions of billions of people from screens.
Harris has spent a decade understanding the invisible influences that hijack human thinking and action. Drawing on literature from addiction, performative magic, social engineering, persuasive design and behavioral economics, he is currently developing a framework for ethical persuasion, especially as it relates to the moral responsibility of technology companies.
Rolling Stone magazine named Harris one of "25 People Shaping the World" in 2017. His work has been featured on TED, "60 Minutes," HBO's "RealTime with Bill Maher," "PBS NewsHour," Recode, The Atlantic, WIRED, the New York Times, Der Spiegel, The Economist and many more. Harris has briefed heads of state, technology company CEOs and members of the US Congress about the attention economy.
Tristan Harris | Speaker | TED.com