ABOUT THE SPEAKER
Andreas Ekström - Author and journalist
Andreas Ekström describes the power structures of the digital revolution.

Why you should listen

Andreas Ekström is staff writer at Sydsvenskan, a daily morning paper in Malmö, Sweden.

His passion is educating for digital equality, and he has a vision for a world in which we share the wealth -- not only financially, but also in terms of knowledge and power. Andreas is the author of six books, a columnist and a commentator, and he often lectures and leads seminars on the digital revolution.

More profile about the speaker
Andreas Ekström | Speaker | TED.com
TEDxOslo

Andreas Ekström: The moral bias behind your search results

Andreas Ekström: A parcialidade moral por trás dos seus resultados de busca na internet

Filmed:
1,550,129 views

Ferramentas de busca tornaram-se nossas fontes mais confiáveis de informação e árbitros da verdade. Mas será que é possível obtermos resultados imparciais nessas buscas? Andreas Ekström, escritor e jornalista sueco, argumenta que isso é filosoficamente impossível. Nesta profunda palestra, eles nos convoca a estreitar os laços entre a tecnologia e as ciências humanas, e nos lembra que, por trás de todo algoritmo, existe um conjunto de crenças pessoais que código algum jamais poderá erradicar totalmente.
- Author and journalist
Andreas Ekström describes the power structures of the digital revolution. Full bio

Double-click the English transcript below to play the video.

00:13
So whenever I visit a school
and talk to students,
0
1087
2493
Sempre que visito uma escola
e falo com os alunos,
sempre lhes faço a mesma pergunta:
00:15
I always ask them the same thing:
1
3604
2143
"Por que vocês usam a busca do Google?
00:18
Why do you Google?
2
6754
1434
Por que vocês optam pela ferramenta
de busca do Google?"
00:20
Why is Google the search engine
of choice for you?
3
8624
3397
É engraçado, mas sempre recebo
as mesmas três respostas.
00:24
Strangely enough, I always get
the same three answers.
4
12855
2552
Primeiro: "Porque funciona",
00:27
One, "Because it works,"
5
15431
2039
o que é uma ótima resposta.
Também opto pelo Google por isso.
00:29
which is a great answer;
that's why I Google, too.
6
17494
2906
Segundo, alguém vai dizer:
"Não conheço outras ferramentas".
00:32
Two, somebody will say,
7
20424
2033
00:34
"I really don't know of any alternatives."
8
22481
2640
Não é uma resposta tão boa quanto
a anterior, e normalmente respondo:
00:37
It's not an equally great answer
and my reply to that is usually,
9
25708
3128
"Busque 'ferramenta de busca' no Google",
00:40
"Try to Google the word 'search engine,'
10
28860
1921
e vai encontrar algumas
alternativas interessantes".
00:42
you may find a couple
of interesting alternatives."
11
30805
2402
00:45
And last but not least, thirdly,
12
33231
2095
Por último, mas não menos importante,
inevitavelmente, algum aluno
levanta a mão e diz:
00:47
inevitably, one student will raise
her or his hand and say,
13
35350
3310
00:50
"With Google, I'm certain to always get
the best, unbiased search result."
14
38684
5183
"Com o Google, sempre obtenho
o resultado melhor e imparcial".
00:57
Certain to always get the best,
unbiased search result.
15
45157
6506
"Sempre obtenho
o resultado melhor e imparcial."
01:05
Now, as a man of the humanities,
16
53091
2390
Como um cara de humanas,
embora um cara de humanas digitais,
01:07
albeit a digital humanities man,
17
55505
2181
isso simplesmente me assusta,
01:09
that just makes my skin curl,
18
57710
1738
embora eu também saiba que essa confiança,
essa ideia de um resultado imparcial,
01:11
even if I, too, realize that that trust,
that idea of the unbiased search result
19
59472
4886
é a base de nosso apreço
e paixão coletivos pelo Google.
01:16
is a cornerstone in our collective love
for and appreciation of Google.
20
64382
3855
Vou mostrar por que, filosoficamente,
isso é quase impossível,
01:20
I will show you why that, philosophically,
is almost an impossibility.
21
68658
4258
mas primeiro vou falar, só um pouquinho,
sobre um princípio básico
01:24
But let me first elaborate,
just a little bit, on a basic principle
22
72940
3254
por trás de cada pesquisa feita,
do qual às vezes parecemos nos esquecer.
01:28
behind each search query
that we sometimes seem to forget.
23
76218
3113
Sempre que você pesquisar algo no Google,
01:31
So whenever you set out
to Google something,
24
79851
2080
faça antes a seguinte pergunta a si mesmo:
"Estou buscando um fato isolado?"
01:33
start by asking yourself this:
"Am I looking for an isolated fact?"
25
81955
3927
Tipo, qual é a capital da França?
01:38
What is the capital of France?
26
86334
3161
01:41
What are the building blocks
of a water molecule?
27
89519
2425
Quais elementos compõem
a molécula de água?
Perfeito. Pesquise à vontade.
01:43
Great -- Google away.
28
91968
2341
Não há um grupo sequer de cientistas
que esteja perto de provar
01:46
There's not a group of scientists
who are this close to proving
29
94333
3120
que as respostas são "Londres" e "H3O".
01:49
that it's actually London and H30.
30
97477
1997
Não se vê uma grande
conspiração em torno disso.
01:51
You don't see a big conspiracy
among those things.
31
99498
2371
Concordamos, em escala mundial,
01:53
We agree, on a global scale,
32
101893
1533
quanto a quais são as respostas
para esses fatos isolados.
01:55
what the answers are
to these isolated facts.
33
103450
2725
Porém, se você complicar
a pergunta só um pouquinho, assim:
01:58
But if you complicate your question
just a little bit and ask something like,
34
106199
5302
"Por que existe um conflito
entre Israel e Palestina?",
02:03
"Why is there
an Israeli-Palestine conflict?"
35
111525
2683
não estará mais buscando
exatamente um único fato,
02:06
You're not exactly looking
for a singular fact anymore,
36
114978
2640
mas estará buscando conhecimento,
02:09
you're looking for knowledge,
37
117642
1833
o que é bem mais complicado e delicado.
02:11
which is something way more
complicated and delicate.
38
119499
2578
E, para chegar ao conhecimento,
02:14
And to get to knowledge,
39
122600
1549
você precisa trazer
10, 20 ou 100 fatos à mesa,
02:16
you have to bring 10 or 20
or 100 facts to the table
40
124173
3031
reconhecê-los e dizer:
"Sim, todos são verdadeiros".
02:19
and acknowledge them and say,
"Yes, these are all true."
41
127228
2976
Mas, por causa de quem somos -
02:22
But because of who I am,
42
130228
1674
jovens, idosos, negros,
brancos, gays, héteros -,
02:23
young or old, black or white,
gay or straight,
43
131926
2270
vamos valorizá-los de forma diferente:
"Sim, isso aqui é verdade,
02:26
I will value them differently.
44
134220
1611
02:27
And I will say, "Yes, this is true,
45
135855
1688
mas isso aqui é mais importante
pra mim do que aquilo".
02:29
but this is more important
to me than that."
46
137567
2114
É aí que a coisa fica interessante,
porque é aí que nos tornamos humanos,
02:31
And this is where it becomes interesting,
47
139705
1990
02:33
because this is where we become human.
48
141719
2146
que começamos a debater,
a criar uma sociedade.
02:35
This is when we start
to argue, to form society.
49
143889
2996
E, para realmente chegar a algum lugar,
precisamos filtrar todos os fatos,
02:38
And to really get somewhere,
we need to filter all our facts here,
50
146909
3357
entre amigos, vizinhos, pais, filhos,
colegas de trabalho, jornais, revistas,
02:42
through friends and neighbors
and parents and children
51
150290
2556
02:44
and coworkers and newspapers
and magazines,
52
152870
2032
para finalmente estarmos baseados
em conhecimento real,
02:46
to finally be grounded in real knowledge,
53
154926
3080
algo que uma ferramenta de busca
é ruim em nos ajudar a obter.
02:50
which is something that a search engine
is a poor help to achieve.
54
158030
4047
02:55
So, I promised you an example
just to show you why it's so hard
55
163284
6328
Prometi a vocês um exemplo,
apenas para mostrar por que é tão difícil
chegar ao conhecimento
real, claro e objetivo,
03:01
to get to the point of true, clean,
objective knowledge --
56
169636
3404
como ponto para reflexão.
03:05
as food for thought.
57
173064
1468
Vou fazer algumas
pesquisas simples, buscas simples.
03:06
I will conduct a couple of simple
queries, search queries.
58
174556
3893
Vamos começar com "Michelle Obama",
a primeira-dama dos Estados Unidos,
03:10
We'll start with "Michelle Obama,"
59
178473
4040
03:14
the First Lady of the United States.
60
182537
1804
e vamos clicar em "imagens".
03:16
And we'll click for pictures.
61
184365
1729
Funciona muito bem, como vocês podem ver.
03:19
It works really well, as you can see.
62
187007
2272
É um resultado de busca
praticamente perfeito.
03:21
It's a perfect search
result, more or less.
63
189303
3028
Só ela aparece nas fotos.
Nem o presidente aparece.
03:24
It's just her in the picture,
not even the President.
64
192355
2750
Como isso funciona?
03:27
How does this work?
65
195664
1313
Bem simples.
03:29
Quite simple.
66
197837
1372
O Google usa muita inteligência para isso,
mas, de forma bem simples,
03:31
Google uses a lot of smartness
to achieve this, but quite simply,
67
199233
3215
eles analisam principalmente duas coisas.
03:34
they look at two things
more than anything.
68
202472
2060
03:36
First, what does it say in the caption
under the picture on each website?
69
204556
5156
Primeiro, o que está escrito
na legenda da foto, em cada site?
Está escrito "Michelle Obama"
abaixo da foto?
03:41
Does it say "Michelle Obama"
under the picture?
70
209736
2215
É bem provável que seja ela mesma na foto.
03:43
Pretty good indication
it's actually her on there.
71
211975
2356
Segundo, o Google analisa
o arquivo da imagem,
03:46
Second, Google looks at the picture file,
72
214355
2386
o nome com que o arquivo
foi carregado no site.
03:48
the name of the file as such
uploaded to the website.
73
216765
3032
Novamente, se o nome do arquivo
for "MichelleObama.jpeg",
03:51
Again, is it called "MichelleObama.jpeg"?
74
219821
2669
é bem provável que a foto
não seja do Clint Eastwood.
03:54
Pretty good indication it's not
Clint Eastwood in the picture.
75
222839
2922
Então, você tem essas duas coisas,
e obtém um resultado mais ou menos assim.
03:57
So, you've got those two and you get
a search result like this -- almost.
76
225785
4265
Bem, em 2009, Michelle Obama
foi vítima de uma campanha racista,
04:02
Now, in 2009, Michelle Obama
was the victim of a racist campaign,
77
230074
6603
quando as pessoas começaram a insultá-la
04:08
where people set out to insult her
through her search results.
78
236701
4015
através dos resultados de pesquisa
relacionados a ela.
Uma foto circulou em toda a internet,
04:13
There was a picture distributed
widely over the Internet
79
241430
2702
com o rosto dela distorcido,
fazendo-a parecer com um macaco.
04:16
where her face was distorted
to look like a monkey.
80
244156
2644
Essa imagem foi publicada
em toda a internet.
04:18
And that picture was published all over.
81
246824
3169
As pessoas a publicaram
realmente com a intenção
04:22
And people published it
very, very purposefully,
82
250017
3761
de aparecer nos primeiros
resultados de pesquisa.
04:25
to get it up there in the search results.
83
253802
1971
04:27
They made sure to write
"Michelle Obama" in the caption
84
255797
2955
Certificaram-se de escrever
"Michelle Obama" na legenda
e de carregar a imagem como
"MichelleObama.jpeg", ou algo assim.
04:30
and they made sure to upload the picture
as "MichelleObama.jpeg," or the like.
85
258776
4177
Entendem por quê?
Para manipular os resultados.
04:34
You get why -- to manipulate
the search result.
86
262977
2367
E funcionou também.
04:37
And it worked, too.
87
265368
1295
Então, ao pesquisar imagens
de "Michelle Obama" em 2009,
04:38
So when you picture-Googled
for "Michelle Obama" in 2009,
88
266687
2720
a imagem distorcida de macaco
aparecia entre os primeiros resultados.
04:41
that distorted monkey picture
showed up among the first results.
89
269431
3387
Mas os resultados são autoajustáveis,
o que é meio que a vantagem disso tudo,
04:44
Now, the results are self-cleansing,
90
272842
3566
04:48
and that's sort of the beauty of it,
91
276432
1753
porque o Google avalia a relevância
a cada hora, a cada dia.
04:50
because Google measures relevance
every hour, every day.
92
278209
3403
04:53
However, Google didn't settle
for that this time,
93
281636
2714
Porém, o Google não fez isso dessa vez.
Eles pensaram: "Isso é racismo
e um resultado ruim de pesquisa.
04:56
they just thought, "That's racist
and it's a bad search result
94
284374
3124
Vamos lá e vamos corrigir
isso manualmente.
04:59
and we're going to go back
and clean that up manually.
95
287522
3135
Vamos escrever algum código
para consertar isso".
05:02
We are going to write
some code and fix it,"
96
290681
2932
E assim o fizeram.
05:05
which they did.
97
293637
1247
Não acredito que alguém nesta sala
ache que isso foi uma má ideia.
05:07
And I don't think anyone in this room
thinks that was a bad idea.
98
295454
3742
Também não acho.
05:11
Me neither.
99
299789
1164
Mas então, dois anos depois,
05:14
But then, a couple of years go by,
100
302802
3032
e o "Anders" mais buscado no Google,
Anders Behind Breivik,
05:17
and the world's most-Googled Anders,
101
305858
2984
05:20
Anders Behring Breivik,
102
308866
2279
fez o que fez.
05:23
did what he did.
103
311169
1706
É 22 de julho de 2011,
um dia terrível na história da Noruega.
05:24
This is July 22 in 2011,
104
312899
2001
05:26
and a terrible day in Norwegian history.
105
314924
2649
Este homem, um terrorista,
explodiu dois edifícios governamentais,
05:29
This man, a terrorist, blew up
a couple of government buildings
106
317597
3787
a poucos metros daqui,
em Oslo, na Noruega,
05:33
walking distance from where we are
right now in Oslo, Norway
107
321408
2883
e depois viajou para a ilha de Utøya
e matou a tiros um grupo de jovens.
05:36
and then he traveled
to the island of Utøya
108
324315
2051
05:38
and shot and killed a group of kids.
109
326390
2223
Quase 80 pessoas morreram naquele dia.
05:41
Almost 80 people died that day.
110
329113
1728
Muitos descreveriam esse ato
de terror como realizado em duas etapas,
05:44
And a lot of people would describe
this act of terror as two steps,
111
332397
4559
05:48
that he did two things: he blew up
the buildings and he shot those kids.
112
336980
3411
que ele fez duas coisas: explodiu
os edifícios e atirou nos jovens.
Não é verdade.
05:52
It's not true.
113
340415
1165
Foram três etapas: ele explodiu
aqueles edifícios, atirou naqueles jovens,
05:54
It was three steps.
114
342326
2143
05:56
He blew up those buildings,
he shot those kids,
115
344493
2214
depois parou e esperou
até que o mundo o buscasse no Google.
05:58
and he sat down and waited
for the world to Google him.
116
346731
3644
Ele preparou todas as três
etapas igualmente bem.
06:03
And he prepared
all three steps equally well.
117
351227
2627
Alguém que imediatamente entendeu isso
foi um desenvolvedor web sueco,
06:06
And if there was somebody
who immediately understood this,
118
354544
2790
06:09
it was a Swedish web developer,
119
357358
1524
especialista em otimização
de ferramentas de busca de Estocolmo,
06:10
a search engine optimization expert
in Stockholm, named Nikke Lindqvist.
120
358906
3623
chamado Nikke Lindqvist.
Ele também é um cara bem político
06:14
He's also a very political guy
121
362553
1588
e ele estava lá nas redes sociais,
em seu blog e Facebook.
06:16
and he was right out there
in social media, on his blog and Facebook.
122
364165
3276
Ele disse a todo mundo:
06:19
And he told everybody,
123
367465
1206
"O que esse cara deseja agora
é controlar sua própria imagem.
06:20
"If there's something that
this guy wants right now,
124
368695
2455
06:23
it's to control the image of himself.
125
371174
2459
Vejamos se conseguimos
distorcer os resultados.
06:26
Let's see if we can distort that.
126
374760
1960
Vejamos se nós, do mundo civilizado,
06:29
Let's see if we, in the civilized world,
can protest against what he did
127
377490
3977
conseguimos protestar
contra o que ele fez,
insultando-o em seus
resultados de pesquisa".
06:33
through insulting him
in his search results."
128
381491
3317
Mas como?
06:36
And how?
129
384832
1187
Ele disse o seguinte
a todos os leitores dele:
06:38
He told all of his readers the following,
130
386797
2056
"Procurem na internet
06:40
"Go out there on the Internet,
131
388877
1864
imagens de cocô de cachorro em calçadas.
06:42
find pictures of dog poop on sidewalks --
132
390765
2895
Imagens de cocô de cachorro em calçadas.
06:46
find pictures of dog poop on sidewalks --
133
394708
2174
Publiquem-nas em suas páginas,
seus sites, seus blogs.
06:48
publish them in your feeds,
on your websites, on your blogs.
134
396906
3470
Certifiquem-se de escrever
o nome do terrorista na legenda,
06:52
Make sure to write the terrorist's
name in the caption,
135
400400
2921
coloquem o seguinte nome
na imagem: 'Breivik.jpeg'.
06:55
make sure to name
the picture file "Breivik.jpeg."
136
403345
4487
Vamos mostrar ao Google
que essa é a imagem do terrorista".
06:59
Let's teach Google that that's
the face of the terrorist."
137
407856
3801
E funcionou.
07:05
And it worked.
138
413552
1278
Dois anos após a campanha
contra Michelle Obama,
07:07
Two years after that campaign
against Michelle Obama,
139
415853
2898
essa campanha de manipulação
contra Anders Behring Breivik funcionou.
07:10
this manipulation campaign
against Anders Behring Breivik worked.
140
418775
3266
Ao pesquisar a imagem dele no Google
07:14
If you picture-Googled for him weeks after
the July 22 events from Sweden,
141
422065
4462
semanas após os eventos
de 22 de julho, na Suécia,
você veria a imagem do cocô
de cachorro no topo dos resultados,
07:18
you'd see that picture of dog poop
high up in the search results,
142
426551
4327
como uma pequena forma de protesto.
07:22
as a little protest.
143
430902
1444
Por incrível que pareça,
o Google não interveio dessa vez.
07:25
Strangely enough, Google
didn't intervene this time.
144
433425
4132
Eles não ajustaram manualmente
esses resultados de pesquisa.
07:30
They did not step in and manually
clean those search results up.
145
438494
4272
Então, a pergunta que não quer calar:
07:35
So the million-dollar question,
146
443964
1716
há algo diferente
entre esses dois acontecimentos?
07:37
is there anything different
between these two happenings here?
147
445704
3368
Há algo diferente entre o que
aconteceu com Michelle Obama
07:41
Is there anything different between
what happened to Michelle Obama
148
449096
3193
e o que aconteceu
com Anders Behring Breivik?
07:44
and what happened
to Anders Behring Breivik?
149
452313
2065
Claro que não.
07:46
Of course not.
150
454402
1284
É exatamente a mesma coisa,
07:48
It's the exact same thing,
151
456861
1471
mas o Google interveio
em um caso e no outro não.
07:50
yet Google intervened in one case
and not in the other.
152
458356
2864
Por quê?
07:53
Why?
153
461244
1253
Porque Michelle Obama
é uma pessoa honrada,
07:55
Because Michelle Obama
is an honorable person, that's why,
154
463283
3300
e Anders Behring Breivik
é uma pessoa desprezível.
07:58
and Anders Behring Breivik
is a despicable person.
155
466607
2916
Percebem o acontece aqui?
08:02
See what happens there?
156
470142
1535
A avaliação de uma pessoa acontece
08:03
An evaluation of a person takes place
157
471701
3255
e há apenas um mandachuva no mundo
08:06
and there's only one
power-player in the world
158
474980
3786
com a autoridade para dizer quem é quem.
08:10
with the authority to say who's who.
159
478790
2480
"Gostamos de você. Não gostamos de você.
08:13
"We like you, we dislike you.
160
481882
1741
Acreditamos em você; não em você.
Está certo, errado. É verdadeiro, falso.
08:15
We believe in you,
we don't believe in you.
161
483647
2039
08:17
You're right, you're wrong.
You're true, you're false.
162
485710
2547
Você é Obama. Você é Breivik."
08:20
You're Obama, and you're Breivik."
163
488281
1805
Isso é que é poder.
08:22
That's power if I ever saw it.
164
490791
2000
Então, peço que vocês lembrem
que, atrás de cada algoritmo,
08:27
So I'm asking you to remember
that behind every algorithm
165
495206
3652
08:30
is always a person,
166
498882
1777
sempre existe alguém
com um conjunto de crenças pessoais
08:32
a person with a set of personal beliefs
167
500683
2495
que código algum jamais poderá
erradicar totalmente.
08:35
that no code can ever
completely eradicate.
168
503202
2525
Minha mensagem não é apenas ao Google,
08:37
And my message goes
out not only to Google,
169
505751
2434
mas a todos os que creem piamente
em códigos, em todo o mundo.
08:40
but to all believers in the faith
of code around the world.
170
508209
2810
Vocês precisam identificar
sua própria parcialidade.
08:43
You need to identify
your own personal bias.
171
511043
2976
Precisam entender que são humanos
e assumir responsabilidade como tais.
08:46
You need to understand that you are human
172
514043
2013
08:48
and take responsibility accordingly.
173
516080
2491
Digo isso porque acredito
que chegamos a um ponto
08:51
And I say this because I believe
we've reached a point in time
174
519891
2938
em que é absolutamente imperativo
08:54
when it's absolutely imperative
175
522853
1555
que atemos esses laços
novamente, de maneira mais forte:
08:56
that we tie those bonds
together again, tighter:
176
524432
3217
ciências humanas e tecnologia,
08:59
the humanities and the technology.
177
527673
2368
mais unidas que nunca,
09:02
Tighter than ever.
178
530483
1805
e, no mínimo, lembrar que essa ideia
maravilhosamente sedutora
09:04
And, if nothing else, to remind us
that that wonderfully seductive idea
179
532312
3339
de um resultado de pesquisa
imparcial e limpo
09:07
of the unbiased, clean search result
180
535675
2668
é, e provavelmente
continuará sendo, um mito.
09:10
is, and is likely to remain, a myth.
181
538367
2767
Obrigado pela atenção.
09:13
Thank you for your time.
182
541984
1159
(Aplausos)
09:15
(Applause)
183
543167
2432
Translated by Leonardo Silva
Reviewed by Raissa Mendes

▲Back to top

ABOUT THE SPEAKER
Andreas Ekström - Author and journalist
Andreas Ekström describes the power structures of the digital revolution.

Why you should listen

Andreas Ekström is staff writer at Sydsvenskan, a daily morning paper in Malmö, Sweden.

His passion is educating for digital equality, and he has a vision for a world in which we share the wealth -- not only financially, but also in terms of knowledge and power. Andreas is the author of six books, a columnist and a commentator, and he often lectures and leads seminars on the digital revolution.

More profile about the speaker
Andreas Ekström | Speaker | TED.com