TEDxOslo
Andreas Ekström: The moral bias behind your search results
Andreas Ekström: De morele subjectiviteit in je zoekresultaten
Filmed:
Readability: 3.7
1,550,129 views
Zoekmachines zijn onze meest vertrouwde bronnen van informatie en waarheid geworden. Maar kunnen we ooit een objectief zoekresultaat krijgen? Zweeds auteur en journalist Andreas Ekström legt uit waarom dat een filosofische onmogelijkheid is. In deze talk vraagt hij ons om de banden tussen de menswetenschappen en de technologie aan te halen en hij herinnert ons eraan dat achter elk algoritme persoonlijke waarden schuilen die geen code ooit volledig kan uitsluiten.
Andreas Ekström - Author and journalist
Andreas Ekström describes the power structures of the digital revolution. Full bio
Andreas Ekström describes the power structures of the digital revolution. Full bio
Double-click the English transcript below to play the video.
00:13
So whenever I visit a school
and talk to students,
and talk to students,
0
1087
2493
Wanneer ik een school bezoek
en praat met studenten,
en praat met studenten,
00:15
I always ask them the same thing:
1
3604
2143
vraag ik hun altijd hetzelfde:
00:18
Why do you Google?
2
6754
1434
Waarom googel je?
00:20
Why is Google the search engine
of choice for you?
of choice for you?
3
8624
3397
Waarom is Google
dé zoekmachine van jouw keuze?
dé zoekmachine van jouw keuze?
Vreemd genoeg krijg ik altijd
dezelfde drie antwoorden.
dezelfde drie antwoorden.
00:24
Strangely enough, I always get
the same three answers.
the same three answers.
4
12855
2552
Een: "Omdat het werkt",
00:27
One, "Because it works,"
5
15431
2039
wat een prima antwoord is;
daarom googel ik ook.
daarom googel ik ook.
00:29
which is a great answer;
that's why I Google, too.
that's why I Google, too.
6
17494
2906
00:32
Two, somebody will say,
7
20424
2033
Twee, er is altijd iemand die zegt:
00:34
"I really don't know of any alternatives."
8
22481
2640
"Ik ken eigenlijk geen alternatieven."
Dat is geen goed antwoord.
00:37
It's not an equally great answer
and my reply to that is usually,
and my reply to that is usually,
9
25708
3128
Ik zeg dan meestal:
"Googel eens het woord 'zoekmachine',
"Googel eens het woord 'zoekmachine',
00:40
"Try to Google the word 'search engine,'
10
28860
1921
je vindt misschien een paar
interessante alternatieven."
interessante alternatieven."
00:42
you may find a couple
of interesting alternatives."
of interesting alternatives."
11
30805
2402
00:45
And last but not least, thirdly,
12
33231
2095
En tenslotte, ten derde,
steekt er onvermijdelijk een student
zijn of haar hand op en zegt:
zijn of haar hand op en zegt:
00:47
inevitably, one student will raise
her or his hand and say,
her or his hand and say,
13
35350
3310
00:50
"With Google, I'm certain to always get
the best, unbiased search result."
the best, unbiased search result."
14
38684
5183
"Met Google krijg ik gegarandeerd altijd
het beste, objectieve zoekresultaat."
het beste, objectieve zoekresultaat."
00:57
Certain to always get the best,
unbiased search result.
unbiased search result.
15
45157
6506
'Krijg ik gegarandeerd altijd
het beste, objectieve zoekresultaat.'
het beste, objectieve zoekresultaat.'
01:05
Now, as a man of the humanities,
16
53091
2390
Als menswetenschapper,
ofschoon een digitale menswetenschapper,
01:07
albeit a digital humanities man,
17
55505
2181
krijg ik daar krullende tenen van.
01:09
that just makes my skin curl,
18
57710
1738
01:11
even if I, too, realize that that trust,
that idea of the unbiased search result
that idea of the unbiased search result
19
59472
4886
Hoewel ik ook besef dat dat vertrouwen,
dat idee van objectieve zoekresultaten,
dat idee van objectieve zoekresultaten,
01:16
is a cornerstone in our collective love
for and appreciation of Google.
for and appreciation of Google.
20
64382
3855
een hoeksteen is in onze collectieve
liefde en waardering voor Google.
liefde en waardering voor Google.
01:20
I will show you why that, philosophically,
is almost an impossibility.
is almost an impossibility.
21
68658
4258
Ik zal je laten zien waarom dat
filosofisch gezien bijna onmogelijk is.
filosofisch gezien bijna onmogelijk is.
01:24
But let me first elaborate,
just a little bit, on a basic principle
just a little bit, on a basic principle
22
72940
3254
Laat ik eerst wat dieper ingaan
op een basisprincipe achter elke zoekvraag
op een basisprincipe achter elke zoekvraag
01:28
behind each search query
that we sometimes seem to forget.
that we sometimes seem to forget.
23
76218
3113
dat we soms vergeten.
01:31
So whenever you set out
to Google something,
to Google something,
24
79851
2080
Wanneer je iets wil googelen,
01:33
start by asking yourself this:
"Am I looking for an isolated fact?"
"Am I looking for an isolated fact?"
25
81955
3927
vraag jezelf dan eerst af:
zoek ik een geïsoleerd feit?
zoek ik een geïsoleerd feit?
01:38
What is the capital of France?
26
86334
3161
Wat is de hoofdstad van Frankrijk?
01:41
What are the building blocks
of a water molecule?
of a water molecule?
27
89519
2425
Wat zijn de bouwstenen
van een watermolecule?
van een watermolecule?
01:43
Great -- Google away.
28
91968
2341
Prima! Googelen maar.
01:46
There's not a group of scientists
who are this close to proving
who are this close to proving
29
94333
3120
We staan nou niet echt op het punt
te ontdekken dat het Londen is en H3O.
te ontdekken dat het Londen is en H3O.
01:49
that it's actually London and H30.
30
97477
1997
01:51
You don't see a big conspiracy
among those things.
among those things.
31
99498
2371
Er bestaan hierover
geen grote samenzweringen.
geen grote samenzweringen.
01:53
We agree, on a global scale,
32
101893
1533
We zijn het er wereldwijd over eens
01:55
what the answers are
to these isolated facts.
to these isolated facts.
33
103450
2725
wat de antwoorden zijn
inzake deze geïsoleerde feiten.
inzake deze geïsoleerde feiten.
01:58
But if you complicate your question
just a little bit and ask something like,
just a little bit and ask something like,
34
106199
5302
Maar als je je vraag moeilijker maakt
en iets vraagt als:
02:03
"Why is there
an Israeli-Palestine conflict?"
an Israeli-Palestine conflict?"
35
111525
2683
"Waarom bestaat er
een Palestijns-Israelisch conflict?"
een Palestijns-Israelisch conflict?"
02:06
You're not exactly looking
for a singular fact anymore,
for a singular fact anymore,
36
114978
2640
Dan zoek je geen eenvoudig feit meer.
02:09
you're looking for knowledge,
37
117642
1833
Dan zoek je naar kennis,
02:11
which is something way more
complicated and delicate.
complicated and delicate.
38
119499
2578
wat veel gecompliceerder en delicater is.
02:14
And to get to knowledge,
39
122600
1549
Om kennis te verkrijgen,
02:16
you have to bring 10 or 20
or 100 facts to the table
or 100 facts to the table
40
124173
3031
moet je 10, 20 of 100 feiten kennen,
02:19
and acknowledge them and say,
"Yes, these are all true."
"Yes, these are all true."
41
127228
2976
die erkennen en zeggen:
"Ja, dat is allemaal waar."
"Ja, dat is allemaal waar."
02:22
But because of who I am,
42
130228
1674
Maar door wie ik ben,
02:23
young or old, black or white,
gay or straight,
gay or straight,
43
131926
2270
jong of oud, blank of donker,
homo of hetero,
homo of hetero,
02:26
I will value them differently.
44
134220
1611
zal ik hen anders waarderen en zeggen:
02:27
And I will say, "Yes, this is true,
45
135855
1688
"Ja, dat is waar, maar dit
is belangrijker voor mij dan dat."
is belangrijker voor mij dan dat."
02:29
but this is more important
to me than that."
to me than that."
46
137567
2114
Daar wordt het interessant,
02:31
And this is where it becomes interesting,
47
139705
1990
want hier worden we mensen.
02:33
because this is where we become human.
48
141719
2146
02:35
This is when we start
to argue, to form society.
to argue, to form society.
49
143889
2996
Hier beginnen we te discussiëren,
vormen we een maatschappij.
vormen we een maatschappij.
02:38
And to really get somewhere,
we need to filter all our facts here,
we need to filter all our facts here,
50
146909
3357
Om echt iets te bereiken,
moeten we hier de feiten filteren,
moeten we hier de feiten filteren,
02:42
through friends and neighbors
and parents and children
and parents and children
51
150290
2556
met vrienden en buren
en ouders en kinderen
en ouders en kinderen
02:44
and coworkers and newspapers
and magazines,
and magazines,
52
152870
2032
en collega's en kranten en tijdschriften,
02:46
to finally be grounded in real knowledge,
53
154926
3080
om uiteindelijk echte kennis te krijgen;
02:50
which is something that a search engine
is a poor help to achieve.
is a poor help to achieve.
54
158030
4047
iets wat je moeilijk
aan een zoekmachine over kunt laten.
aan een zoekmachine over kunt laten.
02:55
So, I promised you an example
just to show you why it's so hard
just to show you why it's so hard
55
163284
6328
Ik beloofde jullie een voorbeeld
om te tonen waarom het zo moeilijk is
03:01
to get to the point of true, clean,
objective knowledge --
objective knowledge --
56
169636
3404
om tot echt objectieve kennis te komen
-- als iets om over na te denken.
03:05
as food for thought.
57
173064
1468
03:06
I will conduct a couple of simple
queries, search queries.
queries, search queries.
58
174556
3893
Ik zal een paar eenvoudige
zoekopdrachten doen.
zoekopdrachten doen.
03:10
We'll start with "Michelle Obama,"
59
178473
4040
We starten met:
'Michelle Obama',
presidentsvrouw van de Verenigde Staten
presidentsvrouw van de Verenigde Staten
03:14
the First Lady of the United States.
60
182537
1804
en we zoeken foto's.
03:16
And we'll click for pictures.
61
184365
1729
03:19
It works really well, as you can see.
62
187007
2272
Dat werk heel goed, zoals je ziet.
03:21
It's a perfect search
result, more or less.
result, more or less.
63
189303
3028
Praktisch een perfect zoekresultaat.
03:24
It's just her in the picture,
not even the President.
not even the President.
64
192355
2750
Het is alleen zij op de foto,
niet eens de president.
niet eens de president.
03:27
How does this work?
65
195664
1313
Hoe werkt dit?
03:29
Quite simple.
66
197837
1372
Vrij simpel.
03:31
Google uses a lot of smartness
to achieve this, but quite simply,
to achieve this, but quite simply,
67
199233
3215
Google gebruikt veel trucs
om dit te bereiken,
om dit te bereiken,
maar eenvoudig gesteld
kijken ze vooral naar twee dingen.
kijken ze vooral naar twee dingen.
03:34
they look at two things
more than anything.
more than anything.
68
202472
2060
03:36
First, what does it say in the caption
under the picture on each website?
under the picture on each website?
69
204556
5156
Ten eerste: wat zegt het bijschrift
onder de foto op de website?
onder de foto op de website?
03:41
Does it say "Michelle Obama"
under the picture?
under the picture?
70
209736
2215
Staat er 'Michelle Obama' onder de foto?
03:43
Pretty good indication
it's actually her on there.
it's actually her on there.
71
211975
2356
Dat is een goede indicatie dat zij het is.
03:46
Second, Google looks at the picture file,
72
214355
2386
Ten tweede: Google kijkt naar het bestand.
03:48
the name of the file as such
uploaded to the website.
uploaded to the website.
73
216765
3032
De naam van het bestand
zoals het op de website geüpload werd.
zoals het op de website geüpload werd.
03:51
Again, is it called "MichelleObama.jpeg"?
74
219821
2669
Opnieuw: heet het 'MichelleObama.jpeg'?
03:54
Pretty good indication it's not
Clint Eastwood in the picture.
Clint Eastwood in the picture.
75
222839
2922
Dikke kans dat het niet Clint Eastwood is.
03:57
So, you've got those two and you get
a search result like this -- almost.
a search result like this -- almost.
76
225785
4265
Is aan die twee voorwaarden voldaan,
dan krijg je dit zoekresultaat -- bijna.
dan krijg je dit zoekresultaat -- bijna.
04:02
Now, in 2009, Michelle Obama
was the victim of a racist campaign,
was the victim of a racist campaign,
77
230074
6603
In 2009 was Michelle Obama
slachtoffer van een racistische campagne
slachtoffer van een racistische campagne
04:08
where people set out to insult her
through her search results.
through her search results.
78
236701
4015
waarin mensen haar wilden beledigen
via de zoekresultaten.
via de zoekresultaten.
04:13
There was a picture distributed
widely over the Internet
widely over the Internet
79
241430
2702
Er werd een foto
verspreid over het internet,
verspreid over het internet,
04:16
where her face was distorted
to look like a monkey.
to look like a monkey.
80
244156
2644
waarop haar gezicht
was vervormd tot dat van een aap.
was vervormd tot dat van een aap.
04:18
And that picture was published all over.
81
246824
3169
Die foto werd overal gepubliceerd.
04:22
And people published it
very, very purposefully,
very, very purposefully,
82
250017
3761
Mensen publiceerden die heel, heel bewust
04:25
to get it up there in the search results.
83
253802
1971
om hem in de zoekresultaten te krijgen.
04:27
They made sure to write
"Michelle Obama" in the caption
"Michelle Obama" in the caption
84
255797
2955
Ze schreven bewust
'Michelle Obama' in het bijschrift
'Michelle Obama' in het bijschrift
04:30
and they made sure to upload the picture
as "MichelleObama.jpeg," or the like.
as "MichelleObama.jpeg," or the like.
85
258776
4177
en ze uploaden de foto bewust
als 'MichelleObama.jepg' of zoiets.
als 'MichelleObama.jepg' of zoiets.
Je snapt waarom:
om het zoekresultaat te manipuleren.
om het zoekresultaat te manipuleren.
04:34
You get why -- to manipulate
the search result.
the search result.
86
262977
2367
04:37
And it worked, too.
87
265368
1295
En het werkte ook.
04:38
So when you picture-Googled
for "Michelle Obama" in 2009,
for "Michelle Obama" in 2009,
88
266687
2720
Dus wanneer je in 2009
'Michelle Obama' googelde,
'Michelle Obama' googelde,
04:41
that distorted monkey picture
showed up among the first results.
showed up among the first results.
89
269431
3387
stond die misvormde aap
bij de eerste zoekresultaten.
bij de eerste zoekresultaten.
04:44
Now, the results are self-cleansing,
90
272842
3566
De resultaten zijn zelfreinigend
04:48
and that's sort of the beauty of it,
91
276432
1753
en dat is de schoonheid ervan.
04:50
because Google measures relevance
every hour, every day.
every hour, every day.
92
278209
3403
Google beoordeeld
de relevantie elk uur, elke dag.
de relevantie elk uur, elke dag.
04:53
However, Google didn't settle
for that this time,
for that this time,
93
281636
2714
Maar Google vond dat
deze keer niet genoeg.
deze keer niet genoeg.
04:56
they just thought, "That's racist
and it's a bad search result
and it's a bad search result
94
284374
3124
Ze dachten: dat is racistisch
en een slecht zoekresultaat.
en een slecht zoekresultaat.
04:59
and we're going to go back
and clean that up manually.
and clean that up manually.
95
287522
3135
We gaan dat terugdraaien
en manueel corrigeren.
en manueel corrigeren.
05:02
We are going to write
some code and fix it,"
some code and fix it,"
96
290681
2932
We passen de software aan
en we lossen het op.
en we lossen het op.
05:05
which they did.
97
293637
1247
En dat deden ze.
05:07
And I don't think anyone in this room
thinks that was a bad idea.
thinks that was a bad idea.
98
295454
3742
Ik denk niet dat iemand hier
vindt dat dat een slecht idee was.
vindt dat dat een slecht idee was.
05:11
Me neither.
99
299789
1164
Ik ook niet.
05:14
But then, a couple of years go by,
100
302802
3032
Maar dan, een paar jaar later,
05:17
and the world's most-Googled Anders,
101
305858
2984
deed 's werelds meest gegoogelde Anders,
05:20
Anders Behring Breivik,
102
308866
2279
Anders Behring Breivik,
05:23
did what he did.
103
311169
1706
wat hij deed.
05:24
This is July 22 in 2011,
104
312899
2001
Dat was op 22 juli 2011,
05:26
and a terrible day in Norwegian history.
105
314924
2649
een vreselijke dag
in de Noorse geschiedenis.
in de Noorse geschiedenis.
05:29
This man, a terrorist, blew up
a couple of government buildings
a couple of government buildings
106
317597
3787
Deze man, een terrorist,
blies een aantal overheidsgebouwen op,
blies een aantal overheidsgebouwen op,
05:33
walking distance from where we are
right now in Oslo, Norway
right now in Oslo, Norway
107
321408
2883
op wandelafstand hiervandaan
in Oslo, Noorwegen.
in Oslo, Noorwegen.
05:36
and then he traveled
to the island of Utøya
to the island of Utøya
108
324315
2051
Daarna reed hij naar het eiland Utøya
05:38
and shot and killed a group of kids.
109
326390
2223
en beschoot een groep kinderen.
05:41
Almost 80 people died that day.
110
329113
1728
Bijna 80 mensen stierven die dag.
05:44
And a lot of people would describe
this act of terror as two steps,
this act of terror as two steps,
111
332397
4559
Veel mensen beschrijven deze terreurdaad
als zijnde twee stappen:
als zijnde twee stappen:
05:48
that he did two things: he blew up
the buildings and he shot those kids.
the buildings and he shot those kids.
112
336980
3411
die gebouwen opblazen
en die kinderen doodschieten.
en die kinderen doodschieten.
Dat is niet waar.
05:52
It's not true.
113
340415
1165
05:54
It was three steps.
114
342326
2143
Er waren drie stappen.
05:56
He blew up those buildings,
he shot those kids,
he shot those kids,
115
344493
2214
Hij blies die gebouwen op,
beschoot die kinderen,
beschoot die kinderen,
05:58
and he sat down and waited
for the world to Google him.
for the world to Google him.
116
346731
3644
en ging zitten wachten
tot de wereld hem googelde.
tot de wereld hem googelde.
06:03
And he prepared
all three steps equally well.
all three steps equally well.
117
351227
2627
Hij had al die drie stappen
even goed voorbereid.
even goed voorbereid.
06:06
And if there was somebody
who immediately understood this,
who immediately understood this,
118
354544
2790
Er was iemand die dat
onmiddellijk begreep.
onmiddellijk begreep.
Dat was een Zweedse webontwikkelaar,
06:09
it was a Swedish web developer,
119
357358
1524
06:10
a search engine optimization expert
in Stockholm, named Nikke Lindqvist.
in Stockholm, named Nikke Lindqvist.
120
358906
3623
een zoekmachine-optimalisatie-expert
in Stockholm, genaamd Nikke Lindqvist.
in Stockholm, genaamd Nikke Lindqvist.
06:14
He's also a very political guy
121
362553
1588
Hij is ook erg politiek ingesteld
06:16
and he was right out there
in social media, on his blog and Facebook.
in social media, on his blog and Facebook.
122
364165
3276
en hij was onmiddelijk op sociale media,
op zijn blog en Facebook,
op zijn blog en Facebook,
06:19
And he told everybody,
123
367465
1206
en hij vertelde iedereen:
06:20
"If there's something that
this guy wants right now,
this guy wants right now,
124
368695
2455
"Als er iets is dat die man nu wil,
dan is dat zijn imago controleren.
06:23
it's to control the image of himself.
125
371174
2459
06:26
Let's see if we can distort that.
126
374760
1960
Laten we eens kijken
of we dat kunnen verstoren.
of we dat kunnen verstoren.
06:29
Let's see if we, in the civilized world,
can protest against what he did
can protest against what he did
127
377490
3977
Laten we kijken of de beschaafde wereld
kan protesteren tegen wat hij deed
kan protesteren tegen wat hij deed
door hem te beledigen
in de zoekresultaten."
in de zoekresultaten."
06:33
through insulting him
in his search results."
in his search results."
128
381491
3317
06:36
And how?
129
384832
1187
Hoe?
06:38
He told all of his readers the following,
130
386797
2056
Hij vertelde al zijn lezers het volgende:
06:40
"Go out there on the Internet,
131
388877
1864
"Ga op het internet,
06:42
find pictures of dog poop on sidewalks --
132
390765
2895
zoek foto's van hondenpoep op de stoep,
06:46
find pictures of dog poop on sidewalks --
133
394708
2174
zoek foto's van hondenpoep op de stoep,
06:48
publish them in your feeds,
on your websites, on your blogs.
on your websites, on your blogs.
134
396906
3470
publiceer die in jullie feed,
op jullie websites en op jullie blogs.
op jullie websites en op jullie blogs.
Vergeet niet de naam van de terrorist
in het bijschrift te noemen,
in het bijschrift te noemen,
06:52
Make sure to write the terrorist's
name in the caption,
name in the caption,
135
400400
2921
06:55
make sure to name
the picture file "Breivik.jpeg."
the picture file "Breivik.jpeg."
136
403345
4487
en noem het bestand 'Breivik.jpeg'.
06:59
Let's teach Google that that's
the face of the terrorist."
the face of the terrorist."
137
407856
3801
Laten we Google leren dat dat
het gezicht is van de terrorist."
het gezicht is van de terrorist."
07:05
And it worked.
138
413552
1278
En het werkte.
07:07
Two years after that campaign
against Michelle Obama,
against Michelle Obama,
139
415853
2898
Twee jaar na de campagne
tegen Michelle Obama,
tegen Michelle Obama,
07:10
this manipulation campaign
against Anders Behring Breivik worked.
against Anders Behring Breivik worked.
140
418775
3266
werke deze manipulatiecampagne
tegen Anders Behring Breivik.
tegen Anders Behring Breivik.
07:14
If you picture-Googled for him weeks after
the July 22 events from Sweden,
the July 22 events from Sweden,
141
422065
4462
Als je na de gebeurtenissen van 22 juli
op Google naar zijn afbeelding zocht,
op Google naar zijn afbeelding zocht,
07:18
you'd see that picture of dog poop
high up in the search results,
high up in the search results,
142
426551
4327
dan zag je die foto van hondenpoep
hoog in de zoekresultaten,
hoog in de zoekresultaten,
07:22
as a little protest.
143
430902
1444
als een klein protest.
Vreemd genoeg,
07:25
Strangely enough, Google
didn't intervene this time.
didn't intervene this time.
144
433425
4132
kwam Google deze keer niet tussenbeide.
07:30
They did not step in and manually
clean those search results up.
clean those search results up.
145
438494
4272
Ze grepen niet in om de resulaten
manueel bij te werken.
manueel bij te werken.
07:35
So the million-dollar question,
146
443964
1716
Dus de vraag van één miljoen:
07:37
is there anything different
between these two happenings here?
between these two happenings here?
147
445704
3368
is er iets verschillend
tussen deze twee gebeurtenissen?
tussen deze twee gebeurtenissen?
07:41
Is there anything different between
what happened to Michelle Obama
what happened to Michelle Obama
148
449096
3193
Is er een verschil tussen
wat er gebeurde met Michelle Obama
wat er gebeurde met Michelle Obama
en wat er gebeurde
met Anders Behring Breivik?
met Anders Behring Breivik?
07:44
and what happened
to Anders Behring Breivik?
to Anders Behring Breivik?
149
452313
2065
07:46
Of course not.
150
454402
1284
Natuurlijk niet.
07:48
It's the exact same thing,
151
456861
1471
Het is exact hetzelfde.
07:50
yet Google intervened in one case
and not in the other.
and not in the other.
152
458356
2864
Toch greep Google in het ene geval in
en niet in het andere.
en niet in het andere.
07:53
Why?
153
461244
1253
Waarom?
07:55
Because Michelle Obama
is an honorable person, that's why,
is an honorable person, that's why,
154
463283
3300
Omdat Michelle Obama
een eerbaar persoon is, daarom,
een eerbaar persoon is, daarom,
07:58
and Anders Behring Breivik
is a despicable person.
is a despicable person.
155
466607
2916
en Anders Behring Breivik
is een verwerpelijk persoon.
is een verwerpelijk persoon.
08:02
See what happens there?
156
470142
1535
Zie je wat daar gebeurt?
08:03
An evaluation of a person takes place
157
471701
3255
Er is een evaluatie van de persoon
08:06
and there's only one
power-player in the world
power-player in the world
158
474980
3786
en er is maar één machthebber ter wereld
08:10
with the authority to say who's who.
159
478790
2480
met de autoriteit om te zeggen wie wie is.
08:13
"We like you, we dislike you.
160
481882
1741
"We mogen jou, we mogen jou niet.
08:15
We believe in you,
we don't believe in you.
we don't believe in you.
161
483647
2039
Wij geloven in jou,
we geloven niet in jou.
we geloven niet in jou.
08:17
You're right, you're wrong.
You're true, you're false.
You're true, you're false.
162
485710
2547
Jij hebt gelijk, jij hebt ongelijk.
Jij bent Obama en jij bent Breivik."
08:20
You're Obama, and you're Breivik."
163
488281
1805
08:22
That's power if I ever saw it.
164
490791
2000
Dat is pure macht.
08:27
So I'm asking you to remember
that behind every algorithm
that behind every algorithm
165
495206
3652
Ik vraag je te onthouden
dat achter elk algoritme
een persoon schuilt,
een persoon schuilt,
08:30
is always a person,
166
498882
1777
08:32
a person with a set of personal beliefs
167
500683
2495
een persoon met eigen waarden
08:35
that no code can ever
completely eradicate.
completely eradicate.
168
503202
2525
die geen code ooit kan uitsluiten.
08:37
And my message goes
out not only to Google,
out not only to Google,
169
505751
2434
Mijn boodschap is
-- niet alleen aan Google --
-- niet alleen aan Google --
08:40
but to all believers in the faith
of code around the world.
of code around the world.
170
508209
2810
maar aan alle mensen op de wereld
die vertrouwen op codes.
die vertrouwen op codes.
08:43
You need to identify
your own personal bias.
your own personal bias.
171
511043
2976
Je moet je eigen subjectiviteit
in kaart hebben.
in kaart hebben.
08:46
You need to understand that you are human
172
514043
2013
Je moet begrijpen dat je menselijk bent
en verantwoordelijkheid nemen naargelang.
08:48
and take responsibility accordingly.
173
516080
2491
08:51
And I say this because I believe
we've reached a point in time
we've reached a point in time
174
519891
2938
Ik zeg dat omdat ik geloof
dat we op het punt gekomen zijn
dat we op het punt gekomen zijn
waarop het absoluut nodig is
08:54
when it's absolutely imperative
175
522853
1555
08:56
that we tie those bonds
together again, tighter:
together again, tighter:
176
524432
3217
dat we de band verstevigen tussen
08:59
the humanities and the technology.
177
527673
2368
de menswetenschappen en de technologie.
09:02
Tighter than ever.
178
530483
1805
Steviger dan ooit.
09:04
And, if nothing else, to remind us
that that wonderfully seductive idea
that that wonderfully seductive idea
179
532312
3339
En om ons er op zijn minst
aan te herinneren
aan te herinneren
dat het verleidelijke idee
van een objectief, schoon zoekresultaat
van een objectief, schoon zoekresultaat
09:07
of the unbiased, clean search result
180
535675
2668
09:10
is, and is likely to remain, a myth.
181
538367
2767
een mythe is en wellicht zal blijven.
09:13
Thank you for your time.
182
541984
1159
Bedankt voor je tijd.
09:15
(Applause)
183
543167
2432
(Applaus)
ABOUT THE SPEAKER
Andreas Ekström - Author and journalistAndreas Ekström describes the power structures of the digital revolution.
Why you should listen
Andreas Ekström is staff writer at Sydsvenskan, a daily morning paper in Malmö, Sweden.
His passion is educating for digital equality, and he has a vision for a world in which we share the wealth -- not only financially, but also in terms of knowledge and power. Andreas is the author of six books, a columnist and a commentator, and he often lectures and leads seminars on the digital revolution.
Andreas Ekström | Speaker | TED.com