TED2011
Eli Pariser: Beware online "filter bubbles"
Opgelet met online filtering!
Filmed:
Readability: 3.9
5,309,238 views
Webbedrijven streven naar het aanpassen van hun diensten (inclusief nieuws en zoekresultaten) aan onze persoonlijke smaak. Er hangt een gevaarlijk en onbedoeld gevolg aan vast: we komen vast te zitten in een "filterbubble" en komen niet in contact met informatie die ons wereldbeeld ter discussie stelt en verbreedt. Eli Pariser beargumenteert krachtig dat dit uiteindelijk slechte gevolgen voor onszelf en de democratie zal hebben.
Eli Pariser - Organizer and author
Pioneering online organizer Eli Pariser is the author of "The Filter Bubble," about how personalized search might be narrowing our worldview. Full bio
Pioneering online organizer Eli Pariser is the author of "The Filter Bubble," about how personalized search might be narrowing our worldview. Full bio
Double-click the English transcript below to play the video.
00:15
Mark Zuckerberg,
0
0
2000
Mark Zuckerberg,
00:17
a journalist was asking him a question about the news feed.
1
2000
3000
een journalist stelde hem een vraag over de nieuwsfeed.
00:20
And the journalist was asking him,
2
5000
2000
De journalist vroeg hem,
00:22
"Why is this so important?"
3
7000
2000
"Waarom is dit zo belangrijk?"
00:24
And Zuckerberg said,
4
9000
2000
Zuckerberg zei,
00:26
"A squirrel dying in your front yard
5
11000
2000
"Een stervende eekhoorn in je voortuin
00:28
may be more relevant to your interests right now
6
13000
3000
is voor jou op dit moment soms meer relevant
00:31
than people dying in Africa."
7
16000
3000
dan mensen die sterven in Afrika."
00:34
And I want to talk about
8
19000
2000
Ik wil het hebben over hoe een Web
00:36
what a Web based on that idea of relevance might look like.
9
21000
3000
gebaseerd op dat idee over relevantie eruit zou kunnen zien.
00:40
So when I was growing up
10
25000
2000
Toen ik opgroeide
00:42
in a really rural area in Maine,
11
27000
2000
in een zeer landelijk gebied in Maine,
00:44
the Internet meant something very different to me.
12
29000
3000
betekende het internet iets heel anders voor mij.
00:47
It meant a connection to the world.
13
32000
2000
Het betekende een verbinding met de wereld.
00:49
It meant something that would connect us all together.
14
34000
3000
Het betekende iets dat ons allemaal zou verbinden.
00:52
And I was sure that it was going to be great for democracy
15
37000
3000
Ik was ervan overtuigd dat het geweldig zou zijn voor de democratie
00:55
and for our society.
16
40000
3000
en voor onze samenleving.
00:58
But there's this shift
17
43000
2000
Maar er is een verschuiving
01:00
in how information is flowing online,
18
45000
2000
in de manier waarop informatie online stroomt
01:02
and it's invisible.
19
47000
3000
en het is onzichtbaar.
01:05
And if we don't pay attention to it,
20
50000
2000
En als we niet opletten,
01:07
it could be a real problem.
21
52000
3000
kan het een echt probleem worden.
01:10
So I first noticed this in a place I spend a lot of time --
22
55000
3000
Ik merkte het voor het eerst op in een plaats waar ik veel tijd besteed --
01:13
my Facebook page.
23
58000
2000
mijn Facebook-pagina.
01:15
I'm progressive, politically -- big surprise --
24
60000
3000
Ik ben progressief, politiek - grote verrassing -
01:18
but I've always gone out of my way to meet conservatives.
25
63000
2000
maar ik heb er altijd alles aan gedaan om ook conservatieven te ontmoeten.
01:20
I like hearing what they're thinking about;
26
65000
2000
Ik wil horen waaraan ze denken;
01:22
I like seeing what they link to;
27
67000
2000
Ik wil zien waarnaar ze verwijzen;
01:24
I like learning a thing or two.
28
69000
2000
Ik leer graag een paar dingen bij.
01:26
And so I was surprised when I noticed one day
29
71000
3000
Dus was ik verrast toen ik op een dag merkte
01:29
that the conservatives had disappeared from my Facebook feed.
30
74000
3000
dat de conservatieven verdwenen waren uit mijn Facebookfeed.
01:33
And what it turned out was going on
31
78000
2000
Wat er aan de hand bleek te zijn
01:35
was that Facebook was looking at which links I clicked on,
32
80000
4000
was dat Facebook bijhield op welke links ik klikte,
01:39
and it was noticing that, actually,
33
84000
2000
en het merkte op
01:41
I was clicking more on my liberal friends' links
34
86000
2000
dat ik meer op de links van mijn liberale vrienden klikte
01:43
than on my conservative friends' links.
35
88000
3000
dan op die van mijn conservatieve vrienden.
01:46
And without consulting me about it,
36
91000
2000
En zonder mij te raadplegen
01:48
it had edited them out.
37
93000
2000
werden deze links gewist.
01:50
They disappeared.
38
95000
3000
Ze verdwenen.
01:54
So Facebook isn't the only place
39
99000
2000
Facebook is niet de enige plek
01:56
that's doing this kind of invisible, algorithmic
40
101000
2000
die dit soort onzichtbare, algoritmische
01:58
editing of the Web.
41
103000
3000
bewerking doet op het Web.
02:01
Google's doing it too.
42
106000
2000
Google doet het ook.
02:03
If I search for something, and you search for something,
43
108000
3000
Als ik naar iets zoek en jij zoekt iets,
02:06
even right now at the very same time,
44
111000
2000
zelfs nu, op precies hetzelfde moment,
02:08
we may get very different search results.
45
113000
3000
krijgen we waarschijnlijk heel andere resultaten.
02:11
Even if you're logged out, one engineer told me,
46
116000
3000
Zelfs als je uitgelogd bent, vertelde een ingenieur me,
02:14
there are 57 signals
47
119000
2000
zijn er 57 signalen
02:16
that Google looks at --
48
121000
3000
waar Google naar kijkt -
02:19
everything from what kind of computer you're on
49
124000
3000
alles van wat voor soort computer je op werkt
02:22
to what kind of browser you're using
50
127000
2000
tot welke browser je gebruikt
02:24
to where you're located --
51
129000
2000
tot de plaats waar je je bevindt -
02:26
that it uses to personally tailor your query results.
52
131000
3000
gebruikt het om persoonlijke zoekresultaten weer te geven.
02:29
Think about it for a second:
53
134000
2000
Denk er eens een moment over na:
02:31
there is no standard Google anymore.
54
136000
4000
er is geen standaard Google meer.
02:35
And you know, the funny thing about this is that it's hard to see.
55
140000
3000
En weet je, het grappige hiervan is dat het moeilijk te zien is.
02:38
You can't see how different your search results are
56
143000
2000
Je kunt niet zien hoeveel jouw zoekresultaten verschillen
02:40
from anyone else's.
57
145000
2000
van die van iemand anders.
02:42
But a couple of weeks ago,
58
147000
2000
Een paar weken geleden,
02:44
I asked a bunch of friends to Google "Egypt"
59
149000
3000
vroeg ik een stel vrienden "Egypte" te googelen
02:47
and to send me screen shots of what they got.
60
152000
3000
en mij screenshots te sturen van wat ze kregen.
02:50
So here's my friend Scott's screen shot.
61
155000
3000
Dus hier is de screenshot van mijn vriend Scott.
02:54
And here's my friend Daniel's screen shot.
62
159000
3000
En hier die van mijn vriend Daniel.
02:57
When you put them side-by-side,
63
162000
2000
Als je ze naast elkaar zet,
02:59
you don't even have to read the links
64
164000
2000
hoef je niet eens de links te lezen
03:01
to see how different these two pages are.
65
166000
2000
om te zien hoe verschillend deze twee pagina's zijn.
03:03
But when you do read the links,
66
168000
2000
Maar als je de links leest,
03:05
it's really quite remarkable.
67
170000
3000
is het echt heel opmerkelijk.
03:09
Daniel didn't get anything about the protests in Egypt at all
68
174000
3000
Daniel kreeg helemaal niets over de protesten in Egypte
03:12
in his first page of Google results.
69
177000
2000
in zijn eerste pagina met Google resultaten.
03:14
Scott's results were full of them.
70
179000
2000
Scotts resultaten stonden er vol van.
03:16
And this was the big story of the day at that time.
71
181000
2000
En dit was het grote nieuws van de dag op dat moment.
03:18
That's how different these results are becoming.
72
183000
3000
Dat is hoe verschillend de resultaten kunnen worden.
03:21
So it's not just Google and Facebook either.
73
186000
3000
Het is niet alleen Google of Facebook.
03:24
This is something that's sweeping the Web.
74
189000
2000
Dit is iets dat rondgaat op het Web.
03:26
There are a whole host of companies that are doing this kind of personalization.
75
191000
3000
Er zijn een hele reeks bedrijven die aan dit soort van personalisatie doen.
03:29
Yahoo News, the biggest news site on the Internet,
76
194000
3000
Yahoo News, de grootste nieuwssite op het internet,
03:32
is now personalized -- different people get different things.
77
197000
3000
is nu gepersonaliseerd - verschillende mensen krijgen verschillende dingen.
03:36
Huffington Post, the Washington Post, the New York Times --
78
201000
3000
Huffington Post, de Washington Post, de New York Times -
03:39
all flirting with personalization in various ways.
79
204000
3000
allen flirten ze met personalisatie op verschillende manieren.
03:42
And this moves us very quickly
80
207000
3000
En dit brengt ons zeer snel
03:45
toward a world in which
81
210000
2000
naar een wereld waarin
03:47
the Internet is showing us what it thinks we want to see,
82
212000
4000
het internet ons toont wat het denkt dat we willen zien,
03:51
but not necessarily what we need to see.
83
216000
3000
maar niet noodzakelijkerwijs wat we nodig hebben.
03:54
As Eric Schmidt said,
84
219000
3000
Zoals Eric Schmidt zei,
03:57
"It will be very hard for people to watch or consume something
85
222000
3000
"Het zal heel moeilijk worden voor mensen om naar iets te kijken
04:00
that has not in some sense
86
225000
2000
of te consumeren dat niet op een bepaalde manier
04:02
been tailored for them."
87
227000
3000
op maat gemaakt is voor hen."
04:05
So I do think this is a problem.
88
230000
2000
Ik denk dat dit een probleem is.
04:07
And I think, if you take all of these filters together,
89
232000
3000
En ik denk dat, als je al deze filters samenvoegt,
04:10
you take all these algorithms,
90
235000
2000
al deze algoritmen,
04:12
you get what I call a filter bubble.
91
237000
3000
je iets krijgt wat ik een filterbubble noem.
04:16
And your filter bubble is your own personal,
92
241000
3000
En je filterbubble is je eigen persoonlijke
04:19
unique universe of information
93
244000
2000
unieke universum aan informatie
04:21
that you live in online.
94
246000
2000
waarin je online leeft.
04:23
And what's in your filter bubble
95
248000
3000
En wat er in jouw filterbubble zit
04:26
depends on who you are, and it depends on what you do.
96
251000
3000
hangt af van wie je bent en wat je doet.
04:29
But the thing is that you don't decide what gets in.
97
254000
4000
Maar zelf kan je niet bepalen wat er in komt.
04:33
And more importantly,
98
258000
2000
En nog belangrijker,
04:35
you don't actually see what gets edited out.
99
260000
3000
je ziet niet echt wat er eruit wordt geknipt.
04:38
So one of the problems with the filter bubble
100
263000
2000
Een van de problemen van de filterbubble
04:40
was discovered by some researchers at Netflix.
101
265000
3000
werd ontdekt door enkele onderzoekers bij Netflix.
04:43
And they were looking at the Netflix queues, and they noticed something kind of funny
102
268000
3000
Ze keken naar de Netflix wachtrijen en ze merkten iets grappigs op
04:46
that a lot of us probably have noticed,
103
271000
2000
dat velen van ons waarschijnlijk al opgemerkt hadden,
04:48
which is there are some movies
104
273000
2000
dat er een aantal films zijn
04:50
that just sort of zip right up and out to our houses.
105
275000
3000
die gewoon opduiken en in onze huizen terecht komen.
04:53
They enter the queue, they just zip right out.
106
278000
3000
Ze komen in de wachtrij en ritsen er weer onmiddellijk uit.
04:56
So "Iron Man" zips right out,
107
281000
2000
"Iron Man" ritst er onmiddellijk uit,
04:58
and "Waiting for Superman"
108
283000
2000
en "Waiting for Superman"
05:00
can wait for a really long time.
109
285000
2000
kan een hele lange tijd wachten.
05:02
What they discovered
110
287000
2000
Wat ze ontdekten
05:04
was that in our Netflix queues
111
289000
2000
was dat in onze Netflix wachtrijen
05:06
there's this epic struggle going on
112
291000
3000
een epische strijd gaande is
05:09
between our future aspirational selves
113
294000
3000
tussen ons toekomstige te bereiken zelf
05:12
and our more impulsive present selves.
114
297000
3000
en ons meer impulsieve huidige zelf.
05:15
You know we all want to be someone
115
300000
2000
We willen allemaal iemand zijn
05:17
who has watched "Rashomon,"
116
302000
2000
die "Rashomon" gezien heeft
05:19
but right now
117
304000
2000
maar nu
05:21
we want to watch "Ace Ventura" for the fourth time.
118
306000
3000
willen we voor de vierde keer naar "Ace Ventura" kijken.
05:24
(Laughter)
119
309000
3000
(Gelach)
05:27
So the best editing gives us a bit of both.
120
312000
2000
De beste editing geeft ons een beetje van beide.
05:29
It gives us a little bit of Justin Bieber
121
314000
2000
Het geeft ons een beetje Justin Bieber
05:31
and a little bit of Afghanistan.
122
316000
2000
en een beetje Afghanistan.
05:33
It gives us some information vegetables;
123
318000
2000
Het geeft ons wat informatie als groenten,
05:35
it gives us some information dessert.
124
320000
3000
het geeft ons wat informatie als dessert.
05:38
And the challenge with these kinds of algorithmic filters,
125
323000
2000
En de uitdaging aan deze vormen van algoritmische filters,
05:40
these personalized filters,
126
325000
2000
deze gepersonaliseerde filters,
05:42
is that, because they're mainly looking
127
327000
2000
omdat ze vooral op zoek zijn
05:44
at what you click on first,
128
329000
4000
naar waar je het eerst op klikt,
05:48
it can throw off that balance.
129
333000
4000
is dat er geen evenwicht meer is.
05:52
And instead of a balanced information diet,
130
337000
3000
In plaats van een evenwichtig informatiedieet,
05:55
you can end up surrounded
131
340000
2000
eindig je omgeven
05:57
by information junk food.
132
342000
2000
door informatie junkfood.
05:59
What this suggests
133
344000
2000
Wat dit suggereert
06:01
is actually that we may have the story about the Internet wrong.
134
346000
3000
is eigenlijk dat we het internetverhaal verkeerd hebben begrepen.
06:04
In a broadcast society --
135
349000
2000
In een televisie samenleving -
06:06
this is how the founding mythology goes --
136
351000
2000
is dit hoe de oprichters mythologie klinkt -
06:08
in a broadcast society,
137
353000
2000
In een televisie samenleving -
06:10
there were these gatekeepers, the editors,
138
355000
2000
waren er poortwachters, de redactie,
06:12
and they controlled the flows of information.
139
357000
3000
en ze beheersten de stromen van informatie.
06:15
And along came the Internet and it swept them out of the way,
140
360000
3000
Toen kwam het internet en veegde ze uit de weg,
06:18
and it allowed all of us to connect together,
141
363000
2000
en liet ons toe met elkaar te verbinden,
06:20
and it was awesome.
142
365000
2000
en het was geweldig.
06:22
But that's not actually what's happening right now.
143
367000
3000
Maar dat is eigenlijk niet wat er nu gebeurt.
06:26
What we're seeing is more of a passing of the torch
144
371000
3000
Wat we zien is meer een doorgeven van de fakkel
06:29
from human gatekeepers
145
374000
2000
van menselijke poortwachters
06:31
to algorithmic ones.
146
376000
3000
naar algoritmische.
06:34
And the thing is that the algorithms
147
379000
3000
En deze algoritmes
06:37
don't yet have the kind of embedded ethics
148
382000
3000
hebben nog niet de geïntegreerde ethiek
06:40
that the editors did.
149
385000
3000
dat de redactie had.
06:43
So if algorithms are going to curate the world for us,
150
388000
3000
Dus als algoritmes de wereld voor ons gaan indelen,
06:46
if they're going to decide what we get to see and what we don't get to see,
151
391000
3000
als ze gaan beslissen wat we wel of niet te zien krijgen,
06:49
then we need to make sure
152
394000
2000
dan moeten we ervoor zorgen
06:51
that they're not just keyed to relevance.
153
396000
3000
dat ze niet alleen ingesteld zijn op relevantie.
06:54
We need to make sure that they also show us things
154
399000
2000
We moeten ervoor zorgen dat zij ons ook dingen laten zien
06:56
that are uncomfortable or challenging or important --
155
401000
3000
die ongemakkelijk of uitdagend of belangrijk zijn -
06:59
this is what TED does --
156
404000
2000
dit is wat TED doet -
07:01
other points of view.
157
406000
2000
andere standpunten.
07:03
And the thing is, we've actually been here before
158
408000
2000
We waren hier al eerder
07:05
as a society.
159
410000
2000
als samenleving.
07:08
In 1915, it's not like newspapers were sweating a lot
160
413000
3000
In 1915, het is niet alsof kranten veel zweet lieten
07:11
about their civic responsibilities.
161
416000
3000
over hun maatschappelijke verantwoordelijkheden.
07:14
Then people noticed
162
419000
2000
Dan viel het mensen op
07:16
that they were doing something really important.
163
421000
3000
dat ze iets echt belangrijks deden.
07:19
That, in fact, you couldn't have
164
424000
2000
Dat je in feite geen
07:21
a functioning democracy
165
426000
2000
functionerende democratie kon hebben
07:23
if citizens didn't get a good flow of information,
166
428000
4000
als burgers geen goede doorstroming van informatie krijgen.
07:28
that the newspapers were critical because they were acting as the filter,
167
433000
3000
Dat de kranten kritisch waren omdat zij functioneerden als filter,
07:31
and then journalistic ethics developed.
168
436000
2000
en dan ontwikkelde de journalistieke ethiek zich.
07:33
It wasn't perfect,
169
438000
2000
Het was niet perfect,
07:35
but it got us through the last century.
170
440000
3000
maar we kwamen er de vorige eeuw mee door.
07:38
And so now,
171
443000
2000
En dus nu,
07:40
we're kind of back in 1915 on the Web.
172
445000
3000
zijn we terug in 1915 op het web.
07:44
And we need the new gatekeepers
173
449000
3000
De nieuwe poortwachters moeten
07:47
to encode that kind of responsibility
174
452000
2000
dat soort van verantwoordelijkheid coderen
07:49
into the code that they're writing.
175
454000
2000
in de code die ze schrijven.
07:51
I know that there are a lot of people here from Facebook and from Google --
176
456000
3000
Ik weet dat er hier een heleboel mensen zijn van Facebook en van Google -
07:54
Larry and Sergey --
177
459000
2000
Larry en Sergey --
07:56
people who have helped build the Web as it is,
178
461000
2000
mensen die hebben geholpen het Web op te bouwen zoals het is,
07:58
and I'm grateful for that.
179
463000
2000
en ik ben er dankbaar voor.
08:00
But we really need you to make sure
180
465000
3000
Maar het is nodig dat jullie ervoor zorgen
08:03
that these algorithms have encoded in them
181
468000
3000
dat in deze algoritmen een gevoel voor het openbare leven
08:06
a sense of the public life, a sense of civic responsibility.
182
471000
3000
en maatschappelijke verantwoordelijkheid wordt gecodeerd.
08:09
We need you to make sure that they're transparent enough
183
474000
3000
We hebben het nodig dat jullie ervoor zorgen dat ze transparant genoeg zijn
08:12
that we can see what the rules are
184
477000
2000
dat we kunnen zien wat de regels zijn
08:14
that determine what gets through our filters.
185
479000
3000
die bepalen wat er door onze filters komt.
08:17
And we need you to give us some control
186
482000
2000
We hebben het nodig dat jullie ons enige controle geven,
08:19
so that we can decide
187
484000
2000
zodat we kunnen beslissen
08:21
what gets through and what doesn't.
188
486000
3000
wat erdoor komt en wat niet.
08:24
Because I think
189
489000
2000
Omdat ik denk dat
08:26
we really need the Internet to be that thing
190
491000
2000
we het nodig hebben dat het internet dat wordt
08:28
that we all dreamed of it being.
191
493000
2000
waar we allemaal van gedroomd hebben.
08:30
We need it to connect us all together.
192
495000
3000
We hebben het nodig om ons allemaal te verbinden.
08:33
We need it to introduce us to new ideas
193
498000
3000
We hebben het nodig om ons nieuwe ideeën te introduceren
08:36
and new people and different perspectives.
194
501000
3000
en nieuwe mensen en verschillende perspectieven.
08:40
And it's not going to do that
195
505000
2000
Dat zal niet gebeuren als
08:42
if it leaves us all isolated in a Web of one.
196
507000
3000
het ons isoleert in een Web van één.
08:45
Thank you.
197
510000
2000
Dank je wel
08:47
(Applause)
198
512000
11000
(Applaus)
ABOUT THE SPEAKER
Eli Pariser - Organizer and authorPioneering online organizer Eli Pariser is the author of "The Filter Bubble," about how personalized search might be narrowing our worldview.
Why you should listen
Shortly after the September 11, 2001, attacks, Eli Pariser created a website calling for a multilateral approach to fighting terrorism. In the following weeks, over half a million people from 192 countries signed on, and Pariser rather unexpectedly became an online organizer. The website merged with MoveOn.org in November 2001, and Pariser -- then 20 years old -- joined the group to direct its foreign policy campaigns. He led what the New York Times Magazine called the "mainstream arm of the peace movement" -- tripling MoveOn's member base and demonstrating how large numbers of small donations could be mobilized through online engagement.
In 2004, Pariser became executive director of MoveOn. Under his leadership, MoveOn.org Political Action has grown to 5 million members and raised over $120 million from millions of small donors to support advocacy campaigns and political candidates. Pariser focused MoveOn on online-to-offline organizing, developing phone-banking tools and precinct programs in 2004 and 2006 that laid the groundwork for Barack Obama's extraordinary web-powered campaign. In 2008, Pariser transitioned the Executive Director role at MoveOn to Justin Ruben and became President of MoveOn’s board; he's now a senior fellow at the Roosevelt Institute.
His book The Filter Bubble is set for release May 12, 2011. In it, he asks how modern search tools -- the filter by which many of see the wider world -- are getting better and better and screening the wider world from us, by returning only the search results it "thinks" we want to see.
Eli Pariser | Speaker | TED.com