TED2011
Eli Pariser: Beware online "filter bubbles"
Eli Pariser: Óvakodj az online szűrőburkoktól!
Filmed:
Readability: 3.9
5,309,238 views
Az, hogy az internetes cégek igyekeznek szolgáltatásaikat -- beleértve a híreket és a keresési eredményeket is -- személyes ígényeinkhez szabni, akaratlanul is magában rejti annak a veszélyét, hogy a szűrőburkok csapdájában ragadunk, és nem jutunk hozzá azokhoz információkhoz, amelyek megingatnák világképünket vagy kitágítanák érdeklődésünket. Eli Pariser meggyőző érvekkel támasztja alá, hogy ez nekünk is rossz, és a demokráciára nézve káros.
Eli Pariser - Organizer and author
Pioneering online organizer Eli Pariser is the author of "The Filter Bubble," about how personalized search might be narrowing our worldview. Full bio
Pioneering online organizer Eli Pariser is the author of "The Filter Bubble," about how personalized search might be narrowing our worldview. Full bio
Double-click the English transcript below to play the video.
00:15
Mark Zuckerberg,
0
0
2000
Mark Zuckerbergnek
00:17
a journalist was asking him a question about the news feed.
1
2000
3000
feltett egy kérdést egy újságíró a new feeddel kapcsolatban,
00:20
And the journalist was asking him,
2
5000
2000
És azt kérdezte tőle az újságíró:
00:22
"Why is this so important?"
3
7000
2000
"Tulajdonképpen miért olyan fontos ez?"
00:24
And Zuckerberg said,
4
9000
2000
És Zuckerberg azt felelte,
00:26
"A squirrel dying in your front yard
5
11000
2000
"Az, hogy egy mókus éppen a házunk előtt haldoklik,
00:28
may be more relevant to your interests right now
6
13000
3000
lehet, hogy sokkal jobban érdekel minket ebben a pillanatban,
00:31
than people dying in Africa."
7
16000
3000
mint hogy Afrikában emberek halnak meg."
00:34
And I want to talk about
8
19000
2000
És arról akarok most beszélni, hogy milyen is
00:36
what a Web based on that idea of relevance might look like.
9
21000
3000
lehet az a web, amely a fontosság ilyen felfogására épít.
00:40
So when I was growing up
10
25000
2000
Gyerekkoromban, Maine Államban,
00:42
in a really rural area in Maine,
11
27000
2000
egy igazi falusi környzetben,
00:44
the Internet meant something very different to me.
12
29000
3000
az internet valami egészen mást jelentett számomra.
00:47
It meant a connection to the world.
13
32000
2000
Kapcsolatot jelentett a világgal.
00:49
It meant something that would connect us all together.
14
34000
3000
Valami olyat, ami mindannyiunkat össze fog kötni.
00:52
And I was sure that it was going to be great for democracy
15
37000
3000
És biztos voltam benne, hogy ez remek dolog lesz a demokrácia
00:55
and for our society.
16
40000
3000
és a társadalmunk számára.
00:58
But there's this shift
17
43000
2000
De van itt egy változás abban,
01:00
in how information is flowing online,
18
45000
2000
ahogyan az információ online áramlik,
01:02
and it's invisible.
19
47000
3000
és ez láthatatlan marad.
01:05
And if we don't pay attention to it,
20
50000
2000
És ha nem figyelünk rá,
01:07
it could be a real problem.
21
52000
3000
abból valóban baj lehet.
01:10
So I first noticed this in a place I spend a lot of time --
22
55000
3000
Először egy olyan helyen figyeltem fel rá, ahol sok időt töltök --
01:13
my Facebook page.
23
58000
2000
a Facebook oldalamon.
01:15
I'm progressive, politically -- big surprise --
24
60000
3000
Politikailag haladó vagyok -- micsoda meglepetés --
01:18
but I've always gone out of my way to meet conservatives.
25
63000
2000
de mindig mindent megteszek azért, hogy konzervatíokkal találkozzam.
01:20
I like hearing what they're thinking about;
26
65000
2000
Szeretem hallani, hogy hogyan vélekednek.
01:22
I like seeing what they link to;
27
67000
2000
Szeretem látni, hogy mi köti össze őket;
01:24
I like learning a thing or two.
28
69000
2000
szeretek megtudni egy-két dolgot.
01:26
And so I was surprised when I noticed one day
29
71000
3000
Nagyon meglepődtem valamelyik nap.
01:29
that the conservatives had disappeared from my Facebook feed.
30
74000
3000
hogy a konzervatívok eltűntek a Facebook feedemből.
01:33
And what it turned out was going on
31
78000
2000
És kiderült, hogy az történt,
01:35
was that Facebook was looking at which links I clicked on,
32
80000
4000
hogy a Facebook figyelte, hogy milyen linkekre kattintok,
01:39
and it was noticing that, actually,
33
84000
2000
és észrevette, hogy valóban,
01:41
I was clicking more on my liberal friends' links
34
86000
2000
többet kattintottam a liberális barátaim linkjére,
01:43
than on my conservative friends' links.
35
88000
3000
mint a konzervatív barátaiméra.
01:46
And without consulting me about it,
36
91000
2000
És anélkül, hogy engem megkérdezett volna,
01:48
it had edited them out.
37
93000
2000
kihagyta őket.
01:50
They disappeared.
38
95000
3000
Eltűntek.
01:54
So Facebook isn't the only place
39
99000
2000
De nem a Facebook az egyetlen,
01:56
that's doing this kind of invisible, algorithmic
40
101000
2000
ami ilyen észrevétlen, algoritmikus módon
01:58
editing of the Web.
41
103000
3000
szerkesztget a web-en.
02:01
Google's doing it too.
42
106000
2000
A Google is ezt csinálja.
02:03
If I search for something, and you search for something,
43
108000
3000
Ha én is, meg te is keresel valamit,
02:06
even right now at the very same time,
44
111000
2000
ugyanazt, és egyidejűleg,
02:08
we may get very different search results.
45
113000
3000
akár egészen különböző eredményt is kaphatunk.
02:11
Even if you're logged out, one engineer told me,
46
116000
3000
Egy mérnök mondta, hogy még kijelentkezéskor is
02:14
there are 57 signals
47
119000
2000
57 jelzést
02:16
that Google looks at --
48
121000
3000
figyel a Google --
02:19
everything from what kind of computer you're on
49
124000
3000
kezdve azon, hogy milyen számítógépen dolgozunk,
02:22
to what kind of browser you're using
50
127000
2000
milyen böngészőt használunk
02:24
to where you're located --
51
129000
2000
honnan internetezünk --
02:26
that it uses to personally tailor your query results.
52
131000
3000
hogy azután ennek megfelelően személyre szabja a lekérdezés eredményét.
02:29
Think about it for a second:
53
134000
2000
Gondoljunk csak utána egy pillanatra:
02:31
there is no standard Google anymore.
54
136000
4000
szó sincs már többet a szabványos Google-ról.
02:35
And you know, the funny thing about this is that it's hard to see.
55
140000
3000
És tudják, az a furcsa, hogy ezt nehéz észrevenni.
02:38
You can't see how different your search results are
56
143000
2000
Nem látjuk, hogy mennyire más nálunk a keresés eredménye,
02:40
from anyone else's.
57
145000
2000
mint másoknál.
02:42
But a couple of weeks ago,
58
147000
2000
De néhány hete
02:44
I asked a bunch of friends to Google "Egypt"
59
149000
3000
megkértem egy pár barátomat hogy keressenek rá a Google-ban Egyiptomra.
02:47
and to send me screen shots of what they got.
60
152000
3000
és küldjék át a kapott eredmény képernyőjét.
02:50
So here's my friend Scott's screen shot.
61
155000
3000
Itt van Scott barátomé.
02:54
And here's my friend Daniel's screen shot.
62
159000
3000
És itt Danielé.
02:57
When you put them side-by-side,
63
162000
2000
Ha egymás mellé tesszük őket,
02:59
you don't even have to read the links
64
164000
2000
el se kell, hogy olvassuk a linkeket ahhoz,
03:01
to see how different these two pages are.
65
166000
2000
hogy lássuk, mennyire más a két oldal.
03:03
But when you do read the links,
66
168000
2000
De ha elolvassuk a linkeket,
03:05
it's really quite remarkable.
67
170000
3000
valóban nagyon figyelemre méltó,
03:09
Daniel didn't get anything about the protests in Egypt at all
68
174000
3000
hogy Daniel semmit nem kapott az egyiptomi tűntetésekről
03:12
in his first page of Google results.
69
177000
2000
az első lapon.
03:14
Scott's results were full of them.
70
179000
2000
míg Scott ererménye tele volt velük.
03:16
And this was the big story of the day at that time.
71
181000
2000
És ez volt a nap története akkoriban,
03:18
That's how different these results are becoming.
72
183000
3000
hogy mennyire más volt a két eredmény.
03:21
So it's not just Google and Facebook either.
73
186000
3000
És hát nem csak a Google-nál és a Facebooknál van ez.
03:24
This is something that's sweeping the Web.
74
189000
2000
Ez egy olyan jelenség, ami egyre terjed a weben.
03:26
There are a whole host of companies that are doing this kind of personalization.
75
191000
3000
A cégek tömege használ ilyen személyre szabást.
03:29
Yahoo News, the biggest news site on the Internet,
76
194000
3000
A Yahoo News, a legnagyobb hír-oldal az interneten,
03:32
is now personalized -- different people get different things.
77
197000
3000
mostanában vált személyessé -- különböző emberek különböző dolgokat kapnak.
03:36
Huffington Post, the Washington Post, the New York Times --
78
201000
3000
A Huffington Post, a Washington Post, a New York Times --
03:39
all flirting with personalization in various ways.
79
204000
3000
mindegyik kacérkodik valamilyen formában a személyre szabással.
03:42
And this moves us very quickly
80
207000
3000
És ez nagyon gyorsan elvisz
03:45
toward a world in which
81
210000
2000
egy olyan világ felé, amelyben
03:47
the Internet is showing us what it thinks we want to see,
82
212000
4000
az internet azt mutatja meg nekünk, amiről azt gondolja, hogy látni szeretnénk,
03:51
but not necessarily what we need to see.
83
216000
3000
és nem szükségképp azt, amit látnunk kell.
03:54
As Eric Schmidt said,
84
219000
3000
Ahogyan Eric Schmidt mondta,
03:57
"It will be very hard for people to watch or consume something
85
222000
3000
"Nagyon nehéz lesz az embereknek meglátni vagy használni bármit is,
04:00
that has not in some sense
86
225000
2000
ami nincs valamiképp
04:02
been tailored for them."
87
227000
3000
hozzájuk igazítva."
04:05
So I do think this is a problem.
88
230000
2000
Úgy gondolom, hogy ez baj.
04:07
And I think, if you take all of these filters together,
89
232000
3000
Azt hiszem, hogy ha vesszük mindezeket a szűrőket,
04:10
you take all these algorithms,
90
235000
2000
az összes algoritmust,
04:12
you get what I call a filter bubble.
91
237000
3000
akkor megkapjuk azt amit én szűrőburoknak nevezek.
04:16
And your filter bubble is your own personal,
92
241000
3000
És a szűrőburkunk a saját, személyes
04:19
unique universe of information
93
244000
2000
különbejáratú információs világunk,
04:21
that you live in online.
94
246000
2000
amiben online élünk.
04:23
And what's in your filter bubble
95
248000
3000
És, hogy mi van ebben a szűrőburokban,
04:26
depends on who you are, and it depends on what you do.
96
251000
3000
az azon múlik, hogy kik vagyunk, mit csinálunk.
04:29
But the thing is that you don't decide what gets in.
97
254000
4000
De az a helyzet, hogy nem mi döntjük el, hogy mi kerül bele.
04:33
And more importantly,
98
258000
2000
És, ami még fontosabb,
04:35
you don't actually see what gets edited out.
99
260000
3000
hogy nem igazán látjuk, hogy mi marad ki belőle.
04:38
So one of the problems with the filter bubble
100
263000
2000
A szűrőburok egyik problémáját
04:40
was discovered by some researchers at Netflix.
101
265000
3000
a Netflix kutatói fedezték fel.
04:43
And they were looking at the Netflix queues, and they noticed something kind of funny
102
268000
3000
Nézték a Netflix várólistákat, és valami vicces dolgot vettek észre,
04:46
that a lot of us probably have noticed,
103
271000
2000
valami olyat, amit valószínűleg többen észrevettünk már,
04:48
which is there are some movies
104
273000
2000
hogy vannak filmek,
04:50
that just sort of zip right up and out to our houses.
105
275000
3000
amiket szinte azonnal letöltünk.
04:53
They enter the queue, they just zip right out.
106
278000
3000
Hozzáadjuk a várólistához és szinte azonnal letöltjük.
04:56
So "Iron Man" zips right out,
107
281000
2000
Pl. az "Iron Man"-t azonnal letöltjük,
04:58
and "Waiting for Superman"
108
283000
2000
míg "Waiting for Superman"
05:00
can wait for a really long time.
109
285000
2000
tényleg sokáig várhat.
05:02
What they discovered
110
287000
2000
Azt fedezték fel,
05:04
was that in our Netflix queues
111
289000
2000
hogy a mi Netflix várólistáinkon
05:06
there's this epic struggle going on
112
291000
3000
ádáz harc folyik a két énünk között:
05:09
between our future aspirational selves
113
294000
3000
az egyik énünk, aki a jövőben szeretnénk lenni,
05:12
and our more impulsive present selves.
114
297000
3000
a másik a pillanatnyi impulzív énünk.
05:15
You know we all want to be someone
115
300000
2000
Tudják, mindannyian szeretnénk azok közé tartozni,
05:17
who has watched "Rashomon,"
116
302000
2000
akik látták már a "Rashomon"-t
05:19
but right now
117
304000
2000
de épp most
05:21
we want to watch "Ace Ventura" for the fourth time.
118
306000
3000
inkább az "Ace Ventura"-t szeretnénk megnézni, negyedszerre.
05:24
(Laughter)
119
309000
3000
(Nevetés)
05:27
So the best editing gives us a bit of both.
120
312000
2000
Így a legjobb szerkesztés mindkettőből ad egy kicsit.
05:29
It gives us a little bit of Justin Bieber
121
314000
2000
Ad egy kicsit Justin Bieber-ből
05:31
and a little bit of Afghanistan.
122
316000
2000
és egy kicsit Afganisztánból.
05:33
It gives us some information vegetables;
123
318000
2000
Ad egy kevés információ-főzeléket,
05:35
it gives us some information dessert.
124
320000
3000
és egy keveset a desszertből.
05:38
And the challenge with these kinds of algorithmic filters,
125
323000
2000
A nehézség az ilyen algoritmikus szűrőkkel,
05:40
these personalized filters,
126
325000
2000
ezekkel a személyre szóló szűrőkkel,
05:42
is that, because they're mainly looking
127
327000
2000
hogy többnyire azt nézik,
05:44
at what you click on first,
128
329000
4000
hogy mire kilkkelünk először,
05:48
it can throw off that balance.
129
333000
4000
ezzel elronthatják az egyensúlyt.
05:52
And instead of a balanced information diet,
130
337000
3000
És a kiegyensúlyozott információ-étrend helyett
05:55
you can end up surrounded
131
340000
2000
a végén csupa információ-hamburgerrel
05:57
by information junk food.
132
342000
2000
leszünk körülvéve.
05:59
What this suggests
133
344000
2000
Ez azt sugallja,
06:01
is actually that we may have the story about the Internet wrong.
134
346000
3000
hogy valójában félreértésben lehetünk az internettel kapcsolatban.
06:04
In a broadcast society --
135
349000
2000
A hírközlésben --
06:06
this is how the founding mythology goes --
136
351000
2000
ez az, ahogyan a mítoszok keletkeznek --
06:08
in a broadcast society,
137
353000
2000
a hírközlésben
06:10
there were these gatekeepers, the editors,
138
355000
2000
ott voltak az őrök, a szerkesztők,
06:12
and they controlled the flows of information.
139
357000
3000
és az ő kezükben voltak az információ csatornái.
06:15
And along came the Internet and it swept them out of the way,
140
360000
3000
És jött az internet és elsöpörte őket az útból,
06:18
and it allowed all of us to connect together,
141
363000
2000
és lehetővé tette, hogy mindannyian kapcsolatba kerüljünk egymással,
06:20
and it was awesome.
142
365000
2000
és ez döbbenetes volt.
06:22
But that's not actually what's happening right now.
143
367000
3000
De most éppenséggel nem ez történik,
06:26
What we're seeing is more of a passing of the torch
144
371000
3000
Amit most látunk, az az, ahogyan a
06:29
from human gatekeepers
145
374000
2000
a hús-vér őrök átadják a stafétabotot
06:31
to algorithmic ones.
146
376000
3000
az algoritmikus őröknek.
06:34
And the thing is that the algorithms
147
379000
3000
És hát az algoritmusoknak
06:37
don't yet have the kind of embedded ethics
148
382000
3000
nincs meg az a belső etikája,
06:40
that the editors did.
149
385000
3000
amit a szerkesztők használtak.
06:43
So if algorithms are going to curate the world for us,
150
388000
3000
Így ha az algoritmusok fogják elrendezni a világot a számunkra,
06:46
if they're going to decide what we get to see and what we don't get to see,
151
391000
3000
ha azok döntik el, hogy mit nézzünk meg és mit ne,
06:49
then we need to make sure
152
394000
2000
akkor biztosítanunk kell, hogy
06:51
that they're not just keyed to relevance.
153
396000
3000
ne csupán a relevancia szerint legyenek programozva.
06:54
We need to make sure that they also show us things
154
399000
2000
Biztosítanunk kell, hogy olyan dolgokat is megmutassanak,
06:56
that are uncomfortable or challenging or important --
155
401000
3000
amelyek kényelmetlenek, provokatívak vagy fontosak --
06:59
this is what TED does --
156
404000
2000
ezt teszi a TED --
07:01
other points of view.
157
406000
2000
más nézőpontokat is.
07:03
And the thing is, we've actually been here before
158
408000
2000
Mint társadalom, voltunk már korábban is
07:05
as a society.
159
410000
2000
ilyen helyzetben.
07:08
In 1915, it's not like newspapers were sweating a lot
160
413000
3000
Nem mintha 1915-ben az újságok sokat
07:11
about their civic responsibilities.
161
416000
3000
törődtek volna a polgári felelősséggel.
07:14
Then people noticed
162
419000
2000
Azután az emberek észrevették,
07:16
that they were doing something really important.
163
421000
3000
hogy valami nagyon fontosat csináltak.
07:19
That, in fact, you couldn't have
164
424000
2000
Hogy nem létezhet
07:21
a functioning democracy
165
426000
2000
működő demokrácia úgy,
07:23
if citizens didn't get a good flow of information,
166
428000
4000
hogy az állampolgárok ne kapnák meg a megfelelő információkat.
07:28
that the newspapers were critical because they were acting as the filter,
167
433000
3000
Hogy az újságok azért voltak kulcsfontosságúak, mert úgy működtek, mint valami szűrő,
07:31
and then journalistic ethics developed.
168
436000
2000
és azután kifejlődött az újságírói etika.
07:33
It wasn't perfect,
169
438000
2000
Nem volt tökéletes,
07:35
but it got us through the last century.
170
440000
3000
de átsegített minket az előző századon.
07:38
And so now,
171
443000
2000
És így most
07:40
we're kind of back in 1915 on the Web.
172
445000
3000
ez valami visszatérés-féle 1915-höz a web-en.
07:44
And we need the new gatekeepers
173
449000
3000
És szükségünk van új őrökre,
07:47
to encode that kind of responsibility
174
452000
2000
hogy belekódolják ezt a felelősséget
07:49
into the code that they're writing.
175
454000
2000
a kódba, amit írnak.
07:51
I know that there are a lot of people here from Facebook and from Google --
176
456000
3000
Tudom, hogy sokan vannak itt a Facebook-tól és a Google-tól --
07:54
Larry and Sergey --
177
459000
2000
Larry és Sergey --
07:56
people who have helped build the Web as it is,
178
461000
2000
olyan emberek, akik segítettek olyanná formálni a web-et, amilyen,
07:58
and I'm grateful for that.
179
463000
2000
és ezért hálás vagyok nekik.
08:00
But we really need you to make sure
180
465000
3000
De tényleg szükségünk van önökre, hogy biztosítsák,
08:03
that these algorithms have encoded in them
181
468000
3000
hogy ezekben az algoritmusokban be legyen kódolva
08:06
a sense of the public life, a sense of civic responsibility.
182
471000
3000
a közélet ítélőképessége, a polgári felelősség tudata.
08:09
We need you to make sure that they're transparent enough
183
474000
3000
Szükségünk van önökre, hogy biztosítsák az átláthatóságot,
08:12
that we can see what the rules are
184
477000
2000
hogy láthassuk, hogy mik azok a szabályok,
08:14
that determine what gets through our filters.
185
479000
3000
amelyek meghatározzák, hogy mi megy át a szűrőinken.
08:17
And we need you to give us some control
186
482000
2000
És szükség van önökre azért is, hogy adjanak bizonyos ellenőrzési lehetőséget,
08:19
so that we can decide
187
484000
2000
hogy mi magunk tudjuk előírni,
08:21
what gets through and what doesn't.
188
486000
3000
hogy mi menjen át és mi ne.
08:24
Because I think
189
489000
2000
Mivel azt gondolom,
08:26
we really need the Internet to be that thing
190
491000
2000
hogy valóban szükségünk van rá, hogy az legyen az internet
08:28
that we all dreamed of it being.
191
493000
2000
amiről mindannyian álmodtunk.
08:30
We need it to connect us all together.
192
495000
3000
Szükségünk van rá, hogy valamennyiünket összekössön.
08:33
We need it to introduce us to new ideas
193
498000
3000
Szükségünk van rá, hogy megmutasson új gondolatokat,
08:36
and new people and different perspectives.
194
501000
3000
új embereket és különböző távlatokat.
08:40
And it's not going to do that
195
505000
2000
És ez nem történhet meg úgy,
08:42
if it leaves us all isolated in a Web of one.
196
507000
3000
ha egymástól elszigetelve maradunk a weben.
08:45
Thank you.
197
510000
2000
Köszönöm.
08:47
(Applause)
198
512000
11000
(Taps)
ABOUT THE SPEAKER
Eli Pariser - Organizer and authorPioneering online organizer Eli Pariser is the author of "The Filter Bubble," about how personalized search might be narrowing our worldview.
Why you should listen
Shortly after the September 11, 2001, attacks, Eli Pariser created a website calling for a multilateral approach to fighting terrorism. In the following weeks, over half a million people from 192 countries signed on, and Pariser rather unexpectedly became an online organizer. The website merged with MoveOn.org in November 2001, and Pariser -- then 20 years old -- joined the group to direct its foreign policy campaigns. He led what the New York Times Magazine called the "mainstream arm of the peace movement" -- tripling MoveOn's member base and demonstrating how large numbers of small donations could be mobilized through online engagement.
In 2004, Pariser became executive director of MoveOn. Under his leadership, MoveOn.org Political Action has grown to 5 million members and raised over $120 million from millions of small donors to support advocacy campaigns and political candidates. Pariser focused MoveOn on online-to-offline organizing, developing phone-banking tools and precinct programs in 2004 and 2006 that laid the groundwork for Barack Obama's extraordinary web-powered campaign. In 2008, Pariser transitioned the Executive Director role at MoveOn to Justin Ruben and became President of MoveOn’s board; he's now a senior fellow at the Roosevelt Institute.
His book The Filter Bubble is set for release May 12, 2011. In it, he asks how modern search tools -- the filter by which many of see the wider world -- are getting better and better and screening the wider world from us, by returning only the search results it "thinks" we want to see.
Eli Pariser | Speaker | TED.com