TED2011
Eli Pariser: Beware online "filter bubbles"
Eli Pariser: saugokitės internetinių "filtro burbulų"
Filmed:
Readability: 3.9
5,309,238 views
Internetinės kompanijos stengiasi pritaikyti savo paslaugas (taip pat naujienas ir paieškų rezultatus) prie mūsų asmeninių pomėgių, todėl kyla pavojus susidurti su nenumatytom pasėkmėm: mes įstringame "filtro burbule" ir negauname informacijos, kuri galėtų mus intriguoti ar praplėsti mūsų pasaulėžiūrą. Eli Pariser tvirtai tikina, kad galų gale pasitvirtins prielaida, jog tai nėra geras dalykas nei mums, nei demokratijai.
Eli Pariser - Organizer and author
Pioneering online organizer Eli Pariser is the author of "The Filter Bubble," about how personalized search might be narrowing our worldview. Full bio
Pioneering online organizer Eli Pariser is the author of "The Filter Bubble," about how personalized search might be narrowing our worldview. Full bio
Double-click the English transcript below to play the video.
00:15
Mark Zuckerberg,
0
0
2000
Mark Zuckerberg,
00:17
a journalist was asking him a question about the news feed.
1
2000
3000
žurnalistas jo klausinėjo apie naujienų srautą.
00:20
And the journalist was asking him,
2
5000
2000
Ir žurnalistas jo paklausė,
00:22
"Why is this so important?"
3
7000
2000
"Kodėl tai taip svarbu?"
00:24
And Zuckerberg said,
4
9000
2000
Ir Zuckerberg atsakė,
00:26
"A squirrel dying in your front yard
5
11000
2000
"Voverė, dvesianti tavo kieme
00:28
may be more relevant to your interests right now
6
13000
3000
šią akimirką tau ko gero aktualesnė,
00:31
than people dying in Africa."
7
16000
3000
nei žmonės, mirštantys Afrikoje."
00:34
And I want to talk about
8
19000
2000
Taigi aš norėčiau pakalbėti apie tai,
00:36
what a Web based on that idea of relevance might look like.
9
21000
3000
kaip atrodytų žiniatinklis paremtas tokia aktualumo idėja.
00:40
So when I was growing up
10
25000
2000
Kai aš augau
00:42
in a really rural area in Maine,
11
27000
2000
atitolusoje kaimo vietovėje Maine,
00:44
the Internet meant something very different to me.
12
29000
3000
internetas man reiškė kažką visai kitko.
00:47
It meant a connection to the world.
13
32000
2000
Jis reiškė ryšį su pasauliu.
00:49
It meant something that would connect us all together.
14
34000
3000
Jis reiškė kažką, kas mus visus sujungia.
00:52
And I was sure that it was going to be great for democracy
15
37000
3000
Ir aš buvau įsitikinęs, kad tai bus labai naudinga demokratijai
00:55
and for our society.
16
40000
3000
ir mūsų visuomenei.
00:58
But there's this shift
17
43000
2000
Bet yra vienas pasikeitimas
01:00
in how information is flowing online,
18
45000
2000
informacijos sklidime internetu,
01:02
and it's invisible.
19
47000
3000
ir jis yra nematomas.
01:05
And if we don't pay attention to it,
20
50000
2000
Ir jei mes į jį nekreipsime dėmesio,
01:07
it could be a real problem.
21
52000
3000
tai gali tapti tikra problema.
01:10
So I first noticed this in a place I spend a lot of time --
22
55000
3000
Pirmą kartą aš tai pastebėjau ten, kur praleidžiu labai daug laiko -
01:13
my Facebook page.
23
58000
2000
savo Facebook puslapyje.
01:15
I'm progressive, politically -- big surprise --
24
60000
3000
Politiškai aš esu progresyvių pažiūrų - nieko čia keisto -
01:18
but I've always gone out of my way to meet conservatives.
25
63000
2000
bet visada specialiai stengiuosi susipažinti su konservatoriais.
01:20
I like hearing what they're thinking about;
26
65000
2000
Man patinka klausytis, apie ką jie galvoja;
01:22
I like seeing what they link to;
27
67000
2000
mėgstu stebėti, kokias nuorodas jie siunčia;
01:24
I like learning a thing or two.
28
69000
2000
man patinka šį bei tą išmokti.
01:26
And so I was surprised when I noticed one day
29
71000
3000
Todėl buvau labai nustebęs, kai vieną dieną pastebėjau,
01:29
that the conservatives had disappeared from my Facebook feed.
30
74000
3000
kad konservatoriai dingo iš mano Facebook naujienų.
01:33
And what it turned out was going on
31
78000
2000
Paaiškėjo, kad
01:35
was that Facebook was looking at which links I clicked on,
32
80000
4000
Facebook stebėjo, kurias nuorodas aš spausdavau,
01:39
and it was noticing that, actually,
33
84000
2000
ir matė, kad iš tiesų
01:41
I was clicking more on my liberal friends' links
34
86000
2000
aš dažniau spausdavau savo liberaliųjų draugų nuorodas,
01:43
than on my conservative friends' links.
35
88000
3000
o ne draugų konservatorių.
01:46
And without consulting me about it,
36
91000
2000
Ir su manimi nepasitarę,
01:48
it had edited them out.
37
93000
2000
jie išmetė nuorodas lauk.
01:50
They disappeared.
38
95000
3000
Jos dingo.
01:54
So Facebook isn't the only place
39
99000
2000
Taigi Facebook nėra vienintelė vieta,
01:56
that's doing this kind of invisible, algorithmic
40
101000
2000
kur vyksta toks nematomas, algoritminis
01:58
editing of the Web.
41
103000
3000
tinklo redagavimas.
02:01
Google's doing it too.
42
106000
2000
Google tai irgi daro.
02:03
If I search for something, and you search for something,
43
108000
3000
Jei aš kažko ieškosiu, ir tu kažko ieškosi,
02:06
even right now at the very same time,
44
111000
2000
net ir dabar, visiškai tuo pačiu metu,
02:08
we may get very different search results.
45
113000
3000
mes ko gero gausim labai skirtingus rezultatus.
02:11
Even if you're logged out, one engineer told me,
46
116000
3000
Net jei esi išsiregistravęs, kaip vienas inžinierius man sakė,
02:14
there are 57 signals
47
119000
2000
yra 57 signalai,
02:16
that Google looks at --
48
121000
3000
kuriuos Google vertina -
02:19
everything from what kind of computer you're on
49
124000
3000
nuo to, kokį kompiuterį tu naudoji,
02:22
to what kind of browser you're using
50
127000
2000
iki to, kokia naršykle naudojiesi,
02:24
to where you're located --
51
129000
2000
kur esi geografiškai -
02:26
that it uses to personally tailor your query results.
52
131000
3000
ši informacija naudojama asmeniškai adaptuoti tavo užklausos rezultatus.
02:29
Think about it for a second:
53
134000
2000
Pamastykite apie tai minutėlę:
02:31
there is no standard Google anymore.
54
136000
4000
standartiškas Google nebeegzistuoja.
02:35
And you know, the funny thing about this is that it's hard to see.
55
140000
3000
Ir žinot, keisčiausia tai, kad tai labai sunku pastebėti.
02:38
You can't see how different your search results are
56
143000
2000
Jūs nematote, kiek jūsų paieškos rezultatai skiriasi
02:40
from anyone else's.
57
145000
2000
nuo bet kurio kito žmogaus.
02:42
But a couple of weeks ago,
58
147000
2000
Bet prieš porą savaičių
02:44
I asked a bunch of friends to Google "Egypt"
59
149000
3000
aš paprašiau savo draugų "pagooglinti" "Egiptas"
02:47
and to send me screen shots of what they got.
60
152000
3000
ir atsiųsti man gautų rezultatų ekrano nuotraukas.
02:50
So here's my friend Scott's screen shot.
61
155000
3000
Štai mano draugo Scott ekrano nuotrauka.
02:54
And here's my friend Daniel's screen shot.
62
159000
3000
Ir štai mano draugo Daniel ekrano nuotrauka.
02:57
When you put them side-by-side,
63
162000
2000
Kai sudedi abi vieną šalia kitos,
02:59
you don't even have to read the links
64
164000
2000
net nereikia skaityti nuorodų,
03:01
to see how different these two pages are.
65
166000
2000
kad pamatytum, kiek daug skiriasi šie du puslapiai.
03:03
But when you do read the links,
66
168000
2000
Bet kai vis dėlto paskaitai nuorodas,
03:05
it's really quite remarkable.
67
170000
3000
tai yra tikrai gana neįtikėtina.
03:09
Daniel didn't get anything about the protests in Egypt at all
68
174000
3000
Daniel pirmame Google rezultatų puslapyje negavo jokių nuorodų
03:12
in his first page of Google results.
69
177000
2000
apie Egipte vykstančius protestus.
03:14
Scott's results were full of them.
70
179000
2000
Scott rezultatuose buvo daugybė informacijos apie tai.
03:16
And this was the big story of the day at that time.
71
181000
2000
O ši istorija tada buvo tikrai populiari.
03:18
That's how different these results are becoming.
72
183000
3000
Štai kokie skirtingi tampa paieškos rezultatai.
03:21
So it's not just Google and Facebook either.
73
186000
3000
Ir tai ne vien tik Google ir Facebook.
03:24
This is something that's sweeping the Web.
74
189000
2000
Tai vyksta visame žiniatinklyje.
03:26
There are a whole host of companies that are doing this kind of personalization.
75
191000
3000
Yra spiečius kompanijų, kurios taiko tokią personalizaciją.
03:29
Yahoo News, the biggest news site on the Internet,
76
194000
3000
Yahoo News, didžiausias naujienų puslapis internete,
03:32
is now personalized -- different people get different things.
77
197000
3000
dabar taip pat yra personalizuotas -- skirtingi žmonės gauna skirtingas naujienas.
03:36
Huffington Post, the Washington Post, the New York Times --
78
201000
3000
Huffington Post, Washington Post, New York Times --
03:39
all flirting with personalization in various ways.
79
204000
3000
visi vienaip ar kitaip koketuoja su personalizacijos idėja.
03:42
And this moves us very quickly
80
207000
3000
Ir tai mus labai greitai veda
03:45
toward a world in which
81
210000
2000
link pasaulio, kuriame
03:47
the Internet is showing us what it thinks we want to see,
82
212000
4000
internetas rodo mums tik tai, ką jis galvoja mes norime matyti,
03:51
but not necessarily what we need to see.
83
216000
3000
bet nebūtinai tai, ką mes turėtume pamatyti.
03:54
As Eric Schmidt said,
84
219000
3000
Kaip Eric Schmidt pasakė,
03:57
"It will be very hard for people to watch or consume something
85
222000
3000
"Žmonėms bus labai sunku kažką žiūrėti ir vartoti
04:00
that has not in some sense
86
225000
2000
kas kažkuria prasme
04:02
been tailored for them."
87
227000
3000
nebuvo pritaikytas būtent jiems."
04:05
So I do think this is a problem.
88
230000
2000
Aš tikrai manau, kad tai yra problema.
04:07
And I think, if you take all of these filters together,
89
232000
3000
Ir aš manau, kad jeigu paimtume visus šiuos filtrus,
04:10
you take all these algorithms,
90
235000
2000
visus algoritmus,
04:12
you get what I call a filter bubble.
91
237000
3000
susidurtumėte su filtro burbulu, kaip aš tai vadinu.
04:16
And your filter bubble is your own personal,
92
241000
3000
Ir jūsų filtro burbulas yra asmeninė,
04:19
unique universe of information
93
244000
2000
unikali informacijos visata,
04:21
that you live in online.
94
246000
2000
kurioje gyvenate, kai būnate internete.
04:23
And what's in your filter bubble
95
248000
3000
Ir kas yra jūsų filtro burbule
04:26
depends on who you are, and it depends on what you do.
96
251000
3000
priklauso nuo to, kas jūs esate ir priklauso nuo to, ką jus veikiate.
04:29
But the thing is that you don't decide what gets in.
97
254000
4000
Bet dalykas yra tas, kad jūs negalite nuspręsti, kas į jį patenka.
04:33
And more importantly,
98
258000
2000
Ir svarbiausia,
04:35
you don't actually see what gets edited out.
99
260000
3000
jūs iš tiesų net nematote, kas yra išredaguota.
04:38
So one of the problems with the filter bubble
100
263000
2000
Taigi vieną iš šio filtro burbulo problemų
04:40
was discovered by some researchers at Netflix.
101
265000
3000
atrado keli Netflix mokslininkai.
04:43
And they were looking at the Netflix queues, and they noticed something kind of funny
102
268000
3000
Jie stebėjo Netflix filmų eiles ir pastebėjo kai ką šiek tiek juokingo,
04:46
that a lot of us probably have noticed,
103
271000
2000
ką dauguma mūsų turbūt irgi pastebėjo,
04:48
which is there are some movies
104
273000
2000
o tai yra, kad kai kurie filmai
04:50
that just sort of zip right up and out to our houses.
105
275000
3000
tiesiog atsiranda ir dingsta iš mūsų namų eilės.
04:53
They enter the queue, they just zip right out.
106
278000
3000
Jie įeina į eilę ir joje neužsibūna.
04:56
So "Iron Man" zips right out,
107
281000
2000
Taigi "Geležinis žmogus" peržiūrėtas,
04:58
and "Waiting for Superman"
108
283000
2000
o "Belaukiant Supermeno" eilės
05:00
can wait for a really long time.
109
285000
2000
gali tekti laukti gana ilgai.
05:02
What they discovered
110
287000
2000
Ką Netflix mokslininkai atrado
05:04
was that in our Netflix queues
111
289000
2000
buvo tai, kad Netflix filmų eilėse
05:06
there's this epic struggle going on
112
291000
3000
vyksta epinė kova
05:09
between our future aspirational selves
113
294000
3000
tarp mūsų siekiamo ateities savęs
05:12
and our more impulsive present selves.
114
297000
3000
ir mūsų labiau impulsyvaus dabartinio savęs.
05:15
You know we all want to be someone
115
300000
2000
Žinot, mes visi norime tapti tais,
05:17
who has watched "Rashomon,"
116
302000
2000
kurie žiūri "Rasiomonas",
05:19
but right now
117
304000
2000
bet dabar
05:21
we want to watch "Ace Ventura" for the fourth time.
118
306000
3000
mes norime ketvirtą kartą peržiūrėti "Eisas Ventura".
05:24
(Laughter)
119
309000
3000
(Juokas)
05:27
So the best editing gives us a bit of both.
120
312000
2000
Taigi geriausias redagavimas leidžia mums pabūti abiem savimis.
05:29
It gives us a little bit of Justin Bieber
121
314000
2000
Tai mums suteikia truputį informacijos apie Justin Bieber
05:31
and a little bit of Afghanistan.
122
316000
2000
ir truputį Afganistano naujienų.
05:33
It gives us some information vegetables;
123
318000
2000
Tai mums suteikia informacijos "daržovių"
05:35
it gives us some information dessert.
124
320000
3000
ir informacijos "desertui".
05:38
And the challenge with these kinds of algorithmic filters,
125
323000
2000
Ir didžiausias sunkumas su šiais algoritminiais filtrais,
05:40
these personalized filters,
126
325000
2000
šiais personalizuotais filtrais,
05:42
is that, because they're mainly looking
127
327000
2000
yra susijęs su tuo, kad filtrai daugiausiai
05:44
at what you click on first,
128
329000
4000
kreipia dėmesį į tai, ką jūs paspaudžiate primiausia,
05:48
it can throw off that balance.
129
333000
4000
o tai gali tą filtrą išbalansuoti.
05:52
And instead of a balanced information diet,
130
337000
3000
Ir tuomet vietoje subalansuotos informacijos dietos
05:55
you can end up surrounded
131
340000
2000
jums gali tekti
05:57
by information junk food.
132
342000
2000
greitas, nesveikas informacijos maistas.
05:59
What this suggests
133
344000
2000
Ką tai sako,
06:01
is actually that we may have the story about the Internet wrong.
134
346000
3000
yra tai, kad išties mes suprantame internetą neteisingai.
06:04
In a broadcast society --
135
349000
2000
Transliacijų visuomenėje --
06:06
this is how the founding mythology goes --
136
351000
2000
štai kokia išties etologinio mito istorija --
06:08
in a broadcast society,
137
353000
2000
transliacijų visuomenėje
06:10
there were these gatekeepers, the editors,
138
355000
2000
buvo žmonės atsakingi už priėjimą prie informacijos, redaktoriai
06:12
and they controlled the flows of information.
139
357000
3000
ir jie kontroliavo informacijos srautus.
06:15
And along came the Internet and it swept them out of the way,
140
360000
3000
Ir tada atsirado internetas ir nušlavė juos nuo kelio,
06:18
and it allowed all of us to connect together,
141
363000
2000
o tai leido mums susijungti,
06:20
and it was awesome.
142
365000
2000
kas buvo labai jėga.
06:22
But that's not actually what's happening right now.
143
367000
3000
Tačiau tai nėra, kas išties dabar vyksta.
06:26
What we're seeing is more of a passing of the torch
144
371000
3000
Ką mes dabar matome yra daugiau deglo perdavinėjimas
06:29
from human gatekeepers
145
374000
2000
iš žmonių, atsakingų už priėjimą prie informacijos
06:31
to algorithmic ones.
146
376000
3000
algoritmams.
06:34
And the thing is that the algorithms
147
379000
3000
Ir esmė yra ta, kad algoritmai
06:37
don't yet have the kind of embedded ethics
148
382000
3000
dar neturi įtvirtintos etikos,
06:40
that the editors did.
149
385000
3000
kurią turi redaktoriai.
06:43
So if algorithms are going to curate the world for us,
150
388000
3000
Taigi, jeigu algoritmai kuruos mums pasaulį,
06:46
if they're going to decide what we get to see and what we don't get to see,
151
391000
3000
jeigu jie spręs, ką mes galime matyti ir ko ne,
06:49
then we need to make sure
152
394000
2000
tuomet mums reikia užsitikrinti,
06:51
that they're not just keyed to relevance.
153
396000
3000
kad jų pagrindas nėra aktualumas.
06:54
We need to make sure that they also show us things
154
399000
2000
Mums reikia užtikrinti, kad jie taip pat mums parodys dalykus,
06:56
that are uncomfortable or challenging or important --
155
401000
3000
kurie yra nesmagūs, sudėtingi arba svarbūs --
06:59
this is what TED does --
156
404000
2000
tai būtent ką daro TED --
07:01
other points of view.
157
406000
2000
rodo kitus požiūrius.
07:03
And the thing is, we've actually been here before
158
408000
2000
O svarbiausia, kad mes tokioje situacijoje jau buvome
07:05
as a society.
159
410000
2000
patekę kaip visuomenė.
07:08
In 1915, it's not like newspapers were sweating a lot
160
413000
3000
1915 laikraščiai tikrai neliejo daug prakaito
07:11
about their civic responsibilities.
161
416000
3000
dėl savo pilietinės atsakomybės.
07:14
Then people noticed
162
419000
2000
Tuomet žmonės pastebėjo,
07:16
that they were doing something really important.
163
421000
3000
kad jie darė kažką labai svarbaus.
07:19
That, in fact, you couldn't have
164
424000
2000
Tai, faktiškai, yra negalėjimas
07:21
a functioning democracy
165
426000
2000
turėti funkcionuojančią demokratiją,
07:23
if citizens didn't get a good flow of information,
166
428000
4000
jeigu piliečiai negauna tinkamo informacijos srauto.
07:28
that the newspapers were critical because they were acting as the filter,
167
433000
3000
Žmonės suprato, kad laikraščiai buvo kritiškai svarbūs, nes jie
07:31
and then journalistic ethics developed.
168
436000
2000
buvo kaip filtrai, o tada susiformavo žurnalistinė etika.
07:33
It wasn't perfect,
169
438000
2000
Tai nebuvo puiku,
07:35
but it got us through the last century.
170
440000
3000
bet mes taip pragyvenom paskutinį amžių.
07:38
And so now,
171
443000
2000
Ir taip dabar
07:40
we're kind of back in 1915 on the Web.
172
445000
3000
mes lyg ir grįžom į 1915 metus tinkle.
07:44
And we need the new gatekeepers
173
449000
3000
Ir mums reikia naujų žmonių, nuo kurių priklauso priėjimas prie informacijos,
07:47
to encode that kind of responsibility
174
452000
2000
kurie koduotų tą atsakomybę
07:49
into the code that they're writing.
175
454000
2000
į kodą, kurį jie dabar kuria.
07:51
I know that there are a lot of people here from Facebook and from Google --
176
456000
3000
Aš žinau, kad čia yra daug žmonių iš Facebook ir iš Google --
07:54
Larry and Sergey --
177
459000
2000
Larry ir Sergey --
07:56
people who have helped build the Web as it is,
178
461000
2000
žmonės, kurie padėjo sukurti žiniatinklį tokį, koks jis dabar yra,
07:58
and I'm grateful for that.
179
463000
2000
ir aš esu dėl to dėkingas.
08:00
But we really need you to make sure
180
465000
3000
Bet mums reikia, kad jūs užtikrintumėte,
08:03
that these algorithms have encoded in them
181
468000
3000
kad šie algoritmai turėtų įkoduotą
08:06
a sense of the public life, a sense of civic responsibility.
182
471000
3000
viešo gyvenimo jausmą ir pilietinės atsakomybės jausmą.
08:09
We need you to make sure that they're transparent enough
183
474000
3000
Mums reikia, kad jūs užtikrintumėt, kad jie yra pakankamai skaidrūs,
08:12
that we can see what the rules are
184
477000
2000
kad mes galėtume matyti kokios yra taisyklės,
08:14
that determine what gets through our filters.
185
479000
3000
kurios nustato, kas pereina pro mūsų filtrus.
08:17
And we need you to give us some control
186
482000
2000
Ir mums reikia, kad duotumėte mums šiek tiek kontrolės,
08:19
so that we can decide
187
484000
2000
kad galėtume nuspręsti,
08:21
what gets through and what doesn't.
188
486000
3000
kas praeina pro filtrą ir kas ne.
08:24
Because I think
189
489000
2000
Nes aš manau,
08:26
we really need the Internet to be that thing
190
491000
2000
kad mums reikia interneto būtent tokio,
08:28
that we all dreamed of it being.
191
493000
2000
apie kokį ir svajojome.
08:30
We need it to connect us all together.
192
495000
3000
Mums reikia kad jis mus sujungtų.
08:33
We need it to introduce us to new ideas
193
498000
3000
Mums reikia, kad jis mums pristatytų naujų idėjų
08:36
and new people and different perspectives.
194
501000
3000
ir supažindintų su naujais žmonėmis ir naujomis perspektyvomis.
08:40
And it's not going to do that
195
505000
2000
Ir jis to neatliks,
08:42
if it leaves us all isolated in a Web of one.
196
507000
3000
jeigu mes liksime izoliuoti vieno žmogaus žiniatinklyje.
08:45
Thank you.
197
510000
2000
Ačiū.
08:47
(Applause)
198
512000
11000
(Plojimai)
ABOUT THE SPEAKER
Eli Pariser - Organizer and authorPioneering online organizer Eli Pariser is the author of "The Filter Bubble," about how personalized search might be narrowing our worldview.
Why you should listen
Shortly after the September 11, 2001, attacks, Eli Pariser created a website calling for a multilateral approach to fighting terrorism. In the following weeks, over half a million people from 192 countries signed on, and Pariser rather unexpectedly became an online organizer. The website merged with MoveOn.org in November 2001, and Pariser -- then 20 years old -- joined the group to direct its foreign policy campaigns. He led what the New York Times Magazine called the "mainstream arm of the peace movement" -- tripling MoveOn's member base and demonstrating how large numbers of small donations could be mobilized through online engagement.
In 2004, Pariser became executive director of MoveOn. Under his leadership, MoveOn.org Political Action has grown to 5 million members and raised over $120 million from millions of small donors to support advocacy campaigns and political candidates. Pariser focused MoveOn on online-to-offline organizing, developing phone-banking tools and precinct programs in 2004 and 2006 that laid the groundwork for Barack Obama's extraordinary web-powered campaign. In 2008, Pariser transitioned the Executive Director role at MoveOn to Justin Ruben and became President of MoveOn’s board; he's now a senior fellow at the Roosevelt Institute.
His book The Filter Bubble is set for release May 12, 2011. In it, he asks how modern search tools -- the filter by which many of see the wider world -- are getting better and better and screening the wider world from us, by returning only the search results it "thinks" we want to see.
Eli Pariser | Speaker | TED.com