TED2011
Eli Pariser: Beware online "filter bubbles"
ايلي باريسر: كونوا على حذر من "فقاعات الترشيح" على الانترنت
Filmed:
Readability: 3.9
5,309,238 views
مع سعي الشركات على شبكة الانترنت إلى تخصيص خدماتها (بما في ذلك الأخبار ونتائج البحث) بما يناسب أذواقنا الشخصية، هناك عاقبة خطيرة غير مقصودة: أننا نصبح محاصرين في "فقاعة ترشيح" ولا نتعرض للمعلومات التي يمكنها أن تتحدى أو توسع نظرتنا للعالم. يناقش إيلي باريسر بقوة أن خطورة الأمر علينا وعلى الديموقراطية ستثبت في نهاية المطاف.
Eli Pariser - Organizer and author
Pioneering online organizer Eli Pariser is the author of "The Filter Bubble," about how personalized search might be narrowing our worldview. Full bio
Pioneering online organizer Eli Pariser is the author of "The Filter Bubble," about how personalized search might be narrowing our worldview. Full bio
Double-click the English transcript below to play the video.
00:15
Mark Zuckerberg,
0
0
2000
مارك زوكربيرج،
00:17
a journalist was asking him a question about the news feed.
1
2000
3000
أحد الصحافيين كان يسأله حول التغذية الإخبارية.
00:20
And the journalist was asking him,
2
5000
2000
والصحفي كان يسأله،
00:22
"Why is this so important?"
3
7000
2000
"لماذا هذا في غاية الأهمية؟"
00:24
And Zuckerberg said,
4
9000
2000
فقال زوكربيرج،
00:26
"A squirrel dying in your front yard
5
11000
2000
"سنجاب يموت في فنائكم
00:28
may be more relevant to your interests right now
6
13000
3000
قد يكون ذا صلة أكبر باهتماماتك الآن
00:31
than people dying in Africa."
7
16000
3000
من الناس الذين يموتون في أفريقيا."
00:34
And I want to talk about
8
19000
2000
وأريد التحدث عن
00:36
what a Web based on that idea of relevance might look like.
9
21000
3000
ما الذي قد تبدو عليه شبكة انترنت تعتمد فكرة الصلة.
00:40
So when I was growing up
10
25000
2000
هكذا حين نشأت
00:42
in a really rural area in Maine,
11
27000
2000
في منطقة قروية في مين،
00:44
the Internet meant something very different to me.
12
29000
3000
كان الانترنت يعني شيئا مختلفا بالنسبة لي.
00:47
It meant a connection to the world.
13
32000
2000
كان يعني اتصالا بالعالم.
00:49
It meant something that would connect us all together.
14
34000
3000
كان يعني شيئا سوف يصلنا جميعا ببعضنا البعض.
00:52
And I was sure that it was going to be great for democracy
15
37000
3000
وكنت متأكدا بأنه سيكون أمرا عظيما للديموقراطية
00:55
and for our society.
16
40000
3000
ولمجتمعنا.
00:58
But there's this shift
17
43000
2000
لكن حصلت هذه النقلة
01:00
in how information is flowing online,
18
45000
2000
في كيفية تدفق المعلومات على الانترنت،
01:02
and it's invisible.
19
47000
3000
وهي غير مرئية.
01:05
And if we don't pay attention to it,
20
50000
2000
وإن لم نعرها اهتماما،
01:07
it could be a real problem.
21
52000
3000
قد تكون مشكلا حقيقيا.
01:10
So I first noticed this in a place I spend a lot of time --
22
55000
3000
وبالتالي لاحظت هذا في مكان أقضي فيه الكثير من الوقت --
01:13
my Facebook page.
23
58000
2000
صفحتي على الفيسبوك.
01:15
I'm progressive, politically -- big surprise --
24
60000
3000
أنا تقدمي، سياسيا -- مفاجأة كبيرة --
01:18
but I've always gone out of my way to meet conservatives.
25
63000
2000
لكنني دائما ما ذهبت بعيدا عن طريقي للقاء المحافظين.
01:20
I like hearing what they're thinking about;
26
65000
2000
يعجبني سماع ما يفكرون فيه؛
01:22
I like seeing what they link to;
27
67000
2000
يعجبني رؤية ما يربطون إليه؛
01:24
I like learning a thing or two.
28
69000
2000
يعجبني تعلم أمر أو اثنين.
01:26
And so I was surprised when I noticed one day
29
71000
3000
وهكذا تفاجأت حين لاحظت في أحد الأيام
01:29
that the conservatives had disappeared from my Facebook feed.
30
74000
3000
أن المحافظين قد اختفوا من تغذيتي الإخبارية على الفيسبوك.
01:33
And what it turned out was going on
31
78000
2000
والذي اتضح أنه يحصل
01:35
was that Facebook was looking at which links I clicked on,
32
80000
4000
هو أن فيسبوك كان ينظر إلى أي الروابط أنقر عليها،
01:39
and it was noticing that, actually,
33
84000
2000
وكان يلاحظ ذلك، في الواقع،
01:41
I was clicking more on my liberal friends' links
34
86000
2000
كنت أنقر أكثر على روابط أصدقائي الليبراليين
01:43
than on my conservative friends' links.
35
88000
3000
من روابط أصدقائي المحافظين.
01:46
And without consulting me about it,
36
91000
2000
وبدون أن يستشيرني بخصوص الأمر،
01:48
it had edited them out.
37
93000
2000
قام بتحريرهم وإبعادهم.
01:50
They disappeared.
38
95000
3000
اختفت.
01:54
So Facebook isn't the only place
39
99000
2000
لذا فيسبوك ليس المكان الوحيد
01:56
that's doing this kind of invisible, algorithmic
40
101000
2000
الذي يقوم بهذا النوع الخفي، اللوغاريثمي
01:58
editing of the Web.
41
103000
3000
من تحرير الانترنت.
02:01
Google's doing it too.
42
106000
2000
غوغل تقوم بذلك ايضا.
02:03
If I search for something, and you search for something,
43
108000
3000
إن بحثت عن شيء ما، وبحثتَ عنه،
02:06
even right now at the very same time,
44
111000
2000
وحتى في نفس اللحظة الآن،
02:08
we may get very different search results.
45
113000
3000
قد نحصل على نتائج بحث مختلفة للغاية.
02:11
Even if you're logged out, one engineer told me,
46
116000
3000
حتى إن كنت سجلت الخروج من حسابك، أحد المهندسين أخبرني،
02:14
there are 57 signals
47
119000
2000
هناك 57 إشارة
02:16
that Google looks at --
48
121000
3000
تنظر إليها غوغل --
02:19
everything from what kind of computer you're on
49
124000
3000
كل شيء بدء من نوع الكمبيوتر الذي تستخدمه
02:22
to what kind of browser you're using
50
127000
2000
إلى نوع المتصفح الذي تستعمله
02:24
to where you're located --
51
129000
2000
إلى المكان الذي توجد فيه --
02:26
that it uses to personally tailor your query results.
52
131000
3000
والتي تستخدمها لتصميم نتائج بحث شخصية.
02:29
Think about it for a second:
53
134000
2000
فكروا في الأمر لثانية:
02:31
there is no standard Google anymore.
54
136000
4000
لم يعد هناك وجود لغوغل قياسي.
02:35
And you know, the funny thing about this is that it's hard to see.
55
140000
3000
وتعرفون، المضحك في الأمر هو أنه من الصعب رؤيته.
02:38
You can't see how different your search results are
56
143000
2000
لا تستطيع رؤية مدى اختلاف نتائج بحثك
02:40
from anyone else's.
57
145000
2000
عن أي شخص آخر.
02:42
But a couple of weeks ago,
58
147000
2000
لكن قبل بضعة أسابيع،
02:44
I asked a bunch of friends to Google "Egypt"
59
149000
3000
طلبت من مجموعة من الأصدقاء أن يبحثوا في غوغل عن "مصر"
02:47
and to send me screen shots of what they got.
60
152000
3000
وأن يرسلوا لي لقطات لما حصلوا عليه.
02:50
So here's my friend Scott's screen shot.
61
155000
3000
وبالتالي ها هي لقطة صديقي سكوت.
02:54
And here's my friend Daniel's screen shot.
62
159000
3000
وها هي لقطة صديقي دانييل.
02:57
When you put them side-by-side,
63
162000
2000
حين تضعونهما جنبا إلى جنب،
02:59
you don't even have to read the links
64
164000
2000
لا تحتاج حتى إلى قراءة الروابط
03:01
to see how different these two pages are.
65
166000
2000
لرؤية امدى اختلاف الصفحتين.
03:03
But when you do read the links,
66
168000
2000
لكن حين تقرؤون الروابط،
03:05
it's really quite remarkable.
67
170000
3000
إنه أمر لافت حقا.
03:09
Daniel didn't get anything about the protests in Egypt at all
68
174000
3000
لم يحصل دانييل على أي شيء حول التظاهرات في مصر على الإطلاق
03:12
in his first page of Google results.
69
177000
2000
في صفحته الأولى من نتائج بحث غوغل.
03:14
Scott's results were full of them.
70
179000
2000
نتائج بحث سكوت كانت مليئة بها.
03:16
And this was the big story of the day at that time.
71
181000
2000
وتلك كانت القصة الكبيرة آنذاك.
03:18
That's how different these results are becoming.
72
183000
3000
هذا مدى الاختلاف الذي وصلت إليه نتائج البحث.
03:21
So it's not just Google and Facebook either.
73
186000
3000
إذن فليس فقط غوغل أو حتى فيسبوك.
03:24
This is something that's sweeping the Web.
74
189000
2000
هذا أمر يغطي شبكة الانترنت.
03:26
There are a whole host of companies that are doing this kind of personalization.
75
191000
3000
هناك عدد كبير من الشركات تقوم بنفس النوع من التخصيص.
03:29
Yahoo News, the biggest news site on the Internet,
76
194000
3000
أخبار ياهوو، أكبر موقع إخباري على الانترنت،
03:32
is now personalized -- different people get different things.
77
197000
3000
هو الآن مخصص -- أشخاص مختلفون يحصلون على أشياء مختلفة.
03:36
Huffington Post, the Washington Post, the New York Times --
78
201000
3000
هافينغتون بوست، الواشنطون بوست، النيويورك تايمز --
03:39
all flirting with personalization in various ways.
79
204000
3000
كلهم يتغازلون بالتخصيص بطرق مختلفة.
03:42
And this moves us very quickly
80
207000
3000
وهذا ينقلنا بشكل سريع
03:45
toward a world in which
81
210000
2000
إلى عالم حيث
03:47
the Internet is showing us what it thinks we want to see,
82
212000
4000
يظهر لنا الانترنت ما يعتقد أننا نريد رؤيته،
03:51
but not necessarily what we need to see.
83
216000
3000
لكن ليس بالضرورة ما نريد رؤيته.
03:54
As Eric Schmidt said,
84
219000
3000
كما قال إريك شميت،
03:57
"It will be very hard for people to watch or consume something
85
222000
3000
"سيصبح من الصعب على الناس مشاهدة أو استهلاك شيء
04:00
that has not in some sense
86
225000
2000
لم يتم بمعنى ما
04:02
been tailored for them."
87
227000
3000
تخصيصه لهم."
04:05
So I do think this is a problem.
88
230000
2000
لذلك لا أعتقد أن هذا مشكل.
04:07
And I think, if you take all of these filters together,
89
232000
3000
وأعتقد أنه إن أخذت كل هذه المرشحات معا،
04:10
you take all these algorithms,
90
235000
2000
وأخذت كل هذه الخوارزميات،
04:12
you get what I call a filter bubble.
91
237000
3000
تحصل على ما أسميه فقاعة الترشيح.
04:16
And your filter bubble is your own personal,
92
241000
3000
وفقاعتك المرشحة هي عالم المعلومات
04:19
unique universe of information
93
244000
2000
الفريد الخاص بك
04:21
that you live in online.
94
246000
2000
الذي تعيش فيه على الانترنت.
04:23
And what's in your filter bubble
95
248000
3000
والموجود في فقاعتك المرشحة
04:26
depends on who you are, and it depends on what you do.
96
251000
3000
يعتمد على من تكون، يعتمد على ما تقوم به.
04:29
But the thing is that you don't decide what gets in.
97
254000
4000
لكن الحاصل هو أنك لا تقرر ما الذي يدخله.
04:33
And more importantly,
98
258000
2000
والأكثر أهمية،
04:35
you don't actually see what gets edited out.
99
260000
3000
لا ترى في الواقع ما الذي يحرر فيبعد.
04:38
So one of the problems with the filter bubble
100
263000
2000
وبالتالي أحد مشاكل الفقاعة المرشحة
04:40
was discovered by some researchers at Netflix.
101
265000
3000
تم اكتشافه من طرف الباحثين في نت فليكس(Netflix).
04:43
And they were looking at the Netflix queues, and they noticed something kind of funny
102
268000
3000
وقد كانوا ينظرون إلى قوائم نت فليكس، ولاحظوا أمرا مضحكا نوعا ما
04:46
that a lot of us probably have noticed,
103
271000
2000
الكثير منا لاحظه،
04:48
which is there are some movies
104
273000
2000
هو أن هناك أفلام
04:50
that just sort of zip right up and out to our houses.
105
275000
3000
تندفع نوعا ما نحو الأعلى وخارجا إلى بيوتنا.
04:53
They enter the queue, they just zip right out.
106
278000
3000
تدخل القائمة، وتندفع للتو خارجا.
04:56
So "Iron Man" zips right out,
107
281000
2000
وهكذا "Iron Man" اندفع للتو خارجا،
04:58
and "Waiting for Superman"
108
283000
2000
و"Waiting for Superman"
05:00
can wait for a really long time.
109
285000
2000
يمكن أن ينتظر لوقت طويل جدا.
05:02
What they discovered
110
287000
2000
ما اكتشفوه
05:04
was that in our Netflix queues
111
289000
2000
هو أن في قوائم نت فليكس الخاصة بنا
05:06
there's this epic struggle going on
112
291000
3000
يجري صراع ملحمي
05:09
between our future aspirational selves
113
294000
3000
بين أنفسنا الطموحة المستقبلية
05:12
and our more impulsive present selves.
114
297000
3000
وأنفسنا المندفعة الراهنية.
05:15
You know we all want to be someone
115
300000
2000
تدرون أننا جميعا نريد أن نكون مميزين
05:17
who has watched "Rashomon,"
116
302000
2000
من منكم شاهد "Rashomon،"
05:19
but right now
117
304000
2000
لكن حاليا
05:21
we want to watch "Ace Ventura" for the fourth time.
118
306000
3000
نريد أن نشاهد "Ace Ventura" للمرة الرابعة.
05:24
(Laughter)
119
309000
3000
(ضحك)
05:27
So the best editing gives us a bit of both.
120
312000
2000
وهكذا فإن أحسن تحرير يعطينا قليلا من الأمرين.
05:29
It gives us a little bit of Justin Bieber
121
314000
2000
يعطينا القليل من Justin Bieber
05:31
and a little bit of Afghanistan.
122
316000
2000
والقليل من أفغانستان.
05:33
It gives us some information vegetables;
123
318000
2000
يعطينا بعض المعلومات خضرا،
05:35
it gives us some information dessert.
124
320000
3000
ويعطينا بعض المعلومات فاكهة.
05:38
And the challenge with these kinds of algorithmic filters,
125
323000
2000
والتحدي في هذا النوع من المرشحات الخوارزمية،
05:40
these personalized filters,
126
325000
2000
هذه المرشحات المخصصة،
05:42
is that, because they're mainly looking
127
327000
2000
هو أنه، بسبب أنها تنظر أساسا
05:44
at what you click on first,
128
329000
4000
إلى ما تنقر عليها أولا،
05:48
it can throw off that balance.
129
333000
4000
يمكن أن تتخلى عن ذلك التوازن.
05:52
And instead of a balanced information diet,
130
337000
3000
وبدل حمية معلومات متوازنة،
05:55
you can end up surrounded
131
340000
2000
قد تصبح محاطا
05:57
by information junk food.
132
342000
2000
بوجبات دون قيمة غذائية من المعلومات.
05:59
What this suggests
133
344000
2000
ما يوحي به هذا
06:01
is actually that we may have the story about the Internet wrong.
134
346000
3000
هو أنه في الواقع قد نكون مخطئين بخصوص الانترنت.
06:04
In a broadcast society --
135
349000
2000
في مجتمع ناشر --
06:06
this is how the founding mythology goes --
136
351000
2000
هكذا تقول الميثولوجيا المؤسسة --
06:08
in a broadcast society,
137
353000
2000
في مجتمع ناشر،
06:10
there were these gatekeepers, the editors,
138
355000
2000
كان هناك حراس بوابات، المحررون،
06:12
and they controlled the flows of information.
139
357000
3000
يتحكمون في تدفق المعلومات.
06:15
And along came the Internet and it swept them out of the way,
140
360000
3000
وثم جاء الانترنت فأزاحهم عن الطريق،
06:18
and it allowed all of us to connect together,
141
363000
2000
وسمح لنا جميعا بالإرتباط معا،
06:20
and it was awesome.
142
365000
2000
وقد كان أمرا ممتازا.
06:22
But that's not actually what's happening right now.
143
367000
3000
لكن ذلك ليس ما يحصل الآن في الواقع.
06:26
What we're seeing is more of a passing of the torch
144
371000
3000
ما نراه هو بالأحرى تسليم المشعل
06:29
from human gatekeepers
145
374000
2000
من حراس البوابات البشريين
06:31
to algorithmic ones.
146
376000
3000
إلى اللوغاريثميين.
06:34
And the thing is that the algorithms
147
379000
3000
والحاصل هو أن اللوغاريثمات
06:37
don't yet have the kind of embedded ethics
148
382000
3000
لا تمتلك بعد نوع الأخلاقيات المدمجة
06:40
that the editors did.
149
385000
3000
التي امتلكها المحررون.
06:43
So if algorithms are going to curate the world for us,
150
388000
3000
وبالتالي إن كانت اللوغاريثمات ستتحكم في عالمنا،
06:46
if they're going to decide what we get to see and what we don't get to see,
151
391000
3000
إن كانت ستقوم بتقرير ما يمكن أن نراه وما لا يمكن أن نراه،
06:49
then we need to make sure
152
394000
2000
حينها يجب أن نتيقن من
06:51
that they're not just keyed to relevance.
153
396000
3000
أنها لا تخضع فقط للصلة.
06:54
We need to make sure that they also show us things
154
399000
2000
يجب أن نتيقن من أنها ترينا كذلك أشياء
06:56
that are uncomfortable or challenging or important --
155
401000
3000
غير مريحة أو متحدية أو مهمة --
06:59
this is what TED does --
156
404000
2000
هذا ما يقوم به TED --
07:01
other points of view.
157
406000
2000
وجهات نظر أخرى.
07:03
And the thing is, we've actually been here before
158
408000
2000
والواقع أننا قد كنا في الحقيقة في نفس الوضع من قبل
07:05
as a society.
159
410000
2000
كمجتمع.
07:08
In 1915, it's not like newspapers were sweating a lot
160
413000
3000
في 1915، ليس أن الجرائد كانت تولي اهتماما
07:11
about their civic responsibilities.
161
416000
3000
لمسؤولياتها المدنية.
07:14
Then people noticed
162
419000
2000
فلاحظ الناس
07:16
that they were doing something really important.
163
421000
3000
أنه كانوا يقومون بشيء في غاية الأهمية.
07:19
That, in fact, you couldn't have
164
424000
2000
أنه، في الواقع، لا يمكن أن تكون لديك
07:21
a functioning democracy
165
426000
2000
ديموقراطية تعمل
07:23
if citizens didn't get a good flow of information,
166
428000
4000
إن لم يحصل المواطنون على تدفق جيد من المعلومات.
07:28
that the newspapers were critical because they were acting as the filter,
167
433000
3000
أن الصحف كانت خطيرة، لأنها كانت تعمل كمرشح،
07:31
and then journalistic ethics developed.
168
436000
2000
فتطورت أخلاقيات الصحفيين.
07:33
It wasn't perfect,
169
438000
2000
لم يكن الأمر مثاليا،
07:35
but it got us through the last century.
170
440000
3000
لكنه أفادنا خلال القرن الماضي.
07:38
And so now,
171
443000
2000
وهكذا الآن،
07:40
we're kind of back in 1915 on the Web.
172
445000
3000
نحن نوعا ما في 1915 على الانترنت.
07:44
And we need the new gatekeepers
173
449000
3000
ونرد من حراس البوابات الجدد
07:47
to encode that kind of responsibility
174
452000
2000
أن يرمزوا ذلك النوع من المسؤولية
07:49
into the code that they're writing.
175
454000
2000
في الترميز الذي يكتبونه.
07:51
I know that there are a lot of people here from Facebook and from Google --
176
456000
3000
أعلم أن هناك الكثير من الناس من فيسبوك وغوغل هنا --
07:54
Larry and Sergey --
177
459000
2000
لاري وسيرجي --
07:56
people who have helped build the Web as it is,
178
461000
2000
أشخاص ساعدوا في بناء شبكة الانترنت كما هي عليه،
07:58
and I'm grateful for that.
179
463000
2000
وأنا ممتن لذلك.
08:00
But we really need you to make sure
180
465000
3000
لكننا نحتاج حقا إلى التيقن
08:03
that these algorithms have encoded in them
181
468000
3000
من أن هذه الخوارزميات مرمزة
08:06
a sense of the public life, a sense of civic responsibility.
182
471000
3000
بنوع من حس الحياة العامة، حس من المسؤولية المدنية.
08:09
We need you to make sure that they're transparent enough
183
474000
3000
نريد أن نتيقن أنها شفافة بما فيه الكفاية
08:12
that we can see what the rules are
184
477000
2000
لتسمح لنا برؤية ما القواعد
08:14
that determine what gets through our filters.
185
479000
3000
التي تحدد ما الذي يعبر المرشحات.
08:17
And we need you to give us some control
186
482000
2000
ونحتاج أن تعطونا بعض التحكم،
08:19
so that we can decide
187
484000
2000
حتى يمكننا تحديد
08:21
what gets through and what doesn't.
188
486000
3000
ما يعبر وما لا يعبر.
08:24
Because I think
189
489000
2000
لأنه أعتقد
08:26
we really need the Internet to be that thing
190
491000
2000
أننا نحتاج بالفعل من الانترنت أن تكون ذلك الشيء
08:28
that we all dreamed of it being.
191
493000
2000
الذي حلمنا به.
08:30
We need it to connect us all together.
192
495000
3000
نريد منها أن تربطنا جميعا.
08:33
We need it to introduce us to new ideas
193
498000
3000
نريد منها أن تطلعنا على أفكار جديدة
08:36
and new people and different perspectives.
194
501000
3000
وأناس جدد بوجهات نظر مختلفة.
08:40
And it's not going to do that
195
505000
2000
ولن تقوم بذلك
08:42
if it leaves us all isolated in a Web of one.
196
507000
3000
إن تركتنا منعزلين في شبكة انترنت فردية.
08:45
Thank you.
197
510000
2000
شكرا لكم.
08:47
(Applause)
198
512000
11000
(تصفيق)
ABOUT THE SPEAKER
Eli Pariser - Organizer and authorPioneering online organizer Eli Pariser is the author of "The Filter Bubble," about how personalized search might be narrowing our worldview.
Why you should listen
Shortly after the September 11, 2001, attacks, Eli Pariser created a website calling for a multilateral approach to fighting terrorism. In the following weeks, over half a million people from 192 countries signed on, and Pariser rather unexpectedly became an online organizer. The website merged with MoveOn.org in November 2001, and Pariser -- then 20 years old -- joined the group to direct its foreign policy campaigns. He led what the New York Times Magazine called the "mainstream arm of the peace movement" -- tripling MoveOn's member base and demonstrating how large numbers of small donations could be mobilized through online engagement.
In 2004, Pariser became executive director of MoveOn. Under his leadership, MoveOn.org Political Action has grown to 5 million members and raised over $120 million from millions of small donors to support advocacy campaigns and political candidates. Pariser focused MoveOn on online-to-offline organizing, developing phone-banking tools and precinct programs in 2004 and 2006 that laid the groundwork for Barack Obama's extraordinary web-powered campaign. In 2008, Pariser transitioned the Executive Director role at MoveOn to Justin Ruben and became President of MoveOn’s board; he's now a senior fellow at the Roosevelt Institute.
His book The Filter Bubble is set for release May 12, 2011. In it, he asks how modern search tools -- the filter by which many of see the wider world -- are getting better and better and screening the wider world from us, by returning only the search results it "thinks" we want to see.
Eli Pariser | Speaker | TED.com