TED2018
Yasmin Green: How technology can fight extremism and online harassment
ياسمين جرين: كيف يمكن للتقنية مواجهة التطرف والتحرش عبر الإنترنت
Filmed:
Readability: 4.6
2,460,759 views
هل يمكن للتقنية أن تجعل الناس أكثر أمنًا إزاء التهديدات مثل التطرف العنيف والرقابة والطغيان؟ في هذه المحادثة البناءة، تفصّل الخبيرة التقنية ياسمين جرين البرامج الرائدة في Jigsaw (الوحدة ضمن شركة ألفابيت "Alphabet Inc" التي تضم مجموعة من الشركات وجوجل من ضمنها) لمواجهة التطرف والتحرش عبر الإنترنت. وتحوي مشروعًا يمكن فيه للمعلقين إعطاء ردود فعل حقيقية لحظية حول كيفية وقع كلماتهم مما زاد في الواقع من مساحات الحوار. تقول جرين "لو اعتقدنا في أي وقتٍ أنه يمكننا إنشاء شبكة إنترنت منعزلة عن الجانب المظلم للبشرية، فقط كنا مخطئين،" وتضيف، "علينا أن نجند أنفسنا كاملةً لتعزيز الحلول التي استهدفها البشر لحلها."
Yasmin Green - Geopolitical technologist
Yasmin Green is the director of research and development for Jigsaw, a unit within Alphabet Inc. focused on solving global security challenges through technology. Full bio
Yasmin Green is the director of research and development for Jigsaw, a unit within Alphabet Inc. focused on solving global security challenges through technology. Full bio
Double-click the English transcript below to play the video.
00:13
My relationship with the internet
reminds me of the setup
reminds me of the setup
0
1131
4411
تذكرني علاقتي مع الإنترنت بالمشهد
00:17
to a clichéd horror movie.
1
5566
1833
في الفيلم المرعب النمطي.
00:19
You know, the blissfully happy family
moves in to their perfect new home,
moves in to their perfect new home,
2
7867
4386
كما تعلمون، تنتقل العائلة السعيدة المبتهجة
إلى المنزل الجديد المثالي،
إلى المنزل الجديد المثالي،
00:24
excited about their perfect future,
3
12277
2281
والمتحمسة بشأن مستقبلهم المثالي،
00:26
and it's sunny outside
and the birds are chirping ...
and the birds are chirping ...
4
14582
3521
والشمس ساطعة في الخارج
والعصافير تغرد...
والعصافير تغرد...
00:30
And then it gets dark.
5
18857
1839
وثم يحلُ الظلام.
00:32
And there are noises from the attic.
6
20720
2348
وهناك أصوات قادمة من العلية.
00:35
And we realize that that perfect
new house isn't so perfect.
new house isn't so perfect.
7
23092
4345
وندرك أن المنزل الجديد المثالي ليس كذلك.
00:40
When I started working at Google in 2006,
8
28485
3131
عندما بدأتُ عملي في جوجل في عام 2006،
00:43
Facebook was just a two-year-old,
9
31640
1767
كان عمر الفيسبوك عامين فقط،
ولم يكن للتويتر وجود بعد.
ولم يكن للتويتر وجود بعد.
00:45
and Twitter hadn't yet been born.
10
33431
2012
00:47
And I was in absolute awe
of the internet and all of its promise
of the internet and all of its promise
11
35848
4410
وكنت في دهشة تامة للإنترنت ووعوده
لجعلنا أقرب وأبرع وأكثر حرية.
لجعلنا أقرب وأبرع وأكثر حرية.
00:52
to make us closer
12
40282
1437
00:53
and smarter
13
41743
1296
00:55
and more free.
14
43063
1214
00:57
But as we were doing the inspiring work
of building search engines
of building search engines
15
45265
3714
وبينما كنا نقوم بعملنا المدهش
لبناء محركات البحث،
لبناء محركات البحث،
01:01
and video-sharing sites
and social networks,
and social networks,
16
49003
2886
ومواقع مشاركة الفيديوهات
وشبكات التواصل الاجتماعي،
وشبكات التواصل الاجتماعي،
01:04
criminals, dictators and terrorists
were figuring out
were figuring out
17
52907
4304
كان المجرمون والاستبداديون والإرهابيون
يفكرون في كيفية استخدام نفس المنصات ضدنا.
يفكرون في كيفية استخدام نفس المنصات ضدنا.
01:09
how to use those same
platforms against us.
platforms against us.
18
57235
3202
01:13
And we didn't have
the foresight to stop them.
the foresight to stop them.
19
61417
2455
ولم يكن لدينا البصيرة لوقفهم.
01:16
Over the last few years, geopolitical
forces have come online to wreak havoc.
forces have come online to wreak havoc.
20
64746
5099
خلال السنوات القليلة الماضية، واصلت القوى
الجيوسياسية نشر الفساد عبر الإنترنت.
الجيوسياسية نشر الفساد عبر الإنترنت.
01:21
And in response,
21
69869
1169
وفي المقابل،
01:23
Google supported a few colleagues and me
to set up a new group called Jigsaw,
to set up a new group called Jigsaw,
22
71062
4778
دعمتي جوجل وقلة من الزملاء لبدء مجموعة
جديدة تسمى أحجية الصور المقطعة (Jigsaw)،
جديدة تسمى أحجية الصور المقطعة (Jigsaw)،
01:27
with a mandate to make people safer
from threats like violent extremism,
from threats like violent extremism,
23
75864
4596
والتوصية لجعل الناس أكثر أمنا من التهديدات
مثل التطرف الإرهابي والرقابة والطغيان.
مثل التطرف الإرهابي والرقابة والطغيان.
01:32
censorship, persecution --
24
80484
2078
01:35
threats that feel very personal to me
because I was born in Iran,
because I was born in Iran,
25
83186
4117
أشعرتني التهديدات أنها شخصية جدًا
لأنني ولدتُ في إيران،
لأنني ولدتُ في إيران،
01:39
and I left in the aftermath
of a violent revolution.
of a violent revolution.
26
87327
2929
وغادرتها في أعقاب الثورة العنيفة.
01:43
But I've come to realize
that even if we had all of the resources
that even if we had all of the resources
27
91525
4346
ولكنني أدركتُ حتى إن كان لدينا
كل مصادر شركات التقنية في العالم،
كل مصادر شركات التقنية في العالم،
01:47
of all of the technology
companies in the world,
companies in the world,
28
95895
2858
01:51
we'd still fail
29
99595
1230
لا نزال نفشل
لو أهملنا أحد المكونات المهمة:
لو أهملنا أحد المكونات المهمة:
01:53
if we overlooked one critical ingredient:
30
101586
2948
01:57
the human experiences of the victims
and perpetrators of those threats.
and perpetrators of those threats.
31
105653
5789
وهي التجارب الإنسانية للضحايا
ومرتكبي تلك التهديدات.
ومرتكبي تلك التهديدات.
02:04
There are many challenges
I could talk to you about today.
I could talk to you about today.
32
112935
2736
يوجد العديد من التحديات
التي يمكنني اليوم التحدث فيها إليكم.
التي يمكنني اليوم التحدث فيها إليكم.
02:07
I'm going to focus on just two.
33
115695
1504
سأركز على اثنين فقط.
02:09
The first is terrorism.
34
117623
2079
أولًا، الإرهاب.
02:13
So in order to understand
the radicalization process,
the radicalization process,
35
121563
2557
ولفهم عملية التطرف،
02:16
we met with dozens of former members
of violent extremist groups.
of violent extremist groups.
36
124144
4287
التقينا عشرات الأعضاء السابقين
من المجموعات المتطرفة المتشددة.
من المجموعات المتطرفة المتشددة.
02:21
One was a British schoolgirl,
37
129590
2483
كانت إحداها طالبة مدرسة إنكليزية
التي سُحبت من طائرة في مطار هيثرو اللندني
التي سُحبت من طائرة في مطار هيثرو اللندني
02:25
who had been taken off of a plane
at London Heathrow
at London Heathrow
38
133049
3699
02:28
as she was trying to make her way
to Syria to join ISIS.
to Syria to join ISIS.
39
136772
4692
بينما كانت تحاول السفر إلى سوريا للانضمام
لتنظيم الدولة الإسلامية في العراق والشام.
لتنظيم الدولة الإسلامية في العراق والشام.
02:34
And she was 13 years old.
40
142281
1931
وكانت تبلغ من العمر 13 عامًا.
02:37
So I sat down with her and her father,
and I said, "Why?"
and I said, "Why?"
41
145792
4625
وجلستُ معها ومع والدها وقلتُ: "لماذا؟"
02:42
And she said,
42
150441
1717
وقالت: "كنت أنظر إلى الصور
لما تبدو عليه الحياة في سوريا،
لما تبدو عليه الحياة في سوريا،
02:44
"I was looking at pictures
of what life is like in Syria,
of what life is like in Syria,
43
152182
3639
02:47
and I thought I was going to go
and live in the Islamic Disney World."
and live in the Islamic Disney World."
44
155845
3510
واعتقدتُ أنني سأذهب
وأعيشُ عالم ديزني الإسلامي".
وأعيشُ عالم ديزني الإسلامي".
هذا ما رأته في تنظيم الدولة الإسلامية
في العراق والشام المسمى داعش.
في العراق والشام المسمى داعش.
02:52
That's what she saw in ISIS.
45
160527
2084
02:54
She thought she'd meet and marry
a jihadi Brad Pitt
a jihadi Brad Pitt
46
162635
3492
اعتقدت أنها ستلتقي وتتزوج براد بت الجهادي،
02:58
and go shopping in the mall all day
and live happily ever after.
and live happily ever after.
47
166151
3058
وستذهب إلى مركز التسوق يوميًا
وستعيش بسعادة أبدية.
وستعيش بسعادة أبدية.
03:02
ISIS understands what drives people,
48
170977
2824
تدرك داعش ما الذي يحفز الناس
وتصوغ الرسالة بعناية لكل مجموعة من الناس.
وتصوغ الرسالة بعناية لكل مجموعة من الناس.
03:05
and they carefully craft a message
for each audience.
for each audience.
49
173825
3544
03:11
Just look at how many languages
50
179122
1511
انظروا فقط إلى عدد اللغات
التي يترجمون إليها موادهم التسويقية.
التي يترجمون إليها موادهم التسويقية.
03:12
they translate their
marketing material into.
marketing material into.
51
180657
2273
03:15
They make pamphlets,
radio shows and videos
radio shows and videos
52
183677
2661
فهم ينتجون منشورات وبرامج إذاعية وفيديوهات
ليس فقط باللغتين الإنجليزية والعربية
ليس فقط باللغتين الإنجليزية والعربية
03:18
in not just English and Arabic,
53
186362
1973
03:20
but German, Russian,
French, Turkish, Kurdish,
French, Turkish, Kurdish,
54
188359
4767
ولكن بالألمانية والروسية والفرنسية،
والتركية والكردية والعبرية،
والتركية والكردية والعبرية،
03:25
Hebrew,
55
193150
1672
03:26
Mandarin Chinese.
56
194846
1741
واللغة الصينية الماندارينية.
03:29
I've even seen an ISIS-produced
video in sign language.
video in sign language.
57
197309
4192
حتى أنني رأيتُ فيديو
أنتجته داعش بلغة الإشارة.
أنتجته داعش بلغة الإشارة.
03:34
Just think about that for a second:
58
202605
1884
فكروا بذلك للحظة:
03:36
ISIS took the time and made the effort
59
204513
2308
بذلت داعش الوقت والجهد للتأكد أن رسالتها
تصل إلى الصُم وضعيفي السمع.
تصل إلى الصُم وضعيفي السمع.
03:38
to ensure their message is reaching
the deaf and hard of hearing.
the deaf and hard of hearing.
60
206845
3804
03:45
It's actually not tech-savviness
61
213143
2144
وليس الأمر في الحقيقة ذكاءً تقنيًا
لتنال داعش إعجاب القلوب والعقول.
لتنال داعش إعجاب القلوب والعقول.
03:47
that is the reason why
ISIS wins hearts and minds.
ISIS wins hearts and minds.
62
215311
2595
03:49
It's their insight into the prejudices,
the vulnerabilities, the desires
the vulnerabilities, the desires
63
217930
4163
إنه قدرتهم الإدراكية في فهم محاباة وحساسية
ورغبات الناس الذين يحاولون الوصول إليهم.
ورغبات الناس الذين يحاولون الوصول إليهم.
03:54
of the people they're trying to reach
64
222117
1774
03:55
that does that.
65
223915
1161
03:57
That's why it's not enough
66
225718
1429
ولهذا السبب فإنه ليس كافيًا أن تركز
منصات الإنترنت على إزالة المواد المستخدمة.
منصات الإنترنت على إزالة المواد المستخدمة.
03:59
for the online platforms
to focus on removing recruiting material.
to focus on removing recruiting material.
67
227171
4239
04:04
If we want to have a shot
at building meaningful technology
at building meaningful technology
68
232518
3581
لو أردنا أن نحظى بفرصة بناء تقنية
ذات مغزى لمقاومة التطرف،
ذات مغزى لمقاومة التطرف،
04:08
that's going to counter radicalization,
69
236123
1874
04:10
we have to start with the human
journey at its core.
journey at its core.
70
238021
2979
علينا البدء مع مسيرة البشر في عقر دارهم.
04:13
So we went to Iraq
71
241884
2187
لهذا ذهبنا إلى العراق
04:16
to speak to young men
who'd bought into ISIS's promise
who'd bought into ISIS's promise
72
244095
2831
للتحدث إلى الرجال اليافعين الذين تقبلوا
تعهد داعش للبطولة والإنصاف،
تعهد داعش للبطولة والإنصاف،
04:18
of heroism and righteousness,
73
246950
3191
04:22
who'd taken up arms to fight for them
74
250165
1847
والذين حملوا السلاح للقتال من أجلهم
ومن ثم انشقوا بعدما شهدوا قسوة حكم داعش.
ومن ثم انشقوا بعدما شهدوا قسوة حكم داعش.
04:24
and then who'd defected
75
252036
1338
04:25
after they witnessed
the brutality of ISIS's rule.
the brutality of ISIS's rule.
76
253398
3021
04:28
And I'm sitting there in this makeshift
prison in the north of Iraq
prison in the north of Iraq
77
256880
3192
وأجلس هناك في هذا السجن المؤقت
في شمال العراق
في شمال العراق
04:32
with this 23-year-old who had actually
trained as a suicide bomber
trained as a suicide bomber
78
260096
4550
مع شاب يبلغ من العمر 23 سنة
ممن درّب في الواقع كانتحاري قبل الانشقاق.
ممن درّب في الواقع كانتحاري قبل الانشقاق.
04:36
before defecting.
79
264670
1552
04:39
And he says,
80
267080
1158
ويقول: "وصلتُ إلى سوريا وكلي أمل،
04:41
"I arrived in Syria full of hope,
81
269119
3220
04:44
and immediately, I had two
of my prized possessions confiscated:
of my prized possessions confiscated:
82
272363
4365
وفي الحال، صودر اثنين من ممتلكاتي الثمينة
جواز سفري وهاتفي الجوال."
جواز سفري وهاتفي الجوال."
04:48
my passport and my mobile phone."
83
276752
2933
04:52
The symbols of his physical
and digital liberty
and digital liberty
84
280140
2406
أخذت منه رموز حريته البدنية والرقمية
حال وصوله سوريا.
حال وصوله سوريا.
04:54
were taken away from him on arrival.
85
282570
1760
04:57
And then this is the way he described
that moment of loss to me.
that moment of loss to me.
86
285248
3510
وبالتالي هذه هي الطريقة التي وصفها
تلك اللحظة من الخسارة بالنسبة لي.
تلك اللحظة من الخسارة بالنسبة لي.
05:01
He said,
87
289356
1586
وقال: "هل تعرفون (توم وجيري)،
عندما يريد جيري الهروب ويغلق توم الباب،
عندما يريد جيري الهروب ويغلق توم الباب،
05:02
"You know in 'Tom and Jerry,'
88
290966
2329
05:06
when Jerry wants to escape,
and then Tom locks the door
and then Tom locks the door
89
294192
3103
05:09
and swallows the key
90
297319
1156
ويبلع المفتاح،
وتراه ينتفخ من حلقه وهو ينزل إلى أسفل."
وتراه ينتفخ من حلقه وهو ينزل إلى أسفل."
05:10
and you see it bulging out
of his throat as it travels down?"
of his throat as it travels down?"
91
298499
3551
05:14
And of course, I really could see
the image that he was describing,
the image that he was describing,
92
302446
3153
وفي طبيعة الحال، تمكنتُ في الواقع
من رؤية المشهد وهو يصفه،
من رؤية المشهد وهو يصفه،
05:17
and I really did connect with the feeling
that he was trying to convey,
that he was trying to convey,
93
305623
3661
وتواصلتُ في الواقع
مع الشعور الذي حاول نقله
مع الشعور الذي حاول نقله
05:21
which was one of doom,
94
309308
2021
الذي كان نوعًا من الهلاك
عندما تدرك أنه لا يوجد مخرج.
عندما تدرك أنه لا يوجد مخرج.
05:23
when you know there's no way out.
95
311353
1789
05:26
And I was wondering:
96
314551
1289
وكنت أتساءل:
05:28
What, if anything,
could have changed his mind
could have changed his mind
97
316644
2682
ماذا لو حصل أي شيء جعله يغير رأيه
في اليوم الذي غادر فيه وطنه؟
في اليوم الذي غادر فيه وطنه؟
05:31
the day that he left home?
98
319350
1240
05:32
So I asked,
99
320614
1250
ولذلك سألت: "لو علمت بكل ما عرفته الآن
حول المعاناة والفساد والقسوة،
حول المعاناة والفساد والقسوة،
05:33
"If you knew everything that you know now
100
321888
3178
05:37
about the suffering
and the corruption, the brutality --
and the corruption, the brutality --
101
325090
3051
في اليوم الذي تركت فيه الوطن،
هل كنت لا تزال ترغب في الذهاب؟
هل كنت لا تزال ترغب في الذهاب؟
05:40
that day you left home,
102
328165
1415
05:41
would you still have gone?"
103
329604
1679
05:43
And he said, "Yes."
104
331786
1711
وقال: "نعم."
05:45
And I thought, "Holy crap, he said 'Yes.'"
105
333846
2282
وفكرت: "سحقًا! وقال: "نعم."
05:48
And then he said,
106
336694
1219
ومن ثم قال: "في تلك المرحلة،
كنتُ أتعرض إلى غسيل دماغ تام،
كنتُ أتعرض إلى غسيل دماغ تام،
05:49
"At that point, I was so brainwashed,
107
337937
3001
05:52
I wasn't taking in
any contradictory information.
any contradictory information.
108
340962
3244
ولم أكن أستقبل أية معلومات متناقضة،
ولم أستطع الترنح عن تفكيري".
ولم أستطع الترنح عن تفكيري".
05:56
I couldn't have been swayed."
109
344744
1555
05:59
"Well, what if you knew
everything that you know now
everything that you know now
110
347235
2527
قلت: "حسنًا!
ماذا لو علمت بكل ما تعرفه الآن
ماذا لو علمت بكل ما تعرفه الآن
أي قبل ستة أشهر من اليوم الذي غادرت فيه؟"
06:01
six months before the day that you left?"
111
349786
2098
06:05
"At that point, I think it probably
would have changed my mind."
would have changed my mind."
112
353345
3131
قال: "عند تلك المرحلة،
أعتقد ربما قد غيرتُ رأيي."
أعتقد ربما قد غيرتُ رأيي."
06:10
Radicalization isn't
this yes-or-no choice.
this yes-or-no choice.
113
358138
3397
ليس التطرف خيار بقول نعم أو لا،
06:14
It's a process, during which
people have questions --
people have questions --
114
362007
2977
إنه إجراء عندما يكون لدى الناس أسئلة
حول المذهب الفكري والعقيدة وظروف المعيشة.
حول المذهب الفكري والعقيدة وظروف المعيشة.
06:17
about ideology, religion,
the living conditions.
the living conditions.
115
365008
3776
06:20
And they're coming online for answers,
116
368808
2766
ويقبل الناس للبحث عن أجوبة عبر الإنترنت،
وهي فرصة للوصول إليهم.
وهي فرصة للوصول إليهم.
06:23
which is an opportunity to reach them.
117
371598
1917
06:25
And there are videos online
from people who have answers --
from people who have answers --
118
373905
3014
ويوجد فيديوهات عبر الإنترت
لأشخاص ممن لديهم الأجوبة،
لأشخاص ممن لديهم الأجوبة،
06:28
defectors, for example,
telling the story of their journey
telling the story of their journey
119
376943
2876
مثل المنشقين الذين يتحدثون عن رحلتهم
وتجاربهم داخل وخارج العنف،
وتجاربهم داخل وخارج العنف،
06:31
into and out of violence;
120
379843
1583
06:33
stories like the one from that man
I met in the Iraqi prison.
I met in the Iraqi prison.
121
381450
3487
قصص مثل قصة ذلك الرجل الذي التقيته
في السجن العراقي.
في السجن العراقي.
06:37
There are locals who've uploaded
cell phone footage
cell phone footage
122
385914
2590
يوجد محليون ممن ينزلون لقطات
عبر هواتفهم المحمولة
عبر هواتفهم المحمولة
06:40
of what life is really like
in the caliphate under ISIS's rule.
in the caliphate under ISIS's rule.
123
388528
3503
لما تبدو عليه الحياة في خلافة حكم داعش.
06:44
There are clerics who are sharing
peaceful interpretations of Islam.
peaceful interpretations of Islam.
124
392055
3735
يوجد هناك رجال دين
ممن يشاركون التفسيرات السلمية للإسلام.
ممن يشاركون التفسيرات السلمية للإسلام.
ولكن هل تعلمون؟
06:48
But you know what?
125
396830
1150
ليس لهؤلاء عمومًا براعة التسويق
كما لدى داعش.
كما لدى داعش.
06:50
These people don't generally have
the marketing prowess of ISIS.
the marketing prowess of ISIS.
126
398004
3020
06:54
They risk their lives to speak up
and confront terrorist propaganda,
and confront terrorist propaganda,
127
402049
4532
إنهم يخاطرون بحياتهم للتحدث عاليًا
ويواجهون الدعاية الإرهابية،
ويواجهون الدعاية الإرهابية،
06:58
and then they tragically
don't reach the people
don't reach the people
128
406605
2211
ثم بشكل مأساوي لا يستطيعون الوصول
للأشخاص الذين هم بأمس الحاجة لسماعهم.
للأشخاص الذين هم بأمس الحاجة لسماعهم.
07:00
who most need to hear from them.
129
408840
1682
07:03
And we wanted to see
if technology could change that.
if technology could change that.
130
411173
2612
ورغبنا في رؤية إن كانت التقنية
تستطيع تغيير ذلك.
تستطيع تغيير ذلك.
07:06
So in 2016, we partnered with Moonshot CVE
131
414205
4183
لذلك في عام 2016، تشاركنا مع مون شات
لمكافحة التطرف العنيف (Moonshot CVE)
لمكافحة التطرف العنيف (Moonshot CVE)
07:10
to pilot a new approach
to countering radicalization
to countering radicalization
132
418412
3180
لنجرب طريقة جديدة لمكافحة التطرف تسمى:
طريقة إعادة التوجيه (Redirect Method).
طريقة إعادة التوجيه (Redirect Method).
07:13
called the "Redirect Method."
133
421616
1780
07:16
It uses the power of online advertising
134
424453
3012
تستخدم قدرة الإعلان عبر الإنترنت
لسد الفراغ بين سريعي التأثر برسالة داعش
لسد الفراغ بين سريعي التأثر برسالة داعش
07:19
to bridge the gap between
those susceptible to ISIS's messaging
those susceptible to ISIS's messaging
135
427489
4514
07:24
and those credible voices
that are debunking that messaging.
that are debunking that messaging.
136
432027
3760
وتلك الأصوات الموثوقة التي تفضح الرسالة.
07:28
And it works like this:
137
436633
1150
وتعملُ الطريقة كالتالي:
07:29
someone looking for extremist material --
138
437807
1961
يبحث شخص ما عن مواد متطرفة،
لنقل أنه يبحث عن "كيف أنضم إلى داعش؟"
لنقل أنه يبحث عن "كيف أنضم إلى داعش؟"
07:31
say they search
for "How do I join ISIS?" --
for "How do I join ISIS?" --
139
439792
2990
07:34
will see an ad appear
140
442806
2476
سيشاهد ظهور إعلان يدعوه
لمشاهدة فيديو يوتيوب لرجل دين أو منشق،
لمشاهدة فيديو يوتيوب لرجل دين أو منشق،
07:37
that invites them to watch a YouTube video
of a cleric, of a defector --
of a cleric, of a defector --
141
445306
4882
07:42
someone who has an authentic answer.
142
450212
2310
ممن لديه الإجابة الجديرة بالتصديق.
07:44
And that targeting is based
not on a profile of who they are,
not on a profile of who they are,
143
452546
3623
ويعتمد هذا الاستهداف ليس فقط
على ملفات تحوي من هم هولاء،
على ملفات تحوي من هم هولاء،
07:48
but of determining something
that's directly relevant
that's directly relevant
144
456193
3053
ولكن على تحديد شيء ذي علاقة مباشرة
للبحث أو السؤال.
للبحث أو السؤال.
07:51
to their query or question.
145
459270
1708
07:54
During our eight-week pilot
in English and Arabic,
in English and Arabic,
146
462122
2842
أثناء تجربتنا الممتدة لثمانية أسابيع
في اللغتين العربية والإنجليزية،
في اللغتين العربية والإنجليزية،
07:56
we reached over 300,000 people
147
464988
3279
وصلنا إلى أكثر من 300000 شخص
08:00
who had expressed an interest in
or sympathy towards a jihadi group.
or sympathy towards a jihadi group.
148
468291
5545
ممن أبدوا اهتمامًا أو تعاطفًا
مع المجموعة الجهادية.
مع المجموعة الجهادية.
08:06
These people were now watching videos
149
474626
2264
يشاهد هؤلاء الأشخاص حاليًا الفيديوهات
التي قد تمنعهم من اتخاذ خيارات مدمرة.
التي قد تمنعهم من اتخاذ خيارات مدمرة.
08:08
that could prevent them
from making devastating choices.
from making devastating choices.
150
476914
3340
08:13
And because violent extremism
isn't confined to any one language,
isn't confined to any one language,
151
481405
3727
ولأن التطرف العنيف ليس مقصورًا
على لغة واحدة أو دين أو مذهب فكري
على لغة واحدة أو دين أو مذهب فكري
08:17
religion or ideology,
152
485156
1804
فيجري حاليًا نشر طريقة إعادة التوجية
في كل أنحاء العالم
في كل أنحاء العالم
08:18
the Redirect Method is now
being deployed globally
being deployed globally
153
486984
3501
08:22
to protect people being courted online
by violent ideologues,
by violent ideologues,
154
490509
3804
لحماية الناس من استددراجهم عبر الإنترنت
عن طريق أصحاب المذاهب الفكرية العنيفة،
عن طريق أصحاب المذاهب الفكرية العنيفة،
08:26
whether they're Islamists,
white supremacists
white supremacists
155
494337
2596
سواء أكانوا مسلمين أو سادة العرق الأبيض
أو أية مجموعة متطرفة أخرى،
أو أية مجموعة متطرفة أخرى،
08:28
or other violent extremists,
156
496957
2103
بهدف منحهم الفرصة لسماع شخص ما
من الجانب الآخر من تلك التجربة،
من الجانب الآخر من تلك التجربة،
08:31
with the goal of giving them the chance
to hear from someone
to hear from someone
157
499084
2873
08:33
on the other side of that journey;
158
501981
2091
08:36
to give them the chance to choose
a different path.
a different path.
159
504096
2839
ولمنحهم الفرصة لاختيار طريق مختلف.
08:40
It turns out that often the bad guys
are good at exploiting the internet,
are good at exploiting the internet,
160
508749
5980
تبين أن الأشرار بارعون أحيانًا
في استغلال الإنترنت،
في استغلال الإنترنت،
08:46
not because they're some kind
of technological geniuses,
of technological geniuses,
161
514753
3744
ليس لأنهم بارعون تقنيًا،
ولكن يدركون ما الذي يثيرُ غضب الناس.
ولكن يدركون ما الذي يثيرُ غضب الناس.
08:50
but because they understand
what makes people tick.
what makes people tick.
162
518521
2985
08:54
I want to give you a second example:
163
522855
2369
أرغبُ في إعطائكم مثالًا آخر:
التحرش عبر الإنترنت.
التحرش عبر الإنترنت.
08:58
online harassment.
164
526019
1391
09:00
Online harassers also work
to figure out what will resonate
to figure out what will resonate
165
528629
3363
يعمل المتحرشون عبر الإنترنت أيضًا
على معرفة ما الذي سيثير انتباه شخص آخر.
على معرفة ما الذي سيثير انتباه شخص آخر.
09:04
with another human being.
166
532016
1615
09:05
But not to recruit them like ISIS does,
167
533655
3110
لكن ليس تجنيدهم كما تفعل داعش،
ولكن ليسببوا لهم الألم.
ولكن ليسببوا لهم الألم.
09:08
but to cause them pain.
168
536789
1275
09:11
Imagine this:
169
539259
1342
تخليوا التالي: أنت امرأة ومتزوجة،
ولديك طفل.
ولديك طفل.
09:13
you're a woman,
170
541347
1659
09:15
you're married,
171
543030
1413
09:16
you have a kid.
172
544467
1154
وتنشرين شيئًا عبر وسائل التواصل الاجتماعي،
09:18
You post something on social media,
173
546834
1784
09:20
and in a reply,
you're told that you'll be raped,
you're told that you'll be raped,
174
548642
2886
وفي المقابل، يقال لك بأنك ستغتصبين،
وسيشاهد طفلك ذلك بتفاصيل متى وأين.
وسيشاهد طفلك ذلك بتفاصيل متى وأين.
09:24
that your son will be watching,
175
552577
1560
09:26
details of when and where.
176
554825
1856
09:29
In fact, your home address
is put online for everyone to see.
is put online for everyone to see.
177
557148
3143
وُضع في الواقع عنوان بيتك
ليراه الجميع عبر الإنترنت.
ليراه الجميع عبر الإنترنت.
وبدا ذلك كتهديد حقيقي.
09:33
That feels like a pretty real threat.
178
561580
2007
09:37
Do you think you'd go home?
179
565113
1656
هل تفكري في الذهاب إلى البيت؟
09:39
Do you think you'd continue doing
the thing that you were doing?
the thing that you were doing?
180
567999
3048
وهل تفكري في الاستمرار في القيام
بما كنت تقومين به؟
بما كنت تقومين به؟
هل ستستمري في القيام بذلك الشيء
الذي أثار غضب مهاجمك؟
الذي أثار غضب مهاجمك؟
09:43
Would you continue doing that thing
that's irritating your attacker?
that's irritating your attacker?
181
571071
3220
09:48
Online abuse has been this perverse art
182
576016
3096
كان التعسف عبر الإنترنت
بمثابة التقنية المنحرفة
بمثابة التقنية المنحرفة
09:51
of figuring out what makes people angry,
183
579136
3468
لمعرفة ما يجعل الناس غاضبين وخائفين
ولا يشعرون بالأمان،
ولا يشعرون بالأمان،
09:54
what makes people afraid,
184
582628
2132
09:56
what makes people insecure,
185
584784
1641
09:58
and then pushing those pressure points
until they're silenced.
until they're silenced.
186
586449
3067
وثم دفع تلك المراحل الضاغطة حتى تصمت.
10:02
When online harassment goes unchecked,
187
590333
2304
حين لا يتم التحقق من التحرش عبر الإنترنت،
عندها تخمدُ حرية الكلام.
عندها تخمدُ حرية الكلام.
10:04
free speech is stifled.
188
592661
1667
10:07
And even the people
hosting the conversation
hosting the conversation
189
595196
2127
حتى الأشخاص الذين يستضيفون النقاشات
يلقون بأسلحتهم ويتوقفون،
يلقون بأسلحتهم ويتوقفون،
10:09
throw up their arms and call it quits,
190
597347
1834
10:11
closing their comment sections
and their forums altogether.
and their forums altogether.
191
599205
2957
ويغلقون أقسام تعليقاتهم وندواتهم معًا.
10:14
That means we're actually
losing spaces online
losing spaces online
192
602186
2849
ويعني هذا أننا نخسر في الواقع مساحات
عبر الإنترنب للالتقاء وتبادل الأفكار.
عبر الإنترنب للالتقاء وتبادل الأفكار.
10:17
to meet and exchange ideas.
193
605059
1987
10:19
And where online spaces remain,
194
607939
2163
وحيث تبقى المساحات عبر الإنترنت،
10:22
we descend into echo chambers
with people who think just like us.
with people who think just like us.
195
610126
4470
فإننا نحلُ ضيوفا لنكرر أفكار الأشخاص
الذي يشبهوننا فكريًا.
الذي يشبهوننا فكريًا.
10:27
But that enables
the spread of disinformation;
the spread of disinformation;
196
615688
2499
ولكن يتيح ذلك انتشار المعلومات المضللة
التي تسهل الاستقطاب.
التي تسهل الاستقطاب.
10:30
that facilitates polarization.
197
618211
2184
10:34
What if technology instead
could enable empathy at scale?
could enable empathy at scale?
198
622508
5269
ماذا لو تستطيع التقنية بدلًا من ذلك
إتاحة التعاطف على نطاق واسع؟
إتاحة التعاطف على نطاق واسع؟
10:40
This was the question
that motivated our partnership
that motivated our partnership
199
628451
2486
كان هذا هو السؤال الذي دفع شراكتنا
بالتعاون مع فريق جوجل لمواجهة الإساءة،
بالتعاون مع فريق جوجل لمواجهة الإساءة،
10:42
with Google's Counter Abuse team,
200
630961
1819
10:44
Wikipedia
201
632804
1178
وويكيبيديا والصحف مثل نيويورك تايمز.
10:46
and newspapers like the New York Times.
202
634006
1934
10:47
We wanted to see if we could build
machine-learning models
machine-learning models
203
635964
2876
رغبنا في رؤية إن استطعنا
إنشاء نماذج تعليمية آلية
إنشاء نماذج تعليمية آلية
10:50
that could understand
the emotional impact of language.
the emotional impact of language.
204
638864
3606
يمكنها فهم الأثر العاطفي للغة.
10:55
Could we predict which comments
were likely to make someone else leave
were likely to make someone else leave
205
643062
3610
هل نستطيع التنبؤ بالتعليقات التي من المرجح
أن تجعل شخصًا ما يترك النقاشات عبر الإنترنت؟
أن تجعل شخصًا ما يترك النقاشات عبر الإنترنت؟
10:58
the online conversation?
206
646696
1374
11:00
And that's no mean feat.
207
648515
3887
وهذا لا يعتبر انجاز عظيم ولا تافه بالنسبة
إلى الذكاء الاصطناعي للقيام بشيء مثل هذا.
إلى الذكاء الاصطناعي للقيام بشيء مثل هذا.
11:04
That's no trivial accomplishment
208
652426
1566
11:06
for AI to be able to do
something like that.
something like that.
209
654016
2563
11:08
I mean, just consider
these two examples of messages
these two examples of messages
210
656603
3729
أقصدُ مجرد النظر في هذين المثالين
من الرسائل،
من الرسائل،
11:12
that could have been sent to me last week.
211
660356
2224
التي كان من الممكن إرسالها لي
في الأسبوع الماضي
في الأسبوع الماضي
11:15
"Break a leg at TED!"
212
663517
1879
"بالتوفيق في مؤتمر TED".
و "سأكسر ساقيك في مؤتمر TED".
و "سأكسر ساقيك في مؤتمر TED".
11:17
... and
213
665420
1164
11:18
"I'll break your legs at TED."
214
666608
2126
11:20
(Laughter)
215
668758
1246
(ضحك)
11:22
You are human,
216
670028
1513
أنتم بشر، ولهذا السبب فإن الأمر فرق واضح
بالنسبة إليكم حتى ولو كانت الكلمات نفسها.
بالنسبة إليكم حتى ولو كانت الكلمات نفسها.
11:23
that's why that's an obvious
difference to you,
difference to you,
217
671565
2210
11:25
even though the words
are pretty much the same.
are pretty much the same.
218
673799
2224
11:28
But for AI, it takes some training
to teach the models
to teach the models
219
676047
3079
لكن يحتاج الذكاء الاصطناعي بعض التدريب
لتعليم النماذج لتمييز الفرق.
لتعليم النماذج لتمييز الفرق.
11:31
to recognize that difference.
220
679150
1571
11:32
The beauty of building AI
that can tell the difference
that can tell the difference
221
680745
3245
فروعة إنشاء الذكاء الاصطناعي
الذي يمكن له تمميز الفرق
الذي يمكن له تمميز الفرق
11:36
is that AI can then scale to the size
of the online toxicity phenomenon,
of the online toxicity phenomenon,
222
684014
5050
هو أنه يمكن للذكاء الاصطناعي أن يصل
إلى حجم ظاهرة السُمية عبر الإنترنت،
إلى حجم ظاهرة السُمية عبر الإنترنت،
11:41
and that was our goal in building
our technology called Perspective.
our technology called Perspective.
223
689088
3287
وكان هذا هو هدفنا في إنشاء تقنيتنا
المسماة المنظورية (Perspective)،
المسماة المنظورية (Perspective)،
11:45
With the help of Perspective,
224
693056
1427
مثلًا، زادت صحيفة نيويورك تايمز من مساحتها
للنقاش عبر الإنترنت بمساعدة المنظورية.
للنقاش عبر الإنترنت بمساعدة المنظورية.
11:46
the New York Times, for example,
225
694507
1583
11:48
has increased spaces
online for conversation.
online for conversation.
226
696114
2487
11:51
Before our collaboration,
227
699005
1310
قبل تعاوننا، كان لديهم تعليقات متاحة
على نسبة 10% من مقالاتهم.
على نسبة 10% من مقالاتهم.
11:52
they only had comments enabled
on just 10 percent of their articles.
on just 10 percent of their articles.
228
700339
4305
وبمساعدة التعليم الآلي،
ارتفعت النسبة لتصل إلى 30%.
ارتفعت النسبة لتصل إلى 30%.
11:57
With the help of machine learning,
229
705495
1644
11:59
they have that number up to 30 percent.
230
707163
1897
12:01
So they've tripled it,
231
709084
1156
وبذلك تضاعفت ثلاث مرات،
وما زلنا في بداية الطريق.
وما زلنا في بداية الطريق.
12:02
and we're still just getting started.
232
710264
1917
12:04
But this is about way more than just
making moderators more efficient.
making moderators more efficient.
233
712872
3461
وهذه هي طريقة أكثر من مجرد
جعل المراقبين أكثر فعالية.
جعل المراقبين أكثر فعالية.
12:10
Right now I can see you,
234
718076
1850
أستطيع رؤيتكم الآن، وأستطيع تقدير
كيفية وقع ما أقوله عليكم.
كيفية وقع ما أقوله عليكم.
12:11
and I can gauge how what I'm saying
is landing with you.
is landing with you.
235
719950
3294
12:16
You don't have that opportunity online.
236
724370
1879
ليس لديكم هذه الفرصة عبر الإنترنت.
12:18
Imagine if machine learning
could give commenters,
could give commenters,
237
726558
3635
تخيلوا لو تستطيع آلة التعليم
أن تعطيكم تعليقات وأنتم تكتبون.
أن تعطيكم تعليقات وأنتم تكتبون.
12:22
as they're typing,
238
730217
1162
12:23
real-time feedback about how
their words might land,
their words might land,
239
731403
3347
ستبدو ردود أفعالكم الحقيقية اللحظية تمامًا
مثل تعبيرات وجوهكم في النقاشات وجهًا لوجه.
مثل تعبيرات وجوهكم في النقاشات وجهًا لوجه.
12:27
just like facial expressions do
in a face-to-face conversation.
in a face-to-face conversation.
240
735609
3024
12:32
Machine learning isn't perfect,
241
740926
1842
آلة التعلم ليست مثالية،
ولا تزال ترتكب الكثير من الأخطاء.
ولا تزال ترتكب الكثير من الأخطاء.
12:34
and it still makes plenty of mistakes.
242
742792
2394
12:37
But if we can build technology
243
745210
1557
ولكن لو استطعنا إنشاء تقنية
تفهم الأثر العاطفي للغة،
تفهم الأثر العاطفي للغة،
12:38
that understands the emotional
impact of language,
impact of language,
244
746791
3293
12:42
we can build empathy.
245
750108
1460
فإننا نستطيع تعزيز التعاطف.
12:43
That means that we can have
dialogue between people
dialogue between people
246
751592
2425
وبهذا يكون لدينا حوارات بين الناس
على اختلاف نظرتهم للسياسة والعالم والقيم.
على اختلاف نظرتهم للسياسة والعالم والقيم.
12:46
with different politics,
247
754041
1816
12:47
different worldviews,
248
755881
1216
12:49
different values.
249
757121
1246
12:51
And we can reinvigorate the spaces online
that most of us have given up on.
that most of us have given up on.
250
759359
4775
ويمكننا تجديد المساحات عبر الإنترنت
ولا سيما تلك التي تخلى عنها معظمنا.
ولا سيما تلك التي تخلى عنها معظمنا.
12:57
When people use technology
to exploit and harm others,
to exploit and harm others,
251
765857
3785
عندما يستخدم الأشخاص التكنولوجيا
لاستغلال وإيذاء الآخرين
لاستغلال وإيذاء الآخرين
13:01
they're preying on our human fears
and vulnerabilities.
and vulnerabilities.
252
769666
3642
فإنهم يستحوذون
على مخاوفنا ونقاط ضعفنا الإنسانية.
على مخاوفنا ونقاط ضعفنا الإنسانية.
13:06
If we ever thought
that we could build an internet
that we could build an internet
253
774461
3508
لو اعتقدنا في أي وقتٍ أننا نستطيع
إنشاء شبكة إنترنت
إنشاء شبكة إنترنت
معزولة عن الجانب المظلم للبشرية
فقد كنا مخطئين.
فقد كنا مخطئين.
13:09
insulated from the dark side of humanity,
254
777993
2578
13:12
we were wrong.
255
780595
1184
13:14
If we want today to build technology
256
782361
2270
لو أردنا اليوم إنشاء تقنية تمكننا
من القضاء على التحديات التي تواجهنا،
من القضاء على التحديات التي تواجهنا،
13:16
that can overcome
the challenges that we face,
the challenges that we face,
257
784655
3127
13:19
we have to throw our entire selves
into understanding the issues
into understanding the issues
258
787806
4043
فعلينا أن نجندُ أنفسنا تمامًا لفهم القضايا
وإيجاد الحلول التي يستهدفها البشر لحلها.
وإيجاد الحلول التي يستهدفها البشر لحلها.
13:23
and into building solutions
259
791873
1893
13:25
that are as human as the problems
they aim to solve.
they aim to solve.
260
793790
3782
13:30
Let's make that happen.
261
798071
1513
دعونا نحقق ذلك.
13:31
Thank you.
262
799924
1150
شكرًا لكم.
13:33
(Applause)
263
801098
3277
(تصفيق)
ABOUT THE SPEAKER
Yasmin Green - Geopolitical technologistYasmin Green is the director of research and development for Jigsaw, a unit within Alphabet Inc. focused on solving global security challenges through technology.
Why you should listen
Yasmin Green is the director of research and development for Jigsaw, a unit within Alphabet Inc. (formerly Google Ideas), focused on using tech tools to make the world safer, both on and offline. She has experience leading projects in some of the world’s toughest environments, including Iran, Syria, the UAE and Nigeria. In 2012, she led a multi-partner coalition to launch Against Violent Extremism, the world's first online network of former violent extremists and survivors of terrorism. Based on her own interviews with ISIS defectors and jailed recruits, last year Yasmin launched the Redirect Method, a new deployment of targeted advertising and video to confront online radicalization.
Green is a senior advisor on innovation to Oxford Analytica, a member of the Aspen Cyber Strategy Group, and until 2015 co-chaired the European Commission's Working Group on Online Radicalization. She was named one of Fortune's "40 Under 40" most influential young leaders in 2017, and in 2016 she was named one of Fast Company's "Most Creative People in Business."
Yasmin Green | Speaker | TED.com