Yasmin Green: How technology can fight extremism and online harassment
Γιάσμιν Γκριν: Πώς η τεχνολογία μπορεί να αντιμετωπίσει τον εξτρεμισμό και τη διαδικτυακή παρενόχληση
Yasmin Green is the director of research and development for Jigsaw, a unit within Alphabet Inc. focused on solving global security challenges through technology. Full bio
Double-click the English transcript below to play the video.
reminds me of the setup
moves in to their perfect new home,
μετακομίζει στο τέλειο νέο της σπίτι,
and the birds are chirping ...
new house isn't so perfect.
δεν είναι και τόσο τέλειο.
στην Google το 2006,
και το Twitter δεν είχε γεννηθεί ακόμη.
of the internet and all of its promise
για το διαδίκτυο και τις προοπτικές του
και πιο ελεύθερους.
of building search engines
φτιάχναμε μηχανές αναζήτησης,
and social networks,
και μέσα κοινωνικής δικτύωσης,
were figuring out
και τρομοκράτες έβρισκαν τρόπους
platforms against us.
αυτές τις ίδιες πλατφόρμες.
the foresight to stop them.
forces have come online to wreak havoc.
σπέρνουν τον όλεθρο στο διαδίκτυο.
to set up a new group called Jigsaw,
κι εμένα να κάνουμε μια ομάδα, την jigsaw,
from threats like violent extremism,
από απειλές όπως ο βίαιος εξτρεμισμός,
because I was born in Iran,
γιατί γεννήθηκα στο Ιράν
of a violent revolution.
από μια βίαιη επανάσταση.
that even if we had all of the resources
κι αν έχουμε όλους τους πόρους
companies in the world,
τεχνολογίας του κόσμου,
ζωτικής σημασίας:
and perpetrators of those threats.
και των αυτουργών αυτών των απειλών.
να σας μιλήσω σήμερα.
I could talk to you about today.
της ριζοσπαστικοποίησης
the radicalization process,
of violent extremist groups.
βίαιων εξτρεμιστικών ομάδων.
μια Βρετανή μαθήτρια σχολείου
at London Heathrow
στο Χίθροου του Λονδίνου
to Syria to join ISIS.
στη Συρία για να ενταχθεί στον ISIS.
and I said, "Why?"
και τον πατέρα της και ρώτησα «Γιατί;»
of what life is like in Syria,
για το πώς είναι η ζωή στη Συρία
and live in the Islamic Disney World."
και θα ζούσα σε μια Ισλαμική Ντίσνεϋλαντ».
a jihadi Brad Pitt
θα παντρευόταν έναν τζιχαντιστή Μπραντ Πιτ
και θα ζούσαν όπως στα παραμύθια.
and live happily ever after.
τα κίνητρα των ανθρώπων
for each audience.
μηνύματα για κάθε ακροατήριο.
μεταφράζουν το διαφημιστικό τους υλικό.
marketing material into.
radio shows and videos
εκπομπές και βίντεο
French, Turkish, Kurdish,
τα Γαλλικά, τα Τουρκικά, τα Κουρδικά,
video in sign language.
ακόμη και στη νοηματική.
the deaf and hard of hearing.
ως τα κωφά και βαρήκοα άτομα.
καλά την τεχνολογία,
κατακτά τον νου και την καρδιά.
ISIS wins hearts and minds.
the vulnerabilities, the desires
των ευαίσθητων σημείων, των επιθυμιών
αυτός είναι ο τρόπος τους.
to focus on removing recruiting material.
να αφαιρούν προσηλυτιστικό περιεχόμενο.
at building meaningful technology
να φτιάξουμε μια τεχνολογία με ουσία
journey at its core.
πορεία στον πυρήνα του.
who'd bought into ISIS's promise
που πίστεψαν τις υποσχέσεις του ISIS
και μετά αποστάτησαν,
the brutality of ISIS's rule.
της εξουσίας του ISIS.
prison in the north of Iraq
φυλακή στα βόρεια του Ιράκ
trained as a suicide bomber
ως βομβιστής αυτοκτονίας
of my prized possessions confiscated:
τα πιο πολύτιμα πράγματά μου:
και ψηφιακής ελευθερίας
and digital liberty
that moment of loss to me.
τη στιγμή της απώλειας.
and then Tom locks the door
και ο Τομ κλειδώνει την πόρτα
of his throat as it travels down?"
στον λαιμό του;»
the image that he was describing,
την εικόνα όπως την περιέγραφε
that he was trying to convey,
που προσπαθούσε να μεταδώσει,
όταν ξέρεις ότι δεν υπάρχει διέξοδος.
που θα μπορούσε να του αλλάξει γνώμη
could have changed his mind
and the corruption, the brutality --
τέτοια πλύση εγκεφάλου
any contradictory information.
αντίθετης άποψης πληροφορία.
everything that you know now
έξι μήνες πριν από την ημέρα που έφυγες;»
would have changed my mind."
πιθανόν να άλλαζα γνώμη».
this yes-or-no choice.
μια επιλογή «ναι ή όχι».
οι άνθρωποι έχουν ερωτήματα
people have questions --
the living conditions.
τις συνθήκες διαβίωσης.
να επικοινωνήσει κανείς μαζί τους.
from people who have answers --
από ανθρώπους που έχουν απαντήσεις,
telling the story of their journey
εντός και εκτός της βίας.
I met in the Iraqi prison.
που συνάντησα στη φυλακή του Ιράκ.
βίντεο από κινητά που δείχνουν
cell phone footage
in the caliphate under ISIS's rule.
στο χαλιφάτο του ISIS.
peaceful interpretations of Islam.
ειρηνικές ερμηνείες για το Ισλάμ.
the marketing prowess of ISIS.
το μάρκετινγκ που έχει ο ISIS.
and confront terrorist propaganda,
την τρομοκρατική προπαγάνδα
να φτάσουν στους ανθρώπους
don't reach the people
if technology could change that.
μπορούσε να το αλλάξει αυτό.
με τη Moonshot CVE
to countering radicalization
αντιμετώπισης της ριζοσπαστικοποίησης
της διαδικτυακής διαφήμισης
those susceptible to ISIS's messaging
αυτών που δέχονται τα μηνύματα του ISIS
that are debunking that messaging.
που αποδομούν αυτά τα μηνύματα.
for "How do I join ISIS?" --
«Πώς στρατολογούμαι στον ISIS;»,
of a cleric, of a defector --
ενός κληρικού, ενός που αποστάτησε,
not on a profile of who they are,
δεν βασίζεται στο προφίλ τους,
that's directly relevant
των οκτώ εβδομάδων στα Αγγλικά και Αραβικά
in English and Arabic,
or sympathy towards a jihadi group.
προς μια τζιχαντιστική ομάδα.
from making devastating choices.
να κάνουν ολέθριες επιλογές.
isn't confined to any one language,
δεν περιορίζεται σε μια μόνο γλώσσα,
being deployed globally
τώρα εφαρμόζεται παγκοσμίως
by violent ideologues,
που τους πλησίασαν
white supremacists
είτε φασίστες ρατσιστές,
to hear from someone
να ακούσουν και κάποιον
a different path.
να διαλέξουν ένα άλλο μονοπάτι.
are good at exploiting the internet,
στην εκμετάλλευση του διαδικτύου,
of technological geniuses,
ιδιοφυΐες στην τεχνολογία,
what makes people tick.
αυτό που κινητοποιεί τους ανθρώπους.
to figure out what will resonate
επίσης προσπαθούν να βρουν
για να τους στρατολογήσουν,
παντρεμένη, με ένα παιδί.
κοινωνικής δικτύωσης,
you're told that you'll be raped,
is put online for everyone to see.
στο διαδίκτυο να τη δουν όλοι.
the thing that you were doing?
να κάνετε αυτό που κάνατε;
that's irritating your attacker?
ότι αυτό εξοργίζει αυτόν που επιτίθεται;
αυτή η διεστραμμένη τέχνη
τους ανθρώπους να θυμώνουν,
until they're silenced.
μέχρι να τους κάνει να σωπάσουν.
η διαδικτυακή παρενόχληση,
που φιλοξενούν τη συζήτηση
hosting the conversation
and their forums altogether.
losing spaces online
χάνουμε διαδικτυακούς χώρους
with people who think just like us.
με ανθρώπους που σκέφτονται όπως εμείς.
διάδοσης της παραπληροφόρησης.
the spread of disinformation;
could enable empathy at scale?
να διευκολύνει την ενσυναίσθηση;
που κινητοποίησε τη συνεργασία μας
that motivated our partnership
Ενάντια στην Παρενόχληση,
machine-learning models
να φτιάξουμε μοντέλα μηχανικής μάθησης
the emotional impact of language.
τη συναισθηματική απήχηση της γλώσσας.
were likely to make someone else leave
θα έκαναν κάποιον να εγκαταλείψει
για την Τεχνητή Νοημοσύνη
something like that.
these two examples of messages
την περασμένη εβδομάδα.
difference to you,
are pretty much the same.
to teach the models
για να μάθει τα μοντέλα
that can tell the difference
Νοημοσύνης που καταλαβαίνει τη διαφορά
of the online toxicity phenomenon,
μπορεί να επεκταθεί
της διαδικτυακής τοξικότητας
our technology called Perspective.
όταν φτιάξαμε την τεχνολογία Perspective.
online for conversation.
χώρους προς συζήτηση.
on just 10 percent of their articles.
μόνο στο 10% των άρθρων τους.
ακόμη στην αρχή.
making moderators more efficient.
το να κάνουμε πιο αποτελεσματικό έλεγχο.
is landing with you.
πώς αντιλαμβάνεστε αυτό που λέω.
η δυνατότητα στο διαδίκτυο.
could give commenters,
να μπορούσε να δίνει στους σχολιαστές,
their words might land,
για το πώς εκλαμβάνονται τα λόγια τους,
σε μια συζήτηση πρόσωπο με πρόσωπο.
in a face-to-face conversation.
και κάνει ακόμη πολλά λάθη.
να φτιάξουμε μια τεχνολογία
impact of language,
επίδραση της γλώσσας,
dialogue between people
διάλογος μεταξύ ανθρώπων
διαφορετικές αξίες.
that most of us have given up on.
τους διαδικτυακούς χώρους που παρατήσαμε.
to exploit and harm others,
την τεχνολογία για να βλάψουν τους άλλους,
and vulnerabilities.
και τα ευάλωτα σημεία μας.
that we could build an internet
να χτίσουμε ένα διαδίκτυο
της ανθρωπότητας, κάναμε λάθος.
να φτιάξουμε μια τεχνολογία
the challenges that we face,
τις προκλήσεις που αντιμετωπίζουμε
into understanding the issues
για να καταλάβουμε τα θέματα
που είναι τόσο ανθρώπινες
they aim to solve.
που σκοπεύουν να λύσουν.
ABOUT THE SPEAKER
Yasmin Green - Geopolitical technologistYasmin Green is the director of research and development for Jigsaw, a unit within Alphabet Inc. focused on solving global security challenges through technology.
Why you should listen
Yasmin Green is the director of research and development for Jigsaw, a unit within Alphabet Inc. (formerly Google Ideas), focused on using tech tools to make the world safer, both on and offline. She has experience leading projects in some of the world’s toughest environments, including Iran, Syria, the UAE and Nigeria. In 2012, she led a multi-partner coalition to launch Against Violent Extremism, the world's first online network of former violent extremists and survivors of terrorism. Based on her own interviews with ISIS defectors and jailed recruits, last year Yasmin launched the Redirect Method, a new deployment of targeted advertising and video to confront online radicalization.
Green is a senior advisor on innovation to Oxford Analytica, a member of the Aspen Cyber Strategy Group, and until 2015 co-chaired the European Commission's Working Group on Online Radicalization. She was named one of Fortune's "40 Under 40" most influential young leaders in 2017, and in 2016 she was named one of Fast Company's "Most Creative People in Business."
Yasmin Green | Speaker | TED.com