ABOUT THE SPEAKERS
Hans Block - Filmmaker, theater director, musician
Under the label Laokoon, Hans Block develops films, theatre productions, essays, lecture performances and radio plays that deal with the question of how our idea of humans and society change or can be transformed in the digital era.

Why you should listen
Hans Block is a German theater director, filmmaker and musician. He studied music (drums) at the University of Arts in Berlin and theater directing at Ernst Busch Academy of Dramatic Arts in Berlin. His research, together with Moritz Riesewieck, about freedom of expression in the age of social media brought them international attention. Their debut film, The Cleaners, celebrated its world premiere at the Sundance Film Festival in 2018 and has since been screened at more than 70 international film festivals, in cinemas and on TV worldwide. It was nominated for an Emmy and the German Television Award and has received numerous international awards, including the "Prix Europa" for the Best European TV documentary film 2018 and the Grimme Audience Award 2019.
More profile about the speaker
Hans Block | Speaker | TED.com
Moritz Riesewieck - Author, scriptwriter, theater and film director
Under the label Laokoon, Moritz Riesewieck develops films, theatre productions, essays, lecture performances and radio plays that deal with the question of how our idea of humans and society change or can be transformed in the digital era.

Why you should listen
Moritz Riesewieck is a German essay author, scriptwriter, theater and film director. He studied directing at Ernst Busch Academy of Dramatic Arts in Berlin and some semesters of economics as a fellow of the German Academic Scholarship Foundation. His research, together with Hans Block, about freedom of expression in the age of social media brought them international attention. Their debut film The Cleaners celebrated its world premiere at the Sundance Film Festival in 2018 and has since been screened at more than 70 international film festivals, in cinemas and on TV worldwide. It was nominated for an Emmy and the German Television Award and has received numerous international awards, including the "Prix Europa" for the Best European TV documentary film 2018 and the Grimme Audience Award 2019. His essay "Digital Dirt Work" was published by German publishing house dtv in September 2017.
More profile about the speaker
Moritz Riesewieck | Speaker | TED.com
TEDxCERN

Hans Block and Moritz Riesewieck: The price of a "clean" internet

Hans Block et Moritz Riesewieck: Le prix d'un internet « propre »

Filmed:
1,337,069 views

Des millions d'images et de vidéos sont publiées chaque jour sur internet, pourtant nous voyons rarement du contenu choquant et perturbant dans nos fils d'actualités sur les réseaux sociaux. Qui maintient internet « propre » pour nous ? Dans cette intervention révélatrice, les documentaristes Hans Block et Moritz Riesewieck nous emmènent au sein du monde ténébreux des modérateurs de contenu en ligne -- les gens engagés par de grandes plateformes comme Facebook, Twitter et Google pour débarrasser Internet des contenus toxiques. Apprenez-en plus sur les effets psychologiques de ce type de travail et comment le « nettoyage numérique » influence ce que nous voyons et pensons tous.
- Filmmaker, theater director, musician
Under the label Laokoon, Hans Block develops films, theatre productions, essays, lecture performances and radio plays that deal with the question of how our idea of humans and society change or can be transformed in the digital era. Full bio - Author, scriptwriter, theater and film director
Under the label Laokoon, Moritz Riesewieck develops films, theatre productions, essays, lecture performances and radio plays that deal with the question of how our idea of humans and society change or can be transformed in the digital era. Full bio

Double-click the English transcript below to play the video.

00:12
[This talk containscontient maturemature contentcontenu]
0
360
3221
[Cette intervention contient
du contenu réservé aux adultes]
00:16
MoritzMoritz RiesewieckRiesewieck Riesewieck: On MarchMars 23, 2013,
1
4913
4452
Moritz Riesewieck : Le 23 mars 2013,
00:21
usersutilisateurs worldwideà l'échelle mondiale
discovereddécouvert in theirleur newsnouvelles feedalimentation
2
9389
4057
des utilisateurs du monde entier
ont découvert dans leur fil d'actualités
00:25
a videovidéo of a youngJeune girlfille
beingétant rapedviolé by an olderplus âgée man.
3
13470
5063
la vidéo d'une jeune fille
se faisant violer par un homme plus âgé.
00:31
Before this videovidéo
was removedsupprimé from FacebookFacebook,
4
19478
3856
Avant que cette vidéo
ne soit retirée de Facebook,
00:35
it was alreadydéjà sharedpartagé 16,000 timesfois,
5
23358
4616
elle avait déjà été partagée 16 000 fois
00:39
and it was even likedaimé 4,000 timesfois.
6
27998
3642
et avait même été aimée 4 000 fois.
00:45
This videovidéo wentest allé viralvirale
and infectedinfecté the netnet.
7
33268
3663
La vidéo est devenue virale
et a infecté internet.
00:49
HansHans BlockBloc: And that was the momentmoment
we askeda demandé ourselvesnous-mêmes
8
37873
3095
Hans Block : C'est le moment
où nous nous sommes demandé :
00:52
how could something like this
get on FacebookFacebook?
9
40992
2778
comment une telle chose
a-t-elle pu arriver sur Facebook ?
00:55
And at the sameMême time,
why don't we see suchtel contentcontenu more oftensouvent?
10
43794
4402
Et en même temps,
pourquoi ne voyons-nous pas
des contenus similaires plus souvent ?
01:00
After all, there's a lot
of revoltingrévoltant materialMatériel onlineen ligne,
11
48220
3683
Il y a beaucoup de contenus
révoltants en ligne,
01:03
but why do we so rarelyrarement see suchtel crapmerde
on FacebookFacebook, TwitterTwitter or GoogleGoogle?
12
51927
4455
mais pourquoi voyons-nous si rarement
de telles merdes
sur Facebook, Twitter ou Google ?
01:08
MRM.: While image-recognitionreconnaissance d'image softwareLogiciel
13
56958
2241
MR : Si les logiciels
de reconnaissance des images
01:11
can identifyidentifier the outlinescontours
of sexualsexuel organsorganes,
14
59223
4283
peuvent identifier l’esquisse
d'organes sexuels,
01:15
blooddu sang or nakednu skinpeau in imagesimages and videosvidéos,
15
63530
4928
de sang ou de peau nue
dans des images et des vidéos,
01:20
it has immenseimmense difficultiesdifficultés
to distinguishdistinguer pornographicpornographique contentcontenu
16
68482
5540
ils ont d'immenses difficultés
à distinguer du contenu pornographique
01:26
from holidayvacances picturesdes photos, AdonisAdonis statuesstatues
17
74046
4348
de photos de vacances, de statues d'Adonis
01:30
or breast-cancercancer du sein screeningdépistage campaignscampagnes.
18
78418
2698
ou de campagnes de dépistage
du cancer du sein.
01:33
It can't distinguishdistinguer
RomeoRomeo and JulietJuliet dyingen train de mourir onstagesur scène
19
81140
4255
Ils ne peuvent pas distinguer
Roméo et Juliette mourant sur scène
01:37
from a realréal knifecouteau attackattaque.
20
85419
2555
d'une vraie attaque au couteau.
01:39
It can't distinguishdistinguer satiresatire
from propagandapropagande
21
87998
5222
Ils ne peuvent pas distinguer
la satire de la propagande
01:45
or ironyironie from hatredhaine,
and so on and so forthavant.
22
93244
3968
ou l'ironie de la haine et ainsi de suite.
01:50
ThereforeC’est pourquoi, humanshumains are needednécessaire to decidedécider
23
98077
4078
Par conséquent, des êtres humains
sont nécessaires pour décider
01:54
whichlequel of the suspiciousméfiant contentcontenu
should be deletedsupprimé,
24
102179
4001
quels contenus suspicieux
doivent être supprimés
01:58
and whichlequel should remainrester.
25
106204
1600
et lesquels doivent être conservés.
02:00
HumansÊtres humains whomqui we know almostpresque nothing about,
26
108909
2811
Des êtres humains au sujet desquels
nous ne savons presque rien
02:03
because they work in secretsecret.
27
111744
1867
car ils travaillent dans le secret.
02:06
They signsigne nondisclosurenon-divulgation agreementsles accords,
28
114053
1905
Ils signent des accords de confidentialité
02:07
whichlequel prohibitinterdire them
from talkingparlant and sharingpartage
29
115982
2953
qui leur interdisent
de parler ou de partager
02:10
what they see on theirleur screensécrans
and what this work does to them.
30
118959
3585
ce qu'ils voient sur leur écran
et ce que ce travail leur fait.
02:14
They are forcedforcé to use codecode wordsmots
in ordercommande to hidecacher who they work for.
31
122887
4270
Ils sont obligés d'utiliser des codes
pour dissimuler pour qui ils travaillent.
02:19
They are monitoredsurveillés
by privateprivé securitySécurité firmsentreprises
32
127585
2905
Ils sont surveillés par des sociétés
de sécurité privée
02:22
in ordercommande to ensureassurer
that they don't talk to journalistsjournalistes.
33
130514
3510
afin d'assurer qu'ils ne parlent pas
à des journalistes.
02:26
And they are threatenedmenacé by finesamendes
in caseCas they speakparler.
34
134048
3539
Ils sont menacés d'amende s'ils parlent.
02:30
All of this soundsdes sons
like a weirdbizarre crimela criminalité storyrécit,
35
138421
3762
Tout cela semble être
une histoire policière étrange,
02:34
but it's truevrai.
36
142207
1330
mais c'est vrai.
02:35
These people existexister,
37
143561
1492
Ces gens existent
02:37
and they are calledappelé contentcontenu moderatorsModérateurs.
38
145633
4181
et ils sont appelés
modérateurs de contenu.
02:42
HBHB: We are the directorsadministrateurs of the featurefonctionnalité
documentarydocumentaire filmfilm "The CleanersNettoyants,"
39
150942
3445
HB : Nous sommes les réalisateurs
du documentaire « The Cleaners »
02:46
and we would like to take you
40
154411
1960
et nous aimerions vous emmener
02:48
to a worldmonde that manybeaucoup of you
maymai not know yetencore.
41
156395
2587
dans un monde que beaucoup
ne connaissent pas encore.
02:51
Here'sVoici a shortcourt clipagrafe of our filmfilm.
42
159006
2133
Voici un court extrait de notre film.
02:58
(MusicMusique)
43
166639
3620
(Musique)
03:04
(VideoVidéo) ModeratorModérateur: I need to be anonymousanonyme,
because we have a contractContrat signedsigné.
44
172400
3686
(Vidéo) Modérateur : Je dois être anonyme
car nous avons signé un contrat.
03:09
We are not allowedpermis to declaredéclarer
whomqui we are workingtravail with.
45
177784
3621
Nous n'avons pas le droit de déclarer
avec qui nous travaillons.
03:14
The reasonraison why I speakparler to you
46
182807
1763
Je vous parle
03:16
is because the worldmonde should know
that we are here.
47
184594
4380
car le monde devrait savoir
que nous existons.
03:22
There is somebodyquelqu'un
who is checkingvérification the socialsocial mediamédias.
48
190544
2803
Il y a quelqu'un qui vérifie
les réseaux sociaux.
03:26
We are doing our bestmeilleur
to make this platformPlate-forme
49
194317
3604
Nous faisons de notre mieux
pour rendre cette plateforme
03:29
safesûr for all of them.
50
197945
1790
sûre pour tous.
03:42
DeleteSupprimer.
51
210438
1150
Supprimer.
03:44
IgnoreIgnorer.
52
212278
1294
Ignorer.
03:45
DeleteSupprimer.
53
213596
1150
Supprimer.
03:47
IgnoreIgnorer.
54
215279
1297
Ignorer.
03:48
DeleteSupprimer.
55
216600
1151
Supprimer.
03:50
IgnoreIgnorer.
56
218680
1151
Ignorer.
03:51
IgnoreIgnorer.
57
219855
1150
Ignorer.
03:53
DeleteSupprimer.
58
221625
1150
Supprimer.
03:58
HBHB: The so-calledsoi-disant contentcontenu moderatorsModérateurs
59
226030
1977
HB : Les soi-disant modérateurs de contenu
04:00
don't get theirleur paychecksfiche de paye from FacebookFacebook,
TwitterTwitter or GoogleGoogle themselvesse,
60
228031
4000
ne reçoivent leur salaire
de Facebook, Twitter ou Google,
04:04
but from outsourcingOutsourcing firmsentreprises
around the worldmonde
61
232055
2317
mais d'entreprises de sous-traitance
04:06
in ordercommande to keep the wagesles salaires lowfaible.
62
234396
2067
afin de maintenir
leurs rémunérations basses.
04:08
TensDizaines of thousandsmilliers of youngJeune people
63
236833
1967
Des dizaines de milliers de jeunes gens
04:10
looking at everything
we are not supposedsupposé to see.
64
238824
3213
qui regardent tout ce que
nous ne sommes pas censés voir.
04:14
And we are talkingparlant about
decapitationsdécapitations, mutilationsmutilations,
65
242061
3548
Nous parlons de décapitations,
de mutilations,
04:17
executionsexécutions, necrophilianécrophilie,
torturetorture, childenfant abuseabuser de.
66
245633
3696
d'exécutions, de nécrophilie,
de torture, de maltraitance des enfants.
04:21
ThousandsMilliers of imagesimages in one shiftdécalage --
67
249743
2274
Des milliers d'images chaque jour --
04:24
ignoreignorer, deleteeffacer, day and night.
68
252041
2915
ignorer, supprimer, jour et nuit.
04:27
And much of this work is doneterminé in ManilaManille,
69
255393
3398
La plupart de ce travail
est réalisé à Manille,
04:30
where the analoganalogique toxictoxique wastedéchets
from the WesternWestern worldmonde
70
258815
3302
où les déchets toxiques analogiques
du monde occidental
04:34
was transportedtransportés for yearsannées
by containerrécipient shipsnavires,
71
262141
2608
étaient transportés pendant des années
par porte-conteneurs
04:36
now the digitalnumérique wastedéchets is dumpeddéversé there
viavia fiber-opticfibre optique cablecâble.
72
264773
4003
et on s'y débarrasse maintenant
de nos déchets numériques
par fibre optique.
04:40
And just as the so-calledsoi-disant scavengersCharognards
73
268800
3047
Tout comme les éboueurs
04:43
rummagefouiller throughpar giganticgigantesque tipsconseils
on the edgebord of the cityville,
74
271871
3476
fouillent de gigantesques décharges
en lisière de la ville,
04:47
the contentcontenu moderatorsModérateurs clickCliquez theirleur way
throughpar an endlessinterminable toxictoxique oceanocéan
75
275371
4833
les modérateurs de contenu cliquent
dans un océan toxique et intarissable
04:52
of imagesimages and videosvidéos and all mannermanière
of intellectualintellectuel garbagedes ordures,
76
280228
4087
d'images et de vidéos et de tous genres
de déchets intellectuels
04:56
so that we don't have to look at it.
77
284339
2302
pour que nous n'ayons pas à les regarder.
04:58
MRM.: But unlikecontrairement à the woundsblessures
of the scavengersCharognards,
78
286665
3540
MR : Mais contrairement
aux plaies des éboueurs,
05:02
those of the contentcontenu moderatorsModérateurs
remainrester invisibleinvisible.
79
290229
3451
celles des modérateurs de contenu
demeurent invisibles.
05:06
FullComplet of shockingchoquant and disturbinginquiétant contentcontenu,
80
294117
3080
Pleines de contenus
choquants et dérangeants,
05:09
these picturesdes photos and videosvidéos
burrowTerrier into theirleur memoriessouvenirs
81
297221
3263
ces images et vidéos
s'enfouissent dans leurs souvenirs
05:12
where, at any time,
they can have unpredictableimprévisible effectseffets:
82
300508
3445
où, n'importe quand, elles peuvent
avoir des effets imprévisibles :
05:15
eatingen mangeant disorderstroubles, lossperte of libidolibido,
83
303977
3357
troubles alimentaires, perte de la libido,
05:19
anxietyanxiété disorderstroubles, alcoholismalcoolisme,
84
307358
3259
troubles de l'anxiété, alcoolisme,
05:22
depressiondépression, whichlequel can even
leadconduire to suicidesuicide.
85
310641
2912
dépression, pouvant même mener au suicide.
05:26
The picturesdes photos and videosvidéos infectinfecter them,
86
314100
2445
Les images et vidéos les infectent
05:28
and oftensouvent never let them go again.
87
316569
2389
et souvent ne les laissent
jamais s'en tirer.
05:30
If they are unluckypas de chance, they developdévelopper
post-traumaticpost-traumatique stressstress disorderstroubles,
88
318982
4841
S'ils sont malchanceux, ils développent
un trouble du stress post-traumatique
05:35
like soldierssoldats after warguerre missionsmissions.
89
323847
2200
comme les soldats
après des opératons de guerre.
05:39
In our filmfilm, we tell the storyrécit
of a youngJeune man
90
327445
3643
Dans notre film, nous racontons
l'histoire d'un jeune homme
05:43
who had to monitormoniteur livestreamslivestreams
of self-mutilationsautomutilations and suicidesuicide attemptstentatives,
91
331112
5198
qui a dû contrôler
des diffusions en direct
d'automutilation
et de tentatives de suicide,
05:48
again and again,
92
336334
1675
à répétition,
05:50
and who eventuallyfinalement
committedengagé suicidesuicide himselflui-même.
93
338033
3066
et qui a fini par se suicider.
05:53
It's not an isolatedisolé caseCas,
as we'venous avons been told.
94
341787
2740
Ce n'est pas un cas isolé,
d'après ce que l'on nous a dit.
05:57
This is the priceprix all of us payPayer
95
345184
3980
C'est le prix que nous payons tous
06:01
for our so-calledsoi-disant cleannettoyer
and safesûr and "healthyen bonne santé"
96
349188
5327
pour nos environnements
sur les réseaux sociaux
soi-disant propres, sûrs et « sains ».
06:06
environmentsenvironnements on socialsocial mediamédias.
97
354539
2284
06:10
Never before in the historyhistoire of mankindhumanité
98
358482
2595
Jamais auparavant
dans l'histoire de l'humanité,
06:13
has it been easierPlus facile to reachatteindre
millionsdes millions of people around the globeglobe
99
361101
3332
il n'a été plus simple de toucher
des millions de gens à travers le monde
06:16
in a fewpeu secondssecondes.
100
364457
1667
en quelques secondes.
06:18
What is postedposté on socialsocial mediamédias
spreadsse propage so quicklyrapidement,
101
366148
3945
Ce qui est posté sur les réseaux sociaux
se propage si rapidement,
06:22
becomesdevient viralvirale and excitesexcite the mindsesprits
of people all around the globeglobe.
102
370117
3936
cela devient viral et excite l'esprit
de gens à travers le monde.
06:26
Before it is deletedsupprimé,
103
374450
2064
Avant que ce ne soit supprimé,
06:28
it is oftensouvent alreadydéjà too lateen retard.
104
376538
1933
il est souvent déjà trop tard.
06:30
MillionsMillions of people
have alreadydéjà been infectedinfecté
105
378966
2230
Des millions de gens ont déjà été infectés
06:33
with hatredhaine and angercolère,
106
381220
1857
par la haine et la colère
06:35
and they eithernon plus becomedevenir activeactif onlineen ligne,
107
383101
2730
et soit ils deviennent actifs en ligne
06:37
by spreadingdiffusion or amplifyingamplifier hatredhaine,
108
385855
3143
en diffusant ou en amplifiant la haine
06:41
or they take to the streetsdes rues
and take up armsbras.
109
389022
3793
ou ils descendent dans les rues
et prennent les armes.
06:45
HBHB: ThereforeC’est pourquoi, an armyarmée
of contentcontenu moderatorsModérateurs
110
393236
2540
HB : Par conséquent, une armée
de modérateurs de contenu
06:47
sitasseoir in frontde face of a screenécran
to avoidéviter newNouveau collateralgarantie damagedommage.
111
395800
3895
s'assoient devant un écran pour éviter
de nouveaux dégâts collatéraux.
06:52
And they are decidingdécider,
as soonbientôt as possiblepossible,
112
400434
2119
Ils décident dès que possible
06:54
whetherqu'il s'agisse the contentcontenu
staysreste on the platformPlate-forme -- ignoreignorer;
113
402577
4095
si le contenu demeure
sur la plateforme -- ignorer --
06:58
or disappearsdisparaît -- deleteeffacer.
114
406696
2340
ou disparaît -- supprimer.
07:01
But not everychaque decisiondécision is as clearclair
115
409823
2627
Mais chaque décision
n'est pas aussi claire
07:04
as the decisiondécision about a child-abusemaltraitance d'enfants videovidéo.
116
412474
2897
que pour une vidéo
de maltraitance d'enfants.
07:07
What about controversialcontroversé contentcontenu,
ambivalentambivalent contentcontenu,
117
415395
2777
Qu'en est-il de contenu
controversé, ambivalent,
07:10
uploadedtéléchargé by civilcivil rightsdroits activistsmilitants
or citizencitoyen journalistsjournalistes?
118
418196
3153
téléchargé par des activistes
des droits civils
ou des journalistes citoyens ?
07:14
The contentcontenu moderatorsModérateurs
oftensouvent decidedécider on suchtel casescas
119
422048
3222
Les modérateurs de contenu
prennent souvent de telles décisions
07:17
at the sameMême speedla vitesse as the [clearclair] casescas.
120
425294
2733
à la même vitesse
que pour les cas évidents.
07:21
MRM.: We will showmontrer you a videovidéo now,
121
429515
2659
MR : Nous allons maintenant
vous montrer une vidéo
07:24
and we would like to askdemander you to decidedécider:
122
432198
3309
et nous aimerions que vous décidiez :
07:27
Would you deleteeffacer it,
123
435531
1690
est-ce que vous la supprimeriez ou pas ?
07:29
or would you not deleteeffacer it?
124
437245
1801
07:31
(VideoVidéo) (AirAir strikegrève soundsdes sons)
125
439070
1667
(Vidéo) (Bruits de frappe aérienne)
07:33
(ExplosionExplosion)
126
441100
2550
(Explosion)
07:40
(People speakingParlant in ArabicArabe)
127
448076
5953
(Gens parlant en arabe)
07:46
MRM.: Yeah, we did some blurringflou for you.
128
454053
2230
MR : Nous avons
un peu flouté cela pour vous.
07:49
A childenfant would potentiallypotentiellement
be dangerouslydangereusement disturbeddérangé
129
457196
3755
Un enfant serait potentiellement
dangereusement perturbé
07:52
and extremelyextrêmement frightenedeffrayé by suchtel contentcontenu.
130
460975
2809
et extrêmement effrayé par un tel contenu.
07:55
So, you ratherplutôt deleteeffacer it?
131
463808
2297
Préféreriez-vous le supprimer ?
07:59
But what if this videovidéo could help
investigateenquêter the warguerre crimescrimes in SyriaSyrie?
132
467610
4639
Mais... et si cette vidéo
pouvait aider à enquêter
sur les crimes de guerre en Syrie ?
08:04
What if nobodypersonne would have heardentendu
about this airair strikegrève,
133
472717
3167
Et si personne n'entendait parler
de cette frappe aérienne
08:07
because FacebookFacebook, YouTubeYouTube, TwitterTwitter
would have decideddécidé to take it down?
134
475908
3738
car Facebook, YouTube, Twitter
avaient décidé de retirer ce contenu ?
08:12
AirwarsAirwars (Airwars), a nongovernmentalnon gouvernementales
organizationorganisation basedbasé in LondonLondres,
135
480895
4325
Airwars, une organisation
non gouvernementale basée à Londres,
08:17
triesessais to find those videosvidéos
as quicklyrapidement as possiblepossible
136
485244
2897
essaye de trouver ces vidéos
aussi vite que possible,
08:20
whenevern'importe quand they are uploadedtéléchargé
to socialsocial mediamédias,
137
488165
2560
dès qu'elles sont publiées
sur les réseaux sociaux,
08:22
in ordercommande to archiveArchives them.
138
490749
1600
afin de les archiver.
08:24
Because they know, soonerplus tôt or laterplus tard,
139
492693
2833
Car ils savent que, tôt ou tard,
08:27
FacebookFacebook, YouTubeYouTube, TwitterTwitter
would take suchtel contentcontenu down.
140
495550
3310
Facebook, YouTube, Twitter
retireront un tel contenu.
08:31
People armedarmé with theirleur mobilemobile phonesTéléphones
141
499345
2208
Les gens armés de leur téléphone portable
08:33
can make visiblevisible what journalistsjournalistes
oftensouvent do not have accessaccès to.
142
501577
4199
peuvent rendre visible ce à quoi
les journalistes n'ont souvent pas accès.
08:37
CivilCivile rightsdroits groupsgroupes oftensouvent
do not have any better optionoption
143
505800
3063
Les groupes pour les droits civils
n'ont souvent pas de meilleure option
08:40
to quicklyrapidement make theirleur recordingsenregistrements
accessibleaccessible to a largegrand audiencepublic
144
508887
3801
pour rendre leurs enregistrements
rapidement accessibles à un large public
08:44
than by uploadingTéléchargement them to socialsocial mediamédias.
145
512712
2600
que de les publier
sur les réseaux sociaux.
08:47
Wasn'tN’a pas été this the empoweringautonomiser potentialpotentiel
the WorldMonde WideLarge WebWeb should have?
146
515950
4286
N'est-ce pas le potentiel responsabilisant
que le World Wide Web devait avoir ?
08:52
Weren'tN’ont pas été these the dreamsrêves
147
520966
1960
N'était-ce pas les rêves
08:54
people in its earlyde bonne heure stagesétapes had
about the WorldMonde WideLarge WebWeb?
148
522950
4111
que les gens avaient au début
du World Wide Web ?
08:59
Can't picturesdes photos and videosvidéos like these
149
527608
2795
De telles images et vidéos
ne peuvent-elles pas
09:02
persuadepersuader people who have becomedevenir
insensitiveinsensible to factsfaits
150
530427
5134
persuader les gens qui sont devenus
insensibles aux faits
09:07
to rethinkrepenser?
151
535585
1150
de réfléchir à nouveau ?
09:09
HBHB: But insteadau lieu, everything
that mightpourrait be disturbinginquiétant is deletedsupprimé.
152
537917
3602
HB : Mais au lieu de cela, tout ce qui
pourrait être perturbant est supprimé.
09:13
And there's a generalgénéral shiftdécalage in societysociété.
153
541543
2058
Il y a un changement généralisé
dans la société.
09:15
MediaMédias, for exampleExemple, more and more oftensouvent
use triggergâchette warningsmises en garde
154
543625
3897
Les médias, par exemple, utilisent
de plus en plus souvent des avertissements
09:19
at the topHaut of articlesdes articles
155
547546
1793
en haut des articles
09:21
whichlequel some people maymai perceivepercevoir
as offensiveoffensive or troublingtroublant.
156
549363
3309
que certains pourraient percevoir
comme blessants ou perturbants.
09:24
Or more and more studentsélèves
at universitiesles universités in the UnitedUnie StatesÉtats
157
552696
3914
De plus en plus d'étudiants
dans les universités américaines
09:28
demanddemande the banishmentbannissement of antiqueantique classicsClassics
158
556634
2817
exigent l'exclusion du programme
de classiques antiques
09:31
whichlequel depictdépeignent sexualsexuel violencela violence or assaultvoies de fait
from the curriculumcurriculum.
159
559475
3115
qui dépeignent de la violence
ou une agression sexuelle.
09:34
But how farloin should we go with that?
160
562991
2333
Jusqu'où devrions-nous aller ?
09:37
PhysicalPhysique integrityintégrité is guaranteedgaranti
as a humanHumain right
161
565875
3380
L'intégrité physique est garantie
comme un droit humain
09:41
in constitutionsConstitutions worldwideà l'échelle mondiale.
162
569279
1800
dans les constitutions du monde.
09:43
In the CharterCharte of FundamentalFondamentaux RightsDroits
of the EuropeanEuropéenne UnionUnion,
163
571422
3754
Dans la Charte des droits fondamentaux
de l'Union européenne,
09:47
this right expresslyexpressément appliesapplique
to mentalmental integrityintégrité.
164
575200
3354
ce droit est expressément appliqué
à l'intégrité mentale.
09:51
But even if the potentiallypotentiellement
traumatictraumatique effecteffet
165
579347
2658
Mais même si les effets
potentiellement traumatiques
09:54
of imagesimages and videosvidéos is harddifficile to predictprédire,
166
582029
2826
des images et des vidéos
est difficile à prédire,
09:56
do we want to becomedevenir so cautiousprudent
167
584879
1957
voulons-nous devenir si prudents
09:58
that we riskrisque losingperdant
socialsocial awarenessconscience of injusticeinjustice?
168
586860
3727
que nous risquons de perdre
la conscience sociale de l'injustice ?
10:03
So what to do?
169
591203
1150
Alors que faire ?
10:04
MarkMark ZuckerbergZuckerberg recentlyrécemment stateddéclaré
that in the futureavenir,
170
592942
2992
Mark Zuckerberg a
récemment déclaré qu'à l'avenir,
10:07
the usersutilisateurs, we, or almostpresque everybodyTout le monde,
171
595958
3802
les utilisateurs, nous
ou presque tout le monde,
10:11
will decidedécider individuallyindividuellement
172
599784
2261
décideraient individuellement
10:14
what they would like to see
on the platformPlate-forme,
173
602069
2048
de ce qu'ils aimeraient
voir sur la plateforme
10:16
by personalpersonnel filterfiltre settingsParamètres.
174
604141
2031
en paramétrant des filtres personnels.
10:18
So everyonetoutes les personnes could easilyfacilement claimprétendre
to remainrester undisturbednon perturbée
175
606196
3072
Tout le monde pourrait facilement
prétendre demeurer non perturbé
10:21
by imagesimages of warguerre
or other violentviolent conflictsconflits, like ...
176
609292
3739
par des images de guerre
et d'autres conflits violents, comme...
10:25
MRM.: I'm the typetype of guy
who doesn't mindesprit seeingvoyant breastsseins
177
613849
4446
MR : Je suis le genre de gars
qui n'est pas gêné par la vue de seins
10:30
and I'm very interestedintéressé in globalglobal warmingéchauffement,
178
618319
3766
et je suis très intéressé
par le réchauffement climatique,
10:34
but I don't like warguerre so much.
179
622109
2564
mais je n'aime pas trop la guerre.
10:37
HBHB: Yeah, I'm more the oppositecontraire,
180
625109
1722
HB : Pour moi, c'est plutôt le contraire,
10:38
I have zerozéro interestintérêt in nakednu breastsseins
or nakednu bodiescorps at all.
181
626855
4053
je n'ai aucun intérêt
pour les seins et corps nus.
10:43
But why not gunspistolets? I like gunspistolets, yes.
182
631209
2911
Mais pourquoi pas des armes ?
J'aime les armes, oui.
10:46
MRM.: Come on, if don't sharepartager
a similarsimilaire socialsocial consciousnessconscience,
183
634901
3745
MR : Allons, si nous ne partageons pas
une conscience sociale similaire,
10:50
how shalldevra we discussdiscuter socialsocial problemsproblèmes?
184
638670
2669
comment sommes-nous censés
discuter de problèmes sociaux ?
10:53
How shalldevra we call people to actionaction?
185
641363
2397
Comment appeler les gens à agir ?
10:55
Even more isolatedisolé bubblesbulles would emergeémerger.
186
643784
3285
Des bulles encore plus isolées
émergeraient.
10:59
One of the centralcentral questionsdes questions is:
"How, in the futureavenir,
187
647665
3231
Une des questions centrales est :
« Comment, à l'avenir,
11:02
freedomliberté of expressionexpression will be weighedpesé
againstcontre the people'sles gens need for protectionprotection."
188
650920
4903
la liberté d'expression sera considérée
face au besoin de protection des gens ? »
11:08
It's a mattermatière of principleprincipe.
189
656441
1467
C'est une question de principes.
11:10
Do we want to designconception
an eithernon plus openouvrir or closedfermé societysociété
190
658602
4248
Voulons-nous concevoir
une société ouverte ou fermée
11:14
for the digitalnumérique spaceespace?
191
662874
1639
pour l'espace numérique ?
11:17
At the heartcœur of the mattermatière
is "freedomliberté versuscontre securitySécurité."
192
665054
5912
Au cœur de la question,
il y a « la liberté contre la sécurité ».
11:24
FacebookFacebook has always wanted to be
a "healthyen bonne santé" platformPlate-forme.
193
672388
4484
Facebook a toujours voulu
être une plateforme « saine ».
11:28
AboveAu-dessus de all, usersutilisateurs should feel
safesûr and securegarantir.
194
676896
3698
Avant tout, les utilisateurs
devraient se sentir en sécurité.
11:32
It's the sameMême choicechoix of wordsmots
195
680618
2120
C'est le même choix de mots
11:34
the contentcontenu moderatorsModérateurs
in the PhilippinesPhilippines used
196
682762
2958
que les modérateurs de contenu
aux Philippines ont utilisés
11:37
in a lot of our interviewsinterviews.
197
685744
1800
dans nombre de nos interviews.
11:40
(VideoVidéo) The worldmonde
that we are livingvivant in right now,
198
688188
2381
(Vidéo) Le monde dans lequel nous vivons,
11:42
I believe, is not really healthyen bonne santé.
199
690593
2166
à mon sens, n'est pas vraiment sain.
11:44
(MusicMusique)
200
692783
1548
(Musique)
11:46
In this worldmonde, there is really
an evilmal who existsexiste.
201
694355
3158
Dans ce monde, le mal existe vraiment.
11:49
(MusicMusique)
202
697537
3238
(Musique)
11:52
We need to watch for it.
203
700799
2063
Nous devons le surveiller.
11:54
(MusicMusique)
204
702886
1882
(Musique)
11:56
We need to controlcontrôle it -- good or badmal.
205
704792
3250
Nous devons le contrôler --
bon ou mauvais.
12:00
(MusicMusique)
206
708646
7000
(Musique)
12:10
[Look up, YoungYoung man! --God--Dieu]
207
718193
4103
[Lève la tête, jeune homme ! -- Dieu]
12:14
MRM.: For the youngJeune contentcontenu moderatorsModérateurs
in the strictlystrictement CatholicCatholique PhilippinesPhilippines,
208
722952
4278
MR : Pour les jeunes
modérateurs de contenu
vivant dans un pays
pratiquant un catholicisme strict,
12:19
this is linkedlié to a ChristianChrétienne missionmission.
209
727254
2793
cela s'apparente à une mission chrétienne.
12:22
To countercompteur the sinspéchés of the worldmonde
210
730833
2966
Contrer les péchés du monde
12:25
whichlequel spreadpropager acrossà travers the webweb.
211
733823
2174
qui se propagent sur internet.
12:28
"CleanlinessPropreté is nextprochain to godlinesspiété,"
212
736641
3412
« La propreté est proche de la piété »
12:32
is a sayingen disant everybodyTout le monde
in the PhilippinesPhilippines knowssait.
213
740077
3434
est un proverbe que tout le monde
connaît aux Philippines.
12:36
HBHB: And othersautres motivatemotiver themselvesse
214
744035
1659
HB : D'autres se motivent
12:37
by comparingcomparant themselvesse
with theirleur presidentPrésident, RodrigoRodrigo DuterteDuterte (en).
215
745718
3731
en se comparant à leur président,
Rodrigo Duterte.
12:41
He has been rulingau pouvoir
the PhilippinesPhilippines sincedepuis 2016,
216
749837
3491
Il dirige les Philippines depuis 2016
12:45
and he wona gagné the electionélection
with the promisepromettre: "I will cleannettoyer up."
217
753352
3993
et il a gagné les élections
avec la promesse : « Je nettoierai ».
12:49
And what that meansveux dire is eliminatingéliminer
all kindssortes of problemsproblèmes
218
757892
3317
Cela signifie éliminer
tous genres de problèmes
12:53
by literallyLittéralement killingmeurtre people on the streetsdes rues
219
761233
2455
en tuant littéralement
des gens dans les rues,
12:55
who are supposedsupposé to be criminalscriminels,
whateverpeu importe that meansveux dire.
220
763712
2865
des gens censés être des criminels,
quoi que cela signifie.
12:58
And sincedepuis he was electedélu,
221
766601
1270
Depuis qu'il a été élu,
12:59
an estimatedestimé 20,000 people
have been killedtué.
222
767895
3436
on estime que 20 000 personnes
ont été tuées.
13:03
And one moderatorModérateur in our filmfilm saysdit,
223
771655
2501
Dans notre film, un modérateur dit :
13:06
"What DuterteDuterte (en) does on the streetsdes rues,
224
774180
2055
« Ce que Duterte fait dans les rues,
13:08
I do for the internetl'Internet."
225
776259
1714
je le fais pour Internet. »
13:10
And here they are,
our self-proclaimedautoproclamé superheroessuper héros,
226
778934
3564
Et les voilà, nos super-héros
autoproclamés
13:14
who enforceimposer lawloi and ordercommande
in our digitalnumérique worldmonde.
227
782522
2976
qui font respecter la loi et l'ordre
dans notre monde numérique.
13:17
They cleannettoyer up,
they polishpolonais everything cleannettoyer,
228
785522
2381
Ils nettoient, ils astiquent tout,
13:19
they freegratuit us from everything evilmal.
229
787927
2333
ils nous libèrent
de tout ce qui est mauvais.
13:22
TasksTâches formerlyanciennement reservedréservés
to stateEtat authoritiesles autorités
230
790284
3729
Des tâches auparavant réservées
aux autorités gouvernementales
13:26
have been takenpris over
by collegeUniversité graduatesdiplômés in theirleur earlyde bonne heure 20s,
231
794037
3675
ont été reprises par des jeunes diplômés
qui ont la vingtaine
13:29
equippedéquipé with
three-Trois- to five-daycinq jours trainingentraînement --
232
797736
2893
et sont préparés via une formation
de trois à cinq jours --
13:32
this is the qualificationqualification --
233
800653
1936
c'est la qualification --
13:34
who work on nothing lessMoins
than the world'smonde rescueporter secours.
234
802613
3067
qui travaillent pour rien de moins
que secourir le monde.
13:38
MRM.: NationalNational sovereigntiessouverainetés
have been outsourcedexternalisés to privateprivé companiesentreprises,
235
806756
4219
MR : Les souverainetés nationales ont été
sous-traitées à des entreprises privées
13:42
and they passpasser on theirleur
responsibilitiesresponsabilités to thirdtroisième partiesdes soirées.
236
810999
4008
qui refilent leurs responsabilités
à des prestataires.
13:47
It's an outsourcingOutsourcing of the outsourcingOutsourcing
of the outsourcingOutsourcing,
237
815031
3063
C'est de la sous-traitance
de sous-traitance de sous-traitance
13:50
whichlequel takes placeendroit.
238
818118
1150
qui a lieu.
13:51
With socialsocial networksréseaux,
239
819618
1396
Avec les réseaux sociaux,
13:53
we are dealingtransaction with a completelycomplètement
newNouveau infrastructureInfrastructure,
240
821038
3015
nous faisons face à une structure
complètement nouvelle
13:56
with its ownposséder mechanismsmécanismes,
241
824077
1516
avec ses propres mécanismes,
13:57
its ownposséder logiclogique of actionaction
242
825617
1579
sa propre logique de fonctionnement
13:59
and thereforedonc, alsoaussi, its ownposséder newNouveau dangersles dangers,
243
827220
5245
et de ce fait, également
ses propres dangers
14:04
whichlequel had not yetencore existedexisté
in the predigitalizedprédigitalisé publicpublic spheresphère.
244
832489
4025
qui n'existaient pas encore
dans la sphère publique pré-numérique.
14:08
HBHB: When MarkMark ZuckerbergZuckerberg
was at the US CongressCongress
245
836538
2209
HB : Quand Mark Zuckerberg
était au Congrès américain
14:10
or at the EuropeanEuropéenne ParliamentParlement,
246
838771
1770
ou au Parlement européen,
14:12
he was confrontedconfronté
with all kindssortes of criticscritiques.
247
840565
2635
il a été confronté
à tous genres de critiques.
14:15
And his reactionréaction was always the sameMême:
248
843224
2580
Sa réaction était toujours la même :
14:18
"We will fixréparer that,
249
846501
1468
« Nous arrangerons cela
14:19
and I will followsuivre up on that
with my teaméquipe."
250
847993
2551
et je vais en assurer le suivi
avec mon équipe. »
14:23
But suchtel a debatedébat shouldn'tne devrait pas be heldtenu
in back roomspièces of FacebookFacebook,
251
851167
3778
Mais un tel débat ne devra pas se tenir
dans une arrière-salle de Facebook,
14:26
TwitterTwitter or GoogleGoogle --
252
854969
1285
Twitter ou Google --
14:28
suchtel a debatedébat should be openlyouvertement discusseddiscuté
in newNouveau, cosmopolitancosmopolite parliamentsparlements nationaux,
253
856278
4816
un tel débat devrait être
ouvertement discuté
dans de nouveaux parlements cosmopolites,
14:33
in newNouveau institutionsinstitutions
that reflectréfléchir the diversityla diversité of people
254
861118
4860
dans de nouvelles institutions
reflétant la diversité des gens
14:38
contributingcontribuant to a utopianutopique projectprojet
of a globalglobal networkréseau.
255
866002
4542
contribuant au projet utopique
d'un réseau mondial.
14:42
And while it maymai seemsembler impossibleimpossible
to considerconsidérer the valuesvaleurs
256
870568
3377
Si cela peut sembler impossible
de considérer les valeurs
14:45
of usersutilisateurs worldwideà l'échelle mondiale,
257
873969
2242
des utilisateurs à travers le monde,
14:48
it's worthvaut believingcroire
258
876235
1682
cela vaut la peine de croire
14:49
that there's more that connectsse connecte us
than separatessépare les us.
259
877941
3286
qu'il y a plus de choses qui nous lient
que de choses qui nous séparent.
14:53
MRM.: Yeah, at a time
when populismpopulisme is gaininggagner strengthforce,
260
881624
3707
MR : A une époque
où le populisme gagne en vigueur,
14:57
it becomesdevient popularpopulaire
to justifyjustifier the symptomssymptômes,
261
885355
3198
il devient populaire
de justifier les symptômes,
15:00
to eradicateéradiquer them,
262
888577
1278
de les éradiquer,
15:01
to make them invisibleinvisible.
263
889879
1888
de les rendre invisibles.
15:04
This ideologyidéologie is spreadingdiffusion worldwideà l'échelle mondiale,
264
892919
3349
Cette idéologie se propage
à travers le monde,
15:08
analoganalogique as well as digitalnumérique,
265
896292
2785
analogue ainsi que numérique,
15:11
and it's our dutydevoir to stop it
266
899903
3492
et il est de notre devoir de l'arrêter
15:15
before it's too lateen retard.
267
903419
1626
avant qu'il ne soit trop tard.
15:17
The questionquestion of freedomliberté and democracyla démocratie
268
905665
3984
La question de la liberté
et de la démocratie
15:21
mustdoit not only have these two optionsoptions.
269
909673
2967
ne doit pas avoir
seulement ces deux options.
15:25
HBHB: DeleteSupprimer.
270
913053
1166
HB : Supprimer.
15:26
MRM.: Or ignoreignorer.
271
914243
2147
MR : Ou ignorer.
15:29
HBHB: Thank you very much.
272
917300
1597
HB : Merci beaucoup.
15:30
(ApplauseApplaudissements)
273
918921
5269
(Applaudissements)
Translated by Morgane Quilfen
Reviewed by eric vautier

▲Back to top

ABOUT THE SPEAKERS
Hans Block - Filmmaker, theater director, musician
Under the label Laokoon, Hans Block develops films, theatre productions, essays, lecture performances and radio plays that deal with the question of how our idea of humans and society change or can be transformed in the digital era.

Why you should listen
Hans Block is a German theater director, filmmaker and musician. He studied music (drums) at the University of Arts in Berlin and theater directing at Ernst Busch Academy of Dramatic Arts in Berlin. His research, together with Moritz Riesewieck, about freedom of expression in the age of social media brought them international attention. Their debut film, The Cleaners, celebrated its world premiere at the Sundance Film Festival in 2018 and has since been screened at more than 70 international film festivals, in cinemas and on TV worldwide. It was nominated for an Emmy and the German Television Award and has received numerous international awards, including the "Prix Europa" for the Best European TV documentary film 2018 and the Grimme Audience Award 2019.
More profile about the speaker
Hans Block | Speaker | TED.com
Moritz Riesewieck - Author, scriptwriter, theater and film director
Under the label Laokoon, Moritz Riesewieck develops films, theatre productions, essays, lecture performances and radio plays that deal with the question of how our idea of humans and society change or can be transformed in the digital era.

Why you should listen
Moritz Riesewieck is a German essay author, scriptwriter, theater and film director. He studied directing at Ernst Busch Academy of Dramatic Arts in Berlin and some semesters of economics as a fellow of the German Academic Scholarship Foundation. His research, together with Hans Block, about freedom of expression in the age of social media brought them international attention. Their debut film The Cleaners celebrated its world premiere at the Sundance Film Festival in 2018 and has since been screened at more than 70 international film festivals, in cinemas and on TV worldwide. It was nominated for an Emmy and the German Television Award and has received numerous international awards, including the "Prix Europa" for the Best European TV documentary film 2018 and the Grimme Audience Award 2019. His essay "Digital Dirt Work" was published by German publishing house dtv in September 2017.
More profile about the speaker
Moritz Riesewieck | Speaker | TED.com