TED2018
James Bridle: The nightmare videos of children's YouTube -- and what's wrong with the internet today
James Bridle: Die Albtraum-Videos auf YouTube für Kinder - und was mit dem heutigen Internet nicht stimmt
Filmed:
Readability: 4.1
5,404,429 views
Der Schriftsteller und Künstler James Bridle enthüllt eine dunkle, befremdliche Seite des Internets, wo unbekannte Personen oder Gruppen auf YouTube das Gehirn von kleinen Kindern hacken, um damit Werbeeinnahmen zu erzielen. Von Enthüllungen zu "Überraschungseiern" und dem "Finger Family Song" bis hin zu algorithmisch erstellten Kombinationen bekannter Zeichentrickfiguren in gewalttätigen Situationen - diese Videos missbrauchen und verängstigen junge Gemüter - und sie erzählen uns etwas darüber, wohin sich unsere zunehmend datengesteuerte Welt entwickelt. "Wir müssen aufhören, Technologie als Lösung für all unsere Probleme zu sehen und sie stattdessen als Leitfaden betrachten, um herauszufinden, was diese Probleme tatsächlich sind, damit wir anfangen können, richtig über sie nachzudenken und sie anzugehen", so Bridle.
James Bridle - Artist, writer
Working across technologies and disciplines, James Bridle examines technology, knowledge and the end of the future. Full bio
Working across technologies and disciplines, James Bridle examines technology, knowledge and the end of the future. Full bio
Double-click the English transcript below to play the video.
00:12
I'm James.
0
777
1183
Ich heiße James.
00:13
I'm a writer and artist,
1
1984
1686
Ich bin Schriftsteller und Künstler
00:15
and I make work about technology.
2
3694
2341
und mache Arbeiten über Technologie.
00:18
I do things like draw life-size outlines
of military drones
of military drones
3
6454
3911
Ich mache solche Dinge wie
lebensgroße Umrisse von Militärdrohnen
lebensgroße Umrisse von Militärdrohnen
00:22
in city streets around the world,
4
10389
1828
in städtischen Straßen
weltweit zu zeichnen,
weltweit zu zeichnen,
00:24
so that people can start to think
and get their heads around
and get their heads around
5
12241
2950
damit Menschen anfangen,
über diese wirklich schwer sichtbaren
über diese wirklich schwer sichtbaren
00:27
these really quite hard-to-see
and hard-to-think-about technologies.
and hard-to-think-about technologies.
6
15215
3440
und schwer vorstellbaren Technologien
nachzudenken und sie zu begreifen.
nachzudenken und sie zu begreifen.
00:31
I make things like neural networks
that predict the results of elections
that predict the results of elections
7
19494
3836
Ich mache Dinge wie neuronale Netzwerke,
die das Ergebnis von Wahlen
die das Ergebnis von Wahlen
00:35
based on weather reports,
8
23354
1737
anhand von Wetterberichten vorhersagen,
00:37
because I'm intrigued about
9
25115
1314
denn ich bin neugierig,
00:38
what the actual possibilities
of these weird new technologies are.
of these weird new technologies are.
10
26453
3924
was die tatsächlichen Möglichkeiten
dieser seltsamen neuen Technologien sind.
dieser seltsamen neuen Technologien sind.
00:43
Last year, I built
my own self-driving car.
my own self-driving car.
11
31405
2426
Letztes Jahr baute ich mein
eigenes selbstfahrendes Auto.
eigenes selbstfahrendes Auto.
00:45
But because I don't
really trust technology,
really trust technology,
12
33855
2526
Aber da ich der Technologie
nicht wirklich vertraue,
nicht wirklich vertraue,
00:48
I also designed a trap for it.
13
36405
1928
entwarf ich auch eine Falle dafür.
00:50
(Laughter)
14
38777
1086
(Lachen)
00:51
And I do these things mostly because
I find them completely fascinating,
I find them completely fascinating,
15
39887
4298
Ich mache diese Dinge vor allem,
weil ich sie absolut faszinierend finde,
weil ich sie absolut faszinierend finde,
00:56
but also because I think
when we talk about technology,
when we talk about technology,
16
44209
2602
aber auch weil ich denke,
wenn wir über Technologie sprechen,
wenn wir über Technologie sprechen,
00:58
we're largely talking about ourselves
17
46835
2619
sprechen wir hauptsächlich über uns selbst
01:01
and the way that we understand the world.
18
49478
2299
und darüber, wie wir die Welt verstehen.
01:03
So here's a story about technology.
19
51801
2442
Hier ist eine Geschichte über Technologie:
01:07
This is a "surprise egg" video.
20
55520
2830
Das ist ein "Überraschungsei-Video".
01:10
It's basically a video of someone
opening up loads of chocolate eggs
opening up loads of chocolate eggs
21
58374
3348
Es ist ein Video von jemandem,
der massenhaft Schokoladeneier öffnet
der massenhaft Schokoladeneier öffnet
01:13
and showing the toys inside to the viewer.
22
61746
2126
und die Spielzeuge darin
dem Zuschauer zeigt.
dem Zuschauer zeigt.
01:16
That's it. That's all it does
for seven long minutes.
for seven long minutes.
23
64461
2649
Das ist alles. In sieben langen
Minuten passiert nichts anderes.
Minuten passiert nichts anderes.
01:19
And I want you to notice
two things about this.
two things about this.
24
67428
3051
Ich möchte, dass Ihnen hier
zwei Dinge auffallen.
zwei Dinge auffallen.
01:22
First of all, this video
has 30 million views.
has 30 million views.
25
70503
4074
Erstens, dieses Video
hat 30 Millionen Aufrufe.
hat 30 Millionen Aufrufe.
01:26
(Laughter)
26
74601
1275
(Lachen)
01:28
And the other thing is,
27
76376
1166
Die andere Sache ist:
01:29
it comes from a channel
that has 6.3 million subscribers,
that has 6.3 million subscribers,
28
77566
3869
Es stammt von einem Kanal
mit 6,3 Millionen Abonnenten,
mit 6,3 Millionen Abonnenten,
01:33
that has a total of eight billion views,
29
81459
2680
der insgesamt 8 Milliarden Aufrufe hat,
01:36
and it's all just more videos like this --
30
84163
3106
und es sind einfach nur
mehr Videos dieser Art.
mehr Videos dieser Art.
01:40
30 million people watching a guy
opening up these eggs.
opening up these eggs.
31
88256
3908
30 Millionen Menschen, die einem Typen
dabei zusehen, wie er diese Eier öffnet.
dabei zusehen, wie er diese Eier öffnet.
01:44
It sounds pretty weird, but if you search
for "surprise eggs" on YouTube,
for "surprise eggs" on YouTube,
32
92188
4481
Es klingt ziemlich seltsam, aber wenn man
auf YouTube "Überraschungseier" sucht,
auf YouTube "Überraschungseier" sucht,
01:48
it'll tell you there's
10 million of these videos,
10 million of these videos,
33
96693
3523
wird einem angezeigt, dass es
10 Millionen dieser Videos gibt,
10 Millionen dieser Videos gibt,
und ich halte das für eine Untertreibung.
01:52
and I think that's an undercount.
34
100240
1657
01:53
I think there's way, way more of these.
35
101921
1897
Ich denke, es gibt noch viel mehr.
01:55
If you keep searching, they're endless.
36
103842
2242
Wenn man weitersucht, ist es endlos.
01:58
There's millions and millions
of these videos
of these videos
37
106108
2159
Es gibt Millionen von diesen Videos
02:00
in increasingly baroque combinations
of brands and materials,
of brands and materials,
38
108291
3454
mit zunehmend seltsamen Kombinationen
von Marken und Material,
von Marken und Material,
02:03
and there's more and more of them
being uploaded every single day.
being uploaded every single day.
39
111769
3846
und tagtäglich werden mehr
und mehr dieser Videos hochgeladen.
und mehr dieser Videos hochgeladen.
02:07
Like, this is a strange world. Right?
40
115639
3511
Was für eine komische Welt, nicht wahr?
02:11
But the thing is, it's not adults
who are watching these videos.
who are watching these videos.
41
119174
3383
Aber die Sache ist, dass es nicht
Erwachsene sind, die diese Videos sehen.
Erwachsene sind, die diese Videos sehen.
02:14
It's kids, small children.
42
122581
2921
Es sind Kinder, kleine Kinder.
02:17
These videos are
like crack for little kids.
like crack for little kids.
43
125526
2154
Kleine Kinder sind süchtig nach sowas.
02:19
There's something about the repetition,
44
127704
2075
Irgendetwas an den Wiederholungen,
02:21
the constant little
dopamine hit of the reveal,
dopamine hit of the reveal,
45
129803
2468
den permanenten kleinen
Dopaminschüben bei der Enthüllung,
Dopaminschüben bei der Enthüllung,
02:24
that completely hooks them in.
46
132295
1866
fasziniert sie total.
02:26
And little kids watch these videos
over and over and over again,
over and over and over again,
47
134185
4809
Kleine Kinder sehen sich diese Videos
immer und immer und immer wieder an
immer und immer und immer wieder an
02:31
and they do it for hours
and hours and hours.
and hours and hours.
48
139018
2327
und sie tun das stundenlang.
02:33
And if you try and take
the screen away from them,
the screen away from them,
49
141369
2356
Wenn man versucht,
ihnen den Bildschirm wegzunehmen,
ihnen den Bildschirm wegzunehmen,
02:35
they'll scream and scream and scream.
50
143749
1782
werden sie unermüdlich schreien.
02:37
If you don't believe me --
51
145555
1262
Wenn Sie mir nicht glauben --
02:38
and I've already seen people
in the audience nodding --
in the audience nodding --
52
146841
2607
und ich sehe schon,
wie einige im Publikum nicken --
wie einige im Publikum nicken --
02:41
if you don't believe me, find someone
with small children and ask them,
with small children and ask them,
53
149472
3391
wenn Sie mir nicht glauben,
fragen Sie Leute mit kleinen Kindern
fragen Sie Leute mit kleinen Kindern
02:44
and they'll know about
the surprise egg videos.
the surprise egg videos.
54
152887
2340
und sie werden von den
Überraschungsei-Videos wissen.
Überraschungsei-Videos wissen.
02:47
So this is where we start.
55
155251
2070
Also hier fangen wir an.
02:49
It's 2018, and someone, or lots of people,
56
157345
3642
Es ist 2018 und jemand,
vielleicht sogar viele Menschen,
vielleicht sogar viele Menschen,
02:53
are using the same mechanism that, like,
Facebook and Instagram are using
Facebook and Instagram are using
57
161011
3941
nutzen denselben Mechanismus,
den Facebook und Instagram benutzen,
den Facebook und Instagram benutzen,
02:56
to get you to keep checking that app,
58
164976
1989
der Sie dazu bringt,
die App ständig zu öffnen,
die App ständig zu öffnen,
02:58
and they're using it on YouTube
to hack the brains of very small children
to hack the brains of very small children
59
166989
3985
und sie nutzen ihn auf YouTube, um
das Gehirn sehr kleiner Kindern zu hacken,
das Gehirn sehr kleiner Kindern zu hacken,
03:02
in return for advertising revenue.
60
170998
1958
um damit Werbeeinnahmen zu erzielen.
03:06
At least, I hope
that's what they're doing.
that's what they're doing.
61
174346
2001
Ich hoffe jedenfalls,
das ist es, was sie tun.
das ist es, was sie tun.
03:08
I hope that's what they're doing it for,
62
176371
1955
Ich hoffe, dass es der Grund ist,
03:10
because there's easier ways
of making ad revenue on YouTube.
of making ad revenue on YouTube.
63
178350
5308
denn es gibt einfachere Möglichkeiten,
Werbeeinnahmen auf YouTube zu erzielen.
Werbeeinnahmen auf YouTube zu erzielen.
03:15
You can just make stuff up or steal stuff.
64
183682
2332
Man kann einfach etwas
erfinden oder klauen.
erfinden oder klauen.
03:18
So if you search for really
popular kids' cartoons
popular kids' cartoons
65
186038
2635
Wenn Sie also nach
sehr beliebten Kinderserien
sehr beliebten Kinderserien
wie "Peppa Wutz" oder "Paw Patrol" suchen,
03:20
like "Peppa Pig" or "Paw Patrol,"
66
188697
1654
werden Sie feststellen, dass es
auch sie millionenfach online gibt.
auch sie millionenfach online gibt.
03:22
you'll find there's millions and millions
of these online as well.
of these online as well.
67
190375
3147
03:25
Of course, most of them aren't posted
by the original content creators.
by the original content creators.
68
193546
3352
Die meisten stammen natürlich nicht
von den Machern der Sendungen,
von den Machern der Sendungen,
03:28
They come from loads and loads
of different random accounts,
of different random accounts,
69
196922
2999
sondern von vielen verschiedenen,
beliebigen Konten,
beliebigen Konten,
03:31
and it's impossible to know
who's posting them
who's posting them
70
199945
2240
und es ist unmöglich zu wissen,
wer sie veröffentlicht
wer sie veröffentlicht
03:34
or what their motives might be.
71
202209
1822
oder was ihre Absichten sein könnten.
03:36
Does that sound kind of familiar?
72
204428
1930
Kommt Ihnen das bekannt vor?
03:38
Because it's exactly the same mechanism
73
206382
1980
Es ist nämlich genau derselbe Mechanismus,
03:40
that's happening across most
of our digital services,
of our digital services,
74
208386
2600
den wir auch in den meisten
unserer digitalen Dienste sehen,
unserer digitalen Dienste sehen,
03:43
where it's impossible to know
where this information is coming from.
where this information is coming from.
75
211010
3207
wo es unmöglich ist, zu wissen,
woher die Informationen kommen.
woher die Informationen kommen.
03:46
It's basically fake news for kids,
76
214241
1829
Es sind im Prinzip Fake News für Kinder
03:48
and we're training them from birth
77
216094
2161
und wir trainieren sie von Geburt an,
03:50
to click on the very first link
that comes along,
that comes along,
78
218279
2506
auf den allerersten Link
zu klicken, der erscheint,
zu klicken, der erscheint,
03:52
regardless of what the source is.
79
220809
1953
unabhängig davon, was die Quelle ist.
03:54
That's doesn't seem like
a terribly good idea.
a terribly good idea.
80
222786
2603
Das scheint keine sehr gute Idee zu sein.
03:58
Here's another thing
that's really big on kids' YouTube.
that's really big on kids' YouTube.
81
226399
2710
Eine weitere Sache, die auf
Kinder-YouTube sehr populär ist:
Kinder-YouTube sehr populär ist:
04:01
This is called the "Finger Family Song."
82
229133
1928
Es nennt sich der "Finger Family Song".
04:03
I just heard someone groan
in the audience.
in the audience.
83
231085
2018
Jemand im Publikum hat gerade aufgestöhnt.
04:05
This is the "Finger Family Song."
84
233127
1624
Das ist der "Finger Family Song".
04:06
This is the very first one I could find.
85
234775
1930
Das ist das erste Video,
das ich finden konnte.
das ich finden konnte.
04:08
It's from 2007, and it only has
200,000 views,
200,000 views,
86
236729
2829
Es ist von 2007 und
hat nur 200.000 Aufrufe,
hat nur 200.000 Aufrufe,
was in diesem Spiel so gut wie nichts ist.
04:11
which is, like, nothing in this game.
87
239582
1976
04:13
But it has this insanely earwormy tune,
88
241582
2852
Aber das Lied ist so ein
wahnsinniger Ohrwurm
wahnsinniger Ohrwurm
04:16
which I'm not going to play to you,
89
244458
1682
und ich spiele es Ihnen nicht vor,
04:18
because it will sear itself
into your brain
into your brain
90
246164
2008
da es sich in Ihr Gehirn einbrennen wird,
04:20
in the same way that
it seared itself into mine,
it seared itself into mine,
91
248196
2395
genauso wie es sich
in meines eingebrannt hat,
in meines eingebrannt hat,
04:22
and I'm not going to do that to you.
92
250615
1770
und das will ich Ihnen nicht antun.
04:24
But like the surprise eggs,
93
252409
1344
Aber wie die Überraschungsei-Videos
04:25
it's got inside kids' heads
94
253777
2164
ist es in die Köpfe der Kinder gelangt
und hat sie süchtig danach gemacht.
04:27
and addicted them to it.
95
255965
1607
04:29
So within a few years,
these finger family videos
these finger family videos
96
257596
2531
Innerhalb weniger Jahre beginnen
diese Finger-Family-Videos also,
diese Finger-Family-Videos also,
04:32
start appearing everywhere,
97
260151
1303
überall zu sein,
04:33
and you get versions
in different languages
in different languages
98
261478
2029
und es gibt verschiedene Sprachversionen
04:35
with popular kids' cartoons using food
99
263531
2121
mit beliebten Kinderserien, die Essen,
oder, um ehrlich zu sein,
oder, um ehrlich zu sein,
04:37
or, frankly, using whatever kind
of animation elements
of animation elements
100
265676
2550
alle Arten von Animationselementen,
04:40
you seem to have lying around.
101
268250
2252
die man gerade hat, verwenden.
04:43
And once again, there are millions
and millions and millions of these videos
and millions and millions of these videos
102
271002
5197
Auch hier gibt es Millionen
und Abermillionen dieser Videos,
und Abermillionen dieser Videos,
04:48
available online in all of these
kind of insane combinations.
kind of insane combinations.
103
276223
3435
die online in all diesen verrückten
Kombinationen verfügbar sind.
Kombinationen verfügbar sind.
04:51
And the more time
you start to spend with them,
you start to spend with them,
104
279682
2228
Je mehr Zeit Sie damit verbringen,
04:53
the crazier and crazier
you start to feel that you might be.
you start to feel that you might be.
105
281934
3694
desto mehr haben Sie das Gefühl,
dass Sie verrückt sind.
dass Sie verrückt sind.
04:57
And that's where I
kind of launched into this,
kind of launched into this,
106
285652
3333
Deswegen fing ich an,
mich damit auseinanderzusetzen,
mich damit auseinanderzusetzen,
05:01
that feeling of deep strangeness
and deep lack of understanding
and deep lack of understanding
107
289009
3666
weil es so tiefgreifend absurd
und unverständlich ist,
und unverständlich ist,
05:04
of how this thing was constructed
that seems to be presented around me.
that seems to be presented around me.
108
292699
4175
wie das Ganze konstruiert wurde,
was man mir hier offenbar präsentiert.
was man mir hier offenbar präsentiert.
05:08
Because it's impossible to know
where these things are coming from.
where these things are coming from.
109
296898
3167
Denn es ist unmöglich, zu wissen,
woher diese Dinge kommen.
woher diese Dinge kommen.
05:12
Like, who is making them?
110
300089
1241
Wer produziert sie?
Einige von ihnen scheinen von Teams
professioneller Animatoren zu stammen.
professioneller Animatoren zu stammen.
05:13
Some of them appear to be made
of teams of professional animators.
of teams of professional animators.
111
301354
3143
05:16
Some of them are just randomly
assembled by software.
assembled by software.
112
304521
2882
Andere wurden einfach zufällig
per Software zusammengestellt.
per Software zusammengestellt.
05:19
Some of them are quite wholesome-looking
young kids' entertainers.
young kids' entertainers.
113
307427
4253
Wieder andere sind ganz gesund aussehende
Unterhaltungskünstler für Kinder.
Unterhaltungskünstler für Kinder.
05:23
And some of them are from people
114
311704
1552
Und manche sind von Menschen,
05:25
who really clearly
shouldn't be around children at all.
shouldn't be around children at all.
115
313280
3007
die ganz klar nichts mit Kindern
zu tun haben sollten.
zu tun haben sollten.
05:28
(Laughter)
116
316311
1615
(Lachen)
05:30
And once again, this impossibility
of figuring out who's making this stuff --
of figuring out who's making this stuff --
117
318987
4640
Wieder ist es unmöglich,
herauszufinden, wer dieses Zeug macht.
herauszufinden, wer dieses Zeug macht.
05:35
like, this is a bot?
118
323651
1156
Ist es ein Bot?
05:36
Is this a person? Is this a troll?
119
324831
2647
Ist es eine Person? Ist es ein Troll?
05:39
What does it mean
that we can't tell the difference
that we can't tell the difference
120
327502
2382
Was bedeutet es,
dass wir den Unterschied zwischen
diesen Dingen nicht mehr erkennen?
diesen Dingen nicht mehr erkennen?
05:41
between these things anymore?
121
329908
1583
05:43
And again, doesn't that uncertainty
feel kind of familiar right now?
feel kind of familiar right now?
122
331515
4848
Und wieder: Fühlt sich diese Unsicherheit
nicht irgendwie vertraut an?
nicht irgendwie vertraut an?
05:50
So the main way people get views
on their videos --
on their videos --
123
338145
2580
Die gängigste Art und Weise,
wie man Videoaufrufe bekommt --
wie man Videoaufrufe bekommt --
05:52
and remember, views mean money --
124
340749
1707
und bedenken Sie, Aufrufe bedeuten Geld --
05:54
is that they stuff the titles
of these videos with these popular terms.
of these videos with these popular terms.
125
342480
4742
ist, diese populären Begriffe
in die Titel dieser Videos zu packen.
in die Titel dieser Videos zu packen.
05:59
So you take, like, "surprise eggs"
126
347246
1687
Sie nehmen zum Beispiel
"Überraschungseier"
"Überraschungseier"
06:00
and then you add
"Paw Patrol," "Easter egg,"
"Paw Patrol," "Easter egg,"
127
348957
2066
und fügen "Paw Patrol", "Osterei"
06:03
or whatever these things are,
128
351047
1393
oder was auch immer,
06:04
all of these words from other
popular videos into your title,
popular videos into your title,
129
352464
2893
all diese Worte aus anderen
populären Videos in Ihren Titel ein,
populären Videos in Ihren Titel ein,
06:07
until you end up with this kind of
meaningless mash of language
meaningless mash of language
130
355381
2968
bis Sie am Ende eine Art
bedeutungslosen Sprachbrei haben,
bedeutungslosen Sprachbrei haben,
06:10
that doesn't make sense to humans at all.
131
358373
2498
der für Menschen
überhaupt keinen Sinn ergibt.
überhaupt keinen Sinn ergibt.
06:12
Because of course it's only really
tiny kids who are watching your video,
tiny kids who are watching your video,
132
360895
3546
Weil sich natürlich nur ganz kleine Kinder
diese Videos ansehen
06:16
and what the hell do they know?
133
364465
1827
und was zum Teufel wissen sie schon?
06:18
Your real audience
for this stuff is software.
for this stuff is software.
134
366316
3007
Das wirkliche Publikum
für dieses Zeug ist Software.
für dieses Zeug ist Software.
06:21
It's the algorithms.
135
369347
1156
Es sind die Algorithmen.
06:22
It's the software that YouTube uses
136
370527
1855
Es ist die Software, die YouTube benutzt,
06:24
to select which videos
are like other videos,
are like other videos,
137
372406
2483
um auszuwählen, welche Videos
wie andere Videos sind,
wie andere Videos sind,
06:26
to make them popular,
to make them recommended.
to make them recommended.
138
374913
2243
um sie populär zu machen,
um sie zu empfehlen.
um sie zu empfehlen.
06:29
And that's why you end up with this
kind of completely meaningless mash,
kind of completely meaningless mash,
139
377180
3461
Deshalb kommt diese Art von
völlig bedeutungslosem Brei heraus,
völlig bedeutungslosem Brei heraus,
06:32
both of title and of content.
140
380665
2071
sowohl was den Titel
als auch den Inhalt betrifft.
als auch den Inhalt betrifft.
06:35
But the thing is, you have to remember,
141
383792
1894
Aber die Sache ist die,
Sie müssen bedenken,
Sie müssen bedenken,
06:37
there really are still people within
this algorithmically optimized system,
this algorithmically optimized system,
142
385710
4478
dass in diesem algorithmisch optimierten
System wirklich noch Menschen stecken,
System wirklich noch Menschen stecken,
06:42
people who are kind
of increasingly forced to act out
of increasingly forced to act out
143
390212
2790
Menschen, die quasi immer mehr
dazu gezwungen werden,
dazu gezwungen werden,
06:45
these increasingly bizarre
combinations of words,
combinations of words,
144
393026
3066
diese immer absurderen
Wortkombinationen zu verwenden,
Wortkombinationen zu verwenden,
06:48
like a desperate improvisation artist
responding to the combined screams
responding to the combined screams
145
396116
5173
wie ein verzweifelter Impro-Künstler,
der auf die kombinierten Schreie
der auf die kombinierten Schreie
06:53
of a million toddlers at once.
146
401313
2203
von einer Million Kleinkindern
auf einmal reagiert.
auf einmal reagiert.
06:57
There are real people
trapped within these systems,
trapped within these systems,
147
405168
2468
In diesen Systemen sind
echte Menschen gefangen
echte Menschen gefangen
und das ist das andere sehr Seltsame an
dieser algorithmisch gesteuerten Kultur,
dieser algorithmisch gesteuerten Kultur,
06:59
and that's the other deeply strange thing
about this algorithmically driven culture,
about this algorithmically driven culture,
148
407660
4055
denn selbst wenn man ein Mensch ist,
07:03
because even if you're human,
149
411739
1381
07:05
you have to end up behaving like a machine
150
413144
2145
muss man sich am Ende
wie eine Maschine verhalten,
wie eine Maschine verhalten,
07:07
just to survive.
151
415313
1800
um zu überleben.
07:09
And also, on the other side of the screen,
152
417137
2100
Auf der anderen Seite des Bildschirms
07:11
there still are these little kids
watching this stuff,
watching this stuff,
153
419261
2947
gibt es immer noch diese kleinen Kinder,
die dieses Zeug schauen,
die dieses Zeug schauen,
07:14
stuck, their full attention grabbed
by these weird mechanisms.
by these weird mechanisms.
154
422232
4206
gefesselt, ihre volle Aufmerksamkeit
von diesen seltsamen Mechanismen erfasst.
von diesen seltsamen Mechanismen erfasst.
07:18
And most of these kids are too small
to even use a website.
to even use a website.
155
426768
2798
Die meisten dieser Kinder sind zu klein,
um überhaupt eine Website zu nutzen.
um überhaupt eine Website zu nutzen.
07:21
They're just kind of hammering
on the screen with their little hands.
on the screen with their little hands.
156
429590
3276
Sie hämmern nur mit ihren Händchen
auf dem Bildschirm herum.
auf dem Bildschirm herum.
07:24
And so there's autoplay,
157
432890
1217
Und dann ist da Autoplay,
07:26
where it just keeps playing these videos
over and over and over in a loop,
over and over and over in a loop,
158
434131
3579
das diese Videos immer und immer
und immer wieder abspielt,
und immer wieder abspielt,
07:29
endlessly for hours and hours at a time.
159
437734
2059
stundenlang in Endlosschleife.
07:31
And there's so much weirdness
in the system now
in the system now
160
439817
2843
Inzwischen gibt es
so viel Seltsames im System,
so viel Seltsames im System,
07:34
that autoplay takes you
to some pretty strange places.
to some pretty strange places.
161
442684
3009
dass Autoplay einen an einige
ziemlich skurrile Orte führt.
ziemlich skurrile Orte führt.
07:37
This is how, within a dozen steps,
162
445717
2488
So kann man in nur wenigen Schritten
07:40
you can go from a cute video
of a counting train
of a counting train
163
448229
3158
von einem süßen Video eines Zählzuges
07:43
to masturbating Mickey Mouse.
164
451411
2442
zu einer masturbierenden
Micky Maus gelangen.
Micky Maus gelangen.
07:46
Yeah. I'm sorry about that.
165
454529
2288
Ja. Das tut mir leid.
07:48
This does get worse.
166
456841
1700
Es wird noch schlimmer.
07:50
This is what happens
167
458565
1282
Das passiert,
07:51
when all of these different keywords,
168
459871
3086
wenn all diese verschiedenen Schlagwörter,
07:54
all these different pieces of attention,
169
462981
2461
all diese verschiedenen Aufmerksamkeiten,
07:57
this desperate generation of content,
170
465466
2807
diese verzweifelte Erzeugung von Inhalten
08:00
all comes together into a single place.
171
468297
2582
an einem einzigen Ort zusammenkommen.
08:03
This is where all those deeply weird
keywords come home to roost.
keywords come home to roost.
172
471871
4472
Hier kommen all diese äußerst merkwürdigen
Suchbegriffe nach Hause, um zu ruhen.
Suchbegriffe nach Hause, um zu ruhen.
08:08
You cross-breed the finger family video
173
476367
2391
Man kreuzt das Video der Fingerfamilie
08:10
with some live-action superhero stuff,
174
478782
2088
mit einigen lebensechten Superhelden,
08:12
you add in some weird,
trollish in-jokes or something,
trollish in-jokes or something,
175
480894
3256
fügt einige komische, trollische
Insiderwitze oder so etwas hinzu
Insiderwitze oder so etwas hinzu
08:16
and suddenly, you come
to a very weird place indeed.
to a very weird place indeed.
176
484174
3366
und plötzlich landet man an einem
wirklich sehr befremdlichen Ort.
wirklich sehr befremdlichen Ort.
08:19
The stuff that tends to upset parents
177
487564
2113
Das Zeug, das Eltern
normalerweise verärgert,
normalerweise verärgert,
08:21
is the stuff that has kind of violent
or sexual content, right?
or sexual content, right?
178
489701
3331
ist das Zeug, das gewalttätige
oder sexuelle Inhalte hat, nicht wahr?
oder sexuelle Inhalte hat, nicht wahr?
08:25
Children's cartoons getting assaulted,
179
493056
2822
Zeichentrickfiguren werden angegriffen,
08:27
getting killed,
180
495902
2018
getötet,
08:29
weird pranks that actually
genuinely terrify children.
genuinely terrify children.
181
497944
3343
absurde Streiche, die Kindern
wirklich richtige Angst einjagen.
wirklich richtige Angst einjagen.
08:33
What you have is software pulling in
all of these different influences
all of these different influences
182
501311
3675
Was Sie hier haben, ist Software,
die diese ganzen Einflüsse zusammenbringt
die diese ganzen Einflüsse zusammenbringt
08:37
to automatically generate
kids' worst nightmares.
kids' worst nightmares.
183
505010
2961
und so automatisch die schlimmsten
Albträume von Kindern erzeugt.
Albträume von Kindern erzeugt.
08:39
And this stuff really, really
does affect small children.
does affect small children.
184
507995
2701
Dieses Zeug hat echte
Auswirkungen auf kleine Kinder.
Auswirkungen auf kleine Kinder.
08:42
Parents report their children
being traumatized,
being traumatized,
185
510720
2866
Eltern berichten,
dass ihre Kinder traumatisiert sind,
Angst vor der Dunkelheit bekommen,
Angst vor der Dunkelheit bekommen,
08:45
becoming afraid of the dark,
186
513610
1392
08:47
becoming afraid of their favorite
cartoon characters.
cartoon characters.
187
515026
3050
Angst vor ihren liebsten
Zeichentrickfiguren bekommen.
Zeichentrickfiguren bekommen.
08:50
If you take one thing away from this,
it's that if you have small children,
it's that if you have small children,
188
518524
3611
Wenn man eine Sache hier mitnimmt,
ist es die: Wenn Sie kleine Kinder haben,
ist es die: Wenn Sie kleine Kinder haben,
08:54
keep them the hell away from YouTube.
189
522159
1996
halten Sie sie verdammt nochmal
von YouTube fern.
von YouTube fern.
08:56
(Applause)
190
524743
3949
(Applaus)
09:02
But the other thing, the thing
that really gets to me about this,
that really gets to me about this,
191
530504
3096
Aber die andere Sache,
die mich wirklich beschäftigt,
die mich wirklich beschäftigt,
ist, dass ich nicht weiß,
09:05
is that I'm not sure we even really
understand how we got to this point.
understand how we got to this point.
192
533624
4629
ob wir überhaupt wirklich verstehen,
wie wir an diesen Punkt gekommen sind.
wie wir an diesen Punkt gekommen sind.
09:10
We've taken all of this influence,
all of these things,
all of these things,
193
538951
2931
Wir haben diese ganzen Einflüsse
und all diese Dinge genommen
und all diese Dinge genommen
09:13
and munged them together in a way
that no one really intended.
that no one really intended.
194
541906
2953
und sie so vermischt, wie es niemand
wirklich beabsichtigt hatte.
wirklich beabsichtigt hatte.
09:16
And yet, this is also the way
that we're building the entire world.
that we're building the entire world.
195
544883
3156
Dabei ist das die Art und Weise,
wie wir die ganze Welt konstruieren.
wie wir die ganze Welt konstruieren.
09:20
We're taking all of this data,
196
548063
1773
Wir nehmen all diese Daten,
09:21
a lot of it bad data,
197
549860
1447
viele davon schlechte Daten,
09:23
a lot of historical data
full of prejudice,
full of prejudice,
198
551331
3029
viele historische Daten voller Vorurteile,
09:26
full of all of our worst
impulses of history,
impulses of history,
199
554384
2837
voll von all unseren schlimmsten
Impulsen der Geschichte,
Impulsen der Geschichte,
09:29
and we're building that
into huge data sets
into huge data sets
200
557245
2049
erstellen daraus riesige Datensätze
und anschließend automatisieren wir sie.
09:31
and then we're automating it.
201
559318
1423
09:32
And we're munging it together
into things like credit reports,
into things like credit reports,
202
560765
3502
Und wir verarbeiten sie
zu Dingen wie Kreditauskünften,
zu Dingen wie Kreditauskünften,
09:36
into insurance premiums,
203
564291
1634
Versicherungsprämien,
09:37
into things like predictive
policing systems,
policing systems,
204
565949
2693
Systemen vorausschauender Polizeiarbeit,
09:40
into sentencing guidelines.
205
568666
1762
Richtlinien zur Strafzumessung.
09:42
This is the way we're actually
constructing the world today
constructing the world today
206
570452
2821
So konstruieren wir die heutige Welt
09:45
out of this data.
207
573297
1151
aus diesen Daten.
09:46
And I don't know what's worse,
208
574472
1698
Ich weiß nicht, was schlimmer ist,
09:48
that we built a system
that seems to be entirely optimized
that seems to be entirely optimized
209
576194
3228
dass wir ein System geschaffen haben,
das scheinbar vollständig
das scheinbar vollständig
09:51
for the absolute worst aspects
of human behavior,
of human behavior,
210
579446
2808
für die absolut schlimmsten Aspekte
des menschlichen Verhaltens optimiert ist,
des menschlichen Verhaltens optimiert ist,
09:54
or that we seem
to have done it by accident,
to have done it by accident,
211
582278
2425
oder dass wir es aus Versehen taten,
09:56
without even realizing
that we were doing it,
that we were doing it,
212
584727
2207
ohne zu merken, dass wir es taten,
09:58
because we didn't really understand
the systems that we were building,
the systems that we were building,
213
586958
3382
weil wir die Systeme, die wir aufbauten,
nicht wirklich verstanden,
nicht wirklich verstanden,
10:02
and we didn't really understand
how to do anything differently with it.
how to do anything differently with it.
214
590364
3683
und wir nicht wirklich wussten,
wie man etwas anderes damit macht.
wie man etwas anderes damit macht.
10:06
There's a couple of things I think
that really seem to be driving this
that really seem to be driving this
215
594769
3365
Es gibt ein paar Dinge,
die das Ganze auf YouTube
die das Ganze auf YouTube
10:10
most fully on YouTube,
216
598158
1189
am meisten voranzutreiben scheinen,
10:11
and the first of those is advertising,
217
599371
1827
und das erste davon ist die Werbung,
10:13
which is the monetization of attention
218
601222
2837
sprich die Monetarisierung
von Aufmerksamkeit,
von Aufmerksamkeit,
10:16
without any real other variables at work,
219
604083
3136
ohne dass irgendwelche echten,
anderen Variablen am Werk sind,
anderen Variablen am Werk sind,
10:19
any care for the people who are
actually developing this content,
actually developing this content,
220
607243
3885
wie Sorge um die Menschen,
die diese Inhalte tatsächlich entwickeln,
die diese Inhalte tatsächlich entwickeln,
10:23
the centralization of the power,
the separation of those things.
the separation of those things.
221
611152
3636
die Zentralisierung der Macht,
die Trennung dieser Dinge.
die Trennung dieser Dinge.
10:26
And I think however you feel
about the use of advertising
about the use of advertising
222
614812
3144
Und ich glaube, egal wie Sie
zum Einsatz von Werbung stehen,
zum Einsatz von Werbung stehen,
um Dinge zu verkaufen,
10:29
to kind of support stuff,
223
617980
1238
der Anblick von erwachsenen Männern
in Windeln, die im Sand herumrollen
in Windeln, die im Sand herumrollen
10:31
the sight of grown men in diapers
rolling around in the sand
rolling around in the sand
224
619242
3067
10:34
in the hope that an algorithm
that they don't really understand
that they don't really understand
225
622333
2983
in der Hoffnung, dass ein Algorithmus,
den sie nicht wirklich verstehen,
den sie nicht wirklich verstehen,
10:37
will give them money for it
226
625340
1315
ihnen Geld dafür gibt,
10:38
suggests that this
probably isn't the thing
probably isn't the thing
227
626679
2037
legt nahe, dass dies wohl nicht das ist,
10:40
that we should be basing
our society and culture upon,
our society and culture upon,
228
628740
2563
worauf wir unsere Gesellschaft
und Kultur gründen sollten,
und Kultur gründen sollten,
10:43
and the way in which
we should be funding it.
we should be funding it.
229
631327
2160
und wie wir sie finanzieren sollten.
10:45
And the other thing that's kind of
the major driver of this is automation,
the major driver of this is automation,
230
633511
3519
Der andere wesentliche Antriebsfaktor
ist die Automatisierung,
ist die Automatisierung,
sprich die Bereitstellung
dieser ganzen Technologie,
dieser ganzen Technologie,
10:49
which is the deployment
of all of this technology
of all of this technology
231
637054
2329
sobald sie eintrifft,
ohne irgendeine Art von Kontrolle,
ohne irgendeine Art von Kontrolle,
10:51
as soon as it arrives,
without any kind of oversight,
without any kind of oversight,
232
639407
2521
10:53
and then once it's out there,
233
641952
1412
und dann, sobald sie verfügbar ist,
werfen wir unsere Hände hoch und sagen:
werfen wir unsere Hände hoch und sagen:
10:55
kind of throwing up our hands and going,
"Hey, it's not us, it's the technology."
"Hey, it's not us, it's the technology."
234
643388
3843
"Hey, das sind nicht wir,
es ist die Technologie."
es ist die Technologie."
10:59
Like, "We're not involved in it."
235
647255
1642
"Wir haben damit nichts zu tun."
11:00
That's not really good enough,
236
648921
1767
Das ist nicht gut genug.
11:02
because this stuff isn't
just algorithmically governed,
just algorithmically governed,
237
650712
2710
Denn dieses Zeug wird nicht nur
von Algorithmen gesteuert,
von Algorithmen gesteuert,
11:05
it's also algorithmically policed.
238
653446
2498
es wird auch von Algorithmen kontrolliert.
11:07
When YouTube first started
to pay attention to this,
to pay attention to this,
239
655968
2848
Als YouTube zum ersten Mal
darauf aufmerksam wurde,
darauf aufmerksam wurde,
11:10
the first thing they said
they'd do about it
they'd do about it
240
658840
2087
war das Erste, was sie tun wollten,
11:12
was that they'd deploy
better machine learning algorithms
better machine learning algorithms
241
660951
2695
bessere maschinelle
Lernalgorithmen einzusetzen,
Lernalgorithmen einzusetzen,
11:15
to moderate the content.
242
663670
1329
um den Inhalt zu moderieren.
11:17
Well, machine learning,
as any expert in it will tell you,
as any expert in it will tell you,
243
665023
3485
Nun, maschinelles Lernen,
wie jeder Experte bezeugen kann,
wie jeder Experte bezeugen kann,
ist im Grunde genommen
nichts anderes als Software,
nichts anderes als Software,
11:20
is basically what we've started to call
244
668532
1896
von der wir nicht wirklich wissen,
wie sie funktioniert.
wie sie funktioniert.
11:22
software that we don't really
understand how it works.
understand how it works.
245
670452
2588
11:25
And I think we have
enough of that already.
enough of that already.
246
673064
3983
Ich denke, davon haben wir bereits genug.
11:29
We shouldn't be leaving
this stuff up to AI to decide
this stuff up to AI to decide
247
677071
3166
Wir sollten die Entscheidung nicht der KI
überlassen, was geeignet ist oder nicht,
überlassen, was geeignet ist oder nicht,
11:32
what's appropriate or not,
248
680261
1251
denn wir wissen, was dann passiert.
11:33
because we know what happens.
249
681536
1436
11:34
It'll start censoring other things.
250
682996
1688
Es wird andere Dinge zensieren.
11:36
It'll start censoring queer content.
251
684708
1783
Es wird Queer-Inhalte zensieren.
Es wird den legitimen,
öffentlichen Diskurs zensieren.
öffentlichen Diskurs zensieren.
11:38
It'll start censoring
legitimate public speech.
legitimate public speech.
252
686515
2237
11:40
What's allowed in these discourses,
253
688776
1925
Was in diesen Diskursen erlaubt ist,
11:42
it shouldn't be something
that's left up to unaccountable systems.
that's left up to unaccountable systems.
254
690725
3097
sollte nicht von unverantwortlichen
Systemen bestimmt werden.
Systemen bestimmt werden.
11:45
It's part of a discussion
all of us should be having.
all of us should be having.
255
693846
2947
Es ist Teil einer Diskussion,
die wir alle führen sollten.
die wir alle führen sollten.
11:48
But I'd leave a reminder
256
696817
1308
Aber ich möchte Sie erinnern,
11:50
that the alternative isn't
very pleasant, either.
very pleasant, either.
257
698149
2753
dass die Alternative
auch nicht sehr angenehm ist.
auch nicht sehr angenehm ist.
11:52
YouTube also announced recently
258
700926
1535
YouTube kündigte vor Kurzem an,
11:54
that they're going to release
a version of their kids' app
a version of their kids' app
259
702485
2767
dass sie eine Version ihrer Kinder-App
veröffentlichen werden,
veröffentlichen werden,
11:57
that would be entirely
moderated by humans.
moderated by humans.
260
705276
2407
die vollständig von Menschen betreut wird.
12:00
Facebook -- Zuckerberg said
much the same thing at Congress,
much the same thing at Congress,
261
708134
3618
Facebook -- Zuckerberg sagte
etwas sehr Ähnliches vor dem Kongress,
etwas sehr Ähnliches vor dem Kongress,
12:03
when pressed about how they
were going to moderate their stuff.
were going to moderate their stuff.
262
711776
2987
als er gefragt wurde,
wie sie ihre Sachen überwachen würden.
wie sie ihre Sachen überwachen würden.
12:06
He said they'd have humans doing it.
263
714787
1747
Er sagte, dass es Menschen machen würden.
12:08
And what that really means is,
264
716558
1459
Was das wirklich bedeutet, ist:
12:10
instead of having toddlers being
the first person to see this stuff,
the first person to see this stuff,
265
718041
3223
Anstatt dass Kleinkinder die Ersten sind,
die dieses Zeug sehen,
die dieses Zeug sehen,
12:13
you're going to have underpaid,
precarious contract workers
precarious contract workers
266
721288
2788
hat man nun unterbezahlte Vertragsarbeiter
ohne angemessene psychologische Betreuung,
12:16
without proper mental health support
267
724100
1726
die davon auch noch geschädigt werden.
12:17
being damaged by it as well.
268
725850
1376
12:19
(Laughter)
269
727250
1096
(Lachen)
12:20
And I think we can all do
quite a lot better than that.
quite a lot better than that.
270
728370
2601
Ich denke, wir können alle
viel mehr zustande bringen.
viel mehr zustande bringen.
12:22
(Applause)
271
730995
2499
(Applaus)
12:26
The thought, I think, that brings those
two things together, really, for me,
two things together, really, for me,
272
734068
4613
Der Gedanke, der diese beiden Dinge
für mich wirklich zusammenbringt,
für mich wirklich zusammenbringt,
12:30
is agency.
273
738705
1420
ist Handlungsfähigkeit.
12:32
It's like, how much do we really
understand -- by agency, I mean:
understand -- by agency, I mean:
274
740149
3157
Es geht darum, wie viel wir verstehen
-- mit Handlungsfähigkeit meine ich:
-- mit Handlungsfähigkeit meine ich:
12:35
how we know how to act
in our own best interests.
in our own best interests.
275
743330
4390
zu wissen, wie wir in unserem eigenen,
besten Interesse handeln können.
besten Interesse handeln können.
12:39
Which -- it's almost impossible to do
276
747744
1787
Was fast unmöglich ist
12:41
in these systems that we don't
really fully understand.
really fully understand.
277
749555
3485
in diesen Systemen, die wir
nicht wirklich vollständig verstehen.
nicht wirklich vollständig verstehen.
12:45
Inequality of power
always leads to violence.
always leads to violence.
278
753064
3071
Ungleiche Machtverhältnisse
führen immer zu Gewalt.
führen immer zu Gewalt.
12:48
And we can see inside these systems
279
756159
1685
Diese Systeme zeigen uns,
12:49
that inequality of understanding
does the same thing.
does the same thing.
280
757868
2611
dass ungleiches Verständnis
dasselbe bewirkt.
dasselbe bewirkt.
12:52
If there's one thing that we can do
to start to improve these systems,
to start to improve these systems,
281
760503
3779
Wenn es eine Möglichkeit gibt,
zu beginnen, diese Systeme zu verbessern,
zu beginnen, diese Systeme zu verbessern,
12:56
it's to make them more legible
to the people who use them,
to the people who use them,
282
764306
2718
ist es, sie für Nutzer
verständlicher zu machen,
verständlicher zu machen,
12:59
so that all of us have
a common understanding
a common understanding
283
767048
2196
sodass wir alle zu einem gemeinsamen
Verständnis dessen gelangen,
Verständnis dessen gelangen,
13:01
of what's actually going on here.
284
769268
1851
was hier tatsächlich vor sich geht.
13:03
The thing, though, I think
most about these systems
most about these systems
285
771970
2968
Jedoch denke ich, das Wichtigste
an diesen Systemen ist, dass es,
an diesen Systemen ist, dass es,
13:06
is that this isn't, as I hope
I've explained, really about YouTube.
I've explained, really about YouTube.
286
774962
3857
wie ich hoffentlich erklärt habe,
nicht wirklich um YouTube geht.
nicht wirklich um YouTube geht.
13:10
It's about everything.
287
778843
1312
Es geht um alles.
13:12
These issues of accountability and agency,
288
780179
2444
Themen wie Verantwortlichkeit
und Handlungsfähigkeit,
und Handlungsfähigkeit,
13:14
of opacity and complexity,
289
782647
2225
Intransparenz und Komplexität,
13:16
of the violence and exploitation
that inherently results
that inherently results
290
784896
3177
Gewalt und Ausbeutung,
13:20
from the concentration
of power in a few hands --
of power in a few hands --
291
788097
2794
was zwangsläufig aus der Konzentration
von Macht in wenigen Händen resultiert --
von Macht in wenigen Händen resultiert --
13:22
these are much, much larger issues.
292
790915
2579
das sind viel, viel größere Themen.
Es sind keine Themen, die nur YouTube
und Technologie im Allgemeinen betreffen,
und Technologie im Allgemeinen betreffen,
13:26
And they're issues not just of YouTube
and not just of technology in general,
and not just of technology in general,
293
794395
3687
13:30
and they're not even new.
294
798106
1265
und sie sind nicht einmal neu.
13:31
They've been with us for ages.
295
799395
1461
Sie begleiten uns schon ewig.
13:32
But we finally built this system,
this global system, the internet,
this global system, the internet,
296
800880
4390
Aber schließlich haben wir dieses
globale System, das Internet, entwickelt,
globale System, das Internet, entwickelt,
13:37
that's actually showing them to us
in this extraordinary way,
in this extraordinary way,
297
805294
3019
das sie uns auf diese
außergewöhnliche Art und Weise vorführt
außergewöhnliche Art und Weise vorführt
13:40
making them undeniable.
298
808337
1547
und sie unbestreitbar macht.
13:41
Technology has this extraordinary capacity
299
809908
2820
Technologie hat diese
außergewöhnliche Fähigkeit,
außergewöhnliche Fähigkeit,
13:44
to both instantiate and continue
300
812752
3973
all unsere außergewöhnlichsten,
13:48
all of our most extraordinary,
often hidden desires and biases
often hidden desires and biases
301
816749
4248
oft verdeckten Wünsche und Vorurteile
zu instanziieren und weiterzuentwickeln
zu instanziieren und weiterzuentwickeln
13:53
and encoding them into the world,
302
821021
1866
und sie in die Welt zu kodieren,
13:54
but it also writes them down
so that we can see them,
so that we can see them,
303
822911
3474
aber sie schreibt sie auch auf,
damit wir sie sehen können,
damit wir sie sehen können,
13:58
so that we can't pretend
they don't exist anymore.
they don't exist anymore.
304
826409
3330
damit wir nicht so tun können,
als ob sie nicht mehr existieren.
als ob sie nicht mehr existieren.
14:01
We need to stop thinking about technology
as a solution to all of our problems,
as a solution to all of our problems,
305
829763
4319
Wir müssen aufhören, Technologie als
Lösung für all unsere Probleme zu sehen
Lösung für all unsere Probleme zu sehen
und sie stattdessen
als Leitfaden betrachten,
als Leitfaden betrachten,
14:06
but think of it as a guide
to what those problems actually are,
to what those problems actually are,
306
834106
3757
um herauszufinden, was
diese Probleme tatsächlich sind,
diese Probleme tatsächlich sind,
14:09
so we can start thinking
about them properly
about them properly
307
837887
2144
damit wir anfangen können, richtig
über sie nachzudenken und sie anzugehen.
über sie nachzudenken und sie anzugehen.
14:12
and start to address them.
308
840055
1766
14:13
Thank you very much.
309
841845
1335
Vielen Dank.
14:15
(Applause)
310
843204
5192
(Applaus)
14:21
Thank you.
311
849733
1188
Danke.
14:22
(Applause)
312
850945
2869
(Applaus)
14:28
Helen Walters: James, thank you
for coming and giving us that talk.
for coming and giving us that talk.
313
856839
3178
Helen Walters: James, danke
fürs Kommen und für den Vortrag.
fürs Kommen und für den Vortrag.
14:32
So it's interesting:
314
860041
1189
Es ist interessant:
14:33
when you think about the films where
the robotic overlords take over,
the robotic overlords take over,
315
861254
3495
Wenn man an die Filme denkt, in denen die
Roboter-Oberherren die Macht ergreifen,
Roboter-Oberherren die Macht ergreifen,
14:36
it's all a bit more glamorous
than what you're describing.
than what you're describing.
316
864773
3279
wirkt das alles etwas glamouröser
als das, was du beschreibst.
als das, was du beschreibst.
14:40
But I wonder -- in those films,
you have the resistance mounting.
you have the resistance mounting.
317
868076
3749
Aber ich frage mich -- in diesen Filmen
hat man einen wachsenden Widerstand.
hat man einen wachsenden Widerstand.
14:43
Is there a resistance mounting
towards this stuff?
towards this stuff?
318
871849
3216
Gibt es auch einen wachsenden
Widerstand gegen dieses Zeug?
Widerstand gegen dieses Zeug?
14:47
Do you see any positive signs,
green shoots of resistance?
green shoots of resistance?
319
875089
3796
Siehst du irgendwelche positiven Signale,
erste Anzeichen eines Widerstandes?
erste Anzeichen eines Widerstandes?
James Bridle: Ich weiß nichts
von direktem Widerstand,
von direktem Widerstand,
14:52
James Bridle: I don't know
about direct resistance,
about direct resistance,
320
880507
2416
14:54
because I think this stuff
is super long-term.
is super long-term.
321
882947
2264
weil ich denke, dieses Zeug
ist super langfristig.
ist super langfristig.
14:57
I think it's baked into culture
in really deep ways.
in really deep ways.
322
885235
2510
Es hat sich tief
in die Kultur eingebrannt.
in die Kultur eingebrannt.
14:59
A friend of mine,
Eleanor Saitta, always says
Eleanor Saitta, always says
323
887769
2132
Eine Freundin von mir,
Eleanor Saitta, sagt immer,
Eleanor Saitta, sagt immer,
15:01
that any technological problems
of sufficient scale and scope
of sufficient scale and scope
324
889935
3609
dass alle technologischen Probleme
von ausreichendem Umfang und Ausmaß
von ausreichendem Umfang und Ausmaß
15:05
are political problems first of all.
325
893568
2267
zuallererst politische Probleme sind.
15:07
So all of these things we're working
to address within this
to address within this
326
895859
2785
All diese Dinge, an deren
Lösung wir arbeiten,
Lösung wir arbeiten,
werden nicht einfach dadurch behoben,
dass wir die Technologie verbessern,
dass wir die Technologie verbessern,
15:10
are not going to be addressed
just by building the technology better,
just by building the technology better,
327
898668
3274
sondern indem wir die Gesellschaft
verändern, die diese Technologien erzeugt.
verändern, die diese Technologien erzeugt.
15:13
but actually by changing the society
that's producing these technologies.
that's producing these technologies.
328
901966
3464
15:17
So no, right now, I think we've got
a hell of a long way to go.
a hell of a long way to go.
329
905454
3027
Also nein, ich denke, im Moment haben wir
einen verdammt langen Weg vor uns.
einen verdammt langen Weg vor uns.
15:20
But as I said, I think by unpacking them,
330
908505
1986
Aber wie gesagt,
indem wir sie erklären
und ehrlich über sie sprechen,
und ehrlich über sie sprechen,
15:22
by explaining them, by talking
about them super honestly,
about them super honestly,
331
910515
2697
können wir wenigstens anfangen,
diesen Prozess zu beginnen.
diesen Prozess zu beginnen.
15:25
we can actually start
to at least begin that process.
to at least begin that process.
332
913236
2505
15:27
HW: And so when you talk about
legibility and digital literacy,
legibility and digital literacy,
333
915765
3562
HW: Wenn du über Verständlichkeit
und digitale Kompetenz sprichst,
und digitale Kompetenz sprichst,
15:31
I find it difficult to imagine
334
919351
1591
finde ich es schwer, zu glauben,
15:32
that we need to place the burden
of digital literacy on users themselves.
of digital literacy on users themselves.
335
920966
3680
dass wir die Last der digitalen Kompetenz
auf die Nutzer selbst abwälzen sollten.
auf die Nutzer selbst abwälzen sollten.
15:36
But whose responsibility
is education in this new world?
is education in this new world?
336
924670
4562
Aber wessen Verantwortung ist
die Bildung in dieser neuen Welt?
die Bildung in dieser neuen Welt?
15:41
JB: Again, I think this responsibility
is kind of up to all of us,
is kind of up to all of us,
337
929256
3612
JB: Nochmals, ich denke,
diese Verantwortung liegt bei uns allen,
diese Verantwortung liegt bei uns allen,
15:44
that everything we do,
everything we build, everything we make,
everything we build, everything we make,
338
932892
2984
dass alles, was wir tun, alles,
was wir entwickeln, alles, was wir machen,
was wir entwickeln, alles, was wir machen,
15:47
needs to be made
in a consensual discussion
in a consensual discussion
339
935900
3692
in einer einvernehmlichen
Diskussion stattfinden muss,
Diskussion stattfinden muss,
15:51
with everyone who's avoiding it;
340
939616
1940
mit allen, die es vermeiden;
15:53
that we're not building systems
intended to trick and surprise people
intended to trick and surprise people
341
941580
4341
dass wir keine Systeme entwickeln,
die Menschen überlisten oder überraschen,
die Menschen überlisten oder überraschen,
15:57
into doing the right thing,
342
945945
2300
damit sie das Richtige tun,
16:00
but that they're actually involved
in every step in educating them,
in every step in educating them,
343
948269
3236
sondern dass sie vielmehr an jedem Schritt
der Bildung beteiligt sind,
der Bildung beteiligt sind,
16:03
because each of these systems
is educational.
is educational.
344
951529
2278
denn jedes dieser Systeme ist lehrreich.
Das ist es, was mir Hoffnung gibt,
selbst bei diesem sehr düsteren Zeug,
selbst bei diesem sehr düsteren Zeug,
16:05
That's what I'm hopeful about,
about even this really grim stuff,
about even this really grim stuff,
345
953831
3102
16:08
that if you can take it
and look at it properly,
and look at it properly,
346
956957
2262
dass, wenn man es nehmen
und richtig betrachten kann,
und richtig betrachten kann,
16:11
it's actually in itself
a piece of education
a piece of education
347
959243
2089
es an sich schon ein Stück Bildung ist,
16:13
that allows you to start seeing
how complex systems come together and work
how complex systems come together and work
348
961356
3762
das es ermöglicht, zu sehen, wie komplexe
Systeme zusammenkommen und funktionieren
Systeme zusammenkommen und funktionieren
16:17
and maybe be able to apply
that knowledge elsewhere in the world.
that knowledge elsewhere in the world.
349
965142
3501
und dieses Wissen vielleicht
an anderer Stelle auf der Welt anzuwenden.
an anderer Stelle auf der Welt anzuwenden.
16:20
HW: James, it's such
an important discussion,
an important discussion,
350
968667
2115
HW: James, es ist eine so wichtige
Diskussion und ich weiß,
Diskussion und ich weiß,
16:22
and I know many people here
are really open and prepared to have it,
are really open and prepared to have it,
351
970806
3227
viele Menschen hier sind wirklich
offen und bereit, sie zu führen.
offen und bereit, sie zu führen.
16:26
so thanks for starting off our morning.
352
974057
1859
Danke für diesen Start in den Morgen.
16:27
JB: Thanks very much. Cheers.
353
975940
1400
JB: Vielen Dank. Tschüss.
16:29
(Applause)
354
977364
1651
(Applaus)
ABOUT THE SPEAKER
James Bridle - Artist, writerWorking across technologies and disciplines, James Bridle examines technology, knowledge and the end of the future.
Why you should listen
James Bridle is an artist and writer working across technologies and disciplines. His artworks and installations have been exhibited in Europe, North and South America, Asia and Australia, and have been viewed by hundreds of thousands of visitors online. He has been commissioned by organizations including the Victoria & Albert Museum, the Barbican, Artangel, the Oslo Architecture Triennale and the Istanbul Design Biennial, and he has been honored by Ars Electronica, the Japan Media Arts Festival and the Design Museum, London. His writing on literature, culture and networks has appeared in magazines and newspapers including Frieze, Wired, Domus, Cabinet, The Atlantic, the New Statesman and many others, and he has written a regular column for The Observer.
New Dark Age, Bridle's book about technology, knowledge and the end of the future is forthcoming from Verso (UK & US) in 2018. He lectures regularly on radio, at conferences, universities and other events including SXSW, Lift, the Global Art Forum and Re:Publica. He has been a resident at Lighthouse, Brighton, the White Building, London and Eyebeam, New York, and an adjunct professor on the interactive telecommunications program at New York University.
James Bridle | Speaker | TED.com