ABOUT THE SPEAKER
James Bridle - Artist, writer
Working across technologies and disciplines, James Bridle examines technology, knowledge and the end of the future.

Why you should listen

James Bridle is an artist and writer working across technologies and disciplines. His artworks and installations have been exhibited in Europe, North and South America, Asia and Australia, and have been viewed by hundreds of thousands of visitors online. He has been commissioned by organizations including the Victoria & Albert Museum, the Barbican, Artangel, the Oslo Architecture Triennale and the Istanbul Design Biennial, and he has been honored by Ars Electronica, the Japan Media Arts Festival and the Design Museum, London. His writing on literature, culture and networks has appeared in magazines and newspapers including Frieze, Wired, Domus, Cabinet, The Atlantic, the New Statesman and many others, and he has written a regular column for The Observer.

New Dark Age, Bridle's book about technology, knowledge and the end of the future is forthcoming from Verso (UK & US) in 2018. He lectures regularly on radio, at conferences, universities and other events including SXSW, Lift, the Global Art Forum and Re:Publica. He has been a resident at Lighthouse, Brighton, the White Building, London and Eyebeam, New York, and an adjunct professor on the interactive telecommunications program at New York University.

More profile about the speaker
James Bridle | Speaker | TED.com
TED2018

James Bridle: The nightmare videos of children's YouTube -- and what's wrong with the internet today

James Bridle: Die Albtraum-Videos auf YouTube für Kinder - und was mit dem heutigen Internet nicht stimmt

Filmed:
5,404,429 views

Der Schriftsteller und Künstler James Bridle enthüllt eine dunkle, befremdliche Seite des Internets, wo unbekannte Personen oder Gruppen auf YouTube das Gehirn von kleinen Kindern hacken, um damit Werbeeinnahmen zu erzielen. Von Enthüllungen zu "Überraschungseiern" und dem "Finger Family Song" bis hin zu algorithmisch erstellten Kombinationen bekannter Zeichentrickfiguren in gewalttätigen Situationen - diese Videos missbrauchen und verängstigen junge Gemüter - und sie erzählen uns etwas darüber, wohin sich unsere zunehmend datengesteuerte Welt entwickelt. "Wir müssen aufhören, Technologie als Lösung für all unsere Probleme zu sehen und sie stattdessen als Leitfaden betrachten, um herauszufinden, was diese Probleme tatsächlich sind, damit wir anfangen können, richtig über sie nachzudenken und sie anzugehen", so Bridle.
- Artist, writer
Working across technologies and disciplines, James Bridle examines technology, knowledge and the end of the future. Full bio

Double-click the English transcript below to play the video.

00:12
I'm JamesJames.
0
777
1183
Ich heiße James.
00:13
I'm a writerSchriftsteller and artistKünstler,
1
1984
1686
Ich bin Schriftsteller und Künstler
00:15
and I make work about technologyTechnologie.
2
3694
2341
und mache Arbeiten über Technologie.
00:18
I do things like drawzeichnen life-sizelebensgroße outlinesUmrisse
of militaryMilitär- dronesDrohnen
3
6454
3911
Ich mache solche Dinge wie
lebensgroße Umrisse von Militärdrohnen
00:22
in cityStadt streetsStraßen around the worldWelt,
4
10389
1828
in städtischen Straßen
weltweit zu zeichnen,
00:24
so that people can startAnfang to think
and get theirihr headsKöpfe around
5
12241
2950
damit Menschen anfangen,
über diese wirklich schwer sichtbaren
00:27
these really quiteganz hard-to-seeschwer zu sehen
and hard-to-think-aboutschwer zu denken technologiesTechnologien.
6
15215
3440
und schwer vorstellbaren Technologien
nachzudenken und sie zu begreifen.
00:31
I make things like neuralneuronale networksNetzwerke
that predictvorhersagen the resultsErgebnisse of electionsWahlen
7
19494
3836
Ich mache Dinge wie neuronale Netzwerke,
die das Ergebnis von Wahlen
00:35
basedbasierend on weatherWetter reportsBerichte,
8
23354
1737
anhand von Wetterberichten vorhersagen,
00:37
because I'm intriguedfasziniert about
9
25115
1314
denn ich bin neugierig,
00:38
what the actualtatsächlich possibilitiesMöglichkeiten
of these weirdseltsam newneu technologiesTechnologien are.
10
26453
3924
was die tatsächlichen Möglichkeiten
dieser seltsamen neuen Technologien sind.
00:43
Last yearJahr, I builtgebaut
my ownbesitzen self-drivingselbstfahrender carAuto.
11
31405
2426
Letztes Jahr baute ich mein
eigenes selbstfahrendes Auto.
00:45
But because I don't
really trustVertrauen technologyTechnologie,
12
33855
2526
Aber da ich der Technologie
nicht wirklich vertraue,
00:48
I alsoebenfalls designedentworfen a trapTrap for it.
13
36405
1928
entwarf ich auch eine Falle dafür.
00:50
(LaughterLachen)
14
38777
1086
(Lachen)
00:51
And I do these things mostlymeist because
I find them completelyvollständig fascinatingfaszinierend,
15
39887
4298
Ich mache diese Dinge vor allem,
weil ich sie absolut faszinierend finde,
00:56
but alsoebenfalls because I think
when we talk about technologyTechnologie,
16
44209
2602
aber auch weil ich denke,
wenn wir über Technologie sprechen,
00:58
we're largelyweitgehend talkingim Gespräch about ourselvesuns selbst
17
46835
2619
sprechen wir hauptsächlich über uns selbst
01:01
and the way that we understandverstehen the worldWelt.
18
49478
2299
und darüber, wie wir die Welt verstehen.
01:03
So here'shier ist a storyGeschichte about technologyTechnologie.
19
51801
2442
Hier ist eine Geschichte über Technologie:
01:07
This is a "surpriseüberraschen eggEi" videoVideo.
20
55520
2830
Das ist ein "Überraschungsei-Video".
01:10
It's basicallyGrundsätzlich gilt a videoVideo of someonejemand
openingÖffnung up loadsLadungen of chocolateSchokolade eggsEiern
21
58374
3348
Es ist ein Video von jemandem,
der massenhaft Schokoladeneier öffnet
01:13
and showingzeigt the toysSpielzeug insideinnen to the viewerZuschauer.
22
61746
2126
und die Spielzeuge darin
dem Zuschauer zeigt.
01:16
That's it. That's all it does
for sevenSieben long minutesProtokoll.
23
64461
2649
Das ist alles. In sieben langen
Minuten passiert nichts anderes.
01:19
And I want you to noticebeachten
two things about this.
24
67428
3051
Ich möchte, dass Ihnen hier
zwei Dinge auffallen.
01:22
First of all, this videoVideo
has 30 millionMillion viewsAnsichten.
25
70503
4074
Erstens, dieses Video
hat 30 Millionen Aufrufe.
01:26
(LaughterLachen)
26
74601
1275
(Lachen)
01:28
And the other thing is,
27
76376
1166
Die andere Sache ist:
01:29
it comeskommt from a channelKanal
that has 6.3 millionMillion subscribersAbonnenten,
28
77566
3869
Es stammt von einem Kanal
mit 6,3 Millionen Abonnenten,
01:33
that has a totalgesamt of eightacht billionMilliarde viewsAnsichten,
29
81459
2680
der insgesamt 8 Milliarden Aufrufe hat,
01:36
and it's all just more videosVideos like this --
30
84163
3106
und es sind einfach nur
mehr Videos dieser Art.
01:40
30 millionMillion people watchingAufpassen a guy
openingÖffnung up these eggsEiern.
31
88256
3908
30 Millionen Menschen, die einem Typen
dabei zusehen, wie er diese Eier öffnet.
01:44
It soundsGeräusche prettyziemlich weirdseltsam, but if you searchSuche
for "surpriseüberraschen eggsEiern" on YouTubeYouTube,
32
92188
4481
Es klingt ziemlich seltsam, aber wenn man
auf YouTube "Überraschungseier" sucht,
01:48
it'lles wird tell you there's
10 millionMillion of these videosVideos,
33
96693
3523
wird einem angezeigt, dass es
10 Millionen dieser Videos gibt,
und ich halte das für eine Untertreibung.
01:52
and I think that's an undercountUnterzahl.
34
100240
1657
01:53
I think there's way, way more of these.
35
101921
1897
Ich denke, es gibt noch viel mehr.
01:55
If you keep searchingSuche, they're endlessendlos.
36
103842
2242
Wenn man weitersucht, ist es endlos.
01:58
There's millionsMillionen and millionsMillionen
of these videosVideos
37
106108
2159
Es gibt Millionen von diesen Videos
02:00
in increasinglyzunehmend baroqueBarock combinationsKombinationen
of brandsMarken and materialsMaterialien,
38
108291
3454
mit zunehmend seltsamen Kombinationen
von Marken und Material,
02:03
and there's more and more of them
beingSein uploadedhochgeladen everyjeden singleSingle day.
39
111769
3846
und tagtäglich werden mehr
und mehr dieser Videos hochgeladen.
02:07
Like, this is a strangekomisch worldWelt. Right?
40
115639
3511
Was für eine komische Welt, nicht wahr?
02:11
But the thing is, it's not adultsErwachsene
who are watchingAufpassen these videosVideos.
41
119174
3383
Aber die Sache ist, dass es nicht
Erwachsene sind, die diese Videos sehen.
02:14
It's kidsKinder, smallklein childrenKinder.
42
122581
2921
Es sind Kinder, kleine Kinder.
02:17
These videosVideos are
like crackRiss for little kidsKinder.
43
125526
2154
Kleine Kinder sind süchtig nach sowas.
02:19
There's something about the repetitionWiederholung,
44
127704
2075
Irgendetwas an den Wiederholungen,
02:21
the constantKonstante little
dopamineDopamin hitschlagen of the revealverraten,
45
129803
2468
den permanenten kleinen
Dopaminschüben bei der Enthüllung,
02:24
that completelyvollständig hooksHaken them in.
46
132295
1866
fasziniert sie total.
02:26
And little kidsKinder watch these videosVideos
over and over and over again,
47
134185
4809
Kleine Kinder sehen sich diese Videos
immer und immer und immer wieder an
02:31
and they do it for hoursStd.
and hoursStd. and hoursStd..
48
139018
2327
und sie tun das stundenlang.
02:33
And if you try and take
the screenBildschirm away from them,
49
141369
2356
Wenn man versucht,
ihnen den Bildschirm wegzunehmen,
02:35
they'llsie werden screamSchrei and screamSchrei and screamSchrei.
50
143749
1782
werden sie unermüdlich schreien.
02:37
If you don't believe me --
51
145555
1262
Wenn Sie mir nicht glauben --
02:38
and I've alreadybereits seengesehen people
in the audiencePublikum noddingNicken --
52
146841
2607
und ich sehe schon,
wie einige im Publikum nicken --
02:41
if you don't believe me, find someonejemand
with smallklein childrenKinder and askFragen them,
53
149472
3391
wenn Sie mir nicht glauben,
fragen Sie Leute mit kleinen Kindern
02:44
and they'llsie werden know about
the surpriseüberraschen eggEi videosVideos.
54
152887
2340
und sie werden von den
Überraschungsei-Videos wissen.
02:47
So this is where we startAnfang.
55
155251
2070
Also hier fangen wir an.
02:49
It's 2018, and someonejemand, or lots of people,
56
157345
3642
Es ist 2018 und jemand,
vielleicht sogar viele Menschen,
02:53
are usingmit the samegleich mechanismMechanismus that, like,
FacebookFacebook and InstagramInstagram are usingmit
57
161011
3941
nutzen denselben Mechanismus,
den Facebook und Instagram benutzen,
02:56
to get you to keep checkingÜberprüfung that appApp,
58
164976
1989
der Sie dazu bringt,
die App ständig zu öffnen,
02:58
and they're usingmit it on YouTubeYouTube
to hackhacken the brainsGehirne of very smallklein childrenKinder
59
166989
3985
und sie nutzen ihn auf YouTube, um
das Gehirn sehr kleiner Kindern zu hacken,
03:02
in returnRückkehr for advertisingWerbung revenueEinnahmen.
60
170998
1958
um damit Werbeeinnahmen zu erzielen.
03:06
At leastam wenigsten, I hopeHoffnung
that's what they're doing.
61
174346
2001
Ich hoffe jedenfalls,
das ist es, was sie tun.
03:08
I hopeHoffnung that's what they're doing it for,
62
176371
1955
Ich hoffe, dass es der Grund ist,
03:10
because there's easiereinfacher waysWege
of makingHerstellung adAnzeige revenueEinnahmen on YouTubeYouTube.
63
178350
5308
denn es gibt einfachere Möglichkeiten,
Werbeeinnahmen auf YouTube zu erzielen.
03:15
You can just make stuffSachen up or stealstehlen stuffSachen.
64
183682
2332
Man kann einfach etwas
erfinden oder klauen.
03:18
So if you searchSuche for really
popularBeliebt kids'Kinder cartoonsKarikaturen
65
186038
2635
Wenn Sie also nach
sehr beliebten Kinderserien
wie "Peppa Wutz" oder "Paw Patrol" suchen,
03:20
like "PeppaPeppa PigSchwein" or "Pawpfote PatrolPatrouille,"
66
188697
1654
werden Sie feststellen, dass es
auch sie millionenfach online gibt.
03:22
you'lldu wirst find there's millionsMillionen and millionsMillionen
of these onlineonline as well.
67
190375
3147
03:25
Of courseKurs, mostdie meisten of them aren'tsind nicht postedGesendet
by the originalOriginal contentInhalt creatorsSchöpfer.
68
193546
3352
Die meisten stammen natürlich nicht
von den Machern der Sendungen,
03:28
They come from loadsLadungen and loadsLadungen
of differentanders randomzufällig accountsKonten,
69
196922
2999
sondern von vielen verschiedenen,
beliebigen Konten,
03:31
and it's impossibleunmöglich to know
who'swer ist postingEntsendung them
70
199945
2240
und es ist unmöglich zu wissen,
wer sie veröffentlicht
03:34
or what theirihr motivesMotive mightMacht be.
71
202209
1822
oder was ihre Absichten sein könnten.
03:36
Does that soundklingen kindArt of familiarfamiliär?
72
204428
1930
Kommt Ihnen das bekannt vor?
03:38
Because it's exactlygenau the samegleich mechanismMechanismus
73
206382
1980
Es ist nämlich genau derselbe Mechanismus,
03:40
that's happeningHappening acrossüber mostdie meisten
of our digitaldigital servicesDienstleistungen,
74
208386
2600
den wir auch in den meisten
unserer digitalen Dienste sehen,
03:43
where it's impossibleunmöglich to know
where this informationInformation is comingKommen from.
75
211010
3207
wo es unmöglich ist, zu wissen,
woher die Informationen kommen.
03:46
It's basicallyGrundsätzlich gilt fakeFälschung newsNachrichten for kidsKinder,
76
214241
1829
Es sind im Prinzip Fake News für Kinder
03:48
and we're trainingAusbildung them from birthGeburt
77
216094
2161
und wir trainieren sie von Geburt an,
03:50
to clickklicken on the very first linkVerknüpfung
that comeskommt alongeine lange,
78
218279
2506
auf den allerersten Link
zu klicken, der erscheint,
03:52
regardlessungeachtet of what the sourceQuelle is.
79
220809
1953
unabhängig davon, was die Quelle ist.
03:54
That's doesn't seemscheinen like
a terriblyfürchterlich good ideaIdee.
80
222786
2603
Das scheint keine sehr gute Idee zu sein.
03:58
Here'sHier ist anotherein anderer thing
that's really biggroß on kids'Kinder YouTubeYouTube.
81
226399
2710
Eine weitere Sache, die auf
Kinder-YouTube sehr populär ist:
04:01
This is callednamens the "FingerFinger FamilyFamilie SongLied."
82
229133
1928
Es nennt sich der "Finger Family Song".
04:03
I just heardgehört someonejemand groanStöhnen
in the audiencePublikum.
83
231085
2018
Jemand im Publikum hat gerade aufgestöhnt.
04:05
This is the "FingerFinger FamilyFamilie SongLied."
84
233127
1624
Das ist der "Finger Family Song".
04:06
This is the very first one I could find.
85
234775
1930
Das ist das erste Video,
das ich finden konnte.
04:08
It's from 2007, and it only has
200,000 viewsAnsichten,
86
236729
2829
Es ist von 2007 und
hat nur 200.000 Aufrufe,
was in diesem Spiel so gut wie nichts ist.
04:11
whichwelche is, like, nothing in this gameSpiel.
87
239582
1976
04:13
But it has this insanelywahnsinnig earwormyearwormy tuneTune,
88
241582
2852
Aber das Lied ist so ein
wahnsinniger Ohrwurm
04:16
whichwelche I'm not going to playspielen to you,
89
244458
1682
und ich spiele es Ihnen nicht vor,
04:18
because it will searanbraten itselfselbst
into your brainGehirn
90
246164
2008
da es sich in Ihr Gehirn einbrennen wird,
04:20
in the samegleich way that
it searedangebraten itselfselbst into mineBergwerk,
91
248196
2395
genauso wie es sich
in meines eingebrannt hat,
04:22
and I'm not going to do that to you.
92
250615
1770
und das will ich Ihnen nicht antun.
04:24
But like the surpriseüberraschen eggsEiern,
93
252409
1344
Aber wie die Überraschungsei-Videos
04:25
it's got insideinnen kids'Kinder headsKöpfe
94
253777
2164
ist es in die Köpfe der Kinder gelangt
und hat sie süchtig danach gemacht.
04:27
and addictedsüchtig them to it.
95
255965
1607
04:29
So withininnerhalb a fewwenige yearsJahre,
these fingerFinger familyFamilie videosVideos
96
257596
2531
Innerhalb weniger Jahre beginnen
diese Finger-Family-Videos also,
04:32
startAnfang appearingerscheint everywhereüberall,
97
260151
1303
überall zu sein,
04:33
and you get versionsVersionen
in differentanders languagesSprachen
98
261478
2029
und es gibt verschiedene Sprachversionen
04:35
with popularBeliebt kids'Kinder cartoonsKarikaturen usingmit foodLebensmittel
99
263531
2121
mit beliebten Kinderserien, die Essen,
oder, um ehrlich zu sein,
04:37
or, franklyoffen, usingmit whateverwas auch immer kindArt
of animationAnimation elementsElemente
100
265676
2550
alle Arten von Animationselementen,
04:40
you seemscheinen to have lyingliegend around.
101
268250
2252
die man gerade hat, verwenden.
04:43
And onceEinmal again, there are millionsMillionen
and millionsMillionen and millionsMillionen of these videosVideos
102
271002
5197
Auch hier gibt es Millionen
und Abermillionen dieser Videos,
04:48
availableverfügbar onlineonline in all of these
kindArt of insanewahnsinnig combinationsKombinationen.
103
276223
3435
die online in all diesen verrückten
Kombinationen verfügbar sind.
04:51
And the more time
you startAnfang to spendverbringen with them,
104
279682
2228
Je mehr Zeit Sie damit verbringen,
04:53
the crazierverrückter and crazierverrückter
you startAnfang to feel that you mightMacht be.
105
281934
3694
desto mehr haben Sie das Gefühl,
dass Sie verrückt sind.
04:57
And that's where I
kindArt of launchedgestartet into this,
106
285652
3333
Deswegen fing ich an,
mich damit auseinanderzusetzen,
05:01
that feelingGefühl of deeptief strangenessFremdheit
and deeptief lackMangel of understandingVerstehen
107
289009
3666
weil es so tiefgreifend absurd
und unverständlich ist,
05:04
of how this thing was constructedgebaut
that seemsscheint to be presentedvorgeführt around me.
108
292699
4175
wie das Ganze konstruiert wurde,
was man mir hier offenbar präsentiert.
05:08
Because it's impossibleunmöglich to know
where these things are comingKommen from.
109
296898
3167
Denn es ist unmöglich, zu wissen,
woher diese Dinge kommen.
05:12
Like, who is makingHerstellung them?
110
300089
1241
Wer produziert sie?
Einige von ihnen scheinen von Teams
professioneller Animatoren zu stammen.
05:13
Some of them appearerscheinen to be madegemacht
of teamsTeams of professionalProfessionel animatorsAnimatoren.
111
301354
3143
05:16
Some of them are just randomlynach dem Zufallsprinzip
assembledgebaut by softwareSoftware.
112
304521
2882
Andere wurden einfach zufällig
per Software zusammengestellt.
05:19
Some of them are quiteganz wholesome-lookinggesund aussehend
youngjung kids'Kinder entertainersUnterhalter.
113
307427
4253
Wieder andere sind ganz gesund aussehende
Unterhaltungskünstler für Kinder.
05:23
And some of them are from people
114
311704
1552
Und manche sind von Menschen,
05:25
who really clearlydeutlich
shouldn'tsollte nicht be around childrenKinder at all.
115
313280
3007
die ganz klar nichts mit Kindern
zu tun haben sollten.
05:28
(LaughterLachen)
116
316311
1615
(Lachen)
05:30
And onceEinmal again, this impossibilityUnmöglichkeit
of figuringaufstellend out who'swer ist makingHerstellung this stuffSachen --
117
318987
4640
Wieder ist es unmöglich,
herauszufinden, wer dieses Zeug macht.
05:35
like, this is a botbot?
118
323651
1156
Ist es ein Bot?
05:36
Is this a personPerson? Is this a trollTroll?
119
324831
2647
Ist es eine Person? Ist es ein Troll?
05:39
What does it mean
that we can't tell the differenceUnterschied
120
327502
2382
Was bedeutet es,
dass wir den Unterschied zwischen
diesen Dingen nicht mehr erkennen?
05:41
betweenzwischen these things anymorenicht mehr?
121
329908
1583
05:43
And again, doesn't that uncertaintyUnsicherheit
feel kindArt of familiarfamiliär right now?
122
331515
4848
Und wieder: Fühlt sich diese Unsicherheit
nicht irgendwie vertraut an?
05:50
So the mainMain way people get viewsAnsichten
on theirihr videosVideos --
123
338145
2580
Die gängigste Art und Weise,
wie man Videoaufrufe bekommt --
05:52
and remembermerken, viewsAnsichten mean moneyGeld --
124
340749
1707
und bedenken Sie, Aufrufe bedeuten Geld --
05:54
is that they stuffSachen the titlesTitel
of these videosVideos with these popularBeliebt termsBegriffe.
125
342480
4742
ist, diese populären Begriffe
in die Titel dieser Videos zu packen.
05:59
So you take, like, "surpriseüberraschen eggsEiern"
126
347246
1687
Sie nehmen zum Beispiel
"Überraschungseier"
06:00
and then you addhinzufügen
"Pawpfote PatrolPatrouille," "EasterOstern eggEi,"
127
348957
2066
und fügen "Paw Patrol", "Osterei"
06:03
or whateverwas auch immer these things are,
128
351047
1393
oder was auch immer,
06:04
all of these wordsWörter from other
popularBeliebt videosVideos into your titleTitel,
129
352464
2893
all diese Worte aus anderen
populären Videos in Ihren Titel ein,
06:07
untilbis you endEnde up with this kindArt of
meaninglessbedeutungslos mashMaische of languageSprache
130
355381
2968
bis Sie am Ende eine Art
bedeutungslosen Sprachbrei haben,
06:10
that doesn't make senseSinn to humansMenschen at all.
131
358373
2498
der für Menschen
überhaupt keinen Sinn ergibt.
06:12
Because of courseKurs it's only really
tinysehr klein kidsKinder who are watchingAufpassen your videoVideo,
132
360895
3546
Weil sich natürlich nur ganz kleine Kinder
diese Videos ansehen
06:16
and what the hellHölle do they know?
133
364465
1827
und was zum Teufel wissen sie schon?
06:18
Your realecht audiencePublikum
for this stuffSachen is softwareSoftware.
134
366316
3007
Das wirkliche Publikum
für dieses Zeug ist Software.
06:21
It's the algorithmsAlgorithmen.
135
369347
1156
Es sind die Algorithmen.
06:22
It's the softwareSoftware that YouTubeYouTube usesVerwendungen
136
370527
1855
Es ist die Software, die YouTube benutzt,
06:24
to selectwählen whichwelche videosVideos
are like other videosVideos,
137
372406
2483
um auszuwählen, welche Videos
wie andere Videos sind,
06:26
to make them popularBeliebt,
to make them recommendedempfohlen.
138
374913
2243
um sie populär zu machen,
um sie zu empfehlen.
06:29
And that's why you endEnde up with this
kindArt of completelyvollständig meaninglessbedeutungslos mashMaische,
139
377180
3461
Deshalb kommt diese Art von
völlig bedeutungslosem Brei heraus,
06:32
bothbeide of titleTitel and of contentInhalt.
140
380665
2071
sowohl was den Titel
als auch den Inhalt betrifft.
06:35
But the thing is, you have to remembermerken,
141
383792
1894
Aber die Sache ist die,
Sie müssen bedenken,
06:37
there really are still people withininnerhalb
this algorithmicallyalgorithmisch optimizedoptimiert systemSystem,
142
385710
4478
dass in diesem algorithmisch optimierten
System wirklich noch Menschen stecken,
06:42
people who are kindArt
of increasinglyzunehmend forcedgezwungen to actHandlung out
143
390212
2790
Menschen, die quasi immer mehr
dazu gezwungen werden,
06:45
these increasinglyzunehmend bizarreBizarre
combinationsKombinationen of wordsWörter,
144
393026
3066
diese immer absurderen
Wortkombinationen zu verwenden,
06:48
like a desperateverzweifelt improvisationImprovisation artistKünstler
respondingreagieren to the combinedkombiniert screamsSchreie
145
396116
5173
wie ein verzweifelter Impro-Künstler,
der auf die kombinierten Schreie
06:53
of a millionMillion toddlersKleinkinder at onceEinmal.
146
401313
2203
von einer Million Kleinkindern
auf einmal reagiert.
06:57
There are realecht people
trappedgefangen withininnerhalb these systemsSysteme,
147
405168
2468
In diesen Systemen sind
echte Menschen gefangen
und das ist das andere sehr Seltsame an
dieser algorithmisch gesteuerten Kultur,
06:59
and that's the other deeplytief strangekomisch thing
about this algorithmicallyalgorithmisch drivenGefahren cultureKultur,
148
407660
4055
denn selbst wenn man ein Mensch ist,
07:03
because even if you're humanMensch,
149
411739
1381
07:05
you have to endEnde up behavingVerhalten like a machineMaschine
150
413144
2145
muss man sich am Ende
wie eine Maschine verhalten,
07:07
just to surviveüberleben.
151
415313
1800
um zu überleben.
07:09
And alsoebenfalls, on the other sideSeite of the screenBildschirm,
152
417137
2100
Auf der anderen Seite des Bildschirms
07:11
there still are these little kidsKinder
watchingAufpassen this stuffSachen,
153
419261
2947
gibt es immer noch diese kleinen Kinder,
die dieses Zeug schauen,
07:14
stuckfest, theirihr fullvoll attentionAufmerksamkeit grabbedschnappte
by these weirdseltsam mechanismsMechanismen.
154
422232
4206
gefesselt, ihre volle Aufmerksamkeit
von diesen seltsamen Mechanismen erfasst.
07:18
And mostdie meisten of these kidsKinder are too smallklein
to even use a websiteWebseite.
155
426768
2798
Die meisten dieser Kinder sind zu klein,
um überhaupt eine Website zu nutzen.
07:21
They're just kindArt of hammeringHämmern
on the screenBildschirm with theirihr little handsHände.
156
429590
3276
Sie hämmern nur mit ihren Händchen
auf dem Bildschirm herum.
07:24
And so there's autoplayAutoplay,
157
432890
1217
Und dann ist da Autoplay,
07:26
where it just keepshält playingspielen these videosVideos
over and over and over in a loopSchleife,
158
434131
3579
das diese Videos immer und immer
und immer wieder abspielt,
07:29
endlesslyendlos for hoursStd. and hoursStd. at a time.
159
437734
2059
stundenlang in Endlosschleife.
07:31
And there's so much weirdnessVerrücktheit
in the systemSystem now
160
439817
2843
Inzwischen gibt es
so viel Seltsames im System,
07:34
that autoplayAutoplay takes you
to some prettyziemlich strangekomisch placessetzt.
161
442684
3009
dass Autoplay einen an einige
ziemlich skurrile Orte führt.
07:37
This is how, withininnerhalb a dozenDutzend stepsSchritte,
162
445717
2488
So kann man in nur wenigen Schritten
07:40
you can go from a cuteniedlich videoVideo
of a countingZählen trainZug
163
448229
3158
von einem süßen Video eines Zählzuges
07:43
to masturbatingmasturbieren MickeyMickey MouseMaus.
164
451411
2442
zu einer masturbierenden
Micky Maus gelangen.
07:46
Yeah. I'm sorry about that.
165
454529
2288
Ja. Das tut mir leid.
07:48
This does get worseschlechter.
166
456841
1700
Es wird noch schlimmer.
07:50
This is what happensdas passiert
167
458565
1282
Das passiert,
07:51
when all of these differentanders keywordsSchlüsselwörter,
168
459871
3086
wenn all diese verschiedenen Schlagwörter,
07:54
all these differentanders piecesStücke of attentionAufmerksamkeit,
169
462981
2461
all diese verschiedenen Aufmerksamkeiten,
07:57
this desperateverzweifelt generationGeneration of contentInhalt,
170
465466
2807
diese verzweifelte Erzeugung von Inhalten
08:00
all comeskommt togetherzusammen into a singleSingle placeOrt.
171
468297
2582
an einem einzigen Ort zusammenkommen.
08:03
This is where all those deeplytief weirdseltsam
keywordsSchlüsselwörter come home to roostRoost.
172
471871
4472
Hier kommen all diese äußerst merkwürdigen
Suchbegriffe nach Hause, um zu ruhen.
08:08
You cross-breedKreuzung the fingerFinger familyFamilie videoVideo
173
476367
2391
Man kreuzt das Video der Fingerfamilie
08:10
with some live-actionLive-Action superheroSuperheld stuffSachen,
174
478782
2088
mit einigen lebensechten Superhelden,
08:12
you addhinzufügen in some weirdseltsam,
trollishtrollish in-jokesin-witze or something,
175
480894
3256
fügt einige komische, trollische
Insiderwitze oder so etwas hinzu
08:16
and suddenlyplötzlich, you come
to a very weirdseltsam placeOrt indeedtatsächlich.
176
484174
3366
und plötzlich landet man an einem
wirklich sehr befremdlichen Ort.
08:19
The stuffSachen that tendsneigt to upsetverärgert parentsEltern
177
487564
2113
Das Zeug, das Eltern
normalerweise verärgert,
08:21
is the stuffSachen that has kindArt of violentheftig
or sexualsexuell contentInhalt, right?
178
489701
3331
ist das Zeug, das gewalttätige
oder sexuelle Inhalte hat, nicht wahr?
08:25
Children'sKinder- cartoonsKarikaturen gettingbekommen assaultedangegriffen,
179
493056
2822
Zeichentrickfiguren werden angegriffen,
08:27
gettingbekommen killedermordet,
180
495902
2018
getötet,
08:29
weirdseltsam pranksStreiche that actuallytatsächlich
genuinelywirklich terrifyerschrecken childrenKinder.
181
497944
3343
absurde Streiche, die Kindern
wirklich richtige Angst einjagen.
08:33
What you have is softwareSoftware pullingziehen in
all of these differentanders influencesEinflüsse
182
501311
3675
Was Sie hier haben, ist Software,
die diese ganzen Einflüsse zusammenbringt
08:37
to automaticallyautomatisch generategenerieren
kids'Kinder worstam schlimmsten nightmaresAlpträume.
183
505010
2961
und so automatisch die schlimmsten
Albträume von Kindern erzeugt.
08:39
And this stuffSachen really, really
does affectbeeinflussen smallklein childrenKinder.
184
507995
2701
Dieses Zeug hat echte
Auswirkungen auf kleine Kinder.
08:42
ParentsEltern reportBericht theirihr childrenKinder
beingSein traumatizedtraumatisiert,
185
510720
2866
Eltern berichten,
dass ihre Kinder traumatisiert sind,
Angst vor der Dunkelheit bekommen,
08:45
becomingWerden afraidAngst of the darkdunkel,
186
513610
1392
08:47
becomingWerden afraidAngst of theirihr favoriteFavorit
cartoonKarikatur charactersFiguren.
187
515026
3050
Angst vor ihren liebsten
Zeichentrickfiguren bekommen.
08:50
If you take one thing away from this,
it's that if you have smallklein childrenKinder,
188
518524
3611
Wenn man eine Sache hier mitnimmt,
ist es die: Wenn Sie kleine Kinder haben,
08:54
keep them the hellHölle away from YouTubeYouTube.
189
522159
1996
halten Sie sie verdammt nochmal
von YouTube fern.
08:56
(ApplauseApplaus)
190
524743
3949
(Applaus)
09:02
But the other thing, the thing
that really getsbekommt to me about this,
191
530504
3096
Aber die andere Sache,
die mich wirklich beschäftigt,
ist, dass ich nicht weiß,
09:05
is that I'm not sure we even really
understandverstehen how we got to this pointPunkt.
192
533624
4629
ob wir überhaupt wirklich verstehen,
wie wir an diesen Punkt gekommen sind.
09:10
We'veWir haben takengenommen all of this influenceEinfluss,
all of these things,
193
538951
2931
Wir haben diese ganzen Einflüsse
und all diese Dinge genommen
09:13
and mungedmunged them togetherzusammen in a way
that no one really intendedbeabsichtigt.
194
541906
2953
und sie so vermischt, wie es niemand
wirklich beabsichtigt hatte.
09:16
And yetnoch, this is alsoebenfalls the way
that we're buildingGebäude the entireganz worldWelt.
195
544883
3156
Dabei ist das die Art und Weise,
wie wir die ganze Welt konstruieren.
09:20
We're takingunter all of this dataDaten,
196
548063
1773
Wir nehmen all diese Daten,
09:21
a lot of it badschlecht dataDaten,
197
549860
1447
viele davon schlechte Daten,
09:23
a lot of historicalhistorisch dataDaten
fullvoll of prejudiceVorurteil,
198
551331
3029
viele historische Daten voller Vorurteile,
09:26
fullvoll of all of our worstam schlimmsten
impulsesImpulse of historyGeschichte,
199
554384
2837
voll von all unseren schlimmsten
Impulsen der Geschichte,
09:29
and we're buildingGebäude that
into hugeenorm dataDaten setssetzt
200
557245
2049
erstellen daraus riesige Datensätze
und anschließend automatisieren wir sie.
09:31
and then we're automatingAutomatisierung von it.
201
559318
1423
09:32
And we're mungingmunging it togetherzusammen
into things like creditKredit reportsBerichte,
202
560765
3502
Und wir verarbeiten sie
zu Dingen wie Kreditauskünften,
09:36
into insuranceVersicherung premiumsPrämien,
203
564291
1634
Versicherungsprämien,
09:37
into things like predictiveprädiktive
policingPolizeiarbeit systemsSysteme,
204
565949
2693
Systemen vorausschauender Polizeiarbeit,
09:40
into sentencingVerurteilung guidelinesRichtlinien.
205
568666
1762
Richtlinien zur Strafzumessung.
09:42
This is the way we're actuallytatsächlich
constructingkonstruieren the worldWelt todayheute
206
570452
2821
So konstruieren wir die heutige Welt
09:45
out of this dataDaten.
207
573297
1151
aus diesen Daten.
09:46
And I don't know what's worseschlechter,
208
574472
1698
Ich weiß nicht, was schlimmer ist,
09:48
that we builtgebaut a systemSystem
that seemsscheint to be entirelyvollständig optimizedoptimiert
209
576194
3228
dass wir ein System geschaffen haben,
das scheinbar vollständig
09:51
for the absoluteAbsolute worstam schlimmsten aspectsAspekte
of humanMensch behaviorVerhalten,
210
579446
2808
für die absolut schlimmsten Aspekte
des menschlichen Verhaltens optimiert ist,
09:54
or that we seemscheinen
to have doneerledigt it by accidentUnfall,
211
582278
2425
oder dass wir es aus Versehen taten,
09:56
withoutohne even realizingverwirklichen
that we were doing it,
212
584727
2207
ohne zu merken, dass wir es taten,
09:58
because we didn't really understandverstehen
the systemsSysteme that we were buildingGebäude,
213
586958
3382
weil wir die Systeme, die wir aufbauten,
nicht wirklich verstanden,
10:02
and we didn't really understandverstehen
how to do anything differentlyanders with it.
214
590364
3683
und wir nicht wirklich wussten,
wie man etwas anderes damit macht.
10:06
There's a couplePaar of things I think
that really seemscheinen to be drivingFahren this
215
594769
3365
Es gibt ein paar Dinge,
die das Ganze auf YouTube
10:10
mostdie meisten fullyvöllig on YouTubeYouTube,
216
598158
1189
am meisten voranzutreiben scheinen,
10:11
and the first of those is advertisingWerbung,
217
599371
1827
und das erste davon ist die Werbung,
10:13
whichwelche is the monetizationMonetarisierung of attentionAufmerksamkeit
218
601222
2837
sprich die Monetarisierung
von Aufmerksamkeit,
10:16
withoutohne any realecht other variablesVariablen at work,
219
604083
3136
ohne dass irgendwelche echten,
anderen Variablen am Werk sind,
10:19
any carePflege for the people who are
actuallytatsächlich developingEntwicklung this contentInhalt,
220
607243
3885
wie Sorge um die Menschen,
die diese Inhalte tatsächlich entwickeln,
10:23
the centralizationzentralisierung of the powerLeistung,
the separationTrennung of those things.
221
611152
3636
die Zentralisierung der Macht,
die Trennung dieser Dinge.
10:26
And I think howeveraber you feel
about the use of advertisingWerbung
222
614812
3144
Und ich glaube, egal wie Sie
zum Einsatz von Werbung stehen,
um Dinge zu verkaufen,
10:29
to kindArt of supportUnterstützung stuffSachen,
223
617980
1238
der Anblick von erwachsenen Männern
in Windeln, die im Sand herumrollen
10:31
the sightSicht of growngewachsen menMänner in diapersWindeln
rollingrollend around in the sandSand
224
619242
3067
10:34
in the hopeHoffnung that an algorithmAlgorithmus
that they don't really understandverstehen
225
622333
2983
in der Hoffnung, dass ein Algorithmus,
den sie nicht wirklich verstehen,
10:37
will give them moneyGeld for it
226
625340
1315
ihnen Geld dafür gibt,
10:38
suggestsschlägt vor that this
probablywahrscheinlich isn't the thing
227
626679
2037
legt nahe, dass dies wohl nicht das ist,
10:40
that we should be basingstützen
our societyGesellschaft and cultureKultur uponauf,
228
628740
2563
worauf wir unsere Gesellschaft
und Kultur gründen sollten,
10:43
and the way in whichwelche
we should be fundingFinanzierung it.
229
631327
2160
und wie wir sie finanzieren sollten.
10:45
And the other thing that's kindArt of
the majorHaupt driverTreiber of this is automationAutomatisierung,
230
633511
3519
Der andere wesentliche Antriebsfaktor
ist die Automatisierung,
sprich die Bereitstellung
dieser ganzen Technologie,
10:49
whichwelche is the deploymentBereitstellung
of all of this technologyTechnologie
231
637054
2329
sobald sie eintrifft,
ohne irgendeine Art von Kontrolle,
10:51
as soonbald as it arriveskommt an,
withoutohne any kindArt of oversightAufsicht,
232
639407
2521
10:53
and then onceEinmal it's out there,
233
641952
1412
und dann, sobald sie verfügbar ist,
werfen wir unsere Hände hoch und sagen:
10:55
kindArt of throwingwerfen up our handsHände and going,
"Hey, it's not us, it's the technologyTechnologie."
234
643388
3843
"Hey, das sind nicht wir,
es ist die Technologie."
10:59
Like, "We're not involvedbeteiligt in it."
235
647255
1642
"Wir haben damit nichts zu tun."
11:00
That's not really good enoughgenug,
236
648921
1767
Das ist nicht gut genug.
11:02
because this stuffSachen isn't
just algorithmicallyalgorithmisch governedregiert,
237
650712
2710
Denn dieses Zeug wird nicht nur
von Algorithmen gesteuert,
11:05
it's alsoebenfalls algorithmicallyalgorithmisch policedüberwacht.
238
653446
2498
es wird auch von Algorithmen kontrolliert.
11:07
When YouTubeYouTube first startedhat angefangen
to payZahlen attentionAufmerksamkeit to this,
239
655968
2848
Als YouTube zum ersten Mal
darauf aufmerksam wurde,
11:10
the first thing they said
they'dSie würden do about it
240
658840
2087
war das Erste, was sie tun wollten,
11:12
was that they'dSie würden deploybereitstellen
better machineMaschine learningLernen algorithmsAlgorithmen
241
660951
2695
bessere maschinelle
Lernalgorithmen einzusetzen,
11:15
to moderatemäßig the contentInhalt.
242
663670
1329
um den Inhalt zu moderieren.
11:17
Well, machineMaschine learningLernen,
as any expertExperte in it will tell you,
243
665023
3485
Nun, maschinelles Lernen,
wie jeder Experte bezeugen kann,
ist im Grunde genommen
nichts anderes als Software,
11:20
is basicallyGrundsätzlich gilt what we'vewir haben startedhat angefangen to call
244
668532
1896
von der wir nicht wirklich wissen,
wie sie funktioniert.
11:22
softwareSoftware that we don't really
understandverstehen how it worksWerke.
245
670452
2588
11:25
And I think we have
enoughgenug of that alreadybereits.
246
673064
3983
Ich denke, davon haben wir bereits genug.
11:29
We shouldn'tsollte nicht be leavingVerlassen
this stuffSachen up to AIAI to decideentscheiden
247
677071
3166
Wir sollten die Entscheidung nicht der KI
überlassen, was geeignet ist oder nicht,
11:32
what's appropriateangemessen or not,
248
680261
1251
denn wir wissen, was dann passiert.
11:33
because we know what happensdas passiert.
249
681536
1436
11:34
It'llEs werde startAnfang censoringZensur other things.
250
682996
1688
Es wird andere Dinge zensieren.
11:36
It'llEs werde startAnfang censoringZensur queerqueer contentInhalt.
251
684708
1783
Es wird Queer-Inhalte zensieren.
Es wird den legitimen,
öffentlichen Diskurs zensieren.
11:38
It'llEs werde startAnfang censoringZensur
legitimatelegitim publicÖffentlichkeit speechRede.
252
686515
2237
11:40
What's alloweddürfen in these discoursesDiskurse,
253
688776
1925
Was in diesen Diskursen erlaubt ist,
11:42
it shouldn'tsollte nicht be something
that's left up to unaccountableunerklärliche systemsSysteme.
254
690725
3097
sollte nicht von unverantwortlichen
Systemen bestimmt werden.
11:45
It's partTeil of a discussionDiskussion
all of us should be havingmit.
255
693846
2947
Es ist Teil einer Diskussion,
die wir alle führen sollten.
11:48
But I'd leaveverlassen a reminderErinnerung
256
696817
1308
Aber ich möchte Sie erinnern,
11:50
that the alternativeAlternative isn't
very pleasantangenehm, eitherentweder.
257
698149
2753
dass die Alternative
auch nicht sehr angenehm ist.
11:52
YouTubeYouTube alsoebenfalls announcedangekündigt recentlyvor kurzem
258
700926
1535
YouTube kündigte vor Kurzem an,
11:54
that they're going to releaseFreisetzung
a versionVersion of theirihr kids'Kinder appApp
259
702485
2767
dass sie eine Version ihrer Kinder-App
veröffentlichen werden,
11:57
that would be entirelyvollständig
moderatedmoderierte by humansMenschen.
260
705276
2407
die vollständig von Menschen betreut wird.
12:00
FacebookFacebook -- ZuckerbergZuckerberg said
much the samegleich thing at CongressKongress,
261
708134
3618
Facebook -- Zuckerberg sagte
etwas sehr Ähnliches vor dem Kongress,
12:03
when pressedgedrückt about how they
were going to moderatemäßig theirihr stuffSachen.
262
711776
2987
als er gefragt wurde,
wie sie ihre Sachen überwachen würden.
12:06
He said they'dSie würden have humansMenschen doing it.
263
714787
1747
Er sagte, dass es Menschen machen würden.
12:08
And what that really meansmeint is,
264
716558
1459
Was das wirklich bedeutet, ist:
12:10
insteadstattdessen of havingmit toddlersKleinkinder beingSein
the first personPerson to see this stuffSachen,
265
718041
3223
Anstatt dass Kleinkinder die Ersten sind,
die dieses Zeug sehen,
12:13
you're going to have underpaidunterbezahlt,
precariousprekäre contractVertrag workersArbeitskräfte
266
721288
2788
hat man nun unterbezahlte Vertragsarbeiter
ohne angemessene psychologische Betreuung,
12:16
withoutohne properordnungsgemäße mentalgeistig healthGesundheit supportUnterstützung
267
724100
1726
die davon auch noch geschädigt werden.
12:17
beingSein damagedbeschädigt by it as well.
268
725850
1376
12:19
(LaughterLachen)
269
727250
1096
(Lachen)
12:20
And I think we can all do
quiteganz a lot better than that.
270
728370
2601
Ich denke, wir können alle
viel mehr zustande bringen.
12:22
(ApplauseApplaus)
271
730995
2499
(Applaus)
12:26
The thought, I think, that bringsbringt those
two things togetherzusammen, really, for me,
272
734068
4613
Der Gedanke, der diese beiden Dinge
für mich wirklich zusammenbringt,
12:30
is agencyAgentur.
273
738705
1420
ist Handlungsfähigkeit.
12:32
It's like, how much do we really
understandverstehen -- by agencyAgentur, I mean:
274
740149
3157
Es geht darum, wie viel wir verstehen
-- mit Handlungsfähigkeit meine ich:
12:35
how we know how to actHandlung
in our ownbesitzen bestBeste interestsInteressen.
275
743330
4390
zu wissen, wie wir in unserem eigenen,
besten Interesse handeln können.
12:39
WhichDie -- it's almostfast impossibleunmöglich to do
276
747744
1787
Was fast unmöglich ist
12:41
in these systemsSysteme that we don't
really fullyvöllig understandverstehen.
277
749555
3485
in diesen Systemen, die wir
nicht wirklich vollständig verstehen.
12:45
Inequalityungleichheit of powerLeistung
always leadsführt to violenceGewalt.
278
753064
3071
Ungleiche Machtverhältnisse
führen immer zu Gewalt.
12:48
And we can see insideinnen these systemsSysteme
279
756159
1685
Diese Systeme zeigen uns,
12:49
that inequalityUngleichheit of understandingVerstehen
does the samegleich thing.
280
757868
2611
dass ungleiches Verständnis
dasselbe bewirkt.
12:52
If there's one thing that we can do
to startAnfang to improveverbessern these systemsSysteme,
281
760503
3779
Wenn es eine Möglichkeit gibt,
zu beginnen, diese Systeme zu verbessern,
12:56
it's to make them more legiblegut lesbar
to the people who use them,
282
764306
2718
ist es, sie für Nutzer
verständlicher zu machen,
12:59
so that all of us have
a commonverbreitet understandingVerstehen
283
767048
2196
sodass wir alle zu einem gemeinsamen
Verständnis dessen gelangen,
13:01
of what's actuallytatsächlich going on here.
284
769268
1851
was hier tatsächlich vor sich geht.
13:03
The thing, thoughobwohl, I think
mostdie meisten about these systemsSysteme
285
771970
2968
Jedoch denke ich, das Wichtigste
an diesen Systemen ist, dass es,
13:06
is that this isn't, as I hopeHoffnung
I've explainederklärt, really about YouTubeYouTube.
286
774962
3857
wie ich hoffentlich erklärt habe,
nicht wirklich um YouTube geht.
13:10
It's about everything.
287
778843
1312
Es geht um alles.
13:12
These issuesProbleme of accountabilityRechenschaftspflicht and agencyAgentur,
288
780179
2444
Themen wie Verantwortlichkeit
und Handlungsfähigkeit,
13:14
of opacityDeckkraft and complexityKomplexität,
289
782647
2225
Intransparenz und Komplexität,
13:16
of the violenceGewalt and exploitationAusbeutung
that inherentlyvon Natur aus resultsErgebnisse
290
784896
3177
Gewalt und Ausbeutung,
13:20
from the concentrationKonzentration
of powerLeistung in a fewwenige handsHände --
291
788097
2794
was zwangsläufig aus der Konzentration
von Macht in wenigen Händen resultiert --
13:22
these are much, much largergrößer issuesProbleme.
292
790915
2579
das sind viel, viel größere Themen.
Es sind keine Themen, die nur YouTube
und Technologie im Allgemeinen betreffen,
13:26
And they're issuesProbleme not just of YouTubeYouTube
and not just of technologyTechnologie in generalGeneral,
293
794395
3687
13:30
and they're not even newneu.
294
798106
1265
und sie sind nicht einmal neu.
13:31
They'veSie haben been with us for agesAlter.
295
799395
1461
Sie begleiten uns schon ewig.
13:32
But we finallyendlich builtgebaut this systemSystem,
this globalglobal systemSystem, the internetInternet,
296
800880
4390
Aber schließlich haben wir dieses
globale System, das Internet, entwickelt,
13:37
that's actuallytatsächlich showingzeigt them to us
in this extraordinaryaußergewöhnlich way,
297
805294
3019
das sie uns auf diese
außergewöhnliche Art und Weise vorführt
13:40
makingHerstellung them undeniablenicht zu leugnen.
298
808337
1547
und sie unbestreitbar macht.
13:41
TechnologyTechnologie has this extraordinaryaußergewöhnlich capacityKapazität
299
809908
2820
Technologie hat diese
außergewöhnliche Fähigkeit,
13:44
to bothbeide instantiateInstanziieren and continuefortsetzen
300
812752
3973
all unsere außergewöhnlichsten,
13:48
all of our mostdie meisten extraordinaryaußergewöhnlich,
oftenhäufig hiddenversteckt desiresWünsche and biasesVorurteile
301
816749
4248
oft verdeckten Wünsche und Vorurteile
zu instanziieren und weiterzuentwickeln
13:53
and encodingCodierung them into the worldWelt,
302
821021
1866
und sie in die Welt zu kodieren,
13:54
but it alsoebenfalls writesschreibt them down
so that we can see them,
303
822911
3474
aber sie schreibt sie auch auf,
damit wir sie sehen können,
13:58
so that we can't pretendso tun als ob
they don't existexistieren anymorenicht mehr.
304
826409
3330
damit wir nicht so tun können,
als ob sie nicht mehr existieren.
14:01
We need to stop thinkingDenken about technologyTechnologie
as a solutionLösung to all of our problemsProbleme,
305
829763
4319
Wir müssen aufhören, Technologie als
Lösung für all unsere Probleme zu sehen
und sie stattdessen
als Leitfaden betrachten,
14:06
but think of it as a guideführen
to what those problemsProbleme actuallytatsächlich are,
306
834106
3757
um herauszufinden, was
diese Probleme tatsächlich sind,
14:09
so we can startAnfang thinkingDenken
about them properlyrichtig
307
837887
2144
damit wir anfangen können, richtig
über sie nachzudenken und sie anzugehen.
14:12
and startAnfang to addressAdresse them.
308
840055
1766
14:13
Thank you very much.
309
841845
1335
Vielen Dank.
14:15
(ApplauseApplaus)
310
843204
5192
(Applaus)
14:21
Thank you.
311
849733
1188
Danke.
14:22
(ApplauseApplaus)
312
850945
2869
(Applaus)
14:28
HelenHelen WaltersWalters: JamesJames, thank you
for comingKommen and givinggeben us that talk.
313
856839
3178
Helen Walters: James, danke
fürs Kommen und für den Vortrag.
14:32
So it's interestinginteressant:
314
860041
1189
Es ist interessant:
14:33
when you think about the filmsFilme where
the roboticRoboter overlordsOberherren take over,
315
861254
3495
Wenn man an die Filme denkt, in denen die
Roboter-Oberherren die Macht ergreifen,
14:36
it's all a bitBit more glamorousglamourös
than what you're describingbeschreibend.
316
864773
3279
wirkt das alles etwas glamouröser
als das, was du beschreibst.
14:40
But I wonderWunder -- in those filmsFilme,
you have the resistanceWiderstand mountingMontage.
317
868076
3749
Aber ich frage mich -- in diesen Filmen
hat man einen wachsenden Widerstand.
14:43
Is there a resistanceWiderstand mountingMontage
towardsin Richtung this stuffSachen?
318
871849
3216
Gibt es auch einen wachsenden
Widerstand gegen dieses Zeug?
14:47
Do you see any positivepositiv signsSchilder,
greenGrün shootsschießt of resistanceWiderstand?
319
875089
3796
Siehst du irgendwelche positiven Signale,
erste Anzeichen eines Widerstandes?
James Bridle: Ich weiß nichts
von direktem Widerstand,
14:52
JamesJames Bridlezaum: I don't know
about directdirekt resistanceWiderstand,
320
880507
2416
14:54
because I think this stuffSachen
is superSuper long-termlangfristig.
321
882947
2264
weil ich denke, dieses Zeug
ist super langfristig.
14:57
I think it's bakedgebacken into cultureKultur
in really deeptief waysWege.
322
885235
2510
Es hat sich tief
in die Kultur eingebrannt.
14:59
A friendFreund of mineBergwerk,
EleanorEleanor SaittaSaitta, always sayssagt
323
887769
2132
Eine Freundin von mir,
Eleanor Saitta, sagt immer,
15:01
that any technologicaltechnologisch problemsProbleme
of sufficientausreichende scaleRahmen and scopeUmfang
324
889935
3609
dass alle technologischen Probleme
von ausreichendem Umfang und Ausmaß
15:05
are politicalpolitisch problemsProbleme first of all.
325
893568
2267
zuallererst politische Probleme sind.
15:07
So all of these things we're workingArbeiten
to addressAdresse withininnerhalb this
326
895859
2785
All diese Dinge, an deren
Lösung wir arbeiten,
werden nicht einfach dadurch behoben,
dass wir die Technologie verbessern,
15:10
are not going to be addressedangesprochen
just by buildingGebäude the technologyTechnologie better,
327
898668
3274
sondern indem wir die Gesellschaft
verändern, die diese Technologien erzeugt.
15:13
but actuallytatsächlich by changingÄndern the societyGesellschaft
that's producingproduzierend these technologiesTechnologien.
328
901966
3464
15:17
So no, right now, I think we'vewir haben got
a hellHölle of a long way to go.
329
905454
3027
Also nein, ich denke, im Moment haben wir
einen verdammt langen Weg vor uns.
15:20
But as I said, I think by unpackingAuspacken them,
330
908505
1986
Aber wie gesagt,
indem wir sie erklären
und ehrlich über sie sprechen,
15:22
by explainingErklären them, by talkingim Gespräch
about them superSuper honestlyehrlich,
331
910515
2697
können wir wenigstens anfangen,
diesen Prozess zu beginnen.
15:25
we can actuallytatsächlich startAnfang
to at leastam wenigsten beginStart that processverarbeiten.
332
913236
2505
15:27
HWHW: And so when you talk about
legibilityLesbarkeit and digitaldigital literacyAlphabetisierung,
333
915765
3562
HW: Wenn du über Verständlichkeit
und digitale Kompetenz sprichst,
15:31
I find it difficultschwer to imaginevorstellen
334
919351
1591
finde ich es schwer, zu glauben,
15:32
that we need to placeOrt the burdenBelastung
of digitaldigital literacyAlphabetisierung on usersBenutzer themselvessich.
335
920966
3680
dass wir die Last der digitalen Kompetenz
auf die Nutzer selbst abwälzen sollten.
15:36
But whosederen responsibilityVerantwortung
is educationBildung in this newneu worldWelt?
336
924670
4562
Aber wessen Verantwortung ist
die Bildung in dieser neuen Welt?
15:41
JBJB: Again, I think this responsibilityVerantwortung
is kindArt of up to all of us,
337
929256
3612
JB: Nochmals, ich denke,
diese Verantwortung liegt bei uns allen,
15:44
that everything we do,
everything we buildbauen, everything we make,
338
932892
2984
dass alles, was wir tun, alles,
was wir entwickeln, alles, was wir machen,
15:47
needsBedürfnisse to be madegemacht
in a consensualeinvernehmliche discussionDiskussion
339
935900
3692
in einer einvernehmlichen
Diskussion stattfinden muss,
15:51
with everyonejeder who'swer ist avoidingvermeidend it;
340
939616
1940
mit allen, die es vermeiden;
15:53
that we're not buildingGebäude systemsSysteme
intendedbeabsichtigt to trickTrick and surpriseüberraschen people
341
941580
4341
dass wir keine Systeme entwickeln,
die Menschen überlisten oder überraschen,
15:57
into doing the right thing,
342
945945
2300
damit sie das Richtige tun,
16:00
but that they're actuallytatsächlich involvedbeteiligt
in everyjeden stepSchritt in educatingerziehen them,
343
948269
3236
sondern dass sie vielmehr an jedem Schritt
der Bildung beteiligt sind,
16:03
because eachjede einzelne of these systemsSysteme
is educationalBildungs.
344
951529
2278
denn jedes dieser Systeme ist lehrreich.
Das ist es, was mir Hoffnung gibt,
selbst bei diesem sehr düsteren Zeug,
16:05
That's what I'm hopefulhoffnungsvoll about,
about even this really grimgrimmig stuffSachen,
345
953831
3102
16:08
that if you can take it
and look at it properlyrichtig,
346
956957
2262
dass, wenn man es nehmen
und richtig betrachten kann,
16:11
it's actuallytatsächlich in itselfselbst
a pieceStück of educationBildung
347
959243
2089
es an sich schon ein Stück Bildung ist,
16:13
that allowserlaubt you to startAnfang seeingSehen
how complexKomplex systemsSysteme come togetherzusammen and work
348
961356
3762
das es ermöglicht, zu sehen, wie komplexe
Systeme zusammenkommen und funktionieren
16:17
and maybe be ablefähig to applysich bewerben
that knowledgeWissen elsewhereanderswo in the worldWelt.
349
965142
3501
und dieses Wissen vielleicht
an anderer Stelle auf der Welt anzuwenden.
16:20
HWHW: JamesJames, it's sucheine solche
an importantwichtig discussionDiskussion,
350
968667
2115
HW: James, es ist eine so wichtige
Diskussion und ich weiß,
16:22
and I know manyviele people here
are really openöffnen and preparedbereit to have it,
351
970806
3227
viele Menschen hier sind wirklich
offen und bereit, sie zu führen.
16:26
so thanksVielen Dank for startingbeginnend off our morningMorgen.
352
974057
1859
Danke für diesen Start in den Morgen.
16:27
JBJB: ThanksVielen Dank very much. CheersCheers.
353
975940
1400
JB: Vielen Dank. Tschüss.
16:29
(ApplauseApplaus)
354
977364
1651
(Applaus)
Translated by Eva Fischer
Reviewed by Andreas Herzog

▲Back to top

ABOUT THE SPEAKER
James Bridle - Artist, writer
Working across technologies and disciplines, James Bridle examines technology, knowledge and the end of the future.

Why you should listen

James Bridle is an artist and writer working across technologies and disciplines. His artworks and installations have been exhibited in Europe, North and South America, Asia and Australia, and have been viewed by hundreds of thousands of visitors online. He has been commissioned by organizations including the Victoria & Albert Museum, the Barbican, Artangel, the Oslo Architecture Triennale and the Istanbul Design Biennial, and he has been honored by Ars Electronica, the Japan Media Arts Festival and the Design Museum, London. His writing on literature, culture and networks has appeared in magazines and newspapers including Frieze, Wired, Domus, Cabinet, The Atlantic, the New Statesman and many others, and he has written a regular column for The Observer.

New Dark Age, Bridle's book about technology, knowledge and the end of the future is forthcoming from Verso (UK & US) in 2018. He lectures regularly on radio, at conferences, universities and other events including SXSW, Lift, the Global Art Forum and Re:Publica. He has been a resident at Lighthouse, Brighton, the White Building, London and Eyebeam, New York, and an adjunct professor on the interactive telecommunications program at New York University.

More profile about the speaker
James Bridle | Speaker | TED.com

Data provided by TED.

This site was created in May 2015 and the last update was on January 12, 2020. It will no longer be updated.

We are currently creating a new site called "eng.lish.video" and would be grateful if you could access it.

If you have any questions or suggestions, please feel free to write comments in your language on the contact form.

Privacy Policy

Developer's Blog

Buy Me A Coffee