James Bridle: The nightmare videos of children's YouTube -- and what's wrong with the internet today
James Bridle: Die Albtraum-Videos auf YouTube für Kinder - und was mit dem heutigen Internet nicht stimmt
Working across technologies and disciplines, James Bridle examines technology, knowledge and the end of the future. Full bio
Double-click the English transcript below to play the video.
of military drones
lebensgroße Umrisse von Militärdrohnen
weltweit zu zeichnen,
and get their heads around
über diese wirklich schwer sichtbaren
and hard-to-think-about technologies.
nachzudenken und sie zu begreifen.
that predict the results of elections
die das Ergebnis von Wahlen
of these weird new technologies are.
dieser seltsamen neuen Technologien sind.
my own self-driving car.
eigenes selbstfahrendes Auto.
really trust technology,
nicht wirklich vertraue,
I find them completely fascinating,
weil ich sie absolut faszinierend finde,
when we talk about technology,
wenn wir über Technologie sprechen,
opening up loads of chocolate eggs
der massenhaft Schokoladeneier öffnet
dem Zuschauer zeigt.
for seven long minutes.
Minuten passiert nichts anderes.
two things about this.
zwei Dinge auffallen.
has 30 million views.
hat 30 Millionen Aufrufe.
that has 6.3 million subscribers,
mit 6,3 Millionen Abonnenten,
mehr Videos dieser Art.
opening up these eggs.
dabei zusehen, wie er diese Eier öffnet.
for "surprise eggs" on YouTube,
auf YouTube "Überraschungseier" sucht,
10 million of these videos,
10 Millionen dieser Videos gibt,
of these videos
of brands and materials,
von Marken und Material,
being uploaded every single day.
und mehr dieser Videos hochgeladen.
who are watching these videos.
Erwachsene sind, die diese Videos sehen.
like crack for little kids.
dopamine hit of the reveal,
Dopaminschüben bei der Enthüllung,
over and over and over again,
immer und immer und immer wieder an
and hours and hours.
the screen away from them,
ihnen den Bildschirm wegzunehmen,
in the audience nodding --
wie einige im Publikum nicken --
with small children and ask them,
fragen Sie Leute mit kleinen Kindern
the surprise egg videos.
Überraschungsei-Videos wissen.
vielleicht sogar viele Menschen,
Facebook and Instagram are using
den Facebook und Instagram benutzen,
die App ständig zu öffnen,
to hack the brains of very small children
das Gehirn sehr kleiner Kindern zu hacken,
that's what they're doing.
das ist es, was sie tun.
of making ad revenue on YouTube.
Werbeeinnahmen auf YouTube zu erzielen.
erfinden oder klauen.
popular kids' cartoons
sehr beliebten Kinderserien
auch sie millionenfach online gibt.
of these online as well.
by the original content creators.
von den Machern der Sendungen,
of different random accounts,
beliebigen Konten,
who's posting them
wer sie veröffentlicht
of our digital services,
unserer digitalen Dienste sehen,
where this information is coming from.
woher die Informationen kommen.
that comes along,
zu klicken, der erscheint,
a terribly good idea.
that's really big on kids' YouTube.
Kinder-YouTube sehr populär ist:
in the audience.
das ich finden konnte.
200,000 views,
hat nur 200.000 Aufrufe,
wahnsinniger Ohrwurm
into your brain
it seared itself into mine,
in meines eingebrannt hat,
these finger family videos
diese Finger-Family-Videos also,
in different languages
oder, um ehrlich zu sein,
of animation elements
and millions and millions of these videos
und Abermillionen dieser Videos,
kind of insane combinations.
Kombinationen verfügbar sind.
you start to spend with them,
you start to feel that you might be.
dass Sie verrückt sind.
kind of launched into this,
mich damit auseinanderzusetzen,
and deep lack of understanding
und unverständlich ist,
that seems to be presented around me.
was man mir hier offenbar präsentiert.
where these things are coming from.
woher diese Dinge kommen.
professioneller Animatoren zu stammen.
of teams of professional animators.
assembled by software.
per Software zusammengestellt.
young kids' entertainers.
Unterhaltungskünstler für Kinder.
shouldn't be around children at all.
zu tun haben sollten.
of figuring out who's making this stuff --
herauszufinden, wer dieses Zeug macht.
that we can't tell the difference
diesen Dingen nicht mehr erkennen?
feel kind of familiar right now?
nicht irgendwie vertraut an?
on their videos --
wie man Videoaufrufe bekommt --
of these videos with these popular terms.
in die Titel dieser Videos zu packen.
"Überraschungseier"
"Paw Patrol," "Easter egg,"
popular videos into your title,
populären Videos in Ihren Titel ein,
meaningless mash of language
bedeutungslosen Sprachbrei haben,
überhaupt keinen Sinn ergibt.
tiny kids who are watching your video,
for this stuff is software.
für dieses Zeug ist Software.
are like other videos,
wie andere Videos sind,
to make them recommended.
um sie zu empfehlen.
kind of completely meaningless mash,
völlig bedeutungslosem Brei heraus,
als auch den Inhalt betrifft.
Sie müssen bedenken,
this algorithmically optimized system,
System wirklich noch Menschen stecken,
of increasingly forced to act out
dazu gezwungen werden,
combinations of words,
Wortkombinationen zu verwenden,
responding to the combined screams
der auf die kombinierten Schreie
auf einmal reagiert.
trapped within these systems,
echte Menschen gefangen
dieser algorithmisch gesteuerten Kultur,
about this algorithmically driven culture,
wie eine Maschine verhalten,
watching this stuff,
die dieses Zeug schauen,
by these weird mechanisms.
von diesen seltsamen Mechanismen erfasst.
to even use a website.
um überhaupt eine Website zu nutzen.
on the screen with their little hands.
auf dem Bildschirm herum.
over and over and over in a loop,
und immer wieder abspielt,
in the system now
so viel Seltsames im System,
to some pretty strange places.
ziemlich skurrile Orte führt.
of a counting train
Micky Maus gelangen.
keywords come home to roost.
Suchbegriffe nach Hause, um zu ruhen.
trollish in-jokes or something,
Insiderwitze oder so etwas hinzu
to a very weird place indeed.
wirklich sehr befremdlichen Ort.
normalerweise verärgert,
or sexual content, right?
oder sexuelle Inhalte hat, nicht wahr?
genuinely terrify children.
wirklich richtige Angst einjagen.
all of these different influences
die diese ganzen Einflüsse zusammenbringt
kids' worst nightmares.
Albträume von Kindern erzeugt.
does affect small children.
Auswirkungen auf kleine Kinder.
being traumatized,
Angst vor der Dunkelheit bekommen,
cartoon characters.
Zeichentrickfiguren bekommen.
it's that if you have small children,
ist es die: Wenn Sie kleine Kinder haben,
von YouTube fern.
that really gets to me about this,
die mich wirklich beschäftigt,
understand how we got to this point.
wie wir an diesen Punkt gekommen sind.
all of these things,
und all diese Dinge genommen
that no one really intended.
wirklich beabsichtigt hatte.
that we're building the entire world.
wie wir die ganze Welt konstruieren.
full of prejudice,
impulses of history,
Impulsen der Geschichte,
into huge data sets
into things like credit reports,
zu Dingen wie Kreditauskünften,
policing systems,
constructing the world today
that seems to be entirely optimized
das scheinbar vollständig
of human behavior,
des menschlichen Verhaltens optimiert ist,
to have done it by accident,
that we were doing it,
the systems that we were building,
nicht wirklich verstanden,
how to do anything differently with it.
wie man etwas anderes damit macht.
that really seem to be driving this
die das Ganze auf YouTube
von Aufmerksamkeit,
anderen Variablen am Werk sind,
actually developing this content,
die diese Inhalte tatsächlich entwickeln,
the separation of those things.
die Trennung dieser Dinge.
about the use of advertising
zum Einsatz von Werbung stehen,
in Windeln, die im Sand herumrollen
rolling around in the sand
that they don't really understand
den sie nicht wirklich verstehen,
probably isn't the thing
our society and culture upon,
und Kultur gründen sollten,
we should be funding it.
the major driver of this is automation,
ist die Automatisierung,
dieser ganzen Technologie,
of all of this technology
ohne irgendeine Art von Kontrolle,
without any kind of oversight,
werfen wir unsere Hände hoch und sagen:
"Hey, it's not us, it's the technology."
es ist die Technologie."
just algorithmically governed,
von Algorithmen gesteuert,
to pay attention to this,
darauf aufmerksam wurde,
they'd do about it
better machine learning algorithms
Lernalgorithmen einzusetzen,
as any expert in it will tell you,
wie jeder Experte bezeugen kann,
nichts anderes als Software,
wie sie funktioniert.
understand how it works.
enough of that already.
this stuff up to AI to decide
überlassen, was geeignet ist oder nicht,
öffentlichen Diskurs zensieren.
legitimate public speech.
that's left up to unaccountable systems.
Systemen bestimmt werden.
all of us should be having.
die wir alle führen sollten.
very pleasant, either.
auch nicht sehr angenehm ist.
a version of their kids' app
veröffentlichen werden,
moderated by humans.
much the same thing at Congress,
etwas sehr Ähnliches vor dem Kongress,
were going to moderate their stuff.
wie sie ihre Sachen überwachen würden.
the first person to see this stuff,
die dieses Zeug sehen,
precarious contract workers
quite a lot better than that.
viel mehr zustande bringen.
two things together, really, for me,
für mich wirklich zusammenbringt,
understand -- by agency, I mean:
-- mit Handlungsfähigkeit meine ich:
in our own best interests.
besten Interesse handeln können.
really fully understand.
nicht wirklich vollständig verstehen.
always leads to violence.
führen immer zu Gewalt.
does the same thing.
dasselbe bewirkt.
to start to improve these systems,
zu beginnen, diese Systeme zu verbessern,
to the people who use them,
verständlicher zu machen,
a common understanding
Verständnis dessen gelangen,
most about these systems
an diesen Systemen ist, dass es,
I've explained, really about YouTube.
nicht wirklich um YouTube geht.
und Handlungsfähigkeit,
that inherently results
of power in a few hands --
von Macht in wenigen Händen resultiert --
und Technologie im Allgemeinen betreffen,
and not just of technology in general,
this global system, the internet,
globale System, das Internet, entwickelt,
in this extraordinary way,
außergewöhnliche Art und Weise vorführt
außergewöhnliche Fähigkeit,
often hidden desires and biases
zu instanziieren und weiterzuentwickeln
so that we can see them,
damit wir sie sehen können,
they don't exist anymore.
als ob sie nicht mehr existieren.
as a solution to all of our problems,
Lösung für all unsere Probleme zu sehen
als Leitfaden betrachten,
to what those problems actually are,
diese Probleme tatsächlich sind,
about them properly
über sie nachzudenken und sie anzugehen.
for coming and giving us that talk.
fürs Kommen und für den Vortrag.
the robotic overlords take over,
Roboter-Oberherren die Macht ergreifen,
than what you're describing.
als das, was du beschreibst.
you have the resistance mounting.
hat man einen wachsenden Widerstand.
towards this stuff?
Widerstand gegen dieses Zeug?
green shoots of resistance?
erste Anzeichen eines Widerstandes?
von direktem Widerstand,
about direct resistance,
is super long-term.
ist super langfristig.
in really deep ways.
in die Kultur eingebrannt.
Eleanor Saitta, always says
Eleanor Saitta, sagt immer,
of sufficient scale and scope
von ausreichendem Umfang und Ausmaß
to address within this
Lösung wir arbeiten,
dass wir die Technologie verbessern,
just by building the technology better,
verändern, die diese Technologien erzeugt.
that's producing these technologies.
a hell of a long way to go.
einen verdammt langen Weg vor uns.
und ehrlich über sie sprechen,
about them super honestly,
diesen Prozess zu beginnen.
to at least begin that process.
legibility and digital literacy,
und digitale Kompetenz sprichst,
of digital literacy on users themselves.
auf die Nutzer selbst abwälzen sollten.
is education in this new world?
die Bildung in dieser neuen Welt?
is kind of up to all of us,
diese Verantwortung liegt bei uns allen,
everything we build, everything we make,
was wir entwickeln, alles, was wir machen,
in a consensual discussion
Diskussion stattfinden muss,
intended to trick and surprise people
die Menschen überlisten oder überraschen,
in every step in educating them,
der Bildung beteiligt sind,
is educational.
selbst bei diesem sehr düsteren Zeug,
about even this really grim stuff,
and look at it properly,
und richtig betrachten kann,
a piece of education
how complex systems come together and work
Systeme zusammenkommen und funktionieren
that knowledge elsewhere in the world.
an anderer Stelle auf der Welt anzuwenden.
an important discussion,
Diskussion und ich weiß,
are really open and prepared to have it,
offen und bereit, sie zu führen.
ABOUT THE SPEAKER
James Bridle - Artist, writerWorking across technologies and disciplines, James Bridle examines technology, knowledge and the end of the future.
Why you should listen
James Bridle is an artist and writer working across technologies and disciplines. His artworks and installations have been exhibited in Europe, North and South America, Asia and Australia, and have been viewed by hundreds of thousands of visitors online. He has been commissioned by organizations including the Victoria & Albert Museum, the Barbican, Artangel, the Oslo Architecture Triennale and the Istanbul Design Biennial, and he has been honored by Ars Electronica, the Japan Media Arts Festival and the Design Museum, London. His writing on literature, culture and networks has appeared in magazines and newspapers including Frieze, Wired, Domus, Cabinet, The Atlantic, the New Statesman and many others, and he has written a regular column for The Observer.
New Dark Age, Bridle's book about technology, knowledge and the end of the future is forthcoming from Verso (UK & US) in 2018. He lectures regularly on radio, at conferences, universities and other events including SXSW, Lift, the Global Art Forum and Re:Publica. He has been a resident at Lighthouse, Brighton, the White Building, London and Eyebeam, New York, and an adjunct professor on the interactive telecommunications program at New York University.
James Bridle | Speaker | TED.com