James Bridle: The nightmare videos of children's YouTube -- and what's wrong with the internet today
James Bridle: Coșmarul canalului YouTube pentru copii - și ce nu e în regulă cu internetul zilelor noastre
Working across technologies and disciplines, James Bridle examines technology, knowledge and the end of the future. Full bio
Double-click the English transcript below to play the video.
of military drones
pentru drone militare
and get their heads around
și să poată înțelege
and hard-to-think-about technologies.
și greu de imaginat.
that predict the results of elections
care prezic rezultatele alegerilor,
of these weird new technologies are.
pe care le au aceste tehnologii bizare.
o mașină care se conduce singură.
my own self-driving car.
really trust technology,
în tehnologie,
I find them completely fascinating,
pentru că le consider absolut fascinante,
că atunci când vorbim despre tehnologie,
when we talk about technology,
despre „ouă cu surprize”.
opening up loads of chocolate eggs
o grămadă de ouă de ciocolată
for seven long minutes.
timp de șapte minute lungi.
two things about this.
două aspecte despre acest lucru.
has 30 million views.
are 30 milioane de vizualizări.
that has 6.3 million subscribers,
6,3 milioane de abonați,
opening up these eggs.
care desface aceste ouă.
for "surprise eggs" on YouTube,
„ouă cu surprize” pe YouTube,
10 million of these videos,
de astfel de filmulețe,
sunt infinite.
of these videos
de astfel de filme
of brands and materials,
de firme și materiale,
being uploaded every single day.
în fiecare zi.
who are watching these videos.
vizionează aceste filmulețe.
like crack for little kids.
ca un drog pentru copii.
dopamine hit of the reveal,
dată de descoperirea surprizei
over and over and over again,
iarăși și iarăși,
and hours and hours.
the screen away from them,
in the audience nodding --
dând din cap -
with small children and ask them,
care are copii, întrebați-i
cu ouă cu surpriză.
the surprise egg videos.
mai mulți oameni
Facebook and Instagram are using
care, la fel ca Facebook și Instagram,
to hack the brains of very small children
pentru a „subjuga” creierul copiilor mici
that's what they're doing.
of making ad revenue on YouTube.
vebituri din publicitate pe YouTube.
popular kids' cartoons
foarte populare
of these online as well.
și milioane din acestea online.
by the original content creators.
de creatorii originali.
of different random accounts,
din diferite conturi
who's posting them
of our digital services,
dintre serviciile noastre digitale
where this information is coming from.
de unde vine informația.
that comes along,
a terribly good idea.
that's really big on kids' YouTube.
pe YouTube pentru copii.
in the audience.
200,000 views,
doar 200.000 de vizualizări,
into your brain
it seared itself into mine,
these finger family videos
filmele cu familia Degețel
in different languages
of animation elements
de animație
and millions and millions of these videos
de astfel de filmulețe
în tot felul de combinații ciudate.
kind of insane combinations.
you start to spend with them,
mai mult timp cu ele,
you start to feel that you might be.
să mă ocup de asta,
kind of launched into this,
and deep lack of understanding
de lipsa de înțelegere
that seems to be presented around me.
acel ceva prezent mereu în jurul meu.
where these things are coming from.
de unde vin aceste lucruri.
de animatori profesioniști.
of teams of professional animators.
de vreun program software,
assembled by software.
young kids' entertainers.
pentru copii.
shouldn't be around children at all.
în preajma copiilor.
of figuring out who's making this stuff --
cine creează aceste lucruri -
that we can't tell the difference
feel kind of familiar right now?
nesiguranța vă este familiară?
on their videos --
își asigură vizualizările —
of these videos with these popular terms.
termeni foarte populari.
"Paw Patrol," "Easter egg,"
aduse în titlu,
popular videos into your title,
lingvistic fără înțeles,
meaningless mash of language
tiny kids who are watching your video,
la astfel de filmulețe
for this stuff is software.
are like other videos,
pentru a le recomanda.
to make them recommended.
kind of completely meaningless mash,
total lipsit de sens
this algorithmically optimized system,
optimizat algoritmic,
of increasingly forced to act out
combinations of words,
responding to the combined screams
reacționând în fața țipetelor simultane
captivi în aceste sisteme,
trapped within these systems,
al culturii dirijate prin algoritmi,
about this algorithmically driven culture,
care vizionează captivați,
watching this stuff,
by these weird mechanisms.
de aceste mecanisme ciudate.
să intre pe pagina web.
to even use a website.
on the screen with their little hands.
ca într-o buclă temporală,
over and over and over in a loop,
in the system now
în niște locuri bizare.
to some pretty strange places.
of a counting train
cu un trenuleț care numără
dau rod.
keywords come home to roost.
triviale,
trollish in-jokes or something,
stranie.
to a very weird place indeed.
or sexual content, right?
violent sau sexual, nu-i așa?
cu violență,
îi sperie pe copii.
genuinely terrify children.
toate astea
all of these different influences
kids' worst nightmares.
cele mai urâte coșmaruri.
does affect small children.
being traumatized,
că le sunt traumatizați copiii,
cartoon characters.
din desenele animate.
în cazul în care aveți copii mici,
it's that if you have small children,
de YouTube.
referitor la această problemă,
that really gets to me about this,
cum s-a ajuns în acest punct.
understand how we got to this point.
all of these things,
toate lucrurile astea,
that no one really intended.
pe care n-a dorit-o nimeni.
în care ne construim întreaga lume.
that we're building the entire world.
full of prejudice,
impulses of history,
into huge data sets
into things like credit reports,
policing systems,
constructing the world today
care pare optimizat
that seems to be entirely optimized
of human behavior,
ale comportamentului uman
to have done it by accident,
din greșeală,
that we were doing it,
the systems that we were building,
sistemul pe care îl cream,
cum să schimbăm ceva prin el.
how to do anything differently with it.
care controlează totul
that really seem to be driving this
de fapt, acest conținut,
actually developing this content,
the separation of those things.
sau de separarea acestor lucruri.
about the use of advertising
despre utilizarea publicității
rolling around in the sand
tăvălindu-se prin nisip,
pe care nu-l înțeleg pe deplin
that they don't really understand
probably isn't the thing
our society and culture upon,
we should be funding it.
a acestui proces e automatismul,
the major driver of this is automation,
of all of this technology
without any kind of oversight,
„Nu noi suntem de vină, ci tehnologia.”
"Hey, it's not us, it's the technology."
doar guvernate de algoritmi,
just algorithmically governed,
să acorde atenție acestui aspect,
to pay attention to this,
they'd do about it
better machine learning algorithms
de învățare automată mai buni
învățarea automată
as any expert in it will tell you,
pe care nu-l înțelegem pe deplin.
understand how it works.
enough of that already.
this stuff up to AI to decide
legitimate public speech.
that's left up to unaccountable systems.
de sisteme arbitrare.
pe care ar trebui să o avem cu toții.
all of us should be having.
very pleasant, either.
nu este mai plăcută.
a version of their kids' app
a aplicației pentru copii
moderated by humans.
cam același lucru la Congres,
much the same thing at Congress,
cum își vor modera conținutul.
were going to moderate their stuff.
care vor vedea materialele,
the first person to see this stuff,
precarious contract workers
cu un contract precar,
quite a lot better than that.
two things together, really, for me,
aceste două lucruri
cu adevărat - prin implicare, mă refer
understand -- by agency, I mean:
pentru a acționa în interesul nostru.
in our own best interests.
really fully understand.
pe care nu le înțelegem pe deplin.
always leads to violence.
întotdeauna generează violență.
does the same thing.
pentru a îmbunătăți aceste sisteme,
to start to improve these systems,
to the people who use them,
celor care le utilizează,
a common understanding
most about these systems
legată doar de YouTube.
I've explained, really about YouTube.
și implicare,
that inherently results
ce rezultă, în mod inevitabil,
of power in a few hands --
în doar câteva mâini --
mult mai ample.
and not just of technology in general,
sau de tehnologie, în general,
care este internetul,
this global system, the internet,
într-un mod extraordinar,
in this extraordinary way,
această capacitate fabuloasă
dorințe și prejudecăți ale noastre
often hidden desires and biases
astfel încât să le vedem,
so that we can see them,
they don't exist anymore.
că ele nu mai există.
că soluția la probleme este tehnologia
as a solution to all of our problems,
to what those problems actually are,
pentru ceea ce reprezintă ele,
about them properly
for coming and giving us that talk.
că ai venit și ne-ai vorbit.
în care roboții supremi preiau controlul,
the robotic overlords take over,
than what you're describing.
you have the resistance mounting.
există o luptă pentru supremație.
towards this stuff?
și în cazul materialelor în discuție?
green shoots of resistance?
vreo tendință de rezistență?
legat de rezistență,
about direct resistance,
is super long-term.
pe termen foarte lung.
in really deep ways.
în cultură.
Eleanor Saitta, always says
of sufficient scale and scope
cu destulă greutate și scop
pe care vrem să le rezolvăm
to address within this
just by building the technology better,
doar concepând o tehnologie mai bună,
that's producing these technologies.
care o produce.
un drum al naibii de lung.
a hell of a long way to go.
about them super honestly,
cu toată sinceritatea,
procesul de schimbare.
to at least begin that process.
legibility and digital literacy,
despre accesibilitate și cultură digitală,
digitale în sarcina utilizatorului.
of digital literacy on users themselves.
educației în această lume nouă?
is education in this new world?
is kind of up to all of us,
ne cam aparține nouă, tuturor,
tot ceea ce creăm,
everything we build, everything we make,
într-o discuție consensuală
in a consensual discussion
să înșele, să păcălească oamenii
intended to trick and surprise people
in every step in educating them,
al educației lor,
e educativ.
is educational.
sper că și aceste aspecte sinistre,
about even this really grim stuff,
and look at it properly,
a piece of education
how complex systems come together and work
cât de complexe sunt sistemele în lucru
oriunde altundeva în lume.
that knowledge elsewhere in the world.
an important discussion,
are really open and prepared to have it,
sunt deschiși și pregătiți,
ABOUT THE SPEAKER
James Bridle - Artist, writerWorking across technologies and disciplines, James Bridle examines technology, knowledge and the end of the future.
Why you should listen
James Bridle is an artist and writer working across technologies and disciplines. His artworks and installations have been exhibited in Europe, North and South America, Asia and Australia, and have been viewed by hundreds of thousands of visitors online. He has been commissioned by organizations including the Victoria & Albert Museum, the Barbican, Artangel, the Oslo Architecture Triennale and the Istanbul Design Biennial, and he has been honored by Ars Electronica, the Japan Media Arts Festival and the Design Museum, London. His writing on literature, culture and networks has appeared in magazines and newspapers including Frieze, Wired, Domus, Cabinet, The Atlantic, the New Statesman and many others, and he has written a regular column for The Observer.
New Dark Age, Bridle's book about technology, knowledge and the end of the future is forthcoming from Verso (UK & US) in 2018. He lectures regularly on radio, at conferences, universities and other events including SXSW, Lift, the Global Art Forum and Re:Publica. He has been a resident at Lighthouse, Brighton, the White Building, London and Eyebeam, New York, and an adjunct professor on the interactive telecommunications program at New York University.
James Bridle | Speaker | TED.com