James Bridle: The nightmare videos of children's YouTube -- and what's wrong with the internet today
Џејмс Бридл (James Bridle): Кошмарни видео-снимци са дечијег Јутјуба и шта данас није у реду са интернетом
Working across technologies and disciplines, James Bridle examines technology, knowledge and the end of the future. Full bio
Double-click the English transcript below to play the video.
of military drones
војних дронова у природној величини
and get their heads around
и да разумеју ове технологије
and hard-to-think-about technologies.
и о којима се ретко размишља.
that predict the results of elections
које предвиђају резултате избора
ових чудних нових технологија.
of these weird new technologies are.
my own self-driving car.
свој самовозећи аутомобил.
really trust technology,
дизајнирао сам и клопку за њега.
I find them completely fascinating,
јер мислим да су потпуно фасцинантне,
when we talk about technology,
када причамо о технологији,
opening up loads of chocolate eggs
ко отвара гомилу чоколадних јаја
for seven long minutes.
током седам дугих минута.
two things about this.
на две ствари у вези са тим.
has 30 million views.
који има 6,3 милиона пратилаца
that has 6.3 million subscribers,
opening up these eggs.
овог момка како отвара ова јаја.
for "surprise eggs" on YouTube,
„киндер јаја“ у претраживач Јутјуба,
10 million of these videos,
десет милиона ових видеа,
of these videos
of brands and materials,
брендова и материјала,
being uploaded every single day.
поставља сваког дана.
who are watching these videos.
да ове видео-снимке не гледају одрасли,
like crack for little kids.
су као кокаин за малу децу.
dopamine hit of the reveal,
допамина приликом открића,
over and over and over again,
опет и опет и опет,
and hours and hours.
the screen away from them,
урлаће и урлаће и урлаће.
како климају главом -
in the audience nodding --
ко има малу децу и питајте их,
with small children and ask them,
the surprise egg videos.
а неко, или много људи,
Facebook and Instagram are using
који Фејсбук и Инстаграм користе
да проверавате ту апликацију,
to hack the brains of very small children
да хакују мозгове веома мале деце
that's what they're doing.
of making ad revenue on YouTube.
приход од реклама на Јутјубу.
или украсти нешто.
popular kids' cartoons
дечије цртане филмове
или „Патролне шапе“,
of these online as well.
оваквих видеа на интернету.
прави ствараоци садржаја.
by the original content creators.
насумичних налога,
of different random accounts,
или који би им мотиви могли бити.
who's posting them
of our digital services,
наших дигиталних услуга,
where this information is coming from.
одакле ове информације долазе.
да кликну баш на први линк који се појави
that comes along,
a terribly good idea.
that's really big on kids' YouTube.
ствари на дечијем Јутјубу.
да је неко у публици уздахнуо.
in the audience.
коју сам успео да пронађем.
200,000 views,
и има само двесто хиљада прегледа,
заразну мелодију,
исто онако како се мени урезала у мозак,
into your brain
it seared itself into mine,
и учинила их је зависним.
„Породице прстићи“ се свугде појављују,
these finger family videos
in different languages
из цртаних филмова са храном
of animation elements
која је надохват руке.
and millions and millions of these videos
и милиони ових видео снимака
kind of insane combinations.
донекле суманутим комбинацијама.
you start to spend with them,
да проводите уз њих,
you start to feel that you might be.
kind of launched into this,
and deep lack of understanding
и великог недостатка разумевања
that seems to be presented around me.
како је направљена ова ствар
where these things are coming from.
одакле ове ствари потичу.
групе професионалних аниматора.
of teams of professional animators.
assembled by software.
young kids' entertainers.
који изгледају прилично нормално,
не би требало да буду у близини деце.
shouldn't be around children at all.
of figuring out who's making this stuff --
да се открије ко прави ове ствари -
that we can't tell the difference
да направимо разлику између ових ствари?
feel kind of familiar right now?
помало познато управо сада?
on their videos --
прегледи ових видеа -
of these videos with these popular terms.
у наслове ових видеа.
"Paw Patrol," "Easter egg,"
или шта год су ове ствари,
популарних видеа у ваш наслов
popular videos into your title,
бесмисленом мешавином речи
meaningless mash of language
никаквог смисла за људска бића.
tiny kids who are watching your video,
гледају ваш видео,
for this stuff is software.
are like other videos,
видео-снимци су као остали,
to make them recommended.
да их препоручи.
kind of completely meaningless mash,
потпуно бесмисленом мешавином
унутар овог система
this algorithmically optimized system,
of increasingly forced to act out
ове све бизарније комбинације речи,
combinations of words,
responding to the combined screams
истовремену вриску
trapped within these systems,
који су заробљени у овим системима,
about this algorithmically driven culture,
ове културе којом управљају алгоритми,
само да бисте преживели.
watching this stuff,
која гледају те ствари,
by these weird mechanisms.
ови чудни механизми.
to even use a website.
превише мала да би користила сајт.
on the screen with their little hands.
ове видео снимке изнова у круг,
over and over and over in a loop,
in the system now
to some pretty strange places.
на нека прилично чудна места.
of a counting train
видеа воза који броји
keywords come home to roost.
кључне речи праве дар-мар.
са стварима које суперхероји изводе уживо,
trollish in-jokes or something,
о троловима или већ нешто
to a very weird place indeed.
на заиста веома чудно место.
or sexual content, right?
и сексуалним садржајем, зар не?
genuinely terrify children.
у ствари, заправо престраве децу.
all of these different influences
kids' worst nightmares.
најгоре дечије кошмаре.
does affect small children.
на нашу малу децу.
being traumatized,
да су им деца трауматизована,
cartoon characters.
својих омиљених цртаних јунака.
it's that if you have small children,
нека то буде, ако имате малу децу,
that really gets to me about this,
нервира у вези са овим
understand how we got to this point.
разумемо како смо дошли довде.
all of these things,
that no one really intended.
на који нико заиста није намеравао.
that we're building the entire world.
на који градимо цео свет.
много лоших података,
full of prejudice,
impulses of history,
најгорих побуда из историје,
into huge data sets
у огромне скупове података,
into things like credit reports,
као што су извештаји о кредитној историји,
policing systems,
constructing the world today
стварамо свет користећи ове податке.
that seems to be entirely optimized
који делује да је у потпуности оптимизован
of human behavior,
to have done it by accident,
да смо то случајно урадили,
that we were doing it,
да смо то радили
the systems that we were building,
системе које смо правили
how to do anything differently with it.
како да урадимо нешто другачије са тим.
that really seem to be driving this
које изгледа да заиста покрећу ово
стварних варијабли на делу,
actually developing this content,
праве овај садржај,
the separation of those things.
разграничавања ових ствари.
about the use of advertising
да се ове ствари подржавају,
rolling around in the sand
који се ваљају у песку
that they don't really understand
који баш не разумеју дати новац за то
probably isn't the thing
наше друштво и културу
our society and culture upon,
да га финансирамо.
we should be funding it.
the major driver of this is automation,
главни покретач ове аутоматизације
of all of this technology
чим се појави без икакве врсте надзора,
without any kind of oversight,
"Hey, it's not us, it's the technology."
„Хеј, нисмо ми криви. Технологија је.“
just algorithmically governed,
већ га алгоритам и надгледа.
to pay attention to this,
да обраћа пажњу на ово,
they'd do about it
боље алгоритме за машинско учење
better machine learning algorithms
as any expert in it will tell you,
сваки стручњак из те области рећи,
софтвером чији начин рада не разумемо.
understand how it works.
enough of that already.
this stuff up to AI to decide
вештачкој интелигенцији да одлучује
јер знамо шта ће се десити.
легитимно јавно изражавање.
legitimate public speech.
that's left up to unaccountable systems.
системима који немају одговорност.
all of us should be having.
који бисмо сви морали да водимо.
да ни алтернатива није веома пријатна.
very pleasant, either.
a version of their kids' app
своје апликације за децу
управљати људска бића.
moderated by humans.
much the same thing at Congress,
нешто веома слично у Конгресу
were going to moderate their stuff.
како ће уређивати свој садржај.
уместо да мала деца прва виде ове ствари,
the first person to see this stuff,
са нестабилним запослењем
precarious contract workers
заштите менталног здравља
прилично више од тога.
quite a lot better than that.
two things together, really, for me,
која повезује ове две ствари
understand -- by agency, I mean:
у свом најбољем интересу.
in our own best interests.
не разумемо у потпуности.
really fully understand.
always leads to violence.
да неједнакост разумевања чини исто.
does the same thing.
коју можемо да урадимо
to start to improve these systems,
to the people who use them,
за људе који их користе
a common understanding
шта се заиста овде дешава.
most about these systems
ових система ствар у томе
I've explained, really about YouTube.
што се надам да сам објаснио.
that inherently results
који су суштинска последица
of power in a few hands --
and not just of technology in general,
и само технологије уопште,
this global system, the internet,
овај систем, глобални систем, интернет,
in this extraordinary way,
и чини их неоспорним.
often hidden desires and biases
често скривених жеља и предрасуда
so that we can see them,
како бисмо могли да их видимо,
they don't exist anymore.
да се претварамо да не постоје.
as a solution to all of our problems,
као о решењу за све наше проблеме,
to what those problems actually are,
ка ономе шта су ти проблеми у ствари
about them properly
о њима на прави начин
for coming and giving us that talk.
што си дошао и одржао овај говор.
роботизовани господари преузму контролу,
the robotic overlords take over,
than what you're describing.
од овога што ти описујеш.
you have the resistance mounting.
је присутан отпор који се појачава.
towards this stuff?
green shoots of resistance?
обнову отпора?
about direct resistance,
по питању директног отпора,
is super long-term.
in really deep ways.
Eleanor Saitta, always says
of sufficient scale and scope
великих размера и опсега
to address within this
на чијем решењу радимо
направити боља технологија,
just by building the technology better,
које производи ове технологије.
that's producing these technologies.
да нам предстоји веома дугачак пут.
a hell of a long way to go.
објаснимо и веома искрено причамо о њима,
about them super honestly,
макар започети тај процес.
to at least begin that process.
и дигиталној писмености,
legibility and digital literacy,
of digital literacy on users themselves.
дигиталне писмености на саме кориснике.
is education in this new world?
у овом новом свету?
is kind of up to all of us,
да је ова одговорност на свима нама,
everything we build, everything we make,
све што градимо, све што правимо
уз пристанак у разговору
in a consensual discussion
intended to trick and surprise people
да преваре и изненаде људе
in every step in educating them,
у сваки корак њиховог образовања,
is educational.
ових веома страшних ствари,
about even this really grim stuff,
and look at it properly,
и прописно сагледати,
a piece of education
how complex systems come together and work
како се сложени системи удружују и раде
that knowledge elsewhere in the world.
то знање негде другде у свету.
an important discussion,
отворени и спремни за њега,
are really open and prepared to have it,
ABOUT THE SPEAKER
James Bridle - Artist, writerWorking across technologies and disciplines, James Bridle examines technology, knowledge and the end of the future.
Why you should listen
James Bridle is an artist and writer working across technologies and disciplines. His artworks and installations have been exhibited in Europe, North and South America, Asia and Australia, and have been viewed by hundreds of thousands of visitors online. He has been commissioned by organizations including the Victoria & Albert Museum, the Barbican, Artangel, the Oslo Architecture Triennale and the Istanbul Design Biennial, and he has been honored by Ars Electronica, the Japan Media Arts Festival and the Design Museum, London. His writing on literature, culture and networks has appeared in magazines and newspapers including Frieze, Wired, Domus, Cabinet, The Atlantic, the New Statesman and many others, and he has written a regular column for The Observer.
New Dark Age, Bridle's book about technology, knowledge and the end of the future is forthcoming from Verso (UK & US) in 2018. He lectures regularly on radio, at conferences, universities and other events including SXSW, Lift, the Global Art Forum and Re:Publica. He has been a resident at Lighthouse, Brighton, the White Building, London and Eyebeam, New York, and an adjunct professor on the interactive telecommunications program at New York University.
James Bridle | Speaker | TED.com