James Bridle: The nightmare videos of children's YouTube -- and what's wrong with the internet today
Джеймс Брайдл: Кошмарные видео детского YouTube, и что не так с интернетом сегодня
Working across technologies and disciplines, James Bridle examines technology, knowledge and the end of the future. Full bio
Double-click the English transcript below to play the video.
of military drones
в натуральную величину,
and get their heads around
трудных для понимания технологиях.
and hard-to-think-about technologies.
that predict the results of elections
которые предсказывают результаты выборов
предложить эти новые чудны́е технологии.
of these weird new technologies are.
my own self-driving car.
свой беспилотный автомобиль..
really trust technology,
I find them completely fascinating,
потому что абсолютно увлечён ими,
when we talk about technology,
opening up loads of chocolate eggs
целую кучу шоколадных яиц
for seven long minutes.
целых семь долгих минут.
two things about this.
has 30 million views.
30 миллионов просмотров.
с 6,3 миллиона подписчиков
that has 6.3 million subscribers,
opening up these eggs.
как парень распаковывает яйца.
for "surprise eggs" on YouTube,
в поиск на YouTube «яйца с сюрпризом»,
10 million of these videos,
их будет бесконечное множество.
of these videos
комбинациями брендов и материалов,
of brands and materials,
всё больше и больше.
being uploaded every single day.
who are watching these videos.
смотрят не взрослые.
like crack for little kids.
при раскрытии интриги,
dopamine hit of the reveal,
over and over and over again,
эти видео снова, и снова, и снова,
and hours and hours.
the screen away from them,
in the audience nodding --
у которых есть маленькие дети,
with small children and ask them,
о видео про яйца с сюрпризом.
the surprise egg videos.
если не многие, люди
Facebook and Instagram are using
пользуются, скажем, Facebook и Instagram,
проверяли их приложение.
to hack the brains of very small children
чтобы промывать мозги маленьким детям,
that's what they're doing.
доход от рекламы более простыми способами.
of making ad revenue on YouTube.
или его воровать.
popular kids' cartoons
популярные мультики для детей,
of these online as well.
миллионы в онлайн-доступе.
размещены не создателями оригиналов.
by the original content creators.
различных случайных аккаунтов,
of different random accounts,
кто именно их выкладывает
who's posting them
of our digital services,
where this information is coming from.
источник информации.
that comes along,
a terribly good idea.
that's really big on kids' YouTube.
вещь для детей на YouTube.
in the audience.
и у него только 200 000 просмотров,
200,000 views,
into your brain
it seared itself into mine,
эти песни семьи пальчиков
these finger family videos
in different languages
или каких угодно материалов,
of animation elements
and millions and millions of these videos
просто невероятное количество таких видео
kind of insane combinations.
в немыслимых комбинациях.
you start to spend with them,
начинаете сходить с ума.
you start to feel that you might be.
kind of launched into this,
and deep lack of understanding
и полнейшего непонимания того,
что мне показывают вокруг.
that seems to be presented around me.
откуда все эти видео берутся.
where these things are coming from.
группой профессиональных мультипликаторов.
of teams of professional animators.
подбираются программой.
assembled by software.
детскими аниматорами.
young kids' entertainers.
подпускать к детям.
shouldn't be around children at all.
of figuring out who's making this stuff --
кто создаёт данный контент —
that we can't tell the difference
не можем увидеть разницу
эта неопределённость знакомой?
feel kind of familiar right now?
on their videos --
просмотров своих видео —
of these videos with these popular terms.
популярные словечки.
«пасхальные яйца»
"Paw Patrol," "Easter egg,"
popular videos into your title,
в бессмысленный набор слов,
meaningless mash of language
tiny kids who are watching your video,
это видео будут лишь маленькие дети,
for this stuff is software.
в таких случаях — это программы, ПО.
are like other videos,
которые похожи на другие видео,
ставить в рекомендованное.
to make them recommended.
kind of completely meaningless mash,
такую бессмысленную кашу
для алгоритмов системой стоят люди.
this algorithmically optimized system,
of increasingly forced to act out
combinations of words,
responding to the combined screams
который отвечает на крики
trapped within these systems,
about this algorithmically driven culture,
аспект этой культуры алгоритмов.
watching this stuff,
эти странные механизмы.
by these weird mechanisms.
даже пользоваться этим сайтом.
to even use a website.
on the screen with their little hands.
своими ручками.
снова и снова по кругу
over and over and over in a loop,
in the system now
есть такая особенность,
в крайне странные места.
to some pretty strange places.
с паровозиком, обучающим счёту,
of a counting train
keywords come home to roost.
до ужаса странные ключевые слова.
trollish in-jokes or something,
в наистраннейшем месте.
to a very weird place indeed.
или сексуальных сцен, так?
or sexual content, right?
genuinely terrify children.
что это пугает детей.
all of these different influences
что программа использует всё это,
самые страшные детские кошмары.
kids' worst nightmares.
does affect small children.
оказывает влияние на детей.
being traumatized,
что их дети получают психотравмы,
cartoon characters.
it's that if you have small children,
если у вас маленькие дети,
that really gets to me about this,
understand how we got to this point.
как мы дошли до такого.
all of these things,
that no one really intended.
как никто из нас не желал.
that we're building the entire world.
full of prejudice,
переполненных предрассудками,
impulses of history,
мотивами в истории,
into huge data sets
into things like credit reports,
policing systems,
constructing the world today
that seems to be entirely optimized
оптимизированные системы
of human behavior,
человеческого поведения,
to have done it by accident,
that we were doing it,
системы, которые построили,
the systems that we were building,
how to do anything differently with it.
that really seem to be driving this
как мне кажется, на YouTube
монетаризацией внимания,
actually developing this content,
разрабатывающих контент.
the separation of those things.
никакого разграничения.
about the use of advertising
к использованию рекламы
работы алгоритма, надеется,
rolling around in the sand
that they don't really understand
взрослые мужики в подгузниках
probably isn't the thing
наше общество и культуру
our society and culture upon,
we should be funding it.
the major driver of this is automation,
это автоматизация,
of all of this technology
без какого-либо надзора.
without any kind of oversight,
«Это не мы, это всё технологии».
"Hey, it's not us, it's the technology."
подчиняется алгоритмам,
just algorithmically governed,
to pay attention to this,
внимание на это,
they'd do about it
машинного обучения,
better machine learning algorithms
as any expert in it will tell you,
по словам любого эксперта, —
understand how it works.
которого мы не понимаем.
enough of that already.
на искусственный интеллект решение,
this stuff up to AI to decide
и другие вещи:
legitimate public speech.
непостижимыми системами.
that's left up to unaccountable systems.
в ходе беседы между всеми нами.
all of us should be having.
very pleasant, either.
a version of their kids' app
проверяться людьми.
moderated by humans.
much the same thing at Congress,
что в Facebook будет то же самое,
were going to moderate their stuff.
проверяться их контент.
the first person to see this stuff,
с низкой зарплатой,
precarious contract workers
психического здоровья,
достичь гораздо большего.
quite a lot better than that.
two things together, really, for me,
объединяет между собой
understand -- by agency, I mean:
через посредника.
как вести себя в своих интересах.
in our own best interests.
мы не полностью понимаем.
really fully understand.
always leads to violence.
всегда приводит к насилию.
приводит к тому же.
does the same thing.
to start to improve these systems,
улучшить эти системы,
to the people who use them,
понятнее пользователям,
a common understanding
most about these systems
I've explained, really about YouTube.
касаются не конкретно YouTube.
that inherently results
которая, по сути, происходит
в нескольких руках —
of power in a few hands --
and not just of technology in general,
и не только технологий в целом,
this global system, the internet,
всемирную сеть — интернет,
in this extraordinary way,
так невероятно,
необычайной возможностью
often hidden desires and biases
и тайные желания и склонности,
so that we can see them,
что мы их замечаем
they don't exist anymore.
будто их не существует.
as a solution to all of our problems,
решение всех наших проблем
как к средству выявления этих проблем,
to what those problems actually are,
about them properly
в правильном ключе
for coming and giving us that talk.
что пришёл и выступил у нас.
в которых роботы господствуют над миром,
the robotic overlords take over,
чем то, о чём ты рассказал.
than what you're describing.
you have the resistance mounting.
всегда есть какое-то сопротивление.
towards this stuff?
green shoots of resistance?
и предзнаменования сопротивления?
about direct resistance,
прямого сопротивления,
is super long-term.
в нашей культуре.
in really deep ways.
всегда говорит,
Eleanor Saitta, always says
of sufficient scale and scope
глобального масштаба —
политическая проблема.
to address within this
улучшенные технологии,
just by building the technology better,
которое эти технологии создаёт.
that's producing these technologies.
a hell of a long way to go.
мы ещё слишком далеки от этого.
about them super honestly,
запустить этот процесс.
to at least begin that process.
и цифровой грамотности,
legibility and digital literacy,
of digital literacy on users themselves.
на самих пользователей.
за обучение в этом новом мире?
is education in this new world?
is kind of up to all of us,
ответственность лежит на всех нас,
everything we build, everything we make,
in a consensual discussion
этого обсуждения.
intended to trick and surprise people
создаём системы не для обмана людей,
в процесс обучения на каждом этапе,
in every step in educating them,
is educational.
образовательные.
about even this really grim stuff,
безжалостная штука,
подойти и разобраться,
and look at it properly,
a piece of education
как сложные системы взаимодействуют
how complex systems come together and work
that knowledge elsewhere in the world.
эти знания где-нибудь ещё.
an important discussion,
открыты и готовы к разговору,
are really open and prepared to have it,
ABOUT THE SPEAKER
James Bridle - Artist, writerWorking across technologies and disciplines, James Bridle examines technology, knowledge and the end of the future.
Why you should listen
James Bridle is an artist and writer working across technologies and disciplines. His artworks and installations have been exhibited in Europe, North and South America, Asia and Australia, and have been viewed by hundreds of thousands of visitors online. He has been commissioned by organizations including the Victoria & Albert Museum, the Barbican, Artangel, the Oslo Architecture Triennale and the Istanbul Design Biennial, and he has been honored by Ars Electronica, the Japan Media Arts Festival and the Design Museum, London. His writing on literature, culture and networks has appeared in magazines and newspapers including Frieze, Wired, Domus, Cabinet, The Atlantic, the New Statesman and many others, and he has written a regular column for The Observer.
New Dark Age, Bridle's book about technology, knowledge and the end of the future is forthcoming from Verso (UK & US) in 2018. He lectures regularly on radio, at conferences, universities and other events including SXSW, Lift, the Global Art Forum and Re:Publica. He has been a resident at Lighthouse, Brighton, the White Building, London and Eyebeam, New York, and an adjunct professor on the interactive telecommunications program at New York University.
James Bridle | Speaker | TED.com