James Bridle: The nightmare videos of children's YouTube -- and what's wrong with the internet today
James Bridle: O pesadelo dos vídeos no YouTube para crianças e o que há de errado com a internet hoje
Working across technologies and disciplines, James Bridle examines technology, knowledge and the end of the future. Full bio
Double-click the English transcript below to play the video.
a respeito de tecnologia.
of military drones
em tamanho natural de "drones" militares
and get their heads around
começar a pensar e a compreender
and hard-to-think-about technologies.
de se ver e imaginar.
que preveem os resultados de eleições
that predict the results of elections
com as reais possibilidades
of these weird new technologies are.
my own self-driving car.
meu próprio carro autônomo.
really trust technology,
também projetei uma armadilha para ele.
I find them completely fascinating,
as considero totalmente fascinantes,
when we talk about technology,
que, ao falar sobre tecnologia,
sobre nós mesmos
abrindo um monte de ovos de chocolate
opening up loads of chocolate eggs
que estão dentro deles.
for seven long minutes.
durante sete longos minutos.
two things about this.
has 30 million views.
tem 30 milhões de visualizações.
em um canal com 6,3 milhões de inscritos
that has 6.3 million subscribers,
opening up these eggs.
assistindo a um cara abrindo esses ovos.
for "surprise eggs" on YouTube,
por "ovos surpresa" no YouTube,
10 million of these videos,
10 milhões desses vídeos,
of these videos
of brands and materials,
grotescas de marcas e materiais,
being uploaded every single day.
who are watching these videos.
que assistem a esses vídeos.
like crack for little kids.
da revelação, que as fisga totalmente.
dopamine hit of the reveal,
over and over and over again,
a esses vídeos sem parar
and hours and hours.
the screen away from them,
elas irão gritar sem parar.
in the audience nodding --
a quem têm crianças pequenas.
with small children and ask them,
the surprise egg videos.
ou muitas pessoas,
Facebook and Instagram are using
do Facebook e do Instagram
to hack the brains of very small children
das criancinhas no YouTube
that's what they're doing.
espero que estejam fazendo,
receitas publicitárias no YouTube.
of making ad revenue on YouTube.
popular kids' cartoons
realmente populares,
of these online as well.
milhões deles na internet.
publicada pelos criadores originais.
by the original content creators.
aleatórias diferentes,
of different random accounts,
ou quais são os motivos para isso.
who's posting them
of our digital services,
de nossos serviços digitais
where this information is coming from.
a origem das informações.
desde que nascem,
that comes along,
não importando a origem dele.
a terribly good idea.
that's really big on kids' YouTube.
no YouTube para crianças
resmungando de novo na plateia.
in the audience.
200 mil visualizações,
200,000 views,
porque ela gruda no cérebro
into your brain
it seared itself into mine,
que ficam viciadas nela.
these finger family videos
começam a surgir em toda parte,
in different languages
de animação que existem por aí.
of animation elements
and millions and millions of these videos
desses vídeos na internet,
kind of insane combinations.
de combinações bizarras.
you start to spend with them,
you start to feel that you might be.
kind of launched into this,
and deep lack of understanding
e falta de compreensão
that seems to be presented around me.
que parece estar sempre ao meu redor.
where these things are coming from.
de onde vêm esses vídeos.
de animadores profissionais.
of teams of professional animators.
assembled by software.
aleatoriamente por software.
young kids' entertainers.
e têm um aspecto muito saudável.
não deveriam se aproximar de crianças.
shouldn't be around children at all.
of figuring out who's making this stuff --
de saber quem faz essas coisas...
that we can't tell the difference
notar a diferença entre essas coisas?
feel kind of familiar right now?
on their videos --
visualizações de vídeos,
of these videos with these popular terms.
com esses termos populares.
"Paw Patrol," "Easter egg,"
"ovo de Páscoa", seja o que for,
vídeos populares ao seu título
popular videos into your title,
de linguagem misturada,
meaningless mash of language
tiny kids who are watching your video,
as criancinhas que veem esses vídeos,
for this stuff is software.
para essas coisas é o software,
are like other videos,
e torná-los populares e recomendados.
to make them recommended.
essa mistura totalmente sem sentido,
kind of completely meaningless mash,
otimizado por algoritmos,
this algorithmically optimized system,
of increasingly forced to act out
combinations of words,
cada vez mais bizarras,
responding to the combined screams
de um milhão de crianças de uma vez.
trapped within these systems,
dessa cultura comandada por algoritmos,
about this algorithmically driven culture,
apenas para sobreviver.
watching this stuff,
by these weird mechanisms.
por esses estranhos mecanismos.
to even use a website.
até para usar a internet.
on the screen with their little hands.
continua exibindo os vídeos
over and over and over in a loop,
infinitamente, durante horas seguidas.
in the system now
no sistema hoje em dia
nos leva a lugares muito estranhos.
to some pretty strange places.
of a counting train
de um trem contando números
muito estranhas entram em nossa casa.
keywords come home to roost.
com alguma coisa de super-heróis,
trollish in-jokes or something,
ou qualquer coisa assim,
to a very weird place indeed.
em um lugar muito estranho.
or sexual content, right?
violento ou sexual, não é?
em que as crianças são agredidas,
genuinely terrify children.
aterrorizam as crianças.
all of these different influences
todas essas influências diferentes
kids' worst nightmares.
os piores pesadelos das crianças.
does affect small children.
as crianças menores.
being traumatized,
ficam traumatizados,
de seus desenhos animados preferidos.
cartoon characters.
it's that if you have small children,
é que, se tiverem filhos pequenos,
that really gets to me about this,
understand how we got to this point.
como chegamos a esse ponto.
all of these things,
de uma forma que ninguém pretendia.
that no one really intended.
construindo o mundo inteiro.
that we're building the entire world.
cheios de preconceito,
full of prejudice,
piores impulsos da história,
impulses of history,
de dados e depois os automatizamos.
into huge data sets
em coisas como relatórios de crédito,
into things like credit reports,
policing systems,
constructing the world today
o mundo de hoje a partir desses dados.
that seems to be entirely optimized
que parece estar totalmente otimizado
of human behavior,
do comportamento humano
to have done it by accident,
that we were doing it,
o que estávamos fazendo,
the systems that we were building,
os sistemas que estávamos criando,
how to do anything differently with it.
de forma diferente.
que parecem estar levando a isso
that really seem to be driving this
variáveis reais em ação,
actually developing this content,
que desenvolvem esse conteúdo,
the separation of those things.
a separação dessas coisas.
about the use of advertising
da publicidade para apoiar isso,
rolando na areia
rolling around in the sand
that they don't really understand
que realmente não compreendem
probably isn't the thing
nossa sociedade e nossa cultura,
our society and culture upon,
devemos financiá-la.
we should be funding it.
the major driver of this is automation,
essa tecnologia assim que ela chega,
of all of this technology
without any kind of oversight,
lavamos as mãos e dizemos:
"Hey, it's not us, it's the technology."
Não estamos envolvidos".
determinada por algoritmos,
just algorithmically governed,
to pay attention to this,
a prestar atenção nisso,
they'd do about it
de aprendizagem de máquinas
better machine learning algorithms
as any expert in it will tell you,
como dirá qualquer especialista,
que não sabemos realmente como funciona.
understand how it works.
enough of that already.
this stuff up to AI to decide
o que é apropriado ou não,
como o conteúdo "queer",
legitimate public speech.
de sistemas irresponsáveis.
that's left up to unaccountable systems.
que todos nós deveríamos ter.
all of us should be having.
very pleasant, either.
não é muito agradável.
a version of their kids' app
de seu aplicativo para crianças,
moderated by humans.
much the same thing at Congress,
uma coisa parecida no Congresso,
como moderariam seu conteúdo.
were going to moderate their stuff.
as primeiras a verem aqueles conteúdos,
the first person to see this stuff,
precarious contract workers
sem apoio adequado de saúde mental,
muito melhor do que isso.
quite a lot better than that.
two things together, really, for me,
essas duas coisas
understand -- by agency, I mean:
in our own best interests.
no que melhor nos interessa?
não temos a compreensão total.
really fully understand.
always leads to violence.
sempre leva à violência.
de compreensão faz o mesmo.
does the same thing.
to start to improve these systems,
para começar a melhorar esses sistemas,
to the people who use them,
para as pessoas que os utilizam,
a common understanding
um entendimento comum
quanto a esses sistemas
most about these systems
I've explained, really about YouTube.
ter deixado claro, do YouTube.
e responsabilidade,
that inherently results
que resulta inerentemente
of power in a few hands --
nas mãos de poucos
and not just of technology in general,
nem da tecnologia em geral,
this global system, the internet,
esse sistema global, a internet,
de forma extraordinária,
in this extraordinary way,
a capacidade extraordinária
often hidden desires and biases
mais notáveis, muitas vezes ocultos,
so that we can see them,
para que possamos percebê-los
they don't exist anymore.
que não existem mais.
as a solution to all of our problems,
como uma solução para todos os problemas
to what those problems actually are,
para o que são realmente esses problemas,
about them properly
pensar neles adequadamente
for coming and giving us that talk.
por ter vindo dar esta palestra.
em que os robôs assumem o comando,
the robotic overlords take over,
than what you're describing.
do que você descreve.
you have the resistance mounting.
temos a escalada da resistência.
sobre esse assunto?
towards this stuff?
de recuperação da resistência?
green shoots of resistance?
about direct resistance,
sobre a resistência direta,
muito a longo prazo,
is super long-term.
de maneira muito profunda.
in really deep ways.
Eleanor Saitta, always says
of sufficient scale and scope
de dimensão e alcance suficientes
problemas políticos.
to address within this
que tentamos abordar
apenas melhorando a tecnologia,
just by building the technology better,
that's producing these technologies.
a hell of a long way to go.
um longo caminho a percorrer.
falando sobre isso de forma honesta,
about them super honestly,
iniciar esse processo.
to at least begin that process.
e alfabetização digital,
legibility and digital literacy,
of digital literacy on users themselves.
da alfabetização digital nos usuários.
do ensino neste novo mundo?
is education in this new world?
is kind of up to all of us,
seja de todos nós,
everything we build, everything we make,
numa discussão consensual
in a consensual discussion
intended to trick and surprise people
para enganar e surpreender as pessoas
in every step in educating them,
em cada passo de sua educação,
is educational.
mesmo nessa coisa sombria,
about even this really grim stuff,
and look at it properly,
parte da educação
a piece of education
sistemas complexos se juntam e funcionam
how complex systems come together and work
that knowledge elsewhere in the world.
esses conhecimentos pelo mundo.
an important discussion,
muito importante,
estão abertas e preparadas para ela.
are really open and prepared to have it,
ABOUT THE SPEAKER
James Bridle - Artist, writerWorking across technologies and disciplines, James Bridle examines technology, knowledge and the end of the future.
Why you should listen
James Bridle is an artist and writer working across technologies and disciplines. His artworks and installations have been exhibited in Europe, North and South America, Asia and Australia, and have been viewed by hundreds of thousands of visitors online. He has been commissioned by organizations including the Victoria & Albert Museum, the Barbican, Artangel, the Oslo Architecture Triennale and the Istanbul Design Biennial, and he has been honored by Ars Electronica, the Japan Media Arts Festival and the Design Museum, London. His writing on literature, culture and networks has appeared in magazines and newspapers including Frieze, Wired, Domus, Cabinet, The Atlantic, the New Statesman and many others, and he has written a regular column for The Observer.
New Dark Age, Bridle's book about technology, knowledge and the end of the future is forthcoming from Verso (UK & US) in 2018. He lectures regularly on radio, at conferences, universities and other events including SXSW, Lift, the Global Art Forum and Re:Publica. He has been a resident at Lighthouse, Brighton, the White Building, London and Eyebeam, New York, and an adjunct professor on the interactive telecommunications program at New York University.
James Bridle | Speaker | TED.com