James Bridle: The nightmare videos of children's YouTube -- and what's wrong with the internet today
James Bridle: Os vídeos de pesadelo do YouTube para crianças - e o que há de errado com a Internet
Working across technologies and disciplines, James Bridle examines technology, knowledge and the end of the future. Full bio
Double-click the English transcript below to play the video.
of military drones
"drones" militares em tamanho natural
and get their heads around
a dar a volta à cabeça,
and hard-to-think-about technologies.
e muito difíceis de imaginar.
that predict the results of elections
que preveem os resultados de eleições.
of these weird new technologies are.
destas novas tecnologias estranhas.
my own self-driving car.
o meu carro autónomo.
really trust technology,
I find them completely fascinating,
acho-as totalmente fascinantes
when we talk about technology,
quando falamos de tecnologia,
opening up loads of chocolate eggs
a abrir montes de ovos de chocolate
os brinquedos que estão lá dentro.
for seven long minutes.
durante sete longos minutos.
two things about this.
has 30 million views.
tem 30 milhões de visitas.
that has 6.3 million subscribers,
que tem 6,3 milhões de subscritores
de oito milhões de visitas
opening up these eggs.
que veem um tipo a abrir estes ovos.
for "surprise eggs" on YouTube,
"ovos surpresa" no YouTube,
10 million of these videos,
está feita por baixo.
of these videos
of brands and materials,
de marcas e materiais.
being uploaded every single day.
a aparecerem na Internet.
who are watching these videos.
não são os adultos que veem estes vídeos.
like crack for little kids.
para as crianças.
dopamine hit of the reveal,
de dopamina da revelação
over and over and over again,
vezes sem conta
and hours and hours.
e horas e horas.
the screen away from them,
elas desatam aos gritos.
a abanar a cabeça -
in the audience nodding --
com uma criança pequena e perguntem-lhe.
with small children and ask them,
dos ovos surpresa.
the surprise egg videos.
ou imensas pessoas,
Facebook and Instagram are using
que o Facebook e o Instagram usam
a ver aquela aplicação
to hack the brains of very small children
o cérebro das criancinhas
que estão a fazer.
that's what they're doing.
of making ad revenue on YouTube.
receitas publicitárias no YouTube.
infantis, realmente populares,
popular kids' cartoons
of these online as well.
muitos milhões deles na Internet.
by the original content creators.
publicados pelos criadores originais.
diferentes contas ao acaso
of different random accounts,
who's posting them
dos nossos serviços digitais
of our digital services,
where this information is coming from.
de onde provêm as informações.
desde que nascem,
that comes along,
que lhes apareça,
a terribly good idea.
that's really big on kids' YouTube.
no YouTube para crianças
in the audience.
200,000 views,
into your brain
it seared itself into mine,
e elas ficam viciados nela.
estes vídeos da família dos dedos
these finger family videos
in different languages
usando a comida
of animation elements
elementos de animação
and millions and millions of these videos
destes vídeos na Internet,
kind of insane combinations.
de combinações extravagantes.
you start to spend with them,
you start to feel that you might be.
kind of launched into this,
e profunda falta de compreensão
and deep lack of understanding
that seems to be presented around me.
que parece estar sempre à minha volta.
where these things are coming from.
de onde vêm estas coisas.
of teams of professional animators.
por equipas de animadores profissionais.
assembled by software.
ao acaso por um "software".
young kids' entertainers.
com um aspeto muito saudável.
shouldn't be around children at all.
aproximar-se de criancinhas.
of figuring out who's making this stuff --
de vir a saber quem é que faz estas coisas
that we can't tell the difference
que já não consigamos ver
feel kind of familiar right now?
on their videos --
obterem visitas nos seus vídeos
of these videos with these popular terms.
com estes termos populares.
"Patrulha Pata", "Ovo da Páscoa"
"Paw Patrol," "Easter egg,"
popular videos into your title,
de outros vídeos populares
de linguagem misturada, sem sentido
meaningless mash of language
para as pessoas.
tiny kids who are watching your video,
que veem esses vídeos
for this stuff is software.
para estas coisas é o "software",
are like other videos,
que são como os outros vídeos,
to make them recommended.
para os recomendar.
kind of completely meaningless mash,
esta misturada totalmente sem sentido,
this algorithmically optimized system,
otimizado com algoritmos,
of increasingly forced to act out
cada vez mais bizarras,
combinations of words,
responding to the combined screams
reagindo aos gritos combinados
trapped within these systems,
dentro destes sistemas
about this algorithmically driven culture,
desta cultura comandada por logaritmos,
como uma máquina
watching this stuff,
a ver estas coisas.
by these weird mechanisms.
nestes mecanismos esquisitos.
muito pequenas para usar a Internet.
to even use a website.
on the screen with their little hands.
over and over and over in a loop,
vezes sem conta, num ciclo,
infindavelmente.
in the system now
tanta coisa esquisita
to some pretty strange places.
a locais muito estranhos.
of a counting train
de um comboio de contagem
keywords come home to roost.
entram na nossa casa.
trollish in-jokes or something,
ou qualquer coisa assim
to a very weird place indeed.
a um sítio muito esquisito.
or sexual content, right?
violento ou sexual, não é?
em que crianças são atacadas
genuinely terrify children.
genuinamente as crianças.
all of these different influences
todas estas influências diferentes
kids' worst nightmares.
os piores pesadelos das crianças.
does affect small children.
as criancinhas.
being traumatized,
ficam traumatizados,
cartoon characters.
dos desenhos animados preferidos.
it's that if you have small children,
é que, se tiverem filhos pequenos,
that really gets to me about this,
understand how we got to this point.
como chegámos a este ponto.
all of these things,
todas estas coisas
that no one really intended.
que ninguém pretendia.
that we're building the entire world.
como estamos a construir o mundo inteiro.
uma data de más informações,
full of prejudice,
cheias de preconceitos,
impulses of history,
piores impulsos da história,
into huge data sets
into things like credit reports,
com coisas como relatórios de crédito,
policing systems,
sistemas de vigilância preditiva
de sentenças.
constructing the world today
a construir o mundo de hoje
that seems to be entirely optimized
que parece estar totalmente otimizado
of human behavior,
do comportamento humano
to have done it by accident,
that we were doing it,
o que estávamos a fazer,
the systems that we were building,
dos sistemas que estávamos a criar
how to do anything differently with it.
como fazer de forma diferente.
that really seem to be driving this
que parecem ter levado a isto
actually developing this content,
que desenvolvem este conteúdo,
the separation of those things.
a separação destas coisas.
about the use of advertising
ao uso da publicidade,
rolling around in the sand
a rebolar na areia
that they don't really understand
- de que não percebem nada -
probably isn't the thing
não é nisso que devemos basear
our society and culture upon,
we should be funding it.
the major driver of this is automation,
o maior impulso é a automação
de toda esta tecnologia
of all of this technology
without any kind of oversight,
sem qualquer tipo de supervisão
lavamos as mãos e dizemos:
"Hey, it's not us, it's the technology."
just algorithmically governed,
governado por algoritmos,
to pay attention to this,
a prestar atenção a isto,
foi que iam arranjar melhores algoritmos
they'd do about it
better machine learning algorithms
para moderar o conteúdo
as any expert in it will tell you,
como qualquer especialista dirá,
por chamar "software"
understand how it works.
minimamente como funciona.
enough of that already.
this stuff up to AI to decide
para a IA decidir
legitimate public speech.
that's left up to unaccountable systems.
deixada a sistemas irresponsáveis.
all of us should be having.
que todos devíamos ter.
very pleasant, either.
não é muito agradável.
a version of their kids' app
da sua aplicação para crianças
moderated by humans.
moderada por pessoas.
much the same thing at Congress,
uma coisa parecida no Congresso,
were going to moderate their stuff.
como iam moderar as suas coisas.
em vez de serem as crianças
the first person to see this stuff,
precarious contract workers
com contratos precários,
quite a lot better than that.
Penso que todos podemos fazer
melhor do que isso.
two things together, really, for me,
estas duas coisas
understand -- by agency, I mean:
no nosso melhor interesse?
in our own best interests.
really fully understand.
compreendemos minimamente.
always leads to violence.
leva sempre à violência.
does the same thing.
faz a mesma coisa.
to start to improve these systems,
para começar a melhorar estes sistemas,
to the people who use them,
para as pessoas que os usam,
um entendimento comum
a common understanding
most about these systems
quanto a estes sistemas
I've explained, really about YouTube.
ter deixado claro, sobre o YouTube.
de responsabilização e de ação,
that inherently results
que resulta inerentemente
of power in a few hands --
em poucas mãos
and not just of technology in general,
nem sequer da tecnologia em geral
this global system, the internet,
este sistema global, a Internet,
in this extraordinary way,
desta forma extraordinária,
esta capacidade extraordinária
often hidden desires and biases
mais extraordinários e às vezes ocultos
so that we can see them,
para os podermos ver,
they don't exist anymore.
pretender que não existem.
as a solution to all of our problems,
para todos os nossos problemas
to what those problems actually are,
para quais são esses problemas hoje,
about them properly
de modo adequado
for coming and giving us that talk.
por teres vindo fazer esta palestra.
the robotic overlords take over,
em que os robôs assumem o comando,
than what you're describing.
do que o que descreveste.
you have the resistance mounting.
temos a escalada da resistência.
towards this stuff?
contra esta matéria?
green shoots of resistance?
disparos verdes de resistência?
sobre resistência direta,
about direct resistance,
is super long-term.
é a muito longo prazo,
in really deep ways.
de forma muito profunda.
Eleanor Saitta, always says
Eleanor Saitta, diz sempre
of sufficient scale and scope
de dimensão e âmbito suficientes
acima de tudo.
to address within this
que tentamos abordar
por melhorarmos a tecnologia,
just by building the technology better,
que produz essas tecnologias.
that's producing these technologies.
a hell of a long way to go.
um comprido caminho a percorrer.
se os explicarmos,
about them super honestly,
to at least begin that process.
legibility and digital literacy,
e da literacia digital,
of digital literacy on users themselves.
da literacia digital para os utilizadores.
is education in this new world?
do ensino neste novo mundo?
is kind of up to all of us,
também tem a ver com todos nós,
everything we build, everything we make,
tudo o que criamos,
in a consensual discussion
numa discussão consensual
intended to trick and surprise people
e a surpreender as pessoas
em cada passo na educação deles,
in every step in educating them,
is educational.
é educativo.
about even this really grim stuff,
mesmo nestas coisas sombrias,
and look at it properly,
analisá-lo devidamente,
a piece of education
uma peça de ensino
how complex systems come together and work
se juntam e funcionam
that knowledge elsewhere in the world.
esses conhecimentos pelo mundo.
an important discussion,
tão importante
está aberta e preparada para ela
are really open and prepared to have it,
a nossa manhã.
ABOUT THE SPEAKER
James Bridle - Artist, writerWorking across technologies and disciplines, James Bridle examines technology, knowledge and the end of the future.
Why you should listen
James Bridle is an artist and writer working across technologies and disciplines. His artworks and installations have been exhibited in Europe, North and South America, Asia and Australia, and have been viewed by hundreds of thousands of visitors online. He has been commissioned by organizations including the Victoria & Albert Museum, the Barbican, Artangel, the Oslo Architecture Triennale and the Istanbul Design Biennial, and he has been honored by Ars Electronica, the Japan Media Arts Festival and the Design Museum, London. His writing on literature, culture and networks has appeared in magazines and newspapers including Frieze, Wired, Domus, Cabinet, The Atlantic, the New Statesman and many others, and he has written a regular column for The Observer.
New Dark Age, Bridle's book about technology, knowledge and the end of the future is forthcoming from Verso (UK & US) in 2018. He lectures regularly on radio, at conferences, universities and other events including SXSW, Lift, the Global Art Forum and Re:Publica. He has been a resident at Lighthouse, Brighton, the White Building, London and Eyebeam, New York, and an adjunct professor on the interactive telecommunications program at New York University.
James Bridle | Speaker | TED.com