James Bridle: The nightmare videos of children's YouTube -- and what's wrong with the internet today
James Bridle: Youtube'daki çocuk videoları kabusu ve günümüzde internetin sorunu
Working across technologies and disciplines, James Bridle examines technology, knowledge and the end of the future. Full bio
Double-click the English transcript below to play the video.
of military drones
çizmek gibi işler yapıyorum;
and get their heads around
oldukça zor olan bu teknolojileri
and hard-to-think-about technologies.
ve anlamaya başlasın diye.
that predict the results of elections
dayanarak tahmin eden
of these weird new technologies are.
konusuna çok merak duyuyorum.
my own self-driving car.
giden arabamı yaptım.
really trust technology,
I find them completely fascinating,
onları fazlasıyla ilginç bulmam
when we talk about technology,
teknolojiden bahsettiğimizde
şeklimizden bahsediyoruz.
opening up loads of chocolate eggs
çikolotadan yumurtayı açıp
izleyiciye gösterdiği bir video.
for seven long minutes.
boyunca olan tek şey bu.
two things about this.
fark etmenizi istiyorum.
has 30 million views.
30 milyon görüntülenmesi var.
that has 6.3 million subscribers,
milyar görüntülenmesi olan
opening up these eggs.
izleyen 30 milyon insan.
for "surprise eggs" on YouTube,
"sürpriz yumurta"yı aratırsanız
10 million of these videos,
10 milyon tane olduğunu söyler
of these videos
abartı kombinasyonlarda
of brands and materials,
being uploaded every single day.
daha da fazlası yükleniyor.
who are watching these videos.
bu videoları izleyenler yetişkinler değil.
like crack for little kids.
özel uyuşturucu.
dopamine hit of the reveal,
yumurtadan çıkanın
over and over and over again,
tekrar tekrar izliyorlar
and hours and hours.
the screen away from them,
uzaklaştırmaya çalışırsanız
in the audience nodding --
başıyla onaylayanları gördüm-
with small children and ask them,
olan birini bulup sorun,
the surprise egg videos.
Facebook ve Instagram'ın kullandığı,
Facebook and Instagram are using
kontrol etme ihtiyacı uyandıran
to hack the brains of very small children
beyinlerini ele geçirmek için
karşılığında kullanıyorlar.
that's what they're doing.
of making ad revenue on YouTube.
elde etmenin daha kolay yolları var.
ya da çalabilirsiniz.
popular kids' cartoons
of these online as well.
milyonlarcasını bulabilirsiniz.
by the original content creators.
yaratıcıları tarafından konulmaz.
of different random accounts,
tarafından konuluyorlar
who's posting them
bilmek imkânsız.
of our digital services,
where this information is coming from.
bilmek imkânsız.
that comes along,
tıklamaları için eğitiyoruz,
bile umursamadan.
a terribly good idea.
that's really big on kids' YouTube.
bir diğer şey daha var.
in the audience.
200,000 views,
ve sadece 200.000 kez izlenmiş,
ve diline dolanan bir melodisi var,
into your brain
it seared itself into mine,
these finger family videos
bu parmak ailesi videoları
in different languages
of animation elements
malzemesini kullandıkları
and millions and millions of these videos
kombinasyonlardan oluşan
kind of insane combinations.
you start to spend with them,
you start to feel that you might be.
o kadar artar.
kind of launched into this,
and deep lack of understanding
that seems to be presented around me.
ve derin yabancılaşma hissi.
where these things are coming from.
geldiğini bilmek imkânsız.
of teams of professional animators.
ekiplerle yapılmış gibi duruyor.
assembled by software.
rastgele birleştirilmiş.
young kids' entertainers.
küçük çocuk şovmenleri.
shouldn't be around children at all.
bulunmaması gereken insanlardan.
of figuring out who's making this stuff --
kim olduğunu çözmenin imkansızlığı--
that we can't tell the difference
söyleyemiyor olmamız
feel kind of familiar right now?
on their videos --
izletmelerinin tek yolu
of these videos with these popular terms.
videolarının başlığına sıkıştırmak.
"Paw Patrol," "Easter egg,"
"Easter egg"i eklersiniz,
popular videos into your title,
alır ve başlığına eklersiniz,
meaningless mash of language
elde edene dek.
tiny kids who are watching your video,
izleyenler sadece ufacık çocuklar,
for this stuff is software.
are like other videos,
video yapmak için kullandığı yazılım.
to make them recommended.
kind of completely meaningless mash,
sonuçlanmanızın nedeni de bu,
this algorithmically optimized system,
bu sistemin içinde gerçekten insanlar var.
of increasingly forced to act out
kombinasyonlarını
combinations of words,
responding to the combined screams
bebeğin çığlığına karşılık veren
trapped within these systems,
gerçek insanlar var
about this algorithmically driven culture,
son derece garip bir diğer şey
watching this stuff,
by these weird mechanisms.
tarafından yakalanmış çocuklar var.
to even use a website.
internete girmek için bile çok küçük.
on the screen with their little hands.
çekiçle vurur gibi vuruyorlar.
over and over and over in a loop,
sonsuz bir şekilde
in the system now
to some pretty strange places.
sizi çok garip yerlere götürüyor.
of a counting train
Mickey Mouse'a gidebilirsiniz.
ortaya çıkan bu.
keywords come home to roost.
anahtar kelimelerin geri teptiği yer.
trollish in-jokes or something,
to a very weird place indeed.
garip bir yere gelirsiniz.
or sexual content, right?
içeren şeyler, değil mi?
genuinely terrify children.
korkutan garip şakalar.
all of these different influences
çocukların en kötü kâbuslarını
kids' worst nightmares.
için kullanıyorlar.
does affect small children.
küçük çocukları etkiliyor.
being traumatized,
travma geçirdiğini,
cartoon characters.
korktuğunu bildiriyor.
it's that if you have small children,
eğer küçük çocuklarınız varsa
that really gets to me about this,
beni gerçekten üzen şey şu ki
understand how we got to this point.
cidden anladığımızdan emin değilim.
all of these things,
that no one really intended.
bir şekilde birleştirdik.
that we're building the entire world.
şeklimiz günümüzde bu.
full of prejudice,
impulses of history,
into huge data sets
into things like credit reports,
kredi raporlarına,
policing systems,
constructing the world today
bu verileri kullanarak
that seems to be entirely optimized
of human behavior,
görünen bir sistem kurmamız mı
to have done it by accident,
bile farkına varmadan
that we were doing it,
görünüyor olmamız mı?
the systems that we were building,
bu sistemleri gerçekten anlayamadık,
how to do anything differently with it.
yapılacağını da gerçekten anlamadık.
that really seem to be driving this
yön verdiğini düşünüyorum,
dönüştürülmesi demek,
actually developing this content,
insanları umursamadan,
the separation of those things.
bu şeylerin birbirinden ayrılması.
about the use of advertising
her ne düşünüyorsanız
rolling around in the sand
onlara para vereceği umuduyla
that they don't really understand
probably isn't the thing
dayandırmamız gereken şeyin
our society and culture upon,
gerektiğini gösteriyor.
we should be funding it.
the major driver of this is automation,
büyük şey de otomatikleşme,
of all of this technology
without any kind of oversight,
"Hey, it's not us, it's the technology."
teknoloji yaptı" demek.
just algorithmically governed,
algoritmik olarak yönetilmiyor,
olarak denetleniyor.
to pay attention to this,
verdiği zamanlarda
they'd do about it
better machine learning algorithms
algoritmalar kullanacaklarıydı,
as any expert in it will tell you,
söyleyeceği gibi, "makine öğrenmesi"
anlamadığımız yazılımlara
understand how it works.
enough of that already.
this stuff up to AI to decide
sansürlemeye başlayacak.
legitimate public speech.
bir şey olmamalı.
that's left up to unaccountable systems.
bir tartışmanın parçası.
all of us should be having.
very pleasant, either.
a version of their kids' app
insanlar tarafından yönetildiği
moderated by humans.
much the same thing at Congress,
nasıl yöneteceği sorulduğunda
were going to moderate their stuff.
the first person to see this stuff,
precarious contract workers
sözleşmeli işçileriniz olacak,
quite a lot better than that.
çok daha iyisini yapabiliriz.
two things together, really, for me,
understand -- by agency, I mean:
ne anladığımızı kastediyorum:
in our own best interests.
hareket etmeyi bilmemiz,
really fully understand.
bu sistemlerin içinde.
always leads to violence.
şiddete yol açar.
does the same thing.
aynını yaptığını görüyoruz.
to start to improve these systems,
yapabileceğimiz bir şey varsa
to the people who use them,
daha okunaklı yapmak,
a common understanding
most about these systems
en çok düşündüğüm şey de şu ki
I've explained, really about YouTube.
bu olay YouTube ile ilgili değil.
that inherently results
toplanmış olmasından kaynaklanan
of power in a few hands --
and not just of technology in general,
veya teknolojinin genel sorunları değil,
this global system, the internet,
sıradışı bir şekilde gösteren,
in this extraordinary way,
yapan global sistemi,
bir kapasitesi var ki
tutku ve önyargılarımızı
often hidden desires and biases
so that we can see them,
görmemiz için not ediyor,
they don't exist anymore.
as a solution to all of our problems,
çözümü olarak görmek yerine,
to what those problems actually are,
gösteren bir rehber olarak görmeliyiz ki
about them properly
for coming and giving us that talk.
yaptığın için teşekkürler.
the robotic overlords take over,
ele geçirdiği filmleri düşününce
than what you're describing.
biraz daha göz alıcı.
you have the resistance mounting.
bu fimlerde bir direniş var.
towards this stuff?
green shoots of resistance?
yeşeren bir direniş görüyor musun?
about direct resistance,
is super long-term.
in really deep ways.
kültürün içine işledi.
Eleanor Saitta, always says
her zaman der ki
of sufficient scale and scope
her teknolojik problem
to address within this
çalıştığımız her şey
just by building the technology better,
inşa etmekle değil,
that's producing these technologies.
değiştirmekle çözülecek.
a hell of a long way to go.
daha çok yolumuz var.
çıkartıp açıklayarak,
about them super honestly,
to at least begin that process.
legibility and digital literacy,
okuryazarlık hakkında konuşunca
of digital literacy on users themselves.
hayal etmesi zor buluyorum.
is education in this new world?
eğitimden kim sorumlu?
is kind of up to all of us,
biraz da hepimizde,
everything we build, everything we make,
in a consensual discussion
intended to trick and surprise people
aklını çelme amacı taşıyan
in every step in educating them,
her adımına dâhiller
is educational.
about even this really grim stuff,
bu son derece acımasızca şeylerde bile,
and look at it properly,
a piece of education
how complex systems come together and work
işlediğini görmeye başlamamızı
that knowledge elsewhere in the world.
başka bir yerinde kullanmamızı sağlayacak.
an important discussion,
are really open and prepared to have it,
bu tartışmaya açık ve hazırlar,
ABOUT THE SPEAKER
James Bridle - Artist, writerWorking across technologies and disciplines, James Bridle examines technology, knowledge and the end of the future.
Why you should listen
James Bridle is an artist and writer working across technologies and disciplines. His artworks and installations have been exhibited in Europe, North and South America, Asia and Australia, and have been viewed by hundreds of thousands of visitors online. He has been commissioned by organizations including the Victoria & Albert Museum, the Barbican, Artangel, the Oslo Architecture Triennale and the Istanbul Design Biennial, and he has been honored by Ars Electronica, the Japan Media Arts Festival and the Design Museum, London. His writing on literature, culture and networks has appeared in magazines and newspapers including Frieze, Wired, Domus, Cabinet, The Atlantic, the New Statesman and many others, and he has written a regular column for The Observer.
New Dark Age, Bridle's book about technology, knowledge and the end of the future is forthcoming from Verso (UK & US) in 2018. He lectures regularly on radio, at conferences, universities and other events including SXSW, Lift, the Global Art Forum and Re:Publica. He has been a resident at Lighthouse, Brighton, the White Building, London and Eyebeam, New York, and an adjunct professor on the interactive telecommunications program at New York University.
James Bridle | Speaker | TED.com