James Bridle: The nightmare videos of children's YouTube -- and what's wrong with the internet today
James Bridle: Video gây ác mộng cho trẻ em trên YouTube - có gì sai với Internet ngày nay
Working across technologies and disciplines, James Bridle examines technology, knowledge and the end of the future. Full bio
Double-click the English transcript below to play the video.
of military drones
theo kích thước thật
and get their heads around
và quan tâm
and hard-to-think-about technologies.
khó nhìn thấy và khó hiểu này.
that predict the results of elections
mạng dự đoán kết quả bỏ phiếu
of these weird new technologies are.
những công nghệ mới lạ này.
xe tự lái.
my own self-driving car.
tin tưởng vào công nghệ,
really trust technology,
I find them completely fascinating,
không chỉ vì thấy nó cực kỳ thú vị,
công nghệ là cách
when we talk about technology,
về thế giới.
về công nghệ.
"trứng bất ngờ".
ngồi mở thật nhiều trứng sô-cô-la
opening up loads of chocolate eggs
đồ chơi bên trong.
for seven long minutes.
nội dung trong bảy phút.
two things about this.
đến hai điều.
has 30 million views.
đạt 30 triệu lượt xem.
that has 6.3 million subscribers,
có 6.3 triệu người theo dõi,
opening up these eggs.
mở những quả trứng này.
gõ "trứng bất ngờ" trên YouTube,
for "surprise eggs" on YouTube,
có 10 triệu video như thế,
10 million of these videos,
còn nhiều, nhiều hơn.
bạn sẽ thấy vô số.
video thế này
of these videos
of brands and materials,
giữa nhãn hàng và nội dung,
being uploaded every single day.
video như vậy được tải lên.
who are watching these videos.
không dành cho người lớn,
ma túy với chúng.
like crack for little kids.
dopamine hit of the reveal,
over and over and over again,
hết lần này đến lần khác,
and hours and hours.
ra khỏi màn hình,
the screen away from them,
in the audience nodding --
hãy hỏi người có con nhỏ,
with small children and ask them,
"trứng bất ngờ" này.
the surprise egg videos.
hoặc rất nhiều người,
Facebook và Instagram đang dùng
Facebook and Instagram are using
mở chúng ra xem.
to hack the brains of very small children
tác động lên não bộ của trẻ nhỏ
đó là điều họ đang làm.
that's what they're doing.
of making ad revenue on YouTube.
thu lợi từ quảng cáo trên YouTube.
ăn cắp nội dung.
popular kids' cartoons
thật sự phổ biến với trẻ em
of these online as well.
đoạn phim này trên mạng.
tác giả gốc tải lên.
by the original content creators.
bất kỳ khác nhau,
of different random accounts,
người tải là ai
who's posting them
các dịch vụ kỹ thuật số,
of our digital services,
thông tin này đến từ ai.
where this information is coming from.
với trẻ em,
that comes along,
xuất hiện đầu tiên
a terribly good idea.
một ý tưởng hay.
phổ biến với trẻ trên YouTube,
that's really big on kids' YouTube.
in the audience.
bài xưa nhất mà tôi tìm được.
200,000 lượt xem.
200,000 views,
bắt tai khủng khiếp,
cho các bạn nghe,
into your brain
it seared itself into mine,
nó đã in vào não tôi,
với các bạn đâu.
nó len lỏi vào não trẻ
những video "Gia đình Ngón tay" này
these finger family videos
với nhiều phiên bản ngôn ngữ.
in different languages
minh hoạ bằng thức ăn
of animation elements
thế này trên mạng
and millions and millions of these videos
những sự kết hợp điên rồ.
kind of insane combinations.
thời gian để xem,
you start to spend with them,
you start to feel that you might be.
trở nên điên khùng.
kind of launched into this,
và không thể hiểu nổi
and deep lack of understanding
và hiện diện quanh mình.
that seems to be presented around me.
chúng đến từ đâu.
where these things are coming from.
làm phim hoạt hình chuyên nghiệp.
of teams of professional animators.
sắp xếp ngẫu nhiên.
assembled by software.
young kids' entertainers.
những sản phẩm giải trí chỉn chu cho trẻ,
bởi những người
shouldn't be around children at all.
ở gần con nít.
ai tạo ra những thứ này -
of figuring out who's making this stuff --
là một phần mềm tự động?
Hay là một trò đùa?
không thể phân biệt
that we can't tell the difference
feel kind of familiar right now?
quen thuộc phải không?
người xem video,
on their videos --
of these videos with these popular terms.
vào tiêu đề video.
với "trứng bất ngờ",
"Paw Patrol," "Easter egg,"
"Paw Patrol," "trứng Phục sinh"
từ các video nổi tiếng khác
popular videos into your title,
từ ngữ vô nghĩa
meaningless mash of language
chẳng thể nào hiểu được.
mới xem những video này,
tiny kids who are watching your video,
for this stuff is software.
là phần mềm, là những thuật toán.
are like other videos,
gợi ý chúng.
to make them recommended.
kind of completely meaningless mash,
bạn có thứ hỗn tạp vô nghĩa này,
bạn cần phải nhớ,
this algorithmically optimized system,
trong hệ thống tối ưu bằng thuật toán này,
ngày càng tăng cường
of increasingly forced to act out
combinations of words,
những từ khóa kỳ dị này,
responding to the combined screams
tuyệt vọng đáp lại tiếng la hét
bị kẹt trong hệ thống này,
trapped within these systems,
nền văn hóa bị thuật toán chi phối.
about this algorithmically driven culture,
như máy để tồn tại.
watching this stuff,
bị cơ chế này cuốn hút.
by these weird mechanisms.
quá nhỏ để biết cách truy cập trang web.
to even use a website.
đập bàn tay nhỏ xíu lên màn hình.
on the screen with their little hands.
tự động phát,
over and over and over in a loop,
hàng giờ liền.
in the system now
sẽ đưa bạn đến những nội dung kỳ lạ.
to some pretty strange places.
trong hơn chục cái nhấp chuột,
of a counting train
dễ thương về đếm số xe lửa
khác nhau này,
kỳ dị này phản tác dụng.
keywords come home to roost.
Gia đình Ngón tay
siêu anh hùng,
trollish in-jokes or something,
kỳ cục hay gì đó
một video hết sức kỳ dị như thế này.
to a very weird place indeed.
or sexual content, right?
hoặc tình dục, đúng không?
bị khủng hoảng.
genuinely terrify children.
các luồng ảnh hưởng này
all of these different influences
tồi tệ nhất cho lũ trẻ.
kids' worst nightmares.
does affect small children.
bị khủng hoảng,
being traumatized,
cartoon characters.
yêu thích của chúng.
thì đó là nếu bạn có con nhỏ,
it's that if you have small children,
làm tôi quan tâm,
that really gets to me about this,
understand how we got to this point.
vì sao đi đến nước này.
tất cả mọi thứ,
all of these things,
that no one really intended.
không ai tính trước.
that we're building the entire world.
ta xây dựng thế giới này.
phần lớn là dữ liệu xấu,
full of prejudice,
mang đầy định kiến,
impulses of history,
những bộ dữ liệu lớn
into huge data sets
into things like credit reports,
vào những thứ như báo cáo tín dụng,
policing systems,
constructing the world today
thế giới ngày nay
that seems to be entirely optimized
hoàn toàn tối ưu
trong hành vi con người,
of human behavior,
mà không hề hay biết,
to have done it by accident,
that we were doing it,
hệ thống mà ta dựng nên,
the systems that we were building,
how to do anything differently with it.
làm khác đi.
that really seem to be driving this
thúc đẩy chuyện này trên YouTube,
các yếu tố khác,
actually developing this content,
thật sự tạo ra các nội dung này,
và sự tách biệt khỏi những thứ khác.
the separation of those things.
về quảng cáo là gì
about the use of advertising
rolling around in the sand
mặc tã lăn lộn trên cát
that they don't really understand
từ một thuật toán khó hiểu
đây chắc chắn không phải là
probably isn't the thing
tạo dựng xã hội và văn hóa,
our society and culture upon,
we should be funding it.
mà ta nên ủng hộ.
the major driver of this is automation,
quá trình tự động hóa này
các công nghệ
of all of this technology
không có bất kỳ sự giám sát.
without any kind of oversight,
"Hey, it's not us, it's the technology."
do chúng tôi, mà là do công nghệ."
Không đủ thuyết phục,
điều khiển thứ này,
just algorithmically governed,
to pay attention to this,
đến vấn đề này,
they'd do about it
(machine learning)
better machine learning algorithms
as any expert in it will tell you,
cũng sẽ nói
understand how it works.
cách thức nó hoạt động.
enough of that already.
this stuff up to AI to decide
để trí tuệ nhân tạo quyết định
bởi ta biết điều gì sẽ xảy ra.
những nội dung khác.
Những phát biểu hợp pháp trước công chúng.
legitimate public speech.
that's left up to unaccountable systems.
bởi các hệ thống khó hiểu này.
all of us should be having.
mà tất cả chúng ta nên tham gia.
very pleasant, either.
cũng không hề dễ chịu.
a version of their kids' app
dành cho trẻ em
moderated by humans.
much the same thing at Congress,
cũng nói tương tự trước Quốc hội,
sản phẩm của họ ra sao.
were going to moderate their stuff.
để làm điều đó.
the first person to see this stuff,
đầu tiên thấy những thứ này,
hợp đồng bấp bênh, lương thấp,
precarious contract workers
tinh thần đúng cách, xem qua nó trước.
quite a lot better than that.
có thể làm tốt hơn thế.
lại với nhau là sự đại diện.
two things together, really, for me,
chúng ta hiểu biết đến đâu,
understand -- by agency, I mean:
in our own best interests.
để đạt lợi ích tốt nhất.
really fully understand.
mà chúng ta không hiểu hết.
luôn dẫn đến bạo lực.
always leads to violence.
trong những hệ thống này,
does the same thing.
cũng dẫn đến điều tương tự.
to start to improve these systems,
cải thiện hệ thống này
với người dùng,
to the people who use them,
đều có đủ hiểu biết
a common understanding
thực sự đang diễn ra.
most about these systems
những vấn đề hệ thống này
I've explained, really about YouTube.
như đã giải thích.
và đại diện,
và sự phức tạp,
that inherently results
vào một số ít người,
of power in a few hands --
to lớn hơn nhiều.
của YouTube, hay của giới công nghệ,
and not just of technology in general,
từ rất lâu.
this global system, the internet,
toàn cầu này, Internet,
những cách thức dị thường,
in this extraordinary way,
often hidden desires and biases
bất thường nhất mà ta hằng chôn giấu
so that we can see them,
để chúng ta thấy,
chúng không hiện hữu.
they don't exist anymore.
as a solution to all of our problems,
là giải pháp cho mọi vấn đề,
một hướng dẫn cho các vấn đề thật sự,
to what those problems actually are,
about them properly
đã đến và nói về vấn đề này,
for coming and giving us that talk.
the robotic overlords take over,
than what you're describing.
so với những gì anh mô tả.
you have the resistance mounting.
ta nhận thấy sự phản kháng tăng dần.
với những thứ này không?
towards this stuff?
green shoots of resistance?
tích cực nào của sự phản kháng?
sự phản kháng trực tiếp không,
about direct resistance,
cực kỳ lâu dài.
is super long-term.
in really deep ways.
nền văn hóa theo nhiều cách.
Eleanor Saitta, always says
of sufficient scale and scope
có quy mô và phạm vi đủ lớn
to address within this
mà ta nhắm đến
just by building the technology better,
chỉ bằng việc tạo ra công nghệ tốt hơn,
that's producing these technologies.
tạo ra những công nghệ này.
một chặng đường rất dài.
a hell of a long way to go.
bằng cách chia nhỏ vấn đè,
about them super honestly,
một cách trung thực,
to at least begin that process.
quá trình phản kháng đó.
legibility and digital literacy,
công nghệ kỹ thuật số,
of digital literacy on users themselves.
tìm hiểu kỹ thuật lên người dùng.
is education in this new world?
về giáo dục trong thế giới mới này?
thuộc về tất cả chúng ta,
is kind of up to all of us,
dựng nên, tạo ra,
everything we build, everything we make,
in a consensual discussion
sự thảo luận và đồng ý
đang tránh né chúng;
intended to trick and surprise people
làm điều đúng đắn,
in every step in educating them,
is educational.
đều có tính giáo dục.
about even this really grim stuff,
là ngay cả trong thực tế ảm đạm,
một cách đúng đắn,
and look at it properly,
a piece of education
how complex systems come together and work
kết hợp và hoạt động
that knowledge elsewhere in the world.
ở nơi khác trên thế giới.
cuộc thảo luận quan trọng,
an important discussion,
are really open and prepared to have it,
đã rất cởi mở và sẵn lòng lắng nghe.
với chúng tôi sáng hôm nay.
ABOUT THE SPEAKER
James Bridle - Artist, writerWorking across technologies and disciplines, James Bridle examines technology, knowledge and the end of the future.
Why you should listen
James Bridle is an artist and writer working across technologies and disciplines. His artworks and installations have been exhibited in Europe, North and South America, Asia and Australia, and have been viewed by hundreds of thousands of visitors online. He has been commissioned by organizations including the Victoria & Albert Museum, the Barbican, Artangel, the Oslo Architecture Triennale and the Istanbul Design Biennial, and he has been honored by Ars Electronica, the Japan Media Arts Festival and the Design Museum, London. His writing on literature, culture and networks has appeared in magazines and newspapers including Frieze, Wired, Domus, Cabinet, The Atlantic, the New Statesman and many others, and he has written a regular column for The Observer.
New Dark Age, Bridle's book about technology, knowledge and the end of the future is forthcoming from Verso (UK & US) in 2018. He lectures regularly on radio, at conferences, universities and other events including SXSW, Lift, the Global Art Forum and Re:Publica. He has been a resident at Lighthouse, Brighton, the White Building, London and Eyebeam, New York, and an adjunct professor on the interactive telecommunications program at New York University.
James Bridle | Speaker | TED.com