James Bridle: The nightmare videos of children's YouTube -- and what's wrong with the internet today
ジェームズ・ブライドル: 悪夢のような子供向けYouTube動画—今のインターネットのどこが間違っているのか
Working across technologies and disciplines, James Bridle examines technology, knowledge and the end of the future. Full bio
Double-click the English transcript below to play the video.
作っています
of military drones
描いたりしています
考えたりすることのないテクノロジーについて
and get their heads around
and hard-to-think-about technologies.
選挙結果を予測する
that predict the results of elections
作っていますが
奇妙な新技術に
of these weird new technologies are.
興味があるからです
my own self-driving car.
自動運転車を作りました
really trust technology,
信用していないので
罠も作りました
I find them completely fascinating,
面白いと思うからですが
when we talk about technology,
話をするとき
私達自身のことや
ということもあります
話をしましょう
opening up loads of chocolate eggs
チョコの卵を開けて
見せるというものです
7分間ずっとそうしています
for seven long minutes.
two things about this.
注意してほしいことがあります
has 30 million views.
3千万回だということ
630万人の購読者がいることです
that has 6.3 million subscribers,
80億回にもなりますが
似たような動画です
opening up these eggs.
卵を開けるのを見ているわけです
聞こえるでしょうが
for "surprise eggs" on YouTube,
検索すると 1千万本あると出ます
10 million of these videos,
少ないと思います
あるでしょう
際限なく出てきます
of these videos
of brands and materials,
どんどん奇怪になっていきます
being uploaded every single day.
毎日追加されています
大人ではないことです
who are watching these videos.
麻薬みたいなものです
like crack for little kids.
何かあるらしく
小さなドーパミンの刺激があって
dopamine hit of the reveal,
しまうんです
over and over and over again,
何度も繰り返して再生し
and hours and hours.
しようものなら
the screen away from them,
手が付けられません
in the audience nodding --
聞いてみてください
with small children and ask them,
知っているはずです
the surprise egg videos.
チェックし続けさせるために
Facebook and Instagram are using
使っているのと同じ仕掛けを
小さな子供の頭を弄び
to hack the brains of very small children
たくさんいるんです
思いたいです
that's what they're doing.
広告収入を得るためなら
of making ad revenue on YouTube.
ありますから
盗むかすればいいんです
popular kids' cartoons
「ポー・パトロール」のような
アニメを検索すると
of these online as well.
見つかります
アップロードしたものではありません
by the original content creators.
投稿されていて
of different random accounts,
分からないし
who's posting them
of our digital services,
起きていて
where this information is coming from.
分からないのです
フェイクニュースです
その出所を問わずクリックするよう
that comes along,
a terribly good idea.
思えませんが
子供向けYouTube動画です
that's really big on kids' YouTube.
聞こえますね
in the audience.
最初のものです
200,000 views,
視聴回数は20万回
微々たるものです
付いていますが
離れなくなりますから
into your brain
it seared itself into mine,
遭わせようとは思いません
these finger family videos
至る所に現れ始めました
外国語版もあれば
in different languages
食べ物を使ったものもあり
of animation elements
and millions and millions of these videos
突拍子のない取り合わせの動画が
kind of insane combinations.
you start to spend with them,
感じがしてきます
you start to feel that you might be.
調べ始めたのは
kind of launched into this,
感覚のためであり
and deep lack of understanding
あまりに謎だったからです
that seems to be presented around me.
知りようがありません
where these things are coming from.
見えるものもあれば
of teams of professional animators.
合成されたように見えるものもあり
assembled by software.
young kids' entertainers.
出て来るものもあれば
人々によるものもあります
shouldn't be around children at all.
of figuring out who's making this stuff --
見当が付かないのです
トロールなのか
分からないというのは
that we can't tell the difference
feel kind of familiar right now?
感じが しないでしょうか?
on their videos --
主なやり方は—
意味するわけですが—
of these videos with these popular terms.
入れるというものです
"Paw Patrol," "Easter egg,"
「イースター・エッグ」とか
popular videos into your title,
言葉の寄せ集めになって
meaningless mash of language
ものになりますが
tiny kids who are watching your video,
小さな子供なので
ソフトウェア—
for this stuff is software.
人気にしてくれる
are like other videos,
YouTubeのプログラムが
to make them recommended.
kind of completely meaningless mash,
意味のない
出来上がります
最適化されたシステムの中にも
this algorithmically optimized system,
忘れてはいけません
of increasingly forced to act out
言葉の組み合わせに合わせて
combinations of words,
人々がいます
responding to the combined screams
言葉の組み合わせに
即興芸人みたいなものです
trapped within these systems,
囚われている人々がいるんです
about this algorithmically driven culture,
奇妙なところは
振る舞うことになる点です
watching this stuff,
心を奪われています
by these weird mechanisms.
ウェブサイトの使い方も分かりません
to even use a website.
on the screen with their little hands.
ただ画面を叩くだけです
繰り返し繰り返し
over and over and over in a loop,
in the system now
本当に変なのは
連れて行かれることです
to some pretty strange places.
かわいい動画から始まって
of a counting train
ミッキーマウスに至っています
起きるのは
keywords come home to roost.
連鎖が導く先です
内輪ネタなんかを加えると
trollish in-jokes or something,
to a very weird place indeed.
or sexual content, right?
性的なものです
おふざけが展開されます
genuinely terrify children.
all of these different influences
ソフトウェアが寄せ集めて
kids' worst nightmares.
生成しているんです
does affect small children.
子供に影響を与えます
子供が心に傷を負ったとか
being traumatized,
cartoon characters.
怖がるようになったと
学ぶことがあるとしたら
it's that if you have small children,
YouTubeには近寄るなということです
that really gets to me about this,
もう1つのことは
私達が分かっていないということです
understand how we got to this point.
こういう ありとあらゆるものを取り上げ
all of these things,
that no one really intended.
まとめられていますが
作っている方法でもあります
that we're building the entire world.
full of prejudice,
最悪の衝動に満ちた
impulses of history,
into huge data sets
into things like credit reports,
信用調査や
policing systems,
使っています
constructing the world today
データを使って
作られているのです
分かりません
that seems to be entirely optimized
最適化されたシステムを
of human behavior,
to have done it by accident,
分からずに
that we were doing it,
the systems that we were building,
理解しておらず
how to do anything differently with it.
分からなかったために
甚だしく起きているのには
that really seem to be driving this
収益化である広告で
働いておらず
actually developing this content,
作っている人への配慮がなく
the separation of those things.
ということです
得ることについて
about the use of advertising
砂の上を転がり回って
rolling around in the sand
that they don't really understand
アルゴリズムが
期待しているという光景は
probably isn't the thing
基盤とすべきものでも
our society and culture upon,
示しているでしょう
we should be funding it.
自動化です
the major driver of this is automation,
of all of this technology
展開して
without any kind of oversight,
手を挙げて言うんです
"Hey, it's not us, it's the technology."
テクノロジーがやったことだ」と
とでも言うように
管理されているだけでなく
just algorithmically governed,
されているからです
to pay attention to this,
注意を向け始めたとき
they'd do about it
アルゴリズムを用意して
better machine learning algorithms
ということでした
as any expert in it will tell you,
みんな言うでしょうが
よく分からないソフトウェアのことです
understand how it works.
enough of that already.
もう十分にあります
this stuff up to AI to decide
ではありません
分かっていますから
検閲し始めるでしょう
legitimate public speech.
検閲し始めるでしょう
that's left up to unaccountable systems.
まかせておくべき問題ではありません
all of us should be having.
議論すべきことです
very pleasant, either.
指摘しておきます
チェックした
a version of their kids' app
アナウンスしました
moderated by humans.
much the same thing at Congress,
議会で同じようなことを
聞かれたときに答えました
were going to moderate their stuff.
目にすることになるのが
the first person to see this stuff,
低賃金で不安定な契約社員になり
precarious contract workers
支援もなく
できるはずです
quite a lot better than that.
two things together, really, for me,
まとめる考えは
理解しているかということ
understand -- by agency, I mean:
いかに分かっているかということです
in our own best interests.
システムにおいては
really fully understand.
暴力に繋がります
always leads to violence.
does the same thing.
同じ結果を生みます
to start to improve these systems,
できることが1つあるとしたら
to the people who use them,
ということです
a common understanding
得られるように
most about these systems
前に言いましたように
I've explained, really about YouTube.
ではありません
当てはまります
that inherently results
結果であり
of power in a few hands --
大きな問題なのです
and not just of technology in general,
テクノロジーだけの問題でもなく
this global system, the internet,
インターネットを作ったことで
in this extraordinary way,
というだけです
ものすごい力があり
隠された欲望や偏見に
often hidden desires and biases
so that we can see them,
目に見えるようになり
they don't exist anymore.
できなくなりました
as a solution to all of our problems,
解決法だと思うのはやめて
ガイドと考える必要があります
to what those problems actually are,
about them properly
問題を適切に捉え
ことができるでしょう
お話をありがとうございました
for coming and giving us that talk.
支配される映画は
the robotic overlords take over,
華々しいですが
than what you're describing.
レジスタンスが立ち上がります
you have the resistance mounting.
レジスタンスというのは いるのでしょうか?
towards this stuff?
green shoots of resistance?
お気づきですか?
直接的な抵抗というのは知りません
about direct resistance,
is super long-term.
入り込んでいます
in really deep ways.
いつも言っていますが
Eleanor Saitta, always says
of sufficient scale and scope
テクノロジーの問題は
to address within this
やるべきことは
作るということではなく
just by building the technology better,
変えるということでしょう
that's producing these technologies.
道はものすごく長いと思います
a hell of a long way to go.
すごく率直に話すことで
about them super honestly,
始めることはできます
to at least begin that process.
デジタル・リテラシーに触れたとき
legibility and digital literacy,
ユーザー自身に負わせるというのは
of digital literacy on users themselves.
is education in this new world?
教育は誰の責任になるのでしょう?
責任は私達すべてにかかっています
is kind of up to all of us,
everything we build, everything we make,
私達の作る物すべてが
同意のもと
in a consensual discussion
intended to trick and surprise people
やらせようとするのではなく
関わる必要があります
in every step in educating them,
教育的なものですから
is educational.
私が希望を持っているところです
about even this really grim stuff,
正しく見ることができるなら
and look at it properly,
a piece of education
出来上がるものか知ることができ
how complex systems come together and work
役立つかもしれません
that knowledge elsewhere in the world.
話題だと思います
an important discussion,
積極的に加わってくれるでしょう
are really open and prepared to have it,
ありがとうございました
ありがとうございました
ABOUT THE SPEAKER
James Bridle - Artist, writerWorking across technologies and disciplines, James Bridle examines technology, knowledge and the end of the future.
Why you should listen
James Bridle is an artist and writer working across technologies and disciplines. His artworks and installations have been exhibited in Europe, North and South America, Asia and Australia, and have been viewed by hundreds of thousands of visitors online. He has been commissioned by organizations including the Victoria & Albert Museum, the Barbican, Artangel, the Oslo Architecture Triennale and the Istanbul Design Biennial, and he has been honored by Ars Electronica, the Japan Media Arts Festival and the Design Museum, London. His writing on literature, culture and networks has appeared in magazines and newspapers including Frieze, Wired, Domus, Cabinet, The Atlantic, the New Statesman and many others, and he has written a regular column for The Observer.
New Dark Age, Bridle's book about technology, knowledge and the end of the future is forthcoming from Verso (UK & US) in 2018. He lectures regularly on radio, at conferences, universities and other events including SXSW, Lift, the Global Art Forum and Re:Publica. He has been a resident at Lighthouse, Brighton, the White Building, London and Eyebeam, New York, and an adjunct professor on the interactive telecommunications program at New York University.
James Bridle | Speaker | TED.com