TED2017
Tristan Harris: How a handful of tech companies control billions of minds every day
Тристан Харрис: Как технологическим компаниям удаётся управлять нашим вниманием
Filmed:
Readability: 4
2,591,029 views
«Горстка людей, работающих на несколько высокотехнологичных компаний, управляют мышлением миллиардов людей каждый день», — говорит разработчик дизайна Тристан Харрис. Facebook с его уведомлениями, Snapchat с ограниченными по времени просмотрами, YouTube с его автовоспроизведением видео — все они конкурируют ради единственной цели — получить ваше внимание. Харрис рассказывает, как ради получения прибыли эти компании охотятся за нашим сознанием, и призывает возродить дизайн, в котором технологии позволят нам жить в том мире, в котором мы сами хотим.
Tristan Harris - Design thinker
Tristan Harris helps the technology industry more consciously and ethically shape the human spirit and human potential. Full bio
Tristan Harris helps the technology industry more consciously and ethically shape the human spirit and human potential. Full bio
Double-click the English transcript below to play the video.
00:12
I want you to imagine
0
960
1200
Я хочу, чтобы вы представили,
00:15
walking into a room,
1
3000
1200
как вы входите в комнату,
00:17
a control room with a bunch of people,
2
5480
2136
в диспетчерскую, полную людей,
00:19
a hundred people, hunched
over a desk with little dials,
over a desk with little dials,
3
7640
2840
сотни людей склонились
над столами с циферблатами,
над столами с циферблатами,
00:23
and that that control room
4
11280
1520
и эта диспетчерская
00:25
will shape the thoughts and feelings
5
13680
3696
формирует мысли и чувства
00:29
of a billion people.
6
17400
1240
миллиарда людей.
00:32
This might sound like science fiction,
7
20560
1880
Возможно, это звучит
как научная фантастика,
как научная фантастика,
00:35
but this actually exists
8
23320
2216
но такое действительно существует
00:37
right now, today.
9
25560
1200
уже сейчас.
00:40
I know because I used to be
in one of those control rooms.
in one of those control rooms.
10
28040
3360
Я знаю, потому что
сам бывал в таких диспетчерских.
сам бывал в таких диспетчерских.
Я работал в Google в качестве
специалиста по этике дизайна
специалиста по этике дизайна
00:44
I was a design ethicist at Google,
11
32159
2297
00:46
where I studied how do you ethically
steer people's thoughts?
steer people's thoughts?
12
34480
3360
и изучал, как этически
направлять мысли людей.
направлять мысли людей.
00:50
Because what we don't talk about
is how the handful of people
is how the handful of people
13
38560
2896
Потому что мы не рассказываем
о том, как группа людей,
о том, как группа людей,
00:53
working at a handful
of technology companies
of technology companies
14
41480
2536
работающих на несколько
технологических компаний,
технологических компаний,
00:56
through their choices will steer
what a billion people are thinking today.
what a billion people are thinking today.
15
44040
5040
по их указанию управляют
мыслями миллионов людей.
мыслями миллионов людей.
01:02
Because when you pull out your phone
16
50400
1736
Потому что, когда вы достаёте телефон,
01:04
and they design how this works
or what's on the feed,
or what's on the feed,
17
52160
3096
именно они создали то,
что вы видите в своей ленте,
что вы видите в своей ленте,
01:07
it's scheduling little blocks
of time in our minds.
of time in our minds.
18
55280
3216
которая планирует расписание
в нашем сознании.
в нашем сознании.
01:10
If you see a notification,
it schedules you to have thoughts
it schedules you to have thoughts
19
58520
3136
Когда вы видите уведомление,
телефон заставляет вас думать
телефон заставляет вас думать
01:13
that maybe you didn't intend to have.
20
61680
2040
о том, о чём вы не собирались.
01:16
If you swipe over that notification,
21
64400
2616
Если вы открываете это уведомление,
01:19
it schedules you into spending
a little bit of time
a little bit of time
22
67040
2381
вы вынуждены потратить некоторое время
01:21
getting sucked into something
23
69445
1381
на то, что вы, возможно,
01:22
that maybe you didn't intend
to get sucked into.
to get sucked into.
24
70850
2955
даже не собирались делать.
01:27
When we talk about technology,
25
75320
1520
Говоря о технологиях,
01:30
we tend to talk about it
as this blue sky opportunity.
as this blue sky opportunity.
26
78040
2696
мы подразумеваем возможности,
как это голубое небо.
как это голубое небо.
Они безграничны.
01:32
It could go any direction.
27
80760
1480
01:35
And I want to get serious for a moment
28
83400
1856
Но если быть серьёзным,
01:37
and tell you why it's going
in a very specific direction.
in a very specific direction.
29
85280
2680
я вам расскажу, почему они
идут очень своеобразным путём.
идут очень своеобразным путём.
01:40
Because it's not evolving randomly.
30
88840
2200
Потому что они развиваются не хаотично.
01:44
There's a hidden goal
driving the direction
driving the direction
31
92000
2016
Есть конкретная цель,
скрытая от посторонних
скрытая от посторонних
01:46
of all of the technology we make,
32
94040
2136
и преследуемая всеми когда-либо
созданными технологиями,
созданными технологиями,
01:48
and that goal is the race
for our attention.
for our attention.
33
96200
2920
суть её в том, чтобы завладеть
нашим вниманием.
нашим вниманием.
01:52
Because every new site --
34
100840
2736
Потому что у каждого нового сайта —
01:55
TED, elections, politicians,
35
103600
2736
TED, выборы, политики,
01:58
games, even meditation apps --
36
106360
1976
игры, даже приложения для медитации —
02:00
have to compete for one thing,
37
108360
1960
у всех них одна цель —
02:03
which is our attention,
38
111160
1736
наше внимание,
02:04
and there's only so much of it.
39
112920
1600
и его так много.
02:08
And the best way to get people's attention
40
116440
2416
Самый лучший способ
завладеть вниманием аудитории —
завладеть вниманием аудитории —
02:10
is to know how someone's mind works.
41
118880
2440
знать, как работает человеческое сознание.
02:13
And there's a whole bunch
of persuasive techniques
of persuasive techniques
42
121800
2336
Существует огромное множество
техник убеждения,
техник убеждения,
02:16
that I learned in college at a lab
called the Persuasive Technology Lab
called the Persuasive Technology Lab
43
124160
3496
которые я изучал ещё будучи студентом
в лаборатории под названием
в лаборатории под названием
02:19
to get people's attention.
44
127680
1600
«Технологии убеждения».
02:21
A simple example is YouTube.
45
129880
1480
Самый простой пример — YouTube.
02:24
YouTube wants to maximize
how much time you spend.
how much time you spend.
46
132000
2936
YouTube хочет, чтобы вы тратили
на него максимум своего времени.
на него максимум своего времени.
02:26
And so what do they do?
47
134960
1200
И что же они придумали?
02:28
They autoplay the next video.
48
136840
2280
Автовоспроизведение
следующего видеоролика.
следующего видеоролика.
02:31
And let's say that works really well.
49
139760
1816
И надо сказать — это работает.
02:33
They're getting a little bit
more of people's time.
more of people's time.
50
141600
2416
Они получают немного
больше внимания людей.
больше внимания людей.
02:36
Well, if you're Netflix,
you look at that and say,
you look at that and say,
51
144040
2376
В свою очередь, владелец сайта Netflix
посмотрит на это и скажет:
посмотрит на это и скажет:
02:38
well, that's shrinking my market share,
52
146440
1858
«Так, это сокращает мою долю рынка,
02:40
so I'm going to autoplay the next episode.
53
148322
2000
а запущу-ка я автовоспроизведение
следующего эпизода».
следующего эпизода».
02:43
But then if you're Facebook,
54
151320
1376
Затем Facebooк:
02:44
you say, that's shrinking
all of my market share,
all of my market share,
55
152720
2336
«Это сокращает весь мой рынок,
02:47
so now I have to autoplay
all the videos in the newsfeed
all the videos in the newsfeed
56
155080
2656
давайте сделаем автозапуск
всех видео в новостной ленте
всех видео в новостной ленте
02:49
before waiting for you to click play.
57
157760
1762
ещё до того, как зритель успеет
нажать на воспроизведение».
нажать на воспроизведение».
02:52
So the internet is not evolving at random.
58
160320
3160
Так что интернет развивается не хаотично.
02:56
The reason it feels
like it's sucking us in the way it is
like it's sucking us in the way it is
59
164320
4416
Ощущение, что интернет нас затягивает,
03:00
is because of this race for attention.
60
168760
2376
возникает из-за гонки за вниманием.
03:03
We know where this is going.
61
171160
1416
И мы знаем, к чему это приведёт.
03:04
Technology is not neutral,
62
172600
1520
Технология не является нейтральной,
03:07
and it becomes this race
to the bottom of the brain stem
to the bottom of the brain stem
63
175320
3416
это преследование доходит
до самых глубин мозга,
до самых глубин мозга,
03:10
of who can go lower to get it.
64
178760
2200
кто зайдёт дальше.
03:13
Let me give you an example of Snapchat.
65
181920
2336
Возьмём к примеру Snapchat.
03:16
If you didn't know,
Snapchat is the number one way
Snapchat is the number one way
66
184280
3696
Возможно, вы не знали, но Snapchat
занимает первое место среди мессенджеров,
занимает первое место среди мессенджеров,
03:20
that teenagers in
the United States communicate.
the United States communicate.
67
188000
2256
используемых американскими подростками.
03:22
So if you're like me, and you use
text messages to communicate,
text messages to communicate,
68
190280
4176
И если вы так же, как и я, общаетесь
с помощью текстовых сообщений,
с помощью текстовых сообщений,
03:26
Snapchat is that for teenagers,
69
194480
1776
то Snapchat популярен среди молодёжи,
03:28
and there's, like,
a hundred million of them that use it.
a hundred million of them that use it.
70
196280
2696
и им пользуются сто миллионов подростков.
03:31
And they invented
a feature called Snapstreaks,
a feature called Snapstreaks,
71
199000
2216
Итак, была придумана функция Snapstreaks,
03:33
which shows the number of days in a row
72
201240
1896
которая показывает сколько дней подряд
03:35
that two people have
communicated with each other.
communicated with each other.
73
203160
2616
два человека общались друг с другом.
03:37
In other words, what they just did
74
205800
1856
Другими словами, они мотивировали людей
03:39
is they gave two people
something they don't want to lose.
something they don't want to lose.
75
207680
2960
пытаться поддержать этот показатель.
03:44
Because if you're a teenager,
and you have 150 days in a row,
and you have 150 days in a row,
76
212000
3456
Потому что, когда ты подросток, то,
набрав 150 дней беспрерывного общения,
набрав 150 дней беспрерывного общения,
03:47
you don't want that to go away.
77
215480
1976
ты не захочешь всё обнулить.
03:49
And so think of the little blocks of time
that that schedules in kids' minds.
that that schedules in kids' minds.
78
217480
4160
А теперь представьте те небольшие
промежутки времени в умах детей.
промежутки времени в умах детей.
03:54
This isn't theoretical:
when kids go on vacation,
when kids go on vacation,
79
222160
2336
Не секрет, что, когда дети
уезжают на каникулы,
уезжают на каникулы,
03:56
it's been shown they give their passwords
to up to five other friends
to up to five other friends
80
224520
3256
они делятся своими паролями
с одним, а то и с пятью друзьями
с одним, а то и с пятью друзьями
03:59
to keep their Snapstreaks going,
81
227800
2216
с целью, чтобы Snapstreak не прервался,
04:02
even when they can't do it.
82
230040
2016
даже, когда они сами в него не заходят.
04:04
And they have, like, 30 of these things,
83
232080
1936
У них есть порядка тридцати этих штук,
04:06
and so they have to get through
taking photos of just pictures or walls
taking photos of just pictures or walls
84
234040
3376
и ради того, чтобы этот день был учтён,
04:09
or ceilings just to get through their day.
85
237440
2480
они выкладывают фото стен или потолков.
04:13
So it's not even like
they're having real conversations.
they're having real conversations.
86
241200
2696
Это вовсе не значит,
что они на самом деле общаются.
что они на самом деле общаются.
04:15
We have a temptation to think about this
87
243920
1936
Но мы склонны думать,
04:17
as, oh, they're just using Snapchat
88
245880
2696
что в Snapchat они общаются так же,
04:20
the way we used to
gossip on the telephone.
gossip on the telephone.
89
248600
2016
как мы в своё время
сплетничали по телефону.
сплетничали по телефону.
04:22
It's probably OK.
90
250640
1200
Возможно, это нормально.
04:24
Well, what this misses
is that in the 1970s,
is that in the 1970s,
91
252480
2256
Но главное отличие от 1970-х в том, что,
04:26
when you were just
gossiping on the telephone,
gossiping on the telephone,
92
254760
2615
когда вы просто сплетничали по телефону,
04:29
there wasn't a hundred engineers
on the other side of the screen
on the other side of the screen
93
257399
3017
на другом конце провода
не было сотни инженеров,
не было сотни инженеров,
04:32
who knew exactly
how your psychology worked
how your psychology worked
94
260440
2056
которые хорошо осведомлены
о вашей психологии
о вашей психологии
04:34
and orchestrated you
into a double bind with each other.
into a double bind with each other.
95
262520
2640
и делают вас зависимыми друг от друга.
04:38
Now, if this is making you
feel a little bit of outrage,
feel a little bit of outrage,
96
266440
3400
Если этот факт вас возмутил,
04:42
notice that that thought
just comes over you.
just comes over you.
97
270680
2576
заметьте, что эта мысль завладела вами.
04:45
Outrage is a really good way also
of getting your attention,
of getting your attention,
98
273280
3320
Вызвать возмущение — тоже неплохой
способ приковать внимание,
способ приковать внимание,
04:49
because we don't choose outrage.
99
277880
1576
потому что мы не контролируем возмущение.
04:51
It happens to us.
100
279480
1416
Это происходит само собой.
04:52
And if you're the Facebook newsfeed,
101
280920
1856
И если вы новостная лента Facebook,
04:54
whether you'd want to or not,
102
282800
1416
хотите вы этого или нет,
04:56
you actually benefit when there's outrage.
103
284240
2736
вы выигрываете от возмутительных новостей.
04:59
Because outrage
doesn't just schedule a reaction
doesn't just schedule a reaction
104
287000
2936
Потому что возмущение не только
определяет нашу реакцию
определяет нашу реакцию
05:01
in emotional time, space, for you.
105
289960
2880
в эмоциональном плане.
05:05
We want to share that outrage
with other people.
with other people.
106
293440
2416
Мы хотим поделиться этим гневом
с другими людьми.
с другими людьми.
05:07
So we want to hit share and say,
107
295880
1576
Мы жмём «поделиться» и добавляем:
05:09
"Can you believe the thing
that they said?"
that they said?"
108
297480
2040
«Представляешь, что они сказали?»
05:12
And so outrage works really well
at getting attention,
at getting attention,
109
300520
3376
Гнев прекрасно справляется
с привлечением внимания,
с привлечением внимания,
05:15
such that if Facebook had a choice
between showing you the outrage feed
between showing you the outrage feed
110
303920
3896
и если бы у Facebook был выбор,
показывать ли вам новости,
показывать ли вам новости,
05:19
and a calm newsfeed,
111
307840
1320
вызывающие гнев
или нейтральные события,
или нейтральные события,
05:22
they would want
to show you the outrage feed,
to show you the outrage feed,
112
310120
2136
они бы выбрали первый вариант
05:24
not because someone
consciously chose that,
consciously chose that,
113
312280
2056
не потому, что кто-то
сознательно это выберет,
сознательно это выберет,
05:26
but because that worked better
at getting your attention.
at getting your attention.
114
314360
2680
а потому, что это больше
привлечёт ваше внимание.
привлечёт ваше внимание.
05:31
And the newsfeed control room
is not accountable to us.
is not accountable to us.
115
319120
5480
Люди, ответственные за новостную ленту,
не несут ответственности перед нами.
не несут ответственности перед нами.
Они отчитываются только
за привлечение внимания аудитории.
за привлечение внимания аудитории.
05:37
It's only accountable
to maximizing attention.
to maximizing attention.
116
325040
2296
05:39
It's also accountable,
117
327360
1216
Из-за бизнес-модели рекламы
05:40
because of the business model
of advertising,
of advertising,
118
328600
2376
они отчитываются перед каждым,
05:43
for anybody who can pay the most
to actually walk into the control room
to actually walk into the control room
119
331000
3336
у кого достаточно денег, чтобы зайти
в эту диспетчерскую и сказать:
в эту диспетчерскую и сказать:
05:46
and say, "That group over there,
120
334360
1576
«Вон та группа людей...
05:47
I want to schedule these thoughts
into their minds."
into their minds."
121
335960
2640
я хочу, чтобы они думали
именно так, а не иначе».
именно так, а не иначе».
05:51
So you can target,
122
339760
1200
Можно сделать своей целью,
05:54
you can precisely target a lie
123
342040
1936
конечной целью — обмануть
05:56
directly to the people
who are most susceptible.
who are most susceptible.
124
344000
2920
наиболее восприимчивую часть аудитории.
06:00
And because this is profitable,
it's only going to get worse.
it's only going to get worse.
125
348080
2880
И так как это приносит большой доход,
ситуация с каждым разом ухудшается.
ситуация с каждым разом ухудшается.
06:05
So I'm here today
126
353040
1800
И я сегодня стою здесь,
06:08
because the costs are so obvious.
127
356160
2000
потому что плата за это столь очевидна.
06:12
I don't know a more urgent
problem than this,
problem than this,
128
360280
2136
Я не знаю более актуальной
проблемы, чем эта,
проблемы, чем эта,
06:14
because this problem
is underneath all other problems.
is underneath all other problems.
129
362440
3120
потому что она является первоисточником
всех остальных проблем.
всех остальных проблем.
06:18
It's not just taking away our agency
130
366720
3176
Нас лишают свободы воли
06:21
to spend our attention
and live the lives that we want,
and live the lives that we want,
131
369920
2600
обращать внимание на то, что хотим,
и жить, как мы сами хотим,
и жить, как мы сами хотим,
06:25
it's changing the way
that we have our conversations,
that we have our conversations,
132
373720
3536
меняется способ нашего общения,
06:29
it's changing our democracy,
133
377280
1736
меняется наша демократия,
06:31
and it's changing our ability
to have the conversations
to have the conversations
134
379040
2616
меняется сама наша способность общаться
06:33
and relationships we want with each other.
135
381680
2000
и строить отношения с тем, с кем хотим.
06:37
And it affects everyone,
136
385160
1776
Это касается каждого,
06:38
because a billion people
have one of these in their pocket.
have one of these in their pocket.
137
386960
3360
потому что у миллионов людей
есть в кармане телефон.
есть в кармане телефон.
06:45
So how do we fix this?
138
393360
1400
Так как же это можно исправить?
06:49
We need to make three radical changes
139
397080
2936
Необходимы три радикальные перемены
06:52
to technology and to our society.
140
400040
1800
в технологиях и в самом обществе.
06:55
The first is we need to acknowledge
that we are persuadable.
that we are persuadable.
141
403720
3800
Первая: мы должны признать,
что легко поддаёмся убеждению.
что легко поддаёмся убеждению.
07:00
Once you start understanding
142
408840
1376
Если вы хотя бы раз осознáете,
07:02
that your mind can be scheduled
into having little thoughts
into having little thoughts
143
410240
2776
что ваши мысли управляемы,
07:05
or little blocks of time
that you didn't choose,
that you didn't choose,
144
413040
2576
и вашим временем распоряжаются
без вашего ведома,
без вашего ведома,
07:07
wouldn't we want to use that understanding
145
415640
2056
не захотите ли вы
воспользоваться этим знанием
воспользоваться этим знанием
07:09
and protect against the way
that that happens?
that that happens?
146
417720
2160
и защитить себя от подобного?
07:12
I think we need to see ourselves
fundamentally in a new way.
fundamentally in a new way.
147
420600
3296
Думаю, мы должны взглянуть на себя
в совершенно новом свете.
в совершенно новом свете.
Это похоже на новую эпоху
в человеческой истории,
в человеческой истории,
07:15
It's almost like a new period
of human history,
of human history,
148
423920
2216
07:18
like the Enlightenment,
149
426160
1216
как Просвещение,
07:19
but almost a kind of
self-aware Enlightenment,
self-aware Enlightenment,
150
427400
2216
скорее это похоже на самопросвещение,
07:21
that we can be persuaded,
151
429640
2080
осознание того,
что мы подвержены убеждению,
что мы подвержены убеждению,
07:24
and there might be something
we want to protect.
we want to protect.
152
432320
2240
и что существует нечто,
что необходимо защищать.
что необходимо защищать.
07:27
The second is we need new models
and accountability systems
and accountability systems
153
435400
4576
Второе: нам нужны новые модели
и системы отчётности.
и системы отчётности.
07:32
so that as the world gets better
and more and more persuasive over time --
and more and more persuasive over time --
154
440000
3496
Поскольку со временем манипулирование
становится всё эффективнее, —
становится всё эффективнее, —
07:35
because it's only going
to get more persuasive --
to get more persuasive --
155
443520
2336
мы только в самом начале пути, —
07:37
that the people in those control rooms
156
445880
1856
нужно, чтобы люди в этих диспетчерских
07:39
are accountable and transparent
to what we want.
to what we want.
157
447760
2456
действовали прозрачно и ответственно.
07:42
The only form of ethical
persuasion that exists
persuasion that exists
158
450240
2696
Единственная форма этичного убеждения,
имеющая право на существование, —
имеющая право на существование, —
07:44
is when the goals of the persuader
159
452960
1936
когда цели убеждающего
07:46
are aligned with the goals
of the persuadee.
of the persuadee.
160
454920
2200
совпадают с целями убеждаемого.
07:49
And that involves questioning big things,
like the business model of advertising.
like the business model of advertising.
161
457640
3840
А это подвергает сомнению важные принципы,
такие как бизнес-модель рекламы.
такие как бизнес-модель рекламы.
07:54
Lastly,
162
462720
1576
И наконец,
07:56
we need a design renaissance,
163
464320
1680
нам нужно возродить дизайн,
07:59
because once you have
this view of human nature,
this view of human nature,
164
467080
3056
потому что, если вы однажды
поймёте природу человека,
поймёте природу человека,
08:02
that you can steer the timelines
of a billion people --
of a billion people --
165
470160
2976
вы сможете управлять
временем миллионов людей.
временем миллионов людей.
08:05
just imagine, there's people
who have some desire
who have some desire
166
473160
2736
Только представьте, у людей
есть свои представления о том,
есть свои представления о том,
08:07
about what they want to do
and what they want to be thinking
and what they want to be thinking
167
475920
2856
что они хотят делать, о чём хотят думать,
08:10
and what they want to be feeling
and how they want to be informed,
and how they want to be informed,
168
478800
3136
что чувствовать и как получать информацию,
08:13
and we're all just tugged
into these other directions.
into these other directions.
169
481960
2536
а нас берут и тянут в другом направлении.
08:16
And you have a billion people just tugged
into all these different directions.
into all these different directions.
170
484520
3696
И таких управляемых людей миллиарды.
08:20
Well, imagine an entire design renaissance
171
488240
2056
Представьте полное возрождение дизайна,
08:22
that tried to orchestrate
the exact and most empowering
the exact and most empowering
172
490320
3096
который попытается создать для нас
08:25
time-well-spent way
for those timelines to happen.
for those timelines to happen.
173
493440
3136
лучший способ жить так, как мы хотим.
08:28
And that would involve two things:
174
496600
1656
Для этого необходимо следующее:
08:30
one would be protecting
against the timelines
against the timelines
175
498280
2136
первое — защита от траты нашего времени
08:32
that we don't want to be experiencing,
176
500440
1856
без нашего ведома,
08:34
the thoughts that we
wouldn't want to be happening,
wouldn't want to be happening,
177
502320
2416
от нежеланных мыслей.
08:36
so that when that ding happens,
not having the ding that sends us away;
not having the ding that sends us away;
178
504760
3336
Так что, когда звоночек прозвенит,
мы не должны были ему повиноваться.
мы не должны были ему повиноваться.
08:40
and the second would be empowering us
to live out the timeline that we want.
to live out the timeline that we want.
179
508120
3616
И второе — возможность жить
по созданному нами же графику.
по созданному нами же графику.
08:43
So let me give you a concrete example.
180
511760
1880
Приведу конкретный пример.
08:46
Today, let's say your friend
cancels dinner on you,
cancels dinner on you,
181
514280
2456
Ваш друг отказался
с вами сегодня пообедать,
с вами сегодня пообедать,
08:48
and you are feeling a little bit lonely.
182
516760
3775
и вам немного одиноко.
08:52
And so what do you do in that moment?
183
520559
1817
Что вы сделаете в такой ситуации?
08:54
You open up Facebook.
184
522400
1279
Откроете Facebook.
08:56
And in that moment,
185
524960
1696
И в этот самый момент
08:58
the designers in the control room
want to schedule exactly one thing,
want to schedule exactly one thing,
186
526680
3376
цель разработчиков — создать нечто,
09:02
which is to maximize how much time
you spend on the screen.
you spend on the screen.
187
530080
3040
что максимально привлечёт
ваше внимание к монитору.
ваше внимание к монитору.
09:06
Now, instead, imagine if those designers
created a different timeline
created a different timeline
188
534640
3896
Теперь представьте,
что они создали другую ленту,
что они создали другую ленту,
09:10
that was the easiest way,
using all of their data,
using all of their data,
189
538560
3496
наиболее простой способ,
используя все имеющиеся у них данные,
используя все имеющиеся у них данные,
09:14
to actually help you get out
with the people that you care about?
with the people that you care about?
190
542080
3096
помочь вам общаться с близкими вам людьми.
09:17
Just think, alleviating
all loneliness in society,
all loneliness in society,
191
545200
5416
Можно было бы вообще
искоренить одиночество,
искоренить одиночество,
09:22
if that was the timeline that Facebook
wanted to make possible for people.
wanted to make possible for people.
192
550640
3496
если бы Facebook захотел
создать такую ленту.
создать такую ленту.
09:26
Or imagine a different conversation.
193
554160
1715
Или представьте другой диалог.
09:27
Let's say you wanted to post
something supercontroversial on Facebook,
something supercontroversial on Facebook,
194
555899
3317
Например, вы хотите разместить в Facebook
нечто, что вызовет споры,
нечто, что вызовет споры,
09:31
which is a really important
thing to be able to do,
thing to be able to do,
195
559240
2416
а ведь важно иметь возможность
говорить на противоречивые темы.
09:33
to talk about controversial topics.
196
561680
1696
09:35
And right now, when there's
that big comment box,
that big comment box,
197
563400
2336
Прямо сейчас в разделе с комментариями
09:37
it's almost asking you,
what key do you want to type?
what key do you want to type?
198
565760
3376
вас почти спрашивают о том,
какую букву вы собираетесь напечатать.
какую букву вы собираетесь напечатать.
09:41
In other words, it's scheduling
a little timeline of things
a little timeline of things
199
569160
2816
Другими словами, предопределяют
09:44
you're going to continue
to do on the screen.
to do on the screen.
200
572000
2136
ваши дальнейшие действия в интернете.
09:46
And imagine instead that there was
another button there saying,
another button there saying,
201
574160
2976
И представьте, что была бы
другая кнопка с вопросом:
другая кнопка с вопросом:
09:49
what would be most
time well spent for you?
time well spent for you?
202
577160
2056
«Как бы вы хотели провести время?»
09:51
And you click "host a dinner."
203
579240
1576
И вы жмёте кнопку: «устроить ужин».
09:52
And right there
underneath the item it said,
underneath the item it said,
204
580840
2096
И чуть ниже следующий вопрос:
09:54
"Who wants to RSVP for the dinner?"
205
582960
1696
«Кто приглашает?»
09:56
And so you'd still have a conversation
about something controversial,
about something controversial,
206
584680
3256
И вы сможете поспорить за разговором,
09:59
but you'd be having it in the most
empowering place on your timeline,
empowering place on your timeline,
207
587960
3736
но сделаете это в самое подходящее
и удобное время,
и удобное время,
10:03
which would be at home that night
with a bunch of a friends over
with a bunch of a friends over
208
591720
3016
вечером у себя дома в окружении друзей,
10:06
to talk about it.
209
594760
1200
за приятной беседой.
10:09
So imagine we're running, like,
a find and replace
a find and replace
210
597000
3160
Представьте, мы постоянно
участвуем в этой гонке,
участвуем в этой гонке,
10:13
on all of the timelines
that are currently steering us
that are currently steering us
211
601000
2576
которая заставляет нас
10:15
towards more and more
screen time persuasively
screen time persuasively
212
603600
2560
всё больше времени проводить в интернете,
10:19
and replacing all of those timelines
213
607080
2536
и не позволяет событиям развиваться так,
10:21
with what do we want in our lives.
214
609640
1640
как мы бы того хотели.
10:26
It doesn't have to be this way.
215
614960
1480
Но так не должно быть.
10:30
Instead of handicapping our attention,
216
618360
2256
Вместо того, чтобы отвлекаться,
10:32
imagine if we used all of this data
and all of this power
and all of this power
217
620640
2816
представьте, если бы мы использовали
максимум возможностей,
максимум возможностей,
10:35
and this new view of human nature
218
623480
1616
и этот новый взгляд на природу человека
10:37
to give us a superhuman ability to focus
219
625120
2856
дал бы нам суперспособность
10:40
and a superhuman ability to put
our attention to what we cared about
our attention to what we cared about
220
628000
4136
сосредотачивать своё внимание на том,
что действительно важно,
что действительно важно,
10:44
and a superhuman ability
to have the conversations
to have the conversations
221
632160
2616
а также суперспособность к переговорам,
10:46
that we need to have for democracy.
222
634800
2000
необходимым для демократии.
10:51
The most complex challenges in the world
223
639600
2680
Самые сложные в мире задачи
10:56
require not just us
to use our attention individually.
to use our attention individually.
224
644280
3120
требуют не только внимания
от каждого из нас.
от каждого из нас.
11:00
They require us to use our attention
and coordinate it together.
and coordinate it together.
225
648440
3320
Они требуют от нас общего внимания
и согласованных действий.
и согласованных действий.
11:04
Climate change is going to require
that a lot of people
that a lot of people
226
652440
2816
Проблема изменения климата требует
от всех людей без исключения
от всех людей без исключения
11:07
are being able
to coordinate their attention
to coordinate their attention
227
655280
2096
объединиться и максимально
11:09
in the most empowering way together.
228
657400
1896
сконцентрировать своё внимание.
11:11
And imagine creating
a superhuman ability to do that.
a superhuman ability to do that.
229
659320
3080
Представьте, что у нас появилась бы
эта суперспособность.
эта суперспособность.
11:19
Sometimes the world's
most pressing and important problems
most pressing and important problems
230
667000
4160
Иногда наиболее острые и актуальные
мировые проблемы — совсем не те,
мировые проблемы — совсем не те,
11:24
are not these hypothetical future things
that we could create in the future.
that we could create in the future.
231
672040
3840
которые касаются гипотетического будущего,
которое мы себе, возможно, уготовили.
которое мы себе, возможно, уготовили.
11:28
Sometimes the most pressing problems
232
676560
1736
Зачастую самые важные проблемы —
11:30
are the ones that are
right underneath our noses,
right underneath our noses,
233
678320
2336
те, с которыми мы сталкиваемся ежедневно,
11:32
the things that are already directing
a billion people's thoughts.
a billion people's thoughts.
234
680680
3120
те, что управляют умами миллиарда людей.
11:36
And maybe instead of getting excited
about the new augmented reality
about the new augmented reality
235
684600
3376
Возможно, вместо того, чтобы восхищаться
новой дополненной реальностью
новой дополненной реальностью
11:40
and virtual reality
and these cool things that could happen,
and these cool things that could happen,
236
688000
3296
и виртуальной реальностью,
всеми этими вещами, которые она создаёт
всеми этими вещами, которые она создаёт
11:43
which are going to be susceptible
to the same race for attention,
to the same race for attention,
237
691320
3296
и которым тоже не избежать
этой гонки за вниманием,
этой гонки за вниманием,
11:46
if we could fix the race for attention
238
694640
2176
мы бы сосредоточили внимание миллионов
11:48
on the thing that's already
in a billion people's pockets.
in a billion people's pockets.
239
696840
2720
на том, что мы имеем уже сейчас.
Возможно, вместо того, чтобы восхищаться
11:52
Maybe instead of getting excited
240
700040
1576
11:53
about the most exciting
new cool fancy education apps,
new cool fancy education apps,
241
701640
4176
всеми этими новыми крутыми приложениями,
11:57
we could fix the way
kids' minds are getting manipulated
kids' minds are getting manipulated
242
705840
2896
мы могли бы остановить детей
12:00
into sending empty messages
back and forth.
back and forth.
243
708760
2480
от обмена бессмысленными сообщениями.
12:04
(Applause)
244
712040
4296
(Аплодисменты)
12:08
Maybe instead of worrying
245
716360
1256
Может быть, вместо того,
чтобы беспокоиться
чтобы беспокоиться
12:09
about hypothetical future
runaway artificial intelligences
runaway artificial intelligences
246
717640
3776
о гипотетическом будущем
восстании искусственного интеллекта,
восстании искусственного интеллекта,
12:13
that are maximizing for one goal,
247
721440
1880
а это всего одна цель,
12:16
we could solve the runaway
artificial intelligence
artificial intelligence
248
724680
2656
мы можем доработать
искусственный интеллект,
искусственный интеллект,
12:19
that already exists right now,
249
727360
2056
который уже существует
12:21
which are these newsfeeds
maximizing for one thing.
maximizing for one thing.
250
729440
2920
и уже оптимизирует новостные ленты.
12:26
It's almost like instead of running away
to colonize new planets,
to colonize new planets,
251
734080
3816
Вместо колонизации других планет,
12:29
we could fix the one
that we're already on.
that we're already on.
252
737920
2056
мы могли бы улучшить
жизнь на своей собственной.
жизнь на своей собственной.
12:32
(Applause)
253
740000
4120
(Аплодисменты)
12:40
Solving this problem
254
748040
1776
Решение этой проблемы
12:41
is critical infrastructure
for solving every other problem.
for solving every other problem.
255
749840
3800
является критически важной основой
для решения любых других проблем.
для решения любых других проблем.
12:46
There's nothing in your life
or in our collective problems
or in our collective problems
256
754600
4016
Нет ничего в нашей жизни
или наших коллективных проблемах,
или наших коллективных проблемах,
12:50
that does not require our ability
to put our attention where we care about.
to put our attention where we care about.
257
758640
3560
где от нас не требовалось бы
обратить внимание на то, что важно.
обратить внимание на то, что важно.
12:55
At the end of our lives,
258
763800
1240
И в конце жизни всё,
12:58
all we have is our attention and our time.
259
766240
2640
что у нас останется —
это наше внимание и наше время.
это наше внимание и наше время.
13:01
What will be time well spent for ours?
260
769800
1896
И как его лучше потратить?
13:03
Thank you.
261
771720
1216
Спасибо.
13:04
(Applause)
262
772960
3120
(Аплодисменты)
13:17
Chris Anderson: Tristan, thank you.
Hey, stay up here a sec.
Hey, stay up here a sec.
263
785760
2936
Крис Андерсон: Спасибо, Тристан.
Подожди секундочку.
Подожди секундочку.
13:20
First of all, thank you.
264
788720
1336
Во-первых, спасибо.
13:22
I know we asked you to do this talk
on pretty short notice,
on pretty short notice,
265
790080
2776
Я знаю, что мы просили тебя сделать
это выступление коротким,
это выступление коротким,
13:24
and you've had quite a stressful week
266
792880
2216
и неделя для подготовки
13:27
getting this thing together, so thank you.
267
795120
2440
выдалась нелёгкой, ещё раз спасибо.
13:30
Some people listening might say,
what you complain about is addiction,
what you complain about is addiction,
268
798680
3976
Некоторые слушатели могут сказать,
что всё о чем ты рассказал — зависимость,
что всё о чем ты рассказал — зависимость,
13:34
and all these people doing this stuff,
for them it's actually interesting.
for them it's actually interesting.
269
802680
3496
всем, кто так делает,
это на самом деле нравится.
это на самом деле нравится.
13:38
All these design decisions
270
806200
1256
Все эти дизайнерские решения
13:39
have built user content
that is fantastically interesting.
that is fantastically interesting.
271
807480
3096
создали для пользователей
фантастически интересный контент.
фантастически интересный контент.
13:42
The world's more interesting
than it ever has been.
than it ever has been.
272
810600
2416
Мир стал намного интереснее,
чем был раньше.
чем был раньше.
13:45
What's wrong with that?
273
813040
1256
Что с ним не так?
13:46
Tristan Harris:
I think it's really interesting.
I think it's really interesting.
274
814320
2256
Тристан Харрис: Интересный вопрос.
13:48
One way to see this
is if you're just YouTube, for example,
is if you're just YouTube, for example,
275
816600
4016
Один из способов увидеть это,
например, YouTube,
например, YouTube,
13:52
you want to always show
the more interesting next video.
the more interesting next video.
276
820640
2656
где каждое следующее видео
ещё интереснее, чем предыдущее.
ещё интереснее, чем предыдущее.
13:55
You want to get better and better
at suggesting that next video,
at suggesting that next video,
277
823320
3016
Если вы предлагаете всё лучшие видео,
13:58
but even if you could propose
the perfect next video
the perfect next video
278
826360
2456
и даже если следующий
ролик будет идеальным,
ролик будет идеальным,
14:00
that everyone would want to watch,
279
828840
1656
и каждый захочет его посмотреть,
14:02
it would just be better and better
at keeping you hooked on the screen.
at keeping you hooked on the screen.
280
830520
3336
то добьётесь только того,
что сильнее «приклеите» зрителя к экрану.
что сильнее «приклеите» зрителя к экрану.
14:05
So what's missing in that equation
281
833880
1656
То, чего не хватает в этом уравнении —
14:07
is figuring out what
our boundaries would be.
our boundaries would be.
282
835560
2136
определить границы.
14:09
You would want YouTube to know
something about, say, falling asleep.
something about, say, falling asleep.
283
837720
3216
Вы бы, может, хотели, чтобы YouTube
умел переходить в спящий режим.
умел переходить в спящий режим.
14:12
The CEO of Netflix recently said,
284
840960
1616
Недавно руководитель Netflix заявил,
14:14
"our biggest competitors
are Facebook, YouTube and sleep."
are Facebook, YouTube and sleep."
285
842600
2736
что «наши самые главные конкуренты —
Facebook, YouTube и сон».
Facebook, YouTube и сон».
14:17
And so what we need to recognize
is that the human architecture is limited
is that the human architecture is limited
286
845360
4456
Следует признать, что храм человека
имеет пределы,
имеет пределы,
14:21
and that we have certain boundaries
or dimensions of our lives
or dimensions of our lives
287
849840
2976
и мы ограничены определёнными
аспектами нашей жизни,
аспектами нашей жизни,
14:24
that we want to be honored and respected,
288
852840
1976
которые мы должны чтить и уважать,
14:26
and technology could help do that.
289
854840
1816
и технологии могут помочь нам в этом.
14:28
(Applause)
290
856680
2616
(Аплодисменты)
14:31
CA: I mean, could you make the case
291
859320
1696
КА: Может ли эта проблема частично
быть вызвана тем,
быть вызвана тем,
14:33
that part of the problem here is that
we've got a naïve model of human nature?
we've got a naïve model of human nature?
292
861040
6056
что наше представление
о природе человека наивно?
о природе человека наивно?
14:39
So much of this is justified
in terms of human preference,
in terms of human preference,
293
867120
2736
Многое оправдано с точки зрения
человеческих предпочтений,
человеческих предпочтений,
14:41
where we've got these algorithms
that do an amazing job
that do an amazing job
294
869880
2616
у нас есть алгоритмы,
делающие удивительную работу
делающие удивительную работу
14:44
of optimizing for human preference,
295
872520
1696
по оптимизации человеческих предпочтений,
14:46
but which preference?
296
874240
1336
но каковы эти предпочтения?
14:47
There's the preferences
of things that we really care about
of things that we really care about
297
875600
3496
Существуют предпочтения того,
что нам действительно дорого,
что нам действительно дорого,
14:51
when we think about them
298
879120
1376
если подумать,
14:52
versus the preferences
of what we just instinctively click on.
of what we just instinctively click on.
299
880520
3056
а есть то, на что мы обращаем
внимание инстинктивно.
внимание инстинктивно.
14:55
If we could implant that more nuanced
view of human nature in every design,
view of human nature in every design,
300
883600
4656
Если бы могли более внимательно
взглянуть на человеческую природу,
взглянуть на человеческую природу,
15:00
would that be a step forward?
301
888280
1456
стало бы это шагом вперед?
15:01
TH: Absolutely. I mean, I think right now
302
889760
1976
ТХ: Конечно.
15:03
it's as if all of our technology
is basically only asking our lizard brain
is basically only asking our lizard brain
303
891760
3496
Все наши технологии
обращаются к нашему подсознанию,
обращаются к нашему подсознанию,
15:07
what's the best way
to just impulsively get you to do
to just impulsively get you to do
304
895280
2496
ищут лучший способ заставить нас
15:09
the next tiniest thing with your time,
305
897800
2136
распоряжаться своим временем,
15:11
instead of asking you in your life
306
899960
1656
а могли бы спрашивать у нас,
15:13
what we would be most
time well spent for you?
time well spent for you?
307
901640
2176
как именно мы хотели бы проводить время.
15:15
What would be the perfect timeline
that might include something later,
that might include something later,
308
903840
3296
Какой был бы для вас
идеальный день здесь на TED,
идеальный день здесь на TED,
15:19
would be time well spent for you
here at TED in your last day here?
here at TED in your last day here?
309
907160
3176
последний и полезный?
15:22
CA: So if Facebook and Google
and everyone said to us first up,
and everyone said to us first up,
310
910360
2976
КА: Если бы Facebook, Google
и все остальные спросили бы:
и все остальные спросили бы:
15:25
"Hey, would you like us
to optimize for your reflective brain
to optimize for your reflective brain
311
913360
2896
«Вы хотите, чтобы мы
обращались к вашему сознанию
обращались к вашему сознанию
15:28
or your lizard brain? You choose."
312
916280
1656
или подсознанию? Выбирайте».
15:29
TH: Right. That would be one way. Yes.
313
917960
2080
ТХ: Да. Это один из способов.
15:34
CA: You said persuadability,
that's an interesting word to me
that's an interesting word to me
314
922358
2858
КА: Ты упомянул «внушаемость»,
интересный термин,
интересный термин,
15:37
because to me there's
two different types of persuadability.
two different types of persuadability.
315
925240
2856
потому что для меня есть
два способа убеждения.
два способа убеждения.
15:40
There's the persuadability
that we're trying right now
that we're trying right now
316
928120
2536
Первое — то, чем мы сейчас занимаемся,
15:42
of reason and thinking
and making an argument,
and making an argument,
317
930680
2176
утверждение, размышление,
аргументирование,
аргументирование,
15:44
but I think you're almost
talking about a different kind,
talking about a different kind,
318
932880
2696
но я думаю, ты говоришь о другом способе,
15:47
a more visceral type of persuadability,
319
935590
1906
более интуитивном,
15:49
of being persuaded without
even knowing that you're thinking.
even knowing that you're thinking.
320
937520
2896
то есть, когда ты даже не догадываешься
о том, что тебя в чём-то убеждают.
о том, что тебя в чём-то убеждают.
15:52
TH: Exactly. The reason
I care about this problem so much is
I care about this problem so much is
321
940440
2856
ТХ: Именно. Меня это
так беспокоит, потому что
так беспокоит, потому что
15:55
I studied at a lab called
the Persuasive Technology Lab at Stanford
the Persuasive Technology Lab at Stanford
322
943320
3176
я занимался этим вопросом ещё в Стэнфорде,
в лаборатории технологий убеждения,
в лаборатории технологий убеждения,
15:58
that taught people
exactly these techniques.
exactly these techniques.
323
946520
2096
в которой студентов обучали этим техникам.
16:00
There's conferences and workshops
that teach people all these covert ways
that teach people all these covert ways
324
948640
3456
Существуют конференции и семинары,
на которых обучают тайным способам
на которых обучают тайным способам
16:04
of getting people's attention
and orchestrating people's lives.
and orchestrating people's lives.
325
952120
2976
заполучить внимание людей
и руководить их жизнью.
и руководить их жизнью.
16:07
And it's because most people
don't know that that exists
don't know that that exists
326
955120
2656
Большинство людей не знают
о существовании такого,
о существовании такого,
16:09
that this conversation is so important.
327
957800
1896
и этот разговор очень важен.
16:11
CA: Tristan, you and I, we both know
so many people from all these companies.
so many people from all these companies.
328
959720
3776
КА: Тристан, мы оба знакомы со многими
людьми из этих компаний.
людьми из этих компаний.
16:15
There are actually many here in the room,
329
963520
1976
Многие из них здесь присутствуют,
16:17
and I don't know about you,
but my experience of them
but my experience of them
330
965520
2477
не знаю, как ты, но я уверен,
16:20
is that there is
no shortage of good intent.
no shortage of good intent.
331
968021
2075
что действуют они исключительно
из лучших побуждений.
из лучших побуждений.
16:22
People want a better world.
332
970120
2176
Люди хотят жить в лучшем мире.
16:24
They are actually -- they really want it.
333
972320
3520
На самом деле так.
16:28
And I don't think anything you're saying
is that these are evil people.
is that these are evil people.
334
976320
4176
И я не думаю, что они хотят
причинить вред кому-либо.
причинить вред кому-либо.
16:32
It's a system where there's
these unintended consequences
these unintended consequences
335
980520
3696
Это система, в которой есть
подобные непреднамеренные последствия,
подобные непреднамеренные последствия,
16:36
that have really got out of control --
336
984240
1856
которые вышли из-под контроля.
16:38
TH: Of this race for attention.
337
986120
1496
ТХ: Из-за этой гонки за вниманием.
16:39
It's the classic race to the bottom
when you have to get attention,
when you have to get attention,
338
987640
3176
Это классическая гонка на выживание
когда вам нужно привлечь внимание,
когда вам нужно привлечь внимание,
16:42
and it's so tense.
339
990840
1216
и довольно напряжённая.
16:44
The only way to get more
is to go lower on the brain stem,
is to go lower on the brain stem,
340
992080
2736
Единственный способ получить больше —
обратиться к стволу мозга,
обратиться к стволу мозга,
16:46
to go lower into outrage,
to go lower into emotion,
to go lower into emotion,
341
994840
2416
вызвать эмоции, возмущение,
16:49
to go lower into the lizard brain.
342
997280
1696
обратиться к нашим инстинктам.
16:51
CA: Well, thank you so much for helping us
all get a little bit wiser about this.
all get a little bit wiser about this.
343
999000
3816
КА: Большое спасибо, что помог нам
немного разобраться в этом.
немного разобраться в этом.
16:54
Tristan Harris, thank you.
TH: Thank you very much.
TH: Thank you very much.
344
1002840
2416
Тристан Харрис, спасибо.
ТН: Большое спасибо.
ТН: Большое спасибо.
16:57
(Applause)
345
1005280
2240
(Аплодисменты)
ABOUT THE SPEAKER
Tristan Harris - Design thinkerTristan Harris helps the technology industry more consciously and ethically shape the human spirit and human potential.
Why you should listen
Tristan Harris has been called "the closest thing Silicon Valley has to a conscience" by The Atlantic magazine. Prior to founding the new Center for Humane Technology, he was Google's Design Ethicist, developing a framework for how technology should "ethically" steer the thoughts and actions of billions of people from screens.
Harris has spent a decade understanding the invisible influences that hijack human thinking and action. Drawing on literature from addiction, performative magic, social engineering, persuasive design and behavioral economics, he is currently developing a framework for ethical persuasion, especially as it relates to the moral responsibility of technology companies.
Rolling Stone magazine named Harris one of "25 People Shaping the World" in 2017. His work has been featured on TED, "60 Minutes," HBO's "RealTime with Bill Maher," "PBS NewsHour," Recode, The Atlantic, WIRED, the New York Times, Der Spiegel, The Economist and many more. Harris has briefed heads of state, technology company CEOs and members of the US Congress about the attention economy.
Tristan Harris | Speaker | TED.com