TED2017
Robin Hanson: What would happen if we upload our brains to computers?
Робин Хэнсон: Что произойдёт, если мы загрузим наш мозг в компьютеры?
Filmed:
Readability: 3.8
1,430,160 views
Познакомьтесь с «ЭМами» — машинами, которые подражают человеческому мозгу, и умеют думать, чувствовать и работать точно так же, как мозги, с которых они скопированы. Футурист и социолог Робин Хэнсон описывает потенциальное будущее, когда «ЭМы» перехватят контроль над мировой экономикой, работая на сверхбыстрых компьютерах и копируя самих себя с целью многозадачности, оставляя людям только один выбор: уйти в отставку навсегда. Загляните в странное будущее, которое Хэнсон описывает как ситуацию, при которой роботы могли бы править на нашей планете.
Robin Hanson - Futurist, social scientist
Does humanity have a future as uploaded minds? In his work, Robin Hanson asks this and other extra-large questions. Full bio
Does humanity have a future as uploaded minds? In his work, Robin Hanson asks this and other extra-large questions. Full bio
Double-click the English transcript below to play the video.
00:13
Someday, we may have robots
as smart as people,
as smart as people,
0
1521
4444
Возможно, однажды появятся роботы,
такие же умные, как люди, —
такие же умные, как люди, —
00:17
artificial intelligence, AI.
1
5989
2474
появится искусственный интеллект, ИИ.
00:20
How could that happen?
2
8487
1476
Как это может произойти?
00:22
One route is that we'll just keep
accumulating better software,
accumulating better software,
3
10812
3184
Первый сценарий: мы просто
продолжим усовершенствовать ПО,
продолжим усовершенствовать ПО,
00:26
like we've been doing for 70 years.
4
14020
1992
чем мы и занимаемся последние 70 лет.
00:28
At past rates of progress,
that may take centuries.
that may take centuries.
5
16543
2936
Судя по последним достижениям,
на это могут уйти столетия.
на это могут уйти столетия.
Некоторые считают,
что всё произойдёт гораздо быстрее,
что всё произойдёт гораздо быстрее,
00:32
Some say it'll happen a lot faster
6
20138
2350
00:34
as we discover grand new
powerful theories of intelligence.
powerful theories of intelligence.
7
22512
3491
когда возникнут новые грандиозные
по своей мощности теории об интеллекте.
по своей мощности теории об интеллекте.
00:38
I'm skeptical.
8
26407
1199
В чём я сомневаюсь.
00:40
But a third scenario
9
28608
3061
А вот третий сценарий —
предмет моего сегодняшнего выступления:
00:43
is what I'm going to talk about today.
10
31693
1827
00:45
The idea is to port the software
from the human brain.
from the human brain.
11
33544
2738
перенос логико-математической системы
из человеческого мозга.
из человеческого мозга.
Чтобы это осуществить, нам необходимы
три технических решения,
три технических решения,
00:48
To do this, we're going to need
three technologies to be good enough,
three technologies to be good enough,
12
36972
3301
00:52
and none of them are there yet.
13
40297
1555
которых пока ещё не существует.
00:54
First, we're going to need
lots of cheap, fast, parallel computers.
lots of cheap, fast, parallel computers.
14
42417
4714
Во-первых, понадобится много дешёвых,
быстрых параллельных компьютеров.
быстрых параллельных компьютеров.
01:00
Second, we're going to need
to scan individual human brains
to scan individual human brains
15
48855
4207
Во-вторых, нужно будет отсканировать
отдельный человеческий мозг
отдельный человеческий мозг
в высоком разрешении,
с химическими особенностями,
с химическими особенностями,
01:05
in fine spatial and chemical detail,
16
53086
2238
01:07
to see exactly what cells are where,
connected to what, of what type.
connected to what, of what type.
17
55348
4028
чтобы понять, где находятся
различные типы клеток и с чем они связаны.
различные типы клеток и с чем они связаны.
01:11
And third, we're going to need
computer models
computer models
18
59400
4356
В-третьих, нам потребуются
компьютерные модели работы
компьютерные модели работы
01:15
of how each kind of brain cell works --
19
63780
2222
каждого типа мозговых клеток:
как происходит приём входящих сигналов,
изменение внутреннего состояния
изменение внутреннего состояния
01:19
taking input signals,
changing interval state
changing interval state
20
67002
2580
01:21
and sending output signals.
21
69606
1294
и отправка исходящих сигналов.
01:22
If we have good enough models
of all the kinds of brain cells
of all the kinds of brain cells
22
70924
3818
Если у нас будут годные прототипы
всех типов мозговых клеток
всех типов мозговых клеток
01:26
and a good enough model of the brain,
23
74766
1763
и достаточно точная копия мозга,
01:28
we can put it together to make
a good enough model of an entire brain,
a good enough model of an entire brain,
24
76553
3434
мы сможем объединить это всё
в достойную модель совершенного мозга,
в достойную модель совершенного мозга,
01:32
and that model would have the same
input-output behavior as the original.
input-output behavior as the original.
25
80011
4003
которая будет иметь те же входящие
и исходящие сигналы, что оригинал.
и исходящие сигналы, что оригинал.
Если с ней заговорить, она ответит.
01:36
So if you talk to it, it might talk back.
26
84038
2485
Если попросить её что-то сделать,
она, возможно, сделает.
она, возможно, сделает.
01:38
If you ask it to do things,
it might do them.
it might do them.
27
86547
2097
01:40
And if we could do that,
everything would change.
everything would change.
28
88668
2822
И если мы сможем это сделать,
всё изменится.
всё изменится.
01:43
People have been talking
about this idea for decades,
about this idea for decades,
29
91514
2568
Люди десятилетиями обсуждают эту идею,
01:46
under the name of "uploads."
30
94106
1789
называя её «загрузки».
01:47
I'm going to call them "ems."
31
95919
1484
Я буду называть их «ЭМы»
[от ЭМуляторы].
[от ЭМуляторы].
01:50
When they talk about it, they say,
32
98355
2604
При разговоре на эту тему
всплывают такие вопросы:
всплывают такие вопросы:
01:52
"Is this even possible?
33
100983
1544
«А возможно ли такое в принципе?
Будет ли у созданной модели сознание?
Или это будет просто пустая машина?
Или это будет просто пустая машина?
01:54
If you made one, would it be conscious?
Or is it just an empty machine?
Or is it just an empty machine?
34
102838
3351
01:58
If you made one of me,
is that me or someone else?"
is that me or someone else?"
35
106213
2452
Если её сделать из моего мозга,
она будет мной или кем-то другим?
она будет мной или кем-то другим?
02:01
These are all fascinating questions
that I'm going to ignore ...
that I'm going to ignore ...
36
109036
3102
Я проигнорирую
все эти интереснейшие вопросы...
все эти интереснейшие вопросы...
02:04
(Laughter)
37
112162
2365
(Смех)
02:07
because I see a neglected question:
38
115041
2089
потому что без внимания остаётся другой:
02:09
What would actually happen?
39
117154
1610
как всё будет на самом деле?
02:12
I became obsessed with this question.
40
120440
1904
Я стал одержим этим вопросом.
02:15
I spent four years trying to analyze it,
41
123993
2953
На протяжении четырёх лет
я пытался в нём разобраться
я пытался в нём разобраться
02:18
using standard academic tools,
to guess what would happen,
to guess what would happen,
42
126970
3547
с помощью научных инструментов,
чтобы предугадать, что произойдёт,
чтобы предугадать, что произойдёт,
02:22
and I'm here to tell you what I found.
43
130541
1849
и сегодня готов рассказать
о своих находках.
о своих находках.
02:24
But be warned --
44
132928
1382
Но предупреждаю:
02:26
I'm not offering inspiration,
I'm offering analysis.
I'm offering analysis.
45
134722
3407
я ни к чему не призываю,
а лишь предлагаю результат анализа.
а лишь предлагаю результат анализа.
Моя задача — рассказать вам,
что вероятнее всего произойдёт,
что вероятнее всего произойдёт,
02:30
I see my job as telling you
what's most likely to happen
what's most likely to happen
46
138153
2794
02:32
if we did the least to avoid it.
47
140971
1777
если мы не попытаемся этого избежать.
02:36
If you aren't at least a bit disturbed
by something I tell you here,
by something I tell you here,
48
144132
3302
Если вы до сих пор не обеспокоены тем,
что я говорю, значит,
что я говорю, значит,
02:39
you're just not paying attention.
49
147458
1594
вы просто невнимательно слушали.
02:41
(Laughter)
50
149076
1351
(Смех)
02:42
OK, the first thing I can tell you
51
150451
2596
Что ж, первое, что я могу сказать —
02:45
is that ems spend most
of their life in virtual reality.
of their life in virtual reality.
52
153071
3133
«ЭМы» бо́льшую часть времени
проводят в виртуальной реальности.
проводят в виртуальной реальности.
02:48
This is what you might look like
if you were using virtual reality.
if you were using virtual reality.
53
156819
4484
Находясь в виртуальной реальности,
вы, скорее всего, будете выглядеть так.
вы, скорее всего, будете выглядеть так.
02:54
And this is what you might see:
54
162074
2150
И вот что вы можете испытать:
02:57
sunlight glinting off of water,
you might hear gulls flying above,
you might hear gulls flying above,
55
165244
3596
увидеть солнечный свет,
отражаемый от воды, услышать крики чаек,
отражаемый от воды, услышать крики чаек,
03:00
you might even feel the wind
on your cheeks or smell seawater,
on your cheeks or smell seawater,
56
168864
3031
с помощью крутого оборудования
вы даже можете почувствовать
вы даже можете почувствовать
03:03
with advanced hardware.
57
171919
1325
ветер на лице и запах морской воды.
Если вы будете проводить
там много времени,
там много времени,
03:06
Now, if you were to spend
a lot of time here,
a lot of time here,
58
174082
2097
потребуется панель мониторинга,
03:08
you might want a dashboard
59
176203
1266
03:09
where you could do things like
make a phone call,
make a phone call,
60
177493
2494
с которой вы сможете, например, звонить,
03:12
move to a new virtual world,
61
180011
1550
перемещаться в другой виртуальный мир,
03:13
check your bank account.
62
181585
1300
проверять банковский счёт.
03:15
Now, while this is what
you would look like in virtual reality,
you would look like in virtual reality,
63
183960
3657
Пока вы будете выглядеть так,
находясь в виртуальной реальности,
находясь в виртуальной реальности,
03:19
this is what an em
would look like in virtual reality.
would look like in virtual reality.
64
187641
3128
«ЭМ» будет выглядеть вот так.
03:22
It's computer hardware
sitting in a server rack somewhere.
sitting in a server rack somewhere.
65
190793
2756
Это компьютерное оборудование,
расположенное в какой-то серверной.
расположенное в какой-то серверной.
03:25
But still, it could see
and experience the same thing.
and experience the same thing.
66
193573
3158
Однако они смогут понимать
и испытывать то же, что и мы.
и испытывать то же, что и мы.
Но в некоторых аспектах
у «ЭМов» есть отличия.
у «ЭМов» есть отличия.
03:29
But some things are different for ems.
67
197282
1830
03:31
First, while you'll probably always notice
that virtual reality isn't entirely real,
that virtual reality isn't entirely real,
68
199690
4786
Во-первых, для вас виртуальная реальность
всегда будет чем-то не вполне настоящим,
всегда будет чем-то не вполне настоящим,
03:36
to an em, it can feel as real to them
as this room feels to you now
as this room feels to you now
69
204500
3254
«ЭМу» же она будет казаться настоящей,
как вам эта комната
как вам эта комната
03:39
or as anything ever feels.
70
207778
1638
или что угодно вокруг.
03:41
And ems also have
some more action possibilities.
some more action possibilities.
71
209440
2412
Также у «ЭМов» выше уровень
оперативных возможностей.
оперативных возможностей.
03:44
For example, your mind just always
runs at the same speed,
runs at the same speed,
72
212389
2716
Например, ваш мозг
всегда работает на одной скорости,
всегда работает на одной скорости,
03:47
but an em can add more or less
computer hardware to run faster or slower,
computer hardware to run faster or slower,
73
215129
3841
а «ЭМ» может ускорить или замедлить
деятельность с помощью оборудования,
деятельность с помощью оборудования,
03:50
and therefore, if the world around them
seems to be going too fast,
seems to be going too fast,
74
218994
3688
и поэтому, если всё вокруг
происходит слишком быстро,
происходит слишком быстро,
03:54
they can just speed up their mind,
75
222706
1619
они могут ускорить своё мышление,
03:56
and the world around them
would seem to slow down.
would seem to slow down.
76
224349
2350
и окружающий мир для них замедлится.
03:58
In addition, an em can make
a copy of itself at that moment.
a copy of itself at that moment.
77
226723
4841
К тому же, «ЭМы» могут создавать
копии самих себя в определённый момент.
копии самих себя в определённый момент.
04:04
This copy would remember
everything the same,
everything the same,
78
232120
2097
У этой копии будут такие же воспоминания,
04:06
and if it starts out with the same speed,
looking at the same speed,
looking at the same speed,
79
234241
3316
и если она начнёт жить с той же скоростью,
04:09
it might even need to be told,
"You are the copy."
"You are the copy."
80
237581
2651
возможно, придётся сказать ей:
«Ты — копия».
«Ты — копия».
04:12
And em could make archive copies,
81
240779
1573
Ещё «ЭМ» мог бы делать архивные копии,
04:14
and with enough archives,
82
242376
1824
и если ме́ста для хранения
будет достаточно,
будет достаточно,
04:16
an em can be immortal --
83
244224
2072
«ЭМы» смогут жить вечно —
04:18
in principle, though not
usually in practice.
usually in practice.
84
246320
2190
это в теории,
пока на практике не пробовали.
пока на практике не пробовали.
04:21
And an em can move its brain,
the computer that represents its brain,
the computer that represents its brain,
85
249411
3532
«ЭМ» сможет перемещать свой мозг,
точнее, содержащий его компьютер,
точнее, содержащий его компьютер,
04:24
from one physical location to another.
86
252967
2087
из одного физического места в другое.
04:28
Ems can actually move around the world
at the speed of light,
at the speed of light,
87
256037
3318
«ЭМы» смогут перемещаться
по миру со скоростью света,
по миру со скоростью света,
04:31
and by moving to a new location,
88
259379
1532
и, перемещаясь в новое место,
04:32
they can interact more quickly
with ems near that new location.
with ems near that new location.
89
260935
3264
они смогут быстрее взаимодействовать
с находящимися поблизости «ЭМами».
с находящимися поблизости «ЭМами».
04:36
So far, I've been talking about
what ems can do.
what ems can do.
90
264223
4277
До этого момента я говорил о том,
что «ЭМы» смогут делать.
что «ЭМы» смогут делать.
04:41
What do ems choose to do?
91
269227
1900
Но что «ЭМы» станут делать?
04:44
To understand that, we'll need
to understand three key facts.
to understand three key facts.
92
272405
2977
Чтобы ответить на этот вопрос,
нам необходимо понять три важнейших факта.
нам необходимо понять три важнейших факта.
04:48
First, ems by definition do what
the human they emulate would do
the human they emulate would do
93
276096
6151
Во-первых, «ЭМы» по определению
поступили бы так,
поступили бы так,
как поступили бы в такой же ситуации люди,
которых они имитируют.
которых они имитируют.
04:54
in the same situation.
94
282271
1301
04:56
So their lives and behavior
are very human.
are very human.
95
284305
2643
Поэтому жизнь и поведение
«ЭМов» очень человеческие.
«ЭМов» очень человеческие.
04:58
They're mainly different because
they're living in a different world.
they're living in a different world.
96
286972
3297
Основное отличие состоит в том,
что они живут в другом мире.
что они живут в другом мире.
05:02
Second, ems need
real resources to survive.
real resources to survive.
97
290293
3298
Во-вторых, «ЭМам» нужны
для выживания настоящие ресурсы.
для выживания настоящие ресурсы.
05:05
You need food and shelter or you'll die.
98
293615
3663
Вам нужны еда и кров, иначе вы погибнете.
05:09
Also, ems need computer hardware,
energy, cooling, or they can't exist.
energy, cooling, or they can't exist.
99
297302
4310
«ЭМы» не смогут существовать
без оборудования, энергии и охлаждения.
без оборудования, энергии и охлаждения.
05:13
For every subjective minute
that an em experiences,
that an em experiences,
100
301636
2575
За каждую субъективную минуту,
прожитую «ЭМом»,
прожитую «ЭМом»,
05:16
someone, usually that em,
had to work to pay for it.
had to work to pay for it.
101
304235
3274
кто-то — обычно этот же «ЭМ» —
должен работать, чтобы оплатить её.
должен работать, чтобы оплатить её.
05:20
Third, ems are poor.
102
308136
1690
В-третьих, «ЭМы» бедны.
05:21
(Laughter)
103
309850
1150
(Смех)
05:23
The em population can grow
quicker than the em economy,
quicker than the em economy,
104
311715
2635
Популяция «ЭМов» может расти быстрее,
чем их экономика,
чем их экономика,
05:26
so that means wages fall down
to em subsistence levels.
to em subsistence levels.
105
314374
3335
поэтому зарплаты будут падать
до уровня прожиточного минимума «ЭМа».
до уровня прожиточного минимума «ЭМа».
05:29
That means ems have to be working
most of the time.
most of the time.
106
317733
2604
Это значит, что бо́льшую часть времени
«ЭМам» придётся работать,
«ЭМам» придётся работать,
05:32
So that means
this is what ems usually see:
this is what ems usually see:
107
320361
2928
то есть чаще всего «ЭМы» будут видеть
05:35
beautiful and luxurious, but desks --
108
323684
2548
прекрасные и роскошные, но рабочие столы,
05:38
they're working most of the time.
109
326256
1724
ведь они почти всегда за работой.
05:40
Now, a subsistence wage scenario,
you might think, is exotic and strange,
you might think, is exotic and strange,
110
328283
3969
Сценарий с прожиточным минимумом
может показаться экзотичным и странным,
может показаться экзотичным и странным,
05:44
but it's actually the usual case
in human history,
in human history,
111
332276
2341
однако в истории человечества
это обычное дело,
это обычное дело,
05:46
and it's how pretty much
all wild animals have ever lived,
all wild animals have ever lived,
112
334641
2714
да и жизнь диких животных
всегда такой и была,
всегда такой и была,
05:49
so we know what humans do
in this situation.
in this situation.
113
337379
2276
так что мы знаем,
что делают люди в таком случае:
что делают люди в таком случае:
05:51
Humans basically do
what it takes to survive,
what it takes to survive,
114
339679
2930
в основном то,
что необходимо для выживания.
что необходимо для выживания.
05:54
and this is what lets me say
so much about the em world.
so much about the em world.
115
342633
3309
И именно это позволяет мне сказать
многое о мире «ЭМов».
многое о мире «ЭМов».
05:58
When creatures are rich, like you,
116
346752
2389
Если существо богато, как вы, например,
06:01
you have to know a lot
about what they want
about what they want
117
349165
2023
ему нужно хорошо знать, чего оно хочет,
06:03
to figure out what they do.
118
351212
1341
чтобы понять, что ему делать.
06:04
When creatures are poor,
119
352577
1170
Когда существо бедно,
06:05
you know that they mostly do
what it takes to survive.
what it takes to survive.
120
353771
2657
вы знаете, что бо́льшую часть времени
оно борется за выживание.
оно борется за выживание.
06:08
So we've been talking about the em world
from the point of view of the ems --
from the point of view of the ems --
121
356776
3624
Мы поговорили о мире «ЭМов»
с их точки зрения,
с их точки зрения,
06:12
now, let's step back
and look at their whole world.
and look at their whole world.
122
360424
2515
теперь давайте сделаем шаг назад
и посмотрим на их мир в целом.
и посмотрим на их мир в целом.
06:14
First, the em world grows
much faster than ours,
much faster than ours,
123
362963
3080
Во-первых, их мир растёт
гораздо быстрее нашего,
гораздо быстрее нашего,
06:18
roughly a hundred times faster.
124
366067
2464
примерно раз в сто.
06:20
So the amount of change
we would experience in a century or two,
we would experience in a century or two,
125
368555
3163
Те изменения, которые
происходят у нас за столетие или два,
происходят у нас за столетие или два,
06:23
they would experience in a year or two.
126
371742
1858
«ЭМы» переживут за 1–2 года.
06:25
And I'm not really willing to project
this age much beyond that,
this age much beyond that,
127
373624
3038
И я не берусь предсказывать
события дальше этого времени,
события дальше этого времени,
06:28
because plausibly by then something else
will happen, I don't know what.
will happen, I don't know what.
128
376686
3437
потому что к тому моменту
что-то явно произойдёт, и я не знаю что.
что-то явно произойдёт, и я не знаю что.
06:32
Second, the typical emulation
runs even faster,
runs even faster,
129
380147
2358
Во-вторых, типичная эмуляция
проходит ещё быстрее,
проходит ещё быстрее,
06:34
roughly a thousand times human speed.
130
382529
2189
примерно в 1 000 раз
быстрее, чем в мире людей.
быстрее, чем в мире людей.
06:37
So for them, they experience
thousands of years in this year or two,
thousands of years in this year or two,
131
385316
5340
Поэтому по их меркам за 1–2 года
они проживают тысячи лет,
они проживают тысячи лет,
06:42
and for them, the world around them
is actually changing more slowly
is actually changing more slowly
132
390680
3192
и для них мир вокруг
меняется гораздо медленнее
меняется гораздо медленнее
06:45
than your world seems to change for you.
133
393896
1942
по сравнению с тем,
как мир меняется для вас.
как мир меняется для вас.
06:48
Third, ems are crammed together
in a small number of very dense cities.
in a small number of very dense cities.
134
396277
4484
В-третьих, «ЭМы» теснятся
в горстке густо населённых городов.
в горстке густо населённых городов.
06:52
This is not only how they see
themselves in virtual reality,
themselves in virtual reality,
135
400785
3466
Дело не только в том, как они видят себя
в виртуальной реальности,
в виртуальной реальности,
но и в том, что они физически
находятся очень близко друг к другу.
находятся очень близко друг к другу.
06:56
it's also how they actually are
physically crammed together.
physically crammed together.
136
404275
2896
06:59
So at em speeds, physical travel
feels really painfully slow,
feels really painfully slow,
137
407474
3886
Для «ЭМов» при их скоростях
физическое путешествие — пытка;
физическое путешествие — пытка;
07:03
so most em cities are self-sufficient,
138
411384
2322
большинство их городов самодостаточны;
07:05
most war is cyber war,
139
413730
1750
большинство войн — это кибер-войны,
07:07
and most of the rest of the earth
away from the em cities
away from the em cities
140
415504
2691
а бо́льшая часть земли
вдали от городов «ЭМов»
вдали от городов «ЭМов»
07:10
is left to the humans, because the ems
really aren't that interested in it.
really aren't that interested in it.
141
418219
3674
оставлена людям, потому что
эти территории «ЭМам» не интересны.
эти территории «ЭМам» не интересны.
07:14
Speaking of humans,
142
422252
1508
Кстати, о людях,
07:15
you were wanting to hear about that.
143
423784
1784
вам стоит это послушать:
07:17
Humans must retire, at once, for good.
144
425592
4466
люди должны будут
уйти в отставку. Навсегда.
уйти в отставку. Навсегда.
07:22
They just can't compete.
145
430887
1523
Они просто не выдержат конкуренции.
07:24
Now, humans start out owning
all of the capital in this world.
all of the capital in this world.
146
432918
3072
Итак, сначала люди будут обладать
всем мировым капиталом.
всем мировым капиталом.
07:28
The economy grows very fast,
their wealth grows very fast.
their wealth grows very fast.
147
436014
2869
Начнётся быстрый рост экономики
и повышение благосостояния.
и повышение благосостояния.
07:30
Humans get rich, collectively.
148
438907
2384
Все люди разбогатеют.
07:34
As you may know, most humans today
don't actually own that much
don't actually own that much
149
442228
3239
Как вам известно, сегодня
большинство людей не имеют почти ничего,
большинство людей не имеют почти ничего,
07:37
besides their ability to work,
150
445491
1841
кроме своей способности работать.
07:39
so between now and then,
they need to acquire sufficient assets,
they need to acquire sufficient assets,
151
447356
3548
Так что до того момента им надо
обзавестись достаточным объёмом активов,
обзавестись достаточным объёмом активов,
07:42
insurance or sharing arrangements,
152
450928
1833
страховкой или долей в имуществе,
07:44
or they may starve.
153
452785
1461
дабы не умереть с голоду.
07:46
I highly recommend avoiding this outcome.
154
454270
2015
Настоятельно рекомендую
избегать такого исхода.
избегать такого исхода.
07:48
(Laughter)
155
456309
1285
(Смех)
Возможно, вам станет интересно,
07:50
Now, you might wonder,
156
458465
1223
07:51
why would ems let humans exist?
157
459712
1478
зачем «ЭМам» люди?
07:53
Why not kill them, take their stuff?
158
461214
1715
Почему бы не убить их
и отобрать имущество?
и отобрать имущество?
07:55
But notice we have many
unproductive retirees around us today,
unproductive retirees around us today,
159
463701
3077
Заметьте, сегодня нас окружает
множество нетрудоспособных пенсионеров,
множество нетрудоспособных пенсионеров,
07:58
and we don't kill them
and take their stuff.
and take their stuff.
160
466802
2105
но мы их не убиваем
и не отбираем у них имущество.
и не отбираем у них имущество.
08:00
(Laughter)
161
468931
1634
(Смех)
08:02
In part, that's because it would disrupt
the institutions we share with them.
the institutions we share with them.
162
470589
4420
Отчасти потому, что это подорвёт
работу общественных институтов:
работу общественных институтов:
08:07
Other groups would wonder who's next,
163
475524
2116
другие слои задумаются о том,
кто следующий.
кто следующий.
08:09
so plausibly, ems may well let humans
retire in peace during the age of em.
retire in peace during the age of em.
164
477664
4726
Так что, скорее всего,
«ЭМы» позволят людям уйти на пенсию.
«ЭМы» позволят людям уйти на пенсию.
08:14
You should worry more that
the age of em only lasts a year or two
the age of em only lasts a year or two
165
482414
3049
Лучше беспокойтесь о том, что эпоха «ЭМов»
продлиться всего пару лет,
продлиться всего пару лет,
08:17
and you don't know what happens next.
166
485487
1828
а что будет дальше — неизвестно.
08:21
Ems are very much like humans,
167
489207
2366
«ЭМы» очень похожи на людей,
08:23
but they are not like the typical human.
168
491597
2309
но они не похожи
на среднестатистического человека.
на среднестатистического человека.
08:26
The typical em is a copy
of the few hundred most productive humans.
of the few hundred most productive humans.
169
494438
5983
Типичный «ЭМ» — это копия
нескольких сотен самых продуктивных людей.
нескольких сотен самых продуктивных людей.
08:33
So in fact, they are as elite,
compared to the typical human,
compared to the typical human,
170
501329
3580
То есть по сравнению
с обычным человеком они являются элитой,
с обычным человеком они являются элитой,
08:36
as the typical billionaire,
Nobel Prize winner,
Nobel Prize winner,
171
504933
2262
подобно миллиардерам,
обладателям Нобелевской премии,
обладателям Нобелевской премии,
08:39
Olympic gold medalist, head of state.
172
507219
2349
Олимпийским золотым медалистам,
главам государств.
главам государств.
08:42
Ems look on humans
perhaps with nostalgia and gratitude,
perhaps with nostalgia and gratitude,
173
510527
4302
Возможно, «ЭМы» смотрят на людей
с ностальгией и благодарностью,
с ностальгией и благодарностью,
08:46
but not so much respect,
174
514853
1508
но без должного уважения,
08:48
which is, if you think about it,
how you think about your ancestors.
how you think about your ancestors.
175
516385
3195
подобного тому, с которым мы
вспоминаем наших предков.
вспоминаем наших предков.
08:51
We know many things about how humans
differ in terms of productivity.
differ in terms of productivity.
176
519604
3267
Мы знаем, как люди отличаются
с точки зрения продуктивности,
с точки зрения продуктивности,
08:54
We can just use those
to predict features of ems --
to predict features of ems --
177
522895
2419
и можем это использовать,
чтобы предсказать особенности «ЭМов»:
чтобы предсказать особенности «ЭМов»:
08:57
for example, they tend to be smart,
conscientious, hard-working,
conscientious, hard-working,
178
525338
3096
например, скорее всего они будут умны,
сознательны, трудолюбивы,
сознательны, трудолюбивы,
09:00
married, religious, middle-aged.
179
528458
1685
женаты, религиозны, среднего возраста.
09:02
These are features of ems.
180
530461
1612
Вот характеристики «ЭМов».
09:04
Em world also contains enormous variety.
181
532097
2228
«ЭМы» также отличаются
огромным разнообразием.
огромным разнообразием.
09:06
Not only does it continue on with most
of the kinds of variety that humans do,
of the kinds of variety that humans do,
182
534710
3668
Мало того, что они будут различаться
параметрами, присущим человеку,
параметрами, присущим человеку,
в том числе сферами занятости
и профессиями,
и профессиями,
09:10
including variety of industry
and profession,
and profession,
183
538402
2395
09:12
they also have many new kinds of variety,
184
540821
2162
появятся и новые отличительные черты,
09:15
and one of the most important
is mind speed.
is mind speed.
185
543007
2345
одной из которых будет скорость мышления.
09:17
Ems can plausibly go from human speed
186
545712
3834
«ЭМы» вполне могут разогнаться
с человеческой скорости
с человеческой скорости
09:21
up to a million times
faster than human speed,
faster than human speed,
187
549570
2880
до скорости в миллион раз быстрее
09:24
and down to a billion times
slower than human speed.
slower than human speed.
188
552474
2777
или в миллиард раз медленнее.
Чем быстрее «ЭМ», тем выше его статус.
09:28
Faster ems tend to have
markers of high status.
markers of high status.
189
556226
2766
Они владеют бóльшим богатством,
одерживают победы в спорах,
одерживают победы в спорах,
09:31
They embody more wealth.
They win arguments.
They win arguments.
190
559016
2160
занимают лучшие места расположения.
09:33
They sit at premium locations.
191
561200
1663
09:34
Slower ems are mostly retirees,
192
562887
1820
Более медленные «ЭМы» —
в основном, пенсионеры
в основном, пенсионеры
09:36
and they are like the ghosts
of our literature.
of our literature.
193
564731
2250
и похожи на призраков из книг.
09:39
If you recall, ghosts are all around us --
194
567005
2041
Если помните, призраки повсюду...
09:41
you can interact with them
if you pay the price.
if you pay the price.
195
569070
2270
С ними можно связаться,
если вы готовы на это,
если вы готовы на это,
09:43
But they don't know much,
they can't influence much,
they can't influence much,
196
571364
2429
но они мало что знают, мало на что влияют
09:45
and they're obsessed with the past,
so what's the point?
so what's the point?
197
573817
2698
и помешаны на прошлом,
так что какой в этом смысл?
так что какой в этом смысл?
(Смех)
09:48
(Laughter)
198
576539
1151
09:49
Ems also have more variety
in the structure of their lives.
in the structure of their lives.
199
577714
2957
Также жизнь «ЭМов»
отличается по структуре.
отличается по структуре.
09:52
This is your life: you start
and you end, really simple.
and you end, really simple.
200
580695
2682
Ваша жизнь проста:
вы рождаетесь и умираете.
вы рождаетесь и умираете.
09:55
This is the life of an em,
201
583401
1613
Жизнь «ЭМа» заключается в том,
что каждый день он создаёт
кратковременные копии
кратковременные копии
09:57
who every day splits off
some short-term copies
some short-term copies
202
585038
2293
для выполнения небольших задач,
а затем удаляет их.
а затем удаляет их.
09:59
to do short-term tasks and then end.
203
587355
1958
10:01
We'll talk more about
those short term versions in a moment,
those short term versions in a moment,
204
589337
4127
Об этих копиях мы ещё поговорим,
отмечу лишь,
отмечу лишь,
10:05
but they are much more efficient
205
593488
1610
что они гораздо эффективнее,
10:07
because they don't have to rest
for the next day.
for the next day.
206
595122
2365
потому что им не нужен отдых.
10:09
This em is more opportunistic.
207
597511
1508
Этот «ЭМ» действует по обстоятельствам.
10:11
They make more copies of themselves
when there's more demand for that.
when there's more demand for that.
208
599043
3287
Он создаёт больше копий,
когда это требуется.
когда это требуется.
10:14
They don't know which way
the future's going.
the future's going.
209
602354
2097
Он не знает, что его ждёт в будущем.
10:16
This is an em designer,
210
604475
1299
А это «ЭМ»-проектировщик:
10:17
who conceives of a large system
211
605798
1602
он придумывает огромную систему,
10:19
and then breaks recursively into copies
who elaborate that,
who elaborate that,
212
607424
3485
затем рекурсивно размножает копии
для более тщательной проработки деталей,
для более тщательной проработки деталей,
10:22
so ems can implement
larger, more coherent designs.
larger, more coherent designs.
213
610933
3412
поэтому он может выполнять
более крупные, слаженные проекты.
более крупные, слаженные проекты.
10:26
This an emulation plumber
214
614369
1358
Это симуляция сантехника,
10:27
who remembers that every day,
for the last 20 years,
for the last 20 years,
215
615751
2445
который помнит, что каждый день
последние 20 лет
последние 20 лет
10:30
they only ever worked
two hours a day, a life of leisure.
two hours a day, a life of leisure.
216
618220
2781
он работал только два часа в день —
не жизнь, а рай.
не жизнь, а рай.
10:33
But what really happened is,
every day they had a thousand copies,
every day they had a thousand copies,
217
621025
3097
Однако на самом деле каждый день
у него были тысячи копий,
у него были тысячи копий,
10:36
each of whom did a two-hour plumbing job,
218
624146
1953
каждая из которых
выполняла двухчасовую работу,
выполняла двухчасовую работу,
10:38
and only one of them
went on to the next day.
went on to the next day.
219
626123
2165
и только одна из них
продолжила жить после.
продолжила жить после.
10:40
Objectively, they're working
well over 99 percent of the time.
well over 99 percent of the time.
220
628312
2999
В реальности он работал более
99 процентов своей жизни,
99 процентов своей жизни,
10:43
Subjectively, they remember
a life of leisure.
a life of leisure.
221
631335
2190
но помнит лишь жизнь, полную отдыха.
10:45
(Laughter)
222
633549
1008
(Смех)
10:46
This, again, is you.
You start and you end.
You start and you end.
223
634581
2088
Это — снова вы. Вы рождаетесь и умираете.
10:48
This could be you
if at the start of party,
if at the start of party,
224
636693
2112
Это могли бы быть вы,
если в начале вечеринки
если в начале вечеринки
10:50
you took a drug that meant
you would not remember that party
you would not remember that party
225
638829
2811
вы приняли бы наркотик,
заставивший бы вас забыть о ней
заставивший бы вас забыть о ней
10:53
ever after that day.
226
641664
1618
навсегда.
10:55
Some people do this, I'm told.
227
643306
1929
Мне сказали, что некоторые так и делают.
10:57
Toward the end of the party,
228
645670
1635
К концу вечеринки скажете ли вы
10:59
will you say to yourself,
"I'm about to die, this is terrible.
"I'm about to die, this is terrible.
229
647329
2926
самому себе: «Я умираю, это ужасно.
11:02
That person tomorrow isn't me,
because they won't remember what I do."
because they won't remember what I do."
230
650279
3303
Тот, кто проснётся завтра — не я,
ведь он не помнит того, что помню я».
ведь он не помнит того, что помню я».
11:05
Or you could say, "I will go on tomorrow.
I just won't remember what I did."
I just won't remember what I did."
231
653606
3961
Или вы скажете: «Я продолжу жить завтра.
Просто не буду помнить, что я делал».
Просто не буду помнить, что я делал».
11:09
This is an em who splits off
a short-term copy
a short-term copy
232
657591
2429
Это «ЭМ», который создаёт
кратковременную копию
кратковременную копию
на время выполнения задачи,
а затем удаляет её.
а затем удаляет её.
11:12
to do a short-term task and then end.
233
660044
1864
11:13
They have the same two
attitude possibilities.
attitude possibilities.
234
661932
2206
У него те же две точки зрения.
Он скажет: «Я — временная
копия с короткой жизнью. Это ужасно».
копия с короткой жизнью. Это ужасно».
11:16
They can say, "I'm a new short-term
creature with a short life. I hate this."
creature with a short life. I hate this."
235
664162
3679
Или: «Я — часть единого целого,
которое не запомнит эту часть».
которое не запомнит эту часть».
11:19
Or "I'm a part of a larger creature
who won't remember this part."
who won't remember this part."
236
667865
3134
Думаю, они, скорее,
будут иметь второе мнение,
будут иметь второе мнение,
11:23
I predict they'll have
that second attitude,
that second attitude,
237
671023
2118
и не потому что это философски верно,
а ради выживания в их мире.
а ради выживания в их мире.
11:25
not because it's philosophically correct,
but because it helps them get along.
but because it helps them get along.
238
673165
3676
Если президент скажет,
что мы должны вторгнуться в Ирак,
что мы должны вторгнуться в Ирак,
11:28
Today, if the president says
we must invade Iraq,
we must invade Iraq,
239
676865
2328
11:31
and you say, "Why?"
240
679217
1151
и вы спросите: «Зачем?»
11:32
and they say, "State secret,"
241
680392
1382
и он ответит: «Государственная тайна»,
11:33
you're not sure if you can trust them,
242
681798
1850
вы не будете уверены,
можно ли ему доверять,
можно ли ему доверять,
11:35
but for ems, a copy of the president
and a copy of you can go inside a safe,
and a copy of you can go inside a safe,
243
683672
3616
но «ЭМы» — копии президента
и копия вас — смогут уединиться,
и копия вас — смогут уединиться,
11:39
explain all their secret reasons,
244
687312
1654
объясниться по поводу всех тайных причин,
11:40
and then one bit comes out
from your copy to yourself,
from your copy to yourself,
245
688990
2531
и затем бит этой копии передаётся вам,
11:43
telling you if you were convinced.
246
691545
1856
рассказывая вам так, чтобы вас убедить.
11:45
So now you can know
there is a good reason.
there is a good reason.
247
693425
2223
Теперь вы знаете, что есть веская причина.
11:47
I know you guys are all eager
to evaluate this world.
to evaluate this world.
248
695976
2545
Я знаю, что вы стремитесь
оценить этот мир.
оценить этот мир.
Вам не терпится решить,
нравится он вам или нет.
нравится он вам или нет.
11:50
You're eager to decide
if you love it or hate it.
if you love it or hate it.
249
698545
2334
11:52
But think: your ancestors
from thousands of years ago
from thousands of years ago
250
700903
2543
Но подумайте: ваши предки,
тысячи лет назад,
тысячи лет назад,
полюбили или возненавидели бы ваш мир,
11:55
would have loved or hated your world
251
703470
1753
услышав о нём ничтожно мало,
11:57
based on the first few things
they heard about it,
they heard about it,
252
705247
2421
ведь ваш мир для них непонятен.
11:59
because your world
is really just weird.
is really just weird.
253
707692
1853
Прежде чем судить странный мир будущего,
узнайте о нём побольше,
узнайте о нём побольше,
12:01
So before judging a strange future world,
you should really learn a lot about it,
you should really learn a lot about it,
254
709579
3818
почитайте об этом в книгах,
12:05
maybe read a whole book about it,
255
713417
1570
и если он вам не понравится,
постарайтесь его изменить.
постарайтесь его изменить.
12:07
and then, if you don't like it,
work to change it.
work to change it.
256
715031
2344
Спасибо.
12:09
Thank you.
257
717409
1019
(Аплодисменты)
12:10
(Applause)
258
718452
4833
ABOUT THE SPEAKER
Robin Hanson - Futurist, social scientistDoes humanity have a future as uploaded minds? In his work, Robin Hanson asks this and other extra-large questions.
Why you should listen
In his book, The Age of Em: Work, Love and Life When Robots Rule the Earth, Robin Hanson re-imagines humanity's role as our tech becomes smarter. A pioneer in prediction markets, also known as information markets and idea futures, Hanson has been known since the 1980s for taking the very very long view on topics as varied as (a selected list) spatial product competition, health incentive contracts, group insurance, product bans, evolutionary psychology and bioethics of health care, voter information incentives, incentives to fake expertise, Bayesian classification, agreeing to disagree, self-deception in disagreement, probability elicitation, wiretaps, image reconstruction, the history of science prizes, reversible computation, the origin of life, the survival of humanity, very long term economic growth, growth given machine intelligence and interstellar colonization.
Meanwhile, he has developed new technologies for conditional, combinatorial and intermediated trading, and he studied insider trading, manipulation and other foul play. Hanson is associate professor of economics at George Mason University and a research associate at the Future of Humanity Institute of Oxford University. His next book is The Elephant in the Brain, co-authored with Kevin Simler, due in 2018.
Robin Hanson | Speaker | TED.com