TEDGlobal 2005
Nick Bostrom: A philosophical quest for our biggest problems
Ник Бостром за най-големите ни проблеми
Filmed:
Readability: 4.2
967,767 views
Философът от Оксфорд и трансхуманист Ник Бостром проучва бъдещето на човешкия род и пита дали бихме могли да променим основната природа на човечеството, за да разрешим най-присъщите си проблеми.
Nick Bostrom - Philosopher
Nick Bostrom asks big questions: What should we do, as individuals and as a species, to optimize our long-term prospects? Will humanity’s technological advancements ultimately destroy us? Full bio
Nick Bostrom asks big questions: What should we do, as individuals and as a species, to optimize our long-term prospects? Will humanity’s technological advancements ultimately destroy us? Full bio
Double-click the English transcript below to play the video.
00:24
I want to talk today about --
0
0
3000
Днес искам да говоря за...
00:27
I've been asked to take the long view, and I'm going to tell you what
1
3000
6000
помолиха ме да направя далечен обзор, и ще ви разкажа
00:33
I think are the three biggest problems for humanity
2
9000
4000
кои според мен са трите най-големи проблема за човечеството
00:37
from this long point of view.
3
13000
3000
от тази далечна гледна точка.
00:40
Some of these have already been touched upon by other speakers,
4
16000
3000
Някои от тях вече бяха зачекнати от други оратори,
00:43
which is encouraging.
5
19000
2000
което е насърчително.
00:45
It seems that there's not just one person
6
21000
2000
Изглежда, няма само едно лице,
00:47
who thinks that these problems are important.
7
23000
2000
което смята тези проблеми за важни.
00:49
The first is -- death is a big problem.
8
25000
4000
Първият е... смъртта е голям проблем.
00:53
If you look at the statistics,
9
29000
3000
Ако се погледне статистиката,
00:56
the odds are not very favorable to us.
10
32000
2000
шансовете за нас не са много добри.
00:58
So far, most people who have lived have also died.
11
34000
4000
Досега повечето хора, които са живели, също и са умрели.
01:02
Roughly 90 percent of everybody who has been alive has died by now.
12
38000
4000
Приблизително 90 процента от всички, които са били живи, са умрели досега.
01:06
So the annual death rate adds up to 150,000 --
13
42000
6000
Годишната смъртност е до 150 000...
01:12
sorry, the daily death rate -- 150,000 people per day,
14
48000
3000
извинете, дневната смъртност... 150 000 души на ден,
01:15
which is a huge number by any standard.
15
51000
3000
което е огромно число по всички стандарти.
01:18
The annual death rate, then, becomes 56 million.
16
54000
5000
Тогава годишната смъртност става 56 милиона.
01:23
If we just look at the single, biggest cause of death -- aging --
17
59000
5000
Ако гледаме само най-голямата причина за смърт - стареенето -
01:29
it accounts for roughly two-thirds of all human people who die.
18
65000
5000
тя е отговорна за близо две трети от всички хора, които умират.
01:34
That adds up to an annual death toll
19
70000
3000
Така се получава годишна смъртност,
01:37
of greater than the population of Canada.
20
73000
2000
по-голяма от населението на Канада.
01:39
Sometimes, we don't see a problem
21
75000
2000
Понякога не виждаме един проблем,
01:41
because either it's too familiar or it's too big.
22
77000
4000
защото или е твърде познат, или е твърде голям.
01:45
Can't see it because it's too big.
23
81000
2000
Не го виждаме, защото е твърде голям.
01:47
I think death might be both too familiar and too big
24
83000
3000
Според мен смъртта може да е както твърде позната, така и твърде голяма,
01:50
for most people to see it as a problem.
25
86000
3000
за да я видят повечето хора като проблем.
01:53
Once you think about it, you see this is not statistical points;
26
89000
2000
Като се замислиш по въпроса, виждаш, че това не са статистически точки.
01:55
these are -- let's see, how far have I talked?
27
91000
2000
Това са... да видим, колко дълго съм говорил?
01:57
I've talked for three minutes.
28
93000
3000
Говорил съм три минути.
02:00
So that would be, roughly, 324 people have died since I've begun speaking.
29
96000
7000
Така че, приблизителни, 324-ма души са починали, откакто съм започнал да говоря.
02:07
People like -- it's roughly the population in this room has just died.
30
103000
4000
Хора, колкото... приблизително колкото присъстващите в тази зала са починали.
02:12
Now, the human cost of that is obvious,
31
108000
2000
Човешката цена на това е очевидна.
02:14
once you start to think about it -- the suffering, the loss --
32
110000
3000
Като започнеш да мислиш за това... страданието, загубата...
02:17
it's also, economically, enormously wasteful.
33
113000
3000
също така, икономически, е невероятна загуба.
02:20
I just look at the information, and knowledge, and experience
34
116000
3000
Просто гледам информацията, познанието и опита,
02:23
that is lost due to natural causes of death in general,
35
119000
3000
изгубени поради естествени причини при смъртта като цяло,
02:26
and aging, in particular.
36
122000
2000
и особено остаряването.
02:28
Suppose we approximated one person with one book?
37
124000
3000
Да предположим, че има приблизително по една книга на лице?
02:31
Now, of course, this is an underestimation.
38
127000
2000
Разбира се, това е подценяване.
02:33
A person's lifetime of learning and experience
39
129000
6000
Цял живот учене и опит на едно лице
02:39
is a lot more than you could put into a single book.
40
135000
2000
е много повече, отколкото може да се сложи в една-единствена книга.
02:41
But let's suppose we did this.
41
137000
2000
Но да предположим, че направим това.
02:44
52 million people die of natural causes each year
42
140000
5000
52 милиона души умират от естествена смърт всяка година,
02:49
corresponds, then, to 52 million volumes destroyed.
43
145000
4000
тогава това съответства на 52 унищожени тома.
02:53
Library of Congress holds 18 million volumes.
44
149000
3000
Библиотеката на Конгреса съдържа 18 милиона тома.
02:57
We are upset about the burning of the Library of Alexandria.
45
153000
3000
Разстроени сме от изгарянето на Александрийската библиотека.
03:00
It's one of the great cultural tragedies
46
156000
2000
Това е една от великите културни трагедии,
03:02
that we remember, even today.
47
158000
3000
които помним, дори днес.
03:06
But this is the equivalent of three Libraries of Congress --
48
162000
2000
Но това е еквивалентът на три Библиотеки на конгреса...
03:08
burnt down, forever lost -- each year.
49
164000
3000
изгаряни, изубени завинаги... всяка година.
03:11
So that's the first big problem.
50
167000
2000
Това е първият голям проблем.
03:13
And I wish Godspeed to Aubrey de Grey,
51
169000
3000
И желая на добър час на Одри де Грей
03:16
and other people like him,
52
172000
2000
и други хора като него,
03:18
to try to do something about this as soon as possible.
53
174000
3000
за да се опитат да направят нещо по въпроса колкото е възможно по-скоро.
03:22
Existential risk -- the second big problem.
54
178000
3000
Екзистенциален риск - вторият голям проблем.
03:25
Existential risk is a threat to human survival, or to the long-term potential of our species.
55
181000
7000
Екзистенциалният риск е заплаха за човешкото оцеляване, или за дългосрочния потенциал на нашия вид.
03:32
Now, why do I say that this is a big problem?
56
188000
2000
А защо казвам, че това е голям проблем?
03:34
Well, let's first look at the probability --
57
190000
4000
Да погледнем първо вероятността...
03:38
and this is very, very difficult to estimate --
58
194000
3000
и е много трудно да се направи приблизителна оценка...
03:41
but there have been only four studies on this in recent years,
59
197000
3000
но е имало само четири проучвания за това през последните години,
03:44
which is surprising.
60
200000
2000
което е изненадващо.
03:46
You would think that it would be of some interest
61
202000
3000
Човек би помислил, че ще представлява известен интерес
03:49
to try to find out more about this given that the stakes are so big,
62
205000
4000
да се опитаме да открием повече по въпроса, при положение че залозите са толкова високи,
03:53
but it's a very neglected area.
63
209000
2000
но това е много пренебрегвана област.
03:55
But there have been four studies --
64
211000
2000
Има четири проучвания...
03:57
one by John Lesley, wrote a book on this.
65
213000
2000
едно от Джон Лесли, написал книга по въпроса.
03:59
He estimated a probability that we will fail
66
215000
2000
Според него вероятната опасност да не успеем
04:01
to survive the current century: 50 percent.
67
217000
3000
да преживеем настоящия век е приблизително 50 процента.
04:04
Similarly, the Astronomer Royal, whom we heard speak yesterday,
68
220000
5000
Подобно е и при Астрономър Роял, когото чухме да говори вчера,
04:09
also has a 50 percent probability estimate.
69
225000
3000
според него приблизителната вероятност е 50 процента.
04:12
Another author doesn't give any numerical estimate,
70
228000
3000
Друг автор не дава никаква приблизителна числена стойност,
04:15
but says the probability is significant that it will fail.
71
231000
3000
но казва, че има значителна вероятност да не успеем.
04:18
I wrote a long paper on this.
72
234000
3000
Аз написах дълъг труд за това.
04:21
I said assigning a less than 20 percent probability would be a mistake
73
237000
4000
Писах, че по-малко от 20 процента вероятност би било грешка
04:25
in light of the current evidence we have.
74
241000
3000
в светлината на настоящите доказателства, които имаме.
04:28
Now, the exact figures here,
75
244000
2000
Точните цифри тук
04:30
we should take with a big grain of salt,
76
246000
2000
трябва да се разглеждат много внимателно,
04:32
but there seems to be a consensus that the risk is substantial.
77
248000
3000
но, изглежда, има консенсус, че рискът е значителен.
04:35
Everybody who has looked at this and studied it agrees.
78
251000
3000
Всеки, който е разглеждал тези въпроси и ги е проучвал, е съгласен.
04:38
Now, if we think about what just reducing
79
254000
2000
Ако мислим какво би означавало само намаляването
04:40
the probability of human extinction by just one percentage point --
80
256000
5000
на вероятността от изчезване на хората само с един процент...
04:45
not very much -- so that's equivalent to 60 million lives saved,
81
261000
5000
не много... това е равно на 60 милиона спасени животи,
04:50
if we just count the currently living people, the current generation.
82
266000
4000
ако броим само понастоящем живите хора, настоящото поколение.
04:54
Now one percent of six billion people is equivalent to 60 million.
83
270000
4000
Един процент от шест милиарда души е равен на 60 милиона.
04:58
So that's a large number.
84
274000
2000
Това е голямо число.
05:00
If we were to take into account future generations
85
276000
3000
Ако вземем предвид бъдещите поколения,
05:03
that will never come into existence if we blow ourselves up,
86
279000
5000
които никога няма да просъществуват, ако ние се самовзривим,
05:08
then the figure becomes astronomical.
87
284000
3000
тогава цифрата става астрономическа.
05:11
If we could eventually colonize a chunk of the universe --
88
287000
3000
Ако можехме сега, в крайна сметка, да колонизираме парче от вселената...
05:14
the Virgo supercluster --
89
290000
2000
суперклъстърът Дева...
05:16
maybe it will take us 100 million years to get there,
90
292000
2000
може би ще ни трябват 100 милиона години да стигнем дотам,
05:18
but if we go extinct we never will.
91
294000
3000
но ако изчезнем, никога няма да го направим.
05:21
Then, even a one percentage point reduction
92
297000
3000
Тогава, дори един процент намаление
05:24
in the extinction risk could be equivalent
93
300000
4000
на риска от изчезване би могъл да е равен
05:28
to this astronomical number -- 10 to the power of 32.
94
304000
3000
на това астрономическо число - 10 на степен 32.
05:31
So if you take into account future generations as much as our own,
95
307000
4000
Значи, ако се вземат предвид бъдещите поколения, колкото и нашето собствено,
05:35
every other moral imperative of philanthropic cost just becomes irrelevant.
96
311000
5000
всеки друг морален императив за филантропична цена просто става неуместен.
05:40
The only thing you should focus on
97
316000
2000
Единственото, върху което трябва да се съсредоточим,
05:42
would be to reduce existential risk
98
318000
2000
би било намаляването на екзистенциалния риск,
05:44
because even the tiniest decrease in existential risk
99
320000
4000
защото дори най-мъничкото намаляване на екзистенциалния риск
05:48
would just overwhelm any other benefit you could hope to achieve.
100
324000
4000
просто би съкрушило всяка друга полза, която можем да се надяваме да постигнем.
05:52
And even if you just look at the current people,
101
328000
2000
И дори ако се разгледат само настоящите хора
05:54
and ignore the potential that would be lost if we went extinct,
102
330000
5000
и се игнорира потенциалът, който би бил изгубен, ако изчезнем,
05:59
it should still have a high priority.
103
335000
2000
това все пак би имало висок приоритет.
06:01
Now, let me spend the rest of my time on the third big problem,
104
337000
5000
А сега, да прекарам остатъка от времето си по третия голям проблем,
06:06
because it's more subtle and perhaps difficult to grasp.
105
342000
5000
защото той е по-неуловим и вероятно труден за схващане.
06:12
Think about some time in your life --
106
348000
4000
Помислете за някакъв момент в живота си...
06:16
some people might never have experienced it -- but some people,
107
352000
3000
някои хора може никога да не са преживявали... но някои хора,
06:19
there are just those moments that you have experienced
108
355000
3000
просто има такива моменти, които сте преживели,
06:22
where life was fantastic.
109
358000
2000
когато животът е бил фантастичен.
06:24
It might have been at the moment of some great, creative inspiration
110
360000
7000
Може да е било в момент на някакво велико, творческо вдъхновение,
06:31
you might have had when you just entered this flow stage.
111
367000
2000
може да сте го получили, точно като се качвате на тази сцена.
06:33
Or when you understood something you had never done before.
112
369000
2000
Или когато сте разбрали нещо, което не сте правили никога преди.
06:35
Or perhaps in the ecstasy of romantic love.
113
371000
4000
Или вероятно в екстаза на романтичната любов.
06:39
Or an aesthetic experience -- a sunset or a great piece of art.
114
375000
5000
Или естетическо преживяване... залез или велико произведение на изкуството.
06:44
Every once in a while we have these moments,
115
380000
2000
Понякога преживяваме тези моменти
06:46
and we realize just how good life can be when it's at its best.
116
382000
4000
и осъзнаваме колко хубав може да е животът в най-добрите си моменти.
06:50
And you wonder, why can't it be like that all the time?
117
386000
5000
И се чудиш, защо не може да е такъв постоянно?
06:55
You just want to cling onto this.
118
391000
2000
Просто искаш да се вкопчиш в това.
06:57
And then, of course, it drifts back into ordinary life and the memory fades.
119
393000
4000
И тогава, разбира се, се връща към обикновения живот и споменът избледнява.
07:01
And it's really difficult to recall, in a normal frame of mind,
120
397000
4000
И е наистина трудно да се сетим, при нормална умствена настройка,
07:05
just how good life can be at its best.
121
401000
3000
колко хубав може да е животът в най-добрите си моменти.
07:08
Or how bad it can be at its worst.
122
404000
3000
Или колко лош може да бъде в най-лошите.
07:11
The third big problem is that life isn't usually
123
407000
3000
Третият голям проблем е, че животът обикновено
07:14
as wonderful as it could be.
124
410000
2000
не е толкова чудесен, колкото би могъл да бъде.
07:16
I think that's a big, big problem.
125
412000
4000
Мисля, че това е голям, голям проблем.
07:20
It's easy to say what we don't want.
126
416000
2000
Лесно е да кажем какво не искаме.
07:23
Here are a number of things that we don't want --
127
419000
3000
Ето ред неща, които не искаме...
07:26
illness, involuntary death, unnecessary suffering, cruelty,
128
422000
3000
болест, нежелана смърт, ненужно страдание, жестокост,
07:29
stunted growth, memory loss, ignorance, absence of creativity.
129
425000
5000
спрян растеж, загуба на памет, невежество, отсъствие на творчество.
07:35
Suppose we fixed these things -- we did something about all of these.
130
431000
3000
Да предположим, че оправим тези неща... направим нещо за всички тях.
07:38
We were very successful.
131
434000
2000
Постигнали сме голям успех.
07:40
We got rid of all of these things.
132
436000
2000
Отървали сме се от всички тези неща.
07:42
We might end up with something like this,
133
438000
3000
Накрая може да се окажем с нещо такова.
07:45
which is -- I mean, it's a heck of a lot better than that.
134
441000
4000
А именно... искам да кажа, много по-добре е от това. Имам предвид,
07:49
But is this really the best we can dream of?
135
445000
5000
това наистина ли е най-доброто, ако... за което можем да мечтаем?
07:54
Is this the best we can do?
136
450000
2000
Това ли е най-доброто, на което сме способни?
07:56
Or is it possible to find something a little bit more inspiring to work towards?
137
452000
6000
Или е възможно да се открие нещо малко по-вдъхновяващо, за което да се работи?
08:02
And if we think about this,
138
458000
2000
Като се замислим за това,
08:04
I think it's very clear that there are ways
139
460000
4000
Според мен е много ясно, че има начини,
08:08
in which we could change things, not just by eliminating negatives,
140
464000
3000
по които бихме могли да променяме нещата, не само чрез елиминиране на негативи,
08:11
but adding positives.
141
467000
2000
а като добавяме позитиви.
08:13
On my wish list, at least, would be:
142
469000
2000
Поне в моя списък би имало...
08:15
much longer, healthier lives, greater subjective well-being,
143
471000
5000
много по-дълъг, по-здравословен живот, далеч по-голямо субективно добруване,
08:20
enhanced cognitive capacities, more knowledge and understanding,
144
476000
5000
подобрени познавателни способности, повече познание и разбиране,
08:25
unlimited opportunity for personal growth
145
481000
2000
неограничена възможност за личен растеж
08:27
beyond our current biological limits, better relationships,
146
483000
4000
отвъд настоящите ни биологични граници, по-добри връзки,
08:31
an unbounded potential for spiritual, moral
147
487000
2000
неограничен потенциал за духовно, морално
08:33
and intellectual development.
148
489000
2000
и интелектуално развитие.
08:35
If we want to achieve this, what, in the world, would have to change?
149
491000
8000
Ако искаме да постигнем това, какво, за бога, ще трябва да се промени?
08:43
And this is the answer -- we would have to change.
150
499000
5000
И това е отговорът... ние ще трябва да се променим.
08:48
Not just the world around us, but we, ourselves.
151
504000
3000
Не само светът около нас, но ние, самите ние.
08:51
Not just the way we think about the world, but the way we are -- our very biology.
152
507000
4000
Не само начинът, по който мислим за света, но самата ни същност - самата ни биология.
08:55
Human nature would have to change.
153
511000
2000
Човешката природа ще трябва да се промени.
08:57
Now, when we think about changing human nature,
154
513000
2000
Като мислим за промяна на човешката природа,
08:59
the first thing that comes to mind
155
515000
2000
първото, което идва наум,
09:01
are these human modification technologies --
156
517000
4000
са тези технологии за човешка модификация...
09:05
growth hormone therapy, cosmetic surgery,
157
521000
2000
терапия с хормони на растежа, козметична хирургия,
09:07
stimulants like Ritalin, Adderall, anti-depressants,
158
523000
3000
стимуланти като риталин, адерал, антидепресанти,
09:10
anabolic steroids, artificial hearts.
159
526000
2000
анаболни стероиди, изкуствени сърца.
09:12
It's a pretty pathetic list.
160
528000
3000
Доста жалък списък.
09:15
They do great things for a few people
161
531000
2000
Правят прекрасни неща за малко хора,
09:17
who suffer from some specific condition,
162
533000
2000
които страдат от някакво специфично заболяване.
09:19
but for most people, they don't really transform
163
535000
5000
Но за повечето хора те всъщност не преобразяват
09:24
what it is to be human.
164
540000
2000
това какво е да бъдеш човек.
09:26
And they also all seem a little bit --
165
542000
2000
И също така всички изглеждат малко...
09:28
most people have this instinct that, well, sure,
166
544000
3000
повечето хора имат този инстинкт, че, е сигурно
09:31
there needs to be anti-depressants for the really depressed people.
167
547000
2000
е нужно да има антидепресанти за наистина депресираните хора.
09:33
But there's a kind of queasiness
168
549000
2000
Но има една колебливост,
09:35
that these are unnatural in some way.
169
551000
3000
че те са неестествени по някакъв начин.
09:38
It's worth recalling that there are a lot of other
170
554000
2000
Струва си да си спомним, че има много други
09:40
modification technologies and enhancement technologies that we use.
171
556000
3000
технологии за модификация и технологии за подобрение, които използваме.
09:43
We have skin enhancements, clothing.
172
559000
4000
Имаме подобрения на кожата, облекло.
09:47
As far as I can see, all of you are users of this
173
563000
4000
Доколкото виждам, всички вие в тази зала
09:51
enhancement technology in this room, so that's a great thing.
174
567000
5000
сте потребители на тази технология за подобрение, това е страхотно.
09:56
Mood modifiers have been used from time immemorial --
175
572000
3000
Модификатори на настроението са били използвани от незапомнени времена...
09:59
caffeine, alcohol, nicotine, immune system enhancement,
176
575000
5000
кофеин, алкохол, никотин, стимулиране на имунната система,
10:04
vision enhancement, anesthetics --
177
580000
2000
подобрение на зрението, обезболяващи.
10:06
we take that very much for granted,
178
582000
2000
Приемаме твърде много за даденост,
10:08
but just think about how great progress that is --
179
584000
4000
но само помислете колко голям напредък е това...
10:12
like, having an operation before anesthetics was not fun.
180
588000
4000
например, да претърпиш операция преди обезболяващите не е било забавно.
10:16
Contraceptives, cosmetics and brain reprogramming techniques --
181
592000
6000
Контрацептиви, козметика и техники за мозъчно препрограмиране...
10:22
that sounds ominous,
182
598000
2000
това звучи знаменателно.
10:24
but the distinction between what is a technology --
183
600000
4000
Но разликата между това кое е технология...
10:28
a gadget would be the archetype --
184
604000
2000
една джаджа би била архетипът -
10:30
and other ways of changing and rewriting human nature is quite subtle.
185
606000
4000
А други начини за промяна и пренаписване на човешката природа са доста недоловими.
10:34
So if you think about what it means to learn arithmetic or to learn to read,
186
610000
4000
Затова, ако помислите какво значи да учиш аритметика или да се учиш да четеш,
10:38
you're actually, literally rewriting your own brain.
187
614000
3000
всъщност буквално пренаписваш собствения си мозък.
10:41
You're changing the microstructure of your brain as you go along.
188
617000
3000
Променяш микроструктурата на мозъка си по пътя.
10:45
So in a broad sense, we don't need to think about technology
189
621000
3000
Затова в широк смисъл не е нужно да се мисли за технологията
10:48
as only little gadgets, like these things here,
190
624000
2000
само като за малки джаджи, като тези неща тук.
10:50
but even institutions and techniques,
191
626000
4000
А дори институции и техники,
10:54
psychological methods and so forth.
192
630000
2000
психологически методи и така нататък.
10:56
Forms of organization can have a profound impact on human nature.
193
632000
5000
Форми на организация могат да окажат дълбоко влияние върху човешката природа.
11:01
Looking ahead, there is a range of technologies
194
637000
2000
С поглед напред има спектър от технологии,
11:03
that are almost certain to be developed sooner or later.
195
639000
3000
които почти сигурно ще бъдат развити рано или късно.
11:06
We are very ignorant about what the time scale for these things are,
196
642000
4000
Много сме невежи за това каква е времевата рамка за тези неща,
11:10
but they all are consistent with everything we know
197
646000
2000
но всички те са съвместими с всичко, което знаем
11:12
about physical laws, laws of chemistry, etc.
198
648000
4000
за физичните закони, законите на химията и така нататък.
11:16
It's possible to assume,
199
652000
2000
Възможно е да се приеме,
11:18
setting aside a possibility of catastrophe,
200
654000
3000
оставяйки настрана възможността за катастрофа,
11:21
that sooner or later we will develop all of these.
201
657000
3000
рано или късно ще ги развием всички.
11:24
And even just a couple of these would be enough
202
660000
3000
А дори две от тях биха били достатъчни
11:27
to transform the human condition.
203
663000
2000
за преобразяване на човешкото състояние.
11:29
So let's look at some of the dimensions of human nature
204
665000
5000
Да разгледаме някои от измеренията на човешката природа,
11:34
that seem to leave room for improvement.
205
670000
3000
които, изглежда, оставят място за подобрение.
11:37
Health span is a big and urgent thing,
206
673000
2000
Здравният обсег е нещо голямо и спешно,
11:39
because if you're not alive,
207
675000
2000
защото ако не си жив,
11:41
then all the other things will be to little avail.
208
677000
3000
тогава всички други неща не биха били от особена полза.
11:44
Intellectual capacity -- let's take that box,
209
680000
2000
Интелектуални способности... да вземем тази графа,
11:46
which falls into a lot of different sub-categories:
210
682000
5000
която спада към много различни подкатегории...
11:51
memory, concentration, mental energy, intelligence, empathy.
211
687000
3000
памет, концентрация, умствена енергия, интелигентност, емпатия.
11:54
These are really great things.
212
690000
2000
Това са наистина прекрасни неща.
11:56
Part of the reason why we value these traits
213
692000
2000
Част от причината да ценим тези белези
11:58
is that they make us better at competing with other people --
214
694000
4000
е, че те ни правят по-добри в конкуренцията с други хора...
12:02
they're positional goods.
215
698000
2000
те са позициони блага.
12:04
But part of the reason --
216
700000
2000
Но част от причината...
12:06
and that's the reason why we have ethical ground for pursuing these --
217
702000
4000
и това е причината да имаме етично основание да се стремим към тях...
12:10
is that they're also intrinsically valuable.
218
706000
3000
е, че те са също и ценни сами по себе си..
12:13
It's just better to be able to understand more of the world around you
219
709000
4000
Просто е по-добре да можеш да разбираш повече от света около себе си
12:17
and the people that you are communicating with,
220
713000
2000
и хората, с които комуникираш,
12:19
and to remember what you have learned.
221
715000
4000
и да помниш какво си научил.
12:23
Modalities and special faculties.
222
719000
2000
Модалности и специални умения.
12:25
Now, the human mind is not a single unitary information processor,
223
721000
5000
Човешкият ум не е един неделим процесор за информация,
12:30
but it has a lot of different, special, evolved modules
224
726000
4000
а има много различни, специални, еволюирали модули,
12:34
that do specific things for us.
225
730000
2000
които правят специфични неща за нас.
12:36
If you think about what we normally take as giving life a lot of its meaning --
226
732000
4000
Ако се замислим за това, което обикновено приемаме като влагане в живота на много от смисъла му...
12:40
music, humor, eroticism, spirituality, aesthetics,
227
736000
4000
музика, хумор, еротизъм, духовност, естетика,
12:44
nurturing and caring, gossip, chatting with people --
228
740000
5000
отглеждане и грижа, клюки, бъбрене с хора.
12:49
all of these, very likely, are enabled by a special circuitry
229
745000
4000
Много вероятно е всички те да са възможни чрез специална система,
12:53
that we humans have,
230
749000
2000
която имаме ние, хората,
12:55
but that you could have another intelligent life form that lacks these.
231
751000
3000
но че може да има друга интелигентна форма на живот, на която те липсват.
12:58
We're just lucky that we have the requisite neural machinery
232
754000
3000
Просто имаме късмет, че имаме нужната нервна машинерия,
13:01
to process music and to appreciate it and enjoy it.
233
757000
4000
за да обработваме музика, да я ценим и да й се наслаждаваме.
13:05
All of these would enable, in principle -- be amenable to enhancement.
234
761000
3000
Всички те биха дали възможност, по принцип... да се поддават на подобрение.
13:08
Some people have a better musical ability
235
764000
2000
Някои хора са по-музикални
13:10
and ability to appreciate music than others have.
236
766000
2000
и имат повече способности да ценят музиката, отколкото други.
13:12
It's also interesting to think about what other things are --
237
768000
3000
Интересно е също да се замислим за това какво са други неща...
13:15
so if these all enabled great values,
238
771000
3000
ако всички те дават възможност за велики ценности,
13:19
why should we think that evolution has happened to provide us
239
775000
3000
защо да мислим, че еволюцията се е случила, за да ни осигури
13:22
with all the modalities we would need to engage
240
778000
3000
всички модалности, които би било нужно да ангажираме
13:25
with other values that there might be?
241
781000
2000
с други ценности, които може да съществуват?
13:27
Imagine a species
242
783000
2000
Представете си един вид,
13:29
that just didn't have this neural machinery for processing music.
243
785000
4000
който просто не е имал тази нервна машинерия за обработка на музика.
13:33
And they would just stare at us with bafflement
244
789000
3000
Те просто биха се взирали в нас озадачено,
13:36
when we spend time listening to a beautiful performance,
245
792000
4000
когато прекарваме време, слушайки прекрасно изпълнение
13:40
like the one we just heard -- because of people making stupid movements,
246
796000
2000
като това, което току-що чухме... заради хора, правещи глупави движения.
13:42
and they would be really irritated and wouldn't see what we were up to.
247
798000
3000
Биха били наистина раздразнени и нямаше да разбират какво ни е прихванало.
13:45
But maybe they have another faculty, something else
248
801000
3000
Но може би те имат друго умение, нещо друго,
13:48
that would seem equally irrational to us,
249
804000
3000
което би изглеждало еднакво ирационално за нас,
13:51
but they actually tap into some great possible value there.
250
807000
3000
но всъщност те да навлизат в някаква огромна възможна ценност при това.
13:54
But we are just literally deaf to that kind of value.
251
810000
4000
А ние просто сме буквално глухи за този вид ценност.
13:58
So we could think of adding on different,
252
814000
2000
Така че бихме могли да помислим за добавяне на различни,
14:00
new sensory capacities and mental faculties.
253
816000
4000
нови сензорни способности и ментални умения.
14:04
Bodily functionality and morphology and affective self-control.
254
820000
5000
Телесна функционалност, морфология и ефективен самоконтрол.
14:09
Greater subjective well-being.
255
825000
2000
Далеч по-голямо субективно добруване.
14:11
Be able to switch between relaxation and activity --
256
827000
3000
Да сме в състояние да превключваме между отдих и дейност...
14:14
being able to go slow when you need to do that, and to speed up.
257
830000
4000
да можем да се движим бавно, когато е нужно, и да ускоряваме.
14:18
Able to switch back and forth more easily
258
834000
2000
Да можеш да превключваш напред и назад по-лесно -
14:20
would be a neat thing to be able to do --
259
836000
2000
би било прекрасно да си в състояние да го правиш...
14:22
easier to achieve the flow state,
260
838000
2000
по-лесно да постигнеш състоянието на поток,
14:24
when you're totally immersed in something you are doing.
261
840000
4000
при което си напълно потопен в нещо, което правиш.
14:28
Conscientiousness and sympathy.
262
844000
2000
Съвестност и съчувствие.
14:30
The ability to -- it's another interesting application
263
846000
3000
Способността да... това е друго интересно приложение,
14:33
that would have large social ramification, perhaps.
264
849000
3000
което би имало големи социални разклонения от проблеми.
14:36
If you could actually choose to preserve your romantic attachments to one person,
265
852000
6000
Ако наистина можеше да избираш да запазиш романтичната си привързаност към едно лице,
14:42
undiminished through time,
266
858000
2000
ненамалена през времето,
14:44
so that wouldn't have to -- love would never have to fade if you didn't want it to.
267
860000
3000
така че не би трябвало... любовта никога не би трябвало да избледнява, ако ти не искаш.
14:49
That's probably not all that difficult.
268
865000
3000
Това вероятно изобщо не е чак толкова трудно.
14:52
It might just be a simple hormone or something that could do this.
269
868000
3000
Би могло да е прост хормон или нещо, което би могло да го прави.
14:57
It's been done in voles.
270
873000
2000
Правено е при полевки.
15:01
You can engineer a prairie vole to become monogamous
271
877000
3000
Може да се настрои една прерийна полевка така, че да стане моногамна,
15:04
when it's naturally polygamous.
272
880000
2000
при положение, че е естествено полигамна.
15:06
It's just a single gene.
273
882000
2000
Само един ген.
15:08
Might be more complicated in humans, but perhaps not that much.
274
884000
2000
При хората може да е по-сложно, но вероятно не чак толкова.
15:10
This is the last picture that I want to --
275
886000
2000
Това е последната снимка, която искам да...
15:13
now we've got to use the laser pointer.
276
889000
2000
сега трябва да използваме лазерната показалка.
15:16
A possible mode of being here would be a way of life --
277
892000
3000
Един възможен мотив, да бъдеш тук, би бил начин на живот...
15:19
a way of being, experiencing, thinking, seeing,
278
895000
4000
начин на съществуване, преживяване, мислене, виждане,
15:23
interacting with the world.
279
899000
2000
взаимодействие със света.
15:25
Down here in this little corner, here, we have the little sub-space
280
901000
5000
Тук долу, в това ъгълчe, тук имаме малкото суб-пространство
15:30
of this larger space that is accessible to human beings --
281
906000
4000
от това по-голямо пространство, което е достъпно за човешките същества...
15:34
beings with our biological capacities.
282
910000
3000
същества с нашите биологични възможности.
15:37
It's a part of the space that's accessible to animals;
283
913000
3000
То е част от пространството, което е достъпно за животните -
15:40
since we are animals, we are a subset of that.
284
916000
3000
тъй като сме животни, сме подмножество на това.
15:43
And then you can imagine some enhancements of human capacities.
285
919000
4000
И тогава може да си представите някои подобрения на човешките способности.
15:47
There would be different modes of being you could experience
286
923000
3000
Би имало различни начини на съществуване, които могат да се преживеят,
15:50
if you were able to stay alive for, say, 200 years.
287
926000
3000
ако си в състояние да останеш жив, да кажем, 200 години.
15:53
Then you could live sorts of lives and accumulate wisdoms
288
929000
4000
тогава би могъл да живееш видове животи и да трупаш мъдрости,
15:57
that are just not possible for humans as we currently are.
289
933000
3000
които просто не са възможни за човеците, каквито сме понастоящем.
16:00
So then, you move off to this larger sphere of "human +,"
290
936000
4000
Тогава се придвижваш към тази по-голяма сфера на човешки плюс
16:04
and you could continue that process and eventually
291
940000
3000
и можеш да продължиш този процес, и в крайна сметка
16:07
explore a lot of this larger space of possible modes of being.
292
943000
4000
да изследваш много от това по-голямо пространство от възможни мотивни съществувания.
16:11
Now, why is that a good thing to do?
293
947000
2000
А защо това е добро?
16:13
Well, we know already that in this little human circle there,
294
949000
4000
Е, вече знаем, че в този малък човешки кръг тук
16:17
there are these enormously wonderful and worthwhile modes of being --
295
953000
4000
има невероятно чудесни и достойни начини на съществуване...
16:21
human life at its best is wonderful.
296
957000
3000
човешкият живот в най-добрата си светлина е чудесен.
16:24
We have no reason to believe that within this much, much larger space
297
960000
5000
Нямаме причина да смятаме, че в това много по-голямо пространство
16:29
there would not also be extremely worthwhile modes of being,
298
965000
4000
няма да има и изключително достойни начини на съществуване.
16:33
perhaps ones that would be way beyond our wildest ability
299
969000
6000
Вероятно такива, които биха били далеч отвъд най-невероятните ни способности,
16:39
even to imagine or dream about.
300
975000
2000
дори да си представим или да мечтаем.
16:41
And so, to fix this third problem,
301
977000
2000
И така, за да се реши този трети проблем,
16:43
I think we need -- slowly, carefully, with ethical wisdom and constraint --
302
979000
6000
смятам, че ни е нужно... бавно, внимателно, с етична мъдрост и сдържаност...
16:49
develop the means that enable us to go out in this larger space and explore it
303
985000
5000
да развием средствата, които ни дават възможност да излезем в това по-голямо пространство и да го изследваме.
16:54
and find the great values that might hide there.
304
990000
2000
И да открием великите ценности, които може да се крият там.
16:56
Thanks.
305
992000
2000
Благодаря.
ABOUT THE SPEAKER
Nick Bostrom - PhilosopherNick Bostrom asks big questions: What should we do, as individuals and as a species, to optimize our long-term prospects? Will humanity’s technological advancements ultimately destroy us?
Why you should listen
Philosopher Nick Bostrom envisioned a future full of human enhancement, nanotechnology and machine intelligence long before they became mainstream concerns. From his famous simulation argument -- which identified some striking implications of rejecting the Matrix-like idea that humans are living in a computer simulation -- to his work on existential risk, Bostrom approaches both the inevitable and the speculative using the tools of philosophy, probability theory, and scientific analysis.
Since 2005, Bostrom has led the Future of Humanity Institute, a research group of mathematicians, philosophers and scientists at Oxford University tasked with investigating the big picture for the human condition and its future. He has been referred to as one of the most important thinkers of our age.
Nick was honored as one of Foreign Policy's 2015 Global Thinkers .
His recent book Superintelligence advances the ominous idea that “the first ultraintelligent machine is the last invention that man need ever make.”
Nick Bostrom | Speaker | TED.com