TEDGlobal 2005
Nick Bostrom: A philosophical quest for our biggest problems
Nick Bostrom: Filozofické zkoumání našich největších problémů
Filmed:
Readability: 4.2
967,767 views
Oxfordský filozof a transhumanista Nick Bostrom prozkoumává budoucnost lidstva a ptá se, zda můžeme změnit lidskou přirozenost, abychom vyřešili naše nejniternější problémy.
Nick Bostrom - Philosopher
Nick Bostrom asks big questions: What should we do, as individuals and as a species, to optimize our long-term prospects? Will humanity’s technological advancements ultimately destroy us? Full bio
Nick Bostrom asks big questions: What should we do, as individuals and as a species, to optimize our long-term prospects? Will humanity’s technological advancements ultimately destroy us? Full bio
Double-click the English transcript below to play the video.
00:24
I want to talk today about --
0
0
3000
Dnes chci hovořit o --
00:27
I've been asked to take the long view, and I'm going to tell you what
1
3000
6000
byl jsem požádán, abych se pokusil
o dlouhodobý výhled, takže vám povím,
o dlouhodobý výhled, takže vám povím,
00:33
I think are the three biggest problems for humanity
2
9000
4000
co jsou dle mého tři
největší problémy lidstva
největší problémy lidstva
00:37
from this long point of view.
3
13000
3000
z dlouhodobého hlediska.
00:40
Some of these have already been touched upon by other speakers,
4
16000
3000
Některých z nich se již dotkli
někteří z předešlých řečníků,
někteří z předešlých řečníků,
00:43
which is encouraging.
5
19000
2000
což je povzbuzující,
00:45
It seems that there's not just one person
6
21000
2000
protože se zdá,
že nejsem jediný člověk,
že nejsem jediný člověk,
00:47
who thinks that these problems are important.
7
23000
2000
který dané problémy považuje za důležité.
00:49
The first is -- death is a big problem.
8
25000
4000
Tím prvním je -- smrt je velký problém.
00:53
If you look at the statistics,
9
29000
3000
Pokud se podíváte na statistiky,
00:56
the odds are not very favorable to us.
10
32000
2000
naše vyhlídky nejsou právě růžové.
00:58
So far, most people who have lived have also died.
11
34000
4000
Prozatím většina lidí,
která žila, také zemřela.
která žila, také zemřela.
01:02
Roughly 90 percent of everybody who has been alive has died by now.
12
38000
4000
Zhruba 90 procent všech,
kdo kdy žili, je nyní mrtvých.
kdo kdy žili, je nyní mrtvých.
01:06
So the annual death rate adds up to 150,000 --
13
42000
6000
Takže roční úmrnost činí 150 000 --
01:12
sorry, the daily death rate -- 150,000 people per day,
14
48000
3000
promiňte, denní úmrtnost --
150 000 lidí denně,
150 000 lidí denně,
01:15
which is a huge number by any standard.
15
51000
3000
což je ohromné číslo v každém ohledu.
01:18
The annual death rate, then, becomes 56 million.
16
54000
5000
Roční úmrtnost je potom 56 milionů.
01:23
If we just look at the single, biggest cause of death -- aging --
17
59000
5000
Pokud se podíváme
na hlavní příčinu úmrtí -- stárnutí --
na hlavní příčinu úmrtí -- stárnutí --
01:29
it accounts for roughly two-thirds of all human people who die.
18
65000
5000
způsobila smrt zhruba dvou třetin
z celkového počtu úmrtí.
z celkového počtu úmrtí.
01:34
That adds up to an annual death toll
19
70000
3000
To znamená, že ročně zemře
01:37
of greater than the population of Canada.
20
73000
2000
více lidí než kolik má Kanada obyvatel.
01:39
Sometimes, we don't see a problem
21
75000
2000
Obyčejně to nepovažujeme za problém,
01:41
because either it's too familiar or it's too big.
22
77000
4000
protože jde o něco příliš velkého
a pro nás důvěrně známého.
a pro nás důvěrně známého.
01:45
Can't see it because it's too big.
23
81000
2000
Smrt nevidíme, protože je příliš velká.
01:47
I think death might be both too familiar and too big
24
83000
3000
Myslím si, že smrt může
být pro většinu lidí příliš
být pro většinu lidí příliš
01:50
for most people to see it as a problem.
25
86000
3000
velká a příliš známá na to,
aby v ní viděli problém.
aby v ní viděli problém.
01:53
Once you think about it, you see this is not statistical points;
26
89000
2000
Ale přemýšlejte o ní.
01:55
these are -- let's see, how far have I talked?
27
91000
2000
Podívejme se, jak dlouho jsem mluvil.
01:57
I've talked for three minutes.
28
93000
3000
Zhruba 3 minuty.
02:00
So that would be, roughly, 324 people have died since I've begun speaking.
29
96000
7000
To znamená, že od začátku přednášky
zemřelo kolem 324 lidí.
zemřelo kolem 324 lidí.
02:07
People like -- it's roughly the population in this room has just died.
30
103000
4000
To lze zhruba přirovnat
ke kapacitě této místnosti.
ke kapacitě této místnosti.
02:12
Now, the human cost of that is obvious,
31
108000
2000
Cena za takovou ztrátu je zřejmá,
02:14
once you start to think about it -- the suffering, the loss --
32
110000
3000
jakmile o ní začnete přemýšlet
-- utrpení, bolest --
-- utrpení, bolest --
02:17
it's also, economically, enormously wasteful.
33
113000
3000
rovněž ekonomicky jde o ohromné plýtvání.
02:20
I just look at the information, and knowledge, and experience
34
116000
3000
Stačí se podívat na množství informací,
znalostí a zkušeností,
znalostí a zkušeností,
02:23
that is lost due to natural causes of death in general,
35
119000
3000
o které přicházíme v důsledku
přirozené smrti
přirozené smrti
02:26
and aging, in particular.
36
122000
2000
a stárnutí.
02:28
Suppose we approximated one person with one book?
37
124000
3000
Předpokládejme, že jedna osoba
představuje jednu knihu.
představuje jednu knihu.
02:31
Now, of course, this is an underestimation.
38
127000
2000
A to je ještě hodně podhodnoceno.
02:33
A person's lifetime of learning and experience
39
129000
6000
Životní zkušenosti a poznatky
znamenají mnohem více
znamenají mnohem více
02:39
is a lot more than you could put into a single book.
40
135000
2000
než dokážeme vměstnat
do jediné knihy.
do jediné knihy.
02:41
But let's suppose we did this.
41
137000
2000
Ale předpokládejme, že tomu tak je.
02:44
52 million people die of natural causes each year
42
140000
5000
52 milionů lidí zemře ročně
přirozenou smrtí,
přirozenou smrtí,
02:49
corresponds, then, to 52 million volumes destroyed.
43
145000
4000
což odpovídá zničení
52 milionů svazků knih.
52 milionů svazků knih.
02:53
Library of Congress holds 18 million volumes.
44
149000
3000
Knihovna Kongresu
obsahuje 18 milionů svazků.
obsahuje 18 milionů svazků.
02:57
We are upset about the burning of the Library of Alexandria.
45
153000
3000
Těžce neseme vypálení
alexandrijské knihovny.
alexandrijské knihovny.
03:00
It's one of the great cultural tragedies
46
156000
2000
Jde o jednu z velkých kulturních tragédií,
03:02
that we remember, even today.
47
158000
3000
kterou si dodnes připomínáme.
03:06
But this is the equivalent of three Libraries of Congress --
48
162000
2000
Přesto ekvivalent tří knihoven Kongresu --
03:08
burnt down, forever lost -- each year.
49
164000
3000
je spálen, ztracen na vždy, každý rok.
03:11
So that's the first big problem.
50
167000
2000
Takže to je první velký problém.
03:13
And I wish Godspeed to Aubrey de Grey,
51
169000
3000
Přeji proto hodně zdaru Aubrey de Greyovi
03:16
and other people like him,
52
172000
2000
a dalším lidem jako je on,
03:18
to try to do something about this as soon as possible.
53
174000
3000
kteří se s tím snaží něco udělat.
03:22
Existential risk -- the second big problem.
54
178000
3000
Existenciální riziko
-- druhý velký problém.
-- druhý velký problém.
03:25
Existential risk is a threat to human survival, or to the long-term potential of our species.
55
181000
7000
Existenciální riziko je hrozba,
která ohrožuje dlouhodobé přežití lidstva.
která ohrožuje dlouhodobé přežití lidstva.
03:32
Now, why do I say that this is a big problem?
56
188000
2000
Proč tvrdím, že jde o velký problém?
03:34
Well, let's first look at the probability --
57
190000
4000
Podívejme se nejprve na pravděpodobnost --
03:38
and this is very, very difficult to estimate --
58
194000
3000
jde ale o hodně složitý odhad --
03:41
but there have been only four studies on this in recent years,
59
197000
3000
doposud vznikly jen
čtyři studie na toto téma,
čtyři studie na toto téma,
03:44
which is surprising.
60
200000
2000
což je překvapivé.
03:46
You would think that it would be of some interest
61
202000
3000
Mysleli byste si,
že se téma setká s větším zájmem,
že se téma setká s větším zájmem,
03:49
to try to find out more about this given that the stakes are so big,
62
205000
4000
protože v sázce je opravdu hodně.
03:53
but it's a very neglected area.
63
209000
2000
Každopádně jde o dost přehlíženou oblast.
03:55
But there have been four studies --
64
211000
2000
Tyto čtyři studie --
03:57
one by John Lesley, wrote a book on this.
65
213000
2000
jednu rozvedl v knize John Lesley.
03:59
He estimated a probability that we will fail
66
215000
2000
Odhadl pravděpodobnost, s jakou
04:01
to survive the current century: 50 percent.
67
217000
3000
nepřežijeme současné století:
50 procent.
50 procent.
04:04
Similarly, the Astronomer Royal, whom we heard speak yesterday,
68
220000
5000
Podobně královský astronom,
kterého jsme slyšeli hovořit včera,
kterého jsme slyšeli hovořit včera,
04:09
also has a 50 percent probability estimate.
69
225000
3000
odhadl 50procentní pravděpodobnost.
04:12
Another author doesn't give any numerical estimate,
70
228000
3000
Další autor nedal žádný číselný odhad,
04:15
but says the probability is significant that it will fail.
71
231000
3000
ale prohlásil, že pravděpodobnost
vyhynutí je významná.
vyhynutí je významná.
04:18
I wrote a long paper on this.
72
234000
3000
Já na toto téma napsal dlouhý článek.
04:21
I said assigning a less than 20 percent probability would be a mistake
73
237000
4000
Řekl jsem v něm, že hovořit o méně než
20procentní pravděpobonosti by byla chyba,
20procentní pravděpobonosti by byla chyba,
04:25
in light of the current evidence we have.
74
241000
3000
s ohledem na současné důkazy, které máme.
04:28
Now, the exact figures here,
75
244000
2000
Přesná čísla, která máme tady,
bychom měli
bychom měli
04:30
we should take with a big grain of salt,
76
246000
2000
brát v potaz s největší obezřetností,
04:32
but there seems to be a consensus that the risk is substantial.
77
248000
3000
každopádně vládne shoda,
že riziko je zásadní.
že riziko je zásadní.
04:35
Everybody who has looked at this and studied it agrees.
78
251000
3000
Každý, kdo tohle viděl a studoval,
souhlasí.
souhlasí.
04:38
Now, if we think about what just reducing
79
254000
2000
Pokud se zamyslíme, co znamená snížení
04:40
the probability of human extinction by just one percentage point --
80
256000
5000
pravděpodobnosti vyhynutí lidstva
o jediný procentní bod --
o jediný procentní bod --
04:45
not very much -- so that's equivalent to 60 million lives saved,
81
261000
5000
což není mnoho -- zjistíme, že jde
o 60 milionů zachráněných životů
o 60 milionů zachráněných životů
04:50
if we just count the currently living people, the current generation.
82
266000
4000
z hlediska aktuálního počtu lidí.
04:54
Now one percent of six billion people is equivalent to 60 million.
83
270000
4000
Jedno procento z šesti miliard lidí
odpovídá 60 milionům.
odpovídá 60 milionům.
04:58
So that's a large number.
84
274000
2000
To je obrovské číslo.
05:00
If we were to take into account future generations
85
276000
3000
Pokud bychom zohlednili
i budoucí generace,
i budoucí generace,
05:03
that will never come into existence if we blow ourselves up,
86
279000
5000
které by kvůli našemu vymření nevznikly,
05:08
then the figure becomes astronomical.
87
284000
3000
číslo by bylo astronomické.
05:11
If we could eventually colonize a chunk of the universe --
88
287000
3000
Možná v budoucnu obydlíme
zlomek vesmíru --
zlomek vesmíru --
05:14
the Virgo supercluster --
89
290000
2000
Místní nadkupu galaxií --
05:16
maybe it will take us 100 million years to get there,
90
292000
2000
což může vzít klidně 100 milionů let,
05:18
but if we go extinct we never will.
91
294000
3000
ale pokud vymřeme, nedojde k tomu.
05:21
Then, even a one percentage point reduction
92
297000
3000
Takže i snížení o jediný procentní bod
05:24
in the extinction risk could be equivalent
93
300000
4000
by v tomto případě odpovídalo přežití
05:28
to this astronomical number -- 10 to the power of 32.
94
304000
3000
astronomického počtu lidí -- 10 na 32.
05:31
So if you take into account future generations as much as our own,
95
307000
4000
Takže pokud budeme o budoucích
generacích uvažovat jako o té naší,
generacích uvažovat jako o té naší,
05:35
every other moral imperative of philanthropic cost just becomes irrelevant.
96
311000
5000
všechny ostatní morální imperativy
spojené s náklady se stanou irelevantními.
spojené s náklady se stanou irelevantními.
05:40
The only thing you should focus on
97
316000
2000
Jediná věc, které byste
měli věnovat pozornost,
měli věnovat pozornost,
05:42
would be to reduce existential risk
98
318000
2000
je snížení existenciálního rizika,
05:44
because even the tiniest decrease in existential risk
99
320000
4000
protože i to nejmenší snížení
05:48
would just overwhelm any other benefit you could hope to achieve.
100
324000
4000
by převážilo jakoukoli jinou výhodu,
o které můžeme uvažovat.
o které můžeme uvažovat.
05:52
And even if you just look at the current people,
101
328000
2000
A i když uvážíme jen žijící lidi,
05:54
and ignore the potential that would be lost if we went extinct,
102
330000
5000
a budeme ignorovat budoucí,
kteří by nevznikli, kdybychom vyhynuli,
kteří by nevznikli, kdybychom vyhynuli,
05:59
it should still have a high priority.
103
335000
2000
stále má úkol vysokou prioritu.
06:01
Now, let me spend the rest of my time on the third big problem,
104
337000
5000
Dovolte mi věnovat zbývající čas
třetímu velkému problému,
třetímu velkému problému,
06:06
because it's more subtle and perhaps difficult to grasp.
105
342000
5000
protože je mnohem rafinovanější
a náročnější k uchopení.
a náročnější k uchopení.
06:12
Think about some time in your life --
106
348000
4000
Zamyslete se nad určitým typem času --
06:16
some people might never have experienced it -- but some people,
107
352000
3000
někteří lidé jej možná vůbec nezažili --
ale vy ostatní
ale vy ostatní
06:19
there are just those moments that you have experienced
108
355000
3000
si vybavte prožité momenty,
06:22
where life was fantastic.
109
358000
2000
kdy byl život úžasný.
06:24
It might have been at the moment of some great, creative inspiration
110
360000
7000
Mohlo to být ve chvíli nějaké
velkolepé tvůrčí inspirace,
velkolepé tvůrčí inspirace,
06:31
you might have had when you just entered this flow stage.
111
367000
2000
když jste byli unášeni
plynulým tokem práce.
plynulým tokem práce.
06:33
Or when you understood something you had never done before.
112
369000
2000
Nebo když jste pochopili něco nového.
06:35
Or perhaps in the ecstasy of romantic love.
113
371000
4000
Nebo mohlo jít o pocity
pramenící z romantické lásky.
pramenící z romantické lásky.
06:39
Or an aesthetic experience -- a sunset or a great piece of art.
114
375000
5000
O estetický zážitek -- západ slunce
nebo krásné umělecké dílo.
nebo krásné umělecké dílo.
06:44
Every once in a while we have these moments,
115
380000
2000
Každý jednou za čas zažívá tyto pocity,
06:46
and we realize just how good life can be when it's at its best.
116
382000
4000
a díky nim si uvědomujeme,
jak skvělý život může být.
jak skvělý život může být.
06:50
And you wonder, why can't it be like that all the time?
117
386000
5000
A divíme se, proč není
život takový neustále.
život takový neustále.
06:55
You just want to cling onto this.
118
391000
2000
Chcete, aby takový byl.
06:57
And then, of course, it drifts back into ordinary life and the memory fades.
119
393000
4000
A pak se samozřejmě vše vrátí do normálu
a vzpomínky vyblednou.
a vzpomínky vyblednou.
07:01
And it's really difficult to recall, in a normal frame of mind,
120
397000
4000
Je skutečně náročné si
v běžném rozpoložení vybavit,
v běžném rozpoložení vybavit,
07:05
just how good life can be at its best.
121
401000
3000
jak úžasný život může být.
07:08
Or how bad it can be at its worst.
122
404000
3000
Nebo jak šíleně zlý může být.
07:11
The third big problem is that life isn't usually
123
407000
3000
Třetí velký problém je,
že život není obvykle
že život není obvykle
07:14
as wonderful as it could be.
124
410000
2000
tak úžasný, jak by mohl být.
07:16
I think that's a big, big problem.
125
412000
4000
Domnívám se, že jde o velký problém.
07:20
It's easy to say what we don't want.
126
416000
2000
Je jednoduché říci, co nechceme.
07:23
Here are a number of things that we don't want --
127
419000
3000
Tady je příklad několika věcí,
které nechceme --
které nechceme --
07:26
illness, involuntary death, unnecessary suffering, cruelty,
128
422000
3000
nemoc, nedobrovolná smrt,
zbytečné trápení, krutost,
zbytečné trápení, krutost,
07:29
stunted growth, memory loss, ignorance, absence of creativity.
129
425000
5000
nedostatečný růst, ztráta paměti,
nevzdělanost, nedostatek kreativity.
nevzdělanost, nedostatek kreativity.
07:35
Suppose we fixed these things -- we did something about all of these.
130
431000
3000
Předpokládejme, že jsme tyto věci
napravili, něco jsme s nimi udělali.
napravili, něco jsme s nimi udělali.
07:38
We were very successful.
131
434000
2000
Byli jsme skutečně úspěšní.
07:40
We got rid of all of these things.
132
436000
2000
Všeho tohoto jsme se zbavili.
07:42
We might end up with something like this,
133
438000
3000
Mohli bychom potom dopadnout nějak takto,
07:45
which is -- I mean, it's a heck of a lot better than that.
134
441000
4000
což je -- abych tak řekl, zatraceně
lepší než to předchozí.
lepší než to předchozí.
07:49
But is this really the best we can dream of?
135
445000
5000
Ale jde opravdu o to nejlepší,
o čem můžeme snít?
o čem můžeme snít?
07:54
Is this the best we can do?
136
450000
2000
Jde o to nejlepší, čeho můžeme dosáhnout?
07:56
Or is it possible to find something a little bit more inspiring to work towards?
137
452000
6000
Nebo je možné nalézt něco trochu
inspirativnějšího, co nás požene vpřed?
inspirativnějšího, co nás požene vpřed?
08:02
And if we think about this,
138
458000
2000
Když o tomhle všem budeme přemýšlet,
08:04
I think it's very clear that there are ways
139
460000
4000
zcela jistě si uvědomíme,
že existují možnosti,
že existují možnosti,
08:08
in which we could change things, not just by eliminating negatives,
140
464000
3000
kdy změníme věci nikoli pouhým
odstraněním toho škodlivého,
odstraněním toho škodlivého,
08:11
but adding positives.
141
467000
2000
ale přidáním pozitivního.
08:13
On my wish list, at least, would be:
142
469000
2000
Na mém seznamu přání by mohlo být:
08:15
much longer, healthier lives, greater subjective well-being,
143
471000
5000
delší a zdravější život, větší blahobyt,
08:20
enhanced cognitive capacities, more knowledge and understanding,
144
476000
5000
vylepšené kognitivní schopnosti,
více znalostí a porozumění,
více znalostí a porozumění,
08:25
unlimited opportunity for personal growth
145
481000
2000
neomezené možnosti pro osobní rozvoj
08:27
beyond our current biological limits, better relationships,
146
483000
4000
přesahující naše biologická omezení,
lepší vztahy
lepší vztahy
08:31
an unbounded potential for spiritual, moral
147
487000
2000
a nespoutaný potenciál pro duchovní,
08:33
and intellectual development.
148
489000
2000
morální a intelektuální vývoj.
08:35
If we want to achieve this, what, in the world, would have to change?
149
491000
8000
Pokud bychom chtěli tohoto dosáhnout,
co by se muselo ve světě změnit?
co by se muselo ve světě změnit?
08:43
And this is the answer -- we would have to change.
150
499000
5000
A tohle je odpověď --
my bychom se museli změnit.
my bychom se museli změnit.
08:48
Not just the world around us, but we, ourselves.
151
504000
3000
Nikoli jen svět kolem nás, ale my samotní.
08:51
Not just the way we think about the world, but the way we are -- our very biology.
152
507000
4000
Nikoli způsob, jakým o světě přemýšlíme,
ale způsob, jakým existujeme -- naše biologie.
ale způsob, jakým existujeme -- naše biologie.
08:55
Human nature would have to change.
153
511000
2000
Lidská přirozenost by se musela změnit.
08:57
Now, when we think about changing human nature,
154
513000
2000
Když uvažujeme
o změně lidské přirozenosti,
o změně lidské přirozenosti,
08:59
the first thing that comes to mind
155
515000
2000
první věcí, která nás napadne,
09:01
are these human modification technologies --
156
517000
4000
jsou tyto technologie umožňující
modifikaci lidí --
modifikaci lidí --
09:05
growth hormone therapy, cosmetic surgery,
157
521000
2000
terapie růstovými hormony,
kosmetická chirurgie,
kosmetická chirurgie,
09:07
stimulants like Ritalin, Adderall, anti-depressants,
158
523000
3000
stimulanty jako Ritalin a Adderall,
antidepresiva,
antidepresiva,
09:10
anabolic steroids, artificial hearts.
159
526000
2000
anabolické steroidy, umělá srdce.
09:12
It's a pretty pathetic list.
160
528000
3000
Je to pěkně dojemný seznam.
09:15
They do great things for a few people
161
531000
2000
Dovedou skvělé věci u pár lidí,
09:17
who suffer from some specific condition,
162
533000
2000
kteří trpí nějakými specifickými problémy,
09:19
but for most people, they don't really transform
163
535000
5000
ale u většiny lidí nezmění to,
09:24
what it is to be human.
164
540000
2000
co znamená být člověkem.
09:26
And they also all seem a little bit --
165
542000
2000
A všechny také trochu působí --
09:28
most people have this instinct that, well, sure,
166
544000
3000
hodně lidem napovídá instinkt,
09:31
there needs to be anti-depressants for the really depressed people.
167
547000
2000
že antidepresiva tu jsou
pro lidi s depresemi.
pro lidi s depresemi.
09:33
But there's a kind of queasiness
168
549000
2000
Panuje i jisté znepokojení,
09:35
that these are unnatural in some way.
169
551000
3000
že jde o něco nepřirozeného.
09:38
It's worth recalling that there are a lot of other
170
554000
2000
Hodí se připomenout,
že používáme mnoho
že používáme mnoho
09:40
modification technologies and enhancement technologies that we use.
171
556000
3000
jiných technologií
k nápravám i vylepšování.
k nápravám i vylepšování.
09:43
We have skin enhancements, clothing.
172
559000
4000
Používáme vylepšení kůže -- oblečení.
09:47
As far as I can see, all of you are users of this
173
563000
4000
Kam až dohlédnu, vidím,
že každý z vás je uživatelem
že každý z vás je uživatelem
09:51
enhancement technology in this room, so that's a great thing.
174
567000
5000
této vylepšovací technologie,
což je skvělé.
což je skvělé.
09:56
Mood modifiers have been used from time immemorial --
175
572000
3000
Látky měnící náladu
se používají od nepaměti --
se používají od nepaměti --
09:59
caffeine, alcohol, nicotine, immune system enhancement,
176
575000
5000
kofein, alkohol, nikotin, vitaminy,
10:04
vision enhancement, anesthetics --
177
580000
2000
brýle, anestetika --
10:06
we take that very much for granted,
178
582000
2000
považujeme je za samozřejmé,
10:08
but just think about how great progress that is --
179
584000
4000
ale zamyslete se, jak velký pokrok to je,
10:12
like, having an operation before anesthetics was not fun.
180
588000
4000
prodělat operaci před příchodem anestetik
nebyla žádná legrace.
nebyla žádná legrace.
10:16
Contraceptives, cosmetics and brain reprogramming techniques --
181
592000
6000
Antikoncepce, kosmetika
a techniky přeprogramování mozku --
a techniky přeprogramování mozku --
10:22
that sounds ominous,
182
598000
2000
to vše zní děsivě,
10:24
but the distinction between what is a technology --
183
600000
4000
ale rozdíl mezi tím, co je technologie --
10:28
a gadget would be the archetype --
184
604000
2000
typickým příkladem je přístroj --
10:30
and other ways of changing and rewriting human nature is quite subtle.
185
606000
4000
a dalšími způsoby, jak měnit a předělávat
lidskou přirozenost, je složitější.
lidskou přirozenost, je složitější.
10:34
So if you think about what it means to learn arithmetic or to learn to read,
186
610000
4000
Když se zamyslíte, co to znamená
naučit se počítat nebo číst,
naučit se počítat nebo číst,
10:38
you're actually, literally rewriting your own brain.
187
614000
3000
zjistíte, že jde doslova
o předělávání mozku.
o předělávání mozku.
10:41
You're changing the microstructure of your brain as you go along.
188
617000
3000
Jak se učíte,
měníte mikrostrukturu svého mozku.
měníte mikrostrukturu svého mozku.
10:45
So in a broad sense, we don't need to think about technology
189
621000
3000
Obecně řečeno,
nemusíme přemýšlet o technologiích
nemusíme přemýšlet o technologiích
10:48
as only little gadgets, like these things here,
190
624000
2000
pouze jako přístrojích jako jsou tyto,
10:50
but even institutions and techniques,
191
626000
4000
ale i o institucích a technikách,
10:54
psychological methods and so forth.
192
630000
2000
psychologických metodách a tak dále.
10:56
Forms of organization can have a profound impact on human nature.
193
632000
5000
Způsoby organizace mohou mít
zásadní dopad na lidskou přirozenost.
zásadní dopad na lidskou přirozenost.
11:01
Looking ahead, there is a range of technologies
194
637000
2000
V budoucnu zcela jistě dříve nebo později
11:03
that are almost certain to be developed sooner or later.
195
639000
3000
vyvineme množství takových technologií.
11:06
We are very ignorant about what the time scale for these things are,
196
642000
4000
Víme jen velice málo, pokud vůbec něco,
kdy se tyto věci objeví,
kdy se tyto věci objeví,
11:10
but they all are consistent with everything we know
197
646000
2000
ale jsou plně v souladu se vším, co víme
11:12
about physical laws, laws of chemistry, etc.
198
648000
4000
o fyzikálních zákonech, zákonech chemie
a tak dál.
a tak dál.
11:16
It's possible to assume,
199
652000
2000
Můžeme předpokládat,
11:18
setting aside a possibility of catastrophe,
200
654000
3000
ponechejme stranou možnost katastrofy,
11:21
that sooner or later we will develop all of these.
201
657000
3000
že dříve nebo později
všechno toto vyvineme.
všechno toto vyvineme.
11:24
And even just a couple of these would be enough
202
660000
3000
A dokonce jen zlomek z nich
by postačoval k tomu,
by postačoval k tomu,
11:27
to transform the human condition.
203
663000
2000
abychom změnili lidský stav.
11:29
So let's look at some of the dimensions of human nature
204
665000
5000
Podívejme se proto na ty podoby
lidské přirozenosti,
lidské přirozenosti,
11:34
that seem to leave room for improvement.
205
670000
3000
které se jeví, že nabízejí
prostor k vylepšení.
prostor k vylepšení.
11:37
Health span is a big and urgent thing,
206
673000
2000
Délka života je důležitým
a palčivým faktorem,
a palčivým faktorem,
11:39
because if you're not alive,
207
675000
2000
protože když nejste naživu,
11:41
then all the other things will be to little avail.
208
677000
3000
žádná věc vám moc užitečná nebude.
11:44
Intellectual capacity -- let's take that box,
209
680000
2000
Intelektuální schopnosti -- zahrnují
11:46
which falls into a lot of different sub-categories:
210
682000
5000
velké množství dalších podkategorií:
11:51
memory, concentration, mental energy, intelligence, empathy.
211
687000
3000
paměť, soustředěnost, mentální energie,
inteligence, empatie.
inteligence, empatie.
11:54
These are really great things.
212
690000
2000
Jsou to všechno skvělé věci.
11:56
Part of the reason why we value these traits
213
692000
2000
Zčásti si jich ceníme proto,
11:58
is that they make us better at competing with other people --
214
694000
4000
že nás dělají lepšími v soupeření s
ostatními lidmi --
ostatními lidmi --
12:02
they're positional goods.
215
698000
2000
jsou zprostředkujícími dobry.
12:04
But part of the reason --
216
700000
2000
Zčásti proto --
12:06
and that's the reason why we have ethical ground for pursuing these --
217
702000
4000
a to je také důvod, proč je
morálně správné o ně usilovat --
morálně správné o ně usilovat --
12:10
is that they're also intrinsically valuable.
218
706000
3000
že jsou samy o sobě hodnotné.
12:13
It's just better to be able to understand more of the world around you
219
709000
4000
Je prostě lepší vědět
o světě kolem nás více,
o světě kolem nás více,
12:17
and the people that you are communicating with,
220
713000
2000
o lidech, se kterými se setkáváme,
12:19
and to remember what you have learned.
221
715000
4000
a taktéž si pamatovat,
co jsme se dozvěděli.
co jsme se dozvěděli.
12:23
Modalities and special faculties.
222
719000
2000
Modality a zvláštní schopnosti.
12:25
Now, the human mind is not a single unitary information processor,
223
721000
5000
Lidská mysl není jediným jednolitým
informačním procesorem,
informačním procesorem,
12:30
but it has a lot of different, special, evolved modules
224
726000
4000
ale má mnoho různých,
speciálně vyvinutých modulů,
speciálně vyvinutých modulů,
12:34
that do specific things for us.
225
730000
2000
které umožňují specifické věci.
12:36
If you think about what we normally take as giving life a lot of its meaning --
226
732000
4000
Když uvážíme to, co běžně považujeme
za věci dávající životu smysl --
za věci dávající životu smysl --
12:40
music, humor, eroticism, spirituality, aesthetics,
227
736000
4000
hudbu, humor, erotično,
duchovno, estetiku,
duchovno, estetiku,
12:44
nurturing and caring, gossip, chatting with people --
228
740000
5000
výchovu a péči, klevety,
povídání s lidmi --
povídání s lidmi --
12:49
all of these, very likely, are enabled by a special circuitry
229
745000
4000
tak všechny z nich jsou téměř jistě
umožněny některým ze specifických okruhů,
umožněny některým ze specifických okruhů,
12:53
that we humans have,
230
749000
2000
které my lidé máme,
ale představte si jinou inteligentní
formu života, která je postrádá.
formu života, která je postrádá.
12:55
but that you could have another intelligent life form that lacks these.
231
751000
3000
12:58
We're just lucky that we have the requisite neural machinery
232
754000
3000
Měli jsme jen štěstí, že se u nás
vyvinuly neurální obvody,
vyvinuly neurální obvody,
13:01
to process music and to appreciate it and enjoy it.
233
757000
4000
které zpracovávají a vychutnávají hudbu.
13:05
All of these would enable, in principle -- be amenable to enhancement.
234
761000
3000
Všechny by v principu
mělo být možné vylepšit.
mělo být možné vylepšit.
13:08
Some people have a better musical ability
235
764000
2000
Někteří lidé mají lepší hudební sluch
13:10
and ability to appreciate music than others have.
236
766000
2000
a schopnost ocenit hudbu než jiní lidé.
13:12
It's also interesting to think about what other things are --
237
768000
3000
Je rovněž zajímavé přemýšlet
o dalších věcech --
o dalších věcech --
13:15
so if these all enabled great values,
238
771000
3000
když poskytují hodnotné věci,
13:19
why should we think that evolution has happened to provide us
239
775000
3000
proč bychom měli přijmout,
že evoluce nás vybavila
že evoluce nás vybavila
13:22
with all the modalities we would need to engage
240
778000
3000
všemi způsoby,
které by nám mohly
které by nám mohly
13:25
with other values that there might be?
241
781000
2000
potenciálně přinést potěšení?
13:27
Imagine a species
242
783000
2000
Představte si tvora,
13:29
that just didn't have this neural machinery for processing music.
243
785000
4000
který postrádá tento neurální
obvod pro zpracování hudby.
obvod pro zpracování hudby.
13:33
And they would just stare at us with bafflement
244
789000
3000
Jenom by na nás ohromeně zíral,
13:36
when we spend time listening to a beautiful performance,
245
792000
4000
kdykoli bychom trávili čas
poslechem hudebního vystoupení,
poslechem hudebního vystoupení,
13:40
like the one we just heard -- because of people making stupid movements,
246
796000
2000
protože lidé by dělali podivné pohyby
13:42
and they would be really irritated and wouldn't see what we were up to.
247
798000
3000
a on by nedokázal určit, co se to děje.
13:45
But maybe they have another faculty, something else
248
801000
3000
Ale možná má jinou schopnost,
13:48
that would seem equally irrational to us,
249
804000
3000
která by byla stejně matoucí pro nás,
13:51
but they actually tap into some great possible value there.
250
807000
3000
ale pro něj by měla obdobnou hodnotu
jako hudba pro nás.
jako hudba pro nás.
13:54
But we are just literally deaf to that kind of value.
251
810000
4000
Ale my jsme doslova hluší
k tomuto druhu hodnoty.
k tomuto druhu hodnoty.
13:58
So we could think of adding on different,
252
814000
2000
Takže můžeme uvažovat o přidání nových
14:00
new sensory capacities and mental faculties.
253
816000
4000
smyslových a mentálních schopností.
14:04
Bodily functionality and morphology and affective self-control.
254
820000
5000
Nové tělesné funkce, tělesné tvary,
nové sebeovládání.
nové sebeovládání.
14:09
Greater subjective well-being.
255
825000
2000
Větší pocit spokojenosti.
14:11
Be able to switch between relaxation and activity --
256
827000
3000
Schopnost přepínat
mezi odpočinkem a prací --
mezi odpočinkem a prací --
14:14
being able to go slow when you need to do that, and to speed up.
257
830000
4000
schopnost zpomalit,
když to potřebujeme, i zrychlit.
když to potřebujeme, i zrychlit.
14:18
Able to switch back and forth more easily
258
834000
2000
Schopnost snadno přepínat pozornost
14:20
would be a neat thing to be able to do --
259
836000
2000
by byla krásná vlastnost --
14:22
easier to achieve the flow state,
260
838000
2000
snadněji bychom dosáhli stavu plynulosti,
14:24
when you're totally immersed in something you are doing.
261
840000
4000
jaký zažíváme,
když jsme do něčeho ponořeni.
když jsme do něčeho ponořeni.
14:28
Conscientiousness and sympathy.
262
844000
2000
Vědomí a porozumění.
14:30
The ability to -- it's another interesting application
263
846000
3000
To je další zajímavá aplikace,
14:33
that would have large social ramification, perhaps.
264
849000
3000
která by měla nejspíš
velký společenský dopad.
velký společenský dopad.
14:36
If you could actually choose to preserve your romantic attachments to one person,
265
852000
6000
Pokud byste si mohli zvolit,
aby byly vaše romantické závazky
aby byly vaše romantické závazky
14:42
undiminished through time,
266
858000
2000
k druhé osobě s časem neměnné,
14:44
so that wouldn't have to -- love would never have to fade if you didn't want it to.
267
860000
3000
takže by neskončily,
láska by nemusela nikdy pominout.
láska by nemusela nikdy pominout.
14:49
That's probably not all that difficult.
268
865000
3000
Pravděpodobně nejde o tak složitou věc.
14:52
It might just be a simple hormone or something that could do this.
269
868000
3000
Mohl by to být jediný hormon
nebo tak něco.
nebo tak něco.
14:57
It's been done in voles.
270
873000
2000
Povedlo se to už u hrabošů.
15:01
You can engineer a prairie vole to become monogamous
271
877000
3000
Můžete naprogramovat hraboše,
aby se stali monogamními,
aby se stali monogamními,
15:04
when it's naturally polygamous.
272
880000
2000
i když jsou od přírody polygamní.
15:06
It's just a single gene.
273
882000
2000
Jde o jediný gen.
15:08
Might be more complicated in humans, but perhaps not that much.
274
884000
2000
U lidí by to mohlo být složitější,
ale asi ne o moc.
ale asi ne o moc.
15:10
This is the last picture that I want to --
275
886000
2000
Tohle je poslední obrázek,
který chci --
který chci --
15:13
now we've got to use the laser pointer.
276
889000
2000
začali jsme používat laserová ukazovátka.
15:16
A possible mode of being here would be a way of life --
277
892000
3000
Možný způsob bytí my mohl
být způsobem života --
být způsobem života --
15:19
a way of being, experiencing, thinking, seeing,
278
895000
4000
způsob života, zakoušení, přemýšlení,
vidění,
vidění,
15:23
interacting with the world.
279
899000
2000
interagování se světem.
15:25
Down here in this little corner, here, we have the little sub-space
280
901000
5000
Tady dole v rohu máme malý podprostor,
15:30
of this larger space that is accessible to human beings --
281
906000
4000
část většího prostoru,
který je přístupný lidem --
který je přístupný lidem --
15:34
beings with our biological capacities.
282
910000
3000
tvorům s našimi biologickými schopnostmi.
15:37
It's a part of the space that's accessible to animals;
283
913000
3000
Je to část prostoru,
který je přístupný zvířatům,
který je přístupný zvířatům,
15:40
since we are animals, we are a subset of that.
284
916000
3000
neboť my jsme zvířaty,
jsme jejich podmnožina.
jsme jejich podmnožina.
15:43
And then you can imagine some enhancements of human capacities.
285
919000
4000
Takže si můžeme představit
vylepšení lidských schopností.
vylepšení lidských schopností.
15:47
There would be different modes of being you could experience
286
923000
3000
Mohly by být nové způsoby bytí,
které byste mohli zažívat,
které byste mohli zažívat,
15:50
if you were able to stay alive for, say, 200 years.
287
926000
3000
pokud byste mohli žít,
dejme tomu, 200 let.
dejme tomu, 200 let.
15:53
Then you could live sorts of lives and accumulate wisdoms
288
929000
4000
Mohli byste pak žít několik druhů životů,
sbírat moudrosti,
sbírat moudrosti,
15:57
that are just not possible for humans as we currently are.
289
933000
3000
jak to není u dnešních lidí možné.
16:00
So then, you move off to this larger sphere of "human +,"
290
936000
4000
Takže byste se přesunuli
do větší sféry „člověk+"
do větší sféry „člověk+"
16:04
and you could continue that process and eventually
291
940000
3000
a mohli byste v tomto procesu pokračovat,
16:07
explore a lot of this larger space of possible modes of being.
292
943000
4000
až byste objevili tento obří prostor
možných způsobů bytí.
možných způsobů bytí.
16:11
Now, why is that a good thing to do?
293
947000
2000
Proč by tohle měla být žádoucí věc?
16:13
Well, we know already that in this little human circle there,
294
949000
4000
Inu, už víme, že uvnitř tohoto malého
lidského kruhu
lidského kruhu
16:17
there are these enormously wonderful and worthwhile modes of being --
295
953000
4000
jsou všechny ty úžasné
a hodnotné možnosti bytí --
a hodnotné možnosti bytí --
16:21
human life at its best is wonderful.
296
957000
3000
plně prožívaný lidský život je úžasný.
16:24
We have no reason to believe that within this much, much larger space
297
960000
5000
Nemáme žádný důvod si myslet,
že uvnitř tohoto mnohem většího prostoru
že uvnitř tohoto mnohem většího prostoru
16:29
there would not also be extremely worthwhile modes of being,
298
965000
4000
není nic, co by bylo podobně
hodnotné pro naše bytí.
hodnotné pro naše bytí.
16:33
perhaps ones that would be way beyond our wildest ability
299
969000
6000
Možná je tam něco, co je za hranicemi
našich nejdivočejších představ,
našich nejdivočejších představ,
16:39
even to imagine or dream about.
300
975000
2000
za hranicemi našich snů.
16:41
And so, to fix this third problem,
301
977000
2000
Takže abychom vyřešili
tento třetí problém,
tento třetí problém,
16:43
I think we need -- slowly, carefully, with ethical wisdom and constraint --
302
979000
6000
potřebujeme pomalu, opatrně
a pod morálním dohledem
a pod morálním dohledem
16:49
develop the means that enable us to go out in this larger space and explore it
303
985000
5000
vyvinout prostředky, které nám umožní vydat se
do tohoto většího prostoru a prozkoumat jej
do tohoto většího prostoru a prozkoumat jej
16:54
and find the great values that might hide there.
304
990000
2000
a najít hodnoty,
které se tam mohou ukrývat.
které se tam mohou ukrývat.
16:56
Thanks.
305
992000
2000
Děkuji.
ABOUT THE SPEAKER
Nick Bostrom - PhilosopherNick Bostrom asks big questions: What should we do, as individuals and as a species, to optimize our long-term prospects? Will humanity’s technological advancements ultimately destroy us?
Why you should listen
Philosopher Nick Bostrom envisioned a future full of human enhancement, nanotechnology and machine intelligence long before they became mainstream concerns. From his famous simulation argument -- which identified some striking implications of rejecting the Matrix-like idea that humans are living in a computer simulation -- to his work on existential risk, Bostrom approaches both the inevitable and the speculative using the tools of philosophy, probability theory, and scientific analysis.
Since 2005, Bostrom has led the Future of Humanity Institute, a research group of mathematicians, philosophers and scientists at Oxford University tasked with investigating the big picture for the human condition and its future. He has been referred to as one of the most important thinkers of our age.
Nick was honored as one of Foreign Policy's 2015 Global Thinkers .
His recent book Superintelligence advances the ominous idea that “the first ultraintelligent machine is the last invention that man need ever make.”
Nick Bostrom | Speaker | TED.com