TEDGlobal 2005
Nick Bostrom: A philosophical quest for our biggest problems
Nick Bostrom über unsere grössten Probleme
Filmed:
Readability: 4.2
967,767 views
Der oxforder Philosoph und Transhumanist Nick Bostrom untersucht die Zukunft der Menschheit und fragt, ob wir die grundlegende Natur der Menschlichkeit verändern können, um unsere wesentlichsten Probleme zu lösen.
Nick Bostrom - Philosopher
Nick Bostrom asks big questions: What should we do, as individuals and as a species, to optimize our long-term prospects? Will humanity’s technological advancements ultimately destroy us? Full bio
Nick Bostrom asks big questions: What should we do, as individuals and as a species, to optimize our long-term prospects? Will humanity’s technological advancements ultimately destroy us? Full bio
Double-click the English transcript below to play the video.
00:24
I want to talk today about --
0
0
3000
Heute will ich über –
00:27
I've been asked to take the long view, and I'm going to tell you what
1
3000
6000
ich wurde gefragt, einen Ausblick zu geben und ich werde Ihnen erzählen,
00:33
I think are the three biggest problems for humanity
2
9000
4000
was ich für die drei grössten Probleme der Menschheit halte,
00:37
from this long point of view.
3
13000
3000
von diesem langfristigen Standpunkt aus.
00:40
Some of these have already been touched upon by other speakers,
4
16000
3000
Manche wurden von anderen Vortragenden bereits erwähnt,
00:43
which is encouraging.
5
19000
2000
das ist ermutigend.
00:45
It seems that there's not just one person
6
21000
2000
Scheinbar gibt es nicht nur eine Person,
00:47
who thinks that these problems are important.
7
23000
2000
die denkt, dass diese Probleme wichtig sind.
00:49
The first is -- death is a big problem.
8
25000
4000
Das erste ist – der Tod ist ein grosses Problem.
00:53
If you look at the statistics,
9
29000
3000
Wenn man die Statistiken anschaut,
00:56
the odds are not very favorable to us.
10
32000
2000
stehen die Chancen nicht sehr gut für uns.
00:58
So far, most people who have lived have also died.
11
34000
4000
Bisher sind alle Menschen, die einmal gelebt haben, auch gestorben.
01:02
Roughly 90 percent of everybody who has been alive has died by now.
12
38000
4000
Etwa 90 Prozent von allen Menschen, die je gelebt haben, sind inzwischen tot.
01:06
So the annual death rate adds up to 150,000 --
13
42000
6000
Die jährliche Zahl macht etwa 150 000 Menschen aus –
01:12
sorry, the daily death rate -- 150,000 people per day,
14
48000
3000
entschuldigung, die tägliche Sterberate – 150 000 Menschen am Tag,
01:15
which is a huge number by any standard.
15
51000
3000
das ist in jedem Fall eine riesige Zahl.
01:18
The annual death rate, then, becomes 56 million.
16
54000
5000
Die jährliche Sterberate liegt dann bei 56 Millionen.
01:23
If we just look at the single, biggest cause of death -- aging --
17
59000
5000
Wenn wir nur die eine, grösste Ursache für den Tod anschauen – altern –
01:29
it accounts for roughly two-thirds of all human people who die.
18
65000
5000
das betrifft etwa zwei Drittel aller Menschen, die sterben.
01:34
That adds up to an annual death toll
19
70000
3000
Das führt zu einer jährlichen Anzahl an Verstorbenen,
01:37
of greater than the population of Canada.
20
73000
2000
welche die Bevölkerung von Kanada übersteigt.
01:39
Sometimes, we don't see a problem
21
75000
2000
Manchmal sehen wir ein Problem nicht,
01:41
because either it's too familiar or it's too big.
22
77000
4000
weil es zu geläufig ist oder zu gross.
01:45
Can't see it because it's too big.
23
81000
2000
Man kann es nicht sehen, weil es zu gross ist.
01:47
I think death might be both too familiar and too big
24
83000
3000
Ich denke, der Tod könnte beides sein: zu geläufig und zu gross
01:50
for most people to see it as a problem.
25
86000
3000
für die meisten Menschen, um ihn als Problem zu sehen.
01:53
Once you think about it, you see this is not statistical points;
26
89000
2000
Wenn man mal darüber nachdenkt, sieht man, dass es nicht um statistische Daten geht.
01:55
these are -- let's see, how far have I talked?
27
91000
2000
Das sind – wie lange habe ich schon gesprochen?
01:57
I've talked for three minutes.
28
93000
3000
Ich habe drei Minuten lang gesprochen.
02:00
So that would be, roughly, 324 people have died since I've begun speaking.
29
96000
7000
Seit ich begonnen habe zu sprechen, sind ungefähr 324 Menschen gestorben.
02:07
People like -- it's roughly the population in this room has just died.
30
103000
4000
Etwa, als ob die anwesende Menschenmenge in diesem Raum gerade gestorben wäre.
02:12
Now, the human cost of that is obvious,
31
108000
2000
Nun, die Humankosten davon sind offensichtlich.
02:14
once you start to think about it -- the suffering, the loss --
32
110000
3000
Wenn man darüber nachenkt – das Leiden, der Verlust –
02:17
it's also, economically, enormously wasteful.
33
113000
3000
Es ist auch enorm unwirtschaftlich.
02:20
I just look at the information, and knowledge, and experience
34
116000
3000
Ich sehe mir die Information an, das Wissen und die Erfahrung,
02:23
that is lost due to natural causes of death in general,
35
119000
3000
die generell durch natürliche Todesursachen verloren geht,
02:26
and aging, in particular.
36
122000
2000
und im Speziellen durchs Altern.
02:28
Suppose we approximated one person with one book?
37
124000
3000
Nehmen wir an, eine Person entspräche einem Buch?
02:31
Now, of course, this is an underestimation.
38
127000
2000
Nun, das ist natürlich eine Unterschätzung.
02:33
A person's lifetime of learning and experience
39
129000
6000
Ein Leben voller Lernen und Erfahrung
02:39
is a lot more than you could put into a single book.
40
135000
2000
ist viel mehr, als man in ein einzelnes Buch schreiben könnte.
02:41
But let's suppose we did this.
41
137000
2000
Aber nehmen wir an, wir täten das.
02:44
52 million people die of natural causes each year
42
140000
5000
52 Millionen Menschen sterben jährlich aus natürlichen Gründen,
02:49
corresponds, then, to 52 million volumes destroyed.
43
145000
4000
das entspäche dann 52 zerstörten Ausgaben.
02:53
Library of Congress holds 18 million volumes.
44
149000
3000
Die Kongressbibliothek verfügt über 18 Millionen Ausgaben.
02:57
We are upset about the burning of the Library of Alexandria.
45
153000
3000
Wir sind bestürzt darüber, dass die Bibliothek von Alexandria niedergebrannt ist.
03:00
It's one of the great cultural tragedies
46
156000
2000
Es ist eine der grossen kulturellen Tragödien,
03:02
that we remember, even today.
47
158000
3000
an die wir uns auch noch heute erinnern.
03:06
But this is the equivalent of three Libraries of Congress --
48
162000
2000
Aber das ist das Äquivalent zu drei Kongressbibliotheken –
03:08
burnt down, forever lost -- each year.
49
164000
3000
verbrannt, für immer verloren – jedes Jahr.
03:11
So that's the first big problem.
50
167000
2000
Also, das ist das erste grosse Problem.
03:13
And I wish Godspeed to Aubrey de Grey,
51
169000
3000
Und ich wünsche Aubrey de Grey viel Erfolg
03:16
and other people like him,
52
172000
2000
und anderen Menschen wie ihm,
03:18
to try to do something about this as soon as possible.
53
174000
3000
die versuchen, so schnell wie möglich etwas dagegen zu tun.
03:22
Existential risk -- the second big problem.
54
178000
3000
Existentielles Risiko – das zweite grosse Problem.
03:25
Existential risk is a threat to human survival, or to the long-term potential of our species.
55
181000
7000
Existentielles Risiko ist eine Bedrohung fürs menschliche Überleben, für das langfristige Potenzial unserer Art.
03:32
Now, why do I say that this is a big problem?
56
188000
2000
Wieso sage ich also, dass das ein grosses Problem ist?
03:34
Well, let's first look at the probability --
57
190000
4000
Nun, lassen Sie uns erst die Wahrscheinlichkeit betrachten –
03:38
and this is very, very difficult to estimate --
58
194000
3000
und das ist sehr schwierig einzuschätzen –
03:41
but there have been only four studies on this in recent years,
59
197000
3000
aber es gab in den vergangenen Jahren nur vier Studien darüber,
03:44
which is surprising.
60
200000
2000
was überraschend ist.
03:46
You would think that it would be of some interest
61
202000
3000
Man würde meinen, es sei von Interesse,
03:49
to try to find out more about this given that the stakes are so big,
62
205000
4000
mehr darüber herauszufinden, wenn die Einsätze so hoch sind,
03:53
but it's a very neglected area.
63
209000
2000
aber es ist ein sehr vernachlässigtes Gebiet.
03:55
But there have been four studies --
64
211000
2000
Aber es gab vier Studien –
03:57
one by John Lesley, wrote a book on this.
65
213000
2000
eine von John Lesley, er hat ein Buch darüber geschrieben.
03:59
He estimated a probability that we will fail
66
215000
2000
Er schätzte unsere Wahrscheinlichkeit,
04:01
to survive the current century: 50 percent.
67
217000
3000
das aktuelle Jahrhundert zu überleben auf 50 Prozent.
04:04
Similarly, the Astronomer Royal, whom we heard speak yesterday,
68
220000
5000
Der Astronome Royal, den wir gestern gehört haben,
04:09
also has a 50 percent probability estimate.
69
225000
3000
teilt diese Einsätzung von 50 Prozent Wahrscheinlichkeit.
04:12
Another author doesn't give any numerical estimate,
70
228000
3000
Ein anderer Autor gibt keine numerische Schätzung ab,
04:15
but says the probability is significant that it will fail.
71
231000
3000
aber sagt, die Wahrscheinlichkeit ist gross, dass wir scheitern werden.
04:18
I wrote a long paper on this.
72
234000
3000
Ich habe darüber einen langen Bericht geschrieben.
04:21
I said assigning a less than 20 percent probability would be a mistake
73
237000
4000
Ich sagte, weniger als 20 Prozent zu schätzen, wäre ein Fehler
04:25
in light of the current evidence we have.
74
241000
3000
im Licht der aktuell verfügbaren Hinweise.
04:28
Now, the exact figures here,
75
244000
2000
Nun, wir sollten die genauen Zahlen hier
04:30
we should take with a big grain of salt,
76
246000
2000
mit einer grossen Prise Vorsicht geniessen,
04:32
but there seems to be a consensus that the risk is substantial.
77
248000
3000
aber es scheint einen Konsens darüber zu geben, dass das Risiko substantiell ist.
04:35
Everybody who has looked at this and studied it agrees.
78
251000
3000
Jeder, der es gesehen und studiert hat, stimmt überein.
04:38
Now, if we think about what just reducing
79
254000
2000
Wenn wir nun darüber nachenken, die Wahrscheinlichkeit
04:40
the probability of human extinction by just one percentage point --
80
256000
5000
des Aussterbens des Menschen um nur einen Prozentpunkt zu verringern –
04:45
not very much -- so that's equivalent to 60 million lives saved,
81
261000
5000
nicht sehr viel – dann entspricht das 60 Millionen geretteten Leben,
04:50
if we just count the currently living people, the current generation.
82
266000
4000
wenn wir nur die aktuell lebenden Menschen zählen, die aktuelle Generation.
04:54
Now one percent of six billion people is equivalent to 60 million.
83
270000
4000
Ein Prozent von 6 Milliarden Menschen entspricht 60 Millionen.
04:58
So that's a large number.
84
274000
2000
Das ist eine grosse Zahl.
05:00
If we were to take into account future generations
85
276000
3000
Wenn wir die zukünftigen Generationen einberechnen,
05:03
that will never come into existence if we blow ourselves up,
86
279000
5000
die niemals existieren werden, wenn wir uns in die Luft jagen,
05:08
then the figure becomes astronomical.
87
284000
3000
dann wird die Zahl astronomisch hoch.
05:11
If we could eventually colonize a chunk of the universe --
88
287000
3000
Wenn wir nun ein Stück Universum kolonialisieren könnten,
05:14
the Virgo supercluster --
89
290000
2000
den Jungfrau-Supercluster –
05:16
maybe it will take us 100 million years to get there,
90
292000
2000
vielleicht brauchen wir 100 Millionen Jahre, um dahin zu kommen,
05:18
but if we go extinct we never will.
91
294000
3000
aber wenn wir aussterben, schaffen wir es nie.
05:21
Then, even a one percentage point reduction
92
297000
3000
Dann könnte sogar eine Reduktion Prozentpunkt
05:24
in the extinction risk could be equivalent
93
300000
4000
im Aussterberisiko bereits dieser astronomisch
05:28
to this astronomical number -- 10 to the power of 32.
94
304000
3000
hohen Zahl entsprechen – 10 hoch 32.
05:31
So if you take into account future generations as much as our own,
95
307000
4000
Wenn man zukünftige Generationen genauso einberechnet wie unsere eigene,
05:35
every other moral imperative of philanthropic cost just becomes irrelevant.
96
311000
5000
wird jeder andere moralische Imperativ von philantropischen Kosten irrelevant.
05:40
The only thing you should focus on
97
316000
2000
Das einzige, worauf man sich fokussieren sollte,
05:42
would be to reduce existential risk
98
318000
2000
wäre, das Existenzrisiko zu vermindern,
05:44
because even the tiniest decrease in existential risk
99
320000
4000
denn sogar die winzigste Veränderung
05:48
would just overwhelm any other benefit you could hope to achieve.
100
324000
4000
würde jeden anderen Nutzen übertreffen, den zu erreichen wir hoffen können.
05:52
And even if you just look at the current people,
101
328000
2000
Und sogar wenn man nur die aktuelle Bevölkerung nimmt
05:54
and ignore the potential that would be lost if we went extinct,
102
330000
5000
und das verlorene Potential bei einer Ausrottung ignoriert,
05:59
it should still have a high priority.
103
335000
2000
hätte es immer noch eine hohe Priorität.
06:01
Now, let me spend the rest of my time on the third big problem,
104
337000
5000
Nun lassen Sie mich den Rest meiner Zeit auf das dritte grosse Problem verwenden,
06:06
because it's more subtle and perhaps difficult to grasp.
105
342000
5000
denn es ist subtiler und vielleicht schwer zu erfassen.
06:12
Think about some time in your life --
106
348000
4000
Denken Sie an eine Zeit in Ihrem Leben –
06:16
some people might never have experienced it -- but some people,
107
352000
3000
manche haben das vielleicht nie erfahren – aber manche Menschen,
06:19
there are just those moments that you have experienced
108
355000
3000
es gibt einfach diese Momente, die man erlebt,
06:22
where life was fantastic.
109
358000
2000
wo das Leben fantastisch war.
06:24
It might have been at the moment of some great, creative inspiration
110
360000
7000
Es könnte im Moment einer grossen kreativen Inspiration gewesen sein,
06:31
you might have had when you just entered this flow stage.
111
367000
2000
den Sie vielleicht hatten, als Sie auf diese Bühne traten.
06:33
Or when you understood something you had never done before.
112
369000
2000
Oder als Sie etwas verstanden haben, was sie vorher nicht erfassen konnten.
06:35
Or perhaps in the ecstasy of romantic love.
113
371000
4000
Oder vielleicht in der Exstase von romantischer Liebe.
06:39
Or an aesthetic experience -- a sunset or a great piece of art.
114
375000
5000
Oder eine ästhetische Erfahrung – ein Sonnenuntergang oder ein grosses Kunstwerk.
06:44
Every once in a while we have these moments,
115
380000
2000
Ab und zu haben wir diese Momente,
06:46
and we realize just how good life can be when it's at its best.
116
382000
4000
und wir erkennen, wie gut das Leben sein kann, wenn es in bester Form ist.
06:50
And you wonder, why can't it be like that all the time?
117
386000
5000
Und man fragt sich, warum es nicht immer so sein kann?
06:55
You just want to cling onto this.
118
391000
2000
Man will da einhängen und einfach bleiben.
06:57
And then, of course, it drifts back into ordinary life and the memory fades.
119
393000
4000
Und dann kehrt es natürlich wieder zum gewöhnlichen Leben zurück und die Erinnerung verblasst.
07:01
And it's really difficult to recall, in a normal frame of mind,
120
397000
4000
Es ist wirklich schwierig, sich in einer normalen Geisteshaltung zu erinnern,
07:05
just how good life can be at its best.
121
401000
3000
wie gut das Leben in seiner besten Form sein kann.
07:08
Or how bad it can be at its worst.
122
404000
3000
Oder wie schlecht es im schlimmsten Fall sein kann.
07:11
The third big problem is that life isn't usually
123
407000
3000
Das dritte grosse Problem ist, dass das Leben normalerweise
07:14
as wonderful as it could be.
124
410000
2000
nicht so wundervoll ist, wie es sein könnte.
07:16
I think that's a big, big problem.
125
412000
4000
Ich denke, das ist ein grosses, grosses Problem.
07:20
It's easy to say what we don't want.
126
416000
2000
Es ist einfach zu sagen, was wir nicht wollen.
07:23
Here are a number of things that we don't want --
127
419000
3000
Hier ist eine Anzahl Dinge, die wir nicht wollen –
07:26
illness, involuntary death, unnecessary suffering, cruelty,
128
422000
3000
Krankheit, unfreiwilliger Tod, unnötiges Leiden, Grausamkeit,
07:29
stunted growth, memory loss, ignorance, absence of creativity.
129
425000
5000
verkrüppeltes Wachstum, Erinnerungsverlust, Ignoranz, fehlende Kreativität.
07:35
Suppose we fixed these things -- we did something about all of these.
130
431000
3000
Nehmen wir an, wir beheben das – wir tun gegen all diese Dinge etwas.
07:38
We were very successful.
131
434000
2000
Wir wären sehr erfolgreich.
07:40
We got rid of all of these things.
132
436000
2000
Wir wären all diese Dinge losgeworden.
07:42
We might end up with something like this,
133
438000
3000
Wir könnten dann mit so etwas enden.
07:45
which is -- I mean, it's a heck of a lot better than that.
134
441000
4000
Das ist viel besser als vorher, meine ich,
07:49
But is this really the best we can dream of?
135
445000
5000
aber ist das wirklich das beste, wenn – was wir uns erträumen?
07:54
Is this the best we can do?
136
450000
2000
Ist das das Beste, was wir tun können?
07:56
Or is it possible to find something a little bit more inspiring to work towards?
137
452000
6000
Oder ist es mögölich, etwas zu finden, worauf hinzuarbeiten etwas inspirierender ist?
08:02
And if we think about this,
138
458000
2000
Und wenn wir darüber nachdenken,
08:04
I think it's very clear that there are ways
139
460000
4000
ist es sehr klar, dass es Arten gibt,
08:08
in which we could change things, not just by eliminating negatives,
140
464000
3000
auf die wir Dinge verändern könnten, nicht nur, indem wir negatives eliminieren,
08:11
but adding positives.
141
467000
2000
sondern indem wir positives hinzufügen.
08:13
On my wish list, at least, would be:
142
469000
2000
Auf meiner Wunschliste wäre wenigstens –
08:15
much longer, healthier lives, greater subjective well-being,
143
471000
5000
viel längere, gesündere Leben, mehr subjektives Wohlbefinden,
08:20
enhanced cognitive capacities, more knowledge and understanding,
144
476000
5000
gesteigerte kognitive Kapazitäten, mehr Wissen und Verständnis,
08:25
unlimited opportunity for personal growth
145
481000
2000
unbegrenzte Möglichkeiten für persönliches Wachstum
08:27
beyond our current biological limits, better relationships,
146
483000
4000
jenseits unserer aktuellen biologischen Begrenzungen, bessere Beziehungen,
08:31
an unbounded potential for spiritual, moral
147
487000
2000
ein unbegrenztes Potential für spirituelle, moralische
08:33
and intellectual development.
148
489000
2000
und intellektuelle Entwicklung.
08:35
If we want to achieve this, what, in the world, would have to change?
149
491000
8000
Wenn wir das erreichen wollen, was müssen wir in der Welt ändern?
08:43
And this is the answer -- we would have to change.
150
499000
5000
Und das ist die Antwort – wir müssten uns ändern.
08:48
Not just the world around us, but we, ourselves.
151
504000
3000
Nicht einfach die Welt um uns herum, sondern uns selber.
08:51
Not just the way we think about the world, but the way we are -- our very biology.
152
507000
4000
Nicht nur die Art, wie wir über die Welt denken, sondern wie wir sind – unsere Biologie.
08:55
Human nature would have to change.
153
511000
2000
Die menschliche Natur müsste sich verändern.
08:57
Now, when we think about changing human nature,
154
513000
2000
Nun, wenn wir darüber nachenken, die menschliche Natur zu verändern,
08:59
the first thing that comes to mind
155
515000
2000
ist das erste, was uns einfällt,
09:01
are these human modification technologies --
156
517000
4000
diese Modifikationstechnologien –
09:05
growth hormone therapy, cosmetic surgery,
157
521000
2000
Wachstumshormone, kosmetische Chirurgie,
09:07
stimulants like Ritalin, Adderall, anti-depressants,
158
523000
3000
Stimulanzien wie Ritalin, Adderall, Anti-Depressiva,
09:10
anabolic steroids, artificial hearts.
159
526000
2000
anabolische Steroide, künstliche Herzen.
09:12
It's a pretty pathetic list.
160
528000
3000
Das ist eine ziemlich pathetische Liste.
09:15
They do great things for a few people
161
531000
2000
Sie erreichen Grosses für einige wenige menschen,
09:17
who suffer from some specific condition,
162
533000
2000
die unter spezifischen Bedingungen leiden.
09:19
but for most people, they don't really transform
163
535000
5000
Aber für die meisten Menschen transformieren sie nicht wirklich das,
09:24
what it is to be human.
164
540000
2000
was es bedeutet, menschlich zu sein.
09:26
And they also all seem a little bit --
165
542000
2000
Und sie scheinen auch alle ein bisschen –
09:28
most people have this instinct that, well, sure,
166
544000
3000
die meisten Menschen haben diesen Instinkt, dass, nun sicher,
09:31
there needs to be anti-depressants for the really depressed people.
167
547000
2000
wir brauchen Anti-Depressiva für die wirklich depressiven Menschen.
09:33
But there's a kind of queasiness
168
549000
2000
Aber es gibt eine Art Überempfindlichkeit dafür,
09:35
that these are unnatural in some way.
169
551000
3000
dass diese auf irgendeine Art unnatürlich sind.
09:38
It's worth recalling that there are a lot of other
170
554000
2000
Es lohnt sich, sich zu erinnern, dass es eine Menge
09:40
modification technologies and enhancement technologies that we use.
171
556000
3000
anderer Modifikations- und Steigerungstechnologien gibt, die wir verwenden.
09:43
We have skin enhancements, clothing.
172
559000
4000
Wir haben verbesserte Haut: Kleidung.
09:47
As far as I can see, all of you are users of this
173
563000
4000
Soweit ich sehe, sind wir alle Verwender dieser
09:51
enhancement technology in this room, so that's a great thing.
174
567000
5000
Verbesserungstechnologie hier in diesem Raum, das ist gut.
09:56
Mood modifiers have been used from time immemorial --
175
572000
3000
Viele Modifikatoren werden unvorstellbar lange verwendet –
09:59
caffeine, alcohol, nicotine, immune system enhancement,
176
575000
5000
Koffein, Alkohol, Nikotin, immunitätsstärkende Substanzen,
10:04
vision enhancement, anesthetics --
177
580000
2000
Sehhilfen, Narkosen.
10:06
we take that very much for granted,
178
582000
2000
Wir nehmen sehr viel als gegeben hin,
10:08
but just think about how great progress that is --
179
584000
4000
aber denken Sie nur daran, was das für ein grosser Fortschritt ist –
10:12
like, having an operation before anesthetics was not fun.
180
588000
4000
eine Operation zu haben, bevor es Narkose gab, war nicht lustig.
10:16
Contraceptives, cosmetics and brain reprogramming techniques --
181
592000
6000
Verhütungsmittel, Kosmetik und Gehirnprogrammierungstechniken –
10:22
that sounds ominous,
182
598000
2000
das klingt verdächtig.
10:24
but the distinction between what is a technology --
183
600000
4000
Aber die Trennung dazwischen, was eine Technologie ist –
10:28
a gadget would be the archetype --
184
604000
2000
ein Gadget wäre der Archetyp davon –
10:30
and other ways of changing and rewriting human nature is quite subtle.
185
606000
4000
und anderen Wegen, die menschliche Natur zu verändern und neu zu schreiben, ist ziemlich subtil.
10:34
So if you think about what it means to learn arithmetic or to learn to read,
186
610000
4000
Wenn Sie darüber nachdenken, was es bedeutet, rechnen oder lesen zu lernen,
10:38
you're actually, literally rewriting your own brain.
187
614000
3000
dann beschreibt man tatsächlich sinngemäss das eigene Hirn neu.
10:41
You're changing the microstructure of your brain as you go along.
188
617000
3000
Man verändert die Mikrostruktur des Hirns, während man daran arbeitet.
10:45
So in a broad sense, we don't need to think about technology
189
621000
3000
In einem weiteren Sinn müssen wir nicht über Technologie nachdenken
10:48
as only little gadgets, like these things here,
190
624000
2000
als nur kleine Gadgets, wie diese hier.
10:50
but even institutions and techniques,
191
626000
4000
Aber sogar Institutionen und Techniken,
10:54
psychological methods and so forth.
192
630000
2000
psychologische Methoden und so weiter.
10:56
Forms of organization can have a profound impact on human nature.
193
632000
5000
Organisationsofrmen können tiefgreifenden Einfluss auf die menschliche Natur haben.
11:01
Looking ahead, there is a range of technologies
194
637000
2000
Vorausschauend gibt es eine Bandbreite an Technologien,
11:03
that are almost certain to be developed sooner or later.
195
639000
3000
die fast sicher früher oder später entwickelt werden.
11:06
We are very ignorant about what the time scale for these things are,
196
642000
4000
Wir sind sehr ingorant, was die Zeitachse für diese Dinge angeht,
11:10
but they all are consistent with everything we know
197
646000
2000
aber sie sind alle konsistent mit allem, was wir
11:12
about physical laws, laws of chemistry, etc.
198
648000
4000
über physische, chemische und andere Gesetze wissen.
11:16
It's possible to assume,
199
652000
2000
Es ist möglich, anzunehmen,
11:18
setting aside a possibility of catastrophe,
200
654000
3000
wenn wir die Möglichkeit einer Katastrophe beiseite lassen,
11:21
that sooner or later we will develop all of these.
201
657000
3000
dass wir diese früher oder später entwickeln werden.
11:24
And even just a couple of these would be enough
202
660000
3000
Und auch nur einige daovn wären genug,
11:27
to transform the human condition.
203
663000
2000
um die menschlichen Bedingungen zu transformieren.
11:29
So let's look at some of the dimensions of human nature
204
665000
5000
Also lassen Sie uns einige der Dimensionen der menschlichen Natur betrachten,
11:34
that seem to leave room for improvement.
205
670000
3000
die Raum zu lassen scheinen für Verbesserung.
11:37
Health span is a big and urgent thing,
206
673000
2000
Der Gesundheitsbereich ist eine grosse und dringende Sache,
11:39
because if you're not alive,
207
675000
2000
denn wenn man nicht lebendig ist,
11:41
then all the other things will be to little avail.
208
677000
3000
sind alle anderen Dinge ein wenig vergeblich.
11:44
Intellectual capacity -- let's take that box,
209
680000
2000
Intellektuelle Kapazität – lassen Sie uns dieses Kästchen nehmen,
11:46
which falls into a lot of different sub-categories:
210
682000
5000
das unter viele verschiedene Unterkategorien fällt –
11:51
memory, concentration, mental energy, intelligence, empathy.
211
687000
3000
Gedächtnis, Konzentration, mentale Energie, Intelligenz, Empathie.
11:54
These are really great things.
212
690000
2000
Das sind wirklich grossartige Dinge.
11:56
Part of the reason why we value these traits
213
692000
2000
Ein Teil der Gründe, warum wir diese Eigenschaften wertschätzen,
11:58
is that they make us better at competing with other people --
214
694000
4000
ist dass sie uns besser darin machen, mit anderen zu konkurrieren,
12:02
they're positional goods.
215
698000
2000
es sind positionale Güter.
12:04
But part of the reason --
216
700000
2000
Aber ein Teil des Grundes –
12:06
and that's the reason why we have ethical ground for pursuing these --
217
702000
4000
und das ist der Grund, warum wir eine ethische Ebene in der Verfolgung dessen haben –
12:10
is that they're also intrinsically valuable.
218
706000
3000
ist dass sie auch intrinsisch wertvoll sind.
12:13
It's just better to be able to understand more of the world around you
219
709000
4000
Es ist einfach beser, wenn man mehr von der Welt um einen herum begreifen kann,
12:17
and the people that you are communicating with,
220
713000
2000
und von den Menschen, mit denen man kommuniziert
12:19
and to remember what you have learned.
221
715000
4000
und sich zu erinnern, was man gelernt hat.
12:23
Modalities and special faculties.
222
719000
2000
Modaltitäten und spezielle Fähigkeiten.
12:25
Now, the human mind is not a single unitary information processor,
223
721000
5000
Nun, der menschliche Geist ist nicht ein einzelner Informationsprozessor,
12:30
but it has a lot of different, special, evolved modules
224
726000
4000
sondern es hat viele verschiedene, besondere Module,
12:34
that do specific things for us.
225
730000
2000
die spezifische Dinge für uns tun.
12:36
If you think about what we normally take as giving life a lot of its meaning --
226
732000
4000
Wenn man darüber nachdenkt, wodurch wir normalerweise unserem Leben viel von seiner Bedeutung geben –
12:40
music, humor, eroticism, spirituality, aesthetics,
227
736000
4000
Musik, Humor, Erotik, Spiritualität, Ästhetik,
12:44
nurturing and caring, gossip, chatting with people --
228
740000
5000
Ernähren und Sorgen, Klatsch, mit Leuten plaudern.
12:49
all of these, very likely, are enabled by a special circuitry
229
745000
4000
Alle diese sind sehr wahrscheinlich durch einen speziellen Schaltkreis aktiviert,
12:53
that we humans have,
230
749000
2000
den wir Menschen haben,
12:55
but that you could have another intelligent life form that lacks these.
231
751000
3000
aber man könnte eine andere Intelligente Lebensform haben, die diese Dinge nicht hat.
12:58
We're just lucky that we have the requisite neural machinery
232
754000
3000
Wir haben einfach Glück, dass wir die Requisiten in unserer neuralen Maschine haben,
13:01
to process music and to appreciate it and enjoy it.
233
757000
4000
um Musik verarbeiten, schätzen und geniessen zu können.
13:05
All of these would enable, in principle -- be amenable to enhancement.
234
761000
3000
All dies würde im Prinzip ermölgichen – es wäre der Verbesserung zugänglich.
13:08
Some people have a better musical ability
235
764000
2000
Manche Menschen haben mehr musikalische Fähigkeiten
13:10
and ability to appreciate music than others have.
236
766000
2000
und Fähigkeit, Musik wertzuschätzen als andere.
13:12
It's also interesting to think about what other things are --
237
768000
3000
Es ist auch interessant, darüber nachzudenken, was andere Dinge sind –
13:15
so if these all enabled great values,
238
771000
3000
wenn diese alle grosse Werte ermöglichen,
13:19
why should we think that evolution has happened to provide us
239
775000
3000
warum sollten wir denken, dass die Evolution geschehen ist, um uns
13:22
with all the modalities we would need to engage
240
778000
3000
mit allen Modalitäten auszustatten, die wir bräuchten
13:25
with other values that there might be?
241
781000
2000
um andere Werte zu erreichen, die es geben könnte?
13:27
Imagine a species
242
783000
2000
Stellen Sie sich eine Art vor,
13:29
that just didn't have this neural machinery for processing music.
243
785000
4000
die einfach nicht diese neurale Maschine hat, um Musik zu verarbeiten.
13:33
And they would just stare at us with bafflement
244
789000
3000
Sie würden uns ganz verblüfft anstarren,
13:36
when we spend time listening to a beautiful performance,
245
792000
4000
wenn wir Zeit damit verbringen, eine schöne Aufführung anzuhören
13:40
like the one we just heard -- because of people making stupid movements,
246
796000
2000
wie die eine, die wir gerade hörten – aufgrund von Menschen, die dumme Bewegungen machen.
13:42
and they would be really irritated and wouldn't see what we were up to.
247
798000
3000
Und sie wären wirklich irritiert und würden nicht sehen, was mit uns los ist.
13:45
But maybe they have another faculty, something else
248
801000
3000
Aber vielleicht haben sie eine andere Fähigkeit, etwas anderes,
13:48
that would seem equally irrational to us,
249
804000
3000
das für uns ähnlich irrational schiene,
13:51
but they actually tap into some great possible value there.
250
807000
3000
aber sie erschliessen damit einen grossen möglichen Wert.
13:54
But we are just literally deaf to that kind of value.
251
810000
4000
Wir sind nur im wahrsten Sinne zu taub für diesen Wert.
13:58
So we could think of adding on different,
252
814000
2000
So könnten wir darüber nachdenken, andere,
14:00
new sensory capacities and mental faculties.
253
816000
4000
neue sensorische Kapazitäten und mentale Fähigkeiten hinzuzufügen.
14:04
Bodily functionality and morphology and affective self-control.
254
820000
5000
Körperliche Funkionalität, Morphologie und affektive Selbstkontrolle.
14:09
Greater subjective well-being.
255
825000
2000
Besseres subjektives Wohlbefinden.
14:11
Be able to switch between relaxation and activity --
256
827000
3000
Fähig sein, zwischen Entspannung und Aktivität hin und her zu schalten –
14:14
being able to go slow when you need to do that, and to speed up.
257
830000
4000
es langsam angehen zu lassen, wenn es nötig ist, und dann wieder schneller zu werden.
14:18
Able to switch back and forth more easily
258
834000
2000
Fähig, leichter hin und zurück zu schalten,
14:20
would be a neat thing to be able to do --
259
836000
2000
wäre eine feine Sache –
14:22
easier to achieve the flow state,
260
838000
2000
es wäre einfacher, den Flow-Zustand zu erreichen,
14:24
when you're totally immersed in something you are doing.
261
840000
4000
wenn man total in etwas versunken ist.
14:28
Conscientiousness and sympathy.
262
844000
2000
Bewusstheit und Sympathie.
14:30
The ability to -- it's another interesting application
263
846000
3000
Die Fähigkeit – das ist eine andere interessante Anwendung,
14:33
that would have large social ramification, perhaps.
264
849000
3000
die grosse soziale Auswirkungen hätte.
14:36
If you could actually choose to preserve your romantic attachments to one person,
265
852000
6000
Wenn man wählen könnte, seine romantische Anhaftung an eine Person zu bewahren,
14:42
undiminished through time,
266
858000
2000
unvermindert durch die Zeit,
14:44
so that wouldn't have to -- love would never have to fade if you didn't want it to.
267
860000
3000
dann würde die Liebe nie verblassen, wenn man das nicht wollte.
14:49
That's probably not all that difficult.
268
865000
3000
Das ist wahrscheinlich gar nicht so schwierig.
14:52
It might just be a simple hormone or something that could do this.
269
868000
3000
Es könnte nur ein einfaches Hormon sein, welches das tun könnte.
14:57
It's been done in voles.
270
873000
2000
Es wurde bei Wühlmäusen gemacht.
15:01
You can engineer a prairie vole to become monogamous
271
877000
3000
Man kann eine Präriemaus so verändern, dass sie monogam wird,
15:04
when it's naturally polygamous.
272
880000
2000
auch wenn sie natürlicherweise polygam ist.
15:06
It's just a single gene.
273
882000
2000
Es ist nur ein einziges Gen.
15:08
Might be more complicated in humans, but perhaps not that much.
274
884000
2000
Es könnte bei Menschen komplizierter sein, aber vielleicht nicht sehr.
15:10
This is the last picture that I want to --
275
886000
2000
Das ist das letzte Bild –
15:13
now we've got to use the laser pointer.
276
889000
2000
jetzt müssen wir den Laserpointer rausholen.
15:16
A possible mode of being here would be a way of life --
277
892000
3000
Ein möglicher Modus, hier zu sein wäre eine Lebensart –
15:19
a way of being, experiencing, thinking, seeing,
278
895000
4000
eine Art zu sein, zu erfahren, zu denken, zu sehen,
15:23
interacting with the world.
279
899000
2000
mit der Welt zu interagieren.
15:25
Down here in this little corner, here, we have the little sub-space
280
901000
5000
HIer in dieser kleinen Ecke, hier, haben wir einen kleinen Unter-Raum
15:30
of this larger space that is accessible to human beings --
281
906000
4000
von diesem grösseren Raum, der für Menschen zugänglich ist –
15:34
beings with our biological capacities.
282
910000
3000
Wesen mit unseren biologischen Möglickeiten.
15:37
It's a part of the space that's accessible to animals;
283
913000
3000
Es ist ein Teil des Raumes, der Tieren zugänglich ist –
15:40
since we are animals, we are a subset of that.
284
916000
3000
da wir Tiere sind, sind wir eine Unterart davon.
15:43
And then you can imagine some enhancements of human capacities.
285
919000
4000
Und dann kann man sich einige Verbesserungen der menschlichen Mögichkeiten vorstellen.
15:47
There would be different modes of being you could experience
286
923000
3000
Es gäbe verschiedene Daseinsbereiche, die man erfahren könnte,
15:50
if you were able to stay alive for, say, 200 years.
287
926000
3000
wenn man für, sagen wir, 200 Jahre am Leben sein könnte.
15:53
Then you could live sorts of lives and accumulate wisdoms
288
929000
4000
Dann könnte man verschiedene Arten von Leben leben und Weisheit ansammeln,
15:57
that are just not possible for humans as we currently are.
289
933000
3000
das ist für Menschen, wie wir heute sind, nicht möglich.
16:00
So then, you move off to this larger sphere of "human +,"
290
936000
4000
Dann bewegt man sich in diesen grösseren Raum des 'Menschen plus'
16:04
and you could continue that process and eventually
291
940000
3000
und man könnte diesen Prozess fortsetzen,
16:07
explore a lot of this larger space of possible modes of being.
292
943000
4000
um viel von diesem grösseren Raum voller möglicher Daseinsmodi erfahren zu können.
16:11
Now, why is that a good thing to do?
293
947000
2000
Nun, warum ist das eine gute Sache?
16:13
Well, we know already that in this little human circle there,
294
949000
4000
Wir wissen bereits, dass es in diesem kleinen menschlichen Kreis hier
16:17
there are these enormously wonderful and worthwhile modes of being --
295
953000
4000
diese wundervollen und wertvollen Formen des Daseins gibt –
16:21
human life at its best is wonderful.
296
957000
3000
menschliches Leben in seiner besten Form ist wundervoll.
16:24
We have no reason to believe that within this much, much larger space
297
960000
5000
Es gibt keinen Grund zu glauben, dass es in diesem viel grösseren Raum
16:29
there would not also be extremely worthwhile modes of being,
298
965000
4000
keine extrem wunderbaren, lohnenden Daseinszustände gäbe.
16:33
perhaps ones that would be way beyond our wildest ability
299
969000
6000
Vielleicht solte, die weit über unseren wildesten Fähigkeiten liegen,
16:39
even to imagine or dream about.
300
975000
2000
es uns überhaupt vorzustellen oder zu träumen.
16:41
And so, to fix this third problem,
301
977000
2000
Und deshalb denke ich, um dieses dritte Problem zu lösen,
16:43
I think we need -- slowly, carefully, with ethical wisdom and constraint --
302
979000
6000
müssen wir – langsam, vorsichtig, mit ethischer Weisheit und Zurückhaltung –
16:49
develop the means that enable us to go out in this larger space and explore it
303
985000
5000
die Mittel entwickeln, die uns ermöglichen, in diesen grösseren Raum zu gehen und ihn zu erforschen.
16:54
and find the great values that might hide there.
304
990000
2000
Und die grossartigen Werte zu finden, die dort versteckt sind.
16:56
Thanks.
305
992000
2000
Danke.
ABOUT THE SPEAKER
Nick Bostrom - PhilosopherNick Bostrom asks big questions: What should we do, as individuals and as a species, to optimize our long-term prospects? Will humanity’s technological advancements ultimately destroy us?
Why you should listen
Philosopher Nick Bostrom envisioned a future full of human enhancement, nanotechnology and machine intelligence long before they became mainstream concerns. From his famous simulation argument -- which identified some striking implications of rejecting the Matrix-like idea that humans are living in a computer simulation -- to his work on existential risk, Bostrom approaches both the inevitable and the speculative using the tools of philosophy, probability theory, and scientific analysis.
Since 2005, Bostrom has led the Future of Humanity Institute, a research group of mathematicians, philosophers and scientists at Oxford University tasked with investigating the big picture for the human condition and its future. He has been referred to as one of the most important thinkers of our age.
Nick was honored as one of Foreign Policy's 2015 Global Thinkers .
His recent book Superintelligence advances the ominous idea that “the first ultraintelligent machine is the last invention that man need ever make.”
Nick Bostrom | Speaker | TED.com