ABOUT THE SPEAKERS
Nick Bostrom - Philosopher
Nick Bostrom asks big questions: What should we do, as individuals and as a species, to optimize our long-term prospects? Will humanity’s technological advancements ultimately destroy us?

Why you should listen

Philosopher Nick Bostrom envisioned a future full of human enhancement, nanotechnology and machine intelligence long before they became mainstream concerns. From his famous simulation argument -- which identified some striking implications of rejecting the Matrix-like idea that humans are living in a computer simulation -- to his work on existential risk, Bostrom approaches both the inevitable and the speculative using the tools of philosophy, probability theory, and scientific analysis.

Since 2005, Bostrom has led the Future of Humanity Institute, a research group of mathematicians, philosophers and scientists at Oxford University tasked with investigating the big picture for the human condition and its future. He has been referred to as one of the most important thinkers of our age.

Nick was honored as one of Foreign Policy's 2015 Global Thinkers .

His recent book Superintelligence advances the ominous idea that “the first ultraintelligent machine is the last invention that man need ever make.”

More profile about the speaker
Nick Bostrom | Speaker | TED.com
Chris Anderson - TED Curator
After a long career in journalism and publishing, Chris Anderson became the curator of the TED Conference in 2002 and has developed it as a platform for identifying and disseminating ideas worth spreading.

Why you should listen

Chris Anderson is the Curator of TED, a nonprofit devoted to sharing valuable ideas, primarily through the medium of 'TED Talks' -- short talks that are offered free online to a global audience.

Chris was born in a remote village in Pakistan in 1957. He spent his early years in India, Pakistan and Afghanistan, where his parents worked as medical missionaries, and he attended an American school in the Himalayas for his early education. After boarding school in Bath, England, he went on to Oxford University, graduating in 1978 with a degree in philosophy, politics and economics.

Chris then trained as a journalist, working in newspapers and radio, including two years producing a world news service in the Seychelles Islands.

Back in the UK in 1984, Chris was captivated by the personal computer revolution and became an editor at one of the UK's early computer magazines. A year later he founded Future Publishing with a $25,000 bank loan. The new company initially focused on specialist computer publications but eventually expanded into other areas such as cycling, music, video games, technology and design, doubling in size every year for seven years. In 1994, Chris moved to the United States where he built Imagine Media, publisher of Business 2.0 magazine and creator of the popular video game users website IGN. Chris eventually merged Imagine and Future, taking the combined entity public in London in 1999, under the Future name. At its peak, it published 150 magazines and websites and employed 2,000 people.

This success allowed Chris to create a private nonprofit organization, the Sapling Foundation, with the hope of finding new ways to tackle tough global issues through media, technology, entrepreneurship and, most of all, ideas. In 2001, the foundation acquired the TED Conference, then an annual meeting of luminaries in the fields of Technology, Entertainment and Design held in Monterey, California, and Chris left Future to work full time on TED.

He expanded the conference's remit to cover all topics, including science, business and key global issues, while adding a Fellows program, which now has some 300 alumni, and the TED Prize, which grants its recipients "one wish to change the world." The TED stage has become a place for thinkers and doers from all fields to share their ideas and their work, capturing imaginations, sparking conversation and encouraging discovery along the way.

In 2006, TED experimented with posting some of its talks on the Internet. Their viral success encouraged Chris to begin positioning the organization as a global media initiative devoted to 'ideas worth spreading,' part of a new era of information dissemination using the power of online video. In June 2015, the organization posted its 2,000th talk online. The talks are free to view, and they have been translated into more than 100 languages with the help of volunteers from around the world. Viewership has grown to approximately one billion views per year.

Continuing a strategy of 'radical openness,' in 2009 Chris introduced the TEDx initiative, allowing free licenses to local organizers who wished to organize their own TED-like events. More than 8,000 such events have been held, generating an archive of 60,000 TEDx talks. And three years later, the TED-Ed program was launched, offering free educational videos and tools to students and teachers.

More profile about the speaker
Chris Anderson | Speaker | TED.com
TED2019

Nick Bostrom: How civilization could destroy itself -- and 4 ways we could prevent it

نیک بوستروم: چگونه یک تمدن می تواند خود را نابود کند -- و چهار راه برای جلوگیری از آن

Filmed:
1,537,627 views

بشریت در مسیر خود برای خلق یک «توپ سیاه» است: پیشرفتی در فناوری که می تواند همه ما را نابود کند، این گفته دانشمند و فیلسوف نیک بوستروم است. در این مکالمه صریح و بی تعارف با سرپرست تد کریس اندرسن، بوستروم به نقاط ضعفی اشاره می کند که می توانیم با آن مواجه شویم اگر ( و چه وقتی؟) کنترل نوآوری ها از دستمان در برود و بررسی می کند که چطور می توانیم از نابودی آتی خود جلوگیری کنیم.
- Philosopher
Nick Bostrom asks big questions: What should we do, as individuals and as a species, to optimize our long-term prospects? Will humanity’s technological advancements ultimately destroy us? Full bio - TED Curator
After a long career in journalism and publishing, Chris Anderson became the curator of the TED Conference in 2002 and has developed it as a platform for identifying and disseminating ideas worth spreading. Full bio

Double-click the English transcript below to play the video.

00:13
Chrisکریس Andersonاندرسون: Nickنیک Bostromبوستروم.
0
1000
1809
کریس اندرسن: نیک بوستروم.
00:14
So, you have alreadyقبلا givenداده شده us
so manyبسیاری crazyدیوانه ideasایده ها out there.
1
2833
3976
خوب، تو تا الان نظرات عجیب
و غریب زیادی داشته ای.
00:18
I think a coupleزن و شوهر of decadesچند دهه agoپیش,
2
6833
1726
فکر کنم چند دهه قبل است،
00:20
you madeساخته شده the caseمورد that we mightممکن
all be livingزندگي كردن in a simulationشبیه سازی,
3
8583
2935
پیشنهاد دادی که ممکن است همه ما
در یک شبیه سازی زندگی کنیم،
00:23
or perhapsشاید probablyشاید were.
4
11542
1809
یا شاید می کردیم.
00:25
More recentlyبه تازگی,
5
13375
1351
این اواخر،
00:26
you've paintedنقاشی شده the mostاکثر vividزنده examplesمثال ها
of how artificialمصنوعی generalعمومی intelligenceهوش
6
14750
4601
مثال های کاملا زنده ای ترسیم کردی
از اینکه چطور هوش مصنوعی عمومی
00:31
could go horriblyوحشت زده wrongاشتباه.
7
19375
1833
می تواند به شکل وحشتناکی اشتباه باشد.
00:33
And now this yearسال,
8
21750
1393
و حالا امسال،
00:35
you're about to publishانتشار
9
23167
2226
در حال نشرِ
00:37
a paperکاغذ that presentsهدیه something calledبه نام
the vulnerableآسیب پذیر worldجهان hypothesisفرضیه.
10
25417
3934
مقاله ای هستی که
فرضیات دنیایِ آسیب پذیر نام دارد.
00:41
And our jobکار this eveningشب is to
give the illustratedنشان داده شده است guideراهنما to that.
11
29375
4583
و کار امروز عصر ما تهیه
یک بروشور راهنما برای آن است.
00:46
So let's do that.
12
34417
1833
پس بیا تا انجامش دهیم.
00:48
What is that hypothesisفرضیه?
13
36833
1792
این فرضیات چه هستند؟
00:52
Nickنیک Bostromبوستروم: It's tryingتلاش کن to think about
14
40000
2434
نیک بوستروم: سعی می کند تا درباره
00:54
a sortمرتب سازی of structuralساختاری featureویژگی
of the currentجاری humanانسان conditionوضعیت.
15
42458
3084
نوعی از ویژگی های ساختاری
وضعیت موجود انسان بیاندیشد.
00:59
You like the urnکوزه metaphorاستعاره,
16
47125
2351
تو از استعاره گلدان خوشت می آید،
01:01
so I'm going to use that to explainتوضیح it.
17
49500
1893
پس از آن برای مثال استفاده می کنم.
01:03
So pictureعکس a bigبزرگ urnکوزه filledپر شده with ballsتوپ ها
18
51417
4351
یک گلدان بزرگ پر از توپ را تصور کن
01:07
representingنمایندگی ideasایده ها, methodsمواد و روش ها,
possibleامکان پذیر است technologiesفن آوری ها.
19
55792
3958
که نمایشگر نظرات، راهکارها
و فناوری های ممکن است.
01:12
You can think of the historyتاریخ
of humanانسان creativityخلاقیت
20
60833
3726
می توانی تاریخ خلاقیت انسان را
01:16
as the processروند of reachingرسیدن به into this urnکوزه
and pullingکشیدن out one ballتوپ after anotherیکی دیگر,
21
64583
3810
به شکل بردن دست در گلدان و بیرون
آوردن توپ یکی پس از دیگری تصور کنی،
01:20
and the netخالص effectاثر so farدور
has been hugelyخیلی ممنون beneficialسودمند, right?
22
68417
3226
و تاثیر کلی آن تا حالا
بسیار مفید بوده، درست؟
01:23
We'veما هستیم extractedاستخراج شده است a great manyبسیاری whiteسفید ballsتوپ ها,
23
71667
2726
تا حالا توپ های
سفید خیلی خوبی را درآورده ایم،
01:26
some variousمختلف shadesسایه ها of grayخاکستری,
mixedمخلوط شده blessingsنعمت ها.
24
74417
2875
انواع توپ های خاکستری،
که چیزهای درهم خوب و بدی هستند.
01:30
We haven'tنه so farدور
pulledکشیده out the blackسیاه ballتوپ --
25
78042
2958
و تا حالا هیچ توپ سیاهی بیرون نیامده --
01:34
a technologyتکنولوژی that invariablyهرگز destroysاز بین می رود
the civilizationتمدن that discoversکشف می کند it.
26
82292
5476
فناوری که به شکل دائمی، تمدنی
که پیدایش کند را نابود می کند.
01:39
So the paperکاغذ triesتلاش می کند to think
about what could suchچنین a blackسیاه ballتوپ be.
27
87792
3267
این مقاله سعی دارد تا بررسی کند
که چه چیزی ممکن است یک توپ سیاه باشد.
01:43
CACA: So you defineتعريف كردن that ballتوپ
28
91083
1810
ک.ا: پس تعریف شما از این توپ
01:44
as one that would inevitablyبه ناچار
bringآوردن about civilizationalتمدني destructionتخریب.
29
92917
3684
چیزی است که همراهش نابودی حتمی تمدن است.
01:48
NBNb: Unlessمگر اینکه we exitخروج what I call
the semi-anarchicنیمه آنارشیست defaultبه طور پیش فرض conditionوضعیت.
30
96625
5309
ن.ب.: مگر آنکه از شرایطی که من اسمش
را نیمه-آشفته گذاشته ام خارج شویم.
01:53
But sortمرتب سازی of, by defaultبه طور پیش فرض.
31
101958
1500
اما به شکلی، حتمی است.
01:56
CACA: So, you make the caseمورد compellingمتقاعد کننده
32
104333
3518
ک.ا.: پس شما برای این که
این نظریه قابل را قبول کنید
01:59
by showingنشان دادن some sortمرتب سازی of counterexamplesمثالهای counterexamples
33
107875
2018
انواع مثال های مخالف را می آورید
02:01
where you believe that so farدور
we'veما هستیم actuallyدر واقع got luckyخوش شانس,
34
109917
2934
تا نشان دهید تا حالا شانس آورده ایم،
02:04
that we mightممکن have pulledکشیده out
that deathمرگ ballتوپ
35
112875
2851
و ممکن بود که توپ مرگ
را بیرون می کشیدیم
02:07
withoutبدون even knowingدانستن it.
36
115750
1559
بدون آنکه خودمان حتی بفهمیم.
02:09
So there's this quoteنقل قول, what's this quoteنقل قول?
37
117333
2292
گفته ای نقل شده، چه چیزی گفته شده؟
02:12
NBNb: Well, I guessحدس بزن
it's just meantبه معنای to illustrateنشان دادن
38
120625
2684
ن.ب.: خوب، معنی اش نشان دادن
02:15
the difficultyمشکل of foreseeingپیش بینی
39
123333
2101
سختی پیش بینی
02:17
what basicپایه ای discoveriesاکتشافات will leadسرب to.
40
125458
2685
این است که اکتشافات بنیادی
ما را به کجا خواهند برد.
02:20
We just don't have that capabilityتوانایی.
41
128167
3059
ما هنوز این توانایی را نداریم.
02:23
Because we have becomeتبدیل شدن به quiteکاملا good
at pullingکشیدن out ballsتوپ ها,
42
131250
3351
چون در توپ بیرون آوردن ماهر شده ایم،
02:26
but we don't really have the abilityتوانایی
to put the ballتوپ back into the urnکوزه, right.
43
134625
3726
اما واقعا توانایی برگرداندن توپ
به گلدان را نداریم، غیر از این است؟
02:30
We can inventاختراع کردن, but we can't un-inventسازمان ملل متحد اختراع.
44
138375
2167
می توانیم اختراع کنیم،
اما نمی توانیم حذف-اختراع کنیم.
02:33
So our strategyاستراتژی, suchچنین as it is,
45
141583
2768
پس راهبرد ما، هم این که داریم،
02:36
is to hopeامید that there is
no blackسیاه ballتوپ in the urnکوزه.
46
144375
2434
امیدواری به این است
که توپ سیاهی در گلدان نباشد.
02:38
CACA: So onceیک بار it's out, it's out,
and you can't put it back in,
47
146833
4060
ک.ا.: پس وقتی بیرون آمد، بیرون آمده،
و نمی شود برش گرداند،
و فکر می کنی که ما شانس آورده ایم.
02:42
and you think we'veما هستیم been luckyخوش شانس.
48
150917
1517
02:44
So talk throughاز طریق a coupleزن و شوهر
of these examplesمثال ها.
49
152458
2226
برایمان از اینها چند مثال بیاور.
02:46
You talk about differentناهمسان
typesانواع of vulnerabilityآسیب پذیری.
50
154708
3101
از انواع مختلف آسیب پذیری صحبت کرده ای.
02:49
NBNb: So the easiestآسان ترین typeتایپ کنید to understandفهمیدن
51
157833
2435
ن.ب : ساده ترین نوع آن برای فهمیدن
02:52
is a technologyتکنولوژی
that just makesباعث می شود it very easyآسان
52
160292
3142
فناوری است که به سادگی امکان می دهد
02:55
to causeسبب می شود massiveعظیم amountsمقادیر of destructionتخریب.
53
163458
2125
تا مقادیر عظیمی از تخریب ایجاد شود.
02:59
Syntheticمصنوعی biologyزیست شناسی mightممکن be a fecundfecund
sourceمنبع of that kindنوع of blackسیاه ballتوپ,
54
167375
3518
زیست شناسی مصنوعی ممکن است
نمونه ای حاصلخیز از این توپ سیاه باشد،
03:02
but manyبسیاری other possibleامکان پذیر است things we could --
55
170917
2684
اما خیلی چیزهای ممکن دیگر
هم می توانیم انجام دهیم --
03:05
think of geoengineeringمهندسی ژئوماتیک,
really great, right?
56
173625
2518
به مهندسی زمین شناسی
توجه کنید که بسیار عالی است، نه؟
03:08
We could combatمبارزه کن globalجهانی است warmingگرمایش,
57
176167
2226
می توانیم با گرمایش جهانی مبارزه کنیم،
03:10
but you don't want it
to get too easyآسان eitherیا,
58
178417
2142
اما نمی خواهی که خیلی هم ساده باشد،
03:12
you don't want any randomتصادفی personفرد
and his grandmotherمادر بزرگ
59
180583
2476
نباید که هر آدمی و مامان بزرگش مثلا
03:15
to have the abilityتوانایی to radicallyبه طور اساسی
alterتغییر دادن the earth'sزمین climateآب و هوا.
60
183083
3060
این قدرت را داشته باشند که آب و هوای زمین
را به شدت تغییر دهند.
03:18
Or maybe lethalمرگبار autonomousخود مختار dronesهواپیماهای بدون سرنشین,
61
186167
3559
یا شاید هم پهپادهای خودکار مرگبار،
03:21
massed-producedماساد تولید, mosquito-sizedپشه به اندازه
killerقاتل botربات swarmsswarms.
62
189750
3333
تولید انبوه شوند، ربات هایی به اندازه پشه
هجوم ربات های کشنده.
03:26
Nanotechnologyفناوری نانو,
artificialمصنوعی generalعمومی intelligenceهوش.
63
194500
2726
فناوری نانو، هوش مصنوعی عمومی.
03:29
CACA: You argueجر و بحث in the paperکاغذ
64
197250
1309
ک.ا : در این مقاله عنوان کرده ای
03:30
that it's a matterموضوع of luckشانس
that when we discoveredکشف شده
65
198583
2893
که این تنها از روی شانس است
که وقتی ما کشف کردیم
03:33
that nuclearاتمی powerقدرت could createايجاد كردن a bombبمب,
66
201500
3434
که فناوری هسته ای می تواند بمب تولید کند،
03:36
it mightممکن have been the caseمورد
67
204958
1393
می توانست اینطور باشد
03:38
that you could have createdایجاد شده a bombبمب
68
206375
1851
که بمبی اختراع شود
03:40
with much easierآسان تر resourcesمنابع,
accessibleدر دسترس to anyoneهر کسی.
69
208250
3559
که منابع آن خیلی ساده تر باشد،
در دسترس همه.
03:43
NBNb: Yeah, so think back to the 1930s
70
211833
3560
ن.ب: درسته، فکر کنید
به سال های ۱۹۳۰ برگردیم
03:47
where for the first time we make
some breakthroughsپیشرفت ها in nuclearاتمی physicsفیزیک,
71
215417
4601
موقعی که توانستیم برای اولین بار
در فیزیک هسته ای پیشرفت هایی حاصل کنیم،
03:52
some geniusنابغه figuresارقام out that it's possibleامکان پذیر است
to createايجاد كردن a nuclearاتمی chainزنجیر reactionواکنش
72
220042
3684
عده ای از نوابغ فهمیدند که می شود یک
واکنش زنجیره ای هسته ای هم ایجاد کرد
03:55
and then realizesمتوجه می شود
that this could leadسرب to the bombبمب.
73
223750
3184
و بعد متوجه شدند
که این می تواند تبدیل به بمب شود.
03:58
And we do some more work,
74
226958
1893
و بعد ما کمی کار بیشتر کردیم،
04:00
it turnsچرخش out that what you requireنیاز
to make a nuclearاتمی bombبمب
75
228875
2726
و مشخص شد که چیزی
که برای ساختن بمب نیاز داری
04:03
is highlyبه شدت enrichedغنی شده uraniumاورانیوم or plutoniumپلوتونیوم,
76
231625
2393
اورانیوم بسیار غنی شده یا پلوتونیم است،
04:06
whichکه are very difficultدشوار materialsمواد to get.
77
234042
2017
که تهیه این مواد بسیار سخت و مشکل است.
04:08
You need ultracentrifugesاولtracentfuges,
78
236083
2268
به سانتریفیوژ های با سرعت
خیلی بالا نیاز داری،
04:10
you need reactorsراکتورها, like,
massiveعظیم amountsمقادیر of energyانرژی.
79
238375
3768
نیاز به راکتور دارید، مقادیر عظیم انرژی.
04:14
But supposeفرض کنید it had turnedتبدیل شد out insteadبجای
80
242167
1809
اما حالا فرض کنید به جایش
04:16
there had been an easyآسان way
to unlockباز کردن the energyانرژی of the atomاتم.
81
244000
3976
راه ساده ای وجود داشت
تا انرژی اتم را آزاد کنی.
04:20
That maybe by bakingپختن sandشن
in the microwaveمایکروویو ovenفر
82
248000
2768
مثا اگر با پختن شن توی دستگاه مایکروویو
04:22
or something like that
83
250792
1267
یا چیزی شبیه به آن
04:24
you could have createdایجاد شده
a nuclearاتمی detonationانفجار.
84
252083
2101
می توانستی انفجار هسته ای ایجاد کنی.
04:26
So we know that that's
physicallyاز لحاظ جسمی impossibleغیرممکن است.
85
254208
2143
این را می دانیم که
از لحاظ فیزیکی ممکن نیست.
04:28
But before you did the relevantمربوط physicsفیزیک
86
256375
1893
اما قبل از انجام محاسبات فیزیکی لازم
04:30
how could you have knownشناخته شده
how it would turnدور زدن out?
87
258292
2191
از کجا می دانستی که نتیجه اش چه می شود؟
04:32
CACA: Althoughبا اينكه, couldn'tنمی توانستم you argueجر و بحث
88
260507
1552
ک.ا: اگرچه، نمی شود بحث کرد
04:34
that for life to evolveتکامل یابد on Earthزمین
89
262083
1935
که تکامل حیات روی زمین
04:36
that impliedضمنی sortمرتب سازی of stableپایدار environmentمحیط,
90
264042
3267
به طور ضمنی به معنی محیطی ثابت است،
04:39
that if it was possibleامکان پذیر است to createايجاد كردن
massiveعظیم nuclearاتمی reactionsواکنش ها relativelyبه طور نسبی easyآسان,
91
267333
4185
و اگر ایجاد واکنش های
بزرگ هسته ای نسبتا ساده بود،
04:43
the Earthزمین would never have been stableپایدار,
92
271542
1858
زمین هیچ وقت ثابت نمی بود،
04:45
that we wouldn'tنمی خواهم be here at all.
93
273424
1552
و ما اصلا اینجا نبودیم.
04:47
NBNb: Yeah, unlessمگر اینکه there were something
that is easyآسان to do on purposeهدف
94
275000
3393
ن.ب: درسته، مگر آنکه چیزی باشد
که انجام عمدی اش ساده باشد
04:50
but that wouldn'tنمی خواهم happenبه وقوع پیوستن by randomتصادفی chanceشانس.
95
278417
2851
اما به شکل اتفاقی انجام نشده باشد.
04:53
So, like things we can easilyبه آسانی do,
96
281292
1579
مثل کارهایی که به سادگی انجام می دهیم،
04:54
we can stackپشته 10 blocksبلوک ها
on topبالا of one anotherیکی دیگر,
97
282896
2110
ما می توانیم ده قطعه چیزی
را روی هم بگذاریم،
04:57
but in natureطبیعت, you're not going to find,
like, a stackپشته of 10 blocksبلوک ها.
98
285031
3197
اما در طبیعت نمی توانی
دسته ای از ۱۰ قطعه روی هم پیدا کنی.
05:00
CACA: OK, so this is probablyشاید the one
99
288253
1673
ک.ا: بسیار خوب، پس این احتمالا همانی است
05:01
that manyبسیاری of us worryنگرانی about mostاکثر,
100
289950
1943
که خیلی از ما بیشتر نگرانش هستیم،
05:03
and yes, syntheticمصنوعی biologyزیست شناسی
is perhapsشاید the quickestسریعترین routeمسیر
101
291917
3517
و بله، زیست شناسی مصنوعی
احتمالا سریعترین مسیری است
05:07
that we can foreseeپیش بینی
in our nearنزدیک futureآینده to get us here.
102
295458
3018
که پیش بینی می کنیم
که در آینده نزدیک ما را به اینجا بیاورد.
05:10
NBNb: Yeah, and so think
about what that would have meantبه معنای
103
298500
2934
ن.ب: درسته، و توجه کن معنی اش چه بود
05:13
if, say, anybodyهر شخصی by workingکار کردن
in theirخودشان kitchenآشپزخانه for an afternoonبعد از ظهر
104
301458
3643
اگر، مثلا، هر کسی در آشپزخانه اش
بعد از ظهر کاری می کرد که
05:17
could destroyاز بین رفتن a cityشهر.
105
305125
1393
می توانست شهری را نابود کند.
05:18
It's hardسخت to see how
modernمدرن civilizationتمدن as we know it
106
306542
3559
قابل تصور نیست که چطور تمدن های
امروزی که ما می شناسیم
05:22
could have survivedجان سالم به در برد that.
107
310125
1434
می توانستند باقی بمانند.
05:23
Because in any populationجمعیت
of a millionمیلیون people,
108
311583
2518
چون در هر جمعیتی از یک میلیون نفر،
05:26
there will always be some
who would, for whateverهر چه reasonدلیل,
109
314125
2684
همیشه کسی وجود دارد، که به هر دلیلی،
05:28
chooseانتخاب کنید to use that destructiveمخرب powerقدرت.
110
316833
2084
بخواهد که از نیروی تخریب استفاده کند.
05:31
So if that apocalypticآخرالزمانی residualباقی مانده
111
319750
3143
پس اگر آن بازمانده از آخر دنیا
05:34
would chooseانتخاب کنید to destroyاز بین رفتن a cityشهر, or worseبدتر,
112
322917
1976
بخواهد که شهری
را نابود کند، یا بدتر از آن،
05:36
then citiesشهرها would get destroyedنابود.
113
324917
1559
پس آن شهرها نابود می شوند.
05:38
CACA: So here'sاینجاست anotherیکی دیگر typeتایپ کنید
of vulnerabilityآسیب پذیری.
114
326500
2351
ک.ا: پس این نوع دیگری از آسیب پذیری است.
05:40
Talk about this.
115
328875
1643
برایمان توضیح بده.
05:42
NBNb: Yeah, so in additionعلاوه بر این to these
kindنوع of obviousآشکار typesانواع of blackسیاه ballsتوپ ها
116
330542
3976
ن.ب: بله، علاوه بر این نمونه های
کاملا واضح از توپ های سیاه
05:46
that would just make it possibleامکان پذیر است
to blowفوت کردن، دمیدن up a lot of things,
117
334542
2810
که می توانند چیزهای زیادی را منفجر کنند،
05:49
other typesانواع would actعمل کن
by creatingپدید آوردن badبد incentivesانگیزه
118
337376
4433
انواع دیگر از راه ایجاد
مشوق های بد عمل می کنند
05:53
for humansانسان to do things that are harmfulزیان آور.
119
341833
2226
تا انسانها کارهای مضری انجام دهند.
05:56
So, the Type-نوع2a, we mightممکن call it that,
120
344083
4101
اگر اسمش را نوع ۲-الف بگذاریم،
06:00
is to think about some technologyتکنولوژی
that incentivizesincentivizes great powersقدرت
121
348208
4518
درباره فناوری است که مشوق هایی
برای قدرت های بزرگ ایجاد می کند
06:04
to use theirخودشان massiveعظیم amountsمقادیر of forceزور
to createايجاد كردن destructionتخریب.
122
352750
4476
که از نیروی عظیم شان
برای تخریب استفاده کنند.
06:09
So, nuclearاتمی weaponsاسلحه were actuallyدر واقع
very closeبستن to this, right?
123
357250
2833
سلاح های هسته ای
خیلی به این نزدیک هستند، نه؟
06:14
What we did, we spentصرف شده
over 10 trillionتریلیون dollarsدلار
124
362083
3060
کاری که ما کردیم، کمی
بیش از ۱۰ تریلیون دلار هزینه کردیم
06:17
to buildساختن 70,000 nuclearاتمی warheadsکلاهک ها
125
365167
2517
تا حدود ۷۰،۰۰۰ کلاهک هسته ای بسازیم
06:19
and put them on hair-triggerhair-trigger alertهشدار.
126
367708
2435
و آنها را آماده شلیک قرار دهیم.
06:22
And there were severalچند timesبار
duringدر حین the Coldسرد Warجنگ
127
370167
2267
و چند باری هم در طول جنگ سرد
06:24
we almostتقریبا blewوزید eachهر یک other up.
128
372458
1435
تقریبا همدیگر را از بین بردیم.
06:25
It's not because a lot of people feltنمد
this would be a great ideaاندیشه,
129
373917
3101
دلیلش این نبود که خیلی از افراد
فکر می کردند که این کار خیلی خوبی است،
06:29
let's all spendخرج کردن 10 trillionتریلیون dollarsدلار
to blowفوت کردن، دمیدن ourselvesخودمان up,
130
377042
2684
بیایید ۱۰ تریلیون دلار خرج کنیم
تا خودمان را منفجر کنیم،
06:31
but the incentivesانگیزه were suchچنین
that we were findingیافته ourselvesخودمان --
131
379750
2934
اما مشوق ها به گونه ای بود
که خودمان را --
06:34
this could have been worseبدتر.
132
382708
1310
می توانست خیلی بدتر باشد.
06:36
Imagineتصور کن if there had been
a safeبی خطر first strikeضربه.
133
384042
2434
فرض کنید که یک تهاجم
اولیه بدون مشکل انجام می شد.
06:38
Then it mightممکن have been very trickyروی حیله و تزویر,
134
386500
2309
بعد ممکن بود وضعیت
خیلی پیچیده ای پیش بیاید،
06:40
in a crisisبحران situationوضعیت,
135
388833
1268
در شرایط بحران،
06:42
to refrainخودداری from launchingراه اندازی
all theirخودشان nuclearاتمی missilesموشک ها.
136
390125
2477
تا مانع از پرتاب تمام
موشک های هسته ای بشویم.
06:44
If nothing elseچیز دیگری, because you would fearترس
that the other sideسمت mightممکن do it.
137
392626
3392
اگر مانعی نباشد، چون می ترسی
که طرف دیگر این کار را انجام دهد.
06:48
CACA: Right, mutualمتقابل assuredخاطر جمع destructionتخریب
138
396042
1809
ک.ا: درست، تضمین تخریب متقابل
06:49
keptنگه داشته شد the Coldسرد Warجنگ relativelyبه طور نسبی stableپایدار,
139
397875
2726
باعث شد تا دوران جنگ سرد نسبتا ثابت باشد،
06:52
withoutبدون that, we mightممکن not be here now.
140
400625
1934
بدون آن، شاید حالا الان اینجا نبودیم.
06:54
NBNb: It could have been
more unstableناپایدار than it was.
141
402583
2310
ن.ب: می توانست خیلی نامتعادل تر
از آنچه بود باشد.
06:56
And there could be
other propertiesخواص of technologyتکنولوژی.
142
404917
2351
و می توانست مشخصات دیگر فناوری هم باشد.
06:59
It could have been harderسخت تر
to have armsبازوها treatiesمعاهدات,
143
407292
2309
بستن پیمان های تسلیحاتی
می توانست سخت تر باشد،
07:01
if insteadبجای of nuclearاتمی weaponsاسلحه
144
409625
1601
اگر بجای تسلیحات اتمی
07:03
there had been some smallerکوچکتر thing
or something lessکمتر distinctiveمتمایز.
145
411250
3018
چیزهایی کوچکتر یا نامشخص تر بود.
07:06
CACA: And as well as badبد incentivesانگیزه
for powerfulقدرتمند actorsبازیگران,
146
414292
2559
ک.ا: و مانند مشوق های بد
برای بازیگران قدرت،
07:08
you alsoهمچنین worryنگرانی about badبد incentivesانگیزه
for all of us, in Type-نوع2b here.
147
416875
3518
می توانی نگران مشوق های بد
برای همه ما باشی، اینجا در نوع ۲-ب.
07:12
NBNb: Yeah, so, here we mightممکن
take the caseمورد of globalجهانی است warmingگرمایش.
148
420417
4250
ن.ب.: درسته، اینجا می شود
مسئله گرمایش جهانی را در نظر گرفت.
07:18
There are a lot of little conveniencesراحتی
149
426958
1893
راحت طلبی های کوچک زیادی هستند
07:20
that causeسبب می شود eachهر یک one of us to do things
150
428875
2184
که باعث می شوند ما کارهایی انجام دهیم
07:23
that individuallyبه طور جداگانه
have no significantقابل توجه effectاثر, right?
151
431083
2851
که جداگانه هر کدام
اثر خیلی زیادی ندارند، درست؟
07:25
But if billionsمیلیاردها دلار of people do it,
152
433958
1976
اما اگر میلیاردها نفر انجامش دهند،
07:27
cumulativelyبه طور کلی, it has a damagingآسیب رساندن effectاثر.
153
435958
2060
اثر تجمیعی آن، مخرب است.
07:30
Now, globalجهانی است warmingگرمایش
could have been a lot worseبدتر than it is.
154
438042
2809
امروزه، گرمایش جهانی می توانست
خیلی از این بدتر باشد.
07:32
So we have the climateآب و هوا
sensitivityحساسیت parameterپارامتر, right.
155
440875
2976
ما مولفه حساسیت آب و هوا را داریم.
07:35
It's a parameterپارامتر that saysمی گوید
how much warmerگرمتر does it get
156
443875
3643
این مولفه ای است که می گوید
چقدر گرمتر می شود
07:39
if you emitبیرون ریختن a certainمسلم - قطعی amountمیزان
of greenhouseگلخانه ای gasesگازها.
157
447542
2684
اگر مقدار معینی گاز گلخانه ای منتشر کنی.
07:42
But, supposeفرض کنید that it had been the caseمورد
158
450250
2393
اما، فرض کن به شکل دیگری بود
07:44
that with the amountمیزان
of greenhouseگلخانه ای gasesگازها we emittedمنتشر شد,
159
452667
2517
اگر با همان میزان گاز گلخانه ای
که منتشر می کردیم،
07:47
insteadبجای of the temperatureدرجه حرارت risingرو به افزایش by, say,
160
455208
2060
بجای افزایش دمای، مثلا،
07:49
betweenبین threeسه and 4.5 degreesدرجه by 2100,
161
457292
3726
بین ۳ تا ۴/۵ درجه تا سال ۲۱۰۰،
07:53
supposeفرض کنید it had been
15 degreesدرجه or 20 degreesدرجه.
162
461042
2500
فرض کنید بین ۱۵ تا ۲۰ درجه می شد.
07:56
Like, then we mightممکن have been
in a very badبد situationوضعیت.
163
464375
2559
اینطور، ممکن بود وضعیت
خیلی بدی داشته باشیم.
07:58
Or supposeفرض کنید that renewableتجدید پذیر energyانرژی
had just been a lot harderسخت تر to do.
164
466958
3143
یا فرض کنید که استفاده از انرژی های
تجدید پذیر خیلی مشکل تر بود.
08:02
Or that there had been
more fossilفسیلی fuelsسوخت ها in the groundزمینی.
165
470125
2643
یا اینکه سوخت های
فسیلی بیشتری در زمین بود.
08:04
CACA: Couldn'tنمی توانستم you argueجر و بحث
that if in that caseمورد of --
166
472792
2642
ک.ا: آیا می شد دلیل آورد که در آن حالت --
08:07
if what we are doing todayامروز
167
475458
1726
اگر کاری که امروز می کنیم
08:09
had resultedنتیجه گرفت in 10 degreesدرجه differenceتفاوت
in the time periodدوره زمانی that we could see,
168
477208
4560
موجب ۱۰ درجه تفاوت در مدت زمانی
که می توانستیم ببینیم می شد،
08:13
actuallyدر واقع humanityبشریت would have got
off its assالاغ and doneانجام شده something about it.
169
481792
3684
واقعا بشریت تکانی به خودش
می داد و کاری می کرد.
08:17
We're stupidاحمق, but we're not
maybe that stupidاحمق.
170
485500
2809
احمق هستیم. اما شاید نه آنقدر احمق.
08:20
Or maybe we are.
171
488333
1268
شاید هم هستیم.
08:21
NBNb: I wouldn'tنمی خواهم betشرط on it.
172
489625
1268
ن.ب: من اطمینان نمی کردم.
08:22
(Laughterخنده)
173
490917
2184
(خنده حضار)
08:25
You could imagineتصور کن other featuresامکانات.
174
493125
1684
می توانی ویژگی های دیگر را هم تصور کنی.
08:26
So, right now, it's a little bitبیت difficultدشوار
to switchسوئیچ to renewablesانرژی های تجدید پذیر and stuffچیز, right,
175
494833
5518
همین حالا، تغییر به انرژی های
تجدید پذیر کمی مشکل است، درست،
08:32
but it can be doneانجام شده.
176
500375
1268
اما شدنی است.
08:33
But it mightممکن just have been,
with slightlyکمی differentناهمسان physicsفیزیک,
177
501667
2976
اما اگر خواص فیزیکی کمی متفاوت بود،
08:36
it could have been much more expensiveگران
to do these things.
178
504667
2791
ممکن بود این کارها
خیلی پر هزینه تر باشند.
08:40
CACA: And what's your viewچشم انداز, Nickنیک?
179
508375
1518
ک.ا: و تو چه نظری داری، نیک؟
08:41
Do you think, puttingقرار دادن
these possibilitiesامکانات togetherبا یکدیگر,
180
509917
2434
فکر می کنی با روی هم گذاشتن این احتمالات،
08:44
that this earthزمین, humanityبشریت that we are,
181
512375
4268
که با این زمین، بشریتی که ما هستیم
08:48
we countشمردن as a vulnerableآسیب پذیر worldجهان?
182
516667
1559
ما دنیایی آسیب پذیر هستیم؟
08:50
That there is a deathمرگ ballتوپ in our futureآینده?
183
518250
2417
که یک توپ مرگ در آینده ما وجود دارد؟
08:55
NBNb: It's hardسخت to say.
184
523958
1268
ن.ب: پاسخ به آن سخت است.
08:57
I mean, I think there mightممکن
well be variousمختلف blackسیاه ballsتوپ ها in the urnکوزه,
185
525250
5059
منظورم اینکه فکر می کنم احتمال زیادی دارد
که توپ های سیاه مختلفی در گلدان باشند،
09:02
that's what it looksبه نظر می رسد like.
186
530333
1310
اینطور به نظر می رسد.
09:03
There mightممکن alsoهمچنین be some goldenطلایی ballsتوپ ها
187
531667
2392
اما ممکن است توپ های طلایی هم باشند
09:06
that would help us
protectمحافظت againstدر برابر blackسیاه ballsتوپ ها.
188
534083
3476
که به ما در برابر توپ های سیاه کمک کنند.
09:09
And I don't know whichکه orderسفارش
they will come out.
189
537583
2976
و نمی دانم که ترتیب
بیرون آمدنشان به چه صورت است.
09:12
CACA: I mean, one possibleامکان پذیر است
philosophicalفلسفی critiqueانتقاد of this ideaاندیشه
190
540583
3851
ک.ا: منظورم، یک انتقاد
محتمل فلسفی به این تفکر
09:16
is that it impliesدلالت دارد a viewچشم انداز
that the futureآینده is essentiallyاساسا settledحل شده.
191
544458
5643
این است که به طور ضمنی این دید را
دارد که آینده اساسا تثبیت شده است.
09:22
That there eitherیا
is that ballتوپ there or it's not.
192
550125
2476
که یا این توپ آنجاست یا نیست.
09:24
And in a way,
193
552625
3018
و به شکلی،
09:27
that's not a viewچشم انداز of the futureآینده
that I want to believe.
194
555667
2601
این نگاهی به آینده نیست
که بخواهم باور کنم.
09:30
I want to believe
that the futureآینده is undeterminedنامشخص,
195
558292
2351
می خواهم باور کنم که آینده قطعی نیست،
09:32
that our decisionsتصمیمات todayامروز will determineتعیین کنید
196
560667
1934
که تصمیمات امروز ما معین می کنند
09:34
what kindنوع of ballsتوپ ها
we pullکشیدن out of that urnکوزه.
197
562625
2208
که چه توپی را از گلدان بیرون می آوریم.
09:37
NBNb: I mean, if we just keep inventingاختراع,
198
565917
3767
ن.ب: منظورم این است،
که اگر همینطور نوآوری را ادامه دهیم،
09:41
like, eventuallyدر نهایت we will
pullکشیدن out all the ballsتوپ ها.
199
569708
2334
نهایتا همه توپ ها را بیرون خواهیم آورد.
09:44
I mean, I think there's a kindنوع
of weakضعیف formفرم of technologicalتکنولوژیکی determinismجبرگرایی
200
572875
3393
یعنی، فکر می کنم وجود مقدار کمی
جبرگرایی فناوری
09:48
that is quiteکاملا plausibleمحتمل,
201
576292
1267
کاملا ممکن است.
09:49
like, you're unlikelyبعید است
to encounterرویارویی a societyجامعه
202
577583
2643
شبیه به اینکه، احتمال
کمی دارد که جامعه ای پیدا کنی
09:52
that usesاستفاده می کند flintگل سرخ axesمحورها and jetجت planesهواپیما.
203
580250
2833
که از سنگ چخماق
و هواپیمای جت با هم استفاده کند.
09:56
But you can almostتقریبا think
of a technologyتکنولوژی as a setتنظیم of affordancesمقرون به صرفه.
204
584208
4060
اما اغلب می شود یک فناوری را به عنوان
مجموعه ای از ویژگی ها در نظر گرفت
10:00
So technologyتکنولوژی is the thing
that enablesرا قادر می سازد us to do variousمختلف things
205
588292
3017
پس فناوری چیزی است که به ما
امکان انجام کارهای مختلف
10:03
and achieveرسیدن variousمختلف effectsاثرات in the worldجهان.
206
591333
1976
و دسترسی به نتایج گوناگون را می دهد.
10:05
How we'dما می خواهیم then use that,
of courseدوره dependsبستگی دارد on humanانسان choiceانتخابی.
207
593333
2810
اینکه چطور از آن استفاده کنیم،
مسلما به انتخاب انسان بستگی دارد.
10:08
But if we think about these
threeسه typesانواع of vulnerabilityآسیب پذیری,
208
596167
2684
اما اگر به این سه نوع
آسیب پذیری فکر کنیم،
10:10
they make quiteکاملا weakضعیف assumptionsمفروضات
about how we would chooseانتخاب کنید to use them.
209
598875
3393
آنها فرضیات کاملا ضعیفی از انتخاب ما
در چگونه استفاده کردنشان اند.
10:14
So a Type-نوع1 vulnerabilityآسیب پذیری, again,
this massiveعظیم, destructiveمخرب powerقدرت,
210
602292
3392
پس یک آسیب پذیری نوع ۱، مجددا،
این نیروی عظیم مخرب،
10:17
it's a fairlyمنصفانه weakضعیف assumptionفرض
211
605708
1435
این فرض ضعیفی است
10:19
to think that in a populationجمعیت
of millionsمیلیون ها نفر of people
212
607167
2392
که در میان میلیون ها انسان
10:21
there would be some that would chooseانتخاب کنید
to use it destructivelyمخرب.
213
609583
2935
بعضی ها هستند که بخواهند
از آن برای تخریب استفاده کنند.
10:24
CACA: For me, the mostاکثر singleتنها
disturbingمزاحم argumentبحث و جدل
214
612542
2434
ک.ا: برای من، تنها موضوع ناراحت کننده
10:27
is that we actuallyدر واقع mightممکن have
some kindنوع of viewچشم انداز into the urnکوزه
215
615000
4559
این است که واقعا ممکن است
ما نگاهی به داخل گلدان بیاندازیم
10:31
that makesباعث می شود it actuallyدر واقع
very likelyاحتمال دارد that we're doomedمحکوم به.
216
619583
3518
که موجب شود واقعا
محکوم به بدبختی شویم.
10:35
Namelyبرای مثال, if you believe
in acceleratingتسریع powerقدرت,
217
623125
4643
مثلا، اگر به قدرت مضاعف اعتقاد داشته باشی،
10:39
that technologyتکنولوژی inherentlyذاتا acceleratesتسریع می شود,
218
627792
2267
که شتاب فناوری ذاتی است،
10:42
that we buildساختن the toolsابزار
that make us more powerfulقدرتمند,
219
630083
2435
که ما ابزارهایی می سازیم
که ما را قوی تر می کنند،
10:44
then at some pointنقطه you get to a stageمرحله
220
632542
2642
پس زمانی به صحنه می آیی
10:47
where a singleتنها individualفردی
can take us all down,
221
635208
3060
که یک نفر به تنهایی
می تواند حریف همه ما شود،
10:50
and then it looksبه نظر می رسد like we're screwedپیچ.
222
638292
2851
و بعد انگار که ما شکست خورده ایم.
10:53
Isn't that argumentبحث و جدل quiteکاملا alarmingهشدار دهنده?
223
641167
2934
این موضوعی خیلی نگران کننده نیست؟
10:56
NBNb: Ahآه, yeah.
224
644125
1750
ن.ب: آه، بله.
10:58
(Laughterخنده)
225
646708
1268
(خنده حضار)
11:00
I think --
226
648000
1333
به نظرم --
11:02
Yeah, we get more and more powerقدرت,
227
650875
1601
بله، ما بیشتر و بیشتر قدرت پیدا می کنیم،
11:04
and [it's] easierآسان تر and easierآسان تر
to use those powersقدرت,
228
652500
3934
و استفاده از آن ساده و ساده تر می شود،
11:08
but we can alsoهمچنین inventاختراع کردن technologiesفن آوری ها
that kindنوع of help us controlکنترل
229
656458
3560
ولی ما می توانیم فناوری هایی
هم بسازیم که به ما در کنترل آن
11:12
how people use those powersقدرت.
230
660042
2017
که چطور مردم از این قدرت ها
استفاده کنند کمک کند.
11:14
CACA: So let's talk about that,
let's talk about the responseواکنش.
231
662083
2851
ک.ا: بگذار در موردش صحبت کنیم،
در مورد پاسخ به آن صحبت کنیم.
11:16
Supposeفرض کنید that thinkingفكر كردن
about all the possibilitiesامکانات
232
664958
2310
فرض کن در نظر گرفتن همه حالت های ممکن
11:19
that are out there now --
233
667292
2101
که حالا آنجا است --
11:21
it's not just synbiosynbio,
it's things like cyberwarfareجنگ سایبری,
234
669417
3726
تنها زیست شناسی مصنوعی نیست،
چیزهایی مثل نبرد سایبری،
11:25
artificialمصنوعی intelligenceهوش, etcو غیره., etcو غیره. --
235
673167
3351
هوش مصنوعی، غیره و غیره. --
11:28
that there mightممکن be
seriousجدی doomعذاب in our futureآینده.
236
676542
4517
آن چیزها احتمالا
آینده ما را محکوم می کنند.
11:33
What are the possibleامکان پذیر است responsesپاسخ?
237
681083
1601
پاسخ های ممکن چه هستند؟
11:34
And you've talkedصحبت کرد about
fourچهار possibleامکان پذیر است responsesپاسخ as well.
238
682708
4893
تو درباره چهار پاسخ ممکن صحبت کرده ای.
11:39
NBNb: Restrictingمحدود کردن technologicalتکنولوژیکی developmentتوسعه
doesn't seemبه نظر می رسد promisingامیدوار کننده,
239
687625
3643
ن.ب: محدود کردن توسعه فناوری
به نظر امیدوار کننده نمی رسد،
11:43
if we are talkingصحبت کردن about a generalعمومی haltمکث
to technologicalتکنولوژیکی progressپیش رفتن.
240
691292
3226
اگر منظورمان یک توقف عمومی
در پیشرفت فناوری است.
11:46
I think neitherنه feasibleامکان پذیر است,
241
694542
1267
فکر نمی کنم هیچ کدام شدنی باشند،
11:47
norنه would it be desirableمطلوب
even if we could do it.
242
695833
2310
هیچ کدام خواسته ما نیستند
حتی اگر بتوانیم انجامشان دهیم.
11:50
I think there mightممکن be very limitedمحدود areasمناطق
243
698167
3017
به نظرم ممکن است در موضوعات محدودی
11:53
where maybe you would want
slowerآرام تر technologicalتکنولوژیکی progressپیش رفتن.
244
701208
2726
بخواهی که توسعه فناوری کندتر باشد.
11:55
You don't, I think, want
fasterسریعتر progressپیش رفتن in bioweaponsبیوایاپن ها,
245
703958
3393
فکر نکنم، توسعه سریعتر
تسلیحات زیستی را بخواهی،
11:59
or in, say, isotopeایزوتوپ separationجدایی,
246
707375
2059
یا فرضا، جداسازی ایزوتوپ ها،
12:01
that would make it easierآسان تر to createايجاد كردن nukesمواد هسته ای.
247
709458
2250
که تولید تسلیحات هسته ای
را ساده تر می کند.
12:04
CACA: I mean, I used to be
fullyبه طور کامل on boardهیئت مدیره with that.
248
712583
3310
ک.ا: به نظرم، معمولا
کاملا با آن همراه بودم.
12:07
But I would like to actuallyدر واقع
pushفشار دادن back on that for a minuteدقیقه.
249
715917
3267
اما حالا واقعا می خواهم
دقیقه ای آن را کنار بگذارم.
12:11
Just because, first of all,
250
719208
1310
تنها به دلیل، اول از همه،
12:12
if you look at the historyتاریخ
of the last coupleزن و شوهر of decadesچند دهه,
251
720542
2684
اگر به تاریخ چند دهه اخیر نگاه کنی،
12:15
you know, it's always been
pushفشار دادن forwardرو به جلو at fullپر شده speedسرعت,
252
723250
3559
می بینی، که همیشه تخت گاز
فشار به جلو با حداکثر سرعت بوده،
12:18
it's OK, that's our only choiceانتخابی.
253
726833
1851
اشکالی ندارد، این تنها انتخاب ماست.
12:20
But if you look at globalizationجهانی سازی
and the rapidسریع accelerationشتاب of that,
254
728708
4268
اما اگر به جهانی شدن
و شتاب سریع آن فکر کنی،
12:25
if you look at the strategyاستراتژی of
"moveحرکت fastسریع and breakزنگ تفريح things"
255
733000
3434
اگر به راهبرد «تجربه
مادر علم است» توجه کنی
12:28
and what happenedاتفاق افتاد with that,
256
736458
2060
و نتایجش را بررسی کنی،
12:30
and then you look at the potentialپتانسیل
for syntheticمصنوعی biologyزیست شناسی,
257
738542
2767
و بعد به توانایی ذاتی
زیست شناسی مصنوعی توجه کنی،
12:33
I don't know that we should
moveحرکت forwardرو به جلو rapidlyبه سرعت در حال
258
741333
4435
مطمئن نیستم که باید سریع حرکت کنیم
12:37
or withoutبدون any kindنوع of restrictionمحدودیت
259
745792
1642
یا بدون هر گونه محدودیت
12:39
to a worldجهان where you could have
a DNADNA printerچاپگر in everyهرکدام home
260
747458
3310
به سمت جهانی که می توانی یک
چاپگر دی ان ای در هر خانه
12:42
and highبالا schoolمدرسه labآزمایشگاه.
261
750792
1333
یا آزمایشگاه دبیرستان داشته باشی.
12:45
There are some restrictionsمحدودیت های, right?
262
753167
1684
محدودیت هایی وجود دارند، بله؟
12:46
NBNb: Possiblyاحتمالا, there is
the first partبخشی, the not feasibleامکان پذیر است.
263
754875
2643
ن.ب: احتمالا وجود دارند، در بخش اول،
در امکان پذیر نبودن.
12:49
If you think it would be
desirableمطلوب to stop it,
264
757542
2184
اگر توقف اش را بخواهی،
12:51
there's the problemمسئله of feasibilityامکان پذیری.
265
759750
1726
مشکل انجام شدنی بودن آن است.
12:53
So it doesn't really help
if one nationملت kindنوع of --
266
761500
2809
پس واقعا فایده ای ندارد
اگر نوعی از یک کشور --
12:56
CACA: No, it doesn't help
if one nationملت does,
267
764333
2018
ک.ا: فایده ای ندارد
اگر یک کشور انجامش دهد،
12:58
but we'veما هستیم had treatiesمعاهدات before.
268
766375
2934
ولی ما قبلا معاهده هایی داشته ایم.
13:01
That's really how we survivedجان سالم به در برد
the nuclearاتمی threatتهدید,
269
769333
3351
روشی که واقعا
از خطر هسته ای عبور کرده ایم،
13:04
was by going out there
270
772708
1268
با حرکت به سمتش بوده
13:06
and going throughاز طریق
the painfulدردناک processروند of negotiatingمذاکره.
271
774000
2518
و عبور از مسیر دردناک مذاکرات.
13:08
I just wonderتعجب whetherچه the logicمنطق isn't
that we, as a matterموضوع of globalجهانی است priorityاولویت,
272
776542
5434
تعجب می کنم که آیا منطقی نیست
اگر به عنوان اولویتی جهانی،
13:14
we shouldn'tنباید go out there and try,
273
782000
1684
بخواهیم تلاش کنیم،
13:15
like, now startشروع کن negotiatingمذاکره
really strictسخت گیرانه rulesقوانین
274
783708
2685
مثلا، همین حالا مذاکره
برای قوانینی خیلی محکم را شروع کنیم
13:18
on where syntheticمصنوعی bioresearchاحیاء زیستی is doneانجام شده,
275
786417
2684
که تحقیقات زیست شناسی
مصنوعی تا کجا ادامه یابد،
13:21
that it's not something
that you want to democratizeدموکراتیزه کردن, no?
276
789125
2851
که این چیزی نیست که بخواهید
به دست همه بدهید، نه؟
13:24
NBNb: I totallyکاملا agreeموافق with that --
277
792000
1809
ن.ب: من کاملا موافقم که --
13:25
that it would be desirableمطلوب, for exampleمثال,
278
793833
4226
که این را می خواهیم، برای مثال،
13:30
maybe to have DNADNA synthesisسنتز machinesماشین آلات,
279
798083
3601
شاید داشتن دستگاه های ترکیب دی ان ای،
13:33
not as a productتولید - محصول where eachهر یک labآزمایشگاه
has theirخودشان ownخودت deviceدستگاه,
280
801708
3560
وسیله ای نباشد که هر آزمایشگاه
دستگاهش را داشته باشد،
13:37
but maybe as a serviceسرویس.
281
805292
1476
شاید خدمات آن داشته باشد.
13:38
Maybe there could be
fourچهار or fiveپنج placesمکان ها in the worldجهان
282
806792
2517
شاید مثلا چهار یا پنج محل در جهان باشند
13:41
where you sendارسال in your digitalدیجیتال blueprintطرح
and the DNADNA comesمی آید back, right?
283
809333
3518
که شما الگوی دیجیتال خود را می فرستید
و دی ان ای برایتان بر می گردد، درست؟
13:44
And then, you would have the abilityتوانایی,
284
812875
1768
و حالا این توانایی را دارید،
13:46
if one day it really lookedنگاه کرد
like it was necessaryلازم است,
285
814667
2392
که اگر روزی واقعا به نظر لازم رسید،
13:49
we would have like,
a finiteمحدود setتنظیم of chokeخفه کردن pointsنکته ها.
286
817083
2351
محل های مشخصی برای خفه کردن داریم.
13:51
So I think you want to look
for kindنوع of specialویژه opportunitiesفرصت ها,
287
819458
3518
پس به نظرم به دنبال
نوعی موقعیت خاص هستی،
13:55
where you could have tighterتنگ تر controlکنترل.
288
823000
2059
که بتوانی کنترلی محکمتر داشته باشی.
13:57
CACA: Your beliefاعتقاد is, fundamentallyاساسا,
289
825083
1643
ک.ا: به باور شما، اساسا،
13:58
we are not going to be successfulموفق شدن
in just holdingبرگزاری back.
290
826750
2893
ما با عقب نگاه داشتن
موفقیتی بدست نمی آوریم.
14:01
Someoneکسی, somewhereجایی --
Northشمال Koreaکشور کره, you know --
291
829667
2726
کسی، جایی --
کره شمالی، می دانی --
14:04
someoneکسی is going to go there
and discoverكشف كردن this knowledgeدانش,
292
832417
3517
کسی به آنجا می رسد و دانش را بدست می آورد،
14:07
if it's there to be foundپیدا شد.
293
835958
1268
اگر آنجا باشد.
14:09
NBNb: That looksبه نظر می رسد plausibleمحتمل
underزیر currentجاری conditionsشرایط.
294
837250
2351
ن.ب: در شرایط موجود قابل قبول است.
14:11
It's not just syntheticمصنوعی biologyزیست شناسی, eitherیا.
295
839625
1934
تنها زیست شناسی مصنوعی هم نیست.
14:13
I mean, any kindنوع of profoundعمیق,
newجدید changeتغییر دادن in the worldجهان
296
841583
2518
به نظرم هر نوعی از تغییرات
جدید و عمیق در جهان
14:16
could turnدور زدن out to be a blackسیاه ballتوپ.
297
844101
1626
می تواند تبدیل به یک توپ سیاه شود.
14:17
CACA: Let's look at
anotherیکی دیگر possibleامکان پذیر است responseواکنش.
298
845727
2096
ک.ا: بیا تا به شکل دیگری
از پاسخ نگاه کنیم.
14:19
NBNb: This alsoهمچنین, I think,
has only limitedمحدود potentialپتانسیل.
299
847823
2403
ن.ب: این هم، به نظرم،
تنها توانایی محدودی دارد.
14:22
So, with the Type-نوع1 vulnerabilityآسیب پذیری again,
300
850250
3559
برای آسیب پذیری نوع ۱،
14:25
I mean, if you could reduceكاهش دادن the numberعدد
of people who are incentivizedانگیزه
301
853833
4351
منظورم اینکه اگر بتوانی
تعداد کسانی را کاهش دهی که انگیزه
14:30
to destroyاز بین رفتن the worldجهان,
302
858208
1268
نابودی جهان را دارند،
14:31
if only they could get
accessدسترسی به and the meansبه معنای,
303
859500
2059
اگر تنها آنها به امکانات
و روش ها دسترسی داشته باشند ،
14:33
that would be good.
304
861583
1268
چیز خوبی است.
14:34
CACA: In this imageتصویر that you askedپرسید: us to do
305
862875
1976
ک.ا: در این تصویری
که از ما می خواهی انجام دهیم
14:36
you're imaginingتصور کردن these dronesهواپیماهای بدون سرنشین
flyingپرواز around the worldجهان
306
864875
2559
به نظرت این پهپاد هایی
که دور دنیا پرواز می کنند
14:39
with facialچهره recognitionبه رسمیت شناختن.
307
867458
1268
با توانایی تشخیص چهره.
14:40
When they spotنقطه someoneکسی
showingنشان دادن signsعلائم of sociopathicجامعه behaviorرفتار,
308
868750
2893
اگر کسی را پیدا کردند
که رفتارهای جامعه ستیزانه دارد،
14:43
they showerدوش them with love, they fixثابت them.
309
871667
2184
باید با عشق نثارشان کرد، درمانشان کرد.
14:45
NBNb: I think it's like a hybridترکیبی pictureعکس.
310
873875
1893
ن.ب: فکر می کنم این مثل
تصویری ترکیبی است.
14:47
Eliminateحذف can eitherیا mean,
like, incarcerateمجازات کردن or killکشتن,
311
875792
4017
حذف یا معنی، حبس و کشتن می دهد،
14:51
or it can mean persuadeمتقاعد کردن them
to a better viewچشم انداز of the worldجهان.
312
879833
3018
یا می تواند تشویق کردن
به نگاه بهتری از جهان باشد.
14:54
But the pointنقطه is that,
313
882875
1726
اما نکته اینجاست،
14:56
supposeفرض کنید you were
extremelyفوق العاده successfulموفق شدن in this,
314
884625
2143
فرض کنید که بی نهایت در این موفق باشید،
14:58
and you reducedکاهش the numberعدد
of suchچنین individualsاشخاص حقیقی by halfنیم.
315
886792
3309
و تعداد چنین افرادی را نصف کنید.
15:02
And if you want to do it by persuasionمتقاعد کردن,
316
890125
1893
و اگر بخواهید با تشویق
این کار را انجام دهید،
15:04
you are competingرقابت againstدر برابر
all other powerfulقدرتمند forcesنیروها
317
892042
2392
مجبور به رقابت با همه انواع
نیروهای قدرتمند دیگر می شوید
15:06
that are tryingتلاش کن to persuadeمتقاعد کردن people,
318
894458
1685
که مردم را تشویق،
15:08
partiesاحزاب, religionمذهب, educationتحصیلات systemسیستم.
319
896167
1767
به صف بندی، دین،
سیستم های آموزشی می کنند.
15:09
But supposeفرض کنید you could reduceكاهش دادن it by halfنیم,
320
897958
1905
اما فرض کنید بتوانید نصفش کنید،
15:11
I don't think the riskخطر
would be reducedکاهش by halfنیم.
321
899887
2256
فکر نمی کنم که خطر آن به نصف کاهش یابد.
15:14
Maybe by fiveپنج or 10 percentدرصد.
322
902167
1559
شاید پنج یا ۱۰ درصد.
15:15
CACA: You're not recommendingتوصیه that we gambleقمار
humanity'sبشریت futureآینده on responseواکنش two.
323
903750
4351
ک.ا: توصیه نمی کنی که ما آینده بشریت
را روی پاسخ دوم شرط بندی کنیم.
15:20
NBNb: I think it's all good
to try to deterبازداشتن and persuadeمتقاعد کردن people,
324
908125
3018
ن.ب: به نظرم این کار خوبی است
که برای تشویق و تغییر افراد تلاش کنیم،
15:23
but we shouldn'tنباید relyتکیه on that
as our only safeguardحفاظت.
325
911167
2976
اما نباید آن را به عنوان
تنها راه حفاظت بدانیم.
15:26
CACA: How about threeسه?
326
914167
1267
ک.ا: سومی چطور؟
15:27
NBNb: I think there are two generalعمومی methodsمواد و روش ها
327
915458
2893
ن.ب: به نظر من دو روش عمومی وجود دارد
15:30
that we could use to achieveرسیدن
the abilityتوانایی to stabilizeتثبیت کردن the worldجهان
328
918375
3976
که برای رسیدن به توانایی تثبیت جهان
15:34
againstدر برابر the wholeکل spectrumطیف
of possibleامکان پذیر است vulnerabilitiesآسیب پذیری ها.
329
922375
2976
در برابر طیف کاملی از نقاط ضعف
احتمالی قابل استفاده هستند.
15:37
And we probablyشاید would need bothهر دو.
330
925375
1559
که احتمالا به هر دو نیازمندیم.
15:38
So, one is an extremelyفوق العاده effectiveتاثير گذار abilityتوانایی
331
926958
4518
یکی، توانایی است بی نهایت موثر
15:43
to do preventiveپیشگیرانه policingپلیس.
332
931500
1768
در ایجاد نظم پیشگیرانه.
15:45
Suchچنین that you could interceptرهگیری.
333
933292
1524
به گونه ای که بتوانی رهگیری کنی.
15:46
If anybodyهر شخصی startedآغاز شده to do
this dangerousخطرناک است thing,
334
934840
2761
هرکسی را که خواست از این کارهای
خطرناک انجام دهد،
15:49
you could interceptرهگیری them
in realواقعی time, and stop them.
335
937625
2684
بتوانی در لحظه پیدایشان کنی،
و جلویشان را بگیری.
15:52
So this would requireنیاز
ubiquitousهمه جا هست surveillanceنظارت,
336
940333
2476
و این نیازمند نظارت فراگیر در همه جاست،
15:54
everybodyهمه would be monitoredنظارت all the time.
337
942833
2375
همه باید همیشه تحت نظر باشند.
15:58
CACA: This is "Minorityاقلیت Reportگزارش,"
essentiallyاساسا, a formفرم of.
338
946333
2560
ک.ا: این مثل فیلم «گزارش اقلیت» است،
اساسا، به شکلی.
16:00
NBNb: You would have maybe AIAI algorithmsالگوریتم ها,
339
948917
1934
ن.ب: شاید الگوریتم های
هوش مصنوعی داشته باشی،
16:02
bigبزرگ freedomآزادی centersمراکز
that were reviewingبازبینی this, etcو غیره., etcو غیره.
340
950875
4417
مراکز بزرگ آزادی خواهی
که این را بررسی می کنند، غیره و غیره.
16:08
CACA: You know that massجرم surveillanceنظارت
is not a very popularمحبوب termدوره right now?
341
956583
4393
ک.ا: می دانی که نظارت انبوه عمومی
این روزها موضوع خیلی محبوبی نیست؟
16:13
(Laughterخنده)
342
961000
1250
(خنده حضار)
16:15
NBNb: Yeah, so this little deviceدستگاه there,
343
963458
1810
ن.ب: بله، این وسیله کوچک اینجا،
16:17
imagineتصور کن that kindنوع of necklaceگردنبند
that you would have to wearپوشیدن at all timesبار
344
965292
3601
فرض کن این نوع از گردنبند
که باید همیشه ببندی
16:20
with multidirectionalچند camerasدوربین ها.
345
968917
2000
با دوربین های تمام جهت.
16:23
But, to make it go down better,
346
971792
1809
اما، برای اینکه بهتر جا بیفتد،
16:25
just call it the "freedomآزادی tagبرچسب"
or something like that.
347
973625
2524
اسمش را بگذار «پلاک آزادی»
یا چیزی مشابه آن.
16:28
(Laughterخنده)
348
976173
2011
(خنده حضار)
16:30
CACA: OK.
349
978208
1268
ک.ا: قبول.
16:31
I mean, this is the conversationگفتگو, friendsدوستان,
350
979500
2101
دوستان، این همان صحبتی است که باید باشد،
16:33
this is why this is
suchچنین a mind-blowingدیوانه کننده conversationگفتگو.
351
981625
3559
به این دلیل است که چرا این صحبت
دیوانه کننده است.
16:37
NBNb: Actuallyدر واقع, there's
a wholeکل bigبزرگ conversationگفتگو on this
352
985208
2601
ن.ب: واقعا، بحث های زیادی است
16:39
on its ownخودت, obviouslyبدیهی است.
353
987833
1310
تنها در این مورد، مشخص است.
16:41
There are hugeبزرگ problemsمشکلات and risksخطرات
with that, right?
354
989167
2476
مشکلات و مخاطراتی عظیم
همراهش است، درسته؟
16:43
We mayممکن است come back to that.
355
991667
1267
شاید به آن برگردیم.
16:44
So the other, the finalنهایی,
356
992958
1268
آن بعدی، آخری،
16:46
the other generalعمومی stabilizationپایدارسازی capabilityتوانایی
357
994250
2559
توانایی ایجاد ثبات عمومی
16:48
is kindنوع of pluggingوصل کردن
anotherیکی دیگر governanceحکومت gapشکاف.
358
996833
2060
به نوعی اتصال یک شکاف
مدیریتی دیگر است.
16:50
So the surveillanceنظارت would be kindنوع of
governanceحکومت gapشکاف at the microlevelمیکروسطح,
359
998917
4184
پس این نظارت نوعی
از مدیریت شکاف مدیریتی در سطح-خرد است.
16:55
like, preventingجلوگیری از anybodyهر شخصی
from ever doing something highlyبه شدت illegalغیر مجاز.
360
1003125
3101
مثل، جلوگیری از از اینکه کسی
هیچوقت خطای خیلی بزرگی نکند.
16:58
Then, there's a correspondingمتناظر
governanceحکومت gapشکاف
361
1006250
2309
سپس، یک شکاف مدیریتی مشابه هم هست
17:00
at the macroماکرو levelسطح, at the globalجهانی است levelسطح.
362
1008583
1935
در سطح-کلان، سطحی جهانی.
17:02
You would need the abilityتوانایی, reliablyبطرزی قابل اعتماد,
363
1010542
3934
تو به توانایی و مطمئن بودن نیاز داری،
17:06
to preventجلوگیری کردن the worstبدترین kindsانواع
of globalجهانی است coordinationهماهنگی failuresخرابی,
364
1014500
2809
تا مانع از بدترین نوع
عدم هماهنگی جهانی شوی،
17:09
to avoidاجتناب کردن warsجنگ betweenبین great powersقدرت,
365
1017333
3768
مانع از جنگ میان قدرت های بزرگ،
17:13
armsبازوها racesمسابقات,
366
1021125
1333
مسابقات تسلیحاتی،
17:15
cataclysmicزمین شناسی commonsرایج problemsمشکلات,
367
1023500
2208
مشکلات فاجعه آمیز مشترک،
17:19
in orderسفارش to dealمعامله with
the Type-نوع2a vulnerabilitiesآسیب پذیری ها.
368
1027667
4184
تا بتوانی با آسیب پذیری های
نوع ۲-الف مواجه شوی.
17:23
CACA: Globalجهانی governanceحکومت is a termدوره
369
1031875
1934
ک.ا: مدیریت جهان عبارتی است
17:25
that's definitelyقطعا way out
of fashionمد right now,
370
1033833
2226
که امروزه خیلی از مد افتاده،
17:28
but could you make the caseمورد
that throughoutدر سراسر historyتاریخ,
371
1036083
2518
اما آیا می توانی اینطور
نتیجه بگیری که در طول تاریخ،
17:30
the historyتاریخ of humanityبشریت
372
1038625
1268
تارخ بشریت،
17:31
is that at everyهرکدام stageمرحله
of technologicalتکنولوژیکی powerقدرت increaseافزایش دادن,
373
1039917
5434
در هر مرحله از افزایش قدرت فناوری،
17:37
people have reorganizedسازماندهی مجدد
and sortمرتب سازی of centralizedمتمرکز the powerقدرت.
374
1045375
3226
انسان با سازماندهی دوباره،
قدرت را مرکزی کرده.
17:40
So, for exampleمثال,
when a rovingرووینگ bandباند of criminalsجنایتکاران
375
1048625
3434
برای مثال، وقتی که یک گروه جانی
17:44
could take over a societyجامعه,
376
1052083
1685
می توانند جامعه ای را در اختیار بگیرند،
17:45
the responseواکنش was,
well, you have a nation-stateدولت ملت
377
1053792
2239
پاسخ این بود که شما یک کشور-ملت هستید
17:48
and you centralizeمتمرکز forceزور,
a policeپلیس forceزور or an armyارتش,
378
1056055
2434
و تو نیرو را مرکزی مردی،
مثل نیروی پلیس یا ارتش،
17:50
so, "No, you can't do that."
379
1058513
1630
پس، «نه نمی شود این کار را کرد.»
17:52
The logicمنطق, perhapsشاید, of havingداشتن
a singleتنها personفرد or a singleتنها groupگروه
380
1060167
4559
شاید، منطقِ داشتن یک شخص یا گروه
17:56
ableتوانایی to take out humanityبشریت
381
1064750
1643
که بتواند بشریت را رها کند
17:58
meansبه معنای at some pointنقطه
we're going to have to go this routeمسیر,
382
1066417
2726
به معنی این است که زمانی
باید وارد این مسیر شویم،
18:01
at leastکمترین in some formفرم, no?
383
1069167
1434
حداقل به شکلی، نه؟
18:02
NBNb: It's certainlyقطعا trueدرست است that the scaleمقیاس
of politicalسیاسی organizationسازمان has increasedافزایش یافت
384
1070625
3684
ن.ب: مسلما درست است
که اندازه سازمان های سیاسی افزایش یافته
18:06
over the courseدوره of humanانسان historyتاریخ.
385
1074333
2143
که در طول تاریخ بشر.
18:08
It used to be hunter-gathererشکارچی جمع کننده bandباند, right,
386
1076500
2018
معمولا شکارچی-گردآور بوده است، درست،
18:10
and then chiefdomسرپرست, city-statesشهرستانها-ایالت, nationsملت ها,
387
1078542
2934
و بعد رئیس قبیله، دولت-شهر، ملت،
18:13
now there are internationalبین المللی organizationsسازمان های
and so on and so forthچهارم.
388
1081500
3976
و حالا سازمان های بین المللی
و به همین شکل و صورت.
18:17
Again, I just want to make sure
389
1085500
1518
حالا، می خواستم تا مطمئن شوم
18:19
I get the chanceشانس to stressفشار
390
1087042
1642
که این موقعیت را داشته ام که تاکید کنم
18:20
that obviouslyبدیهی است there are hugeبزرگ downsidesنابودی
391
1088708
1976
مشخصا ضررهایی عظیم
18:22
and indeedدر واقع, massiveعظیم risksخطرات,
392
1090708
1518
و حقیقتا، خطراتی سنگین وجود دارند،
18:24
bothهر دو to massجرم surveillanceنظارت
and to globalجهانی است governanceحکومت.
393
1092250
3351
هم در نظارت سنگین عمومی
و هم در مدیریت جهانی.
18:27
I'm just pointingاشاره کردن out
that if we are luckyخوش شانس,
394
1095625
2559
اشاره من تنها این است
که ما خوش شانسیم،
18:30
the worldجهان could be suchچنین
that these would be the only waysراه ها
395
1098208
2685
جهان می توانست چنان باشد
که اینها تنها راه های
18:32
you could surviveزنده ماندن a blackسیاه ballتوپ.
396
1100917
1517
بقا بعد از یک توپ سیاه باشند.
18:34
CACA: The logicمنطق of this theoryتئوری,
397
1102458
2518
ک.ا: منطق این نظریه،
18:37
it seemsبه نظر می رسد to me,
398
1105000
1268
به نظر من،
18:38
is that we'veما هستیم got to recognizeتشخیص
we can't have it all.
399
1106292
3601
این است که باید تشخیص دهیم
که نمی شود همه چیز را با هم داشت.
18:41
That the sortمرتب سازی of,
400
1109917
1833
که نوعی از،
18:45
I would say, naiveآدم ساده dreamرویا
that manyبسیاری of us had
401
1113500
2976
رویای ساده لوحانه که خیلی از ما داشته ایم
18:48
that technologyتکنولوژی is always
going to be a forceزور for good,
402
1116500
3351
که فناوری همیشه یک نیروی خوبی خواهد بود،
18:51
keep going, don't stop,
go as fastسریع as you can
403
1119875
2976
ادامه بده، توقف نکن،
تا می توانی تند برو
18:54
and not payپرداخت attentionتوجه
to some of the consequencesعواقب,
404
1122875
2351
و به بعضی از نتایج توجه نکن،
18:57
that's actuallyدر واقع just not an optionگزینه.
405
1125250
1684
واقعا دیگر امکان پذیر نیست.
18:58
We can have that.
406
1126958
1935
می توانیم آن را داشته باشیم.
19:00
If we have that,
407
1128917
1267
و اگر داشته باشیم،
19:02
we're going to have to acceptقبول کردن
408
1130208
1435
باید قبول کنیم
19:03
some of these other
very uncomfortableناراحت things with it,
409
1131667
2559
بعضی از چیزهای ناراحت کننده ای
را که همراه آن است،
19:06
and kindنوع of be in this
armsبازوها raceنژاد with ourselvesخودمان
410
1134250
2226
که نوعی از بودن در آن
مسابقه تسلیحاتی با خودت است
19:08
of, you want the powerقدرت,
you better limitحد it,
411
1136500
2268
که اگر قدرت می خواهی،
بهتر است محدودش کنی،
19:10
you better figureشکل out how to limitحد it.
412
1138792
2142
بهتر است بفهمی چطور محدودش کنی.
19:12
NBNb: I think it is an optionگزینه,
413
1140958
3476
ن.ب: به نظرم این یک انتخاب است،
19:16
a very temptingوسوسه انگیز optionگزینه,
it's in a senseاحساس the easiestآسان ترین optionگزینه
414
1144458
2768
یک انتخاب خیلی وسوسه کننده،
از این نظر که انتخابی ساده تر است
19:19
and it mightممکن work,
415
1147250
1268
که ممکن است جواب هم بدهد،
19:20
but it meansبه معنای we are fundamentallyاساسا
vulnerableآسیب پذیر to extractingاستخراج a blackسیاه ballتوپ.
416
1148542
4809
اما معنی اش این است که ما ذاتا
در بیرون آوردن توپ سیاه آسیب پذیریم.
19:25
Now, I think with a bitبیت of coordinationهماهنگی,
417
1153375
2143
حالا، فکر کنم با کمی هماهنگی،
19:27
like, if you did solveحل this
macrogovernanceماکروحکومتداری problemمسئله,
418
1155542
2726
مثلا، اگر بتوانی مشکل
این مدیریت کلان را حل کنی،
19:30
and the microgovernanceمیکروحکومتداری problemمسئله,
419
1158292
1601
و مدیریت خرد را حل کنی،
19:31
then we could extractاستخراج کردن
all the ballsتوپ ها from the urnکوزه
420
1159917
2309
می توانی توپ را از گلدان بیرون آوری
19:34
and we'dما می خواهیم benefitسود greatlyتا حد زیادی.
421
1162250
2268
و کلی مزیت بدست آورده ایم.
19:36
CACA: I mean, if we're livingزندگي كردن
in a simulationشبیه سازی, does it matterموضوع?
422
1164542
3434
ک.ا: اگر ما در یک شبیه سازی
زندگی می کنیم، این اهمیتی دارد؟
19:40
We just rebootراه اندازی مجدد.
423
1168000
1309
برنامه را دوباره اجرا می کنیم.
19:41
(Laughterخنده)
424
1169333
1268
( خنده حضار)
19:42
NBNb: Then ... I ...
425
1170625
1643
ن.ب.: پس ... من ...
19:44
(Laughterخنده)
426
1172292
2476
(خنده حضار)
19:46
I didn't see that one comingآینده.
427
1174792
1416
حواسم به این یکی نبود.
19:50
CACA: So what's your viewچشم انداز?
428
1178125
1268
ک.ا: شما چه نگاهی دارید؟
19:51
Puttingقرار دادن all the piecesقطعات togetherبا یکدیگر,
how likelyاحتمال دارد is it that we're doomedمحکوم به?
429
1179417
4809
با کنار هم گذاشتن همه این اجزاء،
احتمال محکوم به شکست بودنمان چقدر است؟
19:56
(Laughterخنده)
430
1184250
1958
(خنده حضار)
19:59
I love how people laughخنده
when you askپرسیدن that questionسوال.
431
1187042
2392
عاشق خنده مردم هستم
وقتی این سوال را می پرسی.
20:01
NBNb: On an individualفردی levelسطح,
432
1189458
1351
ن.ب: در سطح فردی،
20:02
we seemبه نظر می رسد to kindنوع of be doomedمحکوم به anywayبه هر حال,
just with the time lineخط,
433
1190833
3851
به نظر می رسد که به هر شکل محکوم هستیم،
تنها از دید زمانی،
20:06
we're rottingپوسیدگی and agingپیری
and all kindsانواع of things, right?
434
1194708
2601
ما می پوسیم و پیر می شویم
و هه این چیزها، درست؟
20:09
(Laughterخنده)
435
1197333
1601
(خنده حضار)
20:10
It's actuallyدر واقع a little bitبیت trickyروی حیله و تزویر.
436
1198958
1685
واقعا کمی پیچیده است.
اگر بخواهی به شکلی تنظیمش کنی که،
بتوانی احتمالی هم به آن بدهی،
20:12
If you want to setتنظیم up
so that you can attachپیوستن a probabilityاحتمال,
437
1200667
2767
20:15
first, who are we?
438
1203458
1268
اول، ما که هستیم؟
20:16
If you're very oldقدیمی,
probablyشاید you'llشما خواهید بود dieمرگ of naturalطبیعی است causesعلل,
439
1204750
2726
اگر خیلی پیر هستید،
احتمالا به دلایل طبیعی خواهید مرد،
20:19
if you're very youngجوان,
you mightممکن have a 100-yearساله --
440
1207500
2351
اگر جوان هستید،
احتمالا به ۱۰۰ سالگی برسید --
20:21
the probabilityاحتمال mightممکن dependبستگی دارد
on who you askپرسیدن.
441
1209875
2143
احتمال آن بستگی دارد از که بپرسید.
20:24
Then the thresholdآستانه, like, what countsشمارش
as civilizationalتمدني devastationتخریب?
442
1212042
4226
بعد آن آستانه، یعنی، چه چیزی
را نابودی تمدن می دانیم؟
20:28
In the paperکاغذ I don't requireنیاز
an existentialوجودی catastropheفاجعه
443
1216292
5642
در این مقاله، من نیازی
به یک فاجعه نابود کننده هستی
20:33
in orderسفارش for it to countشمردن.
444
1221958
1435
برای به حساب آوردن نداشته ام.
20:35
This is just a definitionalتعریف matterموضوع,
445
1223417
1684
این تنها یک تعریف است.
20:37
I say a billionبیلیون deadمرده,
446
1225125
1309
فرض کنید یک میلیارد کشته،
20:38
or a reductionکاهش of worldجهان GDPتولید ناخالص ملی by 50 percentدرصد,
447
1226458
2060
یا کاهش ۵۰ درصدی تولید ناخالص ملی جهان،
20:40
but dependingبستگی دارد on what
you say the thresholdآستانه is,
448
1228542
2226
اما با توجه به آستانه ای
که شما تعریف می کنید،
20:42
you get a differentناهمسان probabilityاحتمال estimateتخمین زدن.
449
1230792
1976
تخمین متفاوتی از احتمال بدست می آورید.
20:44
But I guessحدس بزن you could
put me down as a frightenedوحشت زده optimistخوش بین.
450
1232792
4517
اما فکر کنم شما بهتر است من را
به عنوان یک خوشبین ترسو کنار بگذارید.
20:49
(Laughterخنده)
451
1237333
1101
(خنده حضار)
20:50
CACA: You're a frightenedوحشت زده optimistخوش بین,
452
1238458
1643
ک.ا: تو یک خوشبین ترسو هستی،
20:52
and I think you've just createdایجاد شده
a largeبزرگ numberعدد of other frightenedوحشت زده ...
453
1240125
4268
که فکر کنم همین حالا کلی
ترسوی دیگر بوجود آوردی ....
20:56
people.
454
1244417
1267
آدمهای.
20:57
(Laughterخنده)
455
1245708
1060
(خنده حضار)
20:58
NBNb: In the simulationشبیه سازی.
456
1246792
1267
ن.ب.: در شبیه سازی.
21:00
CACA: In a simulationشبیه سازی.
457
1248083
1268
ک.ا: در شبیه سازی.
21:01
Nickنیک Bostromبوستروم, your mindذهن amazesتعجب me,
458
1249375
1684
نیک بوستروم، ذهن تو مرا شگفت زده می کند،
21:03
thank you so much for scaringترساندن
the livingزندگي كردن daylightsنور روز out of us.
459
1251083
2893
خیلی متشکرم از اینکه
حالا ما را از روز روشن هم ترسانده ای.
21:06
(Applauseتشویق و تمجید)
460
1254000
2375
(تشویق حضار)
Translated by Behdad Khazaeli
Reviewed by Masoud Motamedifar

▲Back to top

ABOUT THE SPEAKERS
Nick Bostrom - Philosopher
Nick Bostrom asks big questions: What should we do, as individuals and as a species, to optimize our long-term prospects? Will humanity’s technological advancements ultimately destroy us?

Why you should listen

Philosopher Nick Bostrom envisioned a future full of human enhancement, nanotechnology and machine intelligence long before they became mainstream concerns. From his famous simulation argument -- which identified some striking implications of rejecting the Matrix-like idea that humans are living in a computer simulation -- to his work on existential risk, Bostrom approaches both the inevitable and the speculative using the tools of philosophy, probability theory, and scientific analysis.

Since 2005, Bostrom has led the Future of Humanity Institute, a research group of mathematicians, philosophers and scientists at Oxford University tasked with investigating the big picture for the human condition and its future. He has been referred to as one of the most important thinkers of our age.

Nick was honored as one of Foreign Policy's 2015 Global Thinkers .

His recent book Superintelligence advances the ominous idea that “the first ultraintelligent machine is the last invention that man need ever make.”

More profile about the speaker
Nick Bostrom | Speaker | TED.com
Chris Anderson - TED Curator
After a long career in journalism and publishing, Chris Anderson became the curator of the TED Conference in 2002 and has developed it as a platform for identifying and disseminating ideas worth spreading.

Why you should listen

Chris Anderson is the Curator of TED, a nonprofit devoted to sharing valuable ideas, primarily through the medium of 'TED Talks' -- short talks that are offered free online to a global audience.

Chris was born in a remote village in Pakistan in 1957. He spent his early years in India, Pakistan and Afghanistan, where his parents worked as medical missionaries, and he attended an American school in the Himalayas for his early education. After boarding school in Bath, England, he went on to Oxford University, graduating in 1978 with a degree in philosophy, politics and economics.

Chris then trained as a journalist, working in newspapers and radio, including two years producing a world news service in the Seychelles Islands.

Back in the UK in 1984, Chris was captivated by the personal computer revolution and became an editor at one of the UK's early computer magazines. A year later he founded Future Publishing with a $25,000 bank loan. The new company initially focused on specialist computer publications but eventually expanded into other areas such as cycling, music, video games, technology and design, doubling in size every year for seven years. In 1994, Chris moved to the United States where he built Imagine Media, publisher of Business 2.0 magazine and creator of the popular video game users website IGN. Chris eventually merged Imagine and Future, taking the combined entity public in London in 1999, under the Future name. At its peak, it published 150 magazines and websites and employed 2,000 people.

This success allowed Chris to create a private nonprofit organization, the Sapling Foundation, with the hope of finding new ways to tackle tough global issues through media, technology, entrepreneurship and, most of all, ideas. In 2001, the foundation acquired the TED Conference, then an annual meeting of luminaries in the fields of Technology, Entertainment and Design held in Monterey, California, and Chris left Future to work full time on TED.

He expanded the conference's remit to cover all topics, including science, business and key global issues, while adding a Fellows program, which now has some 300 alumni, and the TED Prize, which grants its recipients "one wish to change the world." The TED stage has become a place for thinkers and doers from all fields to share their ideas and their work, capturing imaginations, sparking conversation and encouraging discovery along the way.

In 2006, TED experimented with posting some of its talks on the Internet. Their viral success encouraged Chris to begin positioning the organization as a global media initiative devoted to 'ideas worth spreading,' part of a new era of information dissemination using the power of online video. In June 2015, the organization posted its 2,000th talk online. The talks are free to view, and they have been translated into more than 100 languages with the help of volunteers from around the world. Viewership has grown to approximately one billion views per year.

Continuing a strategy of 'radical openness,' in 2009 Chris introduced the TEDx initiative, allowing free licenses to local organizers who wished to organize their own TED-like events. More than 8,000 such events have been held, generating an archive of 60,000 TEDx talks. And three years later, the TED-Ed program was launched, offering free educational videos and tools to students and teachers.

More profile about the speaker
Chris Anderson | Speaker | TED.com