ABOUT THE SPEAKER
Daniel Suarez - Sci-fi author
Daniel Suarez concocts thrilling reads from terrifying (and not-so-farfetched) near-future scenarios.

Why you should listen

While working as a software developer, Daniel Suarez self-published Daemon, a cyber-thriller depicting a future where society is radically reshaped by disruptive technologies. It struck a chord -- and so did the sequel, Freedom (TM) -- rocketing Suarez into the pantheon of sci-fi prophets.

In his 2012 novel Kill Decision, Suarez digs into the consequences of technology that’s here to stay: autonomous bots and drones programmed to be lethal. Suarez argues that as we cede more control to software, we gamble with the very essence of democracy itself. How can we establish sane guidelines for technology that could easily outstrip our control?

More profile about the speaker
Daniel Suarez | Speaker | TED.com
TEDGlobal 2013

Daniel Suarez: The kill decision shouldn't belong to a robot

Daniel Suarez: Quyết định " giết " không nên thuộc về robot

Filmed:
1,946,706 views

Là một tiểu thuyết gia, Daniel Suarez đã tạo ra hàng núi những câu chuyện khoa học viễn tưởng. Tuy nhiên trên diễn đài của TEDGlobal , anh trao đổi với chúng ta vể một viễn cảnh thực tế trong tương lai : sự trỗi dậy của vũ khí tự vận hành trong chiến tranh. Robot cao cấp, vũ khí vận hành và các công cụ thu thập tình báo sử dụng trí tuệ nhân tạo, có thể lấy đi quyền quyết định trong chiến tranh khỏi nhân loại.
- Sci-fi author
Daniel Suarez concocts thrilling reads from terrifying (and not-so-farfetched) near-future scenarios. Full bio

Double-click the English transcript below to play the video.

00:12
I writeviết fictionviễn tưởng sci-fiKhoa học viễn tưởng thrillersphim kinh dị,
0
691
3158
Tôi viết tiểu thuyết, truyện khoa học viễn tưởng
00:15
so if I say "killersát thủ robotsrobot,"
1
3849
2193
nên nếu tôi nói tới "rô-bốt sát thủ"
00:18
you'dbạn muốn probablycó lẽ think something like this.
2
6042
2361
các bạn sẽ nghĩ đó là viễn tưởng
00:20
But I'm actuallythực ra not here to talk about fictionviễn tưởng.
3
8403
2555
Nhưng thực tế, tôi tới đây không phải
để nói về viễn tưởng
00:22
I'm here to talk about very realthực killersát thủ robotsrobot,
4
10958
2948
mà để nói về rô-bốt sát thủ có thực
00:25
autonomoustự trị combatchống lại dronesmục tiêu giả lập.
5
13906
3122
máy bay chiến không người lái
00:29
Now, I'm not referringđề cập đến to PredatorĐộng vật ăn thịt and ReaperReaper dronesmục tiêu giả lập,
6
17028
3627
Tôi không nói tới loại Predator và Reaper
00:32
which have a humanNhân loại makingchế tạo targetingnhắm mục tiêu decisionsquyết định.
7
20655
3260
do con người cài lệnh sẵn từ xa
00:35
I'm talkingđang nói about fullyđầy đủ autonomoustự trị roboticrobot weaponsvũ khí
8
23915
3129
Tôi đang nói tới những vũ khí rô-bốt
00:39
that make lethalgây chết người decisionsquyết định about humanNhân loại beingschúng sanh
9
27044
2654
đưa ra quyết định sống hay chết cho con người
00:41
all on theirhọ ownsở hữu.
10
29698
2417
hoàn toàn tự động.
00:44
There's actuallythực ra a technicalkỹ thuật termkỳ hạn for this: lethalgây chết người autonomyquyền tự trị.
11
32115
4000
Thuật ngữ của nó là "tự động hóa giết chóc"
00:48
Now, lethallykềnh autonomoustự trị killersát thủ robotsrobot
12
36115
2856
Thời nay, rô-bốt sát thủ tự động
00:50
would take manynhiều formscác hình thức -- flyingbay, drivingđiều khiển,
13
38971
3069
hẳn sẽ có rất nhiều dạng - bay, lái
00:54
or just lyingnói dối in wait.
14
42040
2746
hoặc mai phục
00:56
And actuallythực ra, they're very quicklyMau becomingtrở thành a realitythực tế.
15
44786
3109
Đúng vậy, chúng đã sớm trở thành hiện thực
00:59
These are two automatictự động sniperbắn tỉa stationstrạm
16
47895
2484
Hiện tại có hai trạm bắn tỉa
01:02
currentlyhiện tại deployedđược triển khai in the DMZDMZ betweengiữa NorthBắc and SouthNam KoreaHàn Quốc.
17
50379
4137
đặt tại vùng phi quân sự
giữa Hàn Quốc và Triều Tiên
01:06
BothCả hai of these machinesmáy móc are capablecó khả năng of automaticallytự động
18
54516
2171
Cả hai hệ thống này đều có khả năng
01:08
identifyingxác định a humanNhân loại targetMục tiêu and firingbắn on it,
19
56687
3524
tự động nhắm và bắn mục tiêu con người
01:12
the one on the left at a distancekhoảng cách of over a kilometerkm.
20
60211
4324
Chiếc bên trái có thể bắn ở khoảng cách hơn 1 km
01:16
Now, in bothcả hai casescác trường hợp, there's still a humanNhân loại in the loopvòng lặp
21
64535
3589
Cả hai trường hợp này vẫn có con người đứng sau
01:20
to make that lethalgây chết người firingbắn decisionphán quyết,
22
68124
2372
để điều khiển lệnh bắn
01:22
but it's not a technologicaltínhór แทน użyciu แห่ง แทน แทน แทน ustaw requirementyêu cầu. It's a choicelựa chọn.
23
70496
5413
nhưng không phải vì yêu cầu kỹ thuật
Mà là sự lựa chọn
01:27
And it's that choicelựa chọn that I want to focustiêu điểm on,
24
75909
3093
Đó cũng chính là điều mà tôi muốn nhấn mạnh
01:31
because as we migratedi cư lethalgây chết người decision-makingquyết định
25
79002
2641
Vì khi con người chuyển quyền quyết định giết người
01:33
from humanscon người to softwarephần mềm,
26
81643
3109
sang hệ thống phần mềm
01:36
we riskrủi ro not only takinglấy the humanitynhân loại out of warchiến tranh,
27
84752
3476
ta không chỉ loại bỏ con người khỏi chiến tranh
01:40
but alsocũng thế changingthay đổi our socialxã hội landscapephong cảnh entirelyhoàn toàn,
28
88228
3526
mà còn thay đổi hoàn toàn hình thái xã hội
01:43
farxa from the battlefieldchiến trường.
29
91754
2224
còn hơn cả chiến trường
01:45
That's because the way humanscon người resolvegiải quyết conflictcuộc xung đột
30
93978
4509
Bởi vì cách con người giải quyết mâu thuẫn
01:50
shapeshình dạng our socialxã hội landscapephong cảnh.
31
98487
1733
hình thành nên hình thái xã hội
01:52
And this has always been the casetrường hợp, throughoutkhắp historylịch sử.
32
100220
2633
Và điều này luôn luôn đúng trong mọi thời đại
01:54
For examplethí dụ, these were state-of-the-arthiện đại nhất weaponsvũ khí systemshệ thống
33
102853
2661
Ví dụ, đây là những hệ thống vũ khí tối tân
01:57
in 1400 A.D.
34
105514
2079
năm 1400 TCN
01:59
Now they were bothcả hai very expensiveđắt to buildxây dựng and maintainduy trì,
35
107593
3144
Ngày nay, chế tạo và bảo trì chúng rất tốn kém
02:02
but with these you could dominatethống trị the populacedân chúng,
36
110737
3240
nhưng nếu có chúng, bạn có thể thống trị công chúng
02:05
and the distributionphân phối of politicalchính trị powerquyền lực in feudalphong kiến societyxã hội reflectedphản ánh that.
37
113977
3889
Điều này cũng được phản ánh trong chế độ phân bổ quyền lực chính trị thời phong kiến
02:09
PowerSức mạnh was focusedtập trung at the very tophàng đầu.
38
117866
2687
Quyền lực tập trung vào các ông lớn
02:12
And what changedđã thay đổi? TechnologicalCông nghệ innovationđổi mới.
39
120553
3528
Điều gì đã thay đổi ? Đổi mới công nghệ
02:16
GunpowderThuốc súng, cannonpháo.
40
124081
1871
Thuốc súng, pháo
02:17
And prettyđẹp soonSớm, armoráo giáp and castleslâu đài were obsoletelỗi thời,
41
125952
3817
Tiếp đó không lâu, áo giáp và lâu đài
trở nên lỗi thời.
02:21
and it matteredảnh hưởng lessít hơn who you broughtđưa to the battlefieldchiến trường
42
129769
2533
Việc bạn đưa ai ra chiến trường cũng không quan trọng bằng việc
02:24
versusđấu với how manynhiều people you broughtđưa to the battlefieldchiến trường.
43
132302
3779
bạn đưa bao nhiêu người ra chiến trường
02:28
And as armiesquân đội grewlớn lên in sizekích thước, the nation-stateĐức arosenổi lên
44
136081
3638
Khi quy mô quân đội lớn mạnh,
nhà nước bắt đầu
02:31
as a politicalchính trị and logisticalhậu cần requirementyêu cầu of defensephòng thủ.
45
139719
3680
yêu cầu bảo vệ chính trị và hậu cần
02:35
And as leaderslãnh đạo had to relydựa on more of theirhọ populacedân chúng,
46
143399
2376
Và khi các nhà lãnh đạo phải phụ thuộc
vào dân chúng của mình
02:37
they beganbắt đầu to sharechia sẻ powerquyền lực.
47
145775
1833
họ bắt đầu chia sẻ quyền lực
02:39
RepresentativeĐại diện governmentchính quyền beganbắt đầu to formhình thức.
48
147608
2599
Chính phủ đại diện bắt đầu hình thành
02:42
So again, the toolscông cụ we use to resolvegiải quyết conflictcuộc xung đột
49
150207
3288
Một lần nữa, công cụ để giải quyết mâu thuẫn
02:45
shapehình dạng our socialxã hội landscapephong cảnh.
50
153495
3304
tạo nên hình thái xã hội của chúng ta
02:48
AutonomousTự trị roboticrobot weaponsvũ khí are suchnhư là a tooldụng cụ,
51
156799
4064
Vũ khí rô-bốt tự động là loại công cụ như thế
02:52
exceptngoại trừ that, by requiringyêu cầu very fewvài people to go to warchiến tranh,
52
160863
5168
Ngoại trừ lợi ích yêu cầu ít người tham gia chiến đấu hơn
02:58
they riskrủi ro re-centralizingtái tập trung powerquyền lực into very fewvài handstay,
53
166031
4840
họ đồng thời lại đặt quyền lực tập trung
vào một vài cá nhân như trước
03:02
possiblycó thể reversingđảo ngược a five-centurytừ thế kỷ 5 trendkhuynh hướng towardđối với democracydân chủ.
54
170871
6515
có thể đảo ngược khuynh hướng dân chủ
tới 5 thế kỷ
03:09
Now, I think, knowingbiết this,
55
177386
1757
Tôi nghĩ, biết được điều này
03:11
we can take decisivequyết định stepscác bước to preservegiữ gìn our democraticdân chủ institutionstổ chức,
56
179143
4352
ta có thể duy trì chế độ dân chủ
03:15
to do what humanscon người do besttốt, which is adaptphỏng theo.
57
183495
3979
để thực hiện điều tốt nhất, là sự thích nghi
03:19
But time is a factorhệ số.
58
187474
2005
Nhưng thời gian là một nhân tố
03:21
SeventyBảy mươi nationsquốc gia are developingphát triển remotely-pilotedPhi công điều khiển từ xa
59
189479
2851
70 quốc gia đang tự mình phát triển
03:24
combatchống lại dronesmục tiêu giả lập of theirhọ ownsở hữu,
60
192330
2157
máy bay chiến đấu, điều khiển từ xa
03:26
and as you'llbạn sẽ see, remotely-pilotedPhi công điều khiển từ xa combatchống lại dronesmục tiêu giả lập
61
194487
2593
Như các bạn thấy, máy bay chiến đấu
điều khiển từ xa
03:29
are the precursorstiền thân to autonomoustự trị roboticrobot weaponsvũ khí.
62
197080
4472
chính là tiền thân của vũ khí rô-bốt tự động
03:33
That's because onceMột lần you've deployedđược triển khai remotely-pilotedPhi công điều khiển từ xa dronesmục tiêu giả lập,
63
201552
2767
Vì một khi bạn triển khai loại máy bay này,
03:36
there are threesố ba powerfulquyền lực factorscác yếu tố pushingđẩy decision-makingquyết định
64
204319
3384
sẽ có ba nhân tố tác động mạnh, đẩy quyết định
03:39
away from humanscon người and on to the weaponvũ khí platformnền tảng itselfchinh no.
65
207703
4600
từ con người sang hệ điều khiển của vũ khí
03:44
The first of these is the delugevô số of videovideo that dronesmục tiêu giả lập producesản xuất.
66
212303
5259
Nhân tố đầu tiên là lượng video khổng lồ mà loại máy bay này quay được
03:49
For examplethí dụ, in 2004, the U.S. dronemục tiêu giả fleetHạm đội producedsản xuất
67
217562
3853
Ví dụ, năm 2004, phi đội máy bay không người lái Hoa Kỳ quay được
03:53
a grandlớn totaltoàn bộ of 71 hoursgiờ of videovideo surveillancegiám sát for analysisphân tích.
68
221415
5312
video giám sát dài tổng số 74 tiếng để phân tích
03:58
By 2011, this had goneKhông còn up to 300,000 hoursgiờ,
69
226727
4499
Năm 2011, con số này lên tới 300.000 giờ
04:03
outstrippingoutstripping humanNhân loại abilitycó khả năng to reviewôn tập it all,
70
231226
3149
vượt quá mức khả năng theo dõi của con người
04:06
but even that numbercon số is about to go up drasticallymạnh.
71
234375
3664
tuy nhiên, con số đó vẫn có xu hướng
tăng lên đáng kể
04:10
The Pentagon'sCủa Lầu năm góc GorgonGorgon StareNhìn chằm chằm and ArgusArgus programschương trình
72
238039
2575
Chương trình Gorgon Stare và Argus của Pentagon
04:12
will put up to 65 independentlyđộc lập operatedvận hành cameraMáy ảnh eyesmắt
73
240614
3164
lắp đặt 65 mắt camera hoạt động độc lập
04:15
on eachmỗi dronemục tiêu giả platformnền tảng,
74
243778
2038
trên hệ điều khiển của từng chiếc máy bay
04:17
and this would vastlybao la outstripvượt xa humanNhân loại abilitycó khả năng to reviewôn tập it.
75
245816
3303
và điều này cũng vượt quá khả năng
theo dõi của con người
04:21
And that meanscó nghĩa visualtrực quan intelligenceSự thông minh softwarephần mềm will need
76
249119
2160
Có nghĩa phần mềm thu nhận hình ảnh phải có thể
04:23
to scanquét it for itemsmặt hàng of interestquan tâm.
77
251279
4048
rà quét những mục quan trọng
04:27
And that meanscó nghĩa very soonSớm
78
255327
1348
Đồng nghĩa rằng máy bay không người lái
04:28
dronesmục tiêu giả lập will tell humanscon người what to look at,
79
256675
2747
sẽ sớm chỉ cho con người những gì đáng xem
04:31
not the other way around.
80
259422
2497
chứ không chỉ những thứ xung quanh
04:33
But there's a secondthứ hai powerfulquyền lực incentivekhuyến khích pushingđẩy
81
261919
2473
Nhân tố thứ hai thúc đẩy con người
04:36
decision-makingquyết định away from humanscon người and ontotrên machinesmáy móc,
82
264392
3383
chuyển quyền quyết định lên máy móc
04:39
and that's electromagneticđiện từ jamminggây nhiễu,
83
267775
2872
chính là sự tắc nghẽn điện từ
04:42
severingsevering the connectionkết nối betweengiữa the dronemục tiêu giả
84
270647
2236
kết nối giữa máy bay không người lái
04:44
and its operatornhà điều hành.
85
272883
2814
với người điều hành của nó.
04:47
Now we saw an examplethí dụ of this in 2011
86
275697
2618
Chúng ta đã chứng kiến ví dụ năm 2011
04:50
when an AmericanNgười Mỹ RQ-RQ-170 SentinelSentinel dronemục tiêu giả
87
278315
2956
khi chiếc RQ-170 Sentinel của Hoa Kỳ
04:53
got a bitbit confusedbối rối over IranIran dueđến hạn to a GPSGPS spoofinggiả mạo attacktấn công,
88
281271
4307
xảy ra nhầm lẫn ở I-ran do bị đánh lừa GPS
04:57
but any remotely-pilotedPhi công điều khiển từ xa dronemục tiêu giả is susceptiblenhạy cảm to this typekiểu of attacktấn công,
89
285578
5114
nhưng hầu hết máy bay không người lái đều
rất nhạy cảm với loại tấn công này
05:02
and that meanscó nghĩa dronesmục tiêu giả lập
90
290692
2052
Nghĩa là máy bay không người lái
05:04
will have to shouldervai more decision-makingquyết định.
91
292744
3620
sẽ phải quyết định nhiều hơn.
05:08
They'llHọ sẽ know theirhọ missionsứ mệnh objectivemục tiêu,
92
296364
3043
Chúng xác định được mục tiêu nhiệm vụ của mình
05:11
and they'llhọ sẽ reactphản ứng to newMới circumstanceshoàn cảnh withoutkhông có humanNhân loại guidancehướng dẫn.
93
299407
4845
và phản ứng lại các trường hợp mới,
không cần con người hướng dẫn
05:16
They'llHọ sẽ ignorebỏ qua externalbên ngoài radioradio signalstín hiệu
94
304252
2581
Chúng không nhận tín hiệu vô tuyến từ bên ngoài
05:18
and sendgửi very fewvài of theirhọ ownsở hữu.
95
306833
2330
và phát đi rất ít tín hiệu
05:21
Which bringsmang lại us to, really, the thirdthứ ba
96
309163
2006
Điều này dẫn ta tới tác nhân thứ ba
05:23
and mostphần lớn powerfulquyền lực incentivekhuyến khích pushingđẩy decision-makingquyết định
97
311169
3862
tác động mạnh nhất, đẩy quyền quyết định
05:27
away from humanscon người and ontotrên weaponsvũ khí:
98
315031
3342
từ con người lên vũ khí:
05:30
plausiblechính đáng deniabilitychuyện.
99
318373
3293
Sự từ chối khôn ngoan.
05:33
Now we livetrực tiếp in a globaltoàn cầu economynên kinh tê.
100
321666
2887
Chúng ta đang sống trong nền kinh tế toàn cầu
05:36
High-techCông nghệ cao manufacturingchế tạo is occurringxảy ra on mostphần lớn continentslục địa.
101
324553
4334
Sản xuất công nghệ cao diễn ra trên
khắp các lục địa
05:40
CyberCyber espionagegián điệp is spiritingspiriting away advancednâng cao designsthiết kế
102
328887
2914
Hoạt động tình báo siêu hạng đang chuyển từ
các thiết kế công nghệ cao
05:43
to partscác bộ phận unknownkhông rõ,
103
331801
1886
sang các phần mục ẩn danh
05:45
and in that environmentmôi trường, it is very likelycó khả năng
104
333687
2014
và trong môi trường đó, có khả năng
05:47
that a successfulthành công dronemục tiêu giả designthiết kế will be knockedđánh đập off in contracthợp đồng factoriesnhà máy,
105
335701
4734
loại máy bay không người hiệu quả sẽ đắt hàng
tại xí nghiệp làm hợp đồng
05:52
proliferatesinh sôi nảy nở in the graymàu xám marketthị trường.
106
340435
2170
nhân rộng trên thị trường khan hiếm
05:54
And in that situationtình hình, siftingchọn lọc throughxuyên qua the wreckageđống đổ nát
107
342605
2460
Trong tình hình náy, sàng lọc mảnh vụn từ
05:57
of a suicidetự tử dronemục tiêu giả attacktấn công, it will be very difficultkhó khăn to say
108
345065
2960
đợt tấn công tự sát bằng máy bay không người lái,
rất khó để nói
06:00
who sentgởi that weaponvũ khí.
109
348025
4400
ai đã gửi đi vũ khí này
06:04
This raisestăng lên the very realthực possibilitykhả năng
110
352425
2800
Điều này cho thấy khả năng cao
06:07
of anonymousvô danh warchiến tranh.
111
355225
2935
của chiến tranh giấu mặt
06:10
This could tiltnghiêng the geopoliticalđịa chính trị balancecân đối on its headcái đầu,
112
358160
2614
Nó làm mất cân bằng địa lý chính trị
06:12
make it very difficultkhó khăn for a nationquốc gia to turnxoay its firepowerhỏa lực
113
360774
3491
khiến quốc gia gặp khó khăn khi dùng hỏa lực
06:16
againstchống lại an attackerkẻ tấn công, and that could shiftsự thay đổi the balancecân đối
114
364265
2848
chống lại kẻ tấn công, và cũng có thể
làm mất cân bằng thế kỷ 21
06:19
in the 21stst centurythế kỷ away from defensephòng thủ and towardđối với offensehành vi phạm tội.
115
367113
3764
và dần chuyển từ phòng thủ sang tấn công
06:22
It could make militaryquân đội actionhoạt động a viablekhả thi optionTùy chọn
116
370877
3124
Điều này tăng tính khả thi của hoạt động quân sự
06:26
not just for smallnhỏ bé nationsquốc gia,
117
374001
2288
không chỉ dành cho các quốc gia nhỏ
06:28
but criminalphạm tội organizationstổ chức, privateriêng tư enterprisedoanh nghiệp,
118
376289
2545
mà còn cho các tổ chức tội phạm,
doanh nghiệp tư nhân
06:30
even powerfulquyền lực individualscá nhân.
119
378834
2479
thậm chí các cá nhân có quyền lực nữa.
06:33
It could createtạo nên a landscapephong cảnh of rivalđối thủ warlordslãnh chúa
120
381313
3328
Nó có thể tạo ra cảnh quan của những
thủ lĩnh đối đầu
06:36
underminingphá hoại rulequi định of lawpháp luật and civildân sự societyxã hội.
121
384641
3680
làm bào mòn pháp trị và xã hội dân sự
06:40
Now if responsibilitytrách nhiệm and transparencyminh bạch
122
388321
3616
Nếu trách nhiệm và sự minh bạch
06:43
are two of the cornerstonesnền tảng of representativeTiêu biểu governmentchính quyền,
123
391937
2384
là hai viên đá nền tảng của chính phủ đại diện,
06:46
autonomoustự trị roboticrobot weaponsvũ khí could underminephá hoại bothcả hai.
124
394321
4320
thì vũ khí rô-bốt tự động có thể bào mòn cả hai
06:50
Now you mightcó thể be thinkingSuy nghĩ that
125
398641
1546
Nếu bạn nghĩ rằng
06:52
citizenscông dân of high-techcông nghệ cao nationsquốc gia
126
400187
2246
công dân quốc gia công nghệ cao
06:54
would have the advantagelợi thế in any roboticrobot warchiến tranh,
127
402433
2703
sẽ có lợi thế trong cuộc chiến rô-bốt,
06:57
that citizenscông dân of those nationsquốc gia would be lessít hơn vulnerabledễ bị tổn thương,
128
405136
3633
họ sẽ ít chịu tổn thương hơn
07:00
particularlyđặc biệt againstchống lại developingphát triển nationsquốc gia.
129
408769
4288
đặc biệt khi so sánh với các quốc gia đang phát triển
07:05
But I think the truthsự thật is the exactchính xác oppositeđối diện.
130
413057
3524
Nhưng tôi nghĩ sự thật lại hoàn toàn trái ngược
07:08
I think citizenscông dân of high-techcông nghệ cao societiesxã hội
131
416581
2251
Công dân của những xã hội công nghệ cao
07:10
are more vulnerabledễ bị tổn thương to roboticrobot weaponsvũ khí,
132
418832
3729
dễ chịu tổn thương nhiều hơn từ vũ khí rô-bốt
07:14
and the reasonlý do can be summedtổng kết up in one wordtừ: datadữ liệu.
133
422561
4465
Lý do có thể nói gọn trong từ "dữ liệu"
07:19
DataDữ liệu powersquyền lực high-techcông nghệ cao societiesxã hội.
134
427026
3481
Dữ liệu thống trị xã hội công nghệ cao
07:22
CellDi động phoneđiện thoại geolocationvị trí địa lý, telecomviễn thông metadatasiêu dữ liệu,
135
430507
3190
Vị trí địa lý di động, lý lịch dữ liệu viễn thông
07:25
socialxã hội mediaphương tiện truyền thông, emaile-mail, textbản văn, financialtài chính transactiongiao dịch datadữ liệu,
136
433697
3472
truyền thông xã hội, email, văn bản.
dữ liệu giao dịch tài chính
07:29
transportationvận chuyển datadữ liệu, it's a wealthsự giàu có of real-timethời gian thực datadữ liệu
137
437169
3532
dự liệu giao thông, đó là tài sản
của dữ liệu thời gian thực
07:32
on the movementsphong trào and socialxã hội interactionstương tác of people.
138
440701
3373
về hoạt động và tương tác xã hội của con người
07:36
In shortngắn, we are more visiblecó thể nhìn thấy to machinesmáy móc
139
444074
3775
Tóm lại, máy móc có thể nhận diện chúng ta
07:39
than any people in historylịch sử,
140
447849
2242
dễ dàng hơn bao giờ hết,
07:42
and this perfectlyhoàn hảo suitsphù hợp với the targetingnhắm mục tiêu needsnhu cầu of autonomoustự trị weaponsvũ khí.
141
450091
5616
Điều này tương thích hoàn hảo với nhu cầu xác định mục tiêu
của vũ khí tự động
07:47
What you're looking at here
142
455707
1738
Hình ảnh các bạn đang xem ở đây
07:49
is a linkliên kết analysisphân tích mapbản đồ of a socialxã hội groupnhóm.
143
457445
3246
là bản đồ phân tích kết nối của một nhóm xã hội.
07:52
LinesDây chuyền indicatebiểu thị socialxã hội connectednessconnectedness betweengiữa individualscá nhân.
144
460691
3634
Các đường kẻ chỉ sự kết nối giữa các cá nhân.
07:56
And these typesloại of mapsbản đồ can be automaticallytự động generatedtạo ra
145
464325
2880
Loại bản đồ này có thể tự động thiết lập
07:59
baseddựa trên on the datadữ liệu trailđường mòn modernhiện đại people leaverời khỏi behindphía sau.
146
467205
4715
dựa trên vết dữ liệu mà người hiện đại bỏ lại
08:03
Now it's typicallythường used to marketthị trường goodsCác mặt hàng and servicesdịch vụ
147
471920
2477
Ngày nay, nó được chuyên dùng cho dịch vụ
và hàng hóa thị trường
08:06
to targetednhắm mục tiêu demographicsnhân khẩu học, but it's a dual-usesử dụng kép technologyCông nghệ,
148
474397
4416
để hướng tới số liệu thống kê nhân khẩu học,
nhưng nó là công nghệ có hai mặt
08:10
because targetingnhắm mục tiêu is used in anotherkhác contextbối cảnh.
149
478813
3360
vì việc xác định mục tiêu có thể được áp dụng trong một ngữ cảnh khác
08:14
NoticeThông báo that certainchắc chắn individualscá nhân are highlightednhấn mạnh.
150
482173
2560
Lưu ý rằng cần nêu bật các cá nhân nhất định
08:16
These are the hubsTrung tâm of socialxã hội networksmạng lưới.
151
484733
3280
Họ là trung tâm của mạng lưới xã hội.
08:20
These are organizersBan tổ chức, opinion-makersý kiến các nhà sản xuất, leaderslãnh đạo,
152
488013
3590
Họ là các nhà tổ chức, tham vấn, các nhà lãnh đạo
08:23
and these people alsocũng thế can be automaticallytự động identifiedxác định
153
491603
2682
và họ có thể được tự động nhận diện
08:26
from theirhọ communicationgiao tiếp patternsmẫu.
154
494285
2382
từ cách thức giao tiếp.
08:28
Now, if you're a marketernhà tiếp thị, you mightcó thể then targetMục tiêu them
155
496667
2146
Nếu bạn là tiếp thị viên, bạn hẳn sẽ giới thiệu
08:30
with productsản phẩm samplesmẫu, try to spreadLan tràn your brandnhãn hiệu
156
498813
2543
các sản phẩm mẫu tới họ,
mở rộng thương hiệu của mình
08:33
throughxuyên qua theirhọ socialxã hội groupnhóm.
157
501356
2829
qua các mối quan hệ xã hội của họ.
08:36
But if you're a repressiveđàn áp governmentchính quyền
158
504185
1953
Tuy nhiên nếu bạn là chính phủ đại diện
08:38
searchingđang tìm kiếm for politicalchính trị enemieskẻ thù, you mightcó thể insteadthay thế removetẩy them,
159
506138
4810
đang tìm kiếm đối thủ chính trị, bạn ắt sẽ loại bỏ họ,
08:42
eliminateloại bỏ them, disruptlàm gián đoạn theirhọ socialxã hội groupnhóm,
160
510948
2760
trừ khử họ, phả hủy mối quan hệ xã hội của họ
08:45
and those who remainvẫn còn behindphía sau losethua socialxã hội cohesiongắn kết
161
513708
3169
Và những ai thụt lại phía sau sẽ mất đi liên hệ
08:48
and organizationcơ quan.
162
516877
2621
và tổ chức xã hội
08:51
Now in a worldthế giới of cheapgiá rẻ, proliferatingproliferating roboticrobot weaponsvũ khí,
163
519498
3324
Trong thế giới vũ khí rô-bốt giá rẻ, tràn lan,
08:54
bordersbiên giới would offerphục vụ very little protectionsự bảo vệ
164
522822
2635
biên giới cũng sẽ không còn có tác dụng gì nhiều
08:57
to criticsnhà phê bình of distantxa xôi governmentscác chính phủ
165
525457
1946
đối với sự hằn thù của các chính phủ bên ngoài
08:59
or trans-nationalxuyên quốc gia criminalphạm tội organizationstổ chức.
166
527403
3646
hoặc các tổ chức tội phạm xuyên quốc gia
09:03
PopularPhổ biến movementsphong trào agitatinghỗn loạn for changethay đổi
167
531049
3493
Phong trào quần chúng đòi cách tân
09:06
could be detectedphát hiện earlysớm and theirhọ leaderslãnh đạo eliminatedloại bỏ
168
534542
3609
có thể sớm bị phát giác và các lãnh đạo gia dập tan chúng
09:10
before theirhọ ideasý tưởng achieveHoàn thành criticalchỉ trích masskhối lượng.
169
538151
2911
trước khi ý tưởng của họ đạt mức tới hạn.
09:13
And ideasý tưởng achievingđể đạt được criticalchỉ trích masskhối lượng
170
541062
2591
Các ý tưởng đạt mức tới hạn
09:15
is what politicalchính trị activismhoạt động in popularphổ biến governmentchính quyền is all about.
171
543653
3936
là chủ nghĩa tích cực chính trị trong
chính quyền quần chúng
09:19
AnonymousVô danh lethalgây chết người weaponsvũ khí could make lethalgây chết người actionhoạt động
172
547589
3997
Vũ khí giết người vô danh biến việc sát hại con người
09:23
an easydễ dàng choicelựa chọn for all sortsloại of competingcạnh tranh interestssở thích.
173
551586
3782
trở thành một lựa chọn dễ dàng cho mọi lợi ịch cạnh tranh.
09:27
And this would put a chillthư giãn on freemiễn phí speechphát biểu
174
555368
3734
Điều này sẽ hạn chế các phát ngôn tự do
09:31
and popularphổ biến politicalchính trị actionhoạt động, the very hearttim of democracydân chủ.
175
559102
5308
và hành động chính trị của quần chúng -
trọng tâm của nền dân chủ
09:36
And this is why we need an internationalquốc tế treatyHiệp ước
176
564410
2914
Chính vì thế, ta cần một hiệp ước quốc tế
09:39
on roboticrobot weaponsvũ khí, and in particularcụ thể a globaltoàn cầu banlệnh cấm
177
567324
3540
về vũ khí rô-bốt, đặc biệt là lệnh cấm toàn cầu
09:42
on the developmentphát triển and deploymenttriển khai of killersát thủ robotsrobot.
178
570864
3908
triển khai và phát triển loại vũ khí sát thủ này.
09:46
Now we alreadyđã have internationalquốc tế treatiesđiều ước quốc tế
179
574772
3254
Chúng ta đã có các hiệp ước quốc tế
09:50
on nuclearNguyên tử and biologicalsinh học weaponsvũ khí, and, while imperfectkhông hoàn hảo,
180
578026
3386
về vũ khí hạt nhân, sinh học và
09:53
these have largelyphần lớn workedđã làm việc.
181
581412
2288
chúng vẫn đang rất hiệu quả
09:55
But roboticrobot weaponsvũ khí mightcó thể be everymỗi bitbit as dangerousnguy hiểm,
182
583700
3768
Tuy nhiên, vũ khí rô-bốt vẫn sẽ luôn nguy hiểm
09:59
because they will almosthầu hết certainlychắc chắn be used,
183
587468
3288
vì chúng gần như chắc chắn sẽ được sử dụng
10:02
and they would alsocũng thế be corrosiveăn mòn to our democraticdân chủ institutionstổ chức.
184
590756
5027
và bào mòn dần các cơ quan dân chủ của ta.
10:07
Now in NovemberTháng mười một 2012 the U.S. DepartmentTỉnh of DefenseQuốc phòng
185
595783
3468
Tháng 11 năm 2012, bộ Quốc phòng Hoa Kỳ
10:11
issuedcấp a directivechỉ thị requiringyêu cầu
186
599251
2458
đã ban hành chỉ thị yêu cầu
10:13
a humanNhân loại beingđang be presenthiện tại in all lethalgây chết người decisionsquyết định.
187
601709
4519
con người phải hiện diện trong tất cả các
quyết định giết người
10:18
This temporarilytạm thời effectivelycó hiệu quả bannedbị cấm autonomoustự trị weaponsvũ khí in the U.S. militaryquân đội,
188
606228
4776
Chỉ thị này tạm thời nghiêm cấm hiệu quả vũ khí tự động trong quân đội Mỹ
10:23
but that directivechỉ thị needsnhu cầu to be madethực hiện permanentdài hạn.
189
611004
3753
nhưng cần thực hiện lâu dài, cố định.
10:26
And it could setbộ the stagesân khấu for globaltoàn cầu actionhoạt động.
190
614757
4376
Nó có thể đặt nền tảng cho hành động toàn cầu.
10:31
Because we need an internationalquốc tế legalhợp pháp frameworkkhuôn khổ
191
619133
3845
Vì chúng ta cần một khung pháp lý quốc tế
10:34
for roboticrobot weaponsvũ khí.
192
622978
2138
đối với vũ khí rô-bốt.
10:37
And we need it now, before there's a devastatingtàn phá attacktấn công
193
625116
2928
Ta cần nó ngay, trước khi có cuộc tấn công tàn phá
10:40
or a terroristkhủng bố incidentbiến cố that causesnguyên nhân nationsquốc gia of the worldthế giới
194
628044
3152
hay một vụ khủng bố khiến các quốc gia
10:43
to rushvội vã to adoptthông qua these weaponsvũ khí
195
631196
1924
đua nhau sử dụng loại vũ khí này
10:45
before thinkingSuy nghĩ throughxuyên qua the consequenceshậu quả.
196
633120
3771
trước khi lường tới hậu quả của chúng.
10:48
AutonomousTự trị roboticrobot weaponsvũ khí concentratetập trung too much powerquyền lực
197
636891
2981
Vũ khí rô-bốt tự động tập trung quá nhiều quyền lực
10:51
in too fewvài handstay, and they would imperilimperil democracydân chủ itselfchinh no.
198
639872
6283
vào một vài cá nhân, và chúng sẽ tự
phá hủy nền dân chủ
10:58
Now, don't get me wrongsai rồi, I think there are tonstấn
199
646155
2686
Tôi nghĩ có hàng tấn lợi ích
11:00
of great usessử dụng for unarmedkhông có vũ khí civiliandân thường dronesmục tiêu giả lập:
200
648841
2618
từ máy bay dân sự không người lái, phi vũ khí:
11:03
environmentalmôi trường monitoringgiám sát, searchTìm kiếm and rescuecứu hộ, logisticshậu cần.
201
651459
3939
quán lý môi trường, tìm kiếm và cứu hộ, hậu cần.
11:07
If we have an internationalquốc tế treatyHiệp ước on roboticrobot weaponsvũ khí,
202
655398
2826
Nếu có hiệp ước quốc tế về vũ khi rô-bốt,
11:10
how do we gainthu được the benefitslợi ích of autonomoustự trị dronesmục tiêu giả lập
203
658224
3587
làm thế nào để thu được lợi ích từ máy bay
11:13
and vehiclesxe while still protectingbảo vệ ourselveschúng ta
204
661811
2648
và phương tiện tự động mà vẫn tự vệ
11:16
againstchống lại illegalbất hợp pháp roboticrobot weaponsvũ khí?
205
664459
3980
khỏi vũ khí rô-bốt phi pháp được?
11:20
I think the secretbí mật will be transparencyminh bạch.
206
668439
4741
Tôi nghĩ bí mật khá rõ ràng
11:25
No robotrobot should have an expectationkỳ vọng of privacysự riêng tư
207
673180
3013
Không có rô-bốt nào được phép đòi hỏi quyền riêng tư
11:28
in a publiccông cộng placeđịa điểm.
208
676193
3451
tại nơi công cộng cả.
11:31
(ApplauseVỗ tay)
209
679644
5048
(Vỗ tay)
11:36
EachMỗi robotrobot and dronemục tiêu giả should have
210
684692
2045
Rô-bốt và máy bay không người lái cần có
11:38
a cryptographicallymã hóa signedký kết I.D. burnedđốt in at the factorynhà máy
211
686737
2883
ID hiệu mật mã tại nhà máy
11:41
that can be used to tracktheo dõi its movementphong trào throughxuyên qua publiccông cộng spaceskhông gian.
212
689620
2923
để theo dõi di chuyển của nó
ngoài không gian công cộng
11:44
We have licensegiấy phép platestấm on carsxe hơi, tailđuôi numberssố on aircraftphi cơ.
213
692543
3381
Chúng ta có biển số xe hơi, số đuôi máy bay
11:47
This is no differentkhác nhau.
214
695924
1841
Điều này cũng không có gì khác.
11:49
And everymỗi citizencông dân should be ablecó thể to downloadtải về an appứng dụng
215
697765
2012
Mọi công dân nên có thể tải một ứng dụng
11:51
that showstrình diễn the populationdân số of dronesmục tiêu giả lập and autonomoustự trị vehiclesxe
216
699777
3125
mô tả số lượng máy bay không người lái
và phương tiện tự động
11:54
movingdi chuyển throughxuyên qua publiccông cộng spaceskhông gian around them,
217
702902
2429
di chuyển trong không gian xung quanh chúng ta
11:57
bothcả hai right now and historicallylịch sử.
218
705331
2733
cả ở hiện tại và trong quá khứ.
12:00
And civiccông dân leaderslãnh đạo should deploytriển khai sensorscảm biến and civiccông dân dronesmục tiêu giả lập
219
708064
3548
Các nhà lãnh đạo nên triển khai máy cảm biến và máy bay dân sự không người lái
12:03
to detectphát hiện rogueRogue dronesmục tiêu giả lập,
220
711612
2344
để xác định máy bay xấu
12:05
and insteadthay thế of sendinggửi killersát thủ dronesmục tiêu giả lập of theirhọ ownsở hữu up to shootbắn them down,
221
713956
3176
và gửi rô-bốt sát thủ của mình tới tiêu diệt chúng,
12:09
they should notifythông báo cho humanscon người to theirhọ presencesự hiện diện.
222
717132
2992
chúng cần xác định sự hiện diện của con người.
12:12
And in certainchắc chắn very high-securitybảo mật cao areaskhu vực,
223
720124
2606
Trong khu vực an ninh cao,
12:14
perhapscó lẽ civiccông dân dronesmục tiêu giả lập would snarecạm bẫy them
224
722730
1909
máy bay dân sự không người lái
có thể sẽ cài bẫy
12:16
and dragkéo them off to a bombbom disposalMáy nghiền rác facilitycơ sở.
225
724639
2841
và dụ chúng đến một cơ sở chuyên để loại bỏ mỗi nguy hại
12:19
But noticeđể ý, this is more an immunemiễn dịch systemhệ thống
226
727480
3027
Nhưng lưu ý, đây là hệ thống miễn dịch
12:22
than a weaponsvũ khí systemhệ thống.
227
730507
1321
chứ không phải hệ thống vũ khí
12:23
It would allowcho phép us to availtận dụng ourselveschúng ta of the use
228
731828
2592
Nó giúp ta thu lợi nhờ sử dụng
12:26
of autonomoustự trị vehiclesxe and dronesmục tiêu giả lập
229
734420
2032
phương tiện và máy bay tự động,
12:28
while still preservingbảo quản our openmở, civildân sự societyxã hội.
230
736452
4295
đồng thời vẫn duy trì nền xã hội dân sự.
12:32
We mustphải banlệnh cấm the deploymenttriển khai and developmentphát triển
231
740747
2999
Ta phải nghiêm cấm khiển khai và phát triển
12:35
of killersát thủ robotsrobot.
232
743746
1862
rô-bốt sát thủ.
12:37
Let's not succumbsuccumb to the temptationCám dỗ to automatetự động hoá warchiến tranh.
233
745608
4850
Đừng để cám dỗ bởi chiến tranh tự động
12:42
AutocraticĐộc đoán governmentscác chính phủ and criminalphạm tội organizationstổ chức
234
750458
2718
Chính phủ chuyên quyền và tổ chức tội phạm
12:45
undoubtedlychắc chắn will, but let's not jointham gia them.
235
753176
2956
chắc chắn sẽ làm theo cám dỗ,
nhưng ta đừng làm theo họ
12:48
AutonomousTự trị roboticrobot weaponsvũ khí
236
756132
1891
Vũ khí rô-bốt tự động
12:50
would concentratetập trung too much powerquyền lực
237
758023
2051
tập trung quá nhiều quyền lực
12:52
in too fewvài unseenthần bí handstay,
238
760074
2482
vào một vài bàn tay vô hình
12:54
and that would be corrosiveăn mòn to representativeTiêu biểu governmentchính quyền.
239
762556
3255
và có thể phá hủy chính phủ đại diện
12:57
Let's make sure, for democraciesnền dân chủ at leastít nhất,
240
765811
2961
Hãy chắc chắn rằng, ít nhất là với nền dân chủ,
13:00
killersát thủ robotsrobot remainvẫn còn fictionviễn tưởng.
241
768772
2604
rô-bốt sát thủ chỉ là điều viễn tưởng.
13:03
Thank you.
242
771376
1110
Xin cảm ơn.
13:04
(ApplauseVỗ tay)
243
772486
4565
(Vỗ tay)
13:09
Thank you. (ApplauseVỗ tay)
244
777051
4616
Cảm ơn. (Vỗ tay)
Translated by Nga Pham
Reviewed by Quang Hải Đinh

▲Back to top

ABOUT THE SPEAKER
Daniel Suarez - Sci-fi author
Daniel Suarez concocts thrilling reads from terrifying (and not-so-farfetched) near-future scenarios.

Why you should listen

While working as a software developer, Daniel Suarez self-published Daemon, a cyber-thriller depicting a future where society is radically reshaped by disruptive technologies. It struck a chord -- and so did the sequel, Freedom (TM) -- rocketing Suarez into the pantheon of sci-fi prophets.

In his 2012 novel Kill Decision, Suarez digs into the consequences of technology that’s here to stay: autonomous bots and drones programmed to be lethal. Suarez argues that as we cede more control to software, we gamble with the very essence of democracy itself. How can we establish sane guidelines for technology that could easily outstrip our control?

More profile about the speaker
Daniel Suarez | Speaker | TED.com