TEDxSiliconValley
Damon Horowitz: We need a "moral operating system"
Damon Horowitz felhívása egy "erkölcsi operációs rendszer" érdekében
Filmed:
Readability: 3.2
795,617 views
A TEDxSiliconValley-n, Damon Horowitz értékeli azokat a hatalmas új erőket, amelyeket a technológia ad nekünk: hogy többet tudunk, -- és egymásról is -- mint valaha. A közönséget filozófiai beszélgetésbe vonva, Horrowitz arra hív bennünket, hogy egy újfajta figyelemmel forduljunk az alapfilozófiák felé -- az erkölcsi alapelvek irányába -- amelyek a világunkat újjávarázsoló találmányok sorozata mögött rejlenek. Hol búvik meg az az erkölcsi operációs rendszer, amely lehetővé teszi számunkra, hogy valami értelmeset hozunk ki belőlük?
Damon Horowitz - Philosopher, entrepreneur
Damon Horowitz explores what is possible at the boundaries of technology and the humanities. Full bio
Damon Horowitz explores what is possible at the boundaries of technology and the humanities. Full bio
Double-click the English transcript below to play the video.
00:15
Power.
0
0
2000
Erő.
00:17
That is the word that comes to mind.
1
2000
2000
Ez a szó jut eszembe.
00:19
We're the new technologists.
2
4000
2000
Mi vagyunk az új technológus szakemberek.
00:21
We have a lot of data, so we have a lot of power.
3
6000
3000
Rengeteg adatunk van, így nagy a hatalmunk!
00:24
How much power do we have?
4
9000
2000
Mekkora a hatalmunk?
00:26
Scene from a movie: "Apocalypse Now" -- great movie.
5
11000
3000
Jelenet egy filmből: "Apokalipszis most" -- nagyszerű film.
00:29
We've got to get our hero, Captain Willard, to the mouth of the Nung River
6
14000
3000
El kell vinnünk hősünket, Willard Kapitányt a Nung folyó torkolatához,
00:32
so he can go pursue Colonel Kurtz.
7
17000
2000
hogy elkaphassa Kurtz ezredest.
00:34
The way we're going to do this is fly him in and drop him off.
8
19000
2000
Úgy fogjuk ezt véghezvinni, hogy beröpítjük, majd ledobjuk.
00:36
So the scene:
9
21000
2000
Tehát a jelenet:
00:38
the sky is filled with this fleet of helicopters carrying him in.
10
23000
3000
az égbolt alig látszik a helikopter flottától, ami őt szállítja.
00:41
And there's this loud, thrilling music in the background,
11
26000
2000
És itt van ez a hangos, balsejtelmű zene a háttérben,
00:43
this wild music.
12
28000
2000
ez a vad zene.
00:45
♫ Dum da ta da dum ♫
13
30000
2000
♫ Dum da ta da dum ♫
00:47
♫ Dum da ta da dum ♫
14
32000
2000
♫ Dum da ta da dum ♫
00:49
♫ Da ta da da ♫
15
34000
3000
♫ Da ta da da ♫
00:52
That's a lot of power.
16
37000
2000
Na ez rengeteg erő!
00:54
That's the kind of power I feel in this room.
17
39000
2000
Ez az az erő, amit ebben a helységben is érzékelek.
00:56
That's the kind of power we have
18
41000
2000
Ez az az erő, amink van
00:58
because of all of the data that we have.
19
43000
2000
a sok adat eredményeképpen, amink van.
01:00
Let's take an example.
20
45000
2000
Vegyünk egy példát.
01:02
What can we do
21
47000
2000
Mit tehetünk
01:04
with just one person's data?
22
49000
3000
egyetlen ember adataival?
01:07
What can we do
23
52000
2000
Mit tehetünk
01:09
with that guy's data?
24
54000
2000
annak a srácnak az adataival?
01:11
I can look at your financial records.
25
56000
2000
Megnézhetem a pénzügyi nyilvántartásaidat.
01:13
I can tell if you pay your bills on time.
26
58000
2000
Megmondhatom, hogy időben fizeted-e ki a számláidat.
01:15
I know if you're good to give a loan to.
27
60000
2000
Tudom, hogy olyan vagy-e, akinek érdemes kölcsönt adni.
01:17
I can look at your medical records; I can see if your pump is still pumping --
28
62000
3000
Megnézhetem az orvosi feljegyzéseidet, hogy a szíved pumpál-e még --
01:20
see if you're good to offer insurance to.
29
65000
3000
hogy vajon érdemes-e neked biztosítást ajánlani.
01:23
I can look at your clicking patterns.
30
68000
2000
Meg tudom nézni a választási szokásaidat.
01:25
When you come to my website, I actually know what you're going to do already
31
70000
3000
Amikor a weboldalamra lépsz, akkor már gyakorlatilag tudom, mit fogsz ott tenni,
01:28
because I've seen you visit millions of websites before.
32
73000
2000
mert láttam, ahogy többmillió weboldalt végigböngésztél.
01:30
And I'm sorry to tell you,
33
75000
2000
És sajnálom, hogy ezt kell mondjam,
01:32
you're like a poker player, you have a tell.
34
77000
2000
de olyan vagy, mint egy pókerjátékos, lebuktál.
01:34
I can tell with data analysis what you're going to do
35
79000
2000
Meg tudom mondani adatelemzéssel, hogy
01:36
before you even do it.
36
81000
2000
mit fogsz tenni, még mielőtt megtennéd.
01:38
I know what you like. I know who you are,
37
83000
3000
Tudom, mit szeretsz. Tudom, ki vagy.
01:41
and that's even before I look at your mail
38
86000
2000
És mindezt még azelőtt, hogy megnéztem
01:43
or your phone.
39
88000
2000
volna a levelezésedet, vagy a telefonodat!
01:45
Those are the kinds of things we can do
40
90000
2000
Ilyesféléket vagyunk képesek leolvasni
01:47
with the data that we have.
41
92000
3000
azon adatok alapján, amik vannak.
01:50
But I'm not actually here to talk about what we can do.
42
95000
3000
De valójában nem azért vagyok itt, hogy arról beszéljek, mit tehetünk.
01:56
I'm here to talk about what we should do.
43
101000
3000
Azért vagyok itt, hogy arról beszéljek, hogy mit kéne tennünk.
02:00
What's the right thing to do?
44
105000
3000
Mi a helyes cselekedet?
02:04
Now I see some puzzled looks
45
109000
2000
Most látok néhány zavarodott tekintetet,
02:06
like, "Why are you asking us what's the right thing to do?
46
111000
3000
azaz, "Miért kérdezi tőlünk, hogy mi a helyes cselekedet?
02:09
We're just building this stuff. Somebody else is using it."
47
114000
3000
Mi csak építjük ezeket a cuccokat! Valaki más meg használja!
02:12
Fair enough.
48
117000
3000
Persze, igaz.
02:15
But it brings me back.
49
120000
2000
De ez megint visszavezet oda.
02:17
I think about World War II --
50
122000
2000
A II. világháborúra gondolok --
02:19
some of our great technologists then,
51
124000
2000
néhány akkori nagy szakemberünkre,
02:21
some of our great physicists,
52
126000
2000
néhány nagy fizikusunkra,
02:23
studying nuclear fission and fusion --
53
128000
2000
akik nukleáris maghasadást és fúziót tanulmányoztak --
02:25
just nuclear stuff.
54
130000
2000
csak nukleáris dolgokat.
02:27
We gather together these physicists in Los Alamos
55
132000
3000
Összejövünk ezekkel a fizikusokkal Los Alamosban,
02:30
to see what they'll build.
56
135000
3000
hogy megnézzük, mit fognak összehozni.
02:33
We want the people building the technology
57
138000
3000
Azt akarjuk, hogy az emberek építsenek technológiákat,
02:36
thinking about what we should be doing with the technology.
58
141000
3000
miközben arra gondolunk, hogy mit kéne tennünk ezzel a technológiával.
02:41
So what should we be doing with that guy's data?
59
146000
3000
Nos, mit kezdenénk a srác adataival?
02:44
Should we be collecting it, gathering it,
60
149000
3000
Összeszednénk, összegyűjtenénk,
02:47
so we can make his online experience better?
61
152000
2000
azért, hogy az internetes élményei jobbak legyenek?
02:49
So we can make money?
62
154000
2000
Hogy pénzt csináljunk belőle?
02:51
So we can protect ourselves
63
156000
2000
Hogy meg tudjuk védeni magunkat ellene,
02:53
if he was up to no good?
64
158000
2000
ha valami rosszban törné a fejét?
02:55
Or should we respect his privacy,
65
160000
3000
Vagy tartsuk tiszteletben a magánszféráját,
02:58
protect his dignity and leave him alone?
66
163000
3000
és méltóságát és hagyjuk békén?
03:02
Which one is it?
67
167000
3000
Na, melyik legyen?
03:05
How should we figure it out?
68
170000
2000
Hogy találjuk ki?
03:07
I know: crowdsource. Let's crowdsource this.
69
172000
3000
Tudom már: közvélemény kutatás. Csináljuk azt!
03:11
So to get people warmed up,
70
176000
3000
A bemelegítés kedvéért
03:14
let's start with an easy question --
71
179000
2000
kezdjünk egy könnyű kérdéssel --
03:16
something I'm sure everybody here has an opinion about:
72
181000
3000
valami olyannal, amiről itt szerintem mindenkinek
03:19
iPhone versus Android.
73
184000
2000
van véleménye: iPhone és Android.
03:21
Let's do a show of hands -- iPhone.
74
186000
3000
Emeljék fel a kezüket, akik iPhone-ra szavaznak.
03:24
Uh huh.
75
189000
2000
Aha.
03:26
Android.
76
191000
3000
Android.
03:29
You'd think with a bunch of smart people
77
194000
2000
Az ember azt gondolná, hogy ennyi okos ember
03:31
we wouldn't be such suckers just for the pretty phones.
78
196000
2000
nem mind balek, hogy a szép telefont válassza!
03:33
(Laughter)
79
198000
2000
(Nevetés)
03:35
Next question,
80
200000
2000
Következő kérdés,
03:37
a little bit harder.
81
202000
2000
egy kicsit nehezebb.
03:39
Should we be collecting all of that guy's data
82
204000
2000
Azért gyűjtsük össze a srác adatait,
03:41
to make his experiences better
83
206000
2000
hogy az élményeit színesítsük,
03:43
and to protect ourselves in case he's up to no good?
84
208000
3000
és megvédjük magunkat, ha rosszat akarna?
03:46
Or should we leave him alone?
85
211000
2000
Vagy hagyjuk meg magának?
03:48
Collect his data.
86
213000
3000
Gyűjtsük az adatait.
03:53
Leave him alone.
87
218000
3000
Hagyjuk magának.
03:56
You're safe. It's fine.
88
221000
2000
Biztonságban vannak. Minden OK.
03:58
(Laughter)
89
223000
2000
(Nevetés)
04:00
Okay, last question --
90
225000
2000
OK, utolsó kérdés --
04:02
harder question --
91
227000
2000
nehezebb kérdés --
04:04
when trying to evaluate
92
229000
3000
amikor próbáljuk mérlegelni, hogy
04:07
what we should do in this case,
93
232000
3000
vajon mit tegyünk egy ilyen esetben,
04:10
should we use a Kantian deontological moral framework,
94
235000
4000
a Kant-féle etikai erkölcs keretében,
04:14
or should we use a Millian consequentialist one?
95
239000
3000
vagy a Mill-féle következetes gondolkodásmód szerint járjunk el?
04:19
Kant.
96
244000
3000
Kant.
04:22
Mill.
97
247000
3000
Mill.
04:25
Not as many votes.
98
250000
2000
Most nincs annyi szavazat.
04:27
(Laughter)
99
252000
3000
(Nevetés)
04:30
Yeah, that's a terrifying result.
100
255000
3000
Hát igen, na ez ijesztő eredmény.
04:34
Terrifying, because we have stronger opinions
101
259000
4000
Azért ijesztő, mert határozottabb véleményünk
04:38
about our hand-held devices
102
263000
2000
van a kézzelfogható eszközeinkkel kapcsolatban,
04:40
than about the moral framework
103
265000
2000
mint az erkölcsi keretekkel kapcsolatban,
04:42
we should use to guide our decisions.
104
267000
2000
amiket útmutatóul kéne használnunk a döntéseinkhez.
04:44
How do we know what to do with all the power we have
105
269000
3000
Honnan tudhatnánk akkor, hogy mit kezdjünk az összes
04:47
if we don't have a moral framework?
106
272000
3000
rendelkezésünkre álló erővel, ha nincs erkölcsi keretünk?
04:50
We know more about mobile operating systems,
107
275000
3000
Többet tudunk a mobilok operációs rendszeréről,
04:53
but what we really need is a moral operating system.
108
278000
3000
de amire igazán szükségünk lenne, az egy erkölcsi operációs rendszer.
04:58
What's a moral operating system?
109
283000
2000
Mi az az erkölcsi operációs rendszer?
05:00
We all know right and wrong, right?
110
285000
2000
Mind tudjuk, mi a jó és a rossz, igaz?
05:02
You feel good when you do something right,
111
287000
2000
Jól érezzük magunkat, amikor valami jót teszünk,
05:04
you feel bad when you do something wrong.
112
289000
2000
rosszul érezzük magunkat, amikor valami rosszat teszünk.
05:06
Our parents teach us that: praise with the good, scold with the bad.
113
291000
3000
Szüleink tanítják ezt: dicséret jár, ha jók vagyunk, szidás, ha rosszak.
05:09
But how do we figure out what's right and wrong?
114
294000
3000
De mi alapján döntjük el, mi a jó és a rossz?
05:12
And from day to day, we have the techniques that we use.
115
297000
3000
És napról napra különféle technikákat használunk ennek érdekében.
05:15
Maybe we just follow our gut.
116
300000
3000
Előfordul, hogy csak a hasunkra ütünk.
05:18
Maybe we take a vote -- we crowdsource.
117
303000
3000
Lehet, hogy szavazatokat számlálunk -- közvélemény kutatást végzünk.
05:21
Or maybe we punt --
118
306000
2000
Vagy hazardírozunk --
05:23
ask the legal department, see what they say.
119
308000
3000
megkérdezzük a jogi osztályt, lássuk, mit mondanak ők.
05:26
In other words, it's kind of random,
120
311000
2000
Más szóval, elég esetleges,
05:28
kind of ad hoc,
121
313000
2000
eléggé ad hoc,
05:30
how we figure out what we should do.
122
315000
3000
az, ahogy kitaláljuk, mit is tegyünk.
05:33
And maybe, if we want to be on surer footing,
123
318000
3000
És lehet, hogy ha biztosabb alapokat akarunk,
05:36
what we really want is a moral framework that will help guide us there,
124
321000
3000
akkor valójában egy erkölcsi keretet szeretnénk, ami segít eligazodni,
05:39
that will tell us what kinds of things are right and wrong in the first place,
125
324000
3000
ami megmondaná, hogy melyek azok a dolgok, amik elsőkézből jók, vagy rosszak,
05:42
and how would we know in a given situation what to do.
126
327000
4000
és hogyan tudhatjuk meg egy adott szituban, hogy mit tegyünk.
05:46
So let's get a moral framework.
127
331000
2000
Határozzunk meg akkor egy erkölcsi keretet.
05:48
We're numbers people, living by numbers.
128
333000
3000
A számok emberei vagyunk, számok szerint
05:51
How can we use numbers
129
336000
2000
élünk. Hogyan használhatjuk fel a számokat
05:53
as the basis for a moral framework?
130
338000
3000
az erkölcsi keret alapjául?
05:56
I know a guy who did exactly that.
131
341000
3000
Ismerek egy srácot, aki éppen ezt tette,
05:59
A brilliant guy --
132
344000
3000
nagyszerű srác --
06:02
he's been dead 2,500 years.
133
347000
3000
már 2500 éve meghalt.
06:05
Plato, that's right.
134
350000
2000
Plátón, igen.
06:07
Remember him -- old philosopher?
135
352000
2000
Emlékeznek rá -- ókori filozófusra?
06:09
You were sleeping during that class.
136
354000
3000
Aludtak az alatt az óra alatt.
06:12
And Plato, he had a lot of the same concerns that we did.
137
357000
2000
Nos, Plátónnak hasonló aggályai voltak, mint nekünk.
06:14
He was worried about right and wrong.
138
359000
2000
Ő is a jó és rossz kérdése miatt aggodalmaskodott.
06:16
He wanted to know what is just.
139
361000
2000
Tudni akarta, mi az igazságos.
06:18
But he was worried that all we seem to be doing
140
363000
2000
De nehezményezte, hogy úgy tűnik, mindössze
06:20
is trading opinions about this.
141
365000
2000
annyit teszünk ezügyben, hogy véleményekkel kereskedünk.
06:22
He says something's just. She says something else is just.
142
367000
3000
Az egyik azt mondja, ez az igazságos. A másik a másikra szavaz.
06:25
It's kind of convincing when he talks and when she talks too.
143
370000
2000
Az is meggyőző, ha az egyik beszél, de az is, ha a másik beszél.
06:27
I'm just going back and forth; I'm not getting anywhere.
144
372000
2000
Így csak oda-vissza dőlök; sehova sem jutok!
06:29
I don't want opinions; I want knowledge.
145
374000
3000
Nem véleményeket akarok, hanem tudást!
06:32
I want to know the truth about justice --
146
377000
3000
Tudni akarom az igazat az igazsággal kapcsolatban --
06:35
like we have truths in math.
147
380000
3000
mint ahogy a matekban is vannak igazságok.
06:38
In math, we know the objective facts.
148
383000
3000
Matekban ismerjük az objektív tényeket.
06:41
Take a number, any number -- two.
149
386000
2000
Vegyünk egy számot, bármelyiket -- kettő.
06:43
Favorite number. I love that number.
150
388000
2000
A kedvencem. Imádom ezt a számot.
06:45
There are truths about two.
151
390000
2000
Vannak igazságok a kettővel kapcsolatban.
06:47
If you've got two of something,
152
392000
2000
Ha van két akármid,
06:49
you add two more, you get four.
153
394000
2000
és hozzáadsz még kettőt, akkor négyed lesz.
06:51
That's true no matter what thing you're talking about.
154
396000
2000
Ez így igaz, teljesen mindegy, miről beszélünk.
06:53
It's an objective truth about the form of two,
155
398000
2000
Ez egy objektív igazság a kettő formájával kapcsolatban,
06:55
the abstract form.
156
400000
2000
az elvont formájával kapcsolatban.
06:57
When you have two of anything -- two eyes, two ears, two noses,
157
402000
2000
Ha van két akármid -- két szem, két fül, két orr,
06:59
just two protrusions --
158
404000
2000
csak két kiálló valamid --
07:01
those all partake of the form of two.
159
406000
3000
akkor azok együtt teszik ki a kettő alakját.
07:04
They all participate in the truths that two has.
160
409000
4000
Ketten együtt vesznek részt abban az igazságban, amivel a kettő bír.
07:08
They all have two-ness in them.
161
413000
2000
Mindegyikükben benne van a kettő-ség.
07:10
And therefore, it's not a matter of opinion.
162
415000
3000
Ez tehát nem vélemény kérdése.
07:13
What if, Plato thought,
163
418000
2000
Mi van akkor, ha Platón szerint
07:15
ethics was like math?
164
420000
2000
az etika is olyan, mint a matek?
07:17
What if there were a pure form of justice?
165
422000
3000
Mi van akkor, ha létezik az igazságosság tiszta formában?
07:20
What if there are truths about justice,
166
425000
2000
Ha vannak igazságok az igazságossággal kapcsolatban?
07:22
and you could just look around in this world
167
427000
2000
és csak egyszerűen körbe kéne nézni a világban
07:24
and see which things participated,
168
429000
2000
és meglátnánk, mely dolgok alkotják,
07:26
partook of that form of justice?
169
431000
3000
vesznek részt az igazságosság megformálásában?
07:29
Then you would know what was really just and what wasn't.
170
434000
3000
Akkor tudnánk, mi az, ami tényleg igazságos, és mi nem.
07:32
It wouldn't be a matter
171
437000
2000
Nem lenne többé pusztán
07:34
of just opinion or just appearances.
172
439000
3000
vélemény, vagy külső megjelenés függvénye.
07:37
That's a stunning vision.
173
442000
2000
Ez egy lélegzetelállító jövőkép.
07:39
I mean, think about that. How grand. How ambitious.
174
444000
3000
Gondolják csak el, milyen nagyszabású, nagyratörő elképzelés!
07:42
That's as ambitious as we are.
175
447000
2000
Olyan nagyratörő, amilyenek mi vagyunk.
07:44
He wants to solve ethics.
176
449000
2000
Meg akarja oldani az erkölcs kérdését.
07:46
He wants objective truths.
177
451000
2000
Objektív igazságokat akar.
07:48
If you think that way,
178
453000
3000
Ha ilyen elvek mentén gondolkozol,
07:51
you have a Platonist moral framework.
179
456000
3000
akkor Plátóni erkölcsi kereteket alkalmazol.
07:54
If you don't think that way,
180
459000
2000
Ha nem így gondolkozol,
07:56
well, you have a lot of company in the history of Western philosophy,
181
461000
2000
nos, akkor sok kísérőd lesz a Nyugati filozófia történetéből,
07:58
because the tidy idea, you know, people criticized it.
182
463000
3000
mert minél rendezettebb egy elképzelés -- tudjuk, annál többen kritizálják.
08:01
Aristotle, in particular, he was not amused.
183
466000
3000
Arisztotelész különösképpen, egyáltalán nem volt lenyűgözve.
08:04
He thought it was impractical.
184
469000
3000
Szerinte ez járhatatlan, megvalósíthatatlan.
08:07
Aristotle said, "We should seek only so much precision in each subject
185
472000
4000
Arisztotelész azt mondta: "Csak annyi pontosságot keressünk mindenben,
08:11
as that subject allows."
186
476000
2000
amennyit az a téma megenged!"
08:13
Aristotle thought ethics wasn't a lot like math.
187
478000
3000
Arisztotelész szerint az etika egyáltalán nem olyan, mint a matek.
08:16
He thought ethics was a matter of making decisions in the here-and-now
188
481000
3000
Szerinte az erkölcs az itt-és-most döntésekről szól,
08:19
using our best judgment
189
484000
2000
számításba véve tőlünk telhető legjobb ítélkezést,
08:21
to find the right path.
190
486000
2000
a járható út megtalálása érdekében.
08:23
If you think that, Plato's not your guy.
191
488000
2000
Ha így gondolkodsz, akkor Plátón nem a te figurád,
08:25
But don't give up.
192
490000
2000
de azért ne add fel!
08:27
Maybe there's another way
193
492000
2000
Talán van egy másik mód arra, hogy
08:29
that we can use numbers as the basis of our moral framework.
194
494000
3000
felhasználhassuk a számokat erkölcsi keretünk alapjaként.
08:33
How about this:
195
498000
2000
Mit szóltok ehhez:
08:35
What if in any situation you could just calculate,
196
500000
3000
Mi van akkor, ha bármely helyzetben ki tudnák számolni
08:38
look at the choices,
197
503000
2000
számításba véve a választási lehetőségeket,
08:40
measure out which one's better and know what to do?
198
505000
3000
ki tudnák mérni, melyik a jobb, és akkor mit lehet tenni?
08:43
That sound familiar?
199
508000
2000
Ismerősen hangzik?
08:45
That's a utilitarian moral framework.
200
510000
3000
Ez az utilitárius erkölcsi keret.
08:48
John Stuart Mill was a great advocate of this --
201
513000
2000
John Stuart Mill nagy támogatója volt ennek --
08:50
nice guy besides --
202
515000
2000
jó srácok vannak mellettünk --
08:52
and only been dead 200 years.
203
517000
2000
és csak 200 éve halott.
08:54
So basis of utilitarianism --
204
519000
2000
Tehát az utilitarizmus alapja --
08:56
I'm sure you're familiar at least.
205
521000
2000
biztos vagyok benne, hogy legalább fogalmatok van róla.
08:58
The three people who voted for Mill before are familiar with this.
206
523000
2000
Az a 3 ember, aki az előbb rá szavazott, legalábbis ismeri.
09:00
But here's the way it works.
207
525000
2000
De megmutatom, hogy működik ez.
09:02
What if morals, what if what makes something moral
208
527000
3000
Mi van akkor, ha az tesz valamit erkölcsössé,
09:05
is just a matter of if it maximizes pleasure
209
530000
2000
csak annak a függvénye, hogy az örömet maximalizálja,
09:07
and minimizes pain?
210
532000
2000
és a fájdalmat minimalizálja?
09:09
It does something intrinsic to the act.
211
534000
3000
Ennek valamiféle lényegi hatása van a cselekedetre.
09:12
It's not like its relation to some abstract form.
212
537000
2000
Nem olyan, mint az elvont dolgokkal való kapcsolat.
09:14
It's just a matter of the consequences.
213
539000
2000
Hanem csak a következmény a lényeges.
09:16
You just look at the consequences
214
541000
2000
Csak megnézzük a következményeket,
09:18
and see if, overall, it's for the good or for the worse.
215
543000
2000
és megnézzük, hogy összességében jót okoz, vagy rosszat.
09:20
That would be simple. Then we know what to do.
216
545000
2000
Ez igen egyszerű lenne. Akkor tudnánk, mit
09:22
Let's take an example.
217
547000
2000
kell tenni. Vegyünk egy példát.
09:24
Suppose I go up
218
549000
2000
Tegyük fel, fogom magam
09:26
and I say, "I'm going to take your phone."
219
551000
2000
és azt mondom, "Elveszem a telefonodat!".
09:28
Not just because it rang earlier,
220
553000
2000
Nem csak azért, mert nemrég csörgött,
09:30
but I'm going to take it because I made a little calculation.
221
555000
3000
hanem azért is, mert végeztem egy kis számítást.
09:33
I thought, that guy looks suspicious.
222
558000
3000
Szerintem a srác gyanús.
09:36
And what if he's been sending little messages to Bin Laden's hideout --
223
561000
3000
És mi van, ha Bin Laden rejtekhelyére küldözget sms-eket --
09:39
or whoever took over after Bin Laden --
224
564000
2000
vagy akárki is vette át az uralmat Bin Laden után --
09:41
and he's actually like a terrorist, a sleeper cell.
225
566000
3000
és tisztára mintha valami terrorista lenne, egy alvó sejt.
09:44
I'm going to find that out, and when I find that out,
226
569000
3000
Ezt akarom megvizsgálni, és miközben ezt vizsgálom
09:47
I'm going to prevent a huge amount of damage that he could cause.
227
572000
3000
persze meg is spórolok egy csomó veszélyt, amit ő jelenthet.
09:50
That has a very high utility to prevent that damage.
228
575000
3000
Ennek a veszélynek a megelőzése nagyon nagy haszonnal bír.
09:53
And compared to the little pain that it's going to cause --
229
578000
2000
És összehasonlítva azzal a kis fájdalommal, amit okoz --
09:55
because it's going to be embarrassing when I'm looking on his phone
230
580000
2000
mert persze az kínos lesz, amikor a telefonját vizsgálgatom,
09:57
and seeing that he has a Farmville problem and that whole bit --
231
582000
3000
és azt találom, hogy csak Farmville-es
10:00
that's overwhelmed
232
585000
3000
problémái akadnak, meg ilyesmik -- ez eltörpül
10:03
by the value of looking at the phone.
233
588000
2000
a telefon átvilágításának értékessége mellett.
10:05
If you feel that way,
234
590000
2000
Ha így érzed magad,
10:07
that's a utilitarian choice.
235
592000
3000
na akkor ez az utilitárius választás.
10:10
But maybe you don't feel that way either.
236
595000
3000
De lehet, hogy még ez sem a te érzésed szerint való.
10:13
Maybe you think, it's his phone.
237
598000
2000
Lehet, hogy úgy gondolod: ez az ő telefonja.
10:15
It's wrong to take his phone
238
600000
2000
Nem helyes elvenni a telefonját,
10:17
because he's a person
239
602000
2000
mert ő is egy személy,
10:19
and he has rights and he has dignity,
240
604000
2000
és vannak jogai, meg méltósága,
10:21
and we can't just interfere with that.
241
606000
2000
és abba nem szabad csak úgy egyszerűen beleavatkozni.
10:23
He has autonomy.
242
608000
2000
Önrendelkezési joga van.
10:25
It doesn't matter what the calculations are.
243
610000
2000
Tök mindegy, mit számítunk ki.
10:27
There are things that are intrinsically wrong --
244
612000
3000
Vannak dolgok, amik alapvetően nem helyesek --
10:30
like lying is wrong,
245
615000
2000
mint például hazudni helytelen,
10:32
like torturing innocent children is wrong.
246
617000
3000
ártatlan gyermekeket kínozni is helytelen.
10:35
Kant was very good on this point,
247
620000
3000
Kant ebben nagyon jó volt,
10:38
and he said it a little better than I'll say it.
248
623000
2000
és egy kicsit jobban adta elő, mint ahogyan én fogom.
10:40
He said we should use our reason
249
625000
2000
Azt mondta, arra kéne használjuk az értelmünket,
10:42
to figure out the rules by which we should guide our conduct,
250
627000
3000
hogy kitaláljuk, mely szabályokat vegyük útmutatóul a viselkedésünkhöz.
10:45
and then it is our duty to follow those rules.
251
630000
3000
És akkor a mi feladatunk azon szabályok követése.
10:48
It's not a matter of calculation.
252
633000
3000
Nem számítás kérdése.
10:51
So let's stop.
253
636000
2000
Na álljunk akkor meg.
10:53
We're right in the thick of it, this philosophical thicket.
254
638000
3000
Benne vagyunk a sűrűjében, a filozófia erdejében.
10:56
And this goes on for thousands of years,
255
641000
3000
És így megy ez évezredeken át,
10:59
because these are hard questions,
256
644000
2000
mert ezek kemény kérdések,
11:01
and I've only got 15 minutes.
257
646000
2000
nekem viszont csak 15 percem van.
11:03
So let's cut to the chase.
258
648000
2000
Vágjuk rövidre!
11:05
How should we be making our decisions?
259
650000
4000
Hogyan hozzuk meg akkor a döntéseinket?
11:09
Is it Plato, is it Aristotle, is it Kant, is it Mill?
260
654000
3000
Plátón szerint, vagy Arisztotelész, Kant, ill. Mill szerint?
11:12
What should we be doing? What's the answer?
261
657000
2000
Mit tegyünk? Mi a válasz?
11:14
What's the formula that we can use in any situation
262
659000
3000
Melyik az a képlet, amit minden helyzetben használhatunk
11:17
to determine what we should do,
263
662000
2000
annak meghatározására, hogy mit tegyünk,
11:19
whether we should use that guy's data or not?
264
664000
2000
hogy hasznosítsuk annak a srácnak az adatait, avagy ne?
11:21
What's the formula?
265
666000
3000
Mi a szabály?
11:25
There's not a formula.
266
670000
2000
Nincs szabály!
11:29
There's not a simple answer.
267
674000
2000
Nincs egyszerű válasz!
11:31
Ethics is hard.
268
676000
3000
Az erkölcs kemény dió.
11:34
Ethics requires thinking.
269
679000
3000
Az erkölcshöz gondolkodásra van szükség.
11:38
And that's uncomfortable.
270
683000
2000
Márpedig ez kényelmetlen.
11:40
I know; I spent a lot of my career
271
685000
2000
Tudom; karrierem nagy részében
11:42
in artificial intelligence,
272
687000
2000
a mesterséges intelligenciával foglalkoztam,
11:44
trying to build machines that could do some of this thinking for us,
273
689000
3000
próbáltam olyan gépezeteket alkotni, amik elvégezhetnék
11:47
that could give us answers.
274
692000
2000
e gondolkodás egy részét helyettünk, amik válaszokat adhatnának.
11:49
But they can't.
275
694000
2000
De nem tudják megtenni.
11:51
You can't just take human thinking
276
696000
2000
Nem lehet egyszerűen csak fogni
11:53
and put it into a machine.
277
698000
2000
az emberi gondolkodást és betenni egy gépbe.
11:55
We're the ones who have to do it.
278
700000
3000
Nekünk magunknak kell ezt megtenni.
11:58
Happily, we're not machines, and we can do it.
279
703000
3000
Nagy örömünkre, nem vagyunk gépek, és meg tudjuk tenni.
12:01
Not only can we think,
280
706000
2000
Nemcsak hogy tudunk gondolkodni,
12:03
we must.
281
708000
2000
de kell is gondolkodnunk!
12:05
Hannah Arendt said,
282
710000
2000
Hannah Arendt szerint:
12:07
"The sad truth
283
712000
2000
"A szomorú igazság az, hogy
12:09
is that most evil done in this world
284
714000
2000
a világban a legtöbb szörnyű tett
12:11
is not done by people
285
716000
2000
nem abból következik, hogy vannak,
12:13
who choose to be evil.
286
718000
2000
akik a gonoszság mellett döntenek.
12:15
It arises from not thinking."
287
720000
3000
Hanem abból, hogy vannak, akik nem gondolkodnak!"
12:18
That's what she called the "banality of evil."
288
723000
4000
Ez az, amit így nevezett: "a gonosz banalitása".
12:22
And the response to that
289
727000
2000
És erre az a válasz, hogy
12:24
is that we demand the exercise of thinking
290
729000
2000
felszólítunk minden egyes épelméjű embert
12:26
from every sane person.
291
731000
3000
arra, hogy művelje a gondolkodást!
12:29
So let's do that. Let's think.
292
734000
2000
Úgyhogy akkor most tegyük is meg! Gondolkozzunk.
12:31
In fact, let's start right now.
293
736000
3000
Tényleg, próbáljuk meg most azonnal.
12:34
Every person in this room do this:
294
739000
3000
Mindenki itt a teremben, csináljuk együtt:
12:37
think of the last time you had a decision to make
295
742000
3000
idézd fel, mikor legutóbb valamivel kapcsolatban döntést kellett hoznod,
12:40
where you were worried to do the right thing,
296
745000
2000
amikor aggodalmaskodtál, vajon megtalálod-e a helyes választást,
12:42
where you wondered, "What should I be doing?"
297
747000
2000
amikor így töprengtél: "Mit is tegyek?"
12:44
Bring that to mind,
298
749000
2000
Idézd fel ezt!
12:46
and now reflect on that
299
751000
2000
És most, töprengj el rajta,
12:48
and say, "How did I come up that decision?
300
753000
3000
és tedd fel a kérdést: "Végül is hogyan tudtam dönteni?
12:51
What did I do? Did I follow my gut?
301
756000
3000
Mit is tettem? Vajon a megérzésemre hallgattam?
12:54
Did I have somebody vote on it? Or did I punt to legal?"
302
759000
2000
Vagy megszavaztattam? Jogszabályok szerint jártam el?"
12:56
Or now we have a few more choices.
303
761000
3000
Vagy van még néhány választási lehetőség.
12:59
"Did I evaluate what would be the highest pleasure
304
764000
2000
"Számításba vettem, mi adná a legnagyobb örömet,
13:01
like Mill would?
305
766000
2000
mint ahogy Mill tenné? Vagy Kantot követve használtam
13:03
Or like Kant, did I use reason to figure out what was intrinsically right?"
306
768000
3000
az okfejtést annak kiszámítására, mi az eredendően jó?
13:06
Think about it. Really bring it to mind. This is important.
307
771000
3000
Gondoljuk csak végig. Tényleg idézzük fel. Nagyon fontos.
13:09
It is so important
308
774000
2000
Annyira fontos, hogy
13:11
we are going to spend 30 seconds of valuable TEDTalk time
309
776000
2000
eltöltünk 30 másodpercnyi értékes TEDTalk időt
13:13
doing nothing but thinking about this.
310
778000
2000
azzal, hogy semmi mást nem teszünk, csak ezt gondoljuk végig!
13:15
Are you ready? Go.
311
780000
2000
Készen álltok? Rajt!
13:33
Stop. Good work.
312
798000
3000
Állj. Szép volt.
13:36
What you just did,
313
801000
2000
Amit most csináltunk, az az első lépés
13:38
that's the first step towards taking responsibility
314
803000
2000
a felelősségvállalás felé: hogy mit is kezdjünk
13:40
for what we should do with all of our power.
315
805000
3000
az összes rendelkezésünkre álló erővel.
13:45
Now the next step -- try this.
316
810000
3000
Namost a következő lépés -- próbáljuk meg ezt.
13:49
Go find a friend and explain to them
317
814000
2000
Kerekedjetek fel és keressetek egy barátot,
13:51
how you made that decision.
318
816000
2000
akinek elmesélitek, hogyan jutottatok erre a döntésre.
13:53
Not right now. Wait till I finish talking.
319
818000
2000
Nem most azonnal. Várjátok meg, amíg
13:55
Do it over lunch.
320
820000
2000
befejezem az előadást. Csináljátok ebédidőben.
13:57
And don't just find another technologist friend;
321
822000
3000
És ne csak egy másik szakembertársat keressetek;
14:00
find somebody different than you.
322
825000
2000
keressetek valaki tőletek különbözőt.
14:02
Find an artist or a writer --
323
827000
2000
Keressetek egy művészt, vagy egy írót --
14:04
or, heaven forbid, find a philosopher and talk to them.
324
829000
3000
vagy ne adj' isten, egy filozófust és beszéljetek azzal!
14:07
In fact, find somebody from the humanities.
325
832000
2000
Kereshettek egy bölcsészt is.
14:09
Why? Because they think about problems
326
834000
2000
Miért? Mert ők máshogy közelítenek a problémákhoz,
14:11
differently than we do as technologists.
327
836000
2000
mint mi technológus szakemberként.
14:13
Just a few days ago, right across the street from here,
328
838000
3000
Épp néhány nappal ezelőtt, itt az utca túloldalán
14:16
there was hundreds of people gathered together.
329
841000
2000
sok száz ember gyűlt össze.
14:18
It was technologists and humanists
330
843000
2000
Technológus szakemberek és bölcsészek
14:20
at that big BiblioTech Conference.
331
845000
2000
azon a nagy Biblio Tech Konferencián.
14:22
And they gathered together
332
847000
2000
És azért gyűltek össze,
14:24
because the technologists wanted to learn
333
849000
2000
mert a technológusok meg akarták tudni, hogy
14:26
what it would be like to think from a humanities perspective.
334
851000
3000
milyen lenne bölcsész szemszögből nézni a dolgokat.
14:29
You have someone from Google
335
854000
2000
Valaki a Google-től, egy összehasonlító irodalomtudománnyal
14:31
talking to someone who does comparative literature.
336
856000
2000
foglalkozó szakemberrel beszélgetett.
14:33
You're thinking about the relevance of 17th century French theater --
337
858000
3000
A 17. századi Francia színház vonatkozásában gondolkozol --
14:36
how does that bear upon venture capital?
338
861000
2000
mi köze lehet ennek a kockázati tőkéhez?
14:38
Well that's interesting. That's a different way of thinking.
339
863000
3000
Na ez érdekes! Ez aztán egy másfajta gondolkodás!
14:41
And when you think in that way,
340
866000
2000
És amikor ilyesféleképen gondolkodunk,
14:43
you become more sensitive to the human considerations,
341
868000
3000
érzékenyebbé válunk az emberi tényezők iránt,
14:46
which are crucial to making ethical decisions.
342
871000
3000
amik alapvetően fontosak az erkölcsi döntéseknél.
14:49
So imagine that right now
343
874000
2000
Képzeld el akkor most azt,
14:51
you went and you found your musician friend.
344
876000
2000
hogy mentél és kerestél mondjuk egy zenész kollégát.
14:53
And you're telling him what we're talking about,
345
878000
3000
És most elmondod neki, amiről itt most beszélünk,
14:56
about our whole data revolution and all this --
346
881000
2000
az egész adatforradalmasítást, meg ilyesmiket --
14:58
maybe even hum a few bars of our theme music.
347
883000
2000
akár dúdolj is el valamennyit az indulónkból.
15:00
♫ Dum ta da da dum dum ta da da dum ♫
348
885000
3000
♫ Dum ta da da dum dum ta da da dum ♫
15:03
Well, your musician friend will stop you and say,
349
888000
2000
Akkor pedig a zenész megállít téged és azt mondja,
15:05
"You know, the theme music
350
890000
2000
"Tudod az adatforradalmatok
15:07
for your data revolution,
351
892000
2000
indulója egy opera,
15:09
that's an opera, that's Wagner.
352
894000
2000
Wagner operájából való.
15:11
It's based on Norse legend.
353
896000
2000
Egy norvég legenda az alapja.
15:13
It's Gods and mythical creatures
354
898000
2000
Arról szól, hogy Isten és mindenféle
15:15
fighting over magical jewelry."
355
900000
3000
mítikus lények bűvös ékszerekért harcolnak."
15:19
That's interesting.
356
904000
3000
Na ez érdekes.
15:22
Now it's also a beautiful opera,
357
907000
3000
De gyönyörű opera is egyben.
15:25
and we're moved by that opera.
358
910000
3000
És nagyon meg is hat bennünket.
15:28
We're moved because it's about the battle
359
913000
2000
Azért hat meg, mert a jó és a rossz
15:30
between good and evil,
360
915000
2000
közti viadalról szól,
15:32
about right and wrong.
361
917000
2000
a helyesről és helytelenről.
15:34
And we care about right and wrong.
362
919000
2000
És mi törődünk ezekkel!
15:36
We care what happens in that opera.
363
921000
3000
Számít, hogy mi történik abban az operában!
15:39
We care what happens in "Apocalypse Now."
364
924000
3000
Számít, hogy mi történik az "Apokalipszis most"-ban.
15:42
And we certainly care
365
927000
2000
És különösképpen számít, hogy mi történik
15:44
what happens with our technologies.
366
929000
2000
a saját technológiáinkkal!
15:46
We have so much power today,
367
931000
2000
Olyan óriási hatalmunk van manapság,
15:48
it is up to us to figure out what to do,
368
933000
3000
rajtunk múlik, hogy mit döntünk, mit tegyünk vele!
15:51
and that's the good news.
369
936000
2000
És ez a jó hír.
15:53
We're the ones writing this opera.
370
938000
3000
Mi magunk írjuk az operát!
15:56
This is our movie.
371
941000
2000
Ez a mi filmünk!
15:58
We figure out what will happen with this technology.
372
943000
3000
Mi találjuk ki, mi történjen ezzel a technológiával!
16:01
We determine how this will all end.
373
946000
3000
Mi szabjuk meg, hogy ez az egész hogyan végződjön!
16:04
Thank you.
374
949000
2000
Köszönöm.
16:06
(Applause)
375
951000
5000
(Taps)
ABOUT THE SPEAKER
Damon Horowitz - Philosopher, entrepreneurDamon Horowitz explores what is possible at the boundaries of technology and the humanities.
Why you should listen
Damon Horowitz is a philosophy professor and serial entrepreneur. He recently joined Google as In-House Philosopher / Director of Engineering, heading development of several initiatives involving social and search. He came to Google from Aardvark, the social search engine, where he was co-founder and CTO, overseeing product development and research strategy. Prior to Aardvark, Horowitz built several companies around applications of intelligent language processing. He co-founded Perspecta (acquired by Excite), was lead architect for Novation Biosciences (acquired by Agilent), and co-founded NewsDB (now Daylife).
Horowitz teaches courses in philosophy, cognitive science, and computer science at several institutions, including Stanford, NYU, University of Pennsylvania and San Quentin State Prison.
Get more information on the Prison University Project >>
Damon Horowitz | Speaker | TED.com