TEDSummit
Sam Harris: Can we build AI without losing control over it?
Σαμ Χάρις: Μπορούμε να φτιάξουμε τεχνητή νοημοσύνη χωρίς να χάσουμε τον έλεγχό της;
Filmed:
Readability: 4.1
5,024,015 views
Φοβάστε την υπερευφυή τεχνητή νοημοσύνη; Έτσι πρέπει, μας λέει ο νευροεπιστήμων και φιλόσοφος Σαμ Χάρις - και όχι μόνο σε θεωρητικό επίπεδο. Πρόκειται να φτιάξουμε υπεράνθρωπες μηχανές, λέει ο Χάρις, αλλά ακόμα δεν έχουμε λύσει τα προβλήματα που σχετίζονται με τη δημιουργία κάποιου πράγματος που μπορεί να μας μεταχειριστεί όπως εμείς μεταχειριζόμαστε τα μυρμήγκια.
Sam Harris - Neuroscientist, philosopher
Sam Harris's work focuses on how our growing understanding of ourselves and the world is changing our sense of how we should live. Full bio
Sam Harris's work focuses on how our growing understanding of ourselves and the world is changing our sense of how we should live. Full bio
Double-click the English transcript below to play the video.
Θα σας μιλήσω για ένα σφάλμα στη λογική
00:13
I'm going to talk
about a failure of intuition
about a failure of intuition
0
1000
2216
00:15
that many of us suffer from.
1
3240
1600
που έχουν πολλοί από εμάς.
00:17
It's really a failure
to detect a certain kind of danger.
to detect a certain kind of danger.
2
5480
3040
Στην ουσία είναι αδυναμία να δούμε
ένα ορισμένο είδος κινδύνου.
ένα ορισμένο είδος κινδύνου.
00:21
I'm going to describe a scenario
3
9360
1736
Θα περιγράψω ένα σενάριο
00:23
that I think is both terrifying
4
11120
3256
που θεωρώ ταυτόχρονα τρομακτικό,
αλλά και πιθανό να συμβεί,
00:26
and likely to occur,
5
14400
1760
00:28
and that's not a good combination,
6
16840
1656
και δεν είναι καλός συνδυασμός,
όπως τελικά αποδεικνύεται.
00:30
as it turns out.
7
18520
1536
00:32
And yet rather than be scared,
most of you will feel
most of you will feel
8
20080
2456
Αλλά αντί να τρομοκρατείστε,
οι περισσότεροι πιστεύετε
οι περισσότεροι πιστεύετε
00:34
that what I'm talking about
is kind of cool.
is kind of cool.
9
22560
2080
ότι αυτό που σας λέω είναι μάλλον ωραίο.
00:37
I'm going to describe
how the gains we make
how the gains we make
10
25200
2976
Θα σας περιγράψω
πώς τα οφέλη που θα δρέψουμε
από την τεχνητή νοημοσύνη
από την τεχνητή νοημοσύνη
00:40
in artificial intelligence
11
28200
1776
μπορούν εν τέλει να μας καταστρέψουν.
00:42
could ultimately destroy us.
12
30000
1776
00:43
And in fact, I think it's very difficult
to see how they won't destroy us
to see how they won't destroy us
13
31800
3456
Και μάλιστα το θεωρώ απίθανο
είτε να μην μας καταστρέψουν
είτε να μην μας καταστρέψουν
ή να μας εμπνεύσουν
να καταστραφούμε μόνοι μας.
να καταστραφούμε μόνοι μας.
00:47
or inspire us to destroy ourselves.
14
35280
1680
00:49
And yet if you're anything like me,
15
37400
1856
Αν όμως σκέφτεστε όπως εγώ,
θα το απολαμβάνετε
να σκέφτεστε αυτά τα πράγματα.
να σκέφτεστε αυτά τα πράγματα.
00:51
you'll find that it's fun
to think about these things.
to think about these things.
16
39280
2656
00:53
And that response is part of the problem.
17
41960
3376
Κι αυτή η αντίδραση
είναι μέρος του προβλήματος.
είναι μέρος του προβλήματος.
Εντάξει; Αυτή η αντίδραση
θα πρέπει να σας ανησυχεί.
θα πρέπει να σας ανησυχεί.
00:57
OK? That response should worry you.
18
45360
1720
00:59
And if I were to convince you in this talk
19
47920
2656
Κι αν επρόκειτο να σας πείσω
με αυτή την ομιλία
με αυτή την ομιλία
ότι είναι πιθανόν
να αντιμετωπίσουμε παγκόσμιο λιμό,
να αντιμετωπίσουμε παγκόσμιο λιμό,
01:02
that we were likely
to suffer a global famine,
to suffer a global famine,
20
50600
3416
είτε λόγω κλιματικής αλλαγής
ή κάποιας άλλης καταστροφής,
ή κάποιας άλλης καταστροφής,
01:06
either because of climate change
or some other catastrophe,
or some other catastrophe,
21
54040
3056
και ότι τα εγγόνια σας,
ή τα δικά τους εγγόνια,
ή τα δικά τους εγγόνια,
01:09
and that your grandchildren,
or their grandchildren,
or their grandchildren,
22
57120
3416
είναι πολύ πιθανόν να ζήσουν κάπως έτσι,
01:12
are very likely to live like this,
23
60560
1800
01:15
you wouldn't think,
24
63200
1200
δεν θα σκεφτόσασταν,
01:17
"Interesting.
25
65440
1336
«Ενδιαφέρον.
Μου αρέσει αυτή η ομιλία TED».
01:18
I like this TED Talk."
26
66800
1200
01:21
Famine isn't fun.
27
69200
1520
Ο λιμός δεν είναι κάτι διασκεδαστικό.
Από την άλλη, ο θάνατος μέσω επιστημονικής
φαντασίας είναι διασκεδαστικός,
φαντασίας είναι διασκεδαστικός,
01:23
Death by science fiction,
on the other hand, is fun,
on the other hand, is fun,
28
71800
3376
01:27
and one of the things that worries me most
about the development of AI at this point
about the development of AI at this point
29
75200
3976
και κάτι που με ανησυχεί σε αυτό το στάδιο
της εξέλιξης της τεχνητής νοημοσύνης
της εξέλιξης της τεχνητής νοημοσύνης
είναι ότι αδυνατούμε να επιδείξουμε
μια κατάλληλη συναισθηματική αντίδραση
μια κατάλληλη συναισθηματική αντίδραση
01:31
is that we seem unable to marshal
an appropriate emotional response
an appropriate emotional response
30
79200
4096
στους επικείμενους κινδύνους.
01:35
to the dangers that lie ahead.
31
83320
1816
01:37
I am unable to marshal this response,
and I'm giving this talk.
and I'm giving this talk.
32
85160
3200
Ούτε εγώ μπορώ να έχω αυτή την αντίδραση
και κάνω αυτή την ομιλία.
και κάνω αυτή την ομιλία.
01:42
It's as though we stand before two doors.
33
90120
2696
Είναι σαν να στεκόμαστε
μπροστά σε δύο πόρτες.
μπροστά σε δύο πόρτες.
01:44
Behind door number one,
34
92840
1256
Πίσω από την πρώτη πόρτα,
παύουμε να κάνουμε πρόοδο
στην παραγωγή ευφυών μηχανών.
στην παραγωγή ευφυών μηχανών.
01:46
we stop making progress
in building intelligent machines.
in building intelligent machines.
35
94120
3296
01:49
Our computer hardware and software
just stops getting better for some reason.
just stops getting better for some reason.
36
97440
4016
Για κάποιον λόγο παύουμε να βελτιώνουμε
υλισμικό και λογισμικό στους υπολογιστές.
υλισμικό και λογισμικό στους υπολογιστές.
01:53
Now take a moment
to consider why this might happen.
to consider why this might happen.
37
101480
3000
Τώρα σκεφτείτε για λίγο
γιατί μπορεί να συμβεί αυτό.
γιατί μπορεί να συμβεί αυτό.
01:57
I mean, given how valuable
intelligence and automation are,
intelligence and automation are,
38
105080
3656
Εννοώ ότι, δεδομένης της μεγάλης αξίας
της ευφυίας και των αυτοματισμών,
της ευφυίας και των αυτοματισμών,
εφόσον μπορούμε, θα συνεχίσουμε
να βελτιώνουμε την τεχνολογία μας.
να βελτιώνουμε την τεχνολογία μας.
02:00
we will continue to improve our technology
if we are at all able to.
if we are at all able to.
39
108760
3520
02:05
What could stop us from doing this?
40
113200
1667
Τι μπορεί να μας αποτρέψει;
02:07
A full-scale nuclear war?
41
115800
1800
Ένας πυρηνικός πόλεμος πλήρους κλίμακας;
02:11
A global pandemic?
42
119000
1560
Μια παγκόσμια πανδημία;
02:14
An asteroid impact?
43
122320
1320
Μια σύγκρουση με αστεροειδή;
02:17
Justin Bieber becoming
president of the United States?
president of the United States?
44
125640
2576
Να γίνει ο Τζάστιν Μπίμπερ
πρόεδρος των ΗΠΑ;
πρόεδρος των ΗΠΑ;
02:20
(Laughter)
45
128240
2280
(Γέλια)
02:24
The point is, something would have to
destroy civilization as we know it.
destroy civilization as we know it.
46
132760
3920
Το θέμα είναι ότι κάτι θα πρέπει
να καταστρέψει τον σύγχρονο πολιτισμό.
να καταστρέψει τον σύγχρονο πολιτισμό.
02:29
You have to imagine
how bad it would have to be
how bad it would have to be
47
137360
4296
Θα πρέπει να φανταστείτε
πόσο οδυνηρό πρέπει να είναι
πόσο οδυνηρό πρέπει να είναι
για να μας αποτρέψει
από το να βελτιώσουμε την τεχνολογία μας
από το να βελτιώσουμε την τεχνολογία μας
02:33
to prevent us from making
improvements in our technology
improvements in our technology
48
141680
3336
σε μόνιμη βάση,
02:37
permanently,
49
145040
1216
στις επόμενες γενεές.
02:38
generation after generation.
50
146280
2016
02:40
Almost by definition,
this is the worst thing
this is the worst thing
51
148320
2136
Αυτό είναι σχεδόν εξ ορισμού
ό,τι χειρότερο έχει ποτέ συμβεί
στην ανθρώπινη ιστορία.
στην ανθρώπινη ιστορία.
02:42
that's ever happened in human history.
52
150480
2016
02:44
So the only alternative,
53
152520
1296
Έτσι η μόνη εναλλακτική
-κι αυτή βρίσκεται
πίσω από τη δεύτερη πόρτα-
πίσω από τη δεύτερη πόρτα-
02:45
and this is what lies
behind door number two,
behind door number two,
54
153840
2336
είναι να συνεχίσουμε να βελτιώνουμε
τις έξυπνες μηχανές μας
τις έξυπνες μηχανές μας
02:48
is that we continue
to improve our intelligent machines
to improve our intelligent machines
55
156200
3136
χρόνο με τον χρόνο.
02:51
year after year after year.
56
159360
1600
02:53
At a certain point, we will build
machines that are smarter than we are,
machines that are smarter than we are,
57
161720
3640
Σε κάποιο σημείο, θα φτιάξουμε μηχανές
που θα είναι πιο έξυπνες από εμάς,
που θα είναι πιο έξυπνες από εμάς,
02:58
and once we have machines
that are smarter than we are,
that are smarter than we are,
58
166080
2616
κι όταν θα έχουμε μηχανές
εξυπνότερες από εμάς,
εξυπνότερες από εμάς,
θα αρχίσουν να βελτιώνονται μόνες τους.
03:00
they will begin to improve themselves.
59
168720
1976
03:02
And then we risk what
the mathematician IJ Good called
the mathematician IJ Good called
60
170720
2736
Τότε διακινδυνεύουμε να έχουμε κάτι
που ο μαθηματικός Ι. Τζ. Γκουντ
αποκάλεσε «έκρηξη ευφυίας»,
αποκάλεσε «έκρηξη ευφυίας»,
03:05
an "intelligence explosion,"
61
173480
1776
όπου η διαδικασία μπορεί
να φύγει από τον έλεγχό μας.
να φύγει από τον έλεγχό μας.
03:07
that the process could get away from us.
62
175280
2000
03:10
Now, this is often caricatured,
as I have here,
as I have here,
63
178120
2816
Αυτό συχνά απεικονίζεται,
όπως σας δείχνω εδώ,
όπως σας δείχνω εδώ,
03:12
as a fear that armies of malicious robots
64
180960
3216
ως ένας φόβος ότι στρατιές
από κακόβουλα ρομπότ
από κακόβουλα ρομπότ
θα μας επιτεθούν.
03:16
will attack us.
65
184200
1256
03:17
But that isn't the most likely scenario.
66
185480
2696
Αλλά αυτό δεν είναι το πιο πιθανό σενάριο.
03:20
It's not that our machines
will become spontaneously malevolent.
will become spontaneously malevolent.
67
188200
4856
Δεν είναι ότι οι μηχανές μας
θα γίνουν αυθόρμητα κακόβουλες.
θα γίνουν αυθόρμητα κακόβουλες.
03:25
The concern is really
that we will build machines
that we will build machines
68
193080
2616
Η πραγματική ανησυχία είναι
ότι θα φτιάξουμε μηχανές
ότι θα φτιάξουμε μηχανές
που θα είναι τόσο πιο ικανές από εμάς
03:27
that are so much
more competent than we are
more competent than we are
69
195720
2056
03:29
that the slightest divergence
between their goals and our own
between their goals and our own
70
197800
3776
που η ελάχιστη απόκλιση μεταξύ
των δικών τους στόχων και των δικών μας
των δικών τους στόχων και των δικών μας
θα μπορούσε να μας καταστρέψει.
03:33
could destroy us.
71
201600
1200
03:35
Just think about how we relate to ants.
72
203960
2080
Σκεφτείτε τη σχέση μας με τα μυρμήγκια.
03:38
We don't hate them.
73
206600
1656
Δεν τα μισούμε.
03:40
We don't go out of our way to harm them.
74
208280
2056
Δεν τα βλάπτουμε εκουσίως.
Συχνά μάλιστα κάνουμε προσπάθεια
να μην τα βλάψουμε.
να μην τα βλάψουμε.
03:42
In fact, sometimes
we take pains not to harm them.
we take pains not to harm them.
75
210360
2376
Αποφεύγουμε να τα πατήσουμε
στο πεζοδρόμιο.
στο πεζοδρόμιο.
03:44
We step over them on the sidewalk.
76
212760
2016
03:46
But whenever their presence
77
214800
2136
Αλλά όταν η παρουσία τους
αντιτίθεται σοβαρά με τους στόχους μας,
03:48
seriously conflicts with one of our goals,
78
216960
2496
ας πούμε, όταν φτιάχνουμε
ένα τέτοιο κτήριο,
ένα τέτοιο κτήριο,
03:51
let's say when constructing
a building like this one,
a building like this one,
79
219480
2477
τα εκμηδενίζουμε χωρίς δεύτερη σκέψη.
03:53
we annihilate them without a qualm.
80
221981
1960
03:56
The concern is that we will
one day build machines
one day build machines
81
224480
2936
Η ανησυχία είναι ότι μια μέρα
θα φτιάξουμε μηχανές που,
θα φτιάξουμε μηχανές που,
είτε ενσυνείδητα ή όχι,
03:59
that, whether they're conscious or not,
82
227440
2736
θα μας μεταχειριστούν
με παρόμοια αδιαφορία.
με παρόμοια αδιαφορία.
04:02
could treat us with similar disregard.
83
230200
2000
04:05
Now, I suspect this seems
far-fetched to many of you.
far-fetched to many of you.
84
233760
2760
Υποψιάζομαι ότι οι περισσότεροι
το θεωρείτε παρατραβηγμένο.
το θεωρείτε παρατραβηγμένο.
04:09
I bet there are those of you who doubt
that superintelligent AI is possible,
that superintelligent AI is possible,
85
237360
6336
Βάζω στοίχημα ότι κάποιοι αμφιβάλλουν
αν η υπερευφυής τεχνητή νοημοσύνη
αν η υπερευφυής τεχνητή νοημοσύνη
είναι εφικτή,
πολύ δε λιγότερο αναπόφευκτη.
πολύ δε λιγότερο αναπόφευκτη.
04:15
much less inevitable.
86
243720
1656
04:17
But then you must find something wrong
with one of the following assumptions.
with one of the following assumptions.
87
245400
3620
Τότε όμως πρέπει να βρείτε κάποιο λάθος
στις ακόλουθες υποθέσεις.
στις ακόλουθες υποθέσεις.
04:21
And there are only three of them.
88
249044
1572
Και είναι μόνο τρεις υποθέσεις.
04:23
Intelligence is a matter of information
processing in physical systems.
processing in physical systems.
89
251800
4719
Η ευφυΐα είναι θέμα επεξεργασίας
της πληροφορίας σε υλικά συστήματα.
της πληροφορίας σε υλικά συστήματα.
04:29
Actually, this is a little bit more
than an assumption.
than an assumption.
90
257320
2615
Βασικά, αυτό είναι
κάτι παραπάνω από μια υπόθεση.
κάτι παραπάνω από μια υπόθεση.
Έχουμε ήδη ενσωματώσει
περιορισμένη ευφυΐα στις μηχανές μας,
περιορισμένη ευφυΐα στις μηχανές μας,
04:31
We have already built
narrow intelligence into our machines,
narrow intelligence into our machines,
91
259959
3457
και πολλές από αυτές ήδη αποδίδουν
04:35
and many of these machines perform
92
263440
2016
σε επίπεδο υπεράνθρωπης ευφυΐας.
04:37
at a level of superhuman
intelligence already.
intelligence already.
93
265480
2640
04:40
And we know that mere matter
94
268840
2576
Και ξέρουμε πως η απλή ύλη
μπορεί να δημιουργήσει
αυτό που λέγεται «γενική ευφυΐα»,
αυτό που λέγεται «γενική ευφυΐα»,
04:43
can give rise to what is called
"general intelligence,"
"general intelligence,"
95
271440
2616
μια ικανότητα να σκεφτούμε ευέλικτα
σε πολλαπλά επίπεδα,
σε πολλαπλά επίπεδα,
04:46
an ability to think flexibly
across multiple domains,
across multiple domains,
96
274080
3656
επειδή τα μυαλά μας
τα έχουν καταφέρει, σωστά;
τα έχουν καταφέρει, σωστά;
04:49
because our brains have managed it. Right?
97
277760
3136
04:52
I mean, there's just atoms in here,
98
280920
3936
Εξάλλου μόνο άτομα υπάρχουν εκεί,
04:56
and as long as we continue
to build systems of atoms
to build systems of atoms
99
284880
4496
και όσο συνεχίζουμε να φτιάχνουμε
συστήματα από άτομα
συστήματα από άτομα
που επιδεικνύουν όλο και
περισσότερο ευφυή συμπεριφορά,
περισσότερο ευφυή συμπεριφορά,
05:01
that display more and more
intelligent behavior,
intelligent behavior,
100
289400
2696
αν δεν μας σταματήσει κάποιος,
05:04
we will eventually,
unless we are interrupted,
unless we are interrupted,
101
292120
2536
τελικά θα βάλουμε τη γενική ευφυΐα
05:06
we will eventually
build general intelligence
build general intelligence
102
294680
3376
μέσα στις μηχανές μας.
05:10
into our machines.
103
298080
1296
05:11
It's crucial to realize
that the rate of progress doesn't matter,
that the rate of progress doesn't matter,
104
299400
3656
Είναι σημαντικό να καταλάβουμε
ότι δεν έχει σημασία ο ρυθμός της προόδου,
ότι δεν έχει σημασία ο ρυθμός της προόδου,
γιατί κάθε πρόοδος είναι αρκετή
για να οδηγήσει σε αυτή την κατάληξη.
για να οδηγήσει σε αυτή την κατάληξη.
05:15
because any progress
is enough to get us into the end zone.
is enough to get us into the end zone.
105
303080
3176
05:18
We don't need Moore's law to continue.
We don't need exponential progress.
We don't need exponential progress.
106
306280
3776
Δεν χρειάζεται ο Νόμος του Μουρ,
ούτε κάποια εκθετική πρόοδος.
ούτε κάποια εκθετική πρόοδος.
Χρειάζεται απλώς να συνεχίσουμε.
05:22
We just need to keep going.
107
310080
1600
05:25
The second assumption
is that we will keep going.
is that we will keep going.
108
313480
2920
Η δεύτερη υπόθεση είναι
ότι θα συνεχίσουμε.
ότι θα συνεχίσουμε.
05:29
We will continue to improve
our intelligent machines.
our intelligent machines.
109
317000
2760
Θα συνεχίσουμε να βελτιώνουμε
τις έξυπνες μηχανές μας.
τις έξυπνες μηχανές μας.
05:33
And given the value of intelligence --
110
321000
4376
Και σύμφωνα με την αξία της ευφυΐας -
εννοώ ότι είτε η ευφυΐα
είναι η πηγή για ό,τι θεωρούμε άξιο,
είναι η πηγή για ό,τι θεωρούμε άξιο,
05:37
I mean, intelligence is either
the source of everything we value
the source of everything we value
111
325400
3536
ή χρειάζεται να περιφρουρήσουμε
οτιδήποτε θεωρούμε άξιο.
οτιδήποτε θεωρούμε άξιο.
05:40
or we need it to safeguard
everything we value.
everything we value.
112
328960
2776
05:43
It is our most valuable resource.
113
331760
2256
Είναι ο πιο πολύτιμος πόρος που έχουμε.
Έτσι, θέλουμε να το κάνουμε.
05:46
So we want to do this.
114
334040
1536
Έχουμε προβλήματα και πρέπει
να τα λύσουμε επειγόντως.
να τα λύσουμε επειγόντως.
05:47
We have problems
that we desperately need to solve.
that we desperately need to solve.
115
335600
3336
05:50
We want to cure diseases
like Alzheimer's and cancer.
like Alzheimer's and cancer.
116
338960
3200
Θέλουμε να θεραπεύσουμε νόσους
όπως τον καρκίνο και την Αλτσχάιμερ,
όπως τον καρκίνο και την Αλτσχάιμερ,
05:54
We want to understand economic systems.
We want to improve our climate science.
We want to improve our climate science.
117
342960
3936
να καταλάβουμε οικονομικά συστήματα,
να βελτιώσουμε τη γνώση μας για το κλίμα.
να βελτιώσουμε τη γνώση μας για το κλίμα.
05:58
So we will do this, if we can.
118
346920
2256
Γι' αυτό θα το κάνουμε, αν μπορούμε.
Το τρένο έχει ήδη ξεκινήσει
και δεν έχει φρένο.
και δεν έχει φρένο.
06:01
The train is already out of the station,
and there's no brake to pull.
and there's no brake to pull.
119
349200
3286
06:05
Finally, we don't stand
on a peak of intelligence,
on a peak of intelligence,
120
353880
5456
Τέλος, δεν έχουμε φτάσει
στην αποκορύφωση της ευφυΐας,
στην αποκορύφωση της ευφυΐας,
μάλλον ούτε που την πλησιάσαμε.
06:11
or anywhere near it, likely.
121
359360
1800
06:13
And this really is the crucial insight.
122
361640
1896
Και αυτή είναι η σημαντική διαπίστωση.
Αυτό κάνει τόσο επισφαλή
την κατάστασή μας,
την κατάστασή μας,
06:15
This is what makes
our situation so precarious,
our situation so precarious,
123
363560
2416
και τόσο αναξιόπιστα
τα προαίσθήματά μας σχετικά με το ρίσκο.
τα προαίσθήματά μας σχετικά με το ρίσκο.
06:18
and this is what makes our intuitions
about risk so unreliable.
about risk so unreliable.
124
366000
4040
06:23
Now, just consider the smartest person
who has ever lived.
who has ever lived.
125
371120
2720
Απλώς σκεφτείτε το πιο έξυπνο
άτομο που έχει ποτέ ζήσει.
άτομο που έχει ποτέ ζήσει.
06:26
On almost everyone's shortlist here
is John von Neumann.
is John von Neumann.
126
374640
3416
Κάποιον που όλοι σας θα έχετε κατά νου
είναι ο Τζον φον Νόιμαν.
είναι ο Τζον φον Νόιμαν.
06:30
I mean, the impression that von Neumann
made on the people around him,
made on the people around him,
127
378080
3336
Η εντύπωση που έκανε
στους τριγύρω του ο φον Νόιμαν,
στους τριγύρω του ο φον Νόιμαν,
συμπεριλαμβανομένων των πιο λαμπρών
μαθηματικών και φυσικών της εποχής του,
μαθηματικών και φυσικών της εποχής του,
06:33
and this included the greatest
mathematicians and physicists of his time,
mathematicians and physicists of his time,
128
381440
4056
έχει καταγραφεί επαρκώς.
06:37
is fairly well-documented.
129
385520
1936
06:39
If only half the stories
about him are half true,
about him are half true,
130
387480
3776
Και μόνο οι μισές ιστορίες
γι' αυτόν να αληθεύουν,
γι' αυτόν να αληθεύουν,
χωρίς αμφιβολία
06:43
there's no question
131
391280
1216
είναι από τους πιο έξυπνους
ανθρώπους που έχουν ζήσει.
ανθρώπους που έχουν ζήσει.
06:44
he's one of the smartest people
who has ever lived.
who has ever lived.
132
392520
2456
06:47
So consider the spectrum of intelligence.
133
395000
2520
Σκεφτείτε λοιπόν το φάσμα της ευφυΐας.
06:50
Here we have John von Neumann.
134
398320
1429
Εδώ είναι ο Τζον φον Νόιμαν.
06:53
And then we have you and me.
135
401560
1334
Κι εδώ είμαστε εσείς κι εγώ.
06:56
And then we have a chicken.
136
404120
1296
Μετά είναι οι κότες.
06:57
(Laughter)
137
405440
1936
(Γέλια)
Συγνώμη, μια κότα.
06:59
Sorry, a chicken.
138
407400
1216
07:00
(Laughter)
139
408640
1256
(Γέλια)
07:01
There's no reason for me to make this talk
more depressing than it needs to be.
more depressing than it needs to be.
140
409920
3736
Δεν υπάρχει λόγος να κάνω την ομιλία
πιο θλιβερή απ' όσο χρειάζεται.
πιο θλιβερή απ' όσο χρειάζεται.
(Γέλια)
07:05
(Laughter)
141
413680
1600
07:08
It seems overwhelmingly likely, however,
that the spectrum of intelligence
that the spectrum of intelligence
142
416339
3477
Ωστόσο, φαίνεται εκπληκτικά πιθανόν
ότι το φάσμα της ευφυΐας
ότι το φάσμα της ευφυΐας
εκτείνεται πολύ πιο πέρα
από όσο τώρα αντιλαμβανόμαστε,
από όσο τώρα αντιλαμβανόμαστε,
07:11
extends much further
than we currently conceive,
than we currently conceive,
143
419840
3120
07:15
and if we build machines
that are more intelligent than we are,
that are more intelligent than we are,
144
423880
3216
και αν φτιάξουμε μηχανές
πιο έξυπνες από εμάς,
πιο έξυπνες από εμάς,
07:19
they will very likely
explore this spectrum
explore this spectrum
145
427120
2296
είναι πολύ πιθανόν
να εξερευνήσουν αυτό το φάσμα
να εξερευνήσουν αυτό το φάσμα
με τρόπους που δεν μπορούμε να φανταστούμε
07:21
in ways that we can't imagine,
146
429440
1856
07:23
and exceed us in ways
that we can't imagine.
that we can't imagine.
147
431320
2520
και να μας ξεπεράσουν σε αφάνταστο βαθμό.
07:27
And it's important to recognize that
this is true by virtue of speed alone.
this is true by virtue of speed alone.
148
435000
4336
Και είναι σημαντικό να αναγνωρίσουμε
ότι αυτό αληθεύει και μόνο λόγω ταχύτητας.
ότι αυτό αληθεύει και μόνο λόγω ταχύτητας.
07:31
Right? So imagine if we just built
a superintelligent AI
a superintelligent AI
149
439360
5056
Σωστά; Φανταστείτε να φτιάχναμε
μια υπερευφυή τεχνητή νοημοσύνη,
μια υπερευφυή τεχνητή νοημοσύνη,
07:36
that was no smarter
than your average team of researchers
than your average team of researchers
150
444440
3456
που δεν θα ήταν εξυπνότερη
από μια μέση ομάδα ερευνητών
από μια μέση ομάδα ερευνητών
των πανεπιστημίων Στάνφορντ ή ΜΙΤ.
07:39
at Stanford or MIT.
151
447920
2296
07:42
Well, electronic circuits
function about a million times faster
function about a million times faster
152
450240
2976
Τα ηλεκτρονικά κυκλώματα λειτουργούν
ένα εκατομμύριο φορές ταχύτερα
από τα βιοχημικά,
από τα βιοχημικά,
07:45
than biochemical ones,
153
453240
1256
07:46
so this machine should think
about a million times faster
about a million times faster
154
454520
3136
έτσι αυτή η μηχανή θα σκεφτόταν
ένα εκατομμύριο φορές πιο γρήγορα
ένα εκατομμύριο φορές πιο γρήγορα
από τους εγκεφάλους που την έφτιαξαν.
07:49
than the minds that built it.
155
457680
1816
07:51
So you set it running for a week,
156
459520
1656
Με λειτουργία μίας εβδομάδας
07:53
and it will perform 20,000 years
of human-level intellectual work,
of human-level intellectual work,
157
461200
4560
θα παράξει έργο 20.000 ετών
σε επίπεδο ανθρώπινης διάνοιας,
σε επίπεδο ανθρώπινης διάνοιας,
07:58
week after week after week.
158
466400
1960
και το ίδιο θα κάνει
κάθε επόμενη εβδομάδα.
κάθε επόμενη εβδομάδα.
08:01
How could we even understand,
much less constrain,
much less constrain,
159
469640
3096
Πώς μπορούμε να καταλάβουμε,
πολύ δε περισσότερο να περιορίσουμε,
πολύ δε περισσότερο να περιορίσουμε,
08:04
a mind making this sort of progress?
160
472760
2280
έναν εγκέφαλο που κάνει τέτοια πρόοδο;
08:08
The other thing that's worrying, frankly,
161
476840
2136
Για να πω την αλήθεια,
είναι επίσης ανησυχητικό
είναι επίσης ανησυχητικό
08:11
is that, imagine the best case scenario.
162
479000
4976
να φανταστούμε το καλύτερο δυνατό σενάριο.
08:16
So imagine we hit upon a design
of superintelligent AI
of superintelligent AI
163
484000
4176
Φανταστείτε να βρούμε ένα σχέδιο
υπερεφυούς τεχνητής νοημοσύνης
υπερεφυούς τεχνητής νοημοσύνης
που δεν έχει θέματα ασφάλειας.
08:20
that has no safety concerns.
164
488200
1376
08:21
We have the perfect design
the first time around.
the first time around.
165
489600
3256
Θα έχουμε βρει το τέλειο σχέδιο
για πρώτη φορά.
για πρώτη φορά.
08:24
It's as though we've been handed an oracle
166
492880
2216
Θα είναι σαν να μας έχει δοθεί ένα μαντείο
που λειτουργεί ακριβώς όπως πρέπει.
08:27
that behaves exactly as intended.
167
495120
2016
Αυτή θα ήταν η τέλεια μηχανή
εξοικονόμησης έργου.
εξοικονόμησης έργου.
08:29
Well, this machine would be
the perfect labor-saving device.
the perfect labor-saving device.
168
497160
3720
Θα σχεδιάσει τη μηχανή
που θα κατασκευάσει τη μηχανή
που θα κατασκευάσει τη μηχανή
08:33
It can design the machine
that can build the machine
that can build the machine
169
501680
2429
που θα κάνει κάθε σωματική εργασία,
08:36
that can do any physical work,
170
504133
1763
08:37
powered by sunlight,
171
505920
1456
τροφοδοτούμενη από τον ήλιο,
08:39
more or less for the cost
of raw materials.
of raw materials.
172
507400
2696
με μόνο κόστος αυτό των πρώτων υλών.
08:42
So we're talking about
the end of human drudgery.
the end of human drudgery.
173
510120
3256
Έτσι μιλάμε για το τέλος
της ανθρώπινης αγγαρείας.
της ανθρώπινης αγγαρείας.
08:45
We're also talking about the end
of most intellectual work.
of most intellectual work.
174
513400
2800
Επίσης μιλάμε για το τέλος
της περισσότερης διανοητικής εργασίας.
της περισσότερης διανοητικής εργασίας.
08:49
So what would apes like ourselves
do in this circumstance?
do in this circumstance?
175
517200
3056
Τι θα κάνουν οι πίθηκοι όπως εμείς
σε αυτή την περίπτωση;
σε αυτή την περίπτωση;
08:52
Well, we'd be free to play Frisbee
and give each other massages.
and give each other massages.
176
520280
4080
Θα έχουμε χρόνο να παίζουμε φρίσμπι
και να κάνουμε μασάζ ο ένας στον άλλον.
και να κάνουμε μασάζ ο ένας στον άλλον.
08:57
Add some LSD and some
questionable wardrobe choices,
questionable wardrobe choices,
177
525840
2856
Προσθέστε λίγο LSD και κάποιες
αμφίβολες επιλογές ένδυσης,
αμφίβολες επιλογές ένδυσης,
09:00
and the whole world
could be like Burning Man.
could be like Burning Man.
178
528720
2176
κι όλος ο κόσμος θα μοιάζει
με φεστιβάλ Burning Man.
με φεστιβάλ Burning Man.
09:02
(Laughter)
179
530920
1640
(Γέλια)
09:06
Now, that might sound pretty good,
180
534320
2000
Μπορεί βέβαια να ακούγεται αρκετά καλό,
09:09
but ask yourself what would happen
181
537280
2376
αλλά αναρωτηθείτε τι θα συνέβαινε
με την τωρινή οικονομική
και πολιτική κατάσταση;
και πολιτική κατάσταση;
09:11
under our current economic
and political order?
and political order?
182
539680
2736
09:14
It seems likely that we would witness
183
542440
2416
Μοιάζει πιθανό ότι θα βιώσουμε
ένα επίπεδο ανισότητας
πλούτου και ανεργίας
πλούτου και ανεργίας
09:16
a level of wealth inequality
and unemployment
and unemployment
184
544880
4136
που δεν έχουμε ξαναδεί.
09:21
that we have never seen before.
185
549040
1496
09:22
Absent a willingness
to immediately put this new wealth
to immediately put this new wealth
186
550560
2616
Αν απουσιάσει η θέληση
να βάλουμε άμεσα αυτόν τον πλούτο
να βάλουμε άμεσα αυτόν τον πλούτο
09:25
to the service of all humanity,
187
553200
1480
στην υπηρεσία όλης της ανθρωπότητας,
ελάχιστοι πολυεκατομμυριούχοι θα κοσμούν
τα εξώφυλλα των οικονομικών περιοδικών,
τα εξώφυλλα των οικονομικών περιοδικών,
09:27
a few trillionaires could grace
the covers of our business magazines
the covers of our business magazines
188
555640
3616
ενώ ο υπόλοιπος κόσμος
θα είναι ελεύθερος να λιμοκτονήσει.
θα είναι ελεύθερος να λιμοκτονήσει.
09:31
while the rest of the world
would be free to starve.
would be free to starve.
189
559280
2440
09:34
And what would the Russians
or the Chinese do
or the Chinese do
190
562320
2296
Και τι θα κάνουν οι Ρώσοι ή οι Κινέζοι
αν μάθουν ότι μια εταιρεία
στη Σίλικον Βάλεϊ
στη Σίλικον Βάλεϊ
09:36
if they heard that some company
in Silicon Valley
in Silicon Valley
191
564640
2616
πρόκειται να κυκλοφορήσει
μια υπερευφυή τεχνητή νοημοσύνη;
μια υπερευφυή τεχνητή νοημοσύνη;
09:39
was about to deploy a superintelligent AI?
192
567280
2736
09:42
This machine would be capable
of waging war,
of waging war,
193
570040
2856
Αυτή η μηχανή θα μπορούσε
να κηρύξει πόλεμο,
να κηρύξει πόλεμο,
09:44
whether terrestrial or cyber,
194
572920
2216
είτε συμβατικό
είτε σε επίπεδο υπολογιστών,
είτε σε επίπεδο υπολογιστών,
09:47
with unprecedented power.
195
575160
1680
με ισχύ άνευ προηγουμένου.
09:50
This is a winner-take-all scenario.
196
578120
1856
Είναι ένα σενάριο όπου κερδίζει μόνο ένας.
09:52
To be six months ahead
of the competition here
of the competition here
197
580000
3136
Όταν προηγείσαι εδώ
έξι μήνες από τον ανταγωνισμό,
έξι μήνες από τον ανταγωνισμό,
09:55
is to be 500,000 years ahead,
198
583160
2776
είναι σαν να είσαι 500.000 χρόνια μπροστά
κατά το ελάχιστο.
09:57
at a minimum.
199
585960
1496
09:59
So it seems that even mere rumors
of this kind of breakthrough
of this kind of breakthrough
200
587480
4736
Άρα φαίνεται ότι ακόμη και απλές φήμες
για κάτι τόσο επαναστατικό
για κάτι τόσο επαναστατικό
θα έκανε το είδος μας να τρελαθεί.
10:04
could cause our species to go berserk.
201
592240
2376
10:06
Now, one of the most frightening things,
202
594640
2896
Ένα από τα πιο τρομακτικά πράγματα,
κατά την άποψή μου, αυτή τη στιγμή,
10:09
in my view, at this moment,
203
597560
2776
10:12
are the kinds of things
that AI researchers say
that AI researchers say
204
600360
4296
είναι αυτά που λένε οι ερευνητές
της τεχνητής νοημοσύνης
της τεχνητής νοημοσύνης
10:16
when they want to be reassuring.
205
604680
1560
όταν θέλουν να μας καθησυχάσουν.
Κι ο πιο κοινός λόγος που προβάλλουν
για να μην ανησυχούμε είναι ο χρόνος.
για να μην ανησυχούμε είναι ο χρόνος.
10:19
And the most common reason
we're told not to worry is time.
we're told not to worry is time.
206
607000
3456
10:22
This is all a long way off,
don't you know.
don't you know.
207
610480
2056
Αυτό είναι πολύ μακριά, δεν το βλέπετε;
10:24
This is probably 50 or 100 years away.
208
612560
2440
Είναι περίπου 50 ή 100 χρόνια μετά.
Ένας ερευνητής έχει πει,
10:27
One researcher has said,
209
615720
1256
«Ανησυχώντας για ασφάλεια
στην τεχνητή νοημοσύνη
στην τεχνητή νοημοσύνη
10:29
"Worrying about AI safety
210
617000
1576
10:30
is like worrying
about overpopulation on Mars."
about overpopulation on Mars."
211
618600
2280
είναι σαν να ανησυχούμε
για υπερπληθυσμό στον Άρη».
για υπερπληθυσμό στον Άρη».
10:34
This is the Silicon Valley version
212
622116
1620
Αυτό είναι η έκδοση της Σίλικον Βάλεϊ
10:35
of "don't worry your
pretty little head about it."
pretty little head about it."
213
623760
2376
του «μην ζαλίζεις το όμορφο κεφαλάκι σου».
10:38
(Laughter)
214
626160
1336
(Γέλια)
Κανείς δεν φαίνεται να βλέπει
10:39
No one seems to notice
215
627520
1896
ότι η αναφορά στον χρονικό ορίζοντα
10:41
that referencing the time horizon
216
629440
2616
10:44
is a total non sequitur.
217
632080
2576
είναι τελείως ανακόλουθη.
Αν η ευφυΐα είναι απλώς θέμα
επεξεργασίας της πληροφορίας,
επεξεργασίας της πληροφορίας,
10:46
If intelligence is just a matter
of information processing,
of information processing,
218
634680
3256
10:49
and we continue to improve our machines,
219
637960
2656
και συνεχίζουμε
να βελτιώνουμε τις μηχανές μας,
να βελτιώνουμε τις μηχανές μας,
10:52
we will produce
some form of superintelligence.
some form of superintelligence.
220
640640
2880
σίγουρα θα δημιουργήσουμε
κάποια μορφή υπερευφυΐας.
κάποια μορφή υπερευφυΐας.
10:56
And we have no idea
how long it will take us
how long it will take us
221
644320
3656
Και δεν ξέρουμε πόσο χρόνο θα μας πάρει
να δημιουργήσουμε τις συνθήκες
ώστε να το κάνουμε με ασφάλεια.
ώστε να το κάνουμε με ασφάλεια.
11:00
to create the conditions
to do that safely.
to do that safely.
222
648000
2400
11:04
Let me say that again.
223
652200
1296
Να το πω πάλι.
11:05
We have no idea how long it will take us
224
653520
3816
Δεν έχουμε ιδέα πόσο χρόνο θα μας πάρει
να δημιουργήσουμε τις συνθήκες
ώστε να το κάνουμε με ασφάλεια.
ώστε να το κάνουμε με ασφάλεια.
11:09
to create the conditions
to do that safely.
to do that safely.
225
657360
2240
11:12
And if you haven't noticed,
50 years is not what it used to be.
50 years is not what it used to be.
226
660920
3456
Κι αν δεν το έχετε προσέξει,
τα 50 χρόνια δεν είναι αυτό που ήταν.
τα 50 χρόνια δεν είναι αυτό που ήταν.
Αυτό είναι 50 χρόνια σε μήνες.
11:16
This is 50 years in months.
227
664400
2456
11:18
This is how long we've had the iPhone.
228
666880
1840
Τόσον καιρό έχουμε το iPhone.
11:21
This is how long "The Simpsons"
has been on television.
has been on television.
229
669440
2600
Τόσον καιρό παίζονται
οι Σίμπσονς στην τηλεόραση.
οι Σίμπσονς στην τηλεόραση.
11:24
Fifty years is not that much time
230
672680
2376
Τα 50 χρόνια δεν είναι τόσο πολλά
για μια από τις μεγαλύτερες προκλήσεις
που θα αντιμετωπίσει το είδος μας.
που θα αντιμετωπίσει το είδος μας.
11:27
to meet one of the greatest challenges
our species will ever face.
our species will ever face.
231
675080
3160
11:31
Once again, we seem to be failing
to have an appropriate emotional response
to have an appropriate emotional response
232
679640
4016
Και πάλι - αδυνατούμε να επιδείξουμε
κατάλληλη συναισθηματική απόκριση
κατάλληλη συναισθηματική απόκριση
σε κάτι που έχουμε κάθε λόγο
να πιστεύουμε ότι θα έρθει.
να πιστεύουμε ότι θα έρθει.
11:35
to what we have every reason
to believe is coming.
to believe is coming.
233
683680
2696
11:38
The computer scientist Stuart Russell
has a nice analogy here.
has a nice analogy here.
234
686400
3976
Ο επιστήμων υπολογιστών Στιούαρτ Ράσελ
έχει μια ωραία αναλογία γι' αυτό.
έχει μια ωραία αναλογία γι' αυτό.
Είπε, φανταστείτε ότι λάβαμε μήνυμα
από εξωγήινο πολιτισμό,
από εξωγήινο πολιτισμό,
11:42
He said, imagine that we received
a message from an alien civilization,
a message from an alien civilization,
235
690400
4896
11:47
which read:
236
695320
1696
που έλεγε:
11:49
"People of Earth,
237
697040
1536
«Άνθρωποι της Γης,
11:50
we will arrive on your planet in 50 years.
238
698600
2360
θα φτάσουμε στον πλανήτη σας σε 50 χρόνια.
11:53
Get ready."
239
701800
1576
Ετοιμαστείτε».
11:55
And now we're just counting down
the months until the mothership lands?
the months until the mothership lands?
240
703400
4256
Και τώρα απλώς μετράμε αντίστροφα
τον χρόνο μέχρι να έρθει το διαστημόπλοιο.
τον χρόνο μέχρι να έρθει το διαστημόπλοιο.
11:59
We would feel a little
more urgency than we do.
more urgency than we do.
241
707680
3000
Θα το νιώθαμε ως κάτι λίγο
πιο επιτακτικό από ό,τι τώρα.
πιο επιτακτικό από ό,τι τώρα.
Μας λένε επίσης να μην ανησυχούμε,
12:04
Another reason we're told not to worry
242
712680
1856
γιατί οι μηχανές δεν μπορούν
παρά να έχουν τις δικές μας αξίες,
παρά να έχουν τις δικές μας αξίες,
12:06
is that these machines
can't help but share our values
can't help but share our values
243
714560
3016
12:09
because they will be literally
extensions of ourselves.
extensions of ourselves.
244
717600
2616
καθώς κυριολεκτικά
είναι προέκταση των εαυτών μας.
είναι προέκταση των εαυτών μας.
Θα συνδεθούν στον εγκέφαλό μας
12:12
They'll be grafted onto our brains,
245
720240
1816
και βασικά θα γίνουμε
το μεταιχμιακό τους σύστημα.
το μεταιχμιακό τους σύστημα.
12:14
and we'll essentially
become their limbic systems.
become their limbic systems.
246
722080
2360
12:17
Now take a moment to consider
247
725120
1416
Σκεφτείτε για ένα λεπτό
ότι ο ασφαλέστερος και ο μόνος
συνετός δρόμος προς τα εμπρός
συνετός δρόμος προς τα εμπρός
12:18
that the safest
and only prudent path forward,
and only prudent path forward,
248
726560
3176
που προτείνεται,
12:21
recommended,
249
729760
1336
είναι να εμφυτεύσουμε αυτή την τεχνολογία
απευθείας στον εγκέφαλό μας.
απευθείας στον εγκέφαλό μας.
12:23
is to implant this technology
directly into our brains.
directly into our brains.
250
731120
2800
12:26
Now, this may in fact be the safest
and only prudent path forward,
and only prudent path forward,
251
734600
3376
Βέβαια, μπορεί να είναι ο ασφαλέστερος
και ο μόνος συνετός δρόμος,
και ο μόνος συνετός δρόμος,
αλλά συνήθως οι ανησυχίες
για την ασφάλεια μιας τεχνολογίας
για την ασφάλεια μιας τεχνολογίας
12:30
but usually one's safety concerns
about a technology
about a technology
252
738000
3056
πρέπει να έχουν επιλυθεί
πριν την εμφυτεύσουμε στο κεφάλι μας.
πριν την εμφυτεύσουμε στο κεφάλι μας.
12:33
have to be pretty much worked out
before you stick it inside your head.
before you stick it inside your head.
253
741080
3656
(Γέλια)
12:36
(Laughter)
254
744760
2016
12:38
The deeper problem is that
building superintelligent AI on its own
building superintelligent AI on its own
255
746800
5336
Το βαθύτερο πρόβλημα είναι
ότι φαίνεται ευκολότερο
ότι φαίνεται ευκολότερο
να φτάξεις ένα μεμονωμένο
σύστημα τεχνητής νοημοσύνης,
σύστημα τεχνητής νοημοσύνης,
12:44
seems likely to be easier
256
752160
1736
από το να φτιάξεις ένα σύστημα
12:45
than building superintelligent AI
257
753920
1856
και να έχεις και επαρκή νευροεπιστήμη
12:47
and having the completed neuroscience
258
755800
1776
που να επιτρέπει την εύκολη
ενσωμάτωσή του στον εγκέφαλό μας.
ενσωμάτωσή του στον εγκέφαλό μας.
12:49
that allows us to seamlessly
integrate our minds with it.
integrate our minds with it.
259
757600
2680
12:52
And given that the companies
and governments doing this work
and governments doing this work
260
760800
3176
Και δεδομένου ότι οι κυβερνήσεις
και εταιρείες που θα το κάνουν
και εταιρείες που θα το κάνουν
είναι πιθανόν θα θεωρούν
ότι ανταγωνίζονται όλους τους άλλους,
ότι ανταγωνίζονται όλους τους άλλους,
12:56
are likely to perceive themselves
as being in a race against all others,
as being in a race against all others,
261
764000
3656
εφόσον όποιος το κάνει πρώτος
θα κυριαρχήσει στον κόσμο,
θα κυριαρχήσει στον κόσμο,
12:59
given that to win this race
is to win the world,
is to win the world,
262
767680
3256
με την προϋπόθεση
ότι δεν θα τον καταστρέψει αμέσως μετά,
ότι δεν θα τον καταστρέψει αμέσως μετά,
13:02
provided you don't destroy it
in the next moment,
in the next moment,
263
770960
2456
13:05
then it seems likely
that whatever is easier to do
that whatever is easier to do
264
773440
2616
τότε μοιάζει πιθανό
ότι θα γίνει πρώτο
οτιδήποτε γίνεται πιο εύκολα.
οτιδήποτε γίνεται πιο εύκολα.
13:08
will get done first.
265
776080
1200
13:10
Now, unfortunately,
I don't have a solution to this problem,
I don't have a solution to this problem,
266
778560
2856
Δυστυχώς δεν έχω κάποια λύση
γι' αυτό το πρόβλημα,
γι' αυτό το πρόβλημα,
εκτός από το να συστήσω
να το ξανασκεφτούμε οι περισσότεροι.
να το ξανασκεφτούμε οι περισσότεροι.
13:13
apart from recommending
that more of us think about it.
that more of us think about it.
267
781440
2616
Νομίζω ότι χρειαζόμαστε
κάτι σαν το Πρόγραμμα Μανχάταν
κάτι σαν το Πρόγραμμα Μανχάταν
13:16
I think we need something
like a Manhattan Project
like a Manhattan Project
268
784080
2376
13:18
on the topic of artificial intelligence.
269
786480
2016
προσαρμοσμένο για την τεχνητή νοημοσύνη.
13:20
Not to build it, because I think
we'll inevitably do that,
we'll inevitably do that,
270
788520
2736
Όχι για να την φτιάξουμε,
γιατί μάλλον είναι αναπόφευκτο,
γιατί μάλλον είναι αναπόφευκτο,
13:23
but to understand
how to avoid an arms race
how to avoid an arms race
271
791280
3336
αλλά να καταλάβουμε πώς να αποφύγουμε
έναν αγώνα εξοπλισμών
έναν αγώνα εξοπλισμών
και να την φτιάξουμε έτσι που
να συμβαδίζει με τα συμφέροντά μας.
να συμβαδίζει με τα συμφέροντά μας.
13:26
and to build it in a way
that is aligned with our interests.
that is aligned with our interests.
272
794640
3496
13:30
When you're talking
about superintelligent AI
about superintelligent AI
273
798160
2136
Όταν μιλάτε
για υπερευφυή τεχνητή νοημοσύνη
για υπερευφυή τεχνητή νοημοσύνη
που μπορεί να τροποποιήσει τον εαυτό της,
13:32
that can make changes to itself,
274
800320
2256
13:34
it seems that we only have one chance
to get the initial conditions right,
to get the initial conditions right,
275
802600
4616
φαίνεται ότι έχουμε μόνο μία πιθανότητα
να ορίσουμε τις σωστές προϋποθέσεις,
να ορίσουμε τις σωστές προϋποθέσεις,
και ακόμη και τότε
θα χρειαστεί να απορροφήσουμε
θα χρειαστεί να απορροφήσουμε
13:39
and even then we will need to absorb
276
807240
2056
13:41
the economic and political
consequences of getting them right.
consequences of getting them right.
277
809320
3040
τις οικονομικές και πολιτικές συνέπειες
της σωστής εφαρμογής.
της σωστής εφαρμογής.
13:45
But the moment we admit
278
813760
2056
Αλλά μόλις παραδεχθούμε
ότι η επεξεργασία πληροφοριών
είναι η πηγή της ευφυΐας,
είναι η πηγή της ευφυΐας,
13:47
that information processing
is the source of intelligence,
is the source of intelligence,
279
815840
4000
13:52
that some appropriate computational system
is what the basis of intelligence is,
is what the basis of intelligence is,
280
820720
4800
ότι η βάση της ευφυΐας είναι
κάποιο κατάλληλο υπολογιστικό σύστημα,
κάποιο κατάλληλο υπολογιστικό σύστημα,
13:58
and we admit that we will improve
these systems continuously,
these systems continuously,
281
826360
3760
και αποδεχθούμε να βελτιώνουμε
αυτά τα συστήματα συνεχώς,
αυτά τα συστήματα συνεχώς,
14:03
and we admit that the horizon
of cognition very likely far exceeds
of cognition very likely far exceeds
282
831280
4456
και παραδεχθούμε ότι ο γνωστικός ορίζοντας
μάλλον ξεπερνά κατά πολύ
μάλλον ξεπερνά κατά πολύ
όσα ήδη γνωρίζουμε,
14:07
what we currently know,
283
835760
1200
14:10
then we have to admit
284
838120
1216
τότε πρέπει να παραδεχθούμε
14:11
that we are in the process
of building some sort of god.
of building some sort of god.
285
839360
2640
ότι βρισκόμαστε σε διαδικασία κατασκευής
κάποιου είδους θεού.
κάποιου είδους θεού.
14:15
Now would be a good time
286
843400
1576
Τώρα είναι η σωστή ώρα
να εξασφαλίσουμε ότι είναι ένας θεός
με τον οποίον μπορούμε να ζήσουμε.
με τον οποίον μπορούμε να ζήσουμε.
14:17
to make sure it's a god we can live with.
287
845000
1953
14:20
Thank you very much.
288
848120
1536
Σας ευχαριστώ πολύ.
(Χειροκρότημα)
14:21
(Applause)
289
849680
5093
ABOUT THE SPEAKER
Sam Harris - Neuroscientist, philosopherSam Harris's work focuses on how our growing understanding of ourselves and the world is changing our sense of how we should live.
Why you should listen
Sam Harris is the author of five New York Times bestsellers. His books include The End of Faith, Letter to a Christian Nation, The Moral Landscape, Free Will, Lying, Waking Up and Islam and the Future of Tolerance (with Maajid Nawaz). The End of Faith won the 2005 PEN Award for Nonfiction. Harris's writing and public lectures cover a wide range of topics -- neuroscience, moral philosophy, religion, spirituality, violence, human reasoning -- but generally focus on how a growing understanding of ourselves and the world is changing our sense of how we should live.
Harris's work has been published in more than 20 languages and has been discussed in the New York Times, Time, Scientific American, Nature, Newsweek, Rolling Stone and many other journals. He has written for the New York Times, the Los Angeles Times, The Economist, The Times (London), the Boston Globe, The Atlantic, The Annals of Neurology and elsewhere. Harris also regularly hosts a popular podcast.
Harris received a degree in philosophy from Stanford University and a Ph.D. in neuroscience from UCLA.
Sam Harris | Speaker | TED.com