TEDGlobal>NYC
Zeynep Tufekci: We're building a dystopia just to make people click on ads
Zeynep Tufekci: Disztópiát építünk, csak azért, hogy az emberek reklámokra kattintsanak
Filmed:
Readability: 4.8
2,866,905 views
Mesterséges intelligenciával működő disztópiát építünk egyetlen kattintással – mondja ZeynepTufekci techno-szociológus. Szemünket felnyitó beszédében részletesen beszél arról, hogy ugyanazokat az algoritmusokat, amiket a Facebook, a Google és az Amazon reklámokra kattintásra használ, arra is alkalmazhatók, hogy rendszerezzék hozzáférésünket a politikai és társadalmi információkhoz. És még csak nem is a gépek jelentik az igazi kihívást. Meg kell értenünk, hogy a hatalom arra használhatja az mesterséges intelligenciát, hogy ellenőrizzen minket – és tudnunk kell, mit tehetünk ez ellen.
Zeynep Tufekci - Techno-sociologist
Techno-sociologist Zeynep Tufekci asks big questions about our societies and our lives, as both algorithms and digital connectivity spread. Full bio
Techno-sociologist Zeynep Tufekci asks big questions about our societies and our lives, as both algorithms and digital connectivity spread. Full bio
Double-click the English transcript below to play the video.
00:12
So when people voice fears
of artificial intelligence,
of artificial intelligence,
0
760
3536
Amikor az emberek aggódnak
a mesterséges intelligencia miatt,
a mesterséges intelligencia miatt,
00:16
very often, they invoke images
of humanoid robots run amok.
of humanoid robots run amok.
1
4320
3976
nagyon gyakran ámokfutó
robotokra gondolnak.
robotokra gondolnak.
00:20
You know? Terminator?
2
8320
1240
Ugye? A Terminátor?
00:22
You know, that might be
something to consider,
something to consider,
3
10400
2336
Ez tényleg megfontolandó lehet,
00:24
but that's a distant threat.
4
12760
1856
de távoli fenyegetés.
00:26
Or, we fret about digital surveillance
5
14640
3456
Vagy múltból szedett metaforákkal
idegeskedünk
idegeskedünk
00:30
with metaphors from the past.
6
18120
1776
a digitális megfigyelés miatt.
00:31
"1984," George Orwell's "1984,"
7
19920
2656
1984. George Orwell 1984-e
00:34
it's hitting the bestseller lists again.
8
22600
2280
újra bestseller.
00:37
It's a great book,
9
25960
1416
Remek könyv,
00:39
but it's not the correct dystopia
for the 21st century.
for the 21st century.
10
27400
3880
de nem a 21. századról szóló disztópia.
Amitől sokkal jobban kell félnünk,
00:44
What we need to fear most
11
32080
1416
00:45
is not what artificial intelligence
will do to us on its own,
will do to us on its own,
12
33520
4776
nem az, hogy a mesterséges intelligencia
mit fog tenni magától,
mit fog tenni magától,
00:50
but how the people in power
will use artificial intelligence
will use artificial intelligence
13
38320
4736
hanem hogy a hatalomban lévők
mire fogják használni ezt,
mire fogják használni ezt,
00:55
to control us and to manipulate us
14
43080
2816
hogy szokatlan, néha rejtett,
00:57
in novel, sometimes hidden,
15
45920
3136
kifinomult és váratlan módokon
01:01
subtle and unexpected ways.
16
49080
3016
ellenőrizzenek és manipuláljanak minket.
01:04
Much of the technology
17
52120
1856
A technológia nagy részét,
01:06
that threatens our freedom
and our dignity in the near-term future
and our dignity in the near-term future
18
54000
4336
ami szabadságunkat és méltóságunkat
veszélyezteti a közeljövőben,
veszélyezteti a közeljövőben,
01:10
is being developed by companies
19
58360
1856
olyan cégek fejlesztik,
01:12
in the business of capturing
and selling our data and our attention
and selling our data and our attention
20
60240
4936
akiknek üzleti érdekében áll megszerezni
és eladni adatainkat, érdeklődési körünket
és eladni adatainkat, érdeklődési körünket
01:17
to advertisers and others:
21
65200
2256
hirdetőknek és másoknak:
01:19
Facebook, Google, Amazon,
22
67480
3416
Facebook, Google, Amazon
01:22
Alibaba, Tencent.
23
70920
1880
Alibaba, Tencent.
01:26
Now, artificial intelligence has started
bolstering their business as well.
bolstering their business as well.
24
74040
5496
A mesterséges intelligencia
már az ő üzleteiket is erősíti.
már az ő üzleteiket is erősíti.
01:31
And it may seem
like artificial intelligence
like artificial intelligence
25
79560
2096
És úgy tűnhet, a mesterséges intelligencia
01:33
is just the next thing after online ads.
26
81680
2856
csak egy újabb lépés
az online reklámok után.
az online reklámok után.
01:36
It's not.
27
84560
1216
De nem az.
01:37
It's a jump in category.
28
85800
2456
Kategóriaugrás.
01:40
It's a whole different world,
29
88280
2576
Teljesen más világ,
01:42
and it has great potential.
30
90880
2616
és nagy lehetőségek vannak benne.
01:45
It could accelerate our understanding
of many areas of study and research.
of many areas of study and research.
31
93520
6920
Segíthet megérteni sok terület
tanulmányait és kutatásait.
tanulmányait és kutatásait.
01:53
But to paraphrase
a famous Hollywood philosopher,
a famous Hollywood philosopher,
32
101120
3496
Egy híres hollywoodi filozófust idézve:
01:56
"With prodigious potential
comes prodigious risk."
comes prodigious risk."
33
104640
3640
„A hatalmas lehetőségek
hatalmas kockázattal járnak”
hatalmas kockázattal járnak”
02:01
Now let's look at a basic fact
of our digital lives, online ads.
of our digital lives, online ads.
34
109120
3936
Most nézzük meg digitális életünk
alapvetését, az online hirdetéseket.
alapvetését, az online hirdetéseket.
02:05
Right? We kind of dismiss them.
35
113080
2896
Észre sem vesszük őket, nem?
02:08
They seem crude, ineffective.
36
116000
1976
Erőszakosnak, hatástalannak tűnnek.
02:10
We've all had the experience
of being followed on the web
of being followed on the web
37
118000
4256
Mindegyikünk megtapasztalta már,
hogy olyan reklám követ minket a weben,
hogy olyan reklám követ minket a weben,
02:14
by an ad based on something
we searched or read.
we searched or read.
38
122280
2776
ami a kereséseink, olvasmányaink
témájához kötődik.
témájához kötődik.
02:17
You know, you look up a pair of boots
39
125080
1856
Rákeresünk például egy pár csizmára,
02:18
and for a week, those boots are following
you around everywhere you go.
you around everywhere you go.
40
126960
3376
ami aztán hetekig a nyomunkban jár,
bármerre járunk.
bármerre járunk.
02:22
Even after you succumb and buy them,
they're still following you around.
they're still following you around.
41
130360
3656
Még azután is, hogy megadjuk magunkat,
és megvesszük.
és megvesszük.
02:26
We're kind of inured to that kind
of basic, cheap manipulation.
of basic, cheap manipulation.
42
134040
3016
Hozzászokhattunk már ehhez az
egyszerű, olcsó manipulációhoz.
egyszerű, olcsó manipulációhoz.
02:29
We roll our eyes and we think,
"You know what? These things don't work."
"You know what? These things don't work."
43
137080
3400
Forgatjuk a szemünk, és azt gondoljuk,
„Eh, ez nem működik.”
„Eh, ez nem működik.”
02:33
Except, online,
44
141720
2096
A digitális technológiák nemcsak reklámok,
02:35
the digital technologies are not just ads.
45
143840
3600
eltekintve online felületüktől.
02:40
Now, to understand that,
let's think of a physical world example.
let's think of a physical world example.
46
148240
3120
Ennek megértéséhez nézzünk
egy példát a fizikai világból.
egy példát a fizikai világból.
02:43
You know how, at the checkout counters
at supermarkets, near the cashier,
at supermarkets, near the cashier,
47
151840
4656
Tudják, hogy a szupermarketekben
a pénztár közelében
a pénztár közelében
02:48
there's candy and gum
at the eye level of kids?
at the eye level of kids?
48
156520
3480
nyalókák és rágógumik vannak
a gyerekek szemmagasságában?
a gyerekek szemmagasságában?
02:52
That's designed to make them
whine at their parents
whine at their parents
49
160800
3496
Ezt úgy tervezték, hogy
sírjanak a szüleiknek,
sírjanak a szüleiknek,
02:56
just as the parents
are about to sort of check out.
are about to sort of check out.
50
164320
3080
amikor épp sorban állnak a fizetéshez.
03:00
Now, that's a persuasion architecture.
51
168040
2640
Ez a meggyőzés architektúrája.
03:03
It's not nice, but it kind of works.
52
171160
3096
Nem szép, de láthatóan működik.
03:06
That's why you see it
in every supermarket.
in every supermarket.
53
174280
2040
Ezért látjuk ezt minden szupermarketben.
03:08
Now, in the physical world,
54
176720
1696
Na most, a fizikai világban
03:10
such persuasion architectures
are kind of limited,
are kind of limited,
55
178440
2496
ez az architektúra
viszonylag korlátozott,
viszonylag korlátozott,
03:12
because you can only put
so many things by the cashier. Right?
so many things by the cashier. Right?
56
180960
4816
mert nem lehet mindent
a pénztárhoz rakni, ugye?
a pénztárhoz rakni, ugye?
03:17
And the candy and gum,
it's the same for everyone,
it's the same for everyone,
57
185800
4296
A nyalóka meg a rágógumi
mindenkinek ugyanolyan,
mindenkinek ugyanolyan,
03:22
even though it mostly works
58
190120
1456
bár általában jobban működik
03:23
only for people who have
whiny little humans beside them.
whiny little humans beside them.
59
191600
4040
azoknál az embereknél,
akik mellett kicsi síró alakok állnak.
akik mellett kicsi síró alakok állnak.
03:29
In the physical world,
we live with those limitations.
we live with those limitations.
60
197160
3920
A fizikai világban
együtt élünk ezekkel a korlátokkal.
együtt élünk ezekkel a korlátokkal.
03:34
In the digital world, though,
61
202280
1936
A digitális világban viszont
03:36
persuasion architectures
can be built at the scale of billions
can be built at the scale of billions
62
204240
4320
a meggyőzési architektúrák
milliárdos nagyságrendűek lehetnek,
milliárdos nagyságrendűek lehetnek,
03:41
and they can target, infer, understand
63
209840
3856
és megcélozhatnak, felbecsülhetnek,
kiismerhetnek egyéneket,
kiismerhetnek egyéneket,
03:45
and be deployed at individuals
64
213720
2896
majd egyesével
03:48
one by one
65
216640
1216
bevethetők ellenük,
03:49
by figuring out your weaknesses,
66
217880
2136
rátapintva gyengeségeikre,
03:52
and they can be sent
to everyone's phone private screen,
to everyone's phone private screen,
67
220040
5616
és bárki privát telefon-képernyőjére
elküldhetők,
elküldhetők,
03:57
so it's not visible to us.
68
225680
2256
így a többiek nem látják.
03:59
And that's different.
69
227960
1256
És ettől más.
04:01
And that's just one of the basic things
that artificial intelligence can do.
that artificial intelligence can do.
70
229240
3576
Ez csak egyetlen egyszerű dolog,
amire a mesterséges intelligencia képes.
amire a mesterséges intelligencia képes.
04:04
Now, let's take an example.
71
232840
1336
Nézzünk egy példát.
04:06
Let's say you want to sell
plane tickets to Vegas. Right?
plane tickets to Vegas. Right?
72
234200
2696
Mondjuk, repülőjegyeket akarunk eladni
Las Vegasba. Jó?
Las Vegasba. Jó?
04:08
So in the old world, you could think
of some demographics to target
of some demographics to target
73
236920
3496
A régi világban tapasztalat
és feltételezések alapján
és feltételezések alapján
04:12
based on experience
and what you can guess.
and what you can guess.
74
240440
2520
némi demográfiai célt is tippelhetnénk.
04:15
You might try to advertise to, oh,
75
243560
2816
Tegyük fel, hogy mondjuk,
04:18
men between the ages of 25 and 35,
76
246400
2496
25 és 35 közötti férfiaknak hirdetjük meg,
04:20
or people who have
a high limit on their credit card,
a high limit on their credit card,
77
248920
3936
vagy olyanoknak, akiknek
magas hitelkeret van a kártyájukon,
magas hitelkeret van a kártyájukon,
vagy nyugdíjas pároknak. Nem?
04:24
or retired couples. Right?
78
252880
1376
04:26
That's what you would do in the past.
79
254280
1816
Ezt tennénk a múltban.
04:28
With big data and machine learning,
80
256120
2896
Nagy adatmennyiséggel és gépi tanulással
04:31
that's not how it works anymore.
81
259040
1524
ez többé már nem így működik.
04:33
So to imagine that,
82
261320
2176
Úgyhogy képzeljék el,
04:35
think of all the data
that Facebook has on you:
that Facebook has on you:
83
263520
3856
gondoljanak az összes adatra,
amit a Facebook őriz önökről:
amit a Facebook őriz önökről:
04:39
every status update you ever typed,
84
267400
2536
minden állapotfrissítés, amit valaha
begépeltek,
begépeltek,
04:41
every Messenger conversation,
85
269960
2016
minden Messenger-beszélgetés,
04:44
every place you logged in from,
86
272000
1880
minden hely, ahonnan bejelentkeztek,
04:48
all your photographs
that you uploaded there.
that you uploaded there.
87
276400
3176
minden fotó, amit feltöltöttek oda.
04:51
If you start typing something
and change your mind and delete it,
and change your mind and delete it,
88
279600
3776
Ha elkezdenek begépelni valamit,
aztán meggondolják magukat, és törlik,
aztán meggondolják magukat, és törlik,
04:55
Facebook keeps those
and analyzes them, too.
and analyzes them, too.
89
283400
3200
a Facebook azt is megtartja, és elemzi.
04:59
Increasingly, it tries
to match you with your offline data.
to match you with your offline data.
90
287160
3936
Sőt, megpróbálja összekötni önöket
offline adataikkal.
offline adataikkal.
05:03
It also purchases
a lot of data from data brokers.
a lot of data from data brokers.
91
291120
3176
Sok adatot vásárol
adatkereskedőktől is.
adatkereskedőktől is.
05:06
It could be everything
from your financial records
from your financial records
92
294320
3416
Ez bármi lehet:
a pénzügyi nyilvántartásuktól kezdve
a pénzügyi nyilvántartásuktól kezdve
05:09
to a good chunk of your browsing history.
93
297760
2120
a böngészési előzményeik jó részéig.
05:12
Right? In the US,
such data is routinely collected,
such data is routinely collected,
94
300360
5416
Értik? Az Államokban ezeket az adatokat
rutinszerűen gyűjtik,
rutinszerűen gyűjtik,
05:17
collated and sold.
95
305800
1960
elemzik és eladják.
05:20
In Europe, they have tougher rules.
96
308320
2440
Európában ezt szigorúbban szabályozzák.
05:23
So what happens then is,
97
311680
2200
Így az történik, hogy amint
05:26
by churning through all that data,
these machine-learning algorithms --
these machine-learning algorithms --
98
314920
4016
ezek a gépi tanulásos algoritmusok
végigfutnak az adatokon –
végigfutnak az adatokon –
05:30
that's why they're called
learning algorithms --
learning algorithms --
99
318960
2896
ezért hívjuk tanuló algoritmusoknak –,
05:33
they learn to understand
the characteristics of people
the characteristics of people
100
321880
4096
megtanulják megérteni azok jellemzőit,
05:38
who purchased tickets to Vegas before.
101
326000
2520
akik korábban jegyet vettek Las Vegasba.
05:41
When they learn this from existing data,
102
329760
3536
Amikor meglévő adatból tanulnak,
05:45
they also learn
how to apply this to new people.
how to apply this to new people.
103
333320
3816
megtanulják azt is,
hogyan alkalmazzák új emberekre.
hogyan alkalmazzák új emberekre.
05:49
So if they're presented with a new person,
104
337160
3056
Így ha új személlyel találkoznak,
05:52
they can classify whether that person
is likely to buy a ticket to Vegas or not.
is likely to buy a ticket to Vegas or not.
105
340240
4640
be tudják sorolni hogy ő valószínűleg
vesz-e jegyet Vegasba, vagy nem.
vesz-e jegyet Vegasba, vagy nem.
05:57
Fine. You're thinking,
an offer to buy tickets to Vegas.
an offer to buy tickets to Vegas.
106
345720
5456
Rendben. Önök azt hiszik,
ez egy ajánlat Vegasba.
ez egy ajánlat Vegasba.
06:03
I can ignore that.
107
351200
1456
Ezt figyelmen kívül hagyhatom.
06:04
But the problem isn't that.
108
352680
2216
A probléma azonban nem ez.
06:06
The problem is,
109
354920
1576
Hanem az, hogy többé
06:08
we no longer really understand
how these complex algorithms work.
how these complex algorithms work.
110
356520
4136
nem igazán értjük, hogyan működnek
ezek az összetett algoritmusok.
ezek az összetett algoritmusok.
06:12
We don't understand
how they're doing this categorization.
how they're doing this categorization.
111
360680
3456
Nem értjük, hogyan csoportosítanak.
06:16
It's giant matrices,
thousands of rows and columns,
thousands of rows and columns,
112
364160
4416
Hatalmas mátrixok,
több ezernyi sor és oszlop,
több ezernyi sor és oszlop,
06:20
maybe millions of rows and columns,
113
368600
1960
talán milliónyi sor vagy oszlop,
06:23
and not the programmers
114
371320
2640
és sem a programozók,
06:26
and not anybody who looks at it,
115
374760
1680
sem senki, aki ránéz,
06:29
even if you have all the data,
116
377440
1496
nem érti már
a pontos működését,
a pontos működését,
06:30
understands anymore
how exactly it's operating
how exactly it's operating
117
378960
4616
még akkor sem, ha megvan az összes adat,
06:35
any more than you'd know
what I was thinking right now
what I was thinking right now
118
383600
3776
mint ahogy azt sem tudnák,
mit gondolok éppen,
mit gondolok éppen,
06:39
if you were shown
a cross section of my brain.
a cross section of my brain.
119
387400
3960
még akkor sem, ha megmutatnám
az agyam keresztmetszetét.
az agyam keresztmetszetét.
06:44
It's like we're not programming anymore,
120
392360
2576
Mintha többé nem programoznánk,
06:46
we're growing intelligence
that we don't truly understand.
that we don't truly understand.
121
394960
4400
olyan intelligenciát fejlesztünk,
amit nem értünk teljesen.
amit nem értünk teljesen.
06:52
And these things only work
if there's an enormous amount of data,
if there's an enormous amount of data,
122
400520
3976
És mindezek csak akkor működnek,
ha rengeteg adatunk van,
ha rengeteg adatunk van,
06:56
so they also encourage
deep surveillance on all of us
deep surveillance on all of us
123
404520
5096
így arra is ösztönöznek, hogy alaposan
megfigyeljenek mindannyiunkat,
megfigyeljenek mindannyiunkat,
07:01
so that the machine learning
algorithms can work.
algorithms can work.
124
409640
2336
hogy működhessenek
a gépi tanulásos algoritmusok.
a gépi tanulásos algoritmusok.
07:04
That's why Facebook wants
to collect all the data it can about you.
to collect all the data it can about you.
125
412000
3176
Ezért gyűjt össze a Facebook
minden adatot rólunk, amit csak tud.
minden adatot rólunk, amit csak tud.
07:07
The algorithms work better.
126
415200
1576
Az algoritmusok jobban működnek.
07:08
So let's push that Vegas example a bit.
127
416800
2696
Nézzük még kicsit a vegasi példát.
07:11
What if the system
that we do not understand
that we do not understand
128
419520
3680
Mi van, ha a rendszer, amit nem értünk,
07:16
was picking up that it's easier
to sell Vegas tickets
to sell Vegas tickets
129
424200
5136
rájött, hogy egyszerűbb vegasi jegyeket
eladni azoknak,
eladni azoknak,
07:21
to people who are bipolar
and about to enter the manic phase.
and about to enter the manic phase.
130
429360
3760
akiknek bipoláris zavara
éppen a mániákus szakaszba lép?
éppen a mániákus szakaszba lép?
07:25
Such people tend to become
overspenders, compulsive gamblers.
overspenders, compulsive gamblers.
131
433640
4920
Ők gyakran lesznek túlköltekezők,
kényszeres szerencsejátékosok.
kényszeres szerencsejátékosok.
07:31
They could do this, and you'd have no clue
that's what they were picking up on.
that's what they were picking up on.
132
439280
4456
Kiválaszthatja őket ennek alapján,
és mi még csak nem is sejtjük.
és mi még csak nem is sejtjük.
07:35
I gave this example
to a bunch of computer scientists once
to a bunch of computer scientists once
133
443760
3616
Egyszer informatikusok körében
mondtam el ezt a példát,
mondtam el ezt a példát,
07:39
and afterwards, one of them came up to me.
134
447400
2056
utána egyikük odajött hozzám.
07:41
He was troubled and he said,
"That's why I couldn't publish it."
"That's why I couldn't publish it."
135
449480
3520
Zavart volt, és azt mondta:
„Ezért nem tudom kiadni.”
„Ezért nem tudom kiadni.”
07:45
I was like, "Couldn't publish what?"
136
453600
1715
Mondom: „Mit nem tud kiadni?”
07:47
He had tried to see whether you can indeed
figure out the onset of mania
figure out the onset of mania
137
455800
5856
Olyan szoftvert írt, ami azt vizsgálja:
megállapítható-e a mánia megjelenése
megállapítható-e a mánia megjelenése
közösségi médiás bejegyzésekből
a klinikai tünetek megjelenése előtt,
a klinikai tünetek megjelenése előtt,
07:53
from social media posts
before clinical symptoms,
before clinical symptoms,
138
461680
3216
07:56
and it had worked,
139
464920
1776
és kiderült, hogy igen,
07:58
and it had worked very well,
140
466720
2056
a programja nagyon is jól működött,
08:00
and he had no idea how it worked
or what it was picking up on.
or what it was picking up on.
141
468800
4880
ő pedig nem tudta, hogyan működik,
vagy hogy milyen fogásra akadt.
vagy hogy milyen fogásra akadt.
08:06
Now, the problem isn't solved
if he doesn't publish it,
if he doesn't publish it,
142
474840
4416
A probléma nem oldódik meg,
ha nem adja ki a szoftvert,
ha nem adja ki a szoftvert,
08:11
because there are already companies
143
479280
1896
mert már vannak cégek,
08:13
that are developing
this kind of technology,
this kind of technology,
144
481200
2536
akik fejlesztenek ilyen technológiát,
08:15
and a lot of the stuff
is just off the shelf.
is just off the shelf.
145
483760
2800
és már sok minden elérhető.
08:19
This is not very difficult anymore.
146
487240
2576
Ez ma már nem túl bonyolult.
08:21
Do you ever go on YouTube
meaning to watch one video
meaning to watch one video
147
489840
3456
Mentek-e már úgy a Youtube-ra,
hogy csak egy videót néznek meg,
hogy csak egy videót néznek meg,
08:25
and an hour later you've watched 27?
148
493320
2360
és egy óra múlva
már a huszonhetediknél tartottak?
már a huszonhetediknél tartottak?
08:28
You know how YouTube
has this column on the right
has this column on the right
149
496760
2496
Ismerik-e a Youtube-on
a jobb oldali oszlopot,
a jobb oldali oszlopot,
08:31
that says, "Up next"
150
499280
2216
ahol ez áll: „Következő”,
08:33
and it autoplays something?
151
501520
1816
és automatikusan lejátszik valamit?
08:35
It's an algorithm
152
503360
1216
Az egy algoritmus,
08:36
picking what it thinks
that you might be interested in
that you might be interested in
153
504600
3616
ami kiválasztja, hogy feltehetően
mi érdekli a látogatót,
mi érdekli a látogatót,
és nem biztos, hogy magunktól rátalálnánk.
08:40
and maybe not find on your own.
154
508240
1536
08:41
It's not a human editor.
155
509800
1256
Ezt nem ember szerkeszti.
08:43
It's what algorithms do.
156
511080
1416
Így működnek az algoritmusok.
08:44
It picks up on what you have watched
and what people like you have watched,
and what people like you have watched,
157
512520
4736
Annak alapján, amit mi
és a hozzánk hasonló látogatók megnézünk,
és a hozzánk hasonló látogatók megnézünk,
08:49
and infers that that must be
what you're interested in,
what you're interested in,
158
517280
4216
kiválasztja és kikövetkezteti,
mi az, ami még érdekelhet minket,
mi az, ami még érdekelhet minket,
08:53
what you want more of,
159
521520
1255
miből szeretnénk még,
08:54
and just shows you more.
160
522799
1336
és ezekből többet mutat.
08:56
It sounds like a benign
and useful feature,
and useful feature,
161
524159
2201
Jószándékú és hasznos
funkciónak hangzik,
funkciónak hangzik,
08:59
except when it isn't.
162
527280
1200
de nem mindig az.
09:01
So in 2016, I attended rallies
of then-candidate Donald Trump
of then-candidate Donald Trump
163
529640
6960
2016-ban részt vettem
az akkor jelölt Donald Trump gyűlésein,
az akkor jelölt Donald Trump gyűlésein,
09:09
to study as a scholar
the movement supporting him.
the movement supporting him.
164
537840
3336
hogy kutatóként tanulmányozzam
az őt támogató mozgalmat.
az őt támogató mozgalmat.
09:13
I study social movements,
so I was studying it, too.
so I was studying it, too.
165
541200
3456
Társadalmi mozgalmakat kutatok,
ezért ezt is tanulmányoztam.
ezért ezt is tanulmányoztam.
09:16
And then I wanted to write something
about one of his rallies,
about one of his rallies,
166
544680
3336
Aztán írni akartam valamit
az egyik gyűléséről,
az egyik gyűléséről,
09:20
so I watched it a few times on YouTube.
167
548040
1960
ezért megnéztem párszor a Youtube-on.
A Youtube fehér felsőbbrendűségről szóló
videókat kezdett ajánlgatni
videókat kezdett ajánlgatni
09:23
YouTube started recommending to me
168
551240
3096
09:26
and autoplaying to me
white supremacist videos
white supremacist videos
169
554360
4256
és automatikusan lejátszani nekem,
09:30
in increasing order of extremism.
170
558640
2656
egyre szélsőségesebbeket.
09:33
If I watched one,
171
561320
1816
Ha megnéztem egyet,
09:35
it served up one even more extreme
172
563160
2976
még szélsőségesebbet kaptam,
09:38
and autoplayed that one, too.
173
566160
1424
és azt is magától lejátszotta.
09:40
If you watch Hillary Clinton
or Bernie Sanders content,
or Bernie Sanders content,
174
568320
4536
Ha Hillary Clintonról vagy
Bernie Sandersről nézünk tartalmakat,
Bernie Sandersről nézünk tartalmakat,
09:44
YouTube recommends
and autoplays conspiracy left,
and autoplays conspiracy left,
175
572880
4696
a Youtube automatikusan
összeesküvés-elméleteket kezd lejátszani,
összeesküvés-elméleteket kezd lejátszani,
09:49
and it goes downhill from there.
176
577600
1760
innentől már csak lejjebb van.
09:52
Well, you might be thinking,
this is politics, but it's not.
this is politics, but it's not.
177
580480
3056
Önök azt gondolhatják: ez politika,
de nem az.
de nem az.
09:55
This isn't about politics.
178
583560
1256
Ez nem a politikáról szól.
09:56
This is just the algorithm
figuring out human behavior.
figuring out human behavior.
179
584840
3096
Ez csak egy algoritmus,
ami kitalálja az emberi viselkedést.
ami kitalálja az emberi viselkedést.
09:59
I once watched a video
about vegetarianism on YouTube
about vegetarianism on YouTube
180
587960
4776
Egyszer megnéztem egy videót
a vegetarianizmusról a Youtube-on,
a vegetarianizmusról a Youtube-on,
10:04
and YouTube recommended
and autoplayed a video about being vegan.
and autoplayed a video about being vegan.
181
592760
4936
a Youtube ajánlott és el is indított
egy videót a vegán életmódról.
egy videót a vegán életmódról.
10:09
It's like you're never
hardcore enough for YouTube.
hardcore enough for YouTube.
182
597720
3016
Olyan, mintha sosem lennénk
elég kemények a Youtube-nak.
elég kemények a Youtube-nak.
10:12
(Laughter)
183
600760
1576
(Nevetés)
10:14
So what's going on?
184
602360
1560
Szóval, mi folyik itt?
A Youtube algoritmusa
szabadalommal védett,
szabadalommal védett,
10:16
Now, YouTube's algorithm is proprietary,
185
604520
3536
10:20
but here's what I think is going on.
186
608080
2360
de elmondom, mit gondolok.
10:23
The algorithm has figured out
187
611360
2096
Az algoritmus rájött,
10:25
that if you can entice people
188
613480
3696
ha rá tudjuk venni az embereket,
hogy azt gondolják:
hogy azt gondolják:
10:29
into thinking that you can
show them something more hardcore,
show them something more hardcore,
189
617200
3736
valami keményebbet tudunk nekik mutatni,
10:32
they're more likely to stay on the site
190
620960
2416
akkor nagyobb valószínűséggel
maradnak az oldalon,
maradnak az oldalon,
10:35
watching video after video
going down that rabbit hole
going down that rabbit hole
191
623400
4416
és nézik egyik videót a másik után,
egyre mélyebbre merülve,
egyre mélyebbre merülve,
10:39
while Google serves them ads.
192
627840
1680
míg a Google hirdetéseket mutat nekik.
10:43
Now, with nobody minding
the ethics of the store,
the ethics of the store,
193
631760
3120
Most, hogy senkit nem érdekel
a boltok etikája,
a boltok etikája,
10:47
these sites can profile people
194
635720
4240
ezek az oldalak pontosan
meg tudják találni
meg tudják találni
10:53
who are Jew haters,
195
641680
1920
a zsidógyűlölőket,
10:56
who think that Jews are parasites
196
644360
2480
azokat, akik szerint a zsidók paraziták,
11:00
and who have such explicit
anti-Semitic content,
anti-Semitic content,
197
648320
4920
azokat, akik kifejezetten
antiszemita tartalmakat tesznek fel,
antiszemita tartalmakat tesznek fel,
11:06
and let you target them with ads.
198
654080
2000
és célzott reklámokat küld nekik.
11:09
They can also mobilize algorithms
199
657200
3536
Arra is használhatják az algoritmusokat,
11:12
to find for you look-alike audiences,
200
660760
3136
hogy megtalálják a hasonló közönséget,
11:15
people who do not have such explicit
anti-Semitic content on their profile
anti-Semitic content on their profile
201
663920
5576
azokat, akiknek nincs ilyen határozott
antiszemita tartalom a profilján,
antiszemita tartalom a profilján,
11:21
but who the algorithm detects
may be susceptible to such messages,
may be susceptible to such messages,
202
669520
6176
de az algoritmus felismeri,
hogy fogékonyak lehetnek ilyen üzenetekre,
hogy fogékonyak lehetnek ilyen üzenetekre,
11:27
and lets you target them with ads, too.
203
675720
1920
és nekik is küldi a célzott hirdetéseket.
11:30
Now, this may sound
like an implausible example,
like an implausible example,
204
678680
2736
Ez valószínűtlen példának tűnhet,
11:33
but this is real.
205
681440
1320
pedig valódi.
11:35
ProPublica investigated this
206
683480
2136
A ProPublica nyomozott az ügyben,
11:37
and found that you can indeed
do this on Facebook,
do this on Facebook,
207
685640
3616
és rájöttek, hogy ez tényleg
megtehető a Facebookon,
megtehető a Facebookon,
11:41
and Facebook helpfully
offered up suggestions
offered up suggestions
208
689280
2416
a Facebook még segítőkészen
javaslatokat is tesz,
javaslatokat is tesz,
11:43
on how to broaden that audience.
209
691720
1600
hogyan bővítsük ezt a közönséget.
11:46
BuzzFeed tried it for Google,
and very quickly they found,
and very quickly they found,
210
694720
3016
A BuzzFeed tesztelte a Google-t,
és nagyon gyorsan rájöttek,
és nagyon gyorsan rájöttek,
11:49
yep, you can do it on Google, too.
211
697760
1736
hogy bizony rá is
ugyanez vonatkozik.
ugyanez vonatkozik.
11:51
And it wasn't even expensive.
212
699520
1696
És még csak drága sem volt.
11:53
The ProPublica reporter
spent about 30 dollars
spent about 30 dollars
213
701240
4416
A ProPublica riportere 30 dollárt költött
11:57
to target this category.
214
705680
2240
ennek a kategóriának a bemérésére.
12:02
So last year, Donald Trump's
social media manager disclosed
social media manager disclosed
215
710600
5296
Tavaly tehát Donald Trump
közösségimédia-menedzsere elmondta,
közösségimédia-menedzsere elmondta,
12:07
that they were using Facebook dark posts
to demobilize people,
to demobilize people,
216
715920
5336
hogy úgynevezett "dark postokkal"
igyekeznek otthon tartani az embereket,
igyekeznek otthon tartani az embereket,
12:13
not to persuade them,
217
721280
1376
nem azért, hogy meggyőzzék őket,
12:14
but to convince them not to vote at all.
218
722680
2800
hanem hogy egyáltalán ne szavazzanak.
12:18
And to do that,
they targeted specifically,
they targeted specifically,
219
726520
3576
És ehhez kifinomult módon
állítottak be célcsoportokat,
állítottak be célcsoportokat,
12:22
for example, African-American men
in key cities like Philadelphia,
in key cities like Philadelphia,
220
730120
3896
például kulcsvárosokban, például
Philadelphiában élő afro-amerikaiakat,
Philadelphiában élő afro-amerikaiakat,
12:26
and I'm going to read
exactly what he said.
exactly what he said.
221
734040
2456
és mindjárt felolvasom,
mit mondott pontosan.
mit mondott pontosan.
12:28
I'm quoting.
222
736520
1216
Idézem.
12:29
They were using "nonpublic posts
223
737760
3016
"Nem nyilvános posztokat" használtak,
12:32
whose viewership the campaign controls
224
740800
2176
"ezek olvasóit a kampány szabályozta,
12:35
so that only the people
we want to see it see it.
we want to see it see it.
225
743000
3776
hogy csak azok lássák, akiket
erre célzottan kiválasztunk.
erre célzottan kiválasztunk.
12:38
We modeled this.
226
746800
1216
Modelleztük ezt.
12:40
It will dramatically affect her ability
to turn these people out."
to turn these people out."
227
748040
4720
Drasztikusan befolyásolja az embereket
a szavazásból való kimaradásra."
a szavazásból való kimaradásra."
12:45
What's in those dark posts?
228
753720
2280
Mi volt ezekben a "sötét bejegyzésekben"?
12:48
We have no idea.
229
756480
1656
Ötletünk sincs.
12:50
Facebook won't tell us.
230
758160
1200
A Facebook nem árulja el.
12:52
So Facebook also algorithmically
arranges the posts
arranges the posts
231
760480
4376
A Facebook tehát algoritmus szerint
rendezi a bejegyzéseket,
rendezi a bejegyzéseket,
12:56
that your friends put on Facebook,
or the pages you follow.
or the pages you follow.
232
764880
3736
amiket a barátaink kitesznek,
vagy az oldalakat, amiket követünk.
vagy az oldalakat, amiket követünk.
13:00
It doesn't show you
everything chronologically.
everything chronologically.
233
768640
2216
Nem időrend szerint jeleníti meg ezeket.
13:02
It puts the order in the way
that the algorithm thinks will entice you
that the algorithm thinks will entice you
234
770880
4816
Az algoritmus elgondolása szerint
olyan sorrendbe rendezi,
olyan sorrendbe rendezi,
13:07
to stay on the site longer.
235
775720
1840
hogy minél több időt töltsünk ott.
Ez pedig rengeteg következményt
von maga után.
von maga után.
13:11
Now, so this has a lot of consequences.
236
779040
3376
13:14
You may be thinking
somebody is snubbing you on Facebook.
somebody is snubbing you on Facebook.
237
782440
3800
Azt gondolhatjuk, hogy valaki
mellőz minket a Facebookon.
mellőz minket a Facebookon.
13:18
The algorithm may never
be showing your post to them.
be showing your post to them.
238
786800
3256
Pedig lehet, hogy az algoritmus
elrejti előle a bejegyzéseinket.
elrejti előle a bejegyzéseinket.
13:22
The algorithm is prioritizing
some of them and burying the others.
some of them and burying the others.
239
790080
5960
Az algoritmus egy részüket kiemeli,
a többit eltemeti.
a többit eltemeti.
13:29
Experiments show
240
797320
1296
A kísérletek szerint
13:30
that what the algorithm picks to show you
can affect your emotions.
can affect your emotions.
241
798640
4520
az algoritmus választásai
befolyásolhatják az érzelmeinket.
befolyásolhatják az érzelmeinket.
13:36
But that's not all.
242
804600
1200
De ez még nem minden.
13:38
It also affects political behavior.
243
806280
2360
A politikai viselkedést is befolyásolja.
13:41
So in 2010, in the midterm elections,
244
809360
4656
2010-ben a félidős választásokon
13:46
Facebook did an experiment
on 61 million people in the US
on 61 million people in the US
245
814040
5896
a Facebook 61 millió amerikat tesztelt,
13:51
that was disclosed after the fact.
246
819960
1896
és ezt csak utólag mondták el.
13:53
So some people were shown,
"Today is election day,"
"Today is election day,"
247
821880
3416
Néhány embernek azt mutatták:
"Ma vannak a választások",
"Ma vannak a választások",
13:57
the simpler one,
248
825320
1376
ez volt az egyszerűbb,
13:58
and some people were shown
the one with that tiny tweak
the one with that tiny tweak
249
826720
3896
másoknak bonyolultabbat,
14:02
with those little thumbnails
250
830640
2096
azokkal a kis bélyegképekkel
14:04
of your friends who clicked on "I voted."
251
832760
2840
a barátainkról, akik rákattintottak arra,
hogy "Szavaztam".
hogy "Szavaztam".
14:09
This simple tweak.
252
837000
1400
Ez egyszerű különbség.
14:11
OK? So the pictures were the only change,
253
839520
4296
Értik? Csak a képek jelentették
az egyetlen eltérést,
az egyetlen eltérést,
14:15
and that post shown just once
254
843840
3256
és a bejegyzést csak egyszer mutatták,
14:19
turned out an additional 340,000 voters
255
847120
6056
ez a kutatás szerint
14:25
in that election,
256
853200
1696
340 ezer plusz szavazót jelentett
14:26
according to this research
257
854920
1696
azon a választáson,
14:28
as confirmed by the voter rolls.
258
856640
2520
ezt a szavazólisták megerősítették.
14:32
A fluke? No.
259
860920
1656
Mázli? Nem.
14:34
Because in 2012,
they repeated the same experiment.
they repeated the same experiment.
260
862600
5360
Mert 2012-ben megismételték
ugyanezt a kísérletet.
ugyanezt a kísérletet.
14:40
And that time,
261
868840
1736
Ekkor
14:42
that civic message shown just once
262
870600
3296
ez az egyszer megjelenített
állampolgári üzenet
állampolgári üzenet
14:45
turned out an additional 270,000 voters.
263
873920
4440
270 ezer további szavazót hozott.
14:51
For reference, the 2016
US presidential election
US presidential election
264
879160
5216
Referenciaként, a 2016-os
amerikai elnökválasztást
amerikai elnökválasztást
14:56
was decided by about 100,000 votes.
265
884400
3520
százezer szavazó döntötte el.
15:01
Now, Facebook can also
very easily infer what your politics are,
very easily infer what your politics are,
266
889360
4736
A Facebook könnyedén kikövetkezteti
politikai vonzódásunkat,
politikai vonzódásunkat,
15:06
even if you've never
disclosed them on the site.
disclosed them on the site.
267
894120
2256
akkor is, ha ezt soha nem tárjuk
nyilvánosság elé.
nyilvánosság elé.
15:08
Right? These algorithms
can do that quite easily.
can do that quite easily.
268
896400
2520
Ezeknek az algoritmusoknak ez nem kihívás.
15:11
What if a platform with that kind of power
269
899960
3896
Mi van, ha egy platform
ezzel a típusú hatalommal
ezzel a típusú hatalommal
15:15
decides to turn out supporters
of one candidate over the other?
of one candidate over the other?
270
903880
5040
úgy dönt, hogy egy jelöltet támogat
egy másikkal szemben?
egy másikkal szemben?
15:21
How would we even know about it?
271
909680
2440
Honnan fogunk egyáltalán tudni róla?
15:25
Now, we started from someplace
seemingly innocuous --
seemingly innocuous --
272
913560
4136
Valami látszólag ártalmatlan
dologgal kezdtünk –
dologgal kezdtünk –
15:29
online adds following us around --
273
917720
2216
minket követő online hirdetések –,
15:31
and we've landed someplace else.
274
919960
1840
és máshová lyukadtunk ki.
15:35
As a public and as citizens,
275
923480
2456
Közösségként és állampolgárokként
15:37
we no longer know
if we're seeing the same information
if we're seeing the same information
276
925960
3416
többé nem tudjuk,
hogy ugyanazt az információt látjuk,
hogy ugyanazt az információt látjuk,
15:41
or what anybody else is seeing,
277
929400
1480
vagy azt, amit bárki más lát,
15:43
and without a common basis of information,
278
931680
2576
és közös információs alapok nélkül,
15:46
little by little,
279
934280
1616
lépésről lépésre
15:47
public debate is becoming impossible,
280
935920
3216
lehetetlenné válnak a nyilvános viták,
15:51
and we're just at
the beginning stages of this.
the beginning stages of this.
281
939160
2976
és ennek még csak az elején tartunk.
15:54
These algorithms can quite easily infer
282
942160
3456
Ezek az algoritmusok
csak Facebook like-okból
csak Facebook like-okból
15:57
things like your people's ethnicity,
283
945640
3256
képesek kikövetkeztetni olyan jellemzőket,
16:00
religious and political views,
personality traits,
personality traits,
284
948920
2336
mint az emberek etnikuma,
vallási és politikai nézetei,
vallási és politikai nézetei,
16:03
intelligence, happiness,
use of addictive substances,
use of addictive substances,
285
951280
3376
személyiségjegyei, intelligenciája,
boldogsága,
boldogsága,
16:06
parental separation, age and genders,
286
954680
3136
függőséget okozó szerek használata,
16:09
just from Facebook likes.
287
957840
1960
válása, életkora, neme.
Ezek az algoritmusok képesek
tüntetőket azonosítani
tüntetőket azonosítani
16:13
These algorithms can identify protesters
288
961440
4056
16:17
even if their faces
are partially concealed.
are partially concealed.
289
965520
2760
akkor is, ha az arcuk
részben el van takarva.
részben el van takarva.
16:21
These algorithms may be able
to detect people's sexual orientation
to detect people's sexual orientation
290
969720
6616
Ezek az algoritmusok képesek emberek
szexuális orientációját behatárolni,
szexuális orientációját behatárolni,
16:28
just from their dating profile pictures.
291
976360
3200
csak randiprofiljuk fotójából.
16:33
Now, these are probabilistic guesses,
292
981560
2616
Persze, ezek valószínűségi találgatások,
16:36
so they're not going
to be 100 percent right,
to be 100 percent right,
293
984200
2896
ezért nem lesznek
100 százalékosan pontosak,
100 százalékosan pontosak,
16:39
but I don't see the powerful resisting
the temptation to use these technologies
the temptation to use these technologies
294
987120
4896
de túl erősnek látom a technológia
felhasználására irányuló kísértést,
felhasználására irányuló kísértést,
16:44
just because there are
some false positives,
some false positives,
295
992040
2176
és nem győz meg néhány hamis eredmény,
16:46
which will of course create
a whole other layer of problems.
a whole other layer of problems.
296
994240
3256
ami persze teljesen új
problémahegyeket hoz létre.
problémahegyeket hoz létre.
16:49
Imagine what a state can do
297
997520
2936
Képzeljük el, mit kezdhet egy állam
16:52
with the immense amount of data
it has on its citizens.
it has on its citizens.
298
1000480
3560
ezzel a rengeteg adattal
saját állampolgárairól.
saját állampolgárairól.
16:56
China is already using
face detection technology
face detection technology
299
1004680
4776
Kína már használja
az arcfelismerés technológiáját,
az arcfelismerés technológiáját,
17:01
to identify and arrest people.
300
1009480
2880
hogy azonosítson és lecsukjon embereket.
17:05
And here's the tragedy:
301
1013280
2136
És itt a tragédia:
17:07
we're building this infrastructure
of surveillance authoritarianism
of surveillance authoritarianism
302
1015440
5536
az önkényuralmi megfigyelés
infrastruktúráját építjük
infrastruktúráját építjük
17:13
merely to get people to click on ads.
303
1021000
2960
csak azért, hogy az emberek
hirdetésekre kattintsanak.
hirdetésekre kattintsanak.
17:17
And this won't be
Orwell's authoritarianism.
Orwell's authoritarianism.
304
1025240
2576
És ez nem Orwell önkényuralma lesz.
17:19
This isn't "1984."
305
1027839
1897
Ez nem az "1984".
17:21
Now, if authoritarianism
is using overt fear to terrorize us,
is using overt fear to terrorize us,
306
1029760
4576
Ha ez az önkényuralom nyílt fenyegetéssel
félemlít meg minket,
félemlít meg minket,
17:26
we'll all be scared, but we'll know it,
307
1034359
2897
mind rettegni fogunk,
de tisztában leszünk vele,
de tisztában leszünk vele,
17:29
we'll hate it and we'll resist it.
308
1037280
2200
gyűlölni fogjuk, és ellenállunk.
17:32
But if the people in power
are using these algorithms
are using these algorithms
309
1040880
4416
De ha a hatalomban lévők
ezeket az algoritmusokat arra használják,
ezeket az algoritmusokat arra használják,
17:37
to quietly watch us,
310
1045319
3377
hogy csendben megfigyeljenek,
17:40
to judge us and to nudge us,
311
1048720
2080
hogy ítélkezzenek,
17:43
to predict and identify
the troublemakers and the rebels,
the troublemakers and the rebels,
312
1051720
4176
hogy előre lássák és azonosítsák
a bajkeverőket és a lázadókat,
a bajkeverőket és a lázadókat,
17:47
to deploy persuasion
architectures at scale
architectures at scale
313
1055920
3896
hogy a meggyőzés szerkezetét
széles körben alkalmazzák,
széles körben alkalmazzák,
17:51
and to manipulate individuals one by one
314
1059840
4136
hogy személyes, egyéni gyengeségeik
és sebezhetőségeik felhasználásával
és sebezhetőségeik felhasználásával
17:56
using their personal, individual
weaknesses and vulnerabilities,
weaknesses and vulnerabilities,
315
1064000
5440
egyenként manipuláljanak egyéneket,
18:02
and if they're doing it at scale
316
1070720
2200
és ha ezt nagy léptékben végzik
18:06
through our private screens
317
1074080
1736
privát képernyőinken
18:07
so that we don't even know
318
1075840
1656
úgy, hogy még azt sem tudjuk,
18:09
what our fellow citizens
and neighbors are seeing,
and neighbors are seeing,
319
1077520
2760
mit lát a többi állampolgár
és a szomszédaink,
és a szomszédaink,
18:13
that authoritarianism
will envelop us like a spider's web
will envelop us like a spider's web
320
1081560
4816
ez az önkényuralom behálóz minket,
mint egy pók hálója,
mint egy pók hálója,
18:18
and we may not even know we're in it.
321
1086400
2480
és talán észre sem vesszük majd,
hogy benne vagyunk.
hogy benne vagyunk.
18:22
So Facebook's market capitalization
322
1090440
2936
A Facebook piaci értéke
18:25
is approaching half a trillion dollars.
323
1093400
3296
megközelíti a fél billió dollárt.
18:28
It's because it works great
as a persuasion architecture.
as a persuasion architecture.
324
1096720
3120
Mert jól működik mint
meggyőzési technika.
meggyőzési technika.
18:33
But the structure of that architecture
325
1101760
2816
De ennek az architektúrának a szerkezete
18:36
is the same whether you're selling shoes
326
1104600
3216
ugyanaz akkor is, ha cipőket adunk el,
18:39
or whether you're selling politics.
327
1107840
2496
és akkor is, ha politikát adunk el.
18:42
The algorithms do not know the difference.
328
1110360
3120
Az algoritmusok nem tesznek különbséget.
18:46
The same algorithms set loose upon us
329
1114240
3296
Ugyanazok az algoritmusok, amelyek
18:49
to make us more pliable for ads
330
1117560
3176
befolyásolhatóbbá tesznek minket
a hirdetésekkel szemben,
a hirdetésekkel szemben,
18:52
are also organizing our political,
personal and social information flows,
personal and social information flows,
331
1120760
6736
ugyanazok szervezik politikai személyes
és társadalmi információnk áramlását,
és társadalmi információnk áramlását,
18:59
and that's what's got to change.
332
1127520
1840
és ezen változtatnunk kell.
19:02
Now, don't get me wrong,
333
1130240
2296
Kérem, ne értsenek félre,
19:04
we use digital platforms
because they provide us with great value.
because they provide us with great value.
334
1132560
3680
azért használjuk a digitális platformokat,
mert értékesek számunkra.
mert értékesek számunkra.
19:09
I use Facebook to keep in touch
with friends and family around the world.
with friends and family around the world.
335
1137120
3560
Facebookozom, hogy tartsam a kapcsolatot
barátaimmal és családommal.
barátaimmal és családommal.
19:14
I've written about how crucial
social media is for social movements.
social media is for social movements.
336
1142000
5776
Írtam arról, milyen fontos a közösségi
média társadalmi mozgalmainkhoz.
média társadalmi mozgalmainkhoz.
19:19
I have studied how
these technologies can be used
these technologies can be used
337
1147800
3016
Azt kutattam, hogyan használhatjuk
ezeket a technológiákat arra,
ezeket a technológiákat arra,
19:22
to circumvent censorship around the world.
338
1150840
2480
hogy világszerte megkerüljük a cenzúrát.
19:27
But it's not that the people who run,
you know, Facebook or Google
you know, Facebook or Google
339
1155280
6416
De nem azért, hogy azok, akik
a Facebookot vagy a Google-t irányítják,
a Facebookot vagy a Google-t irányítják,
19:33
are maliciously and deliberately trying
340
1161720
2696
rosszindulatúan és szándékosan
megpróbálják
megpróbálják
19:36
to make the country
or the world more polarized
or the world more polarized
341
1164440
4456
egyre jobban megosztani
az országot vagy a világot,
az országot vagy a világot,
19:40
and encourage extremism.
342
1168920
1680
és ösztönözni a szélsőségeket.
19:43
I read the many
well-intentioned statements
well-intentioned statements
343
1171440
3976
Olvastam a sok jó szándékú kijelentést
19:47
that these people put out.
344
1175440
3320
ezektől az emberektől.
19:51
But it's not the intent or the statements
people in technology make that matter,
people in technology make that matter,
345
1179600
6056
De nem a szándék, és nem a technológián
dolgozók kijelentései számítanak,
dolgozók kijelentései számítanak,
19:57
it's the structures
and business models they're building.
and business models they're building.
346
1185680
3560
hanem azok a szerkezetek, üzleti modellek,
amiket építenek.
amiket építenek.
20:02
And that's the core of the problem.
347
1190360
2096
És ez a probléma lényege.
20:04
Either Facebook is a giant con
of half a trillion dollars
of half a trillion dollars
348
1192480
4720
A Facebook vagy egy hatalmas,
félbillió dolláros cég,
félbillió dolláros cég,
20:10
and ads don't work on the site,
349
1198200
1896
és nem működnek hirdetések a felületén,
20:12
it doesn't work
as a persuasion architecture,
as a persuasion architecture,
350
1200120
2696
nem meggyőzési architektúraként működik,
20:14
or its power of influence
is of great concern.
is of great concern.
351
1202840
4120
vagy pedig befolyásoló hatalma
aggodalomra ad okot.
aggodalomra ad okot.
20:20
It's either one or the other.
352
1208560
1776
Vagy az egyik, vagy a másik.
20:22
It's similar for Google, too.
353
1210360
1600
Ugyanez igaz a Google-ra.
20:24
So what can we do?
354
1212880
2456
Mit tehetünk tehát?
20:27
This needs to change.
355
1215360
1936
Ez nem maradhat így.
20:29
Now, I can't offer a simple recipe,
356
1217320
2576
Sajnos, nem tudok
egyszerű receptet ajánlani,
egyszerű receptet ajánlani,
20:31
because we need to restructure
357
1219920
2256
mert át kell alakítanunk
20:34
the whole way our
digital technology operates.
digital technology operates.
358
1222200
3016
a digitális technológia
egész működését.
egész működését.
20:37
Everything from the way
technology is developed
technology is developed
359
1225240
4096
A technológia fejlesztésétől kezdve addig,
20:41
to the way the incentives,
economic and otherwise,
economic and otherwise,
360
1229360
3856
ahol a gazdasági és egyéb ösztönzők
20:45
are built into the system.
361
1233240
2280
beépülnek a rendszerbe.
20:48
We have to face and try to deal with
362
1236480
3456
Szembe kell néznünk és foglalkoznunk kell
20:51
the lack of transparency
created by the proprietary algorithms,
created by the proprietary algorithms,
363
1239960
4656
a védett algoritmusok
átláthatóságának hiányával,
átláthatóságának hiányával,
20:56
the structural challenge
of machine learning's opacity,
of machine learning's opacity,
364
1244640
3816
a gépi tanulás homályosságának
szerkezeti kihívásaival,
szerkezeti kihívásaival,
21:00
all this indiscriminate data
that's being collected about us.
that's being collected about us.
365
1248480
3400
a rólunk válogatás nélkül
gyűjtött összes adattal.
gyűjtött összes adattal.
21:05
We have a big task in front of us.
366
1253000
2520
Nagy feladat áll előttünk.
21:08
We have to mobilize our technology,
367
1256160
2680
Mozgósítanunk kell a technológiánkat,
21:11
our creativity
368
1259760
1576
kreativitásunkat,
21:13
and yes, our politics
369
1261360
1880
és igen, a politikánkat,
21:16
so that we can build
artificial intelligence
artificial intelligence
370
1264240
2656
hogy olyan mesterséges
intelligenciát építsünk,
intelligenciát építsünk,
21:18
that supports us in our human goals
371
1266920
3120
ami támogatja emberi céljainkat,
21:22
but that is also constrained
by our human values.
by our human values.
372
1270800
3920
de amit emberi értékeink korlátoznak is.
21:27
And I understand this won't be easy.
373
1275600
2160
Értem én, hogy ez nem lesz egyszerű.
21:30
We might not even easily agree
on what those terms mean.
on what those terms mean.
374
1278360
3600
Talán abban sem értünk teljesen egyet,
hogy mit jelentenek ezek a feltételek.
hogy mit jelentenek ezek a feltételek.
21:34
But if we take seriously
375
1282920
2400
De ha komolyan vesszük,
21:38
how these systems that we
depend on for so much operate,
depend on for so much operate,
376
1286240
5976
hogy ezek a rendszerek, amelyek
működésétől annyira függünk,
működésétől annyira függünk,
21:44
I don't see how we can postpone
this conversation anymore.
this conversation anymore.
377
1292240
4120
nem látom be, hogy elhalaszthatnánk
ezt a megbeszélést.
ezt a megbeszélést.
21:49
These structures
378
1297200
2536
Ezek a szerkezetek
21:51
are organizing how we function
379
1299760
4096
megszervezik, hogyan működünk,
21:55
and they're controlling
380
1303880
2296
és irányítják,
21:58
what we can and we cannot do.
381
1306200
2616
mit tehetünk, és mit nem.
22:00
And many of these ad-financed platforms,
382
1308840
2456
Sok, reklámokkal finanszírozott platform
22:03
they boast that they're free.
383
1311320
1576
büszkén hirdeti, hogy ingyenes.
22:04
In this context, it means
that we are the product that's being sold.
that we are the product that's being sold.
384
1312920
4560
Ami ebben a környezetben azt jelenti,
hogy mi vagyunk az eladott termék.
hogy mi vagyunk az eladott termék.
22:10
We need a digital economy
385
1318840
2736
Olyan digitális gazdaságra van szükségünk,
22:13
where our data and our attention
386
1321600
3496
ahol az adataink és az érdeklődési körünk
22:17
is not for sale to the highest-bidding
authoritarian or demagogue.
authoritarian or demagogue.
387
1325120
5080
nem eladó a legnagyobb ajánlatot tevő
önkényúrnak vagy demagógnak.
önkényúrnak vagy demagógnak.
22:23
(Applause)
388
1331160
3800
(Taps)
22:30
So to go back to
that Hollywood paraphrase,
that Hollywood paraphrase,
389
1338480
3256
Szóval, vissza a hollywoodi idézethez:
22:33
we do want the prodigious potential
390
1341760
3736
a mesterséges intelligencia
és a digitális technológia virágzásának
és a digitális technológia virágzásának
22:37
of artificial intelligence
and digital technology to blossom,
and digital technology to blossom,
391
1345520
3200
hatalmas lehetőségei tényleg kellenek,
22:41
but for that, we must face
this prodigious menace,
this prodigious menace,
392
1349400
4936
de ehhez szembe kell néznünk
az óriási fenyegetéssel,
az óriási fenyegetéssel,
22:46
open-eyed and now.
393
1354360
1936
nyitott szemmel, és most azonnal.
22:48
Thank you.
394
1356320
1216
Köszönöm.
22:49
(Applause)
395
1357560
4640
(Taps)
ABOUT THE SPEAKER
Zeynep Tufekci - Techno-sociologistTechno-sociologist Zeynep Tufekci asks big questions about our societies and our lives, as both algorithms and digital connectivity spread.
Why you should listen
We've entered an era of digital connectivity and machine intelligence. Complex algorithms are increasingly used to make consequential decisions about us. Many of these decisions are subjective and have no right answer: who should be hired, fired or promoted; what news should be shown to whom; which of your friends do you see updates from; which convict should be paroled. With increasing use of machine learning in these systems, we often don't even understand how exactly they are making these decisions. Zeynep Tufekci studies what this historic transition means for culture, markets, politics and personal life.
Tufekci is a contributing opinion writer at the New York Times, an associate professor at the School of Information and Library Science at University of North Carolina, Chapel Hill, and a faculty associate at Harvard's Berkman Klein Center for Internet and Society.
Her book, Twitter and Tear Gas: The Power and Fragility of Networked Protest, was published in 2017 by Yale University Press. Her next book, from Penguin Random House, will be about algorithms that watch, judge and nudge us.
Zeynep Tufekci | Speaker | TED.com