TEDGlobal>NYC
Zeynep Tufekci: We're building a dystopia just to make people click on ads
Zeynep Tufekci: Estem construint una distòpia només per fer que la gent cliqui anuncis.
Filmed:
Readability: 4.8
2,866,905 views
Estem construint una distòpia basada en la intel·ligència artificial, clic rere clic; diu la tecnosociòloga Zeynep Tufekci. En una xerrada reveladora, detalla com els mateixos algoritmes que empren companyies com Facebook, Google i Amazon per fer-te clicar anuncis, també s'empren per organitzar el teu accés a informació política i social. I les màquines no són la principal amenaça. El que hem d'entendre és com els poderosos podrien emprar la IA per controlar-nos -- i com podem actuar en conseqüència.
Zeynep Tufekci - Techno-sociologist
Techno-sociologist Zeynep Tufekci asks big questions about our societies and our lives, as both algorithms and digital connectivity spread. Full bio
Techno-sociologist Zeynep Tufekci asks big questions about our societies and our lives, as both algorithms and digital connectivity spread. Full bio
Double-click the English transcript below to play the video.
00:12
So when people voice fears
of artificial intelligence,
of artificial intelligence,
0
760
3536
Quant la gent parla de la por
a la intel·ligència artificial,
a la intel·ligència artificial,
00:16
very often, they invoke images
of humanoid robots run amok.
of humanoid robots run amok.
1
4320
3976
molt sovint imaginen
robots humanoides fora de control.
robots humanoides fora de control.
00:20
You know? Terminator?
2
8320
1240
Us sona Terminator?
00:22
You know, that might be
something to consider,
something to consider,
3
10400
2336
Això s'hauria de tenir
en consideraciò,
en consideraciò,
00:24
but that's a distant threat.
4
12760
1856
però és una amenaça remota.
00:26
Or, we fret about digital surveillance
5
14640
3456
O ens preocupem per la vigilància digital
00:30
with metaphors from the past.
6
18120
1776
amb metàfores del passat.
00:31
"1984," George Orwell's "1984,"
7
19920
2656
"1984", el "1984" de George Orwell,
00:34
it's hitting the bestseller lists again.
8
22600
2280
està tornant a les llistes
dels més venuts.
dels més venuts.
00:37
It's a great book,
9
25960
1416
És un llibre genial,
00:39
but it's not the correct dystopia
for the 21st century.
for the 21st century.
10
27400
3880
però no és la distòpia correcta
pel segle XXI.
pel segle XXI.
00:44
What we need to fear most
11
32080
1416
El que hem de témer més
00:45
is not what artificial intelligence
will do to us on its own,
will do to us on its own,
12
33520
4776
no és el que la intel·ligència artificial
ens farà per si sola,
ens farà per si sola,
00:50
but how the people in power
will use artificial intelligence
will use artificial intelligence
13
38320
4736
sinó com la gent poderosa
emprarà la intel·ligència artificial
emprarà la intel·ligència artificial
00:55
to control us and to manipulate us
14
43080
2816
per a controlar-nos i manipular-nos
00:57
in novel, sometimes hidden,
15
45920
3136
en nous, a vegades ocults,
01:01
subtle and unexpected ways.
16
49080
3016
subtils i inesperats mitjans.
01:04
Much of the technology
17
52120
1856
Molta de la tecnologia
01:06
that threatens our freedom
and our dignity in the near-term future
and our dignity in the near-term future
18
54000
4336
que amenaça la nostra llibertat
i la nostra dignitat en un futur proper
i la nostra dignitat en un futur proper
01:10
is being developed by companies
19
58360
1856
està sent desenvolupada per companyies
01:12
in the business of capturing
and selling our data and our attention
and selling our data and our attention
20
60240
4936
encarregades de recopilar i vendre
la nostra informació i la nostra atenció
la nostra informació i la nostra atenció
01:17
to advertisers and others:
21
65200
2256
als anunciants i altres:
01:19
Facebook, Google, Amazon,
22
67480
3416
Facebook, Google, Amazon,
01:22
Alibaba, Tencent.
23
70920
1880
Alibaba, Tencent.
01:26
Now, artificial intelligence has started
bolstering their business as well.
bolstering their business as well.
24
74040
5496
La indústria d'intel·ligència artificial
també ha començat a reforçar-se.
també ha començat a reforçar-se.
01:31
And it may seem
like artificial intelligence
like artificial intelligence
25
79560
2096
Pot semblar
que la intel·ligència artificial
que la intel·ligència artificial
01:33
is just the next thing after online ads.
26
81680
2856
vindrà just després dels anuncis en línea.
01:36
It's not.
27
84560
1216
No serà així.
És d'un tipus diferent.
01:37
It's a jump in category.
28
85800
2456
01:40
It's a whole different world,
29
88280
2576
És un món ben distint,
01:42
and it has great potential.
30
90880
2616
i té un gran potencial.
01:45
It could accelerate our understanding
of many areas of study and research.
of many areas of study and research.
31
93520
6920
Podria accelerar el nostre coneixement
sobre moltes àrees d'estudi i recerca.
sobre moltes àrees d'estudi i recerca.
01:53
But to paraphrase
a famous Hollywood philosopher,
a famous Hollywood philosopher,
32
101120
3496
Però, parafrasejant un famós filòsof
de Hollywood,
de Hollywood,
01:56
"With prodigious potential
comes prodigious risk."
comes prodigious risk."
33
104640
3640
"Un potencial prodigiós
porta un risc prodigiós."
porta un risc prodigiós."
02:01
Now let's look at a basic fact
of our digital lives, online ads.
of our digital lives, online ads.
34
109120
3936
Considerem un fet bàsic de les nostres
vides digitals, els anuncis en línea.
vides digitals, els anuncis en línea.
02:05
Right? We kind of dismiss them.
35
113080
2896
No els donem importància.
02:08
They seem crude, ineffective.
36
116000
1976
Semblen bàsics, poc efectius.
02:10
We've all had the experience
of being followed on the web
of being followed on the web
37
118000
4256
Tots hem tingut l'experiència
de ser seguits per la web
de ser seguits per la web
02:14
by an ad based on something
we searched or read.
we searched or read.
38
122280
2776
per anuncis basats en quelcom
que buscàrem o llegírem.
que buscàrem o llegírem.
02:17
You know, you look up a pair of boots
39
125080
1856
Cerques unes botes
02:18
and for a week, those boots are following
you around everywhere you go.
you around everywhere you go.
40
126960
3376
i durant una setmana les botes
et segueixen per tot arreu.
et segueixen per tot arreu.
02:22
Even after you succumb and buy them,
they're still following you around.
they're still following you around.
41
130360
3656
Fins i tot després de sucumbir
i comprar-les, encara et segueixen.
i comprar-les, encara et segueixen.
02:26
We're kind of inured to that kind
of basic, cheap manipulation.
of basic, cheap manipulation.
42
134040
3016
Estem acostumats
a aquesta manipulació bàsica i barata.
a aquesta manipulació bàsica i barata.
02:29
We roll our eyes and we think,
"You know what? These things don't work."
"You know what? These things don't work."
43
137080
3400
Ens resignem i pensem,
"Saps què? Aquestes coses no funcionen."
"Saps què? Aquestes coses no funcionen."
02:33
Except, online,
44
141720
2096
Encara que, en línea,
02:35
the digital technologies are not just ads.
45
143840
3600
la tecnologia digital
no només són anuncis.
no només són anuncis.
02:40
Now, to understand that,
let's think of a physical world example.
let's think of a physical world example.
46
148240
3120
Per entendre-ho pensem en
un exemple del món físic.
un exemple del món físic.
02:43
You know how, at the checkout counters
at supermarkets, near the cashier,
at supermarkets, near the cashier,
47
151840
4656
Sabeu que en els estants
dels supermercats, devora el caixer,
dels supermercats, devora el caixer,
02:48
there's candy and gum
at the eye level of kids?
at the eye level of kids?
48
156520
3480
hi ha dolços i xiclets
a l'alçada visual dels nens?
a l'alçada visual dels nens?
02:52
That's designed to make them
whine at their parents
whine at their parents
49
160800
3496
Està pensat per a que
demanin als pares
demanin als pares
02:56
just as the parents
are about to sort of check out.
are about to sort of check out.
50
164320
3080
just quan els pares
estàn acabant de pagar.
estàn acabant de pagar.
03:00
Now, that's a persuasion architecture.
51
168040
2640
Això és una arquitectura de persuasió.
03:03
It's not nice, but it kind of works.
52
171160
3096
No és agradable, però funciona.
03:06
That's why you see it
in every supermarket.
in every supermarket.
53
174280
2040
Per això la veus en tots els supermercats.
03:08
Now, in the physical world,
54
176720
1696
En el món físic,
03:10
such persuasion architectures
are kind of limited,
are kind of limited,
55
178440
2496
aquestes arquitectures persuasives
són limitades,
són limitades,
03:12
because you can only put
so many things by the cashier. Right?
so many things by the cashier. Right?
56
180960
4816
perquè només pots posar un nombre limitat
de coses al costat del caixer, no?
de coses al costat del caixer, no?
03:17
And the candy and gum,
it's the same for everyone,
it's the same for everyone,
57
185800
4296
I els dolços i els xiclets
són iguals per a tothom,
són iguals per a tothom,
03:22
even though it mostly works
58
190120
1456
encara que sol funcionar
03:23
only for people who have
whiny little humans beside them.
whiny little humans beside them.
59
191600
4040
només per persones amb humans petits
i consentits al seu costat.
i consentits al seu costat.
03:29
In the physical world,
we live with those limitations.
we live with those limitations.
60
197160
3920
En el món físic,
vivim amb aquestes limitacions.
vivim amb aquestes limitacions.
03:34
In the digital world, though,
61
202280
1936
En el món digital, en canvi,
03:36
persuasion architectures
can be built at the scale of billions
can be built at the scale of billions
62
204240
4320
les arquitectures persuasives
es construeixen en magnituts de bilions
es construeixen en magnituts de bilions
03:41
and they can target, infer, understand
63
209840
3856
i poden abordar, deduir, entendre
03:45
and be deployed at individuals
64
213720
2896
i ser usades amb individus
03:48
one by one
65
216640
1216
un per un
03:49
by figuring out your weaknesses,
66
217880
2136
descobrint les teves debilitats,
03:52
and they can be sent
to everyone's phone private screen,
to everyone's phone private screen,
67
220040
5616
i es poden enviar a la pantalla privada
de qualsevol mòbil,
de qualsevol mòbil,
03:57
so it's not visible to us.
68
225680
2256
així no és visible per nosaltres.
03:59
And that's different.
69
227960
1256
I això és diferent.
04:01
And that's just one of the basic things
that artificial intelligence can do.
that artificial intelligence can do.
70
229240
3576
Aquesta és una de les coses bàsiques
que la intel·ligència artificial fa.
que la intel·ligència artificial fa.
04:04
Now, let's take an example.
71
232840
1336
Analitzem un exemple.
04:06
Let's say you want to sell
plane tickets to Vegas. Right?
plane tickets to Vegas. Right?
72
234200
2696
Imaginem que vols vendre
bitllets d'avió a Las Vegas.
bitllets d'avió a Las Vegas.
04:08
So in the old world, you could think
of some demographics to target
of some demographics to target
73
236920
3496
En el món antic, podies pensar
alguns sectors demogràfics que abordar
alguns sectors demogràfics que abordar
04:12
based on experience
and what you can guess.
and what you can guess.
74
240440
2520
basats en l'experiència
i en el que pots adivinar.
i en el que pots adivinar.
04:15
You might try to advertise to, oh,
75
243560
2816
Podies intentar crear anuncis per a
04:18
men between the ages of 25 and 35,
76
246400
2496
homes entre els 25 i 35 anys,
04:20
or people who have
a high limit on their credit card,
a high limit on their credit card,
77
248920
3936
o gent que té un límit alt
a la targeta de crèdit,
a la targeta de crèdit,
04:24
or retired couples. Right?
78
252880
1376
o parelles retirades, no?
04:26
That's what you would do in the past.
79
254280
1816
Això és el que es feia en el passat.
04:28
With big data and machine learning,
80
256120
2896
Amb les dades massives
i l'aprenentatge automàtic,
i l'aprenentatge automàtic,
04:31
that's not how it works anymore.
81
259040
1524
ja no funciona així.
04:33
So to imagine that,
82
261320
2176
Així que imagineu-ho,
04:35
think of all the data
that Facebook has on you:
that Facebook has on you:
83
263520
3856
penseu en tota la informació
que Facebook té de tu:
que Facebook té de tu:
04:39
every status update you ever typed,
84
267400
2536
cada actualització de l'estat
que hagis teclejat,
que hagis teclejat,
04:41
every Messenger conversation,
85
269960
2016
cada conversació per Messenger,
04:44
every place you logged in from,
86
272000
1880
cada lloc des d'on hagis accedit,
04:48
all your photographs
that you uploaded there.
that you uploaded there.
87
276400
3176
totes les fotografies que hi hagis pujat.
04:51
If you start typing something
and change your mind and delete it,
and change your mind and delete it,
88
279600
3776
Si comences a escriure alguna cosa
i canvies d'opinió i ho esborres,
i canvies d'opinió i ho esborres,
04:55
Facebook keeps those
and analyzes them, too.
and analyzes them, too.
89
283400
3200
Facebook ho guarda i també ho analitza.
04:59
Increasingly, it tries
to match you with your offline data.
to match you with your offline data.
90
287160
3936
Cada cop més, intenta relacionar-te
amb la teva informació fora de línea.
amb la teva informació fora de línea.
05:03
It also purchases
a lot of data from data brokers.
a lot of data from data brokers.
91
291120
3176
També compra molta informació
dels recol·lectors d'informació.
dels recol·lectors d'informació.
05:06
It could be everything
from your financial records
from your financial records
92
294320
3416
Podria ser qualsevol cosa
des del teu historial financer
des del teu historial financer
05:09
to a good chunk of your browsing history.
93
297760
2120
fins a l'historial de navegació.
05:12
Right? In the US,
such data is routinely collected,
such data is routinely collected,
94
300360
5416
Als Estats Units aquesta informació
és recopilada rutinàriament,
és recopilada rutinàriament,
05:17
collated and sold.
95
305800
1960
ordenada i venuda.
05:20
In Europe, they have tougher rules.
96
308320
2440
A Europa tenen lleis més estrictes.
05:23
So what happens then is,
97
311680
2200
Així que el que passa és que,
05:26
by churning through all that data,
these machine-learning algorithms --
these machine-learning algorithms --
98
314920
4016
recercant entre tota la informació,
els algoritmes d'aprenentatge automàtic --
els algoritmes d'aprenentatge automàtic --
05:30
that's why they're called
learning algorithms --
learning algorithms --
99
318960
2896
per això es diuen
algoritmes d'aprenentatge --
algoritmes d'aprenentatge --
05:33
they learn to understand
the characteristics of people
the characteristics of people
100
321880
4096
aprenen a entendre
les característiques de la gent
les característiques de la gent
05:38
who purchased tickets to Vegas before.
101
326000
2520
que va comprar
bitllets a Las Vegas anteriorment.
bitllets a Las Vegas anteriorment.
05:41
When they learn this from existing data,
102
329760
3536
Quan ho aprenen de la informació existent,
05:45
they also learn
how to apply this to new people.
how to apply this to new people.
103
333320
3816
també aprenen
a aplicar-ho a gent nova.
a aplicar-ho a gent nova.
05:49
So if they're presented with a new person,
104
337160
3056
Així que si es troben
amb una persona nova,
amb una persona nova,
05:52
they can classify whether that person
is likely to buy a ticket to Vegas or not.
is likely to buy a ticket to Vegas or not.
105
340240
4640
poden deduir si és probable que aquella
persona compri bitllets a Las Vegas o no.
persona compri bitllets a Las Vegas o no.
05:57
Fine. You're thinking,
an offer to buy tickets to Vegas.
an offer to buy tickets to Vegas.
106
345720
5456
Molt bé. Esteu pensant: "una oferta
per comprar bitllets a Las Vegas,
per comprar bitllets a Las Vegas,
06:03
I can ignore that.
107
351200
1456
la puc ignorar".
06:04
But the problem isn't that.
108
352680
2216
Però aquest no és el problema.
06:06
The problem is,
109
354920
1576
El problema és,
06:08
we no longer really understand
how these complex algorithms work.
how these complex algorithms work.
110
356520
4136
que ja no acabem d'entendre com funcionen
aquests algoritmes tan complexes.
aquests algoritmes tan complexes.
06:12
We don't understand
how they're doing this categorization.
how they're doing this categorization.
111
360680
3456
No entenem com realitzen
aquesta categorització.
aquesta categorització.
06:16
It's giant matrices,
thousands of rows and columns,
thousands of rows and columns,
112
364160
4416
Són matrius gegants,
milers de files i columnes,
milers de files i columnes,
06:20
maybe millions of rows and columns,
113
368600
1960
potser milions de files i columnes,
06:23
and not the programmers
114
371320
2640
i ni els programadors
06:26
and not anybody who looks at it,
115
374760
1680
ni algú que ho observi,
06:29
even if you have all the data,
116
377440
1496
ni si tinguessiu la informació
06:30
understands anymore
how exactly it's operating
how exactly it's operating
117
378960
4616
podríeu entendre com funciona exactament,
06:35
any more than you'd know
what I was thinking right now
what I was thinking right now
118
383600
3776
no més que el que podrieu saber
del que ara estic pensant
del que ara estic pensant
06:39
if you were shown
a cross section of my brain.
a cross section of my brain.
119
387400
3960
si us mostrassin una secció
representativa del meu cervell.
representativa del meu cervell.
06:44
It's like we're not programming anymore,
120
392360
2576
És com si ja no programàssim,
06:46
we're growing intelligence
that we don't truly understand.
that we don't truly understand.
121
394960
4400
estem creant intel·ligència
que ja no acabem d'entendre.
que ja no acabem d'entendre.
06:52
And these things only work
if there's an enormous amount of data,
if there's an enormous amount of data,
122
400520
3976
I aquestes coses només funcionen si
hi ha una enorme quantitat d'informació,
hi ha una enorme quantitat d'informació,
06:56
so they also encourage
deep surveillance on all of us
deep surveillance on all of us
123
404520
5096
així que també motiven
que ens vigilin a tots minuciosament,
que ens vigilin a tots minuciosament,
07:01
so that the machine learning
algorithms can work.
algorithms can work.
124
409640
2336
perquè els algoritmes automàtics
funcionin.
funcionin.
07:04
That's why Facebook wants
to collect all the data it can about you.
to collect all the data it can about you.
125
412000
3176
Per això Facebook vol recopilar
tota la informació que pugui.
tota la informació que pugui.
07:07
The algorithms work better.
126
415200
1576
Els algoritmes funcionen millor.
07:08
So let's push that Vegas example a bit.
127
416800
2696
Exprimim l'exemple
de Las Vegas una mica.
de Las Vegas una mica.
07:11
What if the system
that we do not understand
that we do not understand
128
419520
3680
I si el sistema que no entenem
07:16
was picking up that it's easier
to sell Vegas tickets
to sell Vegas tickets
129
424200
5136
descobrís que és més fàcil
vendre bitllets a Las Vegas
vendre bitllets a Las Vegas
07:21
to people who are bipolar
and about to enter the manic phase.
and about to enter the manic phase.
130
429360
3760
a gent bipolar i a punt d'entrar
en fase de mania?
en fase de mania?
07:25
Such people tend to become
overspenders, compulsive gamblers.
overspenders, compulsive gamblers.
131
433640
4920
Aquesta gent tendeix a tornar-se
malgastadora, jugadors compulsius.
malgastadora, jugadors compulsius.
07:31
They could do this, and you'd have no clue
that's what they were picking up on.
that's what they were picking up on.
132
439280
4456
Ho podrien fer, i no tindries
ni idea que s'estan basant en això.
ni idea que s'estan basant en això.
07:35
I gave this example
to a bunch of computer scientists once
to a bunch of computer scientists once
133
443760
3616
Una vegada vaig posar
aquest exemple a un grup d'informàtics
aquest exemple a un grup d'informàtics
07:39
and afterwards, one of them came up to me.
134
447400
2056
i després un d'ells va apropar-se.
07:41
He was troubled and he said,
"That's why I couldn't publish it."
"That's why I couldn't publish it."
135
449480
3520
Estava preocupat i va dir:
"Per això no ho podia publicar."
"Per això no ho podia publicar."
07:45
I was like, "Couldn't publish what?"
136
453600
1715
Jo vaig dir: "Publicar el què?"
07:47
He had tried to see whether you can indeed
figure out the onset of mania
figure out the onset of mania
137
455800
5856
Havia intentat veure
si es pot descobrir l'inici de la mania
si es pot descobrir l'inici de la mania
07:53
from social media posts
before clinical symptoms,
before clinical symptoms,
138
461680
3216
amb publicacions a la xarxa
abans que amb símptomes clínics,
abans que amb símptomes clínics,
07:56
and it had worked,
139
464920
1776
i havia funcionat,
07:58
and it had worked very well,
140
466720
2056
havia funcionat molt bé,
08:00
and he had no idea how it worked
or what it was picking up on.
or what it was picking up on.
141
468800
4880
i no tenia ni idea de com
funcionava o en què es fixaven.
funcionava o en què es fixaven.
08:06
Now, the problem isn't solved
if he doesn't publish it,
if he doesn't publish it,
142
474840
4416
El problema no es solucionarà
encara que no ho publiqui,
encara que no ho publiqui,
08:11
because there are already companies
143
479280
1896
perquè ja hi ha companyies
08:13
that are developing
this kind of technology,
this kind of technology,
144
481200
2536
que ja estàn desenvolupant
aquest tipus de tecnologia,
aquest tipus de tecnologia,
08:15
and a lot of the stuff
is just off the shelf.
is just off the shelf.
145
483760
2800
i moltes coses són per a un ús general.
08:19
This is not very difficult anymore.
146
487240
2576
Això ja no és tan difícil.
08:21
Do you ever go on YouTube
meaning to watch one video
meaning to watch one video
147
489840
3456
Alguna vegada entres a YouTube
a mirar un vídeo
a mirar un vídeo
08:25
and an hour later you've watched 27?
148
493320
2360
i després d'una hora n'has mirat 27?
08:28
You know how YouTube
has this column on the right
has this column on the right
149
496760
2496
Saps que YouTube té la columna a la dreta
08:31
that says, "Up next"
150
499280
2216
que diu: "Següent"
08:33
and it autoplays something?
151
501520
1816
i reprodueix quelcom automàticament?
08:35
It's an algorithm
152
503360
1216
És un algoritme
08:36
picking what it thinks
that you might be interested in
that you might be interested in
153
504600
3616
elegint el que creu que et pot interessar
08:40
and maybe not find on your own.
154
508240
1536
i potser no trobis tu mateix.
08:41
It's not a human editor.
155
509800
1256
No és un editor humà.
08:43
It's what algorithms do.
156
511080
1416
És el que fan el algoritmes.
08:44
It picks up on what you have watched
and what people like you have watched,
and what people like you have watched,
157
512520
4736
Es fixa en el que has mirat
i el que la gent com tu ha mirat,
i el que la gent com tu ha mirat,
08:49
and infers that that must be
what you're interested in,
what you're interested in,
158
517280
4216
i dedueix que allò
deu ser el que t'interessa,
deu ser el que t'interessa,
08:53
what you want more of,
159
521520
1255
que en vols més,
08:54
and just shows you more.
160
522799
1336
i simplement te'n posa més.
08:56
It sounds like a benign
and useful feature,
and useful feature,
161
524159
2201
Sembla una característica benigna i útil,
08:59
except when it isn't.
162
527280
1200
excepte quan no ho és.
09:01
So in 2016, I attended rallies
of then-candidate Donald Trump
of then-candidate Donald Trump
163
529640
6960
El 2016 vaig anar a
mítings del candidat Donald Trump
mítings del candidat Donald Trump
09:09
to study as a scholar
the movement supporting him.
the movement supporting him.
164
537840
3336
a estudiar acadèmicament
el moviment de suport.
el moviment de suport.
09:13
I study social movements,
so I was studying it, too.
so I was studying it, too.
165
541200
3456
Estudio moviments socials,
així que també ho vaig estudiar.
així que també ho vaig estudiar.
09:16
And then I wanted to write something
about one of his rallies,
about one of his rallies,
166
544680
3336
I després vaig voler escriure
alguna cosa sobre un dels seus mítings,
alguna cosa sobre un dels seus mítings,
09:20
so I watched it a few times on YouTube.
167
548040
1960
i el vaig mirar alguns cops per YouTube.
09:23
YouTube started recommending to me
168
551240
3096
YouTube em va començar a recomanar
09:26
and autoplaying to me
white supremacist videos
white supremacist videos
169
554360
4256
i a reproduir vídeos de supremacia blanca
09:30
in increasing order of extremism.
170
558640
2656
en un ordre progressiu d'extremisme.
09:33
If I watched one,
171
561320
1816
Si en mirava un,
09:35
it served up one even more extreme
172
563160
2976
me'n mostrava un d'encara més extrem
09:38
and autoplayed that one, too.
173
566160
1424
i també me'l reproduïa.
09:40
If you watch Hillary Clinton
or Bernie Sanders content,
or Bernie Sanders content,
174
568320
4536
Si mires continguts de Hillary Clinton
o Bernie Sanders,
o Bernie Sanders,
09:44
YouTube recommends
and autoplays conspiracy left,
and autoplays conspiracy left,
175
572880
4696
YouTube et recomana i reprodueix
conspiració d'esquerres,
conspiració d'esquerres,
09:49
and it goes downhill from there.
176
577600
1760
i des d'allà empitjora.
09:52
Well, you might be thinking,
this is politics, but it's not.
this is politics, but it's not.
177
580480
3056
Podríeu pensar que això és política,
però no ho és.
però no ho és.
09:55
This isn't about politics.
178
583560
1256
No es tracta de política.
09:56
This is just the algorithm
figuring out human behavior.
figuring out human behavior.
179
584840
3096
És l'algoritme desxifrant
el comportament humà.
el comportament humà.
09:59
I once watched a video
about vegetarianism on YouTube
about vegetarianism on YouTube
180
587960
4776
Una vegada vaig mirar un vídeo
sobre vegetarianisme al YouTube
sobre vegetarianisme al YouTube
10:04
and YouTube recommended
and autoplayed a video about being vegan.
and autoplayed a video about being vegan.
181
592760
4936
i YouTube em va recomanar i
reproduir un vídeo sobre ser vegà.
reproduir un vídeo sobre ser vegà.
10:09
It's like you're never
hardcore enough for YouTube.
hardcore enough for YouTube.
182
597720
3016
És com si per YouTube
mai fossis suficientment radical.
mai fossis suficientment radical.
10:12
(Laughter)
183
600760
1576
(Rialles)
10:14
So what's going on?
184
602360
1560
Què està passant, doncs?
10:16
Now, YouTube's algorithm is proprietary,
185
604520
3536
L'algoritme de YouTube està patentat,
10:20
but here's what I think is going on.
186
608080
2360
però us diré el que crec que està passant.
10:23
The algorithm has figured out
187
611360
2096
L'algoritme ha descobert
10:25
that if you can entice people
188
613480
3696
que si pots convèncer a la gent
10:29
into thinking that you can
show them something more hardcore,
show them something more hardcore,
189
617200
3736
que els pots mostrar coses més radicals,
10:32
they're more likely to stay on the site
190
620960
2416
és més probable que romanguin a la web
10:35
watching video after video
going down that rabbit hole
going down that rabbit hole
191
623400
4416
mirant vídeo rere vídeo
caiguent pel forat del conill
caiguent pel forat del conill
10:39
while Google serves them ads.
192
627840
1680
mentre Google els envia anuncis.
10:43
Now, with nobody minding
the ethics of the store,
the ethics of the store,
193
631760
3120
Com no hi ha ningú que es preocupi
per l'ètica del lloc,
per l'ètica del lloc,
10:47
these sites can profile people
194
635720
4240
aquestes pàgines poden
crear perfils de persones
crear perfils de persones
10:53
who are Jew haters,
195
641680
1920
que odien als jueus,
10:56
who think that Jews are parasites
196
644360
2480
que pensen que els jueus són paràsits
11:00
and who have such explicit
anti-Semitic content,
anti-Semitic content,
197
648320
4920
i que tenen un contingut
explícitament antisemita,
explícitament antisemita,
11:06
and let you target them with ads.
198
654080
2000
i et deixen atacar-los amb anuncis.
11:09
They can also mobilize algorithms
199
657200
3536
També poden mobilitzar algoritmes
11:12
to find for you look-alike audiences,
200
660760
3136
per trobar-te audiències similars,
11:15
people who do not have such explicit
anti-Semitic content on their profile
anti-Semitic content on their profile
201
663920
5576
gent que no té contingut antisemita
tan explícit en el seu perfil
tan explícit en el seu perfil
11:21
but who the algorithm detects
may be susceptible to such messages,
may be susceptible to such messages,
202
669520
6176
però que l'algoritme pensa que poden ser
susceptibles a aquest tipus de missatges,
susceptibles a aquest tipus de missatges,
11:27
and lets you target them with ads, too.
203
675720
1920
així que també ataquem-los amb anuncis.
11:30
Now, this may sound
like an implausible example,
like an implausible example,
204
678680
2736
Això pot semblar un exemple poc probable,
11:33
but this is real.
205
681440
1320
però és real.
11:35
ProPublica investigated this
206
683480
2136
ProPublica ho va investigar
11:37
and found that you can indeed
do this on Facebook,
do this on Facebook,
207
685640
3616
i va descobrir que pots
fer això a Facebook,
fer això a Facebook,
11:41
and Facebook helpfully
offered up suggestions
offered up suggestions
208
689280
2416
i Facebook t'ofereix
de bona voluntat suggerències
de bona voluntat suggerències
11:43
on how to broaden that audience.
209
691720
1600
de com augmentar aquest públic.
11:46
BuzzFeed tried it for Google,
and very quickly they found,
and very quickly they found,
210
694720
3016
BuzzFeed ho intentà amb Google,
i tot d'una varen veure,
i tot d'una varen veure,
11:49
yep, you can do it on Google, too.
211
697760
1736
que sí, també es pot fer amb Google.
11:51
And it wasn't even expensive.
212
699520
1696
Ni tan sols fou car.
11:53
The ProPublica reporter
spent about 30 dollars
spent about 30 dollars
213
701240
4416
El reporter de ProPublica
va gastar uns 30 dòlars
va gastar uns 30 dòlars
11:57
to target this category.
214
705680
2240
per abordar aquesta categoria.
12:02
So last year, Donald Trump's
social media manager disclosed
social media manager disclosed
215
710600
5296
L'any passat, el director de
xarxes socials de Donald Trump va revelar
xarxes socials de Donald Trump va revelar
12:07
that they were using Facebook dark posts
to demobilize people,
to demobilize people,
216
715920
5336
que empraven publicacions amagades
de Facebook per desmobilitzar a la gent,
de Facebook per desmobilitzar a la gent,
12:13
not to persuade them,
217
721280
1376
no per persuadir-los,
12:14
but to convince them not to vote at all.
218
722680
2800
sinó pero convencer-los que no votessin.
12:18
And to do that,
they targeted specifically,
they targeted specifically,
219
726520
3576
I per fer-ho, abordaven específicament,
12:22
for example, African-American men
in key cities like Philadelphia,
in key cities like Philadelphia,
220
730120
3896
per exemple, homes afroamericans
en ciutats importants com Filadèlfia,
en ciutats importants com Filadèlfia,
12:26
and I'm going to read
exactly what he said.
exactly what he said.
221
734040
2456
i llegiré exactament el que va dir.
12:28
I'm quoting.
222
736520
1216
Estic citant.
12:29
They were using "nonpublic posts
223
737760
3016
Usaven "publicacions privades
12:32
whose viewership the campaign controls
224
740800
2176
l'audiència de les quals
la campanya controla
la campanya controla
12:35
so that only the people
we want to see it see it.
we want to see it see it.
225
743000
3776
perquè només la gent que volem
que ho vegi, ho vegi.
que ho vegi, ho vegi.
12:38
We modeled this.
226
746800
1216
Ho vam modelar.
12:40
It will dramatically affect her ability
to turn these people out."
to turn these people out."
227
748040
4720
Afectarà dràsticament la seva habilitat
perquè participi aquesta gent."
perquè participi aquesta gent."
12:45
What's in those dark posts?
228
753720
2280
Què hi ha en
aquestes publicacions amagades?
aquestes publicacions amagades?
12:48
We have no idea.
229
756480
1656
No en tenim ni idea.
12:50
Facebook won't tell us.
230
758160
1200
Facebook no ens ho diu.
12:52
So Facebook also algorithmically
arranges the posts
arranges the posts
231
760480
4376
Facebook també organitza
algorítmicament les publicacions
algorítmicament les publicacions
12:56
that your friends put on Facebook,
or the pages you follow.
or the pages you follow.
232
764880
3736
que els teus amics posen a Facebook,
o de les pàgines que segueixes.
o de les pàgines que segueixes.
13:00
It doesn't show you
everything chronologically.
everything chronologically.
233
768640
2216
No t'ho mostra tot cronològicament.
13:02
It puts the order in the way
that the algorithm thinks will entice you
that the algorithm thinks will entice you
234
770880
4816
Ordena la manera en que l'algoritme
creu que et pot convèncer
creu que et pot convèncer
13:07
to stay on the site longer.
235
775720
1840
per quedar-te a la pàgina més temps.
13:11
Now, so this has a lot of consequences.
236
779040
3376
Això té moltes consequències.
13:14
You may be thinking
somebody is snubbing you on Facebook.
somebody is snubbing you on Facebook.
237
782440
3800
Podeu pensar que algú
us està ignorant a Facebook.
us està ignorant a Facebook.
13:18
The algorithm may never
be showing your post to them.
be showing your post to them.
238
786800
3256
L'algoritme podria no mostrar-los
mai la teva publicació.
mai la teva publicació.
13:22
The algorithm is prioritizing
some of them and burying the others.
some of them and burying the others.
239
790080
5960
L'algoritme en prioritza algunes
i n'amaga d'altres.
i n'amaga d'altres.
13:29
Experiments show
240
797320
1296
Els experiments mostren
13:30
that what the algorithm picks to show you
can affect your emotions.
can affect your emotions.
241
798640
4520
que el que l'algoritme elegeix mostrar-te
pot afectar les teves emocions.
pot afectar les teves emocions.
13:36
But that's not all.
242
804600
1200
Però això no és tot.
13:38
It also affects political behavior.
243
806280
2360
També afecta el comportament polític.
13:41
So in 2010, in the midterm elections,
244
809360
4656
El 2010, en les eleccions parcials,
13:46
Facebook did an experiment
on 61 million people in the US
on 61 million people in the US
245
814040
5896
Facebook va fer un experiment
a 61 milions de persones al Estats Units
a 61 milions de persones al Estats Units
13:51
that was disclosed after the fact.
246
819960
1896
que es va revelar després.
13:53
So some people were shown,
"Today is election day,"
"Today is election day,"
247
821880
3416
A algunes persones els van mostrar:
"Avui són les eleccions,"
"Avui són les eleccions,"
13:57
the simpler one,
248
825320
1376
el més simple,
13:58
and some people were shown
the one with that tiny tweak
the one with that tiny tweak
249
826720
3896
i a alguns els en van mostrar
un amb la lleugera modificació
un amb la lleugera modificació
14:02
with those little thumbnails
250
830640
2096
de les imatges en miniatura
14:04
of your friends who clicked on "I voted."
251
832760
2840
dels teus amics que clicaren a "He votat".
14:09
This simple tweak.
252
837000
1400
Una simple modificació.
14:11
OK? So the pictures were the only change,
253
839520
4296
D'acord? Les imatges foren l'únic canvi,
14:15
and that post shown just once
254
843840
3256
i la publicació mostrada només un cop
14:19
turned out an additional 340,000 voters
255
847120
6056
va fer participar 340.000 votants més
14:25
in that election,
256
853200
1696
en aquelles eleccions,
14:26
according to this research
257
854920
1696
d'acord amb aquesta investigació
14:28
as confirmed by the voter rolls.
258
856640
2520
i confirmat per les llistes de votants.
14:32
A fluke? No.
259
860920
1656
Casualitat? No.
14:34
Because in 2012,
they repeated the same experiment.
they repeated the same experiment.
260
862600
5360
Perquè el 2012, repetiren
el mateix experiment.
el mateix experiment.
14:40
And that time,
261
868840
1736
I aquella vegada,
14:42
that civic message shown just once
262
870600
3296
aquell missatge cívic
mostrat només una vegada
mostrat només una vegada
14:45
turned out an additional 270,000 voters.
263
873920
4440
va fer participar 270.000 votants més.
14:51
For reference, the 2016
US presidential election
US presidential election
264
879160
5216
Per tenir una referència, les eleccions
presidencials als Estats Units de 2016
presidencials als Estats Units de 2016
14:56
was decided by about 100,000 votes.
265
884400
3520
es varen decidir per uns 100.000 vots.
15:01
Now, Facebook can also
very easily infer what your politics are,
very easily infer what your politics are,
266
889360
4736
Facebook també pot deduir fàcilment
la teva orientació política,
la teva orientació política,
15:06
even if you've never
disclosed them on the site.
disclosed them on the site.
267
894120
2256
encara que mai
l'hagis revelat a la pàgina.
l'hagis revelat a la pàgina.
15:08
Right? These algorithms
can do that quite easily.
can do that quite easily.
268
896400
2520
Aquests algoritmes ho poden fer fàcilment.
15:11
What if a platform with that kind of power
269
899960
3896
I si una plataforma
amb aquest tipus de poder
amb aquest tipus de poder
15:15
decides to turn out supporters
of one candidate over the other?
of one candidate over the other?
270
903880
5040
decideix que participin més seguidors
d'un candidat que de l'altre?
d'un candidat que de l'altre?
15:21
How would we even know about it?
271
909680
2440
Com ens n'assebentaríem?
15:25
Now, we started from someplace
seemingly innocuous --
seemingly innocuous --
272
913560
4136
Hem començat des d'un lloc
aparentment innocu --
aparentment innocu --
15:29
online adds following us around --
273
917720
2216
anuncis online que ens segueixen arreu --
15:31
and we've landed someplace else.
274
919960
1840
i hem acabat en un lloc diferent.
15:35
As a public and as citizens,
275
923480
2456
Com a públic i com a ciutadans,
15:37
we no longer know
if we're seeing the same information
if we're seeing the same information
276
925960
3416
ja no sabem si estem veient
la mateixa informació
la mateixa informació
15:41
or what anybody else is seeing,
277
929400
1480
o el que algú altre està veient,
15:43
and without a common basis of information,
278
931680
2576
i sense una base d'informació comuna,
15:46
little by little,
279
934280
1616
a poc a poc,
15:47
public debate is becoming impossible,
280
935920
3216
el debat públic s'està tornant impossible,
15:51
and we're just at
the beginning stages of this.
the beginning stages of this.
281
939160
2976
i això són només
les fases inicials de tot això.
les fases inicials de tot això.
15:54
These algorithms can quite easily infer
282
942160
3456
Aquests algoritmes poden deduir fàcilment
15:57
things like your people's ethnicity,
283
945640
3256
coses com l'etnicitat de la gent,
16:00
religious and political views,
personality traits,
personality traits,
284
948920
2336
orientació religiosa i política,
trets personals,
trets personals,
16:03
intelligence, happiness,
use of addictive substances,
use of addictive substances,
285
951280
3376
intel·ligència, felicitat,
ús de substàncies addictives,
ús de substàncies addictives,
16:06
parental separation, age and genders,
286
954680
3136
separació parental, edat i gènere,
16:09
just from Facebook likes.
287
957840
1960
només pels "m'agrada" a Facebook.
16:13
These algorithms can identify protesters
288
961440
4056
Aquests algoritmes poden identificar
els manifestants
els manifestants
16:17
even if their faces
are partially concealed.
are partially concealed.
289
965520
2760
encara que les seves cares
estiguin parcialment cobertes.
estiguin parcialment cobertes.
16:21
These algorithms may be able
to detect people's sexual orientation
to detect people's sexual orientation
290
969720
6616
Aquests algoritmes podrien ser capaços
de detectar l'orientació sexual de la gent
de detectar l'orientació sexual de la gent
16:28
just from their dating profile pictures.
291
976360
3200
només per la foto de perfil
de les seves cites.
de les seves cites.
16:33
Now, these are probabilistic guesses,
292
981560
2616
Això són només suposicions probables,
16:36
so they're not going
to be 100 percent right,
to be 100 percent right,
293
984200
2896
així que no seran 100% correctes,
16:39
but I don't see the powerful resisting
the temptation to use these technologies
the temptation to use these technologies
294
987120
4896
però no m'imagino als poderosos resistint
la temptació d'usar aquestes tecnologies
la temptació d'usar aquestes tecnologies
16:44
just because there are
some false positives,
some false positives,
295
992040
2176
només perquè hi ha alguns falsos positius,
16:46
which will of course create
a whole other layer of problems.
a whole other layer of problems.
296
994240
3256
que és clar que afegiran
una altra capa als problemes.
una altra capa als problemes.
16:49
Imagine what a state can do
297
997520
2936
Imagina el que un estat pot fer
16:52
with the immense amount of data
it has on its citizens.
it has on its citizens.
298
1000480
3560
amb la quantitat d'informació
que té dels ciutadans.
que té dels ciutadans.
16:56
China is already using
face detection technology
face detection technology
299
1004680
4776
La Xina ja està usant
tecnologia de detecció facial
tecnologia de detecció facial
17:01
to identify and arrest people.
300
1009480
2880
per a identificar i arrestar persones.
17:05
And here's the tragedy:
301
1013280
2136
I aquí ve la tragèdia:
17:07
we're building this infrastructure
of surveillance authoritarianism
of surveillance authoritarianism
302
1015440
5536
estem construint aquesta infraestructura
de vigilància autoritària
de vigilància autoritària
17:13
merely to get people to click on ads.
303
1021000
2960
merament per fer
que la gent cliqui anuncis.
que la gent cliqui anuncis.
17:17
And this won't be
Orwell's authoritarianism.
Orwell's authoritarianism.
304
1025240
2576
I això no serà l'autoritarisme d'Orwell.
17:19
This isn't "1984."
305
1027839
1897
AIxò no és "1984".
17:21
Now, if authoritarianism
is using overt fear to terrorize us,
is using overt fear to terrorize us,
306
1029760
4576
Si l'autoritarisme empra obertament
la por per espantar-nos,
la por per espantar-nos,
17:26
we'll all be scared, but we'll know it,
307
1034359
2897
ens espantarem, però ho sabrem,
17:29
we'll hate it and we'll resist it.
308
1037280
2200
ho odiarem i ens resistirem.
17:32
But if the people in power
are using these algorithms
are using these algorithms
309
1040880
4416
Però si la gent en el poder
empra aquests algoritmes
empra aquests algoritmes
17:37
to quietly watch us,
310
1045319
3377
per observar-nos en silenci,
17:40
to judge us and to nudge us,
311
1048720
2080
per jutjat-nos i influir-nos,
17:43
to predict and identify
the troublemakers and the rebels,
the troublemakers and the rebels,
312
1051720
4176
per a predir i identificar
els problemàtics i els rebels,
els problemàtics i els rebels,
17:47
to deploy persuasion
architectures at scale
architectures at scale
313
1055920
3896
per aplicar arquitectures
de persuassió a escala
de persuassió a escala
17:51
and to manipulate individuals one by one
314
1059840
4136
i manipular els individus un a un
17:56
using their personal, individual
weaknesses and vulnerabilities,
weaknesses and vulnerabilities,
315
1064000
5440
emprant les seves debilitats
i vulnerabilitats personals i individuals,
i vulnerabilitats personals i individuals,
18:02
and if they're doing it at scale
316
1070720
2200
i si ho fan a escala
18:06
through our private screens
317
1074080
1736
a través de les pantalles privades
18:07
so that we don't even know
318
1075840
1656
perqué ni tan sols sapiguem
18:09
what our fellow citizens
and neighbors are seeing,
and neighbors are seeing,
319
1077520
2760
el que els nostres conciutadans
i veïns estan veient,
i veïns estan veient,
18:13
that authoritarianism
will envelop us like a spider's web
will envelop us like a spider's web
320
1081560
4816
aquest autoritarisme
ens envoltarà com una teranyina
ens envoltarà com una teranyina
18:18
and we may not even know we're in it.
321
1086400
2480
i potser no sabrem que estem a dins.
18:22
So Facebook's market capitalization
322
1090440
2936
Per això la capitalització de mercat
per part de Facebook
per part de Facebook
18:25
is approaching half a trillion dollars.
323
1093400
3296
s'acosta al trilió i mig de dòlars.
18:28
It's because it works great
as a persuasion architecture.
as a persuasion architecture.
324
1096720
3120
Es deu a que funciona de meravella
com a arquitectura persuasiva.
com a arquitectura persuasiva.
18:33
But the structure of that architecture
325
1101760
2816
Però l'estructura d'aquesta arquitectura
18:36
is the same whether you're selling shoes
326
1104600
3216
és la mateix estiguis venent sabates
18:39
or whether you're selling politics.
327
1107840
2496
o venent política.
18:42
The algorithms do not know the difference.
328
1110360
3120
Els algoritmes no saben la diferència.
18:46
The same algorithms set loose upon us
329
1114240
3296
Els mateixos algoritmes que ens apliquen
18:49
to make us more pliable for ads
330
1117560
3176
per fer-nos més manipulables
per part dels anuncis
per part dels anuncis
18:52
are also organizing our political,
personal and social information flows,
personal and social information flows,
331
1120760
6736
també organitzen els nostres fluxes
d'informació política, personal i social,
d'informació política, personal i social,
18:59
and that's what's got to change.
332
1127520
1840
i això és el que ha de canviar.
19:02
Now, don't get me wrong,
333
1130240
2296
No em malinterpreteu,
19:04
we use digital platforms
because they provide us with great value.
because they provide us with great value.
334
1132560
3680
empram plataformes digitals
perquè ens aporten molt.
perquè ens aporten molt.
19:09
I use Facebook to keep in touch
with friends and family around the world.
with friends and family around the world.
335
1137120
3560
Jo faig servir Facebook per contactar
amb amics i família arreu del món.
amb amics i família arreu del món.
19:14
I've written about how crucial
social media is for social movements.
social media is for social movements.
336
1142000
5776
He escrit sobre l'enorme pes de les xarxes
socials en els moviments socials.
socials en els moviments socials.
19:19
I have studied how
these technologies can be used
these technologies can be used
337
1147800
3016
He estudiat com aquestes tecnologies
es podem emprar
es podem emprar
19:22
to circumvent censorship around the world.
338
1150840
2480
per evitar la censura arreu del món.
19:27
But it's not that the people who run,
you know, Facebook or Google
you know, Facebook or Google
339
1155280
6416
Però no és que els directors
de Facebook o Google
de Facebook o Google
19:33
are maliciously and deliberately trying
340
1161720
2696
estiguin intentant
maliciosament i deliberadament
maliciosament i deliberadament
19:36
to make the country
or the world more polarized
or the world more polarized
341
1164440
4456
fer el país o el món més polaritzat
19:40
and encourage extremism.
342
1168920
1680
i animar l'extremisme.
19:43
I read the many
well-intentioned statements
well-intentioned statements
343
1171440
3976
Vaig llegir moltes declaracions
ben intencionades
ben intencionades
19:47
that these people put out.
344
1175440
3320
que aquesta gent va fer.
19:51
But it's not the intent or the statements
people in technology make that matter,
people in technology make that matter,
345
1179600
6056
Però no són la intenció o les declaracions
de la gent a la tecnologia el que importa,
de la gent a la tecnologia el que importa,
19:57
it's the structures
and business models they're building.
and business models they're building.
346
1185680
3560
són les estructures i els models de negoci
que estan construint.
que estan construint.
20:02
And that's the core of the problem.
347
1190360
2096
I això és el nucli del problema.
20:04
Either Facebook is a giant con
of half a trillion dollars
of half a trillion dollars
348
1192480
4720
O Facebook és una estafa gegant
d'un trilió i mig de dòlars
d'un trilió i mig de dòlars
20:10
and ads don't work on the site,
349
1198200
1896
i els anuncis no funcionen a la pàgina,
20:12
it doesn't work
as a persuasion architecture,
as a persuasion architecture,
350
1200120
2696
i no funciona com a estructura persuasiva,
20:14
or its power of influence
is of great concern.
is of great concern.
351
1202840
4120
o el seu poder d'influència
ens hauria de preocupar.
ens hauria de preocupar.
20:20
It's either one or the other.
352
1208560
1776
És una o l'altra.
20:22
It's similar for Google, too.
353
1210360
1600
És similar en el cas de Google.
20:24
So what can we do?
354
1212880
2456
Què podem fer?
20:27
This needs to change.
355
1215360
1936
Això ha de canviar.
20:29
Now, I can't offer a simple recipe,
356
1217320
2576
No puc oferir una recepta única,
20:31
because we need to restructure
357
1219920
2256
perquè necessitem reestructurar
20:34
the whole way our
digital technology operates.
digital technology operates.
358
1222200
3016
per complet la manera com
la tecnologia digital opera.
la tecnologia digital opera.
20:37
Everything from the way
technology is developed
technology is developed
359
1225240
4096
Des de la manera com
la tecnologia es desenvolupa
la tecnologia es desenvolupa
20:41
to the way the incentives,
economic and otherwise,
economic and otherwise,
360
1229360
3856
fins a la manera com els incentius,
tant econòmics com d'altres,
tant econòmics com d'altres,
20:45
are built into the system.
361
1233240
2280
s'encaixen en el sistema.
20:48
We have to face and try to deal with
362
1236480
3456
Ho hem d'afrontar i intentar lidiar amb
20:51
the lack of transparency
created by the proprietary algorithms,
created by the proprietary algorithms,
363
1239960
4656
la manca de transparència creada
pels algoritmes patentats,
pels algoritmes patentats,
20:56
the structural challenge
of machine learning's opacity,
of machine learning's opacity,
364
1244640
3816
el repte estructural de l'opacitat
de l'aprenentatge automàtic,
de l'aprenentatge automàtic,
21:00
all this indiscriminate data
that's being collected about us.
that's being collected about us.
365
1248480
3400
tota aquesta informació indiscriminada
que estan recollint.
que estan recollint.
21:05
We have a big task in front of us.
366
1253000
2520
Tenim una gran tasca al davant.
21:08
We have to mobilize our technology,
367
1256160
2680
Hem de mobilitzar la nostra tecnologia,
21:11
our creativity
368
1259760
1576
la nostra creativitat
21:13
and yes, our politics
369
1261360
1880
i sí, la nostra política
21:16
so that we can build
artificial intelligence
artificial intelligence
370
1264240
2656
per a que puguem construir
intel·ligència artificial
intel·ligència artificial
21:18
that supports us in our human goals
371
1266920
3120
que ens ajudi amb els objectius humans
21:22
but that is also constrained
by our human values.
by our human values.
372
1270800
3920
però que estigui restringida
pels nostres valors humans.
pels nostres valors humans.
21:27
And I understand this won't be easy.
373
1275600
2160
I entenc que això no serà fàcil.
21:30
We might not even easily agree
on what those terms mean.
on what those terms mean.
374
1278360
3600
Potser ni tan sols ens posarem d'acord
amb facilitat sobre aquest termes.
amb facilitat sobre aquest termes.
21:34
But if we take seriously
375
1282920
2400
Però si ens prenem seriosament
21:38
how these systems that we
depend on for so much operate,
depend on for so much operate,
376
1286240
5976
com aquests sistemes,
dels que depenem tant, funcionen
dels que depenem tant, funcionen
21:44
I don't see how we can postpone
this conversation anymore.
this conversation anymore.
377
1292240
4120
no veig com podem seguir
posposant aquesta conversació.
posposant aquesta conversació.
21:49
These structures
378
1297200
2536
Aquestes estructures
21:51
are organizing how we function
379
1299760
4096
estan organitzant com funcionem
21:55
and they're controlling
380
1303880
2296
i estan controlant
21:58
what we can and we cannot do.
381
1306200
2616
el que podem i no podem fer.
22:00
And many of these ad-financed platforms,
382
1308840
2456
I moltes plataformes
finançades per anuncis,
finançades per anuncis,
22:03
they boast that they're free.
383
1311320
1576
presumeixen de que són lliures.
22:04
In this context, it means
that we are the product that's being sold.
that we are the product that's being sold.
384
1312920
4560
En aquest context significa que nosaltres
som el producte que s'està venent.
som el producte que s'està venent.
22:10
We need a digital economy
385
1318840
2736
Necessitem una economia digital
22:13
where our data and our attention
386
1321600
3496
on la nostra informació
i la nostra atenció
i la nostra atenció
22:17
is not for sale to the highest-bidding
authoritarian or demagogue.
authoritarian or demagogue.
387
1325120
5080
no sigui venuda a l'autoritari
o al demagog que aposti més fort.
o al demagog que aposti més fort.
22:23
(Applause)
388
1331160
3800
(Aplaudiments)
22:30
So to go back to
that Hollywood paraphrase,
that Hollywood paraphrase,
389
1338480
3256
Així que per tornar
a la paràfrasi de Hollywood,
a la paràfrasi de Hollywood,
22:33
we do want the prodigious potential
390
1341760
3736
sí que volem un potencial prodigiós
22:37
of artificial intelligence
and digital technology to blossom,
and digital technology to blossom,
391
1345520
3200
d'intel·ligència artificial
i tecnologia que floreixi,
i tecnologia que floreixi,
22:41
but for that, we must face
this prodigious menace,
this prodigious menace,
392
1349400
4936
però per això, hem de fer front a
aquesta amenaça prodigiosa,
aquesta amenaça prodigiosa,
22:46
open-eyed and now.
393
1354360
1936
amb els ulls oberts i ara.
22:48
Thank you.
394
1356320
1216
Gràcies.
22:49
(Applause)
395
1357560
4640
(Aplaudiments)
ABOUT THE SPEAKER
Zeynep Tufekci - Techno-sociologistTechno-sociologist Zeynep Tufekci asks big questions about our societies and our lives, as both algorithms and digital connectivity spread.
Why you should listen
We've entered an era of digital connectivity and machine intelligence. Complex algorithms are increasingly used to make consequential decisions about us. Many of these decisions are subjective and have no right answer: who should be hired, fired or promoted; what news should be shown to whom; which of your friends do you see updates from; which convict should be paroled. With increasing use of machine learning in these systems, we often don't even understand how exactly they are making these decisions. Zeynep Tufekci studies what this historic transition means for culture, markets, politics and personal life.
Tufekci is a contributing opinion writer at the New York Times, an associate professor at the School of Information and Library Science at University of North Carolina, Chapel Hill, and a faculty associate at Harvard's Berkman Klein Center for Internet and Society.
Her book, Twitter and Tear Gas: The Power and Fragility of Networked Protest, was published in 2017 by Yale University Press. Her next book, from Penguin Random House, will be about algorithms that watch, judge and nudge us.
Zeynep Tufekci | Speaker | TED.com