TEDGlobal>NYC
Zeynep Tufekci: We're building a dystopia just to make people click on ads
Zeynep Tufekci: Stiamo costruendo una distopia, solo per far cliccare la gente sulle pubblicità
Filmed:
Readability: 4.8
2,866,905 views
Stiamo costruendo una distopia basata sull'intelligenza artificiale, un clic alla volta, dice la tecno-sociologa Zeynep Tufekci. In un intervento rivelatore, ci spiega come in aziende come Facebook, Google e Amazon gli stessi algoritmi utilizzati per attirare clic sulle pubblicità vengono usati anche per organizzare l'accesso a informazioni politiche e sociali. E non sono le macchine la vera minaccia.
Dobbiamo capire come chi ha potere potrebbe utilizzare l'Intelligenza Artificiale per controllarci -- e le misure che possiamo prendere.
Zeynep Tufekci - Techno-sociologist
Techno-sociologist Zeynep Tufekci asks big questions about our societies and our lives, as both algorithms and digital connectivity spread. Full bio
Techno-sociologist Zeynep Tufekci asks big questions about our societies and our lives, as both algorithms and digital connectivity spread. Full bio
Double-click the English transcript below to play the video.
00:12
So when people voice fears
of artificial intelligence,
of artificial intelligence,
0
760
3536
Quando la gente dà voce alle paure
legate all'intelligenza artificiale,
legate all'intelligenza artificiale,
00:16
very often, they invoke images
of humanoid robots run amok.
of humanoid robots run amok.
1
4320
3976
molto spesso evoca immagini
di robot umanoidi usciti fuori controllo.
di robot umanoidi usciti fuori controllo.
00:20
You know? Terminator?
2
8320
1240
Avete presente Terminator?
00:22
You know, that might be
something to consider,
something to consider,
3
10400
2336
Potrebbe essere una possibilità
da considerare,
da considerare,
00:24
but that's a distant threat.
4
12760
1856
ma si tratta di una minaccia remota.
00:26
Or, we fret about digital surveillance
5
14640
3456
Oppure, ci agitiamo
per il controllo digitale
per il controllo digitale
00:30
with metaphors from the past.
6
18120
1776
usando metafore del passato.
00:31
"1984," George Orwell's "1984,"
7
19920
2656
"1984" di George Orwell
00:34
it's hitting the bestseller lists again.
8
22600
2280
è di nuovo tra i bestseller.
00:37
It's a great book,
9
25960
1416
È un gran libro,
00:39
but it's not the correct dystopia
for the 21st century.
for the 21st century.
10
27400
3880
ma non è la corretta distopia
da applicare al 21esimo secolo.
da applicare al 21esimo secolo.
00:44
What we need to fear most
11
32080
1416
Ciò che dobbiamo temere
00:45
is not what artificial intelligence
will do to us on its own,
will do to us on its own,
12
33520
4776
non è cosa l'intelligenza artificiale
possa fare di per sé,
possa fare di per sé,
00:50
but how the people in power
will use artificial intelligence
will use artificial intelligence
13
38320
4736
ma come le persone di potere
potranno utilizzarla
potranno utilizzarla
00:55
to control us and to manipulate us
14
43080
2816
per controllarci e manipolarci
00:57
in novel, sometimes hidden,
15
45920
3136
in modi nuovi, talvolta nascosti,
01:01
subtle and unexpected ways.
16
49080
3016
sottili e inaspettati.
01:04
Much of the technology
17
52120
1856
Gran parte della tecnologia
01:06
that threatens our freedom
and our dignity in the near-term future
and our dignity in the near-term future
18
54000
4336
che mette a rischio la nostra libertà
e dignità nel futuro imminente
e dignità nel futuro imminente
01:10
is being developed by companies
19
58360
1856
viene sviluppato da aziende
01:12
in the business of capturing
and selling our data and our attention
and selling our data and our attention
20
60240
4936
che guadagnano catturando
e rivendendo i nostri dati e attenzione
e rivendendo i nostri dati e attenzione
01:17
to advertisers and others:
21
65200
2256
a inserzionisti e altre entità:
01:19
Facebook, Google, Amazon,
22
67480
3416
Facebook, Google, Amazon,
01:22
Alibaba, Tencent.
23
70920
1880
Alibaba, Tencent.
01:26
Now, artificial intelligence has started
bolstering their business as well.
bolstering their business as well.
24
74040
5496
Ora l'intelligenza artificiale comincia
a rafforzare il loro business.
a rafforzare il loro business.
01:31
And it may seem
like artificial intelligence
like artificial intelligence
25
79560
2096
E sembrerebbe
che l'intelligenza artificiale
che l'intelligenza artificiale
01:33
is just the next thing after online ads.
26
81680
2856
sia il passo successivo
alla pubblicità online.
alla pubblicità online.
01:36
It's not.
27
84560
1216
Non lo è.
01:37
It's a jump in category.
28
85800
2456
È un salto di categoria.
01:40
It's a whole different world,
29
88280
2576
È un mondo totalmente differente,
01:42
and it has great potential.
30
90880
2616
con un grosso potenziale.
01:45
It could accelerate our understanding
of many areas of study and research.
of many areas of study and research.
31
93520
6920
Potrebbe accelerare la nostra comprensione
in molte aree di studio e di ricerca.
in molte aree di studio e di ricerca.
01:53
But to paraphrase
a famous Hollywood philosopher,
a famous Hollywood philosopher,
32
101120
3496
Ma per parafrasare
un famoso filosofo di Hollywood,
un famoso filosofo di Hollywood,
01:56
"With prodigious potential
comes prodigious risk."
comes prodigious risk."
33
104640
3640
"Da un grande potenziale
derivano grandi rischi"
derivano grandi rischi"
02:01
Now let's look at a basic fact
of our digital lives, online ads.
of our digital lives, online ads.
34
109120
3936
Guardiamo a un fatto semplice
delle nostre vite digitali, la pubblicità.
delle nostre vite digitali, la pubblicità.
02:05
Right? We kind of dismiss them.
35
113080
2896
Giusto? Tendiamo a ignorarle.
02:08
They seem crude, ineffective.
36
116000
1976
Sembrano rozze, di scarso effetto.
02:10
We've all had the experience
of being followed on the web
of being followed on the web
37
118000
4256
Tutti abbiamo avuto la sensazione
di essere inseguiti sul web
di essere inseguiti sul web
02:14
by an ad based on something
we searched or read.
we searched or read.
38
122280
2776
da pubblicità basate su cose
che abbiamo cercato o letto.
che abbiamo cercato o letto.
02:17
You know, you look up a pair of boots
39
125080
1856
Lo sapete, cercate un paio di stivali
02:18
and for a week, those boots are following
you around everywhere you go.
you around everywhere you go.
40
126960
3376
e per giorni, questi stivali vi seguiranno
dovunque andiate.
dovunque andiate.
02:22
Even after you succumb and buy them,
they're still following you around.
they're still following you around.
41
130360
3656
Persino quando cedete e li acquistate,
continueranno a seguirvi ancora.
continueranno a seguirvi ancora.
02:26
We're kind of inured to that kind
of basic, cheap manipulation.
of basic, cheap manipulation.
42
134040
3016
Siamo quasi abituati a questo tipo
di manipolazione grossolana.
di manipolazione grossolana.
02:29
We roll our eyes and we think,
"You know what? These things don't work."
"You know what? These things don't work."
43
137080
3400
Alziamo gli occhi e pensiamo,
"Sai? Queste cose non funzionano."
"Sai? Queste cose non funzionano."
02:33
Except, online,
44
141720
2096
Tranne che, online,
02:35
the digital technologies are not just ads.
45
143840
3600
le tecnologie digitali
non sono solo pubblicità.
non sono solo pubblicità.
02:40
Now, to understand that,
let's think of a physical world example.
let's think of a physical world example.
46
148240
3120
Per capire meglio,
prendiamo un esempio del mondo fisico.
prendiamo un esempio del mondo fisico.
02:43
You know how, at the checkout counters
at supermarkets, near the cashier,
at supermarkets, near the cashier,
47
151840
4656
Sapete che nei supermercati,
proprio vicino alle casse
proprio vicino alle casse
02:48
there's candy and gum
at the eye level of kids?
at the eye level of kids?
48
156520
3480
trovate dolci e gomme
ad altezza occhi di bambino?
ad altezza occhi di bambino?
02:52
That's designed to make them
whine at their parents
whine at their parents
49
160800
3496
È fatto apposta
per farli piagnucolare
per farli piagnucolare
02:56
just as the parents
are about to sort of check out.
are about to sort of check out.
50
164320
3080
proprio mentre i genitori
stanno per pagare alla cassa.
stanno per pagare alla cassa.
03:00
Now, that's a persuasion architecture.
51
168040
2640
Questa è architettura persuasiva.
03:03
It's not nice, but it kind of works.
52
171160
3096
Non è bella, ma funziona.
03:06
That's why you see it
in every supermarket.
in every supermarket.
53
174280
2040
E infatti la vedete
in tutti i supermarket.
in tutti i supermarket.
03:08
Now, in the physical world,
54
176720
1696
Nel mondo reale,
03:10
such persuasion architectures
are kind of limited,
are kind of limited,
55
178440
2496
queste architetture persuasive
sono un po' limitate,
sono un po' limitate,
03:12
because you can only put
so many things by the cashier. Right?
so many things by the cashier. Right?
56
180960
4816
perché si può caricare
fino a un certo punto l'angolo della cassa.
fino a un certo punto l'angolo della cassa.
03:17
And the candy and gum,
it's the same for everyone,
it's the same for everyone,
57
185800
4296
Inoltre dolci e gomme,
sono uguali per tutti,
sono uguali per tutti,
03:22
even though it mostly works
58
190120
1456
anche se funziona di più
03:23
only for people who have
whiny little humans beside them.
whiny little humans beside them.
59
191600
4040
per le persone che hanno
piccoli bimbi frignanti accanto.
piccoli bimbi frignanti accanto.
03:29
In the physical world,
we live with those limitations.
we live with those limitations.
60
197160
3920
Nel mondo fisico,
viviamo con queste limitazioni.
viviamo con queste limitazioni.
03:34
In the digital world, though,
61
202280
1936
Nel mondo digitale, invece,
03:36
persuasion architectures
can be built at the scale of billions
can be built at the scale of billions
62
204240
4320
le architetture persuasive
possono essere costruite
possono essere costruite
su larghissima scala
03:41
and they can target, infer, understand
63
209840
3856
e possono colpire, dedurre, capire
03:45
and be deployed at individuals
64
213720
2896
essere su misura per singoli individui
03:48
one by one
65
216640
1216
uno per uno
03:49
by figuring out your weaknesses,
66
217880
2136
scoprendo le debolezze,
03:52
and they can be sent
to everyone's phone private screen,
to everyone's phone private screen,
67
220040
5616
e possono essere inviate
sugli schermi privati dei nostri telefoni,
sugli schermi privati dei nostri telefoni,
03:57
so it's not visible to us.
68
225680
2256
così da non essere visibili.
03:59
And that's different.
69
227960
1256
E questo è differente.
04:01
And that's just one of the basic things
that artificial intelligence can do.
that artificial intelligence can do.
70
229240
3576
Questa è una delle cose basilari
che l'intelligenza artificiale può fare.
che l'intelligenza artificiale può fare.
04:04
Now, let's take an example.
71
232840
1336
Facciamo un esempio.
04:06
Let's say you want to sell
plane tickets to Vegas. Right?
plane tickets to Vegas. Right?
72
234200
2696
Poniamo caso vogliate vendere
voli verso Las Vegas, ok?
voli verso Las Vegas, ok?
04:08
So in the old world, you could think
of some demographics to target
of some demographics to target
73
236920
3496
Nel vecchio mondo, potreste pensare
a un target demografico da colpire
a un target demografico da colpire
04:12
based on experience
and what you can guess.
and what you can guess.
74
240440
2520
basato sull'esperienza
e su alcune supposizioni.
e su alcune supposizioni.
04:15
You might try to advertise to, oh,
75
243560
2816
Avreste diretto la pubblicità
04:18
men between the ages of 25 and 35,
76
246400
2496
a uomini tra i 25 e i 35,
04:20
or people who have
a high limit on their credit card,
a high limit on their credit card,
77
248920
3936
o persone con un plafond alto
nelle carte di credito
nelle carte di credito
04:24
or retired couples. Right?
78
252880
1376
o coppie in pensione.Giusto?
04:26
That's what you would do in the past.
79
254280
1816
Questo è ciò che avreste fatto ieri.
04:28
With big data and machine learning,
80
256120
2896
Grazie a Big Data e Machine Learning,
04:31
that's not how it works anymore.
81
259040
1524
non funziona più così.
04:33
So to imagine that,
82
261320
2176
Per aiutarvi a capire,
04:35
think of all the data
that Facebook has on you:
that Facebook has on you:
83
263520
3856
pensate a tutti i dati
che Facebook ha su di voi:
che Facebook ha su di voi:
04:39
every status update you ever typed,
84
267400
2536
tutti gli aggiornamenti che avete scritto,
04:41
every Messenger conversation,
85
269960
2016
tutte le chat su Messenger,
04:44
every place you logged in from,
86
272000
1880
i posti da cui vi siete collegati,
04:48
all your photographs
that you uploaded there.
that you uploaded there.
87
276400
3176
tutte le foto che avete aggiunto.
04:51
If you start typing something
and change your mind and delete it,
and change your mind and delete it,
88
279600
3776
Se cominciate a scrivere qualcosa
e poi ci ripensate e cancellate,
e poi ci ripensate e cancellate,
04:55
Facebook keeps those
and analyzes them, too.
and analyzes them, too.
89
283400
3200
Facebook conserva
e analizza anche quello.
e analizza anche quello.
04:59
Increasingly, it tries
to match you with your offline data.
to match you with your offline data.
90
287160
3936
Prova sempre di più a collegarvi
con i vostri dati offline.
con i vostri dati offline.
05:03
It also purchases
a lot of data from data brokers.
a lot of data from data brokers.
91
291120
3176
E compra pure dei dati
da altri fornitori esterni.
da altri fornitori esterni.
05:06
It could be everything
from your financial records
from your financial records
92
294320
3416
Dati di varia natura
come movimenti finanziari
come movimenti finanziari
05:09
to a good chunk of your browsing history.
93
297760
2120
o la storia delle pagine
che avete visitato.
che avete visitato.
05:12
Right? In the US,
such data is routinely collected,
such data is routinely collected,
94
300360
5416
Negli Stati Uniti questi dati
vengono raccolti con regolarità,
vengono raccolti con regolarità,
05:17
collated and sold.
95
305800
1960
esaminati e rivenduti.
05:20
In Europe, they have tougher rules.
96
308320
2440
In Europa le leggi sono più restrittive.
05:23
So what happens then is,
97
311680
2200
Quindi, ciò che accade
05:26
by churning through all that data,
these machine-learning algorithms --
these machine-learning algorithms --
98
314920
4016
macinando tutti questi dati,
gli algoritmi "machine learning"
gli algoritmi "machine learning"
05:30
that's why they're called
learning algorithms --
learning algorithms --
99
318960
2896
proprio per questo sono chiamati
algoritmi di "apprendimento"
algoritmi di "apprendimento"
05:33
they learn to understand
the characteristics of people
the characteristics of people
100
321880
4096
apprendono come capire
le caratteristiche della gente
le caratteristiche della gente
05:38
who purchased tickets to Vegas before.
101
326000
2520
che ha comprato in precedenza
biglietti per Las Vegas
biglietti per Las Vegas
05:41
When they learn this from existing data,
102
329760
3536
Così come imparano dai dati esistenti,
05:45
they also learn
how to apply this to new people.
how to apply this to new people.
103
333320
3816
imparano anche come applicarlo
a nuove persone.
a nuove persone.
05:49
So if they're presented with a new person,
104
337160
3056
Quindi quando si trovano davanti
un nuovo soggetto
un nuovo soggetto
05:52
they can classify whether that person
is likely to buy a ticket to Vegas or not.
is likely to buy a ticket to Vegas or not.
105
340240
4640
possono classificarlo e dire se vorrebbe
o meno un biglietto per Las Vegas
o meno un biglietto per Las Vegas
05:57
Fine. You're thinking,
an offer to buy tickets to Vegas.
an offer to buy tickets to Vegas.
106
345720
5456
Bene. Starete pensando,
un'offerta su un volo per Las Vegas.
un'offerta su un volo per Las Vegas.
06:03
I can ignore that.
107
351200
1456
Posso ignorarla.
06:04
But the problem isn't that.
108
352680
2216
Ma non è quello il problema.
06:06
The problem is,
109
354920
1576
Il problema è
06:08
we no longer really understand
how these complex algorithms work.
how these complex algorithms work.
110
356520
4136
che non riusciamo più a capire
come funzionano questi algoritmi complessi
come funzionano questi algoritmi complessi
06:12
We don't understand
how they're doing this categorization.
how they're doing this categorization.
111
360680
3456
non capiamo
come facciano questa categorizzazione.
come facciano questa categorizzazione.
06:16
It's giant matrices,
thousands of rows and columns,
thousands of rows and columns,
112
364160
4416
Sono matrici giganti,
con migliaia di righe e colonne,
con migliaia di righe e colonne,
06:20
maybe millions of rows and columns,
113
368600
1960
forse milioni di righe e colonne,
06:23
and not the programmers
114
371320
2640
e né i programmatori
06:26
and not anybody who looks at it,
115
374760
1680
né nessuno di quelli che ha accesso,
06:29
even if you have all the data,
116
377440
1496
anche se possiede tutti i dati,
06:30
understands anymore
how exactly it's operating
how exactly it's operating
117
378960
4616
capisce più
come stia funzionando esattamente
come stia funzionando esattamente
06:35
any more than you'd know
what I was thinking right now
what I was thinking right now
118
383600
3776
non più di quanto voi potreste capire
a cosa sto pensando ora
a cosa sto pensando ora
06:39
if you were shown
a cross section of my brain.
a cross section of my brain.
119
387400
3960
se vi fosse mostrata
una sezione del mio cervello.
una sezione del mio cervello.
06:44
It's like we're not programming anymore,
120
392360
2576
È come se non programmassimo più,
06:46
we're growing intelligence
that we don't truly understand.
that we don't truly understand.
121
394960
4400
ma accresciamo un'intelligenza
che non riusciamo a capire davvero.
che non riusciamo a capire davvero.
06:52
And these things only work
if there's an enormous amount of data,
if there's an enormous amount of data,
122
400520
3976
Tutto questo funziona
solo attraverso un'enorme quantità di dati,
solo attraverso un'enorme quantità di dati,
06:56
so they also encourage
deep surveillance on all of us
deep surveillance on all of us
123
404520
5096
cosicché viene favorito
un controllo approfondito su tutti noi
un controllo approfondito su tutti noi
07:01
so that the machine learning
algorithms can work.
algorithms can work.
124
409640
2336
per far funzionare gli algoritmi
di apprendimento
di apprendimento
07:04
That's why Facebook wants
to collect all the data it can about you.
to collect all the data it can about you.
125
412000
3176
Per questo Facebook vuole raccogliere
tutti i vostri dati.
tutti i vostri dati.
07:07
The algorithms work better.
126
415200
1576
L'algoritmo funziona meglio.
07:08
So let's push that Vegas example a bit.
127
416800
2696
Spingiamo ancora di più
l'esempio di Las Vegas.
l'esempio di Las Vegas.
07:11
What if the system
that we do not understand
that we do not understand
128
419520
3680
E se questo sistema
che non riusciamo a comprendere
che non riusciamo a comprendere
07:16
was picking up that it's easier
to sell Vegas tickets
to sell Vegas tickets
129
424200
5136
avesse imparato che è più semplice
vendere biglietti per Las Vegas
vendere biglietti per Las Vegas
07:21
to people who are bipolar
and about to enter the manic phase.
and about to enter the manic phase.
130
429360
3760
a persone bipolari e sul punto
di entrare nella fase maniacale.
di entrare nella fase maniacale.
07:25
Such people tend to become
overspenders, compulsive gamblers.
overspenders, compulsive gamblers.
131
433640
4920
Queste persone tendono a spendere di più
e a diventare scommettitori compulsivi.
e a diventare scommettitori compulsivi.
07:31
They could do this, and you'd have no clue
that's what they were picking up on.
that's what they were picking up on.
132
439280
4456
Potrebbero pescare da quel bacino
e nessuno potrebbe mai saperlo.
e nessuno potrebbe mai saperlo.
07:35
I gave this example
to a bunch of computer scientists once
to a bunch of computer scientists once
133
443760
3616
Ho fatto questo esempio
a un gruppo di ingegneri, una volta
a un gruppo di ingegneri, una volta
07:39
and afterwards, one of them came up to me.
134
447400
2056
e subito dopo, uno di loro è venuto da me.
07:41
He was troubled and he said,
"That's why I couldn't publish it."
"That's why I couldn't publish it."
135
449480
3520
Era turbato e mi disse,
"ecco perché non posso pubblicarlo"
"ecco perché non posso pubblicarlo"
07:45
I was like, "Couldn't publish what?"
136
453600
1715
E io, "Non pubblicare cosa?"
07:47
He had tried to see whether you can indeed
figure out the onset of mania
figure out the onset of mania
137
455800
5856
Aveva provato a vedere se fosse possibile
comprendere uno stato maniacale
comprendere uno stato maniacale
07:53
from social media posts
before clinical symptoms,
before clinical symptoms,
138
461680
3216
dai post sui social media
prima dei sintomi clinici,
prima dei sintomi clinici,
07:56
and it had worked,
139
464920
1776
e aveva funzionato,
07:58
and it had worked very well,
140
466720
2056
aveva funzionato benissimo,
08:00
and he had no idea how it worked
or what it was picking up on.
or what it was picking up on.
141
468800
4880
e lui non aveva idea di come funzionasse
e cosa stesse pescando.
e cosa stesse pescando.
08:06
Now, the problem isn't solved
if he doesn't publish it,
if he doesn't publish it,
142
474840
4416
Il problema non si risolve
se lui non pubblica il software,
se lui non pubblica il software,
08:11
because there are already companies
143
479280
1896
perché ci sono già aziende
08:13
that are developing
this kind of technology,
this kind of technology,
144
481200
2536
che stanno sviluppando
questo tipo di tecnologia,
questo tipo di tecnologia,
08:15
and a lot of the stuff
is just off the shelf.
is just off the shelf.
145
483760
2800
e una buona parte è già disponibile.
08:19
This is not very difficult anymore.
146
487240
2576
Non è più una cosa complicata.
08:21
Do you ever go on YouTube
meaning to watch one video
meaning to watch one video
147
489840
3456
Andate mai su YouTube
con l'idea di guardare un video
con l'idea di guardare un video
08:25
and an hour later you've watched 27?
148
493320
2360
e un'ora dopo ne avete guardati 27?
08:28
You know how YouTube
has this column on the right
has this column on the right
149
496760
2496
Sapete che YouTube ha questa colonna
sulla destra
sulla destra
08:31
that says, "Up next"
150
499280
2216
che dice "Prossimi video"
08:33
and it autoplays something?
151
501520
1816
e poi ne parte in automatico un altro?
08:35
It's an algorithm
152
503360
1216
È un algoritmo
08:36
picking what it thinks
that you might be interested in
that you might be interested in
153
504600
3616
che sceglie qualcosa che pensa
possa interessarvi
possa interessarvi
08:40
and maybe not find on your own.
154
508240
1536
che magari non trovate da soli.
08:41
It's not a human editor.
155
509800
1256
Non è un editor umano.
08:43
It's what algorithms do.
156
511080
1416
Lo fa un algoritmo.
08:44
It picks up on what you have watched
and what people like you have watched,
and what people like you have watched,
157
512520
4736
Studia quello che avete guardato voi
e le persone simili a voi
e le persone simili a voi
08:49
and infers that that must be
what you're interested in,
what you're interested in,
158
517280
4216
e desume quello
che potrebbe interessarvi,
che potrebbe interessarvi,
08:53
what you want more of,
159
521520
1255
cosa vorreste di più,
08:54
and just shows you more.
160
522799
1336
e ve ne mostra di più.
08:56
It sounds like a benign
and useful feature,
and useful feature,
161
524159
2201
Sembra una funzionalità
innocua e utile
innocua e utile
08:59
except when it isn't.
162
527280
1200
tranne quando non lo è.
09:01
So in 2016, I attended rallies
of then-candidate Donald Trump
of then-candidate Donald Trump
163
529640
6960
Nel 2016, ho partecipato a raduni
dell'allora candidato Donald Trump
dell'allora candidato Donald Trump
09:09
to study as a scholar
the movement supporting him.
the movement supporting him.
164
537840
3336
per studiare accademicamente
il movimento che lo supportava.
il movimento che lo supportava.
09:13
I study social movements,
so I was studying it, too.
so I was studying it, too.
165
541200
3456
Studio movimenti sociali,
così studiavo anche quello.
così studiavo anche quello.
09:16
And then I wanted to write something
about one of his rallies,
about one of his rallies,
166
544680
3336
Volevo scrivere qualcosa
su uno di quei raduni,
su uno di quei raduni,
09:20
so I watched it a few times on YouTube.
167
548040
1960
e l'ho guardato qualche volta su YouTube.
09:23
YouTube started recommending to me
168
551240
3096
YouTube ha cominciato a raccomandarmi
09:26
and autoplaying to me
white supremacist videos
white supremacist videos
169
554360
4256
e a far partire video
sui suprematisti bianchi
sui suprematisti bianchi
09:30
in increasing order of extremism.
170
558640
2656
in crescente ordine di estremismo.
09:33
If I watched one,
171
561320
1816
Ne guardavo uno,
09:35
it served up one even more extreme
172
563160
2976
me ne proponeva uno ancora più estremo
09:38
and autoplayed that one, too.
173
566160
1424
che partiva in automatico.
09:40
If you watch Hillary Clinton
or Bernie Sanders content,
or Bernie Sanders content,
174
568320
4536
Se guardi contenuti di Hillary Clinton
o di Bernie Sanders
o di Bernie Sanders
09:44
YouTube recommends
and autoplays conspiracy left,
and autoplays conspiracy left,
175
572880
4696
YouTube raccomanda e fa partire
video cospirazionisti di sinistra,
video cospirazionisti di sinistra,
09:49
and it goes downhill from there.
176
577600
1760
e da lì sempre più giù.
09:52
Well, you might be thinking,
this is politics, but it's not.
this is politics, but it's not.
177
580480
3056
Bene, potreste pensare,
questa è politica. Ma non lo è.
questa è politica. Ma non lo è.
09:55
This isn't about politics.
178
583560
1256
Non si tratta di politica.
09:56
This is just the algorithm
figuring out human behavior.
figuring out human behavior.
179
584840
3096
Si tratta di un algoritmo
che ha compreso la natura umana.
che ha compreso la natura umana.
09:59
I once watched a video
about vegetarianism on YouTube
about vegetarianism on YouTube
180
587960
4776
Una volta ho guardato un video
sul vegetarianismo su YouTube
sul vegetarianismo su YouTube
10:04
and YouTube recommended
and autoplayed a video about being vegan.
and autoplayed a video about being vegan.
181
592760
4936
e YouTube mi ha consigliato un video
sull'essere vegani.
sull'essere vegani.
10:09
It's like you're never
hardcore enough for YouTube.
hardcore enough for YouTube.
182
597720
3016
È come se non ci credete mai abbastanza
per YouTube
per YouTube
10:12
(Laughter)
183
600760
1576
(Risate)
10:14
So what's going on?
184
602360
1560
Allora cosa succede?
10:16
Now, YouTube's algorithm is proprietary,
185
604520
3536
Anche se l'algoritmo di YouTube
è proprietario
è proprietario
10:20
but here's what I think is going on.
186
608080
2360
ecco cosa penso stia accadendo.
10:23
The algorithm has figured out
187
611360
2096
L'algoritmo ha capito
10:25
that if you can entice people
188
613480
3696
che se puoi attrarre la gente
10:29
into thinking that you can
show them something more hardcore,
show them something more hardcore,
189
617200
3736
a pensare che puoi mostrargli
qualcosa di ancora più spinto,
qualcosa di ancora più spinto,
10:32
they're more likely to stay on the site
190
620960
2416
la gente rimarrà sul sito
con maggiore probabilità
con maggiore probabilità
10:35
watching video after video
going down that rabbit hole
going down that rabbit hole
191
623400
4416
guardando video dopo video
scendendo giù nella tana del coniglio
scendendo giù nella tana del coniglio
10:39
while Google serves them ads.
192
627840
1680
mentre Google mostra le pubblicità.
10:43
Now, with nobody minding
the ethics of the store,
the ethics of the store,
193
631760
3120
Mentre nessuno si accorge
dei risvolti etici,
dei risvolti etici,
10:47
these sites can profile people
194
635720
4240
questi siti possono profilare persone
10:53
who are Jew haters,
195
641680
1920
che odiano gli ebrei,
10:56
who think that Jews are parasites
196
644360
2480
che pensano che gli ebrei siano parassiti
11:00
and who have such explicit
anti-Semitic content,
anti-Semitic content,
197
648320
4920
e chi ha contenuti antisemiti
così espliciti,
così espliciti,
11:06
and let you target them with ads.
198
654080
2000
e vi consente
di usarli come bersaglio
per le pubblicità.
per le pubblicità.
11:09
They can also mobilize algorithms
199
657200
3536
Possono anche sguinzagliare gli algoritmi
11:12
to find for you look-alike audiences,
200
660760
3136
per trovare per voi
gruppi di utenti simili,
gruppi di utenti simili,
11:15
people who do not have such explicit
anti-Semitic content on their profile
anti-Semitic content on their profile
201
663920
5576
gente che sebbene non mostri
contenuti antisemiti così espliciti
contenuti antisemiti così espliciti
11:21
but who the algorithm detects
may be susceptible to such messages,
may be susceptible to such messages,
202
669520
6176
viene riconosciuta dall'algoritmo
come sensibile a questo tipo di messaggi,
come sensibile a questo tipo di messaggi,
11:27
and lets you target them with ads, too.
203
675720
1920
e vi fa bersagliare anche loro.
11:30
Now, this may sound
like an implausible example,
like an implausible example,
204
678680
2736
Questo potrebbe sembrare
un esempio poco plausibile,
un esempio poco plausibile,
11:33
but this is real.
205
681440
1320
però è davvero reale.
11:35
ProPublica investigated this
206
683480
2136
ProPublica ha investigato
11:37
and found that you can indeed
do this on Facebook,
do this on Facebook,
207
685640
3616
e scoperto che è possibile farlo davvero
su Facebook
su Facebook
11:41
and Facebook helpfully
offered up suggestions
offered up suggestions
208
689280
2416
e che Facebook amichevolmente
ha dato suggerimenti
ha dato suggerimenti
11:43
on how to broaden that audience.
209
691720
1600
su come espandere quest'audience.
11:46
BuzzFeed tried it for Google,
and very quickly they found,
and very quickly they found,
210
694720
3016
BuzzFeed ha provato a farlo con Google,
e ha subito scoperto
e ha subito scoperto
11:49
yep, you can do it on Google, too.
211
697760
1736
che sì, si può fare anche su Google.
11:51
And it wasn't even expensive.
212
699520
1696
E che non era nemmeno caro.
11:53
The ProPublica reporter
spent about 30 dollars
spent about 30 dollars
213
701240
4416
Il giornalista di ProPublica
ha speso circa 30 dollari
ha speso circa 30 dollari
11:57
to target this category.
214
705680
2240
per colpire questa categoria.
12:02
So last year, Donald Trump's
social media manager disclosed
social media manager disclosed
215
710600
5296
Il Social Media Manager di Trump
ha rivelato che l'anno scorso
ha rivelato che l'anno scorso
12:07
that they were using Facebook dark posts
to demobilize people,
to demobilize people,
216
715920
5336
hanno utilizzato i post nascosti
di Facebook per smobilitare la gente,
di Facebook per smobilitare la gente,
12:13
not to persuade them,
217
721280
1376
non per persuaderla,
12:14
but to convince them not to vote at all.
218
722680
2800
ma per convincerla di non votare affatto.
12:18
And to do that,
they targeted specifically,
they targeted specifically,
219
726520
3576
E per farlo,
hanno preso come target specifico
hanno preso come target specifico
12:22
for example, African-American men
in key cities like Philadelphia,
in key cities like Philadelphia,
220
730120
3896
per esempio, uomini afroamericani
in città chiave come Philadelphia
in città chiave come Philadelphia
12:26
and I'm going to read
exactly what he said.
exactly what he said.
221
734040
2456
e ora vi leggo
esattamente quello che ha detto.
esattamente quello che ha detto.
12:28
I'm quoting.
222
736520
1216
Sto citando.
12:29
They were using "nonpublic posts
223
737760
3016
Stavano utilizzando, "Post non pubblici
12:32
whose viewership the campaign controls
224
740800
2176
la cui audience è controllata
nella campagna
nella campagna
12:35
so that only the people
we want to see it see it.
we want to see it see it.
225
743000
3776
in modo tale che solo gente
che noi vogliamo che veda, vedrà.
che noi vogliamo che veda, vedrà.
12:38
We modeled this.
226
746800
1216
L'abbiamo costruita così.
12:40
It will dramatically affect her ability
to turn these people out."
to turn these people out."
227
748040
4720
Questo aumenterà enormemente
la capacità di spegnere queste persone."
la capacità di spegnere queste persone."
12:45
What's in those dark posts?
228
753720
2280
Cosa c'era in questi post nascosti?
12:48
We have no idea.
229
756480
1656
Non ne abbiamo la minima idea.
12:50
Facebook won't tell us.
230
758160
1200
Facebook non ce lo dirà.
12:52
So Facebook also algorithmically
arranges the posts
arranges the posts
231
760480
4376
L'algoritmo di Facebook
dispone i post
dispone i post
12:56
that your friends put on Facebook,
or the pages you follow.
or the pages you follow.
232
764880
3736
che i vostri amici o le pagine che seguite
pubblicano.
pubblicano.
13:00
It doesn't show you
everything chronologically.
everything chronologically.
233
768640
2216
Non ve li mostra
in ordine cronologico.
in ordine cronologico.
13:02
It puts the order in the way
that the algorithm thinks will entice you
that the algorithm thinks will entice you
234
770880
4816
L'algoritmo li riordina in modo tale
che vi inducano
che vi inducano
13:07
to stay on the site longer.
235
775720
1840
a stare più a lungo sul sito.
13:11
Now, so this has a lot of consequences.
236
779040
3376
E questo ha molte conseguenze.
13:14
You may be thinking
somebody is snubbing you on Facebook.
somebody is snubbing you on Facebook.
237
782440
3800
Potreste pensare che qualcuno
vi stia ignorando su Facebook.
vi stia ignorando su Facebook.
13:18
The algorithm may never
be showing your post to them.
be showing your post to them.
238
786800
3256
L'algoritmo potrebbe non mostrare mai
i vostri post.
i vostri post.
13:22
The algorithm is prioritizing
some of them and burying the others.
some of them and burying the others.
239
790080
5960
L'algoritmo dà priorità ad alcuni di loro
e seppellisce gli altri.
e seppellisce gli altri.
13:29
Experiments show
240
797320
1296
Esperimenti mostrano
13:30
that what the algorithm picks to show you
can affect your emotions.
can affect your emotions.
241
798640
4520
che ciò che l'algoritmo sceglie di mostrarvi
può influenzare le vostre emozioni.
può influenzare le vostre emozioni.
13:36
But that's not all.
242
804600
1200
E non è tutto.
13:38
It also affects political behavior.
243
806280
2360
Può influenzare
il comportamento politico.
il comportamento politico.
13:41
So in 2010, in the midterm elections,
244
809360
4656
Così nel 2010,
durante le elezioni di metà mandato,
durante le elezioni di metà mandato,
13:46
Facebook did an experiment
on 61 million people in the US
on 61 million people in the US
245
814040
5896
Facebook ha fatto un esperimento
su 61 milioni di americani
su 61 milioni di americani
13:51
that was disclosed after the fact.
246
819960
1896
che è stato reso pubblico subito dopo.
13:53
So some people were shown,
"Today is election day,"
"Today is election day,"
247
821880
3416
Ad alcuni veniva mostrata
"Oggi è il giorno delle elezioni",
"Oggi è il giorno delle elezioni",
13:57
the simpler one,
248
825320
1376
la più semplice,
13:58
and some people were shown
the one with that tiny tweak
the one with that tiny tweak
249
826720
3896
mentre ad altri veniva mostrata
quella con una piccola variazione
quella con una piccola variazione
14:02
with those little thumbnails
250
830640
2096
con le piccole foto
14:04
of your friends who clicked on "I voted."
251
832760
2840
degli amici che hanno cliccato
su "Ho votato".
su "Ho votato".
14:09
This simple tweak.
252
837000
1400
Questa semplice modifica.
14:11
OK? So the pictures were the only change,
253
839520
4296
Ok? Le foto erano l'unica modifica,
14:15
and that post shown just once
254
843840
3256
e quei post mostrati una volta sola
14:19
turned out an additional 340,000 voters
255
847120
6056
hanno portato altri 340 000 votanti
14:25
in that election,
256
853200
1696
in quella elezione,
14:26
according to this research
257
854920
1696
secondo questa ricerca,
14:28
as confirmed by the voter rolls.
258
856640
2520
come confermato
dalle liste degli elettori.
dalle liste degli elettori.
14:32
A fluke? No.
259
860920
1656
Una coincidenza? No.
14:34
Because in 2012,
they repeated the same experiment.
they repeated the same experiment.
260
862600
5360
Perché nel 2012,
hanno ripetuto lo stesso esperimento.
hanno ripetuto lo stesso esperimento.
14:40
And that time,
261
868840
1736
E quella volta,
14:42
that civic message shown just once
262
870600
3296
quel messaggio civico mostrato
una sola volta
una sola volta
14:45
turned out an additional 270,000 voters.
263
873920
4440
ha portato altri 270 000 votanti.
14:51
For reference, the 2016
US presidential election
US presidential election
264
879160
5216
Per la cronaca, nel 2016
le elezioni presidenziali negli USA
le elezioni presidenziali negli USA
14:56
was decided by about 100,000 votes.
265
884400
3520
sono state decise da circa 100 000 voti.
15:01
Now, Facebook can also
very easily infer what your politics are,
very easily infer what your politics are,
266
889360
4736
Facebook può anche dedurre
le vostre inclinazioni politiche
le vostre inclinazioni politiche
15:06
even if you've never
disclosed them on the site.
disclosed them on the site.
267
894120
2256
anche se non le avete mai
esposte esplicitamente.
esposte esplicitamente.
15:08
Right? These algorithms
can do that quite easily.
can do that quite easily.
268
896400
2520
Gli algoritmi
possono farlo facilmente.
possono farlo facilmente.
15:11
What if a platform with that kind of power
269
899960
3896
Cosa accade se una piattaforma
con questo tipo di potere
con questo tipo di potere
15:15
decides to turn out supporters
of one candidate over the other?
of one candidate over the other?
270
903880
5040
decide di "spegnere" i sostenitori
di un candidato in favore dell'altro?
di un candidato in favore dell'altro?
15:21
How would we even know about it?
271
909680
2440
Come potremmo mai accorgercene?
15:25
Now, we started from someplace
seemingly innocuous --
seemingly innocuous --
272
913560
4136
Siamo partiti da qualcosa
che sembrava innocuo -
che sembrava innocuo -
15:29
online adds following us around --
273
917720
2216
le pubblicità che ci seguono dappertutto -
15:31
and we've landed someplace else.
274
919960
1840
e siamo arrivati a qualcos'altro.
15:35
As a public and as citizens,
275
923480
2456
Come pubblico e come cittadini,
15:37
we no longer know
if we're seeing the same information
if we're seeing the same information
276
925960
3416
non sappiamo più
se stiamo guardando le stesse informazioni
se stiamo guardando le stesse informazioni
15:41
or what anybody else is seeing,
277
929400
1480
o cosa stiano vedendo gli altri
15:43
and without a common basis of information,
278
931680
2576
e senza una base comune d'informazione
15:46
little by little,
279
934280
1616
a poco a poco,
15:47
public debate is becoming impossible,
280
935920
3216
il dibattito pubblico
sta diventando impossibile,
sta diventando impossibile,
15:51
and we're just at
the beginning stages of this.
the beginning stages of this.
281
939160
2976
e siamo appena agli stadi iniziali
di tutto questo.
di tutto questo.
15:54
These algorithms can quite easily infer
282
942160
3456
Questi algoritmi
possono facilmente dedurre
possono facilmente dedurre
15:57
things like your people's ethnicity,
283
945640
3256
cose come l'etnia,
16:00
religious and political views,
personality traits,
personality traits,
284
948920
2336
il pensiero politico e religioso,
la personalità
la personalità
16:03
intelligence, happiness,
use of addictive substances,
use of addictive substances,
285
951280
3376
l'intelligenza, la felicità,
l'uso di sostanze che danno dipendenza
l'uso di sostanze che danno dipendenza
16:06
parental separation, age and genders,
286
954680
3136
le separazioni dei genitori,
l'età e i sessi,
l'età e i sessi,
16:09
just from Facebook likes.
287
957840
1960
solo dai like messi su Facebook.
16:13
These algorithms can identify protesters
288
961440
4056
Questi algoritmi possono identificare
i manifestanti
i manifestanti
16:17
even if their faces
are partially concealed.
are partially concealed.
289
965520
2760
anche se le loro facce
sono parzialmente nascoste.
sono parzialmente nascoste.
16:21
These algorithms may be able
to detect people's sexual orientation
to detect people's sexual orientation
290
969720
6616
Questi algoritmi possono essere capaci
di capire l'orientamento sessuale
di capire l'orientamento sessuale
16:28
just from their dating profile pictures.
291
976360
3200
solo dalla foto di profilo
nei siti d'incontri.
nei siti d'incontri.
16:33
Now, these are probabilistic guesses,
292
981560
2616
Certo, queste sono sempre
deduzioni probabilistiche,
deduzioni probabilistiche,
16:36
so they're not going
to be 100 percent right,
to be 100 percent right,
293
984200
2896
quindi non arrivano a una precisione
del 100 per cento
del 100 per cento
16:39
but I don't see the powerful resisting
the temptation to use these technologies
the temptation to use these technologies
294
987120
4896
ma non credo che chi ha potere resista
alla tentazione di usare queste tecnologie
alla tentazione di usare queste tecnologie
16:44
just because there are
some false positives,
some false positives,
295
992040
2176
solo perché esiste
qualche falso positivo,
qualche falso positivo,
16:46
which will of course create
a whole other layer of problems.
a whole other layer of problems.
296
994240
3256
cosa che produrrà un'altra
serie di problemi.
serie di problemi.
16:49
Imagine what a state can do
297
997520
2936
Immaginate cosa possa fare uno stato
16:52
with the immense amount of data
it has on its citizens.
it has on its citizens.
298
1000480
3560
con l'immensa quantità di dati
che possiede sui propri cittadini.
che possiede sui propri cittadini.
16:56
China is already using
face detection technology
face detection technology
299
1004680
4776
La Cina sta già utilizzando
tecnologie di riconoscimento facciale
tecnologie di riconoscimento facciale
17:01
to identify and arrest people.
300
1009480
2880
per identificare e arrestare persone.
17:05
And here's the tragedy:
301
1013280
2136
Ed ecco la tragedia:
17:07
we're building this infrastructure
of surveillance authoritarianism
of surveillance authoritarianism
302
1015440
5536
costruiamo questa infrastruttura
di controllo autoritario
di controllo autoritario
17:13
merely to get people to click on ads.
303
1021000
2960
solo per ottenere clic sulle pubblicità.
17:17
And this won't be
Orwell's authoritarianism.
Orwell's authoritarianism.
304
1025240
2576
E questo non sarà un autoritarismo
alla Orwell.
alla Orwell.
17:19
This isn't "1984."
305
1027839
1897
Questo non è "1984".
17:21
Now, if authoritarianism
is using overt fear to terrorize us,
is using overt fear to terrorize us,
306
1029760
4576
Se l'autoritarismo utilizza evidenti
meccanismi del terrore per spaventarci,
meccanismi del terrore per spaventarci,
17:26
we'll all be scared, but we'll know it,
307
1034359
2897
saremo spaventati, ma sapremo perché,
17:29
we'll hate it and we'll resist it.
308
1037280
2200
odieremo e resisteremo.
17:32
But if the people in power
are using these algorithms
are using these algorithms
309
1040880
4416
Ma se le persone con potere
usano questo algoritmi
usano questo algoritmi
17:37
to quietly watch us,
310
1045319
3377
per osservarci placidamente,
17:40
to judge us and to nudge us,
311
1048720
2080
per giudicarci e per spingerci,
17:43
to predict and identify
the troublemakers and the rebels,
the troublemakers and the rebels,
312
1051720
4176
per predire e identificare
i piantagrane e i ribelli,
i piantagrane e i ribelli,
17:47
to deploy persuasion
architectures at scale
architectures at scale
313
1055920
3896
per costruire un'architettura
della persuasione su larga scala
della persuasione su larga scala
17:51
and to manipulate individuals one by one
314
1059840
4136
e per manipolare gli individui uno ad uno
17:56
using their personal, individual
weaknesses and vulnerabilities,
weaknesses and vulnerabilities,
315
1064000
5440
utilizzando le loro debolezze
e vulnerabilità individuali,
e vulnerabilità individuali,
18:02
and if they're doing it at scale
316
1070720
2200
e se lo fanno su larga scala
18:06
through our private screens
317
1074080
1736
attraverso i nostri schermi privati
18:07
so that we don't even know
318
1075840
1656
cosicché non sappiamo neppure
18:09
what our fellow citizens
and neighbors are seeing,
and neighbors are seeing,
319
1077520
2760
quello che i nostri concittadini
e vicini stanno vedendo,
e vicini stanno vedendo,
18:13
that authoritarianism
will envelop us like a spider's web
will envelop us like a spider's web
320
1081560
4816
questo autoritarismo
ci avvolgerà come tela di ragno
ci avvolgerà come tela di ragno
18:18
and we may not even know we're in it.
321
1086400
2480
senza che ce ne rendiamo conto.
18:22
So Facebook's market capitalization
322
1090440
2936
La capitalizzazione di borsa di Facebook
18:25
is approaching half a trillion dollars.
323
1093400
3296
sta raggiungendo
il mezzo trilione di dollari.
il mezzo trilione di dollari.
18:28
It's because it works great
as a persuasion architecture.
as a persuasion architecture.
324
1096720
3120
È perché funziona benissimo
come architettura persuasiva.
come architettura persuasiva.
18:33
But the structure of that architecture
325
1101760
2816
Ma la struttura di questa architettura
18:36
is the same whether you're selling shoes
326
1104600
3216
è la stessa sia che voi vendiate scarpe
18:39
or whether you're selling politics.
327
1107840
2496
o che stiate vendendo politica.
18:42
The algorithms do not know the difference.
328
1110360
3120
L'algoritmo non ne conosce la differenza.
18:46
The same algorithms set loose upon us
329
1114240
3296
Questi stessi algoritmi
che vengono scatenati su di noi
che vengono scatenati su di noi
18:49
to make us more pliable for ads
330
1117560
3176
per renderci più malleabili
alle pubblicità
alle pubblicità
18:52
are also organizing our political,
personal and social information flows,
personal and social information flows,
331
1120760
6736
organizzano i nostri flussi d'informazione
politica, personale e sociale
politica, personale e sociale
18:59
and that's what's got to change.
332
1127520
1840
e questo è ciò che dovrebbe cambiare.
19:02
Now, don't get me wrong,
333
1130240
2296
Non mi fraintendete,
19:04
we use digital platforms
because they provide us with great value.
because they provide us with great value.
334
1132560
3680
usiamo le piattaforme digitali
perché ci forniscono grande valore.
perché ci forniscono grande valore.
19:09
I use Facebook to keep in touch
with friends and family around the world.
with friends and family around the world.
335
1137120
3560
Uso Facebook per tenere contatti con
amici e familiari in tutto il mondo.
amici e familiari in tutto il mondo.
19:14
I've written about how crucial
social media is for social movements.
social media is for social movements.
336
1142000
5776
Ho scritto di come siano importanti
i social media per i movimenti sociali.
i social media per i movimenti sociali.
19:19
I have studied how
these technologies can be used
these technologies can be used
337
1147800
3016
Ho studiato come queste tecnologie
possono essere utilizzate
possono essere utilizzate
19:22
to circumvent censorship around the world.
338
1150840
2480
per aggirare la censura nel mondo.
19:27
But it's not that the people who run,
you know, Facebook or Google
you know, Facebook or Google
339
1155280
6416
Non credo che le persone che guidano
Facebook e Google
Facebook e Google
19:33
are maliciously and deliberately trying
340
1161720
2696
stiano maliziosamente
e deliberatamente tentando
e deliberatamente tentando
19:36
to make the country
or the world more polarized
or the world more polarized
341
1164440
4456
di rendere il paese o il mondo
più polarizzati
più polarizzati
19:40
and encourage extremism.
342
1168920
1680
incoraggiando gli estremismi.
19:43
I read the many
well-intentioned statements
well-intentioned statements
343
1171440
3976
Ho letto molte frasi piene
di buone intenzioni
di buone intenzioni
19:47
that these people put out.
344
1175440
3320
pronunciate da queste persone.
19:51
But it's not the intent or the statements
people in technology make that matter,
people in technology make that matter,
345
1179600
6056
Ma non sono le intenzioni o le frasi
di costoro a fare differenza,
di costoro a fare differenza,
19:57
it's the structures
and business models they're building.
and business models they're building.
346
1185680
3560
ma le strutture e i modelli di business
che costoro stanno costruendo.
che costoro stanno costruendo.
20:02
And that's the core of the problem.
347
1190360
2096
E questo è il nocciolo del problema.
20:04
Either Facebook is a giant con
of half a trillion dollars
of half a trillion dollars
348
1192480
4720
O Facebook è una truffa gigante
da mezzo trilione di dollari
da mezzo trilione di dollari
20:10
and ads don't work on the site,
349
1198200
1896
dove le pubblicità non funzionano
20:12
it doesn't work
as a persuasion architecture,
as a persuasion architecture,
350
1200120
2696
e non funziona
come un'architettura persuasiva
come un'architettura persuasiva
20:14
or its power of influence
is of great concern.
is of great concern.
351
1202840
4120
o il suo potere d'influenza
è fonte di grande preoccupazione.
è fonte di grande preoccupazione.
20:20
It's either one or the other.
352
1208560
1776
O l'uno, o l'altro.
20:22
It's similar for Google, too.
353
1210360
1600
Per Google la storia è simile.
20:24
So what can we do?
354
1212880
2456
Quindi, cosa possiamo fare?
20:27
This needs to change.
355
1215360
1936
Serve un cambiamento.
20:29
Now, I can't offer a simple recipe,
356
1217320
2576
Quindi.
Non posso offrire una ricetta semplice,
Non posso offrire una ricetta semplice,
20:31
because we need to restructure
357
1219920
2256
perché dobbiamo ristrutturare
per intero
per intero
20:34
the whole way our
digital technology operates.
digital technology operates.
358
1222200
3016
il modo in cui opera
la tecnologia digitale.
la tecnologia digitale.
20:37
Everything from the way
technology is developed
technology is developed
359
1225240
4096
Tutto: dal modo in cui la tecnologia
viene sviluppata
viene sviluppata
20:41
to the way the incentives,
economic and otherwise,
economic and otherwise,
360
1229360
3856
alla maniera in cui gli incentivi,
economici o di altro tipo,
economici o di altro tipo,
20:45
are built into the system.
361
1233240
2280
sono costruiti dentro il sistema.
20:48
We have to face and try to deal with
362
1236480
3456
Dobbiamo confrontarci e occuparci
20:51
the lack of transparency
created by the proprietary algorithms,
created by the proprietary algorithms,
363
1239960
4656
della mancanza di trasparenza
creata dagli algoritmi proprietari,
creata dagli algoritmi proprietari,
20:56
the structural challenge
of machine learning's opacity,
of machine learning's opacity,
364
1244640
3816
la sfida strutturale
dell'opacità del "machine learning",
dell'opacità del "machine learning",
21:00
all this indiscriminate data
that's being collected about us.
that's being collected about us.
365
1248480
3400
tutti questi dati su di noi
che vengono raccolti indiscriminatamente.
che vengono raccolti indiscriminatamente.
21:05
We have a big task in front of us.
366
1253000
2520
Abbiamo un grande compito di fronte a noi.
21:08
We have to mobilize our technology,
367
1256160
2680
Dobbiamo mobilitare
la nostra tecnologia,
la nostra tecnologia,
21:11
our creativity
368
1259760
1576
la nostra creatività
21:13
and yes, our politics
369
1261360
1880
e sì, la nostra politica
21:16
so that we can build
artificial intelligence
artificial intelligence
370
1264240
2656
così da costruire
un'intelligenza artificiale
un'intelligenza artificiale
21:18
that supports us in our human goals
371
1266920
3120
che ci supporti
negli obiettivi umani
negli obiettivi umani
21:22
but that is also constrained
by our human values.
by our human values.
372
1270800
3920
ma che sia anche vincolata
dai nostri valori umani.
dai nostri valori umani.
21:27
And I understand this won't be easy.
373
1275600
2160
Capisco che non sarà semplice.
21:30
We might not even easily agree
on what those terms mean.
on what those terms mean.
374
1278360
3600
Potremmo non accordarci facilmente
sul significato di questi termini.
sul significato di questi termini.
21:34
But if we take seriously
375
1282920
2400
Ma se prendiamo seriamente
21:38
how these systems that we
depend on for so much operate,
depend on for so much operate,
376
1286240
5976
come operano questi sistemi
da cui dipendiamo così tanto,
da cui dipendiamo così tanto,
21:44
I don't see how we can postpone
this conversation anymore.
this conversation anymore.
377
1292240
4120
non vedo come possiamo rimandare ancora
questa discussione.
questa discussione.
21:49
These structures
378
1297200
2536
Queste strutture
21:51
are organizing how we function
379
1299760
4096
stanno organizzando
il modo in cui funzioniamo
il modo in cui funzioniamo
21:55
and they're controlling
380
1303880
2296
e stanno controllando
21:58
what we can and we cannot do.
381
1306200
2616
ciò che possiamo e non possiamo fare.
22:00
And many of these ad-financed platforms,
382
1308840
2456
Molte piattaforme
che si finanziano con pubblicità.
22:03
they boast that they're free.
383
1311320
1576
si vantano di essere gratuite.
22:04
In this context, it means
that we are the product that's being sold.
that we are the product that's being sold.
384
1312920
4560
In questo contesto, significa
che noi siamo i prodotti da vendere.
che noi siamo i prodotti da vendere.
22:10
We need a digital economy
385
1318840
2736
Serve un'economia digitale
22:13
where our data and our attention
386
1321600
3496
dove i nostri dati e la nostra attenzione
22:17
is not for sale to the highest-bidding
authoritarian or demagogue.
authoritarian or demagogue.
387
1325120
5080
non sono venduti al miglior offerente
autoritario o demagogo.
autoritario o demagogo.
22:23
(Applause)
388
1331160
3800
(Applausi)
22:30
So to go back to
that Hollywood paraphrase,
that Hollywood paraphrase,
389
1338480
3256
Così, tornando indietro
a quella parafrasi di Hollywood,
a quella parafrasi di Hollywood,
22:33
we do want the prodigious potential
390
1341760
3736
noi vogliamo che il potenziale prodigioso
22:37
of artificial intelligence
and digital technology to blossom,
and digital technology to blossom,
391
1345520
3200
dell'intelligenza artificiale
e della tecnologia digitale fiorisca,
e della tecnologia digitale fiorisca,
22:41
but for that, we must face
this prodigious menace,
this prodigious menace,
392
1349400
4936
ma per farlo, dobbiamo affrontare
questa grande minaccia,
questa grande minaccia,
22:46
open-eyed and now.
393
1354360
1936
con occhi aperti e ora.
22:48
Thank you.
394
1356320
1216
Grazie.
22:49
(Applause)
395
1357560
4640
(Applausi)
ABOUT THE SPEAKER
Zeynep Tufekci - Techno-sociologistTechno-sociologist Zeynep Tufekci asks big questions about our societies and our lives, as both algorithms and digital connectivity spread.
Why you should listen
We've entered an era of digital connectivity and machine intelligence. Complex algorithms are increasingly used to make consequential decisions about us. Many of these decisions are subjective and have no right answer: who should be hired, fired or promoted; what news should be shown to whom; which of your friends do you see updates from; which convict should be paroled. With increasing use of machine learning in these systems, we often don't even understand how exactly they are making these decisions. Zeynep Tufekci studies what this historic transition means for culture, markets, politics and personal life.
Tufekci is a contributing opinion writer at the New York Times, an associate professor at the School of Information and Library Science at University of North Carolina, Chapel Hill, and a faculty associate at Harvard's Berkman Klein Center for Internet and Society.
Her book, Twitter and Tear Gas: The Power and Fragility of Networked Protest, was published in 2017 by Yale University Press. Her next book, from Penguin Random House, will be about algorithms that watch, judge and nudge us.
Zeynep Tufekci | Speaker | TED.com