TED2019
Janelle Shane: The danger of AI is weirder than you think
Janelle Shane: I pericoli dell’IA sono più bizzarri di quanto si pensi.
Filmed:
Readability: 4.2
376,501 views
I pericoli dell’intelligenza artificiale non hanno origine dal fatto che questa si voglia ribellare a noi, bensì che essa faccia esattamente ciò che le chiediamo di fare, afferma la ricercatrice di IA, Janelle Shane.
Condividendo le strane, a volte inquietanti bizzarìe degli algoritmi dell’IA proponendosi di risolvere i problemi umani, (come, ad esempio, creare nuovi gusti di gelato o riconoscere le auto per strada), Shane dimostra i motivi per cui l’intelligenza artificiale non sia ancora all’altezza del vero cervello.
Janelle Shane - AI researcher
While moonlighting as a research scientist, Janelle Shane found fame documenting the often hilarious antics of AI algorithms. Full bio
While moonlighting as a research scientist, Janelle Shane found fame documenting the often hilarious antics of AI algorithms. Full bio
Double-click the English transcript below to play the video.
00:13
So, artificial intelligence
0
1765
3000
L’intelligenza artificiale
è notoriamente capace
è notoriamente capace
00:16
is known for disrupting
all kinds of industries.
all kinds of industries.
1
4789
3529
di sconvolgere tutte le industrie
in cui entra in azione.
in cui entra in azione.
00:20
What about ice cream?
2
8961
2043
Che ne dite di applicarla al gelato?
00:23
What kind of mind-blowing
new flavors could we generate
new flavors could we generate
3
11879
3639
Che razza di nuovi,
strabilianti sapori potremmo generare
strabilianti sapori potremmo generare
00:27
with the power of an advanced
artificial intelligence?
artificial intelligence?
4
15542
2976
sfruttando un’intelligenza
artificiale avanzata?
artificiale avanzata?
Ho collaborato con dei programmatori
della Kealing Middle School
della Kealing Middle School
00:31
So I teamed up with a group of coders
from Kealing Middle School
from Kealing Middle School
5
19011
4161
per trovare la risposta a questa domanda.
00:35
to find out the answer to this question.
6
23196
2241
Hanno raccolto oltre 1.600 gusti
di gelato esistenti,
di gelato esistenti,
00:37
They collected over 1,600
existing ice cream flavors,
existing ice cream flavors,
7
25461
5081
che abbiamo inserito in un algoritmo
per vedere cosa avrebbe generato.
per vedere cosa avrebbe generato.
00:42
and together, we fed them to an algorithm
to see what it would generate.
to see what it would generate.
8
30566
5522
Ecco alcuni dei gusti creati dall’IA:
00:48
And here are some of the flavors
that the AI came up with.
that the AI came up with.
9
36112
3753
[Merenda di spazzatura alla zucca]
00:52
[Pumpkin Trash Break]
10
40444
1471
(Risate)
00:53
(Laughter)
11
41939
1402
[Melma al burro di arachidi]
00:55
[Peanut Butter Slime]
12
43365
2469
[Malattia alla crema di fragole]
00:58
[Strawberry Cream Disease]
13
46822
1343
(Risate)
01:00
(Laughter)
14
48189
2126
Non proprio le suggestioni invitanti
che speravamo di ricevere.
che speravamo di ricevere.
01:02
These flavors are not delicious,
as we might have hoped they would be.
as we might have hoped they would be.
15
50339
4597
La domanda sorge spontanea:
cos’è successo?
cos’è successo?
01:06
So the question is: What happened?
16
54960
1864
01:08
What went wrong?
17
56848
1394
Che cosa è andato storto?
01:10
Is the AI trying to kill us?
18
58266
1959
L’IA sta cercando di ucciderci?
01:13
Or is it trying to do what we asked,
and there was a problem?
and there was a problem?
19
61027
4310
O ha fatto quello che abbiamo chiesto,
e si è verificato un problema?
e si è verificato un problema?
Nei film, quando qualcosa
va storto con l’IA,
va storto con l’IA,
01:18
In movies, when something
goes wrong with AI,
goes wrong with AI,
20
66567
2464
di solito è perché l’IA stessa ha deciso
01:21
it's usually because the AI has decided
21
69055
2712
che non vuole più obbedire agli umani,
01:23
that it doesn't want to obey
the humans anymore,
the humans anymore,
22
71791
2272
ma perseguire i propri obiettivi,
e al diavolo tutti!
e al diavolo tutti!
01:26
and it's got its own goals,
thank you very much.
thank you very much.
23
74087
2623
01:29
In real life, though,
the AI that we actually have
the AI that we actually have
24
77266
3216
Tuttavia, nella vita reale,
l’IA di cui effettivamente disponiamo
l’IA di cui effettivamente disponiamo
non è così intelligente da poterlo fare.
01:32
is not nearly smart enough for that.
25
80506
1863
01:34
It has the approximate computing power
26
82781
2982
Ha approssimativamnte
la potenza di calcolo di un lombrico,
la potenza di calcolo di un lombrico,
01:37
of an earthworm,
27
85787
1276
o al massimo di una singola ape,
01:39
or maybe at most a single honeybee,
28
87087
3403
probabilmente anche meno.
01:42
and actually, probably maybe less.
29
90514
2215
Scopriamo continuamente
cose nuove sul cervello umano,
cose nuove sul cervello umano,
01:44
Like, we're constantly learning
new things about brains
new things about brains
30
92753
2594
che possiamo tranquillamente affermare
non essere all’altezza di un’IA.
non essere all’altezza di un’IA.
01:47
that make it clear how much our AIs
don't measure up to real brains.
don't measure up to real brains.
31
95371
4360
L’IA di oggi, quindi,
identifica un pedone in una foto,
identifica un pedone in una foto,
01:51
So today's AI can do a task
like identify a pedestrian in a picture,
like identify a pedestrian in a picture,
32
99755
5663
ma non ha idea di cosa sia un pedone
01:57
but it doesn't have a concept
of what the pedestrian is
of what the pedestrian is
33
105442
2983
al di là di un insieme
di linee, trame ed altro.
di linee, trame ed altro.
02:00
beyond that it's a collection
of lines and textures and things.
of lines and textures and things.
34
108449
4824
02:05
It doesn't know what a human actually is.
35
113792
2521
Di fatto, non sa cosa sia un essere umano.
02:08
So will today's AI
do what we ask it to do?
do what we ask it to do?
36
116822
3282
Quindi l’IA di oggi farà
quello che le chiediamo di fare?
quello che le chiediamo di fare?
Lo farà se potrà,
02:12
It will if it can,
37
120128
1594
ma potrebbe non fare
ciò che davvero vogliamo.
ciò che davvero vogliamo.
02:13
but it might not do what we actually want.
38
121746
2726
Mettiamo che stiate cercando
di indurre un'IA
di indurre un'IA
02:16
So let's say that you
were trying to get an AI
were trying to get an AI
39
124496
2415
02:18
to take this collection of robot parts
40
126935
2619
a prendere questo insieme
di parti di robot
di parti di robot
e assemblarli in una specie di robot
per andare dal punto A al punto B.
per andare dal punto A al punto B.
02:21
and assemble them into some kind of robot
to get from Point A to Point B.
to get from Point A to Point B.
41
129578
4197
Se voleste provare
a risolvere questo problema
a risolvere questo problema
02:25
Now, if you were going to try
and solve this problem
and solve this problem
42
133799
2481
scrivendo un programma informatico
in stile tradizionale,
in stile tradizionale,
02:28
by writing a traditional-style
computer program,
computer program,
43
136304
2351
02:30
you would give the program
step-by-step instructions
step-by-step instructions
44
138679
3417
fornireste al programma
istruzioni dettagliate
istruzioni dettagliate
su come prendere queste parti,
02:34
on how to take these parts,
45
142120
1329
02:35
how to assemble them
into a robot with legs
into a robot with legs
46
143473
2407
assemblarle in un robot con le gambe
02:37
and then how to use those legs
to walk to Point B.
to walk to Point B.
47
145904
2942
e infine usare queste gambe
per raggiungere il punto B.
per raggiungere il punto B.
Ma quando usate l’IA
per risolvere il problema,
per risolvere il problema,
02:41
But when you're using AI
to solve the problem,
to solve the problem,
48
149441
2340
le cose vanno diversamente.
02:43
it goes differently.
49
151805
1174
Non le spiegate
come risolvere il problema:
come risolvere il problema:
02:45
You don't tell it
how to solve the problem,
how to solve the problem,
50
153003
2382
02:47
you just give it the goal,
51
155409
1479
le date solo l'obiettivo,
e sarà lei a capire da sola,
attraverso tentativi ed errori,
attraverso tentativi ed errori,
02:48
and it has to figure out for itself
via trial and error
via trial and error
52
156912
3262
come raggiungere quell’obiettivo.
02:52
how to reach that goal.
53
160198
1484
Si scopre così che l’IA tende a risolvere
questo particolare problema
questo particolare problema
02:54
And it turns out that the way AI tends
to solve this particular problem
to solve this particular problem
54
162254
4102
facendo così:
02:58
is by doing this:
55
166380
1484
assembla se stessa in una torre,
fino a cadere e atterrare sul punto B.
fino a cadere e atterrare sul punto B.
02:59
it assembles itself into a tower
and then falls over
and then falls over
56
167888
3367
03:03
and lands at Point B.
57
171279
1827
Tecnicamente, questo risolve il problema.
03:05
And technically, this solves the problem.
58
173130
2829
Teoricamente, ha raggiunto il punto B.
03:07
Technically, it got to Point B.
59
175983
1639
03:09
The danger of AI is not that
it's going to rebel against us,
it's going to rebel against us,
60
177646
4265
La minaccia dell’IA non è data dal fatto
che questa possa ribellarsi a noi,
che questa possa ribellarsi a noi,
ma piuttosto che faccia esattamente
quello che le chiediamo di fare.
quello che le chiediamo di fare.
03:13
it's that it's going to do
exactly what we ask it to do.
exactly what we ask it to do.
61
181935
4274
Per lavorare con l’IA, quindi,
la vera questione diventa:
la vera questione diventa:
03:18
So then the trick
of working with AI becomes:
of working with AI becomes:
62
186876
2498
come possiamo impostare il problema
in modo che faccia ciò che vogliamo?
in modo che faccia ciò che vogliamo?
03:21
How do we set up the problem
so that it actually does what we want?
so that it actually does what we want?
63
189398
3828
Questo piccolo robot è controllato
da un’intelligenza artificiale.
da un’intelligenza artificiale.
03:26
So this little robot here
is being controlled by an AI.
is being controlled by an AI.
64
194726
3306
L’IA ha elaborato una struttura
per le gambe del robot
per le gambe del robot
03:30
The AI came up with a design
for the robot legs
for the robot legs
65
198056
2814
e ha immaginato come muoverle
per farle superare tutti quegli ostacoli.
per farle superare tutti quegli ostacoli.
03:32
and then figured out how to use them
to get past all these obstacles.
to get past all these obstacles.
66
200894
4078
Ma quando David Ha
ha avviato questo esperimento,
ha avviato questo esperimento,
03:36
But when David Ha set up this experiment,
67
204996
2741
ha dovuto stabilire dei limiti severissimi
03:39
he had to set it up
with very, very strict limits
with very, very strict limits
68
207761
2856
entro i quali all’IA era permesso
realizzare le gambe,
realizzare le gambe,
03:42
on how big the AI
was allowed to make the legs,
was allowed to make the legs,
69
210641
3292
perché altrimenti...
03:45
because otherwise ...
70
213957
1550
03:55
(Laughter)
71
223058
3931
(Risate)
04:00
And technically, it got
to the end of that obstacle course.
to the end of that obstacle course.
72
228563
3745
E tecnicamente, è arrivata alla fine
di quella corsa ad ostacoli.
di quella corsa ad ostacoli.
Vedete quanto è difficile far fare all’IA
una cosa semplice come camminare.
una cosa semplice come camminare.
04:04
So you see how hard it is to get AI
to do something as simple as just walk.
to do something as simple as just walk.
73
232332
4942
Vedendo l’IA fare tutto questo,
potreste pensare: "Ok, non va bene,
potreste pensare: "Ok, non va bene,
04:09
So seeing the AI do this,
you may say, OK, no fair,
you may say, OK, no fair,
74
237298
3820
non puoi pensare di essere
una torre alta e cadere;
una torre alta e cadere;
04:13
you can't just be
a tall tower and fall over,
a tall tower and fall over,
75
241142
2580
devi usare le gambe per camminare.
04:15
you have to actually, like,
use legs to walk.
use legs to walk.
76
243746
3435
Ma a quanto pare,
neanche questo sempre funziona.
neanche questo sempre funziona.
04:19
And it turns out,
that doesn't always work, either.
that doesn't always work, either.
77
247205
2759
Il compito di questa IA
era muoversi velocemente.
era muoversi velocemente.
04:21
This AI's job was to move fast.
78
249988
2759
Non le hanno detto
che doveva correre guardando avanti,
che doveva correre guardando avanti,
04:25
They didn't tell it that it had
to run facing forward
to run facing forward
79
253115
3593
o che non poteva utilizzare le braccia.
04:28
or that it couldn't use its arms.
80
256732
2258
Questo è ciò che ottenete
se istruite l’IA a muoversi velocemente,
se istruite l’IA a muoversi velocemente,
04:31
So this is what you get
when you train AI to move fast,
when you train AI to move fast,
81
259487
4618
cose tipo capriole o camminate strambe.
04:36
you get things like somersaulting
and silly walks.
and silly walks.
82
264129
3534
È molto frequente.
04:39
It's really common.
83
267687
1400
Lo è anche ammucchiarsi sul pavimento
muovendosi a scatti.
muovendosi a scatti.
04:41
So is twitching along the floor in a heap.
84
269667
3179
(Risate)
04:44
(Laughter)
85
272870
1150
Quindi, secondo me, sapete cosa
sarebbe stato ancora più strano?
sarebbe stato ancora più strano?
04:47
So in my opinion, you know what
should have been a whole lot weirder
should have been a whole lot weirder
86
275241
3254
Il robot “Terminator”.
04:50
is the "Terminator" robots.
87
278519
1396
Modificare “The Matrix” è un’altra cosa
che l’IA farà, potendo.
che l’IA farà, potendo.
04:52
Hacking "The Matrix" is another thing
that AI will do if you give it a chance.
that AI will do if you give it a chance.
88
280256
3755
Se addestrate un’IA in una simulazione,
04:56
So if you train an AI in a simulation,
89
284035
2517
04:58
it will learn how to do things like
hack into the simulation's math errors
hack into the simulation's math errors
90
286576
4113
imparerà ad accedere agli errori
di matematica della simulazione
di matematica della simulazione
e a farne tesoro per avere energia.
05:02
and harvest them for energy.
91
290713
2207
05:04
Or it will figure out how to move faster
by glitching repeatedly into the floor.
by glitching repeatedly into the floor.
92
292944
5475
Oppure capirà come andare più veloce
muovendosi a scatti sul pavimento.
muovendosi a scatti sul pavimento.
Lavorare con l’IA
05:10
When you're working with AI,
93
298443
1585
è diverso dal lavorare
con un altro essere umano:
con un altro essere umano:
05:12
it's less like working with another human
94
300052
2389
e più simile al lavorare
con una strana forza della natura.
con una strana forza della natura.
05:14
and a lot more like working
with some kind of weird force of nature.
with some kind of weird force of nature.
95
302465
3629
È molto facile darle accidentalmente
il problema sbagliato da risolvere,
il problema sbagliato da risolvere,
05:18
And it's really easy to accidentally
give AI the wrong problem to solve,
give AI the wrong problem to solve,
96
306562
4623
05:23
and often we don't realize that
until something has actually gone wrong.
until something has actually gone wrong.
97
311209
4538
e spesso non ce ne rendiamo conto
finché qualcosa non va storto.
finché qualcosa non va storto.
Ecco un esperimento che ho fatto,
05:28
So here's an experiment I did,
98
316242
2080
05:30
where I wanted the AI
to copy paint colors,
to copy paint colors,
99
318346
3182
in cui volevo che l’IA
copiasse i colori della vernice,
copiasse i colori della vernice,
per inventarne di nuovi,
05:33
to invent new paint colors,
100
321552
1746
prendendoli dalla lista
di quelli qui a sinistra.
di quelli qui a sinistra.
05:35
given the list like the ones
here on the left.
here on the left.
101
323322
2987
Ed ecco quello che l’IA
ha effettivamente creato:
ha effettivamente creato:
05:38
And here's what the AI
actually came up with.
actually came up with.
102
326798
3004
"Pupù Sindhi, Merdolino,
Sofferenza, Grigio Pubico"
Sofferenza, Grigio Pubico"
05:41
[Sindis Poop, Turdly, Suffer, Gray Pubic]
103
329826
3143
(Risate)
05:44
(Laughter)
104
332993
4230
Quindi, tecnicamente,
05:51
So technically,
105
339177
1886
05:53
it did what I asked it to.
106
341087
1864
ha fatto quello che le ho chiesto.
Io pensavo di averle chiesto
dei nomi di colori di vernice carini,
dei nomi di colori di vernice carini,
05:54
I thought I was asking it for,
like, nice paint color names,
like, nice paint color names,
107
342975
3308
ma in realtà quello che stavo chiedendo
05:58
but what I was actually asking it to do
108
346307
2307
era solo di imitare
il tipo di combinazioni di lettere
il tipo di combinazioni di lettere
06:00
was just imitate the kinds
of letter combinations
of letter combinations
109
348638
3086
che aveva visto nell’originale.
06:03
that it had seen in the original.
110
351748
1905
Non le ho detto nulla
sul significato delle parole,
sul significato delle parole,
06:05
And I didn't tell it anything
about what words mean,
about what words mean,
111
353677
3098
o che ci siano forse delle parole
06:08
or that there are maybe some words
112
356799
2560
che dovrebbe evitare di utilizzare
per questi colori di vernice.
per questi colori di vernice.
06:11
that it should avoid using
in these paint colors.
in these paint colors.
113
359383
2889
06:15
So its entire world
is the data that I gave it.
is the data that I gave it.
114
363141
3494
Perciò, le informazioni che le ho dato
rappresentano tutto il suo mondo.
rappresentano tutto il suo mondo.
Come con i gusti del gelato,
l'IA non conosce nient’altro.
l'IA non conosce nient’altro.
06:18
Like with the ice cream flavors,
it doesn't know about anything else.
it doesn't know about anything else.
115
366659
4028
06:24
So it is through the data
116
372491
1638
È con le informazioni
che spesso istruiamo l’IA,
senza volerlo, a fare la cosa sbagliata.
senza volerlo, a fare la cosa sbagliata.
06:26
that we often accidentally tell AI
to do the wrong thing.
to do the wrong thing.
117
374153
4044
Questo è un pesce chiamato tinca.
06:30
This is a fish called a tench.
118
378694
3032
C’è stato un gruppo di ricercatori
06:33
And there was a group of researchers
119
381750
1815
che ha addestrato un’IA
a riconoscere questa tinca nelle foto.
a riconoscere questa tinca nelle foto.
06:35
who trained an AI to identify
this tench in pictures.
this tench in pictures.
120
383589
3874
Ma quando le hanno chiesto
06:39
But then when they asked it
121
387487
1296
quale parte dell'immagine
stesse usando per identificare il pesce,
stesse usando per identificare il pesce,
06:40
what part of the picture it was actually
using to identify the fish,
using to identify the fish,
122
388807
3426
questo è quello che ha evidenziato.
06:44
here's what it highlighted.
123
392257
1358
Sì, quelle sono dita umane.
06:47
Yes, those are human fingers.
124
395203
2189
Perché dovrebbe cercare dita umane,
se sta cercando di identificare un pesce?
se sta cercando di identificare un pesce?
06:49
Why would it be looking for human fingers
125
397416
2059
06:51
if it's trying to identify a fish?
126
399499
1921
06:54
Well, it turns out that the tench
is a trophy fish,
is a trophy fish,
127
402126
3164
Beh, è emerso che la tinca
è un trofeo di pesca,
è un trofeo di pesca,
e in molte delle immagini di tinca
usate per allenare l’IA
usate per allenare l’IA
06:57
and so in a lot of pictures
that the AI had seen of this fish
that the AI had seen of this fish
128
405314
3811
07:01
during training,
129
409149
1151
il pesce appariva così.
07:02
the fish looked like this.
130
410324
1490
(Risate)
07:03
(Laughter)
131
411838
1635
E non sapeva che le dita
non facessero parte del pesce.
non facessero parte del pesce.
07:05
And it didn't know that the fingers
aren't part of the fish.
aren't part of the fish.
132
413497
3330
Capite quindi quanto è difficile
progettare un'IA
progettare un'IA
07:10
So you see why it is so hard
to design an AI
to design an AI
133
418808
4120
che riesca davvero a comprendere
cosa sta guardando.
cosa sta guardando.
07:14
that actually can understand
what it's looking at.
what it's looking at.
134
422952
3319
Per questo progettare
il riconoscimento delle immagini,
il riconoscimento delle immagini,
07:18
And this is why designing
the image recognition
the image recognition
135
426295
2862
in automobili a guida autonoma,
è così difficile;
è così difficile;
07:21
in self-driving cars is so hard,
136
429181
2067
07:23
and why so many self-driving car failures
137
431272
2205
e per questo tanti insuccessi
delle auto senza conducente
delle auto senza conducente
07:25
are because the AI got confused.
138
433501
2885
sono dovuti al fatto che l’IA si confonde.
07:28
I want to talk about an example from 2016.
139
436410
4008
Vorrei citare un esempio del 2016.
Ci fu un incidente mortale durante l’uso
del pilota automatico di una Tesla;
del pilota automatico di una Tesla;
07:32
There was a fatal accident when somebody
was using Tesla's autopilot AI,
was using Tesla's autopilot AI,
140
440442
4455
07:36
but instead of using it on the highway
like it was designed for,
like it was designed for,
141
444921
3414
invece di usarlo in autostrada,
per cui era stato progettato,
per cui era stato progettato,
fu usato per le strade di città.
07:40
they used it on city streets.
142
448359
2205
07:43
And what happened was,
143
451239
1175
Un camion sbucò di fronte all’auto,
e questa non frenò.
e questa non frenò.
07:44
a truck drove out in front of the car
and the car failed to brake.
and the car failed to brake.
144
452438
3396
07:48
Now, the AI definitely was trained
to recognize trucks in pictures.
to recognize trucks in pictures.
145
456507
4762
L’IA era stata sicuramente istruita
a riconoscere i camion nelle immagini.
a riconoscere i camion nelle immagini.
Ma a quanto pare,
07:53
But what it looks like happened is
146
461293
2145
l’IA era stata istruita a riconoscere
i camion in autostrada,
i camion in autostrada,
07:55
the AI was trained to recognize
trucks on highway driving,
trucks on highway driving,
147
463462
2931
07:58
where you would expect
to see trucks from behind.
to see trucks from behind.
148
466417
2899
dove ci si aspetta di vedere i camion
arrivare da dietro, non di lato.
arrivare da dietro, non di lato.
08:01
Trucks on the side is not supposed
to happen on a highway,
to happen on a highway,
149
469340
3420
08:04
and so when the AI saw this truck,
150
472784
3455
E così, quando l’IA ha visto il camion,
08:08
it looks like the AI recognized it
as most likely to be a road sign
as most likely to be a road sign
151
476263
4827
sembra che l’abbia identificato
come più simile ad un cartello stradale,
come più simile ad un cartello stradale,
sicura di potergli passare sotto.
08:13
and therefore, safe to drive underneath.
152
481114
2273
Ecco un altro passo falso dell’IA,
in un altro settore.
in un altro settore.
08:16
Here's an AI misstep
from a different field.
from a different field.
153
484114
2580
Amazon ha recentemente rinunciato
a un algoritmo di selezione di curricula,
a un algoritmo di selezione di curricula,
08:18
Amazon recently had to give up
on a résumé-sorting algorithm
on a résumé-sorting algorithm
154
486718
3460
su cui stava lavorando,
08:22
that they were working on
155
490202
1220
quando ha scoperto che l’algoritmo
aveva imparato a discriminare le donne.
aveva imparato a discriminare le donne.
08:23
when they discovered that the algorithm
had learned to discriminate against women.
had learned to discriminate against women.
156
491446
3908
Si è scoperto che l’avevano istruito
basandosi su modelli di curricula
basandosi su modelli di curricula
08:27
What happened is they had trained it
on example résumés
on example résumés
157
495378
2716
08:30
of people who they had hired in the past.
158
498118
2242
di persone assunte in passato.
08:32
And from these examples, the AI learned
to avoid the résumés of people
to avoid the résumés of people
159
500384
4023
Da questi esempi,
l’IA ha imparato ad evitare i cv
l’IA ha imparato ad evitare i cv
delle persone che avevano frequentato
università femminili,
università femminili,
08:36
who had gone to women's colleges
160
504431
2026
08:38
or who had the word "women"
somewhere in their resume,
somewhere in their resume,
161
506481
2806
o che avevano la parola "donne"
da qualche parte nei loro cv,
da qualche parte nei loro cv,
08:41
as in, "women's soccer team"
or "Society of Women Engineers."
or "Society of Women Engineers."
162
509311
4576
come in "Squadra di Calcio delle Donne"
o "Società delle Donne Ingegnere".
o "Società delle Donne Ingegnere".
L’IA non sapeva di dover correggere
questa discriminazione appresa da noi.
questa discriminazione appresa da noi.
08:45
The AI didn't know that it wasn't supposed
to copy this particular thing
to copy this particular thing
163
513911
3974
08:49
that it had seen the humans do.
164
517909
1978
Tecnicamente, ha fatto
quello che le hanno chiesto di fare.
quello che le hanno chiesto di fare.
08:51
And technically, it did
what they asked it to do.
what they asked it to do.
165
519911
3177
Le hanno semplicemente chiesto,
per caso, di fare la cosa sbagliata.
per caso, di fare la cosa sbagliata.
08:55
They just accidentally asked it
to do the wrong thing.
to do the wrong thing.
166
523112
2797
E questo accade di continuo, con l’IA.
08:58
And this happens all the time with AI.
167
526653
2895
L’IA può essere davvero dannosa
senza rendersene conto.
senza rendersene conto.
09:02
AI can be really destructive
and not know it.
and not know it.
168
530120
3591
09:05
So the AIs that recommend
new content in Facebook, in YouTube,
new content in Facebook, in YouTube,
169
533735
5078
Perciò le IA che raccomandano
nuovi contenuti su Facebook, su YouTube,
nuovi contenuti su Facebook, su YouTube,
sono ottimizzate per accrescere
il numero di click e visualizzazioni.
il numero di click e visualizzazioni.
09:10
they're optimized to increase
the number of clicks and views.
the number of clicks and views.
170
538837
3539
E un modo che hanno trovato
per riuscirci, sfortunatamente,
per riuscirci, sfortunatamente,
09:14
And unfortunately, one way
that they have found of doing this
that they have found of doing this
171
542400
3436
è di raccomandare i contenuti
di complottismo e bigottismo.
di complottismo e bigottismo.
09:17
is to recommend the content
of conspiracy theories or bigotry.
of conspiracy theories or bigotry.
172
545860
4503
09:22
The AIs themselves don't have any concept
of what this content actually is,
of what this content actually is,
173
550902
5302
Le IA stesse non hanno alcuna idea
di cosa sia realmente quel contenuto,
di cosa sia realmente quel contenuto,
e non hanno alcuna idea
di quali possano essere le conseguenze,
di quali possano essere le conseguenze,
09:28
and they don't have any concept
of what the consequences might be
of what the consequences might be
174
556228
3395
nel raccomandarlo.
09:31
of recommending this content.
175
559647
2109
09:34
So, when we're working with AI,
176
562296
2011
Quando lavoriamo con un’IA, quindi,
sta a noi evitare i problemi.
09:36
it's up to us to avoid problems.
177
564331
4182
Ed evitare che le cose vadano male,
09:40
And avoiding things going wrong,
178
568537
2323
il che in sostanza ci riporta
all'annoso problema della comunicazione,
all'annoso problema della comunicazione,
09:42
that may come down to
the age-old problem of communication,
the age-old problem of communication,
179
570884
4526
per cui noi umani dobbiamo imparare
a comunicare con l’IA.
a comunicare con l’IA.
09:47
where we as humans have to learn
how to communicate with AI.
how to communicate with AI.
180
575434
3745
Dobbiamo imparare cosa l’IA
sa fare bene e cosa no
sa fare bene e cosa no
09:51
We have to learn what AI
is capable of doing and what it's not,
is capable of doing and what it's not,
181
579203
4039
e capire che, con il suo minuscolo
cervello da vermiciattolo,
cervello da vermiciattolo,
09:55
and to understand that,
with its tiny little worm brain,
with its tiny little worm brain,
182
583266
3086
l’IA non capisce che cosa
le stiamo chiedendo di fare.
le stiamo chiedendo di fare.
09:58
AI doesn't really understand
what we're trying to ask it to do.
what we're trying to ask it to do.
183
586376
4013
10:03
So in other words, we have
to be prepared to work with AI
to be prepared to work with AI
184
591148
3321
Dobbiamo imparare, in altre parole,
a saper lavorare con l’IA "vera",
a saper lavorare con l’IA "vera",
che non è l’IA super competente
e onnisciente della fantascienza.
e onnisciente della fantascienza.
10:06
that's not the super-competent,
all-knowing AI of science fiction.
all-knowing AI of science fiction.
185
594493
5258
Dobbiamo essere preparati a lavorare
con l’IA che abbiamo oggi.
con l’IA che abbiamo oggi.
10:11
We have to prepared to work with an AI
186
599775
2862
10:14
that's the one that we actually have
in the present day.
in the present day.
187
602661
2938
E allo stato attuale,
l'IA è già bizzarra a sufficienza.
l'IA è già bizzarra a sufficienza.
10:17
And present-day AI is plenty weird enough.
188
605623
4205
Grazie.
10:21
Thank you.
189
609852
1190
(Applausi)
10:23
(Applause)
190
611066
5225
ABOUT THE SPEAKER
Janelle Shane - AI researcherWhile moonlighting as a research scientist, Janelle Shane found fame documenting the often hilarious antics of AI algorithms.
Why you should listen
Janelle Shane's humor blog, AIweirdness.com, looks at, as she tells it, "the strange side of artificial intelligence." Her upcoming book, You Look Like a Thing and I Love You: How AI Works and Why It's Making the World a Weirder Place, uses cartoons and humorous pop-culture experiments to look inside the minds of the algorithms that run our world, making artificial intelligence and machine learning both accessible and entertaining.
According to Shane, she has only made a neural network-written recipe once -- and discovered that horseradish brownies are about as terrible as you might imagine.
Janelle Shane | Speaker | TED.com