TEDxWarwick
Kriti Sharma: How to keep human bias out of AI
Kriti Sharma: Come tenere i pregiudizi fuori dalle IA
Filmed:
Readability: 4
2,050,106 views
Gli algoritmi delle IA prendono costantemente delle decisioni importanti su di voi, ad esempio quanto dovete pagare l'assicurazione della macchina o se dovete o no sostenere quel colloquio di lavoro. Ma cosa succede quando queste tecnologie vengono costruite con pregiudizi umani programmati al loro interno? La tecnologa Kriti Sharma ha analizzato come la mancanza di diversità nella tecnologia si sta introducendo nelle IA e ci suggerisce tre modi attraverso cui possiamo iniziare a creare algoritmi più etici.
Kriti Sharma - AI technologist
Kriti Sharma creates AI technology to help address some of the toughest social challenges of our time -- from domestic violence to sexual health and inequality. Full bio
Kriti Sharma creates AI technology to help address some of the toughest social challenges of our time -- from domestic violence to sexual health and inequality. Full bio
Double-click the English transcript below to play the video.
00:12
How many decisions
have been made about you today,
have been made about you today,
0
875
3768
Quante decisioni
sono state prese per voi oggi,
sono state prese per voi oggi,
00:16
or this week or this year,
1
4667
2601
o questa settimana,
o quest'anno,
o quest'anno,
00:19
by artificial intelligence?
2
7292
1958
dalle intelligenze artificiali?
Il mio lavoro è costruire IA.
00:22
I build AI for a living
3
10958
1685
00:24
so, full disclosure, I'm kind of a nerd.
4
12667
3017
A dirla tutta sono una specie di nerd.
00:27
And because I'm kind of a nerd,
5
15708
2393
Dato che sono una specie di nerd,
00:30
wherever some new news story comes out
6
18125
2351
ovunque esca una notizia
00:32
about artificial intelligence
stealing all our jobs,
stealing all our jobs,
7
20500
3434
sull'intelligenza artificiale
che ci rubano il lavoro,
che ci rubano il lavoro,
00:35
or robots getting citizenship
of an actual country,
of an actual country,
8
23958
4185
o di robot che acquisiscono
la cittadinanza in uno Stato,
la cittadinanza in uno Stato,
00:40
I'm the person my friends
and followers message
and followers message
9
28167
3142
gli amici e le persone
che mi seguono mi contattano
che mi seguono mi contattano
00:43
freaking out about the future.
10
31333
1542
perché hanno paura del futuro.
00:45
We see this everywhere.
11
33833
2101
Lo vediamo ovunque.
00:47
This media panic that
our robot overlords are taking over.
our robot overlords are taking over.
12
35958
4893
La paura mediatica che i robot
possano prendere il sopravvento.
possano prendere il sopravvento.
00:52
We could blame Hollywood for that.
13
40875
1917
Possiamo incolpare Hollywood per questo.
00:56
But in reality, that's not the problem
we should be focusing on.
we should be focusing on.
14
44125
4125
Ma in realtà, non è questo il problema
sul quale dovremmo concentrarci.
sul quale dovremmo concentrarci.
01:01
There is a more pressing danger,
a bigger risk with AI,
a bigger risk with AI,
15
49250
3643
Esiste un problema più urgente,
un rischio più grande con le IA,
un rischio più grande con le IA,
01:04
that we need to fix first.
16
52917
1583
che dobbiamo prima definire.
01:07
So we are back to this question:
17
55417
2309
Torniamo quindi a questa domanda.
01:09
How many decisions
have been made about you today by AI?
have been made about you today by AI?
18
57750
4708
Quante decisioni
sono state prese per voi oggi dalle IA?
sono state prese per voi oggi dalle IA?
01:15
And how many of these
19
63792
1976
Quante di queste
01:17
were based on your gender,
your race or your background?
your race or your background?
20
65792
4500
sono basate sul vostro genere,
razza e origine?
razza e origine?
01:24
Algorithms are being used all the time
21
72500
2768
Gli algoritmi vengono usati costantemente
01:27
to make decisions about who we are
and what we want.
and what we want.
22
75292
3833
per prendere decisioni
su chi siamo e cosa vogliamo.
su chi siamo e cosa vogliamo.
01:32
Some of the women in this room
will know what I'm talking about
will know what I'm talking about
23
80208
3643
Alcune donne in questa stanza
sanno di cosa sto parlando,
sanno di cosa sto parlando,
01:35
if you've been made to sit through
those pregnancy test adverts on YouTube
those pregnancy test adverts on YouTube
24
83875
3768
se hanno dovuto sorbirsi le pubblicità
dei test di gravidanza su YouTube
dei test di gravidanza su YouTube
01:39
like 1,000 times.
25
87667
2059
almeno 1000 volte.
01:41
Or you've scrolled past adverts
of fertility clinics
of fertility clinics
26
89750
2851
O vi siete imbattute nelle pubblicità
sui centri della fertilità
sui centri della fertilità
01:44
on your Facebook feed.
27
92625
2042
che appaiono su Facebook.
O, come nel mio caso,
agenzie matrimoniali indiane.
agenzie matrimoniali indiane.
01:47
Or in my case, Indian marriage bureaus.
28
95625
2393
(Risate)
01:50
(Laughter)
29
98042
1267
01:51
But AI isn't just being used
to make decisions
to make decisions
30
99333
2976
Ma le IA non vengono usate
solo per prendere decisioni
solo per prendere decisioni
01:54
about what products we want to buy
31
102333
2601
sui prodotti che vogliamo comprare,
01:56
or which show we want to binge watch next.
32
104958
2500
o i programmi che vogliamo guardare.
02:01
I wonder how you'd feel about someone
who thought things like this:
who thought things like this:
33
109042
5184
Mi chiedo cosa pensereste
di qualcuno che ritiene
di qualcuno che ritiene
02:06
"A black or Latino person
34
114250
1934
che "I neri e i latini
02:08
is less likely than a white person
to pay off their loan on time."
to pay off their loan on time."
35
116208
4125
sono meno propensi a pagare il mutuo
in tempo rispetto ai bianchi."
in tempo rispetto ai bianchi."
02:13
"A person called John
makes a better programmer
makes a better programmer
36
121542
2809
"Una persona che si chiama John
è un miglior programmatore
è un miglior programmatore
02:16
than a person called Mary."
37
124375
1667
rispetto a una che si chiama Mary."
02:19
"A black man is more likely to be
a repeat offender than a white man."
a repeat offender than a white man."
38
127250
5083
"È più probabile che sia un uomo nero
ad essere recidivo rispetto a uno bianco."
ad essere recidivo rispetto a uno bianco."
02:26
You're probably thinking,
39
134958
1268
Starete pensando,
02:28
"Wow, that sounds like a pretty sexist,
racist person," right?
racist person," right?
40
136250
3750
"Sembra una persona piuttosto
sessista e razzista." Vero?
sessista e razzista." Vero?
02:33
These are some real decisions
that AI has made very recently,
that AI has made very recently,
41
141000
4851
Queste sono alcune decisioni vere
che le IA hanno preso recentemente.
che le IA hanno preso recentemente.
02:37
based on the biases
it has learned from us,
it has learned from us,
42
145875
2934
Si basano sui pregiudizi
che hanno imparato da noi.
che hanno imparato da noi.
02:40
from the humans.
43
148833
1250
Dagli esseri umani.
02:43
AI is being used to help decide
whether or not you get that job interview;
whether or not you get that job interview;
44
151750
4809
Le IA vengono usate per aiutare a decidere
se avere o no un colloquio di lavoro.
se avere o no un colloquio di lavoro.
02:48
how much you pay for your car insurance;
45
156583
2393
Quanto pagare per l'assicurazione
della macchina.
della macchina.
02:51
how good your credit score is;
46
159000
1893
Quanto sia buona
l'affidabilità creditizia.
l'affidabilità creditizia.
02:52
and even what rating you get
in your annual performance review.
in your annual performance review.
47
160917
3125
Persino quale valutazione avrete
sui risultati annuali.
sui risultati annuali.
02:57
But these decisions
are all being filtered through
are all being filtered through
48
165083
3143
Ma queste decisioni
vengono tutte filtrate attraverso
vengono tutte filtrate attraverso
03:00
its assumptions about our identity,
our race, our gender, our age.
our race, our gender, our age.
49
168250
5875
deduzioni sulla nostra identità,
razza, genere ed età.
razza, genere ed età.
03:08
How is that happening?
50
176250
2268
Come avviene tutto ciò?
03:10
Now, imagine an AI is helping
a hiring manager
a hiring manager
51
178542
3517
Ora immaginate un'IA che aiuta
un manager per le assunzioni
un manager per le assunzioni
03:14
find the next tech leader in the company.
52
182083
2851
a trovare il nuovo leader dell'azienda.
03:16
So far, the manager
has been hiring mostly men.
has been hiring mostly men.
53
184958
3101
Finora sono stati assunti
soprattutto uomini.
soprattutto uomini.
03:20
So the AI learns men are more likely
to be programmers than women.
to be programmers than women.
54
188083
4750
Le IA sanno che i programmatori
sono per lo più uomini che donne.
sono per lo più uomini che donne.
03:25
And it's a very short leap from there to:
55
193542
2892
Da qui il passo è breve a pensare
03:28
men make better programmers than women.
56
196458
2042
che gli uomini sono
programmatori migliori.
programmatori migliori.
03:31
We have reinforced
our own bias into the AI.
our own bias into the AI.
57
199417
3726
Abbiamo rinforzato i nostri pregiudizi
nelle intelligenze artificiali.
nelle intelligenze artificiali.
03:35
And now, it's screening out
female candidates.
female candidates.
58
203167
3625
E ora queste scartano
le candidature femminili.
le candidature femminili.
03:40
Hang on, if a human
hiring manager did that,
hiring manager did that,
59
208917
3017
Ma attenzione, se fosse un manager umano
a fare tutto questo,
a fare tutto questo,
03:43
we'd be outraged, we wouldn't allow it.
60
211958
2351
saremmo indignati,
non lo permetteremmo.
non lo permetteremmo.
03:46
This kind of gender
discrimination is not OK.
discrimination is not OK.
61
214333
3476
Questo tipo di discriminazione di genere
non andrebbe bene.
non andrebbe bene.
03:49
And yet somehow,
AI has become above the law,
AI has become above the law,
62
217833
4518
In qualche modo le IA si ergono
al di sopra della legge
al di sopra della legge
03:54
because a machine made the decision.
63
222375
2083
perché una macchina ha preso la decisione.
03:57
That's not it.
64
225833
1518
Non è solo questo.
03:59
We are also reinforcing our bias
in how we interact with AI.
in how we interact with AI.
65
227375
4875
Rafforziamo i nostri pregiudizi anche
nel modo in cui interagiamo con le IA.
nel modo in cui interagiamo con le IA.
04:04
How often do you use a voice assistant
like Siri, Alexa or even Cortana?
like Siri, Alexa or even Cortana?
66
232917
5976
Quante volte avete usato assistenti
vocali come Siri, Alexa o Cortana?
vocali come Siri, Alexa o Cortana?
04:10
They all have two things in common:
67
238917
2559
Hanno tutte due cose in comune.
04:13
one, they can never get my name right,
68
241500
3101
Uno, non sapranno mai pronunciare
correttamente il mio nome.
correttamente il mio nome.
04:16
and second, they are all female.
69
244625
2667
Due, sono tutte femminili.
04:20
They are designed to be
our obedient servants,
our obedient servants,
70
248417
2767
Sono state disegnate
per essere serve obbedienti.
per essere serve obbedienti.
04:23
turning your lights on and off,
ordering your shopping.
ordering your shopping.
71
251208
3250
Ti accendono e spengono le luci,
ti ordinano la spesa.
ti ordinano la spesa.
04:27
You get male AIs too,
but they tend to be more high-powered,
but they tend to be more high-powered,
72
255125
3309
Ci sono anche IA maschili,
ma generalmente sono più potenti.
ma generalmente sono più potenti.
04:30
like IBM Watson,
making business decisions,
making business decisions,
73
258458
3059
Come IBM Watson
che prende decisioni d'affari.
che prende decisioni d'affari.
04:33
Salesforce Einstein
or ROSS, the robot lawyer.
or ROSS, the robot lawyer.
74
261541
3792
Salesforce Einstein o ROSS,
l'avvocato robot.
l'avvocato robot.
04:38
So poor robots, even they suffer
from sexism in the workplace.
from sexism in the workplace.
75
266208
4060
Poveri robot, anche loro subiscono
sessismo sul posto di lavoro.
sessismo sul posto di lavoro.
(Risate)
04:42
(Laughter)
76
270292
1125
04:44
Think about how these two things combine
77
272542
2851
Pensate come queste due cose si combinano
04:47
and affect a kid growing up
in today's world around AI.
in today's world around AI.
78
275417
5309
e influiscono sui bambini che crescono
nel mondo d'oggi circondati da IA.
nel mondo d'oggi circondati da IA.
04:52
So they're doing some research
for a school project
for a school project
79
280750
2934
Fanno ricerche
per un progetto scolastico
per un progetto scolastico
04:55
and they Google images of CEO.
80
283708
3018
e cercano su Google immagini
di un amministratore delegato.
di un amministratore delegato.
04:58
The algorithm shows them
results of mostly men.
results of mostly men.
81
286750
2893
L'algoritmo mostrerà come risultati
per lo più uomini.
per lo più uomini.
05:01
And now, they Google personal assistant.
82
289667
2559
Cercano su Google assistente personale.
05:04
As you can guess,
it shows them mostly females.
it shows them mostly females.
83
292250
3434
Come potete immaginare
mostrerà per lo più donne.
mostrerà per lo più donne.
05:07
And then they want to put on some music,
and maybe order some food,
and maybe order some food,
84
295708
3601
Poi vogliono mettere della musica,
o forse ordinare del cibo.
o forse ordinare del cibo.
05:11
and now, they are barking orders
at an obedient female voice assistant.
at an obedient female voice assistant.
85
299333
6584
Così gridano ordini a un'obbediente
assistente vocale femminile.
assistente vocale femminile.
05:19
Some of our brightest minds
are creating this technology today.
are creating this technology today.
86
307542
5309
Alcune delle più brillanti menti
stanno creando queste tecnologie oggi.
stanno creando queste tecnologie oggi.
05:24
Technology that they could have created
in any way they wanted.
in any way they wanted.
87
312875
4184
Tecnologie che avrebbero potuto creare
in qualsiasi modo.
in qualsiasi modo.
05:29
And yet, they have chosen to create it
in the style of 1950s "Mad Man" secretary.
in the style of 1950s "Mad Man" secretary.
88
317083
5685
Eppure hanno scelto di crearle
nello stile di una segretaria anni 50.
nello stile di una segretaria anni 50.
05:34
Yay!
89
322792
1500
Evvai!
05:36
But OK, don't worry,
90
324958
1310
Ma ok, non preoccupatevi.
05:38
this is not going to end
with me telling you
with me telling you
91
326292
2059
Non finirà con io che vi dico
05:40
that we are all heading towards
sexist, racist machines running the world.
sexist, racist machines running the world.
92
328375
3477
che il mondo finirà per essere governato
da macchine sessiste e razziste.
da macchine sessiste e razziste.
05:44
The good news about AI
is that it is entirely within our control.
is that it is entirely within our control.
93
332792
5791
La buona notizia riguardo le IA
è che sono sotto il nostro controllo.
è che sono sotto il nostro controllo.
05:51
We get to teach the right values,
the right ethics to AI.
the right ethics to AI.
94
339333
4000
Dobbiamo insegnare alle IA
i valori giusti, la giusta etica.
i valori giusti, la giusta etica.
05:56
So there are three things we can do.
95
344167
2184
Ci sono tre cose che possiamo fare.
05:58
One, we can be aware of our own biases
96
346375
3351
Una, possiamo essere consapevoli
dei nostri pregiudizi
dei nostri pregiudizi
06:01
and the bias in machines around us.
97
349750
2726
e dei pregiudizi delle macchine
che ci cicrondano.
che ci cicrondano.
06:04
Two, we can make sure that diverse teams
are building this technology.
are building this technology.
98
352500
4518
Due, possiamo assicurarci che diversi
gruppi costruiscano queste tecnologie.
gruppi costruiscano queste tecnologie.
06:09
And three, we have to give it
diverse experiences to learn from.
diverse experiences to learn from.
99
357042
4916
Tre, dobbiamo dare loro diverse
esperienze da cui imparare.
esperienze da cui imparare.
06:14
I can talk about the first two
from personal experience.
from personal experience.
100
362875
3309
Posso parlarvi delle prime due
per esperienza personale.
per esperienza personale.
06:18
When you work in technology
101
366208
1435
Quando lavori nella tecnologia
06:19
and you don't look like
a Mark Zuckerberg or Elon Musk,
a Mark Zuckerberg or Elon Musk,
102
367667
3392
e non assomigli
a Mark Zuckerberg o Elon Musk,
a Mark Zuckerberg o Elon Musk,
06:23
your life is a little bit difficult,
your ability gets questioned.
your ability gets questioned.
103
371083
3750
la tua vita è un po' difficile,
le tue abilità vengono messe in dubbio.
le tue abilità vengono messe in dubbio.
06:27
Here's just one example.
104
375875
1393
Ecco un esempio.
06:29
Like most developers,
I often join online tech forums
I often join online tech forums
105
377292
3726
Come molti sviluppatori spesso partecipo
a forum online sulla tecnologia
a forum online sulla tecnologia
06:33
and share my knowledge to help others.
106
381042
3226
e condivido il mio sapere
per aiutare gli altri.
per aiutare gli altri.
06:36
And I've found,
107
384292
1309
Quello che ho trovato
06:37
when I log on as myself,
with my own photo, my own name,
with my own photo, my own name,
108
385625
3976
quando ho effettuato l'accesso
con la mia foto e il mio nome,
con la mia foto e il mio nome,
06:41
I tend to get questions
or comments like this:
or comments like this:
109
389625
4601
sono state domande e commenti come:
06:46
"What makes you think
you're qualified to talk about AI?"
you're qualified to talk about AI?"
110
394250
3000
"Cosa ti fa pensare di essere
qualificata per parlare di IA?"
qualificata per parlare di IA?"
06:50
"What makes you think
you know about machine learning?"
you know about machine learning?"
111
398458
3476
"Cosa ti fa pensare di saperne
di apprendimento delle macchine?"
di apprendimento delle macchine?"
06:53
So, as you do, I made a new profile,
112
401958
3435
Così ho creato un nuovo profilo.
06:57
and this time, instead of my own picture,
I chose a cat with a jet pack on it.
I chose a cat with a jet pack on it.
113
405417
4851
Invece della mia foto, ho scelto
quella di un gatto con un jet-pack.
quella di un gatto con un jet-pack.
07:02
And I chose a name
that did not reveal my gender.
that did not reveal my gender.
114
410292
2458
E ho scelto un nome
che non rivelasse il mio genere.
che non rivelasse il mio genere.
07:05
You can probably guess
where this is going, right?
where this is going, right?
115
413917
2726
Potete immaginare
cosa è accaduto, vero?
cosa è accaduto, vero?
07:08
So, this time, I didn't get any of those
patronizing comments about my ability
patronizing comments about my ability
116
416667
6392
Questa volta non ho avuto nessun commento
che mettesse in dubbio le mie abilità.
che mettesse in dubbio le mie abilità.
07:15
and I was able to actually
get some work done.
get some work done.
117
423083
3334
E sono stata in grado
di concludere qualcosa.
di concludere qualcosa.
07:19
And it sucks, guys.
118
427500
1851
È terribile.
07:21
I've been building robots since I was 15,
119
429375
2476
Costruisco robot da quando
avevo 15 anni.
avevo 15 anni.
07:23
I have a few degrees in computer science,
120
431875
2268
Ho delle lauree in scienze informatiche.
07:26
and yet, I had to hide my gender
121
434167
2434
Eppure devo nascondere il mio genere
07:28
in order for my work
to be taken seriously.
to be taken seriously.
122
436625
2250
per far sì che il mio lavoro
venga preso sul serio.
venga preso sul serio.
07:31
So, what's going on here?
123
439875
1893
Cosa sta succedendo?
07:33
Are men just better
at technology than women?
at technology than women?
124
441792
3208
Gli uomini sono migliori
nella tecnologia rispetto alle donne?
nella tecnologia rispetto alle donne?
07:37
Another study found
125
445917
1559
Un altro studio ha scoperto
07:39
that when women coders on one platform
hid their gender, like myself,
hid their gender, like myself,
126
447500
4934
che quando le programmatrici nascondono
il loro genere su una piattaforma,
il loro genere su una piattaforma,
07:44
their code was accepted
four percent more than men.
four percent more than men.
127
452458
3250
il loro codice viene accettato
il 4 per cento in più degli uomini.
il 4 per cento in più degli uomini.
07:48
So this is not about the talent.
128
456542
2916
Quindi non è una questione di talento.
07:51
This is about an elitism in AI
129
459958
2893
È una questione di elitismo nelle IA
07:54
that says a programmer
needs to look like a certain person.
needs to look like a certain person.
130
462875
2792
secondo cui un programmatore
deve assomigliare a una certa persona.
deve assomigliare a una certa persona.
07:59
What we really need to do
to make AI better
to make AI better
131
467375
3101
Quello di cui abbiamo veramente
bisogno per migliorare le IA
bisogno per migliorare le IA
08:02
is bring people
from all kinds of backgrounds.
from all kinds of backgrounds.
132
470500
3042
è coinvolgere persone
da tutti i tipi di contesto.
da tutti i tipi di contesto.
Ci vogliono persone che sanno scrivere
e raccontare storie,
e raccontare storie,
08:06
We need people who can
write and tell stories
write and tell stories
133
474542
2559
08:09
to help us create personalities of AI.
134
477125
2167
che creino le personalità delle IA.
08:12
We need people who can solve problems.
135
480208
2042
Ci vogliono persone che sanno
risolvere problemi.
risolvere problemi.
08:15
We need people
who face different challenges
who face different challenges
136
483125
3768
Ci vogliono persone
che affrontano sfide diverse.
che affrontano sfide diverse.
08:18
and we need people who can tell us
what are the real issues that need fixing
what are the real issues that need fixing
137
486917
5351
Ci vogliono persone che ci dicano
quali problemi devono essere risolti
quali problemi devono essere risolti
08:24
and help us find ways
that technology can actually fix it.
that technology can actually fix it.
138
492292
3041
e che ci aiutino a trovare il modo
di risolverli con la tecnologia.
di risolverli con la tecnologia.
08:29
Because, when people
from diverse backgrounds come together,
from diverse backgrounds come together,
139
497833
3726
Perché, quando persone
da diversi contesti si uniscono,
da diversi contesti si uniscono,
08:33
when we build things in the right way,
140
501583
2143
quando costruiamo cose nel modo giusto,
08:35
the possibilities are limitless.
141
503750
2042
ci sono infinite possibilità.
08:38
And that's what I want to end
by talking to you about.
by talking to you about.
142
506750
3309
E questo è quello di cui
vi voglio parlare per concludere.
vi voglio parlare per concludere.
08:42
Less racist robots, less machines
that are going to take our jobs --
that are going to take our jobs --
143
510083
4225
Non tanto di robot razzisti o macchine
che ci stanno rubando il lavoro.
che ci stanno rubando il lavoro.
08:46
and more about what technology
can actually achieve.
can actually achieve.
144
514332
3125
Voglio parlavi di cosa la tecnologia
può realizzare.
può realizzare.
08:50
So, yes, some of the energy
in the world of AI,
in the world of AI,
145
518292
3434
Sì, alcune delle energie
nel mondo delle IA,
nel mondo delle IA,
08:53
in the world of technology
146
521750
1393
nel mondo della tecnologia,
08:55
is going to be about
what ads you see on your stream.
what ads you see on your stream.
147
523167
4267
saranno spese per le pubblicità
che vedete su Internet.
che vedete su Internet.
08:59
But a lot of it is going towards
making the world so much better.
making the world so much better.
148
527458
5209
Ma molte saranno indirizzate
per migliorare il mondo.
per migliorare il mondo.
09:05
Think about a pregnant woman
in the Democratic Republic of Congo,
in the Democratic Republic of Congo,
149
533500
3768
Pensate a una donna incinta
nella Repubblica Democratica del Congo,
nella Repubblica Democratica del Congo,
09:09
who has to walk 17 hours
to her nearest rural prenatal clinic
to her nearest rural prenatal clinic
150
537292
4184
che deve camminare 17 ore
per raggiungere la clinica più vicina
per raggiungere la clinica più vicina
09:13
to get a checkup.
151
541500
1851
per fare un controllo.
09:15
What if she could get diagnosis
on her phone, instead?
on her phone, instead?
152
543375
2917
E se potesse ottenere una diagnosi
sul suo telefono?
sul suo telefono?
09:19
Or think about what AI could do
153
547750
1809
O pensate a cosa potrebbero fare le IA
09:21
for those one in three women
in South Africa
in South Africa
154
549583
2726
a una donna su tre che in Sudafrica
09:24
who face domestic violence.
155
552333
2125
subisce violenza domestica.
09:27
If it wasn't safe to talk out loud,
156
555083
2726
Se fosse pericoloso parlare ad alta voce,
09:29
they could get an AI service
to raise alarm,
to raise alarm,
157
557833
2476
si potrebbe avere un'IA che dia l'allarme,
09:32
get financial and legal advice.
158
560333
2459
che dia supporto legale e finanziario.
09:35
These are all real examples of projects
that people, including myself,
that people, including myself,
159
563958
5018
Questi sono tutti esempi di progetti
su cui alcune persone, tra cui io,
su cui alcune persone, tra cui io,
09:41
are working on right now, using AI.
160
569000
2500
stanno lavorando adesso usando le IA.
09:45
So, I'm sure in the next couple of days
there will be yet another news story
there will be yet another news story
161
573542
3601
Sono sicura che nei prossimi giorni
ci sarà un'altra storia nuova
ci sarà un'altra storia nuova
09:49
about the existential risk,
162
577167
2684
sui rischi esistenziali
09:51
robots taking over
and coming for your jobs.
and coming for your jobs.
163
579875
2434
dei robot che vengono
a rubarvi il lavoro.
a rubarvi il lavoro.
09:54
(Laughter)
164
582333
1018
(Risate)
09:55
And when something like that happens,
165
583375
2309
E quando questo avverrà,
09:57
I know I'll get the same messages
worrying about the future.
worrying about the future.
166
585708
3601
so che riceverò gli stessi messaggi
preoccupati per il futuro.
preoccupati per il futuro.
10:01
But I feel incredibly positive
about this technology.
about this technology.
167
589333
3667
Ma mi sento incredibilmente positiva
su questa tecnologia.
su questa tecnologia.
10:07
This is our chance to remake the world
into a much more equal place.
into a much more equal place.
168
595458
5959
È la nostra possibilità per rendere
il mondo un posto più uguale.
il mondo un posto più uguale.
10:14
But to do that, we need to build it
the right way from the get go.
the right way from the get go.
169
602458
4000
Ma per farlo dobbiamo ricostruirlo
da capo nel modo giusto.
da capo nel modo giusto.
10:19
We need people of different genders,
races, sexualities and backgrounds.
races, sexualities and backgrounds.
170
607667
5083
Ci vogliono persone di diversi generi,
razze, sessualità e contesti.
razze, sessualità e contesti.
10:26
We need women to be the makers
171
614458
2476
Le donne devono essere creatrici,
10:28
and not just the machines
who do the makers' bidding.
who do the makers' bidding.
172
616958
3000
non solo macchine
che eseguono gli ordini dei creatori.
che eseguono gli ordini dei creatori.
10:33
We need to think very carefully
what we teach machines,
what we teach machines,
173
621875
3768
Dobbiamo pensare attentamente
a cosa insegniamo alle macchine.
a cosa insegniamo alle macchine.
10:37
what data we give them,
174
625667
1642
Ai dati che forniamo loro.
10:39
so they don't just repeat
our own past mistakes.
our own past mistakes.
175
627333
3125
Così che non ripetano
i nostri errori del passato.
i nostri errori del passato.
10:44
So I hope I leave you
thinking about two things.
thinking about two things.
176
632125
3542
Spero di avervi lasciato
due cose su cui pensare.
due cose su cui pensare.
10:48
First, I hope you leave
thinking about bias today.
thinking about bias today.
177
636542
4559
Primo, spero
che rifletterete sui pregiudizi.
che rifletterete sui pregiudizi.
10:53
And that the next time
you scroll past an advert
you scroll past an advert
178
641125
3184
E che la prossima volta
che incapperete in una pubblicità
che incapperete in una pubblicità
10:56
that assumes you are interested
in fertility clinics
in fertility clinics
179
644333
2810
secondo cui siete interessati
a cliniche della fertilità,
a cliniche della fertilità,
10:59
or online betting websites,
180
647167
2851
o a siti di scommesse online,
11:02
that you think and remember
181
650042
2017
possiate pensare e ricordare
11:04
that the same technology is assuming
that a black man will reoffend.
that a black man will reoffend.
182
652083
4625
che la stessa tecnologia ritiene
che un uomo di colore sia recidivo.
che un uomo di colore sia recidivo.
11:09
Or that a woman is more likely
to be a personal assistant than a CEO.
to be a personal assistant than a CEO.
183
657833
4167
O che è più probabile che una donna sia
assistente che amministratore delegato.
assistente che amministratore delegato.
11:14
And I hope that reminds you
that we need to do something about it.
that we need to do something about it.
184
662958
3709
E spero che vi ricordi che dobbiamo
fare qualcosa a riguardo.
fare qualcosa a riguardo.
11:20
And second,
185
668917
1851
Secondo,
11:22
I hope you think about the fact
186
670792
1892
spero che possiate pensare al fatto
11:24
that you don't need to look a certain way
187
672708
1976
che non bisonga
apparire in un certo modo,
apparire in un certo modo,
11:26
or have a certain background
in engineering or technology
in engineering or technology
188
674708
3851
o avere un certo background
nell'ingegneria o nella tecnologia
nell'ingegneria o nella tecnologia
11:30
to create AI,
189
678583
1268
per poter creare IA,
11:31
which is going to be
a phenomenal force for our future.
a phenomenal force for our future.
190
679875
2875
che saranno delle forze fenomenali
per il nostro futuro.
per il nostro futuro.
11:36
You don't need to look
like a Mark Zuckerberg,
like a Mark Zuckerberg,
191
684166
2143
Non dovete assomigliare
a Mark Zuckerberg.
a Mark Zuckerberg.
11:38
you can look like me.
192
686333
1250
Potete assomigliare a me.
11:41
And it is up to all of us in this room
193
689250
2893
E spetta a tutti noi in questa sala
11:44
to convince the governments
and the corporations
and the corporations
194
692167
2726
convincere i governi
e le aziende
e le aziende
11:46
to build AI technology for everyone,
195
694917
2892
a costruire tecnologie per tutti.
11:49
including the edge cases.
196
697833
2393
Incluso i casi limite.
11:52
And for us all to get education
197
700250
2059
E a ricevere un'istruzione
11:54
about this phenomenal
technology in the future.
technology in the future.
198
702333
2375
riguardo questa fenomenale
tecnologia del futuro.
tecnologia del futuro.
11:58
Because if we do that,
199
706167
2017
Perché se facciamo questo,
12:00
then we've only just scratched the surface
of what we can achieve with AI.
of what we can achieve with AI.
200
708208
4893
abbiamo solo grattato la superficie
di quel che possiamo ottenere con le IA.
di quel che possiamo ottenere con le IA.
12:05
Thank you.
201
713125
1268
Grazie.
12:06
(Applause)
202
714417
2708
(Applausi)
ABOUT THE SPEAKER
Kriti Sharma - AI technologistKriti Sharma creates AI technology to help address some of the toughest social challenges of our time -- from domestic violence to sexual health and inequality.
Why you should listen
Kriti Sharma is the Founder of AI for Good, an organization focused on building scalable technology solutions for social good. In 2018, she also launched rAInbow, a digital companion for women facing domestic violence in South Africa. This service reached nearly 200,000 conversations within the first 100 days, breaking down the stigma of gender-based violence. In 2019, she collaborated with the Population Foundation of India to launch Dr. Sneha, an AI-powered digital character to engage with young people about sexual health, an issue that is still considered a taboo in India.
Sharma was recently named in the Forbes "30 Under 30" list for advancements in AI. She was appointed a United Nations Young Leader in 2018 and is an advisor to both the United Nations Technology Innovation Labs and to the UK Government’s Centre for Data Ethics and Innovation.
Kriti Sharma | Speaker | TED.com