TEDxWarwick
Kriti Sharma: How to keep human bias out of AI
Kriti Sharma: Comment préserver les IA de nos biais humains
Filmed:
Readability: 4
2,050,106 views
Les algorithmes d'IA prennent des décisions importantes pour vous constamment : par exemple, combien vous devriez payer pour votre assurance auto, ou si oui ou non vous devriez obtenir cet entretien d'embauche. Mais que se passe-t-il lorsque ces machines sont construites avec des biais humains encodés dans leur système ? L'ingénieure Kriti Sharma nous montre comment le manque de diversité dans le monde de la technologie s'infiltre dans nos IA et nous offre trois solutions pour commencer à construire des algorithmes plus éthiques.
Kriti Sharma - AI technologist
Kriti Sharma creates AI technology to help address some of the toughest social challenges of our time -- from domestic violence to sexual health and inequality. Full bio
Kriti Sharma creates AI technology to help address some of the toughest social challenges of our time -- from domestic violence to sexual health and inequality. Full bio
Double-click the English transcript below to play the video.
Combien de décisions ont été
prises sur vous aujourd'hui,
prises sur vous aujourd'hui,
00:12
How many decisions
have been made about you today,
have been made about you today,
0
875
3768
00:16
or this week or this year,
1
4667
2601
cette semaine ou cette année,
00:19
by artificial intelligence?
2
7292
1958
par intelligence artificielle ?
00:22
I build AI for a living
3
10958
1685
Je gagne ma vie grâce à l'IA
00:24
so, full disclosure, I'm kind of a nerd.
4
12667
3017
alors, spoiler, je suis un peu une geek.
00:27
And because I'm kind of a nerd,
5
15708
2393
Et parce que je suis un peu une geek,
00:30
wherever some new news story comes out
6
18125
2351
chaque fois qu'il y a un nouvel article
00:32
about artificial intelligence
stealing all our jobs,
stealing all our jobs,
7
20500
3434
sur comment l'intelligence
artificielle vole nos emplois,
artificielle vole nos emplois,
00:35
or robots getting citizenship
of an actual country,
of an actual country,
8
23958
4185
ou sur les robots obtenant
la citoyenneté dans un pays,
la citoyenneté dans un pays,
00:40
I'm the person my friends
and followers message
and followers message
9
28167
3142
Je suis celle à qui mes amis et
abonnés envoient un message
abonnés envoient un message
00:43
freaking out about the future.
10
31333
1542
paniqués par l'avenir.
00:45
We see this everywhere.
11
33833
2101
Nous voyons ça partout.
00:47
This media panic that
our robot overlords are taking over.
our robot overlords are taking over.
12
35958
4893
Cette peur des médias que
les robots nous dominent.
les robots nous dominent.
00:52
We could blame Hollywood for that.
13
40875
1917
Nous pourrions blâmer Hollywood pour ça.
00:56
But in reality, that's not the problem
we should be focusing on.
we should be focusing on.
14
44125
4125
Mais ce n'est pas le problème sur lequel
nous devrions nous concentrer.
nous devrions nous concentrer.
01:01
There is a more pressing danger,
a bigger risk with AI,
a bigger risk with AI,
15
49250
3643
Il y a un danger plus pressant,
un plus grand risque avec l'IA,
un plus grand risque avec l'IA,
01:04
that we need to fix first.
16
52917
1583
que nous devons résoudre d'abord.
01:07
So we are back to this question:
17
55417
2309
Nous revenons donc à cette question :
01:09
How many decisions
have been made about you today by AI?
have been made about you today by AI?
18
57750
4708
Combien de décisions ont été prises
sur vous aujourd'hui par l'IA ?
sur vous aujourd'hui par l'IA ?
01:15
And how many of these
19
63792
1976
Et combien de ces décisions
01:17
were based on your gender,
your race or your background?
your race or your background?
20
65792
4500
étaient basées sur votre sexe,
votre origine ou votre milieu ?
votre origine ou votre milieu ?
01:24
Algorithms are being used all the time
21
72500
2768
Les algorithmes sont
utilisés tout le temps
utilisés tout le temps
01:27
to make decisions about who we are
and what we want.
and what we want.
22
75292
3833
pour décider de qui nous sommes
et ce que nous voulons.
et ce que nous voulons.
01:32
Some of the women in this room
will know what I'm talking about
will know what I'm talking about
23
80208
3643
Quelques femmes dans cette salle
savent de quoi je parle
savent de quoi je parle
01:35
if you've been made to sit through
those pregnancy test adverts on YouTube
those pregnancy test adverts on YouTube
24
83875
3768
si vous avez vu passer des pubs pour
des tests de grossesse sur Youtube
des tests de grossesse sur Youtube
01:39
like 1,000 times.
25
87667
2059
environ 1 000 fois.
01:41
Or you've scrolled past adverts
of fertility clinics
of fertility clinics
26
89750
2851
Ou vous avez vu des annonces
pour des cliniques de fertilité
pour des cliniques de fertilité
01:44
on your Facebook feed.
27
92625
2042
sur votre mur Facebook.
01:47
Or in my case, Indian marriage bureaus.
28
95625
2393
Ou comme moi, des agences
de mariage indiennes.
de mariage indiennes.
01:50
(Laughter)
29
98042
1267
(Rires)
01:51
But AI isn't just being used
to make decisions
to make decisions
30
99333
2976
Mais l'IA n'est pas juste utilisée
pour prendre des décisions
pour prendre des décisions
01:54
about what products we want to buy
31
102333
2601
sur les produits que nous consommons
01:56
or which show we want to binge watch next.
32
104958
2500
ou indiquer ce que nous
voulons binge watcher.
voulons binge watcher.
02:01
I wonder how you'd feel about someone
who thought things like this:
who thought things like this:
33
109042
5184
Que penseriez-vous de
quelqu'un qui penserait :
quelqu'un qui penserait :
02:06
"A black or Latino person
34
114250
1934
« Il y a moins de chances qu'une personne
02:08
is less likely than a white person
to pay off their loan on time."
to pay off their loan on time."
35
116208
4125
noire ou latino rembourse son prêt à temps
par rapport à une personne blanche. »
par rapport à une personne blanche. »
02:13
"A person called John
makes a better programmer
makes a better programmer
36
121542
2809
«John est un meilleur programmeur
02:16
than a person called Mary."
37
124375
1667
que Mary. »
02:19
"A black man is more likely to be
a repeat offender than a white man."
a repeat offender than a white man."
38
127250
5083
« Un homme noir est plus susceptible
de récidiver qu'un homme blanc. »
de récidiver qu'un homme blanc. »
02:26
You're probably thinking,
39
134958
1268
Vous pensez probablement :
02:28
"Wow, that sounds like a pretty sexist,
racist person," right?
racist person," right?
40
136250
3750
« Waouh, cette personne est
sexiste et raciste, » n'est-ce pas ?
sexiste et raciste, » n'est-ce pas ?
02:33
These are some real decisions
that AI has made very recently,
that AI has made very recently,
41
141000
4851
Pourtant ce sont des décisions que
des IA ont prises très récemment,
des IA ont prises très récemment,
02:37
based on the biases
it has learned from us,
it has learned from us,
42
145875
2934
basées sur les biais
qu'elle a appris de nous,
qu'elle a appris de nous,
02:40
from the humans.
43
148833
1250
des humains.
02:43
AI is being used to help decide
whether or not you get that job interview;
whether or not you get that job interview;
44
151750
4809
L'IA est utilisée pour décider de
si vous obtenez cet entretien d'embauche,
si vous obtenez cet entretien d'embauche,
02:48
how much you pay for your car insurance;
45
156583
2393
de combien vous payez
votre assurance auto,
votre assurance auto,
02:51
how good your credit score is;
46
159000
1893
de votre cote de solvabilité,
02:52
and even what rating you get
in your annual performance review.
in your annual performance review.
47
160917
3125
et même de l'appréciation de
votre performance annuelle.
votre performance annuelle.
02:57
But these decisions
are all being filtered through
are all being filtered through
48
165083
3143
Mais ces décisions sont prises en faisant
03:00
its assumptions about our identity,
our race, our gender, our age.
our race, our gender, our age.
49
168250
5875
des hypothèses basées sur notre nom,
notre ethnie, notre sexe et notre âge.
notre ethnie, notre sexe et notre âge.
03:08
How is that happening?
50
176250
2268
Comment ça se passe?
03:10
Now, imagine an AI is helping
a hiring manager
a hiring manager
51
178542
3517
Prenez une IA aidant un DRH
03:14
find the next tech leader in the company.
52
182083
2851
à trouver le prochain leader
high-tech de la société.
high-tech de la société.
03:16
So far, the manager
has been hiring mostly men.
has been hiring mostly men.
53
184958
3101
Jusqu'à présent, le gérant n'a
embauché que des hommes.
embauché que des hommes.
03:20
So the AI learns men are more likely
to be programmers than women.
to be programmers than women.
54
188083
4750
L'IA apprend donc que les hommes sont
plus souvent programmeurs que les femmes.
plus souvent programmeurs que les femmes.
03:25
And it's a very short leap from there to:
55
193542
2892
Et de là il n'y a qu'un pas vers :
03:28
men make better programmers than women.
56
196458
2042
« Les hommes programment
mieux que les femmes. »
mieux que les femmes. »
03:31
We have reinforced
our own bias into the AI.
our own bias into the AI.
57
199417
3726
Nous avons introduit
nos propres biais dans l'IA.
nos propres biais dans l'IA.
03:35
And now, it's screening out
female candidates.
female candidates.
58
203167
3625
Et ensuite, elle élimine
les candidats féminins.
les candidats féminins.
03:40
Hang on, if a human
hiring manager did that,
hiring manager did that,
59
208917
3017
Si un DRH humain faisait ça,
03:43
we'd be outraged, we wouldn't allow it.
60
211958
2351
nous serions scandalisés,
ça ne passerait pas.
ça ne passerait pas.
03:46
This kind of gender
discrimination is not OK.
discrimination is not OK.
61
214333
3476
Les discriminations sexistes
ne sont pas acceptables.
ne sont pas acceptables.
03:49
And yet somehow,
AI has become above the law,
AI has become above the law,
62
217833
4518
Et pourtant, l'IA est au-dessus des lois,
03:54
because a machine made the decision.
63
222375
2083
parce que la décision
est prise par une machine.
est prise par une machine.
03:57
That's not it.
64
225833
1518
Ce n'est pas tout.
03:59
We are also reinforcing our bias
in how we interact with AI.
in how we interact with AI.
65
227375
4875
Nous renforçons également nos biais
à travers notre interaction avec l'IA.
à travers notre interaction avec l'IA.
04:04
How often do you use a voice assistant
like Siri, Alexa or even Cortana?
like Siri, Alexa or even Cortana?
66
232917
5976
Combien de fois avez-vous utilisé un
assistant vocal comme Siri ou Alexa ?
assistant vocal comme Siri ou Alexa ?
04:10
They all have two things in common:
67
238917
2559
Ils ont tous deux choses en commun :
04:13
one, they can never get my name right,
68
241500
3101
ils ne prononcent jamais
correctement mon nom,
correctement mon nom,
04:16
and second, they are all female.
69
244625
2667
et deuxièmement, ce sont tous des femmes.
04:20
They are designed to be
our obedient servants,
our obedient servants,
70
248417
2767
Ils ont été créés pour être
d'obéissants serviteurs,
d'obéissants serviteurs,
04:23
turning your lights on and off,
ordering your shopping.
ordering your shopping.
71
251208
3250
allumant et éteignant la lumière,
passant des commandes.
passant des commandes.
04:27
You get male AIs too,
but they tend to be more high-powered,
but they tend to be more high-powered,
72
255125
3309
Il y a aussi des IA homme mais ils ont
généralement plus de pouvoirs,
généralement plus de pouvoirs,
04:30
like IBM Watson,
making business decisions,
making business decisions,
73
258458
3059
par exemple, IBM Watson
qui prend des décisions commerciales,
qui prend des décisions commerciales,
04:33
Salesforce Einstein
or ROSS, the robot lawyer.
or ROSS, the robot lawyer.
74
261541
3792
Salesforce Einstein ou ROSS,
le robot avocat.
le robot avocat.
04:38
So poor robots, even they suffer
from sexism in the workplace.
from sexism in the workplace.
75
266208
4060
Ainsi, même ces pauvres robots souffrent
du sexisme dans le milieu du travail.
du sexisme dans le milieu du travail.
04:42
(Laughter)
76
270292
1125
(Rires)
04:44
Think about how these two things combine
77
272542
2851
Pensez à comment ces deux points combinés
04:47
and affect a kid growing up
in today's world around AI.
in today's world around AI.
78
275417
5309
affectent un enfant grandissant
dans un monde baignant dans l'IA.
dans un monde baignant dans l'IA.
04:52
So they're doing some research
for a school project
for a school project
79
280750
2934
Imaginez qu'il fasse une recherche
pour un projet à l'école
pour un projet à l'école
04:55
and they Google images of CEO.
80
283708
3018
et qu'il tape sur Google,
« images de PDG ».
« images de PDG ».
04:58
The algorithm shows them
results of mostly men.
results of mostly men.
81
286750
2893
L'algorithme ne lui montre
que des hommes.
que des hommes.
05:01
And now, they Google personal assistant.
82
289667
2559
Ensuite, il tape « assistant personnel ».
05:04
As you can guess,
it shows them mostly females.
it shows them mostly females.
83
292250
3434
Comme vous pouvez l'imaginez,
il n'y a pratiquement que des femmes.
il n'y a pratiquement que des femmes.
05:07
And then they want to put on some music,
and maybe order some food,
and maybe order some food,
84
295708
3601
Ensuite, il veut mettre de la musique
ou commander à manger,
ou commander à manger,
05:11
and now, they are barking orders
at an obedient female voice assistant.
at an obedient female voice assistant.
85
299333
6584
et pour cela il aboie des ordres
à une obéissante voix féminine.
à une obéissante voix féminine.
05:19
Some of our brightest minds
are creating this technology today.
are creating this technology today.
86
307542
5309
Ces technologies sont créées par
certains de nos plus brillants cerveaux.
certains de nos plus brillants cerveaux.
05:24
Technology that they could have created
in any way they wanted.
in any way they wanted.
87
312875
4184
Ils pouvaient créer ces technologies
exactement comme ils le souhaitaient.
exactement comme ils le souhaitaient.
05:29
And yet, they have chosen to create it
in the style of 1950s "Mad Man" secretary.
in the style of 1950s "Mad Man" secretary.
88
317083
5685
Et ils ont choisi de les créer dans le
style secrétaire des « Mad Men ».
style secrétaire des « Mad Men ».
05:34
Yay!
89
322792
1500
Super !
05:36
But OK, don't worry,
90
324958
1310
Ne vous inquiétez pas,
05:38
this is not going to end
with me telling you
with me telling you
91
326292
2059
je ne vais pas finir en vous disant que
05:40
that we are all heading towards
sexist, racist machines running the world.
sexist, racist machines running the world.
92
328375
3477
nous allons vers un monde dirigé
par des machines sexistes et racistes.
par des machines sexistes et racistes.
05:44
The good news about AI
is that it is entirely within our control.
is that it is entirely within our control.
93
332792
5791
La bonne nouvelle est que les IA
sont entièrement sous notre contrôle.
sont entièrement sous notre contrôle.
05:51
We get to teach the right values,
the right ethics to AI.
the right ethics to AI.
94
339333
4000
Nous pouvons leur enseigner
les bonnes valeurs, l'éthique.
les bonnes valeurs, l'éthique.
05:56
So there are three things we can do.
95
344167
2184
Il y a trois choses
que nous pouvons faire.
que nous pouvons faire.
05:58
One, we can be aware of our own biases
96
346375
3351
Premièrement, nous pouvons avoir
conscience de nos propres biais
conscience de nos propres biais
06:01
and the bias in machines around us.
97
349750
2726
et des biais des machines
qui nous entourent.
qui nous entourent.
06:04
Two, we can make sure that diverse teams
are building this technology.
are building this technology.
98
352500
4518
Ensuite, nous pouvons nous assurer que
des équipes mixtes construisent les IA.
des équipes mixtes construisent les IA.
06:09
And three, we have to give it
diverse experiences to learn from.
diverse experiences to learn from.
99
357042
4916
Et enfin, les IA doivent apprendre
à partir d'expériences variées.
à partir d'expériences variées.
06:14
I can talk about the first two
from personal experience.
from personal experience.
100
362875
3309
Je peux parler des deux premiers points
par expérience personnelle.
par expérience personnelle.
06:18
When you work in technology
101
366208
1435
Quand vous travaillez dans la technologie
06:19
and you don't look like
a Mark Zuckerberg or Elon Musk,
a Mark Zuckerberg or Elon Musk,
102
367667
3392
sans ressembler à Mark Zuckerberg
ou Elon Musk,
ou Elon Musk,
06:23
your life is a little bit difficult,
your ability gets questioned.
your ability gets questioned.
103
371083
3750
votre vie est un peu difficile,
vos compétences sont remises en question.
vos compétences sont remises en question.
06:27
Here's just one example.
104
375875
1393
Voici un exemple.
06:29
Like most developers,
I often join online tech forums
I often join online tech forums
105
377292
3726
Comme la plupart des programmeurs,
je participe sur des forums tech en ligne
je participe sur des forums tech en ligne
06:33
and share my knowledge to help others.
106
381042
3226
et partage mes connaissances
pour aider les autres.
pour aider les autres.
06:36
And I've found,
107
384292
1309
Et j'ai découvert
06:37
when I log on as myself,
with my own photo, my own name,
with my own photo, my own name,
108
385625
3976
qu'en me connectant avec
ma vraie photo et mon vrai nom,
ma vraie photo et mon vrai nom,
06:41
I tend to get questions
or comments like this:
or comments like this:
109
389625
4601
j'ai tendance à recevoir des questions
ou commentaires comme ceux-ci :
ou commentaires comme ceux-ci :
06:46
"What makes you think
you're qualified to talk about AI?"
you're qualified to talk about AI?"
110
394250
3000
« Tu crois être qualifiée
pour parler d'IA ? »
pour parler d'IA ? »
06:50
"What makes you think
you know about machine learning?"
you know about machine learning?"
111
398458
3476
« Qu'est-ce qui te fait penser que tu
t'y connais en machine learning ? »
t'y connais en machine learning ? »
06:53
So, as you do, I made a new profile,
112
401958
3435
Je me suis donc créé un nouveau profil,
06:57
and this time, instead of my own picture,
I chose a cat with a jet pack on it.
I chose a cat with a jet pack on it.
113
405417
4851
avec à la place de ma photo,
un chat avec un jet pack.
un chat avec un jet pack.
07:02
And I chose a name
that did not reveal my gender.
that did not reveal my gender.
114
410292
2458
J'ai choisi un nom qui
ne révélait pas mon genre.
ne révélait pas mon genre.
07:05
You can probably guess
where this is going, right?
where this is going, right?
115
413917
2726
Vous voyez où je veux en venir, non ?
07:08
So, this time, I didn't get any of those
patronizing comments about my ability
patronizing comments about my ability
116
416667
6392
Cette foi, je n'ai reçu aucun commentaire
condescendant sur mes capacités
condescendant sur mes capacités
07:15
and I was able to actually
get some work done.
get some work done.
117
423083
3334
et je pouvais travailler correctement.
07:19
And it sucks, guys.
118
427500
1851
Ça craint, les gars.
07:21
I've been building robots since I was 15,
119
429375
2476
Je construis des robots depuis mes 15 ans,
07:23
I have a few degrees in computer science,
120
431875
2268
j'ai plusieurs diplômes en informatique,
07:26
and yet, I had to hide my gender
121
434167
2434
et pourtant, je dois cacher mon genre
07:28
in order for my work
to be taken seriously.
to be taken seriously.
122
436625
2250
pour que mon travail soit pris au sérieux.
07:31
So, what's going on here?
123
439875
1893
Que se passe-t-il ?
07:33
Are men just better
at technology than women?
at technology than women?
124
441792
3208
Les hommes sont-ils juste meilleurs
que les femmes en technologie ?
que les femmes en technologie ?
07:37
Another study found
125
445917
1559
Une autre étude a trouvé
07:39
that when women coders on one platform
hid their gender, like myself,
hid their gender, like myself,
126
447500
4934
que quand les codeurs femmes cachaient,
comme moi, leur genre sur une plateforme,
comme moi, leur genre sur une plateforme,
07:44
their code was accepted
four percent more than men.
four percent more than men.
127
452458
3250
leur code était accepté
4% de plus que celui des hommes.
4% de plus que celui des hommes.
07:48
So this is not about the talent.
128
456542
2916
Donc ce n'est pas un problème de talent.
07:51
This is about an elitism in AI
129
459958
2893
C'est un problème d'élitisme
dans l'IA qui dit
dans l'IA qui dit
07:54
that says a programmer
needs to look like a certain person.
needs to look like a certain person.
130
462875
2792
qu'un développeur doit
ressembler à une certaine personne.
ressembler à une certaine personne.
07:59
What we really need to do
to make AI better
to make AI better
131
467375
3101
Ce que nous devons faire pour
rendre l'IA meilleure,
rendre l'IA meilleure,
08:02
is bring people
from all kinds of backgrounds.
from all kinds of backgrounds.
132
470500
3042
c'est rassembler des gens
de toutes origines.
de toutes origines.
08:06
We need people who can
write and tell stories
write and tell stories
133
474542
2559
Nous avons besoin de gens
pouvant écrire des histoires
pouvant écrire des histoires
08:09
to help us create personalities of AI.
134
477125
2167
pour créer des personnalités aux IA,
08:12
We need people who can solve problems.
135
480208
2042
pouvant résoudre des problèmes,
08:15
We need people
who face different challenges
who face different challenges
136
483125
3768
pouvant faire face à différents défis
08:18
and we need people who can tell us
what are the real issues that need fixing
what are the real issues that need fixing
137
486917
5351
et de personnes pouvant nous indiquer
les réels problèmes à résoudre
les réels problèmes à résoudre
08:24
and help us find ways
that technology can actually fix it.
that technology can actually fix it.
138
492292
3041
et les stratégies que les technologies
peuvent mettre en place.
peuvent mettre en place.
08:29
Because, when people
from diverse backgrounds come together,
from diverse backgrounds come together,
139
497833
3726
Quand des personnes de
différentes origines se rassemblent,
différentes origines se rassemblent,
08:33
when we build things in the right way,
140
501583
2143
quand nous construisons correctement,
08:35
the possibilities are limitless.
141
503750
2042
les possibilités sont infinies.
08:38
And that's what I want to end
by talking to you about.
by talking to you about.
142
506750
3309
C'est là-dessus que je veux finir.
08:42
Less racist robots, less machines
that are going to take our jobs --
that are going to take our jobs --
143
510083
4225
Moins de robots racistes, de machines
qui vont nous voler nos emplois,
qui vont nous voler nos emplois,
08:46
and more about what technology
can actually achieve.
can actually achieve.
144
514332
3125
et plus de ce que les technologies
peuvent réellement faire.
peuvent réellement faire.
08:50
So, yes, some of the energy
in the world of AI,
in the world of AI,
145
518292
3434
Alors oui, une partie de l'énergie
dans le monde de l'IA,
dans le monde de l'IA,
08:53
in the world of technology
146
521750
1393
des technologies,
08:55
is going to be about
what ads you see on your stream.
what ads you see on your stream.
147
523167
4267
est dirigée pour décider de quelles
publicités vous sont proposées.
publicités vous sont proposées.
08:59
But a lot of it is going towards
making the world so much better.
making the world so much better.
148
527458
5209
Mais une grosse partie est orientée
pour rendre le monde meilleur.
pour rendre le monde meilleur.
09:05
Think about a pregnant woman
in the Democratic Republic of Congo,
in the Democratic Republic of Congo,
149
533500
3768
Imaginez une femme enceinte en
République Démocratique du Congo,
République Démocratique du Congo,
09:09
who has to walk 17 hours
to her nearest rural prenatal clinic
to her nearest rural prenatal clinic
150
537292
4184
qui doit marcher 17 heures pour atteindre
la clinique prénatale la plus proche
la clinique prénatale la plus proche
09:13
to get a checkup.
151
541500
1851
et avoir une consultation.
09:15
What if she could get diagnosis
on her phone, instead?
on her phone, instead?
152
543375
2917
Et si elle pouvait avoir un
diagnostic sur son téléphone ?
diagnostic sur son téléphone ?
09:19
Or think about what AI could do
153
547750
1809
Imaginez ce que l'IA pourrait faire
09:21
for those one in three women
in South Africa
in South Africa
154
549583
2726
pour ces 1 femmes sur 3 en Afrique du Sud
09:24
who face domestic violence.
155
552333
2125
qui subissent des violences domestiques.
09:27
If it wasn't safe to talk out loud,
156
555083
2726
S'il est dangereux de
dénoncer à voix haute,
dénoncer à voix haute,
09:29
they could get an AI service
to raise alarm,
to raise alarm,
157
557833
2476
elles pourraient lancer
une alarme grâce à une IA,
une alarme grâce à une IA,
09:32
get financial and legal advice.
158
560333
2459
ou avoir une aide
financière et judiciaire.
financière et judiciaire.
09:35
These are all real examples of projects
that people, including myself,
that people, including myself,
159
563958
5018
Ce sont de vrais projets sur lesquels
des gens, moi y compris,
des gens, moi y compris,
09:41
are working on right now, using AI.
160
569000
2500
travaillent en ce moment, avec l'IA.
09:45
So, I'm sure in the next couple of days
there will be yet another news story
there will be yet another news story
161
573542
3601
Je suis certaine qu'il y aura
dans les prochains jours,
dans les prochains jours,
une histoire sur le risque
pour notre existence,
pour notre existence,
09:49
about the existential risk,
162
577167
2684
09:51
robots taking over
and coming for your jobs.
and coming for your jobs.
163
579875
2434
sur les robots nous dominant
et volant nos emplois.
et volant nos emplois.
09:54
(Laughter)
164
582333
1018
(Rires)
09:55
And when something like that happens,
165
583375
2309
Quand quelque chose comme ça se produira,
09:57
I know I'll get the same messages
worrying about the future.
worrying about the future.
166
585708
3601
je sais que je recevrai les mêmes
messages s'inquiétant pour l'avenir.
messages s'inquiétant pour l'avenir.
10:01
But I feel incredibly positive
about this technology.
about this technology.
167
589333
3667
Mais je suis très optimiste
à propos de cette technologie.
à propos de cette technologie.
10:07
This is our chance to remake the world
into a much more equal place.
into a much more equal place.
168
595458
5959
C'est notre chance pour refaire
de ce monde, une place égale.
de ce monde, une place égale.
10:14
But to do that, we need to build it
the right way from the get go.
the right way from the get go.
169
602458
4000
Pour faire ça, nous devons la construire
correctement dès le départ.
correctement dès le départ.
10:19
We need people of different genders,
races, sexualities and backgrounds.
races, sexualities and backgrounds.
170
607667
5083
Nous avons besoin de personnes de divers
genres, ethnies, sexualités et origines.
genres, ethnies, sexualités et origines.
10:26
We need women to be the makers
171
614458
2476
Nous avons de femmes développeurs
10:28
and not just the machines
who do the makers' bidding.
who do the makers' bidding.
172
616958
3000
et pas seulement de machines
embauchant les développeurs.
embauchant les développeurs.
10:33
We need to think very carefully
what we teach machines,
what we teach machines,
173
621875
3768
Il nous faut penser très soigneusement
à ce que nous enseignons aux machines,
à ce que nous enseignons aux machines,
10:37
what data we give them,
174
625667
1642
aux données que nous leur donnons,
10:39
so they don't just repeat
our own past mistakes.
our own past mistakes.
175
627333
3125
pour qu'elles ne répètent pas
nos propres erreurs.
nos propres erreurs.
10:44
So I hope I leave you
thinking about two things.
thinking about two things.
176
632125
3542
J'espère que je vous laisse
avec deux idées.
avec deux idées.
10:48
First, I hope you leave
thinking about bias today.
thinking about bias today.
177
636542
4559
Premièrement, j'espère que vous
repartirez en pensant aux biais.
repartirez en pensant aux biais.
10:53
And that the next time
you scroll past an advert
you scroll past an advert
178
641125
3184
Et que la prochaine fois que vous
tomberez sur une publicité
tomberez sur une publicité
10:56
that assumes you are interested
in fertility clinics
in fertility clinics
179
644333
2810
supposant que vous êtes intéressé
par une clinique de fertilité
par une clinique de fertilité
10:59
or online betting websites,
180
647167
2851
ou un site de paris en ligne,
11:02
that you think and remember
181
650042
2017
vous vous souviendrez
11:04
that the same technology is assuming
that a black man will reoffend.
that a black man will reoffend.
182
652083
4625
que ces mêmes technologies assument
qu'un homme noir récidivera.
qu'un homme noir récidivera.
11:09
Or that a woman is more likely
to be a personal assistant than a CEO.
to be a personal assistant than a CEO.
183
657833
4167
Ou qu'une femme a plus de chances
d'être assistant personnel que PDG.
d'être assistant personnel que PDG.
11:14
And I hope that reminds you
that we need to do something about it.
that we need to do something about it.
184
662958
3709
Et j'espère que ça vous rappellera que
nous devons faire quelque chose.
nous devons faire quelque chose.
11:20
And second,
185
668917
1851
Deuxièmement,
11:22
I hope you think about the fact
186
670792
1892
j'espère que vous vous direz
11:24
that you don't need to look a certain way
187
672708
1976
qu'il ne faut pas avoir une apparence
11:26
or have a certain background
in engineering or technology
in engineering or technology
188
674708
3851
ou un diplôme en particulier
en ingénierie ou technologie
en ingénierie ou technologie
11:30
to create AI,
189
678583
1268
pour créer des IA,
11:31
which is going to be
a phenomenal force for our future.
a phenomenal force for our future.
190
679875
2875
qui seront une force
phénoménale pour l'avenir.
phénoménale pour l'avenir.
11:36
You don't need to look
like a Mark Zuckerberg,
like a Mark Zuckerberg,
191
684166
2143
Inutile de ressembler à Mark Zuckerberg,
11:38
you can look like me.
192
686333
1250
vous pouvez me ressembler.
11:41
And it is up to all of us in this room
193
689250
2893
Et c'est à vous tous,
qui êtes dans cette pièce,
qui êtes dans cette pièce,
11:44
to convince the governments
and the corporations
and the corporations
194
692167
2726
de convaincre les
gouvernements et les sociétés
gouvernements et les sociétés
11:46
to build AI technology for everyone,
195
694917
2892
de construire des IA inclusives,
11:49
including the edge cases.
196
697833
2393
prenant en compte les minorités.
11:52
And for us all to get education
197
700250
2059
Il faut aussi que nous nous éduquions tous
11:54
about this phenomenal
technology in the future.
technology in the future.
198
702333
2375
sur cette technologie phénoménale.
11:58
Because if we do that,
199
706167
2017
Parce que si nous le faisons,
12:00
then we've only just scratched the surface
of what we can achieve with AI.
of what we can achieve with AI.
200
708208
4893
nous aurons à peine effleuré la surface
de ce qui peut être accompli avec l'IA.
de ce qui peut être accompli avec l'IA.
12:05
Thank you.
201
713125
1268
Merci.
12:06
(Applause)
202
714417
2708
(Applaudissements)
ABOUT THE SPEAKER
Kriti Sharma - AI technologistKriti Sharma creates AI technology to help address some of the toughest social challenges of our time -- from domestic violence to sexual health and inequality.
Why you should listen
Kriti Sharma is the Founder of AI for Good, an organization focused on building scalable technology solutions for social good. In 2018, she also launched rAInbow, a digital companion for women facing domestic violence in South Africa. This service reached nearly 200,000 conversations within the first 100 days, breaking down the stigma of gender-based violence. In 2019, she collaborated with the Population Foundation of India to launch Dr. Sneha, an AI-powered digital character to engage with young people about sexual health, an issue that is still considered a taboo in India.
Sharma was recently named in the Forbes "30 Under 30" list for advancements in AI. She was appointed a United Nations Young Leader in 2018 and is an advisor to both the United Nations Technology Innovation Labs and to the UK Government’s Centre for Data Ethics and Innovation.
Kriti Sharma | Speaker | TED.com