TEDxWarwick
Kriti Sharma: How to keep human bias out of AI
Kriti Sharma: Hogyan tartsuk a mesterséges intelligenciát előítélet-mentesen?
Filmed:
Readability: 4
2,050,106 views
A mesterséges intelligenciák állandóan fontos döntéseket hoznak rólunk – mint hogy mennyit kell fizetnünk az autóbiztosításért, vagy hogy megkapjuk-e az állásinterjút. De mi történik akkor, ha ezek a gépek az emberi előítéleteket is beépítik a rendszerükbe? Kriti Sharma technológus azt vizsgálja, hogy a technológiai sokféleség hiánya hogyan épül be a mesterséges intelligenciába, és három módot ajánl ennek elkerülésére.
Kriti Sharma - AI technologist
Kriti Sharma creates AI technology to help address some of the toughest social challenges of our time -- from domestic violence to sexual health and inequality. Full bio
Kriti Sharma creates AI technology to help address some of the toughest social challenges of our time -- from domestic violence to sexual health and inequality. Full bio
Double-click the English transcript below to play the video.
00:12
How many decisions
have been made about you today,
have been made about you today,
0
875
3768
Hány döntést hozott önökről
00:16
or this week or this year,
1
4667
2601
ma, ezen a héten, ebben az évben
00:19
by artificial intelligence?
2
7292
1958
a mesterséges intelligencia (MI) ?
00:22
I build AI for a living
3
10958
1685
Abból élek, hogy az MI-t építem.
00:24
so, full disclosure, I'm kind of a nerd.
4
12667
3017
Szóval, hogy értsék, kocka vagyok.
00:27
And because I'm kind of a nerd,
5
15708
2393
És kocka voltom miatt
00:30
wherever some new news story comes out
6
18125
2351
ha bármikor felbukkan egy új sztori arról,
00:32
about artificial intelligence
stealing all our jobs,
stealing all our jobs,
7
20500
3434
hogy az MI ellopja az állásainkat,
00:35
or robots getting citizenship
of an actual country,
of an actual country,
8
23958
4185
vagy robotok kapnak
állampolgárságot egy országban,
állampolgárságot egy országban,
00:40
I'm the person my friends
and followers message
and followers message
9
28167
3142
én vagyok az az ember,
akit barátai és követői
akit barátai és követői
00:43
freaking out about the future.
10
31333
1542
nyaggatnak a jövőről.
00:45
We see this everywhere.
11
33833
2101
Ezt látjuk mindenfelé.
00:47
This media panic that
our robot overlords are taking over.
our robot overlords are taking over.
12
35958
4893
Ezt a médiapánikot, hogy a robotok
átveszik az uralmat.
átveszik az uralmat.
00:52
We could blame Hollywood for that.
13
40875
1917
Hollywoodot hibáztathatjuk ezért.
00:56
But in reality, that's not the problem
we should be focusing on.
we should be focusing on.
14
44125
4125
De a valóságban nem erre a problémára
kéne összpontosítanunk.
kéne összpontosítanunk.
01:01
There is a more pressing danger,
a bigger risk with AI,
a bigger risk with AI,
15
49250
3643
Van egy sürgetőbb veszély,
egy nagyobb kockázat az MI-vel,
egy nagyobb kockázat az MI-vel,
01:04
that we need to fix first.
16
52917
1583
először azt kéne megoldani.
01:07
So we are back to this question:
17
55417
2309
Ezért visszatérek erre a kérdésre:
01:09
How many decisions
have been made about you today by AI?
have been made about you today by AI?
18
57750
4708
Hány döntést hozott
önökkel kapcsolatban ma az MI?
önökkel kapcsolatban ma az MI?
01:15
And how many of these
19
63792
1976
És ezek közül mennyi alapult
01:17
were based on your gender,
your race or your background?
your race or your background?
20
65792
4500
a nemükön, a fajukon, vagy a hátterükön?
01:24
Algorithms are being used all the time
21
72500
2768
Folyamatosan használnak
algoritmusokat arra,
algoritmusokat arra,
01:27
to make decisions about who we are
and what we want.
and what we want.
22
75292
3833
hogy döntsenek arról,
kik vagyunk és mit akarunk.
kik vagyunk és mit akarunk.
01:32
Some of the women in this room
will know what I'm talking about
will know what I'm talking about
23
80208
3643
Néhány nő a teremben tudja,
miről beszélek,
miről beszélek,
01:35
if you've been made to sit through
those pregnancy test adverts on YouTube
those pregnancy test adverts on YouTube
24
83875
3768
ha kénytelenek voltak végignézni
terhességiteszt-reklámokat a YouTube-on,
terhességiteszt-reklámokat a YouTube-on,
01:39
like 1,000 times.
25
87667
2059
nagyjából ezerszer,
01:41
Or you've scrolled past adverts
of fertility clinics
of fertility clinics
26
89750
2851
vagy termékenységi klinikák
reklámjait görgették át
reklámjait görgették át
01:44
on your Facebook feed.
27
92625
2042
Facebook-csatornájukon,
01:47
Or in my case, Indian marriage bureaus.
28
95625
2393
vagy esetemben
indiai házasságközvetítőkét.
indiai házasságközvetítőkét.
01:50
(Laughter)
29
98042
1267
(Nevetés)
01:51
But AI isn't just being used
to make decisions
to make decisions
30
99333
2976
De az MI nem csak arról dönt,
01:54
about what products we want to buy
31
102333
2601
mit akarunk vásárolni,
01:56
or which show we want to binge watch next.
32
104958
2500
vagy mit szeretnénk legközelebb megnézni.
02:01
I wonder how you'd feel about someone
who thought things like this:
who thought things like this:
33
109042
5184
Vajon mi lenne a véleményük
valakiről, aki így gondolkodik:
valakiről, aki így gondolkodik:
02:06
"A black or Latino person
34
114250
1934
"Egy fekete vagy latin ember
02:08
is less likely than a white person
to pay off their loan on time."
to pay off their loan on time."
35
116208
4125
kisebb eséllyel fizeti vissza
időben a hitelét, mint egy fehér."
időben a hitelét, mint egy fehér."
02:13
"A person called John
makes a better programmer
makes a better programmer
36
121542
2809
"Egy John nevű ember
jobb programozó lehet,
jobb programozó lehet,
02:16
than a person called Mary."
37
124375
1667
mint akit Marynek hívnak."
02:19
"A black man is more likely to be
a repeat offender than a white man."
a repeat offender than a white man."
38
127250
5083
"Egy fekete nagyobb valószínűséggel válik
visszaeső bűnözővé, mint egy fehér."
visszaeső bűnözővé, mint egy fehér."
Valószínűleg azt gondolják:
02:26
You're probably thinking,
39
134958
1268
02:28
"Wow, that sounds like a pretty sexist,
racist person," right?
racist person," right?
40
136250
3750
"Hú, ez elég szexista
és rasszista ember!" Igaz?
és rasszista ember!" Igaz?
02:33
These are some real decisions
that AI has made very recently,
that AI has made very recently,
41
141000
4851
Ez néhány, MI által
mostanában hozott tényleges döntés,
mostanában hozott tényleges döntés,
ami a tőlünk tanult előítéleteken alapul.
02:37
based on the biases
it has learned from us,
it has learned from us,
42
145875
2934
02:40
from the humans.
43
148833
1250
Tőlünk, emberektől.
02:43
AI is being used to help decide
whether or not you get that job interview;
whether or not you get that job interview;
44
151750
4809
Az MI-t használják annak eldöntésére,
ki kaphat állásinterjút,
ki kaphat állásinterjút,
02:48
how much you pay for your car insurance;
45
156583
2393
mennyit kell fizetnünk
az autóbiztosításunkért,
az autóbiztosításunkért,
02:51
how good your credit score is;
46
159000
1893
mennyire jó a hitelképességünk,
02:52
and even what rating you get
in your annual performance review.
in your annual performance review.
47
160917
3125
és még arról is, milyen értékelést kapunk
éves teljesítményünkre.
éves teljesítményünkre.
02:57
But these decisions
are all being filtered through
are all being filtered through
48
165083
3143
De minden ilyen döntést
a hovatartozásunkkal, rasszunkkal,
a hovatartozásunkkal, rasszunkkal,
03:00
its assumptions about our identity,
our race, our gender, our age.
our race, our gender, our age.
49
168250
5875
nemünkkel, korunkkal
kapcsolatos feltételezések befolyásolnak.
kapcsolatos feltételezések befolyásolnak.
03:08
How is that happening?
50
176250
2268
Hogy lehetséges ez?
03:10
Now, imagine an AI is helping
a hiring manager
a hiring manager
51
178542
3517
Képzeljék el, hogy az MI
egy humánerőforrás-menedzsernek segít
egy humánerőforrás-menedzsernek segít
03:14
find the next tech leader in the company.
52
182083
2851
megtalálni a következő informatikai
vezetőt a cég számára.
vezetőt a cég számára.
03:16
So far, the manager
has been hiring mostly men.
has been hiring mostly men.
53
184958
3101
Idáig a menedzser
főleg férfiakat alkalmazott.
főleg férfiakat alkalmazott.
03:20
So the AI learns men are more likely
to be programmers than women.
to be programmers than women.
54
188083
4750
Így az MI azt tanulja, hogy férfiak
inkább válnak programozóvá, mint nők.
inkább válnak programozóvá, mint nők.
03:25
And it's a very short leap from there to:
55
193542
2892
Innen már csak egy kis ugrás,
03:28
men make better programmers than women.
56
196458
2042
hogy a férfiak jobb programozók,
mint a nők.
mint a nők.
03:31
We have reinforced
our own bias into the AI.
our own bias into the AI.
57
199417
3726
Betápláltuk előítéletünket az MI-be,
03:35
And now, it's screening out
female candidates.
female candidates.
58
203167
3625
és az most kiszűri a nőket.
03:40
Hang on, if a human
hiring manager did that,
hiring manager did that,
59
208917
3017
Várjunk csak, ha egy
humánerőforrás-menedzser tenné ezt,
humánerőforrás-menedzser tenné ezt,
03:43
we'd be outraged, we wouldn't allow it.
60
211958
2351
dühösek lennénk, nem engednénk.
03:46
This kind of gender
discrimination is not OK.
discrimination is not OK.
61
214333
3476
Ez egyfajta nemi diszkrimináció,
ami nem jó.
ami nem jó.
03:49
And yet somehow,
AI has become above the law,
AI has become above the law,
62
217833
4518
És mégis, valahogy az MI
törvény felettivé vált,
törvény felettivé vált,
03:54
because a machine made the decision.
63
222375
2083
mert egy gép hozta a döntést.
03:57
That's not it.
64
225833
1518
Nem csak erről van szó.
03:59
We are also reinforcing our bias
in how we interact with AI.
in how we interact with AI.
65
227375
4875
Az MI-vel való kapcsolatteremtés
is előítéleteinket erősíti.
is előítéleteinket erősíti.
04:04
How often do you use a voice assistant
like Siri, Alexa or even Cortana?
like Siri, Alexa or even Cortana?
66
232917
5976
Milyen gyakran használunk
olyan hangasszisztenseket,
olyan hangasszisztenseket,
mint Siri, Alexa és Cortana?
Két dologban mind megegyeznek:
nem tudják helyesen kiejteni a nevem,
nem tudják helyesen kiejteni a nevem,
04:10
They all have two things in common:
67
238917
2559
04:13
one, they can never get my name right,
68
241500
3101
04:16
and second, they are all female.
69
244625
2667
és valamennyien nők.
04:20
They are designed to be
our obedient servants,
our obedient servants,
70
248417
2767
Arra tervezték őket,
hogy engedelmes szolgáink legyenek.
hogy engedelmes szolgáink legyenek.
04:23
turning your lights on and off,
ordering your shopping.
ordering your shopping.
71
251208
3250
Felgyújtsák és leoltsák a lámpáinkat,
vásároljanak számunkra.
vásároljanak számunkra.
04:27
You get male AIs too,
but they tend to be more high-powered,
but they tend to be more high-powered,
72
255125
3309
Férfi MI-k is vannak,
de rendszerint nagyobb hatalmúak:
de rendszerint nagyobb hatalmúak:
04:30
like IBM Watson,
making business decisions,
making business decisions,
73
258458
3059
Mint az IBM Watsonja,
amely üzleti döntéseket hoz,
amely üzleti döntéseket hoz,
04:33
Salesforce Einstein
or ROSS, the robot lawyer.
or ROSS, the robot lawyer.
74
261541
3792
A Salesforce Einsteinje,
vagy ROSS, a robotügyvéd.
vagy ROSS, a robotügyvéd.
04:38
So poor robots, even they suffer
from sexism in the workplace.
from sexism in the workplace.
75
266208
4060
Szóval még a szegény robotok is
szexizmustól szenvednek a munkahelyen.
szexizmustól szenvednek a munkahelyen.
04:42
(Laughter)
76
270292
1125
(Nevetés)
04:44
Think about how these two things combine
77
272542
2851
Gondoljanak bele,
hogy függ össze ez a két dolog,
hogy függ össze ez a két dolog,
04:47
and affect a kid growing up
in today's world around AI.
in today's world around AI.
78
275417
5309
és hogyan hat egy gyerekre, aki napjaink
MI-vel teli világában nő fel.
MI-vel teli világában nő fel.
04:52
So they're doing some research
for a school project
for a school project
79
280750
2934
Például kutatást végeznek
egy iskolai projekthez,
egy iskolai projekthez,
04:55
and they Google images of CEO.
80
283708
3018
és Google-képeket keresnek
vezérigazgatókról.
vezérigazgatókról.
04:58
The algorithm shows them
results of mostly men.
results of mostly men.
81
286750
2893
Az algoritmus főleg férfiakról
mutat nekik képeket.
mutat nekik képeket.
05:01
And now, they Google personal assistant.
82
289667
2559
Aztán személyi asszisztenst gugliznak,
05:04
As you can guess,
it shows them mostly females.
it shows them mostly females.
83
292250
3434
Mint kitalálhatják, főleg nőket látnak.
05:07
And then they want to put on some music,
and maybe order some food,
and maybe order some food,
84
295708
3601
Majd valami zenét szeretnének,
és talán ételt rendelnek,
és talán ételt rendelnek,
05:11
and now, they are barking orders
at an obedient female voice assistant.
at an obedient female voice assistant.
85
299333
6584
és ekkor odavetnek pár parancsot
egy engedelmes női hangú asszisztensnek.
egy engedelmes női hangú asszisztensnek.
05:19
Some of our brightest minds
are creating this technology today.
are creating this technology today.
86
307542
5309
Ezt a technológiát napjaink
legkiválóbb elméi hozzák létre.
legkiválóbb elméi hozzák létre.
05:24
Technology that they could have created
in any way they wanted.
in any way they wanted.
87
312875
4184
Egy technológiát, amelyet bárhogy
létrehozhatnának, ahogy csak akarják.
létrehozhatnának, ahogy csak akarják.
05:29
And yet, they have chosen to create it
in the style of 1950s "Mad Man" secretary.
in the style of 1950s "Mad Man" secretary.
88
317083
5685
És mégis, az 1950-es évek
"Mad Man" titkár stílusában teszik ezt.
"Mad Man" titkár stílusában teszik ezt.
05:34
Yay!
89
322792
1500
Hurrá!
De ne aggódjanak!
05:36
But OK, don't worry,
90
324958
1310
Nem fejezem be azzal,
hogy azt mondom önöknek,
hogy azt mondom önöknek,
05:38
this is not going to end
with me telling you
with me telling you
91
326292
2059
05:40
that we are all heading towards
sexist, racist machines running the world.
sexist, racist machines running the world.
92
328375
3477
mindnyájan egy szexista, rasszista
gépek által vezetett világ felé tartunk.
gépek által vezetett világ felé tartunk.
05:44
The good news about AI
is that it is entirely within our control.
is that it is entirely within our control.
93
332792
5791
A jó hír az MI-ről,
hogy teljesen az irányításunk alatt áll.
hogy teljesen az irányításunk alatt áll.
05:51
We get to teach the right values,
the right ethics to AI.
the right ethics to AI.
94
339333
4000
Valós értékeket és erkölcsöt
kell tanítanunk neki.
kell tanítanunk neki.
05:56
So there are three things we can do.
95
344167
2184
Három dolgot tehetünk:
05:58
One, we can be aware of our own biases
96
346375
3351
Az első, hogy tudatában lehetünk
saját előítéleteinknek,
saját előítéleteinknek,
06:01
and the bias in machines around us.
97
349750
2726
és a gépekben lévő előítéletnek is.
06:04
Two, we can make sure that diverse teams
are building this technology.
are building this technology.
98
352500
4518
A második: változatos összetételű csapatot
biztosítunk a technológia építésére.
biztosítunk a technológia építésére.
06:09
And three, we have to give it
diverse experiences to learn from.
diverse experiences to learn from.
99
357042
4916
És a harmadik: megoldjuk, hogy sokrétűbb
tapasztalatokra építhesse tudását.
tapasztalatokra építhesse tudását.
06:14
I can talk about the first two
from personal experience.
from personal experience.
100
362875
3309
Az első kettőről személyes tapasztalataim
alapján is beszélhetek.
alapján is beszélhetek.
06:18
When you work in technology
101
366208
1435
Ha a műszaki tudományok
területén dolgozunk,
területén dolgozunk,
06:19
and you don't look like
a Mark Zuckerberg or Elon Musk,
a Mark Zuckerberg or Elon Musk,
102
367667
3392
és nem hasonlítunk Mark Zuckerberghez
vagy Elon Muskhoz,
vagy Elon Muskhoz,
06:23
your life is a little bit difficult,
your ability gets questioned.
your ability gets questioned.
103
371083
3750
az életünk kissé bonyolult,
képességeinket megkérdőjelezik.
képességeinket megkérdőjelezik.
06:27
Here's just one example.
104
375875
1393
Itt egy példa:
06:29
Like most developers,
I often join online tech forums
I often join online tech forums
105
377292
3726
Mint a legtöbb fejlesztő, gyakran
csatlakozom online tech fórumokhoz,
csatlakozom online tech fórumokhoz,
06:33
and share my knowledge to help others.
106
381042
3226
hogy tudásommal másokat segítsek.
06:36
And I've found,
107
384292
1309
És rájöttem,
06:37
when I log on as myself,
with my own photo, my own name,
with my own photo, my own name,
108
385625
3976
hogy amikor saját nevem alatt,
saját fotómmal teszem ezt,
saját fotómmal teszem ezt,
06:41
I tend to get questions
or comments like this:
or comments like this:
109
389625
4601
rendszeresen kapok ilyen kérdéseket
és kommenteket, mint:
és kommenteket, mint:
06:46
"What makes you think
you're qualified to talk about AI?"
you're qualified to talk about AI?"
110
394250
3000
"Miből gondolod, hogy elég képzett vagy
ahhoz, hogy az MI-ről beszélj?"
ahhoz, hogy az MI-ről beszélj?"
06:50
"What makes you think
you know about machine learning?"
you know about machine learning?"
111
398458
3476
"Miből gondolod, hogy értesz
a gépi tanuláshoz?
a gépi tanuláshoz?
06:53
So, as you do, I made a new profile,
112
401958
3435
Így tehát csináltam egy új profilt,
és a saját képem helyett egy macskát
választottam sugárhajtású felszereléssel.
választottam sugárhajtású felszereléssel.
06:57
and this time, instead of my own picture,
I chose a cat with a jet pack on it.
I chose a cat with a jet pack on it.
113
405417
4851
És olyan nevet választottam,
amely nem fedi fel a nememet.
amely nem fedi fel a nememet.
07:02
And I chose a name
that did not reveal my gender.
that did not reveal my gender.
114
410292
2458
Valószínűleg kitalálják,
hova akarok kilyukadni, ugye?
hova akarok kilyukadni, ugye?
07:05
You can probably guess
where this is going, right?
where this is going, right?
115
413917
2726
07:08
So, this time, I didn't get any of those
patronizing comments about my ability
patronizing comments about my ability
116
416667
6392
Szóval ezúttal nem kaptam egy leereszkedő
kommentet sem a képességeimről,
kommentet sem a képességeimről,
07:15
and I was able to actually
get some work done.
get some work done.
117
423083
3334
és lehetővé vált,
hogy némi munkát végezzek.
hogy némi munkát végezzek.
07:19
And it sucks, guys.
118
427500
1851
Baromság, srácok.
07:21
I've been building robots since I was 15,
119
429375
2476
15 éves korom óta építek robotokat.
07:23
I have a few degrees in computer science,
120
431875
2268
Van néhány diplomám informatikából,
07:26
and yet, I had to hide my gender
121
434167
2434
és mégis, el kellett rejtenem a nememet,
07:28
in order for my work
to be taken seriously.
to be taken seriously.
122
436625
2250
azért, hogy a munkámat komolyan vegyék.
07:31
So, what's going on here?
123
439875
1893
Szóval, mi folyik itt?
07:33
Are men just better
at technology than women?
at technology than women?
124
441792
3208
Jobbak a férfiak a nőknél a technikában?
07:37
Another study found
125
445917
1559
Egy másik tanulmány kimutatta,
07:39
that when women coders on one platform
hid their gender, like myself,
hid their gender, like myself,
126
447500
4934
hogy amikor női programozók
egy platformon nemüket rejtve dolgoznak,
egy platformon nemüket rejtve dolgoznak,
programjaik 4 százalékkal nagyobb arányban
kerültek elfogadásra a férfiakénál.
kerültek elfogadásra a férfiakénál.
07:44
their code was accepted
four percent more than men.
four percent more than men.
127
452458
3250
07:48
So this is not about the talent.
128
456542
2916
Úgyhogy ez nem a tehetségről szól,
hanem a megkülönböztetésről
az MI területén,
az MI területén,
07:51
This is about an elitism in AI
129
459958
2893
07:54
that says a programmer
needs to look like a certain person.
needs to look like a certain person.
130
462875
2792
mely behatárolja, hogy néz ki
egy programozó.
egy programozó.
07:59
What we really need to do
to make AI better
to make AI better
131
467375
3101
Amit mindenképpen meg kell tennünk,
hogy az MI jobbá váljon,
hogy az MI jobbá váljon,
08:02
is bring people
from all kinds of backgrounds.
from all kinds of backgrounds.
132
470500
3042
hogy eltérő hátterű embereket
kell előtérbe hoznunk,
kell előtérbe hoznunk,
Szükségünk van olyan emberekre,
akik történeteket mondanak és írnak,
akik történeteket mondanak és írnak,
08:06
We need people who can
write and tell stories
write and tell stories
133
474542
2559
08:09
to help us create personalities of AI.
134
477125
2167
melyekkel segítenek bennünket
MI személyiségek létrehozásában.
MI személyiségek létrehozásában.
08:12
We need people who can solve problems.
135
480208
2042
Problémamegoldó emberekre van szükségünk.
08:15
We need people
who face different challenges
who face different challenges
136
483125
3768
Emberekre, akik különféle kihívásokkal
néznek szembe,
néznek szembe,
08:18
and we need people who can tell us
what are the real issues that need fixing
what are the real issues that need fixing
137
486917
5351
akik elmondják nekünk, melyek a valódi,
javítást igénylő hibák,
javítást igénylő hibák,
08:24
and help us find ways
that technology can actually fix it.
that technology can actually fix it.
138
492292
3041
és segítenek megtalálni a kijavításukhoz
szükséges technikai módszereket.
szükséges technikai módszereket.
08:29
Because, when people
from diverse backgrounds come together,
from diverse backgrounds come together,
139
497833
3726
Mert amikor különböző hátterű
emberek jönnek össze,
emberek jönnek össze,
08:33
when we build things in the right way,
140
501583
2143
amikor megfelelően építjük a dolgokat,
08:35
the possibilities are limitless.
141
503750
2042
a lehetőségek határtalanok.
08:38
And that's what I want to end
by talking to you about.
by talking to you about.
142
506750
3309
Erről kívánok beszélni befejezésül,
08:42
Less racist robots, less machines
that are going to take our jobs --
that are going to take our jobs --
143
510083
4225
nem annyira a rasszista robotokról,
vagy a munkánkat elvevő gépekről,
vagy a munkánkat elvevő gépekről,
08:46
and more about what technology
can actually achieve.
can actually achieve.
144
514332
3125
hanem inkább arról,
mit lehet a technológiával elérni.
mit lehet a technológiával elérni.
08:50
So, yes, some of the energy
in the world of AI,
in the world of AI,
145
518292
3434
Szóval, igen, az MI energiáinak egy része,
08:53
in the world of technology
146
521750
1393
a technológia világának
bizonyos hányada arról szól,
bizonyos hányada arról szól,
08:55
is going to be about
what ads you see on your stream.
what ads you see on your stream.
147
523167
4267
milyen reklámokat látunk a csatornánkon.
08:59
But a lot of it is going towards
making the world so much better.
making the world so much better.
148
527458
5209
De nagy része abba az irányba halad,
hogy a világot sokkal jobbá tegyük.
hogy a világot sokkal jobbá tegyük.
09:05
Think about a pregnant woman
in the Democratic Republic of Congo,
in the Democratic Republic of Congo,
149
533500
3768
Gondoljunk egy terhes nőre,
aki a Kongói Demokratikus Köztársaságban
aki a Kongói Demokratikus Köztársaságban
09:09
who has to walk 17 hours
to her nearest rural prenatal clinic
to her nearest rural prenatal clinic
150
537292
4184
17 órát sétál a legközelebbi
vidéki szülészeti klinikára,
vidéki szülészeti klinikára,
09:13
to get a checkup.
151
541500
1851
hogy kivizsgálják.
09:15
What if she could get diagnosis
on her phone, instead?
on her phone, instead?
152
543375
2917
Mi lenne, ha ehelyett telefonon
kaphatna diagnózist?
kaphatna diagnózist?
Vagy gondoljunk arra,
mit jelenthetne az MI
mit jelenthetne az MI
09:19
Or think about what AI could do
153
547750
1809
09:21
for those one in three women
in South Africa
in South Africa
154
549583
2726
minden harmadik nőnek Dél-Afrikában,
09:24
who face domestic violence.
155
552333
2125
akik családon belüli erőszakkal
szembesülnek.
szembesülnek.
09:27
If it wasn't safe to talk out loud,
156
555083
2726
Ha nem volna biztonságos
hangosan kiabálni,
hangosan kiabálni,
09:29
they could get an AI service
to raise alarm,
to raise alarm,
157
557833
2476
kaphatnak egy MI szolgáltatást
a riasztáshoz,
a riasztáshoz,
09:32
get financial and legal advice.
158
560333
2459
pénzügyi vagy jogi tanácshoz.
09:35
These are all real examples of projects
that people, including myself,
that people, including myself,
159
563958
5018
Ezek mind olyan, projektekből vett
valódi példák,
valódi példák,
amelyeken éppen dolgozunk,
az MI-t használva.
az MI-t használva.
09:41
are working on right now, using AI.
160
569000
2500
09:45
So, I'm sure in the next couple of days
there will be yet another news story
there will be yet another news story
161
573542
3601
Biztos vagyok benne, hogy pár napon belül
megint felröppen egy újabb hír
megint felröppen egy újabb hír
09:49
about the existential risk,
162
577167
2684
az egzisztenciális kockázatról,
09:51
robots taking over
and coming for your jobs.
and coming for your jobs.
163
579875
2434
hogy jönnek a robotok,
és átveszik a munkánkat.
és átveszik a munkánkat.
09:54
(Laughter)
164
582333
1018
(Nevetés)
09:55
And when something like that happens,
165
583375
2309
És amikor ilyesmi történik,
09:57
I know I'll get the same messages
worrying about the future.
worrying about the future.
166
585708
3601
tudom, hogy ugyanazokat a jövő miatt
aggódó üzeneteket fogom kapni,
aggódó üzeneteket fogom kapni,
10:01
But I feel incredibly positive
about this technology.
about this technology.
167
589333
3667
de nagyon pozitívan gondolok
erre a technológiára.
erre a technológiára.
10:07
This is our chance to remake the world
into a much more equal place.
into a much more equal place.
168
595458
5959
Ez az esélyünk egyenlőbb
új világot alkotni.
új világot alkotni.
10:14
But to do that, we need to build it
the right way from the get go.
the right way from the get go.
169
602458
4000
De azért, hogy így legyen,
a kezdetektől jól kell felépíteni.
a kezdetektől jól kell felépíteni.
10:19
We need people of different genders,
races, sexualities and backgrounds.
races, sexualities and backgrounds.
170
607667
5083
Kellenek különféle nemű, fajú,
nemi identitású és hátterű emberek.
nemi identitású és hátterű emberek.
10:26
We need women to be the makers
171
614458
2476
Szükségünk van nőkre, akik alkotnak,
10:28
and not just the machines
who do the makers' bidding.
who do the makers' bidding.
172
616958
3000
és nem csak gépek, akik végrehajtják
az alkotók parancsát.
az alkotók parancsát.
10:33
We need to think very carefully
what we teach machines,
what we teach machines,
173
621875
3768
Nagyon meg kell gondolnunk,
mit tanítunk a gépeknek,
mit tanítunk a gépeknek,
10:37
what data we give them,
174
625667
1642
milyen adatokkal látjuk el őket,
10:39
so they don't just repeat
our own past mistakes.
our own past mistakes.
175
627333
3125
hogy ne csupán múltbéli hibáink
megismétlői legyenek.
megismétlői legyenek.
10:44
So I hope I leave you
thinking about two things.
thinking about two things.
176
632125
3542
Remélem, később majd
elgondolkoznak két dolgon:
elgondolkoznak két dolgon:
10:48
First, I hope you leave
thinking about bias today.
thinking about bias today.
177
636542
4559
Először is napjaink előítéleteiről.
10:53
And that the next time
you scroll past an advert
you scroll past an advert
178
641125
3184
És hogy legközelebb,
amikor egy reklámot görgetnek át,
amikor egy reklámot görgetnek át,
amely feltételezi, hogy érdeklik önöket
a termékenységi klinikák
a termékenységi klinikák
10:56
that assumes you are interested
in fertility clinics
in fertility clinics
179
644333
2810
10:59
or online betting websites,
180
647167
2851
vagy az online fogadó oldalak,
11:02
that you think and remember
181
650042
2017
gondolnak majd arra,
és emlékezni fognak rá,
és emlékezni fognak rá,
11:04
that the same technology is assuming
that a black man will reoffend.
that a black man will reoffend.
182
652083
4625
hogy ugyanez a technológia feltételezi,
hogy egy néger ember visszaeső lehet,
hogy egy néger ember visszaeső lehet,
11:09
Or that a woman is more likely
to be a personal assistant than a CEO.
to be a personal assistant than a CEO.
183
657833
4167
vagy egy nő esetében valószínűbb,
hogy személyi asszisztens lesz,
hogy személyi asszisztens lesz,
nem pedig vezérigazgató.
11:14
And I hope that reminds you
that we need to do something about it.
that we need to do something about it.
184
662958
3709
És remélem, ez emlékezteti majd önöket,
hogy valamit tennünk kell ebben az ügyben.
hogy valamit tennünk kell ebben az ügyben.
11:20
And second,
185
668917
1851
Másodszor: remélem, elgondolkodnak arról,
11:22
I hope you think about the fact
186
670792
1892
11:24
that you don't need to look a certain way
187
672708
1976
hogy nem kell
egy bizonyos módon kinéznünk,
egy bizonyos módon kinéznünk,
11:26
or have a certain background
in engineering or technology
in engineering or technology
188
674708
3851
vagy bizonyos háttérrel rendelkeznünk
a tervezésben és a technikában,
a tervezésben és a technikában,
11:30
to create AI,
189
678583
1268
hogy olyan MI-t hozzunk létre,
11:31
which is going to be
a phenomenal force for our future.
a phenomenal force for our future.
190
679875
2875
amely rendkívüli erővé válik a jövőben.
11:36
You don't need to look
like a Mark Zuckerberg,
like a Mark Zuckerberg,
191
684166
2143
Nem kell Mark Zuckerberghez hasonlítanunk.
11:38
you can look like me.
192
686333
1250
Nézhet ki valaki hozzám hasonlóan is.
11:41
And it is up to all of us in this room
193
689250
2893
Ebben a teremben mindenkin múlik,
11:44
to convince the governments
and the corporations
and the corporations
194
692167
2726
hogy meggyőzzük a kormányokat
és a vállalkozókat,
és a vállalkozókat,
11:46
to build AI technology for everyone,
195
694917
2892
hogy az MI technológiát
az összes ember számára építsük,
az összes ember számára építsük,
11:49
including the edge cases.
196
697833
2393
beleértve a kirívó eseteket is.
11:52
And for us all to get education
197
700250
2059
És hogy mindnyájan kapjunk képzést
11:54
about this phenomenal
technology in the future.
technology in the future.
198
702333
2375
erről a rendkívüli
jövőbeni technológiáról.
jövőbeni technológiáról.
11:58
Because if we do that,
199
706167
2017
Mert ha így lesz,
12:00
then we've only just scratched the surface
of what we can achieve with AI.
of what we can achieve with AI.
200
708208
4893
akkor csak épphogy belekóstoltunk abba,
amit az MI-vel elérhetünk.
amit az MI-vel elérhetünk.
12:05
Thank you.
201
713125
1268
Köszönöm.
12:06
(Applause)
202
714417
2708
(Taps)
ABOUT THE SPEAKER
Kriti Sharma - AI technologistKriti Sharma creates AI technology to help address some of the toughest social challenges of our time -- from domestic violence to sexual health and inequality.
Why you should listen
Kriti Sharma is the Founder of AI for Good, an organization focused on building scalable technology solutions for social good. In 2018, she also launched rAInbow, a digital companion for women facing domestic violence in South Africa. This service reached nearly 200,000 conversations within the first 100 days, breaking down the stigma of gender-based violence. In 2019, she collaborated with the Population Foundation of India to launch Dr. Sneha, an AI-powered digital character to engage with young people about sexual health, an issue that is still considered a taboo in India.
Sharma was recently named in the Forbes "30 Under 30" list for advancements in AI. She was appointed a United Nations Young Leader in 2018 and is an advisor to both the United Nations Technology Innovation Labs and to the UK Government’s Centre for Data Ethics and Innovation.
Kriti Sharma | Speaker | TED.com