TEDxWarwick
Kriti Sharma: How to keep human bias out of AI
קריטי שארמה: איך להשאיר את הדעות הקדומות האנושיות מחוץ לבינה המלאכותית
Filmed:
Readability: 4
2,050,106 views
אלגוריתמים של בינה מלאכותית מקבלים החלטות חשובות כל הזמן -- למשל כמה עליכם לשלם עבור ביטוח הרכב שלכם או האם תעברו את ראיון העבודה הזה. אך מה קורה כאשר מכונות אלה נבנות עם דיעות קדומות אנושיות המקודדות לתוך המערכות שלהן? הטכנולוגית קריטי שארמה חוקרת כיצד חוסר הגיוון במקצועות הטכנולוגיים מתגנב לתוך הבינה המלאכותית שלנו, ומציעה לנו שלוש דרכים ליצירת אלגוריתמים מוסריים יותר.
Kriti Sharma - AI technologist
Kriti Sharma creates AI technology to help address some of the toughest social challenges of our time -- from domestic violence to sexual health and inequality. Full bio
Kriti Sharma creates AI technology to help address some of the toughest social challenges of our time -- from domestic violence to sexual health and inequality. Full bio
Double-click the English transcript below to play the video.
00:12
How many decisions
have been made about you today,
have been made about you today,
0
875
3768
כמה מההחלטות שנעשו לגביכם היום,
00:16
or this week or this year,
1
4667
2601
השבוע או השנה,
00:19
by artificial intelligence?
2
7292
1958
נעשו על-ידי בינה מלאכותית?
00:22
I build AI for a living
3
10958
1685
אני עוסקת בבינה מלאכותית למחייתי
00:24
so, full disclosure, I'm kind of a nerd.
4
12667
3017
אז למען האמת, אני די חנונית.
00:27
And because I'm kind of a nerd,
5
15708
2393
ומשום שאני די חנונית,
00:30
wherever some new news story comes out
6
18125
2351
בכל פעם שמתפרסמת כתבה חדשה
00:32
about artificial intelligence
stealing all our jobs,
stealing all our jobs,
7
20500
3434
על בינה מלאכותית
שגוזלת לנו את מקומות העבודה,
שגוזלת לנו את מקומות העבודה,
00:35
or robots getting citizenship
of an actual country,
of an actual country,
8
23958
4185
או רובוטים שמקבלים אזרחות
של מדינה ממשית,
של מדינה ממשית,
00:40
I'm the person my friends
and followers message
and followers message
9
28167
3142
אני זו שכל החברים
והעוקבים פונים אליה,
והעוקבים פונים אליה,
00:43
freaking out about the future.
10
31333
1542
מבוהלים לגבי העתיד.
00:45
We see this everywhere.
11
33833
2101
אנחנו רואים את זה בכל מקום.
00:47
This media panic that
our robot overlords are taking over.
our robot overlords are taking over.
12
35958
4893
הבהלה התקשורתית מכך
שהרובוטים, אדונינו, משתלטים.
שהרובוטים, אדונינו, משתלטים.
00:52
We could blame Hollywood for that.
13
40875
1917
אנחנו יכולים להאשים בכך את הוליווד.
00:56
But in reality, that's not the problem
we should be focusing on.
we should be focusing on.
14
44125
4125
אך במציאות, זו לא הבעיה
בה עלינו להתמקד.
בה עלינו להתמקד.
01:01
There is a more pressing danger,
a bigger risk with AI,
a bigger risk with AI,
15
49250
3643
יש סכנה דוחקת יותר, סיכון גדול יותר
בהקשר לבינה המלאכותית,
בהקשר לבינה המלאכותית,
01:04
that we need to fix first.
16
52917
1583
שעלינו לתקן קודם.
01:07
So we are back to this question:
17
55417
2309
ושוב חזרנו לשאלה:
01:09
How many decisions
have been made about you today by AI?
have been made about you today by AI?
18
57750
4708
כמה מההחלטות שנעשו לגביכם היום,
נעשו על-ידי בינה מלאכותית?
נעשו על-ידי בינה מלאכותית?
01:15
And how many of these
19
63792
1976
וכמה מתוכן
01:17
were based on your gender,
your race or your background?
your race or your background?
20
65792
4500
התבססו על המגדר שלכם,
הגזע או הרקע שלכם?
הגזע או הרקע שלכם?
01:24
Algorithms are being used all the time
21
72500
2768
אלגוריתמים משמשים בכל זמן
01:27
to make decisions about who we are
and what we want.
and what we want.
22
75292
3833
לקבלת החלטות בהקשר
למי שאנחנו ומה שאנו רוצים.
למי שאנחנו ומה שאנו רוצים.
01:32
Some of the women in this room
will know what I'm talking about
will know what I'm talking about
23
80208
3643
חלק מהנשים בחדר הזה
יבינו על מה אני מדברת,
יבינו על מה אני מדברת,
01:35
if you've been made to sit through
those pregnancy test adverts on YouTube
those pregnancy test adverts on YouTube
24
83875
3768
אם נאלצתן לראות פרסומות
לבדיקות הריון ביוטיוב
לבדיקות הריון ביוטיוב
01:39
like 1,000 times.
25
87667
2059
איזה אלף פעמים.
01:41
Or you've scrolled past adverts
of fertility clinics
of fertility clinics
26
89750
2851
או שגללתן דרך מודעות
למרפאות פוריות
למרפאות פוריות
01:44
on your Facebook feed.
27
92625
2042
בעדכוני הפייסבוק שלכם.
01:47
Or in my case, Indian marriage bureaus.
28
95625
2393
או במקרה שלי, למשרדי שידוכים הודיים.
01:50
(Laughter)
29
98042
1267
(צחוק)
01:51
But AI isn't just being used
to make decisions
to make decisions
30
99333
2976
אבל בינה מלאכותית אינה משמשת
רק לקבלת החלטות
רק לקבלת החלטות
01:54
about what products we want to buy
31
102333
2601
עבור המוצרים אותם נקנה
01:56
or which show we want to binge watch next.
32
104958
2500
או התוכנית הבאה לצפיית-רצף (בינג').
02:01
I wonder how you'd feel about someone
who thought things like this:
who thought things like this:
33
109042
5184
אני תוהה איך תרגישו לגבי מישהו
שיחשוב דברים כמו:
שיחשוב דברים כמו:
02:06
"A black or Latino person
34
114250
1934
"לאדם שחור או ממוצא לטיני
02:08
is less likely than a white person
to pay off their loan on time."
to pay off their loan on time."
35
116208
4125
יש סיכוי נמוך מאדם לבן
להחזיר את ההלוואה בזמן."
להחזיר את ההלוואה בזמן."
02:13
"A person called John
makes a better programmer
makes a better programmer
36
121542
2809
"אדם ששמו ג'ון הוא מתכנת טוב יותר
02:16
than a person called Mary."
37
124375
1667
מאדם ששמו מרי."
02:19
"A black man is more likely to be
a repeat offender than a white man."
a repeat offender than a white man."
38
127250
5083
"לגבר שחור סיכוי גבוה יותר להיות
עבריין בהשוואה לגבר לבן."
עבריין בהשוואה לגבר לבן."
02:26
You're probably thinking,
39
134958
1268
אתם בטח חושבים לעצמכם:
02:28
"Wow, that sounds like a pretty sexist,
racist person," right?
racist person," right?
40
136250
3750
"וואו, זה נשמע כמו מישהו
סקסיסטי וגזעני למדי" נכון?
סקסיסטי וגזעני למדי" נכון?
02:33
These are some real decisions
that AI has made very recently,
that AI has made very recently,
41
141000
4851
אלה כמה מההחלטות האמיתיות
שבינה מלאכותית קיבלה לאחרונה,
שבינה מלאכותית קיבלה לאחרונה,
02:37
based on the biases
it has learned from us,
it has learned from us,
42
145875
2934
בהתבסס על ההטיות
שהיא למדה מאיתנו,
שהיא למדה מאיתנו,
02:40
from the humans.
43
148833
1250
מבני האדם.
02:43
AI is being used to help decide
whether or not you get that job interview;
whether or not you get that job interview;
44
151750
4809
בינה מלאכותית משמשת לסייע בהחלטה האם תתקבלו לעבודה או לא,
02:48
how much you pay for your car insurance;
45
156583
2393
כמה תשלמו עבור ביטוח הרכב,
02:51
how good your credit score is;
46
159000
1893
כמה טוב דירוג האשראי שלכם,
02:52
and even what rating you get
in your annual performance review.
in your annual performance review.
47
160917
3125
ואפילו מה הציון שתקבלו
בהערכת העובד השנתית שלכם.
בהערכת העובד השנתית שלכם.
02:57
But these decisions
are all being filtered through
are all being filtered through
48
165083
3143
אך החלטות אלה עוברות סינון
03:00
its assumptions about our identity,
our race, our gender, our age.
our race, our gender, our age.
49
168250
5875
מבעד להנחות לגבי זהותנו,
הגזע, המגדר והגיל שלנו.
הגזע, המגדר והגיל שלנו.
03:08
How is that happening?
50
176250
2268
כיצד זה קורה?
03:10
Now, imagine an AI is helping
a hiring manager
a hiring manager
51
178542
3517
ובכן, דמיינו בינה מלאכותית
שמסייעת למנהל מגייס
שמסייעת למנהל מגייס
03:14
find the next tech leader in the company.
52
182083
2851
במציאת ראש הצוות הטכנולוגי
הבא של החברה.
הבא של החברה.
03:16
So far, the manager
has been hiring mostly men.
has been hiring mostly men.
53
184958
3101
עד כה המנהל גייס בעיקר גברים.
03:20
So the AI learns men are more likely
to be programmers than women.
to be programmers than women.
54
188083
4750
כך הבינה המלאכותית למדה שלגברים
סיכוי גבוה יותר להיות מתכנתים מנשים.
סיכוי גבוה יותר להיות מתכנתים מנשים.
03:25
And it's a very short leap from there to:
55
193542
2892
וזו קפיצה קצרה אף יותר ל:
03:28
men make better programmers than women.
56
196458
2042
גברים הם מתכנתים טובים יותר מנשים.
03:31
We have reinforced
our own bias into the AI.
our own bias into the AI.
57
199417
3726
הטמענו את ההטיות של עצמנו
בתוך הבינה המלאכותית.
בתוך הבינה המלאכותית.
03:35
And now, it's screening out
female candidates.
female candidates.
58
203167
3625
וכעת היא מסננת מועמדות נשים.
03:40
Hang on, if a human
hiring manager did that,
hiring manager did that,
59
208917
3017
חכו רגע, אם מנהל אנושי
היה עושה את זה
היה עושה את זה
03:43
we'd be outraged, we wouldn't allow it.
60
211958
2351
היינו מתקוממים,
לא היינו מאפשרים זאת.
לא היינו מאפשרים זאת.
03:46
This kind of gender
discrimination is not OK.
discrimination is not OK.
61
214333
3476
אפלייה כזו על רקע מגדר היא לא בסדר.
03:49
And yet somehow,
AI has become above the law,
AI has become above the law,
62
217833
4518
ובכל זאת, איכשהו הבינה המלאכותית
הפכה להיות מעל לחוק,
הפכה להיות מעל לחוק,
03:54
because a machine made the decision.
63
222375
2083
כי זו מכונה שקיבלה את ההחלטה.
03:57
That's not it.
64
225833
1518
וזה לא הכל.
03:59
We are also reinforcing our bias
in how we interact with AI.
in how we interact with AI.
65
227375
4875
אנחנו גם מטמיעים את הדעות הקדומות שלנו בתקשורת עם הבינה המלאכותית.
04:04
How often do you use a voice assistant
like Siri, Alexa or even Cortana?
like Siri, Alexa or even Cortana?
66
232917
5976
כמה אתם משתמשים בעוזרת קולית כמו סירי, אלכסה או אפילו קורטנה?
04:10
They all have two things in common:
67
238917
2559
לכולן שני דברים במשותף:
04:13
one, they can never get my name right,
68
241500
3101
הראשון, הן לעולם לא יצליחו
לקלוט את השם שלי נכון,
לקלוט את השם שלי נכון,
04:16
and second, they are all female.
69
244625
2667
והשני, הן כולן נשים.
04:20
They are designed to be
our obedient servants,
our obedient servants,
70
248417
2767
הן מתוכננות להיות
המשרתות הצייתניות שלנו,
המשרתות הצייתניות שלנו,
04:23
turning your lights on and off,
ordering your shopping.
ordering your shopping.
71
251208
3250
מכבות ומדליקות עבורכם את האור,
מזמינות את הקניות שלכם,
מזמינות את הקניות שלכם,
04:27
You get male AIs too,
but they tend to be more high-powered,
but they tend to be more high-powered,
72
255125
3309
אתם מקבלים גם קולות גבריים,
אך הם נוטים להיות משפיעים יותר,
אך הם נוטים להיות משפיעים יותר,
04:30
like IBM Watson,
making business decisions,
making business decisions,
73
258458
3059
כמו ווטסון של איי.בי.אם,
מקבל החלטות עסקיות,
מקבל החלטות עסקיות,
04:33
Salesforce Einstein
or ROSS, the robot lawyer.
or ROSS, the robot lawyer.
74
261541
3792
איינשטיין של סיילספורס
או רוס, עורך הדין הרובוט.
או רוס, עורך הדין הרובוט.
04:38
So poor robots, even they suffer
from sexism in the workplace.
from sexism in the workplace.
75
266208
4060
מסכנים הרובוטים, אפילו הם סובלים
מסקסיזם במקום העבודה.
מסקסיזם במקום העבודה.
04:42
(Laughter)
76
270292
1125
(צחוק)
04:44
Think about how these two things combine
77
272542
2851
חישבו איך שני הדברים האלה מתחברים
04:47
and affect a kid growing up
in today's world around AI.
in today's world around AI.
78
275417
5309
ומשפיעים על ילד הגדל בעולם של היום
בסביבת בינות מלאכותיות.
בסביבת בינות מלאכותיות.
04:52
So they're doing some research
for a school project
for a school project
79
280750
2934
הם חוקרים קצת במסגרת שיעורי בית
04:55
and they Google images of CEO.
80
283708
3018
ומחפשים בגוגל תמונות של מנכ"ל.
04:58
The algorithm shows them
results of mostly men.
results of mostly men.
81
286750
2893
האלגוריתם יראה להם
בעיקר תוצאות של גברים.
בעיקר תוצאות של גברים.
05:01
And now, they Google personal assistant.
82
289667
2559
ועכשיו, הם מחפשים בגוגל מזכירות.
05:04
As you can guess,
it shows them mostly females.
it shows them mostly females.
83
292250
3434
כפי שתוכלו לנחש,
הוא יראה להם בעיקר נשים.
הוא יראה להם בעיקר נשים.
05:07
And then they want to put on some music,
and maybe order some food,
and maybe order some food,
84
295708
3601
ואז הם ירצו להדליק מוזיקה,
ואולי להזמין משהו לאכול,
ואולי להזמין משהו לאכול,
05:11
and now, they are barking orders
at an obedient female voice assistant.
at an obedient female voice assistant.
85
299333
6584
ועכשיו הם נובחים פקודות
על עוזרת קולית צייתנית.
על עוזרת קולית צייתנית.
05:19
Some of our brightest minds
are creating this technology today.
are creating this technology today.
86
307542
5309
כמה מהמוחות המבריקים ביותר שלנו
הם מיוצרי הטכנולוגיה הזו כיום.
הם מיוצרי הטכנולוגיה הזו כיום.
05:24
Technology that they could have created
in any way they wanted.
in any way they wanted.
87
312875
4184
טכנולוגיה שהם יכלו ליצור
באיזו צורה שיבחרו.
באיזו צורה שיבחרו.
05:29
And yet, they have chosen to create it
in the style of 1950s "Mad Man" secretary.
in the style of 1950s "Mad Man" secretary.
88
317083
5685
ובכל זאת, הם בחרו ליצור אותה
בסגנון מזכירה, משנות החמישים.
בסגנון מזכירה, משנות החמישים.
05:34
Yay!
89
322792
1500
הידד!
05:36
But OK, don't worry,
90
324958
1310
אבל בסדר, אל דאגה.
05:38
this is not going to end
with me telling you
with me telling you
91
326292
2059
זה לא הולך להגמר בכך
שאומר לכם
שאומר לכם
05:40
that we are all heading towards
sexist, racist machines running the world.
sexist, racist machines running the world.
92
328375
3477
שכולנו עומדים בפני מכונות
סקסיסטיות וגזעניות שישלטו בעולם.
סקסיסטיות וגזעניות שישלטו בעולם.
05:44
The good news about AI
is that it is entirely within our control.
is that it is entirely within our control.
93
332792
5791
החדשות הטובות לגבי בינה מלאכותית
הן שהיא לגמרי בשליטתנו.
הן שהיא לגמרי בשליטתנו.
05:51
We get to teach the right values,
the right ethics to AI.
the right ethics to AI.
94
339333
4000
אנחנו זוכים ללמד אותה את הערכים ואת האתיקה הנכונה.
05:56
So there are three things we can do.
95
344167
2184
יש שלושה דברים שביכולתנו לעשות.
05:58
One, we can be aware of our own biases
96
346375
3351
הראשון, אנו יכולים להיות
מודעים לדיעות הקדומות שלנו
מודעים לדיעות הקדומות שלנו
06:01
and the bias in machines around us.
97
349750
2726
והדיעות הקדומות של
המכונות שבסביבה.
המכונות שבסביבה.
06:04
Two, we can make sure that diverse teams
are building this technology.
are building this technology.
98
352500
4518
השני, אנו יכולים לוודא כי צוותים מגוונים
בונים את הטכנולוגיה הזו.
בונים את הטכנולוגיה הזו.
06:09
And three, we have to give it
diverse experiences to learn from.
diverse experiences to learn from.
99
357042
4916
והשלישי, אנו צריכים לספק לה
חוויות מגוונות ללמוד מתוכן.
חוויות מגוונות ללמוד מתוכן.
06:14
I can talk about the first two
from personal experience.
from personal experience.
100
362875
3309
אני יכולה לספר על השניים הראשונים
מנסיוני האישי.
מנסיוני האישי.
06:18
When you work in technology
101
366208
1435
כשאתם עובדים בתחום הטכנולוגי
06:19
and you don't look like
a Mark Zuckerberg or Elon Musk,
a Mark Zuckerberg or Elon Musk,
102
367667
3392
ואתם לא נראים כמו מארק צוקרברג
או אילון מאסק,
או אילון מאסק,
06:23
your life is a little bit difficult,
your ability gets questioned.
your ability gets questioned.
103
371083
3750
החיים שלכם קצת יותר קשים,
היכולת שלכם מוטלת בספק.
היכולת שלכם מוטלת בספק.
06:27
Here's just one example.
104
375875
1393
הנה רק דוגמה אחת.
06:29
Like most developers,
I often join online tech forums
I often join online tech forums
105
377292
3726
כמו רוב המפתחים, לעיתים קרובות
אני מתחברת לפורומים טכניים ברשת
אני מתחברת לפורומים טכניים ברשת
06:33
and share my knowledge to help others.
106
381042
3226
וחולקת מהידע שלי כדי לעזור לאחרים.
06:36
And I've found,
107
384292
1309
וגיליתי,
06:37
when I log on as myself,
with my own photo, my own name,
with my own photo, my own name,
108
385625
3976
שכשאני מתחברת בתור עצמי,
עם התמונה והשם שלי,
עם התמונה והשם שלי,
06:41
I tend to get questions
or comments like this:
or comments like this:
109
389625
4601
אני נוטה לקבל שאלות או תגובות
כמו למשל:
כמו למשל:
06:46
"What makes you think
you're qualified to talk about AI?"
you're qualified to talk about AI?"
110
394250
3000
"מה גורם לך לחשוב שאת מוסמכת
לדבר על בינה מלאכותית?"
לדבר על בינה מלאכותית?"
06:50
"What makes you think
you know about machine learning?"
you know about machine learning?"
111
398458
3476
"מה גורם לך לחשוב שאת מבינה
בלמידת מכונה?"
בלמידת מכונה?"
06:53
So, as you do, I made a new profile,
112
401958
3435
אז כנהוג, יצרתי פרופיל חדש,
06:57
and this time, instead of my own picture,
I chose a cat with a jet pack on it.
I chose a cat with a jet pack on it.
113
405417
4851
והפעם במקום התמונה שלי,
בחרתי בתמונת חתול עם תרמיל ריחוף.
בחרתי בתמונת חתול עם תרמיל ריחוף.
07:02
And I chose a name
that did not reveal my gender.
that did not reveal my gender.
114
410292
2458
ובחרתי בשם שלא חושף
את המגדר שלי.
את המגדר שלי.
07:05
You can probably guess
where this is going, right?
where this is going, right?
115
413917
2726
אתם בטח יכולים לנחש
לאן זה מתקדם, נכון?
לאן זה מתקדם, נכון?
07:08
So, this time, I didn't get any of those
patronizing comments about my ability
patronizing comments about my ability
116
416667
6392
ובכן, הפעם לא קיבלתי אף אחת
מאותן תגובות פטרוניות לגבי היכולת שלי
מאותן תגובות פטרוניות לגבי היכולת שלי
07:15
and I was able to actually
get some work done.
get some work done.
117
423083
3334
ולמעשה הצלחתי לעבוד קצת.
07:19
And it sucks, guys.
118
427500
1851
וזה גרוע, חברים.
07:21
I've been building robots since I was 15,
119
429375
2476
אני בונה רובוטים מאז גיל 15,
07:23
I have a few degrees in computer science,
120
431875
2268
יש לי כמה תארים במדעי המחשב,
07:26
and yet, I had to hide my gender
121
434167
2434
ובכל זאת, נאלצתי
להסתיר את המגדר שלי,
להסתיר את המגדר שלי,
07:28
in order for my work
to be taken seriously.
to be taken seriously.
122
436625
2250
על מנת שיקחו ברצינות
את העבודה שלי.
את העבודה שלי.
07:31
So, what's going on here?
123
439875
1893
אז מה קורה כאן?
07:33
Are men just better
at technology than women?
at technology than women?
124
441792
3208
האם גברים פשוט טובים יותר
בטכנולוגיה מנשים?
בטכנולוגיה מנשים?
07:37
Another study found
125
445917
1559
מחקר נוסף מצא
07:39
that when women coders on one platform
hid their gender, like myself,
hid their gender, like myself,
126
447500
4934
שכאשר מתכנתות בפלטפורמה מסויימת
הסתירו את המגדר שלהן, כמוני,
הסתירו את המגדר שלהן, כמוני,
07:44
their code was accepted
four percent more than men.
four percent more than men.
127
452458
3250
הקוד שלהן התקבל ב-4 אחוזים
יותר מקוד של הגברים.
יותר מקוד של הגברים.
07:48
So this is not about the talent.
128
456542
2916
אז הבעיה היא לא בכישרון.
07:51
This is about an elitism in AI
129
459958
2893
היא באליטיזם בתחום
הבינה המלאכותית
הבינה המלאכותית
07:54
that says a programmer
needs to look like a certain person.
needs to look like a certain person.
130
462875
2792
שקובע איך מתכנת אמור להיראות.
07:59
What we really need to do
to make AI better
to make AI better
131
467375
3101
מה שאנחנו באמת צריכים לעשות
כדי לשפר את הבינה המלאכותית
כדי לשפר את הבינה המלאכותית
08:02
is bring people
from all kinds of backgrounds.
from all kinds of backgrounds.
132
470500
3042
זה להביא אנשים בעלי רקע שונה.
08:06
We need people who can
write and tell stories
write and tell stories
133
474542
2559
אנו זקוקים לאנשים שיודעים
לכתוב ולספר סיפורים
לכתוב ולספר סיפורים
08:09
to help us create personalities of AI.
134
477125
2167
כדי לעזור לנו ליצור את אישיות
הבינה המלאכותית.
הבינה המלאכותית.
08:12
We need people who can solve problems.
135
480208
2042
אנו זקוקים לאנשים שיודעים לפתור בעיות.
08:15
We need people
who face different challenges
who face different challenges
136
483125
3768
אנו זקוקים לאנשים שמתמודדים
עם אתגרים שונים
עם אתגרים שונים
08:18
and we need people who can tell us
what are the real issues that need fixing
what are the real issues that need fixing
137
486917
5351
ואנו זקוקים לאנשים שיכולים לומר לנו
מה הבעיות האמיתיות שיש לפתור,
מה הבעיות האמיתיות שיש לפתור,
08:24
and help us find ways
that technology can actually fix it.
that technology can actually fix it.
138
492292
3041
ושיעזרו לנו למצוא דרכים בהן
הטכנולוגיה תוכל לפתור אותן.
הטכנולוגיה תוכל לפתור אותן.
08:29
Because, when people
from diverse backgrounds come together,
from diverse backgrounds come together,
139
497833
3726
משום שכשאנשים
ממגוון רקעים נפגשים,
ממגוון רקעים נפגשים,
08:33
when we build things in the right way,
140
501583
2143
כשאנו בונים דברים בדרך הנכונה,
08:35
the possibilities are limitless.
141
503750
2042
האפשרויות הן בלתי-מוגבלות.
08:38
And that's what I want to end
by talking to you about.
by talking to you about.
142
506750
3309
וכך אני רוצה לסיים
את השיחה שלנו.
את השיחה שלנו.
08:42
Less racist robots, less machines
that are going to take our jobs --
that are going to take our jobs --
143
510083
4225
פחות רובוטים גזענים, פחות מכונות
שגוזלות את המשרות שלנו --
שגוזלות את המשרות שלנו --
08:46
and more about what technology
can actually achieve.
can actually achieve.
144
514332
3125
ויותר על מה שהטכנולוגיה
יכולה באמת להשיג.
יכולה באמת להשיג.
08:50
So, yes, some of the energy
in the world of AI,
in the world of AI,
145
518292
3434
אז נכון, חלק מהמשאבים
בעולם הבינה המלאכותית,
בעולם הבינה המלאכותית,
08:53
in the world of technology
146
521750
1393
בעולם הטכנולוגיה,
08:55
is going to be about
what ads you see on your stream.
what ads you see on your stream.
147
523167
4267
יוקדשו לאילו מודעות תראו ברשת.
08:59
But a lot of it is going towards
making the world so much better.
making the world so much better.
148
527458
5209
אבל חלק גדול יוקדש להפיכת
העולם להרבה יותר טוב.
העולם להרבה יותר טוב.
09:05
Think about a pregnant woman
in the Democratic Republic of Congo,
in the Democratic Republic of Congo,
149
533500
3768
חישבו על אשה בהריון
ברפובליקה הדמוקרטית של קונגו,
ברפובליקה הדמוקרטית של קונגו,
09:09
who has to walk 17 hours
to her nearest rural prenatal clinic
to her nearest rural prenatal clinic
150
537292
4184
שצריכה ללכת 17 שעות
למרפאת הנשים הכפרית הקרובה
למרפאת הנשים הכפרית הקרובה
09:13
to get a checkup.
151
541500
1851
כדי להבדק.
09:15
What if she could get diagnosis
on her phone, instead?
on her phone, instead?
152
543375
2917
מה אם היא תוכל לעבור אבחון
בטלפון שלה במקום?
בטלפון שלה במקום?
09:19
Or think about what AI could do
153
547750
1809
או חישבו על מה שניתן לעשות
09:21
for those one in three women
in South Africa
in South Africa
154
549583
2726
עבור אחת משלוש נשים
בדרום אפריקה
בדרום אפריקה
09:24
who face domestic violence.
155
552333
2125
שמתמודדות עם אלימות במשפחה.
09:27
If it wasn't safe to talk out loud,
156
555083
2726
אם לא בטוח עבורן לדבר בקול,
09:29
they could get an AI service
to raise alarm,
to raise alarm,
157
557833
2476
הן תוכלנה להיעזר בבינה מלאכותית
כדי להתריע,
כדי להתריע,
09:32
get financial and legal advice.
158
560333
2459
לקבל יעוץ כספי וחוקי.
09:35
These are all real examples of projects
that people, including myself,
that people, including myself,
159
563958
5018
אלה דוגמאות אמיתיות של פרוייקטים
שאנשים, כולל אני,
שאנשים, כולל אני,
09:41
are working on right now, using AI.
160
569000
2500
עובדים עליהם כיום, תוך שימוש
בבינה מלאכותית.
בבינה מלאכותית.
09:45
So, I'm sure in the next couple of days
there will be yet another news story
there will be yet another news story
161
573542
3601
אני בטוחה שבקרוב יצוץ
סיפור חדשותי נוסף
סיפור חדשותי נוסף
09:49
about the existential risk,
162
577167
2684
על הסיכון הקיומי,
09:51
robots taking over
and coming for your jobs.
and coming for your jobs.
163
579875
2434
רובוטים שמשתלטים וחומדים
את המשרות שלכם.
את המשרות שלכם.
09:54
(Laughter)
164
582333
1018
(צחוק)
09:55
And when something like that happens,
165
583375
2309
וכשמשהו כזה קורה,
09:57
I know I'll get the same messages
worrying about the future.
worrying about the future.
166
585708
3601
אני יודעת שאקבל את אותן ההודעות
בדאגה לגבי העתיד.
בדאגה לגבי העתיד.
10:01
But I feel incredibly positive
about this technology.
about this technology.
167
589333
3667
אך אני מרגישה חיובית להפליא
בנוגע לטכנולוגיה הזו.
בנוגע לטכנולוגיה הזו.
10:07
This is our chance to remake the world
into a much more equal place.
into a much more equal place.
168
595458
5959
זו ההזדמנות שלנו להפוך את העולם
למקום הרבה יותר שוויוני.
למקום הרבה יותר שוויוני.
10:14
But to do that, we need to build it
the right way from the get go.
the right way from the get go.
169
602458
4000
אך כדי לעשות זאת, עלינו לבנות אותו
בדרך הנכונה מהבסיס.
בדרך הנכונה מהבסיס.
10:19
We need people of different genders,
races, sexualities and backgrounds.
races, sexualities and backgrounds.
170
607667
5083
אנו זקוקים לאנשים ממגוון מגדרים,
גזעים, העדפות מיניות ורקעים.
גזעים, העדפות מיניות ורקעים.
10:26
We need women to be the makers
171
614458
2476
אנו זקוקים לנשים שתהיינה היוצרות
10:28
and not just the machines
who do the makers' bidding.
who do the makers' bidding.
172
616958
3000
ולא רק המכונות עושות דברו של היוצר.
10:33
We need to think very carefully
what we teach machines,
what we teach machines,
173
621875
3768
אנו צריכים לבחון בקפידה
מה אנו מלמדים את המכונות,
מה אנו מלמדים את המכונות,
10:37
what data we give them,
174
625667
1642
אילו נתונים אנו נותנים להן,
10:39
so they don't just repeat
our own past mistakes.
our own past mistakes.
175
627333
3125
כדי שהן לא רק תחזורנה
על טעויות העבר שלנו.
על טעויות העבר שלנו.
10:44
So I hope I leave you
thinking about two things.
thinking about two things.
176
632125
3542
אני מקווה שאני מותירה אתכם
במחשבה על שני דברים.
במחשבה על שני דברים.
10:48
First, I hope you leave
thinking about bias today.
thinking about bias today.
177
636542
4559
ראשית, אני מקווה שאשאיר אתכם
חושבים על דעות קדומות היום.
חושבים על דעות קדומות היום.
10:53
And that the next time
you scroll past an advert
you scroll past an advert
178
641125
3184
ושבפעם הבאה שתתקלו במודעה ברשת
10:56
that assumes you are interested
in fertility clinics
in fertility clinics
179
644333
2810
שמניחה שאתם מתעניינים
במרפאות פוריות,
במרפאות פוריות,
10:59
or online betting websites,
180
647167
2851
או אתרי הימורים,
11:02
that you think and remember
181
650042
2017
שתחשבו על כך ותזכרו
11:04
that the same technology is assuming
that a black man will reoffend.
that a black man will reoffend.
182
652083
4625
שזו אותה הטכנולוגיה שמניחה
שגבר שחור יהיה עבריין חוזר.
שגבר שחור יהיה עבריין חוזר.
11:09
Or that a woman is more likely
to be a personal assistant than a CEO.
to be a personal assistant than a CEO.
183
657833
4167
או שלאשה סיכוי גדול יותר להיות
עוזרת אישית מאשר מנכ"לית.
עוזרת אישית מאשר מנכ"לית.
11:14
And I hope that reminds you
that we need to do something about it.
that we need to do something about it.
184
662958
3709
ואני מקווה שזה יזכיר לכם
שעלינו לפעול בעניין.
שעלינו לפעול בעניין.
11:20
And second,
185
668917
1851
ושנית,
11:22
I hope you think about the fact
186
670792
1892
אני מקווה שתחשבו על העובדה
11:24
that you don't need to look a certain way
187
672708
1976
שאתם לא צריכים להיות
בעלי מראה מסוים
בעלי מראה מסוים
11:26
or have a certain background
in engineering or technology
in engineering or technology
188
674708
3851
או שיהיה לכם רקע מסוים
בהנדסה או טכנולוגיה
בהנדסה או טכנולוגיה
11:30
to create AI,
189
678583
1268
כדי ליצור בינה מלאכותית,
11:31
which is going to be
a phenomenal force for our future.
a phenomenal force for our future.
190
679875
2875
שתהיה בעלת השפעה מכרעת
על עתידנו.
על עתידנו.
11:36
You don't need to look
like a Mark Zuckerberg,
like a Mark Zuckerberg,
191
684166
2143
אתם לא צריכים להיראות כמו
מארק צוקרברג,
מארק צוקרברג,
11:38
you can look like me.
192
686333
1250
אתם יכולים להיראות כמוני.
11:41
And it is up to all of us in this room
193
689250
2893
ובאחריות כל מי שנמצא בחדר הזה
11:44
to convince the governments
and the corporations
and the corporations
194
692167
2726
לשכנע את הממשלות והתאגידים
11:46
to build AI technology for everyone,
195
694917
2892
לבנות טכנולוגיות בינה מלאכותית
המיועדות לכולם,
המיועדות לכולם,
11:49
including the edge cases.
196
697833
2393
כולל מקרי קצה.
11:52
And for us all to get education
197
700250
2059
ולאפשר לכולנו השכלה
11:54
about this phenomenal
technology in the future.
technology in the future.
198
702333
2375
בתחום הטכנולוגיה הייחודית הזו בעתיד.
11:58
Because if we do that,
199
706167
2017
כי אם נעשה זאת,
12:00
then we've only just scratched the surface
of what we can achieve with AI.
of what we can achieve with AI.
200
708208
4893
זה יהיה רק מעט ממה שנוכל להשיג
בעזרת בינה מלאכותית.
בעזרת בינה מלאכותית.
12:05
Thank you.
201
713125
1268
תודה.
12:06
(Applause)
202
714417
2708
(מחיאות כפיים)
ABOUT THE SPEAKER
Kriti Sharma - AI technologistKriti Sharma creates AI technology to help address some of the toughest social challenges of our time -- from domestic violence to sexual health and inequality.
Why you should listen
Kriti Sharma is the Founder of AI for Good, an organization focused on building scalable technology solutions for social good. In 2018, she also launched rAInbow, a digital companion for women facing domestic violence in South Africa. This service reached nearly 200,000 conversations within the first 100 days, breaking down the stigma of gender-based violence. In 2019, she collaborated with the Population Foundation of India to launch Dr. Sneha, an AI-powered digital character to engage with young people about sexual health, an issue that is still considered a taboo in India.
Sharma was recently named in the Forbes "30 Under 30" list for advancements in AI. She was appointed a United Nations Young Leader in 2018 and is an advisor to both the United Nations Technology Innovation Labs and to the UK Government’s Centre for Data Ethics and Innovation.
Kriti Sharma | Speaker | TED.com