TEDxBeaconStreet
Joy Buolamwini: How I'm fighting bias in algorithms
Джой Буоламвини: Как я борюсь со сбоями в алгоритмах
Filmed:
Readability: 5.3
1,223,943 views
Аспирант Массачусетского технологического института Джой Буоламвини работала с программным обеспечением для распознавания лиц, когда столкнулась с проблемой: люди, создавшие алгоритм, не научили его определять целый ряд оттенков кожи и лицевых структур. Сейчас она находится на миссии борьбы со сбоями в машинном обучении, с феноменом, который она назвала «закодированный взгляд». Это выступление, раскрывающее глаза на необходимость ответственного программирования по мере того, как алгоритмы захватывают всё больше и больше аспектов нашей жизни.
Joy Buolamwini - Poet of code
Joy Buolamwini's research explores the intersection of social impact technology and inclusion. Full bio
Joy Buolamwini's research explores the intersection of social impact technology and inclusion. Full bio
Double-click the English transcript below to play the video.
00:13
Hello, I'm Joy, a poet of code,
0
1041
3134
Привет, я Джой, поэт кода.
00:16
on a mission to stop
an unseen force that's rising,
an unseen force that's rising,
1
4199
4993
Моя миссия — остановить невидимую,
набирающую обороты силу,
набирающую обороты силу,
00:21
a force that I called "the coded gaze,"
2
9216
2856
силу, которую я называю
«закодированный взгляд»,
«закодированный взгляд»,
00:24
my term for algorithmic bias.
3
12096
3309
моё определение для алгоритмического сбоя.
00:27
Algorithmic bias, like human bias,
results in unfairness.
results in unfairness.
4
15429
4300
Необъективность алгоритма, как и
человека, ведёт к несправедливости.
человека, ведёт к несправедливости.
00:31
However, algorithms, like viruses,
can spread bias on a massive scale
can spread bias on a massive scale
5
19753
6022
Алгоритмы, как вирусы, способны
распространять ошибки в больших масштабах
распространять ошибки в больших масштабах
00:37
at a rapid pace.
6
25799
1582
и очень быстро.
00:39
Algorithmic bias can also lead
to exclusionary experiences
to exclusionary experiences
7
27943
4387
Алгоритмические отклонения
могут приводить к отчуждению
могут приводить к отчуждению
00:44
and discriminatory practices.
8
32354
2128
и дискриминации.
00:46
Let me show you what I mean.
9
34506
2061
Давайте я покажу, что я имею в виду.
00:48
(Video) Joy Buolamwini: Hi, camera.
I've got a face.
I've got a face.
10
36980
2436
(Видео) Джой: Привет,
камера. Вот моё лицо.
камера. Вот моё лицо.
00:52
Can you see my face?
11
40162
1864
Ты видишь моё лицо?
00:54
No-glasses face?
12
42051
1625
Лицо без очков?
00:55
You can see her face.
13
43701
2214
Ты видишь её лицо.
00:58
What about my face?
14
46237
2245
А моё?
01:03
I've got a mask. Can you see my mask?
15
51890
3750
Теперь с маской. Видишь маску?
01:08
Joy Buolamwini: So how did this happen?
16
56474
2365
Джой Буоламвини: Как так получилось?
01:10
Why am I sitting in front of a computer
17
58863
3141
Почему я сижу за компьютером
01:14
in a white mask,
18
62028
1424
в белой маске,
01:15
trying to be detected by a cheap webcam?
19
63476
3650
пытаясь быть распознанной
дешёвой камерой?
дешёвой камерой?
01:19
Well, when I'm not fighting the coded gaze
20
67150
2291
Когда я не воюю с закодированным взглядом,
01:21
as a poet of code,
21
69465
1520
будучи поэтом кода,
01:23
I'm a graduate student
at the MIT Media Lab,
at the MIT Media Lab,
22
71009
3272
я аспирант Медиа-лаборатории в МИТ,
01:26
and there I have the opportunity to work
on all sorts of whimsical projects,
on all sorts of whimsical projects,
23
74305
4917
где у меня есть возможность работать
над всяческими фантастическими проектами,
над всяческими фантастическими проектами,
01:31
including the Aspire Mirror,
24
79246
2027
включая Зеркало стремлений,
01:33
a project I did so I could project
digital masks onto my reflection.
digital masks onto my reflection.
25
81297
5134
которое позволяет проецировать
цифровые маски на своё отражение.
цифровые маски на своё отражение.
01:38
So in the morning, if I wanted
to feel powerful,
to feel powerful,
26
86455
2350
Например, если утром я хочу
чувствовать себя сильной,
чувствовать себя сильной,
01:40
I could put on a lion.
27
88829
1434
я могу наложить маску льва.
01:42
If I wanted to be uplifted,
I might have a quote.
I might have a quote.
28
90287
3496
Если я хочу приободриться,
то можно обойтись цитатой.
то можно обойтись цитатой.
01:45
So I used generic
facial recognition software
facial recognition software
29
93807
2989
Я использовала обычную
программу распознавания лиц,
программу распознавания лиц,
01:48
to build the system,
30
96820
1351
чтобы создать эту систему,
01:50
but found it was really hard to test it
unless I wore a white mask.
unless I wore a white mask.
31
98195
5103
но оказалось, что её очень трудно
тестировать, если на мне нет белой маски.
тестировать, если на мне нет белой маски.
01:56
Unfortunately, I've run
into this issue before.
into this issue before.
32
104282
4346
К сожалению, я и раньше
сталкивалась с этой проблемой.
сталкивалась с этой проблемой.
02:00
When I was an undergraduate
at Georgia Tech studying computer science,
at Georgia Tech studying computer science,
33
108652
4303
Когда я изучала информатику
в Технологическом институте Джорджии,
в Технологическом институте Джорджии,
02:04
I used to work on social robots,
34
112979
2055
я работала над социальными роботами,
02:07
and one of my tasks was to get a robot
to play peek-a-boo,
to play peek-a-boo,
35
115058
3777
и одной из моих задач было научить
робота играть в «ку-ку».
робота играть в «ку-ку».
02:10
a simple turn-taking game
36
118859
1683
Это простая игра со сменой ролей,
02:12
where partners cover their face
and then uncover it saying, "Peek-a-boo!"
and then uncover it saying, "Peek-a-boo!"
37
120566
4321
когда участники закрывают лицо ладонями,
и, открывая, говорят: «Ку-ку!»
и, открывая, говорят: «Ку-ку!»
02:16
The problem is, peek-a-boo
doesn't really work if I can't see you,
doesn't really work if I can't see you,
38
124911
4429
Проблема заключается в том, что
если вас не видно, то игра теряет смысл,
если вас не видно, то игра теряет смысл,
02:21
and my robot couldn't see me.
39
129364
2499
а мой робот меня не видел.
02:23
But I borrowed my roommate's face
to get the project done,
to get the project done,
40
131887
3950
Моя соседка одолжила мне своё лицо,
чтобы я смогла закончить проект,
чтобы я смогла закончить проект,
02:27
submitted the assignment,
41
135861
1380
я сдала задание
02:29
and figured, you know what,
somebody else will solve this problem.
somebody else will solve this problem.
42
137265
3753
и подумала, что кто-нибудь другой
решит эту проблему.
решит эту проблему.
02:33
Not too long after,
43
141669
2003
Через некоторое время
02:35
I was in Hong Kong
for an entrepreneurship competition.
for an entrepreneurship competition.
44
143696
4159
я участвовала в конкурсе
предринимателей в Гонконге.
предринимателей в Гонконге.
02:40
The organizers decided
to take participants
to take participants
45
148339
2694
Организаторы решили показать участникам
02:43
on a tour of local start-ups.
46
151057
2372
местные стартапы.
02:45
One of the start-ups had a social robot,
47
153453
2715
В одном стартапе был социальный робот,
02:48
and they decided to do a demo.
48
156192
1912
и они решили его продемонстрировать.
02:50
The demo worked on everybody
until it got to me,
until it got to me,
49
158128
2980
Демонстрация сработала на всех,
пока дело не дошло до меня,
пока дело не дошло до меня,
02:53
and you can probably guess it.
50
161132
1923
и вы, наверное, уже догадались.
02:55
It couldn't detect my face.
51
163079
2965
Он не смог распознать моё лицо.
02:58
I asked the developers what was going on,
52
166068
2511
Я спросила у разработчиков, в чём дело,
03:00
and it turned out we had used the same
generic facial recognition software.
generic facial recognition software.
53
168603
5533
и оказалось, что мы использовали одну
и ту же программу для распознавания лиц.
и ту же программу для распознавания лиц.
03:06
Halfway around the world,
54
174160
1650
На другой половине земного шара
03:07
I learned that algorithmic bias
can travel as quickly
can travel as quickly
55
175834
3852
до меня дошло, что алгоритмическая ошибка
может распространяться так же быстро,
может распространяться так же быстро,
03:11
as it takes to download
some files off of the internet.
some files off of the internet.
56
179710
3170
как быстро можно скачивать
файлы из интернета.
файлы из интернета.
03:15
So what's going on?
Why isn't my face being detected?
Why isn't my face being detected?
57
183745
3076
Так что же происходит? Почему
моё лицо не распознаётся?
моё лицо не распознаётся?
03:18
Well, we have to look
at how we give machines sight.
at how we give machines sight.
58
186845
3356
Для начала рассмотрим,
как мы создаём машинное зрение.
как мы создаём машинное зрение.
03:22
Computer vision uses
machine learning techniques
machine learning techniques
59
190225
3409
Компьютерное зрение использует
техники машинного обучения,
техники машинного обучения,
03:25
to do facial recognition.
60
193658
1880
чтобы распознавать лица.
03:27
So how this works is, you create
a training set with examples of faces.
a training set with examples of faces.
61
195562
3897
Это работает таким образом: вы создаёте
тренировочный набор с примерами лиц.
тренировочный набор с примерами лиц.
03:31
This is a face. This is a face.
This is not a face.
This is not a face.
62
199483
2818
Это лицо. Это лицо. Это не лицо.
03:34
And over time, you can teach a computer
how to recognize other faces.
how to recognize other faces.
63
202325
4519
И постепенно вы можете научить
компьютер распознавать другие лица.
компьютер распознавать другие лица.
03:38
However, if the training sets
aren't really that diverse,
aren't really that diverse,
64
206868
3989
Однако, если тренировочные наборы
не очень разнообразны,
не очень разнообразны,
03:42
any face that deviates too much
from the established norm
from the established norm
65
210881
3349
любое лицо, которое сильно отличается
от установленной нормы,
от установленной нормы,
03:46
will be harder to detect,
66
214254
1649
будет сложно распознать,
03:47
which is what was happening to me.
67
215927
1963
что и происходило со мной.
03:49
But don't worry -- there's some good news.
68
217914
2382
Но не переживайте —
есть и хорошие новости.
есть и хорошие новости.
03:52
Training sets don't just
materialize out of nowhere.
materialize out of nowhere.
69
220320
2771
Тренировочные наборы
не появляются из ниоткуда.
не появляются из ниоткуда.
03:55
We actually can create them.
70
223115
1788
Мы вообще-то можем их создавать.
03:56
So there's an opportunity to create
full-spectrum training sets
full-spectrum training sets
71
224927
4176
Есть возможность создавать полный спектр
тренировочных наборов,
тренировочных наборов,
04:01
that reflect a richer
portrait of humanity.
portrait of humanity.
72
229127
3824
которые отражают более насыщенный
портрет человечества.
портрет человечества.
04:04
Now you've seen in my examples
73
232975
2221
Вы увидели в моих примерах,
04:07
how social robots
74
235220
1768
как социальные роботы
04:09
was how I found out about exclusion
with algorithmic bias.
with algorithmic bias.
75
237012
4611
позволили мне обнаружить исключения
из-за алгоритмической погрешности.
из-за алгоритмической погрешности.
04:13
But algorithmic bias can also lead
to discriminatory practices.
to discriminatory practices.
76
241647
4815
Но алгоритмическая ошибка может также
приводить к дискриминации.
приводить к дискриминации.
04:19
Across the US,
77
247437
1453
В США
04:20
police departments are starting to use
facial recognition software
facial recognition software
78
248914
4198
отделения полиции начинают использовать
программы распознавания лиц
программы распознавания лиц
04:25
in their crime-fighting arsenal.
79
253136
2459
в их арсенале борьбы с преступностью.
04:27
Georgetown Law published a report
80
255619
2013
Школа права университета Джорджтаун
04:29
showing that one in two adults
in the US -- that's 117 million people --
in the US -- that's 117 million people --
81
257656
6763
опубликовала отчёт, согласно которому
в США один из двух взрослых —
в США один из двух взрослых —
04:36
have their faces
in facial recognition networks.
in facial recognition networks.
82
264443
3534
это 117 миллионов человек —
имеют свои лица в сетях распознавания лиц.
имеют свои лица в сетях распознавания лиц.
04:40
Police departments can currently look
at these networks unregulated,
at these networks unregulated,
83
268001
4552
Отделения полиции сейчас могут
неограниченно пользоваться этими сетями,
неограниченно пользоваться этими сетями,
04:44
using algorithms that have not
been audited for accuracy.
been audited for accuracy.
84
272577
4286
используя алгоритмы, точность
которых не была проверена.
которых не была проверена.
04:48
Yet we know facial recognition
is not fail proof,
is not fail proof,
85
276887
3864
Но мы знаем, что
распознавание лиц несовершенно
распознавание лиц несовершенно
04:52
and labeling faces consistently
remains a challenge.
remains a challenge.
86
280775
4179
и что последовательное определение лиц
остаётся сложной задачей.
остаётся сложной задачей.
04:56
You might have seen this on Facebook.
87
284978
1762
Можно столкнуться с этим на Фейсбуке.
04:58
My friends and I laugh all the time
when we see other people
when we see other people
88
286764
2988
Мы с друзьями всё время смеёмся,
когда видим других людей,
когда видим других людей,
05:01
mislabeled in our photos.
89
289776
2458
отмеченных на наших фото.
05:04
But misidentifying a suspected criminal
is no laughing matter,
is no laughing matter,
90
292258
5591
Но ошибочное определение уголовно
подозреваемого — это не шутка
подозреваемого — это не шутка
05:09
nor is breaching civil liberties.
91
297873
2827
и не просто нарушение гражданских свобод.
05:12
Machine learning is being used
for facial recognition,
for facial recognition,
92
300724
3205
Машинное обучение используется
для распознавания лиц,
для распознавания лиц,
05:15
but it's also extending beyond the realm
of computer vision.
of computer vision.
93
303953
4505
но не ограничивается компьютерным зрением.
05:21
In her book, "Weapons
of Math Destruction,"
of Math Destruction,"
94
309266
4016
В своей книге «Оружие
математического поражения»
математического поражения»
05:25
data scientist Cathy O'Neil
talks about the rising new WMDs --
talks about the rising new WMDs --
95
313306
6681
учёный в области данных Кэти О'нейл
рассказывает о новом ОМП —
рассказывает о новом ОМП —
05:32
widespread, mysterious
and destructive algorithms
and destructive algorithms
96
320011
4353
охватывающих, малоизвестных
и поражающих алгоритмах,
и поражающих алгоритмах,
05:36
that are increasingly being used
to make decisions
to make decisions
97
324388
2964
которые всё чаще используются
для принятия решений,
для принятия решений,
05:39
that impact more aspects of our lives.
98
327376
3177
которые влияют на всё большее количество
аспектов нашей жизни.
аспектов нашей жизни.
05:42
So who gets hired or fired?
99
330577
1870
Кто будет принят на работу или уволен?
05:44
Do you get that loan?
Do you get insurance?
Do you get insurance?
100
332471
2112
Дадут ли вам этот кредит? Страховку?
05:46
Are you admitted into the college
you wanted to get into?
you wanted to get into?
101
334607
3503
Попадёте ли вы в тот колледж,
в который собирались?
в который собирались?
05:50
Do you and I pay the same price
for the same product
for the same product
102
338134
3509
Одинаковы ли цены для вас и для меня
на один и тот же товар,
на один и тот же товар,
05:53
purchased on the same platform?
103
341667
2442
купленный на той же платформе?
05:56
Law enforcement is also starting
to use machine learning
to use machine learning
104
344133
3759
Правоохранительные органы также
начинают применять машинное обучение
начинают применять машинное обучение
05:59
for predictive policing.
105
347916
2289
для прогнозирования.
06:02
Some judges use machine-generated
risk scores to determine
risk scores to determine
106
350229
3494
Судьи используют рейтинги риска,
сгенерированные машиной, для определения
сгенерированные машиной, для определения
06:05
how long an individual
is going to spend in prison.
is going to spend in prison.
107
353747
4402
срока, который человек
должен будет провести в тюрьме.
должен будет провести в тюрьме.
06:10
So we really have to think
about these decisions.
about these decisions.
108
358173
2454
Мы должны крепко задуматься
над этими решениями.
над этими решениями.
06:12
Are they fair?
109
360651
1182
Справедливы ли они?
06:13
And we've seen that algorithmic bias
110
361857
2890
Мы видели, что алгоритмический сбой
06:16
doesn't necessarily always
lead to fair outcomes.
lead to fair outcomes.
111
364771
3374
ведёт к не совсем правильным результатам.
06:20
So what can we do about it?
112
368169
1964
Что же мы можем с этим сделать?
06:22
Well, we can start thinking about
how we create more inclusive code
how we create more inclusive code
113
370157
3680
Для начала, мы можем задуматься о том,
как создавать более всестороний код
как создавать более всестороний код
06:25
and employ inclusive coding practices.
114
373861
2990
и применять инклюзивные практики
в программировании.
в программировании.
06:28
It really starts with people.
115
376875
2309
Это всё начинается с людей.
06:31
So who codes matters.
116
379708
1961
Важно, кто пишет код.
06:33
Are we creating full-spectrum teams
with diverse individuals
with diverse individuals
117
381693
4119
Создаём ли мы группы
из разнообразных личностей,
из разнообразных личностей,
06:37
who can check each other's blind spots?
118
385836
2411
способных видеть слепые зоны друг друга?
06:40
On the technical side,
how we code matters.
how we code matters.
119
388271
3545
С технической стороны, имеет значение
то, как мы пишем код.
то, как мы пишем код.
06:43
Are we factoring in fairness
as we're developing systems?
as we're developing systems?
120
391840
3651
Движет ли нами справедливость
во время разработки систем?
во время разработки систем?
06:47
And finally, why we code matters.
121
395515
2913
И наконец, важно, для чего мы пишем код.
06:50
We've used tools of computational creation
to unlock immense wealth.
to unlock immense wealth.
122
398785
5083
Использование компьютерного творчества
открыло нам невероятное богатство.
открыло нам невероятное богатство.
06:55
We now have the opportunity
to unlock even greater equality
to unlock even greater equality
123
403892
4447
Сейчас у нас есть возможность
добиться ещё большего равенства,
добиться ещё большего равенства,
07:00
if we make social change a priority
124
408363
2930
если мы сделаем социальное
изменение приоритетной,
изменение приоритетной,
07:03
and not an afterthought.
125
411317
2170
а не запоздалой идеей.
07:06
And so these are the three tenets
that will make up the "incoding" movement.
that will make up the "incoding" movement.
126
414008
4522
Итак, есть три принципа, которые
составляют основу движения «инкодинг».
составляют основу движения «инкодинг».
07:10
Who codes matters,
127
418554
1652
Важно, кто пишет код,
07:12
how we code matters
128
420230
1543
важно, как мы пишем код,
07:13
and why we code matters.
129
421797
2023
и важно, для чего мы пишем код.
07:15
So to go towards incoding,
we can start thinking about
we can start thinking about
130
423844
3099
Двигаясь в сторону инкодинга,
мы можем начать задумываться
мы можем начать задумываться
07:18
building platforms that can identify bias
131
426967
3164
о создании платформ,
которые могут находить ошибку,
которые могут находить ошибку,
07:22
by collecting people's experiences
like the ones I shared,
like the ones I shared,
132
430155
3078
собирая опыт людей, таких как я,
07:25
but also auditing existing software.
133
433257
3070
а также проверяющих существующее
программное обеспечение.
программное обеспечение.
07:28
We can also start to create
more inclusive training sets.
more inclusive training sets.
134
436351
3765
Также мы можем приступить к созданию
более полных тренировочных наборов.
более полных тренировочных наборов.
07:32
Imagine a "Selfies for Inclusion" campaign
135
440140
2803
Представьте себе кампанию
«Селфи для присоединения»,
«Селфи для присоединения»,
07:34
where you and I can help
developers test and create
developers test and create
136
442967
3655
где вы и я можем помочь разработчикам
тестировать и создавать
тестировать и создавать
07:38
more inclusive training sets.
137
446646
2093
более полные тренировочные наборы.
07:41
And we can also start thinking
more conscientiously
more conscientiously
138
449302
2828
Также мы можем начать думать
более добросовестно
более добросовестно
07:44
about the social impact
of the technology that we're developing.
of the technology that we're developing.
139
452154
5391
о социальном влиянии технологии,
над которой мы работаем.
над которой мы работаем.
07:49
To get the incoding movement started,
140
457569
2393
Чтобы запустить движение инкодинга,
07:51
I've launched the Algorithmic
Justice League,
Justice League,
141
459986
2847
я создала Лигу алгоритмической
справедливости,
справедливости,
07:54
where anyone who cares about fairness
can help fight the coded gaze.
can help fight the coded gaze.
142
462857
5872
где каждый, кто заботится о равенстве,
может помочь бороться со сбоями.
может помочь бороться со сбоями.
08:00
On codedgaze.com, you can report bias,
143
468753
3296
На codedgaze.com вы
можете сообщить об ошибке,
можете сообщить об ошибке,
08:04
request audits, become a tester
144
472073
2445
запросить проверку, стать тестировщиком
08:06
and join the ongoing conversation,
145
474542
2771
и присоединиться к обсуждению.
08:09
#codedgaze.
146
477337
2287
#codedgaze.
08:12
So I invite you to join me
147
480742
2487
Я приглашаю вас присоединиться ко мне,
08:15
in creating a world where technology
works for all of us,
works for all of us,
148
483253
3719
чтобы создать мир, в котором технология
работает на всех нас,
работает на всех нас,
08:18
not just some of us,
149
486996
1897
а не только на некоторых,
08:20
a world where we value inclusion
and center social change.
and center social change.
150
488917
4588
мир, в котором мы ценим инклюзию и
сосредотачиваемся на социальных переменах.
сосредотачиваемся на социальных переменах.
08:25
Thank you.
151
493529
1175
Спасибо.
08:26
(Applause)
152
494728
4271
(Аплодисменты)
08:32
But I have one question:
153
500873
2854
И у меня один вопрос:
08:35
Will you join me in the fight?
154
503751
2059
«А вы присоединитесь
ко мне в этой борьбе?»
ко мне в этой борьбе?»
08:37
(Laughter)
155
505834
1285
(Смех)
08:39
(Applause)
156
507143
3687
(Аплодисменты)
ABOUT THE SPEAKER
Joy Buolamwini - Poet of codeJoy Buolamwini's research explores the intersection of social impact technology and inclusion.
Why you should listen
Joy Buolamwini is a poet of code on a mission to show compassion through computation. As a graduate researcher at the MIT Media Lab, she leads the Algorithmic Justice League to fight coded bias. Her research explores the intersection of social impact technology and inclusion. In support of this work, Buolamwini was awarded a $50,000 grant as the Grand Prize winner of a national contest inspired by the critically acclaimed film Hidden Figures, based on the book by Margot Lee Shetterly.
Driven by an entrepreneurial spirit, Buolamwini's global interest in creating technology for social impact spans multiple industries and countries. As the inaugural Chief Technology Officer for Techturized Inc., a hair care technology company, and Swift Tech Solutions, a global health tech consultancy, she led software development for underserved communities in the United States, Ethiopia, Mali, Nigeria and Niger. In Zambia, she explored empowering citizens with skills to create their own technology through the Zamrize Project. In the United Kingdom, Buolamwini piloted a Service Year Initiative to launch Code4Rights which supports youth in creating meaningful technology for their communities in partnership with local organizations.
Through Filmmakers Collaborative, Buolamwini produces media that highlight diverse creators of technology. Her short documentary, The Coded Gaze: Unmasking Algorithmic Bias, debuted at the Museum of Fine Arts Boston and her pilot of the Code4Rights: Journey To Code training series debuted at the Vatican. She has presented keynote speeches and public talks at various forums including #CSforAll at the White House, Harvard University, Saïd Business School, Rutgers University, NCWIT, Grace Hopper Celebration and SXSWedu.
Buolamwini is a Rhodes Scholar, Fulbright Fellow, Google Anita Borg Scholar, Astronaut Scholar, A Stamps President's Scholar and Carter Center technical consultant recognized as a distinguished volunteer. She holds a master's degree in Learning and Technology from Oxford University and a bachelor's degree in Computer Science from the Georgia Institute of Technology. Buolamwini serves as a Harvard resident tutor at Adams House where she mentors students seeking scholarships or pursuing entrepreneurship.
Joy Buolamwini | Speaker | TED.com