TEDxBeaconStreet
Joy Buolamwini: How I'm fighting bias in algorithms
Joy Buolamwini: Como eu luto contra o preconceito em algoritmos
Filmed:
Readability: 5.3
1,223,943 views
Joy Buolamwini, estudante de pós-graduação de MIT, trabalhava com um software de reconhecimento facial quando notou um problema: o software não reconhecia o seu rosto, porque as pessoas que tinham codificado o algoritmo não tinham pensado em identificar uma ampla variedade de tons de pele e de estruturas faciais. Agora ela está numa missão de lutar contra o preconceito em aprendizagem de máquina, um fenómeno a que ela chama "olhar codificado". É uma conversa de olhos abertos sobre a responsabilidade necessária em codificação... enquanto os algoritmos tomam conta de cada vez mais aspetos da nossa vida.
Joy Buolamwini - Poet of code
Joy Buolamwini's research explores the intersection of social impact technology and inclusion. Full bio
Joy Buolamwini's research explores the intersection of social impact technology and inclusion. Full bio
Double-click the English transcript below to play the video.
00:13
Hello, I'm Joy, a poet of code,
0
1041
3134
Olá, sou a Joy, uma poetisa de código,
00:16
on a mission to stop
an unseen force that's rising,
an unseen force that's rising,
1
4199
4993
numa missão de fazer parar
uma força invisível em ascensão,
uma força invisível em ascensão,
00:21
a force that I called "the coded gaze,"
2
9216
2856
uma força a que eu chamo
"olhar codificado,"
"olhar codificado,"
00:24
my term for algorithmic bias.
3
12096
3309
o meu termo para preconceito algorítmico.
00:27
Algorithmic bias, like human bias,
results in unfairness.
results in unfairness.
4
15429
4300
O preconceito algorítmico, como o
preconceito humano, resulta da injustiça.
preconceito humano, resulta da injustiça.
00:31
However, algorithms, like viruses,
can spread bias on a massive scale
can spread bias on a massive scale
5
19753
6022
Porém, os algoritmos, tal como os vírus,
podem espalhar preconceitos
numa grande escala
numa grande escala
00:37
at a rapid pace.
6
25799
1582
num ritmo rápido.
00:39
Algorithmic bias can also lead
to exclusionary experiences
to exclusionary experiences
7
27943
4387
O preconceito em algoritmos também
pode levar a experiências de exclusão
pode levar a experiências de exclusão
00:44
and discriminatory practices.
8
32354
2128
e a práticas discriminatórias.
00:46
Let me show you what I mean.
9
34506
2061
Vou mostrar o que quero dizer.
00:48
(Video) Joy Buolamwini: Hi, camera.
I've got a face.
I've got a face.
10
36980
2436
(Vídeo) Olá, câmara, eu tenho um rosto.
00:52
Can you see my face?
11
40162
1864
Podes ver o meu rosto?
00:54
No-glasses face?
12
42051
1625
Um rosto sem óculos?
00:55
You can see her face.
13
43701
2214
Podes ver o rosto dela.
00:58
What about my face?
14
46237
2245
E o meu rosto?
01:03
I've got a mask. Can you see my mask?
15
51890
3750
Tenho uma máscara.
Vês a minha máscara?
Vês a minha máscara?
01:08
Joy Buolamwini: So how did this happen?
16
56474
2365
Joy: Então, como é que isso aconteceu?
01:10
Why am I sitting in front of a computer
17
58863
3141
Porque é que eu estou em frente
de um computador
de um computador
01:14
in a white mask,
18
62028
1424
com uma máscara branca,
01:15
trying to be detected by a cheap webcam?
19
63476
3650
a tentar ser detetada por
uma câmara de vídeo barata?
uma câmara de vídeo barata?
01:19
Well, when I'm not fighting the coded gaze
20
67150
2291
Quando não estou a lutar
contra o olhar codificado
contra o olhar codificado
01:21
as a poet of code,
21
69465
1520
como uma poetisa de código,
01:23
I'm a graduate student
at the MIT Media Lab,
at the MIT Media Lab,
22
71009
3272
sou uma estudante de pós-graduação
no laboratório de "media" do MIT.
no laboratório de "media" do MIT.
01:26
and there I have the opportunity to work
on all sorts of whimsical projects,
on all sorts of whimsical projects,
23
74305
4917
Aí tenho a oportunidade de trabalhar
em todo tipo de projetos bizarros,
em todo tipo de projetos bizarros,
01:31
including the Aspire Mirror,
24
79246
2027
incluindo o Espelho de Desejar,
01:33
a project I did so I could project
digital masks onto my reflection.
digital masks onto my reflection.
25
81297
5134
um projeto que fiz para poder projetar
máscaras digitais para o meu reflexo.
máscaras digitais para o meu reflexo.
01:38
So in the morning, if I wanted
to feel powerful,
to feel powerful,
26
86455
2350
Então, pela manhã,
se quisesse sentir-me poderosa,
se quisesse sentir-me poderosa,
01:40
I could put on a lion.
27
88829
1434
eu podia usar um leão.
01:42
If I wanted to be uplifted,
I might have a quote.
I might have a quote.
28
90287
3496
Se quisesse ficar inspirada,
podia ter uma citação.
podia ter uma citação.
01:45
So I used generic
facial recognition software
facial recognition software
29
93807
2989
Então eu usei o software
genérico de reconhecimento facial
genérico de reconhecimento facial
01:48
to build the system,
30
96820
1351
para construir o sistema,
01:50
but found it was really hard to test it
unless I wore a white mask.
unless I wore a white mask.
31
98195
5103
mas descobri que era difícil testá-lo
a menos que usasse uma máscara branca.
a menos que usasse uma máscara branca.
01:56
Unfortunately, I've run
into this issue before.
into this issue before.
32
104282
4346
Infelizmente, eu já tinha esbarrado
nesse problema.
nesse problema.
02:00
When I was an undergraduate
at Georgia Tech studying computer science,
at Georgia Tech studying computer science,
33
108652
4303
Quando era universitária em Georgia Tech
e estudava ciência informática,
e estudava ciência informática,
02:04
I used to work on social robots,
34
112979
2055
eu costumava trabalhar em robôs sociais,
02:07
and one of my tasks was to get a robot
to play peek-a-boo,
to play peek-a-boo,
35
115058
3777
e uma das minhas tarefas era fazer
com que um robô jogasse às escondidas,
com que um robô jogasse às escondidas,
02:10
a simple turn-taking game
36
118859
1683
um simples jogo de turnos
02:12
where partners cover their face
and then uncover it saying, "Peek-a-boo!"
and then uncover it saying, "Peek-a-boo!"
37
120566
4321
em que os parceiros escondem a cara
e depois destapam-na, dizendo "Espreita!"
e depois destapam-na, dizendo "Espreita!"
02:16
The problem is, peek-a-boo
doesn't really work if I can't see you,
doesn't really work if I can't see you,
38
124911
4429
O problema é que isso só
funciona se eu puder ver o outro,
funciona se eu puder ver o outro,
02:21
and my robot couldn't see me.
39
129364
2499
e o meu robô não me via.
02:23
But I borrowed my roommate's face
to get the project done,
to get the project done,
40
131887
3950
Pedi emprestada a cara da minha
colega de quarto para terminar o projeto,
colega de quarto para terminar o projeto,
02:27
submitted the assignment,
41
135861
1380
apresentei a tarefa e pensei:
02:29
and figured, you know what,
somebody else will solve this problem.
somebody else will solve this problem.
42
137265
3753
"Sabem que mais,
outra pessoa que resolva esse problema".
outra pessoa que resolva esse problema".
02:33
Not too long after,
43
141669
2003
Pouco tempo depois,
02:35
I was in Hong Kong
for an entrepreneurship competition.
for an entrepreneurship competition.
44
143696
4159
eu estava em Hong Kong para uma
competição de empreendedorismo.
competição de empreendedorismo.
02:40
The organizers decided
to take participants
to take participants
45
148339
2694
Os organizadores decidiram
levar os participantes
levar os participantes
02:43
on a tour of local start-ups.
46
151057
2372
numa visita às "start-ups" locais.
02:45
One of the start-ups had a social robot,
47
153453
2715
Uma das "start-ups" tinha um robô social,
02:48
and they decided to do a demo.
48
156192
1912
e decidiram fazer uma demonstração.
02:50
The demo worked on everybody
until it got to me,
until it got to me,
49
158128
2980
A demonstração funcionou com toda a gente
até chegar a minha vez.
até chegar a minha vez.
02:53
and you can probably guess it.
50
161132
1923
Provavelmente já adivinham.
02:55
It couldn't detect my face.
51
163079
2965
Não conseguiu detetar o meu rosto.
02:58
I asked the developers what was going on,
52
166068
2511
Perguntei aos responsáveis
o que é que se passava,
o que é que se passava,
03:00
and it turned out we had used the same
generic facial recognition software.
generic facial recognition software.
53
168603
5533
e acontece que tínhamos usado o mesmo
software genérico de reconhecimento facial.
software genérico de reconhecimento facial.
03:06
Halfway around the world,
54
174160
1650
Do outro lado do mundo,
03:07
I learned that algorithmic bias
can travel as quickly
can travel as quickly
55
175834
3852
aprendi que o preconceito do algoritmo
pode viajar tão depressa
pode viajar tão depressa
03:11
as it takes to download
some files off of the internet.
some files off of the internet.
56
179710
3170
quanto uma descarga
de ficheiros da Internet.
de ficheiros da Internet.
03:15
So what's going on?
Why isn't my face being detected?
Why isn't my face being detected?
57
183745
3076
Então, o que é que se passa?
Porque é que a minha cara não é detetada?
Porque é que a minha cara não é detetada?
03:18
Well, we have to look
at how we give machines sight.
at how we give machines sight.
58
186845
3356
Temos de olhar para o modo
como damos visão às máquinas.
como damos visão às máquinas.
03:22
Computer vision uses
machine learning techniques
machine learning techniques
59
190225
3409
A visão informática usa
técnicas de aprendizagem de máquina
técnicas de aprendizagem de máquina
03:25
to do facial recognition.
60
193658
1880
para fazer o reconhecimento facial.
03:27
So how this works is, you create
a training set with examples of faces.
a training set with examples of faces.
61
195562
3897
Funciona assim: criamos um grupo
de formação com exemplos de rostos.
de formação com exemplos de rostos.
03:31
This is a face. This is a face.
This is not a face.
This is not a face.
62
199483
2818
Isto é um rosto. Isto é um rosto.
Isto não é um rosto.
Isto não é um rosto.
03:34
And over time, you can teach a computer
how to recognize other faces.
how to recognize other faces.
63
202325
4519
Com o tempo, podemos ensinar
o computador a reconhecer rostos.
o computador a reconhecer rostos.
03:38
However, if the training sets
aren't really that diverse,
aren't really that diverse,
64
206868
3989
Contudo, se os grupos de formação
não forem diversificados,
não forem diversificados,
03:42
any face that deviates too much
from the established norm
from the established norm
65
210881
3349
qualquer rosto que se desvie
demasiado da norma estabelecida
demasiado da norma estabelecida
03:46
will be harder to detect,
66
214254
1649
será difícil de detetar.
03:47
which is what was happening to me.
67
215927
1963
Era o que estava a acontecer comigo.
03:49
But don't worry -- there's some good news.
68
217914
2382
Mas não se preocupem,
há boas notícias.
há boas notícias.
03:52
Training sets don't just
materialize out of nowhere.
materialize out of nowhere.
69
220320
2771
Os grupos de formação
não se materializam do nada.
não se materializam do nada.
03:55
We actually can create them.
70
223115
1788
Na verdade, podemos criá-los.
03:56
So there's an opportunity to create
full-spectrum training sets
full-spectrum training sets
71
224927
4176
Portanto, há a oportunidade de criar
grupos de formação com um espetro completo
grupos de formação com um espetro completo
04:01
that reflect a richer
portrait of humanity.
portrait of humanity.
72
229127
3824
que reflitam um retrato
mais rico da humanidade.
mais rico da humanidade.
04:04
Now you've seen in my examples
73
232975
2221
Vocês viram nos meus exemplos
04:07
how social robots
74
235220
1768
com os robôs sociais
04:09
was how I found out about exclusion
with algorithmic bias.
with algorithmic bias.
75
237012
4611
que foi como eu descobri a exclusão
com o preconceito algorítmico.
com o preconceito algorítmico.
04:13
But algorithmic bias can also lead
to discriminatory practices.
to discriminatory practices.
76
241647
4815
Mas o preconceito algorítmico também
pode levar a práticas discriminatórias.
pode levar a práticas discriminatórias.
04:19
Across the US,
77
247437
1453
Nos Estados Unidos da América,
04:20
police departments are starting to use
facial recognition software
facial recognition software
78
248914
4198
os departamentos da polícia começam
a usar o software de reconhecimento facial
a usar o software de reconhecimento facial
04:25
in their crime-fighting arsenal.
79
253136
2459
no seu arsenal de luta contra o crime.
04:27
Georgetown Law published a report
80
255619
2013
A Faculdade de Direito de Georgetown
publicou um relatório
publicou um relatório
04:29
showing that one in two adults
in the US -- that's 117 million people --
in the US -- that's 117 million people --
81
257656
6763
mostrando que um
em dois adultos, nos EUA
em dois adultos, nos EUA
— ou seja, 117 milhões de pessoas —
04:36
have their faces
in facial recognition networks.
in facial recognition networks.
82
264443
3534
têm os rostos em redes
de reconhecimento facial.
de reconhecimento facial.
04:40
Police departments can currently look
at these networks unregulated,
at these networks unregulated,
83
268001
4552
Os departamentos da polícia podem procurar
nessas redes não regulamentadas,
nessas redes não regulamentadas,
04:44
using algorithms that have not
been audited for accuracy.
been audited for accuracy.
84
272577
4286
usando algoritmos que não foram
auditados quanto ao seu rigor.
auditados quanto ao seu rigor.
04:48
Yet we know facial recognition
is not fail proof,
is not fail proof,
85
276887
3864
No entanto, sabemos que o reconhecimento
facial não é à prova de falhas,
facial não é à prova de falhas,
04:52
and labeling faces consistently
remains a challenge.
remains a challenge.
86
280775
4179
e rotular rostos consistentemente
continua a ser um problema.
continua a ser um problema.
04:56
You might have seen this on Facebook.
87
284978
1762
Podem ter visto isto no Facebook.
04:58
My friends and I laugh all the time
when we see other people
when we see other people
88
286764
2988
Os meus amigos e eu estamos sempre a rir
quando vemos outras pessoas
quando vemos outras pessoas
05:01
mislabeled in our photos.
89
289776
2458
mal rotuladas nas nossas fotos.
05:04
But misidentifying a suspected criminal
is no laughing matter,
is no laughing matter,
90
292258
5591
Mas a má identificação de um possível
criminoso não é motivo para rir,
criminoso não é motivo para rir,
05:09
nor is breaching civil liberties.
91
297873
2827
e o mesmo acontece com
a violação das liberdades civis.
a violação das liberdades civis.
05:12
Machine learning is being used
for facial recognition,
for facial recognition,
92
300724
3205
A aprendizagem de máquinas está a ser
usada para reconhecimento facial,
usada para reconhecimento facial,
05:15
but it's also extending beyond the realm
of computer vision.
of computer vision.
93
303953
4505
mas está a estender-se para além
do domínio da visão por computador.
do domínio da visão por computador.
05:21
In her book, "Weapons
of Math Destruction,"
of Math Destruction,"
94
309266
4016
No seu livro, "Armas de
Destruição Matemática" (ADM),
Destruição Matemática" (ADM),
05:25
data scientist Cathy O'Neil
talks about the rising new WMDs --
talks about the rising new WMDs --
95
313306
6681
a cientista de dados Cathy O'Neil
fala sobre o aumento de novas ADM
fala sobre o aumento de novas ADM
05:32
widespread, mysterious
and destructive algorithms
and destructive algorithms
96
320011
4353
algoritmos difundidos,
misteriosos e destrutivos
misteriosos e destrutivos
05:36
that are increasingly being used
to make decisions
to make decisions
97
324388
2964
que estão a ser cada vez mais usados
para tomar decisões
para tomar decisões
05:39
that impact more aspects of our lives.
98
327376
3177
que afetam mais aspetos da nossa vida.
05:42
So who gets hired or fired?
99
330577
1870
Por exemplo, quem é contratado
ou despedido?
ou despedido?
05:44
Do you get that loan?
Do you get insurance?
Do you get insurance?
100
332471
2112
Recebemos esse empréstimo?
Recebemos o seguro?
Recebemos o seguro?
05:46
Are you admitted into the college
you wanted to get into?
you wanted to get into?
101
334607
3503
Somos admitidos na faculdade
em que queremos entrar?
em que queremos entrar?
05:50
Do you and I pay the same price
for the same product
for the same product
102
338134
3509
Pagamos todos o mesmo preço
para o mesmo produto
para o mesmo produto
05:53
purchased on the same platform?
103
341667
2442
comprado na mesma plataforma?
05:56
Law enforcement is also starting
to use machine learning
to use machine learning
104
344133
3759
A polícia também está a começar
a usar a aprendizagem de máquinas
a usar a aprendizagem de máquinas
05:59
for predictive policing.
105
347916
2289
para policiamento preditivo.
06:02
Some judges use machine-generated
risk scores to determine
risk scores to determine
106
350229
3494
Alguns juízes usam a avaliação de risco
gerada por máquinas para determinar
gerada por máquinas para determinar
06:05
how long an individual
is going to spend in prison.
is going to spend in prison.
107
353747
4402
quanto tempo um indivíduo
vai passar na prisão.
vai passar na prisão.
06:10
So we really have to think
about these decisions.
about these decisions.
108
358173
2454
Portanto, temos mesmo que pensar
nessas decisões.
nessas decisões.
06:12
Are they fair?
109
360651
1182
Elas sãos justas?
06:13
And we've seen that algorithmic bias
110
361857
2890
Já vimos que o preconceito algorítmico
06:16
doesn't necessarily always
lead to fair outcomes.
lead to fair outcomes.
111
364771
3374
nem sempre conduz
a resultados justos.
a resultados justos.
06:20
So what can we do about it?
112
368169
1964
Então, o que podemos fazer quanto a isso?
06:22
Well, we can start thinking about
how we create more inclusive code
how we create more inclusive code
113
370157
3680
Podemos começar a pensar
em criar códigos mais inclusivos
em criar códigos mais inclusivos
06:25
and employ inclusive coding practices.
114
373861
2990
e usar práticas de codificação inclusiva.
06:28
It really starts with people.
115
376875
2309
Isto começa com as pessoas.
06:31
So who codes matters.
116
379708
1961
Por isso, é importante quem codifica.
06:33
Are we creating full-spectrum teams
with diverse individuals
with diverse individuals
117
381693
4119
Estaremos a criar equipas de espetro
completo com diversos indivíduos
completo com diversos indivíduos
06:37
who can check each other's blind spots?
118
385836
2411
que podem verificar os pontos cegos
uns dos outros?
uns dos outros?
06:40
On the technical side,
how we code matters.
how we code matters.
119
388271
3545
No lado técnico,
é importante a forma como codificamos.
é importante a forma como codificamos.
06:43
Are we factoring in fairness
as we're developing systems?
as we're developing systems?
120
391840
3651
Estaremos a considerar a equidade
enquanto desenvolvemos os sistemas?
enquanto desenvolvemos os sistemas?
06:47
And finally, why we code matters.
121
395515
2913
E, finalmente, é importante a razão
por que codificamos.
por que codificamos.
06:50
We've used tools of computational creation
to unlock immense wealth.
to unlock immense wealth.
122
398785
5083
Temos usado ferramentas
de criação informática
de criação informática
para desbloquear uma riqueza imensa.
06:55
We now have the opportunity
to unlock even greater equality
to unlock even greater equality
123
403892
4447
Agora temos a oportunidade
de desbloquear uma igualdade ainda maior
de desbloquear uma igualdade ainda maior
07:00
if we make social change a priority
124
408363
2930
se dermos prioridade à mudança social
07:03
and not an afterthought.
125
411317
2170
e não uma reflexão tardia.
07:06
And so these are the three tenets
that will make up the "incoding" movement.
that will make up the "incoding" movement.
126
414008
4522
Portanto, estes são os três princípios
que formam o movimento "de codificação".
que formam o movimento "de codificação".
07:10
Who codes matters,
127
418554
1652
É importante quem codifica,
07:12
how we code matters
128
420230
1543
é importante como codificamos,
07:13
and why we code matters.
129
421797
2023
e é importante a razão
por que codificamos.
por que codificamos.
07:15
So to go towards incoding,
we can start thinking about
we can start thinking about
130
423844
3099
Para avançarmos para a codificação,
podemos começar a pensar
podemos começar a pensar
07:18
building platforms that can identify bias
131
426967
3164
em construir plataformas que
possam identificar preconceitos
possam identificar preconceitos
07:22
by collecting people's experiences
like the ones I shared,
like the ones I shared,
132
430155
3078
reunindo as experiências de pessoas
como as que eu contei,
como as que eu contei,
07:25
but also auditing existing software.
133
433257
3070
e também auditando
os softwares existentes.
os softwares existentes.
07:28
We can also start to create
more inclusive training sets.
more inclusive training sets.
134
436351
3765
Também podemos começar a criar
grupos de formação mais inclusivos.
grupos de formação mais inclusivos.
07:32
Imagine a "Selfies for Inclusion" campaign
135
440140
2803
Imaginem uma campanha
"Selfies para Inclusão"
"Selfies para Inclusão"
07:34
where you and I can help
developers test and create
developers test and create
136
442967
3655
em que qualquer um pode ajudar
os desenvolvedores a criar e testar
os desenvolvedores a criar e testar
07:38
more inclusive training sets.
137
446646
2093
grupos de formação mais inclusivos.
07:41
And we can also start thinking
more conscientiously
more conscientiously
138
449302
2828
Também podemos começar
a pensar com maior consciência
a pensar com maior consciência
07:44
about the social impact
of the technology that we're developing.
of the technology that we're developing.
139
452154
5391
no impacto social da tecnologia
que estamos a desenvolver.
que estamos a desenvolver.
07:49
To get the incoding movement started,
140
457569
2393
Para iniciar o movimento de codificação,
07:51
I've launched the Algorithmic
Justice League,
Justice League,
141
459986
2847
lancei o Algoritmo Liga da Justiça,
07:54
where anyone who cares about fairness
can help fight the coded gaze.
can help fight the coded gaze.
142
462857
5872
em que todos os que
se interessam pela justiça
se interessam pela justiça
podem ajudar a lutar
contra o olhar codificado.
contra o olhar codificado.
08:00
On codedgaze.com, you can report bias,
143
468753
3296
Em codedgaze.com,
podem relatar preconceitos,
podem relatar preconceitos,
08:04
request audits, become a tester
144
472073
2445
exigir auditos, fazerem testes
08:06
and join the ongoing conversation,
145
474542
2771
e participar das conversas em curso,
08:09
#codedgaze.
146
477337
2287
#codedgaze.
08:12
So I invite you to join me
147
480742
2487
Portanto, convido-os a juntarem-se a mim
08:15
in creating a world where technology
works for all of us,
works for all of us,
148
483253
3719
para criar um mundo em que a tecnologia
funcione para todos nós,
funcione para todos nós,
08:18
not just some of us,
149
486996
1897
não apenas para alguns,
08:20
a world where we value inclusion
and center social change.
and center social change.
150
488917
4588
um mundo em que valorizamos a inclusão
e nos centramos na mudança social.
e nos centramos na mudança social.
08:25
Thank you.
151
493529
1175
Obrigada.
08:26
(Applause)
152
494728
4271
(Aplausos).
08:32
But I have one question:
153
500873
2854
Mas eu tenho uma pergunta:
08:35
Will you join me in the fight?
154
503751
2059
Vão juntar-se a mim nesta luta?
08:37
(Laughter)
155
505834
1285
(Risos)
08:39
(Applause)
156
507143
3687
(Aplausos)
ABOUT THE SPEAKER
Joy Buolamwini - Poet of codeJoy Buolamwini's research explores the intersection of social impact technology and inclusion.
Why you should listen
Joy Buolamwini is a poet of code on a mission to show compassion through computation. As a graduate researcher at the MIT Media Lab, she leads the Algorithmic Justice League to fight coded bias. Her research explores the intersection of social impact technology and inclusion. In support of this work, Buolamwini was awarded a $50,000 grant as the Grand Prize winner of a national contest inspired by the critically acclaimed film Hidden Figures, based on the book by Margot Lee Shetterly.
Driven by an entrepreneurial spirit, Buolamwini's global interest in creating technology for social impact spans multiple industries and countries. As the inaugural Chief Technology Officer for Techturized Inc., a hair care technology company, and Swift Tech Solutions, a global health tech consultancy, she led software development for underserved communities in the United States, Ethiopia, Mali, Nigeria and Niger. In Zambia, she explored empowering citizens with skills to create their own technology through the Zamrize Project. In the United Kingdom, Buolamwini piloted a Service Year Initiative to launch Code4Rights which supports youth in creating meaningful technology for their communities in partnership with local organizations.
Through Filmmakers Collaborative, Buolamwini produces media that highlight diverse creators of technology. Her short documentary, The Coded Gaze: Unmasking Algorithmic Bias, debuted at the Museum of Fine Arts Boston and her pilot of the Code4Rights: Journey To Code training series debuted at the Vatican. She has presented keynote speeches and public talks at various forums including #CSforAll at the White House, Harvard University, Saïd Business School, Rutgers University, NCWIT, Grace Hopper Celebration and SXSWedu.
Buolamwini is a Rhodes Scholar, Fulbright Fellow, Google Anita Borg Scholar, Astronaut Scholar, A Stamps President's Scholar and Carter Center technical consultant recognized as a distinguished volunteer. She holds a master's degree in Learning and Technology from Oxford University and a bachelor's degree in Computer Science from the Georgia Institute of Technology. Buolamwini serves as a Harvard resident tutor at Adams House where she mentors students seeking scholarships or pursuing entrepreneurship.
Joy Buolamwini | Speaker | TED.com