Joy Buolamwini: How I'm fighting bias in algorithms
Joy Buolamwini: Tôi đang đấu tranh với sự thiên vị trong thuật toán
Joy Buolamwini's research explores the intersection of social impact technology and inclusion. Full bio
Double-click the English transcript below to play the video.
an unseen force that's rising,
một lực lượng vô hình đang gia tăng,
"the coded gaze,"
sự thiên vị thuật toán.
results in unfairness.
con người, sẽ đưa đến sự bất công.
can spread bias on a massive scale
thể phát tán sự thiên vị trên quy mô lớn
to exclusionary experiences
nhiều trải nghiệm bị loại trừ ra
I've got a face.
Tôi có một khuôn mặt.
của tôi không?
webcam rẽ tiền?
the coded gaze
at the MIT Media Lab,
tại MIT Media Lab,
on all sorts of whimsical projects,
loại dự án kỳ quặc,
digital masks onto my reflection.
chiếu các mặt nạ số phản ánh tâm trạng tôi
to feel powerful,
cảm thấy mạnh mẽ
I might have a quote.
tôi có thể có một viện dẫn.
facial recognition software
nhận diện khuôn mặt thông dụng
unless I wore a white mask.
chạy thử nó trừ khi tôi đeo mặt nạ trắng
into this issue before.
gặp sự cố này.
at Georgia Tech studying computer science,
học máy tính ở Georgia Tech,
to play peek-a-boo,
cài đặt robot chơi trò "Ú òa",
and then uncover it saying, "Peek-a-boo!"
và tháo mặt ra và nói "Ú òa!"
doesn't really work if I can't see you,
không nhìn thấy bạn,
to get the project done,
cùng phòng để thực hiện dự án,
somebody else will solve this problem.
quyết vấn đề này.
for an entrepreneurship competition.
cuộc thi làm doanh nhân.
to take participants
người tham gia
robot xã hội,
until it got to me,
và khi đến lược tôi
chuyện gì xãy ra vậy,
generic facial recognition software.
phần mềm nhận diện khuôn mặt đó.
can travel as quickly
thuật toán có thể di chuyển nhanh như
some files off of the internet.
Why isn't my face being detected?
Tại sao khuôn mặt tôi không nhận ra được
at how we give machines sight.
cho máy tính nhìn.
machine learning techniques
học máy để nhìn
a training set with examples of faces.
luyện với các ví dụ về khuôn mặt.
This is not a face.
Còn đây thì không.
how to recognize other faces.
cách nhận ra các khuôn mặt khác.
aren't really that diverse,
không đa dạng,
from the established norm
so với chuẩn đã thiết lập
materialize out of nowhere.
cõi hư vô.
full-spectrum training sets
huấn luyện phủ kín các trường hợp
portrait of humanity.
về con người.
của tôi
with algorithmic bias.
thiên vị thuật toán.
to discriminatory practices.
đến các hành vi phân biệt đối xử.
facial recognition software
phần mềm nhận dạng khuôn mặt
báo cáo
in the US -- that's 117 million people --
-- có đến 117 triệu người --
in facial recognition networks.
nhận dạng khuôn mặt.
at these networks unregulated,
vào các mạng lưới không được kiểm soát này
been audited for accuracy.
để bảo đảm sự chính xác.
is not fail proof,
không phải là không có sai sót
remains a challenge.
vẫn còn là một thách thức.
trên Facebook
when we see other people
những người khác
của chúng tôi.
is no laughing matter,
không phải là một chuyện để cười,
quyền tự do dân sự.
for facial recognition,
để nhận diện khuôn mặt,
of computer vision.
vực thị giác máy tính.
of Math Destruction,"
talks about the rising new WMDs --
dữ liệu, nói các loại WMD đang gia tăng --
and destructive algorithms
phổ biến rộng rãi
to make decisions
ra quyết định
cuộc sống.
Do you get insurance?
Bạn có bảo hiểm không?
you wanted to get into?
mà bạn muốn?
for the same product
cho cùng sản phẩm
to use machine learning
sử dụng công nghệ học máy
risk scores to determine
do máy tạo ra để xác định
is going to spend in prison.
about these decisions.
quyết định này.
sự thiên vị thuật toán
lead to fair outcomes.
công bằng
how we create more inclusive code
tạo ra mã lệnh bao hàm nhiều hơn
tính bao hàm.
with diverse individuals
đầy đủ với các cá nhân đa dạng
lẫn nhau?
how we code matters.
chúng ta viết các mã lệnh đó như thế nào
as we're developing systems?
khi xây dựng hệ thống/
mã lệnh đó.
to unlock immense wealth.
tính toán để mở khóa sự giàu có to lớn.
to unlock even greater equality
sự bình đẳng to lớn hơn
một sự ưu tiên
that will make up the "incoding" movement.
phong trào "incoding".
we can start thinking about
ta có thể bắt đầu nghĩ về
nhận diện sự thiên vị
like the ones I shared,
mọi người như tôi đã chia sẽ
more inclusive training sets.
những tập huấn luyện bao hàm hơn
"Tự sướng để hòa nhập"
developers test and create
nhà phát triển kiểm thử và tạo ra
more conscientiously
một cách tận tâm hơn
of the technology that we're developing.
mà ta đang phát triển.
Justice League,
thuật toán,
can help fight the coded gaze.
đều có thể giúp chống lại the coded gaze.
báo cáo lại các thiên vị,
người kiểm thử
works for all of us,
phục vụ cho tất cả chúng ta,
and center social change.
nhập và thay đổi xã hội làm trung tâm
cuộc chiến này không?
ABOUT THE SPEAKER
Joy Buolamwini - Poet of codeJoy Buolamwini's research explores the intersection of social impact technology and inclusion.
Why you should listen
Joy Buolamwini is a poet of code on a mission to show compassion through computation. As a graduate researcher at the MIT Media Lab, she leads the Algorithmic Justice League to fight coded bias. Her research explores the intersection of social impact technology and inclusion. In support of this work, Buolamwini was awarded a $50,000 grant as the Grand Prize winner of a national contest inspired by the critically acclaimed film Hidden Figures, based on the book by Margot Lee Shetterly.
Driven by an entrepreneurial spirit, Buolamwini's global interest in creating technology for social impact spans multiple industries and countries. As the inaugural Chief Technology Officer for Techturized Inc., a hair care technology company, and Swift Tech Solutions, a global health tech consultancy, she led software development for underserved communities in the United States, Ethiopia, Mali, Nigeria and Niger. In Zambia, she explored empowering citizens with skills to create their own technology through the Zamrize Project. In the United Kingdom, Buolamwini piloted a Service Year Initiative to launch Code4Rights which supports youth in creating meaningful technology for their communities in partnership with local organizations.
Through Filmmakers Collaborative, Buolamwini produces media that highlight diverse creators of technology. Her short documentary, The Coded Gaze: Unmasking Algorithmic Bias, debuted at the Museum of Fine Arts Boston and her pilot of the Code4Rights: Journey To Code training series debuted at the Vatican. She has presented keynote speeches and public talks at various forums including #CSforAll at the White House, Harvard University, Saïd Business School, Rutgers University, NCWIT, Grace Hopper Celebration and SXSWedu.
Buolamwini is a Rhodes Scholar, Fulbright Fellow, Google Anita Borg Scholar, Astronaut Scholar, A Stamps President's Scholar and Carter Center technical consultant recognized as a distinguished volunteer. She holds a master's degree in Learning and Technology from Oxford University and a bachelor's degree in Computer Science from the Georgia Institute of Technology. Buolamwini serves as a Harvard resident tutor at Adams House where she mentors students seeking scholarships or pursuing entrepreneurship.
Joy Buolamwini | Speaker | TED.com