Joy Buolamwini: How I'm fighting bias in algorithms
จอย บัวลามมินิ (Joy Buolamwini): ฉันกำลังต่อสู้กับอคติในชุดคำสั่งขั้นตอนวิธีบนคอมพิวเตอร์อย่างไร
Joy Buolamwini's research explores the intersection of social impact technology and inclusion. Full bio
Double-click the English transcript below to play the video.
an unseen force that's rising,
พลังที่เรามองไม่เห็นที่กำลังพุ่งขึ้นมา
การจ้องมองที่ถูกเข้ารหัส (โคดเดด เกซ)
(algorithmic bias)
results in unfairness.
มีผลทำให้เกิดความไม่เป็นธรรม
can spread bias on a massive scale
สามารถแพร่กระจายอคติ ไปได้อย่างกว้างขวาง
to exclusionary experiences
ยังสามารถนำไปสู่ประสบการณ์ที่กันออกไป
I've got a face.
ฉันมีใบหน้า
คุณสามารถเห็นหน้ากากของฉันหรือไม่ค่ะ
สิ่งนี้เกิดขึ้นได้อย่างไรหรือ
อยู่กับโคดเด็ดเกซ
at the MIT Media Lab,
อยู่ที่ห้องทดลองสื่อที่สถาบัน MIT
on all sorts of whimsical projects,
เกี่ยวกับโครงการแปลก ๆ ซึ่งรวมถึง
digital masks onto my reflection.
หน้ากากดิจิตอล ลงบนภาพสะท้อนของฉันบนกระจก
to feel powerful,
ถ้าฉันต้องการจะรู้สึกมีพลัง
I might have a quote.
ฉันอาจยกหรือคัดลอกคำพูดมา
facial recognition software
แบบพื้นฐาน
unless I wore a white mask.
เว้นแต่ว่าฉันจะต้องใส่หน้ากากสีขาว
into this issue before.
มาก่อน
at Georgia Tech studying computer science,
เรียนวิทยาศาสตร์คอมพิวเตอร์
to play peek-a-boo,
ให้หุ่นยนต์เล่นเกมจ๊ะเอ๋
and then uncover it saying, "Peek-a-boo!"
พร้อมกับพูดว่า "จ๊ะเอ๋"
doesn't really work if I can't see you,
ถ้าฉันมองไม่เห็นคุณ
to get the project done,
เพื่อให้โครงการนี้สำเร็จ
somebody else will solve this problem.
จะมีคนอื่นมาแก้ปัญหานี้
for an entrepreneurship competition.
to take participants
พาผู้เข้าร่วมการแข่งขัน
(social robot)
until it got to me,
ว่าเกิดอะไรขึ้น
generic facial recognition software.
โปรแกรมจดจำใบหน้าแบบพื้นฐานแบบเดียวกัน
can travel as quickly
สามารถเดินทางไปได้อย่างรวดเร็ว
some files off of the internet.
ของอินเตอร์เน็ตออกไปจนหมด
Why isn't my face being detected?
ทำไมมันจึงตรวจไม่ใบหน้าของฉัน
at how we give machines sight.
มองเห็นได้อย่างไร
machine learning techniques
ใช้เทคนิคการเรียนรู้ของเครื่องจักรกล
a training set with examples of faces.
การฝึกขึ้นมาพร้อมกับตัวอย่างใบหน้าแบบต่าง ๆ
This is not a face.
นี่ไม่ใช่ใบหน้า
how to recognize other faces.
วิธีการจดจำใบหน้าอื่น ๆ ได้
aren't really that diverse,
ไม่มีความหลากหลายอย่างแท้จริงแล้ว
from the established norm
จากบรรทัดฐานที่สร้างขึ้นมา
materialize out of nowhere.
ขึ้นมาได้เอง
full-spectrum training sets
ชุดการฝึกแบบครบถ้วนทุกส่วน
portrait of humanity.
ได้สมบูรณ์ยิ่งขึ้น
with algorithmic bias.
ด้วยอคติของชุดคำสั่งปฏิบัติ
to discriminatory practices.
นำไปสู่การเลือกปฏิบัติได้อีกด้วย
facial recognition software
ได้ตีพิมพ์
in the US -- that's 117 million people --
-- นั่นก็คือ คน 117 ล้านคน --
in facial recognition networks.
อยู่ในเครือข่ายของการจดจำใบหน้าแล้ว
at these networks unregulated,
ดูเครือข่ายเหล่านี้ได้ โดยไม่มีการควบคุม
been audited for accuracy.
ในเรื่องความเที่ยงตรง
is not fail proof,
ไม่ใช่ข้อมูลที่ใช้ไม่ได้
remains a challenge.
ก็ยังคงเป็นสิ่งที่ท้าทาย
when we see other people
เมื่อเราเห็นคนอื่น ๆ
is no laughing matter,
ไม่ใช่เรื่องน่าขบขัน
ในเสรีภาพของพลเมือง
for facial recognition,
สำหรับการจดจำใบหน้า
of computer vision.
ของการมองเห็นของคอมพิวเตอร์
of Math Destruction,"
(Weapons of Math Destruction)
talks about the rising new WMDs --
การเกิดขึ้นของ ดับเบิลยูเอ็มดี แบบใหม่ --
and destructive algorithms
ลึกลับ (mysterious) ทำลายล้าง (destructive)
to make decisions
เพื่อใช้ในการตัดสินใจ
ในชีวิตของเรามากยิ่งขึ้น
Do you get insurance?
you wanted to get into?
ในมหาวิทยาลัยที่คุณต้องการหรือไม่คะ
for the same product
ในราคาที่เท่ากันหรือไม่คะ
to use machine learning
การเรียนรู้ของเครื่องจักรกล
risk scores to determine
ที่ได้จากเครื่องจักรกล เพื่อตัดสินใจว่า
is going to spend in prison.
about these decisions.
การตัดสินใจเหล่านี้
อคติในชุดคำสั่งขั้นตอนการวิธีนั้น
lead to fair outcomes.
จะนำไปสู่ผลลัพธ์ที่เป็นธรรม
how we create more inclusive code
จะสร้างรหัสที่ครอบคลุมเบ็ดเสร็จยิ่งกว่านี้
ที่ครอบคลุมเบ็ดเสร็จ ได้อย่างไร
with diverse individuals
พร้อมกับบุคคลที่หลากหลายหรือไม่
จุดบอดของแต่ละคนหรือไม่
how we code matters.
เป็นสิ่งสำคัญ
as we're developing systems?
ขณะที่เราพัฒนาระบบหรือไม่
to unlock immense wealth.
เพื่อปลดล็อกความมั่งคั่งที่มากมาย
to unlock even greater equality
แม้กระทั่งระดับคุณภาพที่ยิ่งใหญ่กว่า
เป็นสิ่งสำคัญอันดับแรก
ในภายหลัง
that will make up the "incoding" movement.
ก่อร่างขึ้นเป็นความเคลื่อนไหว "การลงรหัส"
we can start thinking about
เราสามารถเริ่มต้นการคิดเกี่ยวกับ
like the ones I shared,
เช่น คนที่ฉันได้ไปแบ่งปันความคิด
ที่มีอยู่อีกด้วย
more inclusive training sets.
ที่ครอบคลุมเบ็ดเสร็จยิ่งกว่านี้ได้อีกด้วย
"มือถือถ่ายภาพตัวเอง เพื่อนำไปรวมด้วย"
developers test and create
ทดสอบและสร้างขึ้นมาได้
more conscientiously
เป็นเรื่องเป็นราวยิ่งขึ้นได้อีก
of the technology that we're developing.
ที่เรากำลังพัฒนากัน
เริ่มต้นขึ้นมา
Justice League,
ด้านชุดคำสั่งขั้นตอนวิธี
can help fight the coded gaze.
ช่วยต่อสู้เรื่อง การจ้องมองที่ถูกเข้ารหัส
คุณสามารถรายงานเกี่ยวกับ อคติ
works for all of us,
ทำงานให้กับเราทุกคน
and center social change.
และมีศูนย์กลางอยู่ที่การเปลี่ยนแปลงสังคม
ABOUT THE SPEAKER
Joy Buolamwini - Poet of codeJoy Buolamwini's research explores the intersection of social impact technology and inclusion.
Why you should listen
Joy Buolamwini is a poet of code on a mission to show compassion through computation. As a graduate researcher at the MIT Media Lab, she leads the Algorithmic Justice League to fight coded bias. Her research explores the intersection of social impact technology and inclusion. In support of this work, Buolamwini was awarded a $50,000 grant as the Grand Prize winner of a national contest inspired by the critically acclaimed film Hidden Figures, based on the book by Margot Lee Shetterly.
Driven by an entrepreneurial spirit, Buolamwini's global interest in creating technology for social impact spans multiple industries and countries. As the inaugural Chief Technology Officer for Techturized Inc., a hair care technology company, and Swift Tech Solutions, a global health tech consultancy, she led software development for underserved communities in the United States, Ethiopia, Mali, Nigeria and Niger. In Zambia, she explored empowering citizens with skills to create their own technology through the Zamrize Project. In the United Kingdom, Buolamwini piloted a Service Year Initiative to launch Code4Rights which supports youth in creating meaningful technology for their communities in partnership with local organizations.
Through Filmmakers Collaborative, Buolamwini produces media that highlight diverse creators of technology. Her short documentary, The Coded Gaze: Unmasking Algorithmic Bias, debuted at the Museum of Fine Arts Boston and her pilot of the Code4Rights: Journey To Code training series debuted at the Vatican. She has presented keynote speeches and public talks at various forums including #CSforAll at the White House, Harvard University, Saïd Business School, Rutgers University, NCWIT, Grace Hopper Celebration and SXSWedu.
Buolamwini is a Rhodes Scholar, Fulbright Fellow, Google Anita Borg Scholar, Astronaut Scholar, A Stamps President's Scholar and Carter Center technical consultant recognized as a distinguished volunteer. She holds a master's degree in Learning and Technology from Oxford University and a bachelor's degree in Computer Science from the Georgia Institute of Technology. Buolamwini serves as a Harvard resident tutor at Adams House where she mentors students seeking scholarships or pursuing entrepreneurship.
Joy Buolamwini | Speaker | TED.com