Nita Farahany: When technology can read minds, how will we protect our privacy?
니타 파라하니(Nita A. Farahany): 과학 기술이 우리 생각을 읽을 때, 개인정보를 어떻게 보호해야 할까요?
Nita A. Farahany is a leading scholar on the ethical, legal, and social implications of biosciences and emerging technologies, particularly those related to neuroscience and behavioral genetics. Full bio
Double-click the English transcript below to play the video.
the 2009 presidential election in Iran,
대통령 선거 뒤 몇 달 동안
시위가 일어났습니다.
violently suppressed
시민운동을 억압했습니다.
as the Iranian Green Movement,
between the protesters.
미국으로 이민을 오셨지만
to the United States in the late 1960s,
extended family live.
그곳에 살고 있었습니다.
crackdowns of the protest,
with me what was happening.
누구도 감히 얘기하지 않았습니다.
the conversation to other topics.
빨리 바꾸려고 했었죠.
what the consequences could be
어떤 결과가 올지 말이죠.
what they were thinking
생각이 들어요.
또는 어떻게 느꼈는지를요.
어떻게 되었을까요?
based on what their brains revealed?
이란 정부가 그분들을 체포했을까요?
더 빨리 올지도 모릅니다.
in neuroscience, artificial intelligence
우리의 능력이 커지면서
of what's happening in the human brain.
곧 훨씬 더 많이 알게 될 것입니다.
about what this means for our freedoms
어떤 의미를 갖는지와
필요한지에 관한 것입니다.
a right to cognitive liberty,
필요하다고 생각합니다.
that needs to be protected.
위협받을 것입니다.
thousands of thoughts each day.
수천 가지 생각을 합니다.
생각이 형태를 취할 때
or a number, a word,
상호 작용을 합니다.
mental state, like relaxation,
특정한 정신 상태일 때
are firing in the brain,
뇌에서 열기를 내게되는데
in characteristic patterns
전류 방출이 일어납니다.
with electroencephalography, or EEG.
측정할 수 있습니다.
you're seeing right now.
바로 그것입니다.
저의 두뇌 활동인데요.
that was recorded in real time
실시간으로 기록됩니다.
that was worn on my head.
when I was relaxed and curious.
호기심이 많을 때의 두뇌 활동입니다.
초기 시판용 EEG 장치를 썼습니다.
consumer-based EEG devices
activity in my brain in real time.
실시간으로 기록했습니다.
that some of you may be wearing
운동량 기록 장치와 다르지 않죠.
or the steps that you've taken,
걸음 수를 측정해주기도 하고
neuroimaging technique on the market.
신경 촬영 기법은 전혀 아닙니다.
our everyday lives.
가능성이 매우 높습니다.
inside the human brain
without ever uttering a word.
complex thoughts just yet,
확실하게 해독할 수 없지만
of artificial intelligence,
some single-digit numbers
that a person is thinking
해독할 수 있습니다.
듣거나 보는 것만으로도요.
몇몇 한계에도 불구하고
that with our advances in technology,
in the human brain
더욱 더 많은 부분이
그렇게 될 것이라는 사실입니다.
they're going to have an epileptic seizure
일어날 거라는 걸 알 수 있습니다.
with their thoughts alone.
컴퓨터 자판을 입력할 수도 있죠.
a technology to embed these sensors
머리 받침대 안에 넣어서
여부를 추적하는 것도 있습니다.
while driving.
and AAA have all taken note.
모두 이 기술에 관심을 보였죠.
choose-your-own-adventure movie
"더 모멘트"라는 영화도 있습니다.
based on your brain-based reactions,
영화의 내용이 바뀝니다.
every time your attention wanes.
다른 결말을 보여주죠.
저도 적극 지지합니다.
행복을 책임질 능력을 주고
health and well-being
to information about themselves,
제공한다는 측면에서는 말이죠.
new brain-decoding technology.
두뇌 해독 기술을 포함해서요.
or involuntarily give up
우리가 원해서든 아니면 억지로든
포기할 수도 있다는 점입니다.
our mental privacy.
받으려 할지 모릅니다.
to social-media accounts ...
the Beijing-Shanghai high-speed rail,
북경-상해 노선의 열차 기관사들에게
while driving.
EEG sensors to monitor their productivity
착용하도록 합니다.
관찰하기 위해서죠.
concentration on their jobs,
낮은 집중력을 보이거나
of brain transparency.
세계를 향해 가고 있습니다.
that that could change everything.
사람들은 모르는 거 같아요.
of data privacy to our laws,
법률은 물론이고
in the United States
대상으로 하는 연구를 통해
민감도를 알아보고자 했습니다.
of their brain information.
their perceived sensitivity
그 민감도 점수를 매기도록 했죠.
of their phone conversations,
security number as far more sensitive
훨씬 더 민감하다고 평가했습니다.
people don't yet understand
아직 이해하거나 믿지 못하는 것입니다.
of this new brain-decoding technology.
the inner workings of the human brain,
작동하는지 알 수 있게 된다면
are the least of our worries.
투명하게 읽히는 세상에서
a politically dissident thought?
사고를 하겠어요?
자기 검열을 할지 모른다는 거예요.
because of their waning attention
정서적으로 불안정해지거나
collective action against their employers.
꾀한다는 이유로 말이죠.
will no longer be an option,
더는 자신의 선택이 아니게 될 겁니다.
have revealed their sexual orientation,
사람들의 두뇌가 이미
종교 성향을 드러내버렸을 테니까요.
to consciously share that information
공유할 준비를 갖추기 전에 말이죠.
to keep up with technological change.
법률이 가져야 할 능력입니다.
of the US Constitution,
언론의 자유를 보호한다고 되어 있죠.
to alter our thoughts however we want?
사고를 자유롭게 바꾼다는 뜻이지요?
what we can do with our own brains?
생각을 통제할 수 있을까요?
using these new mobile devices?
우리의 두뇌를 염탐할 수 있을까요?
the brain data through their applications
두뇌 데이터를 수집한 기업이
from doing so.
그런 행위를 막지 못합니다.
훨씬 심각한 문제입니다.
the same freedoms
누리지 못하는 나라들 말이죠.
the Iranian Green Movement
어떻게 됐을까요?
monitoring my family's brain activity,
to be sympathetic to the protesters?
공감한다고 생각했다면요?
너무 터무니없을까요?
based on their thoughts
체포당하는 사회가 있다면요?
dystopian society in "Minority Report."
공상과학의 반 이상향 사회 말이죠.
위협했다는 이유로 기소되었는데
with attempting to intimidate his school
총을 쏘는 동영상을 올려서였어요.
shooting people in the hallways ...
an augmented-reality video game,
게임을 하고 있는 영상있었습니다.
of his subjective intent.
보여주는 거라고 생각했던 거죠.
need special protection.
특별히 보호해야 하는 겁니다.
to data tracking and aggregation
금융 거래 기록만큼이나 쉽고
and tracked like our online activities,
앱처럼 해킹되고 추적당할 수 있다면
threat to our collective humanity.
곧 심각한 위협이 닥칠 것입니다.
to these concerns,
on the right things.
시작해야 해요.
protections in general,
the flow of information.
on securing rights and remedies
구제 법안 확립에 초점을 맞추고
how their information was shared,
결정할 권리를 가져야 하고
was misused against them,
오용됐을 때에 대한 보상이죠.
in an employment setting
교육에서 차별당했을 경우에요.
더 많이 공유하길 원합니다.
of our personal information.
can tell us so much
너무나 많은 걸 알 수 있습니다.
our information,
안전하게 공유하려면
for mental privacy.
특별한 보호가 필요합니다.
a right to cognitive liberty.
필요한 것입니다.
our freedom of thought and rumination,
즉 자기결정의 자유를 보장할 것입니다.
the right to consent to or refuse
접근하거나 변경하려 할 때
of our brains by others.
일부로 인정받을 수 있는데
of Human Rights,
강화하는 체계를 확립해주었죠.
of these kinds of social rights.
and good old-fashioned word of mouth
예전처럼 입에서 입으로 소식을 전하며
restrictions in Iran
몇몇 제약이 해제되었죠.
had used brain surveillance
감시했다면 어떻게 되었을까요?
예방한다는 목적으로 말이죠.
the protesters' cries?
시위자들의 외침이 들렸을까요?
for a cognitive liberty revolution.
필요한 때가 왔습니다.
advance technology
책임감 있게 발전시켜야만
from any person, company or government
확실하게 보호해야 합니다.
or alter our innermost lives.
접근하거나 바꾸지 못하도록 말이죠.
ABOUT THE SPEAKER
Nita Farahany - Legal scholar, ethicistNita A. Farahany is a leading scholar on the ethical, legal, and social implications of biosciences and emerging technologies, particularly those related to neuroscience and behavioral genetics.
Why you should listen
Nita A. Farahany is a professor of law and philosophy, the founding director of the Duke Initiative for Science & Society and chair of the MA in Bioethics & Science Policy at Duke University. In 2010, Farahany was appointed by President Obama to the Presidential Commission for the Study of Bioethical Issues, and she served as a member until 2017. She is a member of the Neuroethics Division of the Multi-Council Working Group for the BRAIN Initiative, on the President's Research Council of the Canadian Institute for Advanced Research (CIFAR), and past member of the Global Agenda Council for Privacy, Technology and Governance at the World Economic Forum.
Farahany presents her work to diverse audiences and is a frequent commentator for national media and radio shows. She is an elected member of the American Law Institute, the President-Elect of the International Neuroethics Society, serves on the Board of the International Neuroethics Society, a co-editor a co-editor-in-chief and co-founder of the Journal of Law and the Biosciences and an editorial board member of the American Journal of Bioethics (Neuroscience). She's on the Ethics Advisory Board for Illumina, Inc., the Scientific Advisory Board of Helix, and the Board of Advisors of Scientific American.
Farahany received her AB in genetics, cell and developmental biology at Dartmouth College, a JD and MA from Duke University, as well as a PhD in philosophy. She also holds an ALM in biology from Harvard University. In 2004-2005, Farahany clerked for Judge Judith W. Rogers of the US Court of Appeals for the D.C. Circuit, after which she joined the faculty at Vanderbilt University. In 2011, Farahany was the Leah Kaplan Visiting Professor of Human Rights at Stanford Law School.
Nita Farahany | Speaker | TED.com