TED Salon Zebra Technologies
Nita Farahany: When technology can read minds, how will we protect our privacy?
Nita A. Farahany: Hoe beschermen we onze privacy tegen technologie die gedachten leest?
Filmed:
Readability: 5.1
1,819,292 views
Technologie die je hersenactiviteit kan ontcijferen en die kan onthullen wat je denkt en voelt, staat eraan te komen, zegt jurist en ethicus Nita Farahany. Wat betekent dat voor ons al geschonden privacygevoel? In een tot voorzichtigheid aanmanende talk waarschuwt Farahany voor een samenleving waarin mensen worden gearresteerd omdat ze alleen maar denken aan het plegen van een misdaad (zoals in 'Minority Report') en waarin particuliere belangengroeperingen onze hersengegevens verkopen -- en pleit ze voor een recht op cognitieve vrijheid die onze vrijheid van denken en zelfbeschikking beschermt.
Nita Farahany - Legal scholar, ethicist
Nita A. Farahany is a leading scholar on the ethical, legal, and social implications of biosciences and emerging technologies, particularly those related to neuroscience and behavioral genetics. Full bio
Nita A. Farahany is a leading scholar on the ethical, legal, and social implications of biosciences and emerging technologies, particularly those related to neuroscience and behavioral genetics. Full bio
Double-click the English transcript below to play the video.
00:13
In the months following
the 2009 presidential election in Iran,
the 2009 presidential election in Iran,
0
1096
4714
Na de presidentsverkiezingen
van 2009 in Iran
van 2009 in Iran
00:17
protests erupted across the country.
1
5834
2894
braken protesten uit in het hele land.
00:21
The Iranian government
violently suppressed
violently suppressed
2
9685
2896
De Iraanse regering onderdrukte met geweld
00:24
what came to be known
as the Iranian Green Movement,
as the Iranian Green Movement,
3
12605
3979
wat bekend zou worden
als de Iraanse Groene Beweging
als de Iraanse Groene Beweging
00:28
even blocking mobile signals
4
16608
2053
en blokkeerde zelfs signalen van mobielen
00:30
to cut off communication
between the protesters.
between the protesters.
5
18685
2714
om de communicatie
tussen de demonstranten af te snijden.
tussen de demonstranten af te snijden.
00:34
My parents, who emigrated
to the United States in the late 1960s,
to the United States in the late 1960s,
6
22316
4669
Mijn ouders, die in de late jaren 60
naar de Verenigde Staten emigreerden,
naar de Verenigde Staten emigreerden,
00:39
spend substantial time there,
7
27009
1794
brachten daar veel tijd door,
00:40
where all of my large,
extended family live.
extended family live.
8
28827
3153
bij mijn grote, uitgebreide familie.
00:44
When I would call my family in Tehran
9
32832
3129
Toen ik mijn familie in Teheran opbelde
00:47
during some of the most violent
crackdowns of the protest,
crackdowns of the protest,
10
35985
3452
tijdens de meest gewelddadige
optredens tegen het protest,
optredens tegen het protest,
00:51
none of them dared discuss
with me what was happening.
with me what was happening.
11
39461
3252
durfde niemand met mij
te spreken over wat er gebeurde.
te spreken over wat er gebeurde.
00:55
They or I knew to quickly steer
the conversation to other topics.
the conversation to other topics.
12
43196
3529
Zij en ik wisten hoe het gesprek
snel op andere onderwerpen te brengen.
snel op andere onderwerpen te brengen.
00:59
All of us understood
what the consequences could be
what the consequences could be
13
47163
3380
We begrepen allemaal
wat de gevolgen konden zijn
wat de gevolgen konden zijn
01:02
of a perceived dissident action.
14
50567
2540
van een vermeende dissidente actie.
01:06
But I still wish I could have known
what they were thinking
what they were thinking
15
54095
3469
Maar ik wou nog steeds dat ik had
kunnen weten wat ze dachten
kunnen weten wat ze dachten
01:09
or what they were feeling.
16
57588
1418
of wat ze voelden.
01:12
What if I could have?
17
60217
1393
Wat als ik het gekund had?
01:14
Or more frighteningly,
18
62149
1151
Of nog beangstigender,
01:15
what if the Iranian government could have?
19
63324
2761
wat als de Iraanse regering
het zou hebben gekund?
het zou hebben gekund?
01:18
Would they have arrested them
based on what their brains revealed?
based on what their brains revealed?
20
66695
3244
Zouden ze hen hebben gearresteerd
op basis van wat hun hersenen openbaarden?
op basis van wat hun hersenen openbaarden?
01:22
That day may be closer than you think.
21
70933
2944
Die dag kan dichterbij zijn dan je denkt.
01:26
With our growing capabilities
in neuroscience, artificial intelligence
in neuroscience, artificial intelligence
22
74527
3811
Met onze groeiende mogelijkheden
in de neurowetenschappen,
in de neurowetenschappen,
kunstmatige intelligentie
en machinaal leren
en machinaal leren
01:30
and machine learning,
23
78362
1703
01:32
we may soon know a lot more
of what's happening in the human brain.
of what's happening in the human brain.
24
80089
4075
kunnen we binnenkort veel meer weten
van wat er in het menselijke brein omgaat.
van wat er in het menselijke brein omgaat.
01:37
As a bioethicist, a lawyer, a philosopher
25
85083
3310
Als bio-ethicus, advocaat, filosoof
01:40
and an Iranian-American,
26
88417
1867
en Iraans-Amerikaanse
01:42
I'm deeply concerned
about what this means for our freedoms
about what this means for our freedoms
27
90308
3787
ben ik zeer bezorgd over wat
dit betekent voor onze vrijheden
dit betekent voor onze vrijheden
01:46
and what kinds of protections we need.
28
94119
2171
en wat voor soort beveiligingen
we nodig hebben.
we nodig hebben.
01:48
I believe we need
a right to cognitive liberty,
a right to cognitive liberty,
29
96993
3460
Ik geloof dat we recht hebben
op cognitieve vrijheid,
op cognitieve vrijheid,
01:52
as a human right
that needs to be protected.
that needs to be protected.
30
100477
2892
als een mensenrecht
dat moet worden beschermd.
dat moet worden beschermd.
01:55
If not, our freedom of thought,
31
103772
2643
Zo niet, dan wordt
onze vrijheid van gedachte,
onze vrijheid van gedachte,
01:58
access and control over our own brains
32
106439
3024
toegang en controle
over onze eigen hersenen
over onze eigen hersenen
02:01
and our mental privacy will be threatened.
33
109487
2841
en onze mentale privacy bedreigd.
02:05
Consider this:
34
113698
1158
Overweeg dit:
02:06
the average person thinks
thousands of thoughts each day.
thousands of thoughts each day.
35
114880
3314
de gemiddelde persoon denkt
elke dag duizenden gedachten.
elke dag duizenden gedachten.
Als zich een gedachte aandient,
02:10
As a thought takes form,
36
118697
1151
02:11
like a math calculation
or a number, a word,
or a number, a word,
37
119872
5056
bijvoorbeeld een wiskundige berekening
of een getal, een woord,
of een getal, een woord,
02:16
neurons are interacting in the brain,
38
124952
2885
interageren neuronen in de hersenen,
02:19
creating a miniscule electrical discharge.
39
127861
3088
met als gevolg een minuscule
elektrische ontlading.
elektrische ontlading.
02:23
When you have a dominant
mental state, like relaxation,
mental state, like relaxation,
40
131713
3452
Bij een dominante mentale toestand,
zoals ontspanning,
zoals ontspanning,
02:27
hundreds and thousands of neurons
are firing in the brain,
are firing in the brain,
41
135189
4175
vuren honderden en duizenden
neuronen in de hersenen
neuronen in de hersenen
02:31
creating concurrent electrical discharges
in characteristic patterns
in characteristic patterns
42
139388
4218
en creëren ze gelijktijdige elektrische
ontladingen in karakteristieke patronen
ontladingen in karakteristieke patronen
02:35
that can be measured
with electroencephalography, or EEG.
with electroencephalography, or EEG.
43
143630
4865
die kunnen worden gemeten
met elektro-encefalografie of EEG.
met elektro-encefalografie of EEG.
02:41
In fact, that's what
you're seeing right now.
you're seeing right now.
44
149118
2160
In feite is dat wat je nu ziet.
02:43
You're seeing my brain activity
that was recorded in real time
that was recorded in real time
45
151956
3964
Je ziet mijn hersenactiviteit
die in real time werd opgenomen
die in real time werd opgenomen
02:47
with a simple device
that was worn on my head.
that was worn on my head.
46
155944
2735
met een eenvoudig apparaat op mijn hoofd.
02:51
What you're seeing is my brain activity
when I was relaxed and curious.
when I was relaxed and curious.
47
159669
5653
Wat je ziet is mijn hersenactiviteit
terwijl ik ontspannen en nieuwsgierig was.
terwijl ik ontspannen en nieuwsgierig was.
02:58
To share this information with you,
48
166097
1755
Om deze informatie met jullie te delen,
02:59
I wore one of the early
consumer-based EEG devices
consumer-based EEG devices
49
167876
3020
droeg ik een van de eerste
EEG-apparaten voor consumenten,
EEG-apparaten voor consumenten,
03:02
like this one,
50
170920
1211
zoals dit hier,
03:04
which recorded the electrical
activity in my brain in real time.
activity in my brain in real time.
51
172155
3988
dat de elektrische activiteit
in mijn hersenen
in mijn hersenen
in real time registreerde.
03:08
It's not unlike the fitness trackers
that some of you may be wearing
that some of you may be wearing
52
176849
3826
Een beetje als de fitness-trackers
die sommigen van jullie dragen
die sommigen van jullie dragen
03:12
to measure your heart rate
or the steps that you've taken,
or the steps that you've taken,
53
180699
3586
voor het meten van je hartslag
of de stappen die je hebt gezet,
of de stappen die je hebt gezet,
03:16
or even your sleep activity.
54
184309
1587
of zelfs je slaapactiviteit.
03:19
It's hardly the most sophisticated
neuroimaging technique on the market.
neuroimaging technique on the market.
55
187154
3824
Het is niet bepaald de meest geavanceerde
neuro-imaging-techniek op de markt.
neuro-imaging-techniek op de markt.
03:23
But it's already the most portable
56
191597
2378
Maar het is nu al de meest draagbare
03:25
and the most likely to impact
our everyday lives.
our everyday lives.
57
193999
3152
en de meest waarschijnlijke om ons
dagelijks leven te gaan beïnvloeden.
dagelijks leven te gaan beïnvloeden.
03:29
This is extraordinary.
58
197915
1503
Dit is buitengewoon.
03:31
Through a simple, wearable device,
59
199442
2505
Via een eenvoudig, draagbaar apparaat
03:33
we can literally see
inside the human brain
inside the human brain
60
201971
3548
kunnen we letterlijk
in het menselijk brein kijken
in het menselijk brein kijken
03:37
and learn aspects of our mental landscape
without ever uttering a word.
without ever uttering a word.
61
205543
6476
en aspecten van ons mentale
landschap leren kennen
landschap leren kennen
zonder zelfs een woord te uiten.
03:44
While we can't reliably decode
complex thoughts just yet,
complex thoughts just yet,
62
212829
3653
Hoewel we complexe gedachten
nog niet betrouwbaar kunnen decoderen,
nog niet betrouwbaar kunnen decoderen,
03:48
we can already gauge a person's mood,
63
216506
2519
kunnen we iemands stemming al peilen
03:51
and with the help
of artificial intelligence,
of artificial intelligence,
64
219049
2873
en met behulp
van kunstmatige intelligentie
van kunstmatige intelligentie
03:53
we can even decode
some single-digit numbers
some single-digit numbers
65
221946
4341
kunnen we zelfs een aantal
simpele dingen decoderen,
simpele dingen decoderen,
ééncijferige getallen of vormen
of eenvoudige woorden,
of eenvoudige woorden,
03:58
or shapes or simple words
that a person is thinking
that a person is thinking
66
226311
4882
die iemand denkt, hoort of ziet.
04:03
or hearing, or seeing.
67
231217
2189
04:06
Despite some inherent limitations in EEG,
68
234345
3365
Ondanks bepaalde inherente
beperkingen van de EEG,
beperkingen van de EEG,
04:09
I think it's safe to say
that with our advances in technology,
that with our advances in technology,
69
237734
4720
denk ik dat ik gerust kan zeggen dat
met onze vooruitgang in de technologie,
met onze vooruitgang in de technologie,
04:14
more and more of what's happening
in the human brain
in the human brain
70
242478
3809
meer en meer van wat er gebeurt
in het menselijk brein
in het menselijk brein
04:18
can and will be decoded over time.
71
246311
2310
na verloop van tijd kan
en zal worden gedecodeerd.
en zal worden gedecodeerd.
04:21
Already, using one of these devices,
72
249362
2746
Nu al kan een epilepticus
met een van deze apparaten
met een van deze apparaten
04:24
an epileptic can know
they're going to have an epileptic seizure
they're going to have an epileptic seizure
73
252132
3255
een epileptische aanval zien aankomen
voordat hij gebeurt.
voordat hij gebeurt.
04:27
before it happens.
74
255411
1436
Een dwarslaesiepatiënt
kan typen op een computer
kan typen op een computer
04:28
A paraplegic can type on a computer
with their thoughts alone.
with their thoughts alone.
75
256871
4603
door alleen maar te denken.
04:34
A US-based company has developed
a technology to embed these sensors
a technology to embed these sensors
76
262485
4183
Een Amerikaans bedrijf
ontwikkelde een technologie
ontwikkelde een technologie
om deze sensoren in te bouwen
in de hoofdsteunen van auto’s,
in de hoofdsteunen van auto’s,
04:38
into the headrest of automobilies
77
266692
2230
zodat ze de concentratie, de afleiding
04:40
so they can track driver concentration,
78
268946
2505
en de cognitieve belasting
van de bestuurder
van de bestuurder
04:43
distraction and cognitive load
while driving.
while driving.
79
271475
2667
tijdens het rijden kunnen volgen.
04:46
Nissan, insurance companies
and AAA have all taken note.
and AAA have all taken note.
80
274912
4058
Nissan, verzekeringsmaatschappijen
en de Amerikaanse wegenwacht
en de Amerikaanse wegenwacht
hebben dit opgepikt.
04:51
You could even watch this
choose-your-own-adventure movie
choose-your-own-adventure movie
81
279949
4508
Je zou zelfs kunnen kijken
naar deze kies-je-eigen-avontuurfilm,
‘The Moment’,
‘The Moment’,
04:56
"The Moment," which, with an EEG headset,
82
284481
4240
die met een EEG-headset
05:00
changes the movie
based on your brain-based reactions,
based on your brain-based reactions,
83
288745
3926
de film verandert op basis
van jouw hersenreacties,
van jouw hersenreacties,
05:04
giving you a different ending
every time your attention wanes.
every time your attention wanes.
84
292695
4353
waardoor het einde telkens anders is
als je aandacht verslapt.
als je aandacht verslapt.
05:11
This may all sound great,
85
299154
2763
Dat klinkt misschien allemaal geweldig,
05:13
and as a bioethicist,
86
301941
2189
en als bio-ethicus
05:16
I am a huge proponent of empowering people
87
304154
3613
ben ik een grote voorstander
van het in staat stellen van mensen
van het in staat stellen van mensen
05:19
to take charge of their own
health and well-being
health and well-being
88
307791
2616
om hun eigen gezondheid en welzijn
in handen te nemen
in handen te nemen
05:22
by giving them access
to information about themselves,
to information about themselves,
89
310431
2918
door hen toegang tot informatie
over zichzelf te geven,
over zichzelf te geven,
05:25
including this incredible
new brain-decoding technology.
new brain-decoding technology.
90
313373
2976
met inbegrip van deze ongelooflijke
nieuwe hersendecoderingstechnologie.
nieuwe hersendecoderingstechnologie.
05:29
But I worry.
91
317878
1167
Maar ik maak me zorgen.
05:31
I worry that we will voluntarily
or involuntarily give up
or involuntarily give up
92
319736
4760
Ik ben bang dat we
vrijwillig of onvrijwillig
vrijwillig of onvrijwillig
ons laatste bastion van vrijheid
zullen opgeven:
zullen opgeven:
05:36
our last bastion of freedom,
our mental privacy.
our mental privacy.
93
324520
4118
onze mentale privacy.
05:41
That we will trade our brain activity
94
329302
2925
Dat we onze hersenactiviteit
zullen aanbieden
zullen aanbieden
05:44
for rebates or discounts on insurance,
95
332251
3046
voor toeslagen of kortingen
op verzekeringen,
op verzekeringen,
05:48
or free access
to social-media accounts ...
to social-media accounts ...
96
336391
2603
of gratis toegang
tot sociale-media-accounts ...
tot sociale-media-accounts ...
05:52
or even to keep our jobs.
97
340444
1848
of zelfs om onze baan te behouden.
05:54
In fact, in China,
98
342900
1913
Het is nu al zo dat in China
05:58
the train drivers on
the Beijing-Shanghai high-speed rail,
the Beijing-Shanghai high-speed rail,
99
346199
5897
de treinbestuurders op de
Beijing-Shanghai hogesnelheidstrein,
Beijing-Shanghai hogesnelheidstrein,
06:04
the busiest of its kind in the world,
100
352120
2532
de drukste dergelijke route in de wereld,
06:06
are required to wear EEG devices
101
354676
2476
EEG-sets dragen
06:09
to monitor their brain activity
while driving.
while driving.
102
357176
2427
om hun hersenactiviteit
te controleren tijdens het rijden.
te controleren tijdens het rijden.
06:12
According to some news sources,
103
360157
2226
Volgens sommige nieuwsbronnen
06:14
in government-run factories in China,
104
362407
2679
moeten in door de regering
gerunde fabrieken in China
gerunde fabrieken in China
06:17
the workers are required to wear
EEG sensors to monitor their productivity
EEG sensors to monitor their productivity
105
365110
5364
de werknemers EEG-sensoren dragen
om hun productiviteit te controleren,
om hun productiviteit te controleren,
06:22
and their emotional state at work.
106
370498
2115
evenals hun emotionele
toestand op het werk.
toestand op het werk.
06:25
Workers are even sent home
107
373267
2310
Arbeiders worden zelfs naar huis gestuurd
06:27
if their brains show less-than-stellar
concentration on their jobs,
concentration on their jobs,
108
375601
4054
als hun hersenen onvoldoende
concentratie op hun werk vertonen
concentratie op hun werk vertonen
06:31
or emotional agitation.
109
379679
2122
of irritatie.
06:35
It's not going to happen tomorrow,
110
383189
1745
Het zal niet voor morgen zijn,
06:36
but we're headed to a world
of brain transparency.
of brain transparency.
111
384958
3086
maar we zijn op weg naar een wereld
van hersentransparantie.
van hersentransparantie.
06:40
And I don't think people understand
that that could change everything.
that that could change everything.
112
388537
3440
En ik denk niet dat mensen doorhebben
dat dat alles zou kunnen veranderen.
dat dat alles zou kunnen veranderen.
06:44
Everything from our definitions
of data privacy to our laws,
of data privacy to our laws,
113
392474
3675
Alles, van onze definities
van de persoonlijke levenssfeer,
van de persoonlijke levenssfeer,
06:48
to our ideas about freedom.
114
396173
1800
tot onze wetten,
tot onze ideeën over vrijheid.
tot onze ideeën over vrijheid.
06:50
In fact, in my lab at Duke University,
115
398731
3077
Als het daarover gaat,
in mijn lab aan de Duke University
in mijn lab aan de Duke University
06:53
we recently conducted a nationwide study
in the United States
in the United States
116
401832
3175
deden we onlangs een landelijk onderzoek
in de Verenigde Staten
in de Verenigde Staten
06:57
to see if people appreciated
117
405031
1959
om te zien of mensen
de gevoeligheid van hun
herseninformatie konden inschatten.
herseninformatie konden inschatten.
06:59
the sensitivity
of their brain information.
of their brain information.
118
407014
2071
07:02
We asked people to rate
their perceived sensitivity
their perceived sensitivity
119
410356
3356
We vroegen mensen om hun vermeende
gevoeligheid in te schatten
gevoeligheid in te schatten
07:05
of 33 different kinds of information,
120
413736
2231
van 33 verschillende soorten informatie:
07:07
from their social security numbers
121
415991
2220
van hun sofinummers
07:10
to the content
of their phone conversations,
of their phone conversations,
122
418235
2597
tot de inhoud van hun telefoongesprekken,
07:12
their relationship history,
123
420856
2193
hun relatiegeschiedenis,
07:15
their emotions, their anxiety,
124
423073
1942
hun emoties, hun angst,
07:17
the mental images in their mind
125
425039
1946
de mentale beelden in hun hoofd
07:19
and the thoughts in their mind.
126
427009
1538
en de gedachten in hun hoofd.
07:21
Shockingly, people rated their social
security number as far more sensitive
security number as far more sensitive
127
429481
5229
Schokkend genoeg beoordeelden
mensen hun sofinummer
mensen hun sofinummer
als veel gevoeliger
dan elke andere vorm van informatie,
dan elke andere vorm van informatie,
07:26
than any other kind of information,
128
434734
2203
07:28
including their brain data.
129
436961
2435
met inbegrip van hun hersendata.
07:32
I think this is because
people don't yet understand
people don't yet understand
130
440380
3216
Ik denk dat dit komt omdat mensen
nog geen inzicht of geloof hebben
nog geen inzicht of geloof hebben
07:35
or believe the implications
of this new brain-decoding technology.
of this new brain-decoding technology.
131
443620
4063
in de gevolgen van deze nieuwe
hersendecoderingstechnologie.
hersendecoderingstechnologie.
07:40
After all, if we can know
the inner workings of the human brain,
the inner workings of the human brain,
132
448629
3289
Als we de innerlijke werking
van het menselijk brein gaan kennen,
van het menselijk brein gaan kennen,
07:43
our social security numbers
are the least of our worries.
are the least of our worries.
133
451942
2706
zullen onze sofinummers
de minste van onze zorgen zijn.
de minste van onze zorgen zijn.
07:46
(Laughter)
134
454672
1285
(Gelach)
07:47
Think about it.
135
455981
1167
Denk er over na.
07:49
In a world of total brain transparency,
136
457172
2396
Wie zou in een wereld
van totale hersentransparantie
van totale hersentransparantie
07:51
who would dare have
a politically dissident thought?
a politically dissident thought?
137
459592
2429
een politiek dissidente
gedachte durven hebben?
gedachte durven hebben?
07:55
Or a creative one?
138
463279
1541
Of een creatieve?
07:57
I worry that people will self-censor
139
465503
3476
Ik ben bang dat mensen
aan zelfcensuur zullen doen
aan zelfcensuur zullen doen
08:01
in fear of being ostracized by society,
140
469003
3302
uit angst te worden verstoten
door de maatschappij,
door de maatschappij,
08:04
or that people will lose their jobs
because of their waning attention
because of their waning attention
141
472329
3813
of dat de mensen hun baan kwijtraken
door hun afnemende aandacht
door hun afnemende aandacht
08:08
or emotional instability,
142
476166
2150
of emotionele instabiliteit,
08:10
or because they're contemplating
collective action against their employers.
collective action against their employers.
143
478340
3550
of omdat ze denken aan collectieve
actie tegen hun werkgevers.
actie tegen hun werkgevers.
08:14
That coming out
will no longer be an option,
will no longer be an option,
144
482478
3177
Uit de kast komen
zal niet langer een optie zijn,
zal niet langer een optie zijn,
08:17
because people's brains will long ago
have revealed their sexual orientation,
have revealed their sexual orientation,
145
485679
5067
omdat hun hersenen al lang hun seksuele
geaardheid zullen hebben geopenbaard,
geaardheid zullen hebben geopenbaard,
08:22
their political ideology
146
490770
1822
of hun politieke ideologie
08:24
or their religious preferences,
147
492616
2025
of hun religieuze voorkeuren,
08:26
well before they were ready
to consciously share that information
to consciously share that information
148
494665
3080
lang voordat ze klaar waren
om die informatie bewust te delen
om die informatie bewust te delen
08:29
with other people.
149
497769
1253
met andere mensen.
08:31
I worry about the ability of our laws
to keep up with technological change.
to keep up with technological change.
150
499565
4912
Ik maak me zorgen of onze wetten
de technologische veranderingen
zullen kunnen bijbenen.
zullen kunnen bijbenen.
08:36
Take the First Amendment
of the US Constitution,
of the US Constitution,
151
504986
2320
Het eerste amendement
van de Amerikaanse grondwet
van de Amerikaanse grondwet
08:39
which protects freedom of speech.
152
507330
1958
beschermt de vrijheid van meningsuiting.
08:41
Does it also protect freedom of thought?
153
509312
1927
Beschermt het ook
de vrijheid van gedachten?
de vrijheid van gedachten?
08:43
And if so, does that mean that we're free
to alter our thoughts however we want?
to alter our thoughts however we want?
154
511944
4169
En zo ja, mogen we dan ook onze gedachten
veranderen als we dat willen?
veranderen als we dat willen?
Of kan de overheid of de maatschappij
08:48
Or can the government or society tell us
what we can do with our own brains?
what we can do with our own brains?
155
516137
4674
ons vertellen wat we kunnen doen
met onze eigen hersenen?
met onze eigen hersenen?
08:53
Can the NSA spy on our brains
using these new mobile devices?
using these new mobile devices?
156
521591
3717
Kan de NSA onze hersenen bespioneren
met die nieuwe mobiele apparaten?
met die nieuwe mobiele apparaten?
08:58
Can the companies that collect
the brain data through their applications
the brain data through their applications
157
526053
4119
Mogen bedrijven die hersengegevens
kunnen verzamelen
kunnen verzamelen
09:02
sell this information to third parties?
158
530196
2074
die informatie aan derden verkopen?
09:05
Right now, no laws prevent them
from doing so.
from doing so.
159
533174
3222
Nu zijn er geen wetten
die hen dat beletten.
die hen dat beletten.
09:09
It could be even more problematic
160
537203
2025
Het zou nog meer problemen geven
09:11
in countries that don't share
the same freedoms
the same freedoms
161
539252
2519
in landen die niet
dezelfde vrijheden hebben
dezelfde vrijheden hebben
09:13
enjoyed by people in the United States.
162
541795
2103
als die van de mensen
in de Verenigde Staten.
in de Verenigde Staten.
09:16
What would've happened during
the Iranian Green Movement
the Iranian Green Movement
163
544883
3787
Wat zou er tijdens de Iraanse
Groene Beweging zijn gebeurd
Groene Beweging zijn gebeurd
09:20
if the government had been
monitoring my family's brain activity,
monitoring my family's brain activity,
164
548694
3901
als de regering inzage had gehad
in de hersenactiviteit van mijn familie
in de hersenactiviteit van mijn familie
09:24
and had believed them
to be sympathetic to the protesters?
to be sympathetic to the protesters?
165
552619
4007
en had besloten dat ze sympathie
hadden voor de demonstranten?
hadden voor de demonstranten?
09:30
Is it so far-fetched to imagine a society
166
558091
3047
Is het zo vergezocht
om een samenleving te bedenken
om een samenleving te bedenken
09:33
in which people are arrested
based on their thoughts
based on their thoughts
167
561162
2842
waarin mensen worden opgepakt
op basis van hun gedachten
op basis van hun gedachten
over het plegen van een misdrijf,
09:36
of committing a crime,
168
564028
1167
09:37
like in the science-fiction
dystopian society in "Minority Report."
dystopian society in "Minority Report."
169
565219
4312
zoals in de sciencefiction, dystopische
samenleving in ‘Minority Report’.
samenleving in ‘Minority Report’.
09:42
Already, in the United States, in Indiana,
170
570286
4323
In de Verenigde Staten, in Indiana,
09:46
an 18-year-old was charged
with attempting to intimidate his school
with attempting to intimidate his school
171
574633
4937
werd een 18-jarige al beschuldigd van
een poging om zijn school te intimideren
een poging om zijn school te intimideren
door het plaatsen
van een video van zichzelf
van een video van zichzelf
09:51
by posting a video of himself
shooting people in the hallways ...
shooting people in the hallways ...
172
579594
3309
waarin hij mensen
in de gangen neerschoot ...
in de gangen neerschoot ...
09:55
Except the people were zombies
173
583881
3007
Behalve dat de mensen zombies waren
09:58
and the video was of him playing
an augmented-reality video game,
an augmented-reality video game,
174
586912
5047
en de video er een was
waarin hij een videogame
met verhoogde realiteit speelde,
met verhoogde realiteit speelde,
10:03
all interpreted to be a mental projection
of his subjective intent.
of his subjective intent.
175
591983
4772
allemaal geïnterpreteerd
als een mentale projectie
van zijn subjectieve bedoelingen.
van zijn subjectieve bedoelingen.
10:10
This is exactly why our brains
need special protection.
need special protection.
176
598456
4612
Dit is precies de reden
waarom onze hersenen
speciale bescherming nodig hebben.
speciale bescherming nodig hebben.
10:15
If our brains are just as subject
to data tracking and aggregation
to data tracking and aggregation
177
603092
3556
Als onze hersenen net zo onderhevig zijn
aan datatracking en -aggregatie
aan datatracking en -aggregatie
10:18
as our financial records and transactions,
178
606672
2532
als onze financiële
administratie en transacties,
administratie en transacties,
10:21
if our brains can be hacked
and tracked like our online activities,
and tracked like our online activities,
179
609228
4285
als onze hersenen gehackt
en bijgehouden kunnen worden
en bijgehouden kunnen worden
zoals onze online-activiteiten,
10:25
our mobile phones and applications,
180
613537
2361
onze mobiele telefoons en toepassingen,
10:27
then we're on the brink of a dangerous
threat to our collective humanity.
threat to our collective humanity.
181
615922
4269
dan staan we aan de rand
van een gevaarlijke bedreiging
voor onze gezamenlijke menselijkheid.
voor onze gezamenlijke menselijkheid.
10:33
Before you panic,
182
621406
1309
Voordat je in paniek raakt:
10:36
I believe that there are solutions
to these concerns,
to these concerns,
183
624012
3144
ik geloof dat er oplossingen zijn
voor deze problemen,
voor deze problemen,
10:39
but we have to start by focusing
on the right things.
on the right things.
184
627180
2825
maar we moeten beginnen
door op de juiste dingen te focussen.
door op de juiste dingen te focussen.
10:42
When it comes to privacy
protections in general,
protections in general,
185
630580
2921
Als het gaat om bescherming
van de privacy in het algemeen,
van de privacy in het algemeen,
denk ik dat we vechten tegen de bierkaai
10:45
I think we're fighting a losing battle
186
633525
1826
10:47
by trying to restrict
the flow of information.
the flow of information.
187
635375
2858
door te proberen om de stroom
van informatie te beperken.
van informatie te beperken.
10:50
Instead, we should be focusing
on securing rights and remedies
on securing rights and remedies
188
638257
4057
In plaats daarvan moeten we ons richten
op het veiligstellen
van rechten en rechtsmiddelen
van rechten en rechtsmiddelen
10:54
against the misuse of our information.
189
642338
2275
tegen misbruik van onze informatie.
10:57
If people had the right to decide
how their information was shared,
how their information was shared,
190
645291
3285
Als mensen mogen beslissen
hoe hun informatie wordt gedeeld,
hoe hun informatie wordt gedeeld,
11:00
and more importantly, have legal redress
191
648600
2921
en nog belangrijker, wat hun rechten zijn
als hun informatie verkeerd
tegen hen werd gebruikt,
tegen hen werd gebruikt,
11:03
if their information
was misused against them,
was misused against them,
192
651545
2428
11:05
say to discriminate against them
in an employment setting
in an employment setting
193
653997
2786
bijvoorbeeld bij discriminatie
in een werkgelegenheidsgeschil
in een werkgelegenheidsgeschil
11:08
or in health care or education,
194
656807
2785
of in gezondheidszorg of onderwijs,
11:11
this would go a long way to build trust.
195
659616
2571
zou dat al een grote stap zijn
om vertrouwen op te bouwen.
om vertrouwen op te bouwen.
11:14
In fact, in some instances,
196
662843
1718
In feite willen we in sommige gevallen
11:16
we want to be sharing more
of our personal information.
of our personal information.
197
664585
3524
meer persoonlijke informatie delen.
Het bestuderen van verzamelde informatie
kan ons zoveel vertellen
kan ons zoveel vertellen
11:20
Studying aggregated information
can tell us so much
can tell us so much
198
668697
3047
11:23
about our health and our well-being,
199
671768
2747
over onze gezondheid en ons welzijn,
11:26
but to be able to safely share
our information,
our information,
200
674539
3313
maar om onze informatie
veilig te kunnen delen,
veilig te kunnen delen,
11:29
we need special protections
for mental privacy.
for mental privacy.
201
677876
3223
hebben we speciale bescherming
van onze mentale privacy nodig.
van onze mentale privacy nodig.
11:33
This is why we need
a right to cognitive liberty.
a right to cognitive liberty.
202
681832
3147
Daarom hebben we het recht
op cognitieve vrijheid nodig.
op cognitieve vrijheid nodig.
11:37
This right would secure for us
our freedom of thought and rumination,
our freedom of thought and rumination,
203
685543
4079
Dit recht zou voor ons onze vrijheid
van denken en rumineren veiligstellen,
van denken en rumineren veiligstellen,
11:41
our freedom of self-determination,
204
689646
2540
onze vrijheid van zelfbeschikking,
11:44
and it would insure that we have
the right to consent to or refuse
the right to consent to or refuse
205
692210
4390
en het zou ons ervan verzekeren
dat we het recht hebben
dat we het recht hebben
anderen al dan niet toestemming te geven
onze hersenen in te zien of te wijzigen.
onze hersenen in te zien of te wijzigen.
11:48
access and alteration
of our brains by others.
of our brains by others.
206
696624
2857
11:51
This right could be recognized
207
699811
2112
Dit recht kan worden erkend als onderdeel
11:53
as part of the Universal Declaration
of Human Rights,
of Human Rights,
208
701947
2883
van de Universele Verklaring
van de Rechten van de Mens,
van de Rechten van de Mens,
11:56
which has established mechanisms
209
704854
2388
die vastgestelde mechanismen heeft
11:59
for the enforcement
of these kinds of social rights.
of these kinds of social rights.
210
707266
2856
voor de handhaving
van dit soort sociale rechten.
van dit soort sociale rechten.
12:03
During the Iranian Green Movement,
211
711872
2070
Tijdens de Iraanse Groene Beweging
12:05
the protesters used the internet
and good old-fashioned word of mouth
and good old-fashioned word of mouth
212
713966
5186
gebruikten de betogers het internet en
goede ouderwetse mond-tot-mond-berichten
goede ouderwetse mond-tot-mond-berichten
12:11
to coordinate their marches.
213
719176
1948
om hun marsen te coördineren.
12:14
And some of the most oppressive
restrictions in Iran
restrictions in Iran
214
722238
2769
Sommige van de meest onderdrukkende
beperkingen in Iran
beperkingen in Iran
12:17
were lifted as a result.
215
725031
1877
werden als gevolg daarvan opgeheven.
12:20
But what if the Iranian government
had used brain surveillance
had used brain surveillance
216
728047
4087
Maar wat als de Iraanse regering
hersensurveillance had gebruikt
hersensurveillance had gebruikt
12:24
to detect and prevent the protest?
217
732158
3061
om het protest op te sporen
en te voorkomen?
en te voorkomen?
12:28
Would the world have ever heard
the protesters' cries?
the protesters' cries?
218
736847
3176
Zou de wereld ooit de kreten
van de demonstranten hebben gehoord?
van de demonstranten hebben gehoord?
12:33
The time has come for us to call
for a cognitive liberty revolution.
for a cognitive liberty revolution.
219
741732
5121
De tijd is gekomen dat we pleiten
voor een revolutie om cognitieve vrijheid.
voor een revolutie om cognitieve vrijheid.
Om ervoor te zorgen dat we technologie
op verantwoorde wijze zo bevorderen
op verantwoorde wijze zo bevorderen
12:39
To make sure that we responsibly
advance technology
advance technology
220
747559
3264
12:42
that could enable us to embrace the future
221
750847
2978
dat we de toekomst kunnen omarmen
12:45
while fiercely protecting all of us
from any person, company or government
from any person, company or government
222
753849
6717
en tegelijkertijd ons allemaal beschermen
tegen personen, bedrijven of overheden
tegen personen, bedrijven of overheden
12:52
that attempts to unlawfully access
or alter our innermost lives.
or alter our innermost lives.
223
760590
5040
die zonder toestemming ons diepste wezen
willen inzien of wijzigen.
willen inzien of wijzigen.
12:58
Thank you.
224
766659
1174
Dank je.
12:59
(Applause)
225
767857
3492
(Applaus)
ABOUT THE SPEAKER
Nita Farahany - Legal scholar, ethicistNita A. Farahany is a leading scholar on the ethical, legal, and social implications of biosciences and emerging technologies, particularly those related to neuroscience and behavioral genetics.
Why you should listen
Nita A. Farahany is a professor of law and philosophy, the founding director of the Duke Initiative for Science & Society and chair of the MA in Bioethics & Science Policy at Duke University. In 2010, Farahany was appointed by President Obama to the Presidential Commission for the Study of Bioethical Issues, and she served as a member until 2017. She is a member of the Neuroethics Division of the Multi-Council Working Group for the BRAIN Initiative, on the President's Research Council of the Canadian Institute for Advanced Research (CIFAR), and past member of the Global Agenda Council for Privacy, Technology and Governance at the World Economic Forum.
Farahany presents her work to diverse audiences and is a frequent commentator for national media and radio shows. She is an elected member of the American Law Institute, the President-Elect of the International Neuroethics Society, serves on the Board of the International Neuroethics Society, a co-editor a co-editor-in-chief and co-founder of the Journal of Law and the Biosciences and an editorial board member of the American Journal of Bioethics (Neuroscience). She's on the Ethics Advisory Board for Illumina, Inc., the Scientific Advisory Board of Helix, and the Board of Advisors of Scientific American.
Farahany received her AB in genetics, cell and developmental biology at Dartmouth College, a JD and MA from Duke University, as well as a PhD in philosophy. She also holds an ALM in biology from Harvard University. In 2004-2005, Farahany clerked for Judge Judith W. Rogers of the US Court of Appeals for the D.C. Circuit, after which she joined the faculty at Vanderbilt University. In 2011, Farahany was the Leah Kaplan Visiting Professor of Human Rights at Stanford Law School.
Nita Farahany | Speaker | TED.com