TED Salon Zebra Technologies
Nita Farahany: When technology can read minds, how will we protect our privacy?
Nita A. Farahany: Alors que la technologie peut déjà lire nos pensées, comment allons-nous protéger notre vie privée mentale ?
Filmed:
Readability: 5.1
1,819,292 views
Nita Farahany, juriste et éthicienne, nous indique qu'une technologie capable de décoder l'activité de notre cerveau et de révéler nos pensées et nos sentiments est en train d'émerger. Qu'est-ce que cela signifie pour le respect de notre vie privé déjà maintes fois mis à mal ? Nita Farahany nous met en garde contre une société dans laquelle les gens sont arrêtés pour avoir simplement imaginé commettre un crime (comme dans « Rapport Minoritaire »), et dans laquelle des intérêts privés peuvent vendre nos données cérébrales. Elle insiste sur la nécessité et le bien-fondé d'un Droit à la Liberté cognitive qui protège notre liberté de penser et de disposer de nous-mêmes.
Nita Farahany - Legal scholar, ethicist
Nita A. Farahany is a leading scholar on the ethical, legal, and social implications of biosciences and emerging technologies, particularly those related to neuroscience and behavioral genetics. Full bio
Nita A. Farahany is a leading scholar on the ethical, legal, and social implications of biosciences and emerging technologies, particularly those related to neuroscience and behavioral genetics. Full bio
Double-click the English transcript below to play the video.
00:13
In the months following
the 2009 presidential election in Iran,
the 2009 presidential election in Iran,
0
1096
4714
Dans les mois qui ont suivi l'élection
présidentielle de 2009 en Iran,
présidentielle de 2009 en Iran,
00:17
protests erupted across the country.
1
5834
2894
des manifestations ont éclaté
dans tout le pays.
dans tout le pays.
00:21
The Iranian government
violently suppressed
violently suppressed
2
9685
2896
Le gouvernement iranien
a violemment réprimé
a violemment réprimé
00:24
what came to be known
as the Iranian Green Movement,
as the Iranian Green Movement,
3
12605
3979
ce qui allait devenir
le Mouvement Vert Iranien.
le Mouvement Vert Iranien.
00:28
even blocking mobile signals
4
16608
2053
Ils ont même bloqué
les signaux des portables
les signaux des portables
00:30
to cut off communication
between the protesters.
between the protesters.
5
18685
2714
afin de couper toute communication
entre les manifestants.
entre les manifestants.
00:34
My parents, who emigrated
to the United States in the late 1960s,
to the United States in the late 1960s,
6
22316
4669
Mes parents, émigrés aux États-Unis
à la fin des années 1960,
à la fin des années 1960,
00:39
spend substantial time there,
7
27009
1794
ont passé beaucoup de temps en Iran,
00:40
where all of my large,
extended family live.
extended family live.
8
28827
3153
et c'est là où réside toute
ma famille au sens large.
ma famille au sens large.
00:44
When I would call my family in Tehran
9
32832
3129
Lorsque j'appelais ma famille à Téhéran,
00:47
during some of the most violent
crackdowns of the protest,
crackdowns of the protest,
10
35985
3452
lors de la répression la plus
violente de la protestation,
violente de la protestation,
00:51
none of them dared discuss
with me what was happening.
with me what was happening.
11
39461
3252
aucun d'eux n'osait discuter
de ce qui se passait.
de ce qui se passait.
00:55
They or I knew to quickly steer
the conversation to other topics.
the conversation to other topics.
12
43196
3529
Que ce soit eux ou moi, nous savions
comment vite changer de conversation.
comment vite changer de conversation.
00:59
All of us understood
what the consequences could be
what the consequences could be
13
47163
3380
Nous avions tous compris quelles
pourraient être les conséquences
pourraient être les conséquences
01:02
of a perceived dissident action.
14
50567
2540
d'une action perçue comme dissidente.
01:06
But I still wish I could have known
what they were thinking
what they were thinking
15
54095
3469
Mais j'aurais quand même souhaité
savoir ce qu'ils pensaient
savoir ce qu'ils pensaient
01:09
or what they were feeling.
16
57588
1418
ou ce qu'ils ressentaient.
01:12
What if I could have?
17
60217
1393
Et si j'avais pu ?
01:14
Or more frighteningly,
18
62149
1151
Ou, plus effrayant, et si
le gouvernement iranien avait pu ?
le gouvernement iranien avait pu ?
01:15
what if the Iranian government could have?
19
63324
2761
01:18
Would they have arrested them
based on what their brains revealed?
based on what their brains revealed?
20
66695
3244
Les auraient-ils arrêtés en se basant
sur ce que leur cerveau avait révélé ?
sur ce que leur cerveau avait révélé ?
01:22
That day may be closer than you think.
21
70933
2944
Ce jour est peut-être plus proche
que vous ne le pensez.
que vous ne le pensez.
01:26
With our growing capabilities
in neuroscience, artificial intelligence
in neuroscience, artificial intelligence
22
74527
3811
Grace à nos progrès croissants
en neuroscience,
en neuroscience,
en intelligence artificielle
et en apprentissage machine,
et en apprentissage machine,
01:30
and machine learning,
23
78362
1703
01:32
we may soon know a lot more
of what's happening in the human brain.
of what's happening in the human brain.
24
80089
4075
nous allons bientôt
en savoir beaucoup plus
en savoir beaucoup plus
sur ce qui se passe
dans le cerveau humain.
dans le cerveau humain.
01:37
As a bioethicist, a lawyer, a philosopher
25
85083
3310
En tant que bioéthicienne,
avocat, philosophe,
avocat, philosophe,
01:40
and an Iranian-American,
26
88417
1867
et américano-iranienne,
01:42
I'm deeply concerned
about what this means for our freedoms
about what this means for our freedoms
27
90308
3787
je suis profondément préoccupée
par ce que cela signifie pour nos libertés
par ce que cela signifie pour nos libertés
01:46
and what kinds of protections we need.
28
94119
2171
et quels sont les types de protection
dont nous avons besoin.
dont nous avons besoin.
01:48
I believe we need
a right to cognitive liberty,
a right to cognitive liberty,
29
96993
3460
Je crois que nous avons besoin
d'un droit à la liberté cognitive,
d'un droit à la liberté cognitive,
01:52
as a human right
that needs to be protected.
that needs to be protected.
30
100477
2892
considéré comme un droit humain
qui doit être protégé.
qui doit être protégé.
01:55
If not, our freedom of thought,
31
103772
2643
Sinon, notre liberté de penser,
01:58
access and control over our own brains
32
106439
3024
l'accès et le contrôle
sur nos propres cerveaux,
sur nos propres cerveaux,
02:01
and our mental privacy will be threatened.
33
109487
2841
et notre vie privée mentale,
seront menacés.
seront menacés.
02:05
Consider this:
34
113698
1158
Considèrez ceci : une personne ordinaire
a des milliers de pensées chaque jour.
a des milliers de pensées chaque jour.
02:06
the average person thinks
thousands of thoughts each day.
thousands of thoughts each day.
35
114880
3314
02:10
As a thought takes form,
36
118697
1151
Quand une pensée se forme,
comme un calcul mathématique,
comme un calcul mathématique,
02:11
like a math calculation
or a number, a word,
or a number, a word,
37
119872
5056
un nombre, ou un mot,
02:16
neurons are interacting in the brain,
38
124952
2885
les neurones interagissent
dans le cerveau,
dans le cerveau,
02:19
creating a miniscule electrical discharge.
39
127861
3088
et créent de minuscules
décharges électriques.
décharges électriques.
02:23
When you have a dominant
mental state, like relaxation,
mental state, like relaxation,
40
131713
3452
Lorsque vous êtes dominé
par un état mental, comme la relaxation,
par un état mental, comme la relaxation,
02:27
hundreds and thousands of neurons
are firing in the brain,
are firing in the brain,
41
135189
4175
des centaines de milliers de neurones
s'activent dans le cerveau,
s'activent dans le cerveau,
02:31
creating concurrent electrical discharges
in characteristic patterns
in characteristic patterns
42
139388
4218
créant des décharges
électriques simultanées
électriques simultanées
qui suivent des schémas caractéristiques,
02:35
that can be measured
with electroencephalography, or EEG.
with electroencephalography, or EEG.
43
143630
4865
et qui peuvent être mesurées à l'aide
d'un électroencéphalogramme ou EEG.
d'un électroencéphalogramme ou EEG.
02:41
In fact, that's what
you're seeing right now.
you're seeing right now.
44
149118
2160
En fait, c'est ce que
vous voyez en ce moment.
vous voyez en ce moment.
02:43
You're seeing my brain activity
that was recorded in real time
that was recorded in real time
45
151956
3964
Vous voyez mon activité cérébrale
enregistrée en temps réel,
enregistrée en temps réel,
02:47
with a simple device
that was worn on my head.
that was worn on my head.
46
155944
2735
avec un simple appareil
que je portais sur la tête.
que je portais sur la tête.
02:51
What you're seeing is my brain activity
when I was relaxed and curious.
when I was relaxed and curious.
47
159669
5653
Ce que vous voyez,
c'est mon activité cérébrale
c'est mon activité cérébrale
quand j'étais détendue et curieuse.
02:58
To share this information with you,
48
166097
1755
Pour pouvoir partager
cette information avec vous,
cette information avec vous,
02:59
I wore one of the early
consumer-based EEG devices
consumer-based EEG devices
49
167876
3020
j'ai porté l'un des premiers EEG destinés
aux consommateurs, comme celui-ci,
aux consommateurs, comme celui-ci,
03:02
like this one,
50
170920
1211
03:04
which recorded the electrical
activity in my brain in real time.
activity in my brain in real time.
51
172155
3988
qui enregistrait l'activité électrique
dans mon cerveau en temps réel,
dans mon cerveau en temps réel,
03:08
It's not unlike the fitness trackers
that some of you may be wearing
that some of you may be wearing
52
176849
3826
un peu comme les traqueurs d'activité,
portés peut-être par certains ici,
portés peut-être par certains ici,
03:12
to measure your heart rate
or the steps that you've taken,
or the steps that you've taken,
53
180699
3586
qui mesurent votre fréquence cardiaque,
ou le nombre de vos pas,
ou le nombre de vos pas,
03:16
or even your sleep activity.
54
184309
1587
ou même votre activité
durant le sommeil.
durant le sommeil.
03:19
It's hardly the most sophisticated
neuroimaging technique on the market.
neuroimaging technique on the market.
55
187154
3824
Ce n'est pas la technique de neuroimagerie
la plus sophistiquée du marché,
la plus sophistiquée du marché,
03:23
But it's already the most portable
56
191597
2378
mais c'est, d'ors et déjà,
la plus portable
la plus portable
03:25
and the most likely to impact
our everyday lives.
our everyday lives.
57
193999
3152
et la plus susceptible d'affecter
notre vie quotidienne.
notre vie quotidienne.
03:29
This is extraordinary.
58
197915
1503
C'est extraordinaire !
03:31
Through a simple, wearable device,
59
199442
2505
Grâce à un simple appareil portable,
03:33
we can literally see
inside the human brain
inside the human brain
60
201971
3548
nous pouvons littéralement « voir »
à l'intérieur du cerveau humain
à l'intérieur du cerveau humain
03:37
and learn aspects of our mental landscape
without ever uttering a word.
without ever uttering a word.
61
205543
6476
et connaître les aspects
de notre paysage mental
de notre paysage mental
sans jamais dire un mot.
03:44
While we can't reliably decode
complex thoughts just yet,
complex thoughts just yet,
62
212829
3653
Même si nous ne pouvons pas correctement
décoder des pensées complexes,
décoder des pensées complexes,
03:48
we can already gauge a person's mood,
63
216506
2519
nous pouvons déjà évaluer
l'humeur d'une personne
l'humeur d'une personne
03:51
and with the help
of artificial intelligence,
of artificial intelligence,
64
219049
2873
et, grâce à l'intelligence artificielle,
03:53
we can even decode
some single-digit numbers
some single-digit numbers
65
221946
4341
nous pouvons même reconnaître
certains nombres à un seul chiffre,
certains nombres à un seul chiffre,
03:58
or shapes or simple words
that a person is thinking
that a person is thinking
66
226311
4882
certaines formes ou mots simples
qu'une personne est en train
de penser, d'entendre, ou de voir.
de penser, d'entendre, ou de voir.
04:03
or hearing, or seeing.
67
231217
2189
04:06
Despite some inherent limitations in EEG,
68
234345
3365
Malgré certaines limitations
inhérentes à l'EEG,
inhérentes à l'EEG,
04:09
I think it's safe to say
that with our advances in technology,
that with our advances in technology,
69
237734
4720
je pense qu'on peut raisonnablement dire
que grâce à nos progrès technologiques,
que grâce à nos progrès technologiques,
04:14
more and more of what's happening
in the human brain
in the human brain
70
242478
3809
de plus en plus de ce qui se passe
dans le cerveau humain
dans le cerveau humain
04:18
can and will be decoded over time.
71
246311
2310
peut et sera décodé avec le temps.
04:21
Already, using one of these devices,
72
249362
2746
Actuellement, en utilisant
un de ces appareils,
un de ces appareils,
04:24
an epileptic can know
they're going to have an epileptic seizure
they're going to have an epileptic seizure
73
252132
3255
un épileptique peut anticiper une crise
épileptique avant qu'elle ne se produise ;
épileptique avant qu'elle ne se produise ;
04:27
before it happens.
74
255411
1436
04:28
A paraplegic can type on a computer
with their thoughts alone.
with their thoughts alone.
75
256871
4603
un paraplégique peut
se servir d'un ordinateur
se servir d'un ordinateur
en utilisant seulement ses pensées.
04:34
A US-based company has developed
a technology to embed these sensors
a technology to embed these sensors
76
262485
4183
Une société basée aux États-Unis
a développé une technologie
a développé une technologie
qui intègre ces capteurs
dans l’appuie-tête des automobiles
dans l’appuie-tête des automobiles
04:38
into the headrest of automobilies
77
266692
2230
04:40
so they can track driver concentration,
78
268946
2505
et permet de surveiller
la concentration du conducteur,
la concentration du conducteur,
04:43
distraction and cognitive load
while driving.
while driving.
79
271475
2667
sa distraction et sa charge cognitive,
pendant qu'il conduit.
pendant qu'il conduit.
04:46
Nissan, insurance companies
and AAA have all taken note.
and AAA have all taken note.
80
274912
4058
Nissan, des compagnies d'assurance
et AAA ont tous pris acte.
et AAA ont tous pris acte.
04:51
You could even watch this
choose-your-own-adventure movie
choose-your-own-adventure movie
81
279949
4508
Vous pouvez même regarder un film
« Choisis-ton-aventure »,
« Choisis-ton-aventure »,
04:56
"The Moment," which, with an EEG headset,
82
284481
4240
tel que « The Moment »,
avec un casque EEG,
avec un casque EEG,
05:00
changes the movie
based on your brain-based reactions,
based on your brain-based reactions,
83
288745
3926
qui modifie le film en fonction
de vos réactions cérébrales,
de vos réactions cérébrales,
05:04
giving you a different ending
every time your attention wanes.
every time your attention wanes.
84
292695
4353
et vous donne une fin différente
chaque fois que votre attention faiblit.
chaque fois que votre attention faiblit.
05:11
This may all sound great,
85
299154
2763
Tout cela peut sembler formidable
05:13
and as a bioethicist,
86
301941
2189
et, en tant que bioéthicien,
05:16
I am a huge proponent of empowering people
87
304154
3613
j'encourage ardemment
les gens à se responsabiliser,
les gens à se responsabiliser,
05:19
to take charge of their own
health and well-being
health and well-being
88
307791
2616
à prendre en charge
leur santé et leur bien-être
leur santé et leur bien-être
05:22
by giving them access
to information about themselves,
to information about themselves,
89
310431
2918
en leur donnant accès
à des informations sur eux-mêmes,
à des informations sur eux-mêmes,
05:25
including this incredible
new brain-decoding technology.
new brain-decoding technology.
90
313373
2976
y compris cette incroyable technologie
de décodage de l'activité cérébrale.
de décodage de l'activité cérébrale.
05:29
But I worry.
91
317878
1167
Mais, je m'inquiète.
05:31
I worry that we will voluntarily
or involuntarily give up
or involuntarily give up
92
319736
4760
Je crains que nous ne renoncions,
volontairement ou involontairement,
volontairement ou involontairement,
05:36
our last bastion of freedom,
our mental privacy.
our mental privacy.
93
324520
4118
à notre dernier bastion de liberté :
notre vie privée mentale ;
notre vie privée mentale ;
05:41
That we will trade our brain activity
94
329302
2925
que nous ne vendions
notre activité cérébrale
notre activité cérébrale
05:44
for rebates or discounts on insurance,
95
332251
3046
pour un rabais ou des réductions
sur les assurances,
sur les assurances,
ou pour un accès gratuit
à des réseaux sociaux internet,
à des réseaux sociaux internet,
05:48
or free access
to social-media accounts ...
to social-media accounts ...
96
336391
2603
05:52
or even to keep our jobs.
97
340444
1848
ou même pour préserver notre emploi.
05:54
In fact, in China,
98
342900
1913
En fait, en Chine,
05:58
the train drivers on
the Beijing-Shanghai high-speed rail,
the Beijing-Shanghai high-speed rail,
99
346199
5897
les conducteurs de train,
sur le TGV Beijing-Shanghai,
sur le TGV Beijing-Shanghai,
06:04
the busiest of its kind in the world,
100
352120
2532
le plus occupé de son genre dans le monde,
06:06
are required to wear EEG devices
101
354676
2476
sont tenus de porter des appareils EEG
06:09
to monitor their brain activity
while driving.
while driving.
102
357176
2427
pour surveiller leur activité
cérébrale pendant qu'ils conduisent.
cérébrale pendant qu'ils conduisent.
06:12
According to some news sources,
103
360157
2226
Selon certaines sources d'actualités,
06:14
in government-run factories in China,
104
362407
2679
dans certaines usines
gouvernementales en Chine,
gouvernementales en Chine,
06:17
the workers are required to wear
EEG sensors to monitor their productivity
EEG sensors to monitor their productivity
105
365110
5364
les travailleurs doivent
porter des capteurs EEG
porter des capteurs EEG
pour observer leur productivité
et leur état émotionnel au travail.
et leur état émotionnel au travail.
06:22
and their emotional state at work.
106
370498
2115
06:25
Workers are even sent home
107
373267
2310
Les travailleurs sont
même renvoyés chez eux
même renvoyés chez eux
06:27
if their brains show less-than-stellar
concentration on their jobs,
concentration on their jobs,
108
375601
4054
si leur cerveau montre une concentration
médiocre sur leur travail
médiocre sur leur travail
06:31
or emotional agitation.
109
379679
2122
ou de l'agitation émotionnelle.
06:35
It's not going to happen tomorrow,
110
383189
1745
Cela ne va pas arriver demain,
06:36
but we're headed to a world
of brain transparency.
of brain transparency.
111
384958
3086
mais nous nous dirigeons
vers un monde de transparence cérébrale.
vers un monde de transparence cérébrale.
06:40
And I don't think people understand
that that could change everything.
that that could change everything.
112
388537
3440
Et je ne pense pas que les gens
comprennent que cela peut tout changer,
comprennent que cela peut tout changer,
06:44
Everything from our definitions
of data privacy to our laws,
of data privacy to our laws,
113
392474
3675
de notre définition
de la confidentialité des données,
de la confidentialité des données,
à nos lois, en passant
par nos idées sur la liberté.
par nos idées sur la liberté.
06:48
to our ideas about freedom.
114
396173
1800
06:50
In fact, in my lab at Duke University,
115
398731
3077
En fait, dans mon laboratoire
à l'Université Duke,
à l'Université Duke,
06:53
we recently conducted a nationwide study
in the United States
in the United States
116
401832
3175
Nous avons récemment mené
une étude nationale, aux États-Unis,
une étude nationale, aux États-Unis,
06:57
to see if people appreciated
117
405031
1959
pour savoir si les gens appréciaient
06:59
the sensitivity
of their brain information.
of their brain information.
118
407014
2071
la nature délicate de leurs
informations cérébrales.
informations cérébrales.
07:02
We asked people to rate
their perceived sensitivity
their perceived sensitivity
119
410356
3356
Nous leur avons demandé
d'évaluer leur sensibilité
d'évaluer leur sensibilité
07:05
of 33 different kinds of information,
120
413736
2231
concernant 33 types
différents d'information,
différents d'information,
07:07
from their social security numbers
121
415991
2220
de leur numéro de sécurité sociale
07:10
to the content
of their phone conversations,
of their phone conversations,
122
418235
2597
au contenu de leurs
conversations téléphoniques,
conversations téléphoniques,
07:12
their relationship history,
123
420856
2193
à l’histoire de leurs relations,
07:15
their emotions, their anxiety,
124
423073
1942
à leurs émotions, leur anxiété,
07:17
the mental images in their mind
125
425039
1946
leurs images mentales
et les pensées dans leur esprit.
et les pensées dans leur esprit.
07:19
and the thoughts in their mind.
126
427009
1538
07:21
Shockingly, people rated their social
security number as far more sensitive
security number as far more sensitive
127
429481
5229
Étonnamment, les gens ont jugé
leur numéro de sécurité sociale
leur numéro de sécurité sociale
beaucoup plus sensible
que tout autre type d’information,
que tout autre type d’information,
07:26
than any other kind of information,
128
434734
2203
07:28
including their brain data.
129
436961
2435
y compris leurs données cérébrales.
07:32
I think this is because
people don't yet understand
people don't yet understand
130
440380
3216
Je pense que c'est parce que les gens
ne comprennent pas encore
ou ne croient pas aux implications
ou ne croient pas aux implications
07:35
or believe the implications
of this new brain-decoding technology.
of this new brain-decoding technology.
131
443620
4063
de cette nouvelle technologie
de décodage des ondes cérébrales.
de décodage des ondes cérébrales.
07:40
After all, if we can know
the inner workings of the human brain,
the inner workings of the human brain,
132
448629
3289
En effet, si nous avons accès aux rouages
internes du cerveau humain,
internes du cerveau humain,
07:43
our social security numbers
are the least of our worries.
are the least of our worries.
133
451942
2706
nos numéros de sécurité sociale
sont le moindre de nos soucis.
sont le moindre de nos soucis.
07:46
(Laughter)
134
454672
1285
(Rires)
07:47
Think about it.
135
455981
1167
Pensez-y.
07:49
In a world of total brain transparency,
136
457172
2396
Dans un monde de transparence
totale du cerveau,
totale du cerveau,
07:51
who would dare have
a politically dissident thought?
a politically dissident thought?
137
459592
2429
qui oserait avoir une pensée
politique dissidente ?
politique dissidente ?
07:55
Or a creative one?
138
463279
1541
Ou une pensée créative ?
07:57
I worry that people will self-censor
139
465503
3476
Je crains que les gens ne s'autocensurent,
08:01
in fear of being ostracized by society,
140
469003
3302
de peur d'être mis au ban de la société,
08:04
or that people will lose their jobs
because of their waning attention
because of their waning attention
141
472329
3813
ou que les gens ne perdent leur emploi
à cause de leur attention déclinante
ou de leur instabilité émotionnelle,
ou de leur instabilité émotionnelle,
08:08
or emotional instability,
142
476166
2150
08:10
or because they're contemplating
collective action against their employers.
collective action against their employers.
143
478340
3550
ou parce qu'ils envisagent une action
collective contre leurs employeurs.
collective contre leurs employeurs.
08:14
That coming out
will no longer be an option,
will no longer be an option,
144
482478
3177
Sortir de la norme ne sera plus possible,
08:17
because people's brains will long ago
have revealed their sexual orientation,
have revealed their sexual orientation,
145
485679
5067
parce que le cerveau des gens aura révélé
depuis longtemps leur orientation sexuelle,
depuis longtemps leur orientation sexuelle,
08:22
their political ideology
146
490770
1822
leur idéologie politique,
ou leurs préférences religieuses,
ou leurs préférences religieuses,
08:24
or their religious preferences,
147
492616
2025
08:26
well before they were ready
to consciously share that information
to consciously share that information
148
494665
3080
bien avant qu'ils ne soient prêts
à partager consciemment
cette information avec les autres.
cette information avec les autres.
08:29
with other people.
149
497769
1253
08:31
I worry about the ability of our laws
to keep up with technological change.
to keep up with technological change.
150
499565
4912
Je m'inquiète de la capacité de nos lois
à suivre l'évolution technologique.
à suivre l'évolution technologique.
Prenez le Premier amendement
de la Constitution américaine,
de la Constitution américaine,
08:36
Take the First Amendment
of the US Constitution,
of the US Constitution,
151
504986
2320
08:39
which protects freedom of speech.
152
507330
1958
qui protège la liberté d'expression.
08:41
Does it also protect freedom of thought?
153
509312
1927
Protège-t-il également
la liberté de pensée ?
la liberté de pensée ?
08:43
And if so, does that mean that we're free
to alter our thoughts however we want?
to alter our thoughts however we want?
154
511944
4169
Si oui, sommes-nous libres de transformer
nos pensées comme bon nous semble ?
nos pensées comme bon nous semble ?
08:48
Or can the government or society tell us
what we can do with our own brains?
what we can do with our own brains?
155
516137
4674
Ou bien le gouvernement
ou la société peuvent-ils dicter
ou la société peuvent-ils dicter
ce que nous pouvons
faire de nos cerveaux ?
faire de nos cerveaux ?
08:53
Can the NSA spy on our brains
using these new mobile devices?
using these new mobile devices?
156
521591
3717
La NSA peut-elle espionner nos cerveaux
avec ces nouveaux appareils mobiles ?
avec ces nouveaux appareils mobiles ?
08:58
Can the companies that collect
the brain data through their applications
the brain data through their applications
157
526053
4119
Les entreprises qui collectent les données
cérébrales via leurs applications
cérébrales via leurs applications
09:02
sell this information to third parties?
158
530196
2074
peuvent-elles vendre
ces informations à des tiers ?
ces informations à des tiers ?
09:05
Right now, no laws prevent them
from doing so.
from doing so.
159
533174
3222
À l'heure actuelle, aucune loi
ne les empêche de le faire.
ne les empêche de le faire.
09:09
It could be even more problematic
160
537203
2025
C'est encore plus
problématique dans des pays
problématique dans des pays
09:11
in countries that don't share
the same freedoms
the same freedoms
161
539252
2519
qui ne partagent pas les mêmes libertés
dont jouissent les citoyens américains.
dont jouissent les citoyens américains.
09:13
enjoyed by people in the United States.
162
541795
2103
09:16
What would've happened during
the Iranian Green Movement
the Iranian Green Movement
163
544883
3787
Que se serait-il passé
durant le Mouvement Vert Iranien,
durant le Mouvement Vert Iranien,
09:20
if the government had been
monitoring my family's brain activity,
monitoring my family's brain activity,
164
548694
3901
si le gouvernement avait surveillé
les activités cérébrales de ma famille
les activités cérébrales de ma famille
09:24
and had believed them
to be sympathetic to the protesters?
to be sympathetic to the protesters?
165
552619
4007
et l'avait considérée
favorable aux manifestants ?
favorable aux manifestants ?
09:30
Is it so far-fetched to imagine a society
166
558091
3047
Est-il si exagéré d'imaginer une société
dans laquelle des gens sont arrêtés
pour avoir pensé commettre un crime,
pour avoir pensé commettre un crime,
09:33
in which people are arrested
based on their thoughts
based on their thoughts
167
561162
2842
09:36
of committing a crime,
168
564028
1167
09:37
like in the science-fiction
dystopian society in "Minority Report."
dystopian society in "Minority Report."
169
565219
4312
comme dans la société
dystopique de science-fiction
dystopique de science-fiction
de « Rapport Minoritaire » ?
09:42
Already, in the United States, in Indiana,
170
570286
4323
Déjà, aux États-Unis, dans l'Indiana,
09:46
an 18-year-old was charged
with attempting to intimidate his school
with attempting to intimidate his school
171
574633
4937
un adolescent de 18 ans a été accusé
d'avoir tenté d'intimider son école
d'avoir tenté d'intimider son école
09:51
by posting a video of himself
shooting people in the hallways ...
shooting people in the hallways ...
172
579594
3309
en publiant une vidéo de lui en train
de tirer sur des gens dans les couloirs...
de tirer sur des gens dans les couloirs...
09:55
Except the people were zombies
173
583881
3007
Sauf que les gens étaient des zombies
09:58
and the video was of him playing
an augmented-reality video game,
an augmented-reality video game,
174
586912
5047
et que la vidéo le figurait jouant
à un jeu vidéo en réalité augmentée,
à un jeu vidéo en réalité augmentée,
le tout ayant été interprété
10:03
all interpreted to be a mental projection
of his subjective intent.
of his subjective intent.
175
591983
4772
comme étant une projection mentale
de son intention subjective.
de son intention subjective.
10:10
This is exactly why our brains
need special protection.
need special protection.
176
598456
4612
C'est justement pour ça que notre cerveau
a besoin d'une protection spéciale.
a besoin d'une protection spéciale.
10:15
If our brains are just as subject
to data tracking and aggregation
to data tracking and aggregation
177
603092
3556
Si nos cerveaux sont sujets au même suivi
et à la même agrégation de données
et à la même agrégation de données
10:18
as our financial records and transactions,
178
606672
2532
que nos données
et transactions financières,
et transactions financières,
10:21
if our brains can be hacked
and tracked like our online activities,
and tracked like our online activities,
179
609228
4285
si nos cerveaux peuvent
être piratés et surveillés
être piratés et surveillés
comme nos activités en ligne,
nos téléphones et applications portables,
nos téléphones et applications portables,
10:25
our mobile phones and applications,
180
613537
2361
10:27
then we're on the brink of a dangerous
threat to our collective humanity.
threat to our collective humanity.
181
615922
4269
nous sommes au bord d'une grave
menace pour toute l'humanité.
menace pour toute l'humanité.
10:33
Before you panic,
182
621406
1309
Pas de panique,
10:36
I believe that there are solutions
to these concerns,
to these concerns,
183
624012
3144
je pense qu'il existe
des solutions à ces problèmes,
des solutions à ces problèmes,
10:39
but we have to start by focusing
on the right things.
on the right things.
184
627180
2825
mais d'abord, nous devons nous
concentrer sur les choses importantes.
concentrer sur les choses importantes.
10:42
When it comes to privacy
protections in general,
protections in general,
185
630580
2921
En ce qui concerne la protection
de la vie privée en général,
de la vie privée en général,
10:45
I think we're fighting a losing battle
186
633525
1826
nous menons une bataille perdue
10:47
by trying to restrict
the flow of information.
the flow of information.
187
635375
2858
en essayant de limiter
le flux d'informations.
le flux d'informations.
10:50
Instead, we should be focusing
on securing rights and remedies
on securing rights and remedies
188
638257
4057
Nous devrions plutôt nous concentrer
sur la garantie des droits et recours
sur la garantie des droits et recours
10:54
against the misuse of our information.
189
642338
2275
contre l'utilisation abusive
de nos informations.
de nos informations.
10:57
If people had the right to decide
how their information was shared,
how their information was shared,
190
645291
3285
Si les gens pouvaient décider de la façon
dont leurs informations sont partagées,
dont leurs informations sont partagées,
11:00
and more importantly, have legal redress
191
648600
2921
et, plus important encore,
avoir un recours légal
avoir un recours légal
11:03
if their information
was misused against them,
was misused against them,
192
651545
2428
en cas d'utilisation abusive
de leurs informations,
de leurs informations,
11:05
say to discriminate against them
in an employment setting
in an employment setting
193
653997
2786
par exemple, en cas de discrimination
dans un contexte de travail,
de santé ou d'éducation,
de santé ou d'éducation,
11:08
or in health care or education,
194
656807
2785
11:11
this would go a long way to build trust.
195
659616
2571
cela contribuerait grandement
à créer de la confiance.
à créer de la confiance.
11:14
In fact, in some instances,
196
662843
1718
En fait, dans certains cas,
11:16
we want to be sharing more
of our personal information.
of our personal information.
197
664585
3524
nous souhaitons partager davantage
nos renseignements personnels.
nos renseignements personnels.
11:20
Studying aggregated information
can tell us so much
can tell us so much
198
668697
3047
L'étude des informations globales
peut nous en dire tant
sur notre santé et notre bien-être !
sur notre santé et notre bien-être !
11:23
about our health and our well-being,
199
671768
2747
11:26
but to be able to safely share
our information,
our information,
200
674539
3313
Mais pour pouvoir partager
nos informations en toute sécurité,
nos informations en toute sécurité,
11:29
we need special protections
for mental privacy.
for mental privacy.
201
677876
3223
nous avons besoin d'une protection
spéciale de la vie privée mentale.
spéciale de la vie privée mentale.
11:33
This is why we need
a right to cognitive liberty.
a right to cognitive liberty.
202
681832
3147
Voilà pourquoi nous avons besoin
d'un Droit à la Liberté Cognitive.
d'un Droit à la Liberté Cognitive.
11:37
This right would secure for us
our freedom of thought and rumination,
our freedom of thought and rumination,
203
685543
4079
Ce droit protègerait notre liberté
de penser et de ruminer,
de penser et de ruminer,
11:41
our freedom of self-determination,
204
689646
2540
notre liberté de disposer de nous-mêmes,
11:44
and it would insure that we have
the right to consent to or refuse
the right to consent to or refuse
205
692210
4390
et il garantirait notre droit
de consentir ou refuser
de consentir ou refuser
11:48
access and alteration
of our brains by others.
of our brains by others.
206
696624
2857
l'accès et l'altération
de notre cerveau par d'autres.
de notre cerveau par d'autres.
11:51
This right could be recognized
207
699811
2112
Ce droit pourrait être reconnu
11:53
as part of the Universal Declaration
of Human Rights,
of Human Rights,
208
701947
2883
dans le cadre de la Déclaration
Universelle des Droits de l'Homme,
Universelle des Droits de l'Homme,
11:56
which has established mechanisms
209
704854
2388
qui a mis en place des mécanismes
11:59
for the enforcement
of these kinds of social rights.
of these kinds of social rights.
210
707266
2856
permettant de faire respecter
ce type de droits sociaux.
ce type de droits sociaux.
12:03
During the Iranian Green Movement,
211
711872
2070
Au cours du Mouvement Vert Iranien,
12:05
the protesters used the internet
and good old-fashioned word of mouth
and good old-fashioned word of mouth
212
713966
5186
les manifestants ont utilisé Internet
et le bon vieux bouche-à-oreille
et le bon vieux bouche-à-oreille
12:11
to coordinate their marches.
213
719176
1948
pour coordonner leurs marches.
12:14
And some of the most oppressive
restrictions in Iran
restrictions in Iran
214
722238
2769
Et certaines des restrictions
les plus oppressives en Iran
les plus oppressives en Iran
12:17
were lifted as a result.
215
725031
1877
ont été retirées en conséquence.
12:20
But what if the Iranian government
had used brain surveillance
had used brain surveillance
216
728047
4087
Que se serait-il passé
si le gouvernement iranien
si le gouvernement iranien
avait utilisé la surveillance
de l'activité cérébrale
de l'activité cérébrale
12:24
to detect and prevent the protest?
217
732158
3061
pour détecter et empêcher
la manifestation ?
la manifestation ?
12:28
Would the world have ever heard
the protesters' cries?
the protesters' cries?
218
736847
3176
Le monde aurait-il jamais entendu
les appels des manifestants ?
les appels des manifestants ?
12:33
The time has come for us to call
for a cognitive liberty revolution.
for a cognitive liberty revolution.
219
741732
5121
Le temps est venu pour nous d'appeler
à une révolution de la liberté cognitive,
à une révolution de la liberté cognitive,
12:39
To make sure that we responsibly
advance technology
advance technology
220
747559
3264
pour veiller à ce que nous
développions de façon responsable
développions de façon responsable
une technologie qui nous
permette d'embrasser l'avenir
permette d'embrasser l'avenir
12:42
that could enable us to embrace the future
221
750847
2978
12:45
while fiercely protecting all of us
from any person, company or government
from any person, company or government
222
753849
6717
tout en nous protégeant tous
farouchement
farouchement
contre toute personne,
entreprise ou gouvernement
entreprise ou gouvernement
12:52
that attempts to unlawfully access
or alter our innermost lives.
or alter our innermost lives.
223
760590
5040
qui tente d'accéder illégalement
ou de modifier notre vie intérieure.
ou de modifier notre vie intérieure.
12:58
Thank you.
224
766659
1174
Merci.
12:59
(Applause)
225
767857
3492
(Applaudissements)
ABOUT THE SPEAKER
Nita Farahany - Legal scholar, ethicistNita A. Farahany is a leading scholar on the ethical, legal, and social implications of biosciences and emerging technologies, particularly those related to neuroscience and behavioral genetics.
Why you should listen
Nita A. Farahany is a professor of law and philosophy, the founding director of the Duke Initiative for Science & Society and chair of the MA in Bioethics & Science Policy at Duke University. In 2010, Farahany was appointed by President Obama to the Presidential Commission for the Study of Bioethical Issues, and she served as a member until 2017. She is a member of the Neuroethics Division of the Multi-Council Working Group for the BRAIN Initiative, on the President's Research Council of the Canadian Institute for Advanced Research (CIFAR), and past member of the Global Agenda Council for Privacy, Technology and Governance at the World Economic Forum.
Farahany presents her work to diverse audiences and is a frequent commentator for national media and radio shows. She is an elected member of the American Law Institute, the President-Elect of the International Neuroethics Society, serves on the Board of the International Neuroethics Society, a co-editor a co-editor-in-chief and co-founder of the Journal of Law and the Biosciences and an editorial board member of the American Journal of Bioethics (Neuroscience). She's on the Ethics Advisory Board for Illumina, Inc., the Scientific Advisory Board of Helix, and the Board of Advisors of Scientific American.
Farahany received her AB in genetics, cell and developmental biology at Dartmouth College, a JD and MA from Duke University, as well as a PhD in philosophy. She also holds an ALM in biology from Harvard University. In 2004-2005, Farahany clerked for Judge Judith W. Rogers of the US Court of Appeals for the D.C. Circuit, after which she joined the faculty at Vanderbilt University. In 2011, Farahany was the Leah Kaplan Visiting Professor of Human Rights at Stanford Law School.
Nita Farahany | Speaker | TED.com