TEDSummit
Zeynep Tufekci: Machine intelligence makes human morals more important
Zeynep Tufekci: L'intelligence artificielle rend la morale humaine plus importante
Filmed:
Readability: 4.9
1,648,711 views
L'intelligence artificielle est arrivée et nous sommes prêts à l'utiliser pour prendre des décisions subjectives. Mais la façon complexe dont l'IA grossit et s'améliore fait qu'elle est difficile à comprendre et encore plus à contrôler. Dans cet exposé de mise en garde, Zeynep Tufekci explique comment les machines intelligentes peuvent échouer de façons qui ne correspondent pas aux schémas d'erreurs humaines -- et de façons inattendues et imprévues. « Nous ne pouvons pas sous-traiter nos responsabilités aux machines, dit-elle. Nous devons nous accrocher encore plus aux valeurs et éthiques humaines. »
Zeynep Tufekci - Techno-sociologist
Techno-sociologist Zeynep Tufekci asks big questions about our societies and our lives, as both algorithms and digital connectivity spread. Full bio
Techno-sociologist Zeynep Tufekci asks big questions about our societies and our lives, as both algorithms and digital connectivity spread. Full bio
Double-click the English transcript below to play the video.
00:12
So, I started my first job
as a computer programmer
as a computer programmer
0
739
4122
Mon premier travail
était programmeuse informatique
était programmeuse informatique
durant ma première année à l'université --
00:16
in my very first year of college --
1
4885
1956
00:18
basically, as a teenager.
2
6865
1507
quand j'étais adolescente.
00:20
Soon after I started working,
3
8889
1732
Peu après avoir commencé
à écrire des programmes en entreprise,
à écrire des programmes en entreprise,
00:22
writing software in a company,
4
10645
1610
00:24
a manager who worked at the company
came down to where I was,
came down to where I was,
5
12799
3635
un responsable de l'entreprise
est venu me voir
est venu me voir
00:28
and he whispered to me,
6
16458
1268
et m'a murmuré :
00:30
"Can he tell if I'm lying?"
7
18229
2861
« Peut-il dire si je mens ? »
00:33
There was nobody else in the room.
8
21806
2077
Il n'y avait personne d'autre
dans la pièce.
dans la pièce.
00:37
"Can who tell if you're lying?
And why are we whispering?"
And why are we whispering?"
9
25032
4389
« Qui peut dire si vous mentez ?
Et pourquoi chuchotez-vous ? »
Et pourquoi chuchotez-vous ? »
00:42
The manager pointed
at the computer in the room.
at the computer in the room.
10
30266
3107
Le responsable a pointé du doigt
l'ordinateur dans la pièce.
l'ordinateur dans la pièce.
00:45
"Can he tell if I'm lying?"
11
33397
3096
« Peut-il dire si je mens ? »
00:49
Well, that manager was having
an affair with the receptionist.
an affair with the receptionist.
12
37613
4362
Ce responsable avait une aventure
avec la réceptionniste.
avec la réceptionniste.
00:53
(Laughter)
13
41999
1112
(Rires)
00:55
And I was still a teenager.
14
43135
1766
J'étais toujours adolescente.
00:57
So I whisper-shouted back to him,
15
45447
2019
J'ai lui ai murmuré-crié :
00:59
"Yes, the computer can tell
if you're lying."
if you're lying."
16
47490
3624
« Oui, l'ordinateur peut dire
si vous mentez. »
si vous mentez. »
01:03
(Laughter)
17
51138
1806
(Rires)
01:04
Well, I laughed, but actually,
the laugh's on me.
the laugh's on me.
18
52968
2923
J'ai rigolé, mais c'est de moi
qu'on peut se moquer.
qu'on peut se moquer.
01:07
Nowadays, there are computational systems
19
55915
3268
Il y a aujourd'hui
des systèmes informatiques
des systèmes informatiques
01:11
that can suss out
emotional states and even lying
emotional states and even lying
20
59207
3548
qui peuvent repérer
les états émotionnels et les mensonges
les états émotionnels et les mensonges
01:14
from processing human faces.
21
62779
2044
en traitant les informations
du visage humain.
du visage humain.
01:17
Advertisers and even governments
are very interested.
are very interested.
22
65248
4153
Les publicitaires et les gouvernements
sont très intéressés.
sont très intéressés.
01:22
I had become a computer programmer
23
70319
1862
J'étais devenue programmeuse informatique
01:24
because I was one of those kids
crazy about math and science.
crazy about math and science.
24
72205
3113
car j'étais l'une de ces gamines
folles de maths et de sciences.
folles de maths et de sciences.
01:27
But somewhere along the line
I'd learned about nuclear weapons,
I'd learned about nuclear weapons,
25
75942
3108
Mais, en chemin, j'avais découvert
les armes nucléaires
les armes nucléaires
01:31
and I'd gotten really concerned
with the ethics of science.
with the ethics of science.
26
79074
2952
et je me sentais très concernée
par l'éthique de la science.
par l'éthique de la science.
01:34
I was troubled.
27
82050
1204
J'étais troublée.
01:35
However, because of family circumstances,
28
83278
2641
Cependant, du fait
de circonstances familiales,
de circonstances familiales,
01:37
I also needed to start working
as soon as possible.
as soon as possible.
29
85943
3298
je devais aussi commencer à travailler
aussi vite que possible.
aussi vite que possible.
01:41
So I thought to myself, hey,
let me pick a technical field
let me pick a technical field
30
89265
3299
Je me suis dit :
« Choisis un domaine technique
« Choisis un domaine technique
01:44
where I can get a job easily
31
92588
1796
où tu peux avoir un emploi facilement
01:46
and where I don't have to deal
with any troublesome questions of ethics.
with any troublesome questions of ethics.
32
94408
4018
et où je n'ai pas à gérer
des questions d'éthique difficiles. »
des questions d'éthique difficiles. »
01:51
So I picked computers.
33
99022
1529
J'ai donc choisi l'informatique.
01:52
(Laughter)
34
100575
1104
(Rires)
01:53
Well, ha, ha, ha!
All the laughs are on me.
All the laughs are on me.
35
101703
3410
Eh bien, ah ah ah !
On peut se moquer de moi.
On peut se moquer de moi.
01:57
Nowadays, computer scientists
are building platforms
are building platforms
36
105137
2754
Aujourd'hui, les informaticiens
construisent des plateformes
construisent des plateformes
01:59
that control what a billion
people see every day.
people see every day.
37
107915
4209
qui contrôlent chaque jour
ce que voient un milliard de personnes.
ce que voient un milliard de personnes.
02:05
They're developing cars
that could decide who to run over.
that could decide who to run over.
38
113052
3822
Ils développent des voitures
pouvant décider qui écraser.
pouvant décider qui écraser.
02:09
They're even building machines, weapons,
39
117707
3213
Ils construisent même
des machines, des armes
des machines, des armes
qui pourraient tuer
des êtres humains dans une guerre.
des êtres humains dans une guerre.
02:12
that might kill human beings in war.
40
120944
2285
02:15
It's ethics all the way down.
41
123253
2771
Il y a de l'éthique partout.
02:19
Machine intelligence is here.
42
127183
2058
L'intelligence artificielle est arrivée.
02:21
We're now using computation
to make all sort of decisions,
to make all sort of decisions,
43
129823
3474
Nous utilisons l'informatique
pour prendre toutes sortes de décisions,
pour prendre toutes sortes de décisions,
02:25
but also new kinds of decisions.
44
133321
1886
y compris de nouvelles décisions.
02:27
We're asking questions to computation
that have no single right answers,
that have no single right answers,
45
135231
5172
Nous posons à l'informatique
des questions auxquelles
il n'y a pas d'unique bonne réponse,
il n'y a pas d'unique bonne réponse,
02:32
that are subjective
46
140427
1202
qui sont subjectives,
02:33
and open-ended and value-laden.
47
141653
2325
ouvertes et reposent sur des valeurs.
02:36
We're asking questions like,
48
144002
1758
Nous posons des questions comme :
02:37
"Who should the company hire?"
49
145784
1650
« Qui devrait-on embaucher ? »
02:40
"Which update from which friend
should you be shown?"
should you be shown?"
50
148096
2759
« Quelles nouvelles de quel ami
devrait-on vous montrer ? »
devrait-on vous montrer ? »
02:42
"Which convict is more
likely to reoffend?"
likely to reoffend?"
51
150879
2266
« Quel prisonnier
va probablement récidiver ? »
va probablement récidiver ? »
02:45
"Which news item or movie
should be recommended to people?"
should be recommended to people?"
52
153514
3054
« Quel nouvel objet ou film
devrait être recommandé aux gens ? »
devrait être recommandé aux gens ? »
02:48
Look, yes, we've been using
computers for a while,
computers for a while,
53
156592
3372
Cela fait un certain temps
que nous utilisons des ordinateurs
que nous utilisons des ordinateurs
02:51
but this is different.
54
159988
1517
mais c'est différent.
02:53
This is a historical twist,
55
161529
2067
C'est un changement historique :
02:55
because we cannot anchor computation
for such subjective decisions
for such subjective decisions
56
163620
5337
car on ne peut pas utiliser l'informatique
pour des décisions si subjectives
pour des décisions si subjectives
03:00
the way we can anchor computation
for flying airplanes, building bridges,
for flying airplanes, building bridges,
57
168981
5420
comme on utilise l'informatique
pour piloter un avion, construire un pont,
pour piloter un avion, construire un pont,
03:06
going to the moon.
58
174425
1259
aller sur la Lune.
03:08
Are airplanes safer?
Did the bridge sway and fall?
Did the bridge sway and fall?
59
176449
3259
Les avions sont-ils plus sûrs ?
Un pont a-t-il bougé et est tombé ?
Un pont a-t-il bougé et est tombé ?
03:11
There, we have agreed-upon,
fairly clear benchmarks,
fairly clear benchmarks,
60
179732
4498
Là, nous nous accordons
sur des repères assez clairs
sur des repères assez clairs
03:16
and we have laws of nature to guide us.
61
184254
2239
et les lois de la nature nous guident.
03:18
We have no such anchors and benchmarks
62
186517
3394
Nous n'avons pas de tels ancres et repères
03:21
for decisions in messy human affairs.
63
189935
3963
pour les décisions
des affaires complexes humaines.
des affaires complexes humaines.
03:25
To make things more complicated,
our software is getting more powerful,
our software is getting more powerful,
64
193922
4237
Pour compliquer encore les choses,
nos logiciels gagnent en puissance
nos logiciels gagnent en puissance
03:30
but it's also getting less
transparent and more complex.
transparent and more complex.
65
198183
3773
mais sont aussi moins transparents
et plus complexes.
et plus complexes.
03:34
Recently, in the past decade,
66
202542
2040
Récemment, les dix dernières années,
03:36
complex algorithms
have made great strides.
have made great strides.
67
204606
2729
les algorithmes complexes
ont fait de grandes avancées.
ont fait de grandes avancées.
03:39
They can recognize human faces.
68
207359
1990
Ils peuvent reconnaître
les visages humains,
les visages humains,
03:41
They can decipher handwriting.
69
209985
2055
déchiffrer l'écriture,
03:44
They can detect credit card fraud
70
212436
2066
détecter la fraude à la carte bancaire,
03:46
and block spam
71
214526
1189
bloquer le spam,
03:47
and they can translate between languages.
72
215739
2037
traduire d'une langue à une autre,
03:49
They can detect tumors in medical imaging.
73
217800
2574
détecter les tumeurs en imagerie médicale,
03:52
They can beat humans in chess and Go.
74
220398
2205
battre les humains aux échecs et au go.
03:55
Much of this progress comes
from a method called "machine learning."
from a method called "machine learning."
75
223264
4504
Beaucoup de ces progrès
découlent d'une méthode :
découlent d'une méthode :
« l'apprentissage de la machine ».
04:00
Machine learning is different
than traditional programming,
than traditional programming,
76
228175
3187
Cette méthode est différente
de la programmation traditionnelle
de la programmation traditionnelle
04:03
where you give the computer
detailed, exact, painstaking instructions.
detailed, exact, painstaking instructions.
77
231386
3585
où l'on donne des instructions détaillées,
exactes, méticuleuses à l'ordinateur.
exactes, méticuleuses à l'ordinateur.
04:07
It's more like you take the system
and you feed it lots of data,
and you feed it lots of data,
78
235378
4182
Cela ressemble plus
à un système nourri de données,
à un système nourri de données,
04:11
including unstructured data,
79
239584
1656
dont des données non structurées,
04:13
like the kind we generate
in our digital lives.
in our digital lives.
80
241264
2278
comme celles générées
par notre vie numérique.
par notre vie numérique.
04:15
And the system learns
by churning through this data.
by churning through this data.
81
243566
2730
Le système apprend
en parcourant ces données.
en parcourant ces données.
04:18
And also, crucially,
82
246669
1526
Et aussi, c'est crucial,
04:20
these systems don't operate
under a single-answer logic.
under a single-answer logic.
83
248219
4380
ces systèmes n'utilisent pas la logique
de la réponse unique.
de la réponse unique.
04:24
They don't produce a simple answer;
it's more probabilistic:
it's more probabilistic:
84
252623
2959
Ils ne produisent pas une seule réponse,
c'est plus probabiliste :
c'est plus probabiliste :
04:27
"This one is probably more like
what you're looking for."
what you're looking for."
85
255606
3483
« Celle-ci est probablement
plus proche de ce que vous cherchez. »
plus proche de ce que vous cherchez. »
04:32
Now, the upside is:
this method is really powerful.
this method is really powerful.
86
260023
3070
L'avantage est que cette méthode
est très puissante.
est très puissante.
04:35
The head of Google's AI systems called it,
87
263117
2076
Le chef de l'IA chez Google l'a appelée :
04:37
"the unreasonable effectiveness of data."
88
265217
2197
« l'efficacité irraisonnable
des données ».
des données ».
04:39
The downside is,
89
267791
1353
L'inconvénient est :
04:41
we don't really understand
what the system learned.
what the system learned.
90
269738
3071
nous ne comprenons pas vraiment
ce que le système a appris.
ce que le système a appris.
04:44
In fact, that's its power.
91
272833
1587
En fait, c'est sa force.
04:46
This is less like giving
instructions to a computer;
instructions to a computer;
92
274946
3798
C'est moins comme donner
des instructions à un ordinateur ;
des instructions à un ordinateur ;
04:51
it's more like training
a puppy-machine-creature
a puppy-machine-creature
93
279200
4064
plus comme entraîner
une machine-chiot-créature
une machine-chiot-créature
04:55
we don't really understand or control.
94
283288
2371
que nous ne comprenons
ni ne contrôlons vraiment.
ni ne contrôlons vraiment.
04:58
So this is our problem.
95
286362
1551
Voilà notre problème.
05:00
It's a problem when this artificial
intelligence system gets things wrong.
intelligence system gets things wrong.
96
288427
4262
C'est un problème quand cette intelligence
artificielle comprend mal les choses.
artificielle comprend mal les choses.
05:04
It's also a problem
when it gets things right,
when it gets things right,
97
292713
3540
C'est aussi un problème
quand elle comprend les choses
quand elle comprend les choses
05:08
because we don't even know which is which
when it's a subjective problem.
when it's a subjective problem.
98
296277
3628
car on ne sait pas différencier
ces situations pour un problème subjectif.
ces situations pour un problème subjectif.
05:11
We don't know what this thing is thinking.
99
299929
2339
Nous ignorons ce que pense cette chose.
05:15
So, consider a hiring algorithm --
100
303493
3683
Considérez un algorithme d'embauche --
05:20
a system used to hire people,
using machine-learning systems.
using machine-learning systems.
101
308123
4311
un système utilisé pour embaucher des gens
en utilisant l'apprentissage des machines.
en utilisant l'apprentissage des machines.
05:25
Such a system would have been trained
on previous employees' data
on previous employees' data
102
313052
3579
Un tel système aurait été entraîné
sur les données des employés
sur les données des employés
05:28
and instructed to find and hire
103
316655
2591
et chargé de trouver et embaucher
05:31
people like the existing
high performers in the company.
high performers in the company.
104
319270
3038
des gens similaires à ceux
les plus performants de l'entreprise.
les plus performants de l'entreprise.
05:34
Sounds good.
105
322814
1153
Cela semble bien.
05:35
I once attended a conference
106
323991
1999
Une fois, j'ai assisté à une conférence
qui réunissait responsables
des ressources humaines et des dirigeants,
des ressources humaines et des dirigeants,
05:38
that brought together
human resources managers and executives,
human resources managers and executives,
107
326014
3125
05:41
high-level people,
108
329163
1206
des gens de haut niveau,
05:42
using such systems in hiring.
109
330393
1559
avec de tels systèmes d'embauche.
05:43
They were super excited.
110
331976
1646
Ils étaient très excités.
05:45
They thought that this would make hiring
more objective, less biased,
more objective, less biased,
111
333646
4653
Ils pensaient que cela rendrait l'embauche
plus objective, moins biaisée
plus objective, moins biaisée
05:50
and give women
and minorities a better shot
and minorities a better shot
112
338323
3000
et donnerait plus de chances
aux femmes et minorités
aux femmes et minorités
05:53
against biased human managers.
113
341347
2188
face à des responsables RH partiaux.
05:55
And look -- human hiring is biased.
114
343559
2843
L'embauche humaine est partiale.
05:59
I know.
115
347099
1185
Je sais.
06:00
I mean, in one of my early jobs
as a programmer,
as a programmer,
116
348308
3005
Dans l'un de mes premiers postes
en tant que programmeuse,
en tant que programmeuse,
06:03
my immediate manager would sometimes
come down to where I was
come down to where I was
117
351337
3868
ma responsable directe
venait parfois me voir
venait parfois me voir
06:07
really early in the morning
or really late in the afternoon,
or really late in the afternoon,
118
355229
3753
très tôt le matin
ou très tard l'après-midi
ou très tard l'après-midi
06:11
and she'd say, "Zeynep,
let's go to lunch!"
let's go to lunch!"
119
359006
3062
et elle disait : « Zeinep,
allons déjeuner ! »
allons déjeuner ! »
06:14
I'd be puzzled by the weird timing.
120
362724
2167
L'heure étrange me laissait perplexe.
06:16
It's 4pm. Lunch?
121
364915
2129
Il est 16h, déjeuner ?
06:19
I was broke, so free lunch. I always went.
122
367068
3094
J'étais fauchée, le déjeuner était gratuit
donc j'y allais toujours.
donc j'y allais toujours.
06:22
I later realized what was happening.
123
370618
2067
Plus tard, j'ai réalisé
ce qu'il se passait.
ce qu'il se passait.
06:24
My immediate managers
had not confessed to their higher-ups
had not confessed to their higher-ups
124
372709
4546
Mes responsables directs
n'avaient pas dit à leurs responsables
n'avaient pas dit à leurs responsables
06:29
that the programmer they hired
for a serious job was a teen girl
for a serious job was a teen girl
125
377279
3113
qu'ils avaient embauché
pour un travail sérieux une adolescente
pour un travail sérieux une adolescente
06:32
who wore jeans and sneakers to work.
126
380416
3930
qui portait un jeans
et des baskets au travail.
et des baskets au travail.
06:37
I was doing a good job,
I just looked wrong
I just looked wrong
127
385174
2202
Je faisais du bon travail
mais mon allure clochait,
mais mon allure clochait,
06:39
and was the wrong age and gender.
128
387400
1699
j'avais les mauvais âge et sexe.
06:41
So hiring in a gender- and race-blind way
129
389123
3346
Embaucher d'une manière
aveugle à la couleur et au sexe
aveugle à la couleur et au sexe
06:44
certainly sounds good to me.
130
392493
1865
me semble très bien.
06:47
But with these systems,
it is more complicated, and here's why:
it is more complicated, and here's why:
131
395031
3341
Mais avec ces systèmes,
c'est plus compliqué, voici pourquoi :
c'est plus compliqué, voici pourquoi :
06:50
Currently, computational systems
can infer all sorts of things about you
can infer all sorts of things about you
132
398968
5791
actuellement, les systèmes informatiques
peuvent déduire beaucoup vous concernant
peuvent déduire beaucoup vous concernant
06:56
from your digital crumbs,
133
404783
1872
grâce à vos miettes numériques,
06:58
even if you have not
disclosed those things.
disclosed those things.
134
406679
2333
même si vous n'avez rien révélé.
07:01
They can infer your sexual orientation,
135
409506
2927
Ils peuvent déduire
votre orientation sexuelle,
votre orientation sexuelle,
07:04
your personality traits,
136
412994
1306
vos traits de personnalité,
07:06
your political leanings.
137
414859
1373
vos tendances politiques.
07:08
They have predictive power
with high levels of accuracy.
with high levels of accuracy.
138
416830
3685
Ils ont des pouvoirs prédictifs
ayant une exactitude élevée.
ayant une exactitude élevée.
07:13
Remember -- for things
you haven't even disclosed.
you haven't even disclosed.
139
421362
2578
Pour des choses
que vous n'avez pas révélées.
que vous n'avez pas révélées.
07:15
This is inference.
140
423964
1591
C'est de la déduction.
07:17
I have a friend who developed
such computational systems
such computational systems
141
425579
3261
J'ai une amie qui a développé
de tels systèmes informatiques
de tels systèmes informatiques
07:20
to predict the likelihood
of clinical or postpartum depression
of clinical or postpartum depression
142
428864
3641
pour prévoir la probabilité
d'une dépression clinique ou post-partum
d'une dépression clinique ou post-partum
07:24
from social media data.
143
432529
1416
grâce à vos médias sociaux.
07:26
The results are impressive.
144
434676
1427
Les résultats sont impressionnants.
07:28
Her system can predict
the likelihood of depression
the likelihood of depression
145
436492
3357
Son système peut prévoir
les risques de dépression
les risques de dépression
07:31
months before the onset of any symptoms --
146
439873
3903
des mois avant l'apparition
de tout symptôme --
de tout symptôme --
07:35
months before.
147
443800
1373
des mois avant.
07:37
No symptoms, there's prediction.
148
445197
2246
Aucun symptôme mais une prédiction.
07:39
She hopes it will be used
for early intervention. Great!
for early intervention. Great!
149
447467
4812
Elle espère que cela sera utilisé
pour des interventions précoces, super !
pour des interventions précoces, super !
07:44
But now put this in the context of hiring.
150
452911
2040
Mais mettez cela
dans le contexte de l'embauche.
dans le contexte de l'embauche.
07:48
So at this human resources
managers conference,
managers conference,
151
456027
3046
Lors de cette conférence
de responsables des ressources humaines,
de responsables des ressources humaines,
07:51
I approached a high-level manager
in a very large company,
in a very large company,
152
459097
4709
j'ai approché une responsable
d'une très grande entreprise
d'une très grande entreprise
07:55
and I said to her, "Look,
what if, unbeknownst to you,
what if, unbeknownst to you,
153
463830
4578
et lui ai dit : « Et si, à votre insu,
08:00
your system is weeding out people
with high future likelihood of depression?
with high future likelihood of depression?
154
468432
6549
votre système éliminait les gens
avec de forts risques de dépression ?
avec de forts risques de dépression ?
08:07
They're not depressed now,
just maybe in the future, more likely.
just maybe in the future, more likely.
155
475761
3376
Ils ne sont pas en dépression
mais ont plus de risques pour l'avenir.
mais ont plus de risques pour l'avenir.
08:11
What if it's weeding out women
more likely to be pregnant
more likely to be pregnant
156
479923
3406
Et s'il éliminait les femmes
ayant plus de chances d'être enceintes
ayant plus de chances d'être enceintes
08:15
in the next year or two
but aren't pregnant now?
but aren't pregnant now?
157
483353
2586
dans un ou deux ans
mais ne le sont pas actuellement ?
mais ne le sont pas actuellement ?
08:18
What if it's hiring aggressive people
because that's your workplace culture?"
because that's your workplace culture?"
158
486844
5636
Et s'il embauchait des gens agressifs
car c'est la culture de l'entreprise ? »
car c'est la culture de l'entreprise ? »
08:25
You can't tell this by looking
at gender breakdowns.
at gender breakdowns.
159
493173
2691
On ne peut pas le dire en regardant
la répartition par sexe.
la répartition par sexe.
08:27
Those may be balanced.
160
495888
1502
Cela peut être équilibré.
08:29
And since this is machine learning,
not traditional coding,
not traditional coding,
161
497414
3557
Puisque c'est de l'apprentissage
de la machine, non du code traditionnel,
de la machine, non du code traditionnel,
08:32
there is no variable there
labeled "higher risk of depression,"
labeled "higher risk of depression,"
162
500995
4907
il n'y a pas de variables appelées
« plus de risques de dépression »,
« plus de risques de dépression »,
08:37
"higher risk of pregnancy,"
163
505926
1833
« plus de risques d'être enceinte »,
08:39
"aggressive guy scale."
164
507783
1734
« échelle d'agressivité d'un mec ».
08:41
Not only do you not know
what your system is selecting on,
what your system is selecting on,
165
509995
3679
Non seulement vous ignorez
ce que votre système utilise pour choisir,
ce que votre système utilise pour choisir,
08:45
you don't even know
where to begin to look.
where to begin to look.
166
513698
2323
mais vous ignorez où chercher.
08:48
It's a black box.
167
516045
1246
C'est une boîte noire.
08:49
It has predictive power,
but you don't understand it.
but you don't understand it.
168
517315
2807
Elle a un pouvoir prédictif
mais vous ne le comprenez pas.
mais vous ne le comprenez pas.
08:52
"What safeguards," I asked, "do you have
169
520486
2369
J'ai demandé : « Quelle garantie avez-vous
08:54
to make sure that your black box
isn't doing something shady?"
isn't doing something shady?"
170
522879
3673
pour vous assurer que votre boîte noire
ne fait rien de louche ? »
ne fait rien de louche ? »
09:00
She looked at me as if I had
just stepped on 10 puppy tails.
just stepped on 10 puppy tails.
171
528863
3878
Elle m'a regardée comme
si je venais de l'insulter.
si je venais de l'insulter.
09:04
(Laughter)
172
532765
1248
(Rires)
09:06
She stared at me and she said,
173
534037
2041
Elle m'a fixée et m'a dit :
09:08
"I don't want to hear
another word about this."
another word about this."
174
536556
4333
« Je ne veux rien entendre de plus. »
09:13
And she turned around and walked away.
175
541458
2034
Puis elle s'est tournée et est partie.
09:16
Mind you -- she wasn't rude.
176
544064
1486
Elle n'était pas impolie.
09:17
It was clearly: what I don't know
isn't my problem, go away, death stare.
isn't my problem, go away, death stare.
177
545574
6308
C'était clairement du :
« ce que j'ignore n'est pas mon problème,
allez-vous en, regard meurtrier ».
allez-vous en, regard meurtrier ».
09:23
(Laughter)
178
551906
1246
(Rires)
09:25
Look, such a system
may even be less biased
may even be less biased
179
553862
3839
Un tel système pourrait être moins biaisé
09:29
than human managers in some ways.
180
557725
2103
que les responsables humains.
09:31
And it could make monetary sense.
181
559852
2146
Et il pourrait être monétairement censé.
09:34
But it could also lead
182
562573
1650
Mais il pourrait aussi mener
09:36
to a steady but stealthy
shutting out of the job market
shutting out of the job market
183
564247
4748
à une fermeture du marché du travail
stable mais dissimulée
stable mais dissimulée
09:41
of people with higher risk of depression.
184
569019
2293
pour les gens avec
plus de risques de dépression.
plus de risques de dépression.
09:43
Is this the kind of society
we want to build,
we want to build,
185
571753
2596
Est-ce le genre de société
que nous voulons bâtir,
que nous voulons bâtir,
09:46
without even knowing we've done this,
186
574373
2285
sans même savoir que nous l'avons fait,
09:48
because we turned decision-making
to machines we don't totally understand?
to machines we don't totally understand?
187
576682
3964
car nous avons confié
la prise de décisions à des machines
la prise de décisions à des machines
que nous ne comprenons pas vraiment ?
09:53
Another problem is this:
188
581265
1458
Un autre problème :
09:55
these systems are often trained
on data generated by our actions,
on data generated by our actions,
189
583314
4452
ces systèmes sont souvent entraînés
sur des données générées par nos actions,
sur des données générées par nos actions,
09:59
human imprints.
190
587790
1816
des empreintes humaines.
10:02
Well, they could just be
reflecting our biases,
reflecting our biases,
191
590188
3808
Elles pourraient refléter nos préjugés
10:06
and these systems
could be picking up on our biases
could be picking up on our biases
192
594020
3593
et ces systèmes pourraient
apprendre nos préjugés,
apprendre nos préjugés,
10:09
and amplifying them
193
597637
1313
les amplifier
10:10
and showing them back to us,
194
598974
1418
et nous les retourner
10:12
while we're telling ourselves,
195
600416
1462
alors que nous nous disons :
10:13
"We're just doing objective,
neutral computation."
neutral computation."
196
601902
3117
« Nous ne faisons que de l'informatique
neutre et objective. »
neutre et objective. »
10:18
Researchers found that on Google,
197
606314
2677
Des chercheurs chez Google ont découvert
10:22
women are less likely than men
to be shown job ads for high-paying jobs.
to be shown job ads for high-paying jobs.
198
610134
5313
qu'on a moins de chances de montrer
aux femmes plutôt qu'aux hommes
aux femmes plutôt qu'aux hommes
des offres d'emploi avec un salaire élevé.
10:28
And searching for African-American names
199
616463
2530
Et chercher des noms afro-américains
10:31
is more likely to bring up ads
suggesting criminal history,
suggesting criminal history,
200
619017
4706
a plus de chances de retourner
des publicités suggérant
un historique criminel,
un historique criminel,
10:35
even when there is none.
201
623747
1567
même quand il n'y en a pas.
10:38
Such hidden biases
and black-box algorithms
and black-box algorithms
202
626693
3549
De tels préjugés cachés
et des algorithmes boîte noire
et des algorithmes boîte noire
10:42
that researchers uncover sometimes
but sometimes we don't know,
but sometimes we don't know,
203
630266
3973
qui sont parfois découverts
par les chercheurs, parfois non,
par les chercheurs, parfois non,
10:46
can have life-altering consequences.
204
634263
2661
peuvent avoir des conséquences
qui changent la vie.
qui changent la vie.
10:49
In Wisconsin, a defendant
was sentenced to six years in prison
was sentenced to six years in prison
205
637958
4159
Dans le Wisconsin, un prévenu
a été condamné à 6 ans de prison
a été condamné à 6 ans de prison
10:54
for evading the police.
206
642141
1355
pour avoir échappé à la police.
10:56
You may not know this,
207
644824
1186
Vous l'ignorez peut-être
10:58
but algorithms are increasingly used
in parole and sentencing decisions.
in parole and sentencing decisions.
208
646034
3998
mais des algorithmes sont utilisés
pour les probations et les condamnations.
pour les probations et les condamnations.
11:02
He wanted to know:
How is this score calculated?
How is this score calculated?
209
650056
2955
Nous voulions savoir
comment ce score était calculé.
comment ce score était calculé.
11:05
It's a commercial black box.
210
653795
1665
C'est une boîte noire commerciale.
11:07
The company refused to have its algorithm
be challenged in open court.
be challenged in open court.
211
655484
4205
L'entreprise a refusé que l'on conteste
son algorithme en audience publique.
son algorithme en audience publique.
11:12
But ProPublica, an investigative
nonprofit, audited that very algorithm
nonprofit, audited that very algorithm
212
660396
5532
Mais ProPublica, une organisation
d'enquête, a audité cet algorithme
d'enquête, a audité cet algorithme
11:17
with what public data they could find,
213
665952
2016
avec des données publiques
11:19
and found that its outcomes were biased
214
667992
2316
et a découvert
que les résultats étaient biaisés,
que les résultats étaient biaisés,
11:22
and its predictive power
was dismal, barely better than chance,
was dismal, barely better than chance,
215
670332
3629
que son pouvoir prédictif était mauvais,
à peine meilleur que la chance,
à peine meilleur que la chance,
11:25
and it was wrongly labeling
black defendants as future criminals
black defendants as future criminals
216
673985
4416
et qu'il étiquetait les prévenus noirs
comme de futurs criminels
comme de futurs criminels
11:30
at twice the rate of white defendants.
217
678425
3895
avec un taux deux fois plus élevé
que pour les prévenus blancs.
que pour les prévenus blancs.
11:35
So, consider this case:
218
683891
1564
Considérez ce cas :
11:38
This woman was late
picking up her godsister
picking up her godsister
219
686103
3852
cette femme était en retard
pour récupérer sa filleule
pour récupérer sa filleule
11:41
from a school in Broward County, Florida,
220
689979
2075
à une école du comté de Broward,
en Floride,
en Floride,
11:44
running down the street
with a friend of hers.
with a friend of hers.
221
692757
2356
elle courait dans la rue
avec une amie à elle.
avec une amie à elle.
11:47
They spotted an unlocked kid's bike
and a scooter on a porch
and a scooter on a porch
222
695137
4099
Elles ont repéré une bécane et un vélo
non attachés sur un porche
non attachés sur un porche
11:51
and foolishly jumped on it.
223
699260
1632
et ont bêtement sauté dessus.
11:52
As they were speeding off,
a woman came out and said,
a woman came out and said,
224
700916
2599
Alors qu'elles partaient,
une femme est sortie et a dit :
une femme est sortie et a dit :
11:55
"Hey! That's my kid's bike!"
225
703539
2205
« Hey ! C'est la bécane de mon fils ! »
11:57
They dropped it, they walked away,
but they were arrested.
but they were arrested.
226
705768
3294
Elles l'ont lâchée, sont parties
mais ont été arrêtées.
mais ont été arrêtées.
12:01
She was wrong, she was foolish,
but she was also just 18.
but she was also just 18.
227
709086
3637
Elle avait tort, elle a été idiote
mais elle n'avait que 18 ans.
mais elle n'avait que 18 ans.
12:04
She had a couple of juvenile misdemeanors.
228
712747
2544
Adolescente, elle avait commis
quelques méfaits.
quelques méfaits.
12:07
Meanwhile, that man had been arrested
for shoplifting in Home Depot --
for shoplifting in Home Depot --
229
715808
5185
Pendant ce temps, cet homme a été arrêté
pour vol chez Home Depot --
pour vol chez Home Depot --
12:13
85 dollars' worth of stuff,
a similar petty crime.
a similar petty crime.
230
721017
2924
pour une valeur de 85$,
un crime mineur similaire.
un crime mineur similaire.
12:16
But he had two prior
armed robbery convictions.
armed robbery convictions.
231
724766
4559
Mais il avait deux condamnations
pour vol à main armée.
pour vol à main armée.
12:21
But the algorithm scored her
as high risk, and not him.
as high risk, and not him.
232
729955
3482
L'algorithme l'a considérée elle,
comme étant un risque important, pas lui.
comme étant un risque important, pas lui.
12:26
Two years later, ProPublica found
that she had not reoffended.
that she had not reoffended.
233
734746
3874
Deux ans plus tard, ProPublica a découvert
qu'elle n'avait pas récidivé.
qu'elle n'avait pas récidivé.
Son casier judiciaire compliquait
sa recherche d'emploi.
sa recherche d'emploi.
12:30
It was just hard to get a job
for her with her record.
for her with her record.
234
738644
2550
12:33
He, on the other hand, did reoffend
235
741218
2076
Lui, d'un autre côté, avait récidivé
12:35
and is now serving an eight-year
prison term for a later crime.
prison term for a later crime.
236
743318
3836
et avait été condamné à 8 ans
pour un autre crime.
pour un autre crime.
12:40
Clearly, we need to audit our black boxes
237
748088
3369
Clairement, nous devons
auditer nos boîtes noires
auditer nos boîtes noires
12:43
and not have them have
this kind of unchecked power.
this kind of unchecked power.
238
751481
2615
et ne pas leur laisser
ce genre de pouvoir incontrôlé.
ce genre de pouvoir incontrôlé.
12:46
(Applause)
239
754120
2879
(Applaudissements)
12:50
Audits are great and important,
but they don't solve all our problems.
but they don't solve all our problems.
240
758087
4242
Les audits sont importants,
mais ils ne résolvent pas
tous nos problèmes.
tous nos problèmes.
12:54
Take Facebook's powerful
news feed algorithm --
news feed algorithm --
241
762353
2748
Prenez le puissant algorithme
du fil d'actualités Facebook,
du fil d'actualités Facebook,
12:57
you know, the one that ranks everything
and decides what to show you
and decides what to show you
242
765125
4843
celui qui classe tout
et décide quoi vous montrer
et décide quoi vous montrer
13:01
from all the friends and pages you follow.
243
769992
2284
des amis et des pages que vous suivez.
13:04
Should you be shown another baby picture?
244
772898
2275
Devrait-on vous montrer
une autre photo de bébé ?
une autre photo de bébé ?
13:07
(Laughter)
245
775197
1196
(Rires)
13:08
A sullen note from an acquaintance?
246
776417
2596
Une note maussade d'une connaissance ?
13:11
An important but difficult news item?
247
779449
1856
Une actualité importante mais dure ?
13:13
There's no right answer.
248
781329
1482
Il n'y a pas de bonne réponse.
13:14
Facebook optimizes
for engagement on the site:
for engagement on the site:
249
782835
2659
Facebook optimise
pour vous engager envers le site :
pour vous engager envers le site :
13:17
likes, shares, comments.
250
785518
1415
les j'aime, partages, commentaires.
13:20
In August of 2014,
251
788168
2696
En août 2014,
des manifestations ont éclaté
à Ferguson, dans le Missouri,
à Ferguson, dans le Missouri,
13:22
protests broke out in Ferguson, Missouri,
252
790888
2662
13:25
after the killing of an African-American
teenager by a white police officer,
teenager by a white police officer,
253
793574
4417
après qu'un adolescent afro-américain
a été tué par un officier de police blanc
a été tué par un officier de police blanc
13:30
under murky circumstances.
254
798015
1570
dans des circonstances douteuses.
13:31
The news of the protests was all over
255
799974
2007
La nouvelle des manifestations remplissait
mon fil d'actualité Twitter non filtré
mon fil d'actualité Twitter non filtré
13:34
my algorithmically
unfiltered Twitter feed,
unfiltered Twitter feed,
256
802005
2685
13:36
but nowhere on my Facebook.
257
804714
1950
mais n'était pas sur mon Facebook.
13:39
Was it my Facebook friends?
258
807182
1734
Était-ce mes amis Facebook ?
13:40
I disabled Facebook's algorithm,
259
808940
2032
J'ai désactivé l'algorithme Facebook,
13:43
which is hard because Facebook
keeps wanting to make you
keeps wanting to make you
260
811472
2848
ce qui est difficile car Facebook
veut vous faire passer
veut vous faire passer
13:46
come under the algorithm's control,
261
814344
2036
sous le contrôle de l'algorithme,
13:48
and saw that my friends
were talking about it.
were talking about it.
262
816404
2238
et j'ai vu que mes amis en parlaient.
13:50
It's just that the algorithm
wasn't showing it to me.
wasn't showing it to me.
263
818666
2509
C'est juste que l'algorithme
ne me le montrait pas.
ne me le montrait pas.
13:53
I researched this and found
this was a widespread problem.
this was a widespread problem.
264
821199
3042
Après des recherches, j'ai découvert
que le problème est répandu.
que le problème est répandu.
13:56
The story of Ferguson
wasn't algorithm-friendly.
wasn't algorithm-friendly.
265
824265
3813
L'histoire de Ferguson
ne plaisait pas à l'algorithme.
ne plaisait pas à l'algorithme.
14:00
It's not "likable."
266
828102
1171
Ce n'était pas « aimable »,
qui allait cliquer sur « j'aime » ?
qui allait cliquer sur « j'aime » ?
14:01
Who's going to click on "like?"
267
829297
1552
14:03
It's not even easy to comment on.
268
831500
2206
Ce n'est même pas facile à commenter.
14:05
Without likes and comments,
269
833730
1371
Sans j'aime et commentaires,
14:07
the algorithm was likely showing it
to even fewer people,
to even fewer people,
270
835125
3292
l'algorithme allait le montrer
à un nombre décroissant de gens,
à un nombre décroissant de gens,
14:10
so we didn't get to see this.
271
838441
1542
donc nous ne pouvions le voir.
14:12
Instead, that week,
272
840946
1228
Cette semaine-là,
14:14
Facebook's algorithm highlighted this,
273
842198
2298
Facebook a plutôt souligné ceci,
14:16
which is the ALS Ice Bucket Challenge.
274
844520
2226
le Ice Bucket Challenge.
14:18
Worthy cause; dump ice water,
donate to charity, fine.
donate to charity, fine.
275
846770
3742
Cause méritante, lâcher d'eau glacée,
donner à une charité, très bien.
donner à une charité, très bien.
14:22
But it was super algorithm-friendly.
276
850536
1904
Cela plaisait beaucoup à l'algorithme.
14:25
The machine made this decision for us.
277
853219
2613
La machine a pris
cette décision pour nous.
cette décision pour nous.
14:27
A very important
but difficult conversation
but difficult conversation
278
855856
3497
Une conversation
très importante mais difficile
très importante mais difficile
14:31
might have been smothered,
279
859377
1555
aurait pu être étouffée
14:32
had Facebook been the only channel.
280
860956
2696
si Facebook avait été le seul canal.
14:36
Now, finally, these systems
can also be wrong
can also be wrong
281
864117
3797
Finalement, ces systèmes
peuvent aussi avoir tort
peuvent aussi avoir tort
14:39
in ways that don't resemble human systems.
282
867938
2736
de façons qui ne ressemblent pas
aux systèmes humains.
aux systèmes humains.
14:42
Do you guys remember Watson,
IBM's machine-intelligence system
IBM's machine-intelligence system
283
870698
2922
Vous souvenez-vous de Watson,
le système d'IA d'IBM
le système d'IA d'IBM
14:45
that wiped the floor
with human contestants on Jeopardy?
with human contestants on Jeopardy?
284
873644
3128
qui a éliminé les participants humains
dans Jeopardy ?
dans Jeopardy ?
14:49
It was a great player.
285
877131
1428
C'était un super joueur.
14:50
But then, for Final Jeopardy,
Watson was asked this question:
Watson was asked this question:
286
878583
3569
Mais, pour la finale de Jeopardy,
on a posé cette question à Watson :
on a posé cette question à Watson :
14:54
"Its largest airport is named
for a World War II hero,
for a World War II hero,
287
882659
2932
« Le plus grand aéroport
ayant le nom d'un héros de 39-45,
ayant le nom d'un héros de 39-45,
le second plus grand
pour une bataille de 39-45. »
pour une bataille de 39-45. »
14:57
its second-largest
for a World War II battle."
for a World War II battle."
288
885615
2252
14:59
(Hums Final Jeopardy music)
289
887891
1378
(Signal sonore de fin)
15:01
Chicago.
290
889582
1182
Chicago.
15:02
The two humans got it right.
291
890788
1370
Les deux humains avaient raison.
15:04
Watson, on the other hand,
answered "Toronto" --
answered "Toronto" --
292
892697
4348
Watson, par contre,
a répondu « Toronto » --
a répondu « Toronto » --
15:09
for a US city category!
293
897069
1818
à une question
sur les villes des États-Unis !
sur les villes des États-Unis !
15:11
The impressive system also made an error
294
899596
2901
L'impressionnant système
a aussi fait une erreur
a aussi fait une erreur
15:14
that a human would never make,
a second-grader wouldn't make.
a second-grader wouldn't make.
295
902521
3651
qu'un humain ne ferait jamais,
qu'un CE1 ne ferait jamais.
qu'un CE1 ne ferait jamais.
15:18
Our machine intelligence can fail
296
906823
3109
Notre intelligence artificielle
peut échouer
peut échouer
15:21
in ways that don't fit
error patterns of humans,
error patterns of humans,
297
909956
3100
de façons ne correspondant pas
aux schémas d'erreurs humaines,
aux schémas d'erreurs humaines,
15:25
in ways we won't expect
and be prepared for.
and be prepared for.
298
913080
2950
de façons inattendues et imprévues.
15:28
It'd be lousy not to get a job
one is qualified for,
one is qualified for,
299
916054
3638
Il serait lamentable de ne pas obtenir
un emploi pour lequel on est qualifié
un emploi pour lequel on est qualifié
15:31
but it would triple suck
if it was because of stack overflow
if it was because of stack overflow
300
919716
3727
mais ce serait pire si c'était à cause
d'un dépassement de pile
d'un dépassement de pile
15:35
in some subroutine.
301
923467
1432
dans une sous-routine.
15:36
(Laughter)
302
924923
1579
(Rires)
15:38
In May of 2010,
303
926526
2786
En mai 2010,
15:41
a flash crash on Wall Street
fueled by a feedback loop
fueled by a feedback loop
304
929336
4044
un crash éclair sur Wall Street
alimenté par une boucle de rétroaction
alimenté par une boucle de rétroaction
15:45
in Wall Street's "sell" algorithm
305
933404
3028
dans un algorithme de vente de Wall Street
15:48
wiped a trillion dollars
of value in 36 minutes.
of value in 36 minutes.
306
936456
4184
a fait perdre mille milliards de dollars
en 36 minutes.
en 36 minutes.
15:53
I don't even want to think
what "error" means
what "error" means
307
941722
2187
Je refuse de penser
au sens du mot « erreur »
au sens du mot « erreur »
15:55
in the context of lethal
autonomous weapons.
autonomous weapons.
308
943933
3589
dans le contexte des armes
mortelles autonomes.
mortelles autonomes.
16:01
So yes, humans have always made biases.
309
949894
3790
Oui, les humains
ont toujours été partiaux.
ont toujours été partiaux.
16:05
Decision makers and gatekeepers,
310
953708
2176
Les preneurs de décision et gardiens,
16:07
in courts, in news, in war ...
311
955908
3493
dans les tribunaux,
les actualités, en guerre...
les actualités, en guerre...
16:11
they make mistakes;
but that's exactly my point.
but that's exactly my point.
312
959425
3038
Ils font des erreurs ;
mais c'est de cela dont je parle.
mais c'est de cela dont je parle.
16:14
We cannot escape
these difficult questions.
these difficult questions.
313
962487
3521
Nous ne pouvons pas échapper
à ces questions difficiles.
à ces questions difficiles.
16:18
We cannot outsource
our responsibilities to machines.
our responsibilities to machines.
314
966596
3516
Nous ne pouvons pas sous-traiter
nos responsabilités aux machines.
nos responsabilités aux machines.
16:22
(Applause)
315
970676
4208
(Applaudissements)
16:29
Artificial intelligence does not give us
a "Get out of ethics free" card.
a "Get out of ethics free" card.
316
977089
4447
L'intelligence artificielle n'offre pas
une carte « sortie de l'éthique ».
une carte « sortie de l'éthique ».
16:34
Data scientist Fred Benenson
calls this math-washing.
calls this math-washing.
317
982742
3381
Le scientifique des données Fred Benenson
qualifie cela de lavage des maths.
qualifie cela de lavage des maths.
16:38
We need the opposite.
318
986147
1389
Il nous faut l'opposé.
16:39
We need to cultivate algorithm suspicion,
scrutiny and investigation.
scrutiny and investigation.
319
987560
5388
Nous devons cultiver la suspicion,
le contrôle et l'enquête de l'algorithme.
le contrôle et l'enquête de l'algorithme.
16:45
We need to make sure we have
algorithmic accountability,
algorithmic accountability,
320
993380
3198
Nous devons nous assurer
de la responsabilité des algorithmes,
de la responsabilité des algorithmes,
16:48
auditing and meaningful transparency.
321
996602
2445
les auditer et avoir
une transparence significative.
une transparence significative.
16:51
We need to accept
that bringing math and computation
that bringing math and computation
322
999380
3234
Nous devons accepter
qu'apporter les maths et l'informatique
qu'apporter les maths et l'informatique
16:54
to messy, value-laden human affairs
323
1002638
2970
dans les affaires humaines
désordonnées et basées sur des valeurs
désordonnées et basées sur des valeurs
16:57
does not bring objectivity;
324
1005632
2384
n'apporte pas l'objectivité
17:00
rather, the complexity of human affairs
invades the algorithms.
invades the algorithms.
325
1008040
3633
mais plutôt que la complexité
des affaires humaines
des affaires humaines
envahit les algorithmes.
17:04
Yes, we can and we should use computation
326
1012148
3487
Nous devrions utiliser l'informatique
17:07
to help us make better decisions.
327
1015659
2014
pour prendre de meilleures décisions.
17:09
But we have to own up
to our moral responsibility to judgment,
to our moral responsibility to judgment,
328
1017697
5332
Mais nous devons assumer
notre responsabilité morale de jugement
notre responsabilité morale de jugement
17:15
and use algorithms within that framework,
329
1023053
2818
et utiliser les algorithmes dans ce cadre,
17:17
not as a means to abdicate
and outsource our responsibilities
and outsource our responsibilities
330
1025895
4935
pas comme un moyen d'abdiquer
et sous-traiter nos responsabilités
et sous-traiter nos responsabilités
17:22
to one another as human to human.
331
1030854
2454
d'un humain à un autre.
17:25
Machine intelligence is here.
332
1033807
2609
L'intelligence artificielle est arrivée.
17:28
That means we must hold on ever tighter
333
1036440
3421
Cela signifie que nous devons
nous accrocher encore plus
nous accrocher encore plus
17:31
to human values and human ethics.
334
1039885
2147
aux valeurs et éthiques humaines.
17:34
Thank you.
335
1042056
1154
Merci.
17:35
(Applause)
336
1043234
5020
(Applaudissements)
ABOUT THE SPEAKER
Zeynep Tufekci - Techno-sociologistTechno-sociologist Zeynep Tufekci asks big questions about our societies and our lives, as both algorithms and digital connectivity spread.
Why you should listen
We've entered an era of digital connectivity and machine intelligence. Complex algorithms are increasingly used to make consequential decisions about us. Many of these decisions are subjective and have no right answer: who should be hired, fired or promoted; what news should be shown to whom; which of your friends do you see updates from; which convict should be paroled. With increasing use of machine learning in these systems, we often don't even understand how exactly they are making these decisions. Zeynep Tufekci studies what this historic transition means for culture, markets, politics and personal life.
Tufekci is a contributing opinion writer at the New York Times, an associate professor at the School of Information and Library Science at University of North Carolina, Chapel Hill, and a faculty associate at Harvard's Berkman Klein Center for Internet and Society.
Her book, Twitter and Tear Gas: The Power and Fragility of Networked Protest, was published in 2017 by Yale University Press. Her next book, from Penguin Random House, will be about algorithms that watch, judge and nudge us.
Zeynep Tufekci | Speaker | TED.com