TED Salon Samsung
Kate Darling: Why we have an emotional connection to robots
Kate Darling: Les raisons de notre lien émotionnel avec les robots
Filmed:
Readability: 4.4
2,403,010 views
Nous ne sommes pas près de développer des robots qui ressentent des émotions, toutefois, nous éprouvons des sentiments à leur égard et cet instinct peut avoir des conséquences. Tels sont les propos de Kate Darling, éthicienne. Découvrez en quoi l'homme est conçu pour insuffler intention et vie dans les machines et en quoi cela peut nous être utile pour mieux nous comprendre.
Kate Darling - Robot ethicist
Kate Darling investigates the relationship between humans and robots -- now, and in the future. Full bio
Kate Darling investigates the relationship between humans and robots -- now, and in the future. Full bio
Double-click the English transcript below to play the video.
00:13
There was a day, about 10 years ago,
0
1047
2508
Un jour, il y a environ 10 ans,
00:15
when I asked a friend to hold
a baby dinosaur robot upside down.
a baby dinosaur robot upside down.
1
3579
3944
j'ai demandé à un ami de tenir à l'envers
un robot en forme de petit dinosaure.
un robot en forme de petit dinosaure.
00:21
It was this toy called a Pleo
that I had ordered,
that I had ordered,
2
9889
3446
J'avais commandé ce jouet
qui répond au nom de Pleo.
qui répond au nom de Pleo.
00:25
and I was really excited about it
because I've always loved robots.
because I've always loved robots.
3
13359
4401
J'étais vraiment ravie
car j'ai toujours aimé les robots.
car j'ai toujours aimé les robots.
Celui-ci avait des caractéristiques
vraiment cool.
vraiment cool.
00:29
And this one has really cool
technical features.
technical features.
4
17784
2279
00:32
It had motors and touch sensors
5
20087
2119
Il avait des moteurs,
des capteurs haptiques
des capteurs haptiques
00:34
and it had an infrared camera.
6
22230
2244
et une caméra infrarouge.
00:36
And one of the things it had
was a tilt sensor,
was a tilt sensor,
7
24498
2763
Il avait aussi un capteur d'inclinaison
00:39
so it knew what direction it was facing.
8
27285
2318
qui lui permettait de savoir
dans quelle direction il était.
dans quelle direction il était.
00:42
And when you held it upside down,
9
30095
2134
Si on le tenait la tête en bas,
00:44
it would start to cry.
10
32253
1572
il se mettait à pleurer.
00:46
And I thought this was super cool,
so I was showing it off to my friend,
so I was showing it off to my friend,
11
34527
3496
Je trouvais ça super et donc
j'étais fière de le montrer à mon ami.
j'étais fière de le montrer à mon ami.
Je lui ai proposé de le tenir
par la queue pour voir sa réaction.
par la queue pour voir sa réaction.
00:50
and I said, "Oh, hold it up by the tail.
See what it does."
See what it does."
12
38047
2805
00:55
So we're watching
the theatrics of this robot
the theatrics of this robot
13
43268
3625
On observe les gesticulations du robot
00:58
struggle and cry out.
14
46917
2199
qui se débat et pleure,
01:02
And after a few seconds,
15
50767
2047
mais après quelques secondes,
01:04
it starts to bother me a little,
16
52838
1972
ça a commencé à me perturber un peu.
01:07
and I said, "OK, that's enough now.
17
55744
3424
Alors j'ai décrété que c'était assez
01:11
Let's put him back down."
18
59930
2305
et que nous devrions
le remettre à l'endroit.
le remettre à l'endroit.
J'ai alors caressé le robot
jusqu'à ce qu'il arrête de pleurer.
jusqu'à ce qu'il arrête de pleurer.
01:14
And then I pet the robot
to make it stop crying.
to make it stop crying.
19
62259
2555
01:18
And that was kind of
a weird experience for me.
a weird experience for me.
20
66973
2452
Ce fut une expérience troublante pour moi.
01:22
For one thing, I wasn't the most
maternal person at the time.
maternal person at the time.
21
70084
4569
D'abord, je n'étais pas particulièrement
maternelle à l'époque.
maternelle à l'époque.
01:26
Although since then I've become
a mother, nine months ago,
a mother, nine months ago,
22
74677
2731
Je suis devenue une maman
il y a neuf mois,
il y a neuf mois,
et j'ai appris que les enfants aussi sont
contrariés si on les tient la tête en bas.
contrariés si on les tient la tête en bas.
01:29
and I've learned that babies also squirm
when you hold them upside down.
when you hold them upside down.
23
77432
3433
01:32
(Laughter)
24
80889
1563
(Rires)
01:35
But my response to this robot
was also interesting
was also interesting
25
83023
2358
Mais ma réaction vis-à-vis
du robot est intéressante
du robot est intéressante
01:37
because I knew exactly
how this machine worked,
how this machine worked,
26
85405
4101
car, en dépit du fait
que je savais exactement
que je savais exactement
comment la machine fonctionnait,
01:41
and yet I still felt
compelled to be kind to it.
compelled to be kind to it.
27
89530
3262
j'ai quand-même ressenti le besoin
de lui montrer de l'affection.
de lui montrer de l'affection.
01:46
And that observation sparked a curiosity
28
94450
2707
Cette observation a piqué ma curiosité
01:49
that I've spent the past decade pursuing.
29
97181
2832
et cela fait une dizaine d'années
que je m'y intéresse.
que je m'y intéresse.
01:52
Why did I comfort this robot?
30
100911
1793
Pourquoi ai-je consolé ce robot ?
01:56
And one of the things I discovered
was that my treatment of this machine
was that my treatment of this machine
31
104228
3579
Une des choses que j'ai découvertes
est que ma réaction avec cette machine
est que ma réaction avec cette machine
01:59
was more than just an awkward moment
in my living room,
in my living room,
32
107831
3701
est davantage qu'un moment
bizarre dans mon salon
bizarre dans mon salon
02:03
that in a world where we're increasingly
integrating robots into our lives,
integrating robots into our lives,
33
111556
5420
et que dans un monde où nous intégrons
de plus en plus les robots dans nos vies,
de plus en plus les robots dans nos vies,
02:09
an instinct like that
might actually have consequences,
might actually have consequences,
34
117000
3126
un tel instinct peut avoir
des conséquences concrètes,
des conséquences concrètes,
02:13
because the first thing that I discovered
is that it's not just me.
is that it's not just me.
35
121452
3749
car la première chose que j'ai découverte,
c'est que je ne suis pas la seule.
c'est que je ne suis pas la seule.
02:19
In 2007, the Washington Post
reported that the United States military
reported that the United States military
36
127249
4802
En 2007, le Washington Post a publié
un reportage sur l'armée américaine
un reportage sur l'armée américaine
qui faisait des essais avec un robot
détonateur de mines antipersonnel.
détonateur de mines antipersonnel.
02:24
was testing this robot
that defused land mines.
that defused land mines.
37
132075
3230
02:27
And the way it worked
was it was shaped like a stick insect
was it was shaped like a stick insect
38
135329
2912
Le robot avait la forme d'un phasme.
02:30
and it would walk
around a minefield on its legs,
around a minefield on its legs,
39
138265
2651
Il marchait dans les champs de mines
02:32
and every time it stepped on a mine,
one of the legs would blow up,
one of the legs would blow up,
40
140940
3206
et chaque fois qu'une de ses pattes
en touchait une, elle explosait.
en touchait une, elle explosait.
Le robot continuait de chercher
d'autres mines sur ses pattes restantes.
d'autres mines sur ses pattes restantes.
02:36
and it would continue on the other legs
to blow up more mines.
to blow up more mines.
41
144170
3057
02:39
And the colonel who was in charge
of this testing exercise
of this testing exercise
42
147251
3786
Le colonel responsable de cet essai
02:43
ends up calling it off,
43
151061
2118
a fini par arrêter le programme,
02:45
because, he says, it's too inhumane
44
153203
2435
car, selon lui, c'était trop inhumain
02:47
to watch this damaged robot
drag itself along the minefield.
drag itself along the minefield.
45
155662
4516
d'observer le robot endommagé
se traîner dans les champs de mines.
se traîner dans les champs de mines.
02:54
Now, what would cause
a hardened military officer
a hardened military officer
46
162978
3897
Qu'est-ce qui peut bien
susciter chez un militaire endurci
susciter chez un militaire endurci
02:58
and someone like myself
47
166899
2043
et quelqu'un comme moi
une telle réaction vis-à-vis des robots ?
03:00
to have this response to robots?
48
168966
1857
03:03
Well, of course, we're primed
by science fiction and pop culture
by science fiction and pop culture
49
171537
3310
Il est vrai que nous sommes poussés
par la science-fiction et la culture pop
par la science-fiction et la culture pop
03:06
to really want to personify these things,
50
174871
2579
à concevoir de l'anthropomorphisme
pour ces objets.
pour ces objets.
03:09
but it goes a little bit deeper than that.
51
177474
2789
Mais c'est un peu plus compliqué que ça.
03:12
It turns out that we're biologically
hardwired to project intent and life
hardwired to project intent and life
52
180287
5309
En fait, nous sommes biologiquement
conçus pour projeter intention et vie
conçus pour projeter intention et vie
03:17
onto any movement in our physical space
that seems autonomous to us.
that seems autonomous to us.
53
185620
4766
dans toutes les choses animées dans notre
espace physique qui paraissent autonomes.
espace physique qui paraissent autonomes.
03:23
So people will treat all sorts
of robots like they're alive.
of robots like they're alive.
54
191214
3465
Dès lors, on traite toutes sortes
de robots comme s'ils étaient vivants.
de robots comme s'ils étaient vivants.
03:26
These bomb-disposal units get names.
55
194703
2683
On donne des noms aux engins de déminage
03:29
They get medals of honor.
56
197410
1682
et on leur remettait des médailles.
Ils ont même eu des funérailles
avec salve d'honneur.
avec salve d'honneur.
03:31
They've had funerals for them
with gun salutes.
with gun salutes.
57
199116
2325
03:34
And research shows that we do this
even with very simple household robots,
even with very simple household robots,
58
202380
3833
Les recherches éclairent le fait que nous
agissons ainsi avec nos robots ménagers
agissons ainsi avec nos robots ménagers
03:38
like the Roomba vacuum cleaner.
59
206237
2135
comme l'aspirateur Roomba.
03:40
(Laughter)
60
208396
1291
(Rires)
03:41
It's just a disc that roams
around your floor to clean it,
around your floor to clean it,
61
209711
3089
C'est un simple disque qui déambule
sur le sol pour le nettoyer,
sur le sol pour le nettoyer,
03:44
but just the fact it's moving
around on its own
around on its own
62
212824
2306
mais le seul fait de se mouvoir
autours de nous
autours de nous
03:47
will cause people to name the Roomba
63
215154
2167
incite les gens à lui donner un nom
et à ressentir de la peine pour le Roomba
quand celui-ci est coincé.
quand celui-ci est coincé.
03:49
and feel bad for the Roomba
when it gets stuck under the couch.
when it gets stuck under the couch.
64
217345
3182
03:52
(Laughter)
65
220551
1865
(Rires)
03:54
And we can design robots
specifically to evoke this response,
specifically to evoke this response,
66
222440
3340
On peut concevoir des robots précisément
pour susciter cette réaction,
pour susciter cette réaction,
03:57
using eyes and faces or movements
67
225804
3461
en utilisant des yeux et un visage
ou des mouvements
ou des mouvements
04:01
that people automatically,
subconsciously associate
subconsciously associate
68
229289
3259
que les gens vont automatiquement
associer inconsciemment
associer inconsciemment
04:04
with states of mind.
69
232572
2020
à des états d'esprit.
04:06
And there's an entire body of research
called human-robot interaction
called human-robot interaction
70
234616
3293
Il y a un champ de recherche entier,
l'interaction humains - robots,
l'interaction humains - robots,
qui explique ces mécanismes.
04:09
that really shows how well this works.
71
237933
1826
04:11
So for example, researchers
at Stanford University found out
at Stanford University found out
72
239783
3126
Par exemple, des chercheurs
de l'Université de Stanford ont découvert
de l'Université de Stanford ont découvert
04:14
that it makes people really uncomfortable
73
242933
2001
que ça met les gens très mal à l'aise
quand on leur demande de toucher
les parties intimes d'un robot.
les parties intimes d'un robot.
04:16
when you ask them to touch
a robot's private parts.
a robot's private parts.
74
244958
2472
04:19
(Laughter)
75
247454
2120
(Rires)
04:21
So from this, but from many other studies,
76
249598
2023
De ces réactions, et d'autres recherches,
04:23
we know, we know that people
respond to the cues given to them
respond to the cues given to them
77
251645
4223
nous savons que les gens réagissent
à des indices qui leur sont tendus
à des indices qui leur sont tendus
04:27
by these lifelike machines,
78
255892
2022
par ces engins mimant la vie,
même quand ils savent
que ces engins ne sont pas vivants.
que ces engins ne sont pas vivants.
04:29
even if they know that they're not real.
79
257938
2017
04:33
Now, we're headed towards a world
where robots are everywhere.
where robots are everywhere.
80
261654
4056
Notre avenir sera rempli de robots.
04:37
Robotic technology is moving out
from behind factory walls.
from behind factory walls.
81
265734
3065
La technologie robotique est en train
de sortir des usines.
de sortir des usines.
04:40
It's entering workplaces, households.
82
268823
3013
Elle intègre le lieu de travail,
le domicile.
le domicile.
04:43
And as these machines that can sense
and make autonomous decisions and learn
and make autonomous decisions and learn
83
271860
6209
Alors que ces machines autonomes
qui peuvent sentir,
qui peuvent sentir,
prendre des décisions et apprendre,
intègrent notre environnement de vie,
intègrent notre environnement de vie,
04:50
enter into these shared spaces,
84
278093
2552
04:52
I think that maybe the best
analogy we have for this
analogy we have for this
85
280669
2496
je pense que la meilleure
analogie à disposition
analogie à disposition
04:55
is our relationship with animals.
86
283189
1935
est notre relation avec les animaux.
04:57
Thousands of years ago,
we started to domesticate animals,
we started to domesticate animals,
87
285523
3888
Il y a des milliers d'années,
on a domestiqué les animaux
on a domestiqué les animaux
05:01
and we trained them for work
and weaponry and companionship.
and weaponry and companionship.
88
289435
4045
et on les a entraînés au travail,
à la guerre et à devenir nos compagnons.
à la guerre et à devenir nos compagnons.
05:05
And throughout history, we've treated
some animals like tools or like products,
some animals like tools or like products,
89
293504
4985
Durant l'histoire, on a traité certaines
bêtes comme des outils ou des marchandises
bêtes comme des outils ou des marchandises
et on a traité d'autres animaux
avec affection,
avec affection,
05:10
and other animals,
we've treated with kindness
we've treated with kindness
90
298513
2174
05:12
and we've given a place in society
as our companions.
as our companions.
91
300711
3078
on leur a donné une place dans la société
en tant que compagnons.
en tant que compagnons.
05:15
I think it's plausible we might start
to integrate robots in similar ways.
to integrate robots in similar ways.
92
303813
3849
Je pense plausible que nous commencions
à intégrer les robots de la même manière.
à intégrer les robots de la même manière.
05:21
And sure, animals are alive.
93
309484
3096
Certes, les animaux sont vivants.
Les robots ne le sont pas.
05:24
Robots are not.
94
312604
1150
05:27
And I can tell you,
from working with roboticists,
from working with roboticists,
95
315626
2580
Et mon expérience avec des ingénieurs
en robotique me permet d'affirmer
en robotique me permet d'affirmer
05:30
that we're pretty far away from developing
robots that can feel anything.
robots that can feel anything.
96
318230
3522
qu'on est loin de concevoir des robots
qui ressentent quoi que ce soit.
qui ressentent quoi que ce soit.
05:35
But we feel for them,
97
323072
1460
Mais nous éprouvons
des sentiments à leur égard
des sentiments à leur égard
05:37
and that matters,
98
325835
1207
et c'est crucial.
05:39
because if we're trying to integrate
robots into these shared spaces,
robots into these shared spaces,
99
327066
3627
Car si nous tentons d'intégrer
des robots dans nos espaces de vie,
des robots dans nos espaces de vie,
05:42
we need to understand that people will
treat them differently than other devices,
treat them differently than other devices,
100
330717
4628
il faut comprendre qu'on ne va pas
les traiter comme d'autres objets
les traiter comme d'autres objets
05:47
and that in some cases,
101
335369
1844
et que dans certains cas,
05:49
for example, the case of a soldier
who becomes emotionally attached
who becomes emotionally attached
102
337237
3172
par exemple, celui du soldat
qui s'est attaché affectivement
qui s'est attaché affectivement
05:52
to the robot that they work with,
103
340433
2047
au robot avec lequel il travaille,
05:54
that can be anything
from inefficient to dangerous.
from inefficient to dangerous.
104
342504
2504
ça peut devenir improductif,
voire dangereux.
voire dangereux.
05:58
But in other cases,
it can actually be useful
it can actually be useful
105
346551
2138
Dans d'autres cas toutefois,
ça peut être utile
ça peut être utile
06:00
to foster this emotional
connection to robots.
connection to robots.
106
348713
2623
de nourrir une connexion
émotionnelle avec un robot.
émotionnelle avec un robot.
06:04
We're already seeing some great use cases,
107
352184
2134
Il y a des usages fabuleux,
comme par exemple les robots
qui travaillent avec des enfants autistes.
qui travaillent avec des enfants autistes.
06:06
for example, robots working
with autistic children
with autistic children
108
354342
2604
06:08
to engage them in ways
that we haven't seen previously,
that we haven't seen previously,
109
356970
3634
Ils créent un lien avec eux
jamais constaté auparavant.
jamais constaté auparavant.
06:12
or robots working with teachers to engage
kids in learning with new results.
kids in learning with new results.
110
360628
4000
Il y a aussi des robots
aux côtés des enseignants
aux côtés des enseignants
pour pousser, avec succès,
les enfants à apprendre.
les enfants à apprendre.
06:17
And it's not just for kids.
111
365433
1381
Il n'y a pas que les enfants.
06:19
Early studies show that robots
can help doctors and patients
can help doctors and patients
112
367750
3223
Des études montrent que les robots peuvent
assister médecins et infirmières
assister médecins et infirmières
06:22
in health care settings.
113
370997
1427
dans le milieu des soins de la santé.
06:25
This is the PARO baby seal robot.
114
373535
1810
PARO est un robot bébé phoque.
06:27
It's used in nursing homes
and with dementia patients.
and with dementia patients.
115
375369
3285
Il est utilisé dans des maisons
pour patients atteints de démence.
pour patients atteints de démence.
Ça fait déjà un certain temps.
06:30
It's been around for a while.
116
378678
1570
06:32
And I remember, years ago,
being at a party
being at a party
117
380272
3325
Je me souviens d'une soirée,
il y a des années,
il y a des années,
06:35
and telling someone about this robot,
118
383621
2571
où j'avais parlé de ce robot à quelqu'un.
06:38
and her response was,
119
386216
2126
Et cette personne avait réagi ainsi :
06:40
"Oh my gosh.
120
388366
1262
« Oh mon dieu !
06:42
That's horrible.
121
390508
1188
C'est horrible.
06:45
I can't believe we're giving people
robots instead of human care."
robots instead of human care."
122
393056
3397
Je ne peux pas croire qu'on donne aux gens
des robots à la place d'attention. »
des robots à la place d'attention. »
06:50
And this is a really common response,
123
398540
1875
C'était une réaction habituelle
06:52
and I think it's absolutely correct,
124
400439
2499
et qui est correcte, je pense,
06:54
because that would be terrible.
125
402962
2040
car en effet, ce serait terrible.
06:57
But in this case,
it's not what this robot replaces.
it's not what this robot replaces.
126
405795
2484
Dans ce cas, le robot
ne remplace pas l'homme.
ne remplace pas l'homme.
C'est de la thérapie animale
07:00
What this robot replaces is animal therapy
127
408858
3120
07:04
in contexts where
we can't use real animals
we can't use real animals
128
412002
3198
dans un contexte où on ne peut pas
utiliser des animaux.
utiliser des animaux.
Mais on peut utiliser des robots
07:07
but we can use robots,
129
415224
1168
07:08
because people will consistently treat
them more like an animal than a device.
them more like an animal than a device.
130
416416
5230
car les gens vont les traiter davantage
comme un animal que comme un robot.
comme un animal que comme un robot.
07:15
Acknowledging this emotional
connection to robots
connection to robots
131
423502
2380
Reconnaître cette connexion
émotionnelle aux robots
émotionnelle aux robots
peut aussi nous aider
à anticiper les défis
à anticiper les défis
07:17
can also help us anticipate challenges
132
425906
1969
07:19
as these devices move into more intimate
areas of people's lives.
areas of people's lives.
133
427899
3451
liés au fait que ces engins intègrent
les espaces intimes de nos vies.
les espaces intimes de nos vies.
07:24
For example, is it OK
if your child's teddy bear robot
if your child's teddy bear robot
134
432111
3404
Par exemple, serait-il acceptable
que le robot nounours de votre enfant
que le robot nounours de votre enfant
07:27
records private conversations?
135
435539
2237
enregistre des conversations privées ?
07:29
Is it OK if your sex robot
has compelling in-app purchases?
has compelling in-app purchases?
136
437800
4063
Serait-il tolérable que votre robot sexuel
ait une fonction d'achat attractive ?
ait une fonction d'achat attractive ?
07:33
(Laughter)
137
441887
1396
(Rires)
07:35
Because robots plus capitalism
138
443307
2501
Car robots plus capitalisme
07:37
equals questions around
consumer protection and privacy.
consumer protection and privacy.
139
445832
3705
égalent les questions sur la protection
du consommateur et la vie privée.
du consommateur et la vie privée.
07:42
And those aren't the only reasons
140
450549
1612
Ce ne sont pas les seules raisons
07:44
that our behavior around
these machines could matter.
these machines could matter.
141
452185
2570
pour lesquelles nos comportements
avec ces engins sont importants.
avec ces engins sont importants.
07:48
A few years after that first
initial experience I had
initial experience I had
142
456747
3270
Quelques années
après ma première expérience
après ma première expérience
07:52
with this baby dinosaur robot,
143
460041
2311
avec le robot bébé dinosaure,
07:54
I did a workshop
with my friend Hannes Gassert.
with my friend Hannes Gassert.
144
462376
2501
j'ai organisé un atelier
avec mon ami Hannes Gassert.
avec mon ami Hannes Gassert.
07:56
And we took five
of these baby dinosaur robots
of these baby dinosaur robots
145
464901
2897
On a pris cinq robots bébés dinosaures
07:59
and we gave them to five teams of people.
146
467822
2453
que l'on a remis à cinq équipes.
08:02
And we had them name them
147
470299
1697
Elles devaient leur donner un nom,
08:04
and play with them and interact with them
for about an hour.
for about an hour.
148
472020
3809
jouer avec et interagir avec eux
pendant une heure environ.
pendant une heure environ.
08:08
And then we unveiled
a hammer and a hatchet
a hammer and a hatchet
149
476707
2206
Ensuite, on leur a remis
un marteau et une hache
un marteau et une hache
08:10
and we told them to torture
and kill the robots.
and kill the robots.
150
478937
2278
et on leur a demandé
de torturer et tuer les robots.
de torturer et tuer les robots.
08:13
(Laughter)
151
481239
3007
(Rires)
08:16
And this turned out to be
a little more dramatic
a little more dramatic
152
484857
2294
La situation est devenue
beaucoup plus tendue
beaucoup plus tendue
que ce que nous avions pensé
08:19
than we expected it to be,
153
487175
1278
08:20
because none of the participants
would even so much as strike
would even so much as strike
154
488477
3072
car aucun participant
n'a voulu faire de mal
n'a voulu faire de mal
aux robots bébés dinosaures.
08:23
these baby dinosaur robots,
155
491573
1307
08:24
so we had to improvise a little,
and at some point, we said,
and at some point, we said,
156
492904
5150
Du coup, on a dû improviser
et leur dire ceci :
et leur dire ceci :
08:30
"OK, you can save your team's robot
if you destroy another team's robot."
if you destroy another team's robot."
157
498078
4437
« D'accord. Vous pouvez sauver votre robot
si vous détruisez celui des autres. »
si vous détruisez celui des autres. »
08:34
(Laughter)
158
502539
1855
(Rires)
08:36
And even that didn't work.
They couldn't do it.
They couldn't do it.
159
504839
2195
Même ça, ça n'a pas marché.
Ils n'y arrivaient pas.
Ils n'y arrivaient pas.
08:39
So finally, we said,
160
507058
1151
Alors on leur a dit :
08:40
"We're going to destroy all of the robots
161
508233
2032
« On va détruire tous les robots
08:42
unless someone takes
a hatchet to one of them."
a hatchet to one of them."
162
510289
2285
si personne n'en casse un à la hache. »
08:45
And this guy stood up,
and he took the hatchet,
and he took the hatchet,
163
513586
3579
Alors, un type s'est levé
et a pris la hache.
et a pris la hache.
08:49
and the whole room winced
as he brought the hatchet down
as he brought the hatchet down
164
517189
2706
Toute l'assemblée a grimacé
quand il l'a abattue
quand il l'a abattue
08:51
on the robot's neck,
165
519919
1780
sur le cou du robot.
08:53
and there was this half-joking,
half-serious moment of silence in the room
half-serious moment of silence in the room
166
521723
6338
Un silence s'est installé dans la salle,
mi-sérieux, mi-plaisanterie,
mi-sérieux, mi-plaisanterie,
09:00
for this fallen robot.
167
528085
1698
pour le robot tombé.
09:01
(Laughter)
168
529807
1406
(Rires)
09:03
So that was a really
interesting experience.
interesting experience.
169
531237
3694
C'était une expérience
vraiment intéressante.
vraiment intéressante.
09:06
Now, it wasn't a controlled
study, obviously,
study, obviously,
170
534955
2459
Ce n'était pas une expérience contrôlée
09:09
but it did lead to some
later research that I did at MIT
later research that I did at MIT
171
537438
2850
mais elle a mené à des recherches
ultérieures au MIT
ultérieures au MIT
que j'ai conduites avec Palash Nandy
et Cynthia Breazeal.
et Cynthia Breazeal.
09:12
with Palash Nandy and Cynthia Breazeal,
172
540312
2228
09:14
where we had people come into the lab
and smash these HEXBUGs
and smash these HEXBUGs
173
542564
3627
Nous invitions des gens dans le labo
pour écraser ces HEXBUGs
pour écraser ces HEXBUGs
09:18
that move around in a really
lifelike way, like insects.
lifelike way, like insects.
174
546215
3087
qui se meuvent très réalistement,
comme des insectes.
comme des insectes.
09:21
So instead of choosing something cute
that people are drawn to,
that people are drawn to,
175
549326
3134
Au lieu de choisir des objets mignons
qui attirent les gens,
qui attirent les gens,
09:24
we chose something more basic,
176
552484
2093
on a choisi quelque chose de plus basique.
09:26
and what we found
was that high-empathy people
was that high-empathy people
177
554601
3480
Nous avons découvert que les gens
avec une grande empathie
avec une grande empathie
09:30
would hesitate more to hit the HEXBUGS.
178
558105
2143
hésitaient davantage
à frapper les HEXBUGs.
à frapper les HEXBUGs.
09:33
Now this is just a little study,
179
561575
1564
C'est une petite étude
09:35
but it's part of a larger body of research
180
563163
2389
qui fait partie d'un grand
champ de recherches
champ de recherches
09:37
that is starting to indicate
that there may be a connection
that there may be a connection
181
565576
2944
qui semble indiquer
qu'il pourrait y avoir un lien
qu'il pourrait y avoir un lien
09:40
between people's tendencies for empathy
182
568544
2373
entre les tendances
pour l'empathie des gens
pour l'empathie des gens
09:42
and their behavior around robots.
183
570941
1976
et leur comportement avec des robots.
09:45
But my question for the coming era
of human-robot interaction
of human-robot interaction
184
573721
3627
Ma question cruciale pour l'ère prochaine
d'interactions hommes - robots
d'interactions hommes - robots
09:49
is not: "Do we empathize with robots?"
185
577372
3055
n'est pas : « Ressentons-nous
de l'empathie pour les robots ? »
de l'empathie pour les robots ? »
09:53
It's: "Can robots change
people's empathy?"
people's empathy?"
186
581211
2920
C'est : « Les robots peuvent-ils
changer l'empathie des gens ? »
changer l'empathie des gens ? »
09:57
Is there reason to, for example,
187
585489
2287
Y a-t-il une bonne raison
pour, par exemple,
pour, par exemple,
09:59
prevent your child
from kicking a robotic dog,
from kicking a robotic dog,
188
587800
2333
empêcher votre enfant
de frapper un robot-chien,
de frapper un robot-chien,
10:03
not just out of respect for property,
189
591228
2914
non pas pour le respect des biens,
10:06
but because the child might be
more likely to kick a real dog?
more likely to kick a real dog?
190
594166
2953
mais parce que ça pourrait le rendre plus
susceptible de frapper un vrai chien ?
susceptible de frapper un vrai chien ?
10:10
And again, it's not just kids.
191
598507
1883
À nouveau, il n'y a pas que les enfants.
10:13
This is the violent video games question,
but it's on a completely new level
but it's on a completely new level
192
601564
4056
C'est le débat des jeux vidéo violents,
mais à un tout autre niveau,
mais à un tout autre niveau,
10:17
because of this visceral physicality
that we respond more intensely to
that we respond more intensely to
193
605644
4760
à cause de cette réaction physique
et viscérale plus intense
et viscérale plus intense
10:22
than to images on a screen.
194
610428
1547
que celle ressentie
face à des images sur écran.
face à des images sur écran.
10:25
When we behave violently towards robots,
195
613674
2578
Si nous agissons avec violence
vis-à-vis des robots,
vis-à-vis des robots,
10:28
specifically robots
that are designed to mimic life,
that are designed to mimic life,
196
616276
3120
des robots conçus pour imiter la vie,
10:31
is that a healthy outlet
for violent behavior
for violent behavior
197
619420
3892
est-ce un exutoire sain
des comportements violents
des comportements violents
10:35
or is that training our cruelty muscles?
198
623336
2544
ou bien est-ce en train
de nourrir notre cruauté ?
de nourrir notre cruauté ?
10:39
We don't know ...
199
627511
1150
On ne sait pas.
10:42
But the answer to this question has
the potential to impact human behavior,
the potential to impact human behavior,
200
630622
3945
Toutefois la réponse peut influencer
les comportements humains,
les comportements humains,
10:46
it has the potential
to impact social norms,
to impact social norms,
201
634591
2768
elle peut influencer les normes sociales,
10:49
it has the potential to inspire rules
around what we can and can't do
around what we can and can't do
202
637383
3849
elle peut inspirer des règles
sur ce qu'on peut et ne peut pas faire
sur ce qu'on peut et ne peut pas faire
10:53
with certain robots,
203
641256
1151
avec certains robots,
à l'instar des lois contre la cruauté
envers les animaux.
envers les animaux.
10:54
similar to our animal cruelty laws.
204
642431
1848
10:57
Because even if robots can't feel,
205
645228
2864
Même si les robots ne ressentent pas,
11:00
our behavior towards them
might matter for us.
might matter for us.
206
648116
3080
notre comportement à leur égard
est important pour nous-mêmes.
est important pour nous-mêmes.
11:04
And regardless of whether
we end up changing our rules,
we end up changing our rules,
207
652889
2855
Que nous changions ou pas
nos réglementations,
nos réglementations,
11:08
robots might be able to help us
come to a new understanding of ourselves.
come to a new understanding of ourselves.
208
656926
3556
les robots pourraient nous offrir une
compréhension nouvelle de nous-mêmes.
compréhension nouvelle de nous-mêmes.
11:14
Most of what I've learned
over the past 10 years
over the past 10 years
209
662276
2316
Tout ce que j'ai appris
ces dix dernières années,
ces dix dernières années,
11:16
has not been about technology at all.
210
664616
2238
ne concerne pas la technologie.
11:18
It's been about human psychology
211
666878
2503
Il s'agit de la psychologie de l'homme,
11:21
and empathy and how we relate to others.
212
669405
2603
de l'empathie et de la façon
dont nous nous lions avec autrui.
dont nous nous lions avec autrui.
11:25
Because when a child is kind to a Roomba,
213
673524
2365
Car quand un enfant
est gentil avec Roomba,
est gentil avec Roomba,
11:29
when a soldier tries to save
a robot on the battlefield,
a robot on the battlefield,
214
677262
4015
qu'un soldat tente de sauver
un robot sur le champ de bataille
un robot sur le champ de bataille
11:33
or when a group of people refuses
to harm a robotic baby dinosaur,
to harm a robotic baby dinosaur,
215
681301
3638
ou qu'un groupe de personnes refuse
d'abîmer un robot bébé dinosaure,
d'abîmer un robot bébé dinosaure,
11:38
those robots aren't just motors
and gears and algorithms.
and gears and algorithms.
216
686248
3191
ces robots ne sont plus que des moteurs,
des engrenages et des algorithmes.
des engrenages et des algorithmes.
11:42
They're reflections of our own humanity.
217
690501
1905
Ils deviennent le reflet
de notre propre humanité.
de notre propre humanité.
11:45
Thank you.
218
693523
1151
Merci.
11:46
(Applause)
219
694698
3397
(Applaudissements)
ABOUT THE SPEAKER
Kate Darling - Robot ethicistKate Darling investigates the relationship between humans and robots -- now, and in the future.
Why you should listen
Robots are taking increasingly bigger roles in life and business -- moving well beyond manufacturing and into transportation, education, medicine, care for the elderly, our offices and our homes. But ethics and law haven't caught up. Kate Darling, a pioneer in these fields, is helping quicken the pace.
A leading expert in robot ethics, Darling is a researcher at the Massachusetts Institute of Technology (MIT) Media Lab where she investigates social robotics and conducts experimental studies on human-robot interaction. Darling explores the emotional connection between people and life-like inventions, seeking to influence technology design and policy direction. Her writing and research anticipate difficult questions that lawmakers, engineers and the wider public must address as human-robot relationships evolve in the coming decades.
While her background is in intellectual property and law and economics, Darling's passion for technology and robots led her to interdisciplinary fields. She's a former Fellow and current Affiliate at the Harvard Berkman Klein Center for Internet & Society and a former fellow at the Yale Information Society Project, and she's an affiliate at the Institute for Ethics and Emerging Technologies.
Her work has been featured in Vogue, The New Yorker, The Guardian, BBC, NPR, PBS, The Boston Globe, Forbes, CBC, WIRED, Boston Magazine, The Atlantic, Slate, Die Zeit, The Japan Times and more. She is a contributing writer to Robohub and IEEE Spectrum and speaks and holds workshops covering some of the more interesting developments in the world of robotics, and where we might find ourselves in the future.
Darling graduated from law school with honors and holds a doctorate of sciences from the Swiss Federal Institute of Technology (ETH Zurich) and an honorary doctorate of sciences from Middlebury College. In 2017, the American Bar Association honored her legal work with the Mark T. Banner award in Intellectual Property. She is the caretaker for several domestic robots, including her Pleos Yochai, Peter, and Mr. Spaghetti. She tweets as @grok_ about eating cheerios for dinner.
Kate Darling | Speaker | TED.com