TED Salon Samsung
Kate Darling: Why we have an emotional connection to robots
Kate Darling: Waarom we een emotionele band met robots hebben
Filmed:
Readability: 4.4
2,403,010 views
We zijn nog lang niet zover dat we robots kunnen maken die emoties hebben, maar we hebben al wel emoties naar hen toe, zegt robot-ethicus Kate Darling, en dat kan consequenties hebben. Kom meer te weten over de manier waarop we biologisch geprogrammeerd zijn om intenties en gevoelens aan machines toe te schrijven -- en hoe ons dat kan helpen onszelf beter te begrijpen.
Kate Darling - Robot ethicist
Kate Darling investigates the relationship between humans and robots -- now, and in the future. Full bio
Kate Darling investigates the relationship between humans and robots -- now, and in the future. Full bio
Double-click the English transcript below to play the video.
00:13
There was a day, about 10 years ago,
0
1047
2508
Op een dag, zo'n tien jaar geleden,
vroeg ik aan een vriend
vroeg ik aan een vriend
00:15
when I asked a friend to hold
a baby dinosaur robot upside down.
a baby dinosaur robot upside down.
1
3579
3944
of hij een babydinosaurusrobot
ondersteboven wilde houden.
ondersteboven wilde houden.
00:21
It was this toy called a Pleo
that I had ordered,
that I had ordered,
2
9889
3446
Het was een speelgoedbeest,
een Pleo, dat ik besteld had,
een Pleo, dat ik besteld had,
00:25
and I was really excited about it
because I've always loved robots.
because I've always loved robots.
3
13359
4401
en ik was er erg enthousiast over
omdat ik altijd van robots gehouden heb.
omdat ik altijd van robots gehouden heb.
En deze had hele gave
technologische functies.
technologische functies.
00:29
And this one has really cool
technical features.
technical features.
4
17784
2279
Hij had motortjes, aanraaksensoren
en een infraroodcamera.
en een infraroodcamera.
00:32
It had motors and touch sensors
5
20087
2119
00:34
and it had an infrared camera.
6
22230
2244
00:36
And one of the things it had
was a tilt sensor,
was a tilt sensor,
7
24498
2763
Hij had ook een kantelsensor,
zodat hij wist welke kant boven was.
zodat hij wist welke kant boven was.
00:39
so it knew what direction it was facing.
8
27285
2318
00:42
And when you held it upside down,
9
30095
2134
En als je hem ondersteboven hield,
begon hij te huilen.
begon hij te huilen.
00:44
it would start to cry.
10
32253
1572
00:46
And I thought this was super cool,
so I was showing it off to my friend,
so I was showing it off to my friend,
11
34527
3496
Ik vond dit erg gaaf
en liet hem trots aan mijn vriend zien.
en liet hem trots aan mijn vriend zien.
00:50
and I said, "Oh, hold it up by the tail.
See what it does."
See what it does."
12
38047
2805
"Hou hem eens bij zijn staart vast",
zei ik, "en kijk wat er gebeurt."
zei ik, "en kijk wat er gebeurt."
00:55
So we're watching
the theatrics of this robot
the theatrics of this robot
13
43268
3625
Dus we staan te kijken
naar de verrichtingen van deze robot,
naar de verrichtingen van deze robot,
00:58
struggle and cry out.
14
46917
2199
die spartelt en huilt.
01:02
And after a few seconds,
15
50767
2047
Na een paar seconden
ga ik me een beetje ongemakkelijk voelen
ga ik me een beetje ongemakkelijk voelen
01:04
it starts to bother me a little,
16
52838
1972
01:07
and I said, "OK, that's enough now.
17
55744
3424
en zeg ik: "Oké, nu is het wel genoeg.
Zet hem maar weer neer."
Zet hem maar weer neer."
01:11
Let's put him back down."
18
59930
2305
01:14
And then I pet the robot
to make it stop crying.
to make it stop crying.
19
62259
2555
Daarna aaide ik de robot
om hem te laten ophouden met huilen.
om hem te laten ophouden met huilen.
01:18
And that was kind of
a weird experience for me.
a weird experience for me.
20
66973
2452
Dat was best een vreemde ervaring voor me.
01:22
For one thing, I wasn't the most
maternal person at the time.
maternal person at the time.
21
70084
4569
Ten eerste was ik destijds
niet zo'n moederlijk type.
niet zo'n moederlijk type.
01:26
Although since then I've become
a mother, nine months ago,
a mother, nine months ago,
22
74677
2731
Al ben ik negen maanden geleden
zelf moeder geworden
zelf moeder geworden
01:29
and I've learned that babies also squirm
when you hold them upside down.
when you hold them upside down.
23
77432
3433
en heb ik geleerd dat baby's ook spartelen
als je ze ondersteboven houdt.
als je ze ondersteboven houdt.
01:32
(Laughter)
24
80889
1563
(Gelach)
Maar mijn reactie op deze robot
was ook interessant,
was ook interessant,
01:35
But my response to this robot
was also interesting
was also interesting
25
83023
2358
01:37
because I knew exactly
how this machine worked,
how this machine worked,
26
85405
4101
omdat ik precies wist
hoe dit apparaat werkte
hoe dit apparaat werkte
01:41
and yet I still felt
compelled to be kind to it.
compelled to be kind to it.
27
89530
3262
en er toch aardig tegen wilde zijn.
01:46
And that observation sparked a curiosity
28
94450
2707
Dat intrigeerde mij en daar ben ik
de laatste tien jaar mee bezig geweest.
de laatste tien jaar mee bezig geweest.
01:49
that I've spent the past decade pursuing.
29
97181
2832
01:52
Why did I comfort this robot?
30
100911
1793
Waarom troostte ik die robot?
01:56
And one of the things I discovered
was that my treatment of this machine
was that my treatment of this machine
31
104228
3579
Ik ontdekte dat de manier
waarop ik dit apparaat behandelde
waarop ik dit apparaat behandelde
01:59
was more than just an awkward moment
in my living room,
in my living room,
32
107831
3701
meer om het lijf had dan een enkel
ongemakkelijk moment in mijn woonkamer,
ongemakkelijk moment in mijn woonkamer,
02:03
that in a world where we're increasingly
integrating robots into our lives,
integrating robots into our lives,
33
111556
5420
en dat in een wereld waar robots
steeds meer een deel van ons leven worden,
steeds meer een deel van ons leven worden,
02:09
an instinct like that
might actually have consequences,
might actually have consequences,
34
117000
3126
zo'n instinct daadwerkelijk
consequenties zou kunnen hebben,
consequenties zou kunnen hebben,
02:13
because the first thing that I discovered
is that it's not just me.
is that it's not just me.
35
121452
3749
want het eerste waar ik achter kwam,
was dat ik niet de enige ben.
was dat ik niet de enige ben.
02:19
In 2007, the Washington Post
reported that the United States military
reported that the United States military
36
127249
4802
In 2007 schreef de Washington Post
dat het Amerikaanse leger
dat het Amerikaanse leger
02:24
was testing this robot
that defused land mines.
that defused land mines.
37
132075
3230
een robot aan het testen was
die landmijnen onschadelijk maakte.
die landmijnen onschadelijk maakte.
02:27
And the way it worked
was it was shaped like a stick insect
was it was shaped like a stick insect
38
135329
2912
Het was een soort wandelende tak
die over een mijnenveld liep
die over een mijnenveld liep
02:30
and it would walk
around a minefield on its legs,
around a minefield on its legs,
39
138265
2651
en als hij op een mijn trapte,
werd een van zijn poten opgeblazen
werd een van zijn poten opgeblazen
02:32
and every time it stepped on a mine,
one of the legs would blow up,
one of the legs would blow up,
40
140940
3206
en liep hij verder op één poot minder
om nog meer mijnen op te blazen.
om nog meer mijnen op te blazen.
02:36
and it would continue on the other legs
to blow up more mines.
to blow up more mines.
41
144170
3057
02:39
And the colonel who was in charge
of this testing exercise
of this testing exercise
42
147251
3786
De kolonel die deze testoefening leidde,
blies haar uiteindelijk helemaal af,
blies haar uiteindelijk helemaal af,
02:43
ends up calling it off,
43
151061
2118
02:45
because, he says, it's too inhumane
44
153203
2435
omdat hij het onmenselijk vond
02:47
to watch this damaged robot
drag itself along the minefield.
drag itself along the minefield.
45
155662
4516
om toe te kijken hoe deze robot
zich over het mijnenveld sleepte.
zich over het mijnenveld sleepte.
02:54
Now, what would cause
a hardened military officer
a hardened military officer
46
162978
3897
Hoe zou het kunnen dat een
door de wol geverfde legerofficier
door de wol geverfde legerofficier
02:58
and someone like myself
47
166899
2043
en iemand zoals ik
op deze manier op robots reageren?
op deze manier op robots reageren?
03:00
to have this response to robots?
48
168966
1857
03:03
Well, of course, we're primed
by science fiction and pop culture
by science fiction and pop culture
49
171537
3310
Natuurlijk hebben science fiction
en popcultuur ons ertoe aangezet
en popcultuur ons ertoe aangezet
03:06
to really want to personify these things,
50
174871
2579
deze dingen te verpersoonlijken,
03:09
but it goes a little bit deeper than that.
51
177474
2789
maar het gaat dieper.
03:12
It turns out that we're biologically
hardwired to project intent and life
hardwired to project intent and life
52
180287
5309
Het blijkt dat het in onze natuur zit
om intenties en leven toe te schrijven
om intenties en leven toe te schrijven
03:17
onto any movement in our physical space
that seems autonomous to us.
that seems autonomous to us.
53
185620
4766
aan alles wat in onze omgeving
uit zichzelf lijkt te bewegen.
uit zichzelf lijkt te bewegen.
03:23
So people will treat all sorts
of robots like they're alive.
of robots like they're alive.
54
191214
3465
Dus we zullen allerlei soorten robots
behandelen alsof het levende wezens zijn.
behandelen alsof het levende wezens zijn.
03:26
These bomb-disposal units get names.
55
194703
2683
Robots die mijnen ontmantelen,
krijgen een naam.
krijgen een naam.
03:29
They get medals of honor.
56
197410
1682
Ze krijgen eremedailles.
03:31
They've had funerals for them
with gun salutes.
with gun salutes.
57
199116
2325
Er zijn begrafenissen met saluutschoten
voor hen georganiseerd.
voor hen georganiseerd.
03:34
And research shows that we do this
even with very simple household robots,
even with very simple household robots,
58
202380
3833
Onderzoek wijst uit dat we dit zelfs
met simpele huishoudrobots doen,
met simpele huishoudrobots doen,
03:38
like the Roomba vacuum cleaner.
59
206237
2135
zoals de Roomba-stofzuiger.
03:40
(Laughter)
60
208396
1291
(Gelach)
Dat is niet meer dan een schijf
die rondrijdt en je vloer schoonmaakt,
die rondrijdt en je vloer schoonmaakt,
03:41
It's just a disc that roams
around your floor to clean it,
around your floor to clean it,
61
209711
3089
03:44
but just the fact it's moving
around on its own
around on its own
62
212824
2306
maar het feit dat hij zelfstandig beweegt
zorgt ervoor dat mensen hem een naam geven
zorgt ervoor dat mensen hem een naam geven
03:47
will cause people to name the Roomba
63
215154
2167
03:49
and feel bad for the Roomba
when it gets stuck under the couch.
when it gets stuck under the couch.
64
217345
3182
en het rot voor hem vinden
als hij onder de bank vast komt te zitten.
als hij onder de bank vast komt te zitten.
03:52
(Laughter)
65
220551
1865
(Gelach)
03:54
And we can design robots
specifically to evoke this response,
specifically to evoke this response,
66
222440
3340
We kunnen robots zo ontwerpen
dat ze juist deze reactie uitlokken,
dat ze juist deze reactie uitlokken,
03:57
using eyes and faces or movements
67
225804
3461
door ze uit te rusten
met ogen en gezichten of bewegingen
met ogen en gezichten of bewegingen
04:01
that people automatically,
subconsciously associate
subconsciously associate
68
229289
3259
die mensen automatisch en onbewust
associëren met gemoedstoestanden.
associëren met gemoedstoestanden.
04:04
with states of mind.
69
232572
2020
04:06
And there's an entire body of research
called human-robot interaction
called human-robot interaction
70
234616
3293
Er is een hele onderzoekstak,
mens-robotinteractie genaamd,
mens-robotinteractie genaamd,
die laat zien hoe goed dit werkt.
04:09
that really shows how well this works.
71
237933
1826
04:11
So for example, researchers
at Stanford University found out
at Stanford University found out
72
239783
3126
Onderzoekers van de Stanford University
ontdekten bijvoorbeeld
ontdekten bijvoorbeeld
dat mensen zich ongemakkelijk voelen
04:14
that it makes people really uncomfortable
73
242933
2001
als je hen vraagt de edele delen
van een robot aan te raken.
van een robot aan te raken.
04:16
when you ask them to touch
a robot's private parts.
a robot's private parts.
74
244958
2472
04:19
(Laughter)
75
247454
2120
(Gelach)
04:21
So from this, but from many other studies,
76
249598
2023
Door deze en veel andere onderzoeken
weten we dat mensen reageren
04:23
we know, we know that people
respond to the cues given to them
respond to the cues given to them
77
251645
4223
op signalen die ze krijgen
van deze levensechte apparaten,
van deze levensechte apparaten,
04:27
by these lifelike machines,
78
255892
2022
04:29
even if they know that they're not real.
79
257938
2017
zelfs als ze weten dat ze niet echt zijn.
04:33
Now, we're headed towards a world
where robots are everywhere.
where robots are everywhere.
80
261654
4056
We gaan naar een wereld toe
waarin overal robots zijn.
waarin overal robots zijn.
04:37
Robotic technology is moving out
from behind factory walls.
from behind factory walls.
81
265734
3065
Robottechnologie begeeft zich
buiten de fabrieksmuren.
buiten de fabrieksmuren.
04:40
It's entering workplaces, households.
82
268823
3013
Het komt naar de werkvloer en huishoudens.
04:43
And as these machines that can sense
and make autonomous decisions and learn
and make autonomous decisions and learn
83
271860
6209
Als deze apparaten, die kunnen voelen,
zelfstandig beslissingen nemen en leren,
zelfstandig beslissingen nemen en leren,
04:50
enter into these shared spaces,
84
278093
2552
tot deze gedeelde ruimtes doordringen,
04:52
I think that maybe the best
analogy we have for this
analogy we have for this
85
280669
2496
denk ik dat we dat het beste
kunnen vergelijken
kunnen vergelijken
04:55
is our relationship with animals.
86
283189
1935
met de relatie die we met dieren hebben.
04:57
Thousands of years ago,
we started to domesticate animals,
we started to domesticate animals,
87
285523
3888
Duizenden jaren geleden
begonnen we dieren te temmen
begonnen we dieren te temmen
05:01
and we trained them for work
and weaponry and companionship.
and weaponry and companionship.
88
289435
4045
en hen te leren voor ons te werken,
te vechten en ons gezelschap te houden.
te vechten en ons gezelschap te houden.
05:05
And throughout history, we've treated
some animals like tools or like products,
some animals like tools or like products,
89
293504
4985
Sommige dieren hebben we behandeld
als gereedschap of als product;
als gereedschap of als product;
andere hebben we vriendelijk behandeld
05:10
and other animals,
we've treated with kindness
we've treated with kindness
90
298513
2174
05:12
and we've given a place in society
as our companions.
as our companions.
91
300711
3078
en als huisdier een plaats gegeven
in onze gemeenschap.
in onze gemeenschap.
05:15
I think it's plausible we might start
to integrate robots in similar ways.
to integrate robots in similar ways.
92
303813
3849
Het is denkbaar dat we robots
op dezelfde manier zullen integreren.
op dezelfde manier zullen integreren.
05:21
And sure, animals are alive.
93
309484
3096
Natuurlijk, dieren zijn levende wezens.
05:24
Robots are not.
94
312604
1150
Robots zijn dat niet.
Ik kan jullie vertellen,
door mijn werk met robotici,
door mijn werk met robotici,
05:27
And I can tell you,
from working with roboticists,
from working with roboticists,
95
315626
2580
dat we nog lang geen robots
kunnen ontwikkelen die iets kunnen voelen.
kunnen ontwikkelen die iets kunnen voelen.
05:30
that we're pretty far away from developing
robots that can feel anything.
robots that can feel anything.
96
318230
3522
05:35
But we feel for them,
97
323072
1460
Maar wij hebben wel gevoelens
ten aanzien van hén
ten aanzien van hén
05:37
and that matters,
98
325835
1207
en dat is belangrijk,
05:39
because if we're trying to integrate
robots into these shared spaces,
robots into these shared spaces,
99
327066
3627
want als we robots willen toelaten
in deze gezamenlijke ruimtes,
in deze gezamenlijke ruimtes,
05:42
we need to understand that people will
treat them differently than other devices,
treat them differently than other devices,
100
330717
4628
dan moeten we begrijpen dat we er anders
mee omgaan dan met andere apparaten
mee omgaan dan met andere apparaten
05:47
and that in some cases,
101
335369
1844
en dat dit soms,
05:49
for example, the case of a soldier
who becomes emotionally attached
who becomes emotionally attached
102
337237
3172
zoals bij de soldaat die zich emotioneel
hecht aan de robot waarmee hij werkt,
hecht aan de robot waarmee hij werkt,
05:52
to the robot that they work with,
103
340433
2047
05:54
that can be anything
from inefficient to dangerous.
from inefficient to dangerous.
104
342504
2504
inefficiënt kan zijn
of zelfs ronduit gevaarlijk.
of zelfs ronduit gevaarlijk.
05:58
But in other cases,
it can actually be useful
it can actually be useful
105
346551
2138
In andere gevallen
kan het juist handig zijn
kan het juist handig zijn
06:00
to foster this emotional
connection to robots.
connection to robots.
106
348713
2623
om deze emotionele band
met robots te versterken.
met robots te versterken.
We kennen al verschillende
praktische toepassingen,
praktische toepassingen,
06:04
We're already seeing some great use cases,
107
352184
2134
06:06
for example, robots working
with autistic children
with autistic children
108
354342
2604
zoals robots die werken
met autistische kinderen
met autistische kinderen
06:08
to engage them in ways
that we haven't seen previously,
that we haven't seen previously,
109
356970
3634
en hun aandacht vasthouden op manieren
die we nog niet eerder gezien hebben,
die we nog niet eerder gezien hebben,
06:12
or robots working with teachers to engage
kids in learning with new results.
kids in learning with new results.
110
360628
4000
of robots die samen met leraren
kinderen helpen te leren, met resultaat.
kinderen helpen te leren, met resultaat.
06:17
And it's not just for kids.
111
365433
1381
En het werkt niet alleen bij kinderen.
Vroege studies laten zien dat robots
artsen en patiënten kunnen helpen
artsen en patiënten kunnen helpen
06:19
Early studies show that robots
can help doctors and patients
can help doctors and patients
112
367750
3223
06:22
in health care settings.
113
370997
1427
op het gebied van zorg.
06:25
This is the PARO baby seal robot.
114
373535
1810
Dit is de PARO-babyzeehondrobot.
06:27
It's used in nursing homes
and with dementia patients.
and with dementia patients.
115
375369
3285
Hij wordt gebruikt in verzorgingshuizen
en bij dementiepatiënten.
en bij dementiepatiënten.
06:30
It's been around for a while.
116
378678
1570
Hij is er al een tijdje.
06:32
And I remember, years ago,
being at a party
being at a party
117
380272
3325
En ik herinner me, jaren geleden,
toen ik op een feestje was
toen ik op een feestje was
06:35
and telling someone about this robot,
118
383621
2571
en ik iemand vertelde over deze robot,
06:38
and her response was,
119
386216
2126
haar reactie was:
06:40
"Oh my gosh.
120
388366
1262
"Oh, mijn god. Dat is verschrikkelijk.
06:42
That's horrible.
121
390508
1188
06:45
I can't believe we're giving people
robots instead of human care."
robots instead of human care."
122
393056
3397
Niet te geloven dat we mensen robots geven
in plaats van menselijke zorg."
in plaats van menselijke zorg."
06:50
And this is a really common response,
123
398540
1875
Deze reactie komt vaak voor
06:52
and I think it's absolutely correct,
124
400439
2499
en ik denk inderdaad
dat hij helemaal terecht is,
dat hij helemaal terecht is,
06:54
because that would be terrible.
125
402962
2040
want dat zou verschrikkelijk zijn.
06:57
But in this case,
it's not what this robot replaces.
it's not what this robot replaces.
126
405795
2484
Maar dat is niet
wat de robot hier vervangt.
wat de robot hier vervangt.
07:00
What this robot replaces is animal therapy
127
408858
3120
Deze robot vervangt diertherapie
als we geen echte dieren
kunnen gebruiken maar robots wel,
kunnen gebruiken maar robots wel,
07:04
in contexts where
we can't use real animals
we can't use real animals
128
412002
3198
07:07
but we can use robots,
129
415224
1168
omdat we die consequent
meer als dier dan als apparaat behandelen.
meer als dier dan als apparaat behandelen.
07:08
because people will consistently treat
them more like an animal than a device.
them more like an animal than a device.
130
416416
5230
Als we deze emotionele band
met robots erkennen,
met robots erkennen,
07:15
Acknowledging this emotional
connection to robots
connection to robots
131
423502
2380
kan ons dat ook helpen
uitdagingen het hoofd te bieden
uitdagingen het hoofd te bieden
07:17
can also help us anticipate challenges
132
425906
1969
07:19
as these devices move into more intimate
areas of people's lives.
areas of people's lives.
133
427899
3451
als deze apparaten hun intrede doen
in onze privésfeer.
in onze privésfeer.
07:24
For example, is it OK
if your child's teddy bear robot
if your child's teddy bear robot
134
432111
3404
Is het bijvoorbeeld acceptabel
als de teddybeerrobot van je kind
als de teddybeerrobot van je kind
07:27
records private conversations?
135
435539
2237
vertrouwelijke gesprekken opneemt?
07:29
Is it OK if your sex robot
has compelling in-app purchases?
has compelling in-app purchases?
136
437800
4063
Is het acceptabel als je seksrobot
onweerstaanbare in-app aankopen aanbiedt?
onweerstaanbare in-app aankopen aanbiedt?
07:33
(Laughter)
137
441887
1396
(Gelach)
07:35
Because robots plus capitalism
138
443307
2501
Want de combinatie
van robots en kapitalisme
van robots en kapitalisme
07:37
equals questions around
consumer protection and privacy.
consumer protection and privacy.
139
445832
3705
roept vragen op over
consumentenbescherming en privacy.
consumentenbescherming en privacy.
En dat zijn niet de enige redenen
07:42
And those aren't the only reasons
140
450549
1612
waarom onze opstelling tegenover
deze apparaten van belang kan zijn.
deze apparaten van belang kan zijn.
07:44
that our behavior around
these machines could matter.
these machines could matter.
141
452185
2570
07:48
A few years after that first
initial experience I had
initial experience I had
142
456747
3270
Een paar jaar na mijn eerste ervaring
met die babydinosaurusrobot
met die babydinosaurusrobot
07:52
with this baby dinosaur robot,
143
460041
2311
gaf ik een workshop
met mijn vriend Hannes Gassert.
met mijn vriend Hannes Gassert.
07:54
I did a workshop
with my friend Hannes Gassert.
with my friend Hannes Gassert.
144
462376
2501
07:56
And we took five
of these baby dinosaur robots
of these baby dinosaur robots
145
464901
2897
We gaven vijf van deze
babydinosaurusrobots
babydinosaurusrobots
07:59
and we gave them to five teams of people.
146
467822
2453
aan vijf groepjes mensen.
08:02
And we had them name them
147
470299
1697
Ze moesten er een naam voor verzinnen
08:04
and play with them and interact with them
for about an hour.
for about an hour.
148
472020
3809
en ze mochten ermee spelen
en ermee aanrommelen, zo'n uur lang.
en ermee aanrommelen, zo'n uur lang.
08:08
And then we unveiled
a hammer and a hatchet
a hammer and a hatchet
149
476707
2206
Toen haalden we
een hamer en bijl tevoorschijn
een hamer en bijl tevoorschijn
en vroegen hen de robots
te martelen en vermoorden.
te martelen en vermoorden.
08:10
and we told them to torture
and kill the robots.
and kill the robots.
150
478937
2278
08:13
(Laughter)
151
481239
3007
(Gelach)
08:16
And this turned out to be
a little more dramatic
a little more dramatic
152
484857
2294
Dit leek iets gevoeliger te liggen
dan we gedacht hadden,
dan we gedacht hadden,
08:19
than we expected it to be,
153
487175
1278
want geen van de deelnemers
wilde ook maar een tik uitdelen
wilde ook maar een tik uitdelen
08:20
because none of the participants
would even so much as strike
would even so much as strike
154
488477
3072
aan deze babydinosaurusrobots,
08:23
these baby dinosaur robots,
155
491573
1307
08:24
so we had to improvise a little,
and at some point, we said,
and at some point, we said,
156
492904
5150
dus moesten we improviseren
en op een gegeven moment zeiden we:
en op een gegeven moment zeiden we:
"Jullie kunnen je eigen robot redden
als jullie die van een ander team slopen."
als jullie die van een ander team slopen."
08:30
"OK, you can save your team's robot
if you destroy another team's robot."
if you destroy another team's robot."
157
498078
4437
08:34
(Laughter)
158
502539
1855
(Gelach)
Zelfs dat werkte niet. Ze konden het niet.
08:36
And even that didn't work.
They couldn't do it.
They couldn't do it.
159
504839
2195
Uiteindelijk zeiden we:
08:39
So finally, we said,
160
507058
1151
08:40
"We're going to destroy all of the robots
161
508233
2032
"We gaan alle robots vernietigen
tenzij iemand er één
met een bijl bewerkt."
met een bijl bewerkt."
08:42
unless someone takes
a hatchet to one of them."
a hatchet to one of them."
162
510289
2285
08:45
And this guy stood up,
and he took the hatchet,
and he took the hatchet,
163
513586
3579
Eén man stond op en pakte de bijl,
en iedereen kromp ineen
toen hij de bijl liet neerkomen
toen hij de bijl liet neerkomen
08:49
and the whole room winced
as he brought the hatchet down
as he brought the hatchet down
164
517189
2706
op de nek van de robot;
08:51
on the robot's neck,
165
519919
1780
08:53
and there was this half-joking,
half-serious moment of silence in the room
half-serious moment of silence in the room
166
521723
6338
in de kamer viel een ogenblik stilte,
half geamuseerd, half ernstig,
half geamuseerd, half ernstig,
09:00
for this fallen robot.
167
528085
1698
vanwege deze gevallen robot.
09:01
(Laughter)
168
529807
1406
(Gelach)
09:03
So that was a really
interesting experience.
interesting experience.
169
531237
3694
Dat was een heel interessante ervaring.
Het was natuurlijk
geen gecontroleerd onderzoek,
geen gecontroleerd onderzoek,
09:06
Now, it wasn't a controlled
study, obviously,
study, obviously,
170
534955
2459
maar het zorgde ervoor dat ik
meer onderzoek ging doen aan het MIT
meer onderzoek ging doen aan het MIT
09:09
but it did lead to some
later research that I did at MIT
later research that I did at MIT
171
537438
2850
09:12
with Palash Nandy and Cynthia Breazeal,
172
540312
2228
met Palash Nandy en Cynthia Breazeal.
09:14
where we had people come into the lab
and smash these HEXBUGs
and smash these HEXBUGs
173
542564
3627
We lieten mensen naar het lab komen
en lieten hen deze HEXBUGs slopen;
en lieten hen deze HEXBUGs slopen;
09:18
that move around in a really
lifelike way, like insects.
lifelike way, like insects.
174
546215
3087
ze bewegen zich als insecten,
op een levensechte manier.
op een levensechte manier.
In plaats van iets schattigs te kiezen
waar mensen zich tot aangetrokken voelen,
waar mensen zich tot aangetrokken voelen,
09:21
So instead of choosing something cute
that people are drawn to,
that people are drawn to,
175
549326
3134
09:24
we chose something more basic,
176
552484
2093
kozen we iets simpelers
09:26
and what we found
was that high-empathy people
was that high-empathy people
177
554601
3480
en we ontdekten dat mensen
die veel inlevingsvermogen hebben
die veel inlevingsvermogen hebben
09:30
would hesitate more to hit the HEXBUGS.
178
558105
2143
langer aarzelden om
op de HEXBUGs in te slaan.
op de HEXBUGs in te slaan.
Dit is maar een klein onderzoek,
09:33
Now this is just a little study,
179
561575
1564
maar het maakt deel uit
van een grote groep onderzoeken
van een grote groep onderzoeken
09:35
but it's part of a larger body of research
180
563163
2389
09:37
that is starting to indicate
that there may be a connection
that there may be a connection
181
565576
2944
die beginnen uit te wijzen
dat er een verband zou kunnen zijn
dat er een verband zou kunnen zijn
09:40
between people's tendencies for empathy
182
568544
2373
tussen iemands inlevingsvermogen
en zijn houding ten aanzien van robots.
en zijn houding ten aanzien van robots.
09:42
and their behavior around robots.
183
570941
1976
09:45
But my question for the coming era
of human-robot interaction
of human-robot interaction
184
573721
3627
Mijn vraag voor de toekomst
van mens-robotinteractie is niet:
van mens-robotinteractie is niet:
09:49
is not: "Do we empathize with robots?"
185
577372
3055
'Kunnen we ons inleven in robots?'
09:53
It's: "Can robots change
people's empathy?"
people's empathy?"
186
581211
2920
maar: 'Hebben robots invloed
op ons inlevingsvermogen?'
op ons inlevingsvermogen?'
09:57
Is there reason to, for example,
187
585489
2287
Moet je bijvoorbeeld verhinderen
dat je kind een robothond schopt,
09:59
prevent your child
from kicking a robotic dog,
from kicking a robotic dog,
188
587800
2333
10:03
not just out of respect for property,
189
591228
2914
niet alleen omdat je nu eenmaal
tegen spullen aan trapt,
tegen spullen aan trapt,
10:06
but because the child might be
more likely to kick a real dog?
more likely to kick a real dog?
190
594166
2953
maar omdat het kind misschien anders
ook sneller een echte hond zou schoppen?
ook sneller een echte hond zou schoppen?
10:10
And again, it's not just kids.
191
598507
1883
Nogmaals, het gaat hier
niet alleen over kinderen.
niet alleen over kinderen.
Hetzelfde speelt bij
gewelddadige videogames,
gewelddadige videogames,
10:13
This is the violent video games question,
but it's on a completely new level
but it's on a completely new level
192
601564
4056
maar nu is het op totaal onbekend terrein,
10:17
because of this visceral physicality
that we respond more intensely to
that we respond more intensely to
193
605644
4760
want op lichamelijke prikkels reageren we
veel sterker dan op schermbeelden.
veel sterker dan op schermbeelden.
10:22
than to images on a screen.
194
610428
1547
10:25
When we behave violently towards robots,
195
613674
2578
Als we ons gewelddadig opstellen
naar robots toe,
naar robots toe,
vooral naar robots die ontworpen zijn
om levensecht te lijken,
om levensecht te lijken,
10:28
specifically robots
that are designed to mimic life,
that are designed to mimic life,
196
616276
3120
10:31
is that a healthy outlet
for violent behavior
for violent behavior
197
619420
3892
is dat dan een gezonde uitlaatklep
voor onze gewelddadige gevoelens
voor onze gewelddadige gevoelens
10:35
or is that training our cruelty muscles?
198
623336
2544
of trainen we dan juist ons vermogen
om ons wreed te gedragen?
om ons wreed te gedragen?
10:39
We don't know ...
199
627511
1150
We weten het niet ...
10:42
But the answer to this question has
the potential to impact human behavior,
the potential to impact human behavior,
200
630622
3945
Het antwoord op deze vraag
kan menselijk gedrag beïnvloeden,
kan menselijk gedrag beïnvloeden,
10:46
it has the potential
to impact social norms,
to impact social norms,
201
634591
2768
kan sociale normen beïnvloeden,
10:49
it has the potential to inspire rules
around what we can and can't do
around what we can and can't do
202
637383
3849
kan leiden tot regels
over wat we wel en niet kunnen doen
over wat we wel en niet kunnen doen
10:53
with certain robots,
203
641256
1151
met bepaalde robots,
10:54
similar to our animal cruelty laws.
204
642431
1848
net zoals er wetten zijn
omtrent dierenmishandeling.
omtrent dierenmishandeling.
10:57
Because even if robots can't feel,
205
645228
2864
Want zelfs als robots geen gevoel hebben,
11:00
our behavior towards them
might matter for us.
might matter for us.
206
648116
3080
dan nog kan de manier waarop we ons
tegenover hen opstellen, belangrijk zijn.
tegenover hen opstellen, belangrijk zijn.
11:04
And regardless of whether
we end up changing our rules,
we end up changing our rules,
207
652889
2855
Of we nu wel of niet
de regels gaan veranderen,
de regels gaan veranderen,
11:08
robots might be able to help us
come to a new understanding of ourselves.
come to a new understanding of ourselves.
208
656926
3556
robots zouden ons kunnen helpen
onszelf beter te gaan begrijpen.
onszelf beter te gaan begrijpen.
Het meeste van wat ik
de laatste tien jaar heb geleerd,
de laatste tien jaar heb geleerd,
11:14
Most of what I've learned
over the past 10 years
over the past 10 years
209
662276
2316
11:16
has not been about technology at all.
210
664616
2238
ging helemaal niet over technologie.
11:18
It's been about human psychology
211
666878
2503
Het ging over psychologie en empathie
11:21
and empathy and how we relate to others.
212
669405
2603
en hoe we met elkaar omgaan.
11:25
Because when a child is kind to a Roomba,
213
673524
2365
Want als een kind lief doet
tegen een Roomba,
tegen een Roomba,
11:29
when a soldier tries to save
a robot on the battlefield,
a robot on the battlefield,
214
677262
4015
als een soldaat een robot
op het slagveld probeert te redden,
op het slagveld probeert te redden,
11:33
or when a group of people refuses
to harm a robotic baby dinosaur,
to harm a robotic baby dinosaur,
215
681301
3638
of als een groep mensen weigert
om een babydinosaurusrobot kwaad te doen,
om een babydinosaurusrobot kwaad te doen,
11:38
those robots aren't just motors
and gears and algorithms.
and gears and algorithms.
216
686248
3191
dan zijn deze robots niet alleen
motoren en tandwielen en algoritmes.
motoren en tandwielen en algoritmes.
11:42
They're reflections of our own humanity.
217
690501
1905
Dan zijn ze reflecties
van onze eigen menselijkheid.
van onze eigen menselijkheid.
11:45
Thank you.
218
693523
1151
Dank jullie wel.
11:46
(Applause)
219
694698
3397
(Applaus)
ABOUT THE SPEAKER
Kate Darling - Robot ethicistKate Darling investigates the relationship between humans and robots -- now, and in the future.
Why you should listen
Robots are taking increasingly bigger roles in life and business -- moving well beyond manufacturing and into transportation, education, medicine, care for the elderly, our offices and our homes. But ethics and law haven't caught up. Kate Darling, a pioneer in these fields, is helping quicken the pace.
A leading expert in robot ethics, Darling is a researcher at the Massachusetts Institute of Technology (MIT) Media Lab where she investigates social robotics and conducts experimental studies on human-robot interaction. Darling explores the emotional connection between people and life-like inventions, seeking to influence technology design and policy direction. Her writing and research anticipate difficult questions that lawmakers, engineers and the wider public must address as human-robot relationships evolve in the coming decades.
While her background is in intellectual property and law and economics, Darling's passion for technology and robots led her to interdisciplinary fields. She's a former Fellow and current Affiliate at the Harvard Berkman Klein Center for Internet & Society and a former fellow at the Yale Information Society Project, and she's an affiliate at the Institute for Ethics and Emerging Technologies.
Her work has been featured in Vogue, The New Yorker, The Guardian, BBC, NPR, PBS, The Boston Globe, Forbes, CBC, WIRED, Boston Magazine, The Atlantic, Slate, Die Zeit, The Japan Times and more. She is a contributing writer to Robohub and IEEE Spectrum and speaks and holds workshops covering some of the more interesting developments in the world of robotics, and where we might find ourselves in the future.
Darling graduated from law school with honors and holds a doctorate of sciences from the Swiss Federal Institute of Technology (ETH Zurich) and an honorary doctorate of sciences from Middlebury College. In 2017, the American Bar Association honored her legal work with the Mark T. Banner award in Intellectual Property. She is the caretaker for several domestic robots, including her Pleos Yochai, Peter, and Mr. Spaghetti. She tweets as @grok_ about eating cheerios for dinner.
Kate Darling | Speaker | TED.com