TED Salon Samsung
Kate Darling: Why we have an emotional connection to robots
Kate Darling: Warum wir eine emotionale Verbindung zu Robotern haben
Filmed:
Readability: 4.4
2,403,010 views
Wir sind weit davon entfernt, empfindungsfähige Roboter zu entwickeln. Jedoch haben wir schon Gefühle für sie, sagt Roboterethikerin Kate Darling, und ein solcher Instinkt kann Konsequenzen haben. Lernen Sie mehr darüber, wie wir biologisch darauf programmiert sind, Absicht und Leben auf Maschinen zu projizieren -- und wie es uns helfen könnte uns selbst besser zu verstehen.
Kate Darling - Robot ethicist
Kate Darling investigates the relationship between humans and robots -- now, and in the future. Full bio
Kate Darling investigates the relationship between humans and robots -- now, and in the future. Full bio
Double-click the English transcript below to play the video.
An einem Tag vor etwa zehn Jahren
00:13
There was a day, about 10 years ago,
0
1047
2508
00:15
when I asked a friend to hold
a baby dinosaur robot upside down.
a baby dinosaur robot upside down.
1
3579
3944
ließ ich einen Freund einen
Baby-Dino-Roboter kopfüber halten.
Baby-Dino-Roboter kopfüber halten.
00:21
It was this toy called a Pleo
that I had ordered,
that I had ordered,
2
9889
3446
Es war ein Spielzeug namens Pleo,
das ich mir bestellt hatte.
das ich mir bestellt hatte.
00:25
and I was really excited about it
because I've always loved robots.
because I've always loved robots.
3
13359
4401
Ich freute mich sehr darauf,
denn ich liebe Roboter.
denn ich liebe Roboter.
00:29
And this one has really cool
technical features.
technical features.
4
17784
2279
Dieser hatte echt coole
technische Features.
technische Features.
00:32
It had motors and touch sensors
5
20087
2119
Er hatte Motoren, Tastsensoren
und eine Infrarotkamera
und eine Infrarotkamera
00:34
and it had an infrared camera.
6
22230
2244
00:36
And one of the things it had
was a tilt sensor,
was a tilt sensor,
7
24498
2763
und dann besaß er einen Neigungssensor.
00:39
so it knew what direction it was facing.
8
27285
2318
Er kannte also seine Ausrichtung im Raum.
00:42
And when you held it upside down,
9
30095
2134
Wenn man ihn kopfüber hielt,
00:44
it would start to cry.
10
32253
1572
würde er anfangen zu heulen.
00:46
And I thought this was super cool,
so I was showing it off to my friend,
so I was showing it off to my friend,
11
34527
3496
Das fand ich supercool und
zeigte ich ihn daher einer Freundin,
zeigte ich ihn daher einer Freundin,
00:50
and I said, "Oh, hold it up by the tail.
See what it does."
See what it does."
12
38047
2805
ich sagte: "Hey, heb ihn am Schwanz hoch.
Schau was er macht."
Schau was er macht."
00:55
So we're watching
the theatrics of this robot
the theatrics of this robot
13
43268
3625
Wir schauten uns also
das Agieren des Roboters an,
das Agieren des Roboters an,
00:58
struggle and cry out.
14
46917
2199
wie er leidet und heult.
01:02
And after a few seconds,
15
50767
2047
Nach ein paar Sekunden
01:04
it starts to bother me a little,
16
52838
1972
fing es an mich ein wenig zu stören,
01:07
and I said, "OK, that's enough now.
17
55744
3424
und ich sagte: "Okay, das reicht.
01:11
Let's put him back down."
18
59930
2305
Lassen wir ihn wieder runter."
01:14
And then I pet the robot
to make it stop crying.
to make it stop crying.
19
62259
2555
Dann streichelte ich den Roboter,
damit er zu heulen aufhörte.
damit er zu heulen aufhörte.
01:18
And that was kind of
a weird experience for me.
a weird experience for me.
20
66973
2452
Das war eine etwas
seltsame Erfahrung für mich.
seltsame Erfahrung für mich.
01:22
For one thing, I wasn't the most
maternal person at the time.
maternal person at the time.
21
70084
4569
Ich war nämlich zu dieser Zeit
nicht besonders mütterlich.
nicht besonders mütterlich.
01:26
Although since then I've become
a mother, nine months ago,
a mother, nine months ago,
22
74677
2731
Wobei ich vor 9 Monaten
Mutter geworden bin,
Mutter geworden bin,
01:29
and I've learned that babies also squirm
when you hold them upside down.
when you hold them upside down.
23
77432
3433
und jetzt weiß, dass kopfüber
gehaltene Babies sich auch wehren.
gehaltene Babies sich auch wehren.
(Gelächter)
01:32
(Laughter)
24
80889
1563
01:35
But my response to this robot
was also interesting
was also interesting
25
83023
2358
Aber meine Reaktion auf den Roboter
war auch interessant,
war auch interessant,
01:37
because I knew exactly
how this machine worked,
how this machine worked,
26
85405
4101
da ich genau wusste,
wie diese Maschine funktioniert,
wie diese Maschine funktioniert,
01:41
and yet I still felt
compelled to be kind to it.
compelled to be kind to it.
27
89530
3262
und dennoch fühlte ich mich
veranlasst, lieb zu ihr zu sein.
veranlasst, lieb zu ihr zu sein.
01:46
And that observation sparked a curiosity
28
94450
2707
Diese Erkenntnis entfachte eine Neugier,
01:49
that I've spent the past decade pursuing.
29
97181
2832
der ich die letzten Jahre
nachgegangen bin.
nachgegangen bin.
01:52
Why did I comfort this robot?
30
100911
1793
Warum tröstete ich diesen Roboter?
01:56
And one of the things I discovered
was that my treatment of this machine
was that my treatment of this machine
31
104228
3579
Eine Erkenntnis war,
dass mein Umgang mit dieser Maschine
dass mein Umgang mit dieser Maschine
01:59
was more than just an awkward moment
in my living room,
in my living room,
32
107831
3701
mehr als nur ein verlegener Moment
in meinem Wohnzimmer war
in meinem Wohnzimmer war
02:03
that in a world where we're increasingly
integrating robots into our lives,
integrating robots into our lives,
33
111556
5420
und dass in einer Welt, in die wir
immer mehr Roboter integrieren,
immer mehr Roboter integrieren,
02:09
an instinct like that
might actually have consequences,
might actually have consequences,
34
117000
3126
ein solcher Instinkt
Konsequenzen haben könnte.
Konsequenzen haben könnte.
02:13
because the first thing that I discovered
is that it's not just me.
is that it's not just me.
35
121452
3749
Denn meine erste Entdeckung war,
dass das nicht nur mich betrifft.
dass das nicht nur mich betrifft.
02:19
In 2007, the Washington Post
reported that the United States military
reported that the United States military
36
127249
4802
Im Jahr 2007 meldete The Washington Post,
dass das US-amerikanische Militär
dass das US-amerikanische Militär
02:24
was testing this robot
that defused land mines.
that defused land mines.
37
132075
3230
einen Roboter testete, der
Landminen entschärfen sollte.
Landminen entschärfen sollte.
02:27
And the way it worked
was it was shaped like a stick insect
was it was shaped like a stick insect
38
135329
2912
Gebaut wie eine Stabheuschrecke,
funktionierte er so,
funktionierte er so,
02:30
and it would walk
around a minefield on its legs,
around a minefield on its legs,
39
138265
2651
dass er in einem Minenfeld
auf seinen Beinen herumlief
auf seinen Beinen herumlief
02:32
and every time it stepped on a mine,
one of the legs would blow up,
one of the legs would blow up,
40
140940
3206
und jedes Mal, wenn er auf
eine Mine trat und ein Bein explodierte,
eine Mine trat und ein Bein explodierte,
lief er auf den übrigen Beinen weiter,
um mehr Minen zu finden.
um mehr Minen zu finden.
02:36
and it would continue on the other legs
to blow up more mines.
to blow up more mines.
41
144170
3057
02:39
And the colonel who was in charge
of this testing exercise
of this testing exercise
42
147251
3786
Der zuständige Oberst dieses Tests
beschloss ihn abzublasen,
beschloss ihn abzublasen,
02:43
ends up calling it off,
43
151061
2118
02:45
because, he says, it's too inhumane
44
153203
2435
weil es zu unmenschlich wäre,
02:47
to watch this damaged robot
drag itself along the minefield.
drag itself along the minefield.
45
155662
4516
den beschädigten Roboter zu beobachten
wie er sich über das Feld schleppt.
wie er sich über das Feld schleppt.
02:54
Now, what would cause
a hardened military officer
a hardened military officer
46
162978
3897
Was veranlasst einen
abgehärteten Militäroffizier
abgehärteten Militäroffizier
02:58
and someone like myself
47
166899
2043
und jemanden wie mich,
03:00
to have this response to robots?
48
168966
1857
so auf einen Roboter zu reagieren?
03:03
Well, of course, we're primed
by science fiction and pop culture
by science fiction and pop culture
49
171537
3310
Natürlich sind wir durch
Science-Fiction und Popkultur geprägt
Science-Fiction und Popkultur geprägt
03:06
to really want to personify these things,
50
174871
2579
und möchten diese Dinge vermenschlichen,
03:09
but it goes a little bit deeper than that.
51
177474
2789
aber es ist etwas tiefgehender als das.
03:12
It turns out that we're biologically
hardwired to project intent and life
hardwired to project intent and life
52
180287
5309
Wir sind nämlich genetisch
programmiert Absicht und Leben
programmiert Absicht und Leben
03:17
onto any movement in our physical space
that seems autonomous to us.
that seems autonomous to us.
53
185620
4766
auf jede selbstständige Bewegung
unserer Umgebung zu projizieren.
unserer Umgebung zu projizieren.
03:23
So people will treat all sorts
of robots like they're alive.
of robots like they're alive.
54
191214
3465
Deswegen behandeln Menschen
alle Arten von Robotern wie Lebewesen.
alle Arten von Robotern wie Lebewesen.
03:26
These bomb-disposal units get names.
55
194703
2683
Diese Bombenentschärfungsroboter
erhalten Namen.
erhalten Namen.
03:29
They get medals of honor.
56
197410
1682
Sie erhalten Ehrenmedaillen.
03:31
They've had funerals for them
with gun salutes.
with gun salutes.
57
199116
2325
Sie hatten Beerdigungen mit Salutschüssen.
03:34
And research shows that we do this
even with very simple household robots,
even with very simple household robots,
58
202380
3833
Studien zeigen, dass wir das sogar
mit einfachen Hausrobotern machen,
mit einfachen Hausrobotern machen,
03:38
like the Roomba vacuum cleaner.
59
206237
2135
wie dem Roomba-Staubsauger.
03:40
(Laughter)
60
208396
1291
(Gelächter)
03:41
It's just a disc that roams
around your floor to clean it,
around your floor to clean it,
61
209711
3089
Das ist nur eine fahrende Scheibe,
die unseren Boden säubert,
die unseren Boden säubert,
03:44
but just the fact it's moving
around on its own
around on its own
62
212824
2306
aber allein, dass sie sich frei bewegt,
03:47
will cause people to name the Roomba
63
215154
2167
veranlasst Leute, ihr einen Namen zu geben
03:49
and feel bad for the Roomba
when it gets stuck under the couch.
when it gets stuck under the couch.
64
217345
3182
und Mitleid zu empfinden,
wenn sie unter dem Sofa feststeckt.
wenn sie unter dem Sofa feststeckt.
03:52
(Laughter)
65
220551
1865
(Gelächter)
03:54
And we can design robots
specifically to evoke this response,
specifically to evoke this response,
66
222440
3340
Wir können Roboter entwickeln,
um genau diese Reaktionen herbeizurufen
um genau diese Reaktionen herbeizurufen
03:57
using eyes and faces or movements
67
225804
3461
durch Integrierung von Augen,
Gesichtern und Bewegungen,
Gesichtern und Bewegungen,
04:01
that people automatically,
subconsciously associate
subconsciously associate
68
229289
3259
die automatisch unterbewusst
als Gemütszustand verstanden werden.
als Gemütszustand verstanden werden.
04:04
with states of mind.
69
232572
2020
Es gibt ein ganzes Forschungsgebiet,
genannt Mensch-Roboter-Interaktion,
genannt Mensch-Roboter-Interaktion,
04:06
And there's an entire body of research
called human-robot interaction
called human-robot interaction
70
234616
3293
das zeigt, wie gut das funktioniert.
04:09
that really shows how well this works.
71
237933
1826
04:11
So for example, researchers
at Stanford University found out
at Stanford University found out
72
239783
3126
So fanden Forscher
an der Stanford-Universität heraus,
an der Stanford-Universität heraus,
04:14
that it makes people really uncomfortable
73
242933
2001
dass es für Probanden unangenehm ist,
den Intimbereich eines Roboters
berühren zu müssen.
berühren zu müssen.
04:16
when you ask them to touch
a robot's private parts.
a robot's private parts.
74
244958
2472
(Gelächter)
04:19
(Laughter)
75
247454
2120
04:21
So from this, but from many other studies,
76
249598
2023
Von dieser und vielen anderen Studien
04:23
we know, we know that people
respond to the cues given to them
respond to the cues given to them
77
251645
4223
wissen wir, dass Menschen auf die Signale
dieser lebendig erscheinenden
Maschinen reagieren,
Maschinen reagieren,
04:27
by these lifelike machines,
78
255892
2022
04:29
even if they know that they're not real.
79
257938
2017
auch im Wissen, dass sie nicht echt sind.
04:33
Now, we're headed towards a world
where robots are everywhere.
where robots are everywhere.
80
261654
4056
Nun rücken wir näher an eine Welt,
wo Roboter überall sind.
wo Roboter überall sind.
04:37
Robotic technology is moving out
from behind factory walls.
from behind factory walls.
81
265734
3065
Robotertechnik verlässt die Fabrikhallen
04:40
It's entering workplaces, households.
82
268823
3013
und kommt im Arbeitsalltag
und unseren Haushalten an.
und unseren Haushalten an.
04:43
And as these machines that can sense
and make autonomous decisions and learn
and make autonomous decisions and learn
83
271860
6209
Da diese Maschinen, die fühlen können,
selbständig Entscheidungen treffen
und lernen können,
und lernen können,
nun in diese gemeinsamen Räume eintreten,
04:50
enter into these shared spaces,
84
278093
2552
04:52
I think that maybe the best
analogy we have for this
analogy we have for this
85
280669
2496
ist die beste Analogie dafür
04:55
is our relationship with animals.
86
283189
1935
vielleicht unsere Beziehung
mit Haustieren.
mit Haustieren.
04:57
Thousands of years ago,
we started to domesticate animals,
we started to domesticate animals,
87
285523
3888
Vor Tausenden von Jahren
begannen wir Haustiere zu halten,
begannen wir Haustiere zu halten,
05:01
and we trained them for work
and weaponry and companionship.
and weaponry and companionship.
88
289435
4045
wir trainierten sie als Arbeiter,
Waffen oder Begleiter.
Waffen oder Begleiter.
05:05
And throughout history, we've treated
some animals like tools or like products,
some animals like tools or like products,
89
293504
4985
Wir behandelten manche Tiere
wie Werkzeug oder Ware,
wie Werkzeug oder Ware,
05:10
and other animals,
we've treated with kindness
we've treated with kindness
90
298513
2174
während wir andere liebevoll behandelten
05:12
and we've given a place in society
as our companions.
as our companions.
91
300711
3078
und sie als Begleiter
in unserer Gesellschaft aufnahmen.
in unserer Gesellschaft aufnahmen.
05:15
I think it's plausible we might start
to integrate robots in similar ways.
to integrate robots in similar ways.
92
303813
3849
Es ist möglich, dass wir anfangen,
Roboter gleichermaßen zu integrieren.
Roboter gleichermaßen zu integrieren.
05:21
And sure, animals are alive.
93
309484
3096
Natürlich, Tiere sind lebendig,
05:24
Robots are not.
94
312604
1150
Roboter sind es nicht.
Durch die Zusammenarbeit
mit Roboteringenieuren weiß ich,
mit Roboteringenieuren weiß ich,
05:27
And I can tell you,
from working with roboticists,
from working with roboticists,
95
315626
2580
05:30
that we're pretty far away from developing
robots that can feel anything.
robots that can feel anything.
96
318230
3522
dass wir noch weit davon entfernt sind,
empfindungsfähige Roboter zu bauen.
empfindungsfähige Roboter zu bauen.
05:35
But we feel for them,
97
323072
1460
Aber wir empfinden etwas
für sie und das zählt,
für sie und das zählt,
05:37
and that matters,
98
325835
1207
05:39
because if we're trying to integrate
robots into these shared spaces,
robots into these shared spaces,
99
327066
3627
denn wenn wir versuchen,
Roboter in unseren Alltag zu integrieren,
Roboter in unseren Alltag zu integrieren,
05:42
we need to understand that people will
treat them differently than other devices,
treat them differently than other devices,
100
330717
4628
müssen wir verstehen, dass wir sie anders
als normale Geräte behandeln werden,
als normale Geräte behandeln werden,
05:47
and that in some cases,
101
335369
1844
und dass in manchen Fällen,
05:49
for example, the case of a soldier
who becomes emotionally attached
who becomes emotionally attached
102
337237
3172
wie beim Soldaten, der sich emotional
an seinen Roboterkollegen bindet,
an seinen Roboterkollegen bindet,
05:52
to the robot that they work with,
103
340433
2047
05:54
that can be anything
from inefficient to dangerous.
from inefficient to dangerous.
104
342504
2504
das ineffizient bis gefährlich sein kann.
05:58
But in other cases,
it can actually be useful
it can actually be useful
105
346551
2138
Andererseits kann es auch nützlich sein,
06:00
to foster this emotional
connection to robots.
connection to robots.
106
348713
2623
diese emotionale Verbindung
zu Robotern zu fördern.
zu Robotern zu fördern.
06:04
We're already seeing some great use cases,
107
352184
2134
Wir kennen schon einige tolle Anwendungen,
06:06
for example, robots working
with autistic children
with autistic children
108
354342
2604
beispielsweise Roboter
für autistische Kinder,
für autistische Kinder,
06:08
to engage them in ways
that we haven't seen previously,
that we haven't seen previously,
109
356970
3634
die sie auf eine noch nie gesehene
Art und Weise beschäftigen,
Art und Weise beschäftigen,
06:12
or robots working with teachers to engage
kids in learning with new results.
kids in learning with new results.
110
360628
4000
oder Roboter, die mit Lehrern arbeiten,
um Kinder beim Lernen zu unterstützen.
um Kinder beim Lernen zu unterstützen.
06:17
And it's not just for kids.
111
365433
1381
Das gilt nicht nur für Kinder.
06:19
Early studies show that robots
can help doctors and patients
can help doctors and patients
112
367750
3223
Erste Studien zeigen,
Roboter können im Gesundheitswesen
Roboter können im Gesundheitswesen
06:22
in health care settings.
113
370997
1427
für Ärzte und Patienten nützlich sein.
06:25
This is the PARO baby seal robot.
114
373535
1810
Das ist der Baby-Robben-Roboter PARO.
06:27
It's used in nursing homes
and with dementia patients.
and with dementia patients.
115
375369
3285
Er wird in Pflegeheimen und
bei dementen Patienten verwendet.
bei dementen Patienten verwendet.
06:30
It's been around for a while.
116
378678
1570
Es gibt ihn schon länger.
06:32
And I remember, years ago,
being at a party
being at a party
117
380272
3325
Vor ein paar Jahren auf einer Party
06:35
and telling someone about this robot,
118
383621
2571
sprach ich mit jemandem
über diesen Roboter
über diesen Roboter
06:38
and her response was,
119
386216
2126
und ihre Reaktion war:
06:40
"Oh my gosh.
120
388366
1262
"Meine Güte.
06:42
That's horrible.
121
390508
1188
Das ist ja entsetzlich.
06:45
I can't believe we're giving people
robots instead of human care."
robots instead of human care."
122
393056
3397
Kaum zu glauben, dass wir Leuten
Roboter statt Menschen als Pfleger geben."
Roboter statt Menschen als Pfleger geben."
06:50
And this is a really common response,
123
398540
1875
Das ist eine ziemlich häufige Reaktion,
06:52
and I think it's absolutely correct,
124
400439
2499
und meiner Ansicht nach
ist sie komplett richtig,
ist sie komplett richtig,
06:54
because that would be terrible.
125
402962
2040
denn das wäre schrecklich.
06:57
But in this case,
it's not what this robot replaces.
it's not what this robot replaces.
126
405795
2484
Aber der Roboter ersetzt
hier etwas anderes.
hier etwas anderes.
07:00
What this robot replaces is animal therapy
127
408858
3120
Er ersetzt die Tier-Therapie
07:04
in contexts where
we can't use real animals
we can't use real animals
128
412002
3198
in Situationen, wo wir keine
echten Tiere verwenden können,
echten Tiere verwenden können,
07:07
but we can use robots,
129
415224
1168
aber Roboter eben schon,
07:08
because people will consistently treat
them more like an animal than a device.
them more like an animal than a device.
130
416416
5230
da Menschen sie konsequent eher
wie ein Tier als ein Gerät behandeln.
wie ein Tier als ein Gerät behandeln.
07:15
Acknowledging this emotional
connection to robots
connection to robots
131
423502
2380
Diese emotionale Bindung
zu Robotern anzuerkennen,
zu Robotern anzuerkennen,
07:17
can also help us anticipate challenges
132
425906
1969
kann uns helfen, Probleme vorauszuahnen,
07:19
as these devices move into more intimate
areas of people's lives.
areas of people's lives.
133
427899
3451
da diese Maschinen Teil
des persönlichen Lebens werden.
des persönlichen Lebens werden.
07:24
For example, is it OK
if your child's teddy bear robot
if your child's teddy bear robot
134
432111
3404
Ist es zum Beispiel okay,
wenn der Teddybär Ihres Kindes
wenn der Teddybär Ihres Kindes
07:27
records private conversations?
135
435539
2237
private Gespräche aufzeichnet?
07:29
Is it OK if your sex robot
has compelling in-app purchases?
has compelling in-app purchases?
136
437800
4063
Ist es okay, wenn ihr Sexroboter
verlockende in-App-Angebote hat?
verlockende in-App-Angebote hat?
07:33
(Laughter)
137
441887
1396
(Gelächter)
07:35
Because robots plus capitalism
138
443307
2501
Denn Roboter plus Kapitalismus
07:37
equals questions around
consumer protection and privacy.
consumer protection and privacy.
139
445832
3705
bedingt Fragen über Privatsphäre
und Verbraucherschutz.
und Verbraucherschutz.
07:42
And those aren't the only reasons
140
450549
1612
Nicht nur deswegen ist unser Umgang
mit diesen Maschinen bedeutend.
mit diesen Maschinen bedeutend.
07:44
that our behavior around
these machines could matter.
these machines could matter.
141
452185
2570
07:48
A few years after that first
initial experience I had
initial experience I had
142
456747
3270
Ein paar Jahre nach diesem ersten Erlebnis
07:52
with this baby dinosaur robot,
143
460041
2311
mit dem Baby-Dino-Roboter,
hielt ich ein Seminar
mit meinem Freund Hannes Gassert.
mit meinem Freund Hannes Gassert.
07:54
I did a workshop
with my friend Hannes Gassert.
with my friend Hannes Gassert.
144
462376
2501
07:56
And we took five
of these baby dinosaur robots
of these baby dinosaur robots
145
464901
2897
Dort nahmen wir 5 dieser Baby-Dino-Roboter
07:59
and we gave them to five teams of people.
146
467822
2453
und gaben sie an fünf Gruppen.
08:02
And we had them name them
147
470299
1697
Wir ließen sie ihnen Namen geben
08:04
and play with them and interact with them
for about an hour.
for about an hour.
148
472020
3809
und für eine Stunde mit ihnen
spielen und interagieren.
spielen und interagieren.
08:08
And then we unveiled
a hammer and a hatchet
a hammer and a hatchet
149
476707
2206
Dann enthüllten wir
einen Hammer und ein Beil
einen Hammer und ein Beil
08:10
and we told them to torture
and kill the robots.
and kill the robots.
150
478937
2278
und riefen sie auf die Roboter
zu quälen und zu töten.
zu quälen und zu töten.
08:13
(Laughter)
151
481239
3007
(Gelächter)
08:16
And this turned out to be
a little more dramatic
a little more dramatic
152
484857
2294
Das erwies sich als
dramatischer als erwartet,
dramatischer als erwartet,
08:19
than we expected it to be,
153
487175
1278
da keiner der Teilnehmer
es über das Herz brachte
es über das Herz brachte
08:20
because none of the participants
would even so much as strike
would even so much as strike
154
488477
3072
08:23
these baby dinosaur robots,
155
491573
1307
ihren Babydino zu schlagen.
08:24
so we had to improvise a little,
and at some point, we said,
and at some point, we said,
156
492904
5150
Also improvisierten wir und schlugen vor:
"Okay, ihr könnt euren Roboter retten,
wenn ihr den eines anderen Teams zerstört."
wenn ihr den eines anderen Teams zerstört."
08:30
"OK, you can save your team's robot
if you destroy another team's robot."
if you destroy another team's robot."
157
498078
4437
08:34
(Laughter)
158
502539
1855
(Gelächter)
08:36
And even that didn't work.
They couldn't do it.
They couldn't do it.
159
504839
2195
Auch das brachte keiner übers Herz.
Als letztes drohten wir:
08:39
So finally, we said,
160
507058
1151
08:40
"We're going to destroy all of the robots
161
508233
2032
"Wir zerstören alle eure Roboter,
08:42
unless someone takes
a hatchet to one of them."
a hatchet to one of them."
162
510289
2285
es sei denn jemand schlägt
mit dem Beil auf einen."
mit dem Beil auf einen."
08:45
And this guy stood up,
and he took the hatchet,
and he took the hatchet,
163
513586
3579
Dieser eine Kerl stand auf, nahm das Beil
08:49
and the whole room winced
as he brought the hatchet down
as he brought the hatchet down
164
517189
2706
und der ganze Raum
zuckte zusammen als er das Beil
zuckte zusammen als er das Beil
08:51
on the robot's neck,
165
519919
1780
auf das Genick des Roboters hämmerte.
08:53
and there was this half-joking,
half-serious moment of silence in the room
half-serious moment of silence in the room
166
521723
6338
Es entstand diese halb scherzhafte,
halb ernste Stille im Raum
halb ernste Stille im Raum
09:00
for this fallen robot.
167
528085
1698
wegen des kaputten Roboters.
09:01
(Laughter)
168
529807
1406
(Gelächter)
09:03
So that was a really
interesting experience.
interesting experience.
169
531237
3694
Das war ein echt interessantes Erlebnis.
09:06
Now, it wasn't a controlled
study, obviously,
study, obviously,
170
534955
2459
Natürlich war das
keine kontrollierte Studie,
keine kontrollierte Studie,
aber es führte zu weiterer Forschung,
die ich am MIT zusammen
die ich am MIT zusammen
09:09
but it did lead to some
later research that I did at MIT
later research that I did at MIT
171
537438
2850
mit Palash Nandy und
Cynthia Breazal durchführte.
Cynthia Breazal durchführte.
09:12
with Palash Nandy and Cynthia Breazeal,
172
540312
2228
09:14
where we had people come into the lab
and smash these HEXBUGs
and smash these HEXBUGs
173
542564
3627
Dort luden wir Leute in unser Labor ein,
um diese HEXBUGs zu zerschlagen,
um diese HEXBUGs zu zerschlagen,
09:18
that move around in a really
lifelike way, like insects.
lifelike way, like insects.
174
546215
3087
die sich wie lebende Insekten bewegen.
09:21
So instead of choosing something cute
that people are drawn to,
that people are drawn to,
175
549326
3134
Anstatt etwas Niedliches
zu wählen, was sympathisch wirkt,
zu wählen, was sympathisch wirkt,
09:24
we chose something more basic,
176
552484
2093
nahmen wir etwas Einfacheres.
09:26
and what we found
was that high-empathy people
was that high-empathy people
177
554601
3480
So fanden wir heraus,
dass empathischere Menschen
dass empathischere Menschen
09:30
would hesitate more to hit the HEXBUGS.
178
558105
2143
eher zögern, den HEXBUG zu schlagen.
09:33
Now this is just a little study,
179
561575
1564
Das ist nur eine kleine Studie,
09:35
but it's part of a larger body of research
180
563163
2389
die aber Teil einer
größeren Forschungsarbeit ist.
größeren Forschungsarbeit ist.
09:37
that is starting to indicate
that there may be a connection
that there may be a connection
181
565576
2944
Diese deutet immer mehr darauf hin,
dass es eine Verbindung gibt
dass es eine Verbindung gibt
09:40
between people's tendencies for empathy
182
568544
2373
zwischen den empathischen
Tendenzen der Probanden
Tendenzen der Probanden
09:42
and their behavior around robots.
183
570941
1976
und ihren Verhalten gegenüber Robotern.
09:45
But my question for the coming era
of human-robot interaction
of human-robot interaction
184
573721
3627
Aber meine Frage für die kommende Ära
der Mensch-Roboter-Interaktion
der Mensch-Roboter-Interaktion
09:49
is not: "Do we empathize with robots?"
185
577372
3055
ist nicht: "Fühlen wir mit Robotern mit?",
09:53
It's: "Can robots change
people's empathy?"
people's empathy?"
186
581211
2920
sondern: "Können Roboter
menschliches Mitgefühl verändern?"
menschliches Mitgefühl verändern?"
09:57
Is there reason to, for example,
187
585489
2287
Gibt es Gründe, zum Beispiel,
09:59
prevent your child
from kicking a robotic dog,
from kicking a robotic dog,
188
587800
2333
ihr Kind vom Treten
eines Robohundes abzuhalten,
eines Robohundes abzuhalten,
10:03
not just out of respect for property,
189
591228
2914
nicht nur aus purem Respekt vor Eigentum,
10:06
but because the child might be
more likely to kick a real dog?
more likely to kick a real dog?
190
594166
2953
sondern weil ihr Kind dann eher
einen echten Hund treten würde?
einen echten Hund treten würde?
10:10
And again, it's not just kids.
191
598507
1883
Nochmal, es geht nicht nur um Kinder.
10:13
This is the violent video games question,
but it's on a completely new level
but it's on a completely new level
192
601564
4056
Es erinnert an die Frage
über Gewalt in Videospielen,
über Gewalt in Videospielen,
nur auf einem ganz neuem Level.
10:17
because of this visceral physicality
that we respond more intensely to
that we respond more intensely to
193
605644
4760
Denn auf diese instinktiven Körperkontakte
reagieren wir intensiver
reagieren wir intensiver
10:22
than to images on a screen.
194
610428
1547
als auf Bilder am Bildschirm.
10:25
When we behave violently towards robots,
195
613674
2578
Wenn wir Roboter gewaltsam behandeln,
10:28
specifically robots
that are designed to mimic life,
that are designed to mimic life,
196
616276
3120
besonders lebensähnliche Roboter,
10:31
is that a healthy outlet
for violent behavior
for violent behavior
197
619420
3892
ist das eine gesunde Art,
Gewalt auszuleben,
Gewalt auszuleben,
10:35
or is that training our cruelty muscles?
198
623336
2544
oder Training für unsere grausame Seite?
Das wissen wir nicht ...
10:39
We don't know ...
199
627511
1150
10:42
But the answer to this question has
the potential to impact human behavior,
the potential to impact human behavior,
200
630622
3945
Aber die Antwort auf diese Frage könnte
menschliche Verhaltensmuster verändern.
menschliche Verhaltensmuster verändern.
10:46
it has the potential
to impact social norms,
to impact social norms,
201
634591
2768
Sie hat das Potential,
soziale Normen zu beeinflussen,
soziale Normen zu beeinflussen,
10:49
it has the potential to inspire rules
around what we can and can't do
around what we can and can't do
202
637383
3849
und Regeln anzuregen,
was wir tun und nicht tun dürfen
was wir tun und nicht tun dürfen
10:53
with certain robots,
203
641256
1151
mit bestimmen Robotern,
10:54
similar to our animal cruelty laws.
204
642431
1848
analog zu den Gesetzen zur Tierquälerei.
10:57
Because even if robots can't feel,
205
645228
2864
Denn auch wenn Roboter nichts fühlen,
11:00
our behavior towards them
might matter for us.
might matter for us.
206
648116
3080
unser Verhalten ihnen gegenüber
kann für uns wichtig sein.
kann für uns wichtig sein.
11:04
And regardless of whether
we end up changing our rules,
we end up changing our rules,
207
652889
2855
Egal ob wir unsere Regeln ändern,
11:08
robots might be able to help us
come to a new understanding of ourselves.
come to a new understanding of ourselves.
208
656926
3556
Roboter könnten uns helfen
uns selbst besser zu verstehen.
uns selbst besser zu verstehen.
11:14
Most of what I've learned
over the past 10 years
over the past 10 years
209
662276
2316
In den letzten 10 Jahren habe ich
eher wenig über Technologie gelernt,
eher wenig über Technologie gelernt,
11:16
has not been about technology at all.
210
664616
2238
11:18
It's been about human psychology
211
666878
2503
sondern vor allem über Psychologie,
11:21
and empathy and how we relate to others.
212
669405
2603
Empathie und gegenseitigen Umgang.
11:25
Because when a child is kind to a Roomba,
213
673524
2365
Wenn ein Kind nämlich nett zum Roomba ist,
11:29
when a soldier tries to save
a robot on the battlefield,
a robot on the battlefield,
214
677262
4015
wenn ein Soldat versucht,
einen Roboter im Schlachtfeld zu retten,
einen Roboter im Schlachtfeld zu retten,
11:33
or when a group of people refuses
to harm a robotic baby dinosaur,
to harm a robotic baby dinosaur,
215
681301
3638
oder wenn eine Gruppe ablehnt,
einem mechanischen Babydino zu schaden,
einem mechanischen Babydino zu schaden,
11:38
those robots aren't just motors
and gears and algorithms.
and gears and algorithms.
216
686248
3191
dann sind diese Roboter nicht nur
Motoren, Gewinde und Algorithmen.
Motoren, Gewinde und Algorithmen.
11:42
They're reflections of our own humanity.
217
690501
1905
Sie sind Spiegelungen
unserer eigenen Menschlichkeit.
unserer eigenen Menschlichkeit.
11:45
Thank you.
218
693523
1151
Danke schön.
11:46
(Applause)
219
694698
3397
(Applaus)
ABOUT THE SPEAKER
Kate Darling - Robot ethicistKate Darling investigates the relationship between humans and robots -- now, and in the future.
Why you should listen
Robots are taking increasingly bigger roles in life and business -- moving well beyond manufacturing and into transportation, education, medicine, care for the elderly, our offices and our homes. But ethics and law haven't caught up. Kate Darling, a pioneer in these fields, is helping quicken the pace.
A leading expert in robot ethics, Darling is a researcher at the Massachusetts Institute of Technology (MIT) Media Lab where she investigates social robotics and conducts experimental studies on human-robot interaction. Darling explores the emotional connection between people and life-like inventions, seeking to influence technology design and policy direction. Her writing and research anticipate difficult questions that lawmakers, engineers and the wider public must address as human-robot relationships evolve in the coming decades.
While her background is in intellectual property and law and economics, Darling's passion for technology and robots led her to interdisciplinary fields. She's a former Fellow and current Affiliate at the Harvard Berkman Klein Center for Internet & Society and a former fellow at the Yale Information Society Project, and she's an affiliate at the Institute for Ethics and Emerging Technologies.
Her work has been featured in Vogue, The New Yorker, The Guardian, BBC, NPR, PBS, The Boston Globe, Forbes, CBC, WIRED, Boston Magazine, The Atlantic, Slate, Die Zeit, The Japan Times and more. She is a contributing writer to Robohub and IEEE Spectrum and speaks and holds workshops covering some of the more interesting developments in the world of robotics, and where we might find ourselves in the future.
Darling graduated from law school with honors and holds a doctorate of sciences from the Swiss Federal Institute of Technology (ETH Zurich) and an honorary doctorate of sciences from Middlebury College. In 2017, the American Bar Association honored her legal work with the Mark T. Banner award in Intellectual Property. She is the caretaker for several domestic robots, including her Pleos Yochai, Peter, and Mr. Spaghetti. She tweets as @grok_ about eating cheerios for dinner.
Kate Darling | Speaker | TED.com