TED Salon Samsung
Kate Darling: Why we have an emotional connection to robots
Kate Darling: Kodėl jaučiame emocinį ryšį su robotais?
Filmed:
Readability: 4.4
2,403,010 views
Robotikos etikos srities mokslininkė Kate Darling teigia, kad nors dar negebame sukurti robotų jaučiančių emocijas, mes patys jiems jau jaučiame tam tikrus jausmus. Sužinokite, kaip esame užprogramuoti biologiškai projektuoti mūsų suvokimą apie tikslingumą ir gyvybę į robotus ir kaip tai gali padėti mums geriau suprasti save pačius.
Kate Darling - Robot ethicist
Kate Darling investigates the relationship between humans and robots -- now, and in the future. Full bio
Kate Darling investigates the relationship between humans and robots -- now, and in the future. Full bio
Double-click the English transcript below to play the video.
00:13
There was a day, about 10 years ago,
0
1047
2508
Vieną dieną, maždaug prieš 10 metų,
00:15
when I asked a friend to hold
a baby dinosaur robot upside down.
a baby dinosaur robot upside down.
1
3579
3944
paprašiau draugės, kad palaikytų
robotą dinozauriuką žemyn galva.
robotą dinozauriuką žemyn galva.
00:21
It was this toy called a Pleo
that I had ordered,
that I had ordered,
2
9889
3446
Tą žaislą, vardu Pleo, užsisakiau
00:25
and I was really excited about it
because I've always loved robots.
because I've always loved robots.
3
13359
4401
ir labai juo džiaugiausi, nes man visada
patiko robotai.
patiko robotai.
00:29
And this one has really cool
technical features.
technical features.
4
17784
2279
O Pleo techninės savybės –
tiesiog nuostabios.
tiesiog nuostabios.
00:32
It had motors and touch sensors
5
20087
2119
Jis turėjo varikliukus, lietimo jutiklius
00:34
and it had an infrared camera.
6
22230
2244
ir infraraudonųjų spindulių kamerą.
00:36
And one of the things it had
was a tilt sensor,
was a tilt sensor,
7
24498
2763
Ir dar jis turėjo vieną dalykėlį –
pakrypimo jutiklį,
pakrypimo jutiklį,
00:39
so it knew what direction it was facing.
8
27285
2318
tad robotukas žinojo,
kur jis pakrypęs.
kur jis pakrypęs.
00:42
And when you held it upside down,
9
30095
2134
O jeigu apversdavau jį žemyn galva,
00:44
it would start to cry.
10
32253
1572
jis pradėdavo verkti.
00:46
And I thought this was super cool,
so I was showing it off to my friend,
so I was showing it off to my friend,
11
34527
3496
Tuomet man atrodė, kad tas žaislas
nepaprastas, gyriausi juo draugei
nepaprastas, gyriausi juo draugei
00:50
and I said, "Oh, hold it up by the tail.
See what it does."
See what it does."
12
38047
2805
ir pasakiau: „Paimk jį už uodegos.
Pamatysi, kas bus.“
Pamatysi, kas bus.“
00:55
So we're watching
the theatrics of this robot
the theatrics of this robot
13
43268
3625
Stebėjome, kaip įstabiai
elgiasi robotukas,
elgiasi robotukas,
00:58
struggle and cry out.
14
46917
2199
kaip jis priešinasi ir garsiai verkia.
01:02
And after a few seconds,
15
50767
2047
Po kelių akimirkų
01:04
it starts to bother me a little,
16
52838
1972
man pasidarė šiek tiek nesmagu
01:07
and I said, "OK, that's enough now.
17
55744
3424
ir aš pasakiau: „Baikim.
01:11
Let's put him back down."
18
59930
2305
Atverskime jį.“
01:14
And then I pet the robot
to make it stop crying.
to make it stop crying.
19
62259
2555
Ir tuomet aš jį glosčiau, kad
jis liautųsi verkęs.
jis liautųsi verkęs.
01:18
And that was kind of
a weird experience for me.
a weird experience for me.
20
66973
2452
Man tai sukėlė keistoką jausmą.
01:22
For one thing, I wasn't the most
maternal person at the time.
maternal person at the time.
21
70084
4569
Įdomu, kad tuo metu aš nejaučiau
stiprių motiniškų jausmų.
stiprių motiniškų jausmų.
01:26
Although since then I've become
a mother, nine months ago,
a mother, nine months ago,
22
74677
2731
Bet kuomet prieš devynis mėnesius
tapau motina,
tapau motina,
01:29
and I've learned that babies also squirm
when you hold them upside down.
when you hold them upside down.
23
77432
3433
supratau, kad aukštyn kojomis apversti
kūdikiai taip pat muistosi.
kūdikiai taip pat muistosi.
01:32
(Laughter)
24
80889
1563
(Juokas.)
01:35
But my response to this robot
was also interesting
was also interesting
25
83023
2358
Bet mano reakciją į roboto veiksmus
buvo įdomi,
buvo įdomi,
01:37
because I knew exactly
how this machine worked,
how this machine worked,
26
85405
4101
nes, nors ir žinojau, kaip veikia
tas aparatas,
tas aparatas,
01:41
and yet I still felt
compelled to be kind to it.
compelled to be kind to it.
27
89530
3262
vis tiek nenorėjau jo skriausti.
01:46
And that observation sparked a curiosity
28
94450
2707
Tas pastebėjimas man buvo toks įdomus,
01:49
that I've spent the past decade pursuing.
29
97181
2832
kad pastaruosius dešimt metų
ieškojau paaiškinimo.
ieškojau paaiškinimo.
01:52
Why did I comfort this robot?
30
100911
1793
Kodėl ėmiau guosti robotą?
01:56
And one of the things I discovered
was that my treatment of this machine
was that my treatment of this machine
31
104228
3579
Vienas iš dalykų, kuriuos supratau
buvo tai, kad mano elgesys su aparatu
buvo tai, kad mano elgesys su aparatu
01:59
was more than just an awkward moment
in my living room,
in my living room,
32
107831
3701
nebuvo vien tik keista akimirka
patirta mano namų svetainėje,
patirta mano namų svetainėje,
02:03
that in a world where we're increasingly
integrating robots into our lives,
integrating robots into our lives,
33
111556
5420
kad mūsų pasaulyje ir gyvenamoje aplinkoje
nuolat daugėja robotų,
nuolat daugėja robotų,
02:09
an instinct like that
might actually have consequences,
might actually have consequences,
34
117000
3126
kad šitoks instinktas kažką reiškia,
02:13
because the first thing that I discovered
is that it's not just me.
is that it's not just me.
35
121452
3749
nes jau pradžioje supratau,
kad aš tokia ne viena.
kad aš tokia ne viena.
02:19
In 2007, the Washington Post
reported that the United States military
reported that the United States military
36
127249
4802
2007 m. „Washington Post“ pranešė,
kad JAV kariuomenė
kad JAV kariuomenė
02:24
was testing this robot
that defused land mines.
that defused land mines.
37
132075
3230
testuoja robotą,
išminuojantį po žeme slypinčias minas.
išminuojantį po žeme slypinčias minas.
02:27
And the way it worked
was it was shaped like a stick insect
was it was shaped like a stick insect
38
135329
2912
Tas robotas veikė šitaip:
jis buvo gyvalazdės formos
jis buvo gyvalazdės formos
02:30
and it would walk
around a minefield on its legs,
around a minefield on its legs,
39
138265
2651
ir jis eidavo po minų lauką
judindamas kojas.
judindamas kojas.
02:32
and every time it stepped on a mine,
one of the legs would blow up,
one of the legs would blow up,
40
140940
3206
Kaskart jam užlipus ant minos,
mina jam nutraukdavo vieną iš kojų.
mina jam nutraukdavo vieną iš kojų.
02:36
and it would continue on the other legs
to blow up more mines.
to blow up more mines.
41
144170
3057
Jis nesiliaudavo judėjęs,
kad sprogtų dar daugiau minų.
kad sprogtų dar daugiau minų.
02:39
And the colonel who was in charge
of this testing exercise
of this testing exercise
42
147251
3786
Už šias pratybas atsakingas pulkininkas
02:43
ends up calling it off,
43
151061
2118
neištvėrė ir atšaukė išminavimą,
02:45
because, he says, it's too inhumane
44
153203
2435
nes, jo teigimu, buvo
pernelyg nežmoniška
pernelyg nežmoniška
02:47
to watch this damaged robot
drag itself along the minefield.
drag itself along the minefield.
45
155662
4516
stebėti, kaip apgadintas robotas
šliaužia per minų lauką.
šliaužia per minų lauką.
02:54
Now, what would cause
a hardened military officer
a hardened military officer
46
162978
3897
Tad kas verčia
labai patyrusį karininką
labai patyrusį karininką
02:58
and someone like myself
47
166899
2043
ir tokį žmogų kaip aš
03:00
to have this response to robots?
48
168966
1857
šitaip reaguoti į robotus?
03:03
Well, of course, we're primed
by science fiction and pop culture
by science fiction and pop culture
49
171537
3310
Esame prisiskaitę mokslo fantastikos
ir paveikti popkultūros,
ir paveikti popkultūros,
03:06
to really want to personify these things,
50
174871
2579
tad, suprantama, kad personifikuojame
šiuos dalykus,
šiuos dalykus,
03:09
but it goes a little bit deeper than that.
51
177474
2789
bet paaiškinimas čia daug gilesnis.
03:12
It turns out that we're biologically
hardwired to project intent and life
hardwired to project intent and life
52
180287
5309
Pasirodo, kad esame biologiškai
užprogramuoti sieti bet kokį, mūsų manymu,
užprogramuoti sieti bet kokį, mūsų manymu,
03:17
onto any movement in our physical space
that seems autonomous to us.
that seems autonomous to us.
53
185620
4766
autonomišką judesį mūsų fizinėje erdvėje
su tikslingumu ir gyvybe.
su tikslingumu ir gyvybe.
03:23
So people will treat all sorts
of robots like they're alive.
of robots like they're alive.
54
191214
3465
Todėl žmonės elgiasi su robotais taip,
tarytum jie būtų gyvi.
tarytum jie būtų gyvi.
03:26
These bomb-disposal units get names.
55
194703
2683
Tie robotai-išminuotojai
yra vadinami vardais.
yra vadinami vardais.
03:29
They get medals of honor.
56
197410
1682
Jie apdovanojami aukso medaliais.
03:31
They've had funerals for them
with gun salutes.
with gun salutes.
57
199116
2325
Jie netgi laidojami
šaudant garbės salvėms.
šaudant garbės salvėms.
03:34
And research shows that we do this
even with very simple household robots,
even with very simple household robots,
58
202380
3833
Tyrimai rodo, kad taip mes elgiamės
netgi su paprastais buitiniais robotais,
netgi su paprastais buitiniais robotais,
03:38
like the Roomba vacuum cleaner.
59
206237
2135
pavydžiui, su dulkių siurbliu „Roomba“.
03:40
(Laughter)
60
208396
1291
(Juokas.)
03:41
It's just a disc that roams
around your floor to clean it,
around your floor to clean it,
61
209711
3089
Tai tik slankiojantis diskas valantis
jūsų grindis.
jūsų grindis.
03:44
but just the fact it's moving
around on its own
around on its own
62
212824
2306
Bet vien dėl to,
kad jis savarankiškai juda,
kad jis savarankiškai juda,
03:47
will cause people to name the Roomba
63
215154
2167
žmonės nori vadinti jį vardu
03:49
and feel bad for the Roomba
when it gets stuck under the couch.
when it gets stuck under the couch.
64
217345
3182
ir jį užjausti, kai jis
užstringa po sofa.
užstringa po sofa.
03:52
(Laughter)
65
220551
1865
(Juokas.)
03:54
And we can design robots
specifically to evoke this response,
specifically to evoke this response,
66
222440
3340
Galime sukurti tokius robotus,
kurie tikslingai sukels tokią reakciją,
kurie tikslingai sukels tokią reakciją,
03:57
using eyes and faces or movements
67
225804
3461
nes jų akių ir veidų judesius
04:01
that people automatically,
subconsciously associate
subconsciously associate
68
229289
3259
žmonės pasąmonėje
automatiškai sieja
automatiškai sieja
04:04
with states of mind.
69
232572
2020
su konkrečiomis sąmonės būsenomis.
04:06
And there's an entire body of research
called human-robot interaction
called human-robot interaction
70
234616
3293
Atlikta daug tyrimų žmonių ir robotų
sąveikos srityje,
sąveikos srityje,
04:09
that really shows how well this works.
71
237933
1826
kurie gerai parodo, kaip išties
viskas veikia.
viskas veikia.
04:11
So for example, researchers
at Stanford University found out
at Stanford University found out
72
239783
3126
Pavyzdžiui, Stanfordo universiteto
mokslininkai atrado,
mokslininkai atrado,
04:14
that it makes people really uncomfortable
73
242933
2001
kad žmonės jaučiasi nejaukiai
04:16
when you ask them to touch
a robot's private parts.
a robot's private parts.
74
244958
2472
paprašyti paliesti
robotų intymias dalis.
robotų intymias dalis.
04:19
(Laughter)
75
247454
2120
(Juokas.)
04:21
So from this, but from many other studies,
76
249598
2023
Tad iš šio ir daugybės kitų tyrimų
04:23
we know, we know that people
respond to the cues given to them
respond to the cues given to them
77
251645
4223
žinome, kad žmonės
reaguoja į signalus
reaguoja į signalus
04:27
by these lifelike machines,
78
255892
2022
skleidžiamus į žmones panašių prietaisų
04:29
even if they know that they're not real.
79
257938
2017
netgi suvokdami,
kad prietaisai negyvi.
kad prietaisai negyvi.
04:33
Now, we're headed towards a world
where robots are everywhere.
where robots are everywhere.
80
261654
4056
Ateities pasaulyje robotų bus visur.
04:37
Robotic technology is moving out
from behind factory walls.
from behind factory walls.
81
265734
3065
Robotikos technologijos išėjo
iš už gamyklų sienų.
iš už gamyklų sienų.
04:40
It's entering workplaces, households.
82
268823
3013
Jos smelkiasi į darbo vietas, buitį.
04:43
And as these machines that can sense
and make autonomous decisions and learn
and make autonomous decisions and learn
83
271860
6209
Šie jutiklius turintys aparatai,
galintys savarankiškai spręsti, mokytis,
galintys savarankiškai spręsti, mokytis,
04:50
enter into these shared spaces,
84
278093
2552
smelkiasi į bendrąsias erdves.
04:52
I think that maybe the best
analogy we have for this
analogy we have for this
85
280669
2496
Todėl manau, kad, galbūt,
geriausia analogija būtų
geriausia analogija būtų
04:55
is our relationship with animals.
86
283189
1935
mūsų ryšys su gyvūnais.
04:57
Thousands of years ago,
we started to domesticate animals,
we started to domesticate animals,
87
285523
3888
Prieš tūkstančius metų
pradėjome jaukintis gyvūnus.
pradėjome jaukintis gyvūnus.
05:01
and we trained them for work
and weaponry and companionship.
and weaponry and companionship.
88
289435
4045
Mokėme juos dirbti,
padėti kovoti ir būti mūsų draugais.
padėti kovoti ir būti mūsų draugais.
05:05
And throughout history, we've treated
some animals like tools or like products,
some animals like tools or like products,
89
293504
4985
Per visą istoriją į kai kuriuos gyvūnus
žiūrėjome kaip į įrankius ar produktus,
žiūrėjome kaip į įrankius ar produktus,
05:10
and other animals,
we've treated with kindness
we've treated with kindness
90
298513
2174
o kitiems gyvūnams rodėme gerumą
05:12
and we've given a place in society
as our companions.
as our companions.
91
300711
3078
ir suteikėme jiems visuomeninę
mūsų palydovų funkciją.
mūsų palydovų funkciją.
05:15
I think it's plausible we might start
to integrate robots in similar ways.
to integrate robots in similar ways.
92
303813
3849
Man atrodo visai tikėtina,
kad robotus irgi panašiai integruosime.
kad robotus irgi panašiai integruosime.
05:21
And sure, animals are alive.
93
309484
3096
Aišku, gyvūnai yra gyvi.
05:24
Robots are not.
94
312604
1150
Robotai – ne.
05:27
And I can tell you,
from working with roboticists,
from working with roboticists,
95
315626
2580
Kadangi dirbu su robotikos
specialistais, galiu teigti,
specialistais, galiu teigti,
05:30
that we're pretty far away from developing
robots that can feel anything.
robots that can feel anything.
96
318230
3522
kad mums dar beveik neįmanoma
sukurti jaučiančius robotus.
sukurti jaučiančius robotus.
05:35
But we feel for them,
97
323072
1460
Bet mes jiems kažką jaučiame.
05:37
and that matters,
98
325835
1207
Ir tai svarbu,
05:39
because if we're trying to integrate
robots into these shared spaces,
robots into these shared spaces,
99
327066
3627
nes jeigu siekiame integruoti robotus
į mūsų bendrąsias erdves,
į mūsų bendrąsias erdves,
05:42
we need to understand that people will
treat them differently than other devices,
treat them differently than other devices,
100
330717
4628
turime suvokti, kad žmonės elgiasi su jais
kitaip nei su kitais įrenginiais.
kitaip nei su kitais įrenginiais.
05:47
and that in some cases,
101
335369
1844
Ir kad kartais,
05:49
for example, the case of a soldier
who becomes emotionally attached
who becomes emotionally attached
102
337237
3172
pavyzdžiui, kareivio, kuris
emociškai prisiriša
emociškai prisiriša
05:52
to the robot that they work with,
103
340433
2047
prie roboto, su kuriuo dirba,
05:54
that can be anything
from inefficient to dangerous.
from inefficient to dangerous.
104
342504
2504
tai gali būti ir neproduktyvu, ir
netgi pavojinga.
netgi pavojinga.
05:58
But in other cases,
it can actually be useful
it can actually be useful
105
346551
2138
Tačiau kitais atvejais
gali būti naudinga
gali būti naudinga
06:00
to foster this emotional
connection to robots.
connection to robots.
106
348713
2623
puoselėti šį emocinį ryšį su robotu.
06:04
We're already seeing some great use cases,
107
352184
2134
Jau turime puikių robotų
naudojimo pavyzdžių,
naudojimo pavyzdžių,
06:06
for example, robots working
with autistic children
with autistic children
108
354342
2604
pavyzdžiui, kai robotai dirba
su vaikais autistais.
su vaikais autistais.
06:08
to engage them in ways
that we haven't seen previously,
that we haven't seen previously,
109
356970
3634
Nieko panašaus nesame matę praeityje.
06:12
or robots working with teachers to engage
kids in learning with new results.
kids in learning with new results.
110
360628
4000
Arba kai robotus pasitelkia mokytojai
siekdami geresnių mokymosi rezultatų.
siekdami geresnių mokymosi rezultatų.
06:17
And it's not just for kids.
111
365433
1381
Ir tai ne tik su vaikais.
06:19
Early studies show that robots
can help doctors and patients
can help doctors and patients
112
367750
3223
Jau yra tyrimų apie robotų gebėjimą
padėt gydytojams ir pacientams
padėt gydytojams ir pacientams
06:22
in health care settings.
113
370997
1427
sveikatos priežiūros srityje.
06:25
This is the PARO baby seal robot.
114
373535
1810
Tai – PARO, ruoniukas robotas.
06:27
It's used in nursing homes
and with dementia patients.
and with dementia patients.
115
375369
3285
Jis naudojamas slaugos namuose
prižiūrint demencijos pacientus.
prižiūrint demencijos pacientus.
06:30
It's been around for a while.
116
378678
1570
Ir tai jau nėra naujiena.
06:32
And I remember, years ago,
being at a party
being at a party
117
380272
3325
Pamenu, kaip prieš nemažai metų
vieno vakarėlio metu
vieno vakarėlio metu
06:35
and telling someone about this robot,
118
383621
2571
vienai moteriai papasakojau apie šį robotą
06:38
and her response was,
119
386216
2126
Ji atsakė:
06:40
"Oh my gosh.
120
388366
1262
„Oi.
06:42
That's horrible.
121
390508
1188
Kaip baisu.
06:45
I can't believe we're giving people
robots instead of human care."
robots instead of human care."
122
393056
3397
Neįtikėta, dabar ne žmonės, o robotai
paliekami rūpintis kitais žmonėmis.“
paliekami rūpintis kitais žmonėmis.“
06:50
And this is a really common response,
123
398540
1875
Tokia reakcija gana įprasta
06:52
and I think it's absolutely correct,
124
400439
2499
ir, mano manymu, visai teisinga,
06:54
because that would be terrible.
125
402962
2040
nes tai būtų išties baisu.
06:57
But in this case,
it's not what this robot replaces.
it's not what this robot replaces.
126
405795
2484
Bet šiuo atveju kalbame
ne apie ką pakeičia robotas.
ne apie ką pakeičia robotas.
07:00
What this robot replaces is animal therapy
127
408858
3120
Šis robotas naudojamas vietoj
gyvūnų terapijos
gyvūnų terapijos
07:04
in contexts where
we can't use real animals
we can't use real animals
128
412002
3198
tokioje situacijoje,
kur neįmanoma pasitelkti tikrus gyvūnus,
kur neįmanoma pasitelkti tikrus gyvūnus,
07:07
but we can use robots,
129
415224
1168
bet robotus – taip,
07:08
because people will consistently treat
them more like an animal than a device.
them more like an animal than a device.
130
416416
5230
nes žmonės linkę elgtis su jais tarytum
su gyvūnais, bet ne prietaisais.
su gyvūnais, bet ne prietaisais.
07:15
Acknowledging this emotional
connection to robots
connection to robots
131
423502
2380
Suvokimas apie šį emocinį ryšį su robotais
07:17
can also help us anticipate challenges
132
425906
1969
gali padėti ir numatant problemas,
07:19
as these devices move into more intimate
areas of people's lives.
areas of people's lives.
133
427899
3451
kai šie įrenginiai panaudojami
intymesnėse gyvenimo srityse.
intymesnėse gyvenimo srityse.
07:24
For example, is it OK
if your child's teddy bear robot
if your child's teddy bear robot
134
432111
3404
Pavyzdžiui, ar gerai, jeigu
jūsų vaiko meškiukas robotas
jūsų vaiko meškiukas robotas
07:27
records private conversations?
135
435539
2237
įrašo privačius pokalbius?
07:29
Is it OK if your sex robot
has compelling in-app purchases?
has compelling in-app purchases?
136
437800
4063
Ar gerai, jeigu sekso robotas
siūlo patrauklius mokamus priedus?
siūlo patrauklius mokamus priedus?
07:33
(Laughter)
137
441887
1396
(Juokas.)
07:35
Because robots plus capitalism
138
443307
2501
Nes robotai plius kapitalizmas
07:37
equals questions around
consumer protection and privacy.
consumer protection and privacy.
139
445832
3705
susiję su klausimais apie
vartotojų apsaugą ir privatumą.
vartotojų apsaugą ir privatumą.
07:42
And those aren't the only reasons
140
450549
1612
Ir tai nėra vienintelės priežastys,
07:44
that our behavior around
these machines could matter.
these machines could matter.
141
452185
2570
dėl kurių mūsų elgesys
su šiais įrenginiais svarbus.
su šiais įrenginiais svarbus.
07:48
A few years after that first
initial experience I had
initial experience I had
142
456747
3270
Praėjus keleriems metams
po mano pirmojo patyrimo
po mano pirmojo patyrimo
07:52
with this baby dinosaur robot,
143
460041
2311
su tuo dinozauriuku robotu
07:54
I did a workshop
with my friend Hannes Gassert.
with my friend Hannes Gassert.
144
462376
2501
vedžiau seminarą su savo draugu
Hannes Gassert.
Hannes Gassert.
07:56
And we took five
of these baby dinosaur robots
of these baby dinosaur robots
145
464901
2897
Penkis tokius
dinozauriukus robotus
dinozauriukus robotus
07:59
and we gave them to five teams of people.
146
467822
2453
davėme penkioms grupėms žmonių.
08:02
And we had them name them
147
470299
1697
Paprašėme duoti jiems vardus,
08:04
and play with them and interact with them
for about an hour.
for about an hour.
148
472020
3809
su jais pažaisti ir pabūti apie valandą.
08:08
And then we unveiled
a hammer and a hatchet
a hammer and a hatchet
149
476707
2206
Po to parodėme plaktuką ir kirvuką
08:10
and we told them to torture
and kill the robots.
and kill the robots.
150
478937
2278
ir liepėme kankinti ir sunaikinti robotus.
08:13
(Laughter)
151
481239
3007
(Juokas.)
08:16
And this turned out to be
a little more dramatic
a little more dramatic
152
484857
2294
Rezultatas buvo dramatiškesnis
08:19
than we expected it to be,
153
487175
1278
nei tikėjomės,
08:20
because none of the participants
would even so much as strike
would even so much as strike
154
488477
3072
nes nė vienas iš tyrimo dalyvių
nesutiko net suduoti
nesutiko net suduoti
08:23
these baby dinosaur robots,
155
491573
1307
dinozauriukams robotams.
08:24
so we had to improvise a little,
and at some point, we said,
and at some point, we said,
156
492904
5150
Mums teko improvizuoti
ir kažkuriuo momentu pasakėme:
ir kažkuriuo momentu pasakėme:
08:30
"OK, you can save your team's robot
if you destroy another team's robot."
if you destroy another team's robot."
157
498078
4437
„Galėsite pasilikti savo robotą,
jeigu sunaikinsite kitos grupės robotą."
jeigu sunaikinsite kitos grupės robotą."
08:34
(Laughter)
158
502539
1855
(Juokas.)
08:36
And even that didn't work.
They couldn't do it.
They couldn't do it.
159
504839
2195
Ir netgi su tuo jie nesutiko.
Negalėjo.
Negalėjo.
08:39
So finally, we said,
160
507058
1151
Tada mes pasakėme:
08:40
"We're going to destroy all of the robots
161
508233
2032
„Sunaikinsime visus robotus
08:42
unless someone takes
a hatchet to one of them."
a hatchet to one of them."
162
510289
2285
jeigu nesukaposite bent vieno iš jų.“
08:45
And this guy stood up,
and he took the hatchet,
and he took the hatchet,
163
513586
3579
Vienas vyrukas atsistojo
ir paėmė kirvuką.
ir paėmė kirvuką.
08:49
and the whole room winced
as he brought the hatchet down
as he brought the hatchet down
164
517189
2706
Jam nuleidus kirvuką
ant roboto kaklo
ant roboto kaklo
08:51
on the robot's neck,
165
519919
1780
visi susigūžė
08:53
and there was this half-joking,
half-serious moment of silence in the room
half-serious moment of silence in the room
166
521723
6338
ir patalpoje stojo tyla,
pusiau juoko, pusiau rimties momentas,
pusiau juoko, pusiau rimties momentas,
09:00
for this fallen robot.
167
528085
1698
kuomet roboto neliko.
09:01
(Laughter)
168
529807
1406
(Juokas.)
09:03
So that was a really
interesting experience.
interesting experience.
169
531237
3694
Tas patyrimas buvo labai įdomus.
09:06
Now, it wasn't a controlled
study, obviously,
study, obviously,
170
534955
2459
Ir nors tai nebuvo tikras ekperimentas,
akivaizdu,
akivaizdu,
09:09
but it did lead to some
later research that I did at MIT
later research that I did at MIT
171
537438
2850
bet jis davė pradžią vėlesniam tyrimui,
kurį atlikau Masačiusetso technologijos institute
kurį atlikau Masačiusetso technologijos institute
09:12
with Palash Nandy and Cynthia Breazeal,
172
540312
2228
drauge su Palash Nandy
ir Cynthia Breazeal.
ir Cynthia Breazeal.
09:14
where we had people come into the lab
and smash these HEXBUGs
and smash these HEXBUGs
173
542564
3627
Tuome pakvietėme žmones į laboratoriją,
kad jie sutraiškytų „HEXBUG“ robotus,
kad jie sutraiškytų „HEXBUG“ robotus,
09:18
that move around in a really
lifelike way, like insects.
lifelike way, like insects.
174
546215
3087
kurie juda labai tikroviškai,
kaip tikri vabzdžiai.
kaip tikri vabzdžiai.
09:21
So instead of choosing something cute
that people are drawn to,
that people are drawn to,
175
549326
3134
Šiuo atveju rinkomės ne kažką mielo,
kas traukia žmones,
kas traukia žmones,
09:24
we chose something more basic,
176
552484
2093
bet paprastą dalyką.
09:26
and what we found
was that high-empathy people
was that high-empathy people
177
554601
3480
Supratome, kad žmonės, gebantys
giliai užjausti kitus,
giliai užjausti kitus,
09:30
would hesitate more to hit the HEXBUGS.
178
558105
2143
lūkuriuoja ilgiau prieš trankydami
prietaisus.
prietaisus.
09:33
Now this is just a little study,
179
561575
1564
Tai tik mažas tyrimas,
09:35
but it's part of a larger body of research
180
563163
2389
bet jis yra dalis didesnio tyrimų bloko,
09:37
that is starting to indicate
that there may be a connection
that there may be a connection
181
565576
2944
leidžiančio manyti, kad
gali egzistuoti ryšys
gali egzistuoti ryšys
09:40
between people's tendencies for empathy
182
568544
2373
tarp žmonių polinkio užjausti kitus
09:42
and their behavior around robots.
183
570941
1976
ir jų elgesio su robotais.
09:45
But my question for the coming era
of human-robot interaction
of human-robot interaction
184
573721
3627
Tačiau artėjant
žmonių ir robotų sąveikos erai
žmonių ir robotų sąveikos erai
09:49
is not: "Do we empathize with robots?"
185
577372
3055
klausiu ne „Ar užjaučiame robotus?“,
09:53
It's: "Can robots change
people's empathy?"
people's empathy?"
186
581211
2920
bet „Ar robotai gali pakeisti žmonių
gebėjimą užjausti kitą?“
gebėjimą užjausti kitą?“
09:57
Is there reason to, for example,
187
585489
2287
Ar turėtume neleisti
09:59
prevent your child
from kicking a robotic dog,
from kicking a robotic dog,
188
587800
2333
vaikui įspirti šuniui robotui,
10:03
not just out of respect for property,
189
591228
2914
ne todėl, kad daiktus reikia tausoti
10:06
but because the child might be
more likely to kick a real dog?
more likely to kick a real dog?
190
594166
2953
bet todėl, kad kitaip jis
greičiausiai įspirs ir gyvam šuniui?
greičiausiai įspirs ir gyvam šuniui?
10:10
And again, it's not just kids.
191
598507
1883
Vėlgi, tai tinka ne tik vaikams.
10:13
This is the violent video games question,
but it's on a completely new level
but it's on a completely new level
192
601564
4056
Tai gali padėti atsakyti į klausimus apie
smurtinius video žaidimus,
smurtinius video žaidimus,
10:17
because of this visceral physicality
that we respond more intensely to
that we respond more intensely to
193
605644
4760
nes į tokį intuityvų fiziškumą
reaguojame daug intensyviau
reaguojame daug intensyviau
10:22
than to images on a screen.
194
610428
1547
nei į vaizdus ekrane.
10:25
When we behave violently towards robots,
195
613674
2578
Ar smurtaudami prieš robotus,
10:28
specifically robots
that are designed to mimic life,
that are designed to mimic life,
196
616276
3120
ypač prieš tokius, kurie sukurti
gyvybei imituoti,
gyvybei imituoti,
10:31
is that a healthy outlet
for violent behavior
for violent behavior
197
619420
3892
sveiku būdu išliejame agresiją,
10:35
or is that training our cruelty muscles?
198
623336
2544
ar treniruojame žiaurumo raumenis?
10:39
We don't know ...
199
627511
1150
Atsakymo nežinome...
10:42
But the answer to this question has
the potential to impact human behavior,
the potential to impact human behavior,
200
630622
3945
Bet atsakyme į šį klausimą slypi
potencialas paveikti žmonių elgesį,
potencialas paveikti žmonių elgesį,
10:46
it has the potential
to impact social norms,
to impact social norms,
201
634591
2768
paveikti socialines normas,
10:49
it has the potential to inspire rules
around what we can and can't do
around what we can and can't do
202
637383
3849
padėti kuriant taisykles,
ką galime ir ko negalime daryti
ką galime ir ko negalime daryti
10:53
with certain robots,
203
641256
1151
su tam tikrais robotais,
10:54
similar to our animal cruelty laws.
204
642431
1848
panašias į draudimą skriausti gyvūnus.
10:57
Because even if robots can't feel,
205
645228
2864
Nes net jeigu robotai ir neturi jausmų,
11:00
our behavior towards them
might matter for us.
might matter for us.
206
648116
3080
kaip mes su jais elgiamės yra svarbu.
11:04
And regardless of whether
we end up changing our rules,
we end up changing our rules,
207
652889
2855
Ir nesvarbu, kokios galų gale bus
mūsų taisyklės,
mūsų taisyklės,
11:08
robots might be able to help us
come to a new understanding of ourselves.
come to a new understanding of ourselves.
208
656926
3556
robotai gali padėti mums
geriau suprasti pačius save.
geriau suprasti pačius save.
11:14
Most of what I've learned
over the past 10 years
over the past 10 years
209
662276
2316
Per pastaruosius 10 metų
daugiausiai išmokau
daugiausiai išmokau
11:16
has not been about technology at all.
210
664616
2238
visai ne apie technologijas,
11:18
It's been about human psychology
211
666878
2503
o apie žmonių psichologiją,
11:21
and empathy and how we relate to others.
212
669405
2603
užuojautos jausmą ir tarpusavio santykius.
11:25
Because when a child is kind to a Roomba,
213
673524
2365
Kai vaikas yra geras „Roombai“,
11:29
when a soldier tries to save
a robot on the battlefield,
a robot on the battlefield,
214
677262
4015
kai kareivis stengiasi išgelbėti robotą
minų lauke,
minų lauke,
11:33
or when a group of people refuses
to harm a robotic baby dinosaur,
to harm a robotic baby dinosaur,
215
681301
3638
ar kai žmonių grupė atsisako
žaloti dinozauriuką robotą,
žaloti dinozauriuką robotą,
11:38
those robots aren't just motors
and gears and algorithms.
and gears and algorithms.
216
686248
3191
visi tie robotai nėra vien tik varikliai,
mechanizmai ar algoritmai.
mechanizmai ar algoritmai.
11:42
They're reflections of our own humanity.
217
690501
1905
Jie – mūsų žmoniškumo atspindys.
11:45
Thank you.
218
693523
1151
Ačiū.
11:46
(Applause)
219
694698
3397
(Plojimai.)
ABOUT THE SPEAKER
Kate Darling - Robot ethicistKate Darling investigates the relationship between humans and robots -- now, and in the future.
Why you should listen
Robots are taking increasingly bigger roles in life and business -- moving well beyond manufacturing and into transportation, education, medicine, care for the elderly, our offices and our homes. But ethics and law haven't caught up. Kate Darling, a pioneer in these fields, is helping quicken the pace.
A leading expert in robot ethics, Darling is a researcher at the Massachusetts Institute of Technology (MIT) Media Lab where she investigates social robotics and conducts experimental studies on human-robot interaction. Darling explores the emotional connection between people and life-like inventions, seeking to influence technology design and policy direction. Her writing and research anticipate difficult questions that lawmakers, engineers and the wider public must address as human-robot relationships evolve in the coming decades.
While her background is in intellectual property and law and economics, Darling's passion for technology and robots led her to interdisciplinary fields. She's a former Fellow and current Affiliate at the Harvard Berkman Klein Center for Internet & Society and a former fellow at the Yale Information Society Project, and she's an affiliate at the Institute for Ethics and Emerging Technologies.
Her work has been featured in Vogue, The New Yorker, The Guardian, BBC, NPR, PBS, The Boston Globe, Forbes, CBC, WIRED, Boston Magazine, The Atlantic, Slate, Die Zeit, The Japan Times and more. She is a contributing writer to Robohub and IEEE Spectrum and speaks and holds workshops covering some of the more interesting developments in the world of robotics, and where we might find ourselves in the future.
Darling graduated from law school with honors and holds a doctorate of sciences from the Swiss Federal Institute of Technology (ETH Zurich) and an honorary doctorate of sciences from Middlebury College. In 2017, the American Bar Association honored her legal work with the Mark T. Banner award in Intellectual Property. She is the caretaker for several domestic robots, including her Pleos Yochai, Peter, and Mr. Spaghetti. She tweets as @grok_ about eating cheerios for dinner.
Kate Darling | Speaker | TED.com