TED Salon Samsung
Kate Darling: Why we have an emotional connection to robots
کیت دارلینگ: چرا ما با روباتها ارتباط احساسی برقرار می‌کنیم
Filmed:
Readability: 4.4
2,403,010 views
کیت دارلینگ متخصص روبات، می‌گوید ما همچنان از روبات‌های توسعه یافته با قابلیت درک احساسات فاصله داریم، اما نسبت به روباتها برخورد عاطفی داریم و یک غریزه مثل این می‌تواند عواقب داشته باشد. بیشتر بدانید درباره چگونگی برقراری ارتباط زیستی‌مان با تصور هدف و زندگی برای ماشین‌هایی همچون روباتها و این شناخت چگونه می‌تواند به ما در درک بهتر از خودمان کمک کند.
Kate Darling - Robot ethicist
Kate Darling investigates the relationship between humans and robots -- now, and in the future. Full bio
Kate Darling investigates the relationship between humans and robots -- now, and in the future. Full bio
Double-click the English transcript below to play the video.
00:13
There was a day, about 10 years ago,
0
1047
2508
یک روز حدوداً ۱۰ سال قبل،
00:15
when I asked a friend to hold
a baby dinosaur robot upside down.
a baby dinosaur robot upside down.
1
3579
3944
از دوستی خواستم روبات
بچه دایناسور را وارونه نگه‌دارد.
بچه دایناسور را وارونه نگه‌دارد.
00:21
It was this toy called a Pleo
that I had ordered,
that I had ordered,
2
9889
3446
اسم این عروسک پلیو نام داشت
که سفارش داده بودم،
که سفارش داده بودم،
00:25
and I was really excited about it
because I've always loved robots.
because I've always loved robots.
3
13359
4401
و من واقعاً برای داشتن آن هیجان زده بودم
زیرا همیشه روباتها را دوست داشتنم.
زیرا همیشه روباتها را دوست داشتنم.
00:29
And this one has really cool
technical features.
technical features.
4
17784
2279
و این یکی واقعاً ویژگی‌های فنی جالبی داشت.
00:32
It had motors and touch sensors
5
20087
2119
دارای موتور، سنسور لمسی
00:34
and it had an infrared camera.
6
22230
2244
و دوربین مادون قرمز بود.
00:36
And one of the things it had
was a tilt sensor,
was a tilt sensor,
7
24498
2763
و سنسور شیب،
یکی دیگر از چیز‌هایی که آن داشت.
یکی دیگر از چیز‌هایی که آن داشت.
00:39
so it knew what direction it was facing.
8
27285
2318
بنابراین می‌دانست به چه سمتی قرار دارد.
00:42
And when you held it upside down,
9
30095
2134
و وقتی شما آن را وارونه نگه می‌داشتید،
00:44
it would start to cry.
10
32253
1572
آن شروع به گریه می‌کرد.
00:46
And I thought this was super cool,
so I was showing it off to my friend,
so I was showing it off to my friend,
11
34527
3496
و من فکر کردم این فوق العاده جالب است
بنابراین من آن را به دوستم نشان دادم
بنابراین من آن را به دوستم نشان دادم
00:50
and I said, "Oh, hold it up by the tail.
See what it does."
See what it does."
12
38047
2805
و به او گفتم، "اُه، دم این را بگیر،
ببین چکار می‌کند."
ببین چکار می‌کند."
00:55
So we're watching
the theatrics of this robot
the theatrics of this robot
13
43268
3625
ما نمایش این روبات را نظاره می‌کردیم.
00:58
struggle and cry out.
14
46917
2199
تقلا و زاری کردن.
01:02
And after a few seconds,
15
50767
2047
و بعد از چند ثانیه،
01:04
it starts to bother me a little,
16
52838
1972
آن کمی موجب رنجش خاطرم شد،
01:07
and I said, "OK, that's enough now.
17
55744
3424
و من گفتم، "خوب، کافیه.
01:11
Let's put him back down."
18
59930
2305
بیا بگذاریمش زمین."
01:14
And then I pet the robot
to make it stop crying.
to make it stop crying.
19
62259
2555
من روبات را نوازش کردم
تا گریه‌اش متوقف شد.
تا گریه‌اش متوقف شد.
01:18
And that was kind of
a weird experience for me.
a weird experience for me.
20
66973
2452
و این یک تجربه عجیب برای من بود.
01:22
For one thing, I wasn't the most
maternal person at the time.
maternal person at the time.
21
70084
4569
آن زمان من برای روبات، مانند مادر بودم.
01:26
Although since then I've become
a mother, nine months ago,
a mother, nine months ago,
22
74677
2731
اگرچه از آن زمان به بعد،
یعنی ۹ ماه پیش من مادر شدم.
یعنی ۹ ماه پیش من مادر شدم.
01:29
and I've learned that babies also squirm
when you hold them upside down.
when you hold them upside down.
23
77432
3433
و من یادگرفتم هنگامیکه بچه‌ها را
سر و ته بگیریم بچه‌ها ناراحت می‌شوند.
سر و ته بگیریم بچه‌ها ناراحت می‌شوند.
01:32
(Laughter)
24
80889
1563
(خنده)
01:35
But my response to this robot
was also interesting
was also interesting
25
83023
2358
اما واکنش من به این روبات جالب بود.
01:37
because I knew exactly
how this machine worked,
how this machine worked,
26
85405
4101
زیرا من حقیقتاً درک کردم
چطور این ماشین کار کرد،
چطور این ماشین کار کرد،
01:41
and yet I still felt
compelled to be kind to it.
compelled to be kind to it.
27
89530
3262
و هنوز احساس می‌کنم
مجبورم با آن مهربان باشم.
مجبورم با آن مهربان باشم.
01:46
And that observation sparked a curiosity
28
94450
2707
و آن مشاهدات حس کنجکاوی من را برانگیخت
01:49
that I've spent the past decade pursuing.
29
97181
2832
که من ده سال گذشته را دنبال کرده‌ام.
01:52
Why did I comfort this robot?
30
100911
1793
چرا من این روبات را راحت کردم؟
01:56
And one of the things I discovered
was that my treatment of this machine
was that my treatment of this machine
31
104228
3579
و یکی از چیز‌هایی که من به آن پی بردم
طرز رفتار من با این دستگاه بود
طرز رفتار من با این دستگاه بود
01:59
was more than just an awkward moment
in my living room,
in my living room,
32
107831
3701
برای بیش از یک لحظه
نامتعارف در اتاق نشیمنم،
نامتعارف در اتاق نشیمنم،
02:03
that in a world where we're increasingly
integrating robots into our lives,
integrating robots into our lives,
33
111556
5420
که در دنیا ما به طور فزاینده‌ای
روباتها را در زندگی خود وارد کرده‌ایم،
روباتها را در زندگی خود وارد کرده‌ایم،
02:09
an instinct like that
might actually have consequences,
might actually have consequences,
34
117000
3126
و غریزه بمانند این ممکن است واقعاً
مشکلاتی را بهمراه داشته باشد.
مشکلاتی را بهمراه داشته باشد.
02:13
because the first thing that I discovered
is that it's not just me.
is that it's not just me.
35
121452
3749
زیرا اولین چیزی که من کشف کردم
این است که فقط من نیستم.
این است که فقط من نیستم.
02:19
In 2007, the Washington Post
reported that the United States military
reported that the United States military
36
127249
4802
در سال ۲۰۰۷، واشنگتن پست
گزارش داد که ارتش ایالات متحده
گزارش داد که ارتش ایالات متحده
02:24
was testing this robot
that defused land mines.
that defused land mines.
37
132075
3230
آزمایشی روی روبات خنثی‌ساز
مین‌های باقیمانده در زمین انجام داده است.
مین‌های باقیمانده در زمین انجام داده است.
02:27
And the way it worked
was it was shaped like a stick insect
was it was shaped like a stick insect
38
135329
2912
روشی که این روبات کار می‌کند
مانند حشره‌ای تحت نام چوبک است
مانند حشره‌ای تحت نام چوبک است
02:30
and it would walk
around a minefield on its legs,
around a minefield on its legs,
39
138265
2651
وبا پا‌های خود برروی منطقه
مین‌گذاری شده راه می‌رود.
مین‌گذاری شده راه می‌رود.
02:32
and every time it stepped on a mine,
one of the legs would blow up,
one of the legs would blow up,
40
140940
3206
و هر زمانی که روی یک مین گام برمی‌دارد
یکی از پاهاش منفجر خواهد شد،
یکی از پاهاش منفجر خواهد شد،
02:36
and it would continue on the other legs
to blow up more mines.
to blow up more mines.
41
144170
3057
و مسیر را با پا‌های باقیمانده خود ادامه
خواهد داد تا مین‌های بیشتری را منفجر کند.
خواهد داد تا مین‌های بیشتری را منفجر کند.
02:39
And the colonel who was in charge
of this testing exercise
of this testing exercise
42
147251
3786
و سرهنگی که مسئول این آزمایش بود
02:43
ends up calling it off,
43
151061
2118
فرمان توقف می‌داد،
02:45
because, he says, it's too inhumane
44
153203
2435
بدلیل اینکه او می‌گفت، این
عمل خیلی غیرانسانی است
عمل خیلی غیرانسانی است
02:47
to watch this damaged robot
drag itself along the minefield.
drag itself along the minefield.
45
155662
4516
تماشای این روبات آسیب‌دیده
که خود را در امتداد میدان مین می‌کشد.
که خود را در امتداد میدان مین می‌کشد.
02:54
Now, what would cause
a hardened military officer
a hardened military officer
46
162978
3897
در حال حاضر، چه چیزی باعث خواهد شد
یک افسر ارتش مقاوم و خشن
یک افسر ارتش مقاوم و خشن
02:58
and someone like myself
47
166899
2043
و شخصی همچون من
03:00
to have this response to robots?
48
168966
1857
اینچنین واکنشی در برابر
روباتها داشته باشد؟
روباتها داشته باشد؟
03:03
Well, of course, we're primed
by science fiction and pop culture
by science fiction and pop culture
49
171537
3310
خوب، البته، با علوم تخیلی و رسم
و رسوم رایج بارآمدیم
و رسوم رایج بارآمدیم
03:06
to really want to personify these things,
50
174871
2579
و واقعاً می‌خواهیم به این‌ها
شخصیت بدهیم و همزاد پنداری کنیم،
شخصیت بدهیم و همزاد پنداری کنیم،
03:09
but it goes a little bit deeper than that.
51
177474
2789
اما در این خصوص کمی افراط داریم.
03:12
It turns out that we're biologically
hardwired to project intent and life
hardwired to project intent and life
52
180287
5309
به نظر می‌رسد که ما از نظر بیولوژیکی
چشم انداز‌های برنامه‌ها و زندگیمان را
چشم انداز‌های برنامه‌ها و زندگیمان را
03:17
onto any movement in our physical space
that seems autonomous to us.
that seems autonomous to us.
53
185620
4766
به هر اقدامی در فضای مستقل
اطرافمان متصل نموده‌ایم.
اطرافمان متصل نموده‌ایم.
03:23
So people will treat all sorts
of robots like they're alive.
of robots like they're alive.
54
191214
3465
بنابراین مردم با روباتها همچون
موجودات زنده رفتار می‌کنند.
موجودات زنده رفتار می‌کنند.
03:26
These bomb-disposal units get names.
55
194703
2683
واحد‌های خنثی‌سازی بمب
نام‌گذاری می‌شوند.
نام‌گذاری می‌شوند.
03:29
They get medals of honor.
56
197410
1682
مدال افتخار می‌گیرند.
03:31
They've had funerals for them
with gun salutes.
with gun salutes.
57
199116
2325
برای آنها مراسم نظامی
تدفین گرفته می‌شود.
تدفین گرفته می‌شود.
03:34
And research shows that we do this
even with very simple household robots,
even with very simple household robots,
58
202380
3833
و تحقیقات نشان می‌دهد ما حتی با روبات‌های
کوچک خانه‌دار خود این کار را می‌کنیم.
کوچک خانه‌دار خود این کار را می‌کنیم.
03:38
like the Roomba vacuum cleaner.
59
206237
2135
همچون روبات جاروبرقی.
03:40
(Laughter)
60
208396
1291
(خنده)
03:41
It's just a disc that roams
around your floor to clean it,
around your floor to clean it,
61
209711
3089
آن شبیه یک بشقابی است که در طبقات
شما برای تمیز کردن پرسه می‌زند،
شما برای تمیز کردن پرسه می‌زند،
03:44
but just the fact it's moving
around on its own
around on its own
62
212824
2306
اما در واقع حرکت در اطراف محدوده خودش
03:47
will cause people to name the Roomba
63
215154
2167
سبب شد که مردم آن را رومبا بنامند
03:49
and feel bad for the Roomba
when it gets stuck under the couch.
when it gets stuck under the couch.
64
217345
3182
و برای رومبا ناراحت شوند
وقتی زیر فرش گیر می‌افتد.
وقتی زیر فرش گیر می‌افتد.
03:52
(Laughter)
65
220551
1865
(خنده)
03:54
And we can design robots
specifically to evoke this response,
specifically to evoke this response,
66
222440
3340
و ما بویژه می‌توانیم روباتها را
طراحی کنیم برای پاسخ‌های احساسی
طراحی کنیم برای پاسخ‌های احساسی
03:57
using eyes and faces or movements
67
225804
3461
با استفاده از چشم‌ها
و حالت‌های چهره یا حرکات بدنی
و حالت‌های چهره یا حرکات بدنی
04:01
that people automatically,
subconsciously associate
subconsciously associate
68
229289
3259
بطوریکه ناخوداگاه انسانها
04:04
with states of mind.
69
232572
2020
وابستگی پیدا می‌کنند.
04:06
And there's an entire body of research
called human-robot interaction
called human-robot interaction
70
234616
3293
و موضوع تحقیقاتی تحت عنوان
روابط انسان-روبات وجود دارد.
روابط انسان-روبات وجود دارد.
04:09
that really shows how well this works.
71
237933
1826
که بدرستی چگونگی این
روابط را نشان می‌دهد.
روابط را نشان می‌دهد.
04:11
So for example, researchers
at Stanford University found out
at Stanford University found out
72
239783
3126
برای مثال، پژوهشگران
دانشگاه استفورد پی بردند که
دانشگاه استفورد پی بردند که
04:14
that it makes people really uncomfortable
73
242933
2001
واقعاً احساس انسانها را ناخوشایند می‌کند
04:16
when you ask them to touch
a robot's private parts.
a robot's private parts.
74
244958
2472
وقتی شما بخواهید تا بخش‌های
خصوصی روباتها را لمس کنید.
خصوصی روباتها را لمس کنید.
04:19
(Laughter)
75
247454
2120
(خنده)
04:21
So from this, but from many other studies,
76
249598
2023
ما در این تحقیقات دانستیم که
04:23
we know, we know that people
respond to the cues given to them
respond to the cues given to them
77
251645
4223
انسانها به این حالت‌های احساسی
04:27
by these lifelike machines,
78
255892
2022
این ماشین‌های به ظاهر زنده
واکنش نشان می‌دهند،
واکنش نشان می‌دهند،
04:29
even if they know that they're not real.
79
257938
2017
حتی اگر بدانند که واقعاً
آنها زنده نیستند.
آنها زنده نیستند.
04:33
Now, we're headed towards a world
where robots are everywhere.
where robots are everywhere.
80
261654
4056
حالا، ما به سمت دنیایی می‌رویم
که روباتها همه جا وجود خواهند داشت.
که روباتها همه جا وجود خواهند داشت.
04:37
Robotic technology is moving out
from behind factory walls.
from behind factory walls.
81
265734
3065
تکنولوژی روباتیک از پشت
دیوار‌های کارخانه‌ها بیرون می‌آیند.
دیوار‌های کارخانه‌ها بیرون می‌آیند.
04:40
It's entering workplaces, households.
82
268823
3013
به مکان‌های اشتغال و زندگی ما وارد می‌شوند
04:43
And as these machines that can sense
and make autonomous decisions and learn
and make autonomous decisions and learn
83
271860
6209
و این ماشین‌ها با توانایی احساسی،
یادگیری و تصمیم‌سازی مستقل،
یادگیری و تصمیم‌سازی مستقل،
04:50
enter into these shared spaces,
84
278093
2552
به محدوده روابط قدم می‌گذارند،
04:52
I think that maybe the best
analogy we have for this
analogy we have for this
85
280669
2496
به نظر من شاید ارتباطی
که ما با حیوانات داریم
که ما با حیوانات داریم
04:55
is our relationship with animals.
86
283189
1935
بهترین قرابت و همخوانی را
با این قضیه داشته باشد.
با این قضیه داشته باشد.
04:57
Thousands of years ago,
we started to domesticate animals,
we started to domesticate animals,
87
285523
3888
چندین هزار سال پیش ما اقدام به
اهلی کردن حیوانات نمودیم.
اهلی کردن حیوانات نمودیم.
05:01
and we trained them for work
and weaponry and companionship.
and weaponry and companionship.
88
289435
4045
و حیوانات را به منظور کار، اقدامات
نظامی و مصاحبت آموزش دادیم.
نظامی و مصاحبت آموزش دادیم.
05:05
And throughout history, we've treated
some animals like tools or like products,
some animals like tools or like products,
89
293504
4985
و در سرتاسر تاریخ، ما با برخی از حیوانات
همچون ابزار یا کالا رفتار کردیم،
همچون ابزار یا کالا رفتار کردیم،
05:10
and other animals,
we've treated with kindness
we've treated with kindness
90
298513
2174
و با دیگر حیوانات با مهربانی رفتار کردیم
05:12
and we've given a place in society
as our companions.
as our companions.
91
300711
3078
و به آنها طبقه اجتماعی
همچون دوست و همدم دادیم.
همچون دوست و همدم دادیم.
05:15
I think it's plausible we might start
to integrate robots in similar ways.
to integrate robots in similar ways.
92
303813
3849
به نظر من این احتمال وجود دارد که ما
با روباتها رفتار مشابه‌ای را آغاز نماییم.
با روباتها رفتار مشابه‌ای را آغاز نماییم.
05:21
And sure, animals are alive.
93
309484
3096
و به طور قطع، حیوانات زنده هستند
05:24
Robots are not.
94
312604
1150
اما روباتها نه.
05:27
And I can tell you,
from working with roboticists,
from working with roboticists,
95
315626
2580
و ما براساس شناختی که از علوم
روباتیک دارم، می‌توانم به شما بگویم،
روباتیک دارم، می‌توانم به شما بگویم،
05:30
that we're pretty far away from developing
robots that can feel anything.
robots that can feel anything.
96
318230
3522
که ما کاملاً از روبات‌های توسعه یافته که
قادر به احساس همه چیز باشند فاصله داریم.
قادر به احساس همه چیز باشند فاصله داریم.
05:35
But we feel for them,
97
323072
1460
اما ما برای آنها احساس می‌کنیم،
05:37
and that matters,
98
325835
1207
و این مهم است،
05:39
because if we're trying to integrate
robots into these shared spaces,
robots into these shared spaces,
99
327066
3627
زیرا ما سعی می‌کنیم روباتها را
وارد فضای ارتباطی خود کنیم،
وارد فضای ارتباطی خود کنیم،
05:42
we need to understand that people will
treat them differently than other devices,
treat them differently than other devices,
100
330717
4628
ما باید درک کنیم که انسانها با روباتها
متفاوت از دیگر وسایل رفتار می‌کنند،
متفاوت از دیگر وسایل رفتار می‌کنند،
05:47
and that in some cases,
101
335369
1844
و در برخی از موارد برای مثال،
05:49
for example, the case of a soldier
who becomes emotionally attached
who becomes emotionally attached
102
337237
3172
در مورد سربازی که به صورت احساسی
05:52
to the robot that they work with,
103
340433
2047
با روبات ارتباط برقرار می‌کند،
05:54
that can be anything
from inefficient to dangerous.
from inefficient to dangerous.
104
342504
2504
که می‌تواند هر رفتاری
از بی‌کفایتی تا مخاطره‌انگیز باشد.
از بی‌کفایتی تا مخاطره‌انگیز باشد.
05:58
But in other cases,
it can actually be useful
it can actually be useful
105
346551
2138
اما در پاره‌ای از موارد
06:00
to foster this emotional
connection to robots.
connection to robots.
106
348713
2623
آموزش روابط احساسی
به روباتها واقعاً می‌تواند مفید باشد.
به روباتها واقعاً می‌تواند مفید باشد.
06:04
We're already seeing some great use cases,
107
352184
2134
ما موارد مصرف
قابل توجهی از روباتها دیده‌ایم
قابل توجهی از روباتها دیده‌ایم
06:06
for example, robots working
with autistic children
with autistic children
108
354342
2604
برای مثال روباتها
با کودکان اوتیسمی کار می‌کنند
با کودکان اوتیسمی کار می‌کنند
06:08
to engage them in ways
that we haven't seen previously,
that we haven't seen previously,
109
356970
3634
و آنگونه آنها را سرگرم می‌کنند
که ما قبلاً شاهد نبوده‌ایم،
که ما قبلاً شاهد نبوده‌ایم،
06:12
or robots working with teachers to engage
kids in learning with new results.
kids in learning with new results.
110
360628
4000
یا نتایج جدید یاری رساندن روباتها
به معلمین در آموزش کودکان.
به معلمین در آموزش کودکان.
06:17
And it's not just for kids.
111
365433
1381
و آن تنها برای کودکان نیست.
06:19
Early studies show that robots
can help doctors and patients
can help doctors and patients
112
367750
3223
مطالعات اخیر نشان داده
که روباتها قادرند تا دکترها یا بیماران را
که روباتها قادرند تا دکترها یا بیماران را
06:22
in health care settings.
113
370997
1427
در زمینه مراقبت‌های بهداشتی یاری دهند.
06:25
This is the PARO baby seal robot.
114
373535
1810
این یک روبات بچه فُک به نام پارو است.
06:27
It's used in nursing homes
and with dementia patients.
and with dementia patients.
115
375369
3285
پارو در خانه سالمندان و با بیماران
مبتلا به فراموشی استفاده می‌شود.
مبتلا به فراموشی استفاده می‌شود.
06:30
It's been around for a while.
116
378678
1570
برای مدتی استفاده شده است.
06:32
And I remember, years ago,
being at a party
being at a party
117
380272
3325
و من بخاطر دارم، سالها پیش، در یک مهمانی
06:35
and telling someone about this robot,
118
383621
2571
با کسی درباره این روبات صحبت کردم،
06:38
and her response was,
119
386216
2126
و واکنش آن شخص این بود،
06:40
"Oh my gosh.
120
388366
1262
"وای خدای من.
06:42
That's horrible.
121
390508
1188
وحشتناک است.
06:45
I can't believe we're giving people
robots instead of human care."
robots instead of human care."
122
393056
3397
باور نمی‌کنم به روباتها نقش‌های
مراقبتی همچون انسانها داده شود."
مراقبتی همچون انسانها داده شود."
06:50
And this is a really common response,
123
398540
1875
و این واقعاً واکنشی متعارف بود،
06:52
and I think it's absolutely correct,
124
400439
2499
و من فکر می‌کنم کاملاً درست است،
06:54
because that would be terrible.
125
402962
2040
بدلیل آنکه آن واقعاً وحشتناک است.
06:57
But in this case,
it's not what this robot replaces.
it's not what this robot replaces.
126
405795
2484
اما در این مورد، روبات قابل جایگزینی نیست.
07:00
What this robot replaces is animal therapy
127
408858
3120
این روبات جایگزین حیوان درمان است.
07:04
in contexts where
we can't use real animals
we can't use real animals
128
412002
3198
در مواردی که ما قادر به
استفاده از حیوانات واقعی نیستیم
استفاده از حیوانات واقعی نیستیم
07:07
but we can use robots,
129
415224
1168
اما می‌توانیم از روباتها استفاده کنیم،
07:08
because people will consistently treat
them more like an animal than a device.
them more like an animal than a device.
130
416416
5230
چون انسانها با آنها بیشتر به عنوان
حیوان رفتار می‌کنند تا روبات.
حیوان رفتار می‌کنند تا روبات.
07:15
Acknowledging this emotional
connection to robots
connection to robots
131
423502
2380
شناخت این روابط عاطفی با روباتها
07:17
can also help us anticipate challenges
132
425906
1969
همچنین می‌تواند ما را در
پیش‌بینی چالش‌های آینده یاری دهد
پیش‌بینی چالش‌های آینده یاری دهد
07:19
as these devices move into more intimate
areas of people's lives.
areas of people's lives.
133
427899
3451
همانطور که این وسایل به محیط شخصی
زندگی مردم وارد می‌شوند.
زندگی مردم وارد می‌شوند.
07:24
For example, is it OK
if your child's teddy bear robot
if your child's teddy bear robot
134
432111
3404
برای مثال، آیا خوب است که
روبات اسباب‌بازی خرس تدی
روبات اسباب‌بازی خرس تدی
07:27
records private conversations?
135
435539
2237
مکالمات شخصی شما را ضبط کند؟
07:29
Is it OK if your sex robot
has compelling in-app purchases?
has compelling in-app purchases?
136
437800
4063
آیا خوب است روبات سکس شما خریدهای
جالب توجه درون-نرم‌افزاری داشته باشد؟
جالب توجه درون-نرم‌افزاری داشته باشد؟
07:33
(Laughter)
137
441887
1396
(خنده)
07:35
Because robots plus capitalism
138
443307
2501
بدلیل اینکه روبات بعلاوه سیستم سرمایه‌داری
07:37
equals questions around
consumer protection and privacy.
consumer protection and privacy.
139
445832
3705
مساوی است با پرسش‌هایی در
خصوص حقوق و حریم شخصی مشتری.
خصوص حقوق و حریم شخصی مشتری.
07:42
And those aren't the only reasons
140
450549
1612
و موارد اشاره شده تنها دلیل بر این نیستند
07:44
that our behavior around
these machines could matter.
these machines could matter.
141
452185
2570
که رفتار ما با این وسایل
می‌تواند مهم باشد.
می‌تواند مهم باشد.
07:48
A few years after that first
initial experience I had
initial experience I had
142
456747
3270
چندین سال بعد از اولین تجربه‌ای که من با
07:52
with this baby dinosaur robot,
143
460041
2311
روبات اسباب‌بازی دایناسور داشتم،
07:54
I did a workshop
with my friend Hannes Gassert.
with my friend Hannes Gassert.
144
462376
2501
من کارگاه آموزشی با دوستم هانس گسرت داشتم.
07:56
And we took five
of these baby dinosaur robots
of these baby dinosaur robots
145
464901
2897
و ما ۵ عدد از این
روبات‌های دایناسور دریافت کردیم
روبات‌های دایناسور دریافت کردیم
07:59
and we gave them to five teams of people.
146
467822
2453
و آنها را به ۵ گروه از مردم دادیم.
08:02
And we had them name them
147
470299
1697
و از آنها خواستیم
روی آنها نام بگذارند
روی آنها نام بگذارند
08:04
and play with them and interact with them
for about an hour.
for about an hour.
148
472020
3809
وبرای حدود یک ساعت با آنها بازی
کنند و با آنها ارتباط برقرار کنند.
کنند و با آنها ارتباط برقرار کنند.
08:08
And then we unveiled
a hammer and a hatchet
a hammer and a hatchet
149
476707
2206
و سپس ما یک چکش و یک تبر نشان دادیم
08:10
and we told them to torture
and kill the robots.
and kill the robots.
150
478937
2278
و گفتیم که روباتها را شکنجه کنید و بکشید.
08:13
(Laughter)
151
481239
3007
(خنده)
08:16
And this turned out to be
a little more dramatic
a little more dramatic
152
484857
2294
و کمی دراماتیک‌تر از آن چیزی شد
08:19
than we expected it to be,
153
487175
1278
که انتظارش را داشتیم،
08:20
because none of the participants
would even so much as strike
would even so much as strike
154
488477
3072
چرا که هیچ یک از شرکت کنندگان
حتی یک ضربه هم
حتی یک ضربه هم
08:23
these baby dinosaur robots,
155
491573
1307
به این روبات‌های
دایناسور اسباب بازی نزدند،
دایناسور اسباب بازی نزدند،
08:24
so we had to improvise a little,
and at some point, we said,
and at some point, we said,
156
492904
5150
بنابراین مجبور شدیم کمی
بداهه‌پردازی کنیم و گفتیم،
بداهه‌پردازی کنیم و گفتیم،
08:30
"OK, you can save your team's robot
if you destroy another team's robot."
if you destroy another team's robot."
157
498078
4437
"خوب، شما می‌توانید روبات گروه خود را نگه دارید
به شرطی که روبات گروه دیگر را متلاشی کنید."
به شرطی که روبات گروه دیگر را متلاشی کنید."
08:34
(Laughter)
158
502539
1855
(خنده)
08:36
And even that didn't work.
They couldn't do it.
They couldn't do it.
159
504839
2195
و حتی این هم افاقه نکرد.
آنها دست به این کار نزدند.
آنها دست به این کار نزدند.
08:39
So finally, we said,
160
507058
1151
پس در نهایت، ما گفتیم،
08:40
"We're going to destroy all of the robots
161
508233
2032
"ما قصد داریم تمامی
روباتها را از بین ببریم
روباتها را از بین ببریم
08:42
unless someone takes
a hatchet to one of them."
a hatchet to one of them."
162
510289
2285
مگر اینکه کسی به یکی از
روباتها با تبر ضربه بزند."
روباتها با تبر ضربه بزند."
08:45
And this guy stood up,
and he took the hatchet,
and he took the hatchet,
163
513586
3579
و این شخص ایستاد و تبر را گرفت،
08:49
and the whole room winced
as he brought the hatchet down
as he brought the hatchet down
164
517189
2706
و در کل اتاق همهمه پیچید
هنگامیکه او تبر را
هنگامیکه او تبر را
08:51
on the robot's neck,
165
519919
1780
بر گردن روبات فرود آورد،
08:53
and there was this half-joking,
half-serious moment of silence in the room
half-serious moment of silence in the room
166
521723
6338
و سکوتی نیم شوخی، نیم جدی اتاق را گرفت
09:00
for this fallen robot.
167
528085
1698
برای روبات افتاده.
09:01
(Laughter)
168
529807
1406
(خنده)
09:03
So that was a really
interesting experience.
interesting experience.
169
531237
3694
این واقعاً آزمایش جالبی بود.
09:06
Now, it wasn't a controlled
study, obviously,
study, obviously,
170
534955
2459
بطور مشخص این یک مطالعه کنترل شده نبود،
09:09
but it did lead to some
later research that I did at MIT
later research that I did at MIT
171
537438
2850
اما منجر به تحقیقات بعدی من
در انستیتو تکنولوژی ماساچوست شد.
در انستیتو تکنولوژی ماساچوست شد.
09:12
with Palash Nandy and Cynthia Breazeal,
172
540312
2228
با پالاش ناندی و سینتیا بریزیل،
09:14
where we had people come into the lab
and smash these HEXBUGs
and smash these HEXBUGs
173
542564
3627
جاییکه مردم به آزمایشگاه ما می‌آیند
و این روبات‌های هگزباگ را خراب می‌کنند
و این روبات‌های هگزباگ را خراب می‌کنند
09:18
that move around in a really
lifelike way, like insects.
lifelike way, like insects.
174
546215
3087
که واقعاً مانند حشرات زنده
به اطراف حرکت می‌کنند.
به اطراف حرکت می‌کنند.
09:21
So instead of choosing something cute
that people are drawn to,
that people are drawn to,
175
549326
3134
بنابراین بجای انتخاب چیزی
جالب که مردم را جذب کند،
جالب که مردم را جذب کند،
09:24
we chose something more basic,
176
552484
2093
ما چیز خیلی ساده‌ای را انتخاب کردیم،
09:26
and what we found
was that high-empathy people
was that high-empathy people
177
554601
3480
و ما پی بردیم که انسان‌های خیلی دلسوز
09:30
would hesitate more to hit the HEXBUGS.
178
558105
2143
از ضربه زدن به روبات هگزباگس طفره رفتند.
09:33
Now this is just a little study,
179
561575
1564
این تقریباً یک بررسی کوچک بود،
09:35
but it's part of a larger body of research
180
563163
2389
اما بخشی از یک تحقیق وسیعتر
09:37
that is starting to indicate
that there may be a connection
that there may be a connection
181
565576
2944
که نشان داد که ممکن است ارتباطی میان
09:40
between people's tendencies for empathy
182
568544
2373
گرایش انسانها به همدلی و
09:42
and their behavior around robots.
183
570941
1976
رفتار آنها با روباتها وجود داشته باشد.
09:45
But my question for the coming era
of human-robot interaction
of human-robot interaction
184
573721
3627
اما پرسش ما برای دوره پیشرو از
ارتباطات انسان-روبات این نیست:
ارتباطات انسان-روبات این نیست:
09:49
is not: "Do we empathize with robots?"
185
577372
3055
" آیا ما با روباتها احساس همدرهی کنیم؟"
09:53
It's: "Can robots change
people's empathy?"
people's empathy?"
186
581211
2920
بلکه "آیا روباتها قادرند حس
همدلی انسانها را تغییر دهند؟"
همدلی انسانها را تغییر دهند؟"
09:57
Is there reason to, for example,
187
585489
2287
برای مثال آیا دلیلی وجود دارد
09:59
prevent your child
from kicking a robotic dog,
from kicking a robotic dog,
188
587800
2333
فرزندانمان را از ضربه زدن
به یک سگ روباتیک
به یک سگ روباتیک
10:03
not just out of respect for property,
189
591228
2914
نه تنها بدلیل حفظ متعلقات باز بداریم،
10:06
but because the child might be
more likely to kick a real dog?
more likely to kick a real dog?
190
594166
2953
بلکه به این دلیل که کودکان
به احتمال زیاد سگ واقعی را می‌زنند؟
به احتمال زیاد سگ واقعی را می‌زنند؟
10:10
And again, it's not just kids.
191
598507
1883
و دوباره خاطر نشان می‌شود،
این تنها مختص به کودکان نیست
این تنها مختص به کودکان نیست
10:13
This is the violent video games question,
but it's on a completely new level
but it's on a completely new level
192
601564
4056
مسئله بازی‌های ویدیویی خشونت‌آمیز است،
اما این یک سطح کاملاً جدید است
اما این یک سطح کاملاً جدید است
10:17
because of this visceral physicality
that we respond more intensely to
that we respond more intensely to
193
605644
4760
بدلیل اینکه این یک واکنش
ناخودآگاه شدیدی است که ما به تصاویر
ناخودآگاه شدیدی است که ما به تصاویر
10:22
than to images on a screen.
194
610428
1547
تلویزیون نشان می‌دهیم.
10:25
When we behave violently towards robots,
195
613674
2578
هنگامیکه ما رفتار شدیدی
با روباتها به ویژه
با روباتها به ویژه
10:28
specifically robots
that are designed to mimic life,
that are designed to mimic life,
196
616276
3120
روبات‌های که برای تقلید
زندگی طراحی شده‌اند،
زندگی طراحی شده‌اند،
10:31
is that a healthy outlet
for violent behavior
for violent behavior
197
619420
3892
آیا آن یک بازخورد درست
برای رفتار خشونت آمیز است
برای رفتار خشونت آمیز است
10:35
or is that training our cruelty muscles?
198
623336
2544
یا آن که ابزار بی‌رحمی را پرورش می‌دهند؟
10:39
We don't know ...
199
627511
1150
ما نمی‌دانیم …
10:42
But the answer to this question has
the potential to impact human behavior,
the potential to impact human behavior,
200
630622
3945
اما پاسخ به این پرسش دارای
نقش تاثیرگذار بر رفتار انسانی است،
نقش تاثیرگذار بر رفتار انسانی است،
10:46
it has the potential
to impact social norms,
to impact social norms,
201
634591
2768
دارای پتانسیل تاثیرگذاری بر
هنجار‌های اجتماعی است،
هنجار‌های اجتماعی است،
10:49
it has the potential to inspire rules
around what we can and can't do
around what we can and can't do
202
637383
3849
دارای پتانسیل تاثیرگذار بر اصول الهام بخش
در محدوده آنچه می‌توانیم و نمی‌توانیم
در محدوده آنچه می‌توانیم و نمی‌توانیم
10:53
with certain robots,
203
641256
1151
با روبات‌های ویژه همچون
10:54
similar to our animal cruelty laws.
204
642431
1848
قوانین آزار حیوانات انجام دهیم.
10:57
Because even if robots can't feel,
205
645228
2864
زیرا اگرچه روباتها قادر به احساس نیستند،
11:00
our behavior towards them
might matter for us.
might matter for us.
206
648116
3080
رفتار ما با آنها ممکن است
برای ما اهمیت داشته باشد.
برای ما اهمیت داشته باشد.
11:04
And regardless of whether
we end up changing our rules,
we end up changing our rules,
207
652889
2855
و فارغ از اینکه ما در نهایت
قوانین‌مان تغییر بدهیم،
قوانین‌مان تغییر بدهیم،
11:08
robots might be able to help us
come to a new understanding of ourselves.
come to a new understanding of ourselves.
208
656926
3556
روباتها باید قادر باشند تا ما را
یاری دهند تا خودمان را بهتر بشناسیم.
یاری دهند تا خودمان را بهتر بشناسیم.
11:14
Most of what I've learned
over the past 10 years
over the past 10 years
209
662276
2316
بیشترین چیزی که من
طی ۱۰ سال گذشته یاد گرفته‌ام
طی ۱۰ سال گذشته یاد گرفته‌ام
11:16
has not been about technology at all.
210
664616
2238
هرگز درباره تکنولوژی نبوده است.
11:18
It's been about human psychology
211
666878
2503
آن درباره روانشناسی انسان
11:21
and empathy and how we relate to others.
212
669405
2603
و همدلی و طریقه ارتباط ما با دیگران است.
11:25
Because when a child is kind to a Roomba,
213
673524
2365
زیرا هنگامیکه کودکی
با روبات رومبا مهربان باشد،
با روبات رومبا مهربان باشد،
11:29
when a soldier tries to save
a robot on the battlefield,
a robot on the battlefield,
214
677262
4015
هنگامیکه سربازی سعی می‌کند
روباتی را در جبهه جنگ نجات دهد،
روباتی را در جبهه جنگ نجات دهد،
11:33
or when a group of people refuses
to harm a robotic baby dinosaur,
to harm a robotic baby dinosaur,
215
681301
3638
یا هنگامیکه گروهی از مردم از آسیب زدن
به یک روبات دایناسور سر بازمی‌زنند.
به یک روبات دایناسور سر بازمی‌زنند.
11:38
those robots aren't just motors
and gears and algorithms.
and gears and algorithms.
216
686248
3191
این روباتها تنها موتور،
چرخ دنده‌ها و الگوریتم‌ها نیستند.
چرخ دنده‌ها و الگوریتم‌ها نیستند.
11:42
They're reflections of our own humanity.
217
690501
1905
آنها بازتاب انسانیت خود ما هستند.
11:45
Thank you.
218
693523
1151
متشکرم.
11:46
(Applause)
219
694698
3397
(تشویق)
ABOUT THE SPEAKER
Kate Darling - Robot ethicistKate Darling investigates the relationship between humans and robots -- now, and in the future.
Why you should listen
Robots are taking increasingly bigger roles in life and business -- moving well beyond manufacturing and into transportation, education, medicine, care for the elderly, our offices and our homes. But ethics and law haven't caught up. Kate Darling, a pioneer in these fields, is helping quicken the pace.
A leading expert in robot ethics, Darling is a researcher at the Massachusetts Institute of Technology (MIT) Media Lab where she investigates social robotics and conducts experimental studies on human-robot interaction. Darling explores the emotional connection between people and life-like inventions, seeking to influence technology design and policy direction. Her writing and research anticipate difficult questions that lawmakers, engineers and the wider public must address as human-robot relationships evolve in the coming decades.
While her background is in intellectual property and law and economics, Darling's passion for technology and robots led her to interdisciplinary fields. She's a former Fellow and current Affiliate at the Harvard Berkman Klein Center for Internet & Society and a former fellow at the Yale Information Society Project, and she's an affiliate at the Institute for Ethics and Emerging Technologies.
Her work has been featured in Vogue, The New Yorker, The Guardian, BBC, NPR, PBS, The Boston Globe, Forbes, CBC, WIRED, Boston Magazine, The Atlantic, Slate, Die Zeit, The Japan Times and more. She is a contributing writer to Robohub and IEEE Spectrum and speaks and holds workshops covering some of the more interesting developments in the world of robotics, and where we might find ourselves in the future.
Darling graduated from law school with honors and holds a doctorate of sciences from the Swiss Federal Institute of Technology (ETH Zurich) and an honorary doctorate of sciences from Middlebury College. In 2017, the American Bar Association honored her legal work with the Mark T. Banner award in Intellectual Property. She is the caretaker for several domestic robots, including her Pleos Yochai, Peter, and Mr. Spaghetti. She tweets as @grok_ about eating cheerios for dinner.
Kate Darling | Speaker | TED.com