ABOUT THE SPEAKER
Ken Goldberg - Roboticist
Ken Goldberg works reflect the intersection of robotics, social media, and art.

Why you should listen

Ken Goldberg is a Professor of Industrial Engineering and Operations Research in Robotics, Automation, and New Media at UC Berkeley and holds a position at UC San Francisco Medical School where he researches medical applications for robotics. Born in Nigeria and raised in Bethlehem, Pennsylvania, Ken hold degrees in Electrical Engineering and Economics from the University of Pennsylvania and received his Ph.D. in Computer Science from Carnegie Mellon University. He is widely recognized as an engineer, a teacher, and an artist – receiving the Joseph F. Engelberger Robotics Award in 2000, the IEEE Major Educational Innovation Award in 2001, and Isadora Duncan Award in 2006 for his Ballet Mori project, performed by the San Francisco Ballet. His works have been exhibited at the Whitney Biennial in New York City, the Pompidou Centre in Paris, and the Ars Electronica in Linz. His book, The Robot in the Garden, was published in March of 2000 by the MIT Press.

More profile about the speaker
Ken Goldberg | Speaker | TED.com
TEDxBerkeley

Ken Goldberg: 4 lessons from robots about being human

켄 골드버그(Ken Goldberg) : 로봇이 인간에게 주는 네 가지 교훈

Filmed:
387,467 views

로봇이 점점 우리의 일상으로 다가오면서 우리는 인간으로서 스스로를 진단해 보아야 합니다. TEDxBerkeley에서 켄 골드버그는 로봇과 함께 일하면서 그가 깨닫게 된, 매우 인간적인 네 가지 교훈을 나눕니다(TEDxBerkeley)
- Roboticist
Ken Goldberg works reflect the intersection of robotics, social media, and art. Full bio

Double-click the English transcript below to play the video.

00:16
I know this is going to sound소리 strange이상한,
0
577
2475
아마 조금 이상하게 들릴수도 있습니다.
00:18
but I think robots로봇 can inspire일으키게 하다 us
1
3052
3294
하지만 로봇이 분명 우리를
보다 나은 인간이 되도록
00:22
to be better humans인간.
2
6346
2388
고무시킬 수 있다고 생각합니다.
00:24
See, I grew자랐다 up in Bethlehem베들레헴, Pennsylvania펜실베니아,
3
8734
3629
저는 펜실베니아 주의
베들레헴에서 자랐어요.
00:28
the home of Bethlehem베들레헴 Steel강철.
4
12363
2321
"베들레헴 스틸"사의 본사가
있는 곳이지요.
00:30
My father아버지 was an engineer기사,
5
14684
2079
저희 아버지는 엔지니어였고,
00:32
and when I was growing성장하는 up, he would teach가르치다 me
6
16763
2851
제가 어릴 때 아버지께선
00:35
how things worked일한.
7
19614
1159
기계들이 어떻게 움직이는지를
가르쳐 주셨죠.
00:36
We would build짓다 projects프로젝트들 together함께,
8
20773
2815
프로젝트를 같이 하기도 했어요.
00:39
like model모델 rockets로켓 and slot슬롯 cars자동차.
9
23588
2792
장난감 로켓이나 자동차를 만들었지요.
00:42
Here's여기에 the go-kart고 카트 that we built세워짐 together함께.
10
26380
3284
아버지와 같이 만든 *고 카트* 입니다.
(역주 : 트랙 경기용 소형 자동차)
00:45
That's me behind뒤에 the wheel바퀴,
11
29664
2219
운전대를 잡고 있는 사람이 저고,
00:47
with my sister여자 형제 and my best베스트 friend친구 at the time,
12
31883
3819
제 누이와 당시 제일 친했던
친구들과 함께 찍은 사진이에요.
00:51
and one day,
13
35702
2123
하루는, 제가 10살쯤 되었을 때
00:53
he came왔다 home, when I was about 10 years연령 old늙은,
14
37825
3107
아버지께서 집에 오셔서는
00:56
and at the dinner공식 만찬 table, he announced발표하다
15
40932
2304
저녁 식사 자리에서
00:59
that for our next다음 것 project계획, we were going to build짓다 a robot기계 인간.
16
43236
6438
다음 계획에 대해 얘기해 주셨어요.
로봇을 만들거라고요.
01:05
A robot기계 인간.
17
49674
1109
로봇 말이죠.
01:06
Now, I was thrilled감동적인 about this,
18
50783
2252
저는 그 때 흥분했어요.
01:08
because at school학교,
19
53035
1590
왜냐하면 학교에서
01:10
there was a bully약한 자를 괴롭히는 사람 named명명 된 Kevin케빈,
20
54625
2075
케빈이라는 못된 녀석이 있었는데
01:12
and he was picking선발 on me
21
56700
2246
맨날 저를 귀찮게 괴롭혔어요.
01:14
because I was the only Jewish유태인 kid아이 in class수업.
22
58946
2414
제가 반에서 유일한 유대인이었거든요.
01:17
So I couldn't할 수 없었다 wait to get started시작한 to work on this
23
61360
2813
그래서 저는 이 일을
빨리 시작하고 싶었어요.
01:20
so I could introduce끼워 넣다 Kevin케빈 to my robot기계 인간. (Laughter웃음)
24
64173
3822
케빈한테 제 로봇을
보여주고 싶었거든요 (웃음)
01:23
(Robot기계 인간 noises소음)
25
67995
11063
(로봇 소음)
01:34
But that wasn't아니었다. the kind종류 of robot기계 인간 my dad아빠 had in mind마음.
26
79058
4875
하지만 아버지께서 만드시려고 했던
로봇은 저런게 아니었어요.
01:39
See, he owned소유 한 a chromium크롬 plating도금 company회사,
27
83933
3728
아버지께서는 크롬 도금 회사를
운영하고 계셨는데
01:43
and they had to move움직임
28
87661
2176
작업은 주로
01:45
heavy무거운 steel강철 parts부분품 between중에서 tanks탱크 of chemicals화학,
29
89837
3096
무거운 금속 물체를
화학물 탱크에 넣어야 하는 일이었죠.
01:48
and so he needed필요한 an industrial산업의 robot기계 인간 like this
30
92933
3790
그래서 아버지는 이런
산업용 로봇이 필요했던거에요.
01:52
that could basically원래 do the heavy무거운 lifting리프팅.
31
96723
3099
기본적으로 무거운 물체를
들기 위해서 말이죠.
01:55
But my dad아빠 didn't get the kind종류 of robot기계 인간 he wanted, either어느 한 쪽.
32
99822
3905
하지만 아버지는 이런 로봇도
가지보시지 못했죠.
01:59
He and I worked일한 on it for several수개 years연령,
33
103727
2597
여러 해 동안 아버지와 저는
이 일에 몰두했습니다.
02:02
but it was the 1970s,
34
106324
1978
하지만 1970년대에
02:04
and the technology과학 기술 that was available유효한 to amateurs아마추어
35
108302
2526
우리 같은 아마추어들이 가지고 있는 기술이란
02:06
just wasn't아니었다. there yet아직.
36
110828
2657
보잘 것 없었지요.
02:09
So Dad아빠 continued계속되는 to do this kind종류 of work by hand,
37
113485
3745
그래서 아버지께선 계속 화학물 작업을
수작업으로 할 수 밖에 없었고,
02:13
and a few조금 years연령 later후에,
38
117230
2275
몇 년이 지나
02:15
he was diagnosed진단받은 with cancer.
39
119505
4139
암 선고를 받게 됩니다.
02:19
You see, what the robot기계 인간 we were trying견딜 수 없는 to build짓다
40
123644
3305
아시겠나요? 우리가 만들려고 했던 로봇은
02:22
was telling말함 him was not about doing the heavy무거운 lifting리프팅.
41
126949
3267
단지 무거운 물체를 것을
드는 것 뿐만 아니라
02:26
It was a warning경고 about his exposure노출 to the toxic유독 한 chemicals화학.
42
130216
4308
독극 화학물에 노출되는 것을
피할 수 있는 것이었어요.
02:30
He didn't recognize인정하다 that at the time,
43
134524
2977
아버지께서 그 때는 그 것을 모르셨지요.
02:33
and he contracted옹졸한 leukemia백혈병,
44
137501
2139
결국 백혈병으로
02:35
and he died사망 한 at the age나이 of 45.
45
139640
3222
45세에 돌아가셨습니다.
02:38
I was devastated황폐화 된 by this,
46
142862
2841
그 일로 저는 절망에 빠졌어요.
02:41
and I never forgot잊어 버렸다 the robot기계 인간 that he and I tried시도한 to build짓다.
47
145703
4575
아버지와 제가 만들려고 했던 로봇을
결코 잊지 않았습니다.
02:46
When I was in college칼리지, I decided결정적인 to study연구 engineering공학, like him.
48
150278
4311
대학에 진학하게 되자,
저는 아버지처럼 기계공학을 전공하기로 결심했어요.
02:50
And I went갔다 to Carnegie카네기 Mellon멜론, and I earned벌점 my PhD박사 in robotics로봇 공학.
49
154589
4946
그리고나서 카네기 멜론대에서
로봇학으로 박사 학위를 받았습니다.
02:55
I've been studying공부하는 robots로봇 ever since이후.
50
159535
3094
그 때부터 로봇을 쭉 연구해오고 있습니다.
02:58
So what I'd like to tell you about
51
162629
1638
제가 여러분께 말씀드리고 싶은 것은
03:00
are four robot기계 인간 projects프로젝트들
52
164267
2714
네 가지의 로봇 프로젝트에 대한 내용이자
03:02
and how they've그들은 inspired영감을 얻은 me to be a better human인간의.
53
166981
7044
어떻게 로봇이 제가 더 나은 사람이 되도록
일깨워 주었는지에 대해서 입니다.
03:09
By 1993, I was a young어린 professor교수 at USCUSC,
54
174025
5749
1993년부터 저는 USC의 젊은 교수였지요.
(역주 : 남가주대학 Univ. of Southern California)
03:15
and I was just building건물 up my own개인적인 robotics로봇 공학 lab,
55
179774
3037
제가 이끄는 로봇 연구실을 만들어가고 있었고,
03:18
and this was the year that the World세계 Wide넓은 Web편물 came왔다 out.
56
182811
3585
인터넷 웹 서비스가 시작된 해였습니다.
03:22
And I remember생각해 내다 my students재학생 were the ones그들
57
186396
1176
제 학생 중 한명이 인터넷에 대해
03:23
who told me about it,
58
187572
1704
알려주었었던 일을 기억합니다.
03:25
and we would -- we were just amazed놀란.
59
189276
2619
매우 놀라웠지요.
03:27
We started시작한 playing연주하다 with this, and that afternoon대낮,
60
191895
3434
우리는 인터넷을 가지고 놀기 시작했어요.
그리고 그날 오후 우리는 이 것을 가지고
03:31
we realized깨달은 that we could use this new새로운, universal만능인 interface인터페이스
61
195329
3853
새로운 세계적 인터페이스로
사용할 수 있다는 것을 깨달았어요.
03:35
to allow허용하다 anyone누군가 in the world세계
62
199182
2543
세계 어느 곳에 있는 누구라도
03:37
to operate조작하다 the robot기계 인간 in our lab.
63
201725
3048
우리 연구실에 있는 로봇을
움직일 수 있도록 말이죠.
03:40
So, rather차라리 than have it fight싸움 or do industrial산업의 work,
64
204773
5708
우리는 군용이나 산업용 로봇보다
03:46
we decided결정적인 to build짓다 a planter파종기,
65
210481
2486
식물을 키우는 로봇을 만들기로 했어요.
03:48
put the robot기계 인간 into the center센터 of it,
66
212967
1976
우리가 *"원격 정원"*이라 이름 붙인
(역주 : telegarden = tele- + garden)
03:50
and we called전화 한 it the Telegarden텔레 가든.
67
214943
2353
정원 가운데에 로봇을 놓고
03:53
And we had put a camera카메라 in the gripper그리퍼 of the hand
68
217296
3603
카메라를 로봇의 손에 달아
03:56
of the robot기계 인간, and we wrote some special특별한 scripts스크립트
69
220899
2709
특별한 명령문을 만들어서
03:59
and software소프트웨어 so that anyone누군가 in the world세계 could come in
70
223608
3161
전세계의 누구나 마우스를 클릭해서
04:02
and by clicking클릭 on the screen화면
71
226769
2329
로봇의 팔을 움직이고
04:04
they could move움직임 the robot기계 인간 around
72
229098
2173
화면을 통해서
04:07
and visit방문 the garden정원.
73
231271
2316
정원을 볼 수 있도록 했습니다.
04:09
But we also또한 allowed허용 된, set세트 up some other software소프트웨어
74
233587
3620
우리는 소프트웨어를 추가해서
04:13
that lets~시키다 you participate어느 정도 가지다 and help us water the garden정원
75
237207
3419
원격으로 정원에 물을 줄 수 있게 했고,
04:16
remotely떨어져서, and if you water it a few조금 times타임스,
76
240626
3045
정원에 물을 몇 번 이상 주면
04:19
we'd우리는 give you your own개인적인 seed to plant식물.
77
243671
3585
자신이 심울 수 있도록 씨앗을 주었어요.
04:23
Now, this was a project계획, an engineering공학 project계획,
78
247256
3271
이것은 공학적 프로젝트였고,
04:26
and we published출판 된 some papers서류 on the design디자인,
79
250527
2776
시스템 디자인에 관한 논문을 발표했어요.
04:29
the system체계 design디자인 of it, but we also또한 thought of it
80
253303
2249
그러나 우리는 한편으로
04:31
as an art미술 installation설치.
81
255552
3086
이것을 예술 작품이라고 생각했습니다.
04:34
It was invited초대 된, after the first year,
82
258638
2173
5년 후에 이 정원 프로젝트는
04:36
by the ArsArs Electronica일렉트로 니카 Museum박물관 in Austria오스트리아
83
260811
3044
오스트리아에 있는 알스 일렉트로니카 박물관의
04:39
to have it installed설치된 in their그들의 lobby로비,
84
263855
3000
로비에 설치되었습니다.
04:42
and I'm happy행복 to say it remained남은 online온라인 there,
85
266855
2418
이 작품이 9년 동안에 걸쳐 지금도
04:45
24 hours시간 a day, for almost거의 nine아홉 years연령.
86
269273
4983
24시간 동안 온라인으로
작동한다는 것이 기쁩니다.
04:50
That robot기계 인간 was operated움직이는 by more people
87
274256
3799
이 로봇은 역사상 어느 로봇보다
04:53
than any other robot기계 인간 in history역사.
88
278055
3086
가장 많은 사람이 작동시켜본 로봇입니다.
04:57
Now, one day,
89
281141
1554
어느 날
04:58
I got a call out of the blue푸른
90
282695
2317
저는 한 학생으로부터
05:00
from a student학생,
91
285012
2015
뜻밖의 전화를 받았습니다.
05:02
who asked물었다 a very simple단순한 but profound깊은 question문제.
92
287027
4670
그 학생은 간단하지만
심오한 질문을 던졌습니다.
05:07
He said, "Is the robot기계 인간 real레알?"
93
291697
4538
"로봇은 실제인가요?"
05:12
Now, everyone각자 모두 else그밖에 had assumed꾸민 it was,
94
296235
2765
모든 이들이 그렇다고 생각하고,
05:14
and we knew알고 있었다 it was because we were working with it.
95
299000
2331
우리가 사용하고 있기 때문에
실제한다고 있습니다.
05:17
But I knew알고 있었다 what he meant의미심장 한,
96
301331
1540
하지만 저는 그가
무슨 의미로 물었는지 알았어요.
05:18
because it would be possible가능한 to take a bunch다발 of pictures영화
97
302871
2593
왜냐하면 정원의 꽃들을 촬영하고
05:21
of flowers꽃들 in a garden정원 and then, basically원래, index색인 them
98
305464
4361
사진들을 컴퓨터 시스템으로
05:25
in a computer컴퓨터 system체계 such이러한 that it would appear나타나다
99
309825
2229
분류하는 등 그곳에 로봇이 없는데도
05:27
that there was a real레알 robot기계 인간 when there wasn't아니었다..
100
312054
3074
있는 것처럼 느껴지는 것이
가능하기 때문입니다.
05:31
And the more I thought about it, I couldn't할 수 없었다 think
101
315128
1241
그 문제에 대해 더 고민해보니,
05:32
of a good answer대답 for how he could tell the difference.
102
316369
3551
어떻게 차이를 구별할 수 있는지에 대한
좋은 답이 생각났습니다.
05:35
This was right about the time that I was offered제안 된 a position위치
103
319920
2887
마침 그 때 버클리대에
05:38
here at Berkeley버클리,
104
322807
2073
교수직을 제안 받았습니다.
05:40
and when I got here, I looked보았다 up Hubert허버트 Dreyfus드레퓌스,
105
324880
3552
이곳에 와서 세계적으로 유명한
05:44
who's누가 a world-renowned세계적으로 유명한 professor교수 of philosophy철학,
106
328432
3665
철학자이신 허버트 드레퓌스 교수님을 찾아가
05:47
and I talked말한 with him about this, and he said,
107
332097
2374
이 문제를 말씀드렸을 때, 교수님께서는
05:50
"This is one of the oldest가장 오래된 and most가장 central본부 problems문제들
108
334471
3560
"가장 오래되고 근본적인 철학의 문제 중 하나로
05:53
in philosophy철학. It goes간다 back to the Skeptics회의론자,
109
338031
3602
회의파로부터 시작되어
05:57
and up through...을 통하여 Descartes데카르트.
110
341633
1960
데카르트에 이르는 질문입니다.
05:59
It's the issue발행물 of epistemology인식론,
111
343593
3170
인식론의 문제로서
06:02
the study연구 of how do we know that something is true참된."
112
346763
3750
어떻게 한 사물이 실제하는지
아는가에 대한 학문이죠.
06:06
So he and I started시작한 working together함께,
113
350513
2223
그래서 우리는 함께 일하기 시작했습니다.
06:08
and we coined화폐로 주조 한 a new새로운 term기간: telepistemology원격 명령론,
114
352736
3041
그리고 *"원격 인식론"*이라는 용어를 만들고,
(역주 : telepistemology = tele- + epistemology)
06:11
the study연구 of knowledge지식 at a distance거리.
115
355777
3526
원거리에 있는 지식에 대한 연구를 했습니다.
06:15
We invited초대 된 leading주요한 artists예술가들, engineers엔지니어,
116
359303
2752
유명한 예술가들과 공학자들,
06:17
and philosophers철학자 to write쓰다 essays수필 about this,
117
362055
3064
철학자들을 초청하여
이 문제에 대한 글을 쓰고
06:21
and the results결과들, the results결과들 are collected모은 in this book도서
118
365119
2340
그 결과물을 한 권으로 모아
06:23
from MITMIT Press프레스.
119
367459
2621
MIT 출판사에서 책으로 펴냈습니다.
06:25
So thanks감사 to this student학생 who questioned의문을 가진
120
370080
2332
모두가 사실이라고 생각한 문제에 대해
06:28
what everyone각자 모두 else그밖에 had assumed꾸민 to be true참된,
121
372412
2803
질문해 준 학생 덕분에 이 프로젝트에서
06:31
this project계획 taught가르쳤다 me an important중대한 lesson교훈 about life,
122
375215
4208
항상 가정에 의문을 가져야 한다는
06:35
which어느 is to always question문제 assumptions가정.
123
379423
4073
인생의 중요한 교훈을 얻었기 때문입니다.
06:39
Now, the second둘째 project계획 I'll tell you about
124
383496
2648
자, 여러분께 말씀드릴
두번째 프로젝트는
06:42
grew자랐다 out of the Telegarden텔레 가든.
125
386144
1879
"원격 정원"에서부터 파생된 것입니다.
06:43
As it was operating운영중인, my students재학생 and I were very interested관심있는
126
388023
2576
저와 제 학생들은 사람들이
06:46
in how people were interacting상호 작용하는 with each마다 other
127
390599
2762
서로 어떻게 반응하는지,
또 정원에서 무엇을 하는지가
06:49
and what they were doing with the garden정원.
128
393361
1621
매우 흥미로웠습니다.
06:50
So we started시작한 thinking생각, what if the robot기계 인간 could leave휴가
129
394982
2262
그래서 만약 로봇이 정원을 떠나
06:53
the garden정원 and go out into some other
130
397244
2083
다른 재미있는 환경으로
06:55
interesting재미있는 environment환경?
131
399327
1992
옮겨갈 수 있다면 어떨까
생각해봤습니다.
06:57
Like, for example, what if it could go to a dinner공식 만찬 party파티
132
401319
2179
예를 들어 백악관에서 열리는
06:59
at the White화이트 House? (Laughter웃음)
133
403498
5198
만찬 같은 곳에 간다면 어떨까요? (웃음)
07:04
So, because we were interested관심있는 more in the system체계 design디자인
134
408696
2841
하드웨어보다는
시스템 디자인과 사용자 인터페이스에
07:07
and the user사용자 interface인터페이스 than in the hardware하드웨어,
135
411537
3286
더 많은 흥미를 갖고 있었기 때문에
07:10
we decided결정적인 that, rather차라리 than have
136
414823
2034
사람을 대신해 파티장에 가는 로봇을 만들기 보다는
07:12
a robot기계 인간 replace바꾸다 the human인간의 to go to the party파티,
137
416857
3678
로봇을 대신한 사람을
07:16
we'd우리는 have a human인간의 replace바꾸다 the robot기계 인간.
138
420535
2843
기획해 보기로 했습니다.
07:19
We called전화 한 it the Tele-Actor텔레 - 배우.
139
423378
2600
*"원격 배우"*(Tele-Actor)라 이름 붙인
07:21
We got a human인간의,
140
425978
2032
매우 사교적이고 활동적인
07:23
someone어떤 사람 who's누가 very outgoing나가는 and gregarious사교적 인,
141
428010
3007
사람을 고용해서
07:26
and she was outfitted의상을 입은 with a helmet헬멧
142
431017
3142
다양한 장비와 카메라, 마이크가 달린 헬멧과
07:30
with various여러 equipment장비, cameras카메라 and microphones마이크,
143
434159
2570
무선 인터넷 연결 장비가 든
07:32
and then a backpack배낭 with wireless무선 전화 Internet인터넷 connection연결,
144
436729
3740
가방을 주었습니다.
07:36
and the idea생각 was that she could go into a remote and
145
440469
3359
그리고 멀리 떨어진 흥미로운 환경에 가서
07:39
interesting재미있는 environment환경, and then over the Internet인터넷,
146
443828
3815
인터넷을 통해 사람들이
07:43
people could experience경험 what she was experiencing경험하는,
147
447643
3151
그 사람이 경험하는 것을
경험할 수 있도록 하는거지요.
07:46
so they could see what she was seeing,
148
450794
2937
그러니까 그 사람이 보는 것을
사람들이 볼 수 있도록 하는거지요.
07:49
but then, more importantly중요하게, they could participate어느 정도 가지다
149
453731
3307
하지만 더욱 중요한 것은 사람들이
07:52
by interacting상호 작용하는 with each마다 other
150
457038
2948
서로 교류하며 참여하고
07:55
and coming오는 up with ideas아이디어 about what she should do next다음 것
151
459986
3705
다음에 그가 무엇을 해야 하는지,
07:59
and where she should go,
152
463691
2216
어디로 가야 하는지를 정해서
08:01
and then conveying전달 those to the Tele-Actor텔레 - 배우.
153
465907
3162
"원격 배우"에게 전달해 주는 것이었습니다.
08:04
So we got a chance기회 to take the Tele-Actor텔레 - 배우
154
469069
2445
이 "원격 배우"를 샌프란시스코에서 열리는
08:07
to the WebbyWebby Awards수상 내역 in San FranciscoFrancisco,
155
471514
3615
웨비 시상식에 보낼 수 있는
기회를 얻었습니다.
08:11
and that year, Sam Donaldson도날드슨 was the host숙주.
156
475129
4111
그 해의 사회자는 샘 도날슨이었습니다.
08:15
Just before the curtain커튼 went갔다 up, I had about 30 seconds
157
479240
3642
막이 오르기 직전에 딱 30초 간
08:18
to explain설명 to Mr. Donaldson도날드슨 what we were gonna do,
158
482882
4458
그에게 우리가 뭘할 건지
설명할 수 있는
08:23
and I said, "The Tele-Actor텔레 - 배우
159
487340
1864
시간이 있었어요.
08:25
is going to be joining합류 you on stage단계,
160
489204
2456
"이 '원격 배우'는 당신과 함께
무대에 올라갈 거에요.
08:27
and this is a new새로운 experimental실험적인 project계획,
161
491660
2198
새로운 시험적인 프로젝트인데,
08:29
and people are watching보고있다 her on their그들의 screens스크린,
162
493858
2625
사람들은 화면을 통해 그 사람을 보고요,
08:32
and she's got -- there's cameras카메라 involved뒤얽힌 and there's
163
496483
2305
카메라랑 마이크가 필요합니다,
08:34
microphones마이크 and she's got an earbud이어 버드 in her ear,
164
498788
2911
그리고 귀에 이어폰을 낄 겁니다..
08:37
and people over the network회로망 are giving주는 her advice조언
165
501699
1447
사람들이 네트워크를 통해 그 사람에게
08:39
about what to do next다음 것."
166
503146
1368
다음에 뭘 할지 알려줄꺼에요."
08:40
And he said, "Wait a second둘째,
167
504514
3209
그러자 그가 말했습니다,
08:43
that's what I do." (Laughter웃음)
168
507723
6375
"잠깐만요, 그건 제가 하는 건데요." (웃음)
08:49
So he loved사랑하는 the concept개념,
169
514098
1931
하여간 그는 프로젝트의 컨셉을 좋아했어요.
08:51
and when the Tele-Actor텔레 - 배우 walked걸었다 onstage무대 위에,
170
516029
2340
그리고 "원격 배우"가 무대에 올랐을 때
08:54
she walked걸었다 right up to him, and she gave him a big kiss키스
171
518369
2821
그 사람은 그대로 사회자에게 가서
08:57
right on the lips입술. (Laughter웃음)
172
521190
3106
그의 입술에 진하게 키스를 했어요. (웃음)
09:00
We were totally전적으로 surprised놀란.
173
524296
1131
우리는 모두 완전히 놀랐지요.
09:01
We had no idea생각 that would happen우연히 있다.
174
525427
2017
무슨 일이 벌어질지 전혀 몰랐거든요.
09:03
And he was great. He just gave her a big hug포옹 in return반환,
175
527444
2692
사회자도 대단했어요.
그녀를 꼭 안아주었죠.
09:06
and it worked일한 out great.
176
530136
1769
프로젝트는 성공적이었습니다.
09:07
But that night, as we were packing포장 up,
177
531905
2064
그러나 그날 짐을 꾸리면서
09:09
I asked물었다 the Tele-Actor텔레 - 배우, how did the Tele-Directors텔레 디렉터
178
533969
3608
"원격 배우"에게 물었습니다.
어떻게 "원격 감독" 들이
09:13
decide결정하다 that they would give a kiss키스 to Sam Donaldson도날드슨?
179
537577
5558
사회자에게 키스를 하도록
지시할 수 있었는지를요.
09:19
And she said they hadn't~하지 않았다.
180
543135
2212
그녀는 그런 적이 없다고 하더라고요.
09:21
She said, when she was just about to walk산책 on stage단계,
181
545347
2434
무대에 오르기 직전까지도
09:23
the Tele-Directors텔레 디렉터 were still trying견딜 수 없는 to agree동의하다 on what to do,
182
547781
2312
"원격 감독"들은 여전히
다음에 뭘 할지를 의논중이었어요.
09:25
and so she just walked걸었다 on stage단계 and did
183
550093
2407
그래서 그녀는 그대로 무대에 올라가
09:28
what felt펠트 most가장 natural자연스러운. (Laughter웃음)
184
552500
5522
가장 자연스럽다고 생각되는 일을
했다더군요. (웃음)
09:33
So, the success성공 of the Tele-Actor텔레 - 배우 that night
185
558022
3670
즉 그날 밤 "원격 배우" 프로젝트의 성공은
09:37
was due정당한 to the fact that she was a wonderful훌륭한 actor배우.
186
561692
4373
그녀가 훌륭한 배우였기 때문이었지요.
09:41
She knew알고 있었다 when to trust믿음 her instincts본능,
187
566065
2357
그녀는 언제 자신의 본능을 믿어야 하는지를 알았고,
09:44
and so that project계획 taught가르쳤다 me another다른 lesson교훈 about life,
188
568422
3864
저는 이 프로젝트를 통해
또다른 인생의 교훈을 얻었습니다.
09:48
which어느 is that, when in doubt의심, improvise즉석에서 연주하다. (Laughter웃음)
189
572286
6379
의심스러울 때는,
즉흥적으로 하라는 것이죠. (웃음)
09:54
Now, the third제삼 project계획 grew자랐다 out of
190
578665
3080
세번째 프로젝트는 아버지께서
09:57
my experience경험 when my father아버지 was in the hospital병원.
191
581745
4893
병원에 계실 때의 경험을
바탕으로 시작되었습니다.
10:02
He was undergoing겪고있는 a treatment치료,
192
586638
2240
아버지는 화학 치료를 받고 있었어요.
10:04
chemotherapy화학 요법 treatments치료법, and there's a related관련 treatment치료
193
588878
3633
그리고 근접 방사선 치료라는
다른 치료가 있었는데,
10:08
called전화 한 brachytherapy근접 치료, where tiny작은, radioactive방사성의 seeds씨앗
194
592511
5048
이 치료는 매우 작은 방사능 핵을
10:13
are placed배치 된 into the body신체 to treat cancerous암이있는 tumors종양.
195
597559
4211
몸 속에 있는 암 종양에
집어 넣는 방법입니다.
10:17
And the way it's done끝난, as you can see here,
196
601770
2097
여기 보시는 것처럼
이 치료를 위해서는
10:19
is that surgeons외과의 사 insert끼워 넣다 needles바늘 into the body신체
197
603867
4391
의사가 몸 속에 바늘을 찔러넣어
10:24
to deliver배달 the seeds씨앗, and all this,
198
608258
2592
방사능 핵을 넣어야 합니다.
10:26
all these needles바늘 are inserted삽입 된 in parallel평행,
199
610850
3433
바늘은 평행하게 삽입되는데
10:30
so it's very common공유지 that some of the needles바늘
200
614283
2975
종종 몇몇 바늘이
10:33
penetrate침투하다 sensitive민감한 organs장기, and as a result결과,
201
617258
4817
민감한 장기를 통과하면서
10:37
the needles바늘 damage손해 these organs장기, cause원인 damage손해
202
622075
5063
장기들을 손상시키고
10:43
which어느 leads리드 to trauma외상 and side측면 effects효과.
203
627138
3487
심한 외상이나 부작용을 일으킵니다.
10:46
So my students재학생 and I wondered궁금해하는, what if we could
204
630625
2500
그래서 학생들과 함께
10:49
modify수정하다 the system체계
205
633125
3485
만약 시스템을 개선해서 바늘이 서로 다른 각도로
10:52
so that the needles바늘 could come in at different다른 angles각도?
206
636610
3785
삽입되게 하면 어떨지를 생각해 봤습니다.
10:56
So we simulated시뮬레이션 된 this, and we developed개발 된 some
207
640395
2777
시험을 거쳐 우리는 개선된 알고리즘을 만들고
10:59
optimization최적화 algorithms알고리즘 and we simulated시뮬레이션 된 this,
208
643172
2589
이를 다시 시험해봤습니다.
11:01
and we were able할 수 있는 to show보여 주다 that we are able할 수 있는 to avoid기피
209
645761
2277
이렇게해서 민감한 장기를
건드리지 않고도
11:03
the delicate섬세한 organs장기 and yet아직 still achieve이루다 the coverage적용 범위
210
648038
3767
종양에 접근해서 방사능 핵을
11:07
of the tumors종양 with the radiation방사.
211
651805
3508
집어 넣을 수 있다는 것을
보여줄 수 있었지요.
11:11
So now, we're working with doctors의사들 at UCSFUCSF
212
655313
3498
이제 UCSF의 의사들과
(역주 : Univ. of California, San Fransisco)
11:14
and engineers엔지니어 at Johns존스 Hopkins홉킨스
213
658811
2696
존스 홉킨스대의 공학자들과 함께
11:17
and we're building건물 a robot기계 인간 that has a number번호 of,
214
661507
3582
여러 대의 로봇을 만들고 있습니다.
11:20
it's a specialized전문화 된 design디자인 with different다른 joints관절 that can allow허용하다
215
665089
3257
이 로봇은 서로 다른 관절을 가진
특별한 디자인을 통해
11:24
the needles바늘 to come in at an infinite무한의 variety종류 of angles각도,
216
668346
4258
수없이 다양한 각도에서
바늘을 삽입할 수 있어서
11:28
and as you can see here, they can avoid기피 delicate섬세한 organs장기
217
672604
3166
여기서 볼 수 있듯이,
민감한 장기를 피해
11:31
and still reach범위 the targets표적 they're aiming조준 for.
218
675770
4138
목표에 닿을 수 있습니다.
11:35
So, by questioning질문 this assumption인수 that all the needles바늘
219
679908
3317
바늘은 평행하게 들어가야 한다는 가정에 대해
11:39
have to be parallel평행, this project계획 also또한 taught가르쳤다 me
220
683225
2945
의문을 품은 결과, 이 프로젝트를 통해
11:42
an important중대한 lesson교훈: When in doubt의심 --
221
686170
3300
저는 중요한 교훈을 얻었습니다. 의심이 들 때,
11:45
When your path통로 is blocked막힌, pivot피벗.
222
689470
4367
길이 막혔을 때는
다르게 보아야 한다는 것이지요.
11:49
And the last project계획 also또한 has to do with medical의료 robotics로봇 공학.
223
693837
4401
마지막으로 말씀드릴 프로젝트 역시 의학 로봇인데,
11:54
And this is something that's grown성장한 out of a system체계 called전화 한
224
698238
4040
"다빈치 수술 로봇"이라고 불리는
11:58
the da Vinci빈치 surgical수술 robot기계 인간,
225
702278
3588
시스템으로부터 시작되었습니다.
12:01
and this is a commercially상업적으로 available유효한 device장치.
226
705866
2468
이 로봇은 시장에서 판매되고 있지요.
12:04
It's being존재 used in over 2,000 hospitals병원 around the world세계,
227
708334
3332
전세계 2천여 곳의 병원에서 사용 중입니다.
12:07
and the idea생각 is it allows허락하다 the surgeon외과 의사
228
711666
2528
외과 의사들이 자신에게 익숙한 틀로
12:10
to operate조작하다 comfortably편안하게 in his own개인적인 coordinate동등 어구 frame,
229
714194
4249
조정할 수 있도록 하기 위해
프로젝트를 시작했어요.
12:14
but many많은 of the subtasks하위 작업 in surgery외과
230
718443
4991
그러나 수술의 많은 부차적인 일들은
12:19
are very routine루틴 and tedious지루한, like suturing봉합,
231
723434
3047
봉합과 같이 매우 반복적이고 지루한 일들이지요.
12:22
and currently현재, all of these are performed수행 한
232
726481
2365
그리고 이런 일들은 모두 외과의들의
12:24
under아래에 the specific특유한 and immediate즉시의 control제어 of the surgeon외과 의사,
233
728846
4420
직접적이고 특별한 통제속에서 이루어지기 때문에
12:29
so the surgeon외과 의사 becomes된다 fatigued피곤한 over time.
234
733266
2658
시간이 지날수록 외과의들은 피곤해집니다.
12:31
And we've우리는 been wondering궁금해하는,
235
735924
1295
만약 로봇을 프로그래밍해서
12:33
what if we could program프로그램 the robot기계 인간
236
737219
2265
이와 같은 일부 보조 작업들을
12:35
to perform행하다 some of these subtasks하위 작업,
237
739484
2487
로봇이 수행할 수 있도록 한다면
12:37
and thereby그것에 의하여 free비어 있는 the surgeons외과의 사 to focus초점
238
741971
1720
외과의들이 더욱 복잡한 수술 과정에
12:39
on the more complicated복잡한 parts부분품 of the surgery외과,
239
743691
2656
집중할 수 있고, 또한 로봇이 일하는 속도를
12:42
and also또한 cut절단 down on the time that the surgery외과 would take
240
746347
3248
더 빠르게 한다면 수술에 걸리는 시간을
12:45
if we could get the robot기계 인간 to do them a little bit비트 faster더 빠른?
241
749595
3023
줄일 수 있지 않을까 생각했습니다.
12:48
Now, it's hard단단한 to program프로그램 a robot기계 인간 to do delicate섬세한 things
242
752618
2434
로봇이 이렇게 섬세한 일을 하도록
12:50
like this, but it turns회전 out my colleague동료, Pieter피 테르 Abbeel아벨,
243
755052
4079
프로그래밍 하는 것은 매우 어렵습니다.
12:55
who's누가 here at Berkeley버클리, has develeloped펼쳐지는
244
759131
2416
그러나 버클리대 동료인 피터 아빌은 예제를 통해
12:57
a new새로운 set세트 of techniques기법 for teaching가르치는 robots로봇 from example.
245
761547
5623
로봇을 가르칠 수 있는 기술을 개발했습니다.
13:03
So he's gotten얻은 robots로봇 to fly파리 helicopters헬리콥터,
246
767170
2767
로봇은 사람이 조종하는 것을 보고
학습을 통해
13:05
do incredibly엄청나게 interesting재미있는, beautiful아름다운 acrobatics재주 넘기,
247
769937
3104
헬리콥터를 조종해서 믿기지 않을 정도로
13:08
by watching보고있다 human인간의 experts전문가 fly파리 them.
248
773041
2719
흥미롭고 아름다운 곡예 비행을 할 수 있습니다.
13:11
So we got one of these robots로봇.
249
775760
2588
이 로봇을 한 대 구해서,
13:14
We started시작한 working with Pieter피 테르 and his students재학생,
250
778348
2182
피터 교수와 그의 학생들과 함께
작업을 시작했습니다.
13:16
and we asked물었다 a surgeon외과 의사 to perform행하다
251
780530
2663
외과의에게 작업을 하도록 요청하고
13:19
a task태스크, and what we do is we, with the robot기계 인간,
252
783193
4451
우리는 로봇을 가지고 그 일을 했습니다.
13:23
so what we're doing is asking질문 the robot기계 인간,
253
787644
2063
즉 우리는 외과의와 로봇에게
13:25
the surgeon외과 의사 to perform행하다 the task태스크,
254
789707
1278
같은 작업을 하도록 요청한 것이죠.
13:26
and we record기록 the motions of the robot기계 인간.
255
790985
2272
그리고 로봇의 움직임을 기록했습니다.
13:29
So here's여기에 an example. I'll use a figure그림 eight여덟,
256
793257
2128
여기 예제가 있는데, 8자 모양을 사용해서
13:31
tracing트레이싱 out a figure그림 eight여덟 as an example.
257
795385
2240
그대로 따라가는 움직임을 사용해 보겠습니다.
13:33
So here's여기에 what it looks외모 like when the robot기계 인간,
258
797625
3630
여기 로봇이 움직인 경로는
13:37
this is what the robot's로봇 path통로 looks외모 like,
259
801255
2317
이렇게 보입니다.
13:39
those three examples예제들.
260
803572
1174
세가지 예가 있지요.
13:40
Now, those are much better than what a novice초심자
261
804746
2462
이 움직임은 저같은 초보가 하는 것보다 훨씬 낫지만
13:43
like I could do, but they're still jerky말린 고기 and imprecise부정확 한.
262
807208
4657
아직 고르지 못하고 부정확하지요.
13:47
So we record기록 all these examples예제들, the data데이터,
263
811865
2072
그래서 모든 예제를 기록해서 데이터화하여
13:49
and then we go through...을 통하여 a sequence순서 of steps걸음.
264
813937
3712
단계별 순서를 만들었습니다.
13:53
First, we used a technique기술 called전화 한 dynamic동적 time warping뒤틀림
265
817649
3632
먼저 음성인식을 통한 동적 시간 정합이라는
13:57
from speech연설 recognition인식, and this allows허락하다 us to
266
821281
2182
기술을 이용해 임시적으로
13:59
temporally일시적으로 align정렬하다 all of the examples예제들,
267
823463
2840
모든 예제를 일치시킨 다음
14:02
and then we apply대다 Kalman칼만 filtering필터링,
268
826303
2929
제어 이론의 기술인
14:05
a technique기술 from control제어 theory이론, that allows허락하다 us
269
829232
2983
칼만필터를 적용하여
14:08
to statistically통계적으로 analyze분석하다 all the noise소음
270
832215
2672
통계적으로 모든 잡음을 분석한 뒤
14:10
and extract추출물 the desired원한 trajectory사선 that underlies기초가되는 them.
271
834887
6183
그 안에서 원하는 궤적을 추출해냈습니다.
14:16
Now, so what we're doing is that we take those
272
841070
1994
이제 할 일은 이렇게
사람이 하는 시연을 차용해
14:18
human인간의 demonstrations시위, they're all noisy시끄러운 and imperfect불완전한,
273
843064
2023
잡음과 부정확함으로부터
14:20
and we extract추출물 from them an inferred유추 된 task태스크 trajectory사선
274
845087
3091
추정되는 작업의 궤적을 추출하여
14:24
and control제어 sequence순서 for the robot기계 인간.
275
848178
3003
로봇을 제어하는 순서를 만드는 것이죠.
14:27
We then execute실행하다 that on the robot기계 인간,
276
851181
2184
그리고 로봇에 적용해 작동해 봅니다.
14:29
we observe관찰하다 what happens일이,
277
853365
2172
어떻게 작동하는지를 관찰하고
14:31
then we adjust맞추다 the controls통제 수단 using~을 사용하여 a sequence순서 of techniques기법
278
855537
2662
길잡이에 맞도록 제어를 조정합니다.
14:34
called전화 한 iterative반복적 인 learning배우기.
279
858199
2930
반복학습이지요.
14:37
Then what we do is, we increase증가하다 the velocity속도 a little bit비트.
280
861129
3977
그 다음으로 속도를 조금씩 올려
14:41
We observe관찰하다 the results결과들, adjust맞추다 the controls통제 수단 again,
281
865106
3563
결과를 관찰하고, 제어를 재조정하고,
14:44
and observe관찰하다 what happens일이.
282
868669
2522
다시 관찰합니다.
14:47
And we go through...을 통하여 this several수개 rounds순찰.
283
871191
2136
여러번 이 작업을 반복해서
14:49
And here's여기에 the result결과.
284
873327
1356
이런 결과를 얻었습니다.
14:50
That's the inferred유추 된 task태스크 trajectory사선,
285
874683
1845
이것이 추론된 작업 궤적입니다.
14:52
and here's여기에 the robot기계 인간 moving움직이는 at the speed속도 of the human인간의.
286
876528
3463
이것은 사람이 하는 속도로
로봇이 움직이는 것이고,
14:55
Here's여기에 four times타임스 the speed속도 of the human인간의.
287
879991
2442
이것은 그 4배의 속도,
14:58
Here's여기에 seven일곱 times타임스.
288
882433
2571
이것은 그 7배 속도이고,
15:00
And here's여기에 the robot기계 인간 operating운영중인 at 10 times타임스
289
885004
3637
이것은 10배의 속도로
15:04
the speed속도 of the human인간의.
290
888641
2200
작업하는 모습입니다.
15:06
So we're able할 수 있는 to get a robot기계 인간 to perform행하다 a delicate섬세한 task태스크,
291
890841
2950
이렇게 수술의 부차적인 일 같은
섬세한 작업을
15:09
like a surgical수술 subtask하위 작업,
292
893791
3224
사람보다 10배 빠른 속도로 할 수 있는
15:12
at 10 times타임스 the speed속도 of a human인간의.
293
897015
3247
로봇을 만들 수 있게 되었습니다.
15:16
So this project계획 also또한, because of its involved뒤얽힌 practicing연습하는
294
900262
4223
이 프로젝트는 연습과 학습, 즉
15:20
and learning배우기, doing something over and over again,
295
904485
2173
어떤 일을 계속 반복해서 하는 일이
15:22
this project계획 also또한 has a lesson교훈, which어느 is,
296
906658
2757
중요한 부분이기 때문에
역시 교훈을 가지고 있습니다.
15:25
if you want to do something well,
297
909415
3126
무엇인가 잘 하고 싶은 일이 있다면,
15:28
there's no substitute대용품 for practice연습, practice연습, practice연습.
298
912541
7948
반복되는 연습을 대체할 수 있는 것은
없다는 점이죠.
15:36
So these are four of the lessons수업 that I've learned배운
299
920505
3120
이 네 가지가 제가 몇 년 간
로봇과 로봇학으로부터
15:39
from robots로봇 over the years연령,
300
923625
3127
배운 교훈들입니다.
15:42
and robotics로봇 공학, the field of robotics로봇 공학 has gotten얻은 much better
301
926752
5369
로봇학 분야는 해가 지날 수록
15:48
over time.
302
932121
2168
점점 발전하고 있습니다.
15:50
Nowadays현대, high높은 school학교 students재학생 can build짓다 robots로봇
303
934289
2167
오늘날 고등학생들도
아버지와 제가 만들려고 했던
15:52
like the industrial산업의 robot기계 인간 my dad아빠 and I tried시도한 to build짓다.
304
936456
4025
산업용 로봇 같은 것을
만들 수 있습니다.
15:56
And now, I have a daughter,
305
940481
6982
그리고 제게는
16:03
named명명 된 Odessa오데사.
306
947463
2386
오데사란 이름의 8살 난
16:05
She's eight여덟 years연령 old늙은,
307
949849
1833
딸이 하나 있습니다.
16:07
and she likes좋아하는 사람 robots로봇, too.
308
951682
2424
그 아이도 로봇을 좋아하지요.
16:10
Maybe it runs뛰다 in the family가족. (Laughter웃음)
309
954106
2414
아마도 유전인가 봅니다. (웃음)
16:12
I wish소원 she could meet만나다 my dad아빠.
310
956520
3647
할아버지를 만날 수 있었다면 좋았을텐데요.
16:16
And now I get to teach가르치다 her how things work,
311
960167
2900
딸에게 물체가 어떻게 움직이는 지를 가르치고,
16:18
and we get to build짓다 projects프로젝트들 together함께, and I wonder경이
312
963067
2772
함께 프로젝트를 기획하고 있어요.
16:21
what kind종류 of lessons수업 that she'll껍질 learn배우다 from them.
313
965839
4308
이런 것들을 통해 딸 아이가
어떤 교훈을 얻을지 궁금합니다.
16:26
Robots로봇 are the most가장 human인간의
314
970147
2607
로봇은 다른 어떤 기계들보다도
16:28
of our machines기계들.
315
972754
2229
사람을 많이 닮았습니다.
16:30
They can't solve풀다 all of the world's세계의 problems문제들,
316
974983
3085
로봇이 세상의 모든 문제를 해결할 수는 없지만,
16:33
but I think they have something important중대한 to teach가르치다 us.
317
978068
4358
우리에게 무언가 중요한 것을
가르쳐 준다고 생각합니다.
16:38
I invite초대 all of you to think about the innovations혁신
318
982426
3343
여러분 모두가 여러분이 관심있고,
16:41
that you're interested관심있는 in,
319
985769
2675
원하는 기계가 어떤 것인지에 대해
16:44
the machines기계들 that you wish소원 for,
320
988444
3216
혁신적인 생각을 하시길 바랍니다.
16:47
and think about what they might be telling말함 you,
321
991660
3169
그리고 그 혁신들이
여러분에게 끼칠 영향을 생각해보세요.
16:50
because I have a hunch직감
322
994829
2063
왜냐하면 많은 기술 혁신과
16:52
that many많은 of our technological기술적 인 innovations혁신,
323
996892
2087
우리가 꿈꿔왔던 장치들이
16:54
the devices장치들 we dream about,
324
998979
2658
우리를 더 나은 사람이 되기 위해
일깨워줄거라는
16:57
can inspire일으키게 하다 us to be better humans인간.
325
1001637
3964
예감이 들기 때문입니다.
17:01
Thank you. (Applause박수 갈채)
326
1005601
3585
감사합니다. (박수)
Translated by Surie Lee
Reviewed by Taejoon Roh

▲Back to top

ABOUT THE SPEAKER
Ken Goldberg - Roboticist
Ken Goldberg works reflect the intersection of robotics, social media, and art.

Why you should listen

Ken Goldberg is a Professor of Industrial Engineering and Operations Research in Robotics, Automation, and New Media at UC Berkeley and holds a position at UC San Francisco Medical School where he researches medical applications for robotics. Born in Nigeria and raised in Bethlehem, Pennsylvania, Ken hold degrees in Electrical Engineering and Economics from the University of Pennsylvania and received his Ph.D. in Computer Science from Carnegie Mellon University. He is widely recognized as an engineer, a teacher, and an artist – receiving the Joseph F. Engelberger Robotics Award in 2000, the IEEE Major Educational Innovation Award in 2001, and Isadora Duncan Award in 2006 for his Ballet Mori project, performed by the San Francisco Ballet. His works have been exhibited at the Whitney Biennial in New York City, the Pompidou Centre in Paris, and the Ars Electronica in Linz. His book, The Robot in the Garden, was published in March of 2000 by the MIT Press.

More profile about the speaker
Ken Goldberg | Speaker | TED.com

Data provided by TED.

This site was created in May 2015 and the last update was on January 12, 2020. It will no longer be updated.

We are currently creating a new site called "eng.lish.video" and would be grateful if you could access it.

If you have any questions or suggestions, please feel free to write comments in your language on the contact form.

Privacy Policy

Developer's Blog

Buy Me A Coffee