ABOUT THE SPEAKER

Janelle Shane - AI researcher
While moonlighting as a research scientist, Janelle Shane found fame documenting the often hilarious antics of AI algorithms.

Why you should listen

Janelle Shane's humor blog, AIweirdness.com, looks at, as she tells it, "the strange side of artificial intelligence." Her upcoming book, You Look Like a Thing and I Love You: How AI Works and Why It's Making the World a Weirder Place, uses cartoons and humorous pop-culture experiments to look inside the minds of the algorithms that run our world, making artificial intelligence and machine learning both accessible and entertaining.

According to Shane, she has only made a neural network-written recipe once -- and discovered that horseradish brownies are about as terrible as you might imagine.

More profile about the speaker
Janelle Shane | Speaker | TED.com

TED2019

Janelle Shane: The danger of AI is weirder than you think

Janelle Shane: ဉာဏ်ရည်တုရဲ့အန္တရာယ်က ကျွန်မတို့ထင်ထားတာထက် ကြောင်တောင်တောင်နိုင်ပါတယ်

Filmed: 2019-04-15

Readability: 4.2

376,501 views

ဉာဏ်ရည်တုရဲ့အန္တရာယ်က ကျွန်မတို့ကိုပုန်ကန်ခြင်းမဟုတ်ပါဘူး ဒါပေမဲ့ သုတေသီ Janelle Shaneပြောတာအရဆိုရင် အဲ့တာကကျွန်မတို့ပြောတဲ့အတိုင်းတိတိကျကျလုပ်ဆောင်ခြင်းဖြစ်တယ်။ ကြောင်တောင်နိုင်တာတွေကိုဝေမျှရမယ်ဆိုရင် တခါတရံလူသားတွေရဲ့ပြဿနာကိုဖြေရှင်းပေးဖို့အတွက် ဉာဏ်ရည်တုဖန်တီးထားတဲ့ကိုးရို့ကားရားနိုးစက်အသံတွေ ရေခဲမုန့်အသစ်အရသာမျိူးတွေ ဒါမှမဟုတ် လမ်းပေါ်ကကားတွေကိုမှတ်သားခြင်းတွေဖြစ်တယ်။ Shane ကတော့ဉာဏ်ရည်တုကဘာကြောင့်တကယ့်ဦးနှောက်နဲ့တိုင်းတာလို့မရသေးဘူးလဲဆိုတာကို ပြသထားပါတယ်။

Janelle Shane - AI researcher
While moonlighting as a research scientist, Janelle Shane found fame documenting the often hilarious antics of AI algorithms. Full bio

Double-click the English transcript below to play the video.

00:13

So, artificial intelligence

0

1765

3000

ပြောရမယ်ဆိုရင် မှတ်ဉာဏ်တုက

00:16

is known for disrupting
all kinds of industries.

1

4789

3529

စက်မှုလုပ်ငန်းတွေကိုတုန်လှုပ်
စေတဲ့နေရာမှာလူသိများတယ်။

00:20

What about ice cream?

2

8961

2043

ရေခဲမုန့် အကြောင်းဆိုရင်ကော။

00:23

What kind of mind-blowing
new flavors could we generate

3

11879

3639

ကျွန်မတို့စိတ်ထဲမှာတွေးထားတဲ့
အရသာအသစ်တွေကို

00:27

with the power of an advanced
artificial intelligence?

4

15542

2976

အဆင့်မြင့်တဲ့ညဏ်ရည်တု
တွေသုံးပြီးထုတ်လုပ်နိုင်မှာလား။

00:31

So I teamed up with a group of coders
from Kealing Middle School

5

19011

4161

ဒါကြောင့် Kealing အထက်တန်းကျောင်းမှာ
ကုတ်ရေးသားသူအုပ်စုတစ်စုနဲ့ အသင်းဖွဲ့ပြီး

00:35

to find out the answer to this question.

6

23196

2241

ဒီမေးခွန်းရဲ့အဖြေကို ရှာဖွေခဲ့တယ်။

00:37

They collected over 1,600
existing ice cream flavors,

7

25461

5081

သူတို့တွေက အခုလက်ရှိမှာရှိသမျှသောရေခဲ
မုန့်အရသာ ၁၆၀၀ကျော်လောက် စုဆောင်းခဲ့တယ်။

00:42

and together, we fed them to an algorithm
to see what it would generate.

8

30566

5522

ပြီးတော့ ရှိရလာတဲ့ဟာတွေကို ကွန်ပျူတာထဲ
အကုန်ထည့်ပြီး ဘာထုတ်လုပ်နိုင်မလဲ ကြည့်တယ်။

00:48

And here are some of the flavors
that the AI came up with.

9

36112

3753

ဉာဏ်ရည်တုဆီကနေ အရသာအသစ်အချို့ တွေကတော့

00:52

[Pumpkin Trash Break]

10

40444

1471

ဖရုံသီးအမှိုက်အရသာ

00:53

(Laughter)

11

41939

1402

(ရယ်သံ)

00:55

[Peanut Butter Slime]

12

43365

2469

မြေပဲထောပတ်ရေညှိအရသာ

00:58

[Strawberry Cream Disease]

13

46822

1343

စတော်ဘယ်ရီခရင်ရောဂါအရသာ

01:00

(Laughter)

14

48189

2126

(ရယ်သံ)

01:02

These flavors are not delicious,
as we might have hoped they would be.

15

50339

4597

ဒီအရသာတွေက ကျွန်မတို့
မျှော်လင့်ထားတဲ့ အရသာတွေမဟုတ်ဘူး။

01:06

So the question is: What happened?

16

54960

1864

ဒါဆို မေးခွန်းက ဘာတွေဖြစ်သွားလဲ။

01:08

What went wrong?

17

56848

1394

ဘာတွေမှားသွားတာလဲ။

01:10

Is the AI trying to kill us?

18

58266

1959

ဉာဏ်ရည်တုက လူတွေကိုပြန်သတ်နေတာလား။

01:13

Or is it trying to do what we asked,
and there was a problem?

19

61027

4310

ဒါမဟုတ် ကျွန်မတို့ပြောတဲ့အတိုင်း လုပ်ဖို့
ကြိုးစားနေတာလား ပြီးတော့ ပြဿနာရှိနေတာလား။

01:18

In movies, when something
goes wrong with AI,

20

66567

2464

ရုပ်ရှင်ထဲကလို ဉာဏ်ရည်တုက
တစ်ခုခုချိူ့ယွင်းနေတဲ့အခါ

01:21

it's usually because the AI has decided

21

69055

2712

အမြဲလိုလို ဉာဏ်ရည်တုက ဆုံးဖြတ်တာတွေက

01:23

that it doesn't want to obey
the humans anymore,

22

71791

2272

လူသားတွေကို လိုက်မနာချင်တော့တာပါ။

01:26

and it's got its own goals,
thank you very much.

23

74087

2623

သူမှာရည်ရွယ်ချက်တွေရှိလာတယ်၊
ကျေးဇူးအများကြီးတင်ပါတယ်။

01:29

In real life, though,
the AI that we actually have

24

77266

3216

တကယ်ဘ၀မှာတော့ ကျွန်မတို့မှာ
ရှိနေတဲ့ ဉာဏ်ရည်တုတွေက

01:32

is not nearly smart enough for that.

25

80506

1863

အဲ့လောက်ထိကို မစွမ်းဆောင်နိုင်သေးပါဘူး

01:34

It has the approximate computing power

26

82781

2982

ဉာဏ်ရည်တုမှာ အနီးစပ်ဆုံးတွက်ချက်
နိုင်တဲ့စွမ်းဆောင်ရည်ကတော့

01:37

of an earthworm,

27

85787

1276

တီကောင် တစ်ကောင်

01:39

or maybe at most a single honeybee,

28

87087

3403

ဒါမှမဟုတ် အများဆုံး ပျားတစ်ကောင် လောက်

01:42

and actually, probably maybe less.

29

90514

2215

တကယ်ကတော့ အဲ့ထက်လည်း
နည်းကောင်းနည်းနိုင်ပါတယ်။

01:44

Like, we're constantly learning
new things about brains

30

92753

2594

ဘာလဲဆိုတော့ ကျွန်မတို့
ဦးနှောက်အကြောင်းကိုပိုသိလာရင်

01:47

that make it clear how much our AIs
don't measure up to real brains.

31

95371

4360

ဉာဏ်ရည်တုတွေက ဦးနှောက်အစစ်တွေကို
မယှဉ်နိုင်တာကို ရှင်းလင်းစွာသိနိုင်တယ်

01:51

So today's AI can do a task
like identify a pedestrian in a picture,

32

99755

5663

ဒါကြောင့် ယနေ့ခေတ်ဉာဏ်ရည်တုက စေ့ဆော်မှု
သိပ်မရှိတာတွေပဲလုပ်နိုင်တာတွေ့ရမယ်

01:57

but it doesn't have a concept
of what the pedestrian is

33

105442

2983

သို့သော်လည်း စေ့ဆော်မှုမရှိတဲ့
သဘောတရားဆိုတာက

02:00

beyond that it's a collection
of lines and textures and things.

34

108449

4824

စာကြောင်းတွေ စာသားတွေ နဲ့အရာ၀တ္ထု
ပစ္စည်းတွေ စုဆောင်းထားတာထက်မပိုပါဘူး

02:05

It doesn't know what a human actually is.

35

113792

2521

ဉာဏ်ရည်တုက လူသားက
ဘယ်လိုလဲမျိူးလဲဆိုတာမသိနိုင်ပါဘူး

02:08

So will today's AI
do what we ask it to do?

36

116822

3282

ဒါဆိုရင် ယနေ့ခေတ်မှာရှိတဲ့ ဉာဏ်ရည်တု
တွေက ဘာတွေလုပ်ဆောင်နိုင်သလဲ

02:12

It will if it can,

37

120128

1594

တတ်နိုင်ရင် လုပ်ဆောင်ပါလိမ့်မယ်

02:13

but it might not do what we actually want.

38

121746

2726

ကျွန်မတို့ လိုချင်တာကို
လုပ်ဆောင်ပေးနိုင်မှာမဟုတ်ပါဘူး

02:16

So let's say that you
were trying to get an AI

39

124496

2415

ဒါကြောင့် ပြောရမယ်ဆိုရင် သင်က ဉာဏ်ရည်တုကို

02:18

to take this collection of robot parts

40

126935

2619

စုစည်းထားတဲ့ စက်ရုပ်အစိတ်အပိုင်း
တွေ ယူလာခိုင်းမယ်

02:21

and assemble them into some kind of robot
to get from Point A to Point B.

41

129578

4197

ပြီးရင် အပိုင်းတွေကို စက်ရုပ်ဖြစ်အောင်
ဆက်ခိုင်းပြီး အမှတ် A ကနေBကိုသွားခိုင်းမယ်

02:25

Now, if you were going to try
and solve this problem

42

133799

2481

သင်သာ အခုပြဿနာကို ကြိုးစား
ပြီးဖြေရှင်းတော့မယ်ဆိုရင်

02:28

by writing a traditional-style
computer program,

43

136304

2351

ရေးနေကျဖြစ်တဲ့ ပရိုဂရမ်ရေး
ပြီးဖြေရှင်းပါလိမ့်မယ်

02:30

you would give the program
step-by-step instructions

44

138679

3417

တစ်ဆင့်ပြီးတဆင့် ညွှန်ကြားချက်တွေပေးမယ်

02:34

on how to take these parts,

45

142120

1329

အပိုင်းတွေကို ဘယ်လိုသယ်ရမယ်

02:35

how to assemble them
into a robot with legs

46

143473

2407

ခြေထောက်ပါ အောင်ဘယ်လို တပ်ဆင်ရမယ်

02:37

and then how to use those legs
to walk to Point B.

47

145904

2942

အမှတ်B ရောက်အောင်ဘယ်လို လမ်းလျှောက်ရမယ်

02:41

But when you're using AI
to solve the problem,

48

149441

2340

ဉာဏ်ရည်တုကိုသုံးပြီး ဖြေရှင်းတော့တဲ့အခါ

02:43

it goes differently.

49

151805

1174

ခြားနားပါလိမ့်မယ်

02:45

You don't tell it
how to solve the problem,

50

153003

2382

သင်က ပြဿနာကိုဘယ်လိုဖြေရှင်းရမယ်ဆိုတာ

02:47

you just give it the goal,

51

155409

1479

ပန်းတိုင်သတ်မှတ်ရန်မပြောပြပါက

02:48

and it has to figure out for itself
via trial and error

52

156912

3262

စမ်းသပ်လိုက် မှားလိုက်နဲ့ အဖြေကိုရှာဖွေမယ်

02:52

how to reach that goal.

53

160198

1484

ပန်းတိုင်ကိုဘယ်လိုရောက်ရှိအောင်

02:54

And it turns out that the way AI tends
to solve this particular problem

54

162254

4102

ပြီးတော့ ဉာဏ်ရည်တုက သီးခြားပြဿနာ
တွေကို ဖြေရှင်းလာနိုင်လိမ့်မယ်

02:58

is by doing this:

55

166380

1484

ဒီလိုလုပ်ဆောင်ခြင်းအားဖြင့်ပေါ့

02:59

it assembles itself into a tower
and then falls over

56

167888

3367

သူ့ဘာသာ တာဝါတိုင်ထောင်မယ် ပြီးတော့ လဲကျမယ်

03:03

and lands at Point B.

57

171279

1827

အမှတ် B မှာကျမယ်

03:05

And technically, this solves the problem.

58

173130

2829

နည်းပညာဆန်စွာ ပြဿနာကိုဖြေရှင်းနိုင်မယ်

03:07

Technically, it got to Point B.

59

175983

1639

အမှတ် B ကိုရောက်အောင်လုပ်မယ်

03:09

The danger of AI is not that
it's going to rebel against us,

60

177646

4265

ဉာဏ်ရည်တုတွေရဲ့ အန္တရာယ်က
ကျွန်မတို့ကို ပုန်ကန်မှာမဟုတ်ဘူး

03:13

it's that it's going to do
exactly what we ask it to do.

61

181935

4274

ကျွန်မတို့တောင်းဆိုတဲ့ အတိုင်းတိတိ
ကျကျလုပ်ဆောင်ပေးခြင်းဖြစ်တယ်

03:18

So then the trick
of working with AI becomes:

62

186876

2498

ဉာဏ်ရည်တုကိုသုံးပြီး အလုပ်
လုပ်ရတော့ရင် နည်းလမ်းက

03:21

How do we set up the problem
so that it actually does what we want?

63

189398

3828

ကျွန်မတို့လိုချင်တာကိုလုပ်ဆောင်ပေးနိုင်
ဖို့ ပြဿနာတစ်ရပ်ကို ဘယ်လိုတည်ဆောက်ရမှာလဲ

03:26

So this little robot here
is being controlled by an AI.

64

194726

3306

ဒီမှာရှိတဲ့ စက်ရုပ်သေးသေးလေးကို
ဉာဏ်ရည်တုထိန်းချူပ်နေတယ်

03:30

The AI came up with a design
for the robot legs

65

198056

2814

ဉာဏ်ရည်တုက စက်ရုပ်ခြေထောက်တွေရဲ့
ဒီဇိုင်းကို စဉ်းစားခဲ့တယ်

03:32

and then figured out how to use them
to get past all these obstacles.

66

200894

4078

ပြီးတော့ အတားအဆီးတွေကိုကျော်လွန်ဖို့
ဒါတွေဘယ်လိုအသုံးပြုရမလဲဆိုတာ အဖြေရှာဖွေတယ်

03:36

But when David Ha set up this experiment,

67

204996

2741

ဒါပေမဲ့ David Ha က ဒီလက်တွေ့
စမ်းသပ်ချက်ကိုလုပ်ဆောင်တဲ့အခါ

03:39

he had to set it up
with very, very strict limits

68

207761

2856

သူအရမ်းအရမ်းကိုတင်းကျပ်တဲ့
ကန့်သတ်ချက်တွေနဲ့ တပ်ဆင်ခဲ့ရတယ်

03:42

on how big the AI
was allowed to make the legs,

69

210641

3292

ဉာဏ်ရည်တုက ခြေထောက်ဘယ်လောက်
ကြီးကြီး ခွင့်ပြုထားတဲ့အပေါ်မူတည်ပြီး

03:45

because otherwise ...

70

213957

1550

ဘာလို့လဲဆိုတော့ အဲ့လိုမှမဟုတ်ရင်

03:55

(Laughter)

71

223058

3931

(ရယ်သံ)

04:00

And technically, it got
to the end of that obstacle course.

72

228563

3745

ပြီးတော့ နည်းပညာဆန်ဆန် အတားအဆီး
ကျော်ဖြတ်တဲ့သင်ခန်းစာကို ပြီးဆုံးခဲ့တယ်

04:04

So you see how hard it is to get AI
to do something as simple as just walk.

73

232332

4942

ဉာဏ်ရည်တုနဲ့ လမ်းလျှောက်ဖို့အတွက်တောင်
ဘယ်လောက်ခက်ခက်လုပ်ရလဲဆိုတာ တွေ့နိုင်တယ်

04:09

So seeing the AI do this,
you may say, OK, no fair,

74

237298

3820

သင်က ဉာဏ်ရည်တုဒီလိုလုပ်တာကို မြင်ရင်
အဆင်ပြေပါတယ် မမျှတဘူးလို့ပြောနိုင်ပါတယ်

04:13

you can't just be
a tall tower and fall over,

75

241142

2580

သင်က တာဝါအရှည်လည်းမဟုတ်ဘူး
လဲကျမှာလည်းမဟုတ်ဘူး

04:15

you have to actually, like,
use legs to walk.

76

243746

3435

သင်တကယ်လုပ်ရဖို့လိုတာက
ခြေထောက်အသုံးပြုပြီးလမ်းလျှောက်ရုံပါပဲ

04:19

And it turns out,
that doesn't always work, either.

77

247205

2759

ပြီးတော့ လှည့်ပြီးထွက်သွားဖို့
ဆိုတာကလည်းမဖြစ်နိုင်ပါဘူး

04:21

This AI's job was to move fast.

78

249988

2759

ဒီဉာဏ်ရည်တုရဲ့အလုပ်က
မြန်မြန်ဆန်ဆန်သွားဖို့ပါပဲ

04:25

They didn't tell it that it had
to run facing forward

79

253115

3593

မျက်နှာမူရာရှေ့ဘက်ကိုပြေးဖို့

04:28

or that it couldn't use its arms.

80

256732

2258

ဒါမှမဟုတ် လက်ကိုသုံးပြီးပြေး
ဖို့မပြောထားဘူး

04:31

So this is what you get
when you train AI to move fast,

81

259487

4618

ဒါကသင် ဉာဏ်ရည်တုကိုမြန်မြန်ပြေးဖို့
သင်ပေးတဲ့အခါမှာ ကြုံတွေ့ရမှာတွေက

04:36

you get things like somersaulting
and silly walks.

82

264129

3534

အေးရိုးဗစ်ကစားတဲ့အခါပြေးတဲ့ပုံမျိူးနဲ့
ရူးကြောင်ကြောင်လမ်းလျှောက်လိမ့်မယ်

04:39

It's really common.

83

267687

1400

ဒါကတကယ်တော့ ပုံမှန်ပါပဲ

04:41

So is twitching along the floor in a heap.

84

269667

3179

အမှိုက်ပုံထဲရောက်ပြီး ကြမ်းပြင်ပေါ်မှာ
တုန်တုန်နဲ့သွားနေတာတွေ

04:44

(Laughter)

85

272870

1150

(ရယ်သံ)

04:47

So in my opinion, you know what
should have been a whole lot weirder

86

275241

3254

ဒါဆို ဒီကိစ္စတစ်ခုလုံးရူးကြောင်နိုင်
နေခဲ့တာတွေပဲ သိထားတယ်

04:50

is the "Terminator" robots.

87

278519

1396

ဒုက္ခပေးတဲ့ စက်ရုပ်တွေလား

04:52

Hacking "The Matrix" is another thing
that AI will do if you give it a chance.

88

280256

3755

အခွင့်အရေးထပ်ပေးရင်နောက်ထပ်လုပ်နိုင်
တာ "The Matrix" ကိုဖောက်ထွင်းခြင်းဖြစ်တယ်

04:56

So if you train an AI in a simulation,

89

284035

2517

ကွန်ပျူတာနဲ့ဖန်တီးထားတဲ့
ပတ်ဝန်းကျင်မှာသင်ကြားပေးရင်

04:58

it will learn how to do things like
hack into the simulation's math errors

90

286576

4113

သင်္ချာအမှားတွေကို ဖောက်ထွင်း
ခြင်းကဲ့သို့သောအရာတွေ

05:02

and harvest them for energy.

91

290713

2207

စွမ်းအင်အတွက်အမှားတွေပယ်ခြင်းကို
သင်ယူလိမ့်မယ်

05:04

Or it will figure out how to move faster
by glitching repeatedly into the floor.

92

292944

5475

ဒါမှမဟုတ် မလှုပ်ရှားတော့ဘဲ ဘယ်လို
အမြန်သွားလို့ရမလဲ အထပ်ထပ် အဖြေရှာလိမ့်မယ်

05:10

When you're working with AI,

93

298443

1585

ဉာဏ်ရည်တုနဲ့အလုပ်လုပ်တဲ့အခါ

05:12

it's less like working with another human

94

300052

2389

တခြားလူသားတစ်ယောက်နဲ့
တွဲလုပ်နေတာနဲ့မတူပါဘူး

05:14

and a lot more like working
with some kind of weird force of nature.

95

302465

3629

သဘာ၀အတိုင်းပုံမှန်မဟုတ်တဲ့ဟာမျိူးနဲ့
အလုပ်လုပ်နေရတာနဲ့တူပါတယ်

05:18

And it's really easy to accidentally
give AI the wrong problem to solve,

96

306562

4623

မှားယွင်းတဲ့ပြဿနာကိုဖြေရှင်းဖို့
မတော်မဆလွယ်ကူစွာပေးနိုင်တယ်

05:23

and often we don't realize that
until something has actually gone wrong.

97

311209

4538

မကြာခဏဆိုသလို ကျွန်မတို့မမှားဘူးလို့
ထင်ထားတာတွေကို မယုံကြည်တော့တာမျိူးတွေ

05:28

So here's an experiment I did,

98

316242

2080

အခုဟာ ကျွန်မလက်တွေ့စမ်းသပ်ထားခဲ့တာတွေပါ

05:30

where I wanted the AI
to copy paint colors,

99

318346

3182

အဲဒီနေရာမှာ ဆေးရောင်တွေကို
ကူးယူဖို့အတွက် ဉာဏ်ရည်တုကိုသုံးထားခဲ့တယ်

05:33

to invent new paint colors,

100

321552

1746

အသစ်တွေကို ဖန်တီးဖို့အတွက်ပေါ့

05:35

given the list like the ones
here on the left.

101

323322

2987

ပေးထားတဲ့အရောင်တွေကအခုဘယ်ဘက်မှာပါ

05:38

And here's what the AI
actually came up with.

102

326798

3004

ဒါကတော့ဉာဏ်ရည်တုအမှန်
တကယ် စဉ်းစားထားတဲ့ဟာတွေပါ

05:41

[Sindis Poop, Turdly, Suffer, Gray Pubic]

103

329826

3143

ကုန်းပတ်ကနေရောင်၊ နေရောင်၊
ခံစားရသောအရောင်၊ ဆီးခုံအရောင်

05:44

(Laughter)

104

332993

4230

(ရယ်သံ)

05:51

So technically,

105

339177

1886

နည်းပညာဆန်စွာပဲ

05:53

it did what I asked it to.

106

341087

1864

ကျွန်မတောင်းဆိုထားသလို လုပ်ထားခဲ့တယ်

05:54

I thought I was asking it for,
like, nice paint color names,

107

342975

3308

ကျွန်မထင်တာကတော့ ကျွန်မတောင်းဆို
ထားတဲ့ အရောင်ကောင်းကောင်းတွေပေါ့

05:58

but what I was actually asking it to do

108

346307

2307

ဒါပေမဲ့ ကျွန်မအမှန်တကယ်
တောင်းဆိုခဲ့တာကတော့

06:00

was just imitate the kinds
of letter combinations

109

348638

3086

အက္ခရာတွေစုစည်းထားတာကို တုပထားတာပဲဖြစ်တယ်

06:03

that it had seen in the original.

110

351748

1905

မူလကတွေ့ထားတဲ့ဟာတွေကိုပေါ့

06:05

And I didn't tell it anything
about what words mean,

111

353677

3098

ပြီးတော့ ကျွန်မကစာလုံးတွေရဲ့
အဓိပ္ပာယ်ကိုလုံး၀ကိုမပြောပြထားဘူး

06:08

or that there are maybe some words

112

356799

2560

ဒါမှမဟုတ် ဒီအရောင်တွေ
အသုံးပြုတာကိုရှောင်ရှားဖို့အတွက်

06:11

that it should avoid using
in these paint colors.

113

359383

2889

စာလုံးတချို့ရှိကောင်းရှိနေနိုင်တယ်

06:15

So its entire world
is the data that I gave it.

114

363141

3494

ဒါကြောင့်သူသိထားတာအားလုံးက
ကျွန်မပေးထားတဲ့ အချက်အလက်တွေပဲဖြစ်တယ်

06:18

Like with the ice cream flavors,
it doesn't know about anything else.

115

366659

4028

ရေခဲမုန့်အရသာတုန်းကလိုပေါ့
အဲ့ဒါကဘာမှသိတာမဟုတ်ဘူး

06:24

So it is through the data

116

372491

1638

သူက အချက်အလက်တွေကိုပဲသိတာ

06:26

that we often accidentally tell AI
to do the wrong thing.

117

374153

4044

ဒါကြောင့် ကျွန်မတို့က ဉာဏ်ရည်တုကို
မတော်မဆမှားယွင်းတာတွေကို ခိုင်းနိုင်မိတယ်

06:30

This is a fish called a tench.

118

378694

3032

ဒီငါးကို ကကတစ်ငါးလို့ခေါ်ပါတယ်

06:33

And there was a group of researchers

119

381750

1815

သုတေသနပြုလုပ်တဲ့အုပ်စုတစ်စုရှိခဲ့တယ်

06:35

who trained an AI to identify
this tench in pictures.

120

383589

3874

ဒီပုံထဲကကကတစ်ငါးကိုခွဲခြားသတ်
မှတ်ဖို့အတွက်ဉာဏ်ရည်တုကို သင်ကြားပေးခဲ့တယ်

06:39

But then when they asked it

121

387487

1296

ဒါပေမဲ့ ပြီးတဲ့အခါ

06:40

what part of the picture it was actually
using to identify the fish,

122

388807

3426

ရုပ်ပုံရဲ့ဘယ်အပိုင်းကို အမှန်တကယ်
ငါးဖြစ်ပါတယ်ဆိုတာ မေးမြန်းသောအခါ

06:44

here's what it highlighted.

123

392257

1358

ထင်ရှားစွာဖော်ပြထားတယ်

06:47

Yes, those are human fingers.

124

395203

2189

ဟုတ်ပါတယ် အဲ့ဒါတွေကလူသားလက်ချောင်းတွေပါ

06:49

Why would it be looking for human fingers

125

397416

2059

ဘာကြောင့်အဲ့တာကလူလက်
ချောင်းတွေကိုရှာနေရတာလဲ

06:51

if it's trying to identify a fish?

126

399499

1921

တကယ်လို့ ငါးတွေကိုသာ ရှာနေတယ်ဆိုရင်ပေါ့

06:54

Well, it turns out that the tench
is a trophy fish,

127

402126

3164

ကောင်းပီ သူကရှာဖွေရမယ့်
ကကတစ်ငါးဘက်ကိုလှည့်လာပါပီ

06:57

and so in a lot of pictures
that the AI had seen of this fish

128

405314

3811

သင်ကြားနေစဉ်အတောအတွင်းမှာ
ဉာဏ်ရည်တုက ကကတစ်ငါးပုံ

07:01

during training,

129

409149

1151

အများကြီး မြင်ဖူးပြီပြီ

07:02

the fish looked like this.

130

410324

1490

ငါးတွေကတော့ ဒီလိုပုံတွေပါ

07:03

(Laughter)

131

411838

1635

(ရယ်သံ)

07:05

And it didn't know that the fingers
aren't part of the fish.

132

413497

3330

အဲဒါက လက်ချောင်းတွေက
ငါးမဟုတ်ဘူးဆိုတာကို သိပုံမပေါ်ဘူး

07:10

So you see why it is so hard
to design an AI

133

418808

4120

ဉာဏ်ရည်တုက သူကြည့်နေတာကို
နားလည်အောင် ပုံဖော်ဖို့ဆိုတာကိုပဲ

07:14

that actually can understand
what it's looking at.

134

422952

3319

အရမ်းခက်ခဲမှန်း သိပြီထင်ပါတယ်

07:18

And this is why designing
the image recognition

135

426295

2862

အလိုအလျောက်မောင်းနှင်တဲ့
ကားတွေမှာပုံတွေကိုမှတ်မိအောင်

07:21

in self-driving cars is so hard,

136

429181

2067

ဒီဇိုင်းလုပ်နေရတာက အရမ်းခက်ခဲပါတယ်

07:23

and why so many self-driving car failures

137

431272

2205

ပြီးတော့အလိုအလျောက်မောင်း
တဲ့ကားတွေပျက်စီးရတာ

07:25

are because the AI got confused.

138

433501

2885

ဉာဏ်ရည်တုတွေ ရှုပ်ထွေးမှု
တွေဖြစ်တဲ့အတွက်ကြောင့်ဖြစ်တယ်

07:28

I want to talk about an example from 2016.

139

436410

4008

၂၁၀၆ခုနစ်တုန်းက နမူနာ
တစ်ခုကိုပြောပြချင်ပါတယ်

07:32

There was a fatal accident when somebody
was using Tesla's autopilot AI,

140

440442

4455

Tesla ရဲ့ ဉာဏ်ရည်တုကိုသုံးပြီးအလိုအလျောက်
မောင်းအသုံးပြုစဉ် မတော်တဆမှုဖြစ်ခဲ့ဖူးတယ်

07:36

but instead of using it on the highway
like it was designed for,

141

444921

3414

အမြန်လမ်းမှာမောင်းဖို့ဒီဇိုင်း
လုပ်ထားတာကိုအမြန်လမ်းမှာမောင်းမယ့်အစား

07:40

they used it on city streets.

142

448359

2205

မြို့ထဲကလမ်းပေါ်မှာမောင်းနှင်ခဲ့တယ်

07:43

And what happened was,

143

451239

1175

ဘာဖြစ်ခဲ့လဲဆိုတော့

07:44

a truck drove out in front of the car
and the car failed to brake.

144

452438

3396

ထရပ်ကားရှေ့ကိုရောက်သွားပြီး
ဘရိတ်မအုပ်နိုင်ခဲ့တာဖြစ်တယ်

07:48

Now, the AI definitely was trained
to recognize trucks in pictures.

145

456507

4762

အခုဆိုရင် ဉာဏ်ရည်တုကိုထရပ်ကားတွေရဲ့ပုံတွေ
မှတ်မိဖို့လုံး၀ကိုသင်ကြားပြီးပါပြီ

07:53

But what it looks like happened is

146

461293

2145

ဒါပေမဲ့ ဖြစ်ပျက်ခဲ့တာကဘာနဲ့တူတာလဲဆိုတော့

07:55

the AI was trained to recognize
trucks on highway driving,

147

463462

2931

အမြန်လမ်းပေါ်မှာရှိတဲ့
ထရပ်ကားတွေကိုမှတ်မိအောင်သင်ပေးခဲ့တယ်

07:58

where you would expect
to see trucks from behind.

148

466417

2899

အမြန်လမ်းပေါ်မှာထရပ်ကားတွေ
ကအနောက်မှာပဲရှိမှာပဲ

08:01

Trucks on the side is not supposed
to happen on a highway,

149

469340

3420

အမြန်လမ်းပေါ်မှာဆိုရင် ထရပ်ကားက
ဘေးဘက်မှာရှိမယ်မယူဆထားပါဘူး

08:04

and so when the AI saw this truck,

150

472784

3455

ဒါကြောင့် ဉာဏ်ရည်တုက
ထရပ်ကားကိုမြင်လိုက်တဲ့အခါ

08:08

it looks like the AI recognized it
as most likely to be a road sign

151

476263

4827

လမ်းအမှတ်အသားလို့ယူဆလိုက်ပုံရတယ်

08:13

and therefore, safe to drive underneath.

152

481114

2273

အန္တရာယ်ကင်းတယ်ထင်ပြီး
အောင်ဘက်ကိုဝင်သွားတယ်

08:16

Here's an AI misstep
from a different field.

153

484114

2580

ကွဲပြားတဲ့နယ်ပယ်မှာ
မှားလှမ်းမိတဲ့ခြေလှမ်းပေါ့

08:18

Amazon recently had to give up
on a résumé-sorting algorithm

154

486718

3460

အမေဇုန်ကတော့မကြာခင်ကအလုပ်လျှောက်လွှာ
တွေကို စိစစ်တာအလုပ်လုပ်ဆောင်နိုင်သော

08:22

that they were working on

155

490202

1220

ပရိုဂရမ်ကိုစွန့်ခဲ့တယ်

08:23

when they discovered that the algorithm
had learned to discriminate against women.

156

491446

3908

အဲဒီပရိုဂရမ်မှာအမျိူးသမီးတွေကိုခွဲခြား
ဆက်ဆံတတ်အောင်သင်ပေးတာကိုရှာတွေ့တဲ့အခါပေါ့

08:27

What happened is they had trained it
on example résumés

157

495378

2716

အရင်ကလုပ်ခဲ့တဲ့လူတွေရဲ့
နမူနာလျှောက်လွှာတွေနဲ့

08:30

of people who they had hired in the past.

158

498118

2242

သင်ကြားပေးခဲ့လို့ဖြစ်တယ်

08:32

And from these examples, the AI learned
to avoid the résumés of people

159

500384

4023

ပြီးတော့အဲ့နမူနာဆီကနေ ဉာဏ်ရည်တုက

08:36

who had gone to women's colleges

160

504431

2026

အမျိူးသမီးတက္ကသိုလ်တတ်ရောက်ဖူးတဲ့သူတွေ

08:38

or who had the word "women"
somewhere in their resume,

161

506481

2806

လျှောက်လွှာတစ်နေရာရာမှာ
အမျိူးသမီးဆိုတဲ့စာလုံးပါလာခဲ့လျှင်

08:41

as in, "women's soccer team"
or "Society of Women Engineers."

162

509311

4576

အမျိူးသမီးဘောလုံးအသင်း ဒါမှမဟုတ်အင်ဂျင်နီ
ယာအသင်း စတာတွေပါလာခဲ့လျှင် မရွေးချယ်ပါဘူး

08:45

The AI didn't know that it wasn't supposed
to copy this particular thing

163

513911

3974

ဉာဏ်ရည်တုက ဒီလိုလူသားတွေသာ
လုပ်နိုင်တဲ့သီးခြားအလုပ်တွေကို

08:49

that it had seen the humans do.

164

517909

1978

ကူးယူရမယ်ဆိုတာ သိရှိခဲ့ပါဘူး

08:51

And technically, it did
what they asked it to do.

165

519911

3177

နည်းပညာဆန်စွာပြောရရင် တောင်းဆိုထား
တာကိုလုပ်ဆောင်ခဲ့ခြင်းဖြစ်ပါတယ်

08:55

They just accidentally asked it
to do the wrong thing.

166

523112

2797

မှားယွင်းတဲ့အရာတွေကိုမတော်
တဆတောင်းဆိုမိခြင်းပဲဖြစ်တယ်

08:58

And this happens all the time with AI.

167

526653

2895

ဒါတွေက ဉာဏ်ရည်တုမှာတစ်ချိန်လုံးဖြစ်နေတာပါ

09:02

AI can be really destructive
and not know it.

168

530120

3591

ဉာဏ်ရည်တုက ဖျက်ဆီးနိုင်စွမ်းရှိတယ်
ပြီးတော့ အဲ့တာကမသိဘူး

09:05

So the AIs that recommend
new content in Facebook, in YouTube,

169

533735

5078

ဉာဏ်ရည်တုက facebookတို့ youtube တို့မှာရှိ
တဲ့အကြောင်းအရာတွေကို ညွှန်းဆိုနိုင်ပါတယ်

09:10

they're optimized to increase
the number of clicks and views.

170

538837

3539

ကလင့်နှိပ်ပြီးကြည့်ရှုနှုန်းတိုးများလာ
အောင်လည်း အသုံးပြုနိုင်ပါတယ်

09:14

And unfortunately, one way
that they have found of doing this

171

542400

3436

ကံမကောင်းစွာပဲ ဒီလိုလုပ်လိုက်တဲ့အတွက်
တွေ့ရှိလာတဲ့နည်းလမ်းတစ်ခုက

09:17

is to recommend the content
of conspiracy theories or bigotry.

172

545860

4503

မကောင်းမှုကျူးလွန်တာ ဒါမှမဟုတ် ဝါဒဖြန့်တာ
တွေကျူးလွန်လာနိုင်တယ်လို့ အကြုံပြုထားပါတယ်

09:22

The AIs themselves don't have any concept
of what this content actually is,

173

550902

5302

ဉာဏ်ရည်တုကတော့ တကယ်ဘာအကြောင်းအရာတွေပါ
ဝင်လာတာလဲဆိုတာ သိနိုင်တဲ့သဘောတရားမရှိပါဘူး

09:28

and they don't have any concept
of what the consequences might be

174

556228

3395

ပြီးတော့ အကြံပြုထားတဲ့အကြောင်း
အရာတွေရဲ့အကျိူးဆက်က

09:31

of recommending this content.

175

559647

2109

ဘာဖြစ်မလဲဆိုတာကို
သိနိုင်သဘောတရားမရှိပါဘူး

09:34

So, when we're working with AI,

176

562296

2011

ဒါကြောင့် ဉာဏ်ရည်တု
တွေနဲ့အလုပ်လုပ်တဲ့အခါ

09:36

it's up to us to avoid problems.

177

564331

4182

ပြဿနာတွေကိုရှောင်ဖို့ဆိုတာ
ကျွန်မတို့အပေါ်မူတည်ပါတယ်

09:40

And avoiding things going wrong,

178

568537

2323

ရှောင်တဲ့အရာတွေက မှားယွင်းသွားက

09:42

that may come down to
the age-old problem of communication,

179

570884

4526

အရင်ခေတ်က ဆက်သွယ်ရေးပြဿနာတွေ
ဖြစ်တဲ့လူသားတွေက ဉာဏ်ရည်တုကို

09:47

where we as humans have to learn
how to communicate with AI.

180

575434

3745

ဘယ်လိုဆက်သွယ်ရမလဲ အခြေအနေကိုကြုံရလိမ့်မယ်

09:51

We have to learn what AI
is capable of doing and what it's not,

181

579203

4039

ကျွန်မတို့ကဉာဏ်ရည်တုသည်ဘာတွေစွမ်းဆောင်
တယ်ဘာတွေမစွမ်းဆောင်ဘူးဆိုတာကိုသင်ယူရမယ်

09:55

and to understand that,
with its tiny little worm brain,

182

583266

3086

တီကောင်လောက်သေးငယ်တဲ့
ဦးနှောက်ကိုနားလည်ရမယ်

09:58

AI doesn't really understand
what we're trying to ask it to do.

183

586376

4013

ဉာဏ်ရည်တုက ကျွန်မတို့တောင်းဆိုတာ
ကိုတကယ်နားလည်မှာမဟုတ်ဘူး

10:03

So in other words, we have
to be prepared to work with AI

184

591148

3321

နောက်ပြောရရင် ကျွန်မတို့ကဉာဏ်ရည်တု
နဲ့အလုပ်လုပ်ဖို့ပြင်ဆင်ထားရမယ်

10:06

that's not the super-competent,
all-knowing AI of science fiction.

185

594493

5258

ဉာဏ်ရည်တုနဲ့ပတ်သက်တဲ့သိပ္ပံကားတွေအားလုံး
သိထားခြင်းက လုံး၀လုံလောက်နေတာမဟုတ်ပါဘူး

10:11

We have to prepared to work with an AI

186

599775

2862

ဉာဏ်ရည်တုနဲ့အလုပ်လုပ်
ဖို့ကိုပြင်ကိုပြင်ဆင်ထားခြင်းက

10:14

that's the one that we actually have
in the present day.

187

602661

2938

ကျွန်မတို့အမှန်တကယ်ရှိနေတဲ့ ပစ္စုပ္ပန်ကာလ
ကိုရောက်နေတာဖြစ်တယ်

10:17

And present-day AI is plenty weird enough.

188

605623

4205

အခုလက်ရှိမှာရှိတဲ့ ဉာဏ်ရည်တုကတော့
ကြောင်တောင်တောင်ဖြစ်နေတုန်းပါပဲ

10:21

Thank you.

189

609852

1190

ကျေးဇူးတင်ပါတယ်

10:23

(Applause)

190

611066

5225

(လက်ခုပ်သံ)

Translated by Pyae Sone
Reviewed by sann tint

ABOUT THE SPEAKER

Janelle Shane - AI researcher
While moonlighting as a research scientist, Janelle Shane found fame documenting the often hilarious antics of AI algorithms.

Why you should listen

Janelle Shane's humor blog, AIweirdness.com, looks at, as she tells it, "the strange side of artificial intelligence." Her upcoming book, You Look Like a Thing and I Love You: How AI Works and Why It's Making the World a Weirder Place, uses cartoons and humorous pop-culture experiments to look inside the minds of the algorithms that run our world, making artificial intelligence and machine learning both accessible and entertaining.

According to Shane, she has only made a neural network-written recipe once -- and discovered that horseradish brownies are about as terrible as you might imagine.

More profile about the speaker
Janelle Shane | Speaker | TED.com

THE ORIGINAL VIDEO ON TED.COM

Janelle Shane: ဉာဏ်ရည်တုရဲ့အန္တရာယ်က ကျွန်မတို့ထင်ထားတာထက် ကြောင်တောင်တောင်နိုင်ပါတယ် | TED Talk | TED.com