TED2019
Janelle Shane: The danger of AI is weirder than you think
Janelle Shane: Pericolul IA este mai ciudat decât credeți
Filmed:
Readability: 4.2
376,501 views
Pericolul inteligenței artificiale nu constă în faptul că se va răzvrăti împotriva noastră, ci că va face exact ceea ce noi îi cerem să facă, spune cercetătorul IA, Janelle Shane. Împărtășind cei mai ciudați, uneori alarmanți, algoritmi de IA, în timp ce încearcă să rezolve probleme umane, cum ar fi crearea de noi arome de înghețată sau recunoașterea mașinilor pe drum, Shane ne arată de ce IA nu se compară cu creierele reale.
Janelle Shane - AI researcher
While moonlighting as a research scientist, Janelle Shane found fame documenting the often hilarious antics of AI algorithms. Full bio
While moonlighting as a research scientist, Janelle Shane found fame documenting the often hilarious antics of AI algorithms. Full bio
Double-click the English transcript below to play the video.
00:13
So, artificial intelligence
0
1765
3000
Deci, inteligența artificială
00:16
is known for disrupting
all kinds of industries.
all kinds of industries.
1
4789
3529
e cunoscută pentru perturbarea
multor tipurilor de industrii.
multor tipurilor de industrii.
00:20
What about ice cream?
2
8961
2043
Dar cum rămâne cu înghețata?
00:23
What kind of mind-blowing
new flavors could we generate
new flavors could we generate
3
11879
3639
Ce fel de arome năucitoare noi
am putea să generăm
am putea să generăm
00:27
with the power of an advanced
artificial intelligence?
artificial intelligence?
4
15542
2976
cu puterea
unei inteligențe artificiale avansate?
unei inteligențe artificiale avansate?
00:31
So I teamed up with a group of coders
from Kealing Middle School
from Kealing Middle School
5
19011
4161
Am făcut echipă cu un grup de programatori
de la Kealing Middle School
de la Kealing Middle School
00:35
to find out the answer to this question.
6
23196
2241
pentru a afla răspunsul
la această întrebare.
la această întrebare.
00:37
They collected over 1,600
existing ice cream flavors,
existing ice cream flavors,
7
25461
5081
Au colectat peste 1.600
de arome existente de înghețată,
de arome existente de înghețată,
00:42
and together, we fed them to an algorithm
to see what it would generate.
to see what it would generate.
8
30566
5522
pe care le-am introdus într-un algoritm
pentru a vedea ce va genera.
pentru a vedea ce va genera.
00:48
And here are some of the flavors
that the AI came up with.
that the AI came up with.
9
36112
3753
Iată câteva dintre aromele
pe care le-a generat IA.
pe care le-a generat IA.
00:52
[Pumpkin Trash Break]
10
40444
1471
[Gunoi de Dovleac Crăpat]
00:53
(Laughter)
11
41939
1402
(Râsete)
00:55
[Peanut Butter Slime]
12
43365
2469
[Mocirlă de Unt de Arahide]
00:58
[Strawberry Cream Disease]
13
46822
1343
[Boală de Cremă de Căpșuni]
01:00
(Laughter)
14
48189
2126
(Râsete)
01:02
These flavors are not delicious,
as we might have hoped they would be.
as we might have hoped they would be.
15
50339
4597
Aceste arome nu sunt delicioase,
așa cum am fi sperat că vor fi.
așa cum am fi sperat că vor fi.
01:06
So the question is: What happened?
16
54960
1864
Deci, întrebarea e: ce s-a întâmplat?
01:08
What went wrong?
17
56848
1394
Ce a mers rău?
01:10
Is the AI trying to kill us?
18
58266
1959
Încearcă IA să ne omoare?
01:13
Or is it trying to do what we asked,
and there was a problem?
and there was a problem?
19
61027
4310
Sau încearcă să facă ceea ce i-am cerut,
dar a existat o problemă?
dar a existat o problemă?
01:18
In movies, when something
goes wrong with AI,
goes wrong with AI,
20
66567
2464
În filme, când ceva
nu merge bine cu IA,
nu merge bine cu IA,
01:21
it's usually because the AI has decided
21
69055
2712
este de obicei pentru că IA a decis
01:23
that it doesn't want to obey
the humans anymore,
the humans anymore,
22
71791
2272
că nu mai vrea să se supună oamenilor,
01:26
and it's got its own goals,
thank you very much.
thank you very much.
23
74087
2623
și are propriile ei obiective,
mulțumesc foarte mult.
mulțumesc foarte mult.
01:29
In real life, though,
the AI that we actually have
the AI that we actually have
24
77266
3216
În viața reală însă,
IA pe care o avem de fapt
IA pe care o avem de fapt
01:32
is not nearly smart enough for that.
25
80506
1863
nu este destul de inteligentă pentru asta.
01:34
It has the approximate computing power
26
82781
2982
Are puterea de calcul aproximativă
01:37
of an earthworm,
27
85787
1276
cu a unui vierme de pământ,
01:39
or maybe at most a single honeybee,
28
87087
3403
sau poate cel mult
cu a unei singure albine,
cu a unei singure albine,
01:42
and actually, probably maybe less.
29
90514
2215
și de fapt, probabil poate mai puțin.
01:44
Like, we're constantly learning
new things about brains
new things about brains
30
92753
2594
Învățăm constant lucruri noi despre creier
01:47
that make it clear how much our AIs
don't measure up to real brains.
don't measure up to real brains.
31
95371
4360
care clarifică faptul că IA
nu poate concura cu creierele reale.
nu poate concura cu creierele reale.
01:51
So today's AI can do a task
like identify a pedestrian in a picture,
like identify a pedestrian in a picture,
32
99755
5663
IA curentă poate realiza
identificarea unui pieton dintr-o imagine,
identificarea unui pieton dintr-o imagine,
01:57
but it doesn't have a concept
of what the pedestrian is
of what the pedestrian is
33
105442
2983
dar nu are un concept
despre ce este pietonul
despre ce este pietonul
02:00
beyond that it's a collection
of lines and textures and things.
of lines and textures and things.
34
108449
4824
dincolo de faptul că este
o colecție de linii, texturi și lucruri.
o colecție de linii, texturi și lucruri.
02:05
It doesn't know what a human actually is.
35
113792
2521
Nu știe ce este de fapt un om.
02:08
So will today's AI
do what we ask it to do?
do what we ask it to do?
36
116822
3282
Deci, IA din zilele noastre
va face ceea ce îi cerem să facă?
va face ceea ce îi cerem să facă?
02:12
It will if it can,
37
120128
1594
O va face dacă va putea,
02:13
but it might not do what we actually want.
38
121746
2726
dar s-ar putea să nu facă
ceea ce ne dorim de fapt.
ceea ce ne dorim de fapt.
02:16
So let's say that you
were trying to get an AI
were trying to get an AI
39
124496
2415
Deci, să spunem
că încercați să faceți IA
că încercați să faceți IA
02:18
to take this collection of robot parts
40
126935
2619
să ia aceste părți ale unui robot
02:21
and assemble them into some kind of robot
to get from Point A to Point B.
to get from Point A to Point B.
41
129578
4197
și să le asambleze într-un fel de robot
pentru a merge din punctul A în punctul B.
pentru a merge din punctul A în punctul B.
02:25
Now, if you were going to try
and solve this problem
and solve this problem
42
133799
2481
Dacă ați încerca
să rezolvați această problemă
să rezolvați această problemă
02:28
by writing a traditional-style
computer program,
computer program,
43
136304
2351
prin scrierea unui program
în stil tradițional,
în stil tradițional,
02:30
you would give the program
step-by-step instructions
step-by-step instructions
44
138679
3417
îi veți da programului
instrucțiuni pas cu pas,
instrucțiuni pas cu pas,
02:34
on how to take these parts,
45
142120
1329
despre cum să ia aceste părți,
02:35
how to assemble them
into a robot with legs
into a robot with legs
46
143473
2407
cum să le asambleze
într-un robot cu picioare
într-un robot cu picioare
02:37
and then how to use those legs
to walk to Point B.
to walk to Point B.
47
145904
2942
și apoi cum să folosească acele picioare
pentru a merge până în punctul B.
pentru a merge până în punctul B.
02:41
But when you're using AI
to solve the problem,
to solve the problem,
48
149441
2340
Dar când utilizați IA
pentru a rezolva problema,
pentru a rezolva problema,
02:43
it goes differently.
49
151805
1174
e diferit.
02:45
You don't tell it
how to solve the problem,
how to solve the problem,
50
153003
2382
Nu îi spuneți cum să rezolve problema,
02:47
you just give it the goal,
51
155409
1479
îi dați doar obiectivul,
02:48
and it has to figure out for itself
via trial and error
via trial and error
52
156912
3262
și trebuie să-și dea seama singură
prin încercări și greșeli
prin încercări și greșeli
02:52
how to reach that goal.
53
160198
1484
cum să atingă acel obiectiv.
02:54
And it turns out that the way AI tends
to solve this particular problem
to solve this particular problem
54
162254
4102
Și se dovedește că modul în care IA tinde
să rezolve această problemă specifică
să rezolve această problemă specifică
02:58
is by doing this:
55
166380
1484
este făcând astfel:
02:59
it assembles itself into a tower
and then falls over
and then falls over
56
167888
3367
le asamblează într-un turn care apoi cade
03:03
and lands at Point B.
57
171279
1827
și aterizează în punctul B.
03:05
And technically, this solves the problem.
58
173130
2829
Și practic, asta rezolvă problema.
03:07
Technically, it got to Point B.
59
175983
1639
Practic, a ajuns în punctul B.
03:09
The danger of AI is not that
it's going to rebel against us,
it's going to rebel against us,
60
177646
4265
Pericolul IA nu este
că se va revolta împotriva noastră,
că se va revolta împotriva noastră,
03:13
it's that it's going to do
exactly what we ask it to do.
exactly what we ask it to do.
61
181935
4274
ci că va face
exact ceea ce îi cerem să facă.
exact ceea ce îi cerem să facă.
03:18
So then the trick
of working with AI becomes:
of working with AI becomes:
62
186876
2498
Atunci întrebarea devine:
03:21
How do we set up the problem
so that it actually does what we want?
so that it actually does what we want?
63
189398
3828
cum să formulăm problema
astfel încât să facă exact ce ne dorim?
astfel încât să facă exact ce ne dorim?
03:26
So this little robot here
is being controlled by an AI.
is being controlled by an AI.
64
194726
3306
Deci, acest mic robot de aici
este controlat de IA.
este controlat de IA.
03:30
The AI came up with a design
for the robot legs
for the robot legs
65
198056
2814
IA a creat un design
pentru picioarele robotului
pentru picioarele robotului
03:32
and then figured out how to use them
to get past all these obstacles.
to get past all these obstacles.
66
200894
4078
și apoi a înțeles cum să le folosească
pentru a trece peste toate obstacolele.
pentru a trece peste toate obstacolele.
03:36
But when David Ha set up this experiment,
67
204996
2741
Dar când David Ha
a creat acest experiment,
a creat acest experiment,
03:39
he had to set it up
with very, very strict limits
with very, very strict limits
68
207761
2856
a trebuit să-l stabilească
cu limite foarte, foarte stricte
cu limite foarte, foarte stricte
03:42
on how big the AI
was allowed to make the legs,
was allowed to make the legs,
69
210641
3292
despre cât de mari
i-a fost permis IA să facă picioarele,
i-a fost permis IA să facă picioarele,
03:45
because otherwise ...
70
213957
1550
pentru că altfel...
03:55
(Laughter)
71
223058
3931
(Râsete)
04:00
And technically, it got
to the end of that obstacle course.
to the end of that obstacle course.
72
228563
3745
Și tehnic vorbind, a ajuns
la sfârșitul acelei curse cu obstacole.
la sfârșitul acelei curse cu obstacole.
04:04
So you see how hard it is to get AI
to do something as simple as just walk.
to do something as simple as just walk.
73
232332
4942
Vedeți cât de greu e să faceți IA
să facă ceva simplu ca mersul.
să facă ceva simplu ca mersul.
04:09
So seeing the AI do this,
you may say, OK, no fair,
you may say, OK, no fair,
74
237298
3820
Deci, văzând că IA face asta, e posibil
să spuneți: bine, dar nu e corect.
să spuneți: bine, dar nu e corect.
04:13
you can't just be
a tall tower and fall over,
a tall tower and fall over,
75
241142
2580
Nu poate fi înalt
cât un turn și doar să cadă,
cât un turn și doar să cadă,
04:15
you have to actually, like,
use legs to walk.
use legs to walk.
76
243746
3435
trebuie să-și folosească
picioarele pentru a merge.
picioarele pentru a merge.
04:19
And it turns out,
that doesn't always work, either.
that doesn't always work, either.
77
247205
2759
Și se pare că nici asta
nu funcționează întotdeauna.
nu funcționează întotdeauna.
04:21
This AI's job was to move fast.
78
249988
2759
Scopul acestei IA
a fost să se miște repede.
a fost să se miște repede.
04:25
They didn't tell it that it had
to run facing forward
to run facing forward
79
253115
3593
Nu i-au spus că trebuie să meargă înainte
04:28
or that it couldn't use its arms.
80
256732
2258
sau că nu-și putea folosi brațele.
04:31
So this is what you get
when you train AI to move fast,
when you train AI to move fast,
81
259487
4618
Asta obțineți atunci când
antrenați IA pentru a se deplasa rapid,
antrenați IA pentru a se deplasa rapid,
04:36
you get things like somersaulting
and silly walks.
and silly walks.
82
264129
3534
obțineți tumbe sau mers ciudat.
04:39
It's really common.
83
267687
1400
Este ceva foarte comun.
04:41
So is twitching along the floor in a heap.
84
269667
3179
La fel e și târâirea de-a lungul podelei.
04:44
(Laughter)
85
272870
1150
(Râsete)
04:47
So in my opinion, you know what
should have been a whole lot weirder
should have been a whole lot weirder
86
275241
3254
În opinia mea, ce ar putea fi
mult mai ciudat
mult mai ciudat
04:50
is the "Terminator" robots.
87
278519
1396
sunt roboții „Terminator”.
Spargerea „Matrix-ului” e un alt lucru
pe care IA îl va face dacă-i dați șansa.
pe care IA îl va face dacă-i dați șansa.
04:52
Hacking "The Matrix" is another thing
that AI will do if you give it a chance.
that AI will do if you give it a chance.
88
280256
3755
04:56
So if you train an AI in a simulation,
89
284035
2517
Deci, dacă antrenați o IA într-o simulare,
04:58
it will learn how to do things like
hack into the simulation's math errors
hack into the simulation's math errors
90
286576
4113
va învăța să facă lucruri precum folosirea
erorilor matematice ale simulării
erorilor matematice ale simulării
05:02
and harvest them for energy.
91
290713
2207
și să le recolteze pentru energie.
05:04
Or it will figure out how to move faster
by glitching repeatedly into the floor.
by glitching repeatedly into the floor.
92
292944
5475
Sau va învăța cum să se miște mai repede
aruncându-se în mod repetat pe podea.
aruncându-se în mod repetat pe podea.
05:10
When you're working with AI,
93
298443
1585
Când lucrați cu IA,
05:12
it's less like working with another human
94
300052
2389
e mai puțin ca și cum ați lucra cu alt om
05:14
and a lot more like working
with some kind of weird force of nature.
with some kind of weird force of nature.
95
302465
3629
și mai mult ca și cum ați lucra
cu un fel de forță ciudată a naturii.
cu un fel de forță ciudată a naturii.
05:18
And it's really easy to accidentally
give AI the wrong problem to solve,
give AI the wrong problem to solve,
96
306562
4623
Și e foarte ușor să-i dați IA
problema greșită spre rezolvare,
problema greșită spre rezolvare,
05:23
and often we don't realize that
until something has actually gone wrong.
until something has actually gone wrong.
97
311209
4538
și de multe ori nu ne dăm seama de asta
până când ceva nu a mers greșit.
până când ceva nu a mers greșit.
05:28
So here's an experiment I did,
98
316242
2080
Iată un experiment pe care l-am făcut,
05:30
where I wanted the AI
to copy paint colors,
to copy paint colors,
99
318346
3182
unde am vrut ca IA să copieze culorile,
05:33
to invent new paint colors,
100
321552
1746
și să inventeze noi culori,
05:35
given the list like the ones
here on the left.
here on the left.
101
323322
2987
având în vedere
o listă precum cea din stânga.
o listă precum cea din stânga.
05:38
And here's what the AI
actually came up with.
actually came up with.
102
326798
3004
Și iată cu ce a venit IA.
05:41
[Sindis Poop, Turdly, Suffer, Gray Pubic]
103
329826
3143
[Sindis Poop, Turdly, Suffer, Grey Pubic]
05:44
(Laughter)
104
332993
4230
(Râsete)
05:51
So technically,
105
339177
1886
Deci tehnic,
05:53
it did what I asked it to.
106
341087
1864
a făcut ceea ce i-am cerut.
05:54
I thought I was asking it for,
like, nice paint color names,
like, nice paint color names,
107
342975
3308
Am crezut că i-am cerut,
nume frumoase de culori,
nume frumoase de culori,
05:58
but what I was actually asking it to do
108
346307
2307
dar ceea ce i-am cerut de fapt
06:00
was just imitate the kinds
of letter combinations
of letter combinations
109
348638
3086
a fost doar să imite
tipurile de combinații de litere
tipurile de combinații de litere
06:03
that it had seen in the original.
110
351748
1905
pe care le văzuse în original.
06:05
And I didn't tell it anything
about what words mean,
about what words mean,
111
353677
3098
Și nu i-am spus nimic
despre ce înseamnă acele cuvinte,
despre ce înseamnă acele cuvinte,
06:08
or that there are maybe some words
112
356799
2560
sau că există poate câteva cuvinte
06:11
that it should avoid using
in these paint colors.
in these paint colors.
113
359383
2889
cărora ar trebui să le evite
utilizarea în aceste culori.
utilizarea în aceste culori.
06:15
So its entire world
is the data that I gave it.
is the data that I gave it.
114
363141
3494
Deci întreaga ei lume
sunt datele pe care i le-am dat.
sunt datele pe care i le-am dat.
06:18
Like with the ice cream flavors,
it doesn't know about anything else.
it doesn't know about anything else.
115
366659
4028
Ca și în cazul aromelor de înghețată,
nu știe nimic altceva.
nu știe nimic altceva.
06:24
So it is through the data
116
372491
1638
Deci, prin intermediul datelor
06:26
that we often accidentally tell AI
to do the wrong thing.
to do the wrong thing.
117
374153
4044
deseori îi spunem accidental
IA să facă un lucru greșit.
IA să facă un lucru greșit.
06:30
This is a fish called a tench.
118
378694
3032
Acesta este un pește numit lin.
06:33
And there was a group of researchers
119
381750
1815
Și a existat un grup de cercetători
06:35
who trained an AI to identify
this tench in pictures.
this tench in pictures.
120
383589
3874
care au instruit IA
pentru a identifica acest lin în imagini.
pentru a identifica acest lin în imagini.
06:39
But then when they asked it
121
387487
1296
Dar atunci când au întrebat-o
06:40
what part of the picture it was actually
using to identify the fish,
using to identify the fish,
122
388807
3426
ce parte a imaginii folosea
pentru identificarea peștilor,
pentru identificarea peștilor,
06:44
here's what it highlighted.
123
392257
1358
iată ce a răspuns.
06:47
Yes, those are human fingers.
124
395203
2189
Da, acestea sunt degete umane.
06:49
Why would it be looking for human fingers
125
397416
2059
De ce ar fi căutat degete umane
06:51
if it's trying to identify a fish?
126
399499
1921
dacă încearcă să identifice un pește?
06:54
Well, it turns out that the tench
is a trophy fish,
is a trophy fish,
127
402126
3164
Ei bine, s-a descoperit
că lin-ul este un pește trofeu,
că lin-ul este un pește trofeu,
06:57
and so in a lot of pictures
that the AI had seen of this fish
that the AI had seen of this fish
128
405314
3811
și astfel, într-o mulțime de poze
pe care IA le-a văzut cu acest pește
pe care IA le-a văzut cu acest pește
07:01
during training,
129
409149
1151
în timpul antrenamentului,
07:02
the fish looked like this.
130
410324
1490
peștele arăta așa.
07:03
(Laughter)
131
411838
1635
(Râsete)
07:05
And it didn't know that the fingers
aren't part of the fish.
aren't part of the fish.
132
413497
3330
Și nu știa că degetele
nu fac parte din pește.
nu fac parte din pește.
07:10
So you see why it is so hard
to design an AI
to design an AI
133
418808
4120
Așa că vedeți de ce e
atât de greu să construiești o IA
atât de greu să construiești o IA
07:14
that actually can understand
what it's looking at.
what it's looking at.
134
422952
3319
care poate înțelege ce privește.
07:18
And this is why designing
the image recognition
the image recognition
135
426295
2862
De asta realizarea
recunoașterii imaginilor
recunoașterii imaginilor
07:21
in self-driving cars is so hard,
136
429181
2067
în mașinile fără șofer e atât de grea,
07:23
and why so many self-driving car failures
137
431272
2205
și de ce atâtea defecțiuni
ale autovehiculului
ale autovehiculului
07:25
are because the AI got confused.
138
433501
2885
au loc pentru că IA s-a zăpăcit.
07:28
I want to talk about an example from 2016.
139
436410
4008
Vreau să vorbesc
despre un exemplu din 2016.
despre un exemplu din 2016.
07:32
There was a fatal accident when somebody
was using Tesla's autopilot AI,
was using Tesla's autopilot AI,
140
440442
4455
A avut loc un accident mortal când cineva
a folosit o Tesla pilotată de o IA,
a folosit o Tesla pilotată de o IA,
07:36
but instead of using it on the highway
like it was designed for,
like it was designed for,
141
444921
3414
dar în loc să o folosească pe autostradă
așa cum a fost proiectată,
așa cum a fost proiectată,
07:40
they used it on city streets.
142
448359
2205
au folosit-o pe străzile orașului.
Și ce s-a întâmplat a fost
07:43
And what happened was,
143
451239
1175
07:44
a truck drove out in front of the car
and the car failed to brake.
and the car failed to brake.
144
452438
3396
că un camion a trecut
prin fața mașinii, iar mașina nu a frânat.
prin fața mașinii, iar mașina nu a frânat.
07:48
Now, the AI definitely was trained
to recognize trucks in pictures.
to recognize trucks in pictures.
145
456507
4762
IA a fost cu siguranță instruită
să recunoască camioanele în imagini.
să recunoască camioanele în imagini.
07:53
But what it looks like happened is
146
461293
2145
Dar ceea ce pare să se fi întâmplat
e că IA a fost instruită
să recunoască camioanele pe autostradă,
să recunoască camioanele pe autostradă,
07:55
the AI was trained to recognize
trucks on highway driving,
trucks on highway driving,
147
463462
2931
07:58
where you would expect
to see trucks from behind.
to see trucks from behind.
148
466417
2899
unde te-ai aștepta
să vezi camioanele din spate.
să vezi camioanele din spate.
08:01
Trucks on the side is not supposed
to happen on a highway,
to happen on a highway,
149
469340
3420
Venirea camioanelor din lateral
nu e de așteptat pe o autostradă,
nu e de așteptat pe o autostradă,
08:04
and so when the AI saw this truck,
150
472784
3455
și atunci când IA a văzut acest camion,
08:08
it looks like the AI recognized it
as most likely to be a road sign
as most likely to be a road sign
151
476263
4827
l-a recunoscut ca fiind
cel mai probabil un semn rutier
cel mai probabil un semn rutier
08:13
and therefore, safe to drive underneath.
152
481114
2273
și, prin urmare,
în regulă să treci pe sub el.
în regulă să treci pe sub el.
08:16
Here's an AI misstep
from a different field.
from a different field.
153
484114
2580
Iată o greșeală a IA dintr-un alt domeniu.
08:18
Amazon recently had to give up
on a résumé-sorting algorithm
on a résumé-sorting algorithm
154
486718
3460
Recent Amazon a trebuit să renunțe
la un algoritm de sortare a CV-urilor
la un algoritm de sortare a CV-urilor
08:22
that they were working on
155
490202
1220
cu care lucrau
08:23
when they discovered that the algorithm
had learned to discriminate against women.
had learned to discriminate against women.
156
491446
3908
când au descoperit că algoritmul
învățase să discrimineze femeile.
învățase să discrimineze femeile.
Ceea ce s-a întâmplat a fost
că au instruit-o pe exemple de CV-uri
că au instruit-o pe exemple de CV-uri
08:27
What happened is they had trained it
on example résumés
on example résumés
157
495378
2716
08:30
of people who they had hired in the past.
158
498118
2242
ale oamenilor
pe care îi angajaseră în trecut.
pe care îi angajaseră în trecut.
08:32
And from these examples, the AI learned
to avoid the résumés of people
to avoid the résumés of people
159
500384
4023
Și din aceste exemple,
IA a învățat să evite CV-urile persoanelor
IA a învățat să evite CV-urile persoanelor
08:36
who had gone to women's colleges
160
504431
2026
care au învățat în licee de fete
08:38
or who had the word "women"
somewhere in their resume,
somewhere in their resume,
161
506481
2806
sau cele care aveau cuvântul
„femeie” undeva în CV-ul lor,
„femeie” undeva în CV-ul lor,
08:41
as in, "women's soccer team"
or "Society of Women Engineers."
or "Society of Women Engineers."
162
509311
4576
ca în „echipa de fotbal feminin”
sau „Societatea Femeilor Inginer.”
sau „Societatea Femeilor Inginer.”
08:45
The AI didn't know that it wasn't supposed
to copy this particular thing
to copy this particular thing
163
513911
3974
IA nu știa că nu trebuia
să copieze acest lucru
să copieze acest lucru
08:49
that it had seen the humans do.
164
517909
1978
așa cum i-a văzut pe oameni că fac.
08:51
And technically, it did
what they asked it to do.
what they asked it to do.
165
519911
3177
Și tehnic, a făcut ce i-au cerut să facă.
08:55
They just accidentally asked it
to do the wrong thing.
to do the wrong thing.
166
523112
2797
I-au cerut din greșeală
să facă un lucru greșit.
să facă un lucru greșit.
08:58
And this happens all the time with AI.
167
526653
2895
Și acest lucru
se întâmplă tot timpul cu IA.
se întâmplă tot timpul cu IA.
09:02
AI can be really destructive
and not know it.
and not know it.
168
530120
3591
IA poate fi cu adevărat
distructivă fără să știe.
distructivă fără să știe.
09:05
So the AIs that recommend
new content in Facebook, in YouTube,
new content in Facebook, in YouTube,
169
533735
5078
Deci, IA care recomandă conținut nou
pe Facebook, pe YouTube,
pe Facebook, pe YouTube,
09:10
they're optimized to increase
the number of clicks and views.
the number of clicks and views.
170
538837
3539
e optimizată pentru a crește
numărul de clicuri și vizualizări.
numărul de clicuri și vizualizări.
09:14
And unfortunately, one way
that they have found of doing this
that they have found of doing this
171
542400
3436
Și, din păcate, un mod prin care fac asta
09:17
is to recommend the content
of conspiracy theories or bigotry.
of conspiracy theories or bigotry.
172
545860
4503
e prin recomandarea unui conținut
conspiraționist sau bigot.
conspiraționist sau bigot.
09:22
The AIs themselves don't have any concept
of what this content actually is,
of what this content actually is,
173
550902
5302
IA în sine nu înțelege
ce e acest conținut,
ce e acest conținut,
09:28
and they don't have any concept
of what the consequences might be
of what the consequences might be
174
556228
3395
și nu, nu înțelege nici
care ar putea fi consecințele
care ar putea fi consecințele
09:31
of recommending this content.
175
559647
2109
recomandării acestui tip de conținut.
09:34
So, when we're working with AI,
176
562296
2011
Deci, atunci când lucrăm cu IA,
09:36
it's up to us to avoid problems.
177
564331
4182
depinde de noi să evităm probleme.
09:40
And avoiding things going wrong,
178
568537
2323
Și evitând ca lucrurile să nu meargă bine,
09:42
that may come down to
the age-old problem of communication,
the age-old problem of communication,
179
570884
4526
asta ar putea să ne ducă
la vechea problemă de comunicare,
la vechea problemă de comunicare,
09:47
where we as humans have to learn
how to communicate with AI.
how to communicate with AI.
180
575434
3745
unde noi, ca oameni, trebuie să învățăm
cum să comunicăm cu IA.
cum să comunicăm cu IA.
09:51
We have to learn what AI
is capable of doing and what it's not,
is capable of doing and what it's not,
181
579203
4039
Trebuie să învățăm ce e capabilă
să facă IA și ce nu e,
să facă IA și ce nu e,
09:55
and to understand that,
with its tiny little worm brain,
with its tiny little worm brain,
182
583266
3086
și să înțelegem că având un creier
mic de vierme,
mic de vierme,
09:58
AI doesn't really understand
what we're trying to ask it to do.
what we're trying to ask it to do.
183
586376
4013
IA nu înțelege cu adevărat
ce încercăm să-i cerem să facă.
ce încercăm să-i cerem să facă.
10:03
So in other words, we have
to be prepared to work with AI
to be prepared to work with AI
184
591148
3321
Deci, cu alte cuvinte,
trebuie să fim pregătiți să lucrăm cu IA
trebuie să fim pregătiți să lucrăm cu IA
10:06
that's not the super-competent,
all-knowing AI of science fiction.
all-knowing AI of science fiction.
185
594493
5258
care nu e acea IA super competentă,
atotștiutoare a științifico-fantasticului.
atotștiutoare a științifico-fantasticului.
10:11
We have to prepared to work with an AI
186
599775
2862
Trebuie să ne pregătim să lucrăm cu IA
10:14
that's the one that we actually have
in the present day.
in the present day.
187
602661
2938
pe care o avem de fapt în zilele noastre.
10:17
And present-day AI is plenty weird enough.
188
605623
4205
Iar IA actuală este destul de ciudată.
10:21
Thank you.
189
609852
1190
Vă mulțumesc!
10:23
(Applause)
190
611066
5225
(Aplauze)
ABOUT THE SPEAKER
Janelle Shane - AI researcherWhile moonlighting as a research scientist, Janelle Shane found fame documenting the often hilarious antics of AI algorithms.
Why you should listen
Janelle Shane's humor blog, AIweirdness.com, looks at, as she tells it, "the strange side of artificial intelligence." Her upcoming book, You Look Like a Thing and I Love You: How AI Works and Why It's Making the World a Weirder Place, uses cartoons and humorous pop-culture experiments to look inside the minds of the algorithms that run our world, making artificial intelligence and machine learning both accessible and entertaining.
According to Shane, she has only made a neural network-written recipe once -- and discovered that horseradish brownies are about as terrible as you might imagine.
Janelle Shane | Speaker | TED.com