TEDSummit
Zeynep Tufekci: Machine intelligence makes human morals more important
Zeynep Tufekci: Sztuczna inteligencja podkreśla wagę ludzkiej moralności
Filmed:
Readability: 4.9
1,648,711 views
Sztuczna inteligencja jest faktem, już z niej korzystamy, dokonując subiektywnych wyborów. Lecz skomplikowany sposób rozwoju sztucznej inteligencji sprawia, że trudno ją zrozumieć i kontrolować. W tej ostrzegawczej prelekcji techno-socjolog Zeynep Tufekci wyjaśnia, jak sztuczna inteligencja może zawieść w sposób nie przypominający ludzkich błędów, którego nie będziemy się spodziewać i na który nie będziemy przygotowani. "Nie możemy zrzucić naszej odpowiedzialności na maszyny. Musimy coraz mocniej trzymać się ludzkich wartości i etyki".
Zeynep Tufekci - Techno-sociologist
Techno-sociologist Zeynep Tufekci asks big questions about our societies and our lives, as both algorithms and digital connectivity spread. Full bio
Techno-sociologist Zeynep Tufekci asks big questions about our societies and our lives, as both algorithms and digital connectivity spread. Full bio
Double-click the English transcript below to play the video.
00:12
So, I started my first job
as a computer programmer
as a computer programmer
0
739
4122
Zaczęłam pracować jako programistka
na pierwszym roku studiów,
na pierwszym roku studiów,
00:16
in my very first year of college --
1
4885
1956
jeszcze jako nastolatka.
00:18
basically, as a teenager.
2
6865
1507
Niedługo później zaczęłam pracować
dla firmy tworzącej oprogramowania.
dla firmy tworzącej oprogramowania.
00:20
Soon after I started working,
3
8889
1732
00:22
writing software in a company,
4
10645
1610
Pewnego razu jeden z managerów
podszedł do mnie i wyszeptał:
podszedł do mnie i wyszeptał:
00:24
a manager who worked at the company
came down to where I was,
came down to where I was,
5
12799
3635
00:28
and he whispered to me,
6
16458
1268
"Czy on wie kiedy kłamię?".
00:30
"Can he tell if I'm lying?"
7
18229
2861
Byliśmy sami w pokoju.
00:33
There was nobody else in the room.
8
21806
2077
"Niby kto ma wiedzieć kiedy kłamiesz?
00:37
"Can who tell if you're lying?
And why are we whispering?"
And why are we whispering?"
9
25032
4389
I dlaczego szepczemy?"
00:42
The manager pointed
at the computer in the room.
at the computer in the room.
10
30266
3107
Manager wskazał na komputer.
"Czy on wie kiedy kłamię?"
00:45
"Can he tell if I'm lying?"
11
33397
3096
00:49
Well, that manager was having
an affair with the receptionist.
an affair with the receptionist.
12
37613
4362
Ten menadżer miał romans z recepcjonistką.
00:53
(Laughter)
13
41999
1112
(Śmiech)
00:55
And I was still a teenager.
14
43135
1766
Byłam nastolatką,
więc odkrzyknęłam szeptem:
więc odkrzyknęłam szeptem:
00:57
So I whisper-shouted back to him,
15
45447
2019
"Tak, komputer wie kiedy kłamiesz!".
00:59
"Yes, the computer can tell
if you're lying."
if you're lying."
16
47490
3624
01:03
(Laughter)
17
51138
1806
(Śmiech)
01:04
Well, I laughed, but actually,
the laugh's on me.
the laugh's on me.
18
52968
2923
Wtedy się z tego śmiałam,
ale teraz można śmiać się ze mnie.
ale teraz można śmiać się ze mnie.
01:07
Nowadays, there are computational systems
19
55915
3268
Obecnie istnieją programy,
które potrafią ropoznawać
które potrafią ropoznawać
01:11
that can suss out
emotional states and even lying
emotional states and even lying
20
59207
3548
stany emocjonalne i kłamstwo
na podstawie zdjęć twarzy.
na podstawie zdjęć twarzy.
01:14
from processing human faces.
21
62779
2044
Spece od marketingu i organy rządowe
wyrażają zainteresowanie.
wyrażają zainteresowanie.
01:17
Advertisers and even governments
are very interested.
are very interested.
22
65248
4153
Zostałam programistką, bo od dziecka
uwielbiałam matematykę i naukę.
uwielbiałam matematykę i naukę.
01:22
I had become a computer programmer
23
70319
1862
01:24
because I was one of those kids
crazy about math and science.
crazy about math and science.
24
72205
3113
Dowiedziawszy się o broni jądrowej,
przejęłam się kwestią etyki w nauce.
przejęłam się kwestią etyki w nauce.
01:27
But somewhere along the line
I'd learned about nuclear weapons,
I'd learned about nuclear weapons,
25
75942
3108
01:31
and I'd gotten really concerned
with the ethics of science.
with the ethics of science.
26
79074
2952
Byłam w kropce.
01:34
I was troubled.
27
82050
1204
01:35
However, because of family circumstances,
28
83278
2641
Ze względu na sytuację rodzinną
musiałam jak najszybciej zacząć pracować.
musiałam jak najszybciej zacząć pracować.
01:37
I also needed to start working
as soon as possible.
as soon as possible.
29
85943
3298
01:41
So I thought to myself, hey,
let me pick a technical field
let me pick a technical field
30
89265
3299
Pomyślałam, że wybiorę dziedzinę,
w której łatwo znajdę pracę
w której łatwo znajdę pracę
01:44
where I can get a job easily
31
92588
1796
01:46
and where I don't have to deal
with any troublesome questions of ethics.
with any troublesome questions of ethics.
32
94408
4018
i nie będę musiała myśleć
o zawiłych kwestiach etycznych.
o zawiłych kwestiach etycznych.
Wybrałam informatykę.
01:51
So I picked computers.
33
99022
1529
01:52
(Laughter)
34
100575
1104
(Śmiech)
01:53
Well, ha, ha, ha!
All the laughs are on me.
All the laughs are on me.
35
101703
3410
Ha, ha, ha. Można się ze mnie nabijać.
Programiści tworzą platformy,
które kontrolują to,
które kontrolują to,
01:57
Nowadays, computer scientists
are building platforms
are building platforms
36
105137
2754
01:59
that control what a billion
people see every day.
people see every day.
37
107915
4209
co każdego dnia widzą miliardy ludzi.
Tworzą samochody,
mogące zdecydować, kogo przejechać.
mogące zdecydować, kogo przejechać.
02:05
They're developing cars
that could decide who to run over.
that could decide who to run over.
38
113052
3822
Tworzą nawet broń mechaniczną,
która mogłaby być użyta w czasie wojny.
która mogłaby być użyta w czasie wojny.
02:09
They're even building machines, weapons,
39
117707
3213
02:12
that might kill human beings in war.
40
120944
2285
To są od początku do końca
kwestie etyczne.
kwestie etyczne.
02:15
It's ethics all the way down.
41
123253
2771
Sztuczna inteligencja to rzeczywistość.
02:19
Machine intelligence is here.
42
127183
2058
02:21
We're now using computation
to make all sort of decisions,
to make all sort of decisions,
43
129823
3474
Korzystamy z obliczeń komputerowych
do podejmowania różnych decyzji,
do podejmowania różnych decyzji,
również decyzji nowego rodzaju.
02:25
but also new kinds of decisions.
44
133321
1886
Próbujemy z pomocą komputerów,
uzyskać odpowiedzi na pytania,
uzyskać odpowiedzi na pytania,
02:27
We're asking questions to computation
that have no single right answers,
that have no single right answers,
45
135231
5172
na które nie ma jednej dobrej odpowiedzi,
które są subiektywne,
otwarte i wartościujące.
otwarte i wartościujące.
02:32
that are subjective
46
140427
1202
02:33
and open-ended and value-laden.
47
141653
2325
02:36
We're asking questions like,
48
144002
1758
Pytamy: "Kogo powinno się zatrudnić?
02:37
"Who should the company hire?"
49
145784
1650
Który i czyj post dana osoba
powinna zobaczyć?
powinna zobaczyć?
02:40
"Which update from which friend
should you be shown?"
should you be shown?"
50
148096
2759
Który skazaniec prawdopodobnie
popełni kolejne przestępstwo?
popełni kolejne przestępstwo?
02:42
"Which convict is more
likely to reoffend?"
likely to reoffend?"
51
150879
2266
Jaka informacja lub film powinny być
zarekomendowane widowni?".
zarekomendowane widowni?".
02:45
"Which news item or movie
should be recommended to people?"
should be recommended to people?"
52
153514
3054
02:48
Look, yes, we've been using
computers for a while,
computers for a while,
53
156592
3372
Używamy komputerów od lat,
ale to są kwestie innego rodzaju.
ale to są kwestie innego rodzaju.
02:51
but this is different.
54
159988
1517
To jest historyczna zmiana,
02:53
This is a historical twist,
55
161529
2067
bo nie możemy powiązać obliczeń
z tak subiektywnymi kwestiami,
z tak subiektywnymi kwestiami,
02:55
because we cannot anchor computation
for such subjective decisions
for such subjective decisions
56
163620
5337
w taki sam sposób gdy w grę wchodzi
03:00
the way we can anchor computation
for flying airplanes, building bridges,
for flying airplanes, building bridges,
57
168981
5420
latanie samolotami,
budowa mostów i wyprawy na Księżyc.
budowa mostów i wyprawy na Księżyc.
03:06
going to the moon.
58
174425
1259
Czy samoloty są bezpieczniejsze?
03:08
Are airplanes safer?
Did the bridge sway and fall?
Did the bridge sway and fall?
59
176449
3259
Czy mosty chwieją się i walą?
03:11
There, we have agreed-upon,
fairly clear benchmarks,
fairly clear benchmarks,
60
179732
4498
Dla takich spraw mamy jasne standardy
i prawa natury, które wskazują drogę.
i prawa natury, które wskazują drogę.
03:16
and we have laws of nature to guide us.
61
184254
2239
03:18
We have no such anchors and benchmarks
62
186517
3394
Nie mamy takich standardów dla decyzji
w pogmatwanych ludzkich sprawach.
w pogmatwanych ludzkich sprawach.
03:21
for decisions in messy human affairs.
63
189935
3963
03:25
To make things more complicated,
our software is getting more powerful,
our software is getting more powerful,
64
193922
4237
Tymczasem, oprogramowanie
staje się coraz potężniejsze,
staje się coraz potężniejsze,
03:30
but it's also getting less
transparent and more complex.
transparent and more complex.
65
198183
3773
ale również coraz mniej
przejrzyste i bardziej złożone.
przejrzyste i bardziej złożone.
W ciągu ostatnich dziesięcioleci
skomplikowane algorytmy
skomplikowane algorytmy
03:34
Recently, in the past decade,
66
202542
2040
03:36
complex algorithms
have made great strides.
have made great strides.
67
204606
2729
dokonały milowego kroku do przodu.
03:39
They can recognize human faces.
68
207359
1990
Potrafią rozpoznawać twarze,
03:41
They can decipher handwriting.
69
209985
2055
odczytywać odręczne pismo,
wykrywać kradzieże
na kartach kredytowych,
na kartach kredytowych,
03:44
They can detect credit card fraud
70
212436
2066
03:46
and block spam
71
214526
1189
blokować spam, tłumaczyć teksty,
03:47
and they can translate between languages.
72
215739
2037
wykryć guz w obrazowaniu medycznym
03:49
They can detect tumors in medical imaging.
73
217800
2574
03:52
They can beat humans in chess and Go.
74
220398
2205
i pokonać człowieka w szachy.
03:55
Much of this progress comes
from a method called "machine learning."
from a method called "machine learning."
75
223264
4504
Większą część tego postępu
zawdzięczamy metodzie
zawdzięczamy metodzie
zwanej "samouczeniem maszyn".
04:00
Machine learning is different
than traditional programming,
than traditional programming,
76
228175
3187
Samouczenie maszyn różni się
od klasycznego programowania,
od klasycznego programowania,
04:03
where you give the computer
detailed, exact, painstaking instructions.
detailed, exact, painstaking instructions.
77
231386
3585
w którym wydaje się komputerowi
dokładną i szczegółową instrunkcję.
dokładną i szczegółową instrunkcję.
Polega bardziej na wprowadzaniu
dużej ilości danych do systemu,
dużej ilości danych do systemu,
04:07
It's more like you take the system
and you feed it lots of data,
and you feed it lots of data,
78
235378
4182
również danych przypadkowych,
takich jakie generujemy w sieci.
takich jakie generujemy w sieci.
04:11
including unstructured data,
79
239584
1656
04:13
like the kind we generate
in our digital lives.
in our digital lives.
80
241264
2278
System uczy się,
przedzierając się przez te dane.
przedzierając się przez te dane.
04:15
And the system learns
by churning through this data.
by churning through this data.
81
243566
2730
Najistotniejszy jest fakt, że te systemy
04:18
And also, crucially,
82
246669
1526
04:20
these systems don't operate
under a single-answer logic.
under a single-answer logic.
83
248219
4380
nie pracują zgodnie z logiką
jednoznacznych odpowiedzi.
jednoznacznych odpowiedzi.
Nie dają prostej odpowiedzi,
tylko określają prawdopodobieństwo:
tylko określają prawdopodobieństwo:
04:24
They don't produce a simple answer;
it's more probabilistic:
it's more probabilistic:
84
252623
2959
04:27
"This one is probably more like
what you're looking for."
what you're looking for."
85
255606
3483
"To jest być może bardziej podobne,
do tego czego szukasz".
do tego czego szukasz".
04:32
Now, the upside is:
this method is really powerful.
this method is really powerful.
86
260023
3070
Plusem jest to, że ta metoda
ma bardzo duży potencjał.
ma bardzo duży potencjał.
Szef systemów
sztucznej inteligencji Google
sztucznej inteligencji Google
04:35
The head of Google's AI systems called it,
87
263117
2076
nazwał tę metodę
"nieuzasadnioną skutecznością danych".
"nieuzasadnioną skutecznością danych".
04:37
"the unreasonable effectiveness of data."
88
265217
2197
04:39
The downside is,
89
267791
1353
Minusem jest to, że nie rozumiemy,
czego nauczył się system
czego nauczył się system
04:41
we don't really understand
what the system learned.
what the system learned.
90
269738
3071
i to właśnie stanowi jego siłę.
04:44
In fact, that's its power.
91
272833
1587
To nie przypomina
wydawania instrukcji komputerowi.
wydawania instrukcji komputerowi.
04:46
This is less like giving
instructions to a computer;
instructions to a computer;
92
274946
3798
Przypomina raczej trenowanie
mechanicznego szczeniaczka,
mechanicznego szczeniaczka,
04:51
it's more like training
a puppy-machine-creature
a puppy-machine-creature
93
279200
4064
którego nie rozumiemy
i nie potrafimy kontrolować.
i nie potrafimy kontrolować.
04:55
we don't really understand or control.
94
283288
2371
04:58
So this is our problem.
95
286362
1551
I to jest problem.
05:00
It's a problem when this artificial
intelligence system gets things wrong.
intelligence system gets things wrong.
96
288427
4262
Problem pojawia się,
gdy ta sztuczna inteligencja się myli.
gdy ta sztuczna inteligencja się myli.
Problem pojawia się
również wtedy, gdy ma rację,
również wtedy, gdy ma rację,
05:04
It's also a problem
when it gets things right,
when it gets things right,
97
292713
3540
ponieważ nie umiemy tego rozróżnić
w przypadku subiektywnej kwestii.
w przypadku subiektywnej kwestii.
05:08
because we don't even know which is which
when it's a subjective problem.
when it's a subjective problem.
98
296277
3628
05:11
We don't know what this thing is thinking.
99
299929
2339
Nie mamy pojęcia,
co ten system sobie myśli.
co ten system sobie myśli.
Rozważmy algorytm odpowiedzialny
za rekrutację pracowników.
za rekrutację pracowników.
05:15
So, consider a hiring algorithm --
100
303493
3683
05:20
a system used to hire people,
using machine-learning systems.
using machine-learning systems.
101
308123
4311
Algorytm rekrutujący oparty
na metodzie samouczenia się maszyn.
na metodzie samouczenia się maszyn.
05:25
Such a system would have been trained
on previous employees' data
on previous employees' data
102
313052
3579
Taki system byłby oparty na danych
pracowników danej firmy
pracowników danej firmy
05:28
and instructed to find and hire
103
316655
2591
i miałby zatrudniać ludzi o takim profilu
jak obecni najwydajniejsi pracownicy.
jak obecni najwydajniejsi pracownicy.
05:31
people like the existing
high performers in the company.
high performers in the company.
104
319270
3038
Brzmi nieźle.
05:34
Sounds good.
105
322814
1153
Byłam raz na konferencji,
na której obecne były także osoby
na której obecne były także osoby
05:35
I once attended a conference
106
323991
1999
05:38
that brought together
human resources managers and executives,
human resources managers and executives,
107
326014
3125
zajmujące się rekrutacją, managerowie
i dyrektorzy używający takich systemów.
i dyrektorzy używający takich systemów.
05:41
high-level people,
108
329163
1206
05:42
using such systems in hiring.
109
330393
1559
Wszyscy byli zachwyceni.
05:43
They were super excited.
110
331976
1646
05:45
They thought that this would make hiring
more objective, less biased,
more objective, less biased,
111
333646
4653
Sądzili, że dzięki temu zatrudnianie
stanie się bardziej obiektywne,
stanie się bardziej obiektywne,
mniej tendencyjne i gwarantujące kobietom
i przedstawicielom mniejszości
i przedstawicielom mniejszości
05:50
and give women
and minorities a better shot
and minorities a better shot
112
338323
3000
większe szanse zatrudnienia
wobec tendencyjnych decyzji managerów.
wobec tendencyjnych decyzji managerów.
05:53
against biased human managers.
113
341347
2188
05:55
And look -- human hiring is biased.
114
343559
2843
Ludzkie decyzje dotyczące
zatrudnienia są stronnicze.
zatrudnienia są stronnicze.
05:59
I know.
115
347099
1185
W jednej z moich pierwszych prac,
moja bezpośrednia przełożona
moja bezpośrednia przełożona
06:00
I mean, in one of my early jobs
as a programmer,
as a programmer,
116
348308
3005
06:03
my immediate manager would sometimes
come down to where I was
come down to where I was
117
351337
3868
czasem przychodziła do mnie
bardzo wcześnie rano
bardzo wcześnie rano
06:07
really early in the morning
or really late in the afternoon,
or really late in the afternoon,
118
355229
3753
lub bardzo późnym popołudniem
i mówiła: "Chodźmy na lunch!".
i mówiła: "Chodźmy na lunch!".
06:11
and she'd say, "Zeynep,
let's go to lunch!"
let's go to lunch!"
119
359006
3062
Byłam zaskoczona dziwną porą,
06:14
I'd be puzzled by the weird timing.
120
362724
2167
06:16
It's 4pm. Lunch?
121
364915
2129
ale byłam też spłukana,
więc zawsze się zgadzałam.
więc zawsze się zgadzałam.
06:19
I was broke, so free lunch. I always went.
122
367068
3094
06:22
I later realized what was happening.
123
370618
2067
Później zorientowałam się o co chodziło.
06:24
My immediate managers
had not confessed to their higher-ups
had not confessed to their higher-ups
124
372709
4546
Moi bezpośredni przełożeni
nie przyznali się swoim szefom,
nie przyznali się swoim szefom,
że do poważnej roboty
zatrudnili programistę-nastolatkę,
zatrudnili programistę-nastolatkę,
06:29
that the programmer they hired
for a serious job was a teen girl
for a serious job was a teen girl
125
377279
3113
06:32
who wore jeans and sneakers to work.
126
380416
3930
noszącą jeansy i trampki do pracy.
Robiłam dobrą robotę,
ale wyglądałam nie tak,
ale wyglądałam nie tak,
06:37
I was doing a good job,
I just looked wrong
I just looked wrong
127
385174
2202
byłam w nieodpowiednim wieku
i nieodpowiedniej płci.
i nieodpowiedniej płci.
06:39
and was the wrong age and gender.
128
387400
1699
06:41
So hiring in a gender- and race-blind way
129
389123
3346
Popieram zatrudnianie
bez uwzględniania płci czy rasy.
bez uwzględniania płci czy rasy.
06:44
certainly sounds good to me.
130
392493
1865
Ale w przypadku tych systemów
to wszystko jest bardziej skomplikowane.
to wszystko jest bardziej skomplikowane.
06:47
But with these systems,
it is more complicated, and here's why:
it is more complicated, and here's why:
131
395031
3341
Obecnie, te systemy mogą
wyciągnąć wiele wniosków
wyciągnąć wiele wniosków
06:50
Currently, computational systems
can infer all sorts of things about you
can infer all sorts of things about you
132
398968
5791
na podstawie strzępów
elektronicznej informacji,
elektronicznej informacji,
06:56
from your digital crumbs,
133
404783
1872
06:58
even if you have not
disclosed those things.
disclosed those things.
134
406679
2333
nawet jeśli te informacje nie są jawne.
Mogą wnioskować na temat
orientacji seksualnej,
orientacji seksualnej,
07:01
They can infer your sexual orientation,
135
409506
2927
07:04
your personality traits,
136
412994
1306
cech osobowości,
przekonań politycznych.
przekonań politycznych.
07:06
your political leanings.
137
414859
1373
07:08
They have predictive power
with high levels of accuracy.
with high levels of accuracy.
138
416830
3685
Te przewidywania są niezwykle trafne.
07:13
Remember -- for things
you haven't even disclosed.
you haven't even disclosed.
139
421362
2578
Pamiętajcie - te przewidywania dotyczą
spraw, których nawet nie ujawniliście.
spraw, których nawet nie ujawniliście.
07:15
This is inference.
140
423964
1591
Moja przyjaciółka stworzyła system
tego rodzaju, aby przewidywać
tego rodzaju, aby przewidywać
07:17
I have a friend who developed
such computational systems
such computational systems
141
425579
3261
prawdopodobieństwo zapadnięcia na
depresję kliniczną lub poporodową
depresję kliniczną lub poporodową
07:20
to predict the likelihood
of clinical or postpartum depression
of clinical or postpartum depression
142
428864
3641
na podstawie danych zaczerpniętych
z serwisów społecznościowych.
z serwisów społecznościowych.
07:24
from social media data.
143
432529
1416
07:26
The results are impressive.
144
434676
1427
Wyniki są imponujące.
Jej system potrafi
przewidzieć prawdopodobieństwo
przewidzieć prawdopodobieństwo
07:28
Her system can predict
the likelihood of depression
the likelihood of depression
145
436492
3357
wystąpienia depresji miesiące przed
wystąpieniem jakichkolwiek objawów.
wystąpieniem jakichkolwiek objawów.
07:31
months before the onset of any symptoms --
146
439873
3903
Miesiące przed.
Nie ma objawów, jest przewidywanie.
Nie ma objawów, jest przewidywanie.
07:35
months before.
147
443800
1373
07:37
No symptoms, there's prediction.
148
445197
2246
07:39
She hopes it will be used
for early intervention. Great!
for early intervention. Great!
149
447467
4812
Moja przyjaciółka ma nadzieję,
że system posłuży wczesnemu leczeniu.
że system posłuży wczesnemu leczeniu.
Wspaniale.
Ale spójrzmy na to
w kontekście zatrudniania.
w kontekście zatrudniania.
07:44
But now put this in the context of hiring.
150
452911
2040
Na tamtej konferencji podeszłam
do jednej wysokopostawionej managerki
do jednej wysokopostawionej managerki
07:48
So at this human resources
managers conference,
managers conference,
151
456027
3046
07:51
I approached a high-level manager
in a very large company,
in a very large company,
152
459097
4709
pracującej dla jednej z wielkich firm
i powiedziałam:
i powiedziałam:
07:55
and I said to her, "Look,
what if, unbeknownst to you,
what if, unbeknownst to you,
153
463830
4578
"Co jeśli twój system
za twoimi plecami wyklucza osoby
za twoimi plecami wyklucza osoby
08:00
your system is weeding out people
with high future likelihood of depression?
with high future likelihood of depression?
154
468432
6549
o większym prawdopodobieństwie
zachorowania na depresję?
zachorowania na depresję?
Nie mają depresji teraz,
ale być może w przyszłości.
ale być może w przyszłości.
08:07
They're not depressed now,
just maybe in the future, more likely.
just maybe in the future, more likely.
155
475761
3376
Co jeśli wyklucza kobiety,
które prawdopodobnie za rok lub dwa
które prawdopodobnie za rok lub dwa
08:11
What if it's weeding out women
more likely to be pregnant
more likely to be pregnant
156
479923
3406
08:15
in the next year or two
but aren't pregnant now?
but aren't pregnant now?
157
483353
2586
mogą być w ciąży, ale teraz nie są?
08:18
What if it's hiring aggressive people
because that's your workplace culture?"
because that's your workplace culture?"
158
486844
5636
Co jeśli zatrudnia osoby agresywne,
bo to odpowiada kulturze pracy
w waszej firmie?".
w waszej firmie?".
Nie można tego stwierdzić
patrząc na zestawienia pracowników
patrząc na zestawienia pracowników
08:25
You can't tell this by looking
at gender breakdowns.
at gender breakdowns.
159
493173
2691
pod względem płci;
te mogą się równoważyć.
te mogą się równoważyć.
08:27
Those may be balanced.
160
495888
1502
08:29
And since this is machine learning,
not traditional coding,
not traditional coding,
161
497414
3557
Ponieważ to jest uczenie maszynowe
a nie klasyczne programowanie,
a nie klasyczne programowanie,
nie ma zmiennych podpisanych: "depresja"
"ciąża" lub "wysoki poziom agresji".
"ciąża" lub "wysoki poziom agresji".
08:32
there is no variable there
labeled "higher risk of depression,"
labeled "higher risk of depression,"
162
500995
4907
08:37
"higher risk of pregnancy,"
163
505926
1833
08:39
"aggressive guy scale."
164
507783
1734
Nie znasz kryteriów, na podstawie których
twój system dokonuje wyboru.
twój system dokonuje wyboru.
08:41
Not only do you not know
what your system is selecting on,
what your system is selecting on,
165
509995
3679
Nie wiesz nawet gdzie zacząć ich szukać.
08:45
you don't even know
where to begin to look.
where to begin to look.
166
513698
2323
To jest technologia czarnej skrzynki.
08:48
It's a black box.
167
516045
1246
08:49
It has predictive power,
but you don't understand it.
but you don't understand it.
168
517315
2807
Potrafi przewidywać,
ale nie rozumiesz jak działa.
ale nie rozumiesz jak działa.
08:52
"What safeguards," I asked, "do you have
169
520486
2369
"Jakie masz zabezpieczenia,
żeby upewnić się,
żeby upewnić się,
08:54
to make sure that your black box
isn't doing something shady?"
isn't doing something shady?"
170
522879
3673
że twoja czarna skrzynka
nie robi czegoś podejrzanego?"
nie robi czegoś podejrzanego?"
Spojrzała na mnie jakbym
nadepnęła na ogon szczeniaczkowi.
nadepnęła na ogon szczeniaczkowi.
09:00
She looked at me as if I had
just stepped on 10 puppy tails.
just stepped on 10 puppy tails.
171
528863
3878
(Śmiech)
09:04
(Laughter)
172
532765
1248
Popatrzyła na mnie i powiedziała:
"Ani słowa więcej".
"Ani słowa więcej".
09:06
She stared at me and she said,
173
534037
2041
09:08
"I don't want to hear
another word about this."
another word about this."
174
536556
4333
Odwróciła się i odeszła.
09:13
And she turned around and walked away.
175
541458
2034
Uwaga - nie była niegrzeczna.
09:16
Mind you -- she wasn't rude.
176
544064
1486
Ewidentnie chciała powiedzieć:
09:17
It was clearly: what I don't know
isn't my problem, go away, death stare.
isn't my problem, go away, death stare.
177
545574
6308
"Jeśli o czymś nie wiem,
to nie jest mój problem, odejdź".
to nie jest mój problem, odejdź".
Na odchodne rzuciła mordercze spojrzenie.
09:23
(Laughter)
178
551906
1246
(Śmiech)
09:25
Look, such a system
may even be less biased
may even be less biased
179
553862
3839
Takie systemy mogą być mniej
stronnicze niż managerowie.
stronnicze niż managerowie.
09:29
than human managers in some ways.
180
557725
2103
Mogą być również opłacalne.
09:31
And it could make monetary sense.
181
559852
2146
09:34
But it could also lead
182
562573
1650
Ale mogą też prowadzić do stopniowego
i niepostrzeżonego zamykania
i niepostrzeżonego zamykania
09:36
to a steady but stealthy
shutting out of the job market
shutting out of the job market
183
564247
4748
rynku pracy dla osób z większym
ryzykiem zachorowań na depresję.
ryzykiem zachorowań na depresję.
09:41
of people with higher risk of depression.
184
569019
2293
Czy takie społeczeństwo chcemy budować,
nie wiedząc nawet o tym, że to robimy,
nie wiedząc nawet o tym, że to robimy,
09:43
Is this the kind of society
we want to build,
we want to build,
185
571753
2596
09:46
without even knowing we've done this,
186
574373
2285
bo powierzamy proces decyzyjny systemom,
09:48
because we turned decision-making
to machines we don't totally understand?
to machines we don't totally understand?
187
576682
3964
których do końca nie rozumiemy?
09:53
Another problem is this:
188
581265
1458
Kolejny problem: te systemy pracują
na danych opartych na ludzkich działaniach
na danych opartych na ludzkich działaniach
09:55
these systems are often trained
on data generated by our actions,
on data generated by our actions,
189
583314
4452
09:59
human imprints.
190
587790
1816
10:02
Well, they could just be
reflecting our biases,
reflecting our biases,
191
590188
3808
Mogą po prostu odzwierciedlać
nasze własne uprzedzenia,
nasze własne uprzedzenia,
wzmacniać je i zwracać w postaci wyniku,
10:06
and these systems
could be picking up on our biases
could be picking up on our biases
192
594020
3593
10:09
and amplifying them
193
597637
1313
który będziemy interpretować jako
obiektywne i neutralne obliczenia.
obiektywne i neutralne obliczenia.
10:10
and showing them back to us,
194
598974
1418
10:12
while we're telling ourselves,
195
600416
1462
10:13
"We're just doing objective,
neutral computation."
neutral computation."
196
601902
3117
Udowodniono, że wyszukiwarka Google
10:18
Researchers found that on Google,
197
606314
2677
rzadziej pokazuje kobietom
dobrze płatne oferty pracy.
dobrze płatne oferty pracy.
10:22
women are less likely than men
to be shown job ads for high-paying jobs.
to be shown job ads for high-paying jobs.
198
610134
5313
A wyszukiwanie afroamerykańskich nazwisk
10:28
And searching for African-American names
199
616463
2530
10:31
is more likely to bring up ads
suggesting criminal history,
suggesting criminal history,
200
619017
4706
jest skorelowane z ogłoszeniami
sugerującymi kryminalną przeszłość,
sugerującymi kryminalną przeszłość,
10:35
even when there is none.
201
623747
1567
nawet jeśli takowej nie ma.
10:38
Such hidden biases
and black-box algorithms
and black-box algorithms
202
626693
3549
Tego typu ukryte uprzedzenia
i algorytmy typu czarnej skrzynki,
i algorytmy typu czarnej skrzynki,
które czasem odkrywamy, a czasem nie,
10:42
that researchers uncover sometimes
but sometimes we don't know,
but sometimes we don't know,
203
630266
3973
mogą diametralnie wpływać
na ludzkie życie.
na ludzkie życie.
10:46
can have life-altering consequences.
204
634263
2661
Pewien pozwany został skazany na 6 lat
więzienia za ucieczkę przed policją.
więzienia za ucieczkę przed policją.
10:49
In Wisconsin, a defendant
was sentenced to six years in prison
was sentenced to six years in prison
205
637958
4159
10:54
for evading the police.
206
642141
1355
Algorytmy są coraz częściej stosowane
przy wydawaniu wyroków.
przy wydawaniu wyroków.
10:56
You may not know this,
207
644824
1186
10:58
but algorithms are increasingly used
in parole and sentencing decisions.
in parole and sentencing decisions.
208
646034
3998
Mężczyzna chciał wiedzieć,
jak ten wynik jest obliczany.
jak ten wynik jest obliczany.
11:02
He wanted to know:
How is this score calculated?
How is this score calculated?
209
650056
2955
Używano komercyjnej czarnej skrzynki.
11:05
It's a commercial black box.
210
653795
1665
11:07
The company refused to have its algorithm
be challenged in open court.
be challenged in open court.
211
655484
4205
Firma, która ją sprzedaje,
sprzeciwiła się zweryfikowaniu
algorytmu podczas otwartej rozprawy.
algorytmu podczas otwartej rozprawy.
11:12
But ProPublica, an investigative
nonprofit, audited that very algorithm
nonprofit, audited that very algorithm
212
660396
5532
Śledcza organizacja non-profit,
ProPublica, zweryfikowała ten algorytm
ProPublica, zweryfikowała ten algorytm
na podstawie publicznie
dostępnych danych i dowiodła,
dostępnych danych i dowiodła,
11:17
with what public data they could find,
213
665952
2016
11:19
and found that its outcomes were biased
214
667992
2316
że generowane przez niego wyniki
były stronnicze,
były stronnicze,
11:22
and its predictive power
was dismal, barely better than chance,
was dismal, barely better than chance,
215
670332
3629
a jego moc przewidywania niewielka,
niewiele lepsza od losowej,
niewiele lepsza od losowej,
11:25
and it was wrongly labeling
black defendants as future criminals
black defendants as future criminals
216
673985
4416
a algorytm bezzasadnie wskazywał
czarnoskórych oskarżonych
czarnoskórych oskarżonych
jako możliwych przyszłych przestępców
dwukrotnie częściej niż białych.
dwukrotnie częściej niż białych.
11:30
at twice the rate of white defendants.
217
678425
3895
Kolejna sprawa: ta kobieta była spóźniona
po odbiór chrześnicy ze szkoły.
po odbiór chrześnicy ze szkoły.
11:35
So, consider this case:
218
683891
1564
11:38
This woman was late
picking up her godsister
picking up her godsister
219
686103
3852
11:41
from a school in Broward County, Florida,
220
689979
2075
Biegła ulicą w towarzystwie przyjaciela
i na jednym z ganków zauważyli
i na jednym z ganków zauważyli
11:44
running down the street
with a friend of hers.
with a friend of hers.
221
692757
2356
11:47
They spotted an unlocked kid's bike
and a scooter on a porch
and a scooter on a porch
222
695137
4099
niezapięty rowerek dziecięcy i hulajnogę,
na które bezmyślnie wskoczyli.
na które bezmyślnie wskoczyli.
11:51
and foolishly jumped on it.
223
699260
1632
Gdy odjeżdżali, z domu wybiegła kobieta
krzycząc: "To rowerek mojego dziecka!".
krzycząc: "To rowerek mojego dziecka!".
11:52
As they were speeding off,
a woman came out and said,
a woman came out and said,
224
700916
2599
11:55
"Hey! That's my kid's bike!"
225
703539
2205
Zostawili rower i hulajnogę i odeszli,
ale zostali aresztowani.
ale zostali aresztowani.
11:57
They dropped it, they walked away,
but they were arrested.
but they were arrested.
226
705768
3294
Dziewczyna postąpiła głupio i źle,
ale miała tylko 18 lat.
ale miała tylko 18 lat.
12:01
She was wrong, she was foolish,
but she was also just 18.
but she was also just 18.
227
709086
3637
Miała już na koncie
kilka młodzieńczych wykroczeń.
kilka młodzieńczych wykroczeń.
12:04
She had a couple of juvenile misdemeanors.
228
712747
2544
12:07
Meanwhile, that man had been arrested
for shoplifting in Home Depot --
for shoplifting in Home Depot --
229
715808
5185
W tym samym czasie aresztowano mężczyznę
za kradzież towarów o wartości 85 dolarów,
za kradzież towarów o wartości 85 dolarów,
12:13
85 dollars' worth of stuff,
a similar petty crime.
a similar petty crime.
230
721017
2924
równie niewielkie wykroczenie.
Ale on już wcześniej był
dwukrotnie skazany za napad z bronią.
dwukrotnie skazany za napad z bronią.
12:16
But he had two prior
armed robbery convictions.
armed robbery convictions.
231
724766
4559
Algorytm przypisał jej większe ryzyko
ponownego popełnienia przestępstwa.
ponownego popełnienia przestępstwa.
12:21
But the algorithm scored her
as high risk, and not him.
as high risk, and not him.
232
729955
3482
Dwa lata później, ProPublica odkryła,
że kobieta nie popełniła więcej wykroczeń,
że kobieta nie popełniła więcej wykroczeń,
12:26
Two years later, ProPublica found
that she had not reoffended.
that she had not reoffended.
233
734746
3874
miała tylko problemy ze znalezieniem
pracy z taką historią wykroczeń.
pracy z taką historią wykroczeń.
12:30
It was just hard to get a job
for her with her record.
for her with her record.
234
738644
2550
12:33
He, on the other hand, did reoffend
235
741218
2076
Mężczyzna natomiast
odsiadywał ośmioletni wyrok
odsiadywał ośmioletni wyrok
12:35
and is now serving an eight-year
prison term for a later crime.
prison term for a later crime.
236
743318
3836
za przestępstwo,
którego dopuścił się ponownie.
którego dopuścił się ponownie.
Jest jasne, że musimy
dokonywać rewizji czarnych skrzynek
dokonywać rewizji czarnych skrzynek
12:40
Clearly, we need to audit our black boxes
237
748088
3369
12:43
and not have them have
this kind of unchecked power.
this kind of unchecked power.
238
751481
2615
i ograniczać ich niekontrolowaną władzę.
12:46
(Applause)
239
754120
2879
(Brawa)
12:50
Audits are great and important,
but they don't solve all our problems.
but they don't solve all our problems.
240
758087
4242
Rewizje są dobre i potrzebne,
ale nie rozwiążą wszystkich problemów.
ale nie rozwiążą wszystkich problemów.
Spójrzmy na algorytm Facebooka,
który nadaje wszystkiemu jakąś wagę
który nadaje wszystkiemu jakąś wagę
12:54
Take Facebook's powerful
news feed algorithm --
news feed algorithm --
241
762353
2748
12:57
you know, the one that ranks everything
and decides what to show you
and decides what to show you
242
765125
4843
i decyduje o tym, co powinniście zobaczyć
13:01
from all the friends and pages you follow.
243
769992
2284
spośród tego wszystkiego,
co publikują wasi znajomi.
co publikują wasi znajomi.
Czy trzeba zobaczyć
kolejne zdjęcie bobasa?
kolejne zdjęcie bobasa?
13:04
Should you be shown another baby picture?
244
772898
2275
13:07
(Laughter)
245
775197
1196
(Śmiech)
13:08
A sullen note from an acquaintance?
246
776417
2596
Ponury post jednego ze znajomych?
Ważną i trudną informację?
13:11
An important but difficult news item?
247
779449
1856
Nie ma jednej dobrej odpowiedzi.
13:13
There's no right answer.
248
781329
1482
Facebook ocenia liczbę reakcji:
komentarze, udostępnienia, polubienia.
komentarze, udostępnienia, polubienia.
13:14
Facebook optimizes
for engagement on the site:
for engagement on the site:
249
782835
2659
13:17
likes, shares, comments.
250
785518
1415
W sierpniu 2014 roku w Missouri
wybuchł protest po śmierci
wybuchł protest po śmierci
13:20
In August of 2014,
251
788168
2696
13:22
protests broke out in Ferguson, Missouri,
252
790888
2662
afroamerykańskiego nastolatka
zabitego przez białego policjanta
zabitego przez białego policjanta
13:25
after the killing of an African-American
teenager by a white police officer,
teenager by a white police officer,
253
793574
4417
13:30
under murky circumstances.
254
798015
1570
w niejasnych okolicznościach.
13:31
The news of the protests was all over
255
799974
2007
Wiadomości na ten temat zalały
mój niefiltrowany profil na Tweeterze,
mój niefiltrowany profil na Tweeterze,
13:34
my algorithmically
unfiltered Twitter feed,
unfiltered Twitter feed,
256
802005
2685
ale nie było ich na moim Facebooku.
13:36
but nowhere on my Facebook.
257
804714
1950
Czyżby moi znajomi o tym nie rozmawiali?
13:39
Was it my Facebook friends?
258
807182
1734
13:40
I disabled Facebook's algorithm,
259
808940
2032
Zablokowałam algorytm Facebooka,
co jest trudne,
co jest trudne,
13:43
which is hard because Facebook
keeps wanting to make you
keeps wanting to make you
260
811472
2848
bo Facebook dąży do tego,
żeby nas kontrolować
żeby nas kontrolować
13:46
come under the algorithm's control,
261
814344
2036
i zobaczyłam, że przyjaciele
rozmawiali o tej sprawie.
rozmawiali o tej sprawie.
13:48
and saw that my friends
were talking about it.
were talking about it.
262
816404
2238
13:50
It's just that the algorithm
wasn't showing it to me.
wasn't showing it to me.
263
818666
2509
Po prostu ja tego nie widziałam,
bo Facebook mi tego nie pokazywał.
bo Facebook mi tego nie pokazywał.
13:53
I researched this and found
this was a widespread problem.
this was a widespread problem.
264
821199
3042
Okazało się, że to rozległy problem.
13:56
The story of Ferguson
wasn't algorithm-friendly.
wasn't algorithm-friendly.
265
824265
3813
Ta historia nie była
wysoko oceniona przez algorytm.
wysoko oceniona przez algorytm.
Niełatwo ją "polubić".
14:00
It's not "likable."
266
828102
1171
14:01
Who's going to click on "like?"
267
829297
1552
14:03
It's not even easy to comment on.
268
831500
2206
Nie jest nawet łatwo ją skomentować.
14:05
Without likes and comments,
269
833730
1371
Bez lajków i komentarzy algorytm
prawdopodobnie pokazywał
prawdopodobnie pokazywał
14:07
the algorithm was likely showing it
to even fewer people,
to even fewer people,
270
835125
3292
tę informację coraz mniejszej ilości osób
i dlatego jej nie widzieliśmy.
i dlatego jej nie widzieliśmy.
14:10
so we didn't get to see this.
271
838441
1542
Równocześnie algorytm Facebooka
wypromował Ice Bucket Challenge.
wypromował Ice Bucket Challenge.
14:12
Instead, that week,
272
840946
1228
14:14
Facebook's algorithm highlighted this,
273
842198
2298
14:16
which is the ALS Ice Bucket Challenge.
274
844520
2226
Szlachetna sprawa: oblej się zimną wodą,
ofiaruj pieniądze, super.
ofiaruj pieniądze, super.
14:18
Worthy cause; dump ice water,
donate to charity, fine.
donate to charity, fine.
275
846770
3742
14:22
But it was super algorithm-friendly.
276
850536
1904
To było wysoko ocenione przez algorytm.
14:25
The machine made this decision for us.
277
853219
2613
Maszyna podjęła za nas decyzję.
14:27
A very important
but difficult conversation
but difficult conversation
278
855856
3497
Bardzo ważna lecz trudna dyskusja
mogła zostać wyciszona,
mogła zostać wyciszona,
14:31
might have been smothered,
279
859377
1555
gdyby Facebook był jedynym medium.
14:32
had Facebook been the only channel.
280
860956
2696
Te systemy mogą się też mylić w sposób,
14:36
Now, finally, these systems
can also be wrong
can also be wrong
281
864117
3797
14:39
in ways that don't resemble human systems.
282
867938
2736
który nie przypomina ludzkich błędów.
14:42
Do you guys remember Watson,
IBM's machine-intelligence system
IBM's machine-intelligence system
283
870698
2922
Pamiętacie Watsona,
system sztucznej inteligencji IBM,
system sztucznej inteligencji IBM,
14:45
that wiped the floor
with human contestants on Jeopardy?
with human contestants on Jeopardy?
284
873644
3128
który zmiażdżył uczestników
konkursu wiedzy Jeopardy?
konkursu wiedzy Jeopardy?
14:49
It was a great player.
285
877131
1428
To był świetny gracz.
14:50
But then, for Final Jeopardy,
Watson was asked this question:
Watson was asked this question:
286
878583
3569
Ale w finałowym odcinku padło pytanie:
"Największe lotnisko tego miasta
nosi nazwę bohatera
nosi nazwę bohatera
14:54
"Its largest airport is named
for a World War II hero,
for a World War II hero,
287
882659
2932
drugiej co do wielkości bitwy
podczas II wojny światowej".
podczas II wojny światowej".
14:57
its second-largest
for a World War II battle."
for a World War II battle."
288
885615
2252
14:59
(Hums Final Jeopardy music)
289
887891
1378
Chicago.
15:01
Chicago.
290
889582
1182
Dwóch uczestników-ludzi
odpowiedziało poprawnie.
odpowiedziało poprawnie.
15:02
The two humans got it right.
291
890788
1370
15:04
Watson, on the other hand,
answered "Toronto" --
answered "Toronto" --
292
892697
4348
Watson odpowiedział "Toronto"
w kategorii dotyczącej miast w USA.
w kategorii dotyczącej miast w USA.
15:09
for a US city category!
293
897069
1818
Ten imponujący system zrobił błąd,
15:11
The impressive system also made an error
294
899596
2901
którego żaden człowiek by nie popełnił,
nawet drugoklasista.
nawet drugoklasista.
15:14
that a human would never make,
a second-grader wouldn't make.
a second-grader wouldn't make.
295
902521
3651
Sztuczna inteligencja
może zawieść w sposób,
może zawieść w sposób,
15:18
Our machine intelligence can fail
296
906823
3109
który nie przypomina ludzkich pomyłek,
15:21
in ways that don't fit
error patterns of humans,
error patterns of humans,
297
909956
3100
15:25
in ways we won't expect
and be prepared for.
and be prepared for.
298
913080
2950
którego się nie spodziewamy,
i na który nie będziemy gotowi.
i na który nie będziemy gotowi.
15:28
It'd be lousy not to get a job
one is qualified for,
one is qualified for,
299
916054
3638
Byłoby głupio nie dostać pracy,
na którą się zasługuje,
na którą się zasługuje,
ale byłoby potrójnie beznadziejnie,
gdyby to się stało
gdyby to się stało
15:31
but it would triple suck
if it was because of stack overflow
if it was because of stack overflow
300
919716
3727
z powodu nadmiaru danych
w jakimś podprogramie.
w jakimś podprogramie.
15:35
in some subroutine.
301
923467
1432
15:36
(Laughter)
302
924923
1579
(Śmiech)
15:38
In May of 2010,
303
926526
2786
W maju 2010 roku
krach giełdy na Wall Street
krach giełdy na Wall Street
15:41
a flash crash on Wall Street
fueled by a feedback loop
fueled by a feedback loop
304
929336
4044
wzmocniony sprzężeniem
zwrotnym algorytmu "sprzedaży"
zwrotnym algorytmu "sprzedaży"
15:45
in Wall Street's "sell" algorithm
305
933404
3028
doprowadził do zniknięcia
trylionów dolarów w 36 minut.
trylionów dolarów w 36 minut.
15:48
wiped a trillion dollars
of value in 36 minutes.
of value in 36 minutes.
306
936456
4184
15:53
I don't even want to think
what "error" means
what "error" means
307
941722
2187
Nie chcę nawet myśleć,
co taka "pomyłka" oznaczałaby
co taka "pomyłka" oznaczałaby
15:55
in the context of lethal
autonomous weapons.
autonomous weapons.
308
943933
3589
w przypadku automatycznej
broni śmiercionośnej.
broni śmiercionośnej.
16:01
So yes, humans have always made biases.
309
949894
3790
Tak, ludzie są stronniczy.
Ludzie podejmujący decyzje w sądach,
mediach, na wojnie... popełniają błędy.
mediach, na wojnie... popełniają błędy.
16:05
Decision makers and gatekeepers,
310
953708
2176
16:07
in courts, in news, in war ...
311
955908
3493
16:11
they make mistakes;
but that's exactly my point.
but that's exactly my point.
312
959425
3038
Ale o tym właśnie mówię.
16:14
We cannot escape
these difficult questions.
these difficult questions.
313
962487
3521
Nie możemy uciec od tych trudnych kwestii.
Nie możemy zrzucić naszej
odpowiedzialności na maszyny.
odpowiedzialności na maszyny.
16:18
We cannot outsource
our responsibilities to machines.
our responsibilities to machines.
314
966596
3516
16:22
(Applause)
315
970676
4208
(Brawa)
16:29
Artificial intelligence does not give us
a "Get out of ethics free" card.
a "Get out of ethics free" card.
316
977089
4447
Sztuczna inteligencja
nie zwalnia nas z myślenia etycznego.
nie zwalnia nas z myślenia etycznego.
Fred Benenson, specjalista od danych,
nazywał to "matematycznym praniem mózgu".
nazywał to "matematycznym praniem mózgu".
16:34
Data scientist Fred Benenson
calls this math-washing.
calls this math-washing.
317
982742
3381
Potrzebujemy czegoś odwrotnego.
16:38
We need the opposite.
318
986147
1389
Musimy rozwijać w sobie
sceptycyzm wobec algorytmów
sceptycyzm wobec algorytmów
16:39
We need to cultivate algorithm suspicion,
scrutiny and investigation.
scrutiny and investigation.
319
987560
5388
i daleko posuniętą ostrożność
oraz dokładność w ich badaniu.
oraz dokładność w ich badaniu.
16:45
We need to make sure we have
algorithmic accountability,
algorithmic accountability,
320
993380
3198
Musimy mieć pewność, że mamy
algorytmiczną odpowiedzialność,
algorytmiczną odpowiedzialność,
rewizję i sensowną przejrzystość.
16:48
auditing and meaningful transparency.
321
996602
2445
Musimy zaakceptować,
że wprowadzenie matematyki i obliczeń
że wprowadzenie matematyki i obliczeń
16:51
We need to accept
that bringing math and computation
that bringing math and computation
322
999380
3234
do zawikłanych i wymagających
wartościowania ludzkich spraw
wartościowania ludzkich spraw
16:54
to messy, value-laden human affairs
323
1002638
2970
16:57
does not bring objectivity;
324
1005632
2384
nie wprowadza obiektywizacji.
17:00
rather, the complexity of human affairs
invades the algorithms.
invades the algorithms.
325
1008040
3633
Przeciwnie: komplikacja ludzkich spraw
najedzie algorytmy.
17:04
Yes, we can and we should use computation
326
1012148
3487
Można i trzeba korzystać z obliczeń,
aby móc podejmować lepsze decyzje.
17:07
to help us make better decisions.
327
1015659
2014
Ale trzeba uznać moralną odpowiedzialność
17:09
But we have to own up
to our moral responsibility to judgment,
to our moral responsibility to judgment,
328
1017697
5332
za podejmowanie decyzji
i używać algorytmów w jej granicach,
i używać algorytmów w jej granicach,
17:15
and use algorithms within that framework,
329
1023053
2818
17:17
not as a means to abdicate
and outsource our responsibilities
and outsource our responsibilities
330
1025895
4935
a nie jako środek do zrzeczenia się
i odrzucenia tej odpowiedzialności.
i odrzucenia tej odpowiedzialności.
17:22
to one another as human to human.
331
1030854
2454
17:25
Machine intelligence is here.
332
1033807
2609
Sztuczna inteligencja jest faktem.
17:28
That means we must hold on ever tighter
333
1036440
3421
To oznacza, że tym mocniej musimy
trzymać się ludzkich wartości i etyki.
trzymać się ludzkich wartości i etyki.
17:31
to human values and human ethics.
334
1039885
2147
Dziękuję
17:34
Thank you.
335
1042056
1154
(Brawa)
17:35
(Applause)
336
1043234
5020
ABOUT THE SPEAKER
Zeynep Tufekci - Techno-sociologistTechno-sociologist Zeynep Tufekci asks big questions about our societies and our lives, as both algorithms and digital connectivity spread.
Why you should listen
We've entered an era of digital connectivity and machine intelligence. Complex algorithms are increasingly used to make consequential decisions about us. Many of these decisions are subjective and have no right answer: who should be hired, fired or promoted; what news should be shown to whom; which of your friends do you see updates from; which convict should be paroled. With increasing use of machine learning in these systems, we often don't even understand how exactly they are making these decisions. Zeynep Tufekci studies what this historic transition means for culture, markets, politics and personal life.
Tufekci is a contributing opinion writer at the New York Times, an associate professor at the School of Information and Library Science at University of North Carolina, Chapel Hill, and a faculty associate at Harvard's Berkman Klein Center for Internet and Society.
Her book, Twitter and Tear Gas: The Power and Fragility of Networked Protest, was published in 2017 by Yale University Press. Her next book, from Penguin Random House, will be about algorithms that watch, judge and nudge us.
Zeynep Tufekci | Speaker | TED.com