TEDSummit 2019
Danielle Citron: How deepfakes undermine truth and threaten democracy
Danielle Citron: Az igazságot aláásó és a demokráciát fenyegető élethű hamisítás
Filmed:
Readability: 5
1,533,743 views
Az élethű hamisítás technológiájának alkalmazása kép- és hangfelvételek rosszindulatú manipulálása céljából erőszak szítására vagy politikusok, újságírók becsületének besározására egyre inkább valóságos fenyegetéssé válik. Ahogy ezek az eszközök egyre hozzáférhetőbbé és megoldásaik egyre valósághűbbé válnak, fölmerül a kérdés: hogyan fogják alakítani, amit világunkról elhiszünk? Danielle Citron jogászprofesszor komor előadása föltárja, hogy az élethű hamisítás miként növeli meg bizalmatlanságunkat, és tanácsot ad arra nézve, hogyan védhetjük meg az igazságot.
Danielle Citron - Law professor, deepfake scholar
Danielle Citron writes, speaks and teaches her academic loves: privacy, free speech and civil rights. Through her work with privacy organizations, she also puts these ideas into practice. Full bio
Danielle Citron writes, speaks and teaches her academic loves: privacy, free speech and civil rights. Through her work with privacy organizations, she also puts these ideas into practice. Full bio
Double-click the English transcript below to play the video.
00:12
[This talk contains mature content]
0
535
2767
[Vigyázat, felnőtt tartalom]
00:17
Rana Ayyub is a journalist in India
1
5762
2992
Rana Ayyub indiai újságírónő,
00:20
whose work has exposed
government corruption
government corruption
2
8778
2602
akinek tevékenysége kormányzati korrupciót
00:24
and human rights violations.
3
12411
2157
és az emberi jogok megsértését tárta föl.
00:26
And over the years,
4
14990
1167
Évek alatt hozzászokott
00:28
she's gotten used to vitriol
and controversy around her work.
and controversy around her work.
5
16181
3303
a munkája miatti alpári
szidalmazásokhoz és vitákhoz.
szidalmazásokhoz és vitákhoz.
00:32
But none of it could have prepared her
for what she faced in April 2018.
for what she faced in April 2018.
6
20149
5109
De arra nem lehetett fölkészülve,
ami 2018 áprilisában érte.
ami 2018 áprilisában érte.
00:38
She was sitting in a café with a friend
when she first saw it:
when she first saw it:
7
26125
3651
Barátjával épp presszóban üldögélt,
mikor először meglátta:
mikor először meglátta:
00:41
a two-minute, 20-second video
of her engaged in a sex act.
of her engaged in a sex act.
8
29800
4943
két perc 20 másodperces videót,
amely nemi aktus közben ábrázolta.
amely nemi aktus közben ábrázolta.
00:47
And she couldn't believe her eyes.
9
35188
2349
Képtelen volt hinni a szemének.
00:49
She had never made a sex video.
10
37561
2273
Sosem készített szexvideót.
00:52
But unfortunately, thousands
upon thousands of people
upon thousands of people
11
40506
3465
De sajnos, sok ezren elhiszik,
00:55
would believe it was her.
12
43995
1666
hogy a videón ő szerepel.
00:58
I interviewed Ms. Ayyub
about three months ago,
about three months ago,
13
46673
2944
Kb. három hónapja
készítettem vele interjút
készítettem vele interjút
01:01
in connection with my book
on sexual privacy.
on sexual privacy.
14
49641
2504
a szexuális magánéletről
írt könyvem kapcsán.
írt könyvem kapcsán.
01:04
I'm a law professor, lawyer
and civil rights advocate.
and civil rights advocate.
15
52681
3198
Jogászprofesszor, ügyvéd
és emberjogi szószóló vagyok.
és emberjogi szószóló vagyok.
01:08
So it's incredibly frustrating
knowing that right now,
knowing that right now,
16
56204
4611
Hihetetlenül elkeserítő a tudat,
01:12
law could do very little to help her.
17
60839
2238
hogy a jog mily keveset segíthet rajta.
01:15
And as we talked,
18
63458
1547
Beszélgetésünkben utalt rá,
01:17
she explained that she should have seen
the fake sex video coming.
the fake sex video coming.
19
65029
4512
hogy számítania kellett
a hamisított szexvideó megjelenésére.
a hamisított szexvideó megjelenésére.
01:22
She said, "After all, sex is so often used
to demean and to shame women,
to demean and to shame women,
20
70038
5596
"A szexet oly gyakran használják
nők megalázására és megszégyenítésére,
nők megalázására és megszégyenítésére,
01:27
especially minority women,
21
75658
2428
kiváltképp kisebbséghez tartozó nőkére,
01:30
and especially minority women
who dare to challenge powerful men,"
who dare to challenge powerful men,"
22
78110
4312
főleg azokéra, akik hatalomban lévő
férfiakkal mernek szembeszállni" – mondta.
férfiakkal mernek szembeszállni" – mondta.
01:34
as she had in her work.
23
82446
1533
Munkája során ezt tapasztalta.
01:37
The fake sex video went viral in 48 hours.
24
85191
3976
A hamisított szexvideó
48 óra alatt járványszerűen elterjedt.
48 óra alatt járványszerűen elterjedt.
01:42
All of her online accounts were flooded
with screenshots of the video,
with screenshots of the video,
25
90064
5307
Minden internetes postafiókja tömve lett
a videóból vett pillanatképekkel,
a videóból vett pillanatképekkel,
01:47
with graphic rape and death threats
26
95395
2627
nemi erőszakkal és halállal fenyegették,
01:50
and with slurs about her Muslim faith.
27
98046
2533
továbbá a muszlim vallását gyalázták.
01:53
Online posts suggested that
she was "available" for sex.
she was "available" for sex.
28
101426
4564
Az internetes posztok sugalmazták,
hogy szexre könnyen kapható.
hogy szexre könnyen kapható.
01:58
And she was doxed,
29
106014
1610
Interneten gyűjtöttek róla adatokat:
01:59
which means that her home address
and her cell phone number
and her cell phone number
30
107648
2778
lakcímét, mobilszámát
02:02
were spread across the internet.
31
110450
1746
fölrakták az internetre.
02:04
The video was shared
more than 40,000 times.
more than 40,000 times.
32
112879
4084
Több mint 40 ezerszer
osztották meg a videót.
osztották meg a videót.
02:09
Now, when someone is targeted
with this kind of cybermob attack,
with this kind of cybermob attack,
33
117760
3936
Mikor valakit efféle tömeges
kibertámadással vesznek célba,
kibertámadással vesznek célba,
02:13
the harm is profound.
34
121720
2063
a kár fölmérhetetlen.
02:16
Rana Ayyub's life was turned upside down.
35
124482
3039
Rana Ayyub élete romokban hevert.
02:20
For weeks, she could hardly eat or speak.
36
128211
3334
Heteken át alig evett vagy beszélt.
02:23
She stopped writing and closed
all of her social media accounts,
all of her social media accounts,
37
131919
3689
Fölhagyott az írással, és megszüntette
valamennyi közösségimédia-fiókját,
valamennyi közösségimédia-fiókját,
02:27
which is, you know, a tough thing to do
when you're a journalist.
when you're a journalist.
38
135632
3158
ami, mondanom sem kell,
újságíró lévén nehéz dolog lehetett.
újságíró lévén nehéz dolog lehetett.
02:31
And she was afraid to go outside
her family's home.
her family's home.
39
139188
3484
Félt a házából kilépni.
02:34
What if the posters
made good on their threats?
made good on their threats?
40
142696
3022
Mi lesz, ha a netes támadók
beváltják a fenyegetéseket?
beváltják a fenyegetéseket?
02:38
The UN Council on Human Rights
confirmed that she wasn't being crazy.
confirmed that she wasn't being crazy.
41
146395
4365
Az ENSZ Emberi Jogi Tanácsa
megerősítette, hogy nem őrült,
megerősítette, hogy nem őrült,
02:42
It issued a public statement saying
that they were worried about her safety.
that they were worried about her safety.
42
150784
4637
és közleményt jelentetett meg arról,
hogy aggasztja a biztonsága.
hogy aggasztja a biztonsága.
02:48
What Rana Ayyub faced was a deepfake:
43
156776
4229
Rana Ayyub az ún. élethű hamisítással
találta magát szemben.
találta magát szemben.
02:53
machine-learning technology
44
161029
2540
Ez gépi tanulási technológia,
amely kép- és hangfelvételeket
manipulál vagy állít elő,
manipulál vagy állít elő,
02:55
that manipulates or fabricates
audio and video recordings
audio and video recordings
45
163593
4111
melyekben olyan dolgokat tesznek
vagy mondanak a szereplők,
vagy mondanak a szereplők,
02:59
to show people doing and saying things
46
167728
2723
melyet valójában sosem
tettek vagy mondtak.
tettek vagy mondtak.
03:02
that they never did or said.
47
170475
1866
03:04
Deepfakes appear authentic
and realistic, but they're not;
and realistic, but they're not;
48
172807
3361
Az élethű hamisítás
valóságosnak látszik, de nem az;
valóságosnak látszik, de nem az;
03:08
they're total falsehoods.
49
176192
1772
szemenszedett hazugság.
03:11
Although the technology
is still developing in its sophistication,
is still developing in its sophistication,
50
179228
3794
Bár a technológia még
nem a legkifinomultabb,
nem a legkifinomultabb,
már széles körben hozzáférhető.
03:15
it is widely available.
51
183046
1614
03:17
Now, the most recent attention
to deepfakes arose,
to deepfakes arose,
52
185371
3072
Az élethű hamisítást illetően
a legutóbb a figyelmet –
a legutóbb a figyelmet –
03:20
as so many things do online,
53
188467
2161
mint oly sok más esetben az interneten –
03:22
with pornography.
54
190652
1255
a pornó keltette föl.
03:24
In early 2018,
55
192498
2111
2018 elején
03:26
someone posted a tool on Reddit
56
194633
2468
valaki eszközt posztolt a Redditre,
03:29
to allow users to insert faces
into porn videos.
into porn videos.
57
197125
4412
mellyel arcot illeszthetnek pornóvideókba.
03:33
And what followed was a cascade
of fake porn videos
of fake porn videos
58
201561
3440
Ezt követően hamis pornóvideók
áradata jelent meg,
áradata jelent meg,
amelyekben a közönség kedvenceinek
számító celebnők tűntek föl.
számító celebnők tűntek föl.
03:37
featuring people's favorite
female celebrities.
female celebrities.
59
205025
2797
03:40
And today, you can go on YouTube
and pull up countless tutorials
and pull up countless tutorials
60
208712
3477
Ma a YouTube-on számtalan oktatóvideóból
03:44
with step-by-step instructions
61
212213
2286
lépésről lépésre megtanulható,
03:46
on how to make a deepfake
on your desktop application.
on your desktop application.
62
214523
3163
hogy gyártható élethű hamisítvány
valamely alkalmazásból.
valamely alkalmazásból.
03:50
And soon we may be even able
to make them on our cell phones.
to make them on our cell phones.
63
218260
3706
Hamarosan tán már mobilunkon
is képesek leszünk rá.
is képesek leszünk rá.
03:55
Now, it's the interaction
of some of our most basic human frailties
of some of our most basic human frailties
64
223072
5382
Íme, egypár emberi gyarlóságunk
04:00
and network tools
65
228478
1682
és internetes eszköz kölcsönhatása,
04:02
that can turn deepfakes into weapons.
66
230184
2666
amelyből fegyver válhat
az élethű hamisítás révén.
az élethű hamisítás révén.
04:04
So let me explain.
67
232874
1200
Elmagyarázom.
04:06
As human beings, we have
a visceral reaction to audio and video.
a visceral reaction to audio and video.
68
234875
4566
Emberi lényként zsigerileg
reagálunk hang- és képfelvételekre.
reagálunk hang- és képfelvételekre.
04:11
We believe they're true,
69
239860
1488
Elhisszük, hogy igazak,
04:13
on the notion that
of course you can believe
of course you can believe
70
241372
2078
hiszen feltételezzük, hogy igaz,
04:15
what your eyes and ears are telling you.
71
243474
2478
amit szemünk lát és fülünk hall.
04:18
And it's that mechanism
72
246476
1699
Épp ez a mechanizmus áshatja alá
04:20
that might undermine our shared
sense of reality.
sense of reality.
73
248199
3698
közös realitásérzékünket.
04:23
Although we believe deepfakes
to be true, they're not.
to be true, they're not.
74
251921
3147
Noha elhisszük az élethű hamisításról,
hogy igaz, de mégsem az.
hogy igaz, de mégsem az.
04:27
And we're attracted
to the salacious, the provocative.
to the salacious, the provocative.
75
255604
4157
Vonzanak minket a pikáns, ingerlő dolgok.
04:32
We tend to believe
and to share information
and to share information
76
260365
3047
Hajlamosak vagyunk elhinni és megosztani
04:35
that's negative and novel.
77
263436
2023
a negatív új információt.
04:37
And researchers have found that online
hoaxes spread 10 times faster
hoaxes spread 10 times faster
78
265809
5019
Kutatók derítették ki, hogy az internetes
kacsák tízszer gyorsabban terjednek,
kacsák tízszer gyorsabban terjednek,
04:42
than accurate stories.
79
270852
1627
mint a valósághű történetek.
04:46
Now, we're also drawn to information
80
274015
4380
Vonzódunk a nézetünkkel összhangban álló
04:50
that aligns with our viewpoints.
81
278419
1892
információkhoz.
04:52
Psychologists call that tendency
"confirmation bias."
"confirmation bias."
82
280950
3561
Pszichológusok ezt a tendenciát
megerősítési torzításnak hívják.
megerősítési torzításnak hívják.
04:57
And social media platforms
supercharge that tendency,
supercharge that tendency,
83
285300
4387
A közösségi média még
föl is erősíti ezt a tendenciát azzal,
föl is erősíti ezt a tendenciát azzal,
05:01
by allowing us to instantly
and widely share information
and widely share information
84
289711
3881
hogy azonnal és széleskörűen
továbbíthatjuk
továbbíthatjuk
a nézeteinkkel összhangban lévő infót.
05:05
that accords with our viewpoints.
85
293616
1792
05:08
Now, deepfakes have the potential to cause
grave individual and societal harm.
grave individual and societal harm.
86
296735
5568
Az élethű hamisítás súlyos
egyéni és társadalmi kárt okozhat.
egyéni és társadalmi kárt okozhat.
05:15
So, imagine a deepfake
87
303204
2024
Képzeljünk el élethű hamisítást,
05:17
that shows American soldiers
in Afganistan burning a Koran.
in Afganistan burning a Koran.
88
305252
4182
amelyen Afganisztánban Koránt égető
USA-katonák láthatók.
USA-katonák láthatók.
05:22
You can imagine that that deepfake
would provoke violence
would provoke violence
89
310807
3024
Elgondolhatják, hogy az élethű hamisítás
mekkora erőszakot váltana ki
mekkora erőszakot váltana ki
05:25
against those soldiers.
90
313855
1533
a szóban forgó katonák ellen.
05:27
And what if the very next day
91
315847
2873
Mi van, ha a rákövetkező nap
05:30
there's another deepfake that drops,
92
318744
2254
másik élethű hamisításon
05:33
that shows a well-known imam
based in London
based in London
93
321022
3317
egy közismert, londoni illetőségű imám
05:36
praising the attack on those soldiers?
94
324363
2467
az említett katonák megtámadását dicséri?
05:39
We might see violence and civil unrest,
95
327617
3163
Erőszakos cselekmények
és polgári zavargások
és polgári zavargások
05:42
not only in Afganistan
and the United Kingdom,
and the United Kingdom,
96
330804
3249
törnének ki nemcsak Afganisztánban
és az Egyesült Királyságban,
és az Egyesült Királyságban,
05:46
but across the globe.
97
334077
1515
hanem világszerte is.
05:48
And you might say to me,
98
336251
1158
Mondhatják nekem erre:
05:49
"Come on, Danielle, that's far-fetched."
99
337433
2247
"Na, de Danielle, elragadta a képzelete!"
05:51
But it's not.
100
339704
1150
Nem úgy van.
05:53
We've seen falsehoods spread
101
341293
2191
Lépten-nyomon látjuk,
ahogy a WhatsAppon és más internetes
üzenetküldőkön terjesztett hamisítások
üzenetküldőkön terjesztett hamisítások
05:55
on WhatsApp and other
online message services
online message services
102
343508
2722
etnikai kisebbségek elleni
erőszakos cselekményekhez vezetnek.
erőszakos cselekményekhez vezetnek.
05:58
lead to violence
against ethnic minorities.
against ethnic minorities.
103
346254
2761
06:01
And that was just text --
104
349039
1887
Pedig azok csak szövegek voltak...,
06:02
imagine if it were video.
105
350950
2024
képzeljék el, ha videók lettek volna!
06:06
Now, deepfakes have the potential
to corrode the trust that we have
to corrode the trust that we have
106
354593
5357
Az élethű hamisítások képesek tönkretenni
a demokratikus intézményekbe
vetett bizalmunkat.
vetett bizalmunkat.
06:11
in democratic institutions.
107
359974
1992
06:15
So, imagine the night before an election.
108
363006
2667
Képzeljük el a választások előestéjét!
06:17
There's a deepfake showing
one of the major party candidates
one of the major party candidates
109
365996
3238
Az egyik élethű hamisítás azt mutatja,
hogy az egyik vezető párt
jelöltje súlyos beteg.
jelöltje súlyos beteg.
06:21
gravely sick.
110
369258
1150
06:23
The deepfake could tip the election
111
371202
2333
Az élethű hamisítás
fölboríthatja a választást,
fölboríthatja a választást,
06:25
and shake our sense
that elections are legitimate.
that elections are legitimate.
112
373559
3375
és megingathatja a választás
legitimitásába vetett hitünket.
legitimitásába vetett hitünket.
06:30
Imagine if the night before
an initial public offering
an initial public offering
113
378515
3326
Képzeljék el,
hogy az egyik óriási globális bank első
nyilvános kibocsátásának előestéjén
nyilvános kibocsátásának előestéjén
06:33
of a major global bank,
114
381865
2333
élethű hamisítás jelenik meg,
06:36
there was a deepfake
showing the bank's CEO
showing the bank's CEO
115
384222
3149
miszerint a bank vezérigazgatója részegen
összeesküvés-elméletekről hablatyol.
összeesküvés-elméletekről hablatyol.
06:39
drunkenly spouting conspiracy theories.
116
387395
2697
06:42
The deepfake could tank the IPO,
117
390887
3047
Az élethű hamisítás
meghiúsíthatja a kibocsátást,
meghiúsíthatja a kibocsátást,
06:45
and worse, shake our sense
that financial markets are stable.
that financial markets are stable.
118
393958
4115
de még ennél is rosszabb, megingathatja
a pénzpiac stabilitása iránti bizalmunkat.
a pénzpiac stabilitása iránti bizalmunkat.
06:51
So deepfakes can exploit and magnify
the deep distrust that we already have
the deep distrust that we already have
119
399385
6989
Az élethű hamisítás kihasználhatja
és fokozhatja a politikusokkal,
és fokozhatja a politikusokkal,
üzletemberekkel és más befolyásos
vezetőkkel szembeni bizalmatlanságot.
vezetőkkel szembeni bizalmatlanságot.
06:58
in politicians, business leaders
and other influential leaders.
and other influential leaders.
120
406398
4214
07:02
They find an audience
primed to believe them.
primed to believe them.
121
410945
3284
Megtalálja a neki hinni kész közönségét.
07:07
And the pursuit of truth
is on the line as well.
is on the line as well.
122
415287
2765
Az igazságkeresés szintén veszélybe kerül.
07:11
Technologists expect
that with advances in AI,
that with advances in AI,
123
419077
3564
Technológusok arra számítanak,
hogy az MI fejlődésével nemsokára
hogy az MI fejlődésével nemsokára
07:14
soon it may be difficult if not impossible
124
422665
3682
nehéz, esetleg lehetetlen
lesz megkülönböztetni
lesz megkülönböztetni
07:18
to tell the difference between
a real video and a fake one.
a real video and a fake one.
125
426371
3769
a valódit a hamisított videótól.
07:23
So how can the truth emerge
in a deepfake-ridden marketplace of ideas?
in a deepfake-ridden marketplace of ideas?
126
431022
5341
Hogyan világlik ki az igazság az eszmék
élethű hamisítástól hemzsegő piacán?
élethű hamisítástól hemzsegő piacán?
07:28
Will we just proceed along
the path of least resistance
the path of least resistance
127
436752
3420
Csak haladunk tovább
a legkisebb ellenállás útján,
a legkisebb ellenállás útján,
07:32
and believe what we want to believe,
128
440196
2437
és azt hisszük, amit hinni akarunk,
és hadd vesszen az igazság?
07:34
truth be damned?
129
442657
1150
07:36
And not only might we believe the fakery,
130
444831
3175
Hisz így nemcsak a hamisítást hisszük el,
07:40
we might start disbelieving the truth.
131
448030
3326
hanem az igazságban is kételkedni kezdünk.
07:43
We've already seen people invoke
the phenomenon of deepfakes
the phenomenon of deepfakes
132
451887
4079
Már találkoztunk az élethű hamisítás
jelenségére hivatkozókkal,
jelenségére hivatkozókkal,
07:47
to cast doubt on real evidence
of their wrongdoing.
of their wrongdoing.
133
455990
3920
akik célja gaztettük valódi bizonyítékának
kétségbe vonása volt.
kétségbe vonása volt.
07:51
We've heard politicians say of audio
of their disturbing comments,
of their disturbing comments,
134
459934
5969
Hallottunk politikusokat fölháborító
szavaikről készült felvételekről
szavaikről készült felvételekről
07:57
"Come on, that's fake news.
135
465927
1746
azt mondani, "Ugyan, ez csak álhír!
07:59
You can't believe what your eyes
and ears are telling you."
and ears are telling you."
136
467697
3920
Ne higgyenek a szemüknek, se a fülüknek!"
08:04
And it's that risk
137
472402
1731
Ezt a kockázatot
08:06
that professor Robert Chesney and I
call the "liar's dividend":
call the "liar's dividend":
138
474157
5436
Robert Chesney professzor és én
"a hazug osztaléká"-nak nevezzük:
"a hazug osztaléká"-nak nevezzük:
08:11
the risk that liars will invoke deepfakes
139
479617
3357
a hazug az élethű hamisításra hivatkozik,
08:14
to escape accountability
for their wrongdoing.
for their wrongdoing.
140
482998
2905
hogy a gaztettéért járó
felelősségre vonást elkerülje.
felelősségre vonást elkerülje.
08:18
So we've got our work cut out for us,
there's no doubt about it.
there's no doubt about it.
141
486963
3071
Úgyhogy munkánk nagyon nehéz,
efelől semmi kétségünk.
efelől semmi kétségünk.
08:22
And we're going to need
a proactive solution
a proactive solution
142
490606
3325
Ezért előrelátó megoldások kellenek
08:25
from tech companies, from lawmakers,
143
493955
3511
a műszaki cégektől, törvényhozóktól,
08:29
law enforcers and the media.
144
497490
1984
jogalkalmazóktól és a médiától.
08:32
And we're going to need
a healthy dose of societal resilience.
a healthy dose of societal resilience.
145
500093
4016
Jó adag társadalmi kitartásra
is szükség lesz.
is szükség lesz.
08:37
So now, we're right now engaged
in a very public conversation
in a very public conversation
146
505506
3896
Nagyon nyílt párbeszédet kezdtünk
08:41
about the responsibility
of tech companies.
of tech companies.
147
509426
2913
a műszaki cégek felelősségéről.
08:44
And my advice to social media platforms
148
512926
3032
A közösségi médiának azt javasoltam,
hogy módosítsák szolgáltatási
feltételeiket és közösségi irányelveiket,
feltételeiket és közösségi irányelveiket,
08:47
has been to change their terms of service
and community guidelines
and community guidelines
149
515982
3873
hogy betiltsák az élethű
hamisításokat, mert károsak.
hamisításokat, mert károsak.
08:51
to ban deepfakes that cause harm.
150
519879
2336
08:54
That determination,
that's going to require human judgment,
that's going to require human judgment,
151
522712
3960
Ennek megítélése
emberi beavatkozást igényel,
emberi beavatkozást igényel,
08:58
and it's expensive.
152
526696
1571
és sokba kerül.
09:00
But we need human beings
153
528673
2285
De az kell, hogy az emberek figyeljenek
09:02
to look at the content
and context of a deepfake
and context of a deepfake
154
530982
3873
az élethű hamisítások tartalmára
és kontextusára,
és kontextusára,
09:06
to figure out if it is
a harmful impersonation
a harmful impersonation
155
534879
3682
hogy rájöjjenek: káros álcáról van szó,
09:10
or instead, if it's valuable
satire, art or education.
satire, art or education.
156
538585
4382
vagy ellenkezőleg, értékes
szatíráról, művészetről vagy oktatásról.
szatíráról, művészetről vagy oktatásról.
09:16
So now, what about the law?
157
544118
1495
De mi a helyzet a törvénnyel?
09:18
Law is our educator.
158
546666
2349
A törvény oktat bennünket.
09:21
It teaches us about
what's harmful and what's wrong.
what's harmful and what's wrong.
159
549515
4038
Megtanítja, hogy mi a káros és mi a rossz.
09:25
And it shapes behavior it deters
by punishing perpetrators
by punishing perpetrators
160
553577
4555
Alakítja a magatartást, elrettent
az elkövetők megbüntetése
az elkövetők megbüntetése
09:30
and securing remedies for victims.
161
558156
2267
és az áldozatoknak nyújtott
jogorvoslat útján.
jogorvoslat útján.
09:33
Right now, law is not up to
the challenge of deepfakes.
the challenge of deepfakes.
162
561148
4280
A jog jelenleg még nem képes
az élethű hamisítással fölvenni a harcot.
az élethű hamisítással fölvenni a harcot.
09:38
Across the globe,
163
566116
1390
Az egész világon
híján vagyunk a megfelelő törvényeknek,
09:39
we lack well-tailored laws
164
567530
2444
amelyek alkalmasak lennének elbánni
09:41
that would be designed to tackle
digital impersonations
digital impersonations
165
569998
3570
a szexuális magánéletbe
betörő digitális álcázással,
betörő digitális álcázással,
09:45
that invade sexual privacy,
166
573592
2231
09:47
that damage reputations
167
575847
1387
amely tönkreteszi hírnevünket,
09:49
and that cause emotional distress.
168
577258
1951
és érzelmi gyötrelmet okoz.
09:51
What happened to Rana Ayyub
is increasingly commonplace.
is increasingly commonplace.
169
579725
3873
A Rana Ayyubbal történtek
egyre inkább mindennaposak.
egyre inkább mindennaposak.
09:56
Yet, when she went
to law enforcement in Delhi,
to law enforcement in Delhi,
170
584074
2214
De mikor Delhiben
jogalkalmazókhoz fordult,
jogalkalmazókhoz fordult,
09:58
she was told nothing could be done.
171
586312
2135
azt a választ kapta,
hogy semmit sem tehetnek.
hogy semmit sem tehetnek.
10:01
And the sad truth is
that the same would be true
that the same would be true
172
589101
3183
A szomorú igazság,
hogy ugyanez lenne a helyzet
az USA-ban és Európában is.
az USA-ban és Európában is.
10:04
in the United States and in Europe.
173
592308
2266
10:07
So we have a legal vacuum
that needs to be filled.
that needs to be filled.
174
595300
4356
Joghézag van, amelyet ki kell tölteni.
10:12
My colleague Dr. Mary Anne Franks and I
are working with US lawmakers
are working with US lawmakers
175
600292
4092
Dr. Mary Anne Franks kollégám és én
együttműködünk az USA törvényhozóival,
együttműködünk az USA törvényhozóival,
10:16
to devise legislation that would ban
harmful digital impersonations
harmful digital impersonations
176
604408
4804
hogy a törvényeket fejlesszük
a személyiséglopással egyenértékű
a személyiséglopással egyenértékű
10:21
that are tantamount to identity theft.
177
609236
2533
káros digitális álcázás
betiltása érdekében.
betiltása érdekében.
10:24
And we've seen similar moves
178
612252
2126
Hasonló intézkedéseket tapasztalunk
10:26
in Iceland, the UK and Australia.
179
614402
3301
Izlandon, az Egyesült Királyságban
és Ausztráliában.
és Ausztráliában.
10:30
But of course, that's just a small piece
of the regulatory puzzle.
of the regulatory puzzle.
180
618157
3259
Persze, a szabályozási kirakósnak
ez csak kis darabkája.
ez csak kis darabkája.
10:34
Now, I know law is not a cure-all. Right?
181
622911
3169
Tudom, a törvény nem mindent old meg.
10:38
It's a blunt instrument.
182
626104
1600
Nehézkes eszköz.
10:40
And we've got to use it wisely.
183
628346
1539
Bölcsen kell alkalmaznunk,
10:42
It also has some practical impediments.
184
630411
2812
de ennek gyakorlati akadályai is vannak.
10:45
You can't leverage law against people
you can't identify and find.
you can't identify and find.
185
633657
5044
Nem alkalmazhatjuk a törvényt ismeretlen
és föllelhetetlen egyének ellen.
és föllelhetetlen egyének ellen.
10:51
And if a perpetrator lives
outside the country
outside the country
186
639463
3286
Ha az elkövető és áldozata
más-más országban él,
10:54
where a victim lives,
187
642773
1754
10:56
then you may not be able to insist
188
644551
1629
akkor hiába erőlködhetünk,
10:58
that the perpetrator
come into local courts
come into local courts
189
646204
2349
hogy az elkövető helyi bíróság elé álljon,
és viselje tette következményeit.
11:00
to face justice.
190
648577
1150
11:02
And so we're going to need
a coordinated international response.
a coordinated international response.
191
650236
4063
Így hát nemzetközileg
összehangolt megoldás kell.
összehangolt megoldás kell.
11:07
Education has to be part
of our response as well.
of our response as well.
192
655819
3333
Az oktatásnak is van ebben szerepe.
11:11
Law enforcers are not
going to enforce laws
going to enforce laws
193
659803
3731
A jogalkalmazók nem
érvényesíthetik a törvényeket,
érvényesíthetik a törvényeket,
amelyekről nem tudnak,
11:15
they don't know about
194
663558
1458
11:17
and proffer problems
they don't understand.
they don't understand.
195
665040
2596
és nem ajánlhatnak megoldást
általuk nem értett problémákra.
általuk nem értett problémákra.
11:20
In my research on cyberstalking,
196
668376
2191
A kiberzaklatást kutatva kiderítettem,
11:22
I found that law enforcement
lacked the training
lacked the training
197
670591
3499
hogy a jogalkalmazók
híján vannak a képzésnek,
híján vannak a képzésnek,
11:26
to understand the laws available to them
198
674114
2582
amelyből megérthetnék
a rendelkezésükre álló törvényeket
a rendelkezésükre álló törvényeket
11:28
and the problem of online abuse.
199
676720
2349
és az internetes zaklatás mibenlétét.
11:31
And so often they told victims,
200
679093
2682
Milyen gyakran mondják az áldozatoknak:
11:33
"Just turn your computer off.
Ignore it. It'll go away."
Ignore it. It'll go away."
201
681799
3971
"Kapcsolják ki a gépüket.
Ne törődjenek vele. Majd elmúlik."
Ne törődjenek vele. Majd elmúlik."
11:38
And we saw that in Rana Ayyub's case.
202
686261
2466
De látjuk Rana Ayyub esetét.
11:41
She was told, "Come on,
you're making such a big deal about this.
you're making such a big deal about this.
203
689102
3468
Azt mondták neki:
"Ugyan, túl nagy ügyet csinál belőle.
"Ugyan, túl nagy ügyet csinál belőle.
11:44
It's boys being boys."
204
692594
1743
A fiúk már csak ilyenek."
11:47
And so we need to pair new legislation
with efforts at training.
with efforts at training.
205
695268
5252
Ezért az új jogszabályoknak együtt
kell járniuk oktatási törekvésekkel.
kell járniuk oktatási törekvésekkel.
11:54
And education has to be aimed
on the media as well.
on the media as well.
206
702053
3429
Az oktatásnak a médiára
is ki kell terjednie.
is ki kell terjednie.
11:58
Journalists need educating
about the phenomenon of deepfakes
about the phenomenon of deepfakes
207
706180
4260
Az élethű hamisítás jelenségét
oktatni kell újságíróknak,
oktatni kell újságíróknak,
12:02
so they don't amplify and spread them.
208
710464
3039
hogy ne fokozzák és ne terjesszék.
12:06
And this is the part
where we're all involved.
where we're all involved.
209
714583
2168
Ebben mindannyiunknak részt kell vennünk.
12:08
Each and every one of us needs educating.
210
716775
3855
Mindannyiunknak szükségünk van képzésre.
12:13
We click, we share, we like,
and we don't even think about it.
and we don't even think about it.
211
721375
3675
Kattintunk, megosztunk, és bele
sem gondolunk abba, amit teszünk.
sem gondolunk abba, amit teszünk.
12:17
We need to do better.
212
725551
1547
Észszerűbben kell cselekednünk.
12:19
We need far better radar for fakery.
213
727726
2809
A hamisításokat jobban kell földerítenünk.
12:25
So as we're working
through these solutions,
through these solutions,
214
733744
3841
A megoldások kialakítása
12:29
there's going to be
a lot of suffering to go around.
a lot of suffering to go around.
215
737609
2563
sok gyötrelemmel fog járni.
12:33
Rana Ayyub is still wrestling
with the fallout.
with the fallout.
216
741093
2746
Rana Ayyub még küzd a történtekkel.
12:36
She still doesn't feel free
to express herself on- and offline.
to express herself on- and offline.
217
744669
4189
Még nem képes szabadon kifejezni magát.
12:41
And as she told me,
218
749566
1365
Elmondta nekem:
12:42
she still feels like there are thousands
of eyes on her naked body,
of eyes on her naked body,
219
750955
5074
még úgy érzi magát, mintha ezernyi
szem pásztázná a meztelen testét,
szem pásztázná a meztelen testét,
12:48
even though, intellectually,
she knows it wasn't her body.
she knows it wasn't her body.
220
756053
3661
noha az eszével tudja,
hogy nem az ő testéről van szó.
hogy nem az ő testéről van szó.
12:52
And she has frequent panic attacks,
221
760371
2349
Gyakori pánikrohamai vannak,
12:54
especially when someone she doesn't know
tries to take her picture.
tries to take her picture.
222
762744
4100
kiváltképp, mikor ismeretlenek
le akarják fényképezni.
le akarják fényképezni.
12:58
"What if they're going to make
another deepfake?" she thinks to herself.
another deepfake?" she thinks to herself.
223
766868
3511
"Mi van, ha újabb élethű hamisítás
kedvéért teszik?" – jár a fejében.
kedvéért teszik?" – jár a fejében.
13:03
And so for the sake of
individuals like Rana Ayyub
individuals like Rana Ayyub
224
771082
3921
A Rana Ayyubhoz hasonló személyek miatt
13:07
and the sake of our democracy,
225
775027
2306
és demokráciánk érdekében
13:09
we need to do something right now.
226
777357
2182
valamit haladéktalanul tennünk kell.
13:11
Thank you.
227
779563
1151
Köszönöm.
13:12
(Applause)
228
780738
2508
(Taps)
ABOUT THE SPEAKER
Danielle Citron - Law professor, deepfake scholarDanielle Citron writes, speaks and teaches her academic loves: privacy, free speech and civil rights. Through her work with privacy organizations, she also puts these ideas into practice.
Why you should listen
As a law professor, Danielle Citron puts her commitment to civil rights into practice. She is vice president of the Cyber Civil Rights Initiative, a nonprofit combatting privacy-invading online abuse that undermines civil rights and civil liberties.
When Citron began addressing cyber harassment ten years ago, it was commonly believed that it was "no big deal," and that any legal response would "break the internet." Those attitudes -- and the heartbreaking stories of victims who were terrorized, silenced and economically damaged -- drove Citron to write her 2014 book, Hate Crimes in Cyberspace. Ever since, she has been working with lawmakers, law enforcers, and tech companies to make online spaces and tools available to all on equal terms. Her latest book project focuses on the importance of sexual privacy and how we should protect it.
Danielle Citron | Speaker | TED.com