TEDxBoston 2011
Jean-Baptiste Michel + Erez Lieberman Aiden: What we learned from 5 million books
Amit 5 millió könyvből tanultunk
Filmed:
Readability: 3.9
2,049,453 views
Játszottál már a Google Labs Ngram Viewerével? Ez egy olyan addiktív eszköz, melynek segítségével szavakra és ötletekre kereshetsz rá az elmúlt évszázad 5 millió könyvét tartalmazó adatbázisban. Erez Lieberman Aiden és Jean-Baptiste Michel bemutatja nekünk, hogyan működik, valamint mutat néhány érdekes példát arra, mit tanulhatunk 500 milliárd szóból.
Jean-Baptiste Michel - Data researcher
Jean-Baptiste Michel looks at how we can use large volumes of data to better understand our world. Full bioErez Lieberman Aiden - Researcher
Erez Lieberman Aiden pursues a broad range of research interests, spanning genomics, linguistics, mathematics ... Full bio
Jean-Baptiste Michel looks at how we can use large volumes of data to better understand our world. Full bioErez Lieberman Aiden - Researcher
Erez Lieberman Aiden pursues a broad range of research interests, spanning genomics, linguistics, mathematics ... Full bio
Double-click the English transcript below to play the video.
00:15
Erez Lieberman Aiden: Everyone knows
0
0
2000
Erez Lieberman Aiden: Mindenki tudja,
00:17
that a picture is worth a thousand words.
1
2000
3000
hogy egy kép felér ezer szóval.
00:22
But we at Harvard
2
7000
2000
De mi a Harvardon
00:24
were wondering if this was really true.
3
9000
3000
elgondolkoztunk, hogy ez tényleg így van-e.
00:27
(Laughter)
4
12000
2000
(Nevetés)
00:29
So we assembled a team of experts,
5
14000
4000
Így összeraktunk egy szakértőkből álló csapatot,
00:33
spanning Harvard, MIT,
6
18000
2000
Harvardról, MIT-ről
00:35
The American Heritage Dictionary, The Encyclopedia Britannica
7
20000
3000
az American Heritage Dictionarytől, az Encyclopedia Britannicától
00:38
and even our proud sponsors,
8
23000
2000
és még a büszke szponzorunktól is,
00:40
the Google.
9
25000
3000
a Google-től.
00:43
And we cogitated about this
10
28000
2000
És rágódtunk rajta
00:45
for about four years.
11
30000
2000
nagyjából négy évig.
00:47
And we came to a startling conclusion.
12
32000
5000
És egy ijesztő megállapításra jutottunk.
00:52
Ladies and gentlemen, a picture is not worth a thousand words.
13
37000
3000
Hölgyeim és uraim, egy kép nem ér fel ezer szóval.
00:55
In fact, we found some pictures
14
40000
2000
Valójában, találtunk néhány képet
00:57
that are worth 500 billion words.
15
42000
5000
amely 500 milliárd szót ér.
01:02
Jean-Baptiste Michel: So how did we get to this conclusion?
16
47000
2000
Jean-Baptiste Michel: De hogyan jutottunk erre a következtetésre?
01:04
So Erez and I were thinking about ways
17
49000
2000
Erez és én olyan módszereket kerestünk,
01:06
to get a big picture of human culture
18
51000
2000
amelyekből egy áttekintő képet kaphatunk az emberi kultúráról
01:08
and human history: change over time.
19
53000
3000
és az emberi történelemről, időbeli változásáról.
01:11
So many books actually have been written over the years.
20
56000
2000
Rengeteg könyvet írtak az évek során.
01:13
So we were thinking, well the best way to learn from them
21
58000
2000
Így mi arra gondoltunk, legjobban úgy tanulhatunk belőlük,
01:15
is to read all of these millions of books.
22
60000
2000
ha ezt a több millió könyvet elolvassuk.
01:17
Now of course, if there's a scale for how awesome that is,
23
62000
3000
Természetesen, ha lenne arra egy skála, ez mennyire döbbenetes,
01:20
that has to rank extremely, extremely high.
24
65000
3000
akkor ez extrém, extrém módon magas lenne.
01:23
Now the problem is there's an X-axis for that,
25
68000
2000
A probléma viszont az, hogy van egy X tengelye is,
01:25
which is the practical axis.
26
70000
2000
ami a praktikusság tengelye.
01:27
This is very, very low.
27
72000
2000
Ez nagyon, nagyon alacsony.
01:29
(Applause)
28
74000
3000
(Taps)
01:32
Now people tend to use an alternative approach,
29
77000
3000
Manapság hajlamosak az emberek egy másfajta megközelítést használni:
01:35
which is to take a few sources and read them very carefully.
30
80000
2000
vesznek néhány forrást és nagyon alaposan elolvassák.
01:37
This is extremely practical, but not so awesome.
31
82000
2000
Ez rendkívül hasznos, de nem annyira döbbenetes.
01:39
What you really want to do
32
84000
3000
Amit igazán szeretnél
01:42
is to get to the awesome yet practical part of this space.
33
87000
3000
az az, hogy eljuss az ábra döbbenetes, mégis hasznos részére.
01:45
So it turns out there was a company across the river called Google
34
90000
3000
Kiderült, van egy vállalat, amely tudja a megoldást: a Google,
01:48
who had started a digitization project a few years back
35
93000
2000
mely néhány évvel korábban elkezdett egy digitalizálási projektet,
01:50
that might just enable this approach.
36
95000
2000
ami lehetővé teheti ezt a megközelítést.
01:52
They have digitized millions of books.
37
97000
2000
Könyvek millióit digitalizálták.
01:54
So what that means is, one could use computational methods
38
99000
3000
Mindez azt jelenti, hogy számítási metódusokkal
01:57
to read all of the books in a click of a button.
39
102000
2000
egy gombnyomásra elolvashatóak ezek a könyvek.
01:59
That's very practical and extremely awesome.
40
104000
3000
Ez nagyon hasznos és igazán döbbenetes.
02:03
ELA: Let me tell you a little bit about where books come from.
41
108000
2000
ELA: Hadd beszéljek egy kicsit arról, honnan is jönnek ezek a könyvek.
02:05
Since time immemorial, there have been authors.
42
110000
3000
Emberi emlékezet óta vannak szerzők.
02:08
These authors have been striving to write books.
43
113000
3000
Ezek a szerzők arra törekedtek, hogy könyveket írjanak.
02:11
And this became considerably easier
44
116000
2000
És mindez nagyságrendekkel könnyebbé vált
02:13
with the development of the printing press some centuries ago.
45
118000
2000
a nyomtatott sajtó néhány századdal ezelőtti fejlődésével.
02:15
Since then, the authors have won
46
120000
3000
A szerzők azóta sikeresen,
02:18
on 129 million distinct occasions,
47
123000
2000
129 millió különböző alkalommal
02:20
publishing books.
48
125000
2000
publikáltak könyvet.
02:22
Now if those books are not lost to history,
49
127000
2000
Ha ezek a könyvek nem tűntek el a történelemben,
02:24
then they are somewhere in a library,
50
129000
2000
akkor valahol megtalálhatóak egy könyvtárban,
02:26
and many of those books have been getting retrieved from the libraries
51
131000
3000
és a legtöbbjüket a Google kikölcsönözte
02:29
and digitized by Google,
52
134000
2000
és digitalizálta --
02:31
which has scanned 15 million books to date.
53
136000
2000
a mai napig 15 millió könyvet.
02:33
Now when Google digitizes a book, they put it into a really nice format.
54
138000
3000
Amikor a Google bedigitalizál egy könyvet, egy elég szép formátumba rakja.
02:36
Now we've got the data, plus we have metadata.
55
141000
2000
Szóval megvan az adat és megvan a metaadat.
02:38
We have information about things like where was it published,
56
143000
3000
Van információnk arról, hol publikálták,
02:41
who was the author, when was it published.
57
146000
2000
ki volt a szerző, mikor publikálták.
02:43
And what we do is go through all of those records
58
148000
3000
Mi azt csináljuk, hogy átnézzük ezeket a rekordokat,
02:46
and exclude everything that's not the highest quality data.
59
151000
4000
és kizárjuk azokat, amelyek nem a legjobb minőségűek.
02:50
What we're left with
60
155000
2000
A végén maradt egy
02:52
is a collection of five million books,
61
157000
3000
ötmillió könyvből álló kollekciónk,
02:55
500 billion words,
62
160000
3000
500 milliárd szó,
02:58
a string of characters a thousand times longer
63
163000
2000
egy ezerszer hosszabb karakterlánc,
03:00
than the human genome --
64
165000
3000
mint az emberi genom --
03:03
a text which, when written out,
65
168000
2000
egy szöveg, mely leírva
03:05
would stretch from here to the Moon and back
66
170000
2000
elérne a Holdig és vissza
03:07
10 times over --
67
172000
2000
10-szer --
03:09
a veritable shard of our cultural genome.
68
174000
4000
a kulturális genom egy igazi darabja.
03:13
Of course what we did
69
178000
2000
Természetesen, amikor
03:15
when faced with such outrageous hyperbole ...
70
180000
3000
egy ilyen elképesztő túlzással találkozunk...
03:18
(Laughter)
71
183000
2000
(Nevetés)
03:20
was what any self-respecting researchers
72
185000
3000
ugyanazt tesszük, mint bármely magára valamit is adó
03:23
would have done.
73
188000
3000
kutató tenne.
03:26
We took a page out of XKCD,
74
191000
2000
Vettünk egy oldalt az XKCD-ről,
03:28
and we said, "Stand back.
75
193000
2000
és azt mondtuk, "Egy kis helyet!
03:30
We're going to try science."
76
195000
2000
Kipróbáljuk a tudományt."
03:32
(Laughter)
77
197000
2000
(Nevetés)
03:34
JM: Now of course, we were thinking,
78
199000
2000
JM: Természetesen, gondoltuk mi,
03:36
well let's just first put the data out there
79
201000
2000
elsőként adjuk oda az adatokat embereknek,
03:38
for people to do science to it.
80
203000
2000
akik tanulmányozzák.
03:40
Now we're thinking, what data can we release?
81
205000
2000
Arra gondoltunk, milyen adatot adhatunk oda?
03:42
Well of course, you want to take the books
82
207000
2000
Természetesen, veheted a könyveket
03:44
and release the full text of these five million books.
83
209000
2000
és kiadhatod mind az ötmillió könyv teljes szövegét.
03:46
Now Google, and Jon Orwant in particular,
84
211000
2000
Nos, a Google és különösképpen Jon Orwant
03:48
told us a little equation that we should learn.
85
213000
2000
elmagyarázott nekünk egy kis egyenletet, amelyet meg kellene tanulnunk.
03:50
So you have five million, that is, five million authors
86
215000
3000
Ha van 5 millió, azaz 5 millió szerződ
03:53
and five million plaintiffs is a massive lawsuit.
87
218000
3000
és 5 millió felperes, az egy egész szép peres eljárás.
03:56
So, although that would be really, really awesome,
88
221000
2000
Így, annak ellenére, hogy az igazán, igazán döbbenetes lenne,
03:58
again, that's extremely, extremely impractical.
89
223000
3000
ismét csak, hihetetlenül, hihetetlenül haszontalan lenne.
04:01
(Laughter)
90
226000
2000
(Nevetés)
04:03
Now again, we kind of caved in,
91
228000
2000
Mi eléggé korlátoltak vagyunk,
04:05
and we did the very practical approach, which was a bit less awesome.
92
230000
3000
és vettük az elég praktikus megközelítést, amely valamivel kevésbé döbbenetes.
04:08
We said, well instead of releasing the full text,
93
233000
2000
Azt mondtuk, ahelyett, hogy kiadnánk a teljes szöveget,
04:10
we're going to release statistics about the books.
94
235000
2000
statisztikákat fogunk kiadni a könyvekről.
04:12
So take for instance "A gleam of happiness."
95
237000
2000
Vegyünk egy példát: "A boldogság egy fénysugara."
04:14
It's four words; we call that a four-gram.
96
239000
2000
Négy szó. Négy-gramnak hívjuk.
04:16
We're going to tell you how many times a particular four-gram
97
241000
2000
Meg fogjuk mondani, hogy egy bizonyos négy-gram hányszor
04:18
appeared in books in 1801, 1802, 1803,
98
243000
2000
bukkant fel a könyvekben 1801-ben, 1802-ben, 1803-ban,
04:20
all the way up to 2008.
99
245000
2000
egészen 2008-ig.
04:22
That gives us a time series
100
247000
2000
Kapunk egy idősort arról, hogy
04:24
of how frequently this particular sentence was used over time.
101
249000
2000
milyen gyakran használták ezt a bizonyos mondatot az idők során.
04:26
We do that for all the words and phrases that appear in those books,
102
251000
3000
Megcsináljuk ezt minden szóra és kifejezésre, amely azokban a könyvekben előfordul,
04:29
and that gives us a big table of two billion lines
103
254000
3000
amely egy 2 milliárd sorból álló halmazt ad,
04:32
that tell us about the way culture has been changing.
104
257000
2000
amely elmondja, miként változott a kultúra.
04:34
ELA: So those two billion lines,
105
259000
2000
ELA: Ezt a kétmilliárd sort
04:36
we call them two billion n-grams.
106
261000
2000
2 milliárd n-gramnak hívjuk.
04:38
What do they tell us?
107
263000
2000
Mit mondanak nekünk?
04:40
Well the individual n-grams measure cultural trends.
108
265000
2000
Nos, az egyes n-gramok a kulturális trendeket mérik.
04:42
Let me give you an example.
109
267000
2000
Hadd mondjak egy példát!
04:44
Let's suppose that I am thriving,
110
269000
2000
Tegyük fel, hogy jómódban élek,
04:46
then tomorrow I want to tell you about how well I did.
111
271000
2000
aztán holnap el akarom mondani, milyen jól éltem.
04:48
And so I might say, "Yesterday, I throve."
112
273000
3000
És azt mondhatom, "Tegnap jól éltem (throve)."
04:51
Alternatively, I could say, "Yesterday, I thrived."
113
276000
3000
Másféleképpen, azt mondhatom, "Tegnap jól éltem (thrived)."
04:54
Well which one should I use?
114
279000
3000
Nos, melyiket kellene használnom?
04:57
How to know?
115
282000
2000
Honnan lehet tudni?
04:59
As of about six months ago,
116
284000
2000
Nagyjából 6 hónappal ezelőtt,
05:01
the state of the art in this field
117
286000
2000
a tudomány akkori állása szerint
05:03
is that you would, for instance,
118
288000
2000
megtehetted volna például,
05:05
go up to the following psychologist with fabulous hair,
119
290000
2000
hogy felkeresed az alábbi furcsa hajú pszichológust,
05:07
and you'd say,
120
292000
2000
és azt mondod,
05:09
"Steve, you're an expert on the irregular verbs.
121
294000
3000
"Steve, a rendhagyó igék szakértője vagy.
05:12
What should I do?"
122
297000
2000
Mit kéne tennem?"
05:14
And he'd tell you, "Well most people say thrived,
123
299000
2000
És azt mondta volna, "Nos, a legtöbb ember a 'thrived'-ot használja,
05:16
but some people say throve."
124
301000
3000
de néhányan a 'throve'-ot."
05:19
And you also knew, more or less,
125
304000
2000
És többé-kevésbé azt is tudnád,
05:21
that if you were to go back in time 200 years
126
306000
3000
ha 200 évet visszamész az időben,
05:24
and ask the following statesman with equally fabulous hair,
127
309000
3000
és megkérdezed az alábbi, szintén furcsa hajú államférfit,
05:27
(Laughter)
128
312000
3000
(Nevetés)
05:30
"Tom, what should I say?"
129
315000
2000
"Tom, melyiket kellene használnom?"
05:32
He'd say, "Well, in my day, most people throve,
130
317000
2000
Azt mondaná, "Nos, az én időmben a legtöbb ember a 'throve'-ot,
05:34
but some thrived."
131
319000
3000
de néhányan a 'thrived'-ot."
05:37
So now what I'm just going to show you is raw data.
132
322000
2000
Amit most meg fogok mutatni azok nyers adatok.
05:39
Two rows from this table of two billion entries.
133
324000
4000
Két sort ebből a kétmilliárdos halmazból.
05:43
What you're seeing is year by year frequency
134
328000
2000
Az ábrán a "thrive" és a "throve"
05:45
of "thrived" and "throve" over time.
135
330000
3000
előfordulási gyakorisága látható az évek során.
05:49
Now this is just two
136
334000
2000
Nos, ez csak kettő
05:51
out of two billion rows.
137
336000
3000
a kétmilliárd sorból.
05:54
So the entire data set
138
339000
2000
Az egész adathalmaz
05:56
is a billion times more awesome than this slide.
139
341000
3000
kétmilliárdszor döbbenetesebb, mint ez a dia.
05:59
(Laughter)
140
344000
2000
(Nevetés)
06:01
(Applause)
141
346000
4000
(Taps)
06:05
JM: Now there are many other pictures that are worth 500 billion words.
142
350000
2000
JM: Számtalan más kép van, amely felér 500 milliárd szóval.
06:07
For instance, this one.
143
352000
2000
Például ez.
06:09
If you just take influenza,
144
354000
2000
Ha csupán az influenzát vesszük,
06:11
you will see peaks at the time where you knew
145
356000
2000
kiugrásokat fogunk látni azokra az időszakokra, ahol tudjuk, hogy
06:13
big flu epidemics were killing people around the globe.
146
358000
3000
nagy influenza fertőzésekben haltak meg az emberek világszerte.
06:16
ELA: If you were not yet convinced,
147
361000
3000
ELA: Ha még mindig nem lennének meggyőzve,
06:19
sea levels are rising,
148
364000
2000
a tengerszint emelkedik,
06:21
so is atmospheric CO2 and global temperature.
149
366000
3000
akárcsak a légkör CO2 tartalma és a globális hőmérséklet.
06:24
JM: You might also want to have a look at this particular n-gram,
150
369000
3000
JM: Vagy akár megnézhetitek ezt a bizonyos n-gramot,
06:27
and that's to tell Nietzsche that God is not dead,
151
372000
3000
melyben Nietzsche szerint Isten nem halott,
06:30
although you might agree that he might need a better publicist.
152
375000
3000
habár azzal egyetértenének, hogy jobb publicistára lenne szüksége.
06:33
(Laughter)
153
378000
2000
(Nevetés)
06:35
ELA: You can get at some pretty abstract concepts with this sort of thing.
154
380000
3000
ELA: Egészen szép absztrakt koncepciókat kaphatsz ilyen dolgokkal.
06:38
For instance, let me tell you the history
155
383000
2000
Például, hadd meséljek az 1950. év
06:40
of the year 1950.
156
385000
2000
történelméről!
06:42
Pretty much for the vast majority of history,
157
387000
2000
Nagy valószínűséggel a történelem túlnyomó részében
06:44
no one gave a damn about 1950.
158
389000
2000
senkit sem érdekelt 1950.
06:46
In 1700, in 1800, in 1900,
159
391000
2000
1700-ban, 1800-ban, 1900-ban
06:48
no one cared.
160
393000
3000
senkit sem érdekelt.
06:52
Through the 30s and 40s,
161
397000
2000
A 30-as és a 40-es években
06:54
no one cared.
162
399000
2000
senkit sem érdekelt.
06:56
Suddenly, in the mid-40s,
163
401000
2000
A 40-es évek közepén hirtelen
06:58
there started to be a buzz.
164
403000
2000
elkezdődött a mozgolódás.
07:00
People realized that 1950 was going to happen,
165
405000
2000
Rájöttek az emberek, hogy hamarosan 1950 lesz,
07:02
and it could be big.
166
407000
2000
és nagy lehet.
07:04
(Laughter)
167
409000
3000
(Nevetés)
07:07
But nothing got people interested in 1950
168
412000
3000
1950-ben azonban semmi más nem érdekelte úgy az embereket,
07:10
like the year 1950.
169
415000
3000
mint az 1950. év.
07:13
(Laughter)
170
418000
3000
(Nevetés)
07:16
People were walking around obsessed.
171
421000
2000
Az emberek megszállottan járkáltak.
07:18
They couldn't stop talking
172
423000
2000
Egyfolytában azokról a dolgokról beszéltek,
07:20
about all the things they did in 1950,
173
425000
3000
mit csináltak 1950-ben,
07:23
all the things they were planning to do in 1950,
174
428000
3000
mit fognak csinálni 1950-ben,
07:26
all the dreams of what they wanted to accomplish in 1950.
175
431000
5000
az álmokról, amelyeket meg szeretnének valósítani 1950-ben.
07:31
In fact, 1950 was so fascinating
176
436000
2000
1950 valójában annyira szenzációs volt,
07:33
that for years thereafter,
177
438000
2000
hogy évekkel utána is,
07:35
people just kept talking about all the amazing things that happened,
178
440000
3000
az emberek egyfolytában az akkor történt csodálatos dolgokról beszéltek,
07:38
in '51, '52, '53.
179
443000
2000
'51-ben, '52-ben, '53-ban.
07:40
Finally in 1954,
180
445000
2000
Végül 1954-ben,
07:42
someone woke up and realized
181
447000
2000
felébred valaki és rájött, hogy
07:44
that 1950 had gotten somewhat passé.
182
449000
4000
1950 valahogyan... elmúlt.
07:48
(Laughter)
183
453000
2000
(Nevetés)
07:50
And just like that, the bubble burst.
184
455000
2000
És egy csapásra a buborék kipukkant.
07:52
(Laughter)
185
457000
2000
(Nevetés)
07:54
And the story of 1950
186
459000
2000
És 1950 története
07:56
is the story of every year that we have on record,
187
461000
2000
megegyezik valamennyi rendelkezésünkre álló év történetével,
07:58
with a little twist, because now we've got these nice charts.
188
463000
3000
egy kis csavarral, hiszen megvannak ezek a szép ábráink.
08:01
And because we have these nice charts, we can measure things.
189
466000
3000
És mivel megvannak ezek a szép ábrák, meg tudunk mérni dolgokat.
08:04
We can say, "Well how fast does the bubble burst?"
190
469000
2000
Azt mondhatjuk, "Nézzük, milyen gyorsan pukkant ki a buborék?"
08:06
And it turns out that we can measure that very precisely.
191
471000
3000
És kiderül, ezt egészen pontosan meg tudjuk mérni.
08:09
Equations were derived, graphs were produced,
192
474000
3000
Egyenleteket írtunk, grafikonokat állítottunk fel,
08:12
and the net result
193
477000
2000
és a végső eredmény az, hogy
08:14
is that we find that the bubble bursts faster and faster
194
479000
3000
a buborék egyre gyorsabban és gyorsabban pukkan ki,
08:17
with each passing year.
195
482000
2000
ahogy telnek az egyes évek.
08:19
We are losing interest in the past more rapidly.
196
484000
5000
Egyre gyorsabban veszítjük el a múlttal kapcsolatos érdeklődésünket.
08:24
JM: Now a little piece of career advice.
197
489000
2000
JM: Most pedig egy kis karrier tanács.
08:26
So for those of you who seek to be famous,
198
491000
2000
Mindazok, akik híresek akarnak lenni,
08:28
we can learn from the 25 most famous political figures,
199
493000
2000
tanulhatnak a 25 leghíresebb politikai szereplőtől,
08:30
authors, actors and so on.
200
495000
2000
szerzőtől, színésztől és így tovább.
08:32
So if you want to become famous early on, you should be an actor,
201
497000
3000
Szóval ha idejekorán híres akarsz lenni, színésznek kell menned,
08:35
because then fame starts rising by the end of your 20s --
202
500000
2000
mert a hírnév a 20-as éveid végén kezd el növekedni --
08:37
you're still young, it's really great.
203
502000
2000
még fiatal vagy, ez igazán nagyszerű.
08:39
Now if you can wait a little bit, you should be an author,
204
504000
2000
Ha tudsz egy kicsit tovább várni, szerzőnek kell menned,
08:41
because then you rise to very great heights,
205
506000
2000
mivel akkor igen nagy magasságokba emelkedhetsz,
08:43
like Mark Twain, for instance: extremely famous.
206
508000
2000
mint Mark Twain például: elképesztően híres.
08:45
But if you want to reach the very top,
207
510000
2000
Ha viszont a legmagasabbra akarsz jutni,
08:47
you should delay gratification
208
512000
2000
késleltetned kell az önmegvalósítást, és
08:49
and, of course, become a politician.
209
514000
2000
természetesen, politikusnak kell állnod.
08:51
So here you will become famous by the end of your 50s,
210
516000
2000
Így az 50-es éveid végére kezdesz híres lenni,
08:53
and become very, very famous afterward.
211
518000
2000
és csak aztán leszel nagyon, nagyon híres.
08:55
So scientists also tend to get famous when they're much older.
212
520000
3000
A tudósok is akkor kezdenek híressé válni, amikor idősebbek lesznek.
08:58
Like for instance, biologists and physics
213
523000
2000
Mint például a biológusok és fizikusok,
09:00
tend to be almost as famous as actors.
214
525000
2000
akik csaknem olyan híressé válhatnak, mint a színészek.
09:02
One mistake you should not do is become a mathematician.
215
527000
3000
Egy hibát nem szabad elkövetned: matematikusnak menned.
09:05
(Laughter)
216
530000
2000
(Nevetés)
09:07
If you do that,
217
532000
2000
Ha így döntesz,
09:09
you might think, "Oh great. I'm going to do my best work when I'm in my 20s."
218
534000
3000
azt gondolhatod, "Oh, remek. A legjobbat fogom teljesíteni, amikor a 20-as éveimben járok."
09:12
But guess what, nobody will really care.
219
537000
2000
De tudod mit? Senkit nem fog érdekelni.
09:14
(Laughter)
220
539000
3000
(Nevetés)
09:17
ELA: There are more sobering notes
221
542000
2000
ELA: Vannak még jobban kijózanító megjegyzések
09:19
among the n-grams.
222
544000
2000
az n-gramok között.
09:21
For instance, here's the trajectory of Marc Chagall,
223
546000
2000
Itt van például Marc Chagall pályája,
09:23
an artist born in 1887.
224
548000
2000
egy 1887-ben született művészé.
09:25
And this looks like the normal trajectory of a famous person.
225
550000
3000
Ez úgy néz ki, mint egy híres ember átlagos pályája.
09:28
He gets more and more and more famous,
226
553000
4000
Egyre jobban és jobban híres lett,
09:32
except if you look in German.
227
557000
2000
kivéve, ha Németországban nézed.
09:34
If you look in German, you see something completely bizarre,
228
559000
2000
Ha Németországban nézed, valami egészen bizarr dolgot láthatsz,
09:36
something you pretty much never see,
229
561000
2000
valamit, amit szinte még sosem láttál,
09:38
which is he becomes extremely famous
230
563000
2000
nevezetesen, hogy hihetetlen híres lesz,
09:40
and then all of a sudden plummets,
231
565000
2000
aztán egyszercsak bezuhan,
09:42
going through a nadir between 1933 and 1945,
232
567000
3000
egy mélypontra érve 1933 és 1945 között,
09:45
before rebounding afterward.
233
570000
3000
mielőtt ismét visszapattanna.
09:48
And of course, what we're seeing
234
573000
2000
Természetesen, amit látunk
09:50
is the fact Marc Chagall was a Jewish artist
235
575000
3000
az az a tény, hogy Marc Chagall egy zsidó művész volt
09:53
in Nazi Germany.
236
578000
2000
a náci Németországban.
09:55
Now these signals
237
580000
2000
Ezek a jelek
09:57
are actually so strong
238
582000
2000
igazából annyira erősek, hogy
09:59
that we don't need to know that someone was censored.
239
584000
3000
nem kell tudnunk, hogy valaki cenzorálva volt.
10:02
We can actually figure it out
240
587000
2000
Valójában ki tudjuk találni,
10:04
using really basic signal processing.
241
589000
2000
egészen egyszerű jelzőrendszer segítségével.
10:06
Here's a simple way to do it.
242
591000
2000
Itt egy egyszerű módszer minderre.
10:08
Well, a reasonable expectation
243
593000
2000
Egy ésszerű várakozás, hogy
10:10
is that somebody's fame in a given period of time
244
595000
2000
egy adott időszakban valakinek a hírneve
10:12
should be roughly the average of their fame before
245
597000
2000
a korábbi és a későbbi hírnevének
10:14
and their fame after.
246
599000
2000
az átlaga.
10:16
So that's sort of what we expect.
247
601000
2000
Ez az amit várnánk.
10:18
And we compare that to the fame that we observe.
248
603000
3000
És ezt összehasonlítjuk az általunk megfigyelt hírnévvel.
10:21
And we just divide one by the other
249
606000
2000
Aztán elosztjuk egyiket a másikkal, hogy
10:23
to produce something we call a suppression index.
250
608000
2000
előállítsunk valamit, amit elnyomási indexnek hívunk.
10:25
If the suppression index is very, very, very small,
251
610000
3000
Ha az elnyomási index nagyon, nagyon, nagyon alacsony,
10:28
then you very well might be being suppressed.
252
613000
2000
akkor nagyon el lehetsz nyomva.
10:30
If it's very large, maybe you're benefiting from propaganda.
253
615000
3000
Ha nagyon nagy, akkor lehet, hogy propaganda áldozata vagy.
10:34
JM: Now you can actually look at
254
619000
2000
Igazából meg tudod nézni
10:36
the distribution of suppression indexes over whole populations.
255
621000
3000
az elnyomási index eloszlását a teljes populáción.
10:39
So for instance, here --
256
624000
2000
Így például, itt --
10:41
this suppression index is for 5,000 people
257
626000
2000
ez 5000 ember elnyomási indexe, melyet
10:43
picked in English books where there's no known suppression --
258
628000
2000
olyan angol nyelvű könyvekből választottunk ki, ahol nincs tudomásunk elnyomásról --
10:45
it would be like this, basically tightly centered on one.
259
630000
2000
így kellene kinéznie, nagyjából az egy körül csoportosulva.
10:47
What you expect is basically what you observe.
260
632000
2000
Amire számítasz az az általad megfigyelt.
10:49
This is distribution as seen in Germany --
261
634000
2000
Ez a Németországban megfigyelhető eloszlás --
10:51
very different, it's shifted to the left.
262
636000
2000
nagyon különböző, a baloldalra tolódott.
10:53
People talked about it twice less as it should have been.
263
638000
3000
Az emberek kétszer kevesebbszer beszéltek róla, mint kellett volna.
10:56
But much more importantly, the distribution is much wider.
264
641000
2000
De sokkal fontosabb, hogy az eloszlás sokkal szélesebb.
10:58
There are many people who end up on the far left on this distribution
265
643000
3000
Sokan vannak, akik az eloszlás bal szélén helyezkednek el,
11:01
who are talked about 10 times fewer than they should have been.
266
646000
3000
akikről 10-szer kevesebbszer beszéltek, mint ahogy kellett volna.
11:04
But then also many people on the far right
267
649000
2000
De aztán sokan vannak a jobb szélén,
11:06
who seem to benefit from propaganda.
268
651000
2000
akik feltehetően propaganda áldozatai.
11:08
This picture is the hallmark of censorship in the book record.
269
653000
3000
Ez a kép jól illusztrálja a könyvekben megjelenő cenzúrát.
11:11
ELA: So culturomics
270
656000
2000
ELA: Kulturonómia,
11:13
is what we call this method.
271
658000
2000
így hívjuk ezt a módszert.
11:15
It's kind of like genomics.
272
660000
2000
Olyan, mint a genomika.
11:17
Except genomics is a lens on biology
273
662000
2000
Azt leszámítva, hogy a genomika a biológia egyik lencséje,
11:19
through the window of the sequence of bases in the human genome.
274
664000
3000
melyen keresztül az emberi genom alapvető szekvenciáit vizsgáljuk.
11:22
Culturomics is similar.
275
667000
2000
A kulturonómia hasonló.
11:24
It's the application of massive-scale data collection analysis
276
669000
3000
Egy hatalmas méretű adatgyűjtemény analizálásának eszköze,
11:27
to the study of human culture.
277
672000
2000
amellyel az emberi kultúrát tanulmányozhatjuk.
11:29
Here, instead of through the lens of a genome,
278
674000
2000
Itt nem a genom lencséjén keresztül, hanem
11:31
through the lens of digitized pieces of the historical record.
279
676000
3000
a történelmi emlékek digitalizált darabjain keresztül.
11:34
The great thing about culturomics
280
679000
2000
A kulturonómia nagy előnye, hogy
11:36
is that everyone can do it.
281
681000
2000
bárki művelheti.
11:38
Why can everyone do it?
282
683000
2000
Miért teheti meg bárki?
11:40
Everyone can do it because three guys,
283
685000
2000
Azért teheti, mivel három srác,
11:42
Jon Orwant, Matt Gray and Will Brockman over at Google,
284
687000
3000
Jon Orwant, Matt Gray és Will Brockman a Google-nél
11:45
saw the prototype of the Ngram Viewer,
285
690000
2000
meglátta az Ngram Viewer prototípusát,
11:47
and they said, "This is so fun.
286
692000
2000
és azt mondta, "Ez vicces.
11:49
We have to make this available for people."
287
694000
3000
Az emberek számára elérhetővé kell tenni."
11:52
So in two weeks flat -- the two weeks before our paper came out --
288
697000
2000
Így nagyjából 2 hét alatt -- a tanulmányunk megjelenése előtti 2 hétben --
11:54
they coded up a version of the Ngram Viewer for the general public.
289
699000
3000
összerakták az Ngram Viewer publikus verziójának kódját.
11:57
And so you too can type in any word or phrase that you're interested in
290
702000
3000
És így bármilyen szót vagy kifejezést be tudsz táplálni, ami érdekel
12:00
and see its n-gram immediately --
291
705000
2000
és azonnal láthatod az n-gramját --
12:02
also browse examples of all the various books
292
707000
2000
még példákat is mutat a különféle könyvekből,
12:04
in which your n-gram appears.
293
709000
2000
melyekben az n-gramod megtalálható.
12:06
JM: Now this was used over a million times on the first day,
294
711000
2000
JM: Az első napon több mint egymilliószor használták,
12:08
and this is really the best of all the queries.
295
713000
2000
és ez a legjobb az összes keresés közül.
12:10
So people want to be their best, put their best foot forward.
296
715000
3000
Az emberek a legjobbak akarnak lenni, a legjobban előre haladni.
12:13
But it turns out in the 18th century, people didn't really care about that at all.
297
718000
3000
De kiderült, hogy a 18. században az emberek egyáltalán nem törődtek ezzel.
12:16
They didn't want to be their best, they wanted to be their beft.
298
721000
3000
Nem a legjobbak (best) akartak lenni, hanem a legjobbak (beft).
12:19
So what happened is, of course, this is just a mistake.
299
724000
3000
Természetesen ami történt az csak egy hiba.
12:22
It's not that strove for mediocrity,
300
727000
2000
Nem egy szándékos középszerűség,
12:24
it's just that the S used to be written differently, kind of like an F.
301
729000
3000
hanem csak az, hogy az S betűt régen másképp írták, kicsit hasonlóan, mint az F-et.
12:27
Now of course, Google didn't pick this up at the time,
302
732000
3000
A Google természetesen nem jött rá időben,
12:30
so we reported this in the science article that we wrote.
303
735000
3000
így ezt jeleztük is az általunk írt tudományos cikkünkben.
12:33
But it turns out this is just a reminder
304
738000
2000
De igazából ez csak egy figyelmeztetés, hogy
12:35
that, although this is a lot of fun,
305
740000
2000
habár igen szórakoztató amikor ezeket
12:37
when you interpret these graphs, you have to be very careful,
306
742000
2000
a grafikonokat értelmezed, nagyon óvatosnak kell lenned,
12:39
and you have to adopt the base standards in the sciences.
307
744000
3000
és el kell fogadnod a tudomány alapfeltételeit.
12:42
ELA: People have been using this for all kinds of fun purposes.
308
747000
3000
ELA: Az emberek a legkülönfélébb célokra használják.
12:45
(Laughter)
309
750000
7000
(Nevetés)
12:52
Actually, we're not going to have to talk,
310
757000
2000
Igazából, nem is kell beszélnünk,
12:54
we're just going to show you all the slides and remain silent.
311
759000
3000
csak megmutatjuk az összes diát és csendben maradunk.
12:57
This person was interested in the history of frustration.
312
762000
3000
Ez a személy a frusztráció történelmére volt kíváncsi.
13:00
There's various types of frustration.
313
765000
3000
Különféle frusztrációk vannak.
13:03
If you stub your toe, that's a one A "argh."
314
768000
3000
Ha levágod a lábujjad, az egy A-s "argh".
13:06
If the planet Earth is annihilated by the Vogons
315
771000
2000
Ha a Földet elpusztítják a Vogonok,
13:08
to make room for an interstellar bypass,
316
773000
2000
hogy helyet adjanak egy csillagközi kerülőútnak,
13:10
that's an eight A "aaaaaaaargh."
317
775000
2000
az egy 8 A-s "aaaaaaaargh".
13:12
This person studies all the "arghs,"
318
777000
2000
Ez a személy valamennyi "argh"-ot tanulmányozza,
13:14
from one through eight A's.
319
779000
2000
egytől nyolc A-ig.
13:16
And it turns out
320
781000
2000
És kiderül, hogy
13:18
that the less-frequent "arghs"
321
783000
2000
a legkevésbé gyakori "argh"
13:20
are, of course, the ones that correspond to things that are more frustrating --
322
785000
3000
természetesen a legjobban frusztráló dolgokhoz kapcsolódik --
13:23
except, oddly, in the early 80s.
323
788000
3000
leszámítva, furcsán, a 80-as évek elejét.
13:26
We think that might have something to do with Reagan.
324
791000
2000
Szerintünk ez valahogy összefügg Reagennel.
13:28
(Laughter)
325
793000
2000
(Nevetés)
13:30
JM: There are many usages of this data,
326
795000
3000
JM: Sokféle felhasználási módja van ezeknek az adatoknak,
13:33
but the bottom line is that the historical record is being digitized.
327
798000
3000
de a lényeg, hogy a történelmi emlékek digitalizálva lettek.
13:36
Google has started to digitize 15 million books.
328
801000
2000
A Google elkezdett 15 millió könyvet bedigitalizálni.
13:38
That's 12 percent of all the books that have ever been published.
329
803000
2000
Ez 12 százaléka a valaha megjelent összes könyvnek.
13:40
It's a sizable chunk of human culture.
330
805000
3000
Az emberi kultúra egy méretes darabja.
13:43
There's much more in culture: there's manuscripts, there newspapers,
331
808000
3000
Sokkal több van a kultúrában: kéziratok, újságok,
13:46
there's things that are not text, like art and paintings.
332
811000
2000
vannak dolgok, amelyek nem szövegek, mint a műalkotások és festmények.
13:48
These all happen to be on our computers,
333
813000
2000
Hamarosan mindezek a számítógépünkön lesznek,
13:50
on computers across the world.
334
815000
2000
számítógépeken világszerte.
13:52
And when that happens, that will transform the way we have
335
817000
3000
És amikor ez megtörténik, megváltozik a módszer,
13:55
to understand our past, our present and human culture.
336
820000
2000
ahogy korábban a múltunkat, a jelenünket és emberi kultúránkat vizsgáltuk.
13:57
Thank you very much.
337
822000
2000
Köszönjük szépen.
13:59
(Applause)
338
824000
3000
(Taps)
ABOUT THE SPEAKERS
Jean-Baptiste Michel - Data researcherJean-Baptiste Michel looks at how we can use large volumes of data to better understand our world.
Why you should listen
Jean-Baptiste Michel holds joint academic appointments at Harvard (FQEB Fellow) and Google (Visiting Faculty). His research focusses on using large volumes of data as tools that help better understand the world around us -- from the way diseases progress in patients over years, to the way cultures change in human societies over centuries. With his colleague Erez Lieberman Aiden, Jean-Baptiste is a Founding Director of Harvard's Cultural Observatory, where their research team pioneers the use of quantitative methods for the study of human culture, language and history. His research was featured on the covers of Science and Nature, on the front pages of the New York Times and the Boston Globe, in The Economist, Wired and many other venues. The online tool he helped create -- ngrams.googlelabs.com -- was used millions of times to browse cultural trends. Jean-Baptiste is an Engineer from Ecole Polytechnique (Paris), and holds an MS in Applied Mathematics and a PhD in Systems Biology from Harvard.
Jean-Baptiste Michel | Speaker | TED.com
Erez Lieberman Aiden - Researcher
Erez Lieberman Aiden pursues a broad range of research interests, spanning genomics, linguistics, mathematics ...
Why you should listen
Erez Lieberman Aiden is a fellow at the Harvard Society of Fellows and Visiting Faculty at Google. His research spans many disciplines and has won numerous awards, including recognition for one of the top 20 "Biotech Breakthroughs that will Change Medicine", by Popular Mechanics; the Lemelson-MIT prize for the best student inventor at MIT; the American Physical Society's Award for the Best Doctoral Dissertation in Biological Physics; and membership in Technology Review's 2009 TR35, recognizing the top 35 innovators under 35. His last three papers -- two with JB Michel -- have all appeared on the cover of Nature and Science.
Erez Lieberman Aiden | Speaker | TED.com