TEDxBoston 2011
Jean-Baptiste Michel + Erez Lieberman Aiden: What we learned from 5 million books
El que hem après amb 5 milions de llibres.
Filmed:
Readability: 3.9
2,049,453 views
Heu fet servir el Google Labs' Ngram Viewer? És una eina addictiva que et permet cercar mots i idees en una base de dades de 5 milions de llibres de diferents segles. Erez Lieberman Aiden i Jean-Baptiste Michel ens monstren que funciona, i també algunes de les coses sorprenents que podem aprendre amb 5000 milions de mots.
Jean-Baptiste Michel - Data researcher
Jean-Baptiste Michel looks at how we can use large volumes of data to better understand our world. Full bioErez Lieberman Aiden - Researcher
Erez Lieberman Aiden pursues a broad range of research interests, spanning genomics, linguistics, mathematics ... Full bio
Jean-Baptiste Michel looks at how we can use large volumes of data to better understand our world. Full bioErez Lieberman Aiden - Researcher
Erez Lieberman Aiden pursues a broad range of research interests, spanning genomics, linguistics, mathematics ... Full bio
Double-click the English transcript below to play the video.
00:15
Erez Lieberman Aiden: Everyone knows
0
0
2000
Erez Lieberman Aiden: Tothom sap
00:17
that a picture is worth a thousand words.
1
2000
3000
que una imatge val més que mil mots.
00:22
But we at Harvard
2
7000
2000
Però a Harvard
00:24
were wondering if this was really true.
3
9000
3000
ens preguntàvem si és de veres.
00:27
(Laughter)
4
12000
2000
(Rialles)
00:29
So we assembled a team of experts,
5
14000
4000
Així doncs vam formar un grup d'experts,
00:33
spanning Harvard, MIT,
6
18000
2000
incloent-hi Harvard, el MIT,
00:35
The American Heritage Dictionary, The Encyclopedia Britannica
7
20000
3000
The American Heritage Dictionary, La Enciclopèdia Britànica
00:38
and even our proud sponsors,
8
23000
2000
i fins i tot el nostre orgullós espònsor,
00:40
the Google.
9
25000
3000
Google.
00:43
And we cogitated about this
10
28000
2000
I ens ho vam rumiar
00:45
for about four years.
11
30000
2000
durant vora quatre anys.
00:47
And we came to a startling conclusion.
12
32000
5000
I vam arribar a una conclusió sorprenent.
00:52
Ladies and gentlemen, a picture is not worth a thousand words.
13
37000
3000
Senyores i senyors, una imatge no val més que mil mots.
00:55
In fact, we found some pictures
14
40000
2000
De fet, vam trobar algunes imatges
00:57
that are worth 500 billion words.
15
42000
5000
que valen més que 500.000 milions de mots.
01:02
Jean-Baptiste Michel: So how did we get to this conclusion?
16
47000
2000
Jean-Baptiste Michel: Així doncs com vam arribar a aquesta conclusió?
01:04
So Erez and I were thinking about ways
17
49000
2000
Erez i jo buscàvem maneres
01:06
to get a big picture of human culture
18
51000
2000
de trobar una imatge general de la cultura
01:08
and human history: change over time.
19
53000
3000
i història humanes: com canvien amb el temps.
01:11
So many books actually have been written over the years.
20
56000
2000
S'han escrit molts i molts llibres al llarg de la història.
01:13
So we were thinking, well the best way to learn from them
21
58000
2000
Pensàvem que la millor manera d´aprendre d'ells
01:15
is to read all of these millions of books.
22
60000
2000
és llegir-se tots aquests milions de llibres.
01:17
Now of course, if there's a scale for how awesome that is,
23
62000
3000
Ara, és clar, si hi ha una escala per a la magnitud de tot això,
01:20
that has to rank extremely, extremely high.
24
65000
3000
cal que vagi extremadament per dalt.
01:23
Now the problem is there's an X-axis for that,
25
68000
2000
El problema és que també hi ha un eix d'abscisses per a això,
01:25
which is the practical axis.
26
70000
2000
el qual és l'eix pràctic.
01:27
This is very, very low.
27
72000
2000
És molt, molt baix.
01:29
(Applause)
28
74000
3000
(Aplaudiment)
01:32
Now people tend to use an alternative approach,
29
77000
3000
Ara la gent tendeix a fer servir un enfocament alternatiu,
01:35
which is to take a few sources and read them very carefully.
30
80000
2000
que és prendre poques fonts i llegilr-les amb molta cura.
01:37
This is extremely practical, but not so awesome.
31
82000
2000
Això és molt pràctic, però no tan sorprenent.
01:39
What you really want to do
32
84000
3000
El que realment volem fer
01:42
is to get to the awesome yet practical part of this space.
33
87000
3000
és aconseguir la part sorprenent, i pràctica d'aquest espai.
01:45
So it turns out there was a company across the river called Google
34
90000
3000
Resulta que hi havia una companyia a l'altra vorera del riu anomenada Google
01:48
who had started a digitization project a few years back
35
93000
2000
que havia encetat un procés de digitalització fa alguns anys
01:50
that might just enable this approach.
36
95000
2000
que potser possibilitaria aquest enfocament.
01:52
They have digitized millions of books.
37
97000
2000
Han digitalitzat milions de llibres.
01:54
So what that means is, one could use computational methods
38
99000
3000
El que això vol dir és que hom podria usar mètodes informàtics
01:57
to read all of the books in a click of a button.
39
102000
2000
per llegir tots els llibres amb un clic del ratolí.
01:59
That's very practical and extremely awesome.
40
104000
3000
Això és molt pràctic i molt i molt sorprenent.
02:03
ELA: Let me tell you a little bit about where books come from.
41
108000
2000
ELA: Us diré ara una mica sobre l'origen dels llibres.
02:05
Since time immemorial, there have been authors.
42
110000
3000
Des de temps immemorials, hi ha hagut autors.
02:08
These authors have been striving to write books.
43
113000
3000
S'han esforçat en escriure llibres.
02:11
And this became considerably easier
44
116000
2000
Això esdevingué molt més fàcil
02:13
with the development of the printing press some centuries ago.
45
118000
2000
amb el desenvolupament de la impremta fa alguns segles.
02:15
Since then, the authors have won
46
120000
3000
Des de llavors, els autors han guanyat
02:18
on 129 million distinct occasions,
47
123000
2000
129 milions vegades,
02:20
publishing books.
48
125000
2000
tot publicant llibres.
02:22
Now if those books are not lost to history,
49
127000
2000
Si aquests llibres no es perden en la nit dels temps,
02:24
then they are somewhere in a library,
50
129000
2000
aleshores hi són en algun lloc d'una biblioteca,
02:26
and many of those books have been getting retrieved from the libraries
51
131000
3000
i molts d'ells han estat deixats en préstec a les biblioteques
02:29
and digitized by Google,
52
134000
2000
i digitalitzats per Google,
02:31
which has scanned 15 million books to date.
53
136000
2000
qui ha escanejat 15 milions de llibres fins avui.
02:33
Now when Google digitizes a book, they put it into a really nice format.
54
138000
3000
Quan Google digitalitza un llibre, li donen un format bonic de veres.
02:36
Now we've got the data, plus we have metadata.
55
141000
2000
Ara tenim les dades i, a més a més, les metadades.
02:38
We have information about things like where was it published,
56
143000
3000
Tenim informació sobre coses com on ha estat publicat,
02:41
who was the author, when was it published.
57
146000
2000
qui era l'autor, quan fou publicat.
02:43
And what we do is go through all of those records
58
148000
3000
I el que fem és esbrinar tots aquests registres
02:46
and exclude everything that's not the highest quality data.
59
151000
4000
i excloure tot allò que no siguin les dades de més qualitat.
02:50
What we're left with
60
155000
2000
El que ens queda
02:52
is a collection of five million books,
61
157000
3000
és una col·leció de cinc milions de llibres,
02:55
500 billion words,
62
160000
3000
500.000 milions de mots,
02:58
a string of characters a thousand times longer
63
163000
2000
una tirallonga de lletres mil vegades més llarga
03:00
than the human genome --
64
165000
3000
que el genoma humà --
03:03
a text which, when written out,
65
168000
2000
un text que, un cop escrit,
03:05
would stretch from here to the Moon and back
66
170000
2000
faria el camí d'anada i tornada a la lluna
03:07
10 times over --
67
172000
2000
més de 10 vegades --
03:09
a veritable shard of our cultural genome.
68
174000
4000
un veritable fragment del nostre genoma cultural.
03:13
Of course what we did
69
178000
2000
És cert que el que vam fer
03:15
when faced with such outrageous hyperbole ...
70
180000
3000
al enfrontar-nos a aquesta hipèrbole indignant ...
03:18
(Laughter)
71
183000
2000
(Rialles)
03:20
was what any self-respecting researchers
72
185000
3000
fou allò que qualsevol investigador que es precïi
03:23
would have done.
73
188000
3000
hauria fet.
03:26
We took a page out of XKCD,
74
191000
2000
Vam agafar una plana del còmic XKCD,
03:28
and we said, "Stand back.
75
193000
2000
i diguérem, "Atura't.
03:30
We're going to try science."
76
195000
2000
Provarem de fer ciència."
03:32
(Laughter)
77
197000
2000
(Rialles)
03:34
JM: Now of course, we were thinking,
78
199000
2000
JM: És clar, hi pensem,
03:36
well let's just first put the data out there
79
201000
2000
posem les dades per aquí
03:38
for people to do science to it.
80
203000
2000
perquè la gent faci ciència amb elles.
03:40
Now we're thinking, what data can we release?
81
205000
2000
I pensem, quines dades podem publicar?
03:42
Well of course, you want to take the books
82
207000
2000
Evidentment, hom vol prendre els llibres
03:44
and release the full text of these five million books.
83
209000
2000
i publicar el text sencer de cinc milions de llibres.
03:46
Now Google, and Jon Orwant in particular,
84
211000
2000
Google, i Jon Orwant en particular,
03:48
told us a little equation that we should learn.
85
213000
2000
ens van dir una petita equació que calia que aprenguéssim.
03:50
So you have five million, that is, five million authors
86
215000
3000
Així doncs hi ha cinc milions, és a dir, cinc milions d'autors
03:53
and five million plaintiffs is a massive lawsuit.
87
218000
3000
i cinc millions de demandes judicials és un procés descomunal.
03:56
So, although that would be really, really awesome,
88
221000
2000
Així doncs, encara que això seria molt i molt sorprenent,
03:58
again, that's extremely, extremely impractical.
89
223000
3000
una vegada més, seria molt i molt poc pràctic.
04:01
(Laughter)
90
226000
2000
(Rialles)
04:03
Now again, we kind of caved in,
91
228000
2000
Llavors, gairebé ens vam ensorrar,
04:05
and we did the very practical approach, which was a bit less awesome.
92
230000
3000
i optàrem per l'enfocament pràctic, que no era tan sorprenent.
04:08
We said, well instead of releasing the full text,
93
233000
2000
Ens vam dir, en lloc de publicar el text sencer,
04:10
we're going to release statistics about the books.
94
235000
2000
publicarem estadístiques al voltant dels llibres.
04:12
So take for instance "A gleam of happiness."
95
237000
2000
A tall d'exemple "A gleam of happiness."
04:14
It's four words; we call that a four-gram.
96
239000
2000
Té quatre paraules; ho anomenem un quatre-grams.
04:16
We're going to tell you how many times a particular four-gram
97
241000
2000
Us direm quantes vegades va aparèixer un quatre-grams en particular
04:18
appeared in books in 1801, 1802, 1803,
98
243000
2000
en els llibres de 1801, 1802, 1802,
04:20
all the way up to 2008.
99
245000
2000
fins a l'any 2008.
04:22
That gives us a time series
100
247000
2000
Això ens dóna una sèrie temporal
04:24
of how frequently this particular sentence was used over time.
101
249000
2000
sobre la freqüència amb què una frase concreta ha estat usada al llarg del temps.
04:26
We do that for all the words and phrases that appear in those books,
102
251000
3000
Ho fem amb tots els mots i frases que apareixen en aquells llibres,
04:29
and that gives us a big table of two billion lines
103
254000
3000
i ens dóna una gran taula de 2000 milions de línies
04:32
that tell us about the way culture has been changing.
104
257000
2000
que ens parla sobre la manera com la cultura ha canviat.
04:34
ELA: So those two billion lines,
105
259000
2000
ELA: Així doncs 2000 milions de línies,
04:36
we call them two billion n-grams.
106
261000
2000
ho anomenem 2000 milions de n-grams.
04:38
What do they tell us?
107
263000
2000
Què ens diu tot això?
04:40
Well the individual n-grams measure cultural trends.
108
265000
2000
Doncs que els n-grams mesuren les tendències culturals.
04:42
Let me give you an example.
109
267000
2000
Us posaré un exemple.
04:44
Let's suppose that I am thriving,
110
269000
2000
Suposem que estic esforçant-me,
04:46
then tomorrow I want to tell you about how well I did.
111
271000
2000
demà vull contar-vos el que vaig fer ahir.
04:48
And so I might say, "Yesterday, I throve."
112
273000
3000
Podria dir-vos, "Ahir, em vaig esforçar."
04:51
Alternatively, I could say, "Yesterday, I thrived."
113
276000
3000
Altrament, puc dir, "Ahir, m'esforcí."
04:54
Well which one should I use?
114
279000
3000
Quina forma cal que faci servir?
04:57
How to know?
115
282000
2000
Com saber-ho?
04:59
As of about six months ago,
116
284000
2000
Fa com sis mesos,
05:01
the state of the art in this field
117
286000
2000
el més novedós en aquest camp
05:03
is that you would, for instance,
118
288000
2000
era que, posem per cas, hom
05:05
go up to the following psychologist with fabulous hair,
119
290000
2000
aniria al psicòleg amb cabells fabulosos
05:07
and you'd say,
120
292000
2000
i li preguntaria,
05:09
"Steve, you're an expert on the irregular verbs.
121
294000
3000
"Steve, tu que ets un expert en verbs irregulars.
05:12
What should I do?"
122
297000
2000
Què cal que digui?"
05:14
And he'd tell you, "Well most people say thrived,
123
299000
2000
I et diria, "la majoria de la gent diu em vaig esforçar,
05:16
but some people say throve."
124
301000
3000
però alguns diuen m'esforcí."
05:19
And you also knew, more or less,
125
304000
2000
I hom sap que, més o menys,
05:21
that if you were to go back in time 200 years
126
306000
3000
si ens remuntem 200 anys en la història
05:24
and ask the following statesman with equally fabulous hair,
127
309000
3000
i preguntem al següent estadista també amb cabells fabulosos,
05:27
(Laughter)
128
312000
3000
(Rialles)
05:30
"Tom, what should I say?"
129
315000
2000
"Tom, què cal que digui?"
05:32
He'd say, "Well, in my day, most people throve,
130
317000
2000
Diria, "Bé, en la meua època, la majoria deia m'esforcí,
05:34
but some thrived."
131
319000
3000
i alguns em vaig esforçar."
05:37
So now what I'm just going to show you is raw data.
132
322000
2000
El que ara us mostraré són dades en brut.
05:39
Two rows from this table of two billion entries.
133
324000
4000
Dues línes en aquesta taula de 2000 milions d'entrades.
05:43
What you're seeing is year by year frequency
134
328000
2000
El que esteu veient és la freqüència any rere any
05:45
of "thrived" and "throve" over time.
135
330000
3000
de "em vaig esforçar" i "m'esforcí".
05:49
Now this is just two
136
334000
2000
Això és sols dues
05:51
out of two billion rows.
137
336000
3000
línies dels 2000 milions.
05:54
So the entire data set
138
339000
2000
Doncs totes les dades plegades
05:56
is a billion times more awesome than this slide.
139
341000
3000
són 1000 milions de cops més sorprenents que aquesta diapositiva.
05:59
(Laughter)
140
344000
2000
(Rialles)
06:01
(Applause)
141
346000
4000
(Aplaudiment)
06:05
JM: Now there are many other pictures that are worth 500 billion words.
142
350000
2000
JM: Hi ha moltes altres imatges que valen més que 500.000 milions de paraules.
06:07
For instance, this one.
143
352000
2000
Per exemple, aquesta.
06:09
If you just take influenza,
144
354000
2000
Si prenem en consideració la grip
06:11
you will see peaks at the time where you knew
145
356000
2000
hom veurà pics allà on se sap que
06:13
big flu epidemics were killing people around the globe.
146
358000
3000
grans epidèmies de grip eren mortíferes a escala mundial.
06:16
ELA: If you were not yet convinced,
147
361000
3000
ELA: Si encara no estiguéssiu convençuts,
06:19
sea levels are rising,
148
364000
2000
el nivell del mar està pujant,
06:21
so is atmospheric CO2 and global temperature.
149
366000
3000
igual que el CO2 de l'atmosfera i el rescalfament global.
06:24
JM: You might also want to have a look at this particular n-gram,
150
369000
3000
JM: Potser us interessi fer una ullada a aquest n-gram,
06:27
and that's to tell Nietzsche that God is not dead,
151
372000
3000
per dir-li a Nietzsche que Déu és mort,
06:30
although you might agree that he might need a better publicist.
152
375000
3000
tot i que potser esteu d'acord que potser necessita un altre publicista.
06:33
(Laughter)
153
378000
2000
(Rialles)
06:35
ELA: You can get at some pretty abstract concepts with this sort of thing.
154
380000
3000
ELA: Hom pot arribar a alguns conceptes prou abstractes amb això.
06:38
For instance, let me tell you the history
155
383000
2000
Per exemple, us contaré la història
06:40
of the year 1950.
156
385000
2000
de l'any 1950.
06:42
Pretty much for the vast majority of history,
157
387000
2000
Pel que fa a gran part de la història,
06:44
no one gave a damn about 1950.
158
389000
2000
a ningú li importava un rave el 1950.
06:46
In 1700, in 1800, in 1900,
159
391000
2000
El 1700, el 1800, el 1900,
06:48
no one cared.
160
393000
3000
a ningú li importaven un rave.
06:52
Through the 30s and 40s,
161
397000
2000
Els anys 30 i 40,
06:54
no one cared.
162
399000
2000
a ningú li importava un rave.
06:56
Suddenly, in the mid-40s,
163
401000
2000
De sobte, a mitjans dels anys 40,
06:58
there started to be a buzz.
164
403000
2000
va començar a haver-hi un rumor.
07:00
People realized that 1950 was going to happen,
165
405000
2000
La gent s'adonà que 1950 anava a succeir,
07:02
and it could be big.
166
407000
2000
i que potser seria gran.
07:04
(Laughter)
167
409000
3000
(Rialles)
07:07
But nothing got people interested in 1950
168
412000
3000
Però no-res va fer que la gent s'hi interessessi.
07:10
like the year 1950.
169
415000
3000
tant com l'any 1950.
07:13
(Laughter)
170
418000
3000
(Rialles)
07:16
People were walking around obsessed.
171
421000
2000
La gent s'hi estava obsessionant.
07:18
They couldn't stop talking
172
423000
2000
No podien deixar de parlar-ne
07:20
about all the things they did in 1950,
173
425000
3000
sobre allò que havien fet en 1950,
07:23
all the things they were planning to do in 1950,
174
428000
3000
tot allò que planejaven fer en 1950,
07:26
all the dreams of what they wanted to accomplish in 1950.
175
431000
5000
tots els somnis al voltant d'allò que volien aconseguir en 1950.
07:31
In fact, 1950 was so fascinating
176
436000
2000
De fet, el 1950 va ser tant fascinant
07:33
that for years thereafter,
177
438000
2000
que durant anys després,
07:35
people just kept talking about all the amazing things that happened,
178
440000
3000
la gent va continuar parlant sobre les coses meravelloses que havien passat,
07:38
in '51, '52, '53.
179
443000
2000
en 1951, 52, 53.
07:40
Finally in 1954,
180
445000
2000
Al capdavall en 1954,
07:42
someone woke up and realized
181
447000
2000
algú es va despertar i es va adonar
07:44
that 1950 had gotten somewhat passé.
182
449000
4000
que el 1950 havia, d'alguna manera, passat de moda.
07:48
(Laughter)
183
453000
2000
(Rialles)
07:50
And just like that, the bubble burst.
184
455000
2000
I simplement així, la bombolla va esclatar.
07:52
(Laughter)
185
457000
2000
(Rialles)
07:54
And the story of 1950
186
459000
2000
I la història del 1950
07:56
is the story of every year that we have on record,
187
461000
2000
és la història de cada any que tenim enregistrat,
07:58
with a little twist, because now we've got these nice charts.
188
463000
3000
amb un petit canvi, perquè ara tenim aquests fantàstics gràfics.
08:01
And because we have these nice charts, we can measure things.
189
466000
3000
I com que tenim aquests fantàstics gràfics, podem mesurar les coses.
08:04
We can say, "Well how fast does the bubble burst?"
190
469000
2000
Podem afirmar, "A quina velocitat esclata la bombolla?
08:06
And it turns out that we can measure that very precisely.
191
471000
3000
I resulta que podem mesurar-ho amb molta precisió.
08:09
Equations were derived, graphs were produced,
192
474000
3000
Vam resoldre equacions, generar gràfics.
08:12
and the net result
193
477000
2000
i el resultat nítid
08:14
is that we find that the bubble bursts faster and faster
194
479000
3000
és que trobem que la bombolla esclata més i més ràpidament
08:17
with each passing year.
195
482000
2000
amb cada any que passa.
08:19
We are losing interest in the past more rapidly.
196
484000
5000
El passat deixa d'interessar-nos més ràpidament.
08:24
JM: Now a little piece of career advice.
197
489000
2000
JM: Ara un petit consell per a la vida professional.
08:26
So for those of you who seek to be famous,
198
491000
2000
Per a aquells de vosaltres qui vulgueu ser famosos,
08:28
we can learn from the 25 most famous political figures,
199
493000
2000
podem aprendre de les 25 figures polítiques més famoses,
08:30
authors, actors and so on.
200
495000
2000
autors, actors, etc.
08:32
So if you want to become famous early on, you should be an actor,
201
497000
3000
Així, si algú vol esdevenir famós aviat, caldria que fos actor,
08:35
because then fame starts rising by the end of your 20s --
202
500000
2000
perquè la fama comença a crèixer quan tens gariebé 30 anys --
08:37
you're still young, it's really great.
203
502000
2000
encara ets jove, això és bonic de veres.
08:39
Now if you can wait a little bit, you should be an author,
204
504000
2000
Ara si pots esperar una mica més, caldria que fossis un autor,
08:41
because then you rise to very great heights,
205
506000
2000
perquè llavors t'aixecaràs a alçades molt elevades,
08:43
like Mark Twain, for instance: extremely famous.
206
508000
2000
com Mark Twain, per exemple: molt i molt famós.
08:45
But if you want to reach the very top,
207
510000
2000
Però si vols assolir el cim,
08:47
you should delay gratification
208
512000
2000
cal que endarrereixis la gratificació
08:49
and, of course, become a politician.
209
514000
2000
i, és clar, esdevinguis polític.
08:51
So here you will become famous by the end of your 50s,
210
516000
2000
En aquest cas seràs famós quan tinguis gairebé 60 anys,
08:53
and become very, very famous afterward.
211
518000
2000
i seràs molt i molt famós després.
08:55
So scientists also tend to get famous when they're much older.
212
520000
3000
Els científics tendeixen a ser famosos quan són encara més grans.
08:58
Like for instance, biologists and physics
213
523000
2000
Com, per exemple, els biòlegs i els físics
09:00
tend to be almost as famous as actors.
214
525000
2000
tendeixen a ser tan famosos com els actors.
09:02
One mistake you should not do is become a mathematician.
215
527000
3000
Una errada que cal evitar és convertir-se en matemàtic.
09:05
(Laughter)
216
530000
2000
(Rialles)
09:07
If you do that,
217
532000
2000
Si ho fas,
09:09
you might think, "Oh great. I'm going to do my best work when I'm in my 20s."
218
534000
3000
potser pensis, "molt bé, faré la meua gran obra quan tingui 20 i escaig."
09:12
But guess what, nobody will really care.
219
537000
2000
Però sabeu què, a ningú li importarà un rave.
09:14
(Laughter)
220
539000
3000
(Rialles)
09:17
ELA: There are more sobering notes
221
542000
2000
ELA: Hi ha més notes alliçonadores
09:19
among the n-grams.
222
544000
2000
entre els n-grams.
09:21
For instance, here's the trajectory of Marc Chagall,
223
546000
2000
A tall d'exemple, heus aquí la trajectòria de Marc Chagall,
09:23
an artist born in 1887.
224
548000
2000
un artista nascut en 1887.
09:25
And this looks like the normal trajectory of a famous person.
225
550000
3000
I això sembla la trajectòria normal de una persona famosa.
09:28
He gets more and more and more famous,
226
553000
4000
Es fa més i més famós,
09:32
except if you look in German.
227
557000
2000
excepte si recerques en alemay.
09:34
If you look in German, you see something completely bizarre,
228
559000
2000
Si recerques en alemay, veus quelcom estrany del tot,
09:36
something you pretty much never see,
229
561000
2000
quelcom que garibé no veus mai,
09:38
which is he becomes extremely famous
230
563000
2000
que és que esdevé molt i molt famós
09:40
and then all of a sudden plummets,
231
565000
2000
i llavors, sobtadament, decau
09:42
going through a nadir between 1933 and 1945,
232
567000
3000
tot tocant fons entre 1933 i 1945,
09:45
before rebounding afterward.
233
570000
3000
abans de repuntar de nou.
09:48
And of course, what we're seeing
234
573000
2000
I, és clar, el que veiem
09:50
is the fact Marc Chagall was a Jewish artist
235
575000
3000
és el fet que Marc Chagall era un artista jueu
09:53
in Nazi Germany.
236
578000
2000
a l'Alemanya nazi.
09:55
Now these signals
237
580000
2000
Aquests signes
09:57
are actually so strong
238
582000
2000
són realment tan forts
09:59
that we don't need to know that someone was censored.
239
584000
3000
que no cal que sapiguem que algú fou censurat.
10:02
We can actually figure it out
240
587000
2000
Podem deduir-ho
10:04
using really basic signal processing.
241
589000
2000
fent servir un bàsic procesament de signes.
10:06
Here's a simple way to do it.
242
591000
2000
Aquí teniu una manera simple de fer-ho.
10:08
Well, a reasonable expectation
243
593000
2000
Una expectativa raonable
10:10
is that somebody's fame in a given period of time
244
595000
2000
és que la fama d'algú en un període donat de temps
10:12
should be roughly the average of their fame before
245
597000
2000
hauria de ser, més o menys, el promedi de la seva fama anterior
10:14
and their fame after.
246
599000
2000
i la seva fama posterior.
10:16
So that's sort of what we expect.
247
601000
2000
Doncs això és el que esperem.
10:18
And we compare that to the fame that we observe.
248
603000
3000
I comparem això amb la fama que observem.
10:21
And we just divide one by the other
249
606000
2000
I dividim l'una entre l'altra
10:23
to produce something we call a suppression index.
250
608000
2000
per obtindre quelcom que anomenem índex de supressió.
10:25
If the suppression index is very, very, very small,
251
610000
3000
Si l'índex de supressió és molt i molt petit,
10:28
then you very well might be being suppressed.
252
613000
2000
és més que probable que t'estiguin suprimint.
10:30
If it's very large, maybe you're benefiting from propaganda.
253
615000
3000
I si és molt gran, potser és gràcies a la propaganda.
10:34
JM: Now you can actually look at
254
619000
2000
JM: Aquí podeu veure realment
10:36
the distribution of suppression indexes over whole populations.
255
621000
3000
la distribució dels índex de supresió de poblacions senceres.
10:39
So for instance, here --
256
624000
2000
Així doncs per exemple, aquí --
10:41
this suppression index is for 5,000 people
257
626000
2000
l'índex de supressió és de 5.000 persones
10:43
picked in English books where there's no known suppression --
258
628000
2000
preses en llibres en anglés on no hi ha supressió coneguda --
10:45
it would be like this, basically tightly centered on one.
259
630000
2000
seria d'aquesta manera, en essència centrat estretament al voltant del u.
10:47
What you expect is basically what you observe.
260
632000
2000
El que ens esperaríem és el que observem.
10:49
This is distribution as seen in Germany --
261
634000
2000
Aquesta és la distribució vista en Alemanay --
10:51
very different, it's shifted to the left.
262
636000
2000
molt diferent, està inclinada envers l'esquerra.
10:53
People talked about it twice less as it should have been.
263
638000
3000
La gent en parlava dues vegades del que caldria esperar.
10:56
But much more importantly, the distribution is much wider.
264
641000
2000
Però encara més important, la distribució és molt més àmplia.
10:58
There are many people who end up on the far left on this distribution
265
643000
3000
Hi ha molta gent que acaben en l'extrem esquerrà d'aquesta distribució
11:01
who are talked about 10 times fewer than they should have been.
266
646000
3000
dels quals es parla unes 10 vegades menys del que caldria esperar.
11:04
But then also many people on the far right
267
649000
2000
I, d'una altra banda, molta gent en el extrem contrari
11:06
who seem to benefit from propaganda.
268
651000
2000
qui semblen rebre el benefici de la propaganda.
11:08
This picture is the hallmark of censorship in the book record.
269
653000
3000
Aquesta imatge és l'epítom de la censura en el registre de llibres.
11:11
ELA: So culturomics
270
656000
2000
ELA: cultròmica
11:13
is what we call this method.
271
658000
2000
és com hem anomenat aquest mètode.
11:15
It's kind of like genomics.
272
660000
2000
És com la genòmica.
11:17
Except genomics is a lens on biology
273
662000
2000
Tret que la genòmica és una lent vers la biologia
11:19
through the window of the sequence of bases in the human genome.
274
664000
3000
a través de la finestra de la seqüència de les bases en el genoma humà.
11:22
Culturomics is similar.
275
667000
2000
La cultròmica és similar.
11:24
It's the application of massive-scale data collection analysis
276
669000
3000
És l'aplicació de l'anàlisi de corpus massius de dades
11:27
to the study of human culture.
277
672000
2000
a l'estudi de la cultura humana.
11:29
Here, instead of through the lens of a genome,
278
674000
2000
Aquí, en lloc de fer servir la lent del genoma,
11:31
through the lens of digitized pieces of the historical record.
279
676000
3000
es fa a través de la lent de registres històrics digitalitzats.
11:34
The great thing about culturomics
280
679000
2000
El bo de la cultròmica
11:36
is that everyone can do it.
281
681000
2000
és que tothom pot practicar-la.
11:38
Why can everyone do it?
282
683000
2000
Perquè pot practicar-la tothom?
11:40
Everyone can do it because three guys,
283
685000
2000
Gràcies a tres tipus,
11:42
Jon Orwant, Matt Gray and Will Brockman over at Google,
284
687000
3000
Jon Orwant, Matt Gray i Will Brockman a Google,
11:45
saw the prototype of the Ngram Viewer,
285
690000
2000
van veure el prototipus del Ngram Viewer,
11:47
and they said, "This is so fun.
286
692000
2000
i van dir-se, "Això és molt divertit.
11:49
We have to make this available for people."
287
694000
3000
Hem de posar-ho a l'abast de tothom."
11:52
So in two weeks flat -- the two weeks before our paper came out --
288
697000
2000
Així que en sols dues setmanes -- les dues setmanes prèvies a la publicació de la nostra recerca --
11:54
they coded up a version of the Ngram Viewer for the general public.
289
699000
3000
van codificar una versió del Ngram Viewer per al gran públic.
11:57
And so you too can type in any word or phrase that you're interested in
290
702000
3000
I llavors hom pot teclejar qualsevol mot o frase en què hom estigui interessat
12:00
and see its n-gram immediately --
291
705000
2000
i veure el seu n-gram immediatament --
12:02
also browse examples of all the various books
292
707000
2000
també navegar per exemples de diversos llibres
12:04
in which your n-gram appears.
293
709000
2000
on aquest n-gram apareix.
12:06
JM: Now this was used over a million times on the first day,
294
711000
2000
JM: Va ser utilitzat més d'un milio de vegades el primer dia,
12:08
and this is really the best of all the queries.
295
713000
2000
i això és la millor de les consultes.
12:10
So people want to be their best, put their best foot forward.
296
715000
3000
La gent vol el bo i millor, engrescar-s'hi amb ganes.
12:13
But it turns out in the 18th century, people didn't really care about that at all.
297
718000
3000
Però sembla ser que en el segle XVIII, a la gent li importava un rave tot això.
12:16
They didn't want to be their best, they wanted to be their beft.
298
721000
3000
No volien el bo i millor (best), volien el bo i millor (beft).
12:19
So what happened is, of course, this is just a mistake.
299
724000
3000
El que passava és, és clar, que això és una errada.
12:22
It's not that strove for mediocrity,
300
727000
2000
No és que s'esforcessin per la mediocritat,
12:24
it's just that the S used to be written differently, kind of like an F.
301
729000
3000
és simplement que la S s'escrivia diferent, una mena de F.
12:27
Now of course, Google didn't pick this up at the time,
302
732000
3000
Òbviament Google no ho va veure aleshores,
12:30
so we reported this in the science article that we wrote.
303
735000
3000
així que vam notificar-ho en el següent article científic que vam escriure.
12:33
But it turns out this is just a reminder
304
738000
2000
Resulta que això és sols un recordatori
12:35
that, although this is a lot of fun,
305
740000
2000
que, tot i ser molt divertit,
12:37
when you interpret these graphs, you have to be very careful,
306
742000
2000
quan interpretes aquests gràfics, cal ser molt curós,
12:39
and you have to adopt the base standards in the sciences.
307
744000
3000
i cal que s'adoptin els estàndards bàsics de les ciències.
12:42
ELA: People have been using this for all kinds of fun purposes.
308
747000
3000
ELA: La gent ho ha fet servir per a tot tipus de propòsits.
12:45
(Laughter)
309
750000
7000
(Rialles)
12:52
Actually, we're not going to have to talk,
310
757000
2000
En realitat, no parlarem,
12:54
we're just going to show you all the slides and remain silent.
311
759000
3000
simplement mostrarem les diapositives i estarem callats.
12:57
This person was interested in the history of frustration.
312
762000
3000
Aquesta persona estava interessada en la història de la frustració.
13:00
There's various types of frustration.
313
765000
3000
Hi ha diversos tipus de frustració.
13:03
If you stub your toe, that's a one A "argh."
314
768000
3000
Si et fas mal al dit del peu, això és un "argh" amb una A.
13:06
If the planet Earth is annihilated by the Vogons
315
771000
2000
Si el planeta Terra és anihilat pels Vogons
13:08
to make room for an interstellar bypass,
316
773000
2000
per fer lloc per una circumval·lació interstel·lar
13:10
that's an eight A "aaaaaaaargh."
317
775000
2000
Això és un "aaaaaaaargh" amb vuit As.
13:12
This person studies all the "arghs,"
318
777000
2000
Aquesta persona estudia tots els "arghs,"
13:14
from one through eight A's.
319
779000
2000
des de una A a vuit As.
13:16
And it turns out
320
781000
2000
I resulta que
13:18
that the less-frequent "arghs"
321
783000
2000
els "arghs" menys freqüents
13:20
are, of course, the ones that correspond to things that are more frustrating --
322
785000
3000
són, és clar, els que corresponen a les coses més frustrants --
13:23
except, oddly, in the early 80s.
323
788000
3000
excepte, curiosament, a principis dels anys 80.
13:26
We think that might have something to do with Reagan.
324
791000
2000
Pensem que potser estigui relacionat amb Reagan.
13:28
(Laughter)
325
793000
2000
(Rialles)
13:30
JM: There are many usages of this data,
326
795000
3000
JM: Hi ha molts usos d'aquestes dades.
13:33
but the bottom line is that the historical record is being digitized.
327
798000
3000
però el més important és que els arxius històrics estan sent digitaliltzats.
13:36
Google has started to digitize 15 million books.
328
801000
2000
Google ha començat a digitalitzar 15 milions de llibres.
13:38
That's 12 percent of all the books that have ever been published.
329
803000
2000
Això és el 12 % de tots els llibres que s'han publicat en la història.
13:40
It's a sizable chunk of human culture.
330
805000
3000
És un troç important de la cultura humana.
13:43
There's much more in culture: there's manuscripts, there newspapers,
331
808000
3000
Hi ha molt més en la cultura: hi ha manuscrits, periòdics,
13:46
there's things that are not text, like art and paintings.
332
811000
2000
hi ha coses que no són text, com ara art i quadres.
13:48
These all happen to be on our computers,
333
813000
2000
I resulta que tot ho tenim als nostres ordinadors,
13:50
on computers across the world.
334
815000
2000
als ordinadors de tot el món.
13:52
And when that happens, that will transform the way we have
335
817000
3000
I quan això succeixi, això transformarà la manera que tenim
13:55
to understand our past, our present and human culture.
336
820000
2000
d'entendre el nostre passat, el nostre present i la cultura humana.
13:57
Thank you very much.
337
822000
2000
Moltes gràcies.
13:59
(Applause)
338
824000
3000
(Aplaudiment)
ABOUT THE SPEAKERS
Jean-Baptiste Michel - Data researcherJean-Baptiste Michel looks at how we can use large volumes of data to better understand our world.
Why you should listen
Jean-Baptiste Michel holds joint academic appointments at Harvard (FQEB Fellow) and Google (Visiting Faculty). His research focusses on using large volumes of data as tools that help better understand the world around us -- from the way diseases progress in patients over years, to the way cultures change in human societies over centuries. With his colleague Erez Lieberman Aiden, Jean-Baptiste is a Founding Director of Harvard's Cultural Observatory, where their research team pioneers the use of quantitative methods for the study of human culture, language and history. His research was featured on the covers of Science and Nature, on the front pages of the New York Times and the Boston Globe, in The Economist, Wired and many other venues. The online tool he helped create -- ngrams.googlelabs.com -- was used millions of times to browse cultural trends. Jean-Baptiste is an Engineer from Ecole Polytechnique (Paris), and holds an MS in Applied Mathematics and a PhD in Systems Biology from Harvard.
Jean-Baptiste Michel | Speaker | TED.com
Erez Lieberman Aiden - Researcher
Erez Lieberman Aiden pursues a broad range of research interests, spanning genomics, linguistics, mathematics ...
Why you should listen
Erez Lieberman Aiden is a fellow at the Harvard Society of Fellows and Visiting Faculty at Google. His research spans many disciplines and has won numerous awards, including recognition for one of the top 20 "Biotech Breakthroughs that will Change Medicine", by Popular Mechanics; the Lemelson-MIT prize for the best student inventor at MIT; the American Physical Society's Award for the Best Doctoral Dissertation in Biological Physics; and membership in Technology Review's 2009 TR35, recognizing the top 35 innovators under 35. His last three papers -- two with JB Michel -- have all appeared on the cover of Nature and Science.
Erez Lieberman Aiden | Speaker | TED.com