TEDxBoston 2011
Jean-Baptiste Michel + Erez Lieberman Aiden: What we learned from 5 million books
Jean-Baptiste Michel + Erez Lieberman Aiden: O que aprendemos com cinco milhões de livros.
Filmed:
Readability: 3.9
2,049,453 views
Já brincaram com o Ngram Viewer da Google Labs? É uma ferramenta viciante que permite procurar palavras e ideias numa base de dados de cinco milhões de livros através dos séculos. Erez Lieberman Aiden e Jean-Baptiste Michel mostram-nos como funciona e algumas das coisas surpreendentes que podemos aprender com 500 mil milhões de palavras.
Jean-Baptiste Michel - Data researcher
Jean-Baptiste Michel looks at how we can use large volumes of data to better understand our world. Full bioErez Lieberman Aiden - Researcher
Erez Lieberman Aiden pursues a broad range of research interests, spanning genomics, linguistics, mathematics ... Full bio
Jean-Baptiste Michel looks at how we can use large volumes of data to better understand our world. Full bioErez Lieberman Aiden - Researcher
Erez Lieberman Aiden pursues a broad range of research interests, spanning genomics, linguistics, mathematics ... Full bio
Double-click the English transcript below to play the video.
00:15
Erez Lieberman Aiden: Everyone knows
0
0
2000
Erez Lieberman Aiden: Todos sabemos
00:17
that a picture is worth a thousand words.
1
2000
3000
que uma imagem vale mais que mil palavras
00:22
But we at Harvard
2
7000
2000
Mas nós em Harvard
00:24
were wondering if this was really true.
3
9000
3000
perguntávamo-nos se isto era realmente verdade.
00:27
(Laughter)
4
12000
2000
(Risos)
00:29
So we assembled a team of experts,
5
14000
4000
Então juntámos uma equipa de peritos,
00:33
spanning Harvard, MIT,
6
18000
2000
abrangendo desde Harvard, o MIT,
00:35
The American Heritage Dictionary, The Encyclopedia Britannica
7
20000
3000
The American Heritage Dictionary, The Encyclopedia Britannica
00:38
and even our proud sponsors,
8
23000
2000
e até os nossos orgulhosos patrocinadores,
00:40
the Google.
9
25000
3000
a Google.
00:43
And we cogitated about this
10
28000
2000
E debruçámo-nos sobre esta questão
00:45
for about four years.
11
30000
2000
durante cerca de quatro anos.
00:47
And we came to a startling conclusion.
12
32000
5000
E chegámos a uma conclusão surpreendente.
00:52
Ladies and gentlemen, a picture is not worth a thousand words.
13
37000
3000
Senhoras e senhores, uma imagem não vale mais do que mil palavras.
00:55
In fact, we found some pictures
14
40000
2000
Na realidade, encontrámos algumas imagens
00:57
that are worth 500 billion words.
15
42000
5000
que valem 500 mil milhões de palavras.
01:02
Jean-Baptiste Michel: So how did we get to this conclusion?
16
47000
2000
Jean-Baptiste Michel: Então como chegámos a esta conclusão?
01:04
So Erez and I were thinking about ways
17
49000
2000
Eu e o Erez estavámos a pensar em como
01:06
to get a big picture of human culture
18
51000
2000
obter um panorama geral da cultura humana
01:08
and human history: change over time.
19
53000
3000
e da história humana: mudança através dos tempos.
01:11
So many books actually have been written over the years.
20
56000
2000
Foram escritos tantos livros ao longo dos anos.
01:13
So we were thinking, well the best way to learn from them
21
58000
2000
E pensámos, bem a melhor maneira de aprender com eles
01:15
is to read all of these millions of books.
22
60000
2000
é ler todos estes milhões de livros.
01:17
Now of course, if there's a scale for how awesome that is,
23
62000
3000
Claro que, se houver uma escala de como isso é fantástico,
01:20
that has to rank extremely, extremely high.
24
65000
3000
isso tem de ficar num patamar muito, muito elevado.
01:23
Now the problem is there's an X-axis for that,
25
68000
2000
O problema é que há um eixo dos xx para isso,
01:25
which is the practical axis.
26
70000
2000
que é o eixo prático.
01:27
This is very, very low.
27
72000
2000
Este está num patamar muito, muito baixo.
01:29
(Applause)
28
74000
3000
(Aplausos)
01:32
Now people tend to use an alternative approach,
29
77000
3000
As pessoas têm tendência a usar uma abordagem alternativa,
01:35
which is to take a few sources and read them very carefully.
30
80000
2000
que é pegar em algumas fontes e lê-las cuidadosamente.
01:37
This is extremely practical, but not so awesome.
31
82000
2000
Isto é extremamente prático, mas não muito fantástico.
01:39
What you really want to do
32
84000
3000
O que realmente se pretende
01:42
is to get to the awesome yet practical part of this space.
33
87000
3000
é chegar à parte fantástica mas prática deste espaço.
01:45
So it turns out there was a company across the river called Google
34
90000
3000
Acontece que havia uma empresa do outro lado do rio chamada Google
01:48
who had started a digitization project a few years back
35
93000
2000
que tinha iniciado um projecto de digitalização há alguns anos
01:50
that might just enable this approach.
36
95000
2000
que talvez permitisse esta abordagem.
01:52
They have digitized millions of books.
37
97000
2000
Eles tinham digitalizado milhões de livros.
01:54
So what that means is, one could use computational methods
38
99000
3000
Isso significava que se podia usar métodos computacionais
01:57
to read all of the books in a click of a button.
39
102000
2000
para ler todos os livros com o clique de um botão.
01:59
That's very practical and extremely awesome.
40
104000
3000
Isto é muito prático e extremamente fantástico.
02:03
ELA: Let me tell you a little bit about where books come from.
41
108000
2000
ELA: Deixem-me falar-vos um pouco sobre de onde vêm os livros.
02:05
Since time immemorial, there have been authors.
42
110000
3000
Desde tempos imemoriais que existem autores.
02:08
These authors have been striving to write books.
43
113000
3000
Estes autores têm-se esforçado em escrever livros.
02:11
And this became considerably easier
44
116000
2000
E isto tornou-se consideravelmente mais fácil
02:13
with the development of the printing press some centuries ago.
45
118000
2000
com o desenvolvimento da imprensa há alguns séculos atrás.
02:15
Since then, the authors have won
46
120000
3000
Desde então, os autores conseguiram
02:18
on 129 million distinct occasions,
47
123000
2000
em 129 milhões de ocasiões distintas,
02:20
publishing books.
48
125000
2000
publicar livros.
02:22
Now if those books are not lost to history,
49
127000
2000
Agora se esses livros não se perderam para a história
02:24
then they are somewhere in a library,
50
129000
2000
então estão algures numa biblioteca,
02:26
and many of those books have been getting retrieved from the libraries
51
131000
3000
e muitos desses livros têm sido recuperados das bibliotecas
02:29
and digitized by Google,
52
134000
2000
e digitalizados pela Google,
02:31
which has scanned 15 million books to date.
53
136000
2000
que já digitalizou quinze milhões de livros até agora.
02:33
Now when Google digitizes a book, they put it into a really nice format.
54
138000
3000
Quando a Google digitaliza um livro, põe-no num formato mesmo catita.
02:36
Now we've got the data, plus we have metadata.
55
141000
2000
Agora nós temos os dados e temos ainda metadados.
02:38
We have information about things like where was it published,
56
143000
3000
Temos informação sobre coisas como onde foi publicado,
02:41
who was the author, when was it published.
57
146000
2000
quem foi o autor, quando foi publicado.
02:43
And what we do is go through all of those records
58
148000
3000
E o que fazemos é verificar todos esses registos
02:46
and exclude everything that's not the highest quality data.
59
151000
4000
e excluir tudo aquilo que não é dados da mais alta qualidade.
02:50
What we're left with
60
155000
2000
Aquilo que nos resta
02:52
is a collection of five million books,
61
157000
3000
é uma colecção de cinco milhões de livros,
02:55
500 billion words,
62
160000
3000
500 mil milhões de palavras,
02:58
a string of characters a thousand times longer
63
163000
2000
uma cadeia de caracteres mil vezes mais longa
03:00
than the human genome --
64
165000
3000
que o genoma humano...
03:03
a text which, when written out,
65
168000
2000
um texto que, se fosse escrito por extenso,
03:05
would stretch from here to the Moon and back
66
170000
2000
iria daqui até à Lua e voltava
03:07
10 times over --
67
172000
2000
mais de dez vezes...
03:09
a veritable shard of our cultural genome.
68
174000
4000
um autêntico fragmento do nosso genoma cultural.
03:13
Of course what we did
69
178000
2000
Claro que aquilo que fizemos
03:15
when faced with such outrageous hyperbole ...
70
180000
3000
perante tamanha hipérbole...
03:18
(Laughter)
71
183000
2000
(Risos)
03:20
was what any self-respecting researchers
72
185000
3000
foi aquilo que qualquer pesquisador que se preze
03:23
would have done.
73
188000
3000
teria feito.
03:26
We took a page out of XKCD,
74
191000
2000
Inspirámo-nos no XKDC,
03:28
and we said, "Stand back.
75
193000
2000
e dissemos: «Afastem-se.
03:30
We're going to try science."
76
195000
2000
Vamos tentar fazer ciência.»
03:32
(Laughter)
77
197000
2000
(Risos)
03:34
JM: Now of course, we were thinking,
78
199000
2000
JM: Claro que pensávamos assim,
03:36
well let's just first put the data out there
79
201000
2000
primeiro vamos por os dados lá fora
03:38
for people to do science to it.
80
203000
2000
para que as pessoas façam ciência com eles.
03:40
Now we're thinking, what data can we release?
81
205000
2000
E agora pensávamos, que dados podemos publicar?
03:42
Well of course, you want to take the books
82
207000
2000
Claro que se queria pegar nos livros
03:44
and release the full text of these five million books.
83
209000
2000
e publicar o texto completo destes cinco milhões de livros.
03:46
Now Google, and Jon Orwant in particular,
84
211000
2000
Mas a Google, e o Jon Orwant em particular,
03:48
told us a little equation that we should learn.
85
213000
2000
mostrou-nos uma pequena equação a aprender.
03:50
So you have five million, that is, five million authors
86
215000
3000
Então temos cinco milhões, ou seja, cinco milhões de autores
03:53
and five million plaintiffs is a massive lawsuit.
87
218000
3000
e cinco milhões de queixosos são um processo legal monstruoso.
03:56
So, although that would be really, really awesome,
88
221000
2000
Então, embora isso fosse realmente fantástico
03:58
again, that's extremely, extremely impractical.
89
223000
3000
mais uma vez, é extremamente pouco prático.
04:01
(Laughter)
90
226000
2000
(Risos)
04:03
Now again, we kind of caved in,
91
228000
2000
Mais uma vez, tivemos de ceder mais ou menos,
04:05
and we did the very practical approach, which was a bit less awesome.
92
230000
3000
e seguimos a abordagem muito prática, que é menos fantástica.
04:08
We said, well instead of releasing the full text,
93
233000
2000
Dissemos: bem em vez de publicarmos o texto completo,
04:10
we're going to release statistics about the books.
94
235000
2000
vamos publicar estatísticas sobre os livros.
04:12
So take for instance "A gleam of happiness."
95
237000
2000
Tome-se como exemplo «Um brilho de felicidade».
04:14
It's four words; we call that a four-gram.
96
239000
2000
São quatro palavras; o que chamamos de quatro-grama.
04:16
We're going to tell you how many times a particular four-gram
97
241000
2000
Nós vamos dizer-vos quantas vezes um quatro-grama em particular
04:18
appeared in books in 1801, 1802, 1803,
98
243000
2000
apareceu em livros em 1801, 1802, 1803,
04:20
all the way up to 2008.
99
245000
2000
até 2008.
04:22
That gives us a time series
100
247000
2000
Isso dá-nos uma série temporal
04:24
of how frequently this particular sentence was used over time.
101
249000
2000
de quantas vezes esta frase em particular foi utilizada ao longo dos tempos.
04:26
We do that for all the words and phrases that appear in those books,
102
251000
3000
Fazemos isso para todas as palavras e frases que surgem nestes livros,
04:29
and that gives us a big table of two billion lines
103
254000
3000
e isso dá-nos uma enorme tabela de dois mil milhões de linhas
04:32
that tell us about the way culture has been changing.
104
257000
2000
que nos dizem como a cultura tem vindo a mudar.
04:34
ELA: So those two billion lines,
105
259000
2000
ELA: A estes dois mil milhões de linhas,
04:36
we call them two billion n-grams.
106
261000
2000
chamamos dois mil milhões de n-gramas.
04:38
What do they tell us?
107
263000
2000
O que é que eles nos dizem?
04:40
Well the individual n-grams measure cultural trends.
108
265000
2000
Bem, os n-gramas individuais medem tendências culturais.
04:42
Let me give you an example.
109
267000
2000
Deixem-me dar-vos um exemplo.
04:44
Let's suppose that I am thriving,
110
269000
2000
Vamos supôr que estou a prosperar,
04:46
then tomorrow I want to tell you about how well I did.
111
271000
2000
e que amanhã vos quero contar como me saí bem.
04:48
And so I might say, "Yesterday, I throve."
112
273000
3000
E então posso dizer «Ontem, eu vicejei.»
04:51
Alternatively, I could say, "Yesterday, I thrived."
113
276000
3000
Em alternativa, podia dizer «Ontem, eu prosperei.»
04:54
Well which one should I use?
114
279000
3000
Então qual é que devo utilizar?
04:57
How to know?
115
282000
2000
Como é que se sabe?
04:59
As of about six months ago,
116
284000
2000
Há cerca de seis meses atrás,
05:01
the state of the art in this field
117
286000
2000
o topo de gama neste campo
05:03
is that you would, for instance,
118
288000
2000
seria dirigir-se, por exemplo,
05:05
go up to the following psychologist with fabulous hair,
119
290000
2000
a este psicólogo com um cabelo extraordinário
05:07
and you'd say,
120
292000
2000
e dizer
05:09
"Steve, you're an expert on the irregular verbs.
121
294000
3000
«Steve, és perito nos verbos irregulares.
05:12
What should I do?"
122
297000
2000
O que é que devo fazer?»
05:14
And he'd tell you, "Well most people say thrived,
123
299000
2000
E ele responderia «Bem, muitos dizem prosperei,
05:16
but some people say throve."
124
301000
3000
mas alguns dizem vicejei.»
05:19
And you also knew, more or less,
125
304000
2000
E ficariam a saber, mais ou menos,
05:21
that if you were to go back in time 200 years
126
306000
3000
que se voltassem 200 anos atrás
05:24
and ask the following statesman with equally fabulous hair,
127
309000
3000
e perguntassem a este estadista com um cabelo igualmente extraordinário,
05:27
(Laughter)
128
312000
3000
(Risos)
05:30
"Tom, what should I say?"
129
315000
2000
«Tom, o que é que eu devo dizer?»
05:32
He'd say, "Well, in my day, most people throve,
130
317000
2000
Ele diria «Bem, no meu tempo a maior parte das pessoas vicejava,
05:34
but some thrived."
131
319000
3000
mas alguns prosperavam.»
05:37
So now what I'm just going to show you is raw data.
132
322000
2000
O que agora vos vou mostrar são dados brutos.
05:39
Two rows from this table of two billion entries.
133
324000
4000
Duas linhas desta tabela com dois mil milhões de entradas.
05:43
What you're seeing is year by year frequency
134
328000
2000
O que estão a ver é a frequência por ano
05:45
of "thrived" and "throve" over time.
135
330000
3000
de 'prosperei' e vicejei' ao longo do tempo.
05:49
Now this is just two
136
334000
2000
Estas são apenas duas
05:51
out of two billion rows.
137
336000
3000
de dois mil milhões de linhas.
05:54
So the entire data set
138
339000
2000
O conjunto total dos dados
05:56
is a billion times more awesome than this slide.
139
341000
3000
é mil milhões de vezes mais fantástico do que este slide.
05:59
(Laughter)
140
344000
2000
(Risos)
06:01
(Applause)
141
346000
4000
(Aplausos)
06:05
JM: Now there are many other pictures that are worth 500 billion words.
142
350000
2000
JM: Há realmente muitas imagens que valem mais que 500 mil milhões de palavras.
06:07
For instance, this one.
143
352000
2000
Por exemplo, esta.
06:09
If you just take influenza,
144
354000
2000
Se pegarmos em influenza,
06:11
you will see peaks at the time where you knew
145
356000
2000
verão picos no tempo onde sabiam que
06:13
big flu epidemics were killing people around the globe.
146
358000
3000
grandes epidemias de gripe estavam a matar pessoas por todo o globo.
06:16
ELA: If you were not yet convinced,
147
361000
3000
ELA: Se ainda não estão convencidos,
06:19
sea levels are rising,
148
364000
2000
os níveis do mar estão a subir,
06:21
so is atmospheric CO2 and global temperature.
149
366000
3000
assim como o CO2 na atmosfera e a temperatura da Terra.
06:24
JM: You might also want to have a look at this particular n-gram,
150
369000
3000
JM: Talvez queiram prestar atenção a este n-grama em particular,
06:27
and that's to tell Nietzsche that God is not dead,
151
372000
3000
para dizer a Nietzsche que Deus não está morto,
06:30
although you might agree that he might need a better publicist.
152
375000
3000
embora possam concordar que precisa de um relações públicas melhor.
06:33
(Laughter)
153
378000
2000
(Risos)
06:35
ELA: You can get at some pretty abstract concepts with this sort of thing.
154
380000
3000
ELA: Podem obter conceitos bastante abstractos com este tipo de análise.
06:38
For instance, let me tell you the history
155
383000
2000
Por exemplo, deixem-me contar-vos a história
06:40
of the year 1950.
156
385000
2000
do ano de 1950.
06:42
Pretty much for the vast majority of history,
157
387000
2000
Durante grande parte da história,
06:44
no one gave a damn about 1950.
158
389000
2000
ninguém ligou nenhuma a 1950.
06:46
In 1700, in 1800, in 1900,
159
391000
2000
Em 1700, em 1800, em 1900,
06:48
no one cared.
160
393000
3000
ninguém se preocupou.
06:52
Through the 30s and 40s,
161
397000
2000
Durante as décadas de 30 e 40,
06:54
no one cared.
162
399000
2000
ninguém se preocupou.
06:56
Suddenly, in the mid-40s,
163
401000
2000
De repente, a meio da década de 40,
06:58
there started to be a buzz.
164
403000
2000
começou a haver um burburinho.
07:00
People realized that 1950 was going to happen,
165
405000
2000
As pessoas perceberam que 1950 ia acontecer,
07:02
and it could be big.
166
407000
2000
e podia ser algo em grande.
07:04
(Laughter)
167
409000
3000
(Risos)
07:07
But nothing got people interested in 1950
168
412000
3000
Mas nada fez com que as pessoas se interessassem mais pelo ano de 1950
07:10
like the year 1950.
169
415000
3000
como o ano de 1950.
07:13
(Laughter)
170
418000
3000
(Risos)
07:16
People were walking around obsessed.
171
421000
2000
As pessoas andavam obececadas.
07:18
They couldn't stop talking
172
423000
2000
Não conseguiam parar de falar
07:20
about all the things they did in 1950,
173
425000
3000
sobre tudo o que tinham feito em 1950,
07:23
all the things they were planning to do in 1950,
174
428000
3000
tudo o que planeavam fazer em 1950,
07:26
all the dreams of what they wanted to accomplish in 1950.
175
431000
5000
todos os sonhos que queriam alcançar em 1950.
07:31
In fact, 1950 was so fascinating
176
436000
2000
Na verdade, 1950 era tão fascinante
07:33
that for years thereafter,
177
438000
2000
que durante anos depois,
07:35
people just kept talking about all the amazing things that happened,
178
440000
3000
as pessoas continuaram a falar sobre as coisas maravilhosas que tinha acontecido,
07:38
in '51, '52, '53.
179
443000
2000
em 51, 52, 53.
07:40
Finally in 1954,
180
445000
2000
Finalmente em 1954,
07:42
someone woke up and realized
181
447000
2000
houve alguém que acordou e percebeu
07:44
that 1950 had gotten somewhat passé.
182
449000
4000
que 1950 se tinha tornado em algo fora de moda.
07:48
(Laughter)
183
453000
2000
(Risos)
07:50
And just like that, the bubble burst.
184
455000
2000
E assim de repente, rebentou a bolha.
07:52
(Laughter)
185
457000
2000
(Risos)
07:54
And the story of 1950
186
459000
2000
E a história de 1950
07:56
is the story of every year that we have on record,
187
461000
2000
é a história de cada ano que temos registado,
07:58
with a little twist, because now we've got these nice charts.
188
463000
3000
com uma ligeira diferença, porque agora temos estes gráficos catitas.
08:01
And because we have these nice charts, we can measure things.
189
466000
3000
E como temos estes gráficos catitas, podemos comparar coisas.
08:04
We can say, "Well how fast does the bubble burst?"
190
469000
2000
Podemos dizer: «Quão depressa rebenta a bolha?»
08:06
And it turns out that we can measure that very precisely.
191
471000
3000
E acontece que conseguimos medir isso com muita precisão.
08:09
Equations were derived, graphs were produced,
192
474000
3000
Foram obtidas equações, foram produzidos gráficos,
08:12
and the net result
193
477000
2000
e o resultado final
08:14
is that we find that the bubble bursts faster and faster
194
479000
3000
é que descobrimos
08:17
with each passing year.
195
482000
2000
a cada ano que passa.
08:19
We are losing interest in the past more rapidly.
196
484000
5000
Estamos a perder interesse no passado cada vez mais rapidamente.
08:24
JM: Now a little piece of career advice.
197
489000
2000
JM: E agora um pouco de orientação profissional.
08:26
So for those of you who seek to be famous,
198
491000
2000
Para aqueles de vós que querem ser famosos,
08:28
we can learn from the 25 most famous political figures,
199
493000
2000
podemos aprender com os 25 políticos mais famosos,
08:30
authors, actors and so on.
200
495000
2000
autores, actores e assim por diante.
08:32
So if you want to become famous early on, you should be an actor,
201
497000
3000
Então se quiserem ser famosos cedo, devem tornar-se actores,
08:35
because then fame starts rising by the end of your 20s --
202
500000
2000
porque a fama começa a aumentar no final dos vossos vinte anos...
08:37
you're still young, it's really great.
203
502000
2000
ainda são jovens, isso é óptimo.
08:39
Now if you can wait a little bit, you should be an author,
204
504000
2000
Se puderem esperar um bocadinho, devem ser autores,
08:41
because then you rise to very great heights,
205
506000
2000
porque então podem chegar longe,
08:43
like Mark Twain, for instance: extremely famous.
206
508000
2000
como Mark Twain, por exemplo: extremamente famoso.
08:45
But if you want to reach the very top,
207
510000
2000
mas se quiserem alcançar mesmo o topo,
08:47
you should delay gratification
208
512000
2000
não devem esperar resultados imediatos
08:49
and, of course, become a politician.
209
514000
2000
e devem tornarem-se políticos, pois claro.
08:51
So here you will become famous by the end of your 50s,
210
516000
2000
Aqui começarão a ser famosos no final dos vossos cinquenta,
08:53
and become very, very famous afterward.
211
518000
2000
e tornar-se-ão muito, muito famosos depois disso.
08:55
So scientists also tend to get famous when they're much older.
212
520000
3000
Os cientistas também têm tendência a tornar-se famosos quando são mais muito mais velhos.
08:58
Like for instance, biologists and physics
213
523000
2000
Por exemplo, biológos e físicos
09:00
tend to be almost as famous as actors.
214
525000
2000
podem ser tão famosos como actores.
09:02
One mistake you should not do is become a mathematician.
215
527000
3000
Um erro que não devem cometer é tornarem-se matemáticos.
09:05
(Laughter)
216
530000
2000
(Risos)
09:07
If you do that,
217
532000
2000
Se o fizerem,
09:09
you might think, "Oh great. I'm going to do my best work when I'm in my 20s."
218
534000
3000
podem pensar «Óptimo. Vou fazer o meu melhor trabalho quando tiver 20 anos.»
09:12
But guess what, nobody will really care.
219
537000
2000
Mas, adivinhem, ninguém vai querer saber.
09:14
(Laughter)
220
539000
3000
(Risos)
09:17
ELA: There are more sobering notes
221
542000
2000
Há notas mais sóbrias
09:19
among the n-grams.
222
544000
2000
por entre os n-gramas.
09:21
For instance, here's the trajectory of Marc Chagall,
223
546000
2000
Por exemplo, aqui está a trajectória de Marc Chagall,
09:23
an artist born in 1887.
224
548000
2000
um artista nascido em 1887.
09:25
And this looks like the normal trajectory of a famous person.
225
550000
3000
E que se parece com a trajectória normal de uma pessoa famosa.
09:28
He gets more and more and more famous,
226
553000
4000
Ele torna-se cada vez mais famoso,
09:32
except if you look in German.
227
557000
2000
excepto se virem em alemão.
09:34
If you look in German, you see something completely bizarre,
228
559000
2000
Se virem em alemão, vêem algo completamente bizarro,
09:36
something you pretty much never see,
229
561000
2000
algo que quase nunca se observa,
09:38
which is he becomes extremely famous
230
563000
2000
que é ele tornar-se extremamente famoso
09:40
and then all of a sudden plummets,
231
565000
2000
e então de repente cai vertiginosamente,
09:42
going through a nadir between 1933 and 1945,
232
567000
3000
atravessando o ponto mais baixo entre 1933 e 1945,
09:45
before rebounding afterward.
233
570000
3000
antes de recuperar nos anos seguintes.
09:48
And of course, what we're seeing
234
573000
2000
E claro o que observamos
09:50
is the fact Marc Chagall was a Jewish artist
235
575000
3000
é o facto de Marc Chagall ser um artista judeu
09:53
in Nazi Germany.
236
578000
2000
na Alemanha nazi.
09:55
Now these signals
237
580000
2000
Estes sinais
09:57
are actually so strong
238
582000
2000
na realidade são tão fortes
09:59
that we don't need to know that someone was censored.
239
584000
3000
que não precisamos de saber que alguém foi censurado.
10:02
We can actually figure it out
240
587000
2000
Podemos chegar a essa conclusão
10:04
using really basic signal processing.
241
589000
2000
através do processamento bastante básico de sinais.
10:06
Here's a simple way to do it.
242
591000
2000
Aqui está uma forma simples de o fazer.
10:08
Well, a reasonable expectation
243
593000
2000
Uma expectativa razoável
10:10
is that somebody's fame in a given period of time
244
595000
2000
é a de que a fama de alguém num dado período de tempo
10:12
should be roughly the average of their fame before
245
597000
2000
deverá ser sensivelmete a média da sua fama antes
10:14
and their fame after.
246
599000
2000
e da sua fama depois desse período.
10:16
So that's sort of what we expect.
247
601000
2000
Isso é mais ou menos aquilo que se espera.
10:18
And we compare that to the fame that we observe.
248
603000
3000
E comparamos isso com a fama que observamos.
10:21
And we just divide one by the other
249
606000
2000
E depois é só dividir uma pela outra
10:23
to produce something we call a suppression index.
250
608000
2000
para obter algo a que chamamos de índice de supressão.
10:25
If the suppression index is very, very, very small,
251
610000
3000
Se o índice de supressão for muito, muito, muito baixo,
10:28
then you very well might be being suppressed.
252
613000
2000
então quase de certeza estão a ser reprimidos.
10:30
If it's very large, maybe you're benefiting from propaganda.
253
615000
3000
Se for muito alto, então talvez estejam a beneficiar com a propaganda.
10:34
JM: Now you can actually look at
254
619000
2000
JM: Pode mesmo ver-se
10:36
the distribution of suppression indexes over whole populations.
255
621000
3000
a distribuição de índices de supressão em populações inteiras.
10:39
So for instance, here --
256
624000
2000
Por exemplo, aqui...
10:41
this suppression index is for 5,000 people
257
626000
2000
este índice de supressão é de cinco mil pessoas
10:43
picked in English books where there's no known suppression --
258
628000
2000
escolhidas em livros em inglês onde não há supressão explícita...
10:45
it would be like this, basically tightly centered on one.
259
630000
2000
seria como este, centrado basicamente numa pessoa.
10:47
What you expect is basically what you observe.
260
632000
2000
O que se espera é basicamente aquilo que se observa.
10:49
This is distribution as seen in Germany --
261
634000
2000
Esta é a distribuição conforme observada na Alemanha...
10:51
very different, it's shifted to the left.
262
636000
2000
muito diferente, desvia-se para a esquerda.
10:53
People talked about it twice less as it should have been.
263
638000
3000
As pessoas falaram sobre isto duas vezes menos do que se esperaria.
10:56
But much more importantly, the distribution is much wider.
264
641000
2000
Mas muito mais importante, a distribuição é muito mais alargada.
10:58
There are many people who end up on the far left on this distribution
265
643000
3000
Há muitas pessoas que acabaram na extrema esquerda nesta distribuição
11:01
who are talked about 10 times fewer than they should have been.
266
646000
3000
de quem se falou menos dez vezes do que seria de esperar.
11:04
But then also many people on the far right
267
649000
2000
Mas também muitas pessoas na extrema direita
11:06
who seem to benefit from propaganda.
268
651000
2000
parecem beneficiar com a propaganda.
11:08
This picture is the hallmark of censorship in the book record.
269
653000
3000
Esta imagem é a marca distintiva da censura no registo dos livros.
11:11
ELA: So culturomics
270
656000
2000
Culturómica
11:13
is what we call this method.
271
658000
2000
é o que chamamos a este método.
11:15
It's kind of like genomics.
272
660000
2000
É como genómica.
11:17
Except genomics is a lens on biology
273
662000
2000
Excepto que a genómica é uma lente sobre a biologia
11:19
through the window of the sequence of bases in the human genome.
274
664000
3000
através da janela da sequência de bases no genoma humano.
11:22
Culturomics is similar.
275
667000
2000
A culturómica é parecida.
11:24
It's the application of massive-scale data collection analysis
276
669000
3000
É a aplicação da análise da recolha de dados em larga escala
11:27
to the study of human culture.
277
672000
2000
ao estudo da cultura humana.
11:29
Here, instead of through the lens of a genome,
278
674000
2000
Aqui, em vez de ser através da lente de um genoma,
11:31
through the lens of digitized pieces of the historical record.
279
676000
3000
através da lente de peças digitalizadas do registo histórico.
11:34
The great thing about culturomics
280
679000
2000
O que é genial sobre a culturómica
11:36
is that everyone can do it.
281
681000
2000
é que todos a podem fazer.
11:38
Why can everyone do it?
282
683000
2000
Porque é que todos a podem fazer?
11:40
Everyone can do it because three guys,
283
685000
2000
Todos a podem fazer porque três indivíduos,
11:42
Jon Orwant, Matt Gray and Will Brockman over at Google,
284
687000
3000
Jon Orwant, Matt Gray e Will Brockman na Google,
11:45
saw the prototype of the Ngram Viewer,
285
690000
2000
viram o protótipo do NGram Viewer,
11:47
and they said, "This is so fun.
286
692000
2000
e disseram: «Isto é tão divertido.
11:49
We have to make this available for people."
287
694000
3000
Temos de tornar isto acessível às pessoas.»
11:52
So in two weeks flat -- the two weeks before our paper came out --
288
697000
2000
E então em apenas duas semanas - as duas semanas anteriores à publicação do nosso artigo -
11:54
they coded up a version of the Ngram Viewer for the general public.
289
699000
3000
fizeram o código para uma versão do NGram Viewer para o público em geral.
11:57
And so you too can type in any word or phrase that you're interested in
290
702000
3000
E agora vocês podem escrever qualquer palavra ou frase em que estejam interessados
12:00
and see its n-gram immediately --
291
705000
2000
e ver imediatamente o seu n-grama...
12:02
also browse examples of all the various books
292
707000
2000
assim como ver exemplos de todos os diferentes livros
12:04
in which your n-gram appears.
293
709000
2000
onde surge o vosso n-grama.
12:06
JM: Now this was used over a million times on the first day,
294
711000
2000
Isto foi utilizado mais de um milhão de vezes no primeiro dia,
12:08
and this is really the best of all the queries.
295
713000
2000
o que é a melhor de todas as pesquisas, na verdade.
12:10
So people want to be their best, put their best foot forward.
296
715000
3000
As pessoas querem ser o seu melhor, causar a melhor impressão que conseguirem.
12:13
But it turns out in the 18th century, people didn't really care about that at all.
297
718000
3000
Mas acontece que no século XVIII, as pessoas não se preocupavam com isso.
12:16
They didn't want to be their best, they wanted to be their beft.
298
721000
3000
Elas não queriam ser o seu melhor, queriam ser o seu milhor.
12:19
So what happened is, of course, this is just a mistake.
299
724000
3000
O que aconteceu foi, claro está, apenas um erro.
12:22
It's not that strove for mediocrity,
300
727000
2000
Não que é que se esforçassem pela mediocridade,
12:24
it's just that the S used to be written differently, kind of like an F.
301
729000
3000
é só porque o E era escrito de forma diferente, como um I.
12:27
Now of course, Google didn't pick this up at the time,
302
732000
3000
Claro que a Google não se apercebeu disto na altura,
12:30
so we reported this in the science article that we wrote.
303
735000
3000
e então nós referimos isto no artigo científico que escrevemos.
12:33
But it turns out this is just a reminder
304
738000
2000
Mas acontece que isto é apenas um lembrete
12:35
that, although this is a lot of fun,
305
740000
2000
de que, embora seja tudo muito divertido,
12:37
when you interpret these graphs, you have to be very careful,
306
742000
2000
quando se interpretam estes gráficos, temos de ser cuidadosos
12:39
and you have to adopt the base standards in the sciences.
307
744000
3000
e há que adoptar os procedimentos científicos de base.
12:42
ELA: People have been using this for all kinds of fun purposes.
308
747000
3000
ELA: As pessoas têm utilizado isto para toda a espécie de diversão.
12:45
(Laughter)
309
750000
7000
(Risos)
12:52
Actually, we're not going to have to talk,
310
757000
2000
Na verdade, nem precisamos de vos dizer,
12:54
we're just going to show you all the slides and remain silent.
311
759000
3000
vamos apenas mostrar-vos todos os slides e ficar calados.
12:57
This person was interested in the history of frustration.
312
762000
3000
Esta pessoa estava interessada na história da frustração.
13:00
There's various types of frustration.
313
765000
3000
Há vários tipos de frustração.
13:03
If you stub your toe, that's a one A "argh."
314
768000
3000
Se baterem com um dedo do pé, isso é um «argh» com um A.
13:06
If the planet Earth is annihilated by the Vogons
315
771000
2000
Se o planeta Terra for aniquilado pelos Vogons
13:08
to make room for an interstellar bypass,
316
773000
2000
para criar um desvio interestelar,
13:10
that's an eight A "aaaaaaaargh."
317
775000
2000
isso é um «aaaaaaaargh» com oito As.
13:12
This person studies all the "arghs,"
318
777000
2000
Esta pessoa estuda todos os «arghs»,
13:14
from one through eight A's.
319
779000
2000
entre um a oito As.
13:16
And it turns out
320
781000
2000
e acontece
13:18
that the less-frequent "arghs"
321
783000
2000
que os «arghs» menos frequentes
13:20
are, of course, the ones that correspond to things that are more frustrating --
322
785000
3000
são, claro, aqueles que correspondem a coisas mais frustrantes...
13:23
except, oddly, in the early 80s.
323
788000
3000
excepto, por incrível que pareça, nos princípios dos anos oitenta.
13:26
We think that might have something to do with Reagan.
324
791000
2000
Pensamos que talvez tenha algo a ver com Reagan.
13:28
(Laughter)
325
793000
2000
(Risos)
13:30
JM: There are many usages of this data,
326
795000
3000
JM: Há muitas utilizações para estes dados,
13:33
but the bottom line is that the historical record is being digitized.
327
798000
3000
mas o mais importante é que o registo histórico está a ser digitalizado.
13:36
Google has started to digitize 15 million books.
328
801000
2000
A Google começou a digitalizar 15 milhões de livros.
13:38
That's 12 percent of all the books that have ever been published.
329
803000
2000
São 12 por cento de todos os livros alguma vez publicados.
13:40
It's a sizable chunk of human culture.
330
805000
3000
É um pedaço considerável da cultura humana.
13:43
There's much more in culture: there's manuscripts, there newspapers,
331
808000
3000
Há muito mais na cultura: há manuscritos, há jornais,
13:46
there's things that are not text, like art and paintings.
332
811000
2000
há coisas que não são textos, como arte e quadros.
13:48
These all happen to be on our computers,
333
813000
2000
Tudo isto está nos nossos computadores,
13:50
on computers across the world.
334
815000
2000
nos computadores de todo o mundo.
13:52
And when that happens, that will transform the way we have
335
817000
3000
E quando isso acontece, irá transformar a forma como
13:55
to understand our past, our present and human culture.
336
820000
2000
percebemos o nosso passado, o nosso presente e a nossa cultura humana.
13:57
Thank you very much.
337
822000
2000
Muito obrigado.
13:59
(Applause)
338
824000
3000
(Aplausos)
ABOUT THE SPEAKERS
Jean-Baptiste Michel - Data researcherJean-Baptiste Michel looks at how we can use large volumes of data to better understand our world.
Why you should listen
Jean-Baptiste Michel holds joint academic appointments at Harvard (FQEB Fellow) and Google (Visiting Faculty). His research focusses on using large volumes of data as tools that help better understand the world around us -- from the way diseases progress in patients over years, to the way cultures change in human societies over centuries. With his colleague Erez Lieberman Aiden, Jean-Baptiste is a Founding Director of Harvard's Cultural Observatory, where their research team pioneers the use of quantitative methods for the study of human culture, language and history. His research was featured on the covers of Science and Nature, on the front pages of the New York Times and the Boston Globe, in The Economist, Wired and many other venues. The online tool he helped create -- ngrams.googlelabs.com -- was used millions of times to browse cultural trends. Jean-Baptiste is an Engineer from Ecole Polytechnique (Paris), and holds an MS in Applied Mathematics and a PhD in Systems Biology from Harvard.
Jean-Baptiste Michel | Speaker | TED.com
Erez Lieberman Aiden - Researcher
Erez Lieberman Aiden pursues a broad range of research interests, spanning genomics, linguistics, mathematics ...
Why you should listen
Erez Lieberman Aiden is a fellow at the Harvard Society of Fellows and Visiting Faculty at Google. His research spans many disciplines and has won numerous awards, including recognition for one of the top 20 "Biotech Breakthroughs that will Change Medicine", by Popular Mechanics; the Lemelson-MIT prize for the best student inventor at MIT; the American Physical Society's Award for the Best Doctoral Dissertation in Biological Physics; and membership in Technology Review's 2009 TR35, recognizing the top 35 innovators under 35. His last three papers -- two with JB Michel -- have all appeared on the cover of Nature and Science.
Erez Lieberman Aiden | Speaker | TED.com