TED2012
Jared Ficklin: New ways to see music (with color! and fire!)
Jared Ficklin : de nouvelles façons de voir la musique (en couleur ! et en flammes !)
Filmed:
Readability: 4
711,217 views
Le designer Jared Ficklin crée des visualisations inouies qui nous permettent de voir la musique, en se servant de couleurs et même de feu (une première sur la scène de TED) pour analyser comment nous ressentons le son. Il fait une courte digression pour analyser le son d'un skate park, et comment l'acoustique peut nous mettre sur la voie pour développer la créativité.
Jared Ficklin - Visualizer
In his day job, Jared Ficklin makes user interfaces at frog design. As a hobby, he explores what music looks like ... in light, in shapes, in fire. Full bio
In his day job, Jared Ficklin makes user interfaces at frog design. As a hobby, he explores what music looks like ... in light, in shapes, in fire. Full bio
Double-click the English transcript below to play the video.
00:16
My passions
0
449
1033
Mes passions
00:17
are music, technology and making things.
1
1482
3689
sont la musique, la technologie et fabriquer des choses.
00:21
And it's the combination of these things
2
5171
3183
Et c'est la combinaison de ces choses
00:24
that has led me to the hobby of sound visualization,
3
8354
2696
qui m'a amené à faire de la visualisation sonore mon passe temps.
00:26
and, on occasion, has led me to play with fire.
4
11050
4078
et, à l'occasion, m'a amené à jouer avec le feu.
00:31
This is a Rubens' tube. It's one of many I've made over the years,
5
15128
2377
Il s'agit de tube de Rubens. C'est un des nombreux que j'ai fait au fil des ans,
00:33
and I have one here tonight.
6
17505
1746
et j'en ai un ici ce soir.
00:35
It's about an 8-foot-long tube of metal,
7
19251
1525
Il s'agit d'un tube en métal de 2,40 m de long,
00:36
it's got a hundred or so holes on top,
8
20776
1335
il a environ une centaine de trous sur le dessus,
00:38
on that side is the speaker, and here
9
22111
1753
le haut-parleur est de ce côté, et ici
00:39
is some lab tubing, and it's connected to this tank
10
23864
2176
il y a un tuyau de laboratoire, et il est relié à ce réservoir
00:41
of propane.
11
26040
1601
de propane.
00:44
So, let's fire it up and see what it does.
12
29087
3369
Alors, allumons le feu et voyons ce qu'il fait.
00:53
So let's play a 550-herz frequency
13
37887
1891
Jouons à une fréquence de 550 herz
00:55
and watch what happens.
14
39778
1515
et regardons ce qui se passe.
00:57
(Frequency)
15
41342
8483
(Fréquence)
01:05
Thank you. (Applause)
16
49825
2713
Merci. (Applaudissements)
01:08
It's okay to applaud the laws of physics,
17
52538
1988
on peut applaudir les lois de la physique,
01:10
but essentially what's happening here
18
54526
1456
mais en gros ce qui se passe ici
01:11
-- (Laughter) --
19
55982
1760
--(Rires)--
01:13
is the energy from the sound via the air and gas molecules
20
57742
4008
est que l'énergie du son via les molécules d'air et de gaz
01:17
is influencing the combustion properties of propane,
21
61750
2504
influence les propriétés de combustion du propane,
01:20
creating a visible waveform,
22
64254
1904
et crée une forme d'onde visible,
01:22
and we can see the alternating regions of compression
23
66158
2320
et nous pouvons voir les régions de compression
01:24
and rarefaction that we call frequency,
24
68478
2040
et de raréfaction alternées que nous appelons fréquence,
01:26
and the height is showing us amplitude.
25
70518
1744
et la hauteur nous montrer l'amplitude.
01:28
So let's change the frequency of the sound,
26
72262
2328
Modifions donc la fréquence du son,
01:30
and watch what happens to the fire.
27
74590
1425
et regardons ce qui arrive au feu.
01:31
(Higher frequency)
28
76015
10130
(Fréquence plus élevée)
01:42
So every time we hit a resonant frequency we get a standing wave
29
86145
3350
Donc chaque fois à qu'on atteint une fréquence de résonnance nous obtenons une onde stationnaire
01:45
and that emergent sine curve of fire.
30
89495
1700
et cette courbe sinusoïdale émergente du feu.
01:47
So let's turn that off. We're indoors.
31
91195
1578
Alors éteignons-le. Nous sommes à l'intérieur.
01:48
Thank you. (Applause)
32
92773
5591
Merci. (Applaudissements)
01:54
I also have with me a flame table.
33
98364
2347
J'ai aussi un tableau de flammes avec moi.
01:56
It's very similar to a Rubens' tube, and it's also used
34
100711
1565
Il est très similaire au tube de Rubens, et on s'en sert aussi
01:58
for visualizing the physical properties of sound,
35
102276
2121
pour visualiser les propriétés physiques du son,
02:00
such as eigenmodes, so let's fire it up
36
104397
1968
comme les modes propres, alors allumons le feu
02:02
and see what it does.
37
106365
2250
et voyons ce qu'il fait.
02:08
Ooh. (Laughter)
38
112292
4468
Ooh. (Rires)
02:12
Okay. Now, while the table comes up to pressure,
39
116760
2974
D'accord. Maintenant, pendant que la table monte en pression,
02:15
let me note here that the sound is not traveling
40
119734
1672
permettez-moi de signaler ici que le son ne voyage pas
02:17
in perfect lines. It's actually traveling in all directions,
41
121406
2746
en lignes parfaites. Il voyage en fait dans toutes les directions,
02:20
and the Rubens' tube's a little like bisecting those waves
42
124152
3109
et le tube de Rubens, c'est un peu comme si on coupe en deux ces ondes
02:23
with a line, and the flame table's a little like
43
127261
1996
avec une ligne, et le tableau à flamme c'est un peu comme
02:25
bisecting those waves with a plane,
44
129257
1854
si on coupe en deux les ondes avec un plan,
02:27
and it can show a little more subtle complexity, which is why
45
131111
4000
et ça peut montrer un peu plus complexité subtile, et c'est pourquoi
02:31
I like to use it to watch Geoff Farina play guitar.
46
135111
2353
j'aime m'en servir pour regarder Geoff Farina jouer de la guitare.
02:33
(Music)
47
137464
42281
(Musique)
03:15
All right, so it's a delicate dance.
48
179745
1765
Bon, donc c'est une danse délicate.
03:17
If you watch closely — (Applause)
49
181510
2545
Si vous regardez attentivement, (Applaudissements)
03:19
If you watch closely, you may have seen
50
184055
2767
Si vous regardez attentivement, vous avez peut-être vu
03:22
some of the eigenmodes, but also you may have seen
51
186822
2472
certains des modes propres, mais vous avez peut-être vu aussi
03:25
that jazz music is better with fire.
52
189294
4617
que la musique jazz est meilleure avec le feu.
03:29
Actually, a lot of things are better with fire in my world,
53
193911
2010
En fait, beaucoup de choses sont mieux avec le feu dans mon monde,
03:31
but the fire's just a foundation.
54
195921
2432
mais le feu n'est qu'une base.
03:34
It shows very well that eyes can hear,
55
198353
1148
Il montre très bien que les yeux peuvent entendre,
03:35
and this is interesting to me because
56
199501
1395
et c'est intéressant pour moi parce que
03:36
technology allows us to present sound to the eyes
57
200896
2854
la technologie nous permet de présenter du son aux yeux
03:39
in ways that accentuate the strength of the eyes
58
203750
2863
dans des manières qui accentuent le point fort qu'ont les yeux
03:42
for seeing sound, such as the removal of time.
59
206613
2697
pour voir le son, telles que la suppression du temps.
03:45
So here, I'm using a rendering algorithm to paint
60
209310
3384
Donc ici, j'utilise un algorithme de rendu pour peindre
03:48
the frequencies of the song "Smells Like Teen Spirit"
61
212694
2463
les fréquences de la chanson « Smells Like Teen Spirit »
03:51
in a way that the eyes can take them in
62
215157
2040
de façon à ce que les yeux puissent les percevoir
03:53
as a single visual impression, and the technique
63
217197
2244
comme une impression visuelle unique et la technique
03:55
will also show the strengths of the visual cortex
64
219441
1973
montrera également les points forts du cortex visuel
03:57
for pattern recognition.
65
221414
1616
pour la reconnaissance des formes.
03:58
So if I show you another song off this album,
66
223030
1879
Donc, si je vous montre une autre chanson de cet album,
04:00
and another, your eyes will easily pick out
67
224909
3481
et encore une autre, vos yeux trouveront facilement
04:04
the use of repetition by the band Nirvana,
68
228390
2928
l'utilisation de la répétition du groupe Nirvana,
04:07
and in the frequency distribution, the colors,
69
231318
1857
et dans la distribution de fréquence, les couleurs,
04:09
you can see the clean-dirty-clean sound
70
233175
3048
vous pouvez voir le son propre-sale-propre
04:12
that they are famous for,
71
236223
1207
qui les a rendus célèbres,
04:13
and here is the entire album as a single visual impression,
72
237430
4000
et voici l'album entier sous forme dune impression visuelle unique,
04:17
and I think this impression is pretty powerful.
73
241430
1880
et je crois que cette impression est assez puissante.
04:19
At least, it's powerful enough that
74
243310
1714
Tout du moins, elle est assez puissante
04:20
if I show you these four songs,
75
245024
1342
pour que si je vous montre ces quatre chansons,
04:22
and I remind you that this is "Smells Like Teen Spirit,"
76
246366
2441
et je vous rappelle que c'est « Smells Like Teen Spirit »
04:24
you can probably correctly guess, without listening
77
248807
2319
vous puissiez probablement deviner correctement, sans écouter
04:27
to any music at all, that the song
78
251126
1434
aucune musique, que la chanson
04:28
a die hard Nirvana fan would enjoy is this song,
79
252560
2294
qu'un vrai fan de Nirvana apprécierait cette chanson,
04:30
"I'll Stick Around" by the Foo Fighters,
80
254854
2256
« I'll Stick Around » par les Foo Fighters,
04:33
whose lead singer is Dave Grohl,
81
257110
2000
dont le chanteur est Dave Grohl,
04:35
who was the drummer in Nirvana.
82
259110
3778
qui était le batteur de Nirvana.
04:38
The songs are a little similar, but mostly
83
262888
1300
Les chansons sont un peu similaires, mais surtout
04:40
I'm just interested in the idea that someday maybe
84
264188
1626
je suis seulement intéressé par l'idée qu'un jour peut-être
04:41
we'll buy a song because we like the way it looks.
85
265814
4412
nous achèterons une chanson parce que nous aimons son aspect visuel.
04:46
All right, now for some more sound data.
86
270226
1100
Bon, maintenant pour encore plus de données sur le son.
04:47
This is data from a skate park,
87
271326
2652
Il s'agit de données provenant d'un skate park,
04:49
and this is Mabel Davis skate park
88
273978
2032
et c'est le skate park Mabel Davis
04:51
in Austin, Texas. (Skateboard sounds)
89
276010
2142
à Austin, au Texas. (Sons de planche à roulettes)
04:54
And the sounds you're hearing came from eight
90
278152
1374
Les sons que vous avez entendu provenaient de huit
04:55
microphones attached to obstacles around the park,
91
279526
2216
microphones fixés aux obstacles du parc,
04:57
and it sounds like chaos, but actually
92
281742
2184
et ça ressemble au chaos, mais en réalité
04:59
all the tricks start with a very distinct slap,
93
283926
3347
toutes les figures commencent avec un clac très distinct,
05:03
but successful tricks end with a pop,
94
287273
1604
mais les figures réussies finissent par un pop,
05:04
whereas unsuccessful tricks
95
288877
1793
alors que les figures ratées
05:06
more of a scratch and a tumble,
96
290670
1856
finissent plutôt par un son de frottement et une chute,
05:08
and tricks on the rail will ring out like a gong, and
97
292526
4010
et les figures sur le rail sonneront comme un gong, et
05:12
voices occupy very unique frequencies in the skate park.
98
296536
2790
les voix occupent des fréquences très uniques dans le skate parc.
05:15
So if we were to render these sounds visually,
99
299326
1938
Donc, si nous devions rendre ces sons visuellement,
05:17
we might end up with something like this.
100
301264
1407
nous pourrions nous retrouver avec quelque chose comme ça.
05:18
This is all 40 minutes of the recording,
101
302671
2456
Il s'agit des 40 minutes d'enregistrement,
05:21
and right away the algorithm tells us
102
305127
2160
et tout de suite l'algorithme nous dit
05:23
a lot more tricks are missed than are made,
103
307287
2073
que beaucoup plus de figures sont ratées que réussies,
05:25
and also a trick on the rails is a lot more likely
104
309360
2335
et aussi qu' une figure sur les rails est beaucoup plus susceptible
05:27
to produce a cheer, and if you look really closely,
105
311695
2872
de produire une acclamation, et si vous regardez très attentivement,
05:30
we can tease out traffic patterns.
106
314567
1733
nous pouvons démêler les schémas de circulation.
05:32
You see the skaters often trick in this direction. The obstacles are easier.
107
316300
6087
Vous voyez les skateurs font souvent des figures dans cette direction. Les obstacles sont plus faciles.
05:38
And in the middle of the recording, the mics pick this up,
108
322387
1705
Et au milieu de l'enregistrement, les micros l'enregsitrent,
05:39
but later in the recording, this kid shows up,
109
324092
2804
mais plus tard dans l'enregistrement, ce gamin se ramène
05:42
and he starts using a line at the top of the park
110
326896
2928
et il commence à utiliser une ligne en haut du parc
05:45
to do some very advanced tricks on something
111
329824
1802
pour faire quelques figures très avancées sur une chose
05:47
called the tall rail.
112
331626
1103
appelée le grand rail.
05:48
And it's fascinating. At this moment in time,
113
332729
1872
Et c'est fascinant. A ce moment-là,
05:50
all the rest of the skaters turn their lines 90 degrees
114
334601
3503
tous les autres skateurs tournent leurs lignes de 90 degrés
05:54
to stay out of his way.
115
338104
1778
pour rester hors de son chemin.
05:55
You see, there's a subtle etiquette in the skate park,
116
339882
2543
Vous voyez, il y a une étiquette subtile dans le skate park,
05:58
and it's led by key influencers,
117
342425
1600
et elle est dirigée par les plus infuents,
05:59
and they tend to be the kids who can do the best tricks,
118
344025
3248
et ils ont tendance à être les enfants qui peuvent faire les meilleures figures,
06:03
or wear red pants, and on this day the mics picked that up.
119
347273
2430
ou qui portent un pantalon rouge, et ce jour-ci les micros ont enregistré ça.
06:05
All right, from skate physics to theoretical physics.
120
349703
3901
Bon, de la physique du skate à la physique théorique.
06:09
I'm a big fan of Stephen Hawking,
121
353604
1616
Je suis un grand fan de Stephen Hawking,
06:11
and I wanted to use all eight hours
122
355220
1336
et je voulais utiliser la totalité des huit heures
06:12
of his Cambridge lecture series to create an homage.
123
356556
2587
de sa série de conférences de Cambridge afin de créer un hommage.
06:15
Now, in this series he's speaking with the aid of a computer,
124
359143
3064
Dans cette série il parle à l'aide d'un ordinateur,
06:18
which actually makes identifying the ends of sentences
125
362207
3104
ce qui rend l'identification des fins de phrases
06:21
fairly easy. So I wrote a steering algorithm.
126
365311
3426
vraiment facile. Alors j'ai écrit un algorithme de pilotage.
06:24
It listens to the lecture, and then it uses
127
368737
1960
Il écoute la conférence, et ensuite, il utilise
06:26
the amplitude of each word to move a point on the x-axis,
128
370697
2687
l'amplitude de chaque mot pour déplacer un point sur l'axe des x,
06:29
and it uses the inflection of sentences
129
373384
2633
et il utilise l'inflexion des phrases
06:31
to move a same point up and down on the y-axis.
130
376017
2154
pour déplacer un même point vers le haut et le bas sur l'axe des y.
06:34
And these trend lines, you can see, there's more questions
131
378171
2774
Et ces lignes de tendance, vous pouvez le voir, il y a plus de questions
06:36
than answers in the laws of physics,
132
380945
1870
que de réponses dans les lois de la physique,
06:38
and when we reach the end of a sentence,
133
382815
2033
et quand on arrive à la fin d'une phrase,
06:40
we place a star at that location.
134
384848
2335
on place une étoile à cet endroit.
06:43
So there's a lot of sentences, so a lot of stars,
135
387183
2800
Donc il y a beaucoup de phrases, donc beaucoup d'étoiles,
06:45
and after rendering all of the audio, this is what we get.
136
389983
2356
et après la restitution de tout l'audio, voici ce que nous obtenons.
06:48
This is Stephen Hawking's universe.
137
392339
2929
Il s'agit d'univers de Stephen Hawking.
06:51
(Applause)
138
395268
6937
(Applaudissements)
06:58
It's all eight hours of the Cambridge lecture series
139
402205
2487
C'est la totalité des huit heures de la série de conférences de Cambridge
07:00
taken in as a single visual impression,
140
404692
1848
mises en une impression visuelle unique,
07:02
and I really like this image,
141
406540
1757
et j'aime beaucoup cette image,
07:04
but a lot of people think it's fake.
142
408297
1808
mais beaucoup de gens pense que c'est une fausse.
07:06
So I made a more interactive version,
143
410105
2344
Donc j'ai fait une version plus interactive,
07:08
and the way I did that is I used their position in time
144
412449
5456
et pour ce faire, j'ai utilisé leur position dans le temps
07:13
in the lecture to place these stars into 3D space,
145
417905
2367
dans la conférence pour placer ces étoiles dans l'espace 3D
07:16
and with some custom software and a Kinect,
146
420272
2401
et avec des logiciels personnalisés et un Kinect,
07:18
I can walk right into the lecture.
147
422673
2663
je peux entrer dans la conférence.
07:21
I'm going to wave through the Kinect here
148
425336
1800
Je vais faire un signe au Kinect ici
07:23
and take control, and now I'm going to reach out
149
427136
1832
et prendre le contrôle, et maintenant je vais tenre la main
07:24
and I'm going to touch a star, and when I do,
150
428968
3239
et je vais toucher une étoile, et quand je le ferai,
07:28
it will play the sentence
151
432207
1944
ça jouera la phrase
07:30
that generated that star.
152
434151
1465
qui a généré cette étoile.
07:31
Stephen Hawking: There is one, and only one, arrangement
153
435616
3816
Stephen Hawking : Il existe un arrangement et un seul,
07:35
in which the pieces make a complete picture.
154
439432
2799
dans lequel les pièces forment une image complète.
07:38
Jared Ficklin: Thank you. (Applause)
155
442231
4148
Jared Ficklin : Merci. (Applaudissements)
07:42
There are 1,400 stars.
156
446379
3173
Il y a 1 400 étoiles.
07:45
It's a really fun way to explore the lecture,
157
449552
1664
C'est un vraiment une manière amusante d'explorer la conférence,
07:47
and, I hope, a fitting homage.
158
451216
1467
et, je l'espère, un hommage approprié.
07:48
All right. Let me close with a work in progress.
159
452683
5472
D'accord. Permettez-moi de terminer avec un travail en cours.
07:54
I think, after 30 years, the opportunity exists
160
458155
2983
Je pense que, d'ici 30 ans, il y aura la possibilité
07:57
to create an enhanced version of closed captioning.
161
461138
2104
de créer une version améliorée de sous-titrage.
07:59
Now, we've all seen a lot of TEDTalks online,
162
463242
2119
Nous avons tous vu beaucoup de TEDTalks en ligne,
08:01
so let's watch one now with the sound turned off
163
465361
2927
alors regardons-en un en désactivant le son
08:04
and the closed captioning turned on.
164
468288
3922
et en activant le sous-titrage.
08:08
There's no closed captioning for the TED theme song,
165
472210
2146
Il n'y a aucun sous-titrage pour le thème musical de TED,
08:10
and we're missing it, but if you've watched enough of these,
166
474356
2113
et ça nous manque, mais si vous avez vu assez de ces TEDtalks
08:12
you hear it in your mind's ear,
167
476469
1369
vous l'entendez dans l'oreille de votre esprit,
08:13
and then applause starts.
168
477838
2983
et puis les applaudissements démarre.
08:16
It usually begins here, and it grows and then it falls.
169
480821
2190
Ils commencent habituellement ici et ils s'amplifient et ils retombent.
08:18
Sometimes you get a little star applause,
170
483011
1977
Parfois, on a un peu d'applaudissements vedette,
08:20
and then I think even Bill Gates takes a nervous breath,
171
484988
2486
et puis je pense que même Bill Gates prend un souffle nerveux,
08:23
and the talk begins.
172
487474
1690
et commence à parler.
08:25
All right, so let's watch this clip again.
173
489164
5698
Bon, donc regardons ce clip à nouveau.
08:30
This time, I'm not going to talk at all.
174
494862
1256
Cette fois, je ne vais pas parler du tout.
08:32
There's still going to be no audio,
175
496118
1367
Il n'y aura toujours pas d'audio,
08:33
but what I am going to do is I'm going to render the sound
176
497485
1904
mais ce que je vais faire, c'est ce que je vais rendre le son
08:35
visually in real time at the bottom of the screen.
177
499389
4316
visuellement en temps réel au bas de l'écran.
08:39
So watch closely and see what your eyes can hear.
178
503705
2791
Donc soyez attentifs et voyez ce que vos yeux peuvent entendre.
09:03
This is fairly amazing to me.
179
527880
1880
C'est assez incroyable pour moi.
09:05
Even on the first view, your eyes will successfully
180
529760
3333
Même en le voyant pour la première fois, vos yeux réussiront
09:08
pick out patterns, but on repeated views,
181
533093
3088
à voir des modèles, mais en le regardant plusieurs fois,
09:12
your brain actually gets better
182
536181
1689
votre cerveau s'améliore effectivement
09:13
at turning these patterns into information.
183
537870
1656
pour transformer ces modèles en information.
09:15
You can get the tone and the timbre
184
539526
1591
Vous pouvez saisir le ton et le timbre
09:17
and the pace of the speech,
185
541117
1223
et le rythme de la parole,
09:18
things that you can't get out of closed captioning.
186
542340
2064
des choses que vous ne pouvez saisir avec le sous-titrage.
09:20
That famous scene in horror movies
187
544404
2184
Cette célèbre scène de films d'horreur
09:22
where someone is walking up from behind
188
546588
2648
où quelqu'un vient par derrière
09:25
is something you can see,
189
549236
1960
est quelque chose que vous pouvez voir,
09:27
and I believe this information would be something
190
551196
2704
et je crois que ces informations seraient une chose
09:29
that is useful at times when the audio is turned off
191
553900
2803
parfois utile lorsque l'audio est désactivé
09:32
or not heard at all, and I speculate that deaf audiences
192
556703
2941
ou pas entendu du tout, et je pense que les publics sourds
09:35
might actually even be better
193
559644
1177
pourraient même s'avérer meilleurs
09:36
at seeing sound than hearing audiences.
194
560821
1781
pour voir les sons que les publics entendants.
09:38
I don't know. It's a theory right now.
195
562602
1498
Je ne sais pas. C'est une théorie pour l'instant.
09:40
Actually, it's all just an idea.
196
564100
1521
En fait, c'est tout simplement une idée.
09:41
And let me end by saying that sound moves in all directions,
197
565621
4191
Et permettez-moi de finir en disant que le son se déplace dans toutes les directions,
09:45
and so do ideas.
198
569812
1977
et les idées font de même.
09:47
Thank you. (Applause)
199
571789
3112
Merci. (Applaudissements)
ABOUT THE SPEAKER
Jared Ficklin - VisualizerIn his day job, Jared Ficklin makes user interfaces at frog design. As a hobby, he explores what music looks like ... in light, in shapes, in fire.
Why you should listen
Jared Ficklin is a Senior Principal Design Technologist at frog, where he builds user experiences for clients, playing with interactions including touch and multi-touch, and applying physics to enhance the user experience. A passion for music and making things introduced him to the hobby of sound visualization, which has led him on occasion to play with fire. (As Flash on the Beach puts it, "Jared Ficklin’s sonic experiments stood out for their individuality, drama and casual disregard for health and safety.") Every March in Austin, Texas, Ficklin organizes the frog party, a collective social experiment for a few thousand people attending SXSW Interactive. It's a form of playful R&D for social technology. And he has spent 10 years helping fund, design and build quality free public skateparks for Austin as part of the Austin Public Skatepark Action Committee.
Jared Ficklin | Speaker | TED.com