TEDxBeaconStreet
Michael Rubinstein: See invisible motion, hear silent sounds
Michael Rubinstein: Zie onzichtbare beweging, hoor stil geluid. Cool? Eng? Wij weten het nog niet
Filmed:
Readability: 4.1
2,075,056 views
Zie hier de 'bewegingsmicroscoop', een videoverwerkingstool die kleine veranderingen in beweging en kleur, normaal onzichtbaar voor het blote oog, te voorschijn tovert. Video-onderzoeker Michael Rubinstein laat ons in het ene na het andere wonderlijke fragment zien hoe zijn technologie een polsslag en een hartritme van een persoon kan meten aan de hand van slechts filmmateriaal. Zie hoe hij een gesprek nabootst aan de hand van de bewegingen van geluidsgolven die tegen een zak chips weerkaatst zijn. De inspirerende en onheilspellende toepassingen van deze technologie moet je zien om ze te geloven.
Michael Rubinstein - Research scientist, Google
Computer scientist Michael Rubinstein and his team have developed a "motion microscope" that can show video footage of barely perceivable movements, like breaths and heartbeats. Full bio
Computer scientist Michael Rubinstein and his team have developed a "motion microscope" that can show video footage of barely perceivable movements, like breaths and heartbeats. Full bio
Double-click the English transcript below to play the video.
00:13
So over the past few centuries,
microscopes have revolutionized our world.
microscopes have revolutionized our world.
0
1114
7492
Tijdens de laatste paar eeuwen hebben
microscopen onze wereld gerevolutioneerd.
microscopen onze wereld gerevolutioneerd.
Ze onthullen een piepkleine wereld van
objecten, leven en structuren aan ons
objecten, leven en structuren aan ons
00:21
They revealed to us a tiny world
of objects, life and structures
of objects, life and structures
1
9036
5216
00:26
that are too small for us
to see with our naked eyes.
to see with our naked eyes.
2
14252
2906
die te klein zijn om met onze
blote ogen gezien te worden.
blote ogen gezien te worden.
00:29
They are a tremendous contribution
to science and technology.
to science and technology.
3
17158
3019
Ze dragen in enorme mate bij aan
wetenschap en technologie.
wetenschap en technologie.
00:32
Today I'd like to introduce you
to a new type of microscope,
to a new type of microscope,
4
20177
3227
Vandaag wil ik jullie voorstellen
aan een nieuw soort microscoop,
aan een nieuw soort microscoop,
00:35
a microscope for changes.
5
23404
2578
een microscoop voor veranderingen.
00:37
It doesn't use optics
like a regular microscope
like a regular microscope
6
25982
2902
Hij gebruikt geen optica zoals
een normale microscoop
een normale microscoop
00:40
to make small objects bigger,
7
28884
1997
om kleine objecten mee te vergroten,
00:42
but instead it uses a video camera
and image processing
and image processing
8
30881
4376
maar in plaats daarvan wordt een
videocamera en beeldverwerking gebruikt
videocamera en beeldverwerking gebruikt
00:47
to reveal to us the tiniest motions
and color changes in objects and people,
and color changes in objects and people,
9
35257
5256
om ons de kleinste bewegingen en kleur-
mutaties in objecten en mensen te tonen,
mutaties in objecten en mensen te tonen,
00:52
changes that are impossible
for us to see with our naked eyes.
for us to see with our naked eyes.
10
40513
3842
veranderingen die onmogelijk
te zien zijn met ons blote oog.
te zien zijn met ons blote oog.
00:56
And it lets us look at our world
in a completely new way.
in a completely new way.
11
44355
4120
Het laat ons de wereld op een
compleet nieuwe manier bekijken.
compleet nieuwe manier bekijken.
01:00
So what do I mean by color changes?
12
48475
1910
Wat bedoel ik nou met kleurmutaties?
01:02
Our skin, for example,
changes its color very slightly
changes its color very slightly
13
50385
2832
Onze huid verandert bijvoorbeeld
heel lichtjes van kleur
heel lichtjes van kleur
01:05
when the blood flows under it.
14
53217
1997
als er bloed onderdoor stroomt.
01:07
That change is incredibly subtle,
15
55214
2397
Die verandering is ongelooflijk subtiel
01:09
which is why, when you
look at other people,
look at other people,
16
57611
2063
en daarom, wanneer je naar anderen kijkt,
01:11
when you look at the person
sitting next to you,
sitting next to you,
17
59674
2251
als je naar degene die naast je zit kijkt,
01:13
you don't see their skin
or their face changing color.
or their face changing color.
18
61925
3575
zie je niet dat hun huid of hun
gezicht van kleur verandert.
gezicht van kleur verandert.
01:17
When we look at this video of Steve here,
it appears to us like a static picture,
it appears to us like a static picture,
19
65500
4360
Als we naar deze video van Steve
kijken lijkt het een onbeweeglijk beeld,
kijken lijkt het een onbeweeglijk beeld,
01:21
but once we look at this video
through our new, special microscope,
through our new, special microscope,
20
69860
3860
maar wanneer we door onze nieuwe,
speciale microscoop een kijkje nemen
speciale microscoop een kijkje nemen
01:25
suddenly we see
a completely different image.
a completely different image.
21
73720
2600
zien we opeens een totaal ander beeld.
01:28
What you see here are small changes
in the color of Steve's skin,
in the color of Steve's skin,
22
76320
3930
Wat je ziet zijn kleine veranderingen
in de huidskleur van Steve,
in de huidskleur van Steve,
01:32
magnified 100 times
so that they become visible.
so that they become visible.
23
80250
4436
100x vergroot om zichtbaar
te kunnen worden.
te kunnen worden.
01:36
We can actually see a human pulse.
24
84686
3267
We kunnen zelfs een hartslag zien.
01:39
We can see how fast
Steve's heart is beating,
Steve's heart is beating,
25
87953
3227
We kunnen zien hoe snel zijn hartslag is,
01:43
but we can also see the actual way
that the blood flows in his face.
that the blood flows in his face.
26
91180
5355
maar ook de manier waarop
het bloed in zijn gezicht stroomt.
het bloed in zijn gezicht stroomt.
01:48
And we can do that not just
to visualize the pulse,
to visualize the pulse,
27
96544
2631
Behalve dat we hiermee
de hartslag visualiseren
de hartslag visualiseren
01:51
but also to actually
recover our heart rates,
recover our heart rates,
28
99175
3471
kunnen we er ook onze
hartslag mee herstellen
hartslag mee herstellen
01:54
and measure our heart rates.
29
102646
1793
en onze hartslag meten.
Dat kunnen we zonder reguliere camera's
en zonder de patiënten aan te raken.
en zonder de patiënten aan te raken.
01:56
And we can do it with regular cameras
and without touching the patients.
and without touching the patients.
30
104439
4453
02:00
So here you see the pulse and heart rate
we extracted from a neonatal baby
we extracted from a neonatal baby
31
108892
5617
Hier zie je de polsslag en het
hartritme van een neonatale baby
hartritme van een neonatale baby
02:06
from a video we took
with a regular DSLR camera,
with a regular DSLR camera,
32
114509
2881
in een video die gemaakt is
met een normale DSLR camera
met een normale DSLR camera
02:09
and the heart rate measurement we get
33
117390
1816
en de hartslagmeting die we verkrijgen
02:11
is as accurate as the one you'd get
with a standard monitor in a hospital.
with a standard monitor in a hospital.
34
119206
4811
is net zo secuur als degene die
met een standaardmonitor in 't ziekenhuis.
met een standaardmonitor in 't ziekenhuis.
02:16
And it doesn't even have to be
a video we recorded.
a video we recorded.
35
124017
2642
Het hoeft geen door ons
opgenomen video te zijn.
opgenomen video te zijn.
02:18
We can do it essentially
with other videos as well.
with other videos as well.
36
126659
2995
We kunnen het in principe ook
bij andere video's toepassen.
bij andere video's toepassen.
02:21
So I just took a short clip
from "Batman Begins" here
from "Batman Begins" here
37
129654
3901
Ik heb hier even een kort fragment
van "Batman Begins" genomen om
van "Batman Begins" genomen om
02:25
just to show Christian Bale's pulse.
38
133555
1904
de hartslag van Christian Bale te tonen.
02:27
(Laughter)
39
135459
1822
(Gelach)
02:29
And you know, presumably
he's wearing makeup,
he's wearing makeup,
40
137281
2123
En weet je, hij draagt
vermoedelijk make-up,
vermoedelijk make-up,
02:31
the lighting here is kind of challenging,
41
139404
1953
de belichting hier is nogal lastig
02:33
but still, just from the video,
we're able to extract his pulse
we're able to extract his pulse
42
141357
2951
en nog steeds kunnen we zijn
hartslag uit de video halen
hartslag uit de video halen
02:36
and show it quite well.
43
144308
2018
en best aardig laten zien.
02:38
So how do we do all that?
44
146326
1920
Dus hoe doen we dat nou allemaal?
02:40
We basically analyze the changes
in the light that are recorded
in the light that are recorded
45
148246
4598
In principe analyseren we
de veranderingen in het licht
de veranderingen in het licht
02:44
at every pixel in the video over time,
46
152844
2271
die per pixel worden gefilmd
02:47
and then we crank up those changes.
47
155115
1798
en dan vergroten we de veranderingen.
02:48
We make them bigger
so that we can see them.
so that we can see them.
48
156913
2162
We vergroten ze opdat we
ze kunnen waarnemen.
ze kunnen waarnemen.
02:51
The tricky part is that those signals,
49
159075
1902
Het lastige is dat die signalen,
02:52
those changes that we're after,
are extremely subtle,
are extremely subtle,
50
160977
2933
die mutaties waar we naar
zoeken, extreem subtiel zijn,
zoeken, extreem subtiel zijn,
02:55
so we have to be very careful
when you try to separate them
when you try to separate them
51
163910
2779
zodat we erg precies moeten zijn
als we ze loskoppelen
als we ze loskoppelen
02:58
from noise that always exists in videos.
52
166689
3831
van de ruis die altijd in
dit soort video's voorkomt.
dit soort video's voorkomt.
03:02
So we use some clever
image processing techniques
image processing techniques
53
170520
2995
We gebruiken dus enkele slimme
beeldverwerkingstechnieken
beeldverwerkingstechnieken
03:05
to get a very accurate measurement
of the color at each pixel in the video,
of the color at each pixel in the video,
54
173515
3994
om in elke pixel van de video een
precieze meting van de kleur te krijgen
precieze meting van de kleur te krijgen
03:09
and then the way the color
changes over time,
changes over time,
55
177509
2670
en de manier waarop die kleur verandert
03:12
and then we amplify those changes.
56
180179
2693
waarna we die veranderingen versterken.
03:14
We make them bigger to create those types
of enhanced videos, or magnified videos,
of enhanced videos, or magnified videos,
57
182872
3980
We maken ze groter zodat dit soort
versterkte, of vergrootte video's
versterkte, of vergrootte video's
03:18
that actually show us those changes.
58
186852
2172
ons echt die veranderingen
kunnen laten zien.
kunnen laten zien.
03:21
But it turns out we can do that
not just to show tiny changes in color,
not just to show tiny changes in color,
59
189024
4238
Het blijkt echter dat we niet alleen
veranderingen in kleur kunnen tonen,
veranderingen in kleur kunnen tonen,
03:25
but also tiny motions,
60
193262
2241
maar ook piepkleine bewegingen,
03:27
and that's because the light
that gets recorded in our cameras
that gets recorded in our cameras
61
195503
3576
omdat het licht dat in onze
camera's opgeslagen wordt
camera's opgeslagen wordt
03:31
will change not only if the color
of the object changes,
of the object changes,
62
199079
2810
niet alleen verandert als de
kleur van het object wijzigt,
kleur van het object wijzigt,
03:33
but also if the object moves.
63
201889
2368
maar ook wanneer het object beweegt.
03:36
So this is my daughter
when she was about two months old.
when she was about two months old.
64
204257
3636
Dit is mijn dochter, toen
ze twee maanden oud was
ze twee maanden oud was
03:39
It's a video I recorded
about three years ago.
about three years ago.
65
207893
2999
Deze video heb ik drie
jaar geleden opgenomen.
jaar geleden opgenomen.
03:42
And as new parents, we all want
to make sure our babies are healthy,
to make sure our babies are healthy,
66
210892
3208
Als nieuwe ouders willen we allemaal
dat onze kinderen gezond zijn,
dat onze kinderen gezond zijn,
03:46
that they're breathing,
that they're alive, of course.
that they're alive, of course.
67
214100
2542
dat ze ademen, dat ze leven, natuurlijk.
03:48
So I too got one of those baby monitors
68
216642
2142
Dus ik kocht ook zo'n baby-monitor
03:50
so that I could see my daughter
when she was asleep.
when she was asleep.
69
218784
2469
om naar mijn dochter te
kunnen kijken als ze sliep.
kunnen kijken als ze sliep.
03:53
And this is pretty much what you'll see
with a standard baby monitor.
with a standard baby monitor.
70
221253
3527
Dit is wat je zo ongeveer ziet
op een normale baby-monitor.
op een normale baby-monitor.
03:56
You can see the baby's sleeping, but
there's not too much information there.
there's not too much information there.
71
224780
3682
Je ziet dat de baby slaapt,
maar verder is er
niet veel informatie zichtbaar.
niet veel informatie zichtbaar.
04:00
There's not too much we can see.
72
228474
1604
Zou het niet fijner zijn, of meer
informatief en bruikbaar
informatief en bruikbaar
04:02
Wouldn't it be better,
or more informative, or more useful,
or more informative, or more useful,
73
230078
2824
04:04
if instead we could look
at the view like this.
at the view like this.
74
232902
2990
als we in plaats daarvan
dit perspectief zouden hebben.
dit perspectief zouden hebben.
04:07
So here I took the motions
and I magnified them 30 times,
and I magnified them 30 times,
75
235892
6356
Hier heb ik de bewegingen
30 keer uitvergroot
30 keer uitvergroot
04:14
and then I could clearly see that my
daughter was indeed alive and breathing.
daughter was indeed alive and breathing.
76
242248
3826
en daardoor kon ik duidelijk zien dat
mijn dochter inderdaad in leven was.
mijn dochter inderdaad in leven was.
04:18
(Laughter)
77
246074
2253
(Gelach)
04:20
Here is a side-by-side comparison.
78
248327
1922
Hier kun je het naast elkaar zien.
04:22
So again, in the source video,
in the original video,
in the original video,
79
250249
2483
Nogmaals, in de bronvideo,
de oorspronkelijke video,
de oorspronkelijke video,
04:24
there's not too much we can see,
80
252732
1636
kunnen we niet erg veel zien,
04:26
but once we magnify the motions,
the breathing becomes much more visible.
the breathing becomes much more visible.
81
254368
3707
maar wanneer we de bewegingen versterken,
wordt de ademhaling beter zichtbaar.
wordt de ademhaling beter zichtbaar.
04:30
And it turns out, there's
a lot of phenomena
a lot of phenomena
82
258075
2070
Het blijkt dat we veel verschijnselen
04:32
we can reveal and magnify
with our new motion microscope.
with our new motion microscope.
83
260145
3623
kunnen ontdekken en versterken
met onze nieuwe bewegingsmicroscoop.
met onze nieuwe bewegingsmicroscoop.
04:35
We can see how our veins and arteries
are pulsing in our bodies.
are pulsing in our bodies.
84
263768
4564
We kunnen zien hoe onze aders en
slagaders kloppen in ons lichaam.
slagaders kloppen in ons lichaam.
04:40
We can see that our eyes
are constantly moving
are constantly moving
85
268332
2628
We kunnen zien dat onze ogen
voortdurend wiebelen.
04:42
in this wobbly motion.
86
270960
1887
04:44
And that's actually my eye,
87
272847
1509
Dit is mijn oog,
04:46
and again this video was taken
right after my daughter was born,
right after my daughter was born,
88
274356
3065
opgenomen vlak nadat
mijn dochter was geboren,
mijn dochter was geboren,
04:49
so you can see I wasn't getting
too much sleep. (Laughter)
too much sleep. (Laughter)
89
277421
4202
dus je kunt zien dat ik slaap tekort kwam.
(Gelach)
(Gelach)
04:53
Even when a person is sitting still,
90
281623
2716
Zelfs wanneer iemand stil zit,
04:56
there's a lot of information
we can extract
we can extract
91
284339
2044
is er veel zichtbare informatie
04:58
about their breathing patterns,
small facial expressions.
small facial expressions.
92
286383
3529
over hun ademhalingspatroon en
kleine gezichtsuitdrukkingen.
kleine gezichtsuitdrukkingen.
05:01
Maybe we could use those motions
93
289912
1625
Mogelijk kunnen we deze bewegingen
05:03
to tell us something about
our thoughts or our emotions.
our thoughts or our emotions.
94
291537
3154
gebruiken om ons iets te vertellen
over onze gedachten en emoties.
over onze gedachten en emoties.
05:06
We can also magnify small
mechanical movements,
mechanical movements,
95
294691
3255
We kunnen ook kleine mechanische
bewegingen versterken,
bewegingen versterken,
05:09
like vibrations in engines,
96
297946
1555
zoals trillingen in motoren,
05:11
that can help engineers detect
and diagnose machinery problems,
and diagnose machinery problems,
97
299501
3692
die ingenieurs helpen met het opsporen
en analyseren van machinale problemen,
en analyseren van machinale problemen,
05:15
or see how our buildings and structures
sway in the wind and react to forces.
sway in the wind and react to forces.
98
303193
4738
of om te zien hoe onze bouwwerken door
wind gaan wiegen en op krachten reageren.
wind gaan wiegen en op krachten reageren.
05:19
Those are all things that our society
knows how to measure in various ways,
knows how to measure in various ways,
99
307931
4581
Onze maatschappij weet hoe we dit alles op
verschillende manieren dit kunnen meten,
verschillende manieren dit kunnen meten,
05:24
but measuring those motions is one thing,
100
312512
2453
maar deze bewegingen meten is één ding,
05:26
and actually seeing those
motions as they happen
motions as they happen
101
314965
2276
om ze daadwerkelijk waar te nemen
05:29
is a whole different thing.
102
317241
2554
is iets heel anders.
05:31
And ever since we discovered
this new technology,
this new technology,
103
319795
3041
Sinds dat we deze nieuwe
technologie ontdekt hebben
technologie ontdekt hebben
05:34
we made our code available online so that
others could use and experiment with it.
others could use and experiment with it.
104
322836
3953
is onze code online gepubliceerd zodat
anderen ermee kunnen experimenteren.
anderen ermee kunnen experimenteren.
05:38
It's very simple to use.
105
326789
1875
Het is erg eenvoudig te gebruiken.
05:40
It can work on your own videos.
106
328664
2044
Het werkt ook bij je eigen video's.
05:42
Our collaborators at Quanta Research
even created this nice website
even created this nice website
107
330708
3193
Onze collega's van Quanta Research
hebben deze mooie site gemaakt
hebben deze mooie site gemaakt
05:45
where you can upload your videos
and process them online,
and process them online,
108
333901
2678
waar je je video's online kan verwerken,
05:48
so even if you don't have any experience
in computer science or programming,
in computer science or programming,
109
336579
3816
zodat je zonder enige ervaring met
computers of programmeren
computers of programmeren
05:52
you can still very easily experiment
with this new microscope.
with this new microscope.
110
340395
2936
heel makkelijk kan
experimenteren met deze microscoop.
experimenteren met deze microscoop.
05:55
And I'd like to show you
just a couple of examples
just a couple of examples
111
343331
2404
Ik wil jullie graag een
aantal voorbeelden tonen
aantal voorbeelden tonen
05:57
of what others have done with it.
112
345735
2735
van wat anderen er al mee gedaan hebben.
06:00
So this video was made by
a YouTube user called Tamez85.
a YouTube user called Tamez85.
113
348470
5317
Deze video is gemaakt door de
YouTube-gebruiker Tamez85.
YouTube-gebruiker Tamez85.
06:05
I don't know who that user is,
114
353787
1463
Ik heb geen idee wie 't is,
06:07
but he, or she, used our code
115
355250
2345
maar hij, of zij, heeft onze code gebruikt
06:09
to magnify small belly
movements during pregnancy.
movements during pregnancy.
116
357595
3715
om kleine bewegingen in de buik
tijdens een zwangerschap te vergroten.
tijdens een zwangerschap te vergroten.
06:13
It's kind of creepy.
117
361310
1602
Het is een beetje eng.
06:14
(Laughter)
118
362912
1613
(Gelach)
06:16
People have used it to magnify
pulsing veins in their hands.
pulsing veins in their hands.
119
364525
4961
Men heeft het gebruikt om kloppende
aderen in hun handen te vergroten.
aderen in hun handen te vergroten.
06:21
And you know it's not real science
unless you use guinea pigs,
unless you use guinea pigs,
120
369486
3782
Je weet dat het niet echt wetenschap is
tenzij er cavia's gebruikt worden
tenzij er cavia's gebruikt worden
06:25
and apparently this guinea pig
is called Tiffany,
is called Tiffany,
121
373268
3390
en blijkbaar heet deze cavia Tiffany,
06:28
and this YouTube user claims
it is the first rodent on Earth
it is the first rodent on Earth
122
376658
2949
die volgens deze YouTuber het
eerste knaagdier ter wereld is
eerste knaagdier ter wereld is
06:31
that was motion-magnified.
123
379607
2688
waarvan de bewegingen vergoot zijn.
06:34
You can also do some art with it.
124
382295
2188
Je kan er ook kunst mee maken.
06:36
So this video was sent to me
by a design student at Yale.
by a design student at Yale.
125
384483
3018
Deze video werd door een
designstudent van Yale ingestuurd.
designstudent van Yale ingestuurd.
06:39
She wanted to see
if there's any difference
if there's any difference
126
387501
2137
Ze wilde weten of er
een verschil te zien was
een verschil te zien was
06:41
in the way her classmates move.
127
389638
1522
in hoe haar klasgenoten bewegen.
06:43
She made them all stand still,
and then magnified their motions.
and then magnified their motions.
128
391160
4209
Ze liet ze allemaal stilstaan en
vergrootte toen hun bewegingen.
vergrootte toen hun bewegingen.
06:47
It's like seeing
still pictures come to life.
still pictures come to life.
129
395369
3378
Het is alsof roerloze
beelden tot leven komen.
beelden tot leven komen.
06:50
And the nice thing with
all those examples
all those examples
130
398747
2433
Het mooie van al deze voorbeelden
06:53
is that we had nothing to do with them.
131
401180
2296
is dat wij er niks mee te
maken hebben gehad.
maken hebben gehad.
06:55
We just provided this new tool,
a new way to look at the world,
a new way to look at the world,
132
403476
3854
We hebben slechts deze nieuwe manier
aangeleverd, een nieuwe blik op de wereld,
aangeleverd, een nieuwe blik op de wereld,
06:59
and then people find other interesting,
new and creative ways of using it.
new and creative ways of using it.
133
407330
5132
waarna anderen weer interessante, nieuwe
en creatieve gebruiksvormen bedachten.
en creatieve gebruiksvormen bedachten.
07:04
But we didn't stop there.
134
412462
1764
Maar daar eindigt het niet.
07:06
This tool not only allows us
to look at the world in a new way,
to look at the world in a new way,
135
414226
3251
Dit instrument zorgt niet alleen
voor een andere blik op de wereld.
voor een andere blik op de wereld.
07:09
it also redefines what we can do
136
417477
2368
Het geeft een nieuwe definitie
van wat we kunnen
van wat we kunnen
07:11
and pushes the limits of what
we can do with our cameras.
we can do with our cameras.
137
419845
3181
en verlegt de grenzen van wat
er mogelijk is met onze camera's.
er mogelijk is met onze camera's.
07:15
So as scientists, we started wondering,
138
423026
2229
Als wetenschappers
begonnen we na te denken
begonnen we na te denken
07:17
what other types of physical phenomena
produce tiny motions
produce tiny motions
139
425255
3785
over welke andere soorten fysieke
verschijnselen kleine bewegingen opleveren
verschijnselen kleine bewegingen opleveren
07:21
that we could now use
our cameras to measure?
our cameras to measure?
140
429040
2903
die nu met onze camera's
gemeten kunnen worden.
gemeten kunnen worden.
07:23
And one such phenomenon
that we focused on recently is sound.
that we focused on recently is sound.
141
431943
4001
Een van de verschijnselen waarop we ons
recentelijk richtten, is geluid.
recentelijk richtten, is geluid.
07:27
Sound, as we all know,
is basically changes
is basically changes
142
435944
2105
Geluid, zoals je weet, is de verandering
07:30
in air pressure that
travel through the air.
travel through the air.
143
438049
2183
van luchtdruk die door de lucht beweegt.
07:32
Those pressure waves hit objects
and they create small vibrations in them,
and they create small vibrations in them,
144
440232
3621
Deze drukgolven raken objecten en
creëren er kleine trillingen in,
creëren er kleine trillingen in,
07:35
which is how we hear
and how we record sound.
and how we record sound.
145
443853
2532
waardoor wij geluid kunnen
horen en opnemen.
horen en opnemen.
07:38
But it turns out that sound
also produces visual motions.
also produces visual motions.
146
446385
3668
Het blijkt echter dat geluid ook
visuele bewegingen creëert.
visuele bewegingen creëert.
07:42
Those are motions
that are not visible to us
that are not visible to us
147
450053
2833
De bewegingen zijn niet
waarneembaar voor ons,
waarneembaar voor ons,
07:44
but are visible to a camera
with the right processing.
with the right processing.
148
452886
3001
maar wel voor een camera
met de juiste bewerkingen.
met de juiste bewerkingen.
07:47
So here are two examples.
149
455887
1573
Hier zijn twee voorbeelden.
07:49
This is me demonstrating
my great singing skills.
my great singing skills.
150
457460
2614
Dit ben ik met mijn enorme zangtalent.
07:53
(Singing)
151
461064
1634
(Zingend)
07:54
(Laughter)
152
462698
1436
(Gelach)
07:56
And I took a high-speed video
of my throat while I was humming.
of my throat while I was humming.
153
464134
2986
Dit is een hogesnelheidsvideo
van mijn keel toen ik neuriede.
van mijn keel toen ik neuriede.
07:59
Again, if you stare at that video,
154
467120
1764
Nogmaals, als je naar de video kijkt
08:00
there's not too much
you'll be able to see,
you'll be able to see,
155
468884
2076
is er niet veel dat je kunt zien,
08:02
but once we magnify the motions 100 times,
we can see all the motions and ripples
we can see all the motions and ripples
156
470960
4332
maar als we de bewegingen 100 keer groter
maken, zien we alle bewegingen en golfjes
maken, zien we alle bewegingen en golfjes
08:07
in the neck that are involved
in producing the sound.
in producing the sound.
157
475292
3274
die in de nek plaatsvinden
om het geluid te produceren.
om het geluid te produceren.
08:10
That signal is there in that video.
158
478566
2740
Dat signaal is zichtbaar in die video.
08:13
We also know that singers
can break a wine glass
can break a wine glass
159
481306
2670
We weten ook dat zangers
een wijnglas kunnen breken
een wijnglas kunnen breken
08:15
if they hit the correct note.
160
483976
1463
als ze de juist noot bereiken.
08:17
So here, we're going to play a note
161
485439
1765
Hier gaan we een noot spelen,
08:19
that's in the resonance
frequency of that glass
frequency of that glass
162
487204
2526
die in de resonantiefrequentie
van dat glas ligt,
van dat glas ligt,
08:21
through a loudspeaker that's next to it.
163
489730
2048
door middel van de luidspreker ernaast.
08:23
Once we play that note
and magnify the motions 250 times,
and magnify the motions 250 times,
164
491778
4419
Wanneer we die nooit spelen en
de bewegingen 250 maal vergroten
de bewegingen 250 maal vergroten
08:28
we can very clearly see
how the glass vibrates
how the glass vibrates
165
496197
2338
kunnen we duidelijk
zien dat het glas trilt
zien dat het glas trilt
08:30
and resonates in response to the sound.
166
498535
3570
en weerklinkt als gevolg van het geluid.
08:34
It's not something you're used
to seeing every day.
to seeing every day.
167
502105
2420
Dat is niet iets dat je
iedere dag te zien krijgt.
iedere dag te zien krijgt.
08:36
But this made us think.
It gave us this crazy idea.
It gave us this crazy idea.
168
504525
3529
Dit zorgde ervoor dat we gingen nadenken.
Het gaf ons dit gekke idee.
Het gaf ons dit gekke idee.
08:40
Can we actually invert this process
and recover sound from video
and recover sound from video
169
508054
5608
Kunnen we dit proces omdraaien
en geluid uit een video herkrijgen
en geluid uit een video herkrijgen
door de kleine trillingen te analyseren
die geluidsgolven in objecten creëren
die geluidsgolven in objecten creëren
08:45
by analyzing the tiny vibrations
that sound waves create in objects,
that sound waves create in objects,
170
513662
4035
08:49
and essentially convert those
back into the sounds that produced them.
back into the sounds that produced them.
171
517697
4777
en eigenlijk deze golven weer omzetten in
de geluiden waardoor ze geproduceerd zijn?
de geluiden waardoor ze geproduceerd zijn?
08:54
In this way, we can turn
everyday objects into microphones.
everyday objects into microphones.
172
522474
4457
Op de manier kunnen we alledaagse
objecten omtoveren tot microfoons.
objecten omtoveren tot microfoons.
08:58
So that's exactly what we did.
173
526931
2232
Dus dat is precies wat we gedaan hebben.
09:01
So here's an empty bag of chips
that was lying on a table,
that was lying on a table,
174
529163
2816
Hier zie je een lege zak
chips die op tafel ligt
chips die op tafel ligt
09:03
and we're going to turn that
bag of chips into a microphone
bag of chips into a microphone
175
531979
2825
en wij gaan die zak chips
veranderen in een microfoon
veranderen in een microfoon
09:06
by filming it with a video camera
176
534804
1591
door te filmen met een camera en
09:08
and analyzing the tiny motions
that sound waves create in it.
that sound waves create in it.
177
536395
3228
de kleine bewegingen die geluidsgolven
erin creëren te analyseren.
erin creëren te analyseren.
09:11
So here's the sound
that we played in the room.
that we played in the room.
178
539623
2796
Hier is het geluid dat we
in de kamer afspeelden.
in de kamer afspeelden.
09:14
(Music: "Mary Had a Little Lamb")
179
542419
4434
(Muziek: "Mary Had a Little Lamb")
09:22
And this is a high-speed video
we recorded of that bag of chips.
we recorded of that bag of chips.
180
550007
3025
Dit is een hogesnelheidsvideo
waarin de zak chips gefilmd is.
waarin de zak chips gefilmd is.
09:25
Again it's playing.
181
553032
1274
Het speelt opnieuw.
09:26
There's no chance you'll be able
to see anything going on in that video
to see anything going on in that video
182
554306
3342
Je kan met geen enkele mogelijkheid
zien wat er in de video gebeurt
zien wat er in de video gebeurt
09:29
just by looking at it,
183
557648
1058
door gewoon te kijken,
09:30
but here's the sound we were able
to recover just by analyzing
to recover just by analyzing
184
558706
2984
maar hier is het geluid dat we
hebben gevonden aan de hand van
hebben gevonden aan de hand van
09:33
the tiny motions in that video.
185
561690
2183
een video-analyse van
die kleine bewegingen.
die kleine bewegingen.
09:35
(Music: "Mary Had a Little Lamb")
186
563873
2809
(Muziek: "Mary Had a Little Lamb")
09:52
I call it -- Thank you.
187
580985
1486
Ik noem het -- Dank u.
09:54
(Applause)
188
582471
5225
(Applaus)
10:01
I call it the visual microphone.
189
589878
2345
Ik noem het de visuele microfoon.
10:04
We actually extract audio signals
from video signals.
from video signals.
190
592223
3390
We extraheren in feite
audiosignalen uit videosignalen.
audiosignalen uit videosignalen.
10:07
And just to give you a sense
of the scale of the motions here,
of the scale of the motions here,
191
595613
3181
Om een idee te geven van
de schaal van deze bewegingen;
de schaal van deze bewegingen;
10:10
a pretty loud sound will cause that bag
of chips to move less than a micrometer.
of chips to move less than a micrometer.
192
598799
5336
een vrij hard geluid zorgt ervoor dat de
chips minder dan een micrometer bewegen.
chips minder dan een micrometer bewegen.
10:16
That's one thousandth of a millimeter.
193
604135
2739
Dat is een duizendste van een millimeter.
10:18
That's how tiny the motions are
that we are now able to pull out
that we are now able to pull out
194
606874
3561
Zo klein zijn de bewegingen
die wij nu kunnen ontdekken
die wij nu kunnen ontdekken
10:22
just by observing how light
bounces off objects
bounces off objects
195
610435
3243
door gewoon te bekijken hoe
licht weerkaatst van objecten
licht weerkaatst van objecten
10:25
and gets recorded by our cameras.
196
613678
2136
en hoe onze camera's dat vastleggen.
10:27
We can recover sounds
from other objects, like plants.
from other objects, like plants.
197
615814
3250
We kunnen geluid herstellen vanuit
andere objecten zoals planten.
andere objecten zoals planten.
10:31
(Music: "Mary Had a Little Lamb")
198
619064
6316
(Muziek: "Mary Had a Little Lamb")
10:39
And we can recover speech as well.
199
627214
1997
En we kunnen ook spraak herleiden.
10:41
So here's a person speaking in a room.
200
629211
2577
Hier is een persoon die
in een kamer spreekt.
in een kamer spreekt.
10:43
Voice: Mary had a little lamb
whose fleece was white as snow,
whose fleece was white as snow,
201
631788
4203
Stem: Mary had a little lamb
whose fleece was white as snow,
whose fleece was white as snow,
10:47
and everywhere that Mary went,
that lamb was sure to go.
that lamb was sure to go.
202
635991
4230
and everywhere that Mary went,
that lamb was sure to go.
that lamb was sure to go.
10:52
Michael Rubinstein: And here's
that speech again recovered
that speech again recovered
203
640221
2759
Michael Rubinstein: Hier is
de spraak dan weer herleid
de spraak dan weer herleid
10:54
just from this video
of that same bag of chips.
of that same bag of chips.
204
642980
3274
van de video van diezelfde zak chips.
10:58
Voice: Mary had a little lamb
whose fleece was white as snow,
whose fleece was white as snow,
205
646254
4831
Stem: Mary had a little lamb
whose fleece was white as snow,
whose fleece was white as snow,
11:03
and everywhere that Mary went,
that lamb was sure to go.
that lamb was sure to go.
206
651085
4859
and everywhere that Mary went,
that lamb was sure to go.
that lamb was sure to go.
11:07
MR: We used "Mary Had a Little Lamb"
207
655944
2346
MR: We namen "Mary Had a Little Lamb"
11:10
because those are said to be
the first words
the first words
208
658290
2123
omdat dat de eerste woorden waren
11:12
that Thomas Edison spoke
into his phonograph in 1877.
into his phonograph in 1877.
209
660413
4161
die Thomas Edison in 1877
in zijn grammofoon sprak.
in zijn grammofoon sprak.
11:16
It was one of the first sound
recording devices in history.
recording devices in history.
210
664574
3228
Het was een van de eerste
geluidsopnameapparaten in de geschiedenis.
geluidsopnameapparaten in de geschiedenis.
11:19
It basically directed the sounds
onto a diaphragm
onto a diaphragm
211
667802
3327
Het stuurde de woorden
eigenlijk naar een trilplaat
eigenlijk naar een trilplaat
11:23
that vibrated a needle that essentially
engraved the sound on tinfoil
engraved the sound on tinfoil
212
671129
4079
die een naald deed vibreren waardoor
het geluid werd gegraveerd op bladtin
het geluid werd gegraveerd op bladtin
11:27
that was wrapped around the cylinder.
213
675208
2275
dat om een cilinder heen was verpakt.
11:29
Here's a demonstration of recording and
replaying sound with Edison's phonograph.
replaying sound with Edison's phonograph.
214
677483
5943
Nu een voorbeeld van het opnemen en af-
spelen van geluid met Edison's grammofoon.
spelen van geluid met Edison's grammofoon.
11:35
(Video) Voice: Testing,
testing, one two three.
testing, one two three.
215
683426
3020
(Video) Stem: Test, test, een twee drie
11:38
Mary had a little lamb
whose fleece was white as snow,
whose fleece was white as snow,
216
686446
3413
Mary had a little lamb
whose fleece was white as snow,
whose fleece was white as snow,
11:41
and everywhere that Mary went,
the lamb was sure to go.
the lamb was sure to go.
217
689859
3669
and everywhere that Mary went,
the lamb was sure to go.
the lamb was sure to go.
11:45
Testing, testing, one two three.
218
693528
2740
Test, test, een twee drie.
11:48
Mary had a little lamb
whose fleece was white as snow,
whose fleece was white as snow,
219
696268
4156
Mary had a little lamb
whose fleece was white as snow,
whose fleece was white as snow,
11:52
and everywhere that Mary went,
the lamb was sure to go.
the lamb was sure to go.
220
700424
5224
and everywhere that Mary went,
the lamb was sure to go.
the lamb was sure to go.
11:57
MR: And now, 137 years later,
221
705648
4017
MR: En nu, 137 jaar later,
12:01
we're able to get sound
in pretty much similar quality
in pretty much similar quality
222
709665
4087
kunnen we geluid opwekken
in ongeveer dezelfde kwaliteit
in ongeveer dezelfde kwaliteit
12:05
but by just watching objects
vibrate to sound with cameras,
vibrate to sound with cameras,
223
713752
4079
door via camera's te kijken naar
objecten die slechts trillen
objecten die slechts trillen
12:09
and we can even do that when the camera
224
717831
1934
en dat kan zelfs als de camera
12:11
is 15 feet away from the object,
behind soundproof glass.
behind soundproof glass.
225
719765
4234
5 meter van het object afstaat,
achter geluiddicht glas.
achter geluiddicht glas.
12:15
So this is the sound that we were
able to recover in that case.
able to recover in that case.
226
723999
3220
Dit is het geluid dat we in zo'n
geval wisten te reconstrueren/
geval wisten te reconstrueren/
12:19
Voice: Mary had a little lamb
whose fleece was white as snow,
whose fleece was white as snow,
227
727219
5294
Stem: Mary had a little lamb
whose fleece was white as snow,
whose fleece was white as snow,
12:24
and everywhere that Mary went,
the lamb was sure to go.
the lamb was sure to go.
228
732513
4759
and everywhere that Mary went,
the lamb was sure to go.
the lamb was sure to go.
MR: Natuurlijk is surveillance de eerste
toepassing die je te binnen schiet.
toepassing die je te binnen schiet.
12:29
MR: And of course, surveillance is
the first application that comes to mind.
the first application that comes to mind.
229
737404
3630
12:33
(Laughter)
230
741034
2995
(Gelach)
12:36
But it might actually be useful
for other things as well.
for other things as well.
231
744029
4056
Maar het zou voor andere zaken
ook erg nuttig kunnen blijken.
ook erg nuttig kunnen blijken.
12:40
Maybe in the future, we'll be able
to use it, for example,
to use it, for example,
232
748085
2840
Misschien kunnen we 't in
de toekomst bijvoorbeeld gebruiken
de toekomst bijvoorbeeld gebruiken
12:42
to recover sound across space,
233
750925
2252
om geluid in de ruimte te reconstrueren,
12:45
because sound can't travel
in space, but light can.
in space, but light can.
234
753177
3576
want geluid kan niet door de ruimte
heen, maar licht kan dat wel.
heen, maar licht kan dat wel.
12:48
We've only just begun exploring
235
756753
2404
We zijn pas net begonnen
met het ontdekken van
met het ontdekken van
12:51
other possible uses
for this new technology.
for this new technology.
236
759157
3019
andere mogelijke gebruiksvormen
voor deze nieuwe technologie.
voor deze nieuwe technologie.
12:54
It lets us see physical processes
that we know are there
that we know are there
237
762176
2832
Het toont fysieke processen
waarvan we weten dat ze er zijn,
waarvan we weten dat ze er zijn,
12:57
but that we've never been able
to see with our own eyes until now.
to see with our own eyes until now.
238
765008
3556
maar die we nog niet met onze
blote ogen konden waarnemen.
blote ogen konden waarnemen.
13:00
This is our team.
239
768564
1204
Dit is ons team.
13:01
Everything I showed you today
is a result of a collaboration
is a result of a collaboration
240
769768
2879
Alles wat jullie vandaag zagen
is het gevolg van
is het gevolg van
13:04
with this great group
of people you see here,
of people you see here,
241
772647
2191
de samenwerking van deze groep mensen.
13:06
and I encourage you and welcome you
to check out our website,
to check out our website,
242
774838
3167
Ik wil jullie aansporen
om onze website te bekijken,
om onze website te bekijken,
het zelf te proberen
13:10
try it out yourself,
243
778005
1446
en met ons de wereld van
kleine bewegingen te verkennen.
kleine bewegingen te verkennen.
13:11
and join us in exploring
this world of tiny motions.
this world of tiny motions.
244
779451
2972
13:14
Thank you.
245
782423
1625
Dankjewel.
(Applaus)
13:16
(Applause)
246
784048
1254
ABOUT THE SPEAKER
Michael Rubinstein - Research scientist, GoogleComputer scientist Michael Rubinstein and his team have developed a "motion microscope" that can show video footage of barely perceivable movements, like breaths and heartbeats.
Why you should listen
Michael Rubinstein zooms in on what we can't see and mangnifies it by thirty or a hundred times. His "motion microscope," developed at MIT with Microsoft and Quanta Research, picks up on subtle motion and color changes in videos and blows them up for the naked eye to see. The result: fun, cool, creepy videos.
Rubinstein is a research scientist at a new Cambridge-based Google lab for computer vision research. He has a PhD in computer science and electrical engineering from MIT.
Michael Rubinstein | Speaker | TED.com