ABOUT THE SPEAKER
Kwabena Boahen - Bioengineer
Kwabena Boahen wants to understand how brains work -- and to build a computer that works like the brain by reverse-engineering the nervous system. His group at Stanford is developing Neurogrid, a hardware platform that will emulate the cortex’s inner workings.

Why you should listen

Kwabena Boahen is the principal investigator at the Brains in Silicon lab at Stanford. He writes of himself:

Being a scientist at heart, I want to understand how cognition arises from neuronal properties. Being an engineer by training, I am using silicon integrated circuits to emulate the way neurons compute, linking the seemingly disparate fields of electronics and computer science with neurobiology and medicine.

My group's contributions to the field of neuromorphic engineering include a silicon retina that could be used to give the blind sight and a self-organizing chip that emulates the way the developing brain wires itself up. Our work is widely recognized, with over sixty publications, including a cover story in the May 2005 issue of Scientific American.

My current research interest is building a simulation platform that will enable the cortex's inner workings to be modeled in detail. While progress has been made linking neuronal properties to brain rhythms, the task of scaling up these models to link neuronal properties to cognition still remains. Making the supercomputer-performance required affordable is the goal of our Neurogrid project. It is at the vanguard of a profound shift in computing, away from the sequential, step-by-step Von Neumann machine towards a parallel, interconnected architecture more like the brain.

More profile about the speaker
Kwabena Boahen | Speaker | TED.com
TEDGlobal 2007

Kwabena Boahen: A computer that works like the brain

Kwabena Boahen : un ordinateur qui fonctionne comme le cerveau

Filmed:
718,375 views

Le chercheur Kwabena Boaden cherche un moyen de donner les pouvoirs de supercalculateur de notre cerveau au silicone. Car les nombreux processus désorganisés de nos têtes forment un ordinateur petit, léger et surpuissant.
- Bioengineer
Kwabena Boahen wants to understand how brains work -- and to build a computer that works like the brain by reverse-engineering the nervous system. His group at Stanford is developing Neurogrid, a hardware platform that will emulate the cortex’s inner workings. Full bio

Double-click the English transcript below to play the video.

00:18
I got my first computerordinateur when I was a teenageradolescent growingcroissance up in AccraAccra,
0
0
5000
J'ai eu mon premier ordinateur quand j'étais adolescent et que je grandissais à Accra,
00:23
and it was a really coolcool devicedispositif.
1
5000
3000
et c'était vraiment une belle machine.
00:26
You could playjouer gamesJeux with it. You could programprogramme it in BASICBASIC.
2
8000
5000
On pouvait jouer avec ou le programmer en BASIC
00:31
And I was fascinatedfasciné.
3
13000
2000
Et j'étais fasciné.
00:33
So I wentest allé into the librarybibliothèque to figurefigure out how did this thing work.
4
15000
6000
Donc je suis allé à la bibliothèque pour comprendre comment cette chose marchait.
00:39
I readlis about how the CPUUNITÉ CENTRALE DE TRAITEMENT is constantlyconstamment shufflinglecture aléatoire dataLes données back and forthavant
5
21000
5000
J'ai lu sur le processeur qui fait constamment aller et venir les données
00:44
betweenentre the memoryMémoire, the RAMRAM and the ALUALU,
6
26000
4000
entre la memoire, la RAM et l'UAL,
00:48
the arithmeticarithmétique and logiclogique unitunité.
7
30000
2000
l'unité arithmétique et logique.
00:50
And I thought to myselfmoi même, this CPUUNITÉ CENTRALE DE TRAITEMENT really has to work like crazyfou
8
32000
4000
Et je me suis dit que le processeur devait vraiment travailler comme un fou
00:54
just to keep all this dataLes données movingen mouvement throughpar the systemsystème.
9
36000
4000
simplement pour que toutes ces données bougent à travers le système.
00:58
But nobodypersonne was really worriedinquiet about this.
10
40000
3000
Mais personne ne s'inquiétait vraiment de ça.
01:01
When computersdes ordinateurs were first introducedintroduit,
11
43000
2000
Quand les ordinateurs ont commencé à être connus,
01:03
they were said to be a millionmillion timesfois fasterPlus vite than neuronsneurones.
12
45000
3000
Ils disaient qu'ils étaient un million de fois plus rapide que les neurones.
01:06
People were really excitedexcité. They thought they would soonbientôt outstripdépasser
13
48000
5000
Les gens étaient vraiment excités, ils pensaient qu'on allait bientôt dépasser
01:11
the capacitycapacité of the braincerveau.
14
53000
3000
les capacités du cerveau.
01:14
This is a quotecitation, actuallyréellement, from AlanAlan TuringTuring:
15
56000
3000
Une citation d'Alan Turing:
01:17
"In 30 yearsannées, it will be as easyfacile to askdemander a computerordinateur a questionquestion
16
59000
4000
"Dans 30 ans, ce sera aussi facile de poser une question à un ordinateur,
01:21
as to askdemander a personla personne."
17
63000
2000
que d'en poser une à une personne."
01:23
This was in 1946. And now, in 2007, it's still not truevrai.
18
65000
7000
C'était en 1946. Et maintenant en 2007, ce n'est toujours pas le cas.
01:30
And so, the questionquestion is, why aren'tne sont pas we really seeingvoyant
19
72000
4000
Mais pourquoi donc on ne voit pas encore
01:34
this kindgentil of powerPuissance in computersdes ordinateurs that we see in the braincerveau?
20
76000
4000
la même puissance dans les ordinateurs que l'on voit dans le cerveau ?
01:38
What people didn't realizeprendre conscience de, and I'm just beginningdébut to realizeprendre conscience de right now,
21
80000
4000
Ce que les gens ne réalisent pas, et que je commence à réaliser maintenant,
01:42
is that we payPayer a hugeénorme priceprix for the speedla vitesse
22
84000
2000
c'est que nous avons payé le prix fort pour la vitesse,
01:44
that we claimprétendre is a biggros advantageavantage of these computersdes ordinateurs.
23
86000
4000
que l'on disait être un gros avantage pour ces ordinateurs.
01:48
Let's take a look at some numbersNombres.
24
90000
2000
Regardons ces quelques chiffres.
01:50
This is BlueBleu GeneGène, the fastestle plus rapide computerordinateur in the worldmonde.
25
92000
4000
C'est Blue Gene, l'ordinateur le plus rapide au monde.
01:54
It's got 120,000 processorsprocesseurs; they can basicallyen gros processprocessus
26
96000
5000
Il a 120 000 coeurs qui peuvent traiter
01:59
10 quadrillionquadrillion bitsmorceaux of informationinformation perpar secondseconde.
27
101000
3000
10 millions de milliards d'information par seconde.
02:02
That's 10 to the sixteenthseizième. And they consumeconsommer one and a halfmoitié megawattsmégawatts of powerPuissance.
28
104000
7000
C'est 10 puissance 16. Et ça consomme un demi mégawatt.
02:09
So that would be really great, if you could addajouter that
29
111000
3000
Donc ça serait vraiment génial, si on pouvait les ajouter
02:12
to the productionproduction capacitycapacité in TanzaniaTanzanie.
30
114000
2000
à la production électrique de la Tanzanie.
02:14
It would really boostcoup de pouce the economyéconomie.
31
116000
2000
ça boosterait vraiment l'économie.
02:16
Just to go back to the StatesÉtats,
32
118000
4000
Pour revenir aux U.S.A,
02:20
if you translateTraduire the amountmontant of powerPuissance or electricityélectricité
33
122000
2000
si on traduit la quantité d'énergie électrique
02:22
this computerordinateur usesles usages to the amountmontant of householdsménages in the StatesÉtats,
34
124000
3000
que cet ordinateur utilise en nombre de foyers américains,
02:25
you get 1,200 householdsménages in the U.S.
35
127000
4000
ça donne 1 200 ménages,
02:29
That's how much powerPuissance this computerordinateur usesles usages.
36
131000
2000
Voilà pour l'énergie qu'utilise cet ordinateur.
02:31
Now, let's comparecomparer this with the braincerveau.
37
133000
3000
Maintenant, comparons le avec le cerveau.
02:34
This is a picturephoto of, actuallyréellement RoryRory Sayres'Sayres' girlfriend'spetite amie braincerveau.
38
136000
5000
Voici une image du cerveau de la petite amie de Rory Sayres.
02:39
RoryRory is a graduatediplômé studentétudiant at StanfordStanford.
39
141000
2000
Rory est un étudiant de troisième cycle à Stanford.
02:41
He studiesétudes the braincerveau usingen utilisant MRIIRM, and he claimsréclamations that
40
143000
4000
Il étudie le cerveau par IRM et il prétend
02:45
this is the mostles plus beautifulbeau braincerveau that he has ever scannedscanné.
41
147000
3000
que c'est le plus beau cerveau qu'il ait jamais scanné.
02:48
(LaughterRires)
42
150000
2000
(Rires)
02:50
So that's truevrai love, right there.
43
152000
3000
Ca, c'est vraiment de l'Amour.
02:53
Now, how much computationcalcul does the braincerveau do?
44
155000
3000
Alors, à quelle vitesse calcule le cerveau ?
02:56
I estimateestimation 10 to the 16 bitsmorceaux perpar secondseconde,
45
158000
2000
Je l'estime à 10 puissance 16 bits par seconde
02:58
whichlequel is actuallyréellement about very similarsimilaire to what BlueBleu GeneGène does.
46
160000
4000
ce qui est en fait très proche de ce que fait Blue Gene.
03:02
So that's the questionquestion. The questionquestion is, how much --
47
164000
2000
Donc, la vraie question, c'est combien --
03:04
they are doing a similarsimilaire amountmontant of processingEn traitement, similarsimilaire amountmontant of dataLes données --
48
166000
3000
Ils calculent autant, une quantité similaire de donnée --
03:07
the questionquestion is how much energyénergie or electricityélectricité does the braincerveau use?
49
169000
5000
La question c'est quelle énergie, combien d'électricité est ce que le cerveau utilise ?
03:12
And it's actuallyréellement as much as your laptopportable computerordinateur:
50
174000
3000
Et en fait, c'est autant que votre ordinateur portable :
03:15
it's just 10 wattswatts.
51
177000
2000
seulement 10 watts.
03:17
So what we are doing right now with computersdes ordinateurs
52
179000
3000
Donc, ce que nous faisons actuellement avec les ordinateurs
03:20
with the energyénergie consumedconsommé by 1,200 housesMaisons,
53
182000
3000
avec l'énergie consommée par 1 200 maisons,
03:23
the braincerveau is doing with the energyénergie consumedconsommé by your laptopportable.
54
185000
5000
le cerveau le fait avec l'énergie consommée par votre PC portable.
03:28
So the questionquestion is, how is the braincerveau ablecapable to achieveatteindre this kindgentil of efficiencyEfficacité?
55
190000
3000
Alors, comment est ce que le cerveau peut être aussi efficace ?
03:31
And let me just summarizerésumer. So the bottombas lineligne:
56
193000
2000
Et laisser moi résumer, voici les faits :
03:33
the braincerveau processesprocessus informationinformation usingen utilisant 100,000 timesfois lessMoins energyénergie
57
195000
4000
le cerveau fonctionne en utilisant 100 000 fois moins d'énergie
03:37
than we do right now with this computerordinateur technologyLa technologie that we have.
58
199000
4000
que ce que nous faisons maintenant avec notre technologie informatique.
03:41
How is the braincerveau ablecapable to do this?
59
203000
2000
Comment le cerveau peut il faire cela ?
03:43
Let's just take a look about how the braincerveau workstravaux,
60
205000
3000
Regardons juste comment le cerveau fonctionne,
03:46
and then I'll comparecomparer that with how computersdes ordinateurs work.
61
208000
4000
et après on va comparer ça à comment les ordinateurs fonctionnent.
03:50
So, this clipagrafe is from the PBSPBS seriesséries, "The SecretSecret Life of the BrainCerveau."
62
212000
4000
Ce clip vient de la série PBS, "La vie secrète du Cerveau".
03:54
It showsmontre you these cellscellules that processprocessus informationinformation.
63
216000
3000
Qui vous monte ces cellules qui traitent l'information.
03:57
They are calledappelé neuronsneurones.
64
219000
1000
Ce sont les neurones.
03:58
They sendenvoyer little pulsesimpulsions of electricityélectricité down theirleur processesprocessus to eachchaque other,
65
220000
6000
Ils s'envoient des petites impulsions électriques
04:04
and where they contactcontact eachchaque other, those little pulsesimpulsions
66
226000
2000
et à l'endroit où ils se touchent, ces petites impulsions
04:06
of electricityélectricité can jumpsaut from one neuronneurone to the other.
67
228000
2000
électriques peuvent sauter d'un neurone à un autre.
04:08
That processprocessus is calledappelé a synapseSynapse.
68
230000
3000
On appelle ça une synapse.
04:11
You've got this hugeénorme networkréseau of cellscellules interactinginteragir with eachchaque other --
69
233000
2000
On a cet énorme réseau de cellules qui interagissent ensemble,
04:13
about 100 millionmillion of them,
70
235000
2000
environ 100 million,
04:15
sendingenvoi about 10 quadrillionquadrillion of these pulsesimpulsions around everychaque secondseconde.
71
237000
4000
qui envoient environ 10 million de milliard d'impulsions par seconde.
04:19
And that's basicallyen gros what's going on in your braincerveau right now as you're watchingen train de regarder this.
72
241000
6000
Et c'est exactement ce qui se passe dans votre cerveau maintenant alors que vous me regardez.
04:25
How does that comparecomparer with the way computersdes ordinateurs work?
73
247000
2000
Comment comparer cela à la façon de travailler des ordinateurs ?
04:27
In the computerordinateur, you have all the dataLes données
74
249000
2000
Dans l'ordinateur, on a toutes les données
04:29
going throughpar the centralcentral processingEn traitement unitunité,
75
251000
2000
qui passent par le processeur central,
04:31
and any piecepièce of dataLes données basicallyen gros has to go throughpar that bottleneckgoulot,
76
253000
3000
et chaque bout de donnée doit absolument passer par ce goulot d'étranglement
04:34
whereastandis que in the braincerveau, what you have is these neuronsneurones,
77
256000
4000
Alors que dans le cerveau, on a ces neurones
04:38
and the dataLes données just really flowsles flux throughpar a networkréseau of connectionsles liaisons
78
260000
4000
et les données circulent librement à travers ce réseau de connections
04:42
amongparmi the neuronsneurones. There's no bottleneckgoulot here.
79
264000
2000
parmi les neurones, il n'y a pas de goulot d'étranglement ici.
04:44
It's really a networkréseau in the literallittéral sensesens of the wordmot.
80
266000
4000
C'est vraiment un réseau au sens littéral du terme.
04:48
The netnet is doing the work in the braincerveau.
81
270000
4000
C'est le réseau qui fait le travail dans un cerveau.
04:52
If you just look at these two picturesdes photos,
82
274000
2000
Si vous regardez simplement ces deux images,
04:54
these kindgentil of wordsmots poppop into your mindesprit.
83
276000
2000
voici les mots qui vous viennent à l'esprit.
04:56
This is serialSerial and it's rigidrigide -- it's like carsdes voitures on a freewayFreeway,
84
278000
4000
L'ordinateur est séquentiel et rigide, c'est comme des voitures sur l'autoroute --
05:00
everything has to happense produire in lockstepunisson --
85
282000
3000
tout doit se faire dans un ordre précis.
05:03
whereastandis que this is parallelparallèle and it's fluidliquide.
86
285000
2000
Alors que le cerveau est asynchrone et fluide.
05:05
InformationInformations processingEn traitement is very dynamicdynamique and adaptiveadaptatif.
87
287000
3000
Le traitement de l'information est dynamique et adaptable.
05:08
So I'm not the first to figurefigure this out. This is a quotecitation from BrianBrian EnoEno:
88
290000
4000
Et je ne suis pas le premier à le dire. Voici une citation de Brian Eno :
05:12
"the problemproblème with computersdes ordinateurs is that there is not enoughassez AfricaL’Afrique in them."
89
294000
4000
"Le problème avec les ordinateurs, c'est qu'il n'y a pas assez d'Afrique en eux."
05:16
(LaughterRires)
90
298000
6000
(Rires)
05:22
BrianBrian actuallyréellement said this in 1995.
91
304000
3000
En fait, Brian a dit ça en 1995.
05:25
And nobodypersonne was listeningécoute then,
92
307000
3000
Et personne ne l'écoutait,
05:28
but now people are beginningdébut to listen
93
310000
2000
mais maintenant les gens commencent à écouter
05:30
because there's a pressingpressage, technologicaltechnologique problemproblème that we facevisage.
94
312000
5000
car nous sommes confrontés à un problème technologique urgent.
05:35
And I'll just take you throughpar that a little bitbit in the nextprochain fewpeu slidesglisse.
95
317000
5000
Et je vais vous l'expliquer dans les prochaines diapos.
05:40
This is -- it's actuallyréellement really this remarkableremarquable convergenceconvergence
96
322000
4000
C'est -- Il y a vraiment une convergence remarquable
05:44
betweenentre the devicesdispositifs that we use to computecalculer in computersdes ordinateurs,
97
326000
5000
entre les éléments utilisées pour calculer dans les ordinateurs,
05:49
and the devicesdispositifs that our brainscerveaux use to computecalculer.
98
331000
4000
et les éléments utilisés par notre cerveau pour calculer.
05:53
The devicesdispositifs that computersdes ordinateurs use are what's calledappelé a transistortransistor.
99
335000
4000
Les éléments de base utilisés par les ordinateurs sont appelés les transistors.
05:57
This electrodeélectrode here, calledappelé the gateporte, controlscontrôles the flowcouler of currentactuel
100
339000
4000
Cette électrode ici, appelée un pont, contrôle le flux de courant
06:01
from the sourcela source to the draindrain -- these two electrodesélectrodes.
101
343000
3000
de l'entrée à la sortie, ces deux électrodes.
06:04
And that currentactuel, electricalélectrique currentactuel,
102
346000
2000
Et le courant, un courant éléctrique
06:06
is carriedporté by electronsélectrons, just like in your housemaison and so on.
103
348000
6000
est transporté par des électrons, exactement comme dans votre maison, etc.
06:12
And what you have here is, when you actuallyréellement turntour on the gateporte,
104
354000
5000
Et voici ce qui se passe : quand on active le pont,
06:17
you get an increaseaugmenter in the amountmontant of currentactuel, and you get a steadystable flowcouler of currentactuel.
105
359000
4000
on obtient une augmentation de la quantité de courant, il y a un flux constant de courant.
06:21
And when you turntour off the gateporte, there's no currentactuel flowingécoulement throughpar the devicedispositif.
106
363000
4000
Et quand on désactive le pont, le courant ne passe plus.
06:25
Your computerordinateur usesles usages this presenceprésence of currentactuel to representreprésenter a one,
107
367000
5000
Votre ordinateur utilise la présence de courant pour réprésenter un un,
06:30
and the absenceabsence of currentactuel to representreprésenter a zerozéro.
108
372000
4000
et l'absence de courant pour représenter un zéro.
06:34
Now, what's happeningévénement is that as transistorstransistors are gettingobtenir smallerplus petit and smallerplus petit and smallerplus petit,
109
376000
6000
Mais maintenant, ce qui se passe, c'est que les transistors sont vraiment de plus en plus petits.
06:40
they no longerplus long behavese comporter like this.
110
382000
2000
Ils ne se comportent plus comme ça.
06:42
In factfait, they are startingdépart to behavese comporter like the devicedispositif that neuronsneurones use to computecalculer,
111
384000
5000
En fait, Ils commencent à se comporter comme ce que les neurones utilisent pour calculer,
06:47
whichlequel is calledappelé an ionion channelcanal.
112
389000
2000
ce qu'on appelle les canaux ioniques.
06:49
And this is a little proteinprotéine moleculemolécule.
113
391000
2000
Et ça c'est une petite molécule de protéine.
06:51
I mean, neuronsneurones have thousandsmilliers of these.
114
393000
4000
Les neurones en ont des miliers comme ça.
06:55
And it sitsassis in the membranemembrane of the cellcellule and it's got a porepore in it.
115
397000
4000
Et ils se trouvent dans la membrane de la cellule, et il y a un pore dedans.
06:59
And these are individualindividuel potassiumpotassium ionsions
116
401000
3000
Et ça ce sont plusieurs ions potassium,
07:02
that are flowingécoulement throughpar that porepore.
117
404000
2000
qui passent à travers ce pore.
07:04
Now, this porepore can openouvrir and closeFermer.
118
406000
2000
Et ce pore peut s'ouvrir et se fermer.
07:06
But, when it's openouvrir, because these ionsions have to lineligne up
119
408000
5000
Mais, quand c'est ouvert, comme ces ions doivent être alignés
07:11
and flowcouler throughpar, one at a time, you get a kindgentil of sporadicsporadiques, not steadystable --
120
413000
5000
et ils circulent un par un, on a un courant irrégulier, pas constant --
07:16
it's a sporadicsporadiques flowcouler of currentactuel.
121
418000
3000
C'est un flux de courant sporadique.
07:19
And even when you closeFermer the porepore -- whichlequel neuronsneurones can do,
122
421000
3000
Et même avec le pore fermé, ce que les neurones peuvent faire
07:22
they can openouvrir and closeFermer these porespores to generateGénérer electricalélectrique activityactivité --
123
424000
5000
Ils ouvrent et ferment ces pores pour générer l'activité électrique --
07:27
even when it's closedfermé, because these ionsions are so smallpetit,
124
429000
3000
et même quand c'est fermé, comme ces ions sont si petits,
07:30
they can actuallyréellement sneakse faufiler throughpar, a fewpeu can sneakse faufiler throughpar at a time.
125
432000
3000
ils peuvent se faufiler à travers, quelques uns peuvent passer.
07:33
So, what you have is that when the porepore is openouvrir,
126
435000
3000
Et au final, quand un pore est ouvert,
07:36
you get some currentactuel sometimesparfois.
127
438000
2000
On a du courant de temps en temps.
07:38
These are your onesceux, but you've got a fewpeu zeroszéros thrownjeté in.
128
440000
3000
Ce sont les "un", mais il y a quelques zéros à l'intérieur.
07:41
And when it's closedfermé, you have a zerozéro,
129
443000
4000
Et quand c'est fermé, vous avez un zéro,
07:45
but you have a fewpeu onesceux thrownjeté in.
130
447000
3000
mais il y a quelques un dedans, OK.
07:48
Now, this is startingdépart to happense produire in transistorstransistors.
131
450000
3000
Et maintenant, ça commence à arriver aussi aux transistors.
07:51
And the reasonraison why that's happeningévénement is that, right now, in 2007 --
132
453000
5000
Et la raison pour laquelle ça arrive, c'est que, en ce moment même en 2007,
07:56
the technologyLa technologie that we are usingen utilisant -- a transistortransistor is biggros enoughassez
133
458000
4000
la technologie utilisée, un transistor est assez gros
08:00
that severalnombreuses electronsélectrons can flowcouler throughpar the channelcanal simultaneouslysimultanément, sidecôté by sidecôté.
134
462000
5000
pour que plusieurs électrons puissent couler ensemble à travers le canal, côte à côte.
08:05
In factfait, there's about 12 electronsélectrons can all be flowingécoulement this way.
135
467000
4000
En fait, il y a environ 12 électrons qui peuvent traverser en même temps.
08:09
And that meansveux dire that a transistortransistor correspondscorrespond
136
471000
2000
Et cela signifie qu'un transistor correspond
08:11
to about 12 ionion channelscanaux in parallelparallèle.
137
473000
3000
à environ 12 canaux ioniques en parallèle.
08:14
Now, in a fewpeu yearsannées time, by 2015, we will shrinkrétrécir transistorstransistors so much.
138
476000
5000
Mais dans quelques années, vers 2015, nous allons tellement rétrécir les transistors.
08:19
This is what IntelIntel does to keep addingajouter more coresnoyaux ontosur the chippuce.
139
481000
5000
C'est ce que fait Intel en ajoutant toujours plus de coeurs sur les puces,
08:24
Or your memoryMémoire sticksbâtons that you have now can carryporter one gigabyteGigabyte
140
486000
3000
et nos clés USB actuelles peuvent stocker un gigabyte
08:27
of stuffdes trucs on them -- before, it was 256.
141
489000
2000
de données. Avant, c'était 256.
08:29
TransistorsTransistors are gettingobtenir smallerplus petit to allowpermettre this to happense produire,
142
491000
3000
Les transistors sont de plus en plus petits pour permettre tout cela,
08:32
and technologyLa technologie has really benefitteda bénéficié from that.
143
494000
3000
et la technologie a vraiment profité de ça.
08:35
But what's happeningévénement now is that in 2015, the transistortransistor is going to becomedevenir so smallpetit,
144
497000
5000
Mais ce qui se passe, c'est qu'en 2015, les transistors seront devenus tellement petits,
08:40
that it correspondscorrespond to only one electronélectron at a time
145
502000
3000
qu'ils ne correspondent qu'à un seul électron à la fois
08:43
can flowcouler throughpar that channelcanal,
146
505000
2000
pouvant traverser ce canal,
08:45
and that correspondscorrespond to a singleunique ionion channelcanal.
147
507000
2000
et ça correspond à un seul canal ionique.
08:47
And you startdébut havingayant the sameMême kindgentil of trafficcirculation jamsconfitures that you have in the ionion channelcanal.
148
509000
4000
Et on commence à avoir le même type d'embouteillages que l'on a dans les canaux ioniques,
08:51
The currentactuel will turntour on and off at randomau hasard,
149
513000
3000
le courant va s'activer et se désactiver au hasard,
08:54
even when it's supposedsupposé to be on.
150
516000
2000
même quand il est censé être activé.
08:56
And that meansveux dire your computerordinateur is going to get
151
518000
2000
Et ça veut dire que votre ordinateur va avoir
08:58
its onesceux and zeroszéros mixedmixte up, and that's going to crashcrash your machinemachine.
152
520000
4000
ses un et ses zéros mixés, et ça va faire planter votre machine.
09:02
So, we are at the stageétape where we
153
524000
4000
Donc, voilà où nous en sommes.
09:06
don't really know how to computecalculer with these kindssortes of devicesdispositifs.
154
528000
3000
Nous ne savons pas vraiment calculer avec ce genre de matériel.
09:09
And the only kindgentil of thing -- the only thing we know right now
155
531000
3000
Et la seule chose que nous connaissons en ce moment,
09:12
that can computecalculer with these kindssortes of devicesdispositifs are the braincerveau.
156
534000
3000
qui peut calculer avec ce matériel, c'est le cerveau.
09:15
OK, so a computerordinateur pickspics a specificspécifique itemarticle of dataLes données from memoryMémoire,
157
537000
4000
OK, donc un ordinateur prend une donnée spécifique dans la mémoire,
09:19
it sendsenvoie it into the processorprocesseur or the ALUALU,
158
541000
3000
l'envoie dans le processeur ou dans l'unité logique,
09:22
and then it putsmet the resultrésultat back into memoryMémoire.
159
544000
2000
et ensuite, il remet le résultat dans la mémoire.
09:24
That's the redrouge pathchemin that's highlighteda souligné.
160
546000
2000
C'est le chemin rouge qui est surligné.
09:26
The way brainscerveaux work, I told you all, you have got all these neuronsneurones.
161
548000
4000
La façon de travailler du cerveau, vous avez tous ces neurones.
09:30
And the way they representreprésenter informationinformation is
162
552000
2000
Et leur façon de représenter l'information est
09:32
they breakPause up that dataLes données into little piecesdes morceaux
163
554000
2000
Ils divisent les données en petits morceaux
09:34
that are representedreprésentée by pulsesimpulsions and differentdifférent neuronsneurones.
164
556000
3000
qui sont représentés par des impulsions et des neurones différents.
09:37
So you have all these piecesdes morceaux of dataLes données
165
559000
2000
Donc on a tous ces bouts de donnée
09:39
distributeddistribué throughouttout au long de the networkréseau.
166
561000
2000
répartis au sein du réseau.
09:41
And then the way that you processprocessus that dataLes données to get a resultrésultat
167
563000
3000
Et puis la façon dont vous travaillez les données pour avoir un résultat
09:44
is that you translateTraduire this patternmodèle of activityactivité into a newNouveau patternmodèle of activityactivité,
168
566000
4000
c'est que vous traduisez ce modèle d'activité en un nouveau modèle,
09:48
just by it flowingécoulement throughpar the networkréseau.
169
570000
3000
juste en le faisant passer à travers le réseau.
09:51
So you setensemble up these connectionsles liaisons
170
573000
2000
Donc vous fixez ces connections
09:53
suchtel that the inputcontribution patternmodèle just flowsles flux
171
575000
3000
afin que l'influx coule à travers le réseau
09:56
and generatesgénère the outputsortie patternmodèle.
172
578000
2000
et génère le modèle final.
09:58
What you see here is that there's these redundantredondant connectionsles liaisons.
173
580000
4000
Ce que vous voyez ici, c'est qu'il y a des connections redondantes.
10:02
So if this piecepièce of dataLes données or this piecepièce of the dataLes données getsobtient clobberedmis à mal,
174
584000
4000
Donc, si un bout de donnée ou un autre est abîmé,
10:06
it doesn't showmontrer up over here, these two piecesdes morceaux can activateactiver the missingmanquant partpartie
175
588000
5000
ça n'a aucun effet, ces deux parties peuvent activer la partie manquante
10:11
with these redundantredondant connectionsles liaisons.
176
593000
2000
grâce à ces connections redondantes.
10:13
So even when you go to these crappymerdique devicesdispositifs
177
595000
2000
Donc même avec un matériel nul
10:15
where sometimesparfois you want a one and you get a zerozéro, and it doesn't showmontrer up,
178
597000
3000
avec un zéro alors que l'on veut un un,
10:18
there's redundancyredondance in the networkréseau
179
600000
2000
la redondance dans le réseau
10:20
that can actuallyréellement recoverrécupérer the missingmanquant informationinformation.
180
602000
3000
permet de retrouver l'information manquante.
10:23
It makesfait du the braincerveau inherentlyintrinsèquement robustrobuste.
181
605000
3000
Cela rend le cerveau robuste par nature.
10:26
What you have here is a systemsystème where you storele magasin dataLes données locallylocalement.
182
608000
3000
Ce que vous avez ici, c'est un système où les données sont stockées localement.
10:29
And it's brittlefragile, because eachchaque of these stepspas has to be flawlesssans faille,
183
611000
4000
Et c'est fragile, parce que chacune de ces étapes doit être parfaite,
10:33
otherwiseautrement you loseperdre that dataLes données, whereastandis que in the braincerveau, you have a systemsystème
184
615000
3000
ou sinon on perd des données. Alors que dans le cerveau, on a un système
10:36
that storesmagasins dataLes données in a distributeddistribué way, and it's robustrobuste.
185
618000
4000
qui stocke les données de façon distribuée, et c'est solide.
10:40
What I want to basicallyen gros talk about is my dreamrêver,
186
622000
4000
Ce que je veux partager, c'est mon rêve
10:44
whichlequel is to buildconstruire a computerordinateur that workstravaux like the braincerveau.
187
626000
3000
qui est de construire un ordinateur qui fonctionne comme le cerveau.
10:47
This is something that we'venous avons been workingtravail on for the last couplecouple of yearsannées.
188
629000
4000
Nous avons travaillé sur le sujet depuis une vingtaine d'années.
10:51
And I'm going to showmontrer you a systemsystème that we designedconçu
189
633000
3000
Et je vais vous montrer le système que nous avons conçu
10:54
to modelmaquette the retinarétine,
190
636000
3000
pour modéliser la rétine,
10:57
whichlequel is a piecepièce of braincerveau that lineslignes the insideà l'intérieur of your eyeballglobe oculaire.
191
639000
5000
qui est une partie du cerveau qui tapisse l'intérieur de vos yeux.
11:02
We didn't do this by actuallyréellement writingl'écriture codecode, like you do in a computerordinateur.
192
644000
6000
Nous ne l'avons pas fait en écrivant du code, comme on fait dans un ordinateur.
11:08
In factfait, the processingEn traitement that happensarrive
193
650000
3000
En fait, le processus qui se déroule
11:11
in that little piecepièce of braincerveau is very similarsimilaire
194
653000
2000
dans ce morceau de cerveau est très similaire
11:13
to the kindgentil of processingEn traitement that computersdes ordinateurs
195
655000
1000
au type de processus que les ordinateurs
11:14
do when they streamcourant videovidéo over the InternetInternet.
196
656000
4000
utilisent quand ils font du streaming vidéo sur internet.
11:18
They want to compresscompresse the informationinformation --
197
660000
1000
Ils veulent compresser l'information --
11:19
they just want to sendenvoyer the changeschangements, what's newNouveau in the imageimage, and so on --
198
661000
4000
Ils veulent envoyer uniquement les changements, ce qui est nouveau dans l'image et le son--
11:23
and that is how your eyeballglobe oculaire
199
665000
3000
et c'est la façon dont votre œil
11:26
is ablecapable to squeezeécraser all that informationinformation down to your opticoptique nervenerf,
200
668000
3000
peut faire passer toute cette information dans le nerf optique,
11:29
to sendenvoyer to the restdu repos of the braincerveau.
201
671000
2000
pour l'envoyer au reste du cerveau.
11:31
InsteadAu lieu de cela of doing this in softwareLogiciel, or doing those kindssortes of algorithmsalgorithmes,
202
673000
3000
Au lieu de faire ça par le logiciel, ou avec ces types d'algorithmes,
11:34
we wentest allé and talkeda parlé to neurobiologistsneurobiologistes
203
676000
3000
nous sommes allés parler aux neurobiologistes
11:37
who have actuallyréellement reversesens inverse engineeredmachiné that piecepièce of braincerveau that's calledappelé the retinarétine.
204
679000
4000
qui ont étudié le fonctionnement de cette partie du cerveau, la rétine.
11:41
And they figuredfiguré out all the differentdifférent cellscellules,
205
683000
2000
Et ils ont compris le rôle de chaque cellule,
11:43
and they figuredfiguré out the networkréseau, and we just tooka pris that networkréseau
206
685000
3000
et ils ont compris le réseau, et nous avons juste pris ce réseau
11:46
and we used it as the blueprintplan d’action for the designconception of a siliconsilicium chippuce.
207
688000
4000
et nous l'avons pris comme modèle pour le design d'une puce en silicone.
11:50
So now the neuronsneurones are representedreprésentée by little nodesnœuds or circuitsles circuits on the chippuce,
208
692000
6000
Et donc les neurones sont représentés par des petits noeud ou des circuits sur la puce,
11:56
and the connectionsles liaisons amongparmi the neuronsneurones are representedreprésentée, actuallyréellement modeledmodélisé by transistorstransistors.
209
698000
5000
et les connections entre les neurones sont pour l'instant modelées par des transistors.
12:01
And these transistorstransistors are behavingse comporter essentiallyessentiellement
210
703000
2000
Et ces transistors se comportent exactement
12:03
just like ionion channelscanaux behavese comporter in the braincerveau.
211
705000
3000
comme les canaux ioniques dans le cerveau.
12:06
It will give you the sameMême kindgentil of robustrobuste architecturearchitecture that I describeddécrit.
212
708000
5000
Et ça va donner le même type d'architecture que j'ai décris.
12:11
Here is actuallyréellement what our artificialartificiel eyeœil looksregards like.
213
713000
4000
Voici à quoi ressemble notre oeil artificiel.
12:15
The retinarétine chippuce that we designedconçu sitsassis behindderrière this lenslentille here.
214
717000
5000
La puce de rétine que l'on a conçue est derrière la lentille, ici.
12:20
And the chippuce -- I'm going to showmontrer you a videovidéo
215
722000
2000
Et la puce -- Je vais vous montrer une vidéo
12:22
that the siliconsilicium retinarétine put out of its outputsortie
216
724000
3000
que la puce de silicone a produit
12:25
when it was looking at KareemKareem ZaghloulZaghloul,
217
727000
3000
quand elle regardait Kareem Zaghloul,
12:28
who'squi est the studentétudiant who designedconçu this chippuce.
218
730000
2000
qui est l'étudiant qui a conçu cette puce.
12:30
Let me explainExplique what you're going to see, OK,
219
732000
2000
Laissez moi vous expliquer ce que vous allez voir, d'accord ?
12:32
because it's puttingen mettant out differentdifférent kindssortes of informationinformation,
220
734000
3000
Parce que ça mélange différents types d'information
12:35
it's not as straightforwardsimple as a cameracaméra.
221
737000
2000
et ce n'est pas aussi direct qu'un camera.
12:37
The retinarétine chippuce extractsextraits fourquatre differentdifférent kindssortes of informationinformation.
222
739000
3000
La puce de rétine extrait cinq types d'information différents.
12:40
It extractsextraits regionsles régions with darkfoncé contrastcontraste,
223
742000
3000
Elle extrait les régions avec un contraste foncé,
12:43
whichlequel will showmontrer up on the videovidéo as redrouge.
224
745000
3000
qui sera montré en rouge sur la vidéo.
12:46
And it extractsextraits regionsles régions with whiteblanc or lightlumière contrastcontraste,
225
748000
4000
Et elle extrait les régions avec les contrastes blancs ou clairs,
12:50
whichlequel will showmontrer up on the videovidéo as greenvert.
226
752000
2000
qui seront montrés en vert sur la vidéo.
12:52
This is Kareem'sDe Kareem darkfoncé eyesles yeux
227
754000
2000
Ce sont les yeux foncés de Kareem
12:54
and that's the whiteblanc backgroundContexte that you see here.
228
756000
3000
et ça, c'est l'arrière plan blanc que vous voyez ici.
12:57
And then it alsoaussi extractsextraits movementmouvement.
229
759000
2000
Et ensuite, ça extrait aussi le mouvement.
12:59
When KareemKareem movesse déplace his headtête to the right,
230
761000
2000
Quand Kareem bouge sa tête vers la droite,
13:01
you will see this bluebleu activityactivité there;
231
763000
2000
vous allez voir cette activité bleue ici,
13:03
it representsreprésente regionsles régions where the contrastcontraste is increasingen augmentant in the imageimage,
232
765000
3000
ça représente les régions où le contraste augmente dans l'image,
13:06
that's where it's going from darkfoncé to lightlumière.
233
768000
3000
c'est là où ça passe du foncé au clair.
13:09
And you alsoaussi see this yellowjaune activityactivité,
234
771000
2000
Et vous voyez aussi cette activité jaune,
13:11
whichlequel representsreprésente regionsles régions where contrastcontraste is decreasingdécroissant;
235
773000
4000
qui représente les régions où le contraste décroit,
13:15
it's going from lightlumière to darkfoncé.
236
777000
2000
ça passe du clair au foncé.
13:17
And these fourquatre typesles types of informationinformation --
237
779000
3000
Et ces cinq types d'information --
13:20
your opticoptique nervenerf has about a millionmillion fibersfibres in it,
238
782000
4000
votre nerf optique comporte environ un million de fibres,
13:24
and 900,000 of those fibersfibres
239
786000
3000
et 900 000 de ces fibres
13:27
sendenvoyer these fourquatre typesles types of informationinformation.
240
789000
2000
envoient ces cinq types d'information.
13:29
So we are really duplicatingduplication de the kindgentil of signalssignaux that you have on the opticoptique nervenerf.
241
791000
4000
Donc on a vraiment copié le type de signal que l'on a dans le nerf optique.
13:33
What you noticeremarquer here is that these snapshotscaptures instantanées
242
795000
3000
Vous pouvez remarquer que ces captures d'écran
13:36
takenpris from the outputsortie of the retinarétine chippuce are very sparseclairsemée, right?
243
798000
4000
prises à la sortie de la puce rétinienne sont très clairsemées.
13:40
It doesn't lightlumière up greenvert everywherepartout in the backgroundContexte,
244
802000
2000
Ca ne s'affiche pas en vert partout sur l'arrière plan,
13:42
only on the edgesbords, and then in the haircheveux, and so on.
245
804000
3000
seulement sur les bords, etc.
13:45
And this is the sameMême thing you see
246
807000
1000
Et c'est la même chose que l'on voit
13:46
when people compresscompresse videovidéo to sendenvoyer: they want to make it very sparseclairsemée,
247
808000
4000
quand les gens compressent la vidéo pour l'envoyer : ils veulent la rendre très clairsemée,
13:50
because that filefichier is smallerplus petit. And this is what the retinarétine is doing,
248
812000
3000
parce que le fichier est plus petit. Et c'est ce que la rétine fait,
13:53
and it's doing it just with the circuitrycircuits, and how this networkréseau of neuronsneurones
249
815000
4000
et elle le fait seulement avec le circuit, et la façon dont ce réseau de neurone
13:57
that are interactinginteragir in there, whichlequel we'venous avons capturedcapturé on the chippuce.
250
819000
3000
qui interagissent dedans, que nous avons capturés dans la puce.
14:00
But the pointpoint that I want to make -- I'll showmontrer you up here.
251
822000
3000
Mais le point que je veux faire, je vais vous le montrer ici.
14:03
So this imageimage here is going to look like these onesceux,
252
825000
3000
Donc cette image va paraitre comme celles-ci,
14:06
but here I'll showmontrer you that we can reconstructreconstruire the imageimage,
253
828000
2000
mais ici, je vais vous montrer que l'on peut reconstruire l'image,
14:08
so, you know, you can almostpresque recognizereconnaître KareemKareem in that topHaut partpartie there.
254
830000
5000
pour que l'on puisse presque reconnaitre Kareem dans la partie du haut.
14:13
And so, here you go.
255
835000
2000
On y va.
14:24
Yes, so that's the ideaidée.
256
846000
3000
Voilà, c'est ça l'idée.
14:27
When you standsupporter still, you just see the lightlumière and darkfoncé contrastscontrastes.
257
849000
2000
Quand vous restez immobile, on voit juste ces contrastes clairs et foncés.
14:29
But when it's movingen mouvement back and forthavant,
258
851000
2000
Mais quand ça fait un mouvement de va et vient,
14:31
the retinarétine pickspics up these changeschangements.
259
853000
3000
la rétine détecte ces changements.
14:34
And that's why, you know, when you're sittingséance here
260
856000
1000
Et c'est pourquoi, vous savez, quand on est là
14:35
and something happensarrive in your backgroundContexte,
261
857000
2000
et que quelque chose se passe dans l'arrière plan,
14:37
you merelyseulement movebouge toi your eyesles yeux to it.
262
859000
2000
vous déplacez à peine vos yeux.
14:39
There are these cellscellules that detectdétecter changechangement
263
861000
2000
Ce sont les petites cellules qui détectent le changement
14:41
and you movebouge toi your attentionattention to it.
264
863000
2000
et votre attention se porte sur lui.
14:43
So those are very importantimportant for catchingcontagieux somebodyquelqu'un
265
865000
2000
Donc c'est très important pour attraper quelqu'un
14:45
who'squi est tryingen essayant to sneakse faufiler up on you.
266
867000
2000
qui s'approche furtivement.
14:47
Let me just endfin by sayingen disant that this is what happensarrive
267
869000
3000
Laissez moi juste finir en vous montrant ce qui se passe
14:50
when you put AfricaL’Afrique in a pianopiano, OK.
268
872000
3000
quand on met l'Afrique dans un piano, OK.
14:53
This is a steelacier drumtambour here that has been modifiedmodifié,
269
875000
3000
C'est un tambour en métal qui a été modifié,
14:56
and that's what happensarrive when you put AfricaL’Afrique in a pianopiano.
270
878000
3000
et c'est ce qui arrive quand on met l'Afrique dans un piano.
14:59
And what I would like us to do is put AfricaL’Afrique in the computerordinateur,
271
881000
4000
Et ce que je voudrait que l'on fasse, c'est de mettre l'Afrique dans un ordinateur,
15:03
and come up with a newNouveau kindgentil of computerordinateur
272
885000
2000
et de créer un nouveau type d'ordinateur
15:05
that will generateGénérer thought, imaginationimagination, be creativeCréatif and things like that.
273
887000
3000
qui va générer de la pensée, de l'imagination, qui sera créatif, et caetera.
15:08
Thank you.
274
890000
2000
Merci.
15:10
(ApplauseApplaudissements)
275
892000
2000
(Applaudissements)
15:12
ChrisChris AndersonAnderson: QuestionQuestion for you, KwabenaKwabena.
276
894000
2000
Chris Anderson : J'ai une question pour vous, Kwabena.
15:14
Do you put togetherensemble in your mindesprit the work you're doing,
277
896000
4000
Est ce que vous associez dans votre esprit le travail que vous faites
15:18
the futureavenir of AfricaL’Afrique, this conferenceconférence --
278
900000
3000
et l'avenir de l'Afrique, cette conférence --
15:21
what connectionsles liaisons can we make, if any, betweenentre them?
279
903000
3000
quelles connections peut t'on faire entre ces choses ?
15:24
KwabenaKwabena BoahenBoahen: Yes, like I said at the beginningdébut,
280
906000
2000
Kwabena Boahen : Oui, comme je l'ai dit au début.
15:26
I got my first computerordinateur when I was a teenageradolescent, growingcroissance up in AccraAccra.
281
908000
4000
J'ai eu mon premier ordinateur quand j'étais adolescent à Accra.
15:30
And I had this gutintestin reactionréaction that this was the wrongfaux way to do it.
282
912000
4000
Et j'ai eu cette réaction instinctive que c'était la mauvaise façon de faire.
15:34
It was very brutebrute forceObliger; it was very inelegantinélégant.
283
916000
3000
C'était une démarche de force brute, pas du tout élégante.
15:37
I don't think that I would'veaurais had that reactionréaction,
284
919000
2000
Je ne pense pas que j'aurais eu cette réaction,
15:39
if I'd growncultivé up readingen train de lire all this sciencescience fictionfiction,
285
921000
3000
si je n'avais pas grandi en lisant toute cette science-fiction,
15:42
hearingaudition about RDRD2D2, whateverpeu importe it was calledappelé, and just -- you know,
286
924000
4000
qui parlait de RD2D2, peu importe comment on l'appelle, et juste -- vous savez
15:46
buyingachat into this hypehype about computersdes ordinateurs.
287
928000
1000
et été complètement fasciné par tout ce battage sur les ordinateurs.
15:47
I was comingvenir at it from a differentdifférent perspectivela perspective,
288
929000
2000
Je m'en suis approché avec une perspective différente,
15:49
where I was bringingapportant that differentdifférent perspectivela perspective
289
931000
2000
où j'utilisais cette perspective différente
15:51
to bearours on the problemproblème.
290
933000
2000
pour résoudre le problème.
15:53
And I think a lot of people in AfricaL’Afrique have this differentdifférent perspectivela perspective,
291
935000
3000
Et je pense que beaucoup d'Africains ont ce point de vue différent,
15:56
and I think that's going to impactimpact technologyLa technologie.
292
938000
2000
et je pense que ça aura un impact sur la technologie.
15:58
And that's going to impactimpact how it's going to evolveévoluer.
293
940000
2000
Et que ça va modifier son évolution.
16:00
And I think you're going to be ablecapable to see, use that infusionperfusion,
294
942000
2000
Et je pense qu'on va bientôt pouvoir utiliser cette contribution
16:02
to come up with newNouveau things,
295
944000
2000
pour arriver à de nouvelles choses,
16:04
because you're comingvenir from a differentdifférent perspectivela perspective.
296
946000
3000
parce que nous venons d'un horizon différent.
16:07
I think we can contributecontribuer. We can dreamrêver like everybodyTout le monde elseautre.
297
949000
4000
Je pense que nous pouvons contribuer, que nous pouvons rêver comme n'importe qui d'autre.
16:11
CACA: ThanksMerci KwabenaKwabena, that was really interestingintéressant.
298
953000
2000
Chris Anderson : Merci Kwabena, c'était vraiment intéressant.
16:13
Thank you.
299
955000
1000
Merci.
16:14
(ApplauseApplaudissements)
300
956000
2000
(Applaudissements)
Translated by Mathieu Galle
Reviewed by Fabienne Der Hagopian

▲Back to top

ABOUT THE SPEAKER
Kwabena Boahen - Bioengineer
Kwabena Boahen wants to understand how brains work -- and to build a computer that works like the brain by reverse-engineering the nervous system. His group at Stanford is developing Neurogrid, a hardware platform that will emulate the cortex’s inner workings.

Why you should listen

Kwabena Boahen is the principal investigator at the Brains in Silicon lab at Stanford. He writes of himself:

Being a scientist at heart, I want to understand how cognition arises from neuronal properties. Being an engineer by training, I am using silicon integrated circuits to emulate the way neurons compute, linking the seemingly disparate fields of electronics and computer science with neurobiology and medicine.

My group's contributions to the field of neuromorphic engineering include a silicon retina that could be used to give the blind sight and a self-organizing chip that emulates the way the developing brain wires itself up. Our work is widely recognized, with over sixty publications, including a cover story in the May 2005 issue of Scientific American.

My current research interest is building a simulation platform that will enable the cortex's inner workings to be modeled in detail. While progress has been made linking neuronal properties to brain rhythms, the task of scaling up these models to link neuronal properties to cognition still remains. Making the supercomputer-performance required affordable is the goal of our Neurogrid project. It is at the vanguard of a profound shift in computing, away from the sequential, step-by-step Von Neumann machine towards a parallel, interconnected architecture more like the brain.

More profile about the speaker
Kwabena Boahen | Speaker | TED.com

Data provided by TED.

This site was created in May 2015 and the last update was on January 12, 2020. It will no longer be updated.

We are currently creating a new site called "eng.lish.video" and would be grateful if you could access it.

If you have any questions or suggestions, please feel free to write comments in your language on the contact form.

Privacy Policy

Developer's Blog

Buy Me A Coffee