ABOUT THE SPEAKER
John Searle - Philosopher
John Searle has made countless contributions to contemporary thinking about consciousness, language, artificial intelligence and rationality itself.

Why you should listen

American philosopher John Serle has made countless contributions to contemporary thinking about consciousness, language, artificial intelligence and rationality itself. In his early work, he focused on the nature of language and what we are conveying when we speak and how the intention behind what we intend to say can the meaning of words from context to context.

He is best known for his “Chinese Room” thought experiment, which challenges the notion of a truly intelligent artificial intelligence. In it, he imagines a room containing an individual, who speaks only English, working with a set of English instructions to write a series of Chinese characters in order to anonymous communicate with a Chinese speaker outside the room. If that individual follows the instructions carefully, she can effectively fool the Chinese speaker into thinking he’s talking to someone who understands his language. Serle argues that, at the very least, the metaphor raises deep complications as to whether or not one can truly describe convincing simulations of intelligence as intelligent.

He remains of firm believer that subjective experiences are real -- even if they don’t always describe things are they really are -- and are worth thinking about in objective terms because of it.

More profile about the speaker
John Searle | Speaker | TED.com
TEDxCERN

John Searle: Our shared condition -- consciousness

John Searle: Naše zajedničko stanje -- svijest

Filmed:
1,460,625 views

Filozof John Searle prezentira proučavanje ljudske svijesti -- i sustavno pobija neke od čestih prigovora ozbiljnom proučavanju. Kako učimo sve više o procesima u mozgu koji uzrokuju svijest, prihvaćanje da je svijest biološki fenomen je važan prvi korak. I ne, kaže Searle, svijest nije ogromna kompjuterska simulacija. (Snimljeno u TEDxCERN.)
- Philosopher
John Searle has made countless contributions to contemporary thinking about consciousness, language, artificial intelligence and rationality itself. Full bio

Double-click the English transcript below to play the video.

00:12
I'm going to talk about consciousnesssvijest.
0
464
2617
Govorit ću o svijesti.
00:15
Why consciousnesssvijest?
1
3081
1480
Zašto o svijesti?
00:16
Well, it's a curiouslyradoznalo neglectedzanemaren subjectpredmet,
2
4561
2826
Pa, to je začudno zanemarena tema,
00:19
bothoba in our scientificznanstvena and our philosophicalfilozofski cultureKultura.
3
7387
3564
i u našoj znanstvenoj i
u našoj filozofskoj kulturi.
00:22
Now why is that curiousznatiželjan?
4
10951
1272
Zašto je to začudno?
00:24
Well, it is the mostnajviše importantvažno aspectaspekt of our livesživot
5
12223
3510
Pa, to je najvažniji aspekt naših života
00:27
for a very simplejednostavan, logicallogičan reasonrazlog,
6
15733
1958
iz vrlo jednostavnog, logičkog razloga,
00:29
namelynaime, it's a necessarypotreban conditionstanje on anything
7
17691
2397
naime, nužni uvjet da bi išta
00:32
beingbiće importantvažno in our livesživot that we're conscioussvjestan.
8
20088
2477
bilo važno u našim životima,
jest da smo svjesni.
00:34
You carebriga about scienceznanost, philosophyfilozofija, musicglazba, artumjetnost, whateveršto god --
9
22565
3159
Stalo vam je do znanosti,
glazbe, umjetnosti, čega god --
00:37
it's no good if you're a zombiezombi or in a comaKomu, right?
10
25724
3478
no to ne vrijedi ako ste zombi
ili ako ste u komi, zar ne?
00:41
So consciousnesssvijest is numberbroj one.
11
29202
2344
Zato je svijest broj jedan.
00:43
The seconddrugi reasonrazlog is that when people do
12
31546
2468
Drugi je razlog to što,
kad se ljudi konačno počnu
00:46
get interestedzainteresiran in it, as I think they should,
13
34014
2316
zanimati za svijest,
kao što smatram da trebaju,
00:48
they tendskloni to say the mostnajviše appallingužasan things.
14
36330
2851
imaju tendenciju govoriti
najužasnije stvari.
00:51
And then, even when they're not sayingizreka appallingužasan things
15
39181
2159
I onda, čak i kad
ne govore najužasnije stvari
00:53
and they're really tryingtežak to do seriousozbiljan researchistraživanje,
16
41340
2129
i kad zaista pokušavaju
ozbiljno istraživati,
00:55
well, it's been slowusporiti. ProgressNapredak has been slowusporiti.
17
43469
3855
pa, bilo je sporo. Progres je bio spor.
00:59
When I first got interestedzainteresiran in this, I thought, well,
18
47324
3140
Kada me je ovo počelo zanimati,
mislio sam, pa,
01:02
it's a straightforwardiskren problemproblem in biologybiologija.
19
50464
2206
to je jednostavan problem u biologiji.
01:04
Let's get these brainmozak stabbersstabbers to get busyzauzet and figurelik out
20
52670
2497
Neka oni što bodu mozgove
počnu raditi i shvate kako
01:07
how it worksdjela in the brainmozak.
21
55167
884
to radi u mozgu.
01:08
So I wentotišao over to UCSFUCSF and I talkedRazgovarao to all
22
56051
1902
Tako sam otišao u UCSF i razgovarao sa
01:09
the heavy-dutyteške uvjete neurobiologistsneurobiologists there,
23
57953
1915
svim neurobiolozima ondje,
01:11
and they showedpokazala some impatiencenestrpljivost,
24
59868
1576
i pokazali su nestrpljenje,
01:13
as scientistsznanstvenici oftenčesto do when you askpitati them embarrassingneugodno questionspitanja.
25
61444
3383
kao što to znanstvenici često čine
kada im postavljate neugodna pitanja.
01:16
But the thing that struckpogođen me is, one guy said in exasperationogorčenje,
26
64827
3758
No, ono što me iznenadilo je,
jedan je čovjek ogorčeno rekao,
01:20
a very famouspoznat neurobiologistpoznavati, he said, "Look,
27
68585
2015
jako poznat neurobiolog,
rekao je, "Gledaj,
01:22
in my disciplinedisciplina it's okay to be interestedzainteresiran in consciousnesssvijest,
28
70600
3575
u mojoj disciplini u redu je
interesirati se za svijest,
01:26
but get tenurezakup first. Get tenurezakup first."
29
74175
3567
no prvo moraš dobiti poziciju.
Prvo dobij poziciju."
01:29
Now I've been workingrad on this for a long time.
30
77742
2718
Radio sam na ovome dugo vrijeme.
01:32
I think now you mightmoć actuallyzapravo get tenurezakup
31
80460
1978
Mislim da bi sada i mogli dobiti poziciju
01:34
by workingrad on consciousnesssvijest.
32
82438
1291
radeći na svijesti.
01:35
If so, that's a realstvaran stepkorak forwardnaprijed.
33
83729
2613
Ako je tako, onda je to
pravi korak unaprijed.
01:38
Okay, now why then is this curiousznatiželjan reluctancenevoljkost
34
86342
2905
Zašto postoji taj čudan otpor
01:41
and curiousznatiželjan hostilityneprijateljstvo to consciousnesssvijest?
35
89247
1898
i čudno neprijateljstvo
prema svijesti?
01:43
Well, I think it's a combinationkombinacija of two featuresznačajke
36
91145
2730
Mislim da je to kombinacija dvije odlike
01:45
of our intellectualintelektualac cultureKultura
37
93875
1905
naše intelektualne kulture
01:47
that like to think they're opposingsuprotstavljanje eachsvaki other
38
95780
2526
koje vole misliti da su
suprotne jedna drugoj,
01:50
but in factčinjenica they sharePodjeli a commonzajednička setset of assumptionspretpostavke.
39
98306
3623
no u stvari dijele isti set pretpostavki.
01:53
One featuresvojstvo is the traditiontradicija of religiousvjerski dualismdualizam:
40
101929
3962
Jedna odlika je tradicija
religioznog dualizma:
01:57
ConsciousnessSvijest is not a partdio of the physicalfizička worldsvijet.
41
105891
3325
Svijest nije dio fizičkog svijeta.
02:01
It's a partdio of the spiritualduhovni worldsvijet.
42
109216
1927
Ona je dio duhovnog svijeta.
02:03
It belongspripada to the soulduša,
43
111143
1536
Pripada duši,
02:04
and the soulduša is not a partdio of the physicalfizička worldsvijet.
44
112679
3296
a duša nije dio fizičkog svijeta.
02:07
That's the traditiontradicija of God, the soulduša and immortalitybesmrtnost.
45
115975
3031
To je tradicija Boga, duše i besmrtnosti.
02:11
There's anotherjoš traditiontradicija that thinksmisli it's opposedZa razliku to this
46
119006
2105
Postoji i druga tradicija koja misli da je
02:13
but acceptsprihvaća the worstnajgori assumptionpretpostavka.
47
121111
2104
suprotna, no prihvaća
najgoru pretpostavku.
02:15
That traditiontradicija thinksmisli that we are heavy-dutyteške uvjete scientificznanstvena materialistsmaterijalistima:
48
123215
4078
Ta tradicija misli da smo
tvrdi znanstveni materijalisti:
02:19
ConsciousnessSvijest is not a partdio of the physicalfizička worldsvijet.
49
127293
3465
Svijest nije dio fizičkog svijeta.
02:22
EitherU svakom it doesn't existpostojati at all, or it's something elsedrugo,
50
130758
2646
Ili uopće ne postoji, ili je nešto drugo,
02:25
a computerračunalo programprogram or some damnproklet foolbudala thing,
51
133404
2650
kompjuterski program ili
neka druga stvar,
02:28
but in any casespis it's not partdio of scienceznanost.
52
136054
3195
ali u svakom slučaju nije dio znanosti.
02:31
And I used to get in an argumentargument that really gavedali me a stomachachebol u trbuhu.
53
139249
2208
I ulazio sam u raspravu
od koje me trbuh bolio.
02:33
Here'sOvdje je how it wentotišao.
54
141457
1619
Išla je ovako.
02:35
ScienceZnanost is objectivecilj, consciousnesssvijest is subjectivesubjektivan,
55
143076
4032
Znanost je objektivna,
svijest je subjektivna,
02:39
thereforestoga there cannotNe možete be a scienceznanost of consciousnesssvijest.
56
147108
3327
dakle, ne može postojati
znanost svijesti.
02:42
Okay, so these twinblizanac traditionstradicija are paralyzingparalizira us.
57
150435
6504
U redu, dakle, te blizanačke
tradicije nas paraliziraju.
02:48
It's very hardteško to get out of these twinblizanac traditionstradicija.
58
156939
2868
Vrlo je teško izaći iz tih
blizanačkih tradicija.
02:51
And I have only one realstvaran messageporuka in this lecturepredavanje,
59
159807
3018
I imam samo jednu pravu poruku
u ovom predavanju,
02:54
and that is, consciousnesssvijest is a biologicalbiološki phenomenonfenomen
60
162825
3384
a to je, svijest je biološki fenomen
02:58
like photosynthesisfotosinteza, digestionprobavu, mitosisMitoza --
61
166209
2889
poput fotosinteze, probave, mitoze --
03:01
you know all the biologicalbiološki phenomenapojave -- and oncejednom you acceptprihvatiti that,
62
169098
4335
svih bioloških fenomena --
i jednom kad to prihvatite,
03:05
mostnajviše, thoughiako not all, of the hardteško problemsproblemi
63
173433
2639
većina, iako ne svi, velikih problema
03:08
about consciousnesssvijest simplyjednostavno evaporateispariti.
64
176072
2275
vezanih uz svijest, jednostavno nestane.
03:10
And I'm going to go throughkroz some of them.
65
178347
2053
I razmotrit ću neke od njih.
03:12
Okay, now I promisedObećao you to tell you some
66
180400
2333
U redu, obećao sam da
ću vam ispričati neke
03:14
of the outrageouspretjeran things said about consciousnesssvijest.
67
182733
2739
od nečuvenih stvari izrečenih o svijesti.
03:17
One: ConsciousnessSvijest does not existpostojati.
68
185472
3600
Prva: Svijest ne postoji.
03:21
It's an illusioniluzija, like sunsetsZalasci sunca.
69
189072
2230
To je iluzija, poput zalazaka sunca.
03:23
ScienceZnanost has shownprikazan sunsetsZalasci sunca and rainbowsduge are illusionsiluzije.
70
191302
5065
Znanost je pokazala da su
zalasci sunca i duge iluzije.
03:28
So consciousnesssvijest is an illusioniluzija.
71
196367
1923
Tako, svijest je iluzija.
03:30
Two: Well, maybe it existspostoji, but it's really something elsedrugo.
72
198290
3255
Druga: Pa, možda postoji,
ali je zapravo nešto drugo.
03:33
It's a computerračunalo programprogram runningtrčanje in the brainmozak.
73
201545
3781
To je kompjuterski program u mozgu.
03:37
ThreeTri: No, the only thing that existspostoji is really behaviorponašanje.
74
205326
3814
Treća: Ne, jedina stvar koja
zapravo postoji je ponašanje.
03:41
It's embarrassingneugodno how influentialutjecajni behaviorismBiheviorizam was,
75
209140
3608
Sramotno je koliko je
biheviorizam bio utjecajan,
03:44
but I'll get back to that.
76
212748
1355
no vratit ću se na to.
03:46
And fourčetiri: Maybe consciousnesssvijest existspostoji,
77
214103
2734
I četvrta: Možda svijest postoji,
03:48
but it can't make any differencerazlika to the worldsvijet.
78
216837
2143
no ne može učiniti
nikakvu razliku u svijetu.
03:50
How could spiritualityduhovnost movepotez anything?
79
218980
2792
Kako bi duhovnost mogla išta pomaknuti?
03:53
Now, wheneverkada somebodyneko tellsgovori me that, I think,
80
221772
1795
Kad god mi netko to kaže, pomislim,
03:55
you want to see spiritualityduhovnost movepotez something?
81
223567
2290
želiš li vidjeti kako duhovnost
nešto pomiče?
03:57
Watch. I decideodlučiti consciouslysvjesno to raisepodići my armruka,
82
225857
3272
Pogledaj, svjesno odlučim
podići svoju ruku,
04:01
and the damnproklet thing goeside up. (LaughterSmijeh)
83
229129
2609
i vražja stvar ide gore. (smijeh)
04:03
FurthermoreNadalje, noticeobavijest this:
84
231738
3771
Štoviše, primijetite ovo:
04:07
We do not say, "Well, it's a bitbit like the weathervrijeme in GenevaGeneva.
85
235509
3995
ne kažemo, "pa, to je pomalo
kao vrijeme u Ženevi,
04:11
Some daysdana it goeside up and some daysdana it doesn't go up."
86
239504
2648
nekada ide gore, a nekada ne."
04:14
No. It goeside up wheneverkada I damnproklet well want it to.
87
242152
2655
Ne, ide gore kad god ja želim da ide.
04:16
Okay. I'm going to tell you how that's possiblemoguće.
88
244807
2038
U redu, reći ću vam kako je to moguće.
04:18
Now, I haven'tnisu yetjoš givendan you a definitiondefinicija.
89
246845
3771
Nisam vam još dao definiciju.
04:22
You can't do this if you don't give a definitiondefinicija.
90
250616
2252
Ne možete to učiniti
ako ne date definiciju.
04:24
People always say consciousnesssvijest is very hardteško to definedefinirati.
91
252868
3092
Ljudi uvijek kažu da je
svijest jako teško definirati.
04:27
I think it's ratherradije easylako to definedefinirati
92
255960
1883
Ja mislim da ju je lako definirati,
04:29
if you're not tryingtežak to give a scientificznanstvena definitiondefinicija.
93
257843
2209
ako ne pokušate dati
znanstvenu definiciju.
04:32
We're not readyspreman for a scientificznanstvena definitiondefinicija,
94
260052
2280
Nismo spremni za znanstvenu definiciju,
04:34
but here'sevo a common-senserazum definitiondefinicija.
95
262332
1739
no evo zdravorazumske definicije.
04:36
ConsciousnessSvijest consistssastoji se of all those statesDržave of feelingosjećaj
96
264071
2849
Svijest se sastoji od svih
tih stanja osjećanja
04:38
or sentiencepotpuno svjesna or awarenesssvijest.
97
266920
2068
ili osjeta ili svjesnosti.
04:40
It beginspočinje in the morningjutro when you wakeprobuditi up from a dreamlessBez snova sleepspavati,
98
268988
3558
Počinje ujutro kad se
probudite iz sna bez snova,
04:44
and it goeside on all day untildo you fallpad asleepzaspao
99
272546
2469
i nastavlja se cijeli dan dok ne zaspete
04:47
or dieumrijeti or otherwiseinače becomepostati unconsciousbez svijesti.
100
275015
3198
ili umrete ili na drugi način
postanete nesvjesni.
04:50
DreamsSnovi are a formoblik of consciousnesssvijest on this definitiondefinicija.
101
278213
3120
Snovi su oblik svijesti
po ovoj definiciji.
04:53
Now, that's the common-senserazum definitiondefinicija. That's our targetcilj.
102
281333
2902
To je zdravorazumska definicija.
To je naš cilj.
04:56
If you're not talkingkoji govori about that, you're not talkingkoji govori about consciousnesssvijest.
103
284235
3485
Ako ne govorite o tome,
ne govorite o svijesti.
04:59
But they think, "Well, if that's it, that's an awfulgrozan problemproblem.
104
287720
3500
Ali oni misle, "Ako je to to,
onda je to užasan problem.
05:03
How can suchtakav a thing existpostojati as partdio of the realstvaran worldsvijet?"
105
291220
3958
Kako bi takva stvar mogla
postojati kao dio stvarnog svijeta?"
05:07
And this, if you've ever had a philosophyfilozofija coursenaravno,
106
295178
1890
A ovo, ako ste ikada imali filozofiju
05:09
this is knownznan as the famouspoznat mind-bodyum-tijelo problemproblem.
107
297068
3219
kao predmet, je poznato kao slavni
problem odnosa uma i tijela.
05:12
I think that has a simplejednostavan solutionriješenje too. I'm going to give it to you.
108
300287
2845
Mislim da ima jednostavno rješenje.
Obrazložit ću vam ga.
05:15
And here it is: All of our conscioussvjestan statesDržave, withoutbez exceptionizuzetak,
109
303132
4420
Evo ga: Sva naša svjesna stanja,
bez iznimke,
05:19
are causedizazvan by lower-levelniže razine neurobiologicalneurobiološki processesprocesi in the brainmozak,
110
307552
5525
uzrokovana su neurobiološkim
procesima u mozgu na nižoj razini,
05:25
and they are realizedshvatio in the brainmozak
111
313077
2181
a ostvaruju se u mozgu
05:27
as higher-levelviša razina or systemsistem featuresznačajke.
112
315258
2334
kao svojstva na višoj razini
ili svojstva sustava.
05:29
It's about as mysteriousmisteriozan as the liquiditylikvidnosti of watervoda.
113
317592
3156
Otprilike je misteriozno
kao i tekuće stanje vode.
05:32
Right? The liquiditylikvidnosti is not an extraekstra juicesok squirtedsquirted out
114
320748
3475
Tekuće stanje nije nešto dodatno što
05:36
by the H2O moleculesmolekule.
115
324223
1690
H2O molekule proizvode.
05:37
It's a conditionstanje that the systemsistem is in.
116
325913
2878
To je stanje u kojem se sustav nalazi.
05:40
And just as the jarstaklenka fullpuni of watervoda can go from liquidtekući to solidsolidan
117
328791
5162
I kao što staklenka puna vode
može ići od tekućeg do krutog
05:45
dependingovisno on the behaviorponašanje of the moleculesmolekule,
118
333953
1953
ovisno o ponašanju molekula,
05:47
so your brainmozak can go from a statedržava of beingbiće conscioussvjestan
119
335906
2996
tako vaš mozak može ići
od stanja u kojem je nesvjestan
05:50
to a statedržava of beingbiće unconsciousbez svijesti,
120
338902
1640
do stanja svjesnosti,
05:52
dependingovisno on the behaviorponašanje of the moleculesmolekule.
121
340542
2986
ovisno o ponašanju molekula.
05:55
The famouspoznat mind-bodyum-tijelo problemproblem is that simplejednostavan.
122
343528
4385
Slavni problem odnosa duha i tijela
je toliko jednostavan.
05:59
All right? But now we get into some harderteže questionspitanja.
123
347913
3177
Ali sad nailazimo na neka teža pitanja.
06:03
Let's specifyodrediti the exacttočno featuresznačajke of consciousnesssvijest,
124
351090
3444
Specificirajmo točno svojstva svijesti,
06:06
so that we can then answerodgovor those fourčetiri objectionsprimjedbe
125
354534
2472
tako da možemo odgovoriti
na ona četiri prigovora
06:09
that I madenapravljen to it.
126
357006
1287
koja sam uputio.
06:10
Well, the first featuresvojstvo is, it's realstvaran and irreducibleNesvodiva.
127
358293
4267
Prvo svojstvo jest da
je stvarna i ireducibilna.
06:14
You can't get ridosloboditi of it.
128
362560
2054
Ne možete je se riješiti.
06:16
You see, the distinctionrazlika betweenizmeđu realitystvarnost and illusioniluzija
129
364614
4171
Razlika između stvarnosti i iluzije
06:20
is the distinctionrazlika betweenizmeđu how things
130
368785
2669
je razlika između toga kako se stvari
06:23
consciouslysvjesno seemčiniti se to us and how they really are.
131
371454
3874
nama čine i kakve zaista jesu.
06:27
It consciouslysvjesno seemsčini se like there's --
132
375328
1876
Čini se kao da postoji --
06:29
I like the Frenchfrancuski "arc-en-cielARC-en-ciel" —
133
377204
1668
kao francuski "arc-en-ciel" --
06:30
it seemsčini se like there's an archluk in the skynebo,
134
378872
2198
čini se kao da postoji luk na nebu,
06:33
or it seemsčini se like the sunsunce is settingpostavljanje over the mountainsplanine.
135
381070
3780
ili se čini kao da sunce
zalazi iza planina.
06:36
It consciouslysvjesno seemsčini se to us, but that's not really happeningdogađa.
136
384850
3097
To se nama čini,
ali to se zaista ne događa.
06:39
But for that distinctionrazlika betweenizmeđu
137
387947
1927
No to je distinkcija između
06:41
how things consciouslysvjesno seemčiniti se and how they really are,
138
389874
2465
onoga kako se stvari
nama čine i kakve su zaista,
06:44
you can't make that distinctionrazlika for the very existencepostojanje of consciousnesssvijest,
139
392339
4091
ne možete napraviti tu distinkciju
za samo postojanje svijesti,
06:48
because where the very existencepostojanje of consciousnesssvijest is concernedzabrinut,
140
396430
3851
zato što, kad se razmatra
samo postojanje svijesti,
06:52
if it consciouslysvjesno seemsčini se to you that you are conscioussvjestan,
141
400281
2980
ako se svjesno vama čini da ste svjesni,
06:55
you are conscioussvjestan.
142
403261
1885
onda ste svjesni.
06:57
I mean, if a bunchmnogo of expertsstručnjaci come to me and say,
143
405146
3354
Hoću reći, ako mi hrpa
stručnjaka priđe i kaže,
07:00
"We are heavy-dutyteške uvjete neurobiologistsneurobiologists and we'veimamo doneučinio a studystudija
144
408500
2286
"Mi smo neurobiolozi i istražili smo vas,
07:02
of you, SearleSearle, and we're convinceduvjeren you are not conscioussvjestan,
145
410786
3155
Searle, i uvjereni smo da niste svjesni,
07:05
you are a very cleverlypametno constructedkonstruiran robotrobot,"
146
413941
2028
vi ste vrlo pametno konstruiran robot",
07:07
I don't think, "Well, maybe these guys are right, you know?"
147
415969
3313
ne bih mislio, "pa, možda su oni u pravu".
07:11
I don't think that for a momenttrenutak, because, I mean,
148
419282
2563
Ne bih to ni na trenutak pomislio jer,
Descartes je
07:13
DescartesDescartes maysvibanj have madenapravljen a lot of mistakesgreške, but he was right about this.
149
421845
2910
možda napravio puno pogrešaka,
no u ovome je bio u pravu.
07:16
You cannotNe možete doubtsumnjati the existencepostojanje of your ownvlastiti consciousnesssvijest.
150
424755
2955
Ne možete sumnjati u
postojanje vlastite svijesti.
07:19
Okay, that's the first featuresvojstvo of consciousnesssvijest.
151
427710
2173
U redu, to je prvo svojstvo svijesti.
07:21
It's realstvaran and irreducibleNesvodiva.
152
429883
1941
Stvarna je i ireducibilna.
07:23
You cannotNe možete get ridosloboditi of it by showingpokazivanje that it's an illusioniluzija
153
431824
3231
Ne možete je se riješiti tako što
pokažete da je iluzija
07:27
in a way that you can with other standardstandard illusionsiluzije.
154
435055
3229
na način na koji to možete s
drugim standardnim iluzijama.
07:30
Okay, the seconddrugi featuresvojstvo is this one
155
438284
2532
Sljedeće svojstvo je ono
07:32
that has been suchtakav a sourceizvor of troublenevolja to us,
156
440816
2465
koje nas je dugo mučilo,
07:35
and that is, all of our conscioussvjestan statesDržave
157
443281
2182
a to je da sva naša svjesna stanja
07:37
have this qualitativekvalitativne characterlik to them.
158
445463
2964
imaju kvalitativan karakter.
07:40
There's something that it feelsosjeća like to drinkpiće beerpivo
159
448427
2396
Postoji nešto kako je to piti pivo
07:42
whichkoji is not what it feelsosjeća like to do your incomeprihod taxporez
160
450823
2954
koje je različito od onog
kako je to obračunavati porez
07:45
or listen to musicglazba, and this qualitativekvalitativne feel
161
453777
3068
ili slušati glazbu,
a ovaj kvalitativan osjećaj
07:48
automaticallyautomatsko generatesgenerira a thirdtreći featuresvojstvo,
162
456845
2561
automatski generira treće svojstvo,
07:51
namelynaime, conscioussvjestan statesDržave are by definitiondefinicija subjectivesubjektivan
163
459406
3794
naime, svjesna stanja su
po definiciji subjektivna
07:55
in the senseosjećaj that they only existpostojati as experiencediskusan
164
463200
2955
u smislu da postoje samo kao iskustvo
07:58
by some humanljudski or animalživotinja subjectpredmet,
165
466155
2195
nekog ljudskog ili životinjskog subjekta,
08:00
some selfsam that experiencesiskustva them.
166
468350
1873
nekog sebstva koje ih doživljava.
08:02
Maybe we'lldobro be ableu stanju to buildizgraditi a conscioussvjestan machinemašina.
167
470223
2383
Možda ćemo moći izgraditi svjestan stroj.
08:04
SinceOd we don't know how our brainsmozak do it,
168
472606
2153
Budući da ne znamo
kako to naši mozgovi rade,
08:06
we're not in a positionpoložaj, so fardaleko, to buildizgraditi a conscioussvjestan machinemašina.
169
474759
4135
još nismo u poziciji
izgraditi svjestan stroj.
08:10
Okay. AnotherJoš jedan featuresvojstvo of consciousnesssvijest
170
478894
2775
U redu. Još jedno svojstvo svijesti
08:13
is that it comesdolazi in unifiedujedinjen conscioussvjestan fieldspolja.
171
481669
4151
je da dolazi u
unificiranim poljima svijesti.
08:17
So I don't just have the sightvid of the people in frontispred of me
172
485820
2356
Tako da nemam samo
prizor ljudi ispred mene
08:20
and the soundzvuk of my voiceglas and the weighttežina of my shoescipele
173
488176
2714
i zvuk mog glasa i težinu mojih cipela,
08:22
againstprotiv the floorkat, but they occurdoći to me
174
490890
2175
nego se meni oni pojavljuju
08:25
as partdio of one singlesingl great conscioussvjestan fieldpolje
175
493065
3482
kao dio jednog jedinstvenog
velikog svjesnog iskustva
08:28
that stretchesproteže se forwardnaprijed and backwardunatrag.
176
496547
2016
koje se proteže unaprijed i unatrag.
08:30
That is the keyključ to understandingrazumijevanje
177
498563
1769
To je ključ razumijevanja
08:32
the enormousogroman powervlast of consciousnesssvijest.
178
500332
2439
ogromne moći svijesti.
08:34
And we have not been ableu stanju to do that in a robotrobot.
179
502771
2944
I nismo bili u mogućnosti
postići to u robotu.
08:37
The disappointmentrazočaranje of roboticsRobotika derivesproizlazi from the factčinjenica
180
505715
2388
Razočaranje robotike dolazi zbog činjenice
08:40
that we don't know how to make a conscioussvjestan robotrobot,
181
508103
2012
da ne znamo kako
napraviti svjesnog robota,
08:42
so we don't have a machinemašina that can do this kindljubazan of thing.
182
510115
3508
pa tako nemamo stroj
koji je sposoban za takvo što.
08:45
Okay, the nextSljedeći featuresvojstvo of consciousnesssvijest,
183
513623
2509
U redu, sljedeće svojstvo svijesti,
08:48
after this marvelousveličanstven unifiedujedinjen conscioussvjestan fieldpolje,
184
516132
3115
nakon ovog veličanstvenog
unificiranog svjesnog iskustva,
08:51
is that it functionsfunkcije causallyuzročno in our behaviorponašanje.
185
519247
2792
je da uzročno utječe na naše ponašanje.
08:54
I gavedali you a scientificznanstvena demonstrationdemonstracija by raisingpodizanje my handruka,
186
522039
3203
Dao sam vam znanstvenu demonstraciju
podizanjem svoje ruke,
08:57
but how is that possiblemoguće?
187
525242
1750
no kako je to moguće?
08:58
How can it be that this thought in my brainmozak
188
526992
3764
Kako može biti da ova misao u mom mozgu
09:02
can movepotez materialmaterijal objectsobjekti?
189
530756
2200
može pomicati materijalne objekte?
09:04
Well, I'll tell you the answerodgovor.
190
532956
1366
Reći ću vam odgovor.
09:06
I mean, we don't know the detaileddetaljne answerodgovor,
191
534322
1771
Mislim, ne znamo detaljni odgovor,
09:08
but we know the basicosnovni partdio of the answerodgovor, and that is,
192
536093
3090
no znamo osnovni dio odgovora, a to je,
09:11
there is a sequenceslijed of neuronneuron firingsopuštanja,
193
539183
2293
postoji niz neuronskih impulsa,
09:13
and they terminateokončati where the acetylcholineacetilkolina
194
541476
3087
i oni završavaju tamo gdje se acetilkolin
09:16
is secretedluči at the axonAkson end-plateszavršne ploče of the motormotor neuronsneuroni.
195
544563
2821
izlučuje na krajnjim dijelovima
aksona motornih neurona.
09:19
Sorry to use philosophicalfilozofski terminologyterminologija here,
196
547384
2075
Oprostite što ovdje koristim filozofsku
09:21
but when it's secretedluči at the axonAkson end-plateszavršne ploče of the motormotor neuronsneuroni,
197
549459
4016
terminologiju, no kada je izlučen iz
krajnjih dijelova aksona motornih neurona,
09:25
a wholečitav lot of wonderfulpredivan things happendogoditi se in the ioniona channelskanali
198
553475
2598
puno se divnih stvari dogodi
u ionskim kanalima
09:28
and the damnedProkleta armruka goeside up.
199
556073
2094
i prokleta ruka ode gore.
09:30
Now, think of what I told you.
200
558167
2124
Mislite o ovome što sam vam rekao.
09:32
One and the sameisti eventdogađaj,
201
560291
1742
Jedan te isti događaj,
09:34
my conscioussvjestan decisionodluka to raisepodići my armruka
202
562033
3035
moja svjesna odluka da podignem ruku,
09:37
has a levelnivo of descriptionopis where it has all of these
203
565068
2795
ima level deskripcije gdje ima sve ove
09:39
touchy-feelyiskazivanje spiritualduhovni qualitiesosobine.
204
567863
2146
duhovne kvalitete.
09:42
It's a thought in my brainmozak, but at the sameisti time,
205
570009
2401
Ona je misao u mom mozgu, no istovremeno,
09:44
it's busyzauzet secretingizlučuju acetylcholineacetilkolina
206
572410
1986
zaposlena je izlučivanjem acetilkolina
09:46
and doing all sortsvrste of other things
207
574396
1535
i činjenjem raznih drugih stvari
09:47
as it makesmarke its way from the motormotor cortexkorteks
208
575931
2788
dok putuje od motornog korteksa
09:50
down throughkroz the nerveživac fibersvlakna in the armruka.
209
578719
2697
do živčanih vlakana u ruci.
09:53
Now, what that tellsgovori us is that our traditionaltradicionalan vocabulariesrječnika
210
581416
3816
Ovo nam govori da je naš
tradicionalni vokabular
09:57
for discussingraspravlja these issuespitanja are totallypotpuno obsoletezastario.
211
585232
3384
za raspravljanje o ovim
stvarima potpuno zastario.
10:00
One and the sameisti eventdogađaj has a levelnivo of descriptionopis
212
588616
3257
Jedan te isti događaj
ima level deskripcije
10:03
where it's neurobiologicalneurobiološki, and anotherjoš levelnivo of descriptionopis
213
591873
2966
gdje je neurobiološki,
i drugi nivo deskripcije
10:06
where it's mentalmentalni, and that's a singlesingl eventdogađaj,
214
594839
2191
gdje je mentalni,
a to je jedan događaj,
10:09
and that's how naturepriroda worksdjela. That's how it's possiblemoguće
215
597030
2110
i tako priroda funkcionira. Tako je moguće
10:11
for consciousnesssvijest to functionfunkcija causallyuzročno.
216
599140
3031
da svijest uzročno utječe.
10:14
Okay, now with that in mindum,
217
602171
2859
S tim na umu,
10:17
with going throughkroz these variousraznovrstan featuresznačajke of consciousnesssvijest,
218
605030
3067
kad smo prošli ova
razna svojstva svijesti,
10:20
let's go back and answerodgovor some of those earlyrano objectionsprimjedbe.
219
608097
3172
vratimo se natrag i odgovorimo
na neke od ranih prigovora.
10:23
Well, the first one I said was, consciousnesssvijest doesn't existpostojati,
220
611269
3609
Prvi je bio da svijest ne postoji,
10:26
it's an illusioniluzija. Well, I've alreadyveć answeredodgovorio that.
221
614878
1834
da je iluzija.
Već sam odgovorio na to.
10:28
I don't think we need to worrybrinuti about that.
222
616712
1516
Ne mislim da oko toga trebamo
10:30
But the seconddrugi one had an incrediblenevjerojatan influenceutjecaj,
223
618228
3864
brinuti. No sljedeće je imalo
nevjerojatan utjecaj,
10:34
and maysvibanj still be around, and that is,
224
622092
1844
i možda je još aktualno, a to je,
10:35
"Well, if consciousnesssvijest existspostoji, it's really something elsedrugo.
225
623936
3191
"Ako svijest postoji,
zapravo je nešto drugo.
10:39
It's really a digitaldigitalni computerračunalo programprogram runningtrčanje in your brainmozak
226
627127
3763
Zapravo je digitalni kompjuterski
program u vašem mozgu
10:42
and that's what we need to do to createstvoriti consciousnesssvijest
227
630890
2505
i kako bi kreirali svijest
10:45
is get the right programprogram.
228
633395
1496
trebamo pravi program.
10:46
Yeah, forgetzaboraviti about the hardwarehardver. Any hardwarehardver will do
229
634891
2239
Zaboravite na hardver.
Svaki hardver će
10:49
providedako it's richbogat enoughdovoljno and stablestabilan enoughdovoljno to carrynositi the programprogram."
230
637130
2960
poslužiti ako je dovoljno
bogat i stabilan da nosi program".
10:52
Now, we know that that's wrongpogrešno.
231
640090
3074
Znamo da je to pogrešno.
10:55
I mean, anybodyiko who'stko je thought about computersračunala at all
232
643164
3009
Mislim, svatko tko je uopće
razmišljao o kompjuterima može
10:58
can see that that's wrongpogrešno, because computationračunanje
233
646173
2464
vidjeti da je to pogrešno,
zato što je komputacija
11:00
is defineddefiniran as symbolsimbol manipulationmanipulacija,
234
648637
2415
definirana kao manipulacija
simbolima, obično
11:03
usuallyobično thought of as zerosnule as onesone, but any symbolssimboli will do.
235
651052
2884
jedinicama i nulama,
ali bilo koji simboli će poslužiti.
11:05
You get an algorithmalgoritam that you can programprogram
236
653936
3167
Dobijete algoritam koji
možete programirati
11:09
in a binarybinarni codekodirati, and that's the definingdefiniranje traitosobina
237
657103
3107
u binarni kod, i to je
definirajuća značajka
11:12
of the computerračunalo programprogram.
238
660210
2051
kompjuterskog programa.
11:14
But we know that that's purelypotpuno syntacticalsintaktički. That's symbolicsimbolički.
239
662261
3883
No znamo da je to čisto sintaktički.
To je simbolički.
11:18
We know that actualstvaran humanljudski consciousnesssvijest has something more than that.
240
666144
4015
Znamo da stvarna ljudska
svijest ima nešto više od toga.
11:22
It's got a contentsadržaj in additiondodatak to the syntaxSintaksa.
241
670159
3193
Uz sintaksu, ima i sadržaj.
11:25
It's got a semanticssemantika.
242
673352
1497
Ima semantiku.
11:26
Now that argumentargument, I madenapravljen that argumentargument 30 --
243
674849
2489
Ovaj argument, dao sam
ovaj argument 30 -- o Bože,
11:29
oh my God, I don't want to think about it —
244
677338
1291
ne želim misliti o tom --
11:30
more than 30 yearsgodina agoprije,
245
678629
1342
pred više od 30 godina, no
11:31
but there's a deeperdublje argumentargument implicitimplicitno in what I've told you,
246
679971
2490
postoji dublji argument
impliciran u onome
11:34
and I want to tell you that argumentargument brieflykratko, and that is,
247
682461
3043
što sam vam rekao,
i želim vam ga ukratko reći, a to je,
11:37
consciousnesssvijest createsstvara an observer-independentpromatrač-nezavisni realitystvarnost.
248
685504
4589
svijest stvara realnost
neovisnu od promatrača.
11:42
It createsstvara a realitystvarnost of moneynovac, propertysvojstvo, governmentvlada,
249
690093
3488
Stvara svijest novca, vlasništva, vlade,
11:45
marriagebrak, CERNCERN-A conferenceskonferencije,
250
693581
3972
braka, CERN konferencija,
11:49
cocktailkoktel partiesstranke and summerljeto vacationsgodišnji odmor,
251
697553
2619
koktel-zabava i ljetnih praznika,
11:52
and all of those are creationskreacije of consciousnesssvijest.
252
700172
2749
i sve ovo su kreacije svijesti.
11:54
TheirNjihova existencepostojanje is observer-relativepromatrač-relativna.
253
702921
2835
Njihovo postojanje je ovisno o promatraču.
11:57
It's only relativerođak to conscioussvjestan agentsagenti that a piecekomad of paperpapir
254
705756
3503
Samo u odnosu na svjesne
djelatnike je komad papira
12:01
is moneynovac or that a bunchmnogo of buildingsgrađevine is a universitysveučilište.
255
709259
2847
novac ili skupina zgrada sveučilište.
12:04
Now, askpitati yourselfsami about computationračunanje.
256
712106
3874
Zapitajte se o komputaciji.
12:07
Is that absoluteapsolutan, like forcesila and massmasa and gravitationalgravitacijsko attractionprivlačnost?
257
715980
3669
Je li toliko apsolutna, poput sile i
mase i gravitacijskog privlačenja?
12:11
Or is it observer-relativepromatrač-relativna?
258
719649
2132
Ili je relativna u odnosu na promatrača?
12:13
Well, some computationsizračunavanje are intrinsicintrinzična.
259
721781
3527
Neke su komputacije intrinzične.
12:17
I adddodati two plusplus two to get fourčetiri.
260
725308
1911
Zbrojim dva i dva kako bih dobio četiri.
12:19
That's going on no matterstvar what anybodyiko thinksmisli.
261
727219
2571
To se događa bez obzira što netko mislio.
12:21
But when I haulvući out my pocketdžep calculatorkalkulator
262
729790
2489
No kada izvadim svoj džepni kalkulator
12:24
and do the calculationračunanje, the only intrinsicintrinzična phenomenonfenomen
263
732279
3782
i izračunam, jedini intrinzični fenomen
12:28
is the electronicelektronička circuitstrujni krug and its behaviorponašanje.
264
736061
3175
je elektronički sklop i njegovo ponašanje.
12:31
That's the only absoluteapsolutan phenomenonfenomen.
265
739236
1764
To je jedini apsolutni fenomen.
12:33
All the restodmor is interpretedtumačiti by us.
266
741000
2428
Sve ostalo je naša interpretacija.
12:35
ComputationProračun only existspostoji relativerođak to consciousnesssvijest.
267
743428
3841
Komputacija postoji samo
relativno u odnosu na svijest.
12:39
EitherU svakom a conscioussvjestan agentAgente is carryingnošenje out the computationračunanje,
268
747269
2775
Ili svjesni djelatnik izvodi komputaciju,
12:42
or he's got a piecekomad of machinerystrojevi that admitspriznaje of a computationalračunalna interpretationtumačenje.
269
750044
3643
ili ima stroj koji omogućava
komputacijsku interpretaciju.
12:45
Now that doesn't mean computationračunanje is arbitraryproizvoljan.
270
753687
3068
To ne znači da je komputacija arbitrarna.
12:48
I spentpotrošen a lot of moneynovac on this hardwarehardver.
271
756755
2448
Potrošio sam puno novca na ovaj hardver.
12:51
But we have this persistentuporni confusionzbunjenost
272
759203
2146
No ipak postoji ova uporna konfuzija
12:53
betweenizmeđu objectivityobjektivnost and subjectivitysubjektivnost as featuresznačajke of realitystvarnost
273
761349
4721
između objektivnosti i subjektivnosti
kao svojstva realnosti
12:58
and objectivityobjektivnost and subjectivitysubjektivnost as featuresznačajke of claimszahtjevi.
274
766070
3928
i objektivnosti i subjektivnosti
kao svojstva tvrdnji.
13:01
And the bottomdno linecrta of this partdio of my talk is this:
275
769998
3166
Zaključak ovog dijela mog govora jest:
13:05
You can have a completelypotpuno objectivecilj scienceznanost,
276
773164
3651
Možete imati posve objektivnu znanost,
13:08
a scienceznanost where you make objectivelyobjektivno truepravi claimszahtjevi,
277
776815
2912
znanost gdje dajete
objektivno istinite tvrdnje,
13:11
about a domaindomena whosečije existencepostojanje is subjectivesubjektivan,
278
779727
3430
o domeni čije je postojanje subjektivno,
13:15
whosečije existencepostojanje is in the humanljudski brainmozak
279
783157
3235
čije postojanje je u ljudskom mozgu
13:18
consistingkoji se sastoji of subjectivesubjektivan statesDržave of sentiencepotpuno svjesna
280
786392
2139
i sastoji se od subjektivnih stanja osjeta
13:20
or feelingosjećaj or awarenesssvijest.
281
788531
1685
ili osjećanja ili svjesnosti.
13:22
So the objectionprigovor that you can't have an objectivecilj scienceznanost of consciousnesssvijest
282
790216
4337
Tako da je prigovor da ne možete
imati objektivnu znanost svijesti
13:26
because it's subjectivesubjektivan and scienceznanost is objectivecilj, that's a pundosjetka.
283
794553
4208
zato što je subjektivna,
a znanost je objektivna, dosjetka.
13:30
That's a badloše pundosjetka on objectivityobjektivnost and subjectivitysubjektivnost.
284
798761
2709
To je loša dosjetka o
objektivnosti i subjektivnosti.
13:33
You can make objectivecilj claimszahtjevi
285
801470
2324
Možete izreći objektivne tvrdnje
13:35
about a domaindomena that is subjectivesubjektivan in its modenačin of existencepostojanje,
286
803794
4042
o domeni koja je subjektivna
po svom načinu postojanja,
13:39
and indeeddoista that's what neurologistsNeurolozi do.
287
807836
1573
i to je ono što neurolozi rade.
13:41
I mean, you have patientspacijenti that actuallyzapravo sufferpatiti painsbolovi,
288
809409
2490
Imate pacijente koji
zbilja pate od bolova,
13:43
and you try to get an objectivecilj scienceznanost of that.
289
811899
2689
i pokušavate imati
objektivnu znanost o tome.
13:46
Okay, I promisedObećao to refutepobijaju all these guys,
290
814588
2072
U redu, obećao sam
opovrgnuti sve te ljude,
13:48
and I don't have an awfulgrozan lot of time left,
291
816660
1575
a nije mi preostalo puno vremena,
13:50
but let me refutepobijaju a couplepar more of them.
292
818235
1908
no dozvolite da opovrgnem još nekoliko.
13:52
I said that behaviorismBiheviorizam oughttreba to be
293
820143
2235
Rekao sam da je biheviorizam zacijelo
13:54
one of the great embarrassmentsChristyja of our intellectualintelektualac cultureKultura,
294
822378
3289
jedna od najvećih sramota
naše intelektualne kulture,
13:57
because it's refutedopovrgnuo the momenttrenutak you think about it.
295
825667
2893
zato što je opovrgnut onog
trenutka kad pomislite na njega.
14:00
Your mentalmentalni statesDržave are identicalidentičan with your behaviorponašanje?
296
828560
2857
Vaša mentalna stanja su
identična s vašim ponašanjem?
14:03
Well, think about the distinctionrazlika betweenizmeđu feelingosjećaj a painbol
297
831417
3151
Pa, razmislite o razlici
između osjećanja boli
14:06
and engagingprivlačan in painbol behaviorponašanje.
298
834568
1703
i ponašanja
karakterističnog za bol.
14:08
I won'tnavika demonstratepokazati painbol behaviorponašanje, but I can tell you
299
836271
1988
Neću demonstrirati to
ponašanje, no mogu
14:10
I'm not havingima any painsbolovi right now.
300
838259
1839
vam reći da nemam
nikakvih bolova sada.
14:12
So it's an obviousočigledan mistakepogreška. Why did they make the mistakepogreška?
301
840098
4120
Tako da je to očita pogreška?
Zašto su tako pogriješili?
14:16
The mistakepogreška was — and you can go back and readčitati
302
844218
1884
Pogreška je bila -- i možete pročitati
14:18
the literatureknjiževnost on this, you can see this over and over —
303
846102
2589
literaturu o ovome,
možete ovo primjetiti --
14:20
they think if you acceptprihvatiti the irreducibleNesvodiva existencepostojanje
304
848691
4016
oni misle da ako prihvatite
ireducibilno postojanje
14:24
of consciousnesssvijest, you're givingdavanje up on scienceznanost.
305
852707
2795
svijesti, odustajete od znanosti.
14:27
You're givingdavanje up on 300 yearsgodina of humanljudski progressnapredak
306
855502
3071
Odustajete od 300 godina ljudskog napretka
14:30
and humanljudski hopenada and all the restodmor of it.
307
858573
1749
i ljudske nade i ostaloga.
14:32
And the messageporuka I want to leavenapustiti you with is,
308
860322
2900
A poruka s kojom vas želim ostaviti jest,
14:35
consciousnesssvijest has to becomepostati acceptedpriznat
309
863222
2443
svijest treba postati prihvaćena
14:37
as a genuinepravi biologicalbiološki phenomenonfenomen,
310
865665
2488
kao istinski biološki fenomen,
14:40
as much subjectpredmet to scientificznanstvena analysisanaliza
311
868153
2467
onoliko subjektivan znanstvenoj analizi
14:42
as any other phenomenonfenomen in biologybiologija,
312
870620
1960
koliko god i drugi fenomen u biologiji,
14:44
or, for that matterstvar, the restodmor of scienceznanost.
313
872580
2154
ili, dapače, u znanosti općenito.
14:46
Thank you very much.
314
874734
1382
Puno vam hvala.
14:48
(ApplausePljesak)
315
876116
5493
(Pljesak)
Translated by Martina Valković
Reviewed by Ivan Stamenkovic

▲Back to top

ABOUT THE SPEAKER
John Searle - Philosopher
John Searle has made countless contributions to contemporary thinking about consciousness, language, artificial intelligence and rationality itself.

Why you should listen

American philosopher John Serle has made countless contributions to contemporary thinking about consciousness, language, artificial intelligence and rationality itself. In his early work, he focused on the nature of language and what we are conveying when we speak and how the intention behind what we intend to say can the meaning of words from context to context.

He is best known for his “Chinese Room” thought experiment, which challenges the notion of a truly intelligent artificial intelligence. In it, he imagines a room containing an individual, who speaks only English, working with a set of English instructions to write a series of Chinese characters in order to anonymous communicate with a Chinese speaker outside the room. If that individual follows the instructions carefully, she can effectively fool the Chinese speaker into thinking he’s talking to someone who understands his language. Serle argues that, at the very least, the metaphor raises deep complications as to whether or not one can truly describe convincing simulations of intelligence as intelligent.

He remains of firm believer that subjective experiences are real -- even if they don’t always describe things are they really are -- and are worth thinking about in objective terms because of it.

More profile about the speaker
John Searle | Speaker | TED.com

Data provided by TED.

This site was created in May 2015 and the last update was on January 12, 2020. It will no longer be updated.

We are currently creating a new site called "eng.lish.video" and would be grateful if you could access it.

If you have any questions or suggestions, please feel free to write comments in your language on the contact form.

Privacy Policy

Developer's Blog

Buy Me A Coffee