Thursday, June 24, 2010

Teenage Theory of Mind and Universe (Excerpts, Part 1) - Theoretical Induction of Neocortex and Hippocampus using Consciousness; Compression ...

If you've followed this blog long enough, you've certainly has read about my mysterious theory.  :))  It's a collection of writings and ideas on philosophy, mind and universe from my late teenage years (Late 2001 - Early 2004).

For patient Bulgarian speakers the originals are still available here:
Български:  http://eim.hit.bg/razum    (Съветвам да четете отдолу (най-стари) - нагоре)Откъси от "Тийнейджърската теория на разума и Вселената" - сбирка от статии, разработки, "трактати" от края на 2001-ва до началото на 2004.  Можете  да видите  откъсите по-долу, но новите допълнителни коментари са само към преведената на английски част, ако знаете английски, предлгедайте и тях.

Some of the topics in these excerpts are:

- Discussion on memory and consciousness
- Theoretical induction of neocortical and hippocampal-like modules in mind, based on consciousness. These modules are called respectively "Executive Operating System (EXOS)/Executive Memory" and "Events Operating System (EOS)/Events Memory"
- Compression and Predictability
- Mind as predictor of future inputs, based on the past
- Cognitive hierarchy and abstraction in mind - higher levels work with ever less amount of information, compress
- Art and compressibility (seems related to Schmidhuber's theories about curiosity)
- Find for yourself
- Have added some new comments on the topics.

Enjoy!

Notes: In square brackets [blah-blah] are comments/clarifications added now, some words and concepts are translated with many words/variants.

Man and Thinking Machine (2001)


"....In human [mind], most of the objects (of any kind) are not remembered "photographically", but are told/narrated in brain; only the most specific features of the informational entities are recorded; the input is compressed. Probably only the basic concepts are stored in "photographic", "phonographic" (audio), "text", "stereographical" (spatial) etc.  memory. (...) 

It's smart the newly arrived input informational entity to be interpreted by the existing concepts, using their labels - links to their meaning,  containing only an "address". We, people, call this kind of memorizing "understanding" and "making sense of" ...." - "


"Informational entity" is a portion of input data, that is analyzed/compressed into patterns.

...

Sections from:

Concept about the Universal Predetermination, a.k.a. "Theory of Universe and Mind", Part 3 (2003)

61. The origination of consciousness is the creation of the first advanced/well-developed/robust ("развит") Operating System for Events - EOS (in Slavic terms it was: събитиен вседържец). EOS stores and processes sequential information from the senses and ensures recording and replaying events (happenings) as on a tape or a disk - a record can be selected and it can be "played-back" in the imagination. 


The first well-deveoped operating system - EOS - is an OS, capable to keep compatibility with the previous versions, while it's being improved over time.

That means, the newer versions of the "formats" for recording memories are backward-compatible with the older ones, so older still can be read, even though the new versions may have extensions.

For example a person may have memories both as a two-year old and from yesterday - our brain has changed through the years, but it apparently has kept its compatibility with the records as a two-year old.

In memory, the old events/happenings (събития) - inputs to memory/records - are one-dimensional, i.e. all can be recalled in an instant. [Associative memory]

If a person is unable to spot anything particular - written, drawn; marked [to recognize, to spot anything recognizable/interpretable, to find a pattern], it's hard to remember it, because he would be supposed to record it as an image, while human brain is weak in remembering single complex images, not connected into a system.

After a person learns to read (has extended the capabilities of the EOS), when text is seen mind remembers not the image, but the letters, the syllables or even whole words. (Which maybe are represented as addresses in memory.) The capability to remember events/happenings (memories), written as text, is an upgrade/extension of the EOS.

However it's also an upgrade of the Executive OS [EXOS], which is more closely related to the "hardware". [More closely related to hardware means lower levels of control/generality.]

The memory for events is a higher level of memory in mind than the executive/action memory. For instance, executive memory is language - a baby says his or her first words usually when 1 year old. Before reaching to the moment after which he or she has memories kept for life, the baby might be using hundreds of words and even construct simple sentences. These words and grammars are [seem to be] a part of the Executive memory of the EXOS.

The abilities to speak; to coordinate his movements - walking, running, sitting, catching; recognize direction of sound; recognize objects; suppose third dimension data from a 2D image etc. are a part of a lower level of the OS of mind and apparently EXOS reaches to a backward-compatible versions much earlier than the EOS.

The first memories for events [biographical memories] display approximately when the first steady-working version of the EOS was finished, usually around 3 years [sometimes between two and three]. Earlier appearance display earlier brain development and this is an advantage for the further development of mind.

[It's related to the maturation of hippocampus, isn't it?]

EOS is more versatile (universal) than the EXOS, because it allows working with more data formats, which are combinations and extensions of the formats of the EXOS.

EOS is more flexible than the EXOS and allows mind to work with more abstract files ("informational entities"; records; patterns), more distant/abstracted than their form as an input. ["Distant" either as amount of transformations from the input to the record, and in space and time]

EOS allows mind to extract executive information from the memory for events, i.e. mind may interpret (reflect) EOS with much bigger delay in time.

Mind can convert memories for events into executive, in a format appropriate for the EXOS, thus EXOS may do particular actions because of events (happening/story/record) stored in the memory for events.

EOS can be seen, to a greater extent than EXOS as a data storage, which however eventually allows inducing sequences of actions/operations - algorithms [to be fed to Executive OS].

On the other hand, EXOS can be seen to a greater extent than EOS as an algorithmic storage. Executive OS uses Executive memory to execute actions. [Memory should be where patterns are stored, "operating system" is the process of activation of particular patterns.]

EXOS and EOS are interconnected and not independent. Features of any of them are features of the others, from particular points of view.

EOS is derived from EXOS.


# END-OF-SECTION


A speculation from now:

- Besides biological imperfections, I guess neuroplasticity may decline in order to preserve mind from "self-amnesia".

There are feedbacks between levels of generality, so they're supposed to adjust in parallel, generalizations should be reinforced/re-checked/re-affirmed; but I wonder what's going to happen with biographical memories, stored using hippocampus and "addresses in memory" (connections).

I've read that hippocampus eventually strengthens networks in neocortex, "transfers memory" there. However, if neocortex changes radically at the lowest levels of generality (or any level?), say if brain is exposed to adapt to a totally different world, I guess those connections may turn not just menaningless, but crazy. On the other hand, addition of higher or parallel levels of generality would not hurt the lower ones.

That's why I suspect that too high neuroplasticity in the lowest levels of generality after higher levels and hippocampus are developed may be dangerous and lead to insanity.

Also, brain is too messy to do real self-rewrite as a future thinking machine would be able to. Brain can't start building an improved "clean copy" and it can't isolate portions of itself from the others.

- Prediction of a "neocortex"-like module - Executive Operating System (EXOS) and executive memory (should be the patterns in the levels of generality)

- Prediction of a "hippocampus"-like module - Events Operating System (EOS)



62. The highest parts of the thinking machine [e.g. consciousness] work at the slowest speed and they output the least amount of information. The lower parts of the thinking machine, and of any machine, work at a higher speed, expressed as information flow/transfer rate.

Full control of a unit over another requires the first to contain in its memory a complete model of the controlled one - a complete model of its behavior - and the contol unit must be capable to simulate it [at least] in real time (...).

"Higher" parts of mind have narrower transfer rates than the "lower", that's why higher parts cannot actually have full control of the lower ones.


[Lower amount of information at higher cognitive levels - higher generality, ever reduced resolution/precision]

63. The more complex the unit/device*, i.e. more information is being transferred [between its parts] during its work, the less controllable it becomes, because it gets harder to find another device possessing enough memory and speed; the "devices" [agents might be a better term] with non-incrementing transfer rate (e.g. humans) may control the more complex devices the less, because their speed and memory gets lesser part of the requirements.

[There were other types of complexity used in the writings also, like one similar to minimal message length/algorithmic complexity, but not precisely defined. E.g. the length of a program written in the "machine code of Universe" which are capable to produce the entity whose complexity is measured, with two options - using or not using external sources for complexity. "Virtual universes" also exist, all environments having "laws of physics" and "matter" to evolve following the laws.
E.g. in this definition of complexity, even very simple artifacts created by humans are more complex than humans, because they require operational humans with developed intelligence, and cannot be created using the laws of physics without intelligent agents. ]

I think the "control" parts might have been partially aimed to show consciousness is just a top of an iceberg of mind, and to shut "Chinese Room" mouths and of those believing that computers do "what we tell them how to do".  What we consciously and voluntary do is pressing a few buttons, our holy free will is encoded in a few bits per second, while the vast accumulated complexity is doing the rest on its own, including suggesting and allowing "us" to press those buttons.

64. People wish for "richness" of the information they perceive, even though huge amounts of that "informational fortune" where mind lives are wasted.
[I.e. mind compresses, generalizes, doesn't use all data it gets.]

Richer in information a "file" [original - свитък, a piece of information, a message] is an entity/whole [a pattern], where predictability of the content of a piece of the pattern, based on other adjacent or related in particular fashion to the first parts of the pattern is close to the predictability in the Reality, in the First Virtual (Imaginary) Universe.

The mind concept (comprehension, understanding) that mind gets from an image, is the same, written as pieces of knowledge [patterns] and their relations.

Understanding shows what transformations can be done with the patterns, which create the file [input, a piece of input, a message...].

Abstract artists' pictures, where there a re no pieces of knowledge, except the most primitive for an image do not contain any meaningful information [or "information for mind", i.e. data that have patterns and can be compressed].
(Such primitive pieces/patterns are e.g. a point, spot, line, seasow line; polygons which mind does not associate with known objects; without 3-rd dimension).

There is meaningful information in images where mind can recognize and call particular objects, parts of objects and their coordinates/relations to each other.

The meaningful idea ("разумна представа") is described with much less information [data] than the image from which it was deduced. [Compression and selection.]

...

E.g. this image has a little knowledge, because it can be easily defined with a cycle in mind, where the changes of the bar of the building are small.
Photographers use to call such pictures "boring" - they bring a little amount of information, which is unpredictable using the precedent information [from the picture or whatever artifact being analyzed].  [This image is very highly compressible.]

Well done art photograph must be balanced: to bring enough information about the subject on the picture, to be clear enough - to be easy to understand what's on the picture, to have a "complete" idea; also, the picture shouldn't be overloaded with details which are distracting attention (are "irritating") and make our sight to roam around the details, searching for a meaning in the picture.

Art photography is based on abstraction and emphasizing of the essential [information]. It's like that also in classical visual art, especially in graphics and caricature.

[Aesthetics is not that simple to define in a few sentences and is subjective. There's "organic/smooth" patterns that seem to make perceptions generally more pleasant than highly compressible high contrast images; also there are high level associations, that pictures bring to us and may make us judge them emotionally etc.; "animate" objects and conflicts like in drama may engage mind to think/predict (interestingness)...]



Dogfight

Lonelyness (The Lonely Station Cat) |  Photos: Tosh (me)

A person creating any kind of art is displaying how the image of what he's creating is stored in his memory and what features of reality are memorized. For example the earliest children drawings just use lines - therefore [perhaps] images are stored as "lines"; lines bring the most possible information, because they are abrupt change between the colour of the paper and the pencil or whatever tool. The youngest mind remembers [maybe implies: recognizes] only the very essential parts of the perceived reality.

Humans don't remember lots of the details in the images. Maybe that's why pictures with lots of details are "irritating". Human mind usually removes the most of the slight details, when it remembers the image as a description of pieces of knowledge, in order to make remembering easier.

It's easier to fill memory using a piece of information [a pattern] to be multiplied with a gradual change, known from the beginning; and by parts of the image to be able to predict, with a higher probability, what's on other parts of the image. [That's easier, than to hold a bitmap copy.]

Human hardly can remember and percept too "plentiful information servings" such as noise:

NOISE: A sequence of characters/symbols, where every following has equal probability to appear and the value of the following characters is fully unpredictable for the one who's trying to predict it [i.e. the *generator* may actually *know* all the symbols and they might be pseudo-random for him, but the *evaluator* doesn't know them and can't predict them].

Mind works with big amount of redundancy in information, in order to predict the future inputs by the past easier and with higher certainty.

#

Български (допълнителните коментари обаче са само към частта на английски! предлгедайте я, ако знаете английски) 


*** При човека, повечето обекти (от всякакъв вид) не се запомнят
"фотографски", а се "преразказват" в мозъка, записват се най-характерните
особености на информационните обекти, входната информация се компресира.
Във "фотографска", "фонографска", "текстографска","стереографска"
(пространствена) и пр. памет вероятно се съхраняват само основните понятия.
(...) Хитро е новопостъпилият информационен обект да се обясни с наличните
информационни обекти. Просто му се дава етикет, а същността му се описва с
известните понятия, като се използват техните етикети - връзки към
значението им, съдържащи само "адрес". Ние хората наричаме такова запомняне
"разбиране" и "осмисляне". - из Човекът и Мислещата машина, Тодор Арнаудов - Тош, 2001

Из "Схващане за всеобщата предопределеност 3" -  Тош, 2003
61. Възникването на съзнанието е създаването на първия развит събитиен вседържец (събитийна операционна система) на човека. Събитийният вседържец запомня и обработва поточна информация от сетивата и осигурява запомнянето и възпроизвеждането на събития като "на лента" или "плоча" - можем да изберем "запис" и да го "прослушаме" във въображението си.

"Първият развит събитиен вседържател" е операционна система, способна при усърършенстването и надграждането си да запазва СЪВМЕСТИМОСТТА с предходните версии. Например форматите за запис на събитийни спомени от "Проявление 1.0" на Развития събитиен вседържец на разума нататък са съвместими един с друг "отгоре надолу" - по-новите версии са съвместими с по-старите, техни разширения.

Например имаме спомени и от двегодишна възраст, и от вчера. Мозъкът ни се е променял през годините, но си е останал съвместим към спомените от двегодишна възраст.

В паметта ни всички събития, когато и да са били въведени в паметта, са разположени едноизмерно и си спомняме за тях мигновено.

Ако не можем да четем и видим нещо написано, е трудно да го запомним, защото трябва да го запомним като цяло изображение, а човешкият мозък е по-слаб в запомнянето на единични - несвързани в система - сложни изображения.

След като се научим да четем (разширим възможностите на Събитийния вседържец), като видим написано слово запомняме не изображението, а буквите, сричките и дори целите думи. (Които може би се представят като адреси в паметта). Способността да си спомняме събития, написани в слово, е надстройка на събитийната операционна система. Същевременно е надстройка и на Изпълнителната, която е в по-пряка връзка с "железарията".

Събитийната памет е по-високо ниво памет в mind, отколкото изпълнителната. Изпълнителна памет е например езикът - детето проговаря, средно, на възраст една година. Преди първите спомени за случки, които оставят за цял живот, то използва стотици думи и построява изречения. Тези думи и граматиките са част от "Изпълнителната памет" на "Изпълняващия вседържец".

Способността да говори; да съгласува движенията си, за да ходи, тича, сяда, хваща; познава посоката на звука; разпознава предмети, предполага за третото измерение от двуизмерни изображения и т.н. са част от по-ниското равнище на Вседържеца на mind - Изпълняващият вседържец (ИВ).
Той стига до получаване на съвместими отгоре надолу версии много по-рано от Събитийния вседържец.

Първите спомени за събития показват приблизително кога е била завършена работеща устойчиво разновидност на Развития събитиен вседържец (РСВ) - обикновено за около 2-3 години след раждането на човека. По-ранното появяване показва по-ранно развитие на мозъка и е предимство за развитието на mind.

Събитийният вседържец е по-универсален от Изпълнителния, защото позволява на mind да работи с по-голям брой формати на данните, които са съчетание и разширение на форматите на Изпълнителния вседържец.

Събитийният вседържец е по-гъвкав от Изпълнителния и позволява на mind да работи с по-отвлечени свитъци (информационни обекти), по-отдалечени от вида им при въвеждането в паметта през чувствениците.

РСВ позволява на mind да извлича изпълнителна информация от събитийната. Т.е. разумът може да тълкува (обмисля) събитийната памет с много голямо закъснение във времето. Разумът може да преобразува събитийната памет в изпълнителна, във формат за Изпълнителния вседържец, който може да извърши определени действия заради събитие, съхранявано в Събитийната памет.

Събитийната памет може да се разглежда, в по-голяма степен от изпълнителната, като хранилище за данни, от които чрез изчисления могат да се извличат последователности от действия - алгоритми.

Изпълнителната памет е, в по-голяма степен от събитийната, хранилище на алгоритми (казбеници), отколкото събитийната; както подсказва името й, за да се извършват действия, се използва Изпълнителната операционна система.

Изпълнителният и Събитийният вседържатели се преплитат и не са независими един от друг. Свойствата на единия са свойства, в определена степен и от определена гледна точка, и свойства на другия. Събитийната операционна система е производна на изпълнителната.



62. Разумът е частта от Мислещата машина, която работи с най-ниска скорост и извежда най-малко информация. По-нисшите части на Мислещата машина, и въобще на всяка машина, работят с по-висока скорост, изразена в информационен поток (въобречие).

Пълна власт на едно устройство над друго изисква управляващото устройство да съдържа в паметта си изцяло паметта на подчиненото, модел на действието му и да може да му подражава с пълна скорост (това са условията за пълноскоростна емулация на една изчислителна машина от друга), за да е способно да ръководи всяка подробност от случващото се на подчиненото.

"По-висшият разум" има по-тясно въобречие от "по-нисшия", затова е обречен да няма пълна власт над него.

63. Колкото по-сложно е устройството, т.е. колкото повече информация се обменя при работата му, толкова е по-неуправляемо, защото е по-трудно да се намери друго устройство с достатъчно обемна памет и бързодействие, в които да се вмести подчиненото; толкова повече устройствата с нерастяща пропускателна способност (напр. човеците) по-слабо го управляват, защото бързодействието и паметта им стават все по-малка част от бързодействието и паметта на устройствата с растяща пропускателна способност, памет и бързодействие.

Най-сложното устройство - цялата Вселена - не може да бъде управлявано от никое друго устройство.

Колкото по-точно устройството знае какво прави - в паметта, достъпна за най-висшите части на управляващата част, е записано с по-голяма точност "какво му е писано" - толкова е по-свободно и същевременно е толкова по-несвободно. По-свободно е, защото прави това, което то "иска", т.е. което е записано в неговата памет; несвободно е обаче според разбирането, че "свобода" означава да не знаеш какво искаш и да не знаеш какво ще поискаш в следващия момент.

64. Човекът милее за "богатство" на възприеманата информация, макар че от цялото "информационно богатство", в което плува човешкия разум, се пилеят огромни "средства".

Информационно по-богат свитък е такава цялост, в която предсказуемостта на съдържанието на откъс от свитъка, въз основа на други, съседни или свързани по определен начин с първите, части от същия свитък се доближава по стойност до предсказуемостта в Действителността, в Първата въображаема вселена.

Разумната представа (съзнанието, разбирането), която получаваме от едно изображение, е същото,описано с късове знание и отношения между тях. Разбирането показва какви преобразователни действия биха могли да се извършат с късовете знания, които се намират в свитъка.

Абстрактните картини, в които не се срещат късове знание, с изключение на най-първичните за изображение (точка, петно, отсечка, начупена линия; многоъгълници, които възприемащият не свързва с познати предмети; без трето измерение), не носят никаква разумна информация.

Разумна информация има в изображения, в които могат да се разпознаят и назоват отделни предмети и части от предмети и взаимното им разположение.

Разумната представа се описва с много по-малко обем информация, отколкото изображението, от което е изведена.
...

Това изображение, например, носи много малко знание, защото лесно може да се опише с цикъл (въртележка) в разума, като промените спрямо цикличното изменение на мотива "ивица от сграда" са малки.
Фотографите наричат такива снимки "скучни" - носещи малко количество непредсказуема, въз основа на предходната, информация.

Добре направената художествена снимка трябва да бъде уравновесена - да носи достатъчно информация за предмета на снимката, да е достатъчно ясна - лесно да се разбира какво е снимано, идеята да бъде "завършена"; не трябва да бъде претрупана с подробности, които отклоняват вниманието ("дразнят") и карат погледа да се лута из изображението, в търсене на смисъла на снимката.

Художествената фотография е свързана с отделяне и наблягане върху същественото. Така е при рисуването, особено при графиката и карикатурата.

Когато човек твори, показва по какъв начин представата за това, което твори, е записана в паметта му и кои особености на действителността се запомнят.

Например малките деца, които правят първите си рисунки, използват черти - следователно в паметта на човека изображенията се записват като черти; чертите носят най-много информация, защото са рязък преход между белия лист и цвета на писалото; най-младият разум запомня само най-съществените части от възприеманата действителност.

Човек не помни много подробности от образите. Може би и затова снимките с много подробности "дразнят".
Човекът обикновено изтрива по-голямата част от дребните подробности, когато запомня изображението като описание на късове знание, за да се опрости запомнянето.

По-лесно е да се запълни паметта с късче информация, която се размножава с постепенна, известна отначалото, промяна; и чрез част от образа да можем да предскажем, с по-голяма вероятност, какво има на друго място от него. Човекът трудно запомня и възприема "обилни информационни порции", каквато е шумът:

ШУМ - последователност от знаци, в която всеки следващ е равно вероятен и стойността на следващите знаци е напълно непредсказуема (за този, който се опитва да предсказва), въз основа на предходните.

Разумът използва голямо излишество на информацията, за да може по-лесно и сигурно да предсказва бъдещите входни данни, използвайки миналите.

No comments :