Моделирование интеллекта

Данилов К.К.

Содержание

• Введение
• Интериоризация
• Алгоритм взаимодействия модели с окружающим ее миром
• Экстериоризация
• Заключение
• Литература

Введение

Первоначальной целью этой работы было найти ответ на вопрос, как мыслит человек. Этот вопрос вызывал живой интерес у исследователей во все времена. Однако, результаты исследований и размышлений до появления ЭВМ были скромными. Например, Рене Декарт считал "Мышление причина самого себя и в этом его суть" [1]. Спиноза принял этот тезис как нечто само собой разумеющееся [2]. Появление ЭВМ позволило с иной, конструктивной точки зрения взглянуть на эту проблему.

В процессе поиска ответа на поставленный вопрос сама область исследования претерпела изменение и приобрела более широкий вид. Вопрос стал звучать так. Как человек думает, чувствует, желает, ... или что лежит в основе интеллекта человека.

Определенное влияние на направление работы оказала книга Х. Дрейфуса "Чего не могут вычислительные машины. Критика искусственного разума." [3]. Из чувства противоречия были предприняты шаги найти противоположные доводы и показать, что машина вполне может как думать и чувствовать, так и иметь собственные желания. Работа над выбранным направлением привела к необходимости конкретизировать и ограничить сам предмет поисков и исследований. Среди понятий, конкретизирующих предмет исследования - душа, сознание, сущность, ... все большее предпочтение стало приобретать понятие сознание. Это было вызвано тем, что в психологии это понятие обстоятельно и подробно обсуждается.

К этому можно добавить следующее. По словам А. С. Выгодского, "Психология определила себя как наука о сознании" [4]. Публикации [5] и [6] помогли обратить внимание на такие важные свойства сознания, как невозможность рассматривать его вне связи его с окружающим миром и такое свойство сознания, как выделение себя среди объектов внешнего мира. Наиболее полное и конкретное определение составляющих сознания было найдено в работе [7]. Обобщая определения сознанию, взятые из разных работ в психологии, можно выделить следующие, аспекты характеризующие сознание.

1. Неразрывность связи и взаимодействия сознания с окружающим его миром.
2. Отображение в памяти носителя сознания окружающего мира. К этому аспекту психология относит ощущение, восприятие, память, воображение, мышление.
3. Различение субъекта и объекта. Отчетливое различение сознанием всего, что относится к собственному "Я" и к не "Я".
4. Целеполагающая деятельность. В функции сознания входит формирование целей деятельности. Этот аспект включает в себя мотивационную сферу и принятие волевых решений.
5. Отношение существа к окружающему миру. Эти отношения связываются в психологии с чувствами и эмоциями.
6. Воздействие носителя сознания на окружающий его мир. В рамках этого аспекта психология рассматривает перевод результатов внутренней деятельности сознания во внешний мир.

Анализ приведенных аспектов сознания дан в работе [8]. Книга А. Блоом "Мозг, Память и Поведение" [9] рассматривает работу мозга, носителя сознания, с точки зрения биологии. Чтение этой книги, а также чтение книг А.Р. Лурия "Механизмы мозга" [19] и А. С. Выгодского [4] привели к мысли о том, что сознание можно рассматривать как систему взаимосвазанных механизмов. Механизмов, предмет деятельности которых составляет информация. Настоящая работа рассматривает сознание с этой позиции.

Пожалуй, основное отличие предлагаемой Вашему вниманию работы, от других работ в области исследования сознания заключается в том, что в работе предложен полный набор механизмов, моделирующих функции сознания, в рамках приведенного выше определения. Предложенные механизмы являются алгоритмируемыми. То есть, каждый из этих механизмов может быть представлен в виде последовательности конкретных шагов (действий), выполняемых на ЭВМ.

После того, как пришло понимание о том, что сознание может быть представлено в виде набора механизмов, цель работы приобрела еще более конкретный вид. Найти набор механизмов - минимальный по количеству, но достаточный для того, чтобы построить модель сознания разумного существа.

Глобально функционирование сознания может быть представлено как совместная работа следующих, составляющих его частей.

1. Интериоризация.
2. Алгоритм, объединяющий работу всех механизмов входящих в интериоризацию и экстериоризацию, а также осуществляющий взаимодействие модели с окружающим миром. Алгоритм включает в себя возникновение желаний, а так же функции принятия решений.
3. Экстериоризация.

Интериоризация

Термин интериоризация плодотворно используется в психологии с момента его появления. Это понятие позволило выделить в отдельную область круг вопросов, которые относятся к восприятию внешнего мира и отображению его во внутреннее представление носителя сознания. Конструктивный подход обсуждаемой работы позволяет разделить описание интериоризации на следующие части.

1. Формализация информации, поступающей из внешнего мира.
2. Организация информации в модели.
3. Функциональные составляющие интериоризации.

Формализация информации, поступающей из внешнего мира

Разберем, в чем заключается формализация информации, поступающей в модель из внешнего мира. Целью формализации является представление (преобразование) информации, поступающей из окружающего мира в вид, удобный для работы с ней механизмов модели. Желание свести набор механизмов сознания к минимально достаточному количеству привел к пониманию того, что на первом этапе исследований количество каналов взаимодействия модели с внешним миром необходимо ограничить одним. Будем вести работу по конструированию модели, ограничившись только вербальным каналом связи с внешним миром.

Достаточность одного этого канала связи с внешним миром отнюдь не бесспорна, но несомненно, что этот канал наиболее предпочтителен. Я позволю себе сослаться на мнение замечательного лингвиста А. А. Потебни, который утверждал, что язык есть средство не только выражать уже готовую мысль, но и создавать ее [10]. Ограничение связи модели с внешним миром единственным каналом отнюдь не ставит нам препятствий в будущем расширить их количество. В работе [11] показано, что все каналы связи с внешним миром могут иметь единый вид организации представления информации. Вполне естественно в будущем модель сможет иметь их несколько различных.

Для понимания пути и возможности формализации информации поступающей из окружающего мира, больщую роль сыграли следующие концепции.

Фердинанд де Соссюр показал необходимость различения таких понятий, как речь и язык. По Соссюру, язык это инвентарь средств обмена информацией. Речь является актом обмена информацией с помощью языка [12]. Знаковый характер языка подчеркивался Пражским лингвистическим кружком и задолго до Соссюра на знаковый характер обмена информацией обратил внимание Н. В. Крушевский [13].

Вербальный канал связи модели с внешним миром предопределяет сам вид обмена информацией. Будем исходить из того, что обмен необходимо осуществлять с помощью предложений на естественном языке.

Все многообразие означивания внешнего мира можно свести к двум видам.

1. Объект.
2. Отношение.

Отображение любой ситуации внешнего мира можно получить в рамках этих двух видов.

Необходимо сделать уточнение. Отношения необходимо разделять на два вида. Это отношения между объектами и отношения между отношениями. Отношения между объектами можно интерпретировать как факты и утверждения. Отношения между отношениями - это зависимости фактов между собой. Зависимости между фактами, в свою очередь, можно разделить на два вида. Это направленная зависимость, отображающая каузальные связи. И это не направленная зависимость, отображающая адекватность, эквивалентность, равенство, ... В рамках предложенного подхода - речь представляет из себя поток предложений, образующих утверждения. Сами предложения состоят из наборов фактов. В каждом предложении можно выделить слова, означивающие объекты внешнего мира, и выделить отношения между этими объектами. В качестве элементарных отношений выступают пары слов, связанных между собой вопросом.

Любое предложение речи можно разбить на такие пары. Непрерывные цепочки пар слов в предложении образуют факты (один или несколько). Последовательность фактов из нескольких предложений, имеющих в своем составе один и тот же объект, образует утверждение. Итак, факт это набор связанных по & элементарных фактов. Утверждение это набор связанных по & фактов. В процессе анализа информации, поступающей из внешнего мира, понятия, означивающие один и тот же объект внешнего мира, собираются в отдельную запись памяти. Такие записи собирают (адсорбируют) утверждения, относящиеся только к объединяющему их объекту. Еще одним значимым элементом формализации является выделение из информации внешнего мира слов, которые связывают между собой факты и утверждения отношениями каузальности и адекватности. Эти слова не входят в состав элементарных фактов. Примерами таких слов являются "потому что", "поэтому", "эквивалентно", ...

Разновидность каузальных отношений - темпоральные выявляются в результате анализа повторений в потоке информации из внешнего мира.

Организация информации в модели

На основании описанного вида формализации информации, следующий вид организации ее является наиболее приемлемым.

Основу составляет упорядочненный по времени поток информации из внешнего мира, смешанный с потоком из модели во внешний мир. Для краткости дальнейших ссылок назовем эту структуру "Нить".

В структуре "Нить" выделяются объекты мира и поддерживается (осуществляется) связь между собой всех объектов, которые идентифицированы как один и тот же объект. Одним из объектов в "Нитке" является объект, соотнесенный с собственным "Я" модели. Каждый из объектов собирает ссылки на все факты и утверждения в "Нитке", где он имеет место быть.

Обособленным от "Нитки" массивом информации является набор понятий, которые заполнены информацией, предназначенной и используемой для связывания пар слов предложений вопросами. Этим массивом определяется словарный запас модели.

Первый уровень надстройки над "Нитью". Первый уровень содержит обобщения утверждений из "Нитки", приписываемые объектам. Что подразумевается под обобщением? Обобщение представляет из себя записи, содержащие выделенные из "Нити" пересечения информации. Обобщения содержат динамически обновляемые в процессе жизни модели статистические характеристики пересечений. Объекты, в процессе жизни модели, так же подвергаются своего рода обобщению, - подвергаются иерархическому упорядочнению.

Второй уровень надстройки над "Нитью". Этот уровень надстройки состоит из записей, в которых отражаются связи между утверждениями "Нитки", а также связи между утверждениями первого уровня надстройки. Связи имеют направленный вид (каузальные) и ненаправленный вид (адекватность, равенство, ...). Эти связи в процессе жизни модели также подвергаются обобщению. Такие обобщения накапливают знания о каузальных отношениях внешнего мира.

Третий уровень надстройки над "Нитью". Этот уровень представляет из себя мозаику численных оценок, приписанных некоторым из фактов, утверждений, каузальных отношений, которая имеет место быть в "Нитке", а также на первом и втором уровнях надстройки над ней. Оценка может быть приписана только конкретизированной хотя бы одним объектом информации. В психологии существует такое понятие, как мотивационная сфера. Предложенная в модели мозаику оценок можно интерпретировать как мотивационную сферу. О мотивационной сфере будет рассказано ниже. Описание организации мотивационной сферы модели и человека, а так же вопросы ее формирования и изменения в течении жизни Вы можете найти в работе [8].

Упрощенный вариант описанного вида представления информации воплощен в работающем, технологическом демонстрационном программном продукте (DEMO). DEMO общается с внешним миром на естественном языке, который принципиально ничем не ограничен. DEMO подвергает обобщению поступающую информацию, формируя (не в полном объеме) первый уровень надстройки над "Нитью". DEMO наделено способностью отвечать на вопросы определенного вида. Вопросы касаются сделанных DEMO обобщений. DEMO - прообраз будущей полной модели сознания. Описание DEMO Вы сможете найти в [14].

Функциональные составляющие интериоризации

Перейдем к вопросу о том, какие функции должны выполняться в процессе интериоризации, после приема моделью очередной порции информации из окружающего мира. Ниже будут упомянуты наиболее важные функции. Описание некоторых второстепенных функций Вы сможете найти в работах [11], [8] и [14].

К основным функциям интериоризации можно отнести следующие.

1. Прием информации, поступающей из внешнего мира.
2. Включение поступившей информации в накопленную сеть объектов, отношений и каузальных зависимостей.
3. Обобщение поступившей в модель информации и модификация существующих обобщений.
4. Выделение и формирование вопросов по контексту принятого.
5. Формирование и модификация оценок фактам, утверждениям и каузальным отношениям собственной сети знаний.

Перечисленные функции (механизмы) осуществляют сервисную подготовку информации, поступившей из внешнего мира. Сам же процесс отображения внешних процессов во внутреннее представление модели осуществляет механизм, который строит прогноз развития событий ситуации. Этот механизм является частью алгоритма взаимодействия модели с окружающим ее миром.

Алгоритм взаимодействия модели с окружающим ее миром

В этом алгоритме все механизмы интериоризации и экстериоризации имеют свое место. Механизм который стоит прогнозы в этом алгоритме можно относить и к интериоризации и к экстериоризации. Алгоритм представляет собой последовательность следующих шагов.

1. Из окружающего мира поступает очередная порция информации о развитии событий текущей ситуации. Здесь выполняют свою работу все сервисные механизмы интериоризации.
2. Строится набор прогнозов развития событий текущей ситуации. Прогноз строится для тех объектов внешнего мира, которые были обнаружены (выделены) в текущей ситуации. Прогноз так же строится для объекта соотнесенного с собственным "Я" модели. Прогноз строится по информации о текущей ситуации. При строительстве прогноза используются накопленные в модели знания о каузальных зависимостях внешнего мира (первый и второй уровни надстройки над "Нитью").
3. Производится выбор ветки прогноза, которая удовлетворяет модель в наибольшей степени и которая является достаточно вероятной. Выбор производится по оценкам собственной мотивационной сферы модели (третий уровень надстройки над "Нитью"). Просматриваются все ветки прогноза. Ветка, имеющая наибольшую, среди остальных, интегральную оценку - удовлетворяет модель в наибольшей степени. Эту ветку прогноза можно считать "ЖЕЛАНИЕМ" модели. Это ветка фактически является желанием того, чтобы по такому пути развивались события в окружающем мире.
4. Производится выполнение моделью собственных действий по выбранной ветке прогноза. Этим осуществляется попытка привести окружающий мир к состоянию, соответствующему текущему желанию модели. В этом месте выполняют свою работу все механизмы экстериоризации.
5. Возврат к пункту 1.

Одним из объектов мира является собственное "Я" модели. Этот объект в модели обладает рядом свойств, отличающих его от остальных объектов мира. Главное отличие заключается в том, что все оценки веток прогноза производятся с позиции хорошо / плохо только для "Я". В построенных ветках прогноза собственные действия "Я" всегда имеют вероятность - 1. Действия всех остальных объектов в прогнозе имеют вероятность меньше 1 и лежат в интервале 0 - 1.

Мотивационная сфера

Несколько слов об оценках, которые присваиваются фактам, утверждениям и каузальным отношениям. Эти оценки имеют конкретные численные значения, которые ставятся в соответствие не всем, но некоторым из фактов, утверждений и каузальных отношений. Оценки приписываются только той информации, которая хотя бы частично конкретизирована объектами. Эти оценки формируются с точки зрения модели (Эго модели). Оценки имеют преимущественно конкретизированные обобщения (первый и второй уровни надстройки над "Нитью").

Простейшим способом формирования мозаики оценок, разбросанной среди сети знаний модели, является занесение ее вручную программистом. Описание естественного пути формирования мозаики оценок, при взаимодействии модели с окружающим ее миром, Вы сможете найти в работе [8].

Предложенную Вашему вниманию мозаику оценок можно интерпретировать как мотивационную сферу, с позиции науки психология. Ведь именно эта мозаика оценок и ситуация складывающаяся в окружающем мире, определяет желания модели. Каждую выбранную ветку прогноза можно интерпретировать как устремление (установку). Сами оценки, которые ставятся в соответствие конкретным фактам и отношениям в прогнозе, можно интерпретировать как побуждающие мотивы.

Источники активности личности

В этом месте мы подошли к обсуждению одного из понятий, которому в психологии уделяется большое внимание. Некоторые яркие работы Фрейда посвящены этой теме. Рассмотрим вопрос об источниках активности личности.

Общепризнанным считается, что источником активности личности являются ее потребности. Под потребностями обычно подразумеваются материальные (материалистические ?) потребности. Фрейд подчеркивал этот момент. Так же психология считает, что потребности неразрывно связаны с мотивационной сферой личности и проявляются в качестве влечения, желания, и т.д.

Поставим вопрос. Как материальные потребности могут воздействовать на модель ? Представим модель сознания, которая наделена телом. Предположим, что рецептор левого локтевого сустава послал сознанию сообщение о том, что кончилась смазка. Для того, чтобы тело, в процессе жизни модели, находилось в рабочем состоянии, в памяти модели (это ее личный опыт) должны иметься каузальные зависимости - к чему это может привести.

Состояние тела, к которому может привести отсутствие смазки, содержит оценку (большая отрицательная величина). При построении прогноза развития событий текущей ситуации данные от рецепторов включаются в прогноз, и выбрана будет та ветка прогноза, в которой содержатся действия модели, не допускающие аварийной ситуации. Интегральная оценка веток, содержащих аварию, наверняка будет иметь гораздо более низкую оценку. Этот пример выводит обсуждение модели за рамки выбранного нами вербального канала связи модели с внешним миром, но зато позволяет наглядно продемонстрировать, почему разумные существа стараются удовлетворить свои материальные потребности.

Однако, мы вполне можем рассматривать любой факт или отношение, в текущей ситуации, которые были оценены в модели при построении прогноза, как потребность. В этом месте мы подошли к тому, что трудно было уловить до появления модели сознания. Модель дает естественное и наглядное объяснение тому, как возникают духовные потребности. Потребности, которые трудно соотнести с чем - либо материальным. Большинство оценок при строительстве прогноза появляются не как следствия, источником которых являются сигналы от рецепторов, а теми следствиями, источником которых являются утверждения и каузальные отношения, отображающие текущую ситуацию. Это вторичный уровень источников активности личности. он объединяет в себе как материальные, так и духовные потребности.

Воля

Несколько слов о таком понятии, как воля. Правомерно следующее утверждение. Существо, которое обладает способностью что то желать и способное воздействовать на окружающий мир для достижения своих желаний - обладает волей. Поскольку желания модели не детерминированы и не навязываются другим существом, а возникают в процессе развития текущей ситуации, то можно ставить и исследовать вопрос о свободе воли разумного существа. Исследование этой темы имеет место в публикации [15].

Постулат непосредственности

Предлагаемая модель сознания позволяет разрешить противоречие так называемого постулата непосредственности. В формулировке Д. Узнадзе он звучит так "... Объективная реальность непосредственно и сразу влияет на сознательную психику и в этой непосредственной связи определяет ее деятельность.". В упрощенной трактовке это может звучать так: Потребность непосредственно является причиной действия. Узнадзе понимал необходимость введения между потребностью и действием промежуточного звена. Для преодоления постулата непосредственности им было предложено некое промежуточное звено [16]. Этим звеном, по мнению Узнадзе, является установка. Наиболее устоявшееся и обобщенное определение установки было встречено в работе [17] "Установка - это тенденция к движению в определенном направлении и это готовность действовать определенным образом".

Обратим внимание на то, что выбранная, в какой - то момент времени, моделью ветка прогноза хорошо удовлетворяет определению установки.

Некоторые исследователи подчеркивают динамический и неустойчивый характер установок. Установки могут оказаться разными в одинаковых ситуациях, но в разные моменты жизни разумного существа. А так же установки могут меняться при незначительных изменениях в ситуации. Эти подмеченные свойства установок могут быть хорошо иллюстрированы и объяснены примерами выбора моделью веток прогноза и тем, что сами оценки мотивационной сферы модели претерпевают изменения в процессе жизни модели.

Выбранная ветка прогноза определяет не жесткую реакцию на стимул, а именно тенденцию поведения. В похожих ситуациях набирать наибольшую оценку будут те ветки прогноза, в которых у модели будут аналогичные реакции. Чтобы подчеркнуть не жесткий характер связи потребности и действия, при наличии промежуточного звена из установок, можно разобрать такой случай. Пусть при некотором стечении обстоятельств возникает некоторая "материальная" потребность в модели. Однако, можно представить себе случай, когда из - за наличия в модели, в этот момент, некоторых "духовных" потребностей, которые превосходят по величине "материальные", в модели возможно произойдет выбор той ветки прогноза, которая будет предписывать модели действия, противоположные тем, которые ведут к удовлетворению материальной потребности. Эта ветка будет, по интегральной оценке, больше удовлетворять мотивационную сферу модели.

Модель будет совершать действия, которые будут противоположны удовлетворению ее материальных потребностей. Это явление иногда наблюдается и среди представителей человеческого общества.

Чувства и Эмоции

Принятое в психологии определение чувств является следующим. Чувства - это отношение человека к явлениям внешнего мира [18]. В чем могут выражаться такие отношения? Ответ, с которым трудно не согласиться, будет: - эти отношения будут выражаться в оценках событий и явлений внешнего мира.

Вспомним, что представляют собой желания модели? Коротко это можно сформулировать так. Желания определяются интегральной оценкой событий (явлений) некоторой ветки прогноза, имеющей высшую оценку. Напрашивается предположение интерпретировать чувства как интегральную оценку свершившихся событий и явлений в текущей ситуации. Данную интерпретацию чувств можно отнести к известной из психологии сигнальной функции чувств.

При такой интерпретации, чувства и желания оказываются явлениями одного плана и появление их вызывается работой одних и тех же механизмов. Желание появляется в результате оценки прогнозируемого, чувства появляются в результате оценки свершившегося. Регулятивную функцию чувств (рассматриваемую в психологии) можно внести в модель путем введения сигнала от сигнальной функции чувств (интегральная оценка) в текущий прогноз развития событий ситуации окружающего мира. Это третий возможный источник информации, поступающий в сознание.

Напомню и выпишу эти источники. В сознание поступает информация.

1. От внешнего мира по вербальному каналу.
2. Сигналы от датчиков частей тела модели.
3. Сигналы регулятивной функции чувств.

Для ускорения реакции модели на разворачивающиеся во внешнем мире события текущей ситуации - сигналы от сигнальной функции чувств могут быть, помимо прогноза, (это медленный путь формирования реакции) направлены непосредственно к исполнительным механизмам соответствующих частей тела. Это обеспечит рефлексную реакцию на некоторые возникающие чувства и может быть интерпретировано как эмоции. Модель самостоятельно может формировать такие реакции, как обобщения повторений собственных акций из множества уже свершившихся прогнозов.

Экстериоризация

Под экстериоризацией в психологии понимается вынесение во вне результатов действий, осуществляемых во внутреннем плане [18]. Для этой работы необходимо несколько расширить определение экстериоризации. В рамках этой работы под эктериоризацией будет пониматься вынесение планируемых (по прогнозу) собственных действий как во внешний мир, так и во внутренний.

К механизмам экстериоризации модели относятся такие действия модели, которые могут быть внесены в прогноз развития текущей ситуации. Эти действия мы можем считать планом собственных действий модели в текущей ситуации. Эти действия имеют каузальные связи с некоторыми из фактов и утверждений содержащихся в накопленных моделью знаниях. Знание таких связей помогает механизму, строящему прогноз, включать собственные действия модели в прогноз. Собственные действия модели мы можем разделить на следующие.

1. Действия, направленные на выполнения физических воздействий на окружающий мир.
2. Действия, направленные на работу с информацией (постановка (формирование) вопросов, поиск ответов на вопросы, поиск информации, ...).

В первом варианте модели сознания предполагается ограничится минимальным количеством функций для экстериоризации. К ним будут относиться, во первых, формирование вопросов из внешнего мира и от механизмов модели. Во вторых, будет механизм, который будет искать ответы на сформированные вопросы. Ответы будут искаться на базе знаний, приобретенных моделью на этот момент времени, и информации о текущей ситуации. Прототип такого механизма существует в уже упомянутом демонстрационном программном продукте DEMO. Описание DEMO Вы можете найти в статье [14].

Ответы на вопросы, которые модель находит, могут быть направлены в два места. Ответы на вопросы из внешнего мира обычно направляются во внешний мир. Ответы на вопросы от механизмов модели обычно отправляются через вербальный канал в строящийся (текущий) прогноз. Решение о том, в какое место посылать ответ, получается моделью из выбранной текущей ветки прогноза. Ответ, который посылается в строящийся прогноз, может вызвать еще вопросы и, как следствие, построение новых веток прогноза и так далее. Только что описанное мы можем обозначить как путь осознаваемого размышления.

Заключение

Несколько слов о возможных использованиях и путях развития этой работы. Прежде всего надо сказать, что эта работа открывает путь к созданию реально разумных машин. Однако, более интересным и более важным развитием этой работы является открытие возможности создания населенных виртуальных миров. Небольшая часть этой проблемы была описана в статье [15].

Литература

1. Р. Декарт (Rene Decartes). Рассуждения о методе (сборник статей). Москва. 1953.
2. Б. Спиноза. Избранные работы. Москва. 1957.
3. Х. Дрейфус. Чего не могут вычислительные машины. Критика искусственного разума. Москва. 1978.
4. А.С. Выгодский. Собрание сочинений (6 томов). Москва. 1984.
5. А.Н. Леоньтьев. Деятельность, сознание, личность. Москва. 1975.
6. С.Л. Рубинштейн. Основы общей психологии. Москва. 1989.
7. А.Б. Петровский. Общая психология. Москва. 1977.
8. К.К. Данилов. Моделироавание сознания разумного существа. Москва. Деп. в ВИНИТИ. 1995.
9. Ф. Блоом, А. Лазерсон, Л. Човстандер. Мозг, Память, Поведение. Москва. 1988.
10. А.А. Потебня. Мышление и язык. Харьков. 1913.
11. К.К. Данилов. Язык и отображение мира в сознании. Москва. Деп. в ВИНИТИ. 1995.
12. Фердинанд Де Соссюр. Язык и знания. Москва. 1977.
13. Н. Крушевский. Эссе, Науки о языке. Москва. 1974.
14. К.К. Данилов. Подход к моделированию интеллекта. Москва. Деп. в ВИНИТИ. 1995.
15. К.К. Данилов. Свобода воли и реальность. Москва. Деп. в ВИНИТИ. 1995.
16. Д. Узнадзе. Виды поведения личности. Москва. 1966.
17. А. Асмолов. Деятельность и установка. Москва. 1979.
18. Б. Давыдов, А. Лурия, А. Петровский, Б. Зинченко. Словарь по психологии. Москва. 1983.
19. А. Лурия. Мозг человека и психологический процесс, 1,2. Москва. 1963, 1970.