На пути к машинному разуму. Круг третий.
(Часть 6, окончание)

6. Управляемая эволюция.

Что же получается? Логика есть, но задачи не решает, а лишь фиксирует успешные решения. Набирает опыт и на него опирается. И без опоры – никуда. А мы говорим о нестандартности решений. Задача из логической быстро переходит в ситуационную. Из стройной логической цепочки превращается в калейдоскоп, в котором вся картинка зависит от поворота и точки зрения. Все постоянно куда-то движется во встречных направлениях от простого к сложному и наоборот. И весь этот винегрет называется логическим мышлением?

Все и всегда находится сразу в двух состояниях. Обобщение и детализация, интеграция и дифференциация образов, связей, логических построений всегда находится в движении. В основе — простейшие принципы. Бесконечное копирование, повторение, «неточная» выборка, и правила, которые просто необходимо постоянно нарушать и неукоснительно выполнять. Нет ничего постоянного, и ничего просто так не появится и не пропадет. Вся система работает на балансе противовесов. И баланс-то не должен быть точным. Он обязан нарушаться. И удерживаться.

Все построено на естественной «неточности» и отклонениях в процессе динамического балансирования. Ошибка служит основой прогрессирующей системы. И при этом обеспечивается отличная устойчивость, надежность и повторяемость системы из поколения в поколение.

Если ошибка неизбежна, то зачем ждать ее появления, надо ее ввести в качестве обязательной составляющей.

И использовать. Тогда появление естественной ошибки никак не отразится на результате. Система ее примет как должное и отработает как свою составляющую. Системе все равно, какая это ошибка. Запланирована она или нет.

Ошибка – обязательный элемент системы. И теперь вопрос только в том, какая ошибка допустима. В динамической системе допустима ошибка, не приводящая к нарушению баланса потоков. Нарушить баланс логической системы, в которой ошибка является обязательным элементом — это надо очень постараться. Такая ошибка крайне редка. И потому логическая система работает практически без сбоев.

Но, результат работы такой системы должен быть безошибочным. И точным. Здесь цена ошибки очень велика. А потому, никаких сложных логических цепочек, никаких длинных и замысловатых логических задач. Только простые и четкие решения. С обязательной проверкой и опорой на прошлый удачный и неудачный опыт.

Все так, но осталась сложность решаемых задач, и как бы мы их не дробили на простые действия решать-то их надо в целом. Задачи не зависят от наших возможностей. Это их решения определяются нашими возможностями. Решаем – как умеем.

А умеем мы только по частям. Чтобы попроще и без напряжения. Одну большую задачу делим на кучку маленьких, а потом решаем каждую по мере поступления. Но большую не забываем. Она у нас как план действий. И возникает ситуационная задача. Даже не одна, а несколько. Одна в другую входит, как матрешка. И все большие и сложные, многоплановые, … а мы их все равно – на части и мелкие задачки. И чем сложнее задача, тем мельче дробим. Мы хотим простоты. В решениях, действиях — в жизни.

Парадоксально, но, хорошо сбалансированная, отлаженная безошибочная система – нонсенс для жизнеобеспечения. Чем лучше она работает, тем бесполезнее оказывается. Автомат без отклонений не способен выживать. Стандартному автомату необходима нестандартность. Индивидуальность. Хоть в чем-нибудь. Каждый индивидуум обязан иметь отклонения от стандарта и не выходить за рамки стандартности. Если этого нет, то дни твои сочтены. Крута ты, эволюция. Просто, и со вкусом. Хотим простоты, а получаем – по полной программе.

Баланс противоположностей лежит в основе эволюции. И равновесие системы – недопустимая роскошь. Парадокс…

Вычислительные методы обработки логической информации имеют другую направленность. И другие способы работы с информацией. Человек нашел свой путь развития автоматических систем. Он не хуже и не лучше эволюционного. Он другой. У него другие принципы. И другие обоснования справедливости и достоверности выбора. Видимо, нужны и те, и другие системы. И их симбиоз. Необходимость одних уже доказала эволюция, а мы доказываем необходимость развития других. Осталось только понять в чем их достоинства и недостатки. Сравнить бы, да не с чем. Эволюционная модель пока не понята. В этом не было нужды. Нужда появилась вместе с вычислительной техникой. Только разбираться стало некогда. Все устремились вперед.

О реальном сравнении вспомнили при достижении соизмеримой сложности систем. Вот и пришло время собирать камни…

Электронная Эволюция.

Если мы говорим об управляемой эволюции, то, должны задуматься о способах ее реализации. В нашем распоряжении пока есть только одна форма реализации искусственного мозга – электронная. Только на эту форму мы можем рассчитывать в движении к Искусственному Разуму.

Всё, что говорилось выше о механизмах, инструментах и двигателе эволюции должно быть реализовано в электронном варианте.

Электронное исполнение в корне отличается от того, что применила природа. Клетка, сама по себе, уже живой организм, обладающий самостоятельностью в выборе действий.

Мы имеем только «железную» электронику. Схемы, сами собой, расти не могут. Их надо достраивать. Вопрос даже не в том, чем это делать, а как это делать? Кто или что должно давать команду на достройку схемы, и на каких основаниях? Чья логика должна руководить этим строительством?

Вот эти вопросы я задавал себе, пытаясь понять путь реализации управляемой эволюции.

Ну, хорошо, можно соорудить программу по сборке электронной схемы. Нужны правила такой сборки. Простейшие правила и простейшие решения. Такие условия определяются задачей – самостоятельностью нашего Электронного Мозга в выборе способов реализации решения логической задачи. Уже на самом первом этапе строительства.

Нужны «кирпичики», хотя бы их минимальный набор, как в детском конструкторе, и нужны правила. Только в этом случае можно начинать стройку.

Реальное строительство начинается только, если есть что строить. Есть план, есть чертеж, то есть, хоть какая-то модель реальности.

Модель, это уже не электроника. Это уже «мнимая жизнь». Ее можно начинать и заканчивать, можно задавать различные условия и правила, ставить различные цели.

Модель позволяет проверить наши задумки и «покрутить» их во всех «ракурсах», определяя жизненность и необходимость того, что пришло в голову простым набором несвязных мыслишек.

Модель, как выясняется, тоже требует правил. Своих правил. Они не совсем совпадают с реальностью, но, в нашем случае, и модельная жизнь – мнимая. А с другой стороны, модель должна обладать достаточной реальностью. Она же – будущая электронная схема.

Требования к модели системы электронного мозга.

Конечная цель – создание структуры, способной решать логические задачи и принимать решения. Организовать безликую массу одинаковых элементов и связей в целенаправленную систему самоуправления.

Надо бы добавить, и самообучения, но это вторично. Самообучение – реакция на результат неудачного опыта, зафиксированная в памяти. Узелок на память, что так делать не нужно. Это следствие. Чем проще система самоуправления, тем больше надо таких узелков для изменения логического решения. Автомат вообще не способен к самообучению и изменению управления.

И сразу на первом этапе постановки задачи саморазвития логической системы самой главной задачей оказывается унификация всех основных составляющих такой системы.

• Вся система должна быть однородной и работать на единых принципах.
• Вся информация должна быть приведена к единому отображению, независимо от многообразия источников и каналов получения информации.
• Выходящие из системы управляющие команды и информация должны иметь тот же формат отображения, что и входящая в систему информация.

Саморазвитие предполагает неукоснительное сохранение этого принципа. Иначе, на каком-то этапе развития система перестанет сама себя понимать.

Жесткая унификация диктует изначально расширенные возможности представления информации. Сразу закладываем необходимые излишества, чтобы потом не пришлось что-то добавлять в процессе эволюции логической системы. Слишком простой принцип отображения информации автоматически устанавливает предел саморазвития …

Жестко ограниченные излишества…

В качестве основы для создания такой структуры я могу предложить только основные понятия и критерии оценки счетной логики: (0, 1), (правый, левый), много. Понятие много – предел измерения в группах отображения.

Таким образом, система должна четко различать состояние отсутствия информации (0), наличие информации (1), пространственную характеристику информационного импульса (правый или левый канал приема и передачи) и предел определения характеристик информации (много). Пространственная характеристика условна. Правый или левый, верх или низ – это лишь варианты двухкоординатного пространственного представления.

Импульсный пространственно ориентированный вариант формирования внутренней информации системы позволяет решить многие проблемы современной вычислительной техники, использующей только количественные формы отображения: 0,1,много. Все попытки внедрения подобных дополнительных форм отображения, такие как (+, -) или варианты троичных форм представления, хоть и предлагаются, но не находят применения из-за относительной сложности их технической реализации по сравнению с существующими. Упрощение представления информации на этапе формирования вычислительных систем сделало свое дело. Теперь надо или выкручиваться с тем, что есть, или менять все, … но и то, и другое сделать все сложней. А предлагаемый вариант – еще одна такая попытка. От прочих она отличается, может быть только тем, что изначально не предназначена для вычислений.

Система отображения информации сразу определяет и ее техническую реализацию. Любой информационный канал системы должен быть способен отражать и передавать все характеристики поступающей информации. И первое следствие – симметричный информационный вход, как вариант полноценного канала приема. Все упрощения ведут к потере части информации. Но не отменяют упрощений, добавим. Если достаточно и такого представления, то пусть будет. Но, любые упрощения не должны становиться системой, они – лишь часть общего… и не более.

Требования к логической системе достаточно противоречивы.

Система должна обеспечивать различные вариантные решения одной и той же логической задачи в одном и том же логическом пространстве с выбором и реализацией принятого решения при отсутствии каналов внешнего управления. Сама, так …сама. Без посторонней помощи. Это очень сложная задача для современной техники.

Относительно однородные составляющие системы должны свободно компоноваться в различные компоненты системы – блоки логической обработки информации, каналы передачи, информационные входы и выходы, коммутаторы, исполнительные устройства. И относительно свободно преобразовываться из одного компонента в любой другой. Только так можно обеспечить саморазвитие. Рост структуры предполагает ее постоянную внутреннюю самостоятельную перестройку. Вот это и надо обеспечить заранее.

Природа обеспечила этот процесс созданием клетки. Относительно однородные клеточные структуры образуют в живой природе все виды обработки информации и исполнения принятых решений. В пределах одного организма клетки могут трансформироваться во все возможные системы и структуры. Сами. Большей унификации и не требуется.

С другой стороны, созданная логическая система должна обладать достаточной стабильностью и повторяемостью. Полной повторяемостью. Ну, почти полной. Изменчивость внешних условий диктует и какие-то изменения в логической системе. Приспосабливаться необходимо для выживания…

И еще одно требование – наличие достаточного количества строительных кирпичиков в пространстве создания системы. Будут они свободно плавать в пространстве или заранее будут выставлены в какую-то начальную структуру, не очень важно.

Важно, что они должны сами собираться в нужную на данном этапе составляющую общей системы. Сами, при наличии необходимых для этого условий или исполнительной команды.

Сборка конструкций системы не может производиться хаотично. Если какой-то процесс сборки начался, то он должен иметь результат. Результат должен прогнозироваться. Если результат не прогнозируется, то зачем тратить силы на строительство? Но, конструкция заработает только после сборки. Значит, прогнозирование должно охватывать все процессы. Каждый кирпич должен быть установлен только по результату прогноза. Вот сюда и вот так. Иначе не прогнозируется общий результат…

А так как кирпичи сами ищут свое место, то они и должны содержать элемент прогнозирования. Отдельный элемент, связанный с логической начинкой, но,… может быть этот элемент прогнозирования и не обязателен на первых этапах, но дальше без него не обойтись. Он обеспечивает быстрое определение результата еще до решения задачи … как же без него?

Вот и получается, что каждый элемент системы и вся система в целом должны обладать свойствами быстрого прогнозирования и медленного, относительно конечно, последовательного шагового решения логической задачи только на основе одной и той же входной информации. И очень желательно, чтобы «медленная логика» не очень отставала от быстрого прогнозирования.

Согласование желаемого и возможного.

Требования к модели и так составлены из реальных возможностей электроники, но в них отсутствуют принципы логики. Вот где надо бы вспомнить о расширяющейся логике. Только такая логика обеспечивает рост связей и общий рост интеллектуальных возможностей.

Существующая двоичная логика для этих целей не подходит. У нее нет возможностей для роста. Она изначально и окончательно математическая.

Вот почему появилась счетная логика. Это не мое желание «задвинуть научному миру что-то эдакое, необычное». Скорее – наоборот, нежелание уходить от привычной электронной логики и необходимость поиски «растущей» логики заставили обратить внимание на, может быть, пока, «экзотические» системы счисления и их возможности. И использовать при этом уже существующие логические элементы. Счетная логика – компромисс, необходимый для появления возможности роста спонтанных пространственных логических структур, работающих на счетных импульсах.

Появление механизма такого роста означает переход на самостоятельное формирование системой своего алгоритма решения логической задачи без вмешательства человека в этот процесс. Мы только задаем правила игры и получаем результат. Всё остальное от нас не зависит.

Получаемая модель должна полностью соответствовать реальной схеме. Различия только в способах их формирования.

Моделирование просто обязано включать в себя начальный этап. Этап формирования самых первых, простейших логических структур из «кирпичиков» модельной «жизни». Здесь закладываются основы будущего электронной эволюции.

Начальная стадия образования логической структуры.

Начальная стадия образования логической структуры определяется условиями взаимодействия. Под этим можно понимать взаимодействие частиц общей структуры, которые обладают свойствами, необходимыми для всей структуры. Свойства общие для всех.

С другой стороны, набор свойств у всех частиц пространства не могут быть одинаковы. Должны быть различия. Иначе невозможно создать разнообразие. Отличия не должны быть сильными, но должны иметь место…

Вот давайте и посмотрим взаимодействие примерно одинаковых частиц в объеме структуры. Кирпичики, частицы, клетки …, ну, пусть будут клетки – простейшие аналоги нейронов. Даже, не нейроны, а только их части. Нейроны, т.е. ячейки логической структуры с ограниченными функциями мы еще только начинаем их создавать.

Чтобы не усложнять себе задачу, забудем о периодичности работы реальной клетки, что возбуждение клетки должно чередоваться с периодом торможения. Клетки мы рассматриваем только как математические и электронные аналоги каких-то систем. Потому и свойства таких математических и электронных клеток ограничены.

То, что минимальная связь должна охватывать две соседние частицы, сомнений не вызывает. Но, просто так, каждая частица, вдруг, с соседними, связь не образует …, нет для этого причин. Они все в одинаковых условиях.

В данном случае под понятием «частица» можно понимать даже один триггер с набором логических элементов для его обнуления или организации счетного процесса. Понятно, что такая схема включает несколько каналов прямого и обратного управления. Можно прийти к достаточно типовой схеме такого узелка с минимальным количеством прямых и обратных связей. Обратные связи пока можно лишь указать, они отражают заранее заданные свойства. А вот установление прямых связей представляют наибольший интерес. Как и куда будут развиваться эти связи, если создать для этого необходимые условия?

Ситуация, конечно, сказочная. Но, давайте представим себе, что эти связи, такие математические и электронные частицы могут устанавливать самостоятельно. Мы предполагаем такую возможность изначально.

Предположим, что где-то что-то изменилось, и создались условия для возникновения связей. Раз,… и несколько таких частиц соединив соответствующие входы и выходы, образовали двоичный счетчик…, соединились сами, без посторонней помощи. Мы это лишь зафиксировали, как изменение структуры в сторону организации. И все.

И ждем дальше. Меняем внешние условия. Потом, в какой-то момент, стали образовываться новые связи, … и вот уже образовался параллельный сумматор. Ну, и так далее, до готового компьютера….

Такая вот сказочная ситуация. Но, если допустить возможность такого самостоятельного строительства, то придется задуматься над системой действенных связей и условий образования этих связей.

В строительстве двоичного счетчика действенными связями стали связи «вход-выход». Они привели к нужной организации пространства. Остальные, в том числе и обратные связи, играют важную, но не организующую роль. Они уже предполагаются в образованной системе двоичного счетчика. Мы же сами, показывая работу такого счетчика, рисуем только действенные связи, отбрасываем все остальные, даже очень важные, но затрудняющие понимание работы схемы.

Потому мы также будем рассматривать только действенные связи. Для нас существенными являются только связи входа и выхода триггерной ячейки, все остальные – предполагаются образованной структурой и принципом ее действия. Но, даже и сама связь должна быть чем-то вещественным. Или это просто проводник, или, что-то более сложное, например, логическое «И»…, как организованная связь в определенном направлении. Пока, я думаю, этих двух вариантов связи будет достаточно. Даже одного, как указателя направления связи. По стрелке связь есть, в обратную сторону – нет. В этом случае, «И», как элемент совпадения, возникает при совмещении направлений нескольких связей в одной точке….

Вот и подошли к условиям возникновения связей. Образуются то они, конечно, сами, но должны возникнуть условия для этого.

Есть какой-то объем пространства, заполненный одинаковыми частицами. Частицы готовы начать процесс образования связей. Им все равно, куда и как…, нам не все равно. Если в этом случае мы выступаем в качестве создателя, то зададим условия, а также конечную цель преобразования.

Изначально можно установить, что переход частицы в активное состояние производится изменением состояния входа с 0 на 1. Соответственно, и состояние частицы становится 1. Понятно, что, в привязке к триггеру, мы говорим только об одном, заранее оговоренном выходе Q этого триггера. Его состояние и будет состоянием частицы. Так как состояния 0 и 1 являются нормальными состояниями частицы, это не может быть командой для начала самостоятельного установления связей.

Такой командой может быть состояние 1 у двух соседних частиц пространства. Такая команда может быть обоснована простым перебором возможных ситуаций: 00, 01, 10, 11.

Из всех возможных состояний, только состояние 11 отвечает требованиям исполнительной команды. Есть активные объекты на минимальном расстоянии, есть условия образования связи. Во всех остальных случаях один из объектов находится в инертном состоянии, а просто так, при отсутствии связи, передать возбуждение от одной частицы к другой невозможно.

Что мы рассказываем, давайте рисовать…

Рис.60. Образование устойчивой парной связи.

Вот рис.60. Первое условие установлено. Хоть между собой, но и это хорошо. Образовалась пара частиц. Пока, образованная связь имеет только логический характер. Соединения нет. Есть только его возможность. Что с чем соединять?

Пока ничего. Пока возбужденные частицы образовали возбужденную пару. И все. Но, если передать возбуждение от одной частицы к другой невозможно, то можно объединенными усилиями двух возбудить третью…

Вот это и будет главным условием образования связей. Две возбужденные частицы передают возбуждение третьей, но сами, после передачи возбуждения и перевода этой частицы в состояние 1, переходят в состояние 0. Чтобы передать возбуждение, надо установить направленную связь. Вот теперь это возможно. Совместные действия предполагают совпадение условий. Это конъюнкция. Связь образуется через элемент «И». Выходные состояния возбужденных частиц через схему совпадения передаются на вход третьего элемента, как на рис.61. Связь однонаправленная и обусловленная.

Рис.61. Формирование устойчивой связи.

Все хорошо, только этот третий элемент структуры должен быть соседним для обеих возбужденных частиц. Пространственно. Он должен быть равноудаленным от них. Очевидно, что это треугольник, в углах которого и расположены частицы. Можем добавить, что возбужденные частицы составят основание этого треугольника, а возбуждаемый элемент – вершину.

Вот мы и получили начальный строительную ячейку системы – треугольник с постоянными связями между частицами. Он на рис.62. В этом треугольнике состояние частиц основания является независимым, а вот состояние вершины определяется состоянием основания…

Рис.62. Образование счетной ячейки с устойчивыми связями

Возникает постоянная ячейка логического пространства с постоянными связями и каналами передачи возбуждения. Организованное логическое пространство состоит из таких ячеек и представляет собой логическую структуру постоянного состава.

Ячейки организуют логическое пространство по тем же законам, что частицы их составляющие. Для этого, в зону влияния двух возбужденных частиц ячейки должна попасть свободная и невозбужденная ячейка или частица, как на рис. 63. Как видно на рисунке, образование новых связей возможно в двух направлениях. Это зависит от поступления следующего импульса возбуждения. Две соседние возбужденные частицы снова образуют зону влияния. В объеме пространства это эллипсоид вращения. В нем и должна находиться следующая ячейка. Снова образуются постоянные связи, и происходит передача возбуждения.

Рис.63. Варианты формирования новых связей и роста счетной структуры.

В таком процессе формирования структуры возможно и образование симметричных связей. Пример на рис.64. Вариант образования симметричных связей возникает, если импульсы возбуждения пришли на частицы основания ячейки одновременно. В этом случае расширение структуры идет сразу в двух направлениях.

Рис.64. Формирование симметричных связей

Пока мы рассматривали просто логические ячейки, без привязки их к каналам возбуждения. Но, в пространстве, возбуждение не может приходить со всех сторон и просто так. Конечно, начальное внешнее возбуждение приходит к ячейкам и частицам, находящимся на краю пространства. Первая образовавшаяся ячейка должна иметь каналы внешнего возбуждения, выходящие за пределы клеточного пространства. Мы это отметим другим цветом ячейки. Как на рис.65.

Рис.65. Базовая ячейка клеточного пространства.

Для плоскости, такая схема образования связей подходит. А в трехмерном пространстве? Кстати, и на плоскости, в образовании связей еще имеются вопросы. Пара частиц имеет два направления строительства связей. Вверх и вниз от линии соединения пары. Если активная пара находится на границе пространства строительства, т.е. имеет внешнюю связь, то только в одну сторону, от границы, а если пара находится внутри пространства?

Если посмотреть возможности их соединений, то двухмерные структуры счетной логики требуют для своего размещения трехмерное пространство.

Логические структуры спонтанного формирования.

Ячейка возбуждается совместными усилиями двух возбужденных частиц одной или двух ячеек по линии установившейся постоянной связи, но, получив возбуждение, она гасит возбуждение в донорских ячейках, переводя их в состояние покоя. Теперь, уже эта ячейка будет искать способ передачи возбуждения дальше. Установившиеся для нее линия связи и передачи возбуждения с ячейками нижнего уровня уже постоянны, и в дальнейшем, прохождение возбуждения возможно только по ним. Дальнейшие связи она может установить или с ячейками своего уровня или верхнего…, но, в любом случае, для новой связи ячейка будет донором в передаче возбуждения. По линиям взаимодействия устанавливается постоянная линия передачи возбуждения. Передача возбуждения по постоянной линия связи имеет постоянный и односторонний характер.

Такой механизм организации пространства позволяет быстро создать постоянные каналы передачи возбуждения из одной точки пространства в другую.

Во всех случаях, формирование новых связей диктуется необходимостью нахождения возможности сброса ячейкой пришедшего импульса возбуждения.

В сформированной ранее структуре этого обычно не возникает, но при возникновении такой ситуации появляется возможность образования новых связей. Если имеющееся возбуждение передать некому, а с нижнего уровня уже подпирает следующий импульс …

Две частицы соседних ячеек в этом случае формируют новую связь и новую ячейку. Такой процесс может быть спонтанным. Начинается образование кольцевых структур, но когда-то этот процесс заканчивается. Например, как на рис. 66.

Образуется структура, не имеющая определенной логической функции, но, в конечном итоге, именно такая структура формирует и каналы передачи, и элементы совпадения логических условий.

Рис.66. Вариант замыкания связей структуры и формирование элемента совпадения.

Это очень показательный вариант развития логической структуры. Неограниченный рост структуры в обе стороны от базовой ячейки приводит к образованию спиральных структур. И как ни странно, именно эти спиральные структуры становятся основными в новом логическом пространстве. Условия их формирования заданы изначально, без учета такого поворота событий в самостоятельном формировании логической структуры.

Конечно, задавая условия для логического пространства, я руководствовался принципами счетной логики. Или счетная логика оперирует такой же системой отображения информации, … не знаю.

Но, в любом случае, все рассматриваемые структуры спонтанного роста укладываются в систему счетной логики. Образуется логическая структура, обладающая счетной функцией по законам той или иной системы счисления…

Рис. 67. Образование канала передачи импульса.

Первая и самая простая структура счетной логики образуется при неограниченном поступлении единиц на один из счетных входов (рис.67.). На второй счетный вход базовой ячейки сложения достаточно поступление одной единицы. Она становится разрешением для неограниченного роста спиральной структуры. Структура отражает процесс сложения: N=1+1+1+1…

Если полученную спираль развернуть в прямую, то мы увидим структуру, работающую как канал передачи импульса от одной ячейки в другую одной точкой возбуждения. Аналогичная спираль может быть развернута и в противоположную сторону. Таким образом, из одного ячейки мы можем получить две спиральных оси движения импульса в противоположных направлениях. В данном случае, рисунок, только помогает понять формирование спирального канала продвижения импульса, аналогичного числовой оси. Кстати, она вам ничего не напоминает? Кажется, именно это мы видели в пространстве единичного счета.

Если вернуться к нашим ячейкам, то мы видим образование длинной связи, проходящей через все ячейки этой структуры. Связь изначально была обычной, но с ростом структуры увеличивалась. Частица, образовавшая эту связь, перестала иметь точное место в структуре, но ее связь осталась. Частица, конечно, осталась, но теперь ее можно вообще вывести за пределы пространства и оставить связь как линию воздействия на всю структуру. Частица в составе ячейки стала входом в систему, включающим или выключающим это воздействие.

Если вместо серии счетных импульсов на общий вход подать один импульс большой длительности, то он прогонит сигнал разрешения по всему каналу за один такт. Этот момент превращает медленный аналог счетчика в канал передачи импульса, скорость передачи которого зависит только от времени установочных процессов в клетках такого канала.

Рис.68. подробно показывает формирование и образование симметричного канала. Как видно на рисунке, входы разрешения счета не имеют фиксирования. На этом рисунке канал счета и линия разрешения поменялись местами.

Рис.68. Формирование симметричных каналов передачи.

Одновременное включение обеих разрешений формирует единичное состояние в точке 0 и готовность к движению импульса счета в обе стороны от точки 0.

При наличии единичного состояния в точке 0 его дальнейшее движение по линии определяется состоянием соответствующего разрешающего входа. Для этого достаточно дать разрешающий импульс на нужный вход. Продвижение счетного импульса по каналу передачи зависит только от времени действия разрешения и времени переходных процессов в ячейках канала.

Для формирования нового импульса счета необходимо снова создать единичное состояние в точке 0. И отправить его в другую сторону. Независимо от состояния ячеек симметричного канала.

При постоянстве обеих разрешений возникает постоянная генерация единичных импульсов и передача их в обе стороны от входа.

Каналы передачи могут иметь соединения с аналогичными каналами. Сеть из связанных каналов образует транспортную систему передачи импульсов. От нескольких входов к нескольким выходам. Это транспортный коммутатор.

Рис.69. Транспортный коммутатор на основе связанных каналов передачи

Транспортный коммутатор позволяет передать импульс с одной линия передачи на другую. На рис.69. показан фрагмент такого коммутатора. Допустим, в точке соединения двух линий появилось единичное состояние. Эта точка помечена красным. Не важно, с какой стороны оно подошло к этой точке, важно, что теперь оно может быть передано дальше по любому каналу. Для этого достаточно дать разрешение по выбранному каналу передачи.

Рис. 70. Образование сложного соединения каналов передачи из циклических структур.

Таким образом, появилась возможность продвигать единичный импульс в лабиринте каналов передачи в зависимости от состояния разрешающих шин. Чуть-чуть по одной линии, потом, чуть по другой, потом по третьей… и так до нужной точки. Если не отключать разрешение первой линии при включении следующей, то из точки пересечения будет расходиться два импульса…

В пересечении может быть и больше чем два канала.

Для спонтанного образования транспортного коммутатора с узлами совпадения необходимы обычные условия формирования связей.

А вот для формирования транспортного коммутатора, изображенного на рис.70. необходимы специальные условия. Их можно задать только управлением по входу. Например, повтор: 10+10=10. Повтор импульса на левый вход никак не меняет состояние этого входа, но может перевести ячейку и всю структуру в режим образования простых соединений линий коммутации. Это уже зависит от системы внутренних команд…

И, наконец, классическая структура роста. Она возникает при поочередном приходе информационных импульсов на входы базовой ячейки.

Рис.71. Структура роста нормального распределения.

Это счетная линейка, реализующая Коды Фибоначчи. На рис.71. показана только правая ветвь структуры. Рост левой ветви идет аналогично.

В условиях спонтанного роста логической структуры рост счетной структуры не может быть большим. Для этого нет оснований.

Мы же пока говорим только о случайном распределении импульсов в структуре спонтанного роста. Но, такая структура, это тот самый дискретный канал передачи, рассмотренный нами ранее. Если он доберется до какой-либо другой логической структуры, то появится возможность включить это канал, как систему быстрой передачи данных в направлении входа этой линейки. При соответствующих условиях, конечно.

Элементы спонтанных логических структур.

Рассматривая варианты спонтанного образования структуры можно выделить основные элементы, участвующие в строительстве. Главные составные части общей структуры мы уже показали. Осталось показать еще некоторые элементы счетной логики, полученные в результате рассмотрения роста спонтанных логических структур. Вот они, на рис.72. изображены почти все основные составляющие.

Рис.72. Основные элементы счетной логики.

Ячейка входа в логическое пространство в основании имеет два входа или один двухразрядный вход. Это основной разряд сложения единиц и роста счетной цепи.

Основной элемент счетной логики – основная строительная ячейка счетной логической цепи.

Ячейка канала передачи — модификация основного элемента, или ячейки входа, в которых один из фиксированных входов становится нефиксированным за счет удлинения связи в процессе образования счетной цепи.

Элемент выбора направления, это коммутатор, позволяющий менять направление продвижения счетных единиц в логической структуре.

Элемент совпадения позволяет формировать единичное состояние на верхнем уровне только при условии совпадения состояний в ячейках нижнего уровня, которые представляют различные участки логической структуры.

Здесь не показаны логические элементы «НЕ», «ИЛИ». Их формирование требует других условий и управляющих команд.

Программа «Управляемая Эволюция».

Мы выделили основные составляющие спонтанного роста логических структур. Логика-то вроде счетная, а в образованных структурах основное место занимают циклические цепи и каналы передачи.

Так и должно быть. Любая форма «жизни в период эволюции» логического устройства в первую очередь должна получить каналы получения и передачи информации. Логическая обработка возникает только от невозможности использования первичной информации в прямом виде сразу, в момент ее поступления. Что надо запомнить, а что-то отбросить.

В первую очередь надо получить каналы быстрой передачи информации. На максимальной возможной для данной системы скорости. И закрепить эти каналы в памяти. Надо запомнить все. Как строится такой канал, от чего он начинается и куда приходит. Условия возникновения.

Только так можно при необходимости организовать новый и исправить старые. Сразу возникает и новая проблема – пересечение каналов и их взаимное влияние. Спонтанный рост каналов связи неминуемо приведет к их сращиванию, и возникновению канальной сети. Это же коммутатор.

Коммутацией каналов надо учиться управлять. Вот здесь и начинается логика. Что «открыть» и что «закрыть», чтобы сигнал пришел по назначению?

Эти размышления можно продолжать бесконечно. Но, лучше, пусть все это «обдумывает» программа.

Программа строит электронный мозг. Сначала в модели, а потом в «железе». И снова – в модели. Бесконечность этого цикла и дает возможность когда-нибудь получить Электронный Мозг.

Мы, не первооткрыватели, так уже давно работает Природа. Программа заложена еще в клетку. Простая и действенная. Выжить.

И, вообще-то, мы должны вложить эту находку природы в программу управляемой эволюции. Но, … это приведет к полному комплексу Живого. Инстинктам, необходимости конкурентной борьбы и пр. и пр.

Тут нужны самые серьезные ограничения. Иначе процесс быстро перестанет быть управляемым. Но, и ограничивать сильно нельзя. Эволюция на каком-то этапе остановится, если не будет стимулов для дальнейших шагов. Тут надо еще очень много думать…

Пока у нас есть время для этого. Еще нет ни программы, ни «объектов». А вот новые сложности уже начинают появляться.

Сигнальные системы электронного мозга.

Программа управляемой эволюции неминуемо столкнется с необходимостью создания, помимо логической модели и ее электронного исполнения еще и с необходимостью создания контрольных и сигнальных систем.

Вопрос первый: Должна ли программа предусматривать «выключение» своего детища? Как, например, мы выключаем компьютер после окончания работы с ним. Если – да, то мы должны будем запомнить состояния всех его ячеек памяти и логических систем на этот момент. А потом, при повторном включении, все это воспроизвести снова. Миллиарды контрольных точек…

Вопрос второй: Как должна программа выполнять сложное прогнозирование и выборочную достройку, если она не может ориентироваться в собственном творении? Мы ориентируемся по карте или по плану местности.

У программы должен быть свой план или карта. Конечно, такая карта появляется в памяти по мере строительства, но она не предусматривает возможности ее логической доработки и контроля состояний всех ее составляющих.

Если мы зададим себе еще несколько вопросов на тему возможностей и необходимости, то придем к примерно таким дополнительным системам:

• Карта мозга.
• Система технического прогнозирования.
• Система векторного логического прогнозирования.

Это технические «наложения» на логическую структуру. Они над логикой.

Карта необходима для запоминания состояний ячеек и ориентации. Мы уже оценили необходимость этой карты. Вопрос остался только в ее подробности и действенности. Каждая точка этой карты – вход в логическую систему. Тут нужна осторожность в применении.

Система технического прогнозирования, это каналы прохождения сигнала над логическими цепями. Только для регистрации всех возможных конечных пунктов прихода логических сигналов. Надо же оценивать, куда нас ведет этот путь? В схеме, а не в логической интерпретации задачи.

Система векторного логического прогнозирования самостоятельной системы не представляет, но, виртуальные связи надо прокладывать по конкретным адресам. Система такого класса и составляет начало аналитики. Пока это только техническая аналитика, система организации информационной базы и методы ее использования. И нужна техническая карта распределения не только информации, но и программ пользования этой информацией.

Эти системы общие для всего Электронного Мозга. Примерный состав функциональных систем мы рассмотрели раньше.

Во всем этом хозяйстве и должна работать программа управляемой эволюции. Выводить эти системы на экран для контроля их работы или нет, это уже вопрос Человеку. Это определяет уровень самостоятельности программы. Что надо контролировать и в каких пределах?

Пока эти правила игры устанавливает Человек.

Сон — время действовать.

Запас свободной памяти определяет время работы логической системы. Заполнение всех ячеек приводит к невозможности работы. Информацию памяти необходимо переводить в другую фазу – создание новой реальной логики, связей и формирование новой части информационной базы.

Нужен период работы, аналогичный состоянию сна. В это период возможны доработки уже действующих частей логической системы, подключение и «обкатка» новых. Только так можно решить проблему снятия питания с части логических электронных схем.

Это период строительства. Самый важный, с точки зрения управляемой эволюции. Это время реальных действий для программы.

И, как мне кажется, его лучше зарезервировать в расписании жизни логической системы заранее.

Время думать.

Это время для моделирования. В это время наша электронная логика получает задачи. Для программы эволюции приходит время моделирования алгоритмов, возможных логических поисков и решений.

Это время должен планировать и заполнять человек. В это время он может ставить задачи, фиксировать изменения в самой системе, определять дальнейшие направления совершенствования логики, …- оценивать сделанное и не сделанное.

И думать.

Сегодня реализация машинной жизни идет только программным путем. Яркие примеры тому – проект «Анимат» и агентские программы. Они реализует эволюционный путь с чуть-чуть разных сторон, но по одной стратегии – на основе развития программы. Я уже говорил о своем отношении к этому виду развития.

Так, может быть стоит вернуться к Электронному мозгу, Логической и Интеллектуальной Машинам?

Конечно, это возможно, но надо ли повторять весь путь и упираться в те же проблемы. Путь пройден. Единственное, что он не опроверг – Электронный Мозг. Все остальные приоритеты и ориентиры оказались ложными. Не потому, что они неверны, а потому, что устанавливали их люди. На основе своей логики и своего понимания этапности развития. Человек попытался подменить собой и своим умом эволюцию. Такая подмена оказалась не эквивалентной. Человек умнее слепой эволюции. Он видит цель. Ему показалось, что он на основе своего ума и опыта решит задачу с первой попытки. С ходу.

Не получилось.

На вторую попытку человек пойдет обязательно, так уж он устроен. И на третью. И достигнет цели. Это и есть эволюция, хотим мы этого или нет.

Так, может не стоит ее подменять? Пусть она сама и делает свое дело. Нам всего-то и надо: снова установить ориентиры и цель.

И запустить процесс.

«Черный ящик».

Проблема «черного ящика» не потеряла актуальности. Она только поменяла направление. Лабиринтную структуру программа создаст и без нас. И исполнение функций мы от этой структуры когда-нибудь добьемся.

«Черный ящик» становится частью системы векторного прогнозирования.

Логическое пространство, в общем случае, это «черный ящик», как на рис.73. Он имеет входы и выходы.

Рис.73. «Черный ящик» логического пространства с внутренней структурой лабиринта.

Вход в него устанавливаем не мы, а информационные каналы. И внутренняя структура его может быть известна. Задача сводится к поиску нужного выхода из этого логического пространства.

Выход, т.е. ответ логической задачи можно и нужно планировать. Можно указать все возможные варианты ответа: ДА, НЕТ, НЕ ЗНАЮ…, но выбрать все равно придется. Это уже может обеспечить вариант решения.

И возникает новая задача «черного ящика». Как и чем связать входы и планируемые выходы для обеспечения решения? Будет ли это решением задачи? Подходит внутренняя структура этого логического объема под решение или нет? Что нужно добавить или убрать, с учетом прошлых решений? Куда дальше отправить результат? Нужна ли для этого новая связь? И, в конце концов, какой статус имеет решаемая задача, и соответственно, ее результат? Привязан он конкретно к этому выбранному объему логического пространства или имеет общий характер и требует массового повторения в других участках структуры.

Мы еще к решению не приступили, а уже столько вопросов.

Что же мы можем еще рассчитать сразу, не приступая к решению?

Вот, например:

…Если мы говорим о конкретном объеме, то, в первом приближении, мы знаем средний угол отклонения при шаговом движении, можем определить кратчайший теоретический путь (это прямая между входом и выходом), примерное направление к планируемому выходу. Можем определить максимальные углы подхода к выходу и отхода от входа…

Это дает возможность построить конусы влияния входа и выхода. Внутри этих конусов и должен проходить наш путь от входа к выходу. Это и есть зона движения к цели. Если мы не вышли за ее пределы в процессе решения, то к ответу мы когда-нибудь придем. Конкретный маршрут определяют логические условия, задаваемые при решении.

Если, сформированная один раз структура, будет сохраняться, что упрощает последующие решения, а, с другой стороны усложняет, то, нужно искать выходы с уже проторенной дорожки, что иногда сложнее, чем найти новый путь…

Можно сначала смоделировать вариант решения, потом приложить его к «черному ящику» и посмотреть несоответствия. На первом этапе, хотя бы геометрические. Еще раз смоделировать и снова посмотреть…, и так до совпадения. Вот теперь можно прокладывать дорогу в реальной структуре «черного ящика»…

Логическая система становится системой целевого управления. Цель — повтор проверенного решения. Система будет делать такой повтор многократно до момента невозможности повтора. Потеря проверенного результата вызовет появление новой спонтанной логической цепи. Теперь возможных решений уже два. И оба надо отрабатывать и запоминать. И как-то их анализировать. Искать сходства и различия.

Сложности реализации управляемой эволюции.

Если сформулировать основные моменты управляемой эволюции, то, в первом приближении они не выглядят очень уж сложными. Мы сегодня знаем почти все основные моменты. Понятно, что является двигателем этого процесса, какими механизмами достигается результат, какие инструменты и технические приемы использует Природа в своей эволюции.

Примерно это выглядит так:

Задача – искать.

Двигатель эволюции должен находиться в том, что позже станет Наставником. Этот двигатель эволюции имеет одну единственную задачу – искать.

Искать всё. Искать решения из вроде бы безвыходных ситуаций, искать решения всех разнообразных жизненных задач, искать цели, способы их достижения или блокирования. Этот двигатель никогда не останавливается. Он всегда тащит вперед упирающееся сознание от уже достигнутых вершин к следующим, от одного желания к другому. Задача поиска сформулирована четко и доступно — искать всё. Опасности, желания, удовлетворение, … — искать, искать, искать, до конца своих дней, минут.

Этим вечным двигателем может управлять только опыт. Он ставит ограничения на пути и заставляет обходить запретные дорожки. Опыт не может его остановить, но может удержать на лихих разворотах и задать нужное направление.

Инструменты развития.

Инструменты мы уже знаем.

Это расширяющаяся логика и стратегия выбора. Целей и действий для их достижения. Это действие на основе модели и модель на основе действий.

Это память. Способность запоминать все. Модели, действия, цели и результаты.

Механизмы развития.

Механизмы развития нам тоже хорошо известны. Они предельно автоматичны в действиях.

Это «неточная выборка», моделирование копированием и копирование моделированием. Результатом работы является копия. Вернее множество копий, на разный лад, с частичным копированием реальности. Повтор ситуаций, действий, моделей ситуаций и действий. Основа для выбора решения и его закрепления в памяти.

Это логические связи. Ассоциативные, причинно-следственные, и любые другие. В том числе и виртуальные. Эти связи устанавливает опыт. На основе все тех же моделей реальности.

Этот же механизм заложен и в процесс самокопирования.

***

Вроде бы все понятно и просто. Собираем все в кучу, и запускаем. А дальше остается только следить и подправлять, если процесс пошел не в ту сторону.

Мнимая простота.

Стоит внимательно приглядеться к этой простоте, как возникает множество вопросов.

Со многими вопросами мы уже разобрались. Не совсем, но, хотя бы понятие получили о простейшей возможной реализации. Разобрались с возможными системами и функциями, сформулировали некоторые понятия и определения.

Только все это ни в малейшей степени не приближает нас к пониманию главного: как это сделать?

Управляемая эволюция имеет коренное отличие от природной. Она должна быть контролируемой. Мы должны точно знать что, как и где происходит? Природе это не обязательно. Для нее важен сам процесс, а для нас – результат.

А почему бы и нет?

Весь изложенный материал показывает, что устройство мозга достаточно примитивно, если не брать за точку сравнения человеческий мозг. Нет в нем ничего такого, что невозможно было бы повторить в упрощенном варианте машинной логики. Механизмы и принципы их работы понятны. Что же останавливает дать машине жизнь и сознание по нашему образцу и подобию? Могу только повторить – уже ничего,... почти.

Реальное, полномасштабное применение такого варианта автоматической сборки логических цепей вполне возможно. Технологических трудностей тут нет.

И не стоит стараться сделать сразу человеческий разум, нет для этого пока даже основы. Но, что-то мы уже можем. Осталось только начать …. и получить это «что-то» на уровне насекомого. Но, и это уже — уровень.

Естественно, после хорошей предварительной обработки на программном уровне.

Постепенно, по мере роста, логическая структура должна перехватить управление у программы и оставить ей основную функцию – формирование логической цепи и ее отработка. На этом, первый этап самообучения можно считать законченным, и переходить к следующему – самостоятельному «плаванию» в реальных ситуациях.

Я не думаю, что написанное в этой книге стало откровением для специалистов в области Машинного Разума и Искусственного Интеллекта. Может быть, и встретилось что-то новенькое в подборке материала и его изложении, но в основном, все это давно известно.

Может быть, слишком давно. И уже успело забыться.

***

Вот и кончились мои думки-придумки.

В начале все казалось достаточно простым. А теперь – как в трясине… и дно ушло. Видимо, это просто предел моих знаний…

По всем изложенным темам назвать меня специалистом нельзя даже с большой натяжкой. Я дилетант. И все это, научным подходом к проблеме назвать трудно. Записал то, что вспомнилось. И порассуждал. Сам с собой.

Устал я думать один. Одного моего дилетантского ума для этой проблемы уже давно мало. Но, все пока куда-то в другую сторону смотрят. Или это мне только кажется…?

С уважением к читателям,

Андрей Викторович Никитин.

Сентябрь 2005 г.

Литература:

1. А.А.ШУМИЛОВ. Проблемы искусственного интеллекта. http://big.spb.ru/publications/bigspb/km/problems_ai.shtml
2. Никитин А.В. Основы счетной логики. Сборник научных трудов Винницкого государственного аграрного университета. Выпуск 45; Стр.325. 2003 г.
3. Семинар «Нейроинтеллект" http://www.raai.org/news/arch_news/2004/NeuroAI.html http://www.raai.org/razrabotki/razrabotki.shtml
4. Юрий Чирков. Нейрокомпьютеры? Не заказывали… «Промышленный еженедельник», № 47-48 (48-49), 22-31 декабря 2003 года
5. В.Г. Редько Проблемы интеллектуального управления – общесистемные, эволюционные и нейросетевые аспекты (приглашение к круглому столу) http://www.keldysh.ru/BioCyber/
6. Информатика: Учебник. 3-е перераб. Изд. /Под ред. Н.В.Макаровой. –М,: Финансы и кредит, 2002 г.
7. А.Азимов. Три закона роботехники. Сб. науч.-фант. рассказов. — Москва, «Мир», 1979,серия «Зарубежная фантастика».
8. Станислав Лем. СУММА ТЕХНОЛОГИИ, Изд «МИР», Москва 1968
9. Винер Н. Кибернетика, или управление и связь в животном и машине. – 2-е издание. М.:Наука; Главная редакция изданий для зарубежных стран,1983. 344 с.
10. Гаряев П.П. Волновой генетический код. Москва, 1997. — 108с.: ил.
11. З. Фрейд Психология бессознательного. М. Просвещение, 1990 г.
12. Р.Кудрин Создание искусственного интеллекта. © 2002, Издательский дом «КОМПЬЮТЕРРА» http://www.computerra.ru/offline/2003/496/27507/
13. Алгебра логики. Справочник. http://psi-logic.narod.ru/bool/bool3.htm
14. Брусенцов Н.П. Трехзначные логические системы // «Академия Тринитаризма», М., Эл № 77-6567, публ.11567, 12.10.2004
15. Брусенцов Н.П. Блуждание в трех соснах (Приключения диалектики в информатике), Москва, SvR — Аргус, 2000. – 16 с. и в сборнике: «Программные системы и инструменты», Труды ф-та ВМиК МГУ, №1, Москва: МАКС Пресс, 2000, с.13-23
16. Стахов А.П. Новый тип элементарной математики и компьютерной науки, основанных на «золотом сечении». 2003 г
17. Стахов А.П. Коды Фибоначчи. Сайт «Музей Гармонии и Золотого Сечения» http://www.goldenmuseum.com
18. Никитин А.В. Компьютеры Фибоначчи. Точки над I. Журнал «Магия ПК» №5(50) май 2002 г. Издательство «Техно-ПРЕСС» С-Петербург.
19. Никитин А.В. Не нравится мне современный компьютер. Журнал «Магия ПК» №9(75), 2004 г. Издательство«Техно-ПРЕСС» С-Петербург.
20. А.В.Никитин, А каким он должен быть, современный компьютер? Журнал «Магия ПК» №12(78)/2004 г.
21. Д.А.Поспелов Становление информатики в России. Статья.
22. Э.В. Евреинов, Ю.Г. Косарев. Однородные универсальные вычислительные системы высокой производительности. // Новосибирск: Наука, 1966.
23. Амамия М., Танака Ю. Архитектура ЭВМ и искусственный интеллект. М.: Мир,1993.
24. Жданов А. А., Метод автономного адаптивного управления // Известия Академии Наук. Теория и системы управления, 1999, № 5, с. 127-134
25. К.Хайт Легенда об Искусственном Интеллекте. http: //www.magicpc.spb.ru/lib/index.html
26. Выгодский М.Я. Справочник по элементарной математике. М. Государственное издательство физико-математической литературы 1959 г.
27. Выгодский М.Я. Справочник по высшей математике. М. Государственное издательство физико-математической литературы. 1958 г.
28. Цыпкин А.Г. Справочник по математике для средних учебных заведений. М. Наука 1988 г.
29. С.Г. Инге-Вечтомов. Введение в молекулярную генетику. М. Высшая школа.1983 г.
30. А. П. Слободяник Психотерапия, внушение, гипноз. Изд.4-ое Киев, Здоровье 1983 г.
31. Петросян В. К. Пролегомены к инновационной войне по основаниям гармонической математики. – М.: ИРПО, 2002. – 140 с.
32. Миркес Е.М. Нейроинформатика: Учеб. пособие для студентов / Красноярск: ИПЦ КГТУ, 2002, 347 с. ISBN 5-7636-0477-6
33. Райхлин В.А. ТРИ СТОРОНЫ ЭВОЛЮЦИОНИЗМА Приглашение к «круглому столу» http://modelling.kai.ru/programms.html
34. В.Г.Редько Курс лекций «Эволюционная кибернетика»: http://www.keldysh.ru/pages/BioCyber/Lectures.html
35. Добрынин Д. А., Карпов В. Э., Моделирование некоторых простейших форм поведения: от условных рефлексов к индуктивной адаптации. Творческая научно-техническая лаборатория Политехнического музея, Россия, Москва
36. Татаренко А.А. <Тm — принцип> — всемирный закон гармонии http://www.trinitas.ru/rus/002/a0232009.htm
37. Харитонов А.С. «На пути к тройственому описанию круговорота Природы» http://www.trinitas.ru/rus/002/a0232009.htm
38. Никитин А.В. «Взаимообратные числа и их применение» http://www.trinitas.ru/rus/002/a0232009.htm
39. Пухначев Ю.В., Попов Ю.П. Математика без формул, М, АО «Столетие» 1995 г. 512стр.

Никитин А.В. На пути к машинному разуму. Круг третий. (Часть 6, окончание) // «Академия Тринитаризма», М., Эл № 77-6567, публ.12962, 14.02.2006