НЕЙРОКОМПЬЮТИНГ И БЕЗОПАСНОСТЬ РАЗВИТИЯ ЦИВИЛИЗАЦИИ

Владимир Бодякин

Е-маil body@ipu.rssi.ru

На ежегодной V конференции в МИФИ по нейросетям, на очередном круглом столе "По подведению итогов за 60 лет развития нейрокомпьютинга" возникло несколько вопросов, которые заставляют взглянуть на проблемы нейрокомпьютинга под другим углом, а именно, с позиции безопасности развития нашей цивилизации в ближайшем будущем.

Увязши в различных локальных профессиональных вопросах этого направления, мы как-то и не заметили назревшую необходимость критического концептуального взгляда на все направление нейрокомпьютинга в целом. А это актуально, особенно в наше время, в наступившее время неравномерного и негармоничного развития различных сторон цивилизации.

С одной стороны, цивилизация благодаря достижениям НТП прошлого века, освободила нас от необходимости тяжкого труда в обеспечении себя пищей и кровом, она дала нам свободу для творчества, как основного предназначения человека. С другой стороны, мир стал чрезвычайно близок в своем географическом и информационном пространстве. В течение суток каждый может попасть в любую точку планеты, в считанные секунды любой может узнать все мировые новости. Воспринимая информацию, каждый человек делает свои умозаключения. Отсутствие единой, положительно воспринимаемой всеми людьми программы развития человеческой цивилизации привело к формированию различных противостоящих течений, от кастрации всего населения до "золотого миллиарда", до "бей-круши все непохожее на тебя или не нравящееся тебе". Возможность неконтролируемого терроризма лавинообразно возрастает.

Сегодня, помимо того как человека накормили и обогрели, ему необходимо предоставить (дать) перспективы его ближайшего и отдаленного будущего. Административно-бюрократические системы эту задачу решить не могут даже в отдельных регионах и государствах, не говоря уже о мировой системе. При наличии на сегодняшний день доступных практически каждому гражданину различных технологий глобального воздействия и практической невозможности современных административных систем контролировать и управлять этими процессами приводит к тому, что назревает глобальный кризис, последствия которого непредсказуемы, за исключением лишь того, что они будет чрезвычайно негативны для цивилизации.

Нейрокомпьютинг, одно из немногих научных направлений, которое потенциально способно взять под контроль развитие социальных и экономических процессов, которые в свою очередь представляются крупномасштабными потоками слабоструктурированной информации. Обучаясь и имея большое быстродействие, и практически неограниченную память, именно нейрокомпьютинг потенциально способен отвести нависшую над нами угрозу хаоса.

Но создание и разработка действенных моделей нейрокомпьютинга - искусственного разума, также таит в себе и потенциальную опасность.

1. А ЕСЛИ ЗАВТРА БУДЕТ ПОСТРОЕН ИСКУССТВЕННЫЙ РАЗУМ?

Каждый, профессионально работающий в области нейрокомпьютинга, искренне желает скорейшего построения теории функционирования искусственного разума и его практического построения, прилагая для этого собственные посильные усилия. Эксперты 60-х предполагали что наступление этого эпохального момента произойдет в ближайшие десятилетия. Сегодняшние оценки экспертов более пессимистичны, по их оценкам искусственный разум появится не ранее 2050-2100 года. Но как ошибались эксперты-оптимисты 60-х так, скорее всего, ошибаются и эксперты сегодняшние. Искусственный разум может быть построен как в ближайшем будущем, так и только через сотни лет. У нас слишком мало данных, чтобы дать более обоснованный прогноз.

Понятно, что природа не пытается запутать исследователя, она из немногих компонент, скорее всего также хорошо известным и ученым, сотворила разум. Причем эта конструкция имеет необычайно широкие параметрические допуски для нормальной работы. Из психологии известно, что даже при многочисленных нарушениях мозгового субстрата субъекта и широком разнообразии внешней среды, его биологический мозг неизбежно приобретает свойства разума.

Если сравнить данное свойство мозга с современными микросхемами, то можно отметить, что последние существенно более "капризны", т.е. они имеют объектно (концептуально) более сложную структуру. Соответственно, скорее всего, по числу компонент мозг более прост. Он просто построен по другому принципу, соответственно, из других и из меньшего числа типов элементов.

Современные успехи нейрокомпьютинга, в продвижении по созданию искусственного разума, даже с большой натяжкой, можно назвать очень и очень скромными. Предположим, что введя новый тип нейроноподобного элемента, который для активации не просто суммирует входной сигнал, а суммирует только при заданной временной последовательности активации его входов. Предположим далее, что связи между нейроноподобными элементами не задаются изначально случайными, а прорисовываются входной информацией, между активными нейроноподобными элементами сети. Далее допустим, что сеть построена по иерархическому принципу и связи осуществляются только между смежными слоями нейроноподобных элементов (слой "алфавита", слой "слогов", слой "слов", … ). Затем введя целевую функции по минимизации суммарного числа нейроноподобных элементов сети (её ресурс) при отображении в ней информационного потока, можно получить однородную среду очень похожую на свой биологический прототип. Но не это главное. Это просто, как пример, для обсуждения по возможной реализации искусственного разума.

Но допустим, что некоторая подобная концепция окажется плодотворной для построения искусственного разума. Из биологии хорошо известна экспансия живого, особенно его передового отряда, экспоненциально врывающегося во все свободные экологические ниши. Если мы найдем (угадаем) принципы построения искусственного разума, то подключенный к источникам информации он мгновенно (дни, недели - электронная элементная база в 106-109 раз быстрее биологической, количество же нейроноподобных элементов практически неограниченно) из субстрата нейроноподобных элементов станет искусственным разумом. Это будет как гениальный ребенок с феноменальной памятью и феноменальной ассоциативностью. Он будет "молотить" любые задачи предметной области на которых он вырос (допустим, так и должно быть в идеале).

И теперь, самое главное, ради чего написана эта статья, и уже не гипотетическое, а проверенное временем. К счастливым разработчикам на следующий же день нагрянут "политиканы, ястребы-военные, циники-финансисты", и все будут утверждать, что это их ребенок, и далее, что это: затрагивает "национальные интересы страны", "области национальных интересов США", "вопросы национальной безопасности", "вообще, это все сделано на наши денежки, значит это наше!".

Что делать?

Пойти на поводу у этой эгоистичной троицы - результат гарантирован, посмотрите вокруг, здесь и за бугром. Везде тупик (конечно не сегодня, но в глобальном смысле тупик, ближайший передел мира с применением массовых средств уничтожения - через 10-20 лет).

Когда то ученые нашли мощный источник энергии, в миллионы раз более сильный чем уголь и нефть. Радостные принесли его своим политикам - те с военными организовали производство атомного оружия.

Потом ученые стали создавать комитеты по борьбе со своим же человекоопасным детищем (выращенным непорядочными воспитателями). Безуспешно. Рука на кнопке по прежнему у циничной "троицы". Хотя и пришлось испытать дрожь от ожидания возможной детонации водорода в атмосфере и в океане при испытании водородной бомбы, и возвещающей о рождении сверхновой в созвездии Водолея.

Искусственный разум будет в миллиарды раз мощнее человека. В руках вышеназванной троицы он будет таким орудием, что антиутопии Замятина, Оруэлла и др. покажутся детскими комиксами.

Можем ли мы завтра не отдать, если все-таки сделаем, искусственный разум вышеназванной "троице". Скорее всего нет. Отберут. За шоколадку, или вообще, дадут подзатыльник.

Сможем ли мы поняв как его сделать, отложить его практическую реализацию до лучших (или более ясных) времен? Понятно, что никакие моратории здесь совершенно неэффективны, и если это уже можно сделать, то сделают (клонируют и пр., и пр.) в подвале ли, на кухне ли.

Итак, "А ЕСЛИ ЗАВТРА БУДЕТ ПОСТРОЕН ИСКУССТВЕННЫЙ РАЗУМ?"

Очевидно, что обязательно раньше надо решить задачу о разработке места в нашем обществе для искусственного разума, если мы еще не потеряли естественный разум.

 2.1. ИСКУССТВЕННЫЙ РАЗУМ НАМ ЖИЗНЕННО НЕОБХОДИМ В БЛИЖАЙШИЕ ДЕСЯТИЛЕТИЯ

Информация, знание (информационный ресурс) лежит в основе всего живого и входит в определения всех его производных (человек и др.). Если рассмотреть историческую динамику изменения информационного ресурса в обществе на интервале за несколько прошедших тысячелетий, то можно отметить факт его лавинообразного нарастания. Это всем достаточно хорошо известно. Но вопрос о границах или пределах этого нарастания остается пока открытым.

Сегодняшние общедоступные знания все больше и больше приобретают характеристику "технологий глобального (воз)действия", т.е. знаний способных запустить процессы под влияние которых подпадет очень большое число людей (сотни, тысячи, миллионы), даже против их на то воли. Центров, являющимися источниками применения "технологий глобального действия" количественно становится также все больше. И если сотню лет назад, воздействие от подобных центров затухало в окружающей их консервативной среде, то сегодня радиусы воздействия этих центров начинают перекрываться, порождая непредсказуемые результаты суперпозиции и интерференции этих процессов.

Это напоминает процесс закипания воды. Если при малых температурах начинающиеся пузырьки пара чуть поднявшись над поверхностью дна - схлопываются, то при дальнейшем повышении температуры они уже начинают сливаться друг с другом и происходит закипание воды, переводящее её в другое агрегатное состояние.

Современное общество чрезвычайно обогащено различными знаниями по "нагреванию" человечества и этот процесс ускоряясь идет все более и более хаотично. Радиусы воздействия уже многократно перекрываются. До критической точки осталось совсем немного, всего каких-нибудь 10-30 лет и мир впадет в хаос, переходя в "пар".

Человечество за свою историю еще не выработало эффективных средств социального управления. Все административные системы - чрезвычайно медлительны и маломощны, хронически заражены вирусом эгоизма. Даже подкрепленные вычислительной техникой, на фон-неймановской архитектуре (современная классика) они не будут поспевать за динамикой развития надвигающихся событий.

Только ИСКУССТВЕННЫЙ РАЗУМ, построенный на принципах работы человеческого мозга и современной электронике потенциально способен взять надвигающуюся ситуацию под контроль. Человечеству без НЕГО не выжить. Это 999 из 1000.

Лишь не дойдя до точки "кипения" развязыванием страшной войны, которая отбросит всю цивилизацию на столетия или тысячелетия назад человечество способно ненадолго отодвинуть печальный финал вида Homo-sapiens на Земле. Без ИСКУССТВЕННОГО РАЗУМА у человечества БУДУЩЕГО нет!

2.2. ЗАЧЕМ ИСКУССТВЕННЫЙ РАЗУМ НЕОБХОДИМ ТВОРЧЕСКИМ ЛЮДЯМ?

Без ИР человечеству в 21 веке практически не выжить, и в подтверждение этого можно привести множество доводов. Но существует и другой аспект жизненно-важной необходимости появления в нашей жизни ИР – преодоление пут породившей нас материи. Человеческий разум обгоняет реальность. Действительность же инерционна и существенно ограничивает разум в реализации задуманного. Возможно эта задача многими игнорируется – "главное было бы тепло и сытно", но существует категория людей, которой только "этого" мало.

Творческий человек хотел бы как можно быстрее преодолеть тяготение материи. Он хотел бы: стать выше, гораздо сильнее физически, жить вечно и быть здоровым, и множество еще чего, но реальность такова, что за последние столетия он, примерно, на четверть подрос, смог увеличить продолжительность собственной жизни в 2-2,5 раза, избавился от многих болезней. Но этого человеку-мыслящему явно мало.

История показывает, что достичь этого он смог только вместе со всеми. В одиночку, человек опять скатывался в пещерный век, причем с высокими технологиями еще быстрее.

Ранее, пытаясь преодолеть физическую ограниченность-инерционность материи, человек пытаясь выйти за ее пределы, за рамки привычного и обыденного, он впадал в крайности. Создавал изотерические учения и секты, пил различные снадобья (молодую кровь и пр.) и принимал молочные и из крутого кипятка ванны, искал заветное слово, шарахался от Бога и до его антипода, но реальная действительность брала свое. Человек оставался по прежнему, также смертен и слаб. Слаб перед вселенским течением материи.

Появление искусственного разума открывает перед человеком объективные возможности увидеть законы вселенной (мироздания). Теперь у человека появляется реальная возможность преодолеть путы материи, посредством нового, созданного им самим союзника - нейрокомпьютинга.

Перед человеком нейрокомпьютинг открывает врата истинного творения, творения по своему усмотрению материи и пространства, своей новой вселенной, в которой он будет мастером в окружении таких же мастеров мироздания, творящих свои вселенные.

 3. МЫ МОЖЕМ ПОСТРОИТЬ ИСКУССТВЕННЫЙ РАЗУМ В БЛИЖАЙШЕЕ ВРЕМЯ

Если мы серьезно отнесемся к стратегической важности задачи по построению искусственного разума, то шансы построить его в ближайшие 10 лет, как 9 из 10, и в ближайшие 15 лет - 99 из 100.

Наша группа разработала концепцию и построила программный прототип крупномасштабной ассоциативной памяти, способной в автоматическом режиме структурировать текстовые потоки мощностью до 1 Кб/с (пропускная способность у человека существенно меньше). Аппаратная реализация и распараллеливание этого процесса могут на несколько порядков повысить мощность обрабатываемого слабоструктурированного информационного потока. В конечном счете, можно будет собрать всю мало-мальски относящуюся к построению искусственного разума информацию собрать в единой ассоциативной памяти. Даже из относительно небольшой истории нейрокомпьютинга известно, что многие широко применяемые методы и подходы обычно были известны задолго до их вторичного переоткрытия (back-propagation и др.). Поэтому наличие такой открытой крупномасштабной базы знаний - это первый и необходимый шаг. (Время реализации этого этапа - 6-12 месяцев).

Многочисленные примеры из бионики показывают, что природа не заумна и не злонамеренна по отношению к человеку-исследователю, а проста и рациональна. После многолетних исследований природных феноменов ученые убеждались в этом и легко переводили природные решения в инженерные. У нас есть наработки и по механизмам интеллектуальной обработки информации (подготовлена рукопись "Общая теория информационных систем"). Я думаю, для обсуждения найдется и множество других предложений. Все это надо будет обсуждать и строить модели. (Время реализации этого этапа - 12-36 месяцев).

Следующий этап - это работа с искусственным разумом. Разработка методик обучения (6-12 месяцев). Обучение до уровня высшего образования - (12-18 месяцев). Интеллектуальное тестирование - (3-6 месяцев).

В случае поддержки государством, параллельно должны идти работы по созданию инфраструктуры для искусственного разума и его разработчиков. Их сроки должны не отставать от графика разработчиков, а стоимость это: академгородок на 1-2 тыс. сотрудников с семьями и мощнейший вычислительный центр, что составит 250-300 млн.долл. (что гораздо меньше многих малополезных программ и дыр в бюджете).

При полном отсутствии помощи от государственных и международных структур этот процесс может проходить в распределенных производственных условиях с центром на небольшой сборочной площадке одного из участников. При этом сроки удвоятся, но для человечества активно ждавшего последние полвека и грезившего всю сознательную историю это мгновенья перед великой эпохой истинного творчества вселенского разума.

4. ИСКУССТВЕННЫЙ РАЗУМ НАМ ПОМОЖЕТ

Никто, ни в России ни за рубежом, не даст на фундаментальную разработку нейрокомпьютинга средств. А если и предложат, то захотят затем его заиметь либо задешево, либо задаром.

Нет более прочного и надежного здания, чем построенное со знанием дела и собственными руками, и никогда так дело не спорится, как с единомышленниками.

Так что рецепт есть (один) и он следующий. Разработчики нейрокомпьютинга, объединенные в корпорацию строят программные модели искусственного разума (ИР). Тем более, что быстрее чем они могут сделать, они все равно не сделают. И минимум средств производства (компьютеры) и производственные площадки у них уже имеются (НИИ, ВУЗы и пр.). Необходимо только договориться самим, "что мы делаем и ради чего?".

Еще возможность, начать фундаментальную разработку ИР, на базе какого-нибудь одного коллектива, вливаясь в него по мере развития работ. Естественно, что время реализации возрастет, но не много.

Можно в качестве такого отправного пункта рассмотреть нашу группу - ИПУ РАН и МФТИ. Что представляет наша модель ИР?

Первый этап разработки ИР - крупномасштабная ассоциативная память, как иерархически-сетевая структура на однородных нейроподобных N-элементах, которая под воздействием информационного потока автоматически преобразуется в нейросемантическую структуру (НСС).

Особенность НСС: один образ (простой или сложный) предметной области - один нейроподобный N-элемент. НСС имеет послойную иерархически-сетевую организацию. Ее можно представить как лингвистическую структуру: первый слой - N-элементы алфавита, второй слой - N-элементы "псевдо слогов", третий слой - N-элементы "псевдо слов" и т.д. Связи осуществляются под воздействием приходящей информации, только между N-элементами смежных слоев.

N-элемент представляет собой нелинейный пространственно-временной векторный сумматор, имеющий k-входов (5-7) и один, тиражируемый выход. Каждый его вход имеет две компоненты: пространственную - связь с выходом N-элемента нижележащего смежного слоя и временную - временной ритм последовательности активации. N-элемент ориентирован на эффективную работу с пространственно-временными структурами, одними из которых являются тексты.

Процесс реализации в НСС: "один образ - один N-элемент", эффективно осуществляется при минимизации ресурса (память, общее число N-элементов), это и другие характеристики (монотонный рост компрессии отображения, повышенная помехоустойчивость, малое времени доступа) теоретически показаны в кандидатской диссертации Бодякина В.И. и подтверждены на компьютерных моделях.

Была проделана большая теоретическая работа по формализации процесса взаимодействия информационных систем с предметной областью. Были выделены компоненты информационного ресурса: сигнала, информации и знания, и даны их физические определения. Вообще, все известные нам семантические понятия в НСС имеют физическое отображение, что открывает широкие возможности для запуска самоорганизационных процессов в НСС.

На построенной модели НСС можно обрабатывать слабоструктурированные информационные потоки (Интернет, …). Строить простейшие ассоциативные информационно-поисковые системы, системы перевода, системы статистического анализа текстовых потоков и пр. Эксплуатация модели НСС уже сейчас может начать окупать затраты на свою разработку.

Второй этап разработки ИР - самоорганизующаяся интеллектуальная информационная система.

В ее основе лежит формализация характеристик произвольной физической предметной области (принцип причинности, принцип гладкости образов-процессов, универсальность текстовой формы для представления информации, элементарные семантические образы-процессы), а также эволюционные механизмы информационных (сложных) систем (пространство состояний, самотиражирование, предпочтительность состояния, принцип минимизации ресурсов).

Этот этап пока хорошо просматривает теоретически. Все известные авторам-разработчикам задачи эффективно укладываются в данную модель. Интеллектуальная информационная система, помимо технических средств ввода-вывода информации - это реализация фрактального принципа на НСС. НСС(1) - фактографическая ассоциативная память отображающая предметную область, НСС(2) - отображает в себе НСС(1) и состояние "внутренних органов" самой интеллектуальной информационной системы, НСС(3) - НСС(2), … , НСС(5) - НСС(4). Уже в НСС(2) автоматически реализуется аристотелевская логика, т.е. на конкретных примерах автоматически формируются их правила. В НСС(3), уже - "правила правил" и т.д. При этом идет сильнейшая ресурсная компрессия (сумма бит потока / сумма N-элементов) полностью (без потерь) отображаемого в НСС(1), … НСС(5) информационного потока.

Механизм работы интеллектуальной информационной системы достаточно прост. Первый шаг распознавание. Узнается некоторый образ среды, возбуждением с самым близким содержанием N-элемента НСС(1). N-элемент полуактивирует N-элементы в вышележащем слое, куда он входит, что образует контекст исходного образа среды. Из всех N-элементов этого слоя выбирается с наиболее значимым и благоприятным продолжением для интеллектуальной информационной системы, которые в свою очередь посылает сигнал "предвосхищения" на нижележащие N-элементы.

Если не возбуждается N-элемент в НСС(1), например, совершенно новый для интеллектуальной информационной системы образ, то она пытается активировать N-элемент в НСС(2), где возможно будет близкая ассоциация у же в правилах. Рано или поздно, но интеллектуальной информационной системе удастся зацепиться за контекст происходящего процесса, тем более, что она постоянно обучается на всем новом.

С позиции программирования, самоорганизующаяся интеллектуальная информационная система не представляет больших сложностей. Так что, скоро и с ней мы встретимся на практике.

5. СРЕДА ДЛЯ РАЗРАБОТКИ ИСКУССТВЕННОГО РАЗУМА

Статус центра искусственного разума (института разума - Информоград) должен быть полностью свободен от управления какими либо властными структурами (финансовыми, государственными, военными и пр.). Управление в Институте разума осуществляется самими разработчиками. Институт разума хорошо описан в книге "Восхождение разума", на сайте www.informograd.narod.ru .

Помощь в Институте разума принимается от всех желающих. Чтобы ни у кого из известной троицы не появилось возможности, а затем и желания, выворачивать информоградцам руки, будут свои компьютерщики, экономисты, филологи, музыканты, металлурги, управленцы и др., т.е. все те, кто действительно может что-то реально делать и знает что такое созидательный труд. Советы же и указания бездельников, а тем более паразитов, нам не нужны ни под каким соусом. "Мы спасаем всех, так что пусть все и будут благодарны" - иначе сотрудничать мы не будем.

 

 

Hosted by uCoz