# Камо грядеше?

Александр Мирнович Воин

В контексте дискуссии об искусственном интеллекте и НТП

Камо грядеше?

(В контексте дискуссии об искусственном интеллекте и НТП)


А. Воин

17.12.12


Камо грядеше, куда идешь, человек?

Этот вопрос волнует многих людей с незапамятных времен. Но сегодня в эпоху бурного и все ускоряющегося научно-технического прогресса, когда мы не только стремительно меняем окружающую нас действительность, но и самих себя, он стал особенно актуален. Им задаются и пытаются на него ответить и философы, и представители различных религий, и писатели футурологи, и политологи, и ученые из разных сфер. И в зависимости от ответа на него нам предлагаются решения актуальных проблем самого широкого спектра, касающихся человечества в целом, внешней и внутренней политики отдельных стран и даже предлагаются рекомендации каждому человеку, что ему делать, чтобы просто выжить или сохранить сбережения, или спасти душу. Я уж не говорю об участившихся предсказаниях конца света, назначаемых с завидным упорством на все новые и новые даты по мере того, как предыдущие предсказания этого рода не сбылись. Или вот, например, в России на полном серьезе и весьма активно обсуждается вопрос о векторе развития на ближайшее время, в терминах: на Запад или на Восток и в контексте представлений о том, куда идет западная цивилизация, а куда этот самый Восток. И социологический опрос показывает, что большинство россиян за Восток. Какой Восток, китайский, японский, хумейнистский иранский или, может, имеется в виду сближение с чукчами, не обсуждается. Это детали неуместные для обсуждения в решительную минуту. Как там у Маяковского: "Кто там шагает правой? Левой, левой, левой" - Почему левой, чем правая хуже левой? - Ну, ты, контра, не путайся под ногами со своими подкожными вопросами. А то сейчас живо поставим к стенке. Так и сегодня с этими Востоком и Западом. Ну и аналогично со многими другими проблемами, решаемыми в контексте "камо грядеши". Все это говорит о том, что разобраться в вопросе, куда мы идем, как человечество, как цивилизация, желательно как можно более глубоко.

Правда, на эту тему написано уже весьма много и многими. И я не раз касался этого вопроса, например, в статьях "Глобальный кризис человечества и научно технический прогресс", "О вреде науки" и многих других. И, тем не менее, развитие событий в мире, в России в частности, заставляет вновь вернуться к этой теме, под новым, так сказать, углом. На этот раз за отправную точку для обсуждения я хочу взять статью Н. Невесенко "Во что может превратится техника". Она сама является реакцией на еще какие-то статьи на эту тему других авторов, но мне именно она удобна в качестве отправной точки. И поскольку она небольшая, то я начну с того, что приведу ее здесь полностью.


Во что может превратиться техника


Предыдущая статья из этой серии, специально предназначенная для дискуссии, не вызвала интереса, поэтому здесь без излишней интриги и без

длинных обоснований будет назван только один вариант, который по мнению автора является наиболее вероятным.

А превратится техника в искусственный разум, который станет хранилищем всей земной культуры, величайшим исследователем и неисчерпаемым

источником знаний.

В свое время шли долгие дискуссии на тему: может ли машина мыслить? Впрочем, они ни к чему не привели. Каждый остался при своем мнении.

Теперь уже вряд ли кто сомневается, что человеческое мышление вполне может быть смоделировано. И все же бездушный автомат видится существом

низшего ранга. Но так ли это? Если он станет постоянным и вездесущим помощником и советчиком каждого человека в любом деле, то чем он хуже,

скажем, коллеги по работе с весьма ограниченным запасом знаний?

Другой ходовой стереотип: как только машины освоятся, так сразу поработят человека. Да скажите: зачем его порабощать? Для чего он нужен

со своим слабосильным телом и черепашьим мышлением?

И что собственно делить искусственному разуму с человеком? Автомобиль? Яхту? Продукты питания? Да нечего им делить! Значит, не из-за

чего конфликтовать. Наоборот, обе стороны крайне заинтересованы друг в друге. Ну, с людьми понятно. Искусственный разум пронижет все производства,

точнее сам станет этим производством. Отключить его - это отпилить сук на котором сидишь. Для искусственно разума люди - это старший брат, учитель,

до высот духа которого еще долго придется расти.

Это, так сказать, упрощенный вариант, упомянутый в предыдущей статье, когда научно-технический прогресс не затронет человеческий организм.

Но как может такой всеведущий и всемогущий разум не изучить досконально и не затронуть этот организм? Как может человек не воспользоваться

технологиями, которые сделают его таким же сильным и могущественным, как искусственный разум?

Так что попытка сохранить неизменным человеческий организм - обречена на провал, и мы приходим к уже рассмотренному пути преобразования

всего живого.

Тем не менее, искусственный разум придает существенно иной оттенок дальнейшему развитию человеческой цивилизации. Он первым выйдет в новое

пространство, где не нужно драться за упомянутый ранее единственный кусок хлеба. И тем самым покажет, какими могут быть и вскоре должны стать

отношения в человеческом обществе.


На первых этапах, когда искусственный разум не приобрел самостоятельности, он может быть использован как мощнейшее оружие, способное разом

парализовать все производственные и жизненные процессы противника. Но как только он станет самостоятельной общественной силой, так немедленно

положит конец человеческим распрям, возможно, даже силой. И это не будет захватом власти. Подавляющее большинство населения будет ждать его власти

как манны небесной. Ведь это не чужое, а свое родное дитя, вобравшее в себя практически все. Избавиться от него - это не то что остаться без штанов,

это просто самоубийство. К тому времени это дитя станет заботливее родной матери, а по могуществу сравнимо с божественными силами.

Таким образом, искусственный разум, хотя сам по себе не решает человеческих проблем и, вероятно, временно их обострит, но он же может

качественно сократить весьма болезненный период перестройки человеческого организма. А это большая разница: растянутся страдания на 5 лет или

на 500. Если цель обозрима, то вытерпеть можно многое. Если ничего не светит на протяжении всей человеческой жизни, это уже угроза самому

существованию общества.

Но жизнь может сложиться иначе. Поскольку общество разделено на государства и военные группировки, то искусственный разум может твориться

тайно под контролем военных и спецслужб, причем в ряде стран одновременно. И вовсе не в благотворительных целях. Существо почти божественной силы,

высший разум на Земле, который по своей природе должен стать величайшим гуманистом, будут насильно готовить к роли убийцы. Трудно сказать, чем это

обернется, поскольку никогда ничего подобного не было. Но даже при самой ужасной катастрофе виноваты в ней могут быть только люди.

Чтобы подобного не случилось, можно предпринимать разные меры, подобные усилиям по сдерживанию гонки вооружений. Но они могут оказаться

неэффективными, поскольку центральной частью нового разума будут алгоритмы и программы, творимые за столом, а не в шахтах, атомных станциях или

других гигантских сооружениях. Может статься, что об оружии мы впервые узнаем только тогда, когда оно уже будет применено в мировом масштабе.

Подобно компьютерному вирусу оно может мгновенно и надолго оставить у людей в качестве работоспособных инструментов только кайло и лопату.

Без электричества, без связи, без воды, а может быть, и без воздуха. Причем это может случиться не через 100 лет, не через 10, а завтра или

сегодня ...

Сегодня система WINDOWS настолько необъятна, что в ней невозможно обнаружить закладок, которые по нажатию одной клавиши могли бы полностью

вывести из строя все информационные сети и все программное обеспечение на Земле, лишить людей электричества и средств связи. Да их и не надо делать

заранее. Они могут придти молча и абсолютно незаметно с очередным автоматическим обновлением WINDOWS. Может быть, не стоит пока подозревать в этом разработчиков. Но одного хакера-маньяка вполне достаточно, чтобы сделать то же самое. Хотя это не поразит напрямую людей, но куда деться миллионам горожан без воды? Топать к Байкалу? Ближайший источник, не нуждающийся в очистке, может оказаться за сотни километров. Если до него доберется хотя

бы малая часть жаждущих, то за несколько часов берега покроются фекалиями и трупами, а вода будет безнадежно отравлена. Выживут единицы только

в самых глухих уголках планеты.

Единственным путем предотвращения опаснейшей ситуации является скорейшая ликвидация военных блоков, засилья спецслужб, государственных

границ. В капиталистической системе сделать это вряд ли возможно. Да вся экономика развалится, если даже немного, но резко изменить баланс сил

на планете. Но может быть, есть другая система, которая надежно себя дискредитировала, потому что пришла преждевременно?

Когда человеческий организм избавится от многих зависимостей, тогда отпадет надобность практически во всех вещах, которыми сейчас

окружает себя человек. Изменятся и социальные отношений. Догадайтесь, в какую сторону. Так может быть, надо заблаговременно быть готовыми

к тому, что обществу наживы и жестокой конкуренции должен прийти неминуемый конец?

Н. Невесенко


В чем я согласен с Невесенко и в чем не согласен?

Я согласен с Невесенко в том, что научно-технический прогресс, принося нам многие приятные плоды, одновременно таит в себе много опасностей. Об этом писали многие и я в том числе, но тему до конца не исчерпали. Ее в принципе невозможно исчерпать, потому что, стремительно развиваясь, наука и техника порождают все новые опасности и их конретизация, доведение до сознания многих их существования, остается актуальной задачей и в этом смысле эта и другие работы Невесенко важны и интересны. В частности важно заранее, до того как мы вляпаемся в очередную халепу, оценить риски и ожидаемые дивиденды от развития компьютерных технологий, роботехники и, наконец, искусственного интеллекта. И здесь работа Невесенко дает ценный материал для размышлений.

Я согласен также с Невесенко, что в свете растущих угроз, порождаемых научно-техническим прогрессом, мы должны пересмотреть существующую систему организации отношений между государствами.

В чем я не согласен с Невесенко?

Я не согласен с тем, что создание искусственного разума, превосходящего человеческий во всех отношениях и такого, который заменит нам маму родную, няньку и Господа Бога, является наиболее вероятным и, несмотря на риски с этим связанные, наиболее желанным вариантом развития. С одной стороны мы уже давно начали создавать некие варианты искусственного интеллекта, которые хоть в чем-то да превосходят человеческий разум. (А иначе, зачем их вообще создавать). Так даже бухгалтерские счеты, открытые, кажется, еще в древнем Египте, помогают складывать и вычитать быстрее, чем в уме. Но с другой стороны многие ученые и я в их числе считают, что во всех отношениях искусственный интеллект не сможет превзойти человеческий разум никогда. Мышление человека неразрывно связано с его душой и духом, а ни тем, ни другим невозможно наделить никакой автомат. Работа человеческого мозга не может быть до конца рационализирована, алгоритмизирована и т.п. и, следовательно, имитирована автоматом. Это говорю я, претендующий на создание неорационализма и яростный защитник его. До конца может быть рационализировано только обоснование (научной теории). Это я показал в "Неорационализме" и работах по единому методу обоснования. Мало того, это не только возможно, но и очень важно, поскольку без этого невозможно понимание между людьми (учеными), нет общего языка. (Что мы в значительной степени и имеем сегодня, особенно в сфере философии). Но обоснованию в познании предшествует генезис теории. А здесь не только может, но и непременно присутствует и душа, и дух, и интуиция, и прочие нерациональные вещи, вплоть до откровения. И это - слава Богу. Потому что без этого человек сам давно бы превратился в бездушный мыслящий автомат, а точнее был бы таковым изначально. И здесь мы подходим ко второму моменту: а нужен ли нам, желателен ли искусственный интеллект, который бы превзошел человеческий разум во всех отношениях (даже если бы таковой был возможен)?

Невесенко доказывает, что нам не надо опасаться "Бунта машин", описанного многими фантастами, что у искусственного интеллекта нет никакого интереса нас поработить, что он будет нашим искренним другом и т.д. Я склонен согласиться с тем, что у искусственного интеллекта нет и не будет интереса нас порабощать или уничтожать. Но дело не в интересе. Дело в том, что мы уже сегодня постепенно, но все быстрее становимся рабами нами же созданной техники. Рабами не в том смысле, в каком были рабы, строившие египетские пирамиды. Мы, образно говоря, рабы сытые, ухоженные и откормленные этой самой техникой, но чем дальше, тем больше от нее зависящие, неспособные без нее обходиться. Мы становимся как корова в стойле по сравнению с диким животным. С одной стороны куда как уютней, безопасней, сытней и беззаботней. Нас не жжет солнце, не мучает холод, не нужно бороться за пищу. (Я имею в виду, так бороться, как приходится диким животным). С другой - мы теряем свободу дикого животного. Мы теряем ее постепенно и потому не замечаем этого, но картинка, нарисованная Невесенко, с искусственным разумом, хорошо рисует нам, куда мы движемся. Всемогущий искусственный интеллект полностью лишит нас свободы, даже если формально мы останемся свободны и этот интеллект будет нам только советовать: "Надо есть морковку", "Курить нельзя", "Не ходите направо, ходите налево". Да, формально у нас будет право его не слушать, но это будет глупо и опасно. Ведь его интеллект несравненно совершенней нашего. (Который, кстати, за ненадобностью начнет атрофироваться, что, между прочим, уже происходит, если иметь в виду не узко специализированное мышление по специальности, а мышление в широком масштабе, способность вырабатывать свое не стереотипное мировоззрение, основанное на охвате всего знания, добываемого сегодня наукой). А скорей всего будет принят и формальный запрет ослушиваться советов "Большого брата". Во имя нашего же блага, естественно.

Тупиковость этого пути очевидна. Мы уже теряем адаптивную способность по сравнению с дикой природой. Если нас сегодня отключить от благ цивилизации, подавляющее большинство из нас обречены. Создание искусственного сверх интеллекта доведет эту зависимость до абсолюта. А ведь никакое творение рук человека, и искусственный интеллект не исключение, не может обладать абсолютной надежностью. И когда этот искусственный интеллект даст сбой, нам всем, всему человечеству будет просто гаплык.

Это лишь один аспект того, к чему ведет этот проект. Точнее, того, к чему мы сегодня и так идем, не осознавая этого, а разговор об искусственном интеллекте лишь помогает нам это осознать. Но что будет с нашей бессмертной душой и духом? Когда люди на заре цивилизации объединились в организованное общество, то каждый на этом потерял значительную долю индивидуальной свободы во имя большей защищенности, безопасности и сытости. Но не только ради безопасности и сытости люди объединились в общество. Это объединение привело к разгоранию духа и обогащению душ в процессе взаимодействия и развития культуры. И это была достойная компенсация за частичную утрату свободы. Мало того, это как раз то, что приближало нас к "образу и подобию Божию". Ну, а создав искусственный интеллект, мы даже общаться престанем друг с другом, как это справедливо отмечает сам Невесенко. Зачем общаться с несовершенными разумами, когда можно общаться с бесподобным искусственным интеллектом? Уже сегодня живое общение между людьми начинает сокращаться благодаря развитию интернета, этого младшего брата искусственного интеллекта. Но ведь душевные связи между людьми рождаются только в процессе живого общения. Да и дух завянет без живого общения. Самые высокие взлеты человеческого духа, как например музыка Баха, исполнены сострадания к живым людям, а не есть порождение голого интеллекта с его абстрактными рассуждениями.

Так что же нам делать и какой путь я считаю правильным для дальнейшего развития человечества? Прежде чем ответить на этот вопрос, давайте оглянемся на путь, который проделало человечество до сегодняшнего дня. Я не буду естественно, втискивать в статью многотомное исследование истории человека. Оглянемся, так сказать, с высоты птичьего полета. Путь, лежащий перед человечеством, после того, как оно стало объединяться в организованные общества (народы, государства), не был абсолютно детерминирован, предопределен. Это видно из того, что разные народы проделали в истории разные пути и пришли к разным результатам, отличающимся друг от друга в широком диапазоне. Основная разница между этими путями заключается в степени предпочтительности того или иного из трех главных параметров: свободы, духа и обеспечения физиологических потребностей. Преуспевали те народы и в те периоды, когда эти 3 параметра сочетались наиболее гармонично. Пример достаточно гармоничного сочетания этих параметров дает западная цивилизация в эпоху Просвещения. Другие цивилизации в это время имели сильно деформированную пропорцию этих параметров и, как следствие, отставали от западной по всем прочим параметрам. Однако в период, последовавший за эпохой Просвещения, сама западная цивилизация отошла от гармонии и в результате находится сегодня в кризисном состоянии. Отход от гармонии заключался в сильном акценте на свободу и материю (физиологию) в ущерб духовности. Произошел этот отход под влиянием некоторых ошибочных философских теорий, восторжествовавших на Западе. Что это за теории и почему они восторжествовали, я подробно разбираю во многих своих работах (прежде всего, в книге "Неорационализм", в статьях "Кризис классического рационализма и неорационализм", "Идеологии в современном мире" и т.д.) и здесь повторять не буду. Но и научно-технический прогресс имеет отношение к этому нарушению гармонии. Господствующее мировоззрение (основанное на ложных философских теориях) влияет и сильно влияет на направленность научно-технического прогресса. А с другой стороны научно-технический прогресс, развиваясь в неправильном направлении, усугубляет бездуховность западного общества. Направленность этого процесса в сторону создания искусственного интеллекта это хорошо иллюстрирует.

Отсюда напрашивается представление о том, что мы должны делать и каким путем идти. Естественно, что этот путь не может быть сформулирован в примитивных терминах типа: "Идти надо на Запад", "Идти надо на Восток" или "Надо возвращаться в советский социализм", ну там с какими-то небольшими поправками (как то предлагают многие и Невесеенко тоже). Ясно, что надо возвращаться к гармонии свободы, духа и материи. Но и эта формулировка чересчур обща и требует раскрытия, раскрытия и раскрытия. Потому что нужно уточнять, в чем состоит эта гармония, какие именно пропорции трех компонент должны быть взяты. Затем нужно уточнять и очень, очень уточнять, о каком духе речь. Ибо дух духу рознь. И хумейнизм это дух и еще много есть разновидностей духа, которые могут коверкать людей и вести общество в опасный тупик. И свобода - это не свобода вообще. Нужно уточнять какие из свобод следует ограничить, а какие оставить в том гармоничном будущем, куда мы должны идти. Все это я подробно разбираю в моей философии, в которой я построил и новую теорию свободы, и теорию оптимальной морали (а нормы морали - это ограничения на свободы), и рациональную теорию духа. Излагать все это в этой статье я, естественно, не буду. Хочу остановиться только на одном частном аспекте, затронутом в работе Невесенко.

Он пишет, что хищническая погоня за материальными благами не может быть сохранена и потому надо вернуться в социализм с плановой бесконкурентной экономикой. Ну, естественно, не в социализм с концлагерями, а в эдакий благостный социализм. Конечно, в социализме, даже советском, были положительные стороны, которые стоит сохранить или заимствовать там, где их не было. Это - бесплатная медицина и образование и не такая большая разница между богатыми и бедными, как сегодня, скажем, в Америке. Но движение в эту сторону возможно и оно в значительной степени уже произошло в странах Запада (хотя неравномерно и с возвратами). Плановая же экономика имеет принципиальный дефект. Она превращает людей в тех самых коров в стойле, которых кормят и доят, и с неизбежностью ведет к застою. Рыночная же экономика не обязана быть неуправляемой стихией. Она уже давно перестала быть такой стихией, она уже давно управляемая. Только управляемая не с помощью жесткого плана, указывающего каждому чего и сколько производить и по каким ценам продавать, а с помощью рыночных же механизмов. Но, к сожалению, управляемая пока что плохо (поэтому кризисы). Плохо потому что нет правильной макроэкономической теории. Я построил свою макроэкономическую теорию, включающую в частности формулу бескризисного развития экономики. Она, конечно, требует дальнейшего развития, но то, что уже сделано, дает для этого основу и я готов эту основу отстаивать против любых оппонентов.

И в заключение, а что же нам делать с собственно научно-техническим прогрессом? Я не согласен с Невесенко, что этот прогресс абсолютно стихиен и неуправляем и единственное, что мы можем, это приспосабливаться к нему и заботится, чтобы он не был использован во вред. Конечно, полностью устранить элемент стихийности мы не можем. Как говорил Бендер: "Полную гарантию дает только страховой полис". Полной безопасности не может быть, даже если мы полностью остановим научно-технический прогресс и снова начнем ходить в шкурах. Но одно дело полная безопасность, другое - мчаться с завязанными глазами на бешенной скорости по неизвестной пересеченной местности. Именно это и даже хуже мы делаем, провозглашая неуправляемость научно-технического прогресса и предоставляя ему течь стихийно, точнее, в направлении наискорейшего обеспечения нас как можно большим количеством материальных благ. Но для того чтобы управлять этим процессом, мы должны научиться оценивать хотя бы на обозримую перспективу соотношение потенциальных рисков и выгод от конкретного направления этого прогресса. А во-вторых (и тут я согласен с Невесенко), мы должны перестроить систему межгосударственных отношений, а еще до этого построить и обосновать общечеловеческую систему ценностей, на которой бы эти отношения базировались. Последнее можно сделать, только если будет найден общий язык между представителями различных мировоззрений, идеологий, религий и т.д. Я показал, что такой язык может дать только построенный мной единый метод обоснования научных теорий. Он же помогает и оценивать последствия применения тех или иных научных теорий. (См. мои книги "Единый метод основания научных теорий", Алетейа, СПб, 2012 и "Глобальный Кризис. Причины и пути выхода", LAP-publishing, Саарбрюккен, 2012).