Cybersyn Стаффорда Бира и неосоциализм

На этой неделе случайно поучаствовал (с докладом) в одной научной конференции. Конференция была посвящена очень большим АСУ, с объектами управления ну никак не ниже планетарного, а еще лучше - космического масштаба.

Где-то месяца через 2-3, при удачном расположении звезд, я возможно, выложу презентацию, а пока не буду этого делать, дабы, не дремлющие конкуренты, направляющие движение светил c другого края, не сперли идею, и не поменяли бы случайно местами Солнце с Луной, попутно придав Земле перпендикулярное вращение.

Итогом конференции стало чувство глубокого пессимизма и ощущение тщетности наших усилий: - ибо (это общее настроение собравшихся инженеров) лица принимающие решения, как только получают в свое распоряжение могучую кибернетику, которую мы для них делаем, тут же забывают о всеобщем благе. Вопреки предположениям главных идеологов АСУ (больших философов), они плюют с большого дерева на оптимизацию всеобщей функции полезности и используют созданную нами кибернетику исключительно для обоснования и продвижения собственных проектов и решений, единственная цель коих – комфорт и движение их инициаторов вверх по служебной лестнице.

Мне кажется, что эти соображения стоило бы принять во внимание, всем фанатикам Киберсин Стаффорда Бира и энтузиастам неосоциализма, которые видят в глобальной автоматизации панацею от всех мыслимых кризисов. Они забывают, что на всякую аварийную систему защиты обязательно найдется умник, который в порыве служебного рвения, ее отключит, чтобы она не мешала поднять производительность труда. На всякую кибернетику всегда найдется умелец, который будет ее использовать совсем не для того, для чего она была задумана. Дав юноше в руки мел и научив его азам грамоты, но позабыв обучить хорошим манерам, следует ожидать, что он напишет *** на новом заборе. И пройдет немало времени, прежде чем он возможно поймет, что всего лишь испортил хороший забор.

Наблюдаемый кризис возник вовсе не в экономике. Он находится в головах лиц принимающих решения, в повсеместном использовании ими жадных алгоритмов оптимизации. Никакая глобальная АСУ сама по себе, даже с искусственным интеллектом, не гарантирует нас от того, что лицо принимающее решение в какой-нибудь «Global International Inc», не срубит яблоню, чтобы достать яблоко, до которого оно не может дотянуться.

По поводу паники и ботов, пишущих комменты в ЖЖ

Пусть и с опозданием, но видимо надо отреагировать на появление ботов, пишущих комментарии в ЖЖ.

Вот здесь http://ivanov-petrov.livejournal.com/1025757.html можно полюбоваться на испуг воинствующего дилетанта, осознавшего себя в роли подопытного кролика (Дилетанта потому, что всерьез пишет это http://ivanov-petrov.livejournal.com/1025757.html?replyto=48751069&style=mine , воинствующего – потому что спесив в своем невежестве по отношению к Computer Science).

Здесь же дано исчерпывающее объяснение произошедшего http://timur0.livejournal.com/56707.html

Поскольку всплыла тема искусственного интеллекта, добавлю пару слов:
- Описываемая атака ботов не имеет никакого отношения к ИИ.

- ИИ пока не создан, но лишь потому - что не был нужен. Теперь с появлением Интернет такая потребность возникла, появилась и его среда обитания. Для людей, которые профессионально этим занимаются, в феномене естественно интеллекта нет ничего мистического и не воспроизводимого. Поэтому очень скоро вы будете пользоваться услугами ИИ, что, однако, будет не замечено абсолютным большинством пользователей.

- Для несведущего человека ИИ, ассоциируется с некой антропоморфной силой, которая непременно должна поработить или извести человечество. Ответственно заявляю – это чушь. У ИИ нет собственной воли и собственных целей. Это всего лишь инструмент, в руках другого человека, но который может иметь скверные намерения. Эта не проблема ИИ – это проблема выстраивания человеческих отношений.

- Реальная опасность ИИ в обесценивании человеческого знания и умений. Однако, в современном мире это произошло и без создании ИИ, по причине массового перехода людей в сферу анализа информации. Ранее это был удел избранных. Все самое страшное уже случилось без всякого ИИ.

Ну и чтобы успокоить замечу, что с изобретением автомобиля ноги для человека не потеряли своей значимости, автомобиль лишь расширил наши возможности, оставив крепкие ноги в их прежней высокой цене. Но теперь Вы избавлены от необходимости доказывать их важность, убегая босиком по камням от голодного медведя. Та же участь ждет и естественный интеллект.

А посему просьба к немереному числу «хфилософов», рассуждающих о вреде или невозможности ИИ почитать книжечки и перестать «гнать волну», дабы не отвлекать нас инженеров от дела, и не создавать негативный фон, мешающий поступлению инвестиций.

К вопросу практического применения машинных переводчиков

Если кто-то еще этого не видел, то настоятельно рекомендую http://www.scientific.ru/trv/2008/013/erunda.html (навел http://community.livejournal.com/ru_nauka/44411.html ). Читать надо все, а перед чтением обязательно сесть на пол, дабы падая со стула в конвульсиях от смеха, не получить увечий.

Поздравляю коллег с удачным экспериментом. Хотя я и не разделяю взглядов авторов на технические идеи (глобальные онтологии и классификация всего и вся) положенные в основу ЭТАП-3, признаю, что им удалось доказать, что и от современных систем машинного перевода может быть польза. Боюсь, однако, что не сведущие в компьютерной лингвистике люди не оценят изящество и изобретательность людей, которые это сделали.

Так же очень жаль, что это борьба с симптомами, а не с самой болезнью – на смену одним жуликам, придут другие. Вызывает злорадное удовлетворение, что в компании любителей халявы из докторов наук (редколлегия) оказался только один доктор технических наук и один доктор физмат наук, хотя это не сильно меняет дело.

Очевидно, что это общие проблемы современной науки - кризис перепроизводства идей с одной стороны, и с другой стороны - отсутствие среды (слишком мало образованных людей), которая может потребить эти идеи, то есть обесценивание реального научного знания. Что нужно делать понятно, но это уже отдельный, длинный разговор.

Е.Сахонько «Тайна человеческого мышления»,

Нашел интересную статью Е.Сахонько «Тайна человеческого мышления»,
ссылку на которую можно получить непосредственно в ЖЖ автора http://sahonko.livejournal.com/4865.html.

Я не могу оценить корректность взглядов автора на эволюцию, так как не имею необходимых биологических познаний, также оставим некоторое непонимание автором проблем ИИ, в которых он не специалист, а отметим главное – статья содержит описание механизмов (возможно даже не осуществленных в природе), которые имеют прямое отношение к практическим задачам самоорганизации и управления.

Теорема Геделя

Однажды, я был свидетелем разговора двух круглых "философов", освоивших (отсосавших) изрядную долю бюджета в одном из проектов, связанных с пониманием текста: «А не мешает ли Вам терема Геделя понимать текст машиной?» - многозначительно спросил один из них, почёсывая живот – «Нет, мы ее там используем» - не моргнув глазом, ответил другой, еще более продвинутый "философ".
И оба они, довольные жизнью и друг - другом, весело покатились к кассе. А аскетического вида инженер, с синевой под глазами и ввалившимися щеками, молча слушавший это (он все знал про теоремы Геделя и поэтому был такой худой), поскреб небритый подбородок и направился к компьютеру, погрузившись в раздумья о программе «искусственный философ».

Воспоминание навеяно чтением некоторых философских постов о происхождении человека разумного и пребыванием на блогах, где много рассуждают об отличиях человека и машины.

«On Intelligence» by Jeff Hawkins

Хочется сказать пару слов по поводу книги, «On Intelligence» Jeff Hawkins with Sandra Blakeslee (Навел http://budilnik.livejournal.com/59362.html. Там же есть ссылка на русский перевод).

Буду предельно краток – книга чрезвычайно полезна.
Как сторонник информационного подхода к изучению феномена мышления, не могу не привести из нее дословную цитату: «..Согласно функционализму, интеллект или разум безоговорочно является свойством организации, и по сути неважно, организации чего именно. Разум существует в любой системе, чьи составляющие части имеют правильные причинные отношения друг с другом, но эти части могут быть нейронами, силиконовыми чипами или чем-нибудь еще. Эта точка зрения - стандартный подход для любого потенциального проектировщика интеллектуальных машин…»
Что касается главных выводов по прочтении этой книги – то я сформулирую их в следующем виде:
1. Мозг человека «перехватывает» моторное поведение, которое у всех животных реализовано на рефлекторном уровне. То есть мозг занят моделированием действий.
2. Мозг человека - это аналоговая информационная машина, ориентированная на работу с процессами, развивающимися во времени.
3. Аналоговые процессы, которые происходят в мозгах, могут быть смоделированы с помощью цифровых вычислительных машин, которых подобно колесу или турбине нет в живой природе.
4. При наличии умного и щедрого спонсора в процессе моделирования естественного интеллекта может быть изготовлена масса полезных вещей, которые могут облегчить жизнь человека и озолотить спонсора.
5. Никакая из этих вещей не освободит человека и в будущем от необходимости хорошо думать и много знать прежде чем, что-то сказать и сделать.

Paul Werbos: «Using ADP to Understand and Replicate Brain Intelligence: the Next Level Design»

Наконец появилась возможность вернуться к проблемам, которые меня интересуют. Сегодня я хочу обсудить работу «Using ADP to Understand and Replicate Brain Intelligence: the Next Level Design», написанную Paul Werbos 24 Декабря 2006 года. Скачать можно по http://arxiv.org/abs/q-bio/0612045. Полную информацию о работах этого достойного кибернематика и инженера можно получить на его личном сайте pwerbos@nsf.gov. Меня на данную работу навел http://oredezh-izhora.livejournal.com/, за что я ему безмерно благодарен.

Статья является кратким реферативным разбором (подведением итогов) достижений автора за его долгую инженерную жизнь.Collapse )

Мне кажется, что статью имеет смысл почитать инженерам, занимающимся адаптивными САУ.

что такое управление и информация

Последствия «медведа» (нежданное явления инвестора, обуреваемого идеями, инвестируемому коллективу) потихоньку рассасываются, но пыль пока не осела. Лишь где-то через недельку я смогу вернуться к науке, а пока рекомендую всем прочитать Ашманова «Жизнь внутри мыльного пузыря» http://www.ashmanov.com/pap/bubble/ (навел http://itman666.livejournal.com/ ) и другие статьи Ашманова. Очень жизненно. Трудно не согласится, что «…в программировании нет технических проблем», а есть только организационные», а так же и с другими мыслями, возникшими у автора, в результате обобщения особенностей многотрудной жизни разработчиков систем. К летучему выражению «… сделайте эту кнопочку зеленой» (требование инвестора), я бы с удовольствием добавил любимое требование уже нашего финансиста и отца-благодетеля «…сведите управление в точку».

В процессе «сведения управления в точку» выяснилось, что большинство (и в первую очередь высокое начальство) не понимает, что такое управление и что такое информация. Поэтому, не претендуя на авторство (хотя возможно, что в таком виде я сформулировал это первым), рискну напомнить, что инженеры понимают под этими терминами:
Информация – отличие одного объекта от другого. Это свойства окружающего мира, которое не зависит от субъекта.
Субъективная информация – это знания об отличиях объектов, которыми располагает субъект.
Управление – выбор субъекта из нескольких возможных вариантов поведения на основе субъективной информации.