?

Log in

No account? Create an account

Привет - Кибернематика — LiveJournal

Jan. 1st, 2020

10:45 am - Привет

Previous Entry Share

Comments:

[User Picture]
From:ardelfi
Date:May 23rd, 2016 12:45 pm (UTC)
(Link)
Я ничего не писал после диссера (10+ лет назад), да и тогда лишь по самому минимуму. В журнале о этом не пишу, только о потенциальных эффектах автономных машин на жизнь и смерть. Относительно обучения, я не вижу прямой связи с автономией: все успехи глубинного обучения сводятся к обнаружению сигнатур в данных сенсоров -- это лишь детектор сигнатур. Автономная машина, как любая козявка, должна прежде всего знать (конечно лишь на уровне поведения) что ей делать в любой момент времени, при этом и детекторы и поведение могут быть предельно простыми (даже как -таксисы у бактерий) или несложными (больше в микромозг просто не влазит), но организмам этого всегда хватает на всю жизнь. Да и учиться козявкам некогда -- они всё умеют с рождения, иначе сожрут в процессе обучения. Поэтому думаю что DL -- это второй поход в тупик, как нейросети в девяностых, просто пришло новое поколение людей и жутко мощных контуперов. Это накатывает волнами: была волна экспертных систем, волна нейросетей, потом волна обучения (всякое со словом "Марков"), теперь вот глубокого обучения. По не совсем понятной мне причине всё что действительно приближает к автономии машины не привлекает людей: Брукс спрыгнул с темы и ушёл в "человекоподобность", после чего там всё засохло, и начались робо-пылесосы. Но он начинал не с нуля (жаль я не знал этого 15 лет назад) -- были мыслители в правильном направлении, но тоже не прижилось. В общем я пришёл к выводу что лучшим методом демонстрации является метод Бостон Динамикс: делать и выложить на ютуб без коментариев. Время сейчас самое благоприятное для этого -- латентный спрос в промышленности колоссальный, а предложений не было и в общем-то нет.

Edited at 2016-05-23 12:47 pm (UTC)
(Reply) (Parent) (Thread)
[User Picture]
From:bvn_mai
Date:May 23rd, 2016 01:09 pm (UTC)
(Link)
"...я не вижу прямой связи с автономией: все успехи глубинного обучения сводятся к обнаружению сигнатур в данных сенсоров ...", ну а если меняется среда, в которой нужно выделять эти сигнатуры да и сами сигнатуры плывут во времени? Без адаптивности нет автономности.

А что была за диссертация?
(Reply) (Parent) (Thread)
[User Picture]
From:ardelfi
Date:May 23rd, 2016 01:13 pm (UTC)
(Link)
На тему зрения на биологических принципах для систем управления автономных машин. В основном алгоритмы.
(Reply) (Parent) (Thread)
[User Picture]
From:bvn_mai
Date:May 23rd, 2016 01:17 pm (UTC)
(Link)
Давно хотел влезть в эту тематику (именно по части алгоритмов == математических методов). Можете дать ссылки на путные работы в этой области?

Edited at 2016-05-23 01:20 pm (UTC)
(Reply) (Parent) (Thread)
[User Picture]
From:ardelfi
Date:May 23rd, 2016 01:37 pm (UTC)
(Link)
По зрению? Смотря что считать путными работами -- не хочу отправить по ложному пути. Когда я с этим возился, путным считался SIFT, но для меня он был бесполезен -- по традиции жрал всю память и процессор (рабочей станции!), а значит и электрическую мощь, которые в мелкой машине строго ограничены. Но для мощного компа он годился. Потом видел ещё более интересные алгоритмы, но они все были тяжёлые -- так всегда получается: люди сидят в матлабе на рабочей станции, и всё что работает на таком базисе, заведомо авторов устраивает, с традиционной припиской "по мере роста вычислительной мощи алгоритм сможет работать в реальном времени". Сейчас думаю всё делается через DL -- несколько уровней выделения сигнатур, где выход одного детектора сигнатур идёт на вход следующего, и так несколько этажей. Я думаю этот подход уже достиг своего неожиданного тупика: для обучения нужны кластеры GPU с колоссальной мощью, о реальном времени нет даже приписок, и в результате чего можно получить 85% эффективности. Путное это или нет -- зависит от поставленных целей. Написать кучу публикаций это позволит, а сделать электрическую козявку -- нет.

> ну а если меняется среда, в которой нужно выделять эти сигнатуры да и сами сигнатуры плывут во времени? Без адаптивности нет автономности.

Адаптивность -- это заплатка к неправильной архитектуре системы управления, которая почти незаметна, как выученные в школе правила арифметических операций. В теории управления принято всё свести к уравнению или логике. В биологии я не нашёл ни уравнений, ни логики -- только поведение. Козявка не знает что такое "адаптивность", она вообще ничего не знает, но её поведение обеспечивает ей выживание в весьма враждебной среде. Есть адаптация (не адаптивность, а часть записанного в геноме поведения) -- ограниченная гибкость функций в рамках поведения; а также адаптация при размножении, но как я понял никто пока не знает как это работает (эпигенетика).
(Reply) (Parent) (Thread)
[User Picture]
From:bvn_mai
Date:May 24th, 2016 05:58 am (UTC)
(Link)
Если честно, то вместо ссылки на википедию я ожидал ссылок на Ваши оригинальные работы, ну да ладно.

"...Адаптивность -- это заплатка к неправильной архитектуре системы управления..." - а какой должна быть правильная архитектура?
(Reply) (Parent) (Thread)
[User Picture]
From:ardelfi
Date:May 24th, 2016 06:53 am (UTC)
(Link)
Я лишь ответил на ваш вопрос. SIFT же не мой. Свою работу я никак не публикую -- академическую среду я сразу покинул, а вне её публикации не нужны и даже вредны.

Примеров правильных архитектур полно в биологии. Легко определить такую шкалу крайностей и ориентиров:
100 -- функционально простейший червяк (вообще 162, но уместно допущение)
1000 -- медуза, моллюск
10к -- паук
100к -- муравей
1000к -- пчела

Каждый из организмов полностью автономен (эмпирически недосягаемое свойство для неправильной архитектуры), полностью функционален (живёт и размножается), всегда в реальном времени (иначе и не бывает) и устойчив в меняющейся и враждебной среде. Разница между правильной и неправильной возникает в исходной точке проектирования: для биологии это условия среды и функция организма, в которых система управления должна действовать и выполнять. Для теории управления это абстракция (законы управления в форме уравнений), которую подгоняют под условия, но за пределами полностью контролирумой среды получается плохо -- слишком сложно. Сварочный робот на заводе замечательно работает, а в диком поле (даже в полёте, хотя это самая простая среда) с автономностью не очень получается, можно сказать почти не получается. Что я сделал, можно описать как определение принципов построения биологических организмов, которые можно применить при построении машин, без копирования конкретных решений и компонентов. Поэтому архитектура похожа на биологическую, но не является её подражанием; а компоненты не имитируют нейроны в форме моделей или сетей, а используют освоенные методы обработки сигналов и преимущества техники перед биологией. В частности, это относилось к системе зрения. Если рассмотреть (почти) любое техническое зрение, там всё начинается с принятия видеопотока с камеры -- это как бы данность, никто особо не задумывается что это переменная, потому что люди пишут алгоритмы и не смотрят на зрительную систему комплексно. В биологии же зрение строится под задачу начиная с рецептора -- он параметрически соответствует требованиям задачи, никаких данностей нет, потому зрительная система в результате не должна анализировать огромный поток сенсорных данных в реальном времени, а избавляется от ненужного на каждом шагу обработки, начиная с рецепторов и конструкции "глаза" (в кавычках -- между "рецептором" и "глазом" не всегда можно провести границу), и потому зрением обладают даже организмы с микромозгом на 10к нейронов, и при том весьма хорошим зрением (пауки особенно). Таких архитектурных принципов найдено немало (но в литературе они не систематизированы), и в целом на их основе у меня сформулирована основа и принципы построения "правильной" системы управления для машин, которые автономны в реальном времени by design. Это не исключает применения традиционной теории управления, но исключает злоупотребление ею. А дальше уже масса всяких специфических архитектурных и технических подробностей.

Edited at 2016-05-24 06:58 am (UTC)
(Reply) (Parent) (Thread)
[User Picture]
From:bvn_mai
Date:May 24th, 2016 07:24 am (UTC)
(Link)
Это подход Брукса - под каждую задачу строить конкретный "кибернетический организм", оптимизированный именно для частной задачи, и постепенно усложняя задачи, мы придем к "организмам с интеллектом".
Есть другие подходы :).

А, Вы можете раскрыть свой научный результат "...Что я сделал, можно описать как определение принципов построения биологических организмов, которые можно применить при построении машин..."
(Reply) (Parent) (Thread)
[User Picture]
From:ardelfi
Date:May 24th, 2016 08:04 am (UTC)
(Link)
Я понял Брукса иначе: его subsumption architecture должна была решить проблему сложности, не создавая (особо) других проблем. Но что-то пошло не так, или он потерял интерес к предмету, но в целом в этом подходе есть влияние биологии, но недостаточное для создания машины-организма. Жаль что он бросил эту тему. Другие подходы конечно есть, наверно даже по числу занимающихся этой темой. Относительно же интеллекта, это бессмысленное слово, потому что нет общепринятого определения -- у каждого оно своё, и одно ничем не хуже или лучше другого. Потому для себя я вычеркнул это слово из лексикона, особенно почитав статью об интеллекте растений (интересная работа, кстати: 10.1093/aob/mcg101).

Ответить непросто. Это уже не совсем наука: за пределами анализа публикаций по экспериментальной биологии (конструкция и поведение козявок), в этом нет изучения существующего. Это и ещё не техника: не существует готовых методов, с которыми инженеры смогли бы работать для постройки машин (вроде блоков в Матлабе). Также для множества объектов, из которые создана архитектура и с которыми работаю, нет общепонятных или даже готовых слов. Страшно сказать, но пока это скорее всего искусство. :) Все результаты существуют в форме логических схем с текстовым описанием элементов, связей и взаимодействий -- чтобы не растерять и не забыть подробности, а не чтобы делиться с другими. Это затрудняет ответ на ваш вопрос, но снижает усилия на работу. Из всего этого я формулирую задачи для железа и кода (в широком смысле обоих слов), а раскрытие хочу сделать по методу Бостон Динамикс (видео результата на ютубе). В конце концов я хочу увидеть такую машину с прицелом на потребности промышленности -- таким людям нужно увидеть и потрогать, а не почитать.
(Reply) (Parent) (Thread)
[User Picture]
From:bvn_mai
Date:May 24th, 2016 08:43 am (UTC)
(Link)
Ну что касается идей Брукса - это инженерные принципы (верхний слой не должен ничего знать про нижний и т.д.). Здесь интересно не столько воспроизвести систему, не понимая как она работает :) , а сколько постичь механизм явления - Брукс об этом ничего не говорит.

"...Также для множества объектов, из которые создана архитектура и с которыми работаю, нет общепонятных или даже готовых слов ... Все результаты существуют в форме логических схем с текстовым описанием элементов, связей и взаимодействий -- чтобы не растерять и не забыть подробности, а не чтобы делиться с другими..." - ИМХО это зря. По своему опыту знаю, что любой полезный результат, сразу после его получения, должен быть очень быстро (пока ничего не забыто) внятно изложен на бумаге, в виде который могут понять другие (Если могут понять другие, то и сам потом разберешься). Это сильно способствует поиску финансирования и реализации идеи в железе.

Статью про "интеллект растений" скачал - буду читать. Совершенно не вижу причин, по которым интеллект не может быть распределенным.

А когда Вы планируете реализовать "...метод Бостон Динамикс..." на ютубе?
(Reply) (Parent) (Thread)
[User Picture]
From:ardelfi
Date:May 24th, 2016 09:08 am (UTC)
(Link)
Согласен, именно этим я занимался и немного ещё занимаюсь. В отличие от позднего Брукса и большинства подходов, я не анализировал сложные организмы -- пчела принята пределом, потому что если допустить что уровень функциональности пчелы достигнут в машине, я буду считать своё дело сделанным.

Я в курсе, и почти так и делаю: записываю и зарисовываю главное в понятной мне форме, но перевод в общепонятную форму был бы трудоёмким и ненужным делом. После года написания и итеративного переписывания диссера для удовлетворения стилистических вкусов третьих лиц, подобное писательство для меня стало пыткой. Помню в лабе практиковались периодические посиделки, когда люди рассказывали другим о своей работе. Я тоже поучаствовал: через несколько минут рассказа передо мной было пару десятков стеклянных глаз. Коллега занимался ещё более дикой темой (эволюционный морфогенетический синтез цифровых схем), в которую я даже не пытался вникать -- он говорил что на планете есть пять человек, способных прочитать его диссер и понять, и он всех знал по имени. Поэтому я осознал и проникся мыслью, что в народ нужно выносить только понятные и лёгкие вещи, желательно в форме видео -- всё сразу понятно.

С финансированием подход другой. Стараюсь эмпатически принять их точку зрения и интересы, и сразу отвечать на вопросы, которые они ещё не задали, используя понятные им примеры. Например, люди хорошо понимают концепцию бульдозера без оператора в нём -- минус зарплата, страховка и всякие расходы, плюс двести процентов производительности за счёт круглосуточной работы машины.

Как только.. :)
(Reply) (Parent) (Thread)
[User Picture]
From:bvn_mai
Date:May 24th, 2016 09:23 am (UTC)
(Link)
Хорошо, дайте знать, как все будет готово :)
(Reply) (Parent) (Thread)
[User Picture]
From:ardelfi
Date:May 24th, 2016 09:32 am (UTC)
(Link)
Хотелось бы послушать чем вы занимаетесь.
(Reply) (Parent) (Thread)
[User Picture]
From:bvn_mai
Date:May 24th, 2016 09:44 am (UTC)
(Link)
В данный момент я пытаюсь узнать от Вас о новых идеях в кибернетике, а промежутках разговора с Вами - очень большими АСУ (я бы сказал масштаба Солнечной системы), где есть и уникальное железо и нетривиальное программирование, требующее решения математических задач.
(Reply) (Parent) (Thread)
[User Picture]
From:ardelfi
Date:May 24th, 2016 10:08 am (UTC)
(Link)
Уникальное железо -- это какое?
(Reply) (Parent) (Thread) (Expand)