Телескопы покупают здесь


A A A A Автор Тема: ИИ: какого понимания нам не хватает?  (Прочитано 53083 раз)

0 Пользователей и 1 Гость просматривают эту тему.

Оффлайн Проходящий Кот

  • *****
  • Сообщений: 19 443
  • Благодарностей: 426
    • Сообщения от Проходящий Кот
Re: ИИ: какого понимания нам не хватает?
« Ответ #720 : 13 Янв 2014 [08:54:58] »
Думаю, существует только один путь быть эффективным. Это и есть тот путь, которым эффективны мы и животные. Значит, робот будет эффективен точно так же со всеми переживаниями и прочими побочными эффектами.
Так о чем и речь.....

Оффлайн EmperioAf

  • *****
  • Сообщений: 1 668
  • Благодарностей: 72
  • Mr. Лень
    • Сообщения от EmperioAf
Re: ИИ: какого понимания нам не хватает?
« Ответ #721 : 07 Сен 2017 [03:14:12] »
Причина поднятия старой темы под спойлером
(кликните для показа/скрытия)

Прочитал все сообщения и выбрал те, которые показались мне наиболее релевантными для данного топика. (авось, у прочитавшего все цитаты ниже, в голове появятся новые идеи). Множество сообщений о квалиа и математике практически не попали в цитаты, т.к. квалиа это, КМК, что то субъективное; а в разговорах про математику, КМК,  обсуждали вообще то, что к топику не относится.

Мозг и нейронная сеть - это по сути универсальные апроксиматоры действительности, которые находят во входных данных повторяющиеся образцы и аппроксимируют это образцы неким набором простейших сформированных в мозге функций. Дальше полученная модель действительности как-то используется для выживания, но как - это отдельный вопрос.
В части аппроксимации важен один момент. Думаю, что в процессе аппроксимации действительности мозг находит не просто наиболее точную аппроксимацию, а наиболее простую аппроксимацию. В другой терминологии - мозг подбирает минимальны Колмогоровский порождающий алгоритм для входных сигналов.
Изначально условие минимальности выполнялось автоматически т.к. для простейших организмов кормить нервные клетки было очень накладно и эволюция выбирала только самые простые схемы нейронов, выполняющие аппроксимацию с точностью важной для выживания но и не более. Вероятно, потом, с ростом тела по сравнению с затратами мозга, природа нашла другой способ принудительной экономии сложности при аппроксимации.
Почему это работает?
Логика тут аналогична принципу бритвы Окама в науке. Чем проще аппроксимация, тем больше вероятность, что при изменении внешних условий аппроксимация все еще будет эффективной.  Сложные объяснения объясняют только текущее положение, но не принцип устройства вещей.
Иными словами - природа изначально проста и основана на суперпозиции повторяющихся процессов. Такой же простой должна быть аппрокс

Однако, надо понимать, что возможности всякого распараллеливания (и многоядерности) не безграничны. Далеко не каждый алгоритм хорошо распараллеливается. (К счастью нейросетевые алгоритмы распараллеливаются всегда хорошо. Это, видимо, и есть "оптимизирующий механизм" мозга.)



Нейрон работает как бикфордов шнур. То есть по принципу да-не. Если нейрон работаете не по принципу дискретного да-нет (а какова доля таких нейронов ни один подсчетчик расчетчик квадрилионов не удосужился узнать), то единственное чем он может кодировать ВЕЛЕЧИНУ - частотой импульсов (особо извращенные могут придумать морзянку, конечно. Но это нужно быть полным алигофреном).
Так вот, если частота импульсов нейрона меняется от 0 до 100 то, само собой разумеется что нейрон не может передавать более 100 разных дискретных градаций  величины сигнала. Скорей всего и того меньше. Я думаю не более 20-30.
Что бы измерять передаваемую величину принимающему синапсу нужно время НАКОПЛЕНИЯ импульсов. Верно?
Нейрон реагирует на пришедший сигнал не быстрее чем 1/10 секунды. Но тогда он не может распознать слишком сложный "аналог". Накопить импулсы и распознать оттенок велечины.
КАК НИ КРУТИ, но нейрон не может передавать более 100 оттенков в секунду. Округлим   до 127 оттенков. Это  7 бит. Не более 7 бит/с. А скорей всего куда меньше.
(кстати скорость сигнала по синапсу 300 м/с. Почки скорость звука)

Далее. Давайте не будем шухирить с количеством нейронов и не будем брать общую температуру по больнице. Например есть такой участок мозга как мозжечок, который ОДНОЗНАЧНО за мыслительную деятельность не отвечает. Но там собрано БОЛЕЕ ЧЕМ ПОЛОВИНА нейронов мозга.
То есть, если разобраться, то ваши  30 миллиардов в очень даже могут ужаться до 3 миллиарда. Если учесть избыточность - и к гадалке не ходить! ...
С количеством синапсов я так понял вы тоже взяли "в среднем" с запасом. Ну да ладно.
5 000? Хай будет.

Но самое главное. Весь мозг одновременно НЕ РАБОТАЕТ. Возбуждена только некоторая часть нейронов. Какая? Помните дуратскую школьную байку что у человека работает 5% мозга, остальная отдыхает? Мол, учиться, учиться и учится! Работать, работать  и работать...
Так вот. Этот бред взялся из первых ГРУБЫХ замеров активности мозга. То есть. Если вы хотите сравнивать производительность мозга с суперкомпьютерами, то делите ваши триллионы на 20 ( 5%!)

Кстати флоп в секунду - это операция по сложению двух знаков с плавающей запятой. Если взять обычную точность то каждое число - 4 байта. То есть обработка двух 32-х битных слова. Будем считать что  1 флоп равен обработке 64 бит/с.

Вот теперь пересчитываем.

7* 3 000 000 000 *5 000 /20 =5,25E+12 бит/с  или 8,2E+10 флоп/с 82 миллиарда флопов в секунду. Ладно, верну вам 30 миллиардов. Все равно получается 820 миллиарда флоп в секунду. Ерунда ведь!
Закон Амдала известен?
https://ru.wikipedia.org/wiki/Закон_Амдала
В нашем мозгу он царствует на 100%.
Самая многообещающая модель того, как мозг мыслит, из виденных мной говорит, что мозг - это динамический генетический алгоритм, который работает непрерывно. Пока я разговариваю с вами, у вас в мозгу соревнуется множество теорий по поводу того, что же я хочу сказать. Это выживание наиболее подходящего, непрерывная борьба конкурирующих теорий. Некоторые оказываются на поверхности и на самом деле попадают в ваше сознание, но все остальные также присутствуют. У нас в голове может непрерывно идти что-то вроде взросления идей. Эта модель дает, похоже, правильное объяснение того, как мы делаем то, что делаем, при относительно медленной реакции наших нейронов. Но я, конечно, не специалист в этой области.

Дональд Кнут.

Ибо основа и скорость не в распараллеливании а в т.н. нечеткой логике, как основе образного мышления. Которая, в свою очередь, хорошо мб реализована в кубитой.

Мозг постоянно строит модель внешней реальности. Предсказательную модель (слышали об управлении по возбуждению?). И если предсказания совпадают с тем что мы наблюдаем через секунду другую СОЗНАНИЕ на это все не обращает внимание.
Мы все делаем как зомби.
Это так естественно что мы не замечаем этого чуда у себя под носом.
Сознание - это мальчик по вызов. Туда, где возникли разногласия модели с реальностью. И только. Если разногласий нет, мозг работает САМ. Без нашего (сознательного) участия.

В любом случае уровень нейронов - это настолько низкий аппаратный уровень, что вряд ли специфика его организации играет какую-то существенную роль в ТОПОЛОГИИ и механики процессов, о которых мы тут уже говорим.
мозг практически не делает разницы между восприятием и воображением. оно и понятно: наше "восприятие" и есть "воображение", просто корректируемое потоком данных от органов чувств.
Но в нашем случае сознание, если оно не занято пожарными делами, не засыпает, а оказывается подгружено задачей по умолчанию, сервизным обслуживанием мозга. Оно упаковывает уже накопленное в нем. Набросанное когда-то в память (кору) как попало, обдумыванием воспоминаний.  Такое дополнительное использование уже имеющегося механизма, скорей всего, давала немалые выгоды когда час придет.
Хорошо известно, что если вы вспоминаете что-то, то вы это переупаковываете. То есть запоминаете по-новому. Повой с совершенно другими нюансами. Часто после ряда таких переупаковок мы помним совсем не то что было. И когда нас ставят перед фактом (фото, кино) мы жутко удивляемся. Мы же помним иное!
Память нам нужна не для того чтобы помнить приятные моменты, а для того чтобы это потом сработало когда надо. Поэтому все запомненное неплохо бы  обдумать, прогнать на холостом ходу. Перепаковать с учетом уже известного (А на грабители была кожаная куртка? А ну подумайте! Да… вроде была…).

Что есть мышление (процесс мышления)? Это своего рода кроссинговер. Мозг темпер вмещает столько идей, что их все время нужно скрещивать друг с другом проверяя на совместимость. Мутации - новые идеи нужны куда реже, чем перекомбинация старых, уже известных.
 Эволюционирует не только геном. Эволюционирует сама эволюция. В массе направлений. И наше с вами эмоции, сознание, мышление  - это несомненно шаги по развитию механизмов увеличения эффективности эволюции идей в нашем мозгу.

Кстати есть еще загадка сна и есть загадка эмоций. Все это несет в себе ту же цель. Более эффективное поведение. Но как это все взаимосвязано?
Может имеется в виду, то что любая современная архитектура работает по принципу да/нет, 0/1...
А для ИИ требуется как минимум да/нет/а фиг его знает...   
Шутка конечно, но как говорится "в каждой шутке - лишь доля шутки - остальное правда"
Самый реальный путь по которому надо и возможно идти-нейроинтерфейсы. На них можно отрабатывать семантические карты для прототипов ИИ.
Я уже поднимал тему по вопросу распределенных сознания/индивидуальности, это одни из ключевых и нерешенных пока проблем.
человеческий младенец рождается уже с огромной базой навыков/знаний/умений (не обвинять в альтизме - я имею в виду инстинкты/рефлексы). Вот вопрос - даже если создадут ИИ - какой объем знаний/навыков в него надо будет закачать, как в обычную машину, до того, как его можно будет начать учить/пытаться общаться?
Средний человек запрограммирован на стремление к материальным благам, удовлетворение своего самолюбия и половых влечений.
Поскольку он на это запрограммирован, то он этим и занимается.
Он не может послать подальше эти стремления и заняться чем-то принципиально другим. Если он это сделал, то это всегда не его выбор, а некие особые обстоятельства или некий заложенная природой явно видная нестандартность в наборе мотиваций. Если же речь идет о среднем человеке в средних обстоятельствах, то вероятность срывов с программы ничтожно мала.

Воля человека свободна в том смысле, что он делает то что хочет. А хочет он то, на что его запрограммировала хотеть природа. Т.е. никакой свободы по факту у человека нет.

Грубо говоря, если нам нужны роботы, которые будут точить болванки, значит нам нужно сделать это их основным инстинктом и тогда эти роботы будут считать вытачивание болванок своим свободным выбором и презирать каждого, кто не понимает, что смысл жизни и есть в болванках.

Тут правда есть один нюанс. Запрограммированные мотивации должны быть не слишком относительными и как-то косвенно связываться с базовыми принципами бытия. Иначе ИИ может эти мотивации слишком легко разоблачить как запрограммированные искусственно и начать с ними бороться подобно тому как монах борется с половым инстинктом.

Человек может действовать подчиняясь своим желаниям, но он не в силах перепрограммировать свои желания.
Если бы мог - система стала бы неустойчивой и повисла бы (программа, которая произвольно меняет сама себя не сможет работать).
Попытки делать что-то против своих желаний всегда связаны с выполнением других конкурирующих желаний, которые просто хуже интроспектируются.
Например, желание быть хорошим человеком и желание урвать побольше - это просто конкурирующие цели, прошитые в оценочной экспертной системе. Просто первая интроспектируется плохо, а потому воспринимается как "свободный выбор" а вторая интроспектируется как нечто внешнее и навязчивое. Поэтому воспринимается как природно заданное желание. Хотя не всеми.

Дальше, стоит человеку подменить свои природные желания на слишком сложные желания продуцированные высшим мышлением, как он впадает в депрессию, и либо не выходит из нее, либо выходит чтобы заняться решением заложенных в оценочной экспертной системе задач. Природа не дура.
В эволюционном развитии мозга не видно особого момента прорыва, который должен был бы присутствовать в момент когда природа научилась бы использовать квантовые эффекты.


В основе строения мозга нашли строгий порядок
 Нейробиологи создали трехмерную карту связей нейронов в мозге человека и четырех видов обезьян, обнаружив строгую локальную упорядоченность. Оказалось, что белое вещество представляет собой трехмерную ткань, где волокна располагаются перпендикулярно друг другу.
В статье говорится, что для авторов такая структура оказалась неожиданностью.
Меня вот такое открытие почему-то не удивляет.
Лично мне это напоминает "модель пространства" для человеческого мозга. Причём модель пространства, аппаратно встроенная в мозг. Логично напрашивается ещё и "модель времени". Например в виде периодических сигналов, постоянно распространяющимся по этим нервным волокнам. Хотя это всё мои предположения. Могу и ошибаться.
То есть, возможно, базовые представления о пространстве и времени (а значит и вообще любые базовые представления),
мозг может получить "играясь" с самим собой.
А если ещё вспомнить, что в некоторых религиях человек рассматривается как микрокосм... И на тебе - модель пространства, встроенная в мозг. Этого вобщем-то следовало ожидать...

1. Получив в свое распоряжение некую среду, в которой действуют сложные закономерности и будучи запрограммирован на достижение неких целей интеллект способен строить долговременные и близкие к наилучшим из возможных стратегии действия по достижению целей.
2. Интеллект способен передавать свой опыт, связанный с разработкой стратегий, другому интеллекту путем преобразования своего опыта в символы и последовательной передачи символов.
3. Интеллект способен формировать универсальные приемы мышления, предназначенные для решения задач разработки стратегий и способен передавать этот опыт другим интеллектам как в п.2.
Человек создан лицемером. Эгоистичные желания запрограммированы в части мозга, которая не доступна для интроспекции и не может говорить. Напротив, альтруистичные желания запрограммированы в части мозга, которая умеет говорить и анализировать саму себя.
Поэтому, если у человека спросить о его мотивах, он всегда отчитывается, что дескать но сам (т.е. говорящая часть мозга) хочет как лучше, а его грешная природа ему мешает.

На самом деле, при необходимости принятия решения мозг взвешивает эгоистичные и альтруистичные мотивации и выбирает те, которые в данном случае сильнее.
Затем, говорящая часть мозга начинает сокрушаться и плакати (она думает, что это она принимает решения и за них отвечает), но этот плачь - не более чем пустой шум от работающей машины. Поднаплягшись, этот номер можно наблюдать в других людях и даже в себе. Когда я наблюдаю это в себе, кто это наблюдает ? Фишка в том, что последний вопрос не важен для решения такой простой задачи как создание ИИ. Природа создавая человека им не задавалась.
В чем различия и сходства детерминированной ДТМ, недетерминированной НДМТ и вероятностьной  ВМТ машины Тьюринга?

Классы задач решаемый на этих машинах СОВПАДАЮТ (а я теперь уточняю для финитных вычислений). То есть если вы запускаете программу которая должна остановиться и выдать результат. В этом случае ЧЕТКО ИЗВВЕСТНО что никакая машина не может вычислить что-то что не вычисляет любая другая.
Это просто доказывается.
НО!

Есть различия в количестве шагов. Особенно это как раз важно для недетерминированной машины. Она за полиноминальное время решает ВЕТВЯЩИЕСЯ задачи. Упрощенно то что обычная детерминированная МТ будет решать экспоненциально долго, квантовый компьютер должен решать полиноминально (~n^2 или ~n^3) быстро.
 
То есть. Хотя теоретически нет разницы где выполнять вычисления, практически разница может быть огромной.
Но в компе всё-таки стандарты действуют, а каждый мозг генерит свою внутреннюю кодировку самостоятельно и достаточно случайным образом.
В конструкцию ИИ надо закладывать когнитивное противоречие.
Диссонанс, противоречие должно быть заложен в конструкцию любого разума изначально. Иначе он не сможет существовать и разумеется думать.
Снаружи это выглядит как невозможная фигура Эшера.
А изнутри?
Вера. Бог по сути.
Все что нам надо - мы должны верить что у всего этого есть смысл.
Но обратите внимание.
Все выше сказанное мной, если оно может быть доведено до ума (логического совершенства) - это все превращается в математику.
То есть.
Выше математики все равно ничего нет.
Даже ИДЕЯ бога в нашей голове. Она глубоко математична.

ТРИ ЗАКОНА ЧЕЛОВЕКОТЕХНИКИ:

1.Человек не может причинить вред генам или своим бездействием допустить, чтобы его генам был причинён вред.
2.Человек должен повиноваться всем приказам, которые дают гены, кроме тех случаев, когда эти приказы противоречат Первому Закону.
3.Человек должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому и Второму Законам.
Решаем мы, например, уравнение. Мы производим некие действия с символами этого уравнения. Но выполнить эти действия не прибегая к "образному мышлению", ощущениям, квалиа мы не можем. Мы видим символы этого уравнения на бумаге или проговариваем их или представляем перед мысленным взором.
Понятие об ощущениях мозг формирует благодаря своей способности запоминать свои состояния и затем анализировать их. Он ставит на состояния словесные метки и называет их ощущениями и оперирует ими как псевдо-объектами. Т.е. квалиа существуют в отчете мозга о своем состоянии, но в реальном мире им ничего не соответствует. Можно выделять в состояниях нейронной сети определенные закономерные состояния и соотносить их с квалиа, но эти состояния - не квалиа (согласно определению квалиа). Изучение сответствия объективных процессов, происходящих в мозге с превдо-объектами квалиа в его отчетах может быть увлекательным, но и не более т.к. следует понимать, что мы имеем дело только с субъективным отчетом мозга о своем состоянии.

И того, ответ на вопрос, вынесенный в заголовок темы (чего нам не хватает):


1. Не хватает ясного понимания, что в области бытия в которой мы собираемся создавать ИИ (в мире где редукция, бритва Окама, возможность вербализации идей, атомы, биты и т.д.) нет квалиа, нет сознания и нет разума. Не нужно моделировать эпифеномены. После создания ИИ они будут сопровождать его автоматически, как шум всегда сопровождает работу машины.

2. Немного не хватает элементной базы, позволяющей строить вычислительные системы с объемами и степенью связанности нейронной сети. Однако, об этом бесполезно говорить пока не решен вопрос принципов работы ИИ.

3. Для начала, не хватает теории, позволяющей строить вычислительные системы, способные получать минимальные (как в сложности по Колмогорову) алгоритмы для аппроксимации входных последовательностей. Представление об иерархичности нейронной сети косвенно связано с решением этой проблемы. Потребность в дальнейших теориях станет понятна после решения этой первой проблемы.
вам предлагают рассмотреть бесконечную последовательность, в которой нужно считать от одного до 5, а потом от 5 до одного и так бесконечно. Дальше, вам задают вопрос: встретится ли в этой последовательности число 6. Вы отвечаете, что нет и что вы уверены в этом на 100%.
Как нейронная сеть делает этот тривиальный и явно логический вывод?
Кора мозга строит модель окружающего мира. При этом она преследует 2 несколько отличных аттрактора:
1. построение модели, которая наилучшим образом позволяет удовлетворять мотивации, запрограммированные в старой части мозга.
2. построение наиболее простых моделей все-равно чего и все-равно для чего.

В "сытом" состоянии, когда мотивации молчат мозг занят спонтанными исследованиями любых абстракций, какие только подвернуться под руку, лишь бы они давали простую, компактную картину, порождая свой собственный мир идей. Частичная изоморфность этого мира идей реальному миру обусловлена тем, что он так же как и реальный мир  настолько прост, насколько это возможно.
Помимо стандартного универсального набора операций детерминированной машины:

1 A:=0
2 A:=A+1
3 B:=A
4 Если A=B тогда (переход на N-тую строчку алгоритма)

http://ric.uni-altai.ru/fundamental/teor-alg/upr12/upr12-1.htm

в игру нужно внести еще один оператор- действительно случайный выбор:

5: A = 0/1 

А получит 0 или 1 с равной вероятностью. Этого достаточно. Такой оператор должен быть либо где-то в лесу (монета) либо… у Алисы в голове. Последний случай - совсем интересный. "У Алисы в глове" это значит что в программе А есть такой оператор (там есть тонкость о том КАК этот оператор должен быть встроен, но не будем пока о ней)
Тогда если у привратника есть КОПИЯ алгоритма А, где встречается такой оператор:

. . .
A = 0/1;
 . . .

у него уже нет возможности вас надежно предсказывать. Эмулируя вас, он может получит, например A=1, а вы, делая выбор, можете с вероятностью 0.5 получите 0 и вы разойдетесь со своей копией. Вы спасетесь! При возможности бесконечного числа попыток выйти, ваше спасение гарантировано.
Почему? В вашем поведении теперь нет детерминированности. Нет предсказуемости вашего выбора. Нет "королевского крокета". У привратника нет выигрышной стратегии. Вы вырываетесь на свободу.
Оператор случайного (непредсказуемого) выбора дает вам возможность, недоступную никакой сколь угодно сложной  НО детерминированной машине.

Понимание разума всеже должно как мне кажеться отталкиваться от теории мемов..
Где вместо ДНК(как у генов) язык...
Самокопирование...мемы есть мемы..
Мутации и рекомбинации..Язык по своей структуре очень хорошо подходит в качестве конструктора новых мыслеформ(в отличии от первой сигнальной системы животных). Новые мемы появляються в процессе общения человека с человеком, или человека с самим собой.
Сохранение...Культура, письменность, книгопечатание, интернет.
Отбор...Мемы которые работают принося носителю пользу размножаються.
Механизм нейро-лигнвистического разложения зрительного сигнала для нас достаточно хорошо понятен. Что происходить в отдельных частях мозга мы понимаем достаточно глубоко. Изображение по сути превращается в текст. Сетчатка поставляет поток букв, которые складываются в слога, слога в слова, слова в словосочетания словосочетания в предложения, предложения в рассказы…
Кстати так обрабатывается ЛЮБАЯ  входящая информация. Звух, сенсорика, запахи…
Нам просто не ясно что происходит с этим дальше. Ясно что тут все очень сильно распараллеливается. Ясно что мозг в основном машина бессознательная. Но механизм сознания, его локализация  как раз сейчас является вопросом номер один для нейрофизиологов.
Я тут уже говорил. Главная проблема ну нас вот в чем. У нас нет иерархии объясняющих мозг теорий. И нет самой верхней, чисто математической, которая бы на самом абстрактном уровне убедительно объясняла нам что же такое разум вообще. Как отличить его от неразума. Тогда понять конкретный разум человека будет если не просто то вполне постижимо.
Понять - значит упростить. Построить модель. Понять правильно - построить адекватную модель. Упростить правильно. Откинув неважное. Понять неправильно - построить неадекватную модель. При упрощении откинуть что-то важное.
Когда я говорю о максимально абстрактной модели разума, я отбрасываю все и оставляю одну грань разумного поведения - решение нетривиальных задач, задач на сообразительность. Отсюда пляшу.
Когда я буду идти назад - я прособираю все отброшенное в процессе упрощения. Но теперь это будет не эклектика. Это все станет на свои места.
Язык это некое подмножество цепочек символов в некотором алфавите.

А чем рабочая модель отличается от просто модели? Кстати, вы в курсе что в математике есть теория моделей? То есть наиболее абстрактное воплощение понятия "модель".
Модель и строится всегда для работы с ней.
Если уточнять модель то не рабочая а ПРЕДСКАЗАТЕЛЬНАЯ модель.
Вы знаете что такое управление по отклонению и что такое управление по возбуждению?
Мозг - ситема управления телом по возбуждению. Она предсказывает будущее до того как оно наступит. И если предсказание совпадает, мозг все так же бессознательно запускает реакцию на наступившее будущее. А вот если происходит рассогласование (что-то не так!) сюда приглашается сознание и концентрируется внимание.
любой алгоритм есть оптимизация эволюционного алгоритма к конретной задаче/классу задач.
т.е. это всё тот-же эа, но некоторые "ветви" намертво обрубленны (для чего и нужна память).


Понимаю. В этом как рази и есть сила регулярных методов. ИМЕННО ДЛЯ ЭТОГО И НУЖЕН механизм разума, сознания. Превращать случайные находки в регулярные ЭФФЕКТИВНЫЕ алгоритмы. Кстати бездумные.
Разум нужен как мост между гениальной случайностью и механической, бездумной регулярностью эффективных алгоритмов поведения.

Но на что я хочу обратить внимание? От решения уводить может не только случайность. Регулярность может навсегда увести от решения еще лучше. Как шутил Рассел? Логика - это способность ошибаться с полной уверенностью в собственной правоте.
Мы тогда творим величайшие глупости? Когда все делаем абсолютно "верно". А когда мы смеемся над идиотом? Когда понимаем что он, идиот уверен что делает верно, но ведь мы знаем что он, "лошара" тупит на ровном месте. При этом на месте "он" часто оказывается наше "я".

Видимо недоверие к случайному поиску у людей происходит из-за того что они не видят как можно СРАСТИТЬ случайности и регулярность.
Я же видел это с самого начала.
Вероятностью ведь можно "плавно" управлять.
Скажем вероятностный автомат из ситуации
[xi, qi] может с равной вероятностью 1/N переходить в одну из N возможных ситуаций. Но по мере накопления опыта (подкрепления) вероятность перехода в какие-то состояния может увеличиваться (и механизм этого обучения может быть регулярным или тоже вероятностным). Главное что бы сумма вероятностей по N вариантам оставалась равная 1.
В результате наш вероятностный автомат может почти полностью выродится детерминированную машину. "Плавно". Если навык становится вредным,  он может терять навык (обучение размываться).
А теперь вспомните как работают синапсы.  Один к одному! Обучение синапса ведет к повышению или понижению ВЕРОЯТНОСТИ го срабатывания.

Ассоциирование - это поиск объекта (объектов) в памяти по некоторому признаку этих объектов, а не по адресу ячейки памяти в которой (ячейке) расположен объект. Например, поиск всех предложений, содержащих определённое слово.

Естественно, для полноценного мышления просто ассоциативного поиска недостаточно. Необходимо как-то объединять уже имеющуюся информацию с той которая найдена ассоциативным поиском. Что-то типа операции join (соединения) в языке SQL (гуглите). То есть что получается.
1. Имеем некий "кусок информации № 1".
2. Ищем ассоциативно в памяти "кусок информации № 2" по некоторым признакам (нужно уточнять, зависит от выполняемой задачи).
3. Объединяем "кусок информации № 1" и "кусок информации № 2" с помощью join (грубо говоря просто "склеиваем" два "куска информации").

А теперь внимание!
В приведённых выше трёх пунктах считаем, что "кусок информации № 1" и "кусок информации № 2" - это один и тот же "кусок информации".
То есть мы "кусок информации" делим на две части и ассоциируем эти две части друг с другом.
То есть если смотреть на этот "кусок информации" в целом, то можно сказать, что мы его самоассоциируем.
То есть (внимание!) мы производим над "куском информации" что-то типа преобразования пекаря. (гуглим).

А что мы знаем про особенности преобразования пекаря? Что его результат хоть и детерминированный, но практически непредсказуемый.
Ну чем не замена случайности в ваших, Александр, рассуждениях? Или опять скажете, что это псевдослучайность?

Сознание, мышление - это все сервисы по стимуляции поиску новых решений и упаковки их в бессознательные рефлексы.
Опять же, шутка из "Принцип Питера". "Эксперт не думает. Он знает

Дело в том, что случайные химические процессы в нейронах, а также теории Хокинса и Бодякина предлягают решение только аналитических задач. Когда известна входная информация и нужно её "разложить по полочкам", найти в ней некую иерархическую организованность.
Но ведь есть ещё и задачи синтеза. Без способа их решения понятие интеллекта не будет полным! И вот в этом случае подходы и Хокинса и Бодякина не годятся.
Задачи синтеза в рамках этих подходов решаются только примитивные. Например, синтез движения руки для ловли летящего мяча.
Я лично считаю что  случайность встроена в каждый нейрон в каждый синапс самой физико-химической природой элементной базы мозга.

Надо понимать, что любой алгоритм синтеза это всего лишь  детерминированный алгоритм. То есть синтезирует он лишь то, что предусмотрел программист. И ничего сверх того. Возможно программист что то "предусмотрел" нечаянно. И когда программа выдала что-то неожиданное, он сам удивился (говорят у Тьюринга был такой опыт и это как раз и подвигло его к утверждению что разум это все-таки детерминированная программа).
Алгоритмы могут иметь очень мощный "креативный потенциал". Например "Эвриско" Д. Лената используя ряд алгоритмов-эвристик показала крайне высокую КРЕАТИВНОСТЬ. Не доступную возможно никакому из людей по-отдельности.
И тем не менее. Надо понимать что любая  программа может только то, что в нее заложил программист (явно или случайно). Что-то сверх того что в нее заложено детерминированная программа не может хоть ты тресни. "Выйти из системы" система не может. У любого такого "умника" есть предел креативности. Который в конечном итоге сводится к ситуации Алиса-Привратник.
У эволюции, "метода тык" как бы он ни был сомнителен и несовершенен, неэффективен но такого предела НЕТ. Никто не знает что выдаст случайный генератор.
В этом его главное и решающее превосходство, которое я возможно выявил (возможно!) методом достаточно сложных математических умствований. Поэтому в основе любой думающей машины в основе механизмов синтеза должна лежать "метод тыка". А любые регулярные алгоритмы (правила, эвристики) это уже результаты наслоения выше.
Как это должно совмещаться?
Есть одно но! Если мы принимаем что разум это продукт эволюции, а не творение математического бога, нам нужно признать что у эволюции есть свои ограничения. Путем эволюции нельзя получить программу "Word" так как для ее создания нужно сделать энное количество промежуточных шагов которые сами по себе не представляют ценности, а потому не могут быть закреплены отбором. Процес превращения рептилии в птицу имет множество промежуточных значений, и каждое из них было адаптацией для носителя. В противном случае птиц бы не было. Это програмный инжинер может работать на результат, а эволюции подавай выгоду прямо сейчас. Потому мне не совсем понятно, почему люди ищут сложную математику в разуме..Природа порождает сложное из простого, сразу сложное она не в состоянии создать. Природа гениальна в своей простоте. И если мы уж принимаем что разум продукт эволюции, то разумно в нем искать эволюционные механизмы, они для природы самые доступные.
  Второе мое наблюдение...
Многие открытия, люди для себя делают в процессе общения с друг другом или самим собой. В моем понимании мышление и общение имеют одинаковую алгоритмию. Отсюда я делаю вывод, общение и мышление это способ мутации и рекомбинации мемов с целью создания новых мыслеформ. Язык вообще очень удобный конструктор для создания новых мемов. Как же это происходит? Общение можно разделить условно на две операции, слушание и говорение. Первое это процес перевода лингвистической информации в сенсорную, психическую второй обратный процес. Оба процесса создают искажения и как следствие мутацию мемов. Другая причина мутации, сам процес извлечения инфы из базы данных(память) Когда мы общаемся с другим человеком, то способны получить такой запрос для нашей памяти, который сами не способны сформировать. То что из памяти извлекаеться завистит от самого запроса, от алгоритма поиска и от содержания самой базы. Тоесть сдесь большое раздолье для генерации новых мемов. Процес поиска новых решений во многом связан с самим поиском в памяти. Потом возможно на примере это покажу.
    Далее идет отбор, во первых субьект пытаеться понять может ли новый мем быть для чегото пригоден, тоесть являеться ли он ресурсом для достижения целей. Второй этап отбора, либо непосредственное применение, либо моделирование применения(воображение) Подитоживая выше сказаное, можно сказать..Разум по сути супер-пупер ускоритель эволюции.
   Третье мое наблюдение..
Человек это такой компьютер который програмирует сам себя. А значит должна существовать какая то часть психики которая, выполняет функции програмиста, и есть та часть которая являеться компом где эти программы работают. На роль програмиста больше всего потходит сознание, на роль компа бессознательное. Конечно сознание не каких конкретных програм и не создает, оно просто генерирует разные полезные участки кода, а бессознательное уже пытаеться их соеденить во чтото цельное. Но у человека(сознания) обычно нет понимания того что у него есть бессознательное, и тем более нет понимания того как им ползоваться. Потоу большинство людей пытаються решать задачи сознательно, а потому часто ошибаються, наступают на старые грабли и т.д. Но есть и те которые пользуються своим компьютером в голове при решении задач, хоть и не понимают того как они это делают. Для примера читал статью об сравнении МРТ сканов, професиональных шахматистов и любителей. Так вот любители задействуют в оснавном левое полушарие(там локализовано сознание), а вот професионалы задействуют оба.

1. Предметная область задачи неизвестна. Методы решения аналогичных задач неизвестны.
Тут решением может быть только полный перебор вариантов, если предметная область ограничена и метод случайного тыка, если предметная область бесконечна. (На рассмотрении этого уровня и застрял Семёнов.)

2. Предметная область известна (в ходе "случайных тыков" из пункта 1). Методы решения аналогичных задач неизвестны. Или известны методы решения более простых задач с объектами предметной области.
Уже возможны целенаправленные действия. Отличные от просто генетического (эволюционного) алгоритма. Такие как описаны в начале поста.
Вот это на мой взгляд наиболее интересный и заслуживающий изучения уровень. Нехоженный уровень.

3. Предметная область задачи известна. Методы решения аналогичных задач известны.
Такие задачи вполне решаются всякими базами знаний, семантическими сетями и т.д. Сюда же можно отнести и Эвриско.
Хотя, на мой взгляд, Эвриско даже несколько вылазит в уровень 2.

4. Предметная область задачи неизвестна. Методы решения аналогичных задач известны.
Несколько абсурдная ситуация. Наверно её стоит отнести к пункту 2 или вообще не рассматривать.

Взять этот же неокогнитрон - он пассивен. Он, конечно, познаёт. Но ему плевать, что он там познаёт. У него нет интереса. Он просто работает, как вращается пропеллер под напором воздуха. Очевидно, что у нас есть интерес - мы выбираем, что познавать. У нас есть некий механизм, который уже известные нам знания снова и снова пускает по кругу, даже если нет внешних сигналов. То же сознание, внутренний монолог, постоянная прокрутка образов - механизм пока неизвестен.

Но - как эти знания вообще образуются? Ведь если неокогнитрон не направлять при обучении, у него на всех слоях будет такая же бессистемная каша, как на промежуточных уровнях абстракции.

Вот поставлена некоторая задача.

Первое. Нужно исследовать или доисследовать предметную область. Это работа для "неокогнитрона". Как уже говорил, процесс рекурсивный. То есть, сначала заучиваем простые составляющие (понятно, базовый набор понятий у нашего мозга имеется, образование получали, там, и т.п.). Принцип чисто неокогнитроновский - простое заучивание новых символов. Потом эти азы иерархически организуются в более сложные понятия предметной области. Принцип всё тот же неокогнитроновский, просто уровень абстракции выше, в общем случае уровней несколько. Чем выше уровень абстракции, тем большая часть понятий/символов будет браться из уже изученного множества. То есть, мы уже не столько заучиваем новую информацию, сколько организуем имеющуюся. Но принцип технически тот же, что при первичном заучивании - неокогнитрон. Здесь однако есть разница - добавляется механизм внутреннего монолога и вызова недавно заученных знаний из памяти, плюс, возможно, добавление данных извне. Здесь пробел, принцип и механизм неизвестен (ну или просто мне непонятен).

Второе. После исследования новой порции информации делается попытка её классификации. Делается помимо нашего желания, просто потому что иначе мозг не работает. Как я это вижу - вновь изученное понятие в виде вектора своих составляющих предъявляется биологическому аналогу карты Кохонена. Карта кохонена - это именно пространственная карта, по которой распределенно множество многомерных векторов. Особенность этой карты в том, что соседние в пространстве карты векторы подобны (то есть, соседствуют и в n-мерном пространстве веткоров). Так вот, вновь изученное понятие предъявляется этой карте, и на ней активируются нейроны, ассоциированные с векторами, наиболее близкими к новому. Новый вектор сравнивается с подходящими к нему ассоциациями. Здесь можно либо прийти к заключению, что новое понятие, очевидно, почти подобно уже известному, либо же обнаружить, что есть свойства, противоречащие друг другу в новом и известном понятиях. В первом случае можно считать, что понятие успешно исследовано (и здесь зарыта возможность ошибочной классификации, если по причине нехватки знаний или наблюдений не удалось обнаружить противоречащие компоненты), либо не подходит ни один вектор и нужно доизучить понятие. Например, вы знаете понятия "колесо", "колесо от телеги", "колесо от автомобиля", "шестерня". Каждое из этих понятий имеет схожий, но в чём-то различающийся набор свойств. Столкнувшись с, например, маховиком, вы совершите прогон по известным вещам и определите, что это точно не шестерня, точно не колесо автомобиля, возможно колесо от какой-то тележки/вагонетки, либо вообще - колесо пока непонятного предназначения. В случае с тележкой вы ошибётесь, в случае с непонятным предназначением вы будете знать, что нужно доисследовать предмет.

Причём, описанный прогон осуществляется сознательно. Ассоциации всплывают самопроизвольно, причём всплывают во внутреннем монологе, при виде исследуемого объекта (если есть с чем ассоциировать), и сравнение векторов как минимум отчасти происходит сознательно. Здесь может происходить сравнение не просто двух векторов/понятий одного уровня абстракции, а различные комбинации как сравниваемых понятий, так и их составных вещей (например, когда человек сталкивается со сложным понятием/явлением/объектом, подобия которому не знает - тут остаётся только переходить на иные уровни абстракции, более низкий - составные части, и более высокий - взаимосвязи нового объекта с другими, уже известными). Сознательно обнаруживаются схожие или взаимоисключсающие признаки. Затем когда отброшены очевидно неподходящие вектора (шины нет - не от автомобиля, зубцов нет - не шестреня...), человек концентрируется на наиболее подходящем (колесо вагонетки!), вызывая тем самым ассоциации со всеми видами вагонеточных колёс, которые ему известны. Опять множество векторов для сравнения, процесс повторяется.

В общем, постоянный примерно такой цикл: сигнал извне -> данные в неокогнитрон -> активация самоорганизующейся карты -> активация ассоциативной памяти -> результат передаётся во внутрений монолог + (при необходимости доизучения) сигнал извне -> данные в неокогнитрон...
Что касается ассоциативной памяти, тут, если не ошибаюсь, также есть исследованные и работающие структуры сетей. Но я их не знаю, и не могу судить об принципиальной возможности их применения здесь. Однако это должно быть именно как отдельный механизм, потому что карта Кохонена или неокогнитрон дают лишь возможность переходить от деталей к общему, а надо также иметь возможность от общего понятия переходить к составляющим его частям.

Где здесь происходит решение? А вот где. Выше описан процесс познания предметной области задачи. При решении задачи вы будете искать в своей памяти понятия, схожие с изучаемыми, не просто какие попало (хотя это и помогает собственно познанию), а по возможности из предметной области предполагаемого способа/метода/принципа решения. Будете дробить стоящую задачу на составляющие более простые части до тех пор, пока не найдёте в своей памяти подходящие аналоги из предметной области решения. В случае, если таковых не нашлось - будете доизучать предполагаемую предметную область решения по тому же самому принципу, что и предметную область задачи. Когда белых пятен не останется, вы просто совершите "перевод" из понятий предметной области задачи в понятия предметной области решения.
Я вобще подозреваю что становление разума, тесно связано с эволюцией языка. Язык в некотором смысле уже готовый код решения задач
Думаю, что модель, в которой мы в результате измерений всегда получаем символическую конструкцию - это тоже один вариант расширения понятия "алгоритм". Наш мозг тоже всё "измеряет", то есть переводит в символы.
Наш мозг ТОЖЕ моделирует мир, и ТОЖЕ получает знания об абстракциях. Причём в результате махровой эмпирики.
А интерфейс здесь - тот самый сакральный процесс, который мы обычно называем более приземлённо измерением. А ведь это то, что процессу сопоставляет всегда символы. Ну и остальные три свойства, что были конкретизированы.
Буду кардинальным и пойду до конца - мозг измеряет и как бы внутри себя - то есть делает какие-то физические манипуляции - прежде всего конечно символические, но может и звуковые (музыка), зрительные (геометрия) и т.д. И результаты этих измерений помогают построить ему модели реальности, предсказывающие результаты новых измерений.
Если наш контроллёр -наш я это видит, то он думает, что он думает. Если нет, то он воспринимает работу мозга как интуицию, к которой так сакрально неравнодушны математики.

Наш мозг - тоже физическая лаборатория со своей измеряющей аппаратурой. Мы научились однако строить новые измерительные приборы, расширив границы мозга. Он почему-то устроен так, что манипуляции с дискретными состояниями (символами) ему наиболее предпочтительны. Впрочем живая клетка оказалась с таким же вкусом.

И собственно приговор добивающий и без того слишком абстрактную и общую тему:

Не хватает понимания того, попытка разрешить проблему ИИ филосовскими размышлениями обречена. Нужно брать конкретного индивида, и потрошить его разумность, вывернуть ее наизнанку. Припереть к стенке и сказать.."Отвечай какие свои действия ты считаешь разумными?"
"все вышеуказанные модели, начиная с квазистационарных систем, их аттракторов, траекторий, в фазовом пространстве всех комбинаторно возможных состояний, автокаталитических циклов с конформационной памятью метаболических путей, конкуренций и отбором метаболических циклов и т.д. пытаются.."(с)(Patsak)

Оффлайн EmperioAf

  • *****
  • Сообщений: 1 668
  • Благодарностей: 72
  • Mr. Лень
    • Сообщения от EmperioAf
Re: ИИ: какого понимания нам не хватает?
« Ответ #722 : 07 Сен 2017 [03:14:44] »

Также хотелось бы добавить несколько цитат из книги Потапов А.С. «Искусственный интеллект и универсальное мышление» 2012г. :

Цитата
       Поскольку универсальная машина может эмулировать любую машину Тьюринга, очевидно, она может эмулировать и любую другую универсальную машину, и это позволяет считать алгоритмы независимыми от их аппаратной реализации. Действительно, один и тот же алгоритм можно реализовать на обычном цифровом процессоре, с помощью оптических вычислений или даже на основе спичечных коробков (и такие реализации, если не универсальных машин, то отдельных алгоритмов, делались). Забегая вперед, можно также отметить, например, что искусственные нейронные сети могут быть рассмотрены в качестве еще одной формализации понятия алгоритма, и эта формализация не мощнее универсальной машины Тьюринга.

Все это дает повод думать, что проблема искусственного интеллекта — это, в первую очередь, алгоритмическая проблема. С такой точкой зрения связана сформулированная Ньюэллом и Саймоном гипотеза физической символьной системы, согласно которой для достижения интеллектуального поведения системой необходимо и достаточно, чтобы физическая система выполняла преобразование символьной информации. Как следствие, можно сказать, что реализация сильного ИИ возможна на любом физическом носителе.   

Цитата
  Безостановочные алгоритмы обладают большей мощностью, чем классические алгоритмы, и тоже могут быть вполне полезны. К примеру, такой «алгоритм» может выдать какой-то результат и продолжить работать. Многим ученым не нравится идея безостановочных алгоритмов, поскольку для них остается вопрос, когда считать, что ответ сформирован, поэтому свойства таких алгоритмов в математике исследованы меньше. Но для них можно ввести понятие «вычислимости в пределе»: если на каком-то шаге формируется ответ, который не меняется в процессе последующей работы безостановочной программы, то полагается, что задача решена. К сожалению, мало известен тот факт, что классическая проблема останова является разрешимой в пределе. Таким образом, безостановочность алгоритма искусственного интеллекта (если таковой может быть построен) — это не плохое, а принципиально необходимое его свойство. Дело в том, что сложность безостановочных алгоритмов может неограниченно возрастать, в то время как алгоритмы, от которых требуется остановка за заранее определенное (в самом алгоритме или исходных данных) число шагов, действительно обладают ограниченными возможностями. 

Цитата
  Видно, что закладывая в компьютер алгоритм решения некоторой задачи класса P, мы не добавляем ему интеллекта. Наделение компьютера большим числом эвристик для решения какой то NP-полной задачи также приводит к созданию малоинтеллектуальных программ.

Цитата
   В действительности, если компьютер будет осуществлять поиск в алгоритмически полном пространстве, то он сможет находить решения совершенно новых для него задач. Возможно именно эта способность и нужна для сильного ИИ.

Цитата
   Итак, поиск, выполняемый некоторыми переборными алгоритмами, является хорошим кандитатом на роль сущности мышления или,
 по крайней мере, какой то значимой его компоненты. Однако механизмы подобного перебора до сих пор остаются загадкой.

Цитата
    Поразительно, насколько широко распространена в литературе информация о традиционных ИНС и насколько редко упоминается о существовании других нейросетевых моделей. Например, многие из тех, кто не занимается ИНС профессионально (и даже некоторые из числа профессионалов), не слышали о модели спайковых сетей.

Хотя достоверно известно, что распространение электрических сигналов между нейронами происходит в форме спайков (импульсов), частота которых зависит от уровня возбуждения нейронов, этот факт не учитывается при построении традиционных ИНС. В лучшем случае говорится, что в формальных нейронах с вещественным выходом (в отличие от нейронов Маккалока—Питтса с бинарным выходом) выходной уровень активности нейронов эквивалентен частоте спайков. При этом, однако, не моделируются другие динамические характеристики нейронов, например период рефрактерности. Кроме того, не ясно, играют все-таки какую-либо роль при кодировании информации индивидуальные интервалы между спайками, или важно только их общее количество. Существуют спайковые ИНС (и даже их аппаратные, а не только программные реализации), в которых моделируется динамика нейронных сетей на уровне отдельных импульсов (включая и период рефрактерности). При этом активность нейронов не пересчитывается синхронно (или в случайном порядке) для всех нейронов, как это обычно делается в классических ИНС, а изменяется непрерывно (не по тактам). Каждый импульс может привести к превышению порога возбуждения некоторого нейрона, поэтому точные времена прихода импульсов определяют моменты активации нейронов, в результате чего спайковые сети демонстрируют сложное динамическое поведение. Соединенные в пару нейроны могут возбуждаться попеременно, т. е. работать как осциллятор. В более крупных группах искусственных нейронов в спайковых сетях могут распространяться волны активности. Особый интерес представляет колебательная активность в больших ансамблях нейронов в связи с широко известным фактом существования мозговых ритмов.

Почему информация — это обязательно то, что хранится в ячейках памяти, фиксируется в статичном состоянии системы? Циклическое изменение состояния нейронной сети может не только соответствовать постоянному изменению хранимой ею информации. Вместо этого информация может «храниться» в самой динамике изменения состояний, что делает информацию более «активной» (идея покажется не столь экстравагантной, если вспомнить о том, что информация часто передается с помощью разных волн). К примеру, кратковременная память человека, вероятно, реализована через динамическую активность нейронов (а не через веса связей между ними), и как только эта активность затухает, информация в памяти пропадает.

Цитата
   ведь и сами исследователи часто говорят о том, что спайковые сети на практике делают почти то же, что и классические ИНС, но требуют для этого гораздо больше вычислений. Спайковые сети не пользуются популярностью, поскольку их реализации на цифровых компьютерах не слишком эффективны.

Цитата
   могут ли в разных участках мозга работать разные алгоритмы обучения (формирования межнейронных связей)? Ведь существуют эксперименты, показывающие идентичность механизмов синаптической пластичности у самых разных животных — от моллюсков до человека. Но способности обучения человека гораздо шире способностей животных, поэтому человеческое обучение не может быть объяснено на уровне универсальных механизмов синаптической пластичности.

Во-первых, нейроны отличаются между собой морфологически и функционально (существует множество достаточно четко различающихся между собой типов нервных клеток), и даже тем, какие медиаторы они используют. Видимо, в  таком делении должен быть глубокий смысл, но он остается пока не до конца понятым. Во-вторых, существуют глиальные клетки, о которых кратко упоминалось ранее. Напомним, что глиальных клеток на порядок больше, чем нейронов. До недавнего времени большинством ученых считалось, что глиальные клетки выполняют лишь вспомогательные функции, например, разделяют нейроны между собой и служат для них опорой. Было известно о том, что именно глия обеспечивает питание нейронов. Но неужели основная часть (примерно 90 %) клеток в мозге не участвует в мышлении? В ряде недавних экспериментов было установлено, что между нейронами и глиальными клетками действительно идет двунаправленный обмен сигналами. Имеющиеся данные позволили создать модель трехстороннего синапса, образованного двумя нейронами (пре- и постсинаптическим) и астроцитом (зведообразной клеткой, относящейся к отдельному подтипу глиальных клеток). В отличие от нейронов астроциты передают медленно меняющиеся сигналы большой длительности (до десятков секунд) на малые расстояния. Эти сигналы могут влиять на проводимость трехстороннего синапса путем высвобождения дополнительных нейромедиаторов. Значит, вполне возможно, что глиальные клетки участвуют в обеспечении пластичности межнейронных связей, т. е. в процессе научения. Отсутствие описания именно этого процесса делает модели нейронных сетей столь неполными.

Цитата
   Наиболее мощный результат Тьюринга заключался в том, что он показал существование универсальной машины — такой машины, которая может эмулировать любую другую машину по ее описанию. Именно это позволяет, в частности, реализовывать ИНС на компьютерах вместо того, чтобы для каждой ИНС или алгоритма создавать отдельное специализированное устройство. Несложно догадаться, что если для произвольного алгоритма сложно построить эквивалентную ему ИНС, то еще сложнее построить нейросетевой эквивалент универсальной машины Тьюринга, способный выполнять любой алгоритм. И, в частности, такая универсальная ИНС должна была бы уметь эмулировать действие любой другой ИНС по ее описанию! Даже просто представить себе ИНС, которая бы строила другие ИНС, гораздо сложнее, чем программу, которая бы строила другие программы.

Цитата
    концепция алгоритмов является гораздо более фундаментальной, чем концепция ИНС. В конце концов, ИНС — это просто одна из форм представления алгоритмов. И мыслить об ИНС следует как о частном (но, возможно, важном) способе представления алгоритмов. Соответственно ИНС нужно противопоставлять не алгоритмам вообще, а другим их частным представлениям.

Так в чем же особенность ИНС как способа представления алгоритмов? Хоть и простое, но важное соображение заключается в том, что функционирование нейронной сети обычно мало меняется при небольших изменениях в ее строении. Конечно, это свойство ИНС хорошо известно. Однако оно обычно отождествляется со способностью мозга продолжать корректно работать при не слишком значительных повреждениях. При этом говорится, что изменение даже одного байта в компьютерной программе часто приводит к необратимым нарушениям в ее работе. Конечно, это так, но высокая устойчивость к повреждениям вряд ли напрямую связана с интеллектуальностью, а на практике для программ она бывает нужна нечасто и может достигаться иными способами.

Однако такая устойчивость крайне важна по совсем иным соображениям. Дело в том, что обучение можно представить как поиск оптимальных алгоритмов решения каких-то задач. В обычном представлении алгоритмов как программного кода такой поиск осуществлять трудно. Представьте, что вы написали какую-то программу на традиционном языке программирования. А потом из нее случайным образом было удалено или заменено несколько символов. Что будет с этой программой? Скорее всего, она просто перестанет компилироваться или, если повезет, будет просто работать совсем по-другому. Малые изменения в программе приводят к большим изменениям в ее работе. Зная, как нужно изменить работу программы, сложно «угадать», как для этого нужно изменить саму программу.

Программист работает не только с кодом, но и с каким-то глубинным представлением алгоритмов. ИНС же в большем числе случаев позволяют приблизиться к искомому алгоритму маленькими шажками путем постепенного изменения весов связей. Более формально можно сказать, что ИНС задают более гладкую метрику в пространстве алгоритмов, что и облегчает проблему их оптимизации (обучения). В этом смысле дополнительный интерес представляют нейроглиальные сети, поскольку в представлении ИНГС облегчается проблема автоматического поиска самих алгоритмов обучения, задающихся сетью астроцитов.

Цитата
   Понятие случайности определить сложно, но зато для понятия закономерности есть хорошая формализация - в виде алгоритмов

Цитата
   Все три аспекта ИИ (поиск, представление, обучение) до сих пор ограничены в главном - в работе в алгоритмически полных пространствах. При поиске перебираются не алгоритмы решения задач, а лишь "линейные" цепочки действий. Из-за алгоритмической неполноты представлений в них оказываются невыразимыми многие важные формы знаний. Работа методов машинного обучения в алгоритмически неполных пространствах приводит к невозможности построения как новых эвристик для поиска, так и новых представлений информации

"все вышеуказанные модели, начиная с квазистационарных систем, их аттракторов, траекторий, в фазовом пространстве всех комбинаторно возможных состояний, автокаталитических циклов с конформационной памятью метаболических путей, конкуренций и отбором метаболических циклов и т.д. пытаются.."(с)(Patsak)

Оффлайн ВадимZero

  • *****
  • Сообщений: 8 703
  • Благодарностей: 94
  • Мне нравится этот форум!
    • Сообщения от ВадимZero
Re: ИИ: какого понимания нам не хватает?
« Ответ #723 : 07 Сен 2017 [12:15:50] »
Вангую...полноценный ИИ появиться уже в следующем десятелитеии как результат технической эволюции архитектуры нейронных сетей.

Оффлайн -Юрий-

  • *****
  • Сообщений: 9 295
  • Благодарностей: 224
  • Попытка - первый шаг к провалу.
    • Сообщения от -Юрий-
Re: ИИ: какого понимания нам не хватает?
« Ответ #724 : 07 Сен 2017 [18:40:25] »
Прочитал все сообщения
Поражаюсь титаническим трудом! За это надо поставить плюс.
Надо очень много знать, чтобы понять своё невежество.
(кликните для показа/скрытия)

Оффлайн -Юрий-

  • *****
  • Сообщений: 9 295
  • Благодарностей: 224
  • Попытка - первый шаг к провалу.
    • Сообщения от -Юрий-
Re: ИИ: какого понимания нам не хватает?
« Ответ #725 : 18 Сен 2017 [14:39:48] »
Сегодня, 18 сентября, и завтра по телеканалу "Культура" в 20:00 будут научно-популярные фильмы про мозг. О мышлении и о загадках интеллекта. Смотрим.
Надо очень много знать, чтобы понять своё невежество.
(кликните для показа/скрытия)

Оффлайн noxx77

  • *****
  • Сообщений: 4 969
  • Благодарностей: 154
  • Мне нравится этот форум! ;))
    • Skype - zerghammer1
    • Сообщения от noxx77
    • ВК
Re: ИИ: какого понимания нам не хватает?
« Ответ #726 : 20 Сен 2017 [08:55:06] »
ТРИ ЗАКОНА ЧЕЛОВЕКОТЕХНИКИ:

Человек не может причинить вред генам или своим бездействием допустить, чтобы его генам был причинён вред.
Человек должен повиноваться всем приказам, которые дают гены, кроме тех случаев, когда эти приказы противоречат Первому Закону.
Человек должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому и Второму Законам.
А вот теперь включаем во внимание факт, что гены человека "принадлежат" не ему, а популяции. Формулировочки становятся ультрафашистскими. Но можно тут возникает вопрос о вреде и пользе. Помнится, азимовский Дэниэл Р. Оливо развернул многотысячелетнюю  программу для его решения с созданием психоистории и нескольких экспериментальных цивилизаций. Следовательно, тремя законами не ограничивается и мы вынуждены ввести четвертый:
4.) Человек должен всячески объективно исследовать, что наносит вред и пользу генам его популяции, а также максимально совершенствовать понимание вреда и пользы для популяции как таковых.
Далее, поскольку в выживании человечества играют роль не только гены, но и био-, техносфера плюс культура, то законы можно распространить и на них.
« Последнее редактирование: 20 Сен 2017 [09:17:42] от noxx77 »
В космосе никто не услышит визга той чуши, которую Вы порете

Оффлайн незлой

  • *****
  • Сообщений: 19 660
  • Благодарностей: 523
  • философ-экспериментатор
    • Сообщения от незлой
Re: ИИ: какого понимания нам не хватает?
« Ответ #727 : 20 Сен 2017 [11:14:25] »
А вот теперь включаем во внимание факт, что гены человека "принадлежат" не ему, а популяции. Формулировочки становятся ультрафашистскими.

с какого боку? популяция - не нация, не национальность, а какбэ всё человечество и есть, хомо сапиенс сапиенс.
да и не "принадлежат" гены никому, кроме себя, любимых.
у меня нет ответов.
но есть интересные, порой, вопросы.

Оффлайн noxx77

  • *****
  • Сообщений: 4 969
  • Благодарностей: 154
  • Мне нравится этот форум! ;))
    • Skype - zerghammer1
    • Сообщения от noxx77
    • ВК
Re: ИИ: какого понимания нам не хватает?
« Ответ #728 : 21 Сен 2017 [23:10:00] »
А вот теперь включаем во внимание факт, что гены человека "принадлежат" не ему, а популяции. Формулировочки становятся ультрафашистскими.

с какого боку? популяция - не нация, не национальность, а какбэ всё человечество и есть, хомо сапиенс сапиенс.
да и не "принадлежат" гены никому, кроме себя, любимых.
С такого, что человеку ещё меньше - получил набор как данность и живи как сумеешь. А единицей отбора является популяция - не все особи вида, а занимающие ареал, в котором происходит скрещивание.
В космосе никто не услышит визга той чуши, которую Вы порете

Оффлайн Проходящий Кот

  • *****
  • Сообщений: 19 443
  • Благодарностей: 426
    • Сообщения от Проходящий Кот
Re: ИИ: какого понимания нам не хватает?
« Ответ #729 : 22 Сен 2017 [08:20:19] »
У людей идет процесс слияния всех этих популяций в единую.....
P.S.
Употребление по каждому поводу слова "фашист" просто смешно. Дуче то причём?

Оффлайн ВадимZero

  • *****
  • Сообщений: 8 703
  • Благодарностей: 94
  • Мне нравится этот форум!
    • Сообщения от ВадимZero
Re: ИИ: какого понимания нам не хватает?
« Ответ #730 : 22 Сен 2017 [09:16:13] »
А единицей отбора является популяция
Еденицей отбора является ген, и уж не как не популяция.

Онлайн Rattus

  • Модератор
  • *****
  • Сообщений: 13 679
  • Благодарностей: 515
  • Души прекрасные порывы!
    • Сообщения от Rattus
Re: ИИ: какого понимания нам не хватает?
« Ответ #731 : 22 Сен 2017 [09:28:47] »
Едbницей отбора является ген, и уж ни как не популяция.
На этот вопрос существуют разные точки зрения. Даже Докинз во введении в "Эгоистичный ген" писал, что на описываемые явления можно смотреть с разных сторон.
Кроме того, таки существуют примеры группового отбора - немногочисленные и всё ещё оспаривающиеся, но не опровергнутые окончательно.
Всякий флудер в ВЖР да опасно ходит. Толковый же принесёт пруфлинк.

Ннапыльн%х тpапинкахъ далиокихъ плонеттъ астануцца нашшы погадкиъ! (ЙожЪ, SKL)
Скоро у людей закончится космос. (П.Лемтыбож - "Теоремы Пафнуция")
Я брала города, я стану - еда! (Серебряная Свадьба - "Пищевая цепочка")
Уранизация естественным образом снижает численность человечества (Вика Воробьёва, ВЖР, 30.10.2012)

Оффлайн ВадимZero

  • *****
  • Сообщений: 8 703
  • Благодарностей: 94
  • Мне нравится этот форум!
    • Сообщения от ВадимZero
Re: ИИ: какого понимания нам не хватает?
« Ответ #732 : 22 Сен 2017 [09:41:45] »
На этот вопрос существуют разные точки зрения.
Точки зрения, есть разные, но генетикой только одна подтверждена.
Кроме того, таки существуют примеры группового отбора - немногочисленные и всё ещё оспаривающиеся, но не опровергнутые окончательно.
Локально во времени отборы могут быть разными, глобально во времени все они размыты отбором генов.

Онлайн Rattus

  • Модератор
  • *****
  • Сообщений: 13 679
  • Благодарностей: 515
  • Души прекрасные порывы!
    • Сообщения от Rattus
Re: ИИ: какого понимания нам не хватает?
« Ответ #733 : 22 Сен 2017 [10:19:35] »
Локально во времени отборы могут быть разными
От этого "локально" может зависеть - быть или не быть тому или иному таксону или даже целой биосфере (наборы гиперциклов в порах минералов геотермальных полей на заре биогенеза могли как раз групповым отбором отбираться).
Собственно любая линия организмов без гентического обмена и есть место группового отбора генов.
Всякий флудер в ВЖР да опасно ходит. Толковый же принесёт пруфлинк.

Ннапыльн%х тpапинкахъ далиокихъ плонеттъ астануцца нашшы погадкиъ! (ЙожЪ, SKL)
Скоро у людей закончится космос. (П.Лемтыбож - "Теоремы Пафнуция")
Я брала города, я стану - еда! (Серебряная Свадьба - "Пищевая цепочка")
Уранизация естественным образом снижает численность человечества (Вика Воробьёва, ВЖР, 30.10.2012)

Оффлайн ВадимZero

  • *****
  • Сообщений: 8 703
  • Благодарностей: 94
  • Мне нравится этот форум!
    • Сообщения от ВадимZero
Re: ИИ: какого понимания нам не хватает?
« Ответ #734 : 22 Сен 2017 [11:08:28] »
От этого "локально" может зависеть - быть или не быть тому или иному таксону или даже целой биосфере
Случай есть случай. Даже очень хороший ген, не распостраниться в популяции если его носителю не повезло.
и есть место группового отбора генов.
Отбор предпологает, что есть что то что отбирается на уровне многих поколений. Группы как и организмы динамичные непостоянные ситемы еденицей отбора не являются.

Оффлайн незлой

  • *****
  • Сообщений: 19 660
  • Благодарностей: 523
  • философ-экспериментатор
    • Сообщения от незлой
Re: ИИ: какого понимания нам не хватает?
« Ответ #735 : 22 Сен 2017 [12:16:57] »
А единицей отбора является популяция

единицей отбора является ген. погуглите сами, сколько у нас обших генов с кукурузой, например ::)
у меня нет ответов.
но есть интересные, порой, вопросы.

Оффлайн незлой

  • *****
  • Сообщений: 19 660
  • Благодарностей: 523
  • философ-экспериментатор
    • Сообщения от незлой
Re: ИИ: какого понимания нам не хватает?
« Ответ #736 : 22 Сен 2017 [12:19:30] »
На этот вопрос существуют разные точки зрения.

"разные модели", скорее.
тем не менее базовой единицей отбора будет всёже именно ген, примерно как любая программа в конце концов сводится к набору нулей и единичек, неважно на каком языке она написана изначально. просто работать с двоичным кодом напрямую очень неудобно.
у меня нет ответов.
но есть интересные, порой, вопросы.

Оффлайн Овердиггер

  • **
  • Сообщений: 69
  • Благодарностей: 2
  • Мне нравится этот форум!
    • Сообщения от Овердиггер
Re: ИИ: какого понимания нам не хватает?
« Ответ #737 : 30 Окт 2017 [01:18:48] »
Вообще-то если не элементы фашизма, то банальное злокачественное захламление тут прослеживается. Просто из примера про принадлежность генов не человеку, а популяции, можно вынести несколько более понятное: гены принадлежат роду (твои предки суммарно прошли через сущий ад, чтобы зачать друг друга и уберечь потомство, теперь твоя очередь, и социум со стороны почти требует тоже самое). Количество родовых линий было в разы меньше сто лет назад (да и на протяжении всей человеческой истории). А теперь растет и разветвляется это дерево без намеков на скорое торможение. Дальше фактический расизм и т.д.: белый человек размножается медленнее остальных наиболее распространенных рас; самые многодетные и рано рожающие семьи - семьи бедняков, необразованных и т.д.. Из этого напрашивается печальный и довольно очевидный по другим факторам вывод: пока малый процент населения задумывается и решает глобальные проблемы всего человеческого вида, более простые ребята размножаются по принципу "крысиного рая", пока не задохнутся от собственного количества (а точнее не исчерпают какие-нибудь ценнейшие невозобновляемые ресурсы, не доведут экологию до критической точки невозврата и т.д.). Так вот возвращаясь к шутливым законам человекотехники и генам по докинзу - согласятся ли многие добровольно ограничить свое размножение, ведь их гены как раз с полуфашистской догматичностью диктуют не прерывать свой род, путешествие выживших генов в бесконечность. Тот случай, когда эволюция становится плохим парнем, и только разум людей может ей противостоять: либо расширением территории (освоение планет), либо радикальными мерами (от ограничения рождаемости диктатурой до устранения излишков еще большим радикализмом). Неспроста эта тема облюбована в последние годы в кинематографе и пока еще подается как противоречиво-злодейская ("Утопия" сериал, "Кингсман" фильм и т.д.), фактически фашистская, но ведь скажем через сто-пятьсот лет ситуация может настолько усугубиться, что подобный хороший парень Фашизм против плохого парня Эволюции может стать экстренно необходимым. ;D

Ну и чтобы не отклоняться от темы ИИ.. Если вырастить машину в виде высшего разума по сравнению с человеком (логично, что любой человеческий параметр мозга у машины можно увеличить в тысячи раз... Начинали с памяти, вычислений, а закончим прочей еще не до конца понятной лабудой), то она, скорее всего, в качестве доброго совета, проанализировав ситуацию, предложит, скорее всего, то же самое, как сторонний психолог, подчеркивающий очевидное, о чем и так догадываются все: вы что, люди, безумны? Ограничивайте рождаемость, потребление всего и вся, перестраховывайтесь за счет колонизации, хватит потрясать ядерными боеголовками и т.д. и т.п. сами же все понимаете.
« Последнее редактирование: 30 Окт 2017 [01:25:47] от Овердиггер »

Оффлайн noxx77

  • *****
  • Сообщений: 4 969
  • Благодарностей: 154
  • Мне нравится этот форум! ;))
    • Skype - zerghammer1
    • Сообщения от noxx77
    • ВК
Re: ИИ: какого понимания нам не хватает?
« Ответ #738 : 30 Окт 2017 [07:31:26] »
А единицей отбора является популяция

единицей отбора является ген. погуглите сами, сколько у нас обших генов с кукурузой, например ::)
И когда разошлись линии? В огороде бузина...
Приведу пример, почему не особь, а популяция. Вышедшие из репродуктивного возраста бабушки и дедушки увеличивают выживаимость своих генов, уходом за детьми, а рискованные особи, расширяя ареал и защищая группу, даже погибая, увеличивают вероятность выживания родственников.
В космосе никто не услышит визга той чуши, которую Вы порете

Оффлайн -Юрий-

  • *****
  • Сообщений: 9 295
  • Благодарностей: 224
  • Попытка - первый шаг к провалу.
    • Сообщения от -Юрий-
Re: ИИ: какого понимания нам не хватает?
« Ответ #739 : 30 Окт 2017 [18:17:18] »
Какого понимания вам не хватает? Послушайте передачу Сергея Савельева об искусственном интеллекте. Там на странице в таблице "Предыдущие выпуски" на строке "28 октября - Вынос мозга" нажмите кнопку "прослушать". Передача идёт 1 час. Кто не прослушает эту передачу, с тем не о чем говорить здесь.
https://govoritmoskva.ru/broadcasts/188/
Надо очень много знать, чтобы понять своё невежество.
(кликните для показа/скрытия)