ИИ: какого понимания нам не хватает?

[Ксей]

И какой же чуственный опыт вы переживаете когда читаете эти строки?

Перед глазами большой  и маленький мячики . За кадром вопрос мамы - какой возьмешь

Многие слова можно выразить через другие слова(несколькими вариантами)  , другие через третьи , но в финале упремся в слова, которые не выразить другими словами , только ощущениями и пережитыми ситуациями.
Попробуйте сами.

[ВадимZero]

И какой же чуственный опыт вы переживаете когда читаете эти строки?

Перед глазами большой  и маленький мячики . За кадром вопрос мамы - какой возьмешь

Многие слова можно выразить через другие слова(несколькими вариантами)  , другие через третьи , но в финале упремся в слова, которые не выразить другими словами , только ощущениями и пережитыми ситуациями.
Попробуйте сами.

Это верно. Какой вывод можно сделать? Можно сказать что, синтаксис нашего языка, создает в наших чуственных сигнатурах, некую структуру? Эту структуру я называю "Ментальной картой"

[Дед Моррозоу]

Поэтому казалось бы без собственного тела,  органов чувств и ощущений понимать  смысл машина  не может.
Или же возможен   исскуственный разум в сети, опирающийся  на уже  выработанные человечеством  понятия ?

А вот когда будет точная методика измерения такой величины, как "понимание" - тогда и надо вести разговор. А пока её нет (а её имхо не будет никогда) нет смысла вести.
ИИ надо создавать без всяких метафизических идеалистических штуковин, не поддающихся измерению.
Именно так и идёт сейчас дело.
Успехи в созданном интеллекте впечатляющи.

[ВадимZero]

А вот когда будет точная методика измерения такой величины, как "понимание"

Ответы 36,46,51

[ВадимZero]

6.4. Модель мира
Почему неокортекс построен иерархически?
Вы можете думать о мире, перемещаться в нем, делать предсказания будущего, потому что ваш кортекс строит модель мира. Одна из важнейших концепций этой книги – это то, что иерархическая структура кортекса хранит модель иерархической структуры мира. Вложенная структура реального мира отражается вложенной структурой кортекса.
Что я имел в виду под вложенной или иерархической структурой? Подумайте о музыке. Ноты комбинируются, формируя интервалы. Интервалы комбинируются, формируя мелодические фразы. Фразы комбинируются, формируя мелодии или песни. Песни комбинируются в сборники. Подумайте о письменном языке. Буквы комбинируются, формируя слоги. Слоги комбинируются, формируя слова. Слова комбинируются, формируя словосочетания и предложения. Глядя по-другому, подумайте о вашем окружении. Оно возможно состоит из дорог, домов. В домах есть комнаты. В каждой комнате есть стены, потолок, пол, дверь и одно или несколько окон. Каждая из этих частей состоит из еще более мелких объектов. Окна сделаны из стекла, рам, защелок и жалюзи. Защелки сделаны из еще более мелких частей, вроде шурупов.
На минуту взгляните на то, что вас окружает. Паттерны с сетчатки поступают в ваш первичный визуальный кортекс и комбинируются, чтоб сформировать линейные сегменты. Линейные сегменты комбинируются, чтоб сформировать формы. Эти сложные формы комбинируются, чтоб сформировать объекты, такие как нос. Нос комбинируется с глазами и ртом, чтоб сформировать лицо. Лицо комбинируется с другими частями тела, чтоб сформировать человека, который сидит в комнате напротив вас.
Все объекты в мире состоят из субобъектов, которые появляются вместе согласованно; это то самое определение объекта. Когда мы даем чему-то название, мы делаем это, потому что набор свойств согласованно движется вместе. Лицо является лицом именно потому, что два глаза, нос и рот всегда появляются вместе. Глаз является глазом именно потому, что зрачок, радужка, веки и остальное всегда появляются вместе. То же самое может быть сказано о стульях, машинах, деревьях, парках и ландшафте. И, наконец, песня есть песня, потому что серии интервалов всегда появляются вместе в последовательности.
В этом отношении мир похож на песню. Каждый объект в мире состоит из набора мелких объектов, и большинство объектов являются частями больших объектов. Это то, что я называю вложенной структурой. Поняв ее, вы увидите вложенную структуру во всем. В полной аналогии с этим, ваша память о вещах и способ, которым мозг представляет их, сохранены в иерархической структуре кортекса. Ваша память о вашем доме состоит не из одной области кортекса. Она хранится в иерархии кортикальных областей, которые отражают иерархическую структуру дома. Широкомасштабные отношения сохраняются в верхней части иерархии, а мелкомасштабные – в нижней.
Дизайн кортекса и метод, с помощью которого обучается, естественным путем раскрывают иерархические отношения в мире. Вы не родились со знанием языка, домов или музыки. У кортекса хитрый алгоритм обучения, который естественным путем обнаруживает любую существующую иерархическую структуру и захватывает ее. Когда структура отсутствует, мы впадаем в замешательство, даже в хаос.
В один момент времени вы можете ощущать только с подмножеством мира. Вы можете быть только в одной комнате дом, смотреть только в одном направлении. По причине иерархии кортекса, вы способны знать, что вы в доме, в комнате, смотрите в окно, даже хотя в этот момент ваши глаза фиксируются на защелке окна. Высшие области кортекса обрабатывают представление о вашем доме, тогда как нижние области представляют комнату, еще более нижние смотрят на окно. Аналогично, иерархия позволяет вам знать, что вы слушаете и песню и сборник, хотя в любой момент времени вы слышите только одну ноту, которая сама по себе говорит, какая нота будет следующей. Она позволяет вам знать, что вы с вашей лучшей подругой, хотя ваши глаза фиксируются на ее руках. Высшие области кортекса отслеживают большую картинку, тогда как низшие области активно работают с быстро изменяющимися маленькими деталями.
Поскольку мы можем трогать, слышать и видеть только очень маленькую часть мира в любой момент времени, информация, поступающая в мозг, является последовательностями паттернов. Кортексу необходимо изучать эти последовательности, которые возникают снова и снова. В некоторых случаях, таких как мелодия, последовательности паттернов приходят в жестком порядке, порядке интервалов. Большинство из нас знакомо с таким видом последовательностей. Но я собираюсь использовать слово последовательность в более общем смысле, ближе к значению математического термина множество. Последовательность это множество паттернов, которые обычно следуют один за другим, но не всегда в фиксированном порядке. Что важно, так это то, что паттерны в последовательности следуют один за другим во времени, даже если не в фиксированном порядке.
Некоторые примерны должны прояснить это. Когда я гляжу на лицо, последовательность входных паттернов, которую я вижу, не фиксирована, но определяется моими саккадами. В один момент времени я могу фиксировать в порядке «глаз глаз нос рот», а в другой момент – в порядке «рот глаз нос глаз». Компоненты лица – это последовательность. Они статистически соотносятся и обычно возникают во времени вместе, хотя порядок может меняться. Если вы воспринимаете «лицо», когда фиксируетесь на «нос», то вероятнее всего следующим паттерном будет «глаз» или «рот», но не «авторучка» или «автомобиль».
Каждая область кортекса видит потоки таких паттернов. Если паттерны соотносятся таким образом, что область может научиться предсказывать, какой паттерн будет следующим, кортикальная область формирует постоянное представление, или память для последовательности. Изучение последовательностей это наиболее базовый ингредиент для инвариантного представления объектов реального мира.
Объекты реального мира могут быть конкретными, вроде ящерицы, лица или двери, или они могут быть абстрактными, как слово или теория. Мозг обрабатывает абстрактные и конкретные объекты одинаковым образом. И те и другие просто последовательности паттернов, возникающих вместе во времени предсказуемым образом. Фактически, определенные входные паттерны повторяются, что позволяет кортикальной области знать, что эти образы вызваны реальными объектами мира.
Предсказуемость это определение реальности. Если область кортекса обнаруживает, что она может надежно и предсказуемо двигаться по этим паттернам, используя серии физических движений (таких как саккады глаз или скольжение пальца) и может аккуратно предсказывать их, когда они развертываются во времени (как звуки, составляющие песню или произнесенные слова), мозг интерпретирует их, как имеющие причинно-следственные отношения. Разногласия в многочисленных входных паттернах, возникающие в одном и том же отношении снова и снова без очевидной причинной связи, исчезающе малы. Предсказуемые последовательности паттернов должны быть частью большего реально существующего объекта. Таким образом, надежная предсказуемость является надежным способом узнать, что различные события мира физически связаны вместе. У каждого лица есть глаза, уши, рот и нос. Если мозг видит глаза, затем делает саккаду и видит другой глаз, затем еще одну саккаду и видит рот, он определенно чувствует, что видит лицо.
Если бы кортикальные области могли говорить, они могли бы сказать: «Я ощущаю множество различны паттернов. Иногда я могу предсказать, какой паттерн будет следующим. Но эти паттерны определенно соотносятся один с другим. Они всегда возникают вместе, и я могу надежно перепрыгивать между ними. Таким образом, когда я вижу любое из этих событий, я ссылаюсь на них общим названием. Именно это групповое имя, а не индивидуальные паттерны я передаю в высшие области кортекса».
Таким образом, можно было бы сказать, что мозг хранит последовательности последовательностей. Каждая область кортекса изучает последовательности, вырабатывает то, что я назвал «именами» для последовательностей, которые она знает, и передает эти имена в следующие области выше по кортикальной иерархии.

[Дед Моррозоу]

А вот когда будет точная методика измерения такой величины, как "понимание"

Ответы 36,46,51

Нет в этих ответах ни методики, ни определения "понимания". Во всяком случае я не увидел.
Прошу вас привести сию методику измерения попунктно - чётко и по военному однозначно ясно.
Само собой определение "понимания" тоже должно там присутствовать. Взаимосвязь "понимания" с прочими измеряемыми величинами (например с силой тока, сопротивлением, площадью или давлением) должна быть. Должны же мы представлять чего измеряем.
Вот тогда сдвинем дело с мёртвой точки. А то ещё страниц 300 будем рассуждать ни о чём.

[ВадимZero]

Прошу вас привести сию методику измерения попунктно

1)Берем ситуацию в которой слово понимаешь или понимание, используеться в общении.
Допустим, отец учит сына тому как забивать гвоздь. Вот, делаешь, так и так, видишь? Понял? Сын ...понял.
Что и имел ввиду отец, когда спросил "Понял?" Что имел в виду сын когда сказал "понял"? Усвол ты урок.. Тоесть за словом понимание скрываеться факт усвоения информации. Под усвоением информации, что имееться ввиду? Имееться ввиду то что, сын готов на практике применить полученный навык. Тоесть под пониманием, имееться ввиду социальный сигнал, который сигнализирует, о том что информация принята, и субьективно применима.

[незлой]

Поэтому казалось бы без собственного тела,  органов чувств и ощущений понимать  смысл машина  не может.

допилить гугл-кар?

[Дед Моррозоу]

Берем ситуацию в которой слово понимаешь или понимание, используеться в общении.
Допустим, отец учит сына тому как забивать гвоздь. Вот, делаешь, так и так, видишь? Понял? Сын ...понял.
Что и имел ввиду отец, когда спросил "Понял?" Что имел в виду сын когда сказал "понял"? Усвол ты урок.. Тоесть за словом понимание скрываеться факт усвоения информации. Под усвоением информации, что имееться ввиду? Имееться ввиду то что, сын готов на практике применить полученный навык. Тоесть под пониманием, имееться ввиду социальный сигнал, который сигнализирует, о том что информация принята, и субьективно применима.

Тэк-с. Тогда предлагаю создать простенький ии, который будет генерировать слово "понял" в ответ на поставленный вопрос. Такой ии запрограммирует даже школьник. Иногда ии может вставлять "не совсем понял. Прошу объяснить ещё раз". Последнее можно периодически ввести в цикл до 10 (ну не до 100 же!) раз.
В общем, вопрос с пониманием у ии решён. Методика принимается.

[Проходящий Кот]

Ряд ссылок об ИИ

[andreichk]

пока человек не поймёт - зачем он живёт на белом свете - никакого нормального ии не будет. иначе теже роботы начнут задумываться и пытаться самостоятельно ответить на этот вопрос, что неминуемо приведёт к гибели всего живого.

[chiahua]

Ряд ссылок об ИИ

Лузлодром отдыхает.

[ВадимZero]

статья в тему http://compulenta.computerra.ru/chelovek/neirobiologiya/10007117/

[Проходящий Кот]

Ряд ссылок об ИИ

Лузлодром отдыхает.

Значит сказать нечего......

[Муха_]

Подсказка находится в факте существования сновидений и галлюцинаций. В частности, осознанных сновидений в которых окружающее можно рассматривать во всех деталях.
Мозг - это прежде всего мощнейший интерполятор, который на основании длительных наблюдений за реальностью интерполирует ее настолько детально, что может воспроизводить псевдо-реальность во сне или в галлюцинациях.

Первое, что должен уметь ИИ - строить подобную интерполяцию. Т.е. ИИ может пассивно наблюдать мир и улавливать его закономерности. Потом, мир можно отключить а ИИ должен продолжать воспроизводить псевдо-реальность в своем "воображении", используя обученную модель.

Дальше, в ИИ должен быть встроен мотивационный модуль: достаточно простая и независимая от остальной части машинка, задача которой состоит в оценке предлагаемой настоящей или интерполируемой последовательности событий.
В первом приближении, мотивационный модуль может быть не обучаемой, жестко запрограммированной системой распознавания образов. В втором приближении, модуль может дообучаться что такое хорошо и что такое плохо, расширяя список позитивных и негативных образов на основании опыта. Как я сказал, модуль должен быть примитивным и не зависеть от остального мозга.
Например, если человек принимает наркотики, его модуль допрограммируется на новые позитивные образы (прием наркотиков) и этот процесс никак не зависит от высших процессов мышления.

Дальше больше. Интерполятор должен иметь режим "мультиверса" в котором все возможные варианты событий прогоняются одновременно. При этом, каждая ветвь должна получать оценку от мотивационного модуля.

Дальше, одна из ветвей может победить как наилучшим образом удовлетворяющая мотивациям. Тогда, эта ветвь прогоняется интерполятором параллельно реальности. Сигналы к мышцам, (которые тоже должны быть частью интерполяции) попросту извлекаются из интерполяции и направляются к мышцам, что позволяет сделать сон явью. Т.е. заставляет реальность идти параллельно прогоняемой интерполяции.


ИИ, имеющий перечисленные выше способности продемонстрировал бы поведение, сходное с поведением не слишком умных животных.


Реализовать ИИ подобный человеческому было бы еще сложнее.

Каким-то образом интерполятор должен быть склонен к целенаправленному блужданию около мотивационно важных моментов модели реальности. Т.е. должен быть способен абстрактно размышлять на интересующую его тему.
В процессе этого блуждания интерполяционная модель должна корректироваться в направлении большей практичности и достоверности, а так же дополняться абстрактными элементами, построенными поверх модели для ее упрощения и не имеющими прямого аналога в реальности (мы называем такую корректировку логическим мышлением).
Сам по себе логический вывод можно представить в ИИ: логически верная конструкция - это некий участок интерполяционной модели, для которого все возможные варианты развития модели ведут к некому одному образу. Если мы хотим убедиться в верности теоремы, мы мысленно ощупываем все возможные варианты развития событий, которые возможны для абстрактных образов, и если при этом у нас появляется ощущение что больше лазеек нету и развитие возможно только одно, то мы говорим, что теорема доказана.
Что заставляет интеллект блуждая по закуткам модели формировать новые абстрактные элементы - вопрос уже за гранью.
Возможно, этот процесс подобен некому архивированию реальности, когда дополнительные элементы позволяют сделать модель более компактной. Тогда, дополнительной целевой функцией процесса размышления выступает компактность модели...

[Stalk.er]

Скажем так...Отдельный нейроный переключатель,  в быстродействии  проигрывает транзистору. Потому кибернетики которые пытаються понять суть интелекта, уже давно поняли что мозг человека, как вычислитель вообще никакой. То есть человек принимающий быстрое решение, не чего не вычисляет, все что успевают его медлительные нейронные сети, так это вытащить из базы данных готовое решение.

Это явно не так. Это фигурирует во всех оценках. Он выигрывает по частоте, но проигрывает по производительности и энергопотреблению. Каждый нейрон имеет в среднем 10000 синапсов. У транзистора - максимум один дискретный выход. Каждый синапс - это целый регулятор, плюс нейрон это не просто сумматор. Один нейрон равен по информационной производительности небольшому процессору, то есть как минимум милионы транзисторов и в милионы раз энергоэффективнее транзисторного аналога.
Цель мозга действительно не числовая обработка. Это скорее аналоговая суперсеть. Но если её переводить на цифровой транзисторный аналог, то получается действительно монструозная система.

[ВадимZero]

Это фигурирует во всех оценках.

Нет таких оценок.

Он выигрывает по частоте, но проигрывает по производительности и энергопотреблению.

Оценки в студию... потребление энергии при переключении синапса, и при переключении транзистора.

Один нейрон равен по информационной производительности небольшому процессору, то есть как минимум милионы транзисторов и в милионы раз энергоэффективнее транзисторного аналога.

Нейрон по сути простой логический элемент, который на входе имеет тучу сигналов(возбуждения и торможения), а на выходе только да или нет. Не какой серьезной обработки нейрон не проводит. Какая туча сигналов пресилит такой ответ и будет.

В чем суть, я наблюдаю что для многих мозг человека есть Священная корова, которую  и рядом нельзя ставить с свовременным компьютером.

[незлой]

об органах чувств и гибкости восприятия:

Некоторые люди имплантируют себе под кожу крошечные магниты и таким образом приобретают способность ощущать магнитные поля. Студентка манчестерского университета Ребекка Дэви свободно показывает руками форму поля своей микроволновки. Под подушечкой пальца её левой руки (см. фото) находится магнит размером с кунжутное семечко. Ребекка чувствует его подрагивания под кожей, когда приближается к источнику магнитного поля. Нервная система быстро обучается интерпретировать механический сигнал как информацию о свойствах пространства.
 

(nature-wonder@livejournal)

[незлой]

зеркальные нейроны (о них ещё явно будет очень много):

"Зеркальные нейроны обнаружили в 1990-х годах, когда группа итальянских нейробиологов из Пармы под руководством Вит-торио Галлезе исследовала мозговые процессы у макак и наткнулась на интересную группу клеток на участке коры головного мозга, который отвечает за моторику. Нейроны активизировались не только когда обезьяна выполняла действия сама, но и когда те же движения выполнял экспериментатор, а обезьяна за ним наблюдала. Причем реакция нервных клеток в первом и во втором случаях была идентичной, поэтому ученые и назвали их зеркальными.

Позднее подтвердилось, что зеркальные нейроны есть и у человека. Например, люди, чаще всего не замечая этого, напрягаются, наблюдая падение прохожего, или щурятся, когда кто-то пытается вдеть нитку в иголку. Вы никогда не задумывались, почему, когда мы видим зевающего человека, мы сами начинаем зевать? Или, например, заметив, как кто-нибудь чешется, мы тоже испытываем желание почесаться? В чужих действиях мы воспринимаем самих себя, как собирающихся произвести эти действия. Тот же эффект наблюдается и на уровне ощущений и эмоций. Как считают ученые, феномен зеркальных нейронов объясняет процесс бессознательного обучения, имитации, психологию толпы. Эти необычные клетки человеческого мозга ответственны за понимание нами чувств и намерений других людей. Фактически зеркальные нейроны внедряют нас в разум другого человека."

[незлой]

терминологическое предложение (по сути -- декларация о применимости редукционизма при анализе "личности") (философы, извините, но вас предупреждали):

возворащаясь к множественным личностям
фишка в том, что любая личность может быть разложена на конечное множество субличностей ("линейная метафизика, т.1" )
субличность в данном случае есть вполне функционально-законченный блок реакций на те или иные ключевые раздражители.
в менее строгом виде данную теорему часто используют в качестве рабочей модели гипнотерапевты. как правило - успешно.

довольно наглядный пример: кто читал карра, "лёгкий способ бросить курить"? там тоже использовалься этот приём: предлагалось обнаружить в себе "никотинового монстра", осознать что вы и он - разные сущности и придушить его нафик

конечно, можно задать вопрос -- правомерно ли называть "личностями" столь простые механизмы? (они обычно довольно просты)
но имхо это сугубо философский вопрос, из серии "сколько орехов будет куча"