ИИ: какого понимания нам не хватает?

[незлой]

первый подход к построению "сферического сознания в вакууме":

Давайте распишем все на языке математики.

Далее: Разум(Р), память(П), поле сознания(С), органы чувств(ОЧ).

По определению Бориса получаем:

Р = F(П,С)
С = F(ОЧ)=F(1,2,3,4,5,6,7)

В итоге получается так Р = F(П,F(1,2,3,4,5,6,7))

Разум получается функция двух переменных, сознание семи.

А почему обсуждая сознание никто не упомянает о подсознании?

Я всё на математику сворачиваю.

В моей формуле Р = F(П,f(1,2,3,4,5,6,7))

F - есть подсознание.
f  - coзнание.

Ну что, не поможет нам такая модель?

[незлой]

очень хорошо, на мой взгляд, выделены основные проблемы создания сильного ии:

СОЗНАНИЕ - некоторое внутреннее "Я" каждого человека. (Животных я не касаюсь). Это "Я" управляет всей сознательной деятельностью человека. Нечто вроде саморазвивающейся программы, которая в процессе своего выполнения пользуется разумом(рассудком), памятью, устройствами интерфейса в виде органов чувств и различных манипуляторов и др.. Но не отождествляет себя с ними.
Основная особенность сознания - разделение всего сущего на "Я" ( то есть самого себя) и
"НЕ Я" - ( то есть всего остального). И еще одна особенность сознания - оно единственная психологическая структура, которая может чего-то ЖЕЛАТЬ. Разум подскажет, что хорошо, что плохо, что вредно, что полезно, но выразить желание и начать какие-то мероприятия в желаемом направлении может только сознание.
Где находится и когда появляется сознание, не знаю. Но предполагаю,  что находится оно в структурах мозга. И начинает возникать в процессе развития мозга, возможно еще во внутриутробный период. В дальнейшем оно развивается, возможно как-то трансформируется в течение всей последующей жизни в зависимости от окружающей человека обстановки.
Всем, наверное, известен феномен "Маугли". Человеческий дитеныш, воспитанный волками никогда не станет обладать сознанием человека, но, наверняка, свое "Я" он как-то будет осознавать.
С самого начала сознание понимает свое отличие от окружающего мира ("не Я"). Окружение может быть "хорошим" (мать),нейтральным или "плохим".Сознание стремится к тому, чтобы окружение было "хорошим", но это не всегда возможно, и сознание ищет способа минимизировать "плохое" и увеличить "хорошее".  А если это невозможно в реальности, то сознание реализует желаемое в виртуальном пространстве. Так мы ( наверное, каждый из нас) мечтаем, что Справедливость восторжествует, а Неправда сгинет.

т.е.:
- проблема "Я" (наблюдателя)
- проблема мотиваций
- разница между "Я" (наблюдателем) и Эго (сконструированной мемической репрезентации "Я")
- проблема оценок

[stuuvi]

Психолог Джулиан Джейнс считает, что сознание у людей появилось  не ранее чем 2-3 тыс. лет до нашей эры. Он пришел к такому выводу после анализа текстов древних книг, таких как Иллиада, Одиссея, Ветхий и Новый Заветы. До этого наши предки были просто разумны, но не всегда. 

Кстати интересная мысль. Многое объясняет. Процесс же не мог одновременнно по всей планете произойти, скорее всего он начался какое то время назад и идет до сих пор. Отсюда и заявления, что сознания вроде как нет и фанатизм в глазах.

[Nucleosome]

Психолог Джулиан Джейнс считает, что сознание у людей появилось  не ранее чем 2-3 тыс. лет до нашей эры. Он пришел к такому выводу после анализа текстов древних книг, таких как Иллиада, Одиссея, Ветхий и Новый Заветы. До этого наши предки были просто разумны, но не всегда. 

ха-ха! очень смешно! (не, я серьёзно смеялся) можно подумать мы-то всегда разумны.
кстати, незлой, спасибо за мою цитату - я уж и забыл что писал такое настолько детализованно. и появились добавки - то есть - зачем нужны пункты 3 и 4. в принципе можно и без них. главные первые два. без них никак. но без 3 и 4 полученная культура и цивилизация будет куцей, основанной только на конкретном наблюдении и конкретных попытках. грубо говоря чисто количественной. такое скорее всего мы вообще не сочтём за разум. последние же два позволяют расширить возможности совершения попыток накопления новыков до предсказания результата как минимум некоторых и таким образом даёт больше возможностей, так скзать более короткие пути к созданию сложных вещей (таких как выплавка металлов например)

[гравицап]

Разум подскажет, что хорошо, что плохо, что вредно, что полезно

С самого начала сознание понимает свое отличие от окружающего мира ("не Я"). Окружение может быть "хорошим" (мать),нейтральным или "плохим".Сознание стремится к тому, чтобы окружение было "хорошим", но это не всегда возможно, и сознание ищет способа минимизировать "плохое" и увеличить "хорошее".

в этом и суть. только разум не может подсказать что хорошо, что плохо, нужен рефлекс. причем заталкивать в ИИ этику в виде рефлексов - провальное дело, потому, что разум и сознание развиваются именно в противостоянии рефлексам. значит рефлексы должны быть простыми, животными, а этические нормы восприниматься разумом, сознательно.
короче главная проблема ИИ - создание аналога простых рефлексов, а дальше - просто - чем больше память, тем мощнее интеллект

[Киянуш]

Работаю программистом С/С++, любая современная медийная программа - это около миллиона строк кода, встречаются и по увесистей (и намного) конечно. Приходилось вылавливать ошибки, в коде написанном год - два и т.д. назад, и это обычное явление.
Кодогенерацией, ( это когда для написания однотипного большого кода используешь отдельную программу) тоже приходится заниматься, пока не так часто как вручную, но раз в полгода стабильно.

И во всей этой работе приходит иногда в голову мысль, что наряду с исполняемой программой, неплохо бы на той же машине иметь и среду разработки с компилятором, всплыла где то ошибка - программа свалилась в дамп, запускается анализатор,
правит код, перекомпилирует и снова запускается.

Так вот, мне кажется, что зачатки сильного ИИ напрямую связанны с такой последовательностью действий.
Ошибка -> Дамп -> Правка кода -> Компиляция -> Выполнение.

[незлой]

немного о формах 2й сигнальной:

На форуме нашел информацию о книге в которой описывали эксперимент над слепоглухонемыми, некоторые из которых в последствии заканчивали ВУЗ. Книга А.Д.Михайлов «Загадка человеческого Я». Автор ссылки утверждает что эта книга раскрывает природу сознания.

и далее

Не знаю, кто ещё кроме меня давал здесь ссылку на эту работу. Только зовут автора Феликс Трофимович и, к сожалению, он ушёл от нас три года назад. Погуглил в сети две первые страницы, ссылку не нашёл, хотя ранее книга была в сети.
Автор не раскрыл ПРИРОДУ сознания, он до неё просто не дошёл, но и того, что он приводит в книге, хватает, чтобы  кое-что домыслить.
К сожалению, мы о сознании рассуждаем с высоты уже накопленного знания. Один начитался йогов, другой физики, третий философии и т.д. И каждый естественно прав и не думает обращать внимание на белые пятна собственного понимания.
Начинать же нужно с «мелочей»: как образуется образ, как происходит разложения «виртуальной» реальности на внутренний и внешний мир, как происходит становление «Я». По сути никто из выступавших механику этих мелочей не знает и, кажется, не стремиться знать.

Здесь кто-то упоминал о сидении в закрытом тёмном тёплом туалете с целью понимания, что такое образ. Теперь попробуйте представить, что вместо достаточно образованного человека там находится слепоглухонемой ребёнок, у которого связь со средой возможна только через тактильные ощущения. Вот из таких детей по методике Соколянского и Мещерякова получились вполне развитые личности.
У здорового ребёнка всё проще, но принцип становления сознания тот же.
Не буду утруждать деталями. Отмечу главное.

Образ предмета образуется в сознании в результате взаимодействия с ним органов ощущения (ощупывания ими предмета) и первоначально образ совпадает с предметом. Т.е. мир не делится на внутренний и внешний.
Для того, чтобы это разделение произошло необходима совместная (с Воспитателем) предметная деятельность, в процессе которой ДЕЙСТВИЕ с предметом отделяется от самого ПРЕДМЕТА.
Назначение предмета (вот это стул, на нём сидят и т.д.) через понятия языка поселяют в сознании ЗНАНИЕ.
Общественные отношения и язык приводят к образованию «Я».
Это выводы доказанные в эксперименте.

Мои комментарии о природе сознания.
Разумеется «Я», хотя оно выкристаллизовывается позднее, не возникает с нуля, а представляет собой Нечто, присущее живым материальным системам.
Из того, что «Я» является инициатором, источником   реальных материальных действий следует, что сознание материально, а разделение мира на материальный и идеальный условно. Видимо сознание находится в более тонком в сравнении с нашими приборами уровне материи.
Обязательное наличие Воспитателя для вывода ребёнка на сознательный уровень свидетельствует о том, что Мироздание в целом является не сугубо физической системой, в которой жизнь, знание, сознание «самозарождаются» с нуля, а живой системой, где всё это присутствует, присутствовало и будет присутствовать.

ещё дальше

Скачать книгу можно по адресу: http://philos.omsk.edu/libery/index/m.htm

(в данный момент сайт на техобслуживании, проверить ссылку не могу)

[ВадимZero]

Так вот, мне кажется, что зачатки сильного ИИ напрямую связанны с такой последовательностью действий.Ошибка -> Дамп -> Правка кода -> Компиляция -> Выполнение.

Что типа этого

http://trenings.ru/entsiklopediya-nlp/modeli/451-model-nlp-tote.html

[незлой]

Ошибка -> Дамп -> Правка кода -> Компиляция -> Выполнение.

..-> следующая ошибка, и по новой..

есть мнение, что примерно так "разум" и работает, да, цикл за циклом. 

[незлой]

ценное замечание (как минимум при разработке методологии под проблему):

Сложность понимания сознания заключается в том, что мы можем изучать его только внутри себя! К
сожалению нам не под силам нырнуть в какое-нибудь чужое сознание: в животное, дерево, другого
человека. А ведь этого бы хватило, чтобы понять очень многое.. Взять, например, любого человека,
действия которого нам не понятны ("ну не понимаю почему он так делает, хоть убей" - говорим мы). Попав,
ненадолго в его сознание, уверяю, все встанет на свои места и все будет понятно.

свои комментарии по всему цитируемому дам в конце, иначе увязну незакончив.
пока на 20й странице, но дальше явно будет проще

[СТОкрат]

Полежала тема в морге, но, зараза, ожила. Значит, каллозотомия ? Ну-ну. Аккуратней рассекайте "намозоленное" тело.

[Nucleosome]

есть мнение, что примерно так "разум" и работает, да, цикл за циклом. 

в принципе это алгоритм эволюции, только изменения (мутации) вносятся постоянно и опробируются (отбор). в принципе разуму, как генератору идей для соответствюущих задач (среда) это тоже подходит

[chiahua]

Ошибка -> Дамп -> Правка кода -> Компиляция -> Выполнение

А не проще в теле программы написать нормальную обработку ошибок и исключительных ситуаций? И не городить огород. Декомпиляция - задача ведь не тривиальная, из ассемблерного дампа тащить все обратно на высокий уровень тяжко. По сути для этого нужно иметь базу данных, связывающую сырцы с ассемблерным дампом программы, чтобы декомпиляцию выполнять с минимальными затратами. Так, что одного компилятора в коде маловато будеть. Да и ошибку легче все ж искать тоже на высоком уровне, а не в машкодах. Остальные (которые на высоком уровне не отыскать) на совести компилятора и его окружения (настройки, баги его самого, баги библиотек или хедеров).

[chiahua]

есть мнение, что примерно так "разум" и работает, да, цикл за циклом.

в принципе это алгоритм эволюции, только изменения (мутации) вносятся постоянно и опробируются (отбор). в принципе разуму, как генератору идей для соответствюущих задач (среда) это тоже подходит

Вы правы - идеи, как очень назойливые мысли, очень похожы на циклы. Человек, единожды наступивший на грабли идею, постоянно к ней возвращается, пока она не реализуется. Далее следует награда - чувство глубого удовлетворение (ЧГУ) или разочарование в идее. Как реализовать последнее в ИИ - вопрос? Блок удовольствия ИИ. Гы, самому смешно.
Но к циклам все сводить я бы не стал. Условные и безусловные переходы, проверка выполнения условия, графы и тыды и тыпы. При чем не в машкодах i586, а в логике подходящей вербальной модели (для легкости обмена данными с человеком).
Для ИИ идеей будет служить задача с наивысшим приоритетом весом. Без теории принятия решений построить ИИ вряд ли получится. Т.е. должен быть блок-оптимизатор, отвечающий за расстановку весов выполняемым задачам.
Для начала хорошо бы построить ИИ-болталку, чтобы отработать вербальную модель общения с человеком. Прежде чем идти дальше. Научить машину отличать серьезный разговор от шутки, научить ее шутить казуистику от рассуждений (основному занятию модераторов ). А потом уже думать, как заставить ее обучаться.

[gervladger]

Только нейронные системы это не компьютер

[chiahua]

Только нейронные системы это не компьютер

А никто и не говорит, что ИИ будет обязательно копией мозга. Как в случае с аналоговыми ЭВМ, сперва их усиленно развивали и позиционировали как отдельное направление, а сейчас с легкостью моделируют на цифровых ЭВМ и с лучшими результатами. ИИ только на нейронных сетях - может быть,  но функционал и возможности цифровых систем не нужно недооценивать, так или иначе они усилят возможности нейронных систем.

Да и не факт пока, что нейронные сети выльются в ИИ, тем более что дороги разошлись - и нейросети пошли боком, они одновременно и мощные, и malfunction:

Моде́ль биологи́ческого нейро́на — математическое описание свойств нейронов, целью которого является точное моделирование процессов, протекающих в таких нервных клетках. В отличие от подобного точного моделирования, при создании сетей из искусственных нейронов обычно преследуются цели повышения эффективности вычислений.

http://ru.wikipedia.org/wiki/%D0%9C%D0%BE%D0%B4%D0%B5%D0%BB%D1%8C_%D0%B1%D0%B8%D0%BE%D0%BB%D0%BE%D0%B3%D0%B8%D1%87%D0%B5%D1%81%D0%BA%D0%BE%D0%B3%D0%BE_%D0%BD%D0%B5%D0%B9%D1%80%D0%BE%D0%BD%D0%B0

[незлой]

в принципе это алгоритм эволюции,

да, именно.

[незлой]

А не проще в теле программы написать нормальную обработку ошибок и исключительных ситуаций?

есть стандартный обработчик: отбор.
для мемов он работает также, как и для генов: более "подходящие под среду" имеют больше шансов выжить (при прочих равных)

[Ксей]

-> следующая ошибка, и по новой..

есть мнение, что примерно так "разум" и работает, да, цикл за циклом. 

Результат цикла проверяет практикой , и ничего не вычисляет. Работает по "таблицам" , которые подобраны практически (обходится без алгоритмов вычислений).

[незлой]

Небольшой холодный душ для сторонников высокой духовности сознания. Машинка-то довольно простая. За её разборку по винтикам изрядно взялись:
http://news.yandex.ru/yandsearch?cl4url=www.rian.ru%2Fscience%2F20100113%2F204198243.html&cat=3281

"По сути, мы определили, как организован "толковый словарь" в головном мозге человека. Он не имеет алфавитного указателя, не упорядочивает слова по размерам или цветам предметов, которые они обозначают. Вместо этого мозг использует три базовых качества предметов, на основании которых и разделяет смысл таких слов как "квартира", "молоток" или "морковка", - сказал один из ведущих авторов публикации Марсель Джаст (Marcel Just), слова которого приводит пресс-служба Университета Карнеги-Меллон в США, пишет РИА Новости.

Эти три качества определяют, как человек может физически взаимодействовать с предметом, который обозначает то или иное слово, насколько этот предмет пригоден в пищу и как его можно использовать в качестве укрытия или убежища. Каждый из этих трех факторов кодируется в трех-пяти различных областях головного мозга.