ИИ: какого понимания нам не хватает?

[незлой]

Припереть к стенке и сказать.."Отвечай какие свои действия ты считаешь разумными?"

Даже Ежёв с Мюллером здесь врятли что-то получат интнресного.....

разумеется -- внутрях очень сильная "контрразведка". сам себя досмерти запытаешь, всю душу по жилочке из себя вынешь -- а ответа на вышепоставленный вопрос так и не добъёшся...

[Дед Моррозоу]

если бы  мир был бы другим, была бы другая логика.

Это вполне резонное замечание. (Замечу оффтопом в скобках, что верно и обратное: когда логика становится другой - мир тоже становится другим. Задача психологов во многом состоит в том, чтоб менять логику пациента, его устоявшиеся паттерны мышления).
Однако, физический мир - очень разный на разных масштабах. 2х2=4 - это мир на "человеческом" масштабе. А на субатомном уровне или на уровне галактик - мир уже другой и логика соответственно другая. Мы пытаемся её свести к обычной аристотелевой, человеческой и получается у нас нечто, типа дуализма волна-частица, воспринимаемое большинством человеков с большим трудом.

В задаче создания ИИ имхо как раз и не хватает понимания того, какие масштабы вселенной ответственны за возникновение разума. Мы пытаемся свести это к всё к аристотелевой логике, свойственной "человеческому" масштабу вселенной и игнорируем другие масштабы. Которые вполне могут вносить свой (и весьма существенный) вклад.

[Прохожий]

.....
В задаче создания ИИ имхо как раз и не хватает понимания того, какие масштабы вселенной ответственны за возникновение разума. Мы пытаемся свести это к всё к аристотелевой логике, свойственной "человеческому" масштабу вселенной и игнорируем другие масштабы. Которые вполне могут вносить свой (и весьма существенный) вклад.

Так мы ИИ создаём для нашего масштаба, а не для любого...

[Ssid]

А если попытаться поискать в голове чисто свою мысль, то можно и вовсе ничего не найти. Кажется Шнуров (музыкант) не так давно говорил типа - человек должен придумать хоть одну свою мысль , хоть простенькую , но свою.

вот это "по теме"

99,9% того, что делает человек к разуму отношения не имеет
вот и путают разумность с рефлексами и инстинктами, выискивая "разумные" действия кошечек и птичек

[Проходящий Кот]

Иными словами - природа изначально проста и основана на суперпозиции повторяющихся процессов. Такой же простой должна быть аппроксимация.

Собственно, мне интересно, применяется ли подобная идея при построении систем ИИ.

Похожий подход был в своё время предложен Хокинсом и сейчас реализуется в его компании Numenta.
http://en.wikipedia.org/wiki/Memory-prediction_framework
http://www.numenta.com/htm-overview/education/HTM_CorticalLearningAlgorithms_ru.pdf

И ИИ программируется для компьютера, без всяких сверхсущностей......

[Прохожий]

А это непринципиально. Будет ИИ на любой ЭВМ --- будет и на Посте.

Да? А вы попробуйте на эту машину Поста, хотя бы Office установить.
Больше всего доставляет, уверенность Турчина и его местных последователей, что ИИ - это обычная программа, типа Scype или Opera, которыую можно установить на обычный PC и она будет на нем исполняться.

Все-таки некоторым души не хватает.........

[Муха_]

Не хватает понимания того, попытка разрешить проблему ИИ филосовскими размышлениями обречена.

Совершенно верно...

Нужно брать конкретного индивида, и потрошить его разумность, вывернуть ее наизнанку. Припереть к стенке и сказать.."Отвечай какие свои действия ты считаешь разумными?"

Совершенно неверно . 

ИИ должен просто эффективно решать задачи, вроде задач на выживание за счет адаптации поведения. Как только мы найдем принципы, позволяющие это делать высшим животным и человеку - проблема будет закрыта.
Разумность и неразумность поведения - это все субъективно и вообще, философская чушь. Если поведение эффективно в широком спектре задач - этого достаточно.

[Ксей]

Разумность и неразумность поведения - это все субъективно и вообще, философская чушь. Если поведение эффективно в широком спектре задач - этого достаточно.

Он конечно и "поговорить по душам" сможет (это эфективно для решения задач), но он же  в душе то пустой (это как с девушкой за деньги).
Нет, такой робот это  не то.

[Муха_]

Думаю, существует только один путь быть эффективным. Это и есть тот путь, которым эффективны мы и животные. Значит, робот будет эффективен точно так же со всеми переживаниями и прочими побочными эффектами.

[alexday457]

Почему прогресс остановился, почему нет качественных скачков а только количественные? Для качественных скачков нужны большие общие приложения сил, знаний и средств. Сейчас это невозможно. Все разобщены, морально, и даже интеллектуально обнищали... Не можем совместно даже свои минимальные человеческие права отстаивать...
Вот сейчас большинство - действительно рабы. Более 90% населения - кредитно-ипотечные рабы. Почти 100% - рабы вещей (маркетологические рабы). У нас есть все, что нужно для жизни, но нам кажется мало. Вещи становятся как-бы бесполезными через год, и надо снова работать и брать кредит для покупки "новинок". Мы стали "теле-зомби" и "интернет-зомби". Это похуже рабства.
Мы живем отработкой тех достижений, которые были осуществлены в эпоху гонки вооружений и космической гонки. Все, от молнии на вашей куртке до БИС (читай, микропроцессора) в телефоне, было придумано для полетов на Луну во время мобилизации наций.

[незлой]

вместо эпиграфа:
"оптимист уверен, что стакан наполовину полон.
пессимист -- что наполовину пуст.
и лишь технарь видит, что размер стакана вдвое больше необходимого"

эта тема была отпочкована от "Природы сознания" с любезного разрешения модераторов для обсуждения проблем интеллекта и сознания с "технарской" точки зрения, т.е. с предложением схем и моделей, но без абстрактных "размышлений по поводу".

пока буду потихоньку переносить тематические посты из "природы сознания", прям сначала. советы приветствуются

04.06: важное дополнение по ведению:

основной постулат: единственный известный нам пример "сильного и" -- мы сами.
откуда следует
а) построение "сильного ии" возможно (разу уж справилась безмозглая эволюция -- можем справится и мы)
б) при разработке "сильного ии" вполне логично "подсматривать" у эволюции решения, задействованные в "разработке" нас самих
с) поскольку эволюция не имеет ни мозгов, ни плана -- очевидно, что как минимум некоторые из этих решений будут неоптимальны.

используемые (самые общие) определения:

функциональное определение чего угодно -- это предложение методики по измерению этого чего угодно. любое определение не дающее подобной методики -- нефункционально (технически бесполезно)
измерение - вырождение чего угодно до символьных величин (искажение при передаче которых по коммуникационным каналам минимально)
оценка (тут) - неформализованная (не значит -- неформализуемая) методика измерения.
модель - отображение чегоугодно на нечто измеримое (т.е. в конечном счёте вербализуемое, см."измерение")
информация - мера этого отображения.
(важно! "моделирование" не является прерогативой разума: можно, например, сказать что в днк содержится модель жизни клетки. или даже что геномный пул планеты земля есть модель среды на планете земля, а эволюционный процесс -- это процесс уточнения модели)

несогласным придерживаться этих рамок -- большая личная просьба: просто воздержаться от дискуссии.
"философам" -- трегубо: многие утверждения в этой теме для философского склада ума вполне болезненны.

[незлой]

эксперимент с зеркалом:

Осознают ли животные своё существование? Думаю, в малой степени. Впрочем, это не касается  высших обезьян и слонов. Исследования показывают, что эти виды осознают. Меня убедили в этом эксперименты с зеркалом, в ходе которых оказывается, что после краткого периода агрессии и любопытства, кошки и собаки, например, теряют к нему интерес. А обезьяны начинают его использовать, вертеться перед ним и даже прихорашиваться. То есть, понимают, что в зеркале ОНИ.
Со слонами делали следующий опыт: Когда животное привыкало к зеркалу ему, незаметно ставили, пардон, на заднице метку краской. Когда слон возвращался к зеркалу и замечал эту метку на своём отражении, он начинал тянуться хоботом к этому месту, не к отражению, конечно, а к себе. То есть и он, в меру своего соображения понимал, что в зеркале ОН.

[незлой]

дословесная память:

А я помню, как лежала в кроватке еще на старой квартире. Я болела, мне было плохо, жарко и душно, и я хныкала, а мама качала кроватку. Потом я кое как заснула, а когда проснулась, мамы рядом не было. Я слышала шум воды и понимала, что мама на кухне. Помню свою обиду и гнев - как она могла уйти, когда мне так плохо, она должна сидеть рядом и качать меня! Я завозилась (надеясь, что она услышит и придет), но она не слышала, и тогда я громко заплакала. Очень хорошо помню, что в тот момент НЕ УМЕЛА говорить (хотя понимала часть того, что мне говорят).

В тот конкретный момент я вообще не думала о том, умею я говорить или нет. Я хотела привлечь внимание мамы, и это желание было очень ярким и сильным. Я хотела, чтобы она была рядом. Я завозилась, потому что знала, что она обычно подходит, когда я просыпаюсь и шевелюсь. Но она не подошла (как я теперь понимаю, просто не слышала). Я почувствовала обиду и гнев, тоже очень яркие и сильные, и заорала. Все мышление у меня в тот момент было на уровне образов и эмоций, словами я не думала.
И разумеется, я это не придумала и мне это не приснилось, потому что этот эпизод я помню очень давно.
Я вообще помню много эпизодов из своего раннего детства.
Помню свои ощущения от своего неумения говорить. Бессильная ярость В голове слова уже звучат (я их понимаю, когда слышу, и могу их сказать мысленно), но губы и язык меня не слушаются, я не могу их произнести, и это выводит меня из себя, до рева. Еще помню эпизод в возрасте около трех лет (трех - потому что случилось это на новой квартире, а переехали мы, когда мне было два с половиной). Я стою в комнате и в ужасе лезу на маму, чтобы она меня взяла на ручки. Она спрашивает, что со мной, и я показываю на пол, где от людей отходят ДВЕ тени. Почему-то это приводит меня в дикий ужас, потому что нарушен один из основополагающих принципов окружающего мира: от всех предметов отходит только ОДНА тень! Мама смотрит на пол, не видит ничего страшного и явно меня не понимает - а я НЕ МОГУ ей объяснить!

Вот ещё случай вспомнил из детства. Взрослые разговаривали, я не умел (не помню точно, но вроде в основном понимал). И родилась такая идея: буду говорить всё подряд, может что складное получится. Помню что взрослые смеялись.
Сейчас спросил, оказывается действительно было. Даже кто-то в автобусе, услышав, поинтересовался: "надо же, какой маленький, а уже говорит. Из какой страны он приехал, что за язык?"

[незлой]

первая попытка анализа понятия "разум", мемы:

вот, писал на этом форуме, но давно, потому повторюсь: вот моё понимание что такое разум:
разумным можно считать организм, обладающий одновременно всеми четырьмя свойствами:
1. Он спсобен обучаться на основании жизненного опыта (то есть на дейтвия типа - совершил А получилось В, следовательно если я сделаю А, получится В)
2. Он спсобен передавать такой опыт подобному себе существу.
3. Он способен к логическим формам типа: если С следует из В, а В из А и не имеется иных факторов, то имея только А можно получить С
4. Он способен мыслить абстрактно - то есть если он увидел камень весок 1 кг, но никогда не видел кмня весом 1 тонну, то он может его себе представить и использовать его в построениях, описываемых пунктом 3.

таким образом, можно заметить следующие: комбинируя признаки 1 и 2 можно объяснить культурную эволюцию, то есть эволюцию идей не связанную с нашей эволюцией, это происходит потому что:

1. количество идей, которые могут быть созданы превышает количество, которое может быть воспринято их создателями. То есть воспринято я имею в виду, как инструкция к действию
2. идеи способны изменятся со временем, при том как целенаправленно (внести корректировки в линию Партии, конституцию, Святое Писание, гражданский кодекс, устав... и т. д.) так и нет - отдельные положение могут трактоваться по разному в силу объективно не ясных, а потому случайных причин.
и наконец - все люди составляющие общество в большей или меньшей степени способны воспринимать идеи т. е. модели поведения.

таким образом, идеи обладают свойствами живых организмов и могут жить достаточно самостоятельно. Также, я не имел в виду только идеологию в узком смысле слова, я имею в виду любую мыслительную конструкцию так или иначе определяющую наше поведение.

и последнее - первый два пункта, из которых это всё следует, присущи не только нам, однако для "эволюции идей" необходимо, чтобы скорость их передачи превышала скорость их "вымирания" - потому как любая подобная конструкция просто напросто забывается или теряет своё влияние. Как видно ни у кого, кроме нас, этот порог преодолён не был - что, кстати, объясняет почему так много всего от нашего поведения мы можем отыскать к примеру у шимпанзе, но тем не менее цивилизации или даже культуры они не создали.

Не столь важна скорость, сколь формы, способные запечатлевать-сохранять идеи.  Если принять во внимание, сколько абстракций, понятий, правил и законов, открытых другими людьми, использует каждый из нас в своей умственной деятельности, то приходится отказаться от свойственных человеку амбиций по поводу автономности его мышления. Мы на 99% мыслим мыслями других людей, часто созданными в других странах и в другие эпохи. То есть, мышление, как оно сейчас представлено, соборно по самой своей сути. Раскрывает ли сие наблюдение коллективного со-знания - многознания, природу сознания вообще?!
 

согласен. правильнее сказать не скорость, а эффективность передачи - то есть соотношение передавать/забывать.

[ВадимZero]

технические детали и решения разработки сильного ии

Ну начнем, наверное со скелета а потом уже будем облепливать его разного рода мясом(функциями). Возьмем мы к примеру сильный ИИ, или человека, или инопланетянина, вообщем любое существо(субьект) обладающий достаточно развитой нервной системой. По моему мнению она условно должна состоять из двух частей имеющие различные функции которые кибернетически дополняют друг друга. Первая часть назовем условно "Иследователь", вторую часть "деятель". Основная функция иследователя, создавать карту реальности. Основная функция деятеля, принимать решения изходя из данных полученых иследователем.
    Особенности иследователя... узкий фокус внимания. Иследователь сосреготочен обычно на узком фрагменте реальности, но при этом изучает его максимально детально. Иследователь не принимает сиюминутных решений, но способен порождать цели. Например иследователь создает фильтры восприятия, которые деятель использует для обработки входящих сенсорных данных, чтобы сделать их максимально удобными для иследователя. Иследователю присущ последовательный способ обработки информации. Можно сказать что, последовательной обработкой иследаватель как бы рисует карту реальности, хотя мнопоточный способ тоже нельзя отбрасывать. Память иследователя ограничена фильтрами восприятия которые он сам себе создает.
    Особенности деятеля...расширеный фокус внимания. Мощности деятеля максимально грамотно распределена по источникам сенсорики. Так что бы не какая важная информация не была потеряна, веть для принятия решений нужна максимальная полнота информации. Память деятеля не чем не ограничена, он имет неограниченый доступ, что важно в случаи принятия решений.

[незлой]

имхо искусственное разделение: исследование всегда деятельно..
вы пытаетесь так решить проблему возникновения мотиваций?

[ВадимZero]

имхо искусственное разделение: исследование всегда деятельно..вы пытаетесь так решить проблему возникновения мотиваций?

Это функциональное разделение. Одна часть генерит идеи, другая реагирует на эти идеи действием.

[незлой]

коечто о временных рамках:

Психолог Джулиан Джейнс считает, что сознание у людей появилось  не ранее чем 2-3 тыс. лет до нашей эры. Он пришел к такому выводу после анализа текстов древних книг, таких как Иллиада, Одиссея, Ветхий и Новый Заветы. До этого наши предки были просто разумны, но не всегда. 

Эту мысль я слышал давно, и будто бы эти не частые моменты ( когда прорезалось сознание) воспринимались как некий внешний голос , голос свыше. Была и ссылка на то, что так можно интерпретировать некоторые моменты  описанные в мифах.

[незлой]

Это функциональное разделение. Одна часть генерит идеи, другая реагирует на эти идеи действием.

действия, в свою очередь, ведут к новым идеям -- тоесть нужно обеспечить каналы для обратных потоков информации и от деятеля к исследователю..
откуда это разделение вообще взялось и что оно даёт? аналог нашей полушарности?

[подумав] хм. а вообще пожалуй вы правы, мысль интересная.. надобы покрутить. "двухтактный генератор мотиваций"..

[ВадимZero]

действия, в свою очередь, ведут к новым идеям -- тоесть нужно обеспечить каналы для обратных потоков информации и от деятеля к исследователю..

Понятно что одно ведет к дургому. Работа просто того и друго разная. Иследователь создает карту реальности, создает конструкцию в виде карты. Ввиду своих особеностей он не способен принимать эфективные сиюминутные решения. Не стоит воспринимать термины "Иследователь" и "Деятель" утрировано и идеалистично. Различия сотоят в потходах к обработке информации, а не в чем то другом.

Иследователь идеалист, деятель практик.