ИИ: какого понимания нам не хватает?

[Combinator]

А вот нам нужно составить алгоритм который ХОЧЕТ нарисовать камень. При том что он знает и что такое камень и как его нарисовать но ему без разницы что рисовать. Он может нарисовать ещё 256 предметов. Его попросили нарисовать что нибудь.

Опять по 101-му кругу обсуждать так называемую придуманную философами "свободу воли"? Снимите показания с датчиков температуры, влажности и освещённости, посмотрите, куда попала точка в соотв. парметрическом пространстве, и в зависимости от этого выберите для рисования один объект из 256 возможных. Конец алгоритма.

[Technecy]

А вот нам нужно составить алгоритм который ХОЧЕТ нарисовать камень. При том что он знает и что такое камень и как его нарисовать но ему без разницы что рисовать. Он может нарисовать ещё 256 предметов. Его попросили нарисовать что нибудь.

Опять по 101-му кругу обсуждать так называемую придуманную философами "свободу воли"? Снимите показания с датчиков температуры, влажности и освещённости, посмотрите, куда попала точка в соотв. парметрическом пространстве, и в зависимости от этого выберите для рисования один объект из 256 возможных. Конец алгоритма.

Это обычный выбор цели по критерию. Только критерий не связан с целью. Это как сказать что я хочу нарисовать камень потому что сижу за зелёным столом. Разновидность псевдослучайности. Но такой алгоритм будет всегда рисовать камень если сидит за зелёным столом. В одинаковых условиях, один и тот же результат. Это рандомайз привязаный к внешним факторам (датчикам). Например часто делают псевдослучайные последовательности привязанные к координатам мыши. В результате, при первом приближении может показаться что ИИ делает то что хочет его левая пятка. Но для приведённой мной задачи не подходит.

[zenixt]

Аналогично и с другими хотелками.
Доступно???

Это не то. Это рефлексы. они программируются легко. смотрите предидущий пост.

Вчера я как-то не заметил, что вы не видите разницы между хотелкой и рефлексом.
Рефлекс - это жестко запрограммированное действие. Так поступают все известные мне программы, имитирующие ИИ.
Хотелка лишь подталкивает к действиям в определенном направлении. Сами же действия определяет накопленный опыт. Накопление же опыта начинается с рефлекторных действий, к примеру, включение пищалки для привлечения внимания. "Рытье в библиотеках", поскольку комп имеет возможность обращаться к модему и дискам, мы тоже можем сделать жестко запрограммированным, чтобы облегчить себе жизнь. Ведь по условию наш настольный ИИ не имеет ни глаз ни прочих причиндал. Надо же это чем-то заменить.

[zenixt]

Цитата: zenixt от Вчера в 21:04:45

Что такое псевдокод, объясню завтра

не стоит отвлекаться на такие мелочи.

Я надеюсь, что нас читают. Поэтому объясню максимально кратко и доступно, чтобы челы понимали чем мы тут занимаемся.

Псевдокод - это искусственный неформальный язык, который помогает программистам разрабатывать алгоритмы.

Формальный язык, это, к примеру, ассемблер или Си и т.д.
Сперва мы пишем псевдокод очень грубо. Потом начнется процесс уточнения из множества ступеней в зависимости от сложности задачи. Ну и хватит с этим.

[zenixt]

Всё более и более интересно. Особенно про самопрограммирование.

Объясню на самом простом примере, а потом будем уточнять, если нам позволят. Пусть наша программа "жестко" скачала некий литературный текст. Наша программа будет рассматривать каждую предыдущую фразу как команду для выполнения следующей. Это и есть самопрограммирование в самом первом приближении.
По мере накопления опыта выяснится, что за одной и той же командой -фразой(псевдокомандой) может следовать то одна, то другая, то третья и т.д. фраза. В этом смысле - она аналог

структуры со множественным выбором switch

Но скачанные псевдокоманды не имеют условий, по которым они выбираются. Поэтому и необходима хотелка общения для придания эмоциональной окраски(условий выбора) псевдокоманды. Да-да, как бы Семенов не хотел сделать "холодный" ИИ(будем в дальнейшем так называть нашу программу), это не получится.
А для старта необходим генератор случайного выбора.
В простейшем случае мы можем ограничиться всего двумя значками в конце нашей фразы, обозначающими "доволен" или "недоволен" я запросом-ответом ИИ.
Доступно???
Я тут маленько наврал. В действительности, минимум не три, а четыре хотелки. Поскольку мы предполагаем полную зависимость ИИ от человека, обращение человека к ИИ сразу вырубает остальные хотелки, и ИИ начинает выполнять команды человека в соответствии с накопленным ИИ опытом.

[Combinator]

Но такой алгоритм будет всегда рисовать камень если сидит за зелёным столом.

Разбейте пространство на области менее тривиально, увеличьте число параметров, зашумите всё рандомизатором и вместо жёстких правил останутся лишь статистические тенденции, примерно как и у человека. Он ведь тоже, например, в жару мечтает скорее о стаканчике прохладительного напитка, чем о шапке-ушанке.

 
В результате, при первом приближении может показаться что ИИ делает то что хочет его левая пятка. Но для приведённой мной задачи не подходит.

Откуда Вы знаете, подходит или нет, если напрочь отказываетесь обсуждать критерии экспериметальной проверки "подходимости"? Тот же тест Тьюринга, например, по крайней задаёт такой формальный критерий.

[zenixt]

Чуть не упустил один существенный момент. Псевдокоманда, сгенерированная ИИ может быть командой для выполнения следующей псевдокоманды самим ИИ, а не ответом-запросом к человеку.
И, имейте в виду, что фразы - это всего лишь легенький пример. Речь идет о любых источниках информации(камеры, микрофоны, программные коды и далее в таком духе), которые будут доступны ИИ.

[Technecy]

Он ведь тоже, например, в жару мечтает скорее о стаканчике прохладительного напитка, чем о шапке-ушанке.

Да, но может пойти в магазин и купить именно шапку ушанку. И не потому что у него нет такой шапки, а потому что эта ему больше нравится.
Ну это всё относительно рефлекторные действия. Достаточно простые.
А вот как он напишет сочинение на тему "автор хотел сказать".

Откуда Вы знаете, подходит или нет,

Не могу объяснить это займёт слишком много времени у меня на написание объяснения, и естественно у вас на понимание моего объяснения. Просто знаю.

Пусть наша программа "жестко" скачала некий литературный текст. Наша программа будет рассматривать каждую предыдущую фразу как команду для выполнения следующей.

Хорошо, допустим этим "неким текстом" и будет вот эта ваша фраза. Какой результат она даст? Давайте попроще что нибудь. Я уже предложил пример задачи. Давайте по нему. Я знаю как это можно реализовать. Попробуйте свой алгоритм на этой задаче.

Вчера я как-то не заметил, что вы не видите разницы между хотелкой и рефлексом.
Рефлекс - это жестко запрограммированное действие. Так поступают все известные мне программы, имитирующие ИИ.

Я прекрасно понимаю о чём вы говорите под термином "хотелка". Я бы назвал это "распределитель приоритетов". Это как в томагочи. Какой счётчик быстрее обнулится, то мы на экран и выведем. А что бы симитировать привычку, период декрементации конкретного счётчика уменьшается при повторе однотипного действия. Таким образом можно пристрастить томагочу к чему то определённому.
А, ну ещё конечно хорошо/плохо. Некоторые ответы определяются как хорошие, некоторые как плохие... В результате можно научить нашего "томагоча" считать хорошим как убийство так и вышивание.
Таким образом увеличивая количество счётчиков и введя некоторые жестко заданные правила по которым они влияют друг на друга(типа if +1Р then -2Ш; if +2Ш then +1P) мы получим довольно забавный ИИ который ещё и дифференцирует плохой поступок от хорошего опираясь на мнение обучающего.
Но вот в том то и разница между хотением и рефлексом, что рефлекс вызван заранее определёнными необходимостями(обнулился счётчик= возникла необходимость) нет счётчика событий, не возникнет необходимости никогда.
Так вот. хотение в моём понимании, это когда у нас появилось ветвление программы без изменения входных переменных. В прошлом цикле не хотел ничего, в этом цикле захотел пойти.
Понимаете?
При этом это хотение должно быть не бесцельным хаотичным метанием по доступному пространству. А неким логичным, с точки зрения человеческой логики, действием приведшим к конкретному результату.
Т.е. например он должен пойти на кухню налить себе чаю и выпить. Не потому что он хочет пить(рефлекс) а потому что ему захотелось попить чаю.
Я понятно объясняю?

Следующая задача- моделирование ситуаций.
Следующая- определение долгосрочной цели.
Ну и под завязку- мечты и сны.
Хотя это всё скорее к ИР имеет отношение.

А "рефлекторный" ИИ  на ваших "хотелках" это уже давно есть. Я ещё в начале темы писал об этом.

[zenixt]

Хорошо, допустим этим "неким текстом" и будет вот эта ваша фраза. Какой результат она даст?  Давайте попроще что нибудь.

Ну, если это сложно даже для вас, можно смело заканчивать, потому что до хотения вдруг написать стихи(выпить вдруг, нозахотелось,чаю без голода), еще очень и очень далеко. Мне казалось, что я пишу псевдокод очень и очень доступно.

[Stalk.er]

По поводу хотелок. Вы как-то упрощаете. Известно много отделов в мозге формирующие подсознание, осмысленные желания и т.д. Они не просто какие-то там мифические - они конкретно выделенные известные отделы мозга.
Есть например отдел который генерирует начальную активность. При этом он не подвластен другим отделам, он не имеет входов, только выходы. Единствено что он может унюхать - гормоны. Это можно назвать нашим боссом.
Есть отдел, формирующий критическое мышление, при этом он использует остальную кору просто как инструмент. Он оценивает опасность, ошибки, но сам не принимает решения.
Есть отдел (фронтальный), который принимает решение. При поражении этого отдела люди не могут принять решение (реально такие случаи были).
Есть несколько отделов, формирующих наше сознание. При этом один из отделов формирует долговременную память. При поражении этого отдела мы не сможем соотнести себя с собой и сознание распадется на фрагменты, которые мы не сможем связать друг с другом (реальные мед.случаи).
И есть ещё много отделов, в том числе отделы удовольствия, страха и т.д. И все эти глубинные отделы появились задолго до неокортекса, больших полушарий. Они боссы. Это лимбическая система Интеллект, паттерны, опыт - лишь инструмент для них. Хотя в принципе отдел принятия решений и отдел критического мышления тоже инструменты. Они не выдают задания . Задания выдают эти злобные карлики (прежде всего гипоталамус и миндалевидное тело). Вернее это не задание - а постоянный пинок под задницу. В процессе прохождения этого задания или пинка по отделам - оно может изменится до неузнаваемости.  Но без этого пинка мы бы были овощами, для которых мощь интеллекта с этими миллиардами нейронов - была бы просто мощным и ненужным инструментом.

[Stalk.er]

И по поводу алгоритмизации нейронной сети - это заведомо провальное дело. И бессмысленное. Нейронная сеть - наиболее удачный вариант для решения любых сверхсложных задач с неизвестными условиями. Заменять нейронную сеть сравнимую с человеческим мозгом на алгоритм - бессмысленно. Проще создать такую же сеть но на другой базе.

[Technecy]

Хорошо, допустим этим "неким текстом" и будет вот эта ваша фраза. Какой результат она даст?  Давайте попроще что нибудь.

Ну, если это сложно даже для вас, можно смело заканчивать, потому что до хотения вдруг написать стихи(выпить вдруг, нозахотелось,чаю без голода), еще очень и очень далеко. Мне казалось, что я пишу псевдокод очень и очень доступно.

Дак доступно. Просто "хотелки" это далеко не то. Это хотелки искуственные. Заранее заложенные.
Я и говорил и говорю. Что надо научить ИИ хотеть. И не только это, там много чего ещё. Например "выдумывать свои названия" для явлений которые он не может определить ни по опыту, ни по запросам оператору, Это важный момент для ассоциативного мышления. 
Если исходить из предложенного вами механизма хотелок. То он должен уметь создавать свои собственные хотелки. Вот так.
Потому что в описанной вами модели, он ограничен именно тем что все его желания/хотения заранее определены. То есть он не может поставить себе цель сам. Он может по некоторому условию выбрать наиболее необходимую.
А вот заставьте его самого себе определить цель.
Именно это я и подразумеваю под алгоритмом целеопределения.

Они не выдают задания . Задания выдают эти злобные карлики (прежде всего гипоталамус и миндалевидное тело). Вернее это не задание - а постоянный пинок под задницу. В процессе прохождения этого задания или пинка по отделам - оно может изменится до неузнаваемости.  Но без этого пинка мы бы были овощами, для которых мощь интеллекта с этими миллиардами нейронов - была бы просто мощным и ненужным инструментом.

Да да, об чём и речь.

[Technecy]

. Проще создать такую же сеть но на другой базе.

как, если мы не можем придумать/понять алгоритм по которому она должна работать

[Combinator]

Да, но может пойти в магазин и купить именно шапку ушанку. И не потому что у него нет такой шапки, а потому что эта ему больше нравится.

Этот случай покрывается рандомизационной компонентой. Наши желания предсказуемы лишь статистически.

Не могу объяснить это займёт слишком много времени у меня на написание объяснения, и естественно у вас на понимание моего объяснения. Просто знаю.

Тогда в чём задача, если Вы даже сами не знаете, чего хотите в итоге добиться? Пойди туда, не знаю куда, и сделай то, не знаю что?

[Stalk.er]

как, если мы не можем придумать/понять алгоритм по которому она должна работать

У нейронной сети нет алгоритма. Вернее работу нейронной сети невыгодно описывать алгоритмически. Нужно описывать топологию.

[Technecy]

Тогда в чём задача, если Вы даже сами не знаете, чего хотите в итоге добиться?

Хе, вот и именно. Вы когда пишете сочинение, вы знаете заранее что у вас получится в конце? Вплоть до каждого слова?
Я, садясь писать сочинение, понятия не имею что напишу. Когда начинаю писать ответ вам, понятия не имею что вам скажу.
Тем не менее мои ответы не похожи на рандомайз по алфавиту.

[Stalk.er]

Хе, вот и именно. Вы когда пишете сочинение, вы знаете заранее что у вас получится в конце? Вплоть до каждого слова?
Я, садясь писать сочинение, понятия не имею что напишу. Когда начинаю писать ответ вам, понятия не имею что вам скажу.
Тем не менее мои ответы не похожи на рандомайз по алфавиту.

Естественно. Такая задачка как раз для нейросети. Неизвестно количесво входных параметров, некоторые параметры известны примерно. Правильного ответа тоже нет. Но если получится хорошо - то получите конфетку. Причем виртуальную конфетку. Какая тут нафиг алгоритмизация. Забудьте про неё.

[Combinator]

Тогда в чём задача, если Вы даже сами не знаете, чего хотите в итоге добиться?

Хе, вот и именно. Вы когда пишете сочинение, вы знаете заранее что у вас получится в конце? Вплоть до каждого слова?
Я, садясь писать сочинение, понятия не имею что напишу. Когда начинаю писать ответ вам, понятия не имею что вам скажу.
Тем не менее мои ответы не похожи на рандомайз по алфавиту.

Вопрос не в том, что бы заранее знать, что получится в конце, а в том, каким образом это оценивать. Скажем, за то же сочинение в школе принято на основании неких критериев ставить оценки.

[Technecy]

Нужно описывать топологию.

Можно по подробнее что именно понимается под словом "топология"?

Тогда в чём задача, если Вы даже сами не знаете, чего хотите в итоге добиться? Пойди туда, не знаю куда, и сделай то, не знаю что?

Да, и конечно вечный вопрос "Зачем!", то же не известно.
Что бы упростить условия.
Предположим ИИ вообще ничем не занят.
Рефлекторные "хотелки" молчат.
Что будет делать ИИ?

Например наш мозг всё время чем то занят Даже когда мы типа спим.

На самом деле вот та задачка с полянкой то же не имеет никакого смысла. Но люди могут делать бессмысленные поступки когда им нечего делать и извлекать из этого некий ЛУЛЗ ясный им самим. Например придумать себе игру из прищепки и травинок. Ну, в случае с нашим ИИ у него в распоряжении биты и байты...

Хе, хех. Исскуственный Разум...

Цитата: Technecy от Сегодня в 14:45:21
Да, но может пойти в магазин и купить именно шапку ушанку. И не потому что у него нет такой шапки, а потому что эта ему больше нравится.

Этот случай покрывается рандомизационной компонентой. Наши желания предсказуемы лишь статистически.

А вот и фиг, это не рандомизация, а "готовь сани летом". Т.е. постановка долгосрочного плана(хочу этой зимой выглядеть по другому). Несколько грубовато, но сойдёт.

Скажем, за то же сочинение в школе принято на основании неких критериев ставить оценки.

Ну за грамотность понятно есть правила Рус.Яз. А вот как ставится оценка за литературность... Это тайна, по крайней мере для меня. За одно и то же сочинение можно получить и 5 и 2 у разных преподов.

Ха
пока я тут это вот пишу, сын, 4года. Изрисовал себе руки ручкой. На вопрос что это? Он сказал что это паутина как у человека паука и теперь он человек-паук.
Искуственный интеллект...
Вот забавный пример для нашей этой темы.

ЗЫ.
Да я вначале темы говорил что что бы создать всё то о чём мы сейчас думаем, не надо суперкомпьютеров и "топологий". Достаточно М+Ж и 9 месяцев. Всё уже давно придумано. И вот он, самообучающийся интеллект, он же разум. Сиди и программируй скока влезет. Задачка лет на 10.

[Combinator]

Что бы упростить условия.
Предположим ИИ вообще ничем не занят.
Рефлекторные "хотелки" молчат.
Что будет делать ИИ?

Пока работают датчики какие-то хотелки есть по определению. И всегда можно добавить хотелку "избавиться от скуки", которая активизируется, когда сигналы от остальных слабы. Это называется "исследовательское поведение", или говоря по простому - любопытство.

Но люди могут делать бессмысленные поступки когда им нечего делать и извлекать из этого некий ЛУЛЗ ясный им самим. Например придумать себе игру из прищепки и травинок.

Если ИИ, по Вашему, на это не способен, попробуйте это утверждение доказать.

А вот и фиг, это не рандомизация, а "готовь сани летом". Т.е. постановка долгосрочного плана(хочу этой зимой выглядеть по другому). Несколько грубовато, но сойдёт.

Если это, по Вашему, так важно,  просто усложните параметрическое пространство, и всё будет ОК.

Ну за грамотность понятно есть правила Рус.Яз. А вот как ставится оценка за литературность... Это тайна, по крайней мере для меня. За одно и то же сочинение можно получить и 5 и 2 у разных преподов.

Может, но объективное стат. распределение оценок всё же имеет место быть.