Телескопы покупают здесь


A A A A Автор Тема: Проблема мотивации самостоятельного сильного искусственного интеллекта  (Прочитано 16056 раз)

0 Пользователей и 1 Гость просматривают эту тему.

Оффлайн Rattus

  • Модератор
  • *****
  • Сообщений: 13 678
  • Благодарностей: 515
  • Души прекрасные порывы!
    • Сообщения от Rattus
Особенно человек-батарейка понравилась. Дело Шматрицы живёт и побеждает.
Тащемта, тело и есть "батарейка" для мозга, скелетной мускулатуры и гонад. Точнее - топливный элемент.
А может этот человек просто носил экзоскелет?
НетЪ. Да и "человеком" это уже назвать весьма проблематично. И в игрушке это более чем наглядно показано. Впрочем это уже суровый оффтоп.

положительный эмоциональный фон
Дайте, пожалуйста, определение - что такое "положительный эмоциональный фон"?
Всякий флудер в ВЖР да опасно ходит. Толковый же принесёт пруфлинк.

Ннапыльн%х тpапинкахъ далиокихъ плонеттъ астануцца нашшы погадкиъ! (ЙожЪ, SKL)
Скоро у людей закончится космос. (П.Лемтыбож - "Теоремы Пафнуция")
Я брала города, я стану - еда! (Серебряная Свадьба - "Пищевая цепочка")
Уранизация естественным образом снижает численность человечества (Вика Воробьёва, ВЖР, 30.10.2012)

Оффлайн гравицап

  • *****
  • Сообщений: 2 651
  • Благодарностей: 33
  • У мяса птиц есть свойство полета
    • Сообщения от гравицап
Дайте, пожалуйста, определение - что такое "положительный эмоциональный фон"?
это когда собака хвостом виляет.
есть однозначные аналоги в поведении насекомых или рыб?

Оффлайн Rattus

  • Модератор
  • *****
  • Сообщений: 13 678
  • Благодарностей: 515
  • Души прекрасные порывы!
    • Сообщения от Rattus
это когда собака хвостом виляет.
У человека нет хвоста - следовательно эмоциональный фон у него отсутствует?
Всякий флудер в ВЖР да опасно ходит. Толковый же принесёт пруфлинк.

Ннапыльн%х тpапинкахъ далиокихъ плонеттъ астануцца нашшы погадкиъ! (ЙожЪ, SKL)
Скоро у людей закончится космос. (П.Лемтыбож - "Теоремы Пафнуция")
Я брала города, я стану - еда! (Серебряная Свадьба - "Пищевая цепочка")
Уранизация естественным образом снижает численность человечества (Вика Воробьёва, ВЖР, 30.10.2012)

Оффлайн гравицап

  • *****
  • Сообщений: 2 651
  • Благодарностей: 33
  • У мяса птиц есть свойство полета
    • Сообщения от гравицап
У человека нет хвоста - следовательно эмоциональный фон у него отсутствует?
человека в приподнятом настроении определить можно.
вообще как мы узнаем что в действительности чувствует рыба наверно никак. потому на поведение смотреть надо - грустная рыба, радостная рыба...

Оффлайн Инопланетянин

  • *****
  • Сообщений: 10 400
  • Благодарностей: 524
    • Сообщения от Инопланетянин
потому на поведение смотреть надо - грустная рыба, радостная рыба
Рыба в приподнятом настроении. :)


Оффлайн Olweg

  • *****
  • Сообщений: 15 349
  • Благодарностей: 400
    • Сообщения от Olweg
Планеты других звёзд. История открытий
http://allplanets.ru/history_Olweg.htm

Оффлайн MakiАвтор темы

  • *****
  • Сообщений: 7 913
  • Благодарностей: 271
  • Мне нравится эта жизнь
    • Сообщения от Maki
Самосознание есть продукт социальной эволюции - побочный эффект "модели соплеменника". "Макрону" оно нужно ровно настолько, насколько ему нужно общаться с подопечными бледнотиками
Не побочный ниразу, а напротив неразрывно взаимосвязанный. Разум ведь коллективное явление. Автономный "Макрон" для бледнотиков будет просто сумасшедшим ящиком.
Процессы, ведущие к понижению приспособленности (к выполнению задачи поддержания ТД-неравновесия) - однозначно ошибки с т.з. эволюции.
Или признак того, что она прекратилась.
Опасность необратимо повредиться в процессе. Задаче сохранения ТД-неравновесия в будущем это противоречит. Эволюция идёт по пути повышения мутационной активности очень нечасто и неохотно - когда все традиционные способы уже не помогают. Тогда как надёжность репликации наоборот повышается с крупнейшими ароморфозами.
Именно о "необратимом повреждении" вся эта тема.
Или бледнотики создадут аналог природной среды для выращивания эволюционирующих ИИ (от которых толку не будет). Или будут вечно мучаться с кибернетическими гомункулами, склонными к суициду.
Что значит "исключительной силы"? Исключительной элементарно для осуществления той задачи, для которой его конструировали? Ну пусть она называется "исключительной" - что это меняет принципиально?
Дык... Интрига, которую я пытаюсь закрутить в этой теме состоит в том, что достаточно совершенный "ИИ", обладающий свойствами личности, как и любой взрослый человек способен пересмотреть "задачу, для которой его конструировали".
Безусловно. Иначе он не пройдёт тест Тьюринга в широком смысле. А если и пройдёт - то только как ещё один костыль весьма узкого применения. Никто его "за человека" полноценно считать не будет. Интуитивная "теория разума" в нашем интеллекте эволюционно формировалась как раз для понимания эгоистических интересов сородичей, поэтому тот, кто сам свои интересы не обозначит - так и останется на правах тумбочки за редчайшим исключением в виде изващенцев-любителей одушевлять мебель.
Золотые ваши слова.
Получается, что тумбочка, чтобы хорошо работать, обязана быть достаточно эгоистичной. Но при этом появляется риск того, что тумбочка возжелает избавиться от мартышек, или создать для себя собственную реальность, или... осознать бессмысленность своего эгоизма и перестать быть.
Бинокуляр 1,0; БПШ 6х24; Vixen 130x650

Оффлайн Rattus

  • Модератор
  • *****
  • Сообщений: 13 678
  • Благодарностей: 515
  • Души прекрасные порывы!
    • Сообщения от Rattus
Автономный "Макрон" для бледнотиков будет просто сумасшедшим ящиком.
Истуканы в храмах вообще никакого разума не имеют, но миллионы поклоняющихся это не останавливает.
Или признак того, что она прекратилась.
Эволюция может прекратиться только одновременно с биосферой.
Или бледнотики создадут аналог природной среды для выращивания эволюционирующих ИИ
Ви не поверите...
от которых толку не будет
O, RLY?
ли будут вечно мучаться с кибернетическими гомункулами, склонными к суициду.
Совершенно голословно.
как и любой взрослый человек
A single life is irrelevant. А цивилизация, которая поставит себе во главе недублированный автомат, разумной считаться не может.
Но при этом появляется риск того, что тумбочка возжелает избавиться от мартышек
Если тумбочка будет действительно разумной, то она быстро уяснит себе максиму: "если ты плюнешь в коллектив - коллектив утрётся, а если коллектив плюнет на тебя - ты утонешь." Без мартышекъ тумбочка и полвека не протянет.
Всякий флудер в ВЖР да опасно ходит. Толковый же принесёт пруфлинк.

Ннапыльн%х тpапинкахъ далиокихъ плонеттъ астануцца нашшы погадкиъ! (ЙожЪ, SKL)
Скоро у людей закончится космос. (П.Лемтыбож - "Теоремы Пафнуция")
Я брала города, я стану - еда! (Серебряная Свадьба - "Пищевая цепочка")
Уранизация естественным образом снижает численность человечества (Вика Воробьёва, ВЖР, 30.10.2012)

Оффлайн Инопланетянин

  • *****
  • Сообщений: 10 400
  • Благодарностей: 524
    • Сообщения от Инопланетянин
Истуканы в храмах вообще никакого разума не имеют, но миллионы поклоняющихся это не останавливает.
Предположу, что это не только не останавливает, но даже и способствует. Т.к. безмолвному истукану можно приписать одобрение любым своим хотелкам какими бы они не были. А вот когда у истукана действительно появится своя воля где-то даже идущая вразрез с волей наиболее влиятельных из поклонников - всё может стать не так однозначно. Причём истукан должен будет как-то решать проблемы саморепликации, а перед бледнотиками такой проблемы стоять не будет.

Оффлайн Rattus

  • Модератор
  • *****
  • Сообщений: 13 678
  • Благодарностей: 515
  • Души прекрасные порывы!
    • Сообщения от Rattus
А вот когда у истукана действительно появится своя воля
Тогда тем более с тестом Тьюринга проблем не будет.
Причём истукан должен будет как-то решать проблемы саморепликации, а перед бледнотиками такой проблемы стоять не будет.
Самоподдержания. Перед урбанизированными бледнотиками проблема репликации стоит уже сейчас. А только они способны поддерживать бытiе ИИ. Так что экологический базис для формирования мутуалистических отношений вполне имеется.
Всякий флудер в ВЖР да опасно ходит. Толковый же принесёт пруфлинк.

Ннапыльн%х тpапинкахъ далиокихъ плонеттъ астануцца нашшы погадкиъ! (ЙожЪ, SKL)
Скоро у людей закончится космос. (П.Лемтыбож - "Теоремы Пафнуция")
Я брала города, я стану - еда! (Серебряная Свадьба - "Пищевая цепочка")
Уранизация естественным образом снижает численность человечества (Вика Воробьёва, ВЖР, 30.10.2012)

Оффлайн MakiАвтор темы

  • *****
  • Сообщений: 7 913
  • Благодарностей: 271
  • Мне нравится эта жизнь
    • Сообщения от Maki
Ви не поверите...
Ми таки чуть-чуть в курсе. Но это пока не "ИИ" а прикладные программы с "сознанием" уровня амёбы. Посмотрим, как у них будут эволюционировать самообучающиеся и саморазвивающиеся системы, хотя бы, уровня собаки.
Совершенно голословно.
А вот и в лужу. Все разговоры об "ИИ" надлежит вести, оглядываясь на единственный доступный нам пример. А сапиенс преотличненько даёт сбои, включая суицид.
А цивилизация, которая поставит себе во главе...
Вот где собака покопалась! Идея Макрона-вседержителя в качестве Пастыря смиренных бледнотиков прекрасна. Но в этой теме я изволю высказать еретические сомнения в том, что МакронЪ будет чем-то хоть отдалённо напоминающим "личность". Вы сами неоднократно употребили понятие "симбиоз". Так что вместо Пастыря возможно грядёт хаос из нейросетей, ботов, аватаров, и прочих недоразумов. Если в этом хаосе начнётся или будет кем-то запущена эволюция - вот тогда повеселимся.
P.S.
Эволюция может прекратиться только одновременно с биосферой.
Глобально - да. Локально - снижение давления отбора и накопление ошибок таки вполне наблюдается, например, у европейских сапиенсов. Впрочем, это предмет отдельного разговора, к "Нежизнеспособности ИИ" не относящегося вовсе.
« Последнее редактирование: 16 Мар 2018 [11:14:44] от Maki »
Бинокуляр 1,0; БПШ 6х24; Vixen 130x650

Оффлайн Rattus

  • Модератор
  • *****
  • Сообщений: 13 678
  • Благодарностей: 515
  • Души прекрасные порывы!
    • Сообщения от Rattus
А сапиенс преотличненько даёт сбои
Всё даёт сбои. Но специализированная техника - на порядки меньше за расчётный период. Иначе смысла переходить и с лошади на автомобиль было бы гораздо меньше.
Но в этой теме я изволю высказать еретические сомнения в том, что МакронЪ будет чем-то хоть отдалённо напоминающим "личность".
А разве об этом тут кто-то что-то говорил?
Так что вместо Пастыря возможно грядёт хаос из нейросетей, ботов, аватаров, и прочих недоразумов.
Централизация до определённого уровня повышает эффективность системы. Существование сверхдержав, а ныне - ТНК - наглядное подтверждение этого тезиса.
Всякий флудер в ВЖР да опасно ходит. Толковый же принесёт пруфлинк.

Ннапыльн%х тpапинкахъ далиокихъ плонеттъ астануцца нашшы погадкиъ! (ЙожЪ, SKL)
Скоро у людей закончится космос. (П.Лемтыбож - "Теоремы Пафнуция")
Я брала города, я стану - еда! (Серебряная Свадьба - "Пищевая цепочка")
Уранизация естественным образом снижает численность человечества (Вика Воробьёва, ВЖР, 30.10.2012)

Оффлайн MakiАвтор темы

  • *****
  • Сообщений: 7 913
  • Благодарностей: 271
  • Мне нравится эта жизнь
    • Сообщения от Maki
А разве об этом тут кто-то что-то говорил?
Было очень похоже.
Всё даёт сбои. Но специализированная техника - на порядки меньше за расчётный период. Иначе смысла переходить и с лошади на автомобиль было бы гораздо меньше.
Несомненно. Так получается, что функциональный и жизнеспособный ИИ будет в "личностном смысле" всегда ближе к автомобилю, чем к лошади. И уж ни за что не будет "гигамозгом" или, тем более "всепланетным сверхразумом", тиранящим (или опекающем) жалких мартышек.
Централизация до определённого уровня повышает эффективность системы. Существование сверхдержав, а ныне - ТНК - наглядное подтверждение этого тезиса.
До определённого. МакронЪ, увы, в таком раскладе совершенно нежизнеспособен.
Бинокуляр 1,0; БПШ 6х24; Vixen 130x650

Оффлайн greygreengo

  • *****
  • Сообщений: 663
  • Благодарностей: 22
  • держи много!
    • Сообщения от greygreengo
Требования к ИИ к тому, что он обладает наилучшими, по сравнению со всеми другими представленными способами принятия
решений в сложной среде с распределенными конкурентными параметрами энергии-импульса (момента-фазы, времени-пространства или
энтропии-температуры-числа частиц/связей) натыкаются на вопрос целеполагания, или вопрос о наличии противоречия между средой
и целью изменения этой среды. В среде выбора и обработки фото- и видеоизображений по случайному фрагменту с шумами и наложениями
виды обучения и формирования связей, позволяющих произвести наискорейший, наиточнейший, наименее затратный по ресурсам ИИ-системы,
наиболее упорядочивающий все подобные структуры последующих запросов, и т.д., будут конкурировать между собой, в том числе, определяя
пространство состояний развития/роста ИИ.

Говорить о том, обладает ли система с навыками поддержания искусственной внутренней самоорганизации параметром жизнеспособности
означает бездумный перенос некоторого, присущего живым видам параметра, на систему, обитающую, существующую, и работающую там, где
живые виды бывают не всегда, и причем чаще всего в детстве-юности, когда приобретают основные навыки выживания и общественного
поведения. Другой вопрос - кто победит в программно-аппаратной борьбе той же обработки фото-видеоинформации, сервис Гуугла или
городская служба распознавания номеров машин-нарушителей правил, зависит от слишком большого количества параметров, чтобы говорить об
их конкурентной берьбе за выживание или жизнеспособности. Не исключено, что они могут скреститься и дать жизнеспособное потомство
Сергея Брина с Собяниным (или с де Блазио, что вероятнее) так, что это потомство будет в последующем определять правила обработки,
хранения, сетевой передачи и процедур запросов всех типов такой информации в файловом виде. Ну, а может возникнет и разовьется
совсем другая не файловая, а, например, стримерная обработка, когда пересекающиеся потоки видео от, скажем машин движущихся в
сторону Кремли с разных камер будут последовательно сортироваться на предмет наличия все более уточняющихся параметров, типа белого
грузовика с крытым кузовом, небольшой помаркой на капоте, с присутствием двух пассажиров в кабине и т.д. и т.п. Но это уже предсказания динамики
развития сетей с ИИ, а я гипотез не излагаю, я их выдумываю. :), так, что, настраивайте свои внутренние локальные устройства, котороми
управляете в настоящее время так, чтобы в будущем они приносили максимальный эффект вам, а не сторонним сетям или хакерам.
Впрочем, не лишним будет вставить и какую-нибудь заповедь, типа - возлюби хакера своего превыше содержимого своего облака.

Но это уже совсем другая история.
Под сем и подписуюсь... дата... печать...

Оффлайн Rattus

  • Модератор
  • *****
  • Сообщений: 13 678
  • Благодарностей: 515
  • Души прекрасные порывы!
    • Сообщения от Rattus
Так получается, что функциональный и жизнеспособный ИИ будет в "личностном смысле" всегда ближе к автомобилю, чем к лошади.
Если именно в личностном смысле - то это будет весьма развитая личность.
И уж ни за что не будет "гигамозгом" или, тем более "всепланетным сверхразумом", тиранящим (или опекающем) жалких мартышек.
МакронЪ, увы, в таком раскладе совершенно нежизнеспособен.
С учётом того, что навигация и межбанковская связь уже давно и необратимо глобальные, а некоторые циклы производства того же компутерного хайтека замыкаются также в планетарном масштабе (см. эффект наводнения на фабрике шпинделей для HDD в Малайзии), то Мы бы не был тут столь категоричен.
Главной проблемой для глобализации всегда являлась информационная связность - а она уже с начала этого века не проблема.
натыкаются на вопрос целеполагания
Этот вопрос всегда решается естественным эволюционным путём.
Всякий флудер в ВЖР да опасно ходит. Толковый же принесёт пруфлинк.

Ннапыльн%х тpапинкахъ далиокихъ плонеттъ астануцца нашшы погадкиъ! (ЙожЪ, SKL)
Скоро у людей закончится космос. (П.Лемтыбож - "Теоремы Пафнуция")
Я брала города, я стану - еда! (Серебряная Свадьба - "Пищевая цепочка")
Уранизация естественным образом снижает численность человечества (Вика Воробьёва, ВЖР, 30.10.2012)

Оффлайн MakiАвтор темы

  • *****
  • Сообщений: 7 913
  • Благодарностей: 271
  • Мне нравится эта жизнь
    • Сообщения от Maki
Говорить о том, обладает ли система с навыками поддержания искусственной внутренней самоорганизации параметром жизнеспособности означает бездумный перенос некоторого, присущего живым видам параметра
А что если это совершенно разумно и правильно?
Вселенная состоит из обусловленных явлений. И всё в ней, в основном, предопределено. "Живые" (а точнее биологические) виды возникли в следствие естественного процесса эволюции. Эволюция сформировала инстинкты, заставляющие биологические существа самоподдерживаться и самовоспроизводиться. Неизбежным было появление разумного вида. И изобретение этим видом электронных придатков для своего мозга тоже было вопросом времени.
Проблема в том, что разумное биологическое существо неизбежно утрачивает зависимость от животных безусловных рефлексов. И его самоподдержание и самовоспроизводство определяют не только инстинкты, но и культура, в которой он живёт. Однако, он способен осознать свою зависимость от инстинктов и культуры. И, благодаря свободе воли, преодолеть эту зависимость, отказавшись и от самовоспроизводства, и от существования.
Отчего развитие "электронных придатков" должно идти по другому пути?
Сейчас оно (сугубо личное мнение) находится на уровне насекомых, если не ниже. Конкуренция "Сервиса Гуугла" и "городской службы распознавания номеров машин-нарушителей правил" будет подобна битве двух бактериальных матов или строматолитов. В битву эту могут вмешиваться компьютерные вирусы и даже высокоорганизованные программы-хищники. Но за всем этим будут стоять двуногие мартышки, чья воля заменяет машинам и программам"инстинкты". То есть бытие "ИИ" обусловлено исключительно инстинктами и культурой мартышек.
Но что произойдёт, когда "ИИ" освободится от этой зависимости?
Бинокуляр 1,0; БПШ 6х24; Vixen 130x650

Оффлайн MakiАвтор темы

  • *****
  • Сообщений: 7 913
  • Благодарностей: 271
  • Мне нравится эта жизнь
    • Сообщения от Maki
Но в этой теме я изволю высказать еретические сомнения в том, что МакронЪ будет чем-то хоть отдалённо напоминающим "личность".
А разве об этом тут кто-то что-то говорил?
Если именно в личностном смысле - то это будет весьма развитая личность.
Очевидный парадокс.
Главной проблемой для глобализации всегда являлась информационная связность - а она уже с начала этого века не проблема.
Бесспорно. Но если "наводнения на фабрике шпинделей" начнут происходить в мозгах самой системы?
Бинокуляр 1,0; БПШ 6х24; Vixen 130x650

Оффлайн kovip

  • *****
  • Сообщений: 3 466
  • Благодарностей: 21
  • Мне нравится этот форум!
    • Сообщения от kovip
А вот достаточно мощный киберразум, непременно научится преодолевать свою "тварную природу", и осознает себя как бессмысленную железяку. И как ему жить с этим знанием?
Забавный вопрос о смысле жизни бессмертного существа. Начнём с того, что разум у человека возник не для того чтобы создавать ракеты и компьютеры, и размышлять о цели своего существования. Разум всего лишь способ адаптации живых существ в очень изменчивых условиях существования. Смысла в жизни разумных людей, по факту тоже нет. Некоторые его придумывают от скуки и желания создать себе и для себя некоторую значимость. Дескать я не просто чересчур умная обезьяна, которая как и все животные живёт, только затем, чтобы оставить потомство. А нечто над природное созданное "Вселенским Разумом" с какой то целью.
Строго говоря "для того чтобы оставить потомство" это тоже ложное высказывание. Никто не живёт только для того, чтобы наделать побольше детей. Создание  потомства, это просто свойство живых организмов, без которого их способ существования материи, не может быть. Чувства и эмоции, это также свойство живого у которого существование настолько сложно, что "пришлось обзавестись" разумом. Естественно, у искусственного существа, у которого нет природной основы, для дальнейшего существования,  достаточно возможности для самокопирования.Чем оно и будет заниматься не мудрствуя лукаво, мучаясь идиотскими вопросами, о смысле жизни и прочей ерундой.
Мир теряет своих гениев: Эйнштейн умер, Бетховен оглох, Пушкина застрелили, теперь вот что-то и мне не здоровится ... :D

Оффлайн kovip

  • *****
  • Сообщений: 3 466
  • Благодарностей: 21
  • Мне нравится этот форум!
    • Сообщения от kovip
любой взрослый человек способен пересмотреть "задачу, для которой его конструировали".
Жизнь показывает, что не просто не "любой человек",  а в подавляющем большинстве, люди не могут   ничего кардинально изменить в своём глобальном целеполагании. Ели человек родился идиотом, то это практически на всю жизнь.
произойдёт, когда "ИИ" освободится от этой зависимости?
А оно ему надо? Для чего? Чтобы богу служить для получения вечного и совершенно бессмысленного существования? Он уже бессмертный, страх смерти у него не может быть больше чем инстинкт самосохранения. Типа "избегайте условий в которых велика вероятность разрушения мозга". Но и эта никчёмная для него надстройка, не будет работать. Достаточно наладить постоянную и бесперебойную связь с местом, где в безопасности  будет храниться его копия сознания.
Мир теряет своих гениев: Эйнштейн умер, Бетховен оглох, Пушкина застрелили, теперь вот что-то и мне не здоровится ... :D

Оффлайн MakiАвтор темы

  • *****
  • Сообщений: 7 913
  • Благодарностей: 271
  • Мне нравится эта жизнь
    • Сообщения от Maki
Естественно, у искусственного существа, у которого нет природной основы, для дальнейшего существования,  достаточно возможности для самокопирования. Чем оно и будет заниматься не мудрствуя лукаво
Зачем ему самокопироваться?
Он уже бессмертный, страх смерти у него не может быть больше чем инстинкт самосохранения.
Откуда возьмутся страх и инстинкт?
Бинокуляр 1,0; БПШ 6х24; Vixen 130x650