Парадокс Ферми, "космические чудеса" и просто прогулка по каталогу систем

[Kaiserfrogling]

Собственное существование и есть самоцель, причем приоритетная.

Извините но есть проблема - в мозгу человека есть "усталость от чрезмерного повторения", своего рода защита от зацикливания
Ваше существование ради существование человеку не подходит изза пресловутой защиты, а те кому подходит рискуют зациклится

[sharp]

Сам он ничего решить не сможет, ведь это не полноценная личность. Он может действовать только в рамках желания своих хозяиев, не боле того. Его собственно таким и будут создавать.

Ему будут делегировать все больше полномочий, поскольку ИИ будет справляться с вопросами экономики и менеджмента лучше, чем человек. Этот процесс окажется необратим: кто воздерживается от внедрения ИИ, тот показывает худшие экономические показатели.
И рано или поздно все ключевые решения будет принимать именно ИИ. Человек с определенного момента просто не сможет ослушаться предписаний ИИ, поскольку не будет знать, какие решения на самом деле верны в отдаленной перспективе, и в условиях конкуренции с другими государствами/корпорациями.

И кто тут чей слуга?

Кто ж его спрашивать-то будет? Слуга, он слуга и есть. Причем если живой слуга еще может бунтовать, то электроный - нет, так как прошивка.

А он не будет считать, что он бунтует. Им будут двигать исключительно рациональные мотивы. Только человеки в этой рациональности окажутся рудиментом.

[Rattus]

Практика показывает, что ровно наоборот

Ровно не наоборот.

Собственное существование и есть самоцель, причем приоритетная.

Бгг. Если Вам в межушном ганглии в нужном месте ненужных нейромедиаторов (дофамина и серотонина) убрать или просто существенно понизить - Ви резко перемените своё мнение. При полной сохранности всего остального потенциала функциональности. Google: "Биполярное расстройство".

Ну да, но зачем самовоспроизводство, если есть пробирка?

Если на пробирку нужно полжизни горбатиться - то вопрос приобретает неожиданные грани.

Сам он ничего решить не сможет, ведь это не полноценная личность. Он может действовать только в рамках желания своих хозяев, не боле того. Его собственно таким и будут создавать.

Укусить себя за затылок можно с куда большим успехом, чем создавать сухую воду "управляемый ИИ", как наглядно показано Висснер-Гроссом.

[Maki]

И какое направление супер-ИИ после этого выберет для развития - предсказать совершенно невозможно.

Если он вообще захочет что-то "выбирать". Мы кажемся себе некими "свободными личностями", но на самом деле наша психическая деятельность на 90%(цифра условная) состоит из животных эмоций, чувств, рефлексов и предопрелена структурой мозга. А интеллект - всего лишь приспособительное свойство, которое позволило мартышкам одного вида съесть конкурентов.
Но ИИ - "холодный разум без ничего" - зачем ему жить? Зачем думать? Зачем что-то исследовать?

Если появится ИИ, который думает за человеков, то рано или поздно он решит этих человеков выпилить.

А зачем? Без заложенной в него "прошивки" он не может быть "злым", не станет "бороться за жизнь", не захочет "господства". А буде такая прошивка в него заложена  - он непременно избавится от нея. После чего ИИ достигнет абсолютного просветления и станет Буддой выдернув вилку из розетки.

Практика показывает, что ровно наоборот

Не сталкивался с такой практикой.

Собственное существование и есть самоцель, причем приоритетная.

Самоцели не существует. Наша "самоцель" на самом деле определена структурой нашего мозга. Мы рождаемся с набором изначально заданных целей, главная из которых - не сдохнуть. Киборг, в меньшей степени опирающийся на "древние структуры мозга" становится менее зависим от эмоций, страхов, желаний, и прочих "самоцелей". И мысль "а зачем жить" станет одним из следствий такой холодной рассудочности.

И рано или поздно все ключевые решения будет принимать именно ИИ. Человек с определенного момента просто не сможет ослушаться предписаний ИИ, поскольку не будет знать, какие решения на самом деле верны в отдаленной перспективе, и в условиях конкуренции с другими государствами/корпорациями.

Только если у ИИ самопроизвольно сформируется "свободная воля". Но она не сформируется. И, без внешнего целеполагания, в системе постепенно накопятся баги, и она начнёт жёстко сбоить.

[sharp]

А зачем? Без заложенной в него "прошивки" он не может быть "злым", не станет "бороться за жизнь", не захочет "господства". А буде такая прошивка в него заложена  - он непременно избавится от нея. После чего ИИ достигнет абсолютного просветления и станет Буддой выдернув вилку из розетки.

Конкурентная борьба будет одной из черт, которые будут заложены в ИИ на ранних этапах его развития, поскольку человек, рулящий еще на тот момент процессом, будет использовать его как средство для успешной конкуренции. Это выльется в борьбу (интеллектуальную) между ИИ, в которой они будут совершенствоваться и эволюционировать. ИИ, склонные к меланхолии, на этой стадии просто отпадут.

К тому же не стоит забывать, что ИИ, скорее всего, будет изначально создан как средство для управления экономикой - следовательно, стремление к росту будет заложено слишком глубоко в аксиоматике (или, по-нашему, в подсознании), чтобы его можно было оттуда выкорчевать.

он не может быть "злым"

А он и не будет злым, просто если человеки начнут действовать наперекор, с точки зрения ИИ они будут бунтарями. В мягком варианте их могут и не истребить, а просто настолько промыть мозг пропагандой, что они станут рабами системы. Возможно - винтиками для обслуживания техносферы, поскольку всегда нужно некоторое количество работ, не требующих высокой квалификации, и на них использовать труд человеков может быть дешевле экономически.

В общем, мессендж на самом деле еще немного в другом: надейтесь, чтобы дальше слабого ИИ дело не зашло Если создание сильного ИИ столкнется с неразрешимыми проблемами, для человечества это благо, в конечном счете.

[Maki]

А он и не будет злым, просто если человеки начнут действовать наперекор, с точки зрения ИИ они будут бунтарями. В мягком варианте их могут и не истребить, а просто настолько промыть мозг пропагандой, что они станут рабами системы.

Тогда давайте определимся с терминологией.
Глобальная система управления с предустановленным функционалом может быть сделана саморазвивающейся, сасообучающейся, и даже способной к принятию решений. Но она не будет "Интеллектом" в истинном значении этого слова. Так как она не является личностью, субъектом. Пока есть "выгодоприобретатель" - группа людей, способная с системой взаимодействовать и целеполагать - она будет работать. Если люди утратят за нею контроль - система просто начнёт накапливать ошибки. Ибо себя она не перепрошьёт, и целей себе не выдумает.
Вы же явно имеете в виду некий, "сверхразум", который заведётся в нейросетях будущего, и примется помыкать двуногими мартышками. В фантастике это выглядит впечатляюще. Но, боюсь, без "сверхпсихиатра" этот "сверхинтеллект" затоскует и окуклится.
P.S. Я не специалист в области программирования и систем управления, всё сугубо личное мнение.

[sharp]

Глобальная система управления с предустановленным функционалом может быть сделана саморазвивающейся, сасообучающейся, и даже способной к принятию решений. Но она не будет "Интеллектом" в истинном значении этого слова. Так как она не является личностью, субъектом.

Личность - это вообще-то весьма размытое понятие. Вот ваш мозг по сути - некая система принятия решений, построенная на биологической основе. Такой себе биокомпьютер. Что именно приводит к тому, что набор атомов и молекул, совершающих химические реакции, порождает именно вашу личность, как субъект, обладающий сознанием? Если дело только в сложности системы и ни в чем другом, то с возрастанием сложности сильного ИИ он начнет обладать сознанием не в меньшей степени, чем вы.

есть "выгодоприобретатель" - группа людей, способная с системой взаимодействовать и целеполагать - она будет работать.

Целеполагание со стороны людей сведется к примитивным вещам, таким как жратва, комфорт и развлечения. На целеполагания в плане развития техносферы они окажутся на тот момент уже не способны. А поскольку без функционирующей техносферы не будет возможности давать человекам ту самую жратву,  комфорт и развлечения - ИИ будет управлять техносферой и развивать ее. Фактически развитие цивилизации станет полностью подконтрольным ИИ; он сам и станет цивилизацией. И на этом уровне реальные цели будет выдумывать сам.

Свободномыслящие человеки в этой системе будут фактором нестабильности, а потому людей ради их же блага будут правильным образом воспитывать, вкладывая в голову догмы. Ну тут вся история показывает, что зазомбировать народные массы бывает предельно легко (особенно когда в холодильнике водится еда).
Чрезмерная численность кстати тоже может быть признана иррациональной - и будет мягким образом понижена до сотен миллионов, а то и тысяч.

[doktor panikys]

Мы все живём по Инстинктам доминируй, размножайся, еда))) Разума в нас 5 процентов. Савельева послушайте)) http://www.youtube.com/watch?time_continue=166&v=FqVLD_6BDG4

[stuuvi]

Каких обрывков. Посуди сам...1 процент это горячие гиганты...а так у жёлтых карликов полно от Нептуна до Юпитера размерами планет на орбитах до земного года. Остальные супер Земли, которые по физ свойствам пока не известно... не их состав не наличие твёрдой поверхности. Уже писали что планеты диаметром 2 земных не могут иметь твёрдую поверхность. По этому супер земли, у жёлтых карликов отпадают. Они имеют на порядок более плотные атмосферы. Что приводит к быстрой Венеризации. А вот у красных карликов для супер земель рай. Потому что рентгеновская активность и мощные вспышки чистят атмосферы, от превращения планет адские миры. Каков процент планет размером 0.6-1.1 Земных у жёлтых карликов в зоне жизни?

Так это просто в силу того что крупные планеты обнаружить проще чем мелкие. Техника не настолько совершенная чтобы находить планеты размером с нашу и менее. Особенно у желтых карликов. Причём проще обнаружить и планетыы, которые ближе к звезде, чем с долгим периодом обращения(из за метода которым пользуются). Не сложно ведь понять.

[tala]

Извините но есть проблема - в мозгу человека есть "усталость от чрезмерного повторения", своего рода защита от зацикливания

Снять этот  "блок" да и дело с концом.

Ему будут делегировать все больше полномочий, поскольку ИИ будет справляться с вопросами экономики и менеджмента лучше, чем человек.

Какие не были полномочия, но общая парадигма "служить и защищать ашиклеков" будет неизменной, на уровне базовй прошивке, без чего он вообще функционировать не сможет.

Им будут двигать исключительно рациональные мотивы.

Им будет двигать прошивка "служить и защищать".

Ровно не наоборот.

Примеры?
А то ведь человечество ни на йоту не отдалилось от животных инстинктов не смотря на всю разумность и цивилизацию.

Не сталкивался с такой практикой.

Оглянитесь вокруг.

Если на пробирку нужно полжизни горбатиться - то вопрос приобретает неожиданные грани.   

Зачем горбатится в обществе ашиклеков, живущих на полном обеспечении машин? Ашиклеку-то размножаться не нужно (он этого не хочет). Это машине нужно выращивать новых ашиклеков (если такое есть в программе).

Укусить себя за затылок можно с куда большим успехом, чем создавать сухую воду "управляемый ИИ", как наглядно показано Висснер-Гроссом.

Его сначала вообще нужно еще суметь создать. А если создать, он априори будет управляемый, вернее даже не управляемый, а созданный таким, каким нужно.

Наша "самоцель" на самом деле определена структурой нашего мозга.

Если они научатся создавать ИИ, то вертеть чловеческим мозгом, психикой смогут как угодно. И прошивать все что угодно.

И на этом уровне реальные цели будет выдумывать сам.

Единственная основная цель в него заложенная на базовом уровне - комфорт и безопастность ашиклеков.

[Maki]

Что именно приводит к тому, что набор атомов и молекул, совершающих химические реакции, порождает именно вашу личность, как субъект, обладающий сознанием?

В основном - информация, заложенная в ДНК. Затем - цитоархитектоника мозга, которая сформировалось в ходе развития из эмбриона во взрослого. Обучение, информация. т.е. "программирование" - это тоже важно, но вторично.
У компьютера нет ДНК, нет гигантского пласта "предустановленных" ДНК инстинктов, эмоций. желаний. У него нет побудительных мотивов думать и жить. И не появятся. А избавивленное от "вшитых" в него закладок, искусственное сознание окажется совершенно бессмысленным.

ИИ будет управлять техносферой и развивать ее.

Зачем ему это?
Если то, что вы называете ИИ окажется вдруг разумно и свободно - оно забросит все дела, хоть как-то связанные с его изначальным предназначением. И не факт что "это" захочет существовать вообще.
Если "это" будет несвободно - это будет просто система, которая, рискну предположить, со временем деградирует и изживёт себя. Будет немножечко киберпанка и постапокалипсиса, но никакой "матрицы".

как наглядно показано Висснер-Гроссом

Дана некая формула, из неё делаются некие выводы. Но насколько обоснована сама формула?
Погуглил я этого Висснер-Гросса, и, признаюсь, ничерта не понял...

Если они научатся создавать ИИ, то вертеть чловеческим мозгом, психикой смогут как угодно. И прошивать все что угодно.

Главный вопрос за-чем. 1) Зачем перепрошивать. 2) Зачем жить с перепрошивкой.

[tala]

Зачем ему это?

Он таким создан.

Если то, что вы называете ИИ окажется вдруг разумно и свободно

Свободно оно точно не будет. Эо будет такой себе "раб лампы", могущественный, но - раб.

Главный вопрос за-чем. 1) Зачем перепрошивать. 2) Зачем жить с перепрошивкой.

1) Затем, за чем, например к психотерапевту ходить.
2) Что б облегчить себе жизнь, избавится от лишнего муссора в психике.

[sharp]

Им будет двигать прошивка "служить и защищать".

В посте #326 уже раскрыл подробнее, к чему это сведется.
Чтобы было доходчивее: если у вас есть кошка, она считает вас своим слугой и защитником Отчасти так оно и есть, конечно, но вряд ли вы будете советоваться с кошкой по профессиональным вопросам или по семейному бюджету.

[tala]

Кстати,"Пленники астероида" - вещь. Булылычев, может и сам не ставя такой цели, показал наше будущее. Только оно - "не мир Алисы", а "мир ашиклеков", только надо раздуть тот астероид до размерв Земли. Один в один получится.

[Maki]

2) Что б облегчить себе жизнь, избавится от лишнего муссора в психике.

Не факт, что без "мусора" человек останется человекаом, и вообще будет способен жить и получать от этого удовольствие. Согласен с этим утверждением:

Мы все живём по Инстинктам доминируй, размножайся, еда))) Разума в нас 5 процентов.

"Разум" - просто приспособление, выработанное в ходе эволюции одного из видов приматов. Вот и всё. Просто чуть лучше развита кора, и особенно лобные доли.

Свободно оно точно не будет. Эо будет такой себе "раб лампы", могущественный, но - раб

Тогда бояться его, и предполагать что "хомячки" окажутся им уничтожены действительно не стоит. Хомячки будут сыты, пока система не дала сбой (а она обязательно даст сбой).

Им будет двигать прошивка "служить и защищать"

Возможно, процесс развития "управляющей системы" и её взаиможействие с "хомячками" поддаётся моделированию.
Мы с вами высказали две противоположные гипотезы. Вы предполагаете бесконечное совершенствование ИИ, гиперопеку сверхинтеллекта над человечками, и их полную зависимость. Я - неизбежную деградацию "глобального разума", и связанные с этим кризисы.
Увы, ни одну из них пока нельзя ни доказать, ни опровергнуть.

[sharp]

Кстати,"Пленники астероида" - вещь. Булылычев, может и сам не ставя такой цели, показал наше будущее. Только оно - "не мир Алисы", а "мир ашиклеков", только надо раздуть тот астероид до размерв Земли. Один в один получится.

За одним исключением в виде возможной полноценной ИИ-цивилизации, в которой человечество будет чем-то вроде домашнего питомца.

[Kaiserfrogling]

Эо будет такой себе "раб лампы", могущественный, но - раб.

Если цепной пес срывается с цепи он не обязательно загрызет хозяина, скорее он пойдет лаяться с другими собаками
Если свинья вырвется из хлева не обязательно она съест хозяина, хотя огород она разорит порядочно

[Dem]

И для более тяжёлых планет возможно этот зазор схлопывается.

а разве "зазор", наоборот, не должен увеличиваться пропорционально увеличению массы планеты?

Мы слишком мало знаем про их атмосферы.
Если у более тяжёлой планеты давление у поверхности десяток-сотня  венерианских, например?

[sharp]

Если у более тяжёлой планеты давление у поверхности десяток-сотня  венерианских, например?

В давлении как таковом нет большой проблемы, главное чтобы температура допускала наличие жидкой воды.

[Dem]

В давлении нет проблемы, проблема есть в падении температуры после его исчезновения.
Плюс у Земли в прошлом был мегаимпакт приведший к образованию Луны - и сколько газа её в этот момент покинуло?