Раса суперлюдей или ИИ

[Felis]

Простите, что из перечисленного является препятствием?

Три основных группы:
1. Что такое Разум и Интеллект?
2. Какие константы ИИ должен мониторить и на основании каких перенастраиваться?
3. Каким образом мы сможем получать внятную для нас интерпретацию результата?

1. Привести определения из энциклопедии? Или это вечный унылый вопрос о природе Сознания? Я не верю в волшебство и прочие чудеса. Феномен сознания не должен быть чем-то необъяснимым и/или непознаваемым. И имитировать человеческое сознание в точности никто не собирается – как никто не пытается строить грузовые махолеты с перьями и клювом.
2. А какие константы мониторит развивающийся человеческий разум, перенастраиваясь в процессе формирования/взросления/научения и т.д.?
3. Человеческим языком. Подразумевается, что ИИ разумен, обучается языкам и может выдать данные в форме, доступной человеку. Впрочем, для этого как раз хватает и неразумной программы. Хорошо знать и главное – понимать язык ИИ должен именно для диалога с человеком, а не для вывода данных.

[алексей12345]

Вряд ли сильный ИИ представляет угрозу для человека. Мы же не стерли животных с лица Земли. (ну, истребили немало видов по глупости, а сейчас спасаем те, что остались)
Человек приручил животных, которые (например волки->собаки) живя с человеком "занимаются" более сложными задачами, чем в природе. И заменять собак на машины мы не собираемся.
Допустим, ИИ настолько же умнее человека, насколько человек умнее собаки.
Человек будет нужен ИИ, чтобы выполнять задачи, к которым он приспособлен лучше машин. И это будет не рабский труд, ведь для тупой механической работы машины эффективнее. И за разумный труд система должна разумно платить – удовлетворять потребности человека. Глупо уничтожать миллиарды разумных существ, если с ними можно построить взаимовыгодные отношения.
Цивилизация планеты Земля будет состоять не из одних х.сапиенс, а из людей+ИИ. Возможно, люди будут каким-то образом "улучшены", но не станут заменой ИИ. И не будет задаваться вопрос зачем ИИ нужен людям. Сегодня не задается вопрос зачем нужны китайцы, русские, американцы и т.д. всем остальным?

Жутковатую картинку я себе представил.
На чем основан Ваш оптимизм относительно того, что ИИ не представляет угрозы для человека? На надежде в то, что если мы поменяемся ролями с собаками, с нами ничего плохого не случится? Смею напомнить, что собаки в наше время используются для опытов, на них возят поклажу и нарты, их на цепь сажают, собачьи бои, да и в конце концов, их иногда едят. Не всем собачкам достается на атласной подушечке возлежать.
Я, к примеру, не желаю, чтобы мою судьбу определял какой-то там ИИ. И для детей, и для правнуков не хочу этого.
К тому же есть понятие мораль. Что такое мораль для ИИ? Целесообразность? Эффективность? Но это не одно и то же. С точки зрения целесообразности, к примеру, окажется что если человек заболел, или потерял кондицию (возраст, болезнь), то целесообразно его уничтожить. Да и такому количеству людей как уже сейчас, может не оказаться места в будущем симбиозе с ИИ, если таковой вообще возможен.
ИИ можно рассматривать как вирусную версию человеческого мышления, лишенного эмоций. Как поведет себя этот вирус, учитывая определенные преимущества перед человеком, представить сложно. Мне по крайней мере.

[stuuvi]

ИИ можно рассматривать как вирусную версию человеческого мышления, лишенного эмоций.

Без эмоций выйдет буриданов осёл. Потому что рационально решить к примеру почему стоит идти на одну работу а не на другую нельзя, если в итоге зарплата и условия труда схожи. Почему надо развиваться а не деградировать? Рационального объяснения нет, есть эмоциональное. Почему больше возможностей хорошо, а меньше хуже? Опять ничего рационального. Не будет эмоций нам же лучше, будет зомби способный быстро считать и выдавать какой то результат.

[Константин ВАРБ]

1. Привести определения из энциклопедии?

Понятно. Проблем значит нет.

[Felis]

Жутковатую картинку я себе представил.
На чем основан Ваш оптимизм относительно того, что ИИ не представляет угрозы для человека? На надежде в то, что если мы поменяемся ролями с собаками, с нами ничего плохого не случится? Смею напомнить, что собаки в наше время используются для опытов, на них возят поклажу и нарты, их на цепь сажают, собачьи бои, да и в конце концов, их иногда едят. Не всем собачкам достается на атласной подушечке возлежать.

Человек не может поменяться ролями с собакой. Он не может приносить пользу в роли собаки. Нюх не тот, да и... 
Человек использует их выгодные способности. Нюх, выносливость, преданность.
У человека есть свои способности. У человека есть разум, язык, изобретательность/инсайт. Глупо возить на людях поклажу.
Оптимизм мой основан на том, что сверхразум будет во многом лучше нас. Разумнее. Кто-то ест собак, кто-то когда-то ел людей. Но человечество умнеет...

Я, к примеру, не желаю, чтобы мою судьбу определял какой-то там ИИ. И для детей, и для правнуков не хочу этого.

Судьбу многих сейчас определяют монстры похуже – всевозможные политические и бюрократические симбиозы паразитов и дегенератов.
При этом, все согласны, чтобы ими управляла сотня-другая идиотов, но все боятся, чтобы власть получил кто-то более разумный.

ИИ можно рассматривать как вирусную версию человеческого мышления, лишенного эмоций. Как поведет себя этот вирус, учитывая определенные преимущества перед человеком, представить сложно. Мне по крайней мере.

ИИ нельзя рассматривать так или иначе, поскольку его пока нет. Почему Вы считаете, что он будет иметь именно такие характеристики? Даже насчет эмоций - нельзя с абсолютной уверенностью говорить, что их не будет.

ИИ можно рассматривать как вирусную версию человеческого мышления, лишенного эмоций.

Без эмоций выйдет буриданов осёл. Потому что рационально решить к примеру почему стоит идти на одну работу а не на другую нельзя, если в итоге зарплата и условия труда схожи. Почему надо развиваться а не деградировать? Рационального объяснения нет, есть эмоциональное. Почему больше возможностей хорошо, а меньше хуже? Опять ничего рационального.

Согласен!

Не будет эмоций нам же лучше, будет зомби способный быстро считать и выдавать какой то результат.

А вот это плохо. У меня в армии такой подчиненный был. Хотелось вместо него иметь разумного коллегу. 

1. Привести определения из энциклопедии?

Понятно. Проблем значит нет.

Проблемы есть. Но непреодолимых ни за что и никогда – нет.

[Инопланетянин]

ИИ не будет, не может занимать ту же нишу. И конкурировать будет не больше, чем человек конкурирует за ресурсы с тараканами.

Здорово. То есть, он нас выводить дихлофосом будет как мы тараканов?
Кстати, уже не тараканов, а муравьёв. Вытеснили старых паразитов новые конкуренты.

[Felis]

ИИ не будет, не может занимать ту же нишу. И конкурировать будет не больше, чем человек конкурирует за ресурсы с тараканами.

Здорово. То есть, он нас выводить дихлофосом будет как мы тараканов?
Кстати, уже не тараканов, а муравьёв. Вытеснили старых паразитов новые конкуренты.

Разве что за то, что люди о нем судили по себе...
Паранойя торжествует. Пойду отдохну от форума, пока тут не начали дихлофосом брызгать...

[алексей12345]

Судьбу многих сейчас определяют монстры похуже – всевозможные политические и бюрократические симбиозы паразитов и дегенератов.
При этом, все согласны, чтобы ими управляла сотня-другая идиотов, но все боятся, чтобы власть получил кто-то более разумный.

Вы знаете,  я согласен относительно того, что система управления, существующая сегодня, чаще аморальна, чем наоборот. Но мы понимаем, как жить в этой системе взаимоотношений. Мы привыкли к ней, как к простуде. Теми, кто "сверху", управляет та же мотивация, что и теми, что "внизу" в общих чертах. Какова будет мотивация ИИ, пока вообще не понятно, но она должна быть. Иначе это не интеллект. Мы и с собственным смыслом жизни разобраться не можем, а с иным...
Я не против ИИ в целом, но нужны жесткие рамки его деятельности. Нельзя надеяться, что он исправит наши грехи. А если и так, что не наделает своих.

[stuuvi]

В целом я считаю что попробовать вести эксперименты и пытаться вырастить что то более совершенное было бы интересно. Однако общество до этого ещё не доросло. Когда человек рождается без ног например, он ещё не знает что он урод. Это общество ему затем уже объясняет и он чувствует себя неполноценным, опираясь на общепринятые "ценности". Когда он не неполноценный, он просто такой, но мог быть другим. Да, родился таким. Надо принять его и ему принять себя таким какой он есть. В сегодняшнем варианте общества пытаться экспериментировать над человеком аморально по отношению к тому, что получится в результате эксперимента. А ведь может получиться и урод. Вот по отношению к этому уроду - неприемлемо вести такие эксперименты. Если бы общество могло принимать, то думаю проблемы бы такой не было.

[Okub62]

Конечно интересно, вообще существует много интересных игрушек. Как обезьяна с гранатой
 - распилю-ка я ее.
- а вдруг взорвется?
- фигня, у меня еще есть.

[jet]

По поводу "к звёздам полететь", хотелось бы подробностей, и чем он сможет помочь.

Любое теоретически возможное путешествие человека к звёздам из-за больших расстояний и ограниченности доступной скорости межпланетного корабля является фактически путешествием в один конец.
Поэтому лететь имеет смысл только к тем звёздам, возле которых мы гарантированно можем найти обиталище.
А чтобы выяснить этот  вопрос, сначала придётся к звезде послать необитаемый межзвёздный аппарат.
А так как дистанционное управление таким аппаратом на таком удалении (минимум несколько световых лет) фактически невозможно, то без ИИ не обойтись.

Ну, с этим не спорю. И сейчас КА с автоматикой вполне справляются с изучением планет, Марса например. Но это будет тот же "слабый" ИИ.
Возможно, через 30-50 лет создадут что то принципиально прорывное на основе наноассемблеров-как продолжение технологии 3D печати, или "конструктивного облака". Тогда да, изучить близлежащие системы возможно. Но.
 Временной лаг не дает шансов на такие проекты. И об этом покорители соседних звездных систем скромно умалчивают. Как и ожидание перспективных технологий так же сдерживающий фактор.
Какой смысл сейчас запускать КА к звездам, на основе сег технологий, если завтра предполагается намного более прорывная? А ее еще необходимо отработать. И это "завтра" отодвигается бесконечно...
Тезисно и кратко изложил, надеюсь, можете развенчивать мои мифы.

[shuricos]

Возможно, через 30-50 лет создадут что то принципиально прорывное

А никто пока о направлении зондов к звёздам речи не ведёт. И ближайшие лет 100 навряд ли соберётся.
Насчёт временного лага между пуском зонда и получением хоть каких-то результатов согласен. Но тут, полагаю, пойдёт проторенным путём: зонд исследует что-то в Солнечной системе, что будет заявлено главной целью миссии, оправдывающей затраты, а полёт к соседней звезде будет представлен как "бесплатный бонус".

[алексей12345]

Какой смысл сейчас запускать КА к звездам, на основе сег технологий, если завтра предполагается намного более прорывная? А ее еще необходимо отработать. И это "завтра" отодвигается бесконечно...
Тезисно и кратко изложил, надеюсь, можете развенчивать мои мифы.

А вот и не буду ничего развенчивать.
Вполне возможно, что вопросы, которые ставятся перед экспедицией, обитаемой или нет, к моменту ее прибытия назад, будут давно решены иными способами.
Есть вариант, что к тому времени эти вопросы просто перестанут быть актуальными. Этот вариант был описан в классической фантастике, не помню к сожалению кем. Смысл в том, что космонавты вернулись на Землю через тысячу лет, а их никто не встречает. Точнее, людей полно, но никому нет дела до героев, все заняты текущими делами, и никто не понимает, кто такие космонавты, и зачем они туда летали. Вот такая грустная история...
Впрочем, это не отменяет необходимости космических исследований, даже если часть из них не принесет конечного результата.
п.с. Нашел. Повесть С. Лема "Возвращение со звезд".

[BlackMokona]

Польза от ИИ неисчислима , куда не ткнись он нужен. Хоть к звёздам полететь

По поводу "к звёздам полететь", хотелось бы подробностей, и чем он сможет помочь. В чем он справится лучше с чем не справится обычный человеческий. Думаете, ИИ просто туда сам слетает что ли, или что ?

хоть блондиночку развлечь

Т.е. обычного интеллекта вам уже не достаточно для этого? Тогда он (ИИ) вам точно не пригодится...

1.Таки он может быть куда меньше и крепче людей, не говоря о возможностях сверх интелекта.
2.Таки не круглые же сутки 24 на 7

[jet]

1.Таки он может быть куда меньше и крепче людей, не говоря о возможностях сверх интелекта.
2.Таки не круглые же сутки 24 на 7

Это нетипичная проблема типичного чёрного ящика. Есть такие математические решения которые  никто не может понять, кроме самих авторов, например доказательство abc-теоремы, отрывок оттуда в одной из глав:
«разработке арифметической версии теории Тейхмюллера для цифровых полей ограниченных эллиптической кривой… с помощью применения теории полуграфов анабелиоидов, фробениоидов, эталь тета-функций и логарифмических оболочек»
Что нибудь поняли?  Так вот, и никто никрена не понял.
Готовы ли вы общаться на таком языке? Нет, 100% вы не готовы.
Т.о. вам, как и 99,999% людей сильный ИИ не нужен.
Даже если бы он был, вы не сможете грамотно сформулировать ему таких задач.
Они у вас (задачи) сильно ограничены, вот только не надо пжлст выдавать фантазии за постановку задачи, это не одно и тоже...
А если даже часть математиков и напрягется сформулируют, то не в состоянии будут понять ее решение ИИ.

[Okub62]

Понятное дело, большинство людей эту задачу сформулировали бы куда проще - сколько воды прольется мимо чашки, если ее с маху плеснуть туда из чайника. Или как-то так.
И ответ ожидают в соответствующем ключе, без теоремы Кюхельбекера.

[jet]

Понятное дело, большинство людей эту задачу сформулировали бы куда проще - сколько воды прольется мимо чашки, если ее с маху плеснуть туда из чайника. Или как-то так.
И ответ ожидают в соответствующем ключе, без теоремы Кюхельбеккера.

abc теорема, вернее, на то время гипотеза, как постановка задачи очень проста для понимания даже школьником.
Можете в википедии посмотреть.
Но вот решение потребовало вводить новые уникальные авторские методы. Разобраться с которыми может уйти не один десяток лет, возможно, веков.
Спрашивается, нафиг вам нужен ИИ в таком случае?
Есть объяснение этого парадокса который я сформулировал и уже обсуждался в теме.
https://astronomy.ru/forum/index.php/topic,122707.100.html

[Okub62]

Мне-то он в любом раскладе не нужен, свой девать некуда, но некоторые люди почему-то по ИИ страдают.

[stuuvi]

Спрашивается, нафиг вам нужен ИИ в таком случае?

Для развлечений и игр. Думаете не потянет?

[jet]

Спрашивается, нафиг вам нужен ИИ в таком случае?

Для развлечений и игр. Думаете не потянет?

Легко, даже слабый ИИ. Есть куча игр где шансов  выиграть у вас даже против калькулятора слабенького ПК  нет.
Опять вопрос. Нафига вам ИИ?