Телескопы покупают здесь


Голосование

что может нас уничтожить?

искусственный интеллект
32 (4.7%)
серая слизь нанороботов
16 (2.3%)
биологическое оружие
25 (3.7%)
исчерпание ресурсов
65 (9.5%)
коллайдер
10 (1.5%)
падение астероида
58 (8.5%)
seti-атака
3 (0.4%)
иизвержение сверхвулкана
19 (2.8%)
гамма-всплеск
16 (2.3%)
отключение матрицы
27 (4%)
НЛО
8 (1.2%)
перенаселение
32 (4.7%)
ядерная война
139 (20.4%)
прекращение защиты, который нам давал антропный принцип
11 (1.6%)
вспышка на солнце
23 (3.4%)
потеря интереса
39 (5.7%)
ничего
73 (10.7%)
что-то другое
86 (12.6%)

Проголосовало пользователей: 634

A A A A Автор Тема: Вероятность гибели цивилизации в 21 веке  (Прочитано 401322 раз)

0 Пользователей и 1 Гость просматривают эту тему.

Оффлайн turchinАвтор темы

  • *****
  • Сообщений: 1 338
  • Благодарностей: 11
    • Сообщения от turchin
я думаю, одни проблемы имеют тенденцию снимать другие проблемы. Если биотехнологии достатончо разовьются, можно будет ещё при зачатии выбрать наиболее подходящий геном, как в фильме "Гатака" и без ошибок. думаю, возможно к 2050г, а за это время выродится все не успеют.
Структура глобальной катастрофы.
http://avturchin.narod.ru/sgk31short.doc

Оффлайн T101

  • *****
  • Сообщений: 4 693
  • Благодарностей: 71
  • Михаил
    • Сообщения от T101
Странно, что никто не упомянул такую опасность, как загрязнение генетического кода человека, его деградация и вырождение, в силу мутаций, вызванных проблемами окружающей среды, болезнями и практически полным отсутствием ныне естественного отбора среди людей.
...
Еще одно. Поскольку человек вроде как еще не вывалился из эволюционного процесса, как и все остальные виды, в будущем должен появиться новый биологический вид, потомок homo sapiens, который его неизбежно вытеснит.
Уже вывалился :) Тем более, для создания нового вида нужна изоляция - территориальная или другая. В эпоху всеобщей глобализации и информатизации об этом можно забыть. Куда реальнее искусственные изменения генома. Но мы все равно сейчас не угадаем, к чему это может привести.

Почему же вывалился? Почему по-вашему человек больше не эволюционирует биологически? Что этому мешает?
Понятно, что, мол де, за последние 50 - 100 тыс. лет гомо сапиенс физиологически почти не изменился. Но, это совсем небольшой срок, и это самое почти (все-таки есть изменения в размере мозга и т.д.) для такого малого срока - вполне нормальная эволюция, как мне кажется...
Фёдор Михайлович Достоевский:
— Ежели русский вам скажет, что не любит Родину, не верьте ему, он не русский.

Оффлайн T101

  • *****
  • Сообщений: 4 693
  • Благодарностей: 71
  • Михаил
    • Сообщения от T101
я думаю, одни проблемы имеют тенденцию снимать другие проблемы. Если биотехнологии достатончо разовьются, можно будет ещё при зачатии выбрать наиболее подходящий геном, как в фильме "Гатака" и без ошибок. думаю, возможно к 2050г, а за это время выродится все не успеют.
Футурологично. Сомневаюсь, что в 21 веке программировать геном будет возможно. В далеком будущем - все мжет быть.
Но даже в ближайшие 100 лет - "без ошибок" не получится. Без ошибок можно "Hello, World!" написать. Популярных операционных систем для смертных юзеров без ошибок нету. Чем сложнее система, тем она менее устойчива и тем больше ошибок содержит. По крайней мере рукотворная. Запрограммировать геном без ошибок - без искусственного интеллекта, который, как говорилось в первом сообщении темы, тоже может нас убить  ;D (в чем я лично сомневаюсь), сложно представить. Да и с ним тоже.
Кстати. Отойду чуть в сторону. По поводу искусственного интеллекта (ИИ). Во-первых, ничего он нам плохого не сделает, если будет жить на каком-нибудь одиноком кластере, физически изолированном от окружающего мира. Во-вторых, кто вообще сказал, что ИИ получится "умнее" нашего? Системы, построенные на искусственных нейронных сетях показывают сильное снижение вычислительной производительности по мере усложнения. Что как раз отражает и человеческий интеллект: с большими аналитическими способностями, вычислительные очень слабы. Посему у нас будет либо супермегакалькулятор, либо некоторое подобие человека со вполне заурядными возможностями. По крайней мере сейчас в экспертных и им подобных системах на ИНС незаурядные способности реализуются только для специфических задач. Отвлекся.

Так вот. Полностью управлять геномом с помощью генной инженерии вряд-ли получится в обозримом будущем. Разве что в обозримом в бинокль или даже телескоп. А до 2050 года надеюсь научимся управлять отдельными генами, но не перебирать генетечиский код любого человека как нам захочется. Следует учесть, что даже когда научимся, пройдет еще очень много времени, прежде чем технология станет общедоступной, как удаление аппендицита.

Еще есть предположение (чисто умозрительное), надеюсь, меня поправят, если я неправ, например  Nucleosome. Заключается оно в следующем. Может быть, возможны ситуации, когда ошибки в геноме непоправимы. Т.е. когда исправление одного дефекта у эмбриона неизбежно порождает другой дефект и наоборот.
Т.е. что-то мне вообще не верится в безошибочный генетический код, тем более рукотворный.
Фёдор Михайлович Достоевский:
— Ежели русский вам скажет, что не любит Родину, не верьте ему, он не русский.

Оффлайн turchinАвтор темы

  • *****
  • Сообщений: 1 338
  • Благодарностей: 11
    • Сообщения от turchin
ИИ при достижении некоторого уровня сложности может начать соверщенствовать сам себя. Это как критическая масса урана - пока она не достигнута - всё хорошо. А потом счёт идёт на мгновения.

его враждебность может быть случайной - например, дали команду доказать теорему римана. А он переделал на это всё вещество солнечной системы под вычислительные мощности.

Если мы сможем получать информацию из коробочки с ИИ, то он с её помощью будет на нас влиять, и может вырваться.

отджельные сбои в геноме не вредят геному как целому. тем более он уже записан и можно вернуться назад. А вот если все начнут клонировать гениев и красавцев себе в качестве детей...
Структура глобальной катастрофы.
http://avturchin.narod.ru/sgk31short.doc

Оффлайн T101

  • *****
  • Сообщений: 4 693
  • Благодарностей: 71
  • Михаил
    • Сообщения от T101
ИИ при достижении некоторого уровня сложности может начать соверщенствовать сам себя. Это как критическая масса урана - пока она не достигнута - всё хорошо. А потом счёт идёт на мгновения.
Пока таких технологий нет. Самообучение систем на ИНС, с учителем или без - это не самосовершенствование в широком смысле. Это, грубо говоря, подгонка некоторых конфигурационных коэффициэнтов в зависимости от получаемых результатов. В простейшем изложении. Примитивно достаточно. Да и все существующие системы страдают неунивирсальностью, но специализацией. Для начала было бы неплохо создать универсальную систему, чтобы хоть чем-то на нас было похоже. А вот самосовершенствование такой системы - это следующая ступень, плюс процесс довольно долгий. Опять же, если получится. Не исключено, что самосовершенствование и обучение такой системы будет происходить не быстрее, чем у человека. И вряд-ли при таком раскладе от этого вообще будет польза. Если человек построит алгоритм повышения "умственных способностей", так воспользуется им сам для саморазвития. И никаких копий себя в железе для этого не надо.

его враждебность может быть случайной - например, дали команду доказать теорему римана. А он переделал на это всё вещество солнечной системы под вычислительные мощности.
Не давать ему возможности манипуляций над никаким веществом. Вообще никаких манипуляторов не давать. Я же сказал: полная физическая изоляция. Ибо нефиг.

Если мы сможем получать информацию из коробочки с ИИ, то он с её помощью будет на нас влиять, и может вырваться.
Если физически изолировать, то никуда он из коробочки не выпрыгнет и в форточку не улизнет. Самое страшное, что может сделать - обмануть с результатом поставленой ему задачи. Решение - не давать слишком ответственных задач и перепроверять, возможно другими такими системами. Для безопасности, им о существовании друг-друга лучше не знать.

отджельные сбои в геноме не вредят геному как целому. тем более он уже записан и можно вернуться назад. А вот если все начнут клонировать гениев и красавцев себе в качестве детей...
Отдельные сбои - это не то, о чем я говорил. Отдельные сбои замечательно исправляются без участия человека, иначе бы передохли все давно. Я говорю о накоплении их и приобретении систематического характера.
Я вообще думаю, что это чинить мы научимся, но не в 21 веке. И все же пугает то, что из процесса естественного отбора человек вывалился. Из эволюции в целом - считаю, что нет. И надеюсь на ответ уважаемого Olweg'а.
« Последнее редактирование: 25 Фев 2007 [22:21:57] от T101 »
Фёдор Михайлович Достоевский:
— Ежели русский вам скажет, что не любит Родину, не верьте ему, он не русский.

Оффлайн Olweg

  • *****
  • Сообщений: 15 349
  • Благодарностей: 400
    • Сообщения от Olweg
Планеты других звёзд. История открытий
http://allplanets.ru/history_Olweg.htm

Оффлайн Olweg

  • *****
  • Сообщений: 15 349
  • Благодарностей: 400
    • Сообщения от Olweg
Отдельные сбои - это не то, о чем я говорил. Отдельные сбои замечательно исправляются без участия человека, иначе бы передохли все давно. Я говорю о накоплении их и приобретении систематического характера.
Я вообще думаю, что это чинить мы научимся, но не в 21 веке. И все же пугает то, что из процесса естественного отбора человек вывалился. Из эволюции в целом - считаю, что нет. И надеюсь на ответ уважаемого Olweg'а.
Некоторые генетические болезни сейчас уже лечатся. Хотя речь пока что не о переделке генома, конечно. Проверить, что произойдет, если добавить один ген и убрать другой, можно пока только экспериментально. Но если возможность - техническая - усовершенствовать наследственность ребенка появится, неужели ею не воспользуются?
Планеты других звёзд. История открытий
http://allplanets.ru/history_Olweg.htm

Оффлайн T101

  • *****
  • Сообщений: 4 693
  • Благодарностей: 71
  • Михаил
    • Сообщения от T101
Конечно воспользуются. Ну, для лечения болезней. Конечно, на изменение видовых признаков и т.п. запрет какой-нибудь введут. Просто вряд-ли эта технология станет общедоступной и эффективной против ВСЕХ генетических заболеваний до 22 века.
Olweg, только я вас собственно хотел спросить не об этом, а по поводу сообщения №42 (https://astronomy.ru/forum/index.php/topic,24489.msg451469.html#msg451469)
Фёдор Михайлович Достоевский:
— Ежели русский вам скажет, что не любит Родину, не верьте ему, он не русский.

Nucleosome

  • Гость
Ох! Тут оказывается такое движение было пока я ужинал! ;). Хочется всем ответить, но что-то цитировать не охота - муторно. :) Буду писать так.  :) Прошу меня извинить. (И хорошо вобще, что T101 повернул тему - действительно надоели уже военные угрозы T101 - респект!)
Честно, вопрос про мутации я понял не до конца, связано это, наверное с тем, что молбиологи вносят в слова "генетический код" совершено опредлённый смысл - это всего лишь таблица перевода триплетов РНК (которая копия ДНК) в аминокислоты - и ничего более. Но я так понял вопрос что можт ли быть мутация, действие которой не может быть скомпенсировано. Да, конечно, может, если не брать 100% летальные мутации, то это могут быть мутации в генах Hox - которые управляют (точнее заведуют) пространсвенной организацией тела, и мутации в них приводят к отсутвию или наоборот удвоению частей тела... Сиамские близнецы - это не то, это просто не до конца разделившийся эмбрион. Там уроды "покруче" бывают - с одним глазом, с разветвлёнными конечностями, у мух там нои вместо антенн и так далее...
Менять кусок генома в принцыпе возможно уже сейчас (генная терапия), но это получается пока не очень хорошо, да и встречает сопротивление с "этической" точки зрения. Однако, ИМХО, люди никогда не будут заказывать детей - хочу что бы был с теми способностями, с такой-то внешностью... Просто потому, что это будет уже не их ребёнок, а хочется своё, родное - ведь не просто так когда ребёнок рождается спрашивают - а на кого похож? Это ж имеет такие глубокие корни, что и представить себе трудно - ещё с первобытного океана идут :). То есть исправления возможных дефектов будут, и это как раз может снять другую проблему: накопление большого числа мутаций в современном человечестве. Человек ещё не выпал из этого - хотя бы потому, что половой отбор ещё никто не отменял: то есть у человеку с дефектами труднее оставить потомство, чем без них - потому как труднее найти пару, поэтому я против этих... банков спермы - они снимают уже и этот барьер, тем самым способствую вырождению, а так если женщина не смогла найти отца для детей, то и нефиг :) популяцию загрязнять своими стервозными (или ещё какими) генами. ;D . А вообще проблема, я вслед за Т101 думаю, серьёзная, половй отбор справляется с ней плохо, нередко создавая перкосы, (чем он вообще грешен порой не только у людей). Но всё-таки к 2050 году планировать геном детей будет ещё нельзя - между тем, что написано на геноме и тем, что за организм получается (сколько у него будет ручек) - в наших нынешних знаниях лежит пропость с такими мелкими, разрозненными островками по ней летающими и пока что исследуя это только закидывают туда удочку... Да и потом - не только один геном и среда опредляют облик существа, ещё есть эпигенетика - изучает она то, что наследуется, но не через ДНК, область и вовсе туманная...
Кстати, человек всё же несколько эволюционировал в последние 50, и тем более 100 тыс. лет, наверное в основном в плане интелекта, так что когда появился имено такой, какой сейчас сказать сложно.
Искуственный интелект... честно, я немного не понимаю, зачем это. точнее - если там сделать машину, которая вооружённая подобный интелектом например собирала бы апельсины или мыла бы туалеты (то есть выполняла бы то, что считается грязной работой, но машины толком делать этого не умеют), то и неплохо, но копию самого себя, ещё и конкурирующую за вою среду обитания - зачем???!!! Зачем затрачивать усилия на то, что и так есть? То есть эти интелекты следует с самого начала ограничить функционально. кстати, а вот почему системы показывают снижение вычислительных способностей при возрастании аналитических? То есть какова причина этого?
ИМХО, что человечеству может угрожать в ближайшее время - это какие-нибуть паразтиы типа вирусов, а может и не вирусов. Люди, особенно в развитыхх странах довольно неплохо изгнали их с себя (правда вирус гриипа неплохо гуляет, и достаточно безобидный клещ демодекс тоже) то есть сделали новую нишу для иных форм, которые рано или поздно но появятся - эволюция - ведь те, что остались используют человека очень слабо... Ну птом у разума могут появится конкуренты, которых мы благополучно проморгаем, занятые своими внутренними проблемами. И что это может быть - тоже остаётся только догадываться...

Оффлайн Olweg

  • *****
  • Сообщений: 15 349
  • Благодарностей: 400
    • Сообщения от Olweg
Мне все-таки кажется (могу ошибаться), что эволюция - процесс ступенчатый. Вот появился вид и существует миллион лет  почти без изменений. Потом какая-то популяция оказалась в изоляции, и начали накапливаться изменения. Особенно если условия существования отличаются. Ну, собственно человеческие расы были где-то на пути к образованию разных видов, но разделились они слишком недавно. Сейчас же начинается глобальное перемешивание, так что для новых видов никаких шансов.
Правда, человек действительно изменялся под влиянием образа жизни - изменения в геноме, например, появились после перехода к земледелию (сейчас уже не помню, что именно), но не слишком значительные (по крайней мере, так считается).
Планеты других звёзд. История открытий
http://allplanets.ru/history_Olweg.htm

Оффлайн turchinАвтор темы

  • *****
  • Сообщений: 1 338
  • Благодарностей: 11
    • Сообщения от turchin
Уважаемый T101!

Хочется напомнить в связи с рисками ИИ историю расщепления ядра:

1932 резерфорд - невозможно использовать атомную энергию
1939 - открытие цепной реакции
1942 - запуск реактора Ферми
1945 - бомба.

Конечно, мы не занем, как сделать самосоверщенствующися АИ. Если бы мы знали, мы бы здесь уже не сидели. Возможно, его нельзя сделать. Но предострожность заставляет предполагать, что можно. авторы из сингуярити институт предплагают, что цепная реакция его усиления будет измеряться в единицах часов или недель.

опять же - можно обмануть ребёнка по телефону и заставить пустить грабителей в дом. так же и ИИ в коробке может выдвать себя за барашка. Чем мощнее ИИ, тем более тонкий канал связи с внешним миром он может использовать для достижения своих целей.

при этом сделать его дружественным надо до его самоусиления, а не после. после будет невозможно.
Структура глобальной катастрофы.
http://avturchin.narod.ru/sgk31short.doc

Оффлайн Olweg

  • *****
  • Сообщений: 15 349
  • Благодарностей: 400
    • Сообщения от Olweg
Как сделать дружественным то, что невозможно полностью оценить? А насчет канала связи - ИИ для того и будет создаваться, чтобы анализировать некие процессы (или управлять ими). Создаваться он будет не для развлечения, а под какие-то конкретные задачи, в условиях, скажем, экономической конкуренции. Так что опасность существует, но она мне тоже кажется сильно преувеличенной. Поживем-увидим :)
Планеты других звёзд. История открытий
http://allplanets.ru/history_Olweg.htm

Nucleosome

  • Гость
Мне все-таки кажется (могу ошибаться), что эволюция - процесс ступенчатый. Вот появился вид и существует миллион лет  почти без изменений.
Всё дело в "почти" - какие-то крупные изменения происходят,в озможно скачкообразно - это оргазм колбасит - причём неподецки ;D, потом он находит себя, мутации, которые приводят с слишком большим приемуществам индивидумов не делается - потому как все такие возможные уже фиксировались, и он начинает тихо жить - и живёт так долго - порой по многу миллионов лет, потом порой вымирает - обычно тихо - выживает у него всё меньше и меньше потомства, а нужной мутации нет как нет -  и всё, или если есть мутация, то может быть и новый вид, но в течении этих миллинов лет, всё же эволюция его идёт: что-то мелкое фиксируется, накапливается понемногу...
Потом какая-то популяция оказалась в изоляции, и начали накапливаться изменения. Особенно если условия существования отличаются. Ну, собственно человеческие расы были где-то на пути к образованию разных видов, но разделились они слишком недавно. Сейчас же начинается глобальное перемешивание, так что для новых видов никаких шансов.
Так перемешивание расс, но человеческие индивидумы не свободноскрещиваемые - то есть у случайно выбранного мужчины не ранвые шинсы женится и оставить детей от ста случайно выбранных женщин, или наоборот, и те особенности по которым он выбирает наверняка имеют генетическую составляющую... Поэтому поле для видообразования есть, кроме того вид может так плавно превратится в другой...
Правда, человек действительно изменялся под влиянием образа жизни - изменения в геноме, например, появились после перехода к земледелию (сейчас уже не помню, что именно), но не слишком значительные (по крайней мере, так считается).
Да, наверное это было самое сильное эволюционное изменение в последнее время: тогда резко те, кто занимался землиделием начали лучше выживать, и вытеснять охотников и собирателей, кроме того это ещё был конец ледникового периода. потом, кстати, примерно тыщь пять лет назад был пик межледниковой эпохи и очень может быть что это подняло производительность труда, что толкнуло людей в сторону обработки металлов, создания городов и государств - тоже наврняка были эволюционные изменения...
Кстати, забыл написать в предыдущем сообщении: к 2050 году можно будет, наверное, быстро и недорого считывать весь геном человека и тогда можно будет выявлять генетические дефекты у эмбионов на самой ранней стадии и делать им микроаборты, оставляя только здоровых. Правда, тогда оплодотворение придётся делать только в пробирке.

Оффлайн T101

  • *****
  • Сообщений: 4 693
  • Благодарностей: 71
  • Михаил
    • Сообщения от T101
Nucleosome, благодарю за ответ.
По поводу "почему системы показывают снижение вычислительных способностей при возрастании аналитических? То есть какова причина этого?" могу ответить коротко: такая архитектура. Не предназначена она для математических вычислений, но для аналитики. Почитайте про искусственные нейронные сети, если интересно.

Olweg, по поводу эволюции человека. Тут вообще споры ведутся давно. Но. Не только же изоляция ведет к эволюции. Так же изменения среды обитания, мутации разного рода, помнится, ув. Дмитрий Вибе приводил ссылку на статью о том, что заражение бактериями и возможно др. микроорганизмами может оказывать существленное влияние на эволюцию зараженного организма, в т.ч. и спровоцировать новый ее виток.
То, что рассы перемешиваются - это социальный процесс, не биологический. Кстати. Вот давеча рассказывали бибиси: один-единственный вид рыбки, попавший в замкнутое озеро, через какое-то время привел к образованию огромного числа новых видов (в том же самом озере).

turchin , считаю, что аналогия с расщеплением ядра неуместна. Это из другой песни. С тем же успехом можно сказать:
цатый г.до н.э. - время повернуть вспять нельзя
2007 г. до н.э. - время повернуть вспять нельзя
Цитата
что цепная реакция его усиления будет измеряться в единицах часов или недель.
Вот это мне и сомнительно. Система, универсальная настолько, чтобы осознавать природу происходящих вещей, себя, человека и окружающую действительность, построенная на известных нам сейчас принципах (ИНС, с которыми работают уже несколько десятилетий - первые используемые в промышленности экспертные системы еще в 70-х прошлого века появились) будет иметь "скорость мысли" не сильно больше человеческой. Во-вторых, как справедливо упоминалось, совершенно непонятно ее назначение. Зачем нам такая система? Чем плохи существующие? Да, они специализируются на конкретных задачах, ну и замечательно!
А все, что мы по кр. мере сейчас можем сделать: эмулятор человеческого мозга. Это предел. Но работать он, увы, сильно быстрее оригинала не сможет, равно как и совершенствоваться и т.д. Тут либо принципиально новый подход и НОВЫЙ разум, либо никак.

По поводу обмана - я вам уже приводил решение проблемы: не давать слишком ответственных задач и дублировать это другими подобнами системами, сравнивать ответ.
Но. Опять же, не вижу смысла вообще создавать ИИ для этого. Проще, надежнее, безопаснее, дешевле и сердитее разработать еще одну экспертную систему, заточенную под необходимую задачу.

Делать его дружным ни до, ни после самоусиления не надо. Его вообще делать не надо, вот мое мнение. Т.к. цена вопроса того не стоит. Везде можно обойтись штатными средствами так сказать.

Фёдор Михайлович Достоевский:
— Ежели русский вам скажет, что не любит Родину, не верьте ему, он не русский.

Оффлайн T101

  • *****
  • Сообщений: 4 693
  • Благодарностей: 71
  • Михаил
    • Сообщения от T101
ИИ для того и будет создаваться, чтобы анализировать некие процессы (или управлять ими). Создаваться он будет не для развлечения, а под какие-то конкретные задачи, в условиях, скажем, экономической конкуренции.
Так в том-то и дело, что то, о чем вы написали - это не ИИ в широком смысле слова. Это специализированные системы ИИ, такие как упомянутые мною выше экспертные и т.п. И такие системы еще в 70-е годы не только разрабатывались, но и использовались в промышленном масштабе. Например для анализа собранных данных с целью поиска (определением вероятных мест)  залежей полезных ископаемых. Сейчас это к примеру аналитика по разработке органических соединений для лекарств, шахматы, машинки, обучающиеся проезжать лабиринт, не врезаясь в стены и т.п. Но каждая система такая только лишь умеет то, для чего создана, способна обучаться в том смысле, чтобы со временем давать все более правильные и лучшие результаты и всё. И никакой это не ИИ. Т.е. в них о самосознании и т.п. и речи не ведется. Это обычные программы на необычной архитектуре, только и всего. Никакого вреда от них нету.
Я вот и толкую о том, что только подобными системами всё и ограничится. Безо всяких самосознаний и свободных волеизъявлений. Ни к чему это всё попросту.
« Последнее редактирование: 25 Фев 2007 [23:11:20] от T101 »
Фёдор Михайлович Достоевский:
— Ежели русский вам скажет, что не любит Родину, не верьте ему, он не русский.

Оффлайн turchinАвтор темы

  • *****
  • Сообщений: 1 338
  • Благодарностей: 11
    • Сообщения от turchin
http://www.singinst.org/ourresearch/publications/cognitive-biases.pdf

продолжаю читать статью о том, как ошибки в мышлении приводят к недооценки рисков. произвела впечатление фраза:

Events to which subjects assigned a probability of 2% happened 42.6% of the time.

В результате исследований достоверности суждений людей по большой выборке выяснилось следующее: события, которые по мнению людей, имеют вероятность в 2 процента, случаются 42,6 процентов случаев.

Потому, при всё уважении к мнению оппонентов, призываю их оценить вероятность того, что они недооценивают некоторые факторы.
Структура глобальной катастрофы.
http://avturchin.narod.ru/sgk31short.doc

Оффлайн Olweg

  • *****
  • Сообщений: 15 349
  • Благодарностей: 400
    • Сообщения от Olweg
Т101, да, я согласен. Для порабощения Земли нужна хорошая мотивация. Но мы так мало знаем о самосознании. Может быть, оно появляется при определенной сложности системы. Впрочем, и совершенно безмозглая гадюка может причинить человеку вред намного больший, чем все экспертные системы вместе взятые :) Так что аналогии тут, скорее всего, действительно не прокатывают. Все дело в "инстинктах", заложенных в софт. Но если начнется автоэволюция ИИ, конечный результат непрогнозируем, а чем сложнее система, тем больше вероятность появления в ней глюков (вспомните психоз ЭВМ в Космической Одиссее 2001 - результат действия двух взаимоисключающих команд).
Планеты других звёзд. История открытий
http://allplanets.ru/history_Olweg.htm

Оффлайн Olweg

  • *****
  • Сообщений: 15 349
  • Благодарностей: 400
    • Сообщения от Olweg
Так перемешивание расс, но человеческие индивидумы не свободноскрещиваемые - то есть у случайно выбранного мужчины не ранвые шинсы женится и оставить детей от ста случайно выбранных женщин, или наоборот, и те особенности по которым он выбирает наверняка имеют генетическую составляющую... Поэтому поле для видообразования есть, кроме того вид может так плавно превратится в другой...
А может ли?.. Если только условия жизни снова резко поменяются. Вообще же естественный отбор действует скорее стабилизирующе, отсеивая совсем уж нежизнеспособные варианты. В этом и проблема - у людей отбор очень слабый, и генетическое разнообразие ширится (включая и патологии).
Планеты других звёзд. История открытий
http://allplanets.ru/history_Olweg.htm

Оффлайн T101

  • *****
  • Сообщений: 4 693
  • Благодарностей: 71
  • Михаил
    • Сообщения от T101
turchin, Olweg, я тоже с вами согласен, что такую возможность (создание и бунт ИИ) исключать полностью нельзя.  Но, что такого ужасного он мог бы нам сделать? Во-первых, его саморазвитие не будет неограниченным в силу ограниченности железа, на котором он живет. Если он не имеет физического доступа к другому железу, к каким-либо манипуляторам, и ему не дают очень ответственных задач (система жизнедеятельности на космической станции т.п.), то большой опасности он не представляет.
Если же эти условия не выполняются, то, согласен, может быть хуже. Но, как справедливо было сказано, это будет конец нашей цивилизации и начало новой. Цивилизации ИИ. Если пофантазировать, он затем сможет создать себе подобных (если захочет), они могут начать и друг с другом конфликтовать и вообще может быть что угодно. И может быть, высадившись на экзопланету, мы обнаружим там цивилизацию ИИ. Но, это уже совсем далеко я забрел.

Действительно, что такое самосознание - толком непонятно. Все-таки думается, что если все же ИИ будет создан, то вряд-ли случайно. С другой стороны, как ведут себя сложные программные системы пока понятно (слава Богу) :) А неопределенное поведение системы, сбой, ошибка - ну тут и без ИИ могут быть проблемы.
В общем, не думаю, что ИИ может погубить человечество, потому как не уверен в том, что он вообще будет создан, не уверен в том, что же это такое будет и что вообще такое И (интеллект), сознание и т.д. Однако неопределенное поведение информационных систем может натворить бед, это я согласен.

Что же еще может погубить цивилизацию - это как писал Nucleosome, постепенное угасание из-за ряда различных нефатальных по отдельности причин.
Фёдор Михайлович Достоевский:
— Ежели русский вам скажет, что не любит Родину, не верьте ему, он не русский.

Оффлайн T101

  • *****
  • Сообщений: 4 693
  • Благодарностей: 71
  • Михаил
    • Сообщения от T101
Так перемешивание расс, но человеческие индивидумы не свободноскрещиваемые - то есть у случайно выбранного мужчины не ранвые шинсы женится и оставить детей от ста случайно выбранных женщин, или наоборот, и те особенности по которым он выбирает наверняка имеют генетическую составляющую... Поэтому поле для видообразования есть, кроме того вид может так плавно превратится в другой...
А может ли?.. Если только условия жизни снова резко поменяются. Вообще же естественный отбор действует скорее стабилизирующе, отсеивая совсем уж нежизнеспособные варианты. В этом и проблема - у людей отбор очень слабый, и генетическое разнообразие ширится (включая и патологии).
Да, тут я более склонен согласиться с Olweg ом. Такие факторы, как преждевременная смерть в процессе естественного отбора (жертва хищников, болезни, голода, морозов и т.д.) для человека уже почти не работают. Разве что, смерть при родах (в основном, паталогии, не совместимые с жизнью). То, о чем пишет Nucleosome, это уже социальный процесс и не очень четко регулируемый. Не все люди с генетическими заболеваниями не оставляют потомства.

Кстати, в тему эволюции по причине изоляции. Колонии на других планетах и в космосе тоже могли бы наверное привести как минимум к новым расам, а может и к новым видам.
Фёдор Михайлович Достоевский:
— Ежели русский вам скажет, что не любит Родину, не верьте ему, он не русский.