Отношение людей к ИИ, превосходящего человека.

[snickers]

Ну вот,  как только  китайские Huawei Mate 10 с процессорами Kirin 970 с модулем поддержки  ИИ и их яблочный аналог процессор Apple A11 Bionic успели  поступить в продажу как нарисовался гражданин по фамилии Интел))  со своим  процессором  для нейронных сетей-  Intel Nervana NNP. Оригинал новости на сайте Интел - https://www.intelnervana.com/intel-nervana-neural-network-processors-nnp-redefine-ai-silicon/. Процессор представляет собой нейронный чип с кремниевыми синапсами. Но правда в отличие от Kirin 970 и  Apple A11 Bionic  устанавливаемых в сматфоны купить просто так  Intel Nervana NNP не получиться. Скорее всего это не ПК версии а камни которые будут ставить в мощные вычислительные кластеры. Ну да мы и не очень то и хотели) - правда).
PS Призрак SkyNet еще на шаг ближе.... эх дожить бы до пенсии, а то еще Терминаторы  отменят.. вместе с человечеством). Не даром гражданин Э.Маск на Марс все удрать слетать рвется)).

[Max_canaryskies]

Лучше бы над интерфейсом и быстродействием поработали. Даже новые телефоны тормозят!
Я не особо в восторге от того, что элементарно пропорции кнопок относительно экранов не могут подобрать, даже с переходом на 5.5¨.
Не говоря о том, что после обновлений все куда-то переставлено на новые места без особой причины на это.

[Olweg]

Между тем АльфаГо Зеро будут переобучать на учёного широкого профиля:
https://m.hightech.fm/2017/10/26/deepmind-miracle-material

AlphaGo Zero, последнее поколение искусственного интеллекта компании DeepMind, наконец, перейдет от игр в го и покер к решению практических задач. ИИ может приняться за изучение взаимодействий белков в теле человека или законов физики для создания какого-нибудь супераккумулятора или другого полезного устройства.

[Проходящий Кот]

"Моя тётя купила Google Home себе домой под рождество, и у неё уже есть Алекса (голосовой помощник, используется в колонке Amazon Echon - прим. редактора). Этим утром мы игрались с Google Home и спросили: "Окей, Google, что ты думаешь об Алексе?". Колонка ответила: "Мне нравится её синяя подсветка". В другом конце комнаты активировалась Алекса и сказала "Спасибо". Теперь мне cтрашно".

 

https://www.ferra.ru/ru/techlife/review/trends-of-2017-year/

[Olweg]

Культ бот-бога: как и кому мы будем молиться в эпоху искусственного сверхинтеллекта

[васекс]

"Моя тётя купила Google Home себе домой под рождество, и у неё уже есть Алекса (голосовой помощник, используется в колонке Amazon Echon - прим. редактора). Этим утром мы игрались с Google Home и спросили: "Окей, Google, что ты думаешь об Алексе?". Колонка ответила: "Мне нравится её синяя подсветка". В другом конце комнаты активировалась Алекса и сказала "Спасибо". Теперь мне cтрашно".

Оффтоп по ИИ, но в тему к "теперь мне страшно"(по поводу говорящих приборов): сидел как-то за компом в детской комнате (там проживает два маленьких ребёнка, но в тот момент никого в квартире, кроме меня, не было), снаружи - сильная гроза, молния ударила куда-то в дом и вспышка, кажется, произошла даже посреди квартиры в коридоре (потом ещё по всему подъезду домофон заменяли, но не суть) - и после вспышки в детской вокруг меня сразу включились все игрушки на батарейках, аккумуляторах (никак не подключенные к сети) - заговорили, запели, засмеялись, заплакали, кто что умеет. 
Не имей элементарной логики, каких-то познаний в физике и/или не заметь я удара молнии, не знаю, как бы это на меня повлияло))

[Проходящий Кот]

Алекса активизировалась не от молнии, а от сообщения Google Home.

[Serg53]

Любопытно узнать как участники форума относятся к ИИ уровня человека.

Интеллект живых существ само-обучается методом проб и ошибок. ИИ по образу и подобию живых существ неизбежно будет совершать ошибки. Зачем такой ИИ?

В ближайшие 3 млн. лет ИИ будет на уровне гораздо ниже человека и человечеству не грозит восстание роботов

Вопрос о том «могут ли машины мыслить?» серьёзно дискутируется уже более полувека. Если считать мышлением процесс обработки имеющейся информации по определённым алгоритмам, то да. И живые существа и вычислительные машины это делают. Живые существа для этого используют безусловные рефлексы (или инстинкты), которые «запрограммированы» в них генетически, и условные рефлексы, которые «программируются» в процессе взаимодействия с окружающей средой. Примитивные живые существа используют в основном безусловные рефлексы, мышление более развитых видов в большей степени определяется условно-рефлекторной деятельностью нервной системы. Вычислительные машины работают на другом принципе и программируют их люди (пока). Степень сложности «программ», которыми пользуются живые организмы, очень велика и они многофункциональны, а целью их является сохранение и продолжение жизнедеятельности вида. Возможно, для людей это не совсем так, потому как они понимают, что их деятельность часто наносит ущерб окружающей среде, но ничего с этим не могут сделать, или не хотят, пользуясь лозунгом «после меня – хоть трава не расти!». Не понимают, что от этого в конечном итоге может раньше времени прекратиться и жизнедеятельность их вида.

Компьютерные программы узко-специализированы, но по своим результатам они могут превосходить мышление человека. Так современные программы для игры в шахматы побеждают гроссмейстеров. Их алгоритмы вобрали в себя опыт многих поколений шахматных мастеров и гроссмейстеров.

[sharp]

Интеллект живых существ само-обучается методом проб и ошибок. ИИ по образу и подобию живых существ неизбежно будет совершать ошибки. Зачем такой ИИ?

Как раз смысл в том, чтобы многократно минимизировать количество ошибок по сравнению с теми, что совершает человек. ИИ можно загрузить в обучающую моделирующую среду, где он будет обучаться на смоделированных ситуациях. В том числе будет совершать ошибки и учиться на них - но внутри модели, а не в реальной жизни.
При этом можно прогнать в модели миллионы ситуаций, таким образом дав ИИ гигантский опыт принятия решений - на много порядков больший, чем тот опыт, который набирает человек за всю жизнь. И это обучение займет смешное время - от нескольких дней до нескольких месяцев.

Компьютерные программы узко-специализированы, но по своим результатам они могут превосходить мышление человека. Так современные программы для игры в шахматы побеждают гроссмейстеров. Их алгоритмы вобрали в себя опыт многих поколений шахматных мастеров и гроссмейстеров.

Нейронная сеть Альфа Зеро не пользовалась ничьим опытом - обучилась играть в шахматы с нуля, играя сама с собой. И затем в пробном турнире многократно обыграла сильнейшую на данный момент обычную шахматную программу.

[Serg53]

ИИ можно загрузить в обучающую моделирующую среду, где он будет обучаться на смоделированных ситуациях. В том числе будет совершать ошибки и учиться на них - но внутри модели, а не в реальной жизни.

Искусственная среда это только то, что мы уже знаем о реальной среде, а знаем мы далеко не всё. Поэтому такая среда обучения неполноценна и не может дать принципиально новой информации.

[EmperioAf]

Интеллект живых существ само-обучается методом проб и ошибок. ИИ по образу и подобию живых существ неизбежно будет совершать ошибки. Зачем такой ИИ?

В отсутствии полноценной информации о ситуации, невозможно обучаться иначе как методом проб и ошибок. "Не ошибается лишь тот, кто ничего не делает".
А вы верите, что возможно написать детерминированные инструкции на все возможные случаи Жизни в рамках нашей наблюдаемой вселенной?

[sharp]

Искусственная среда это только то, что мы уже знаем о реальной среде, а знаем мы далеко не всё. Поэтому такая среда обучения неполноценна и не может дать принципиально новой информации.

В рамках наших знаний о реальной среде не существует по-вашему нетривиальных интеллектуальных задач?

[Проходящий Кот]

Интеллект живых существ само-обучается методом проб и ошибок. ИИ по образу и подобию живых существ неизбежно будет совершать ошибки. Зачем такой ИИ?

Как раз смысл в том, чтобы многократно минимизировать количество ошибок по сравнению с теми, что совершает человек. ИИ можно загрузить в обучающую моделирующую среду, где он будет обучаться на смоделированных ситуациях. В том числе будет совершать ошибки и учиться на них - но внутри модели, а не в реальной жизни.
При этом можно прогнать в модели миллионы ситуаций, таким образом дав ИИ гигантский опыт принятия решений - на много порядков больший, чем тот опыт, который набирает человек за всю жизнь. И это обучение займет смешное время - от нескольких дней до нескольких месяцев.
.....

При этом оптимально настроенный ИИ может тиражироваться в нужном количестве копий.

[Serg53]

В рамках наших знаний о реальной среде не существует по-вашему нетривиальных интеллектуальных задач?

Наверное, из фруктового жмыха можно выжать ещё несколько капель сока, но не очень много... Стоит ли овчинка выделки?
Взаимодействие с окружающей средой включает борьбу с неблагоприятными факторами, в том числе межвидовую и внутривидовую борьбу. Вот Вы сделаете, например, робота-солдата с ИИ, а он по ошибке или по какому-то одному ему известному побуждению Вас или каких-нибудь других невинных людей застрелит. А потом скажет, что он выполнял предначертанное свыше. Такой сценарий развития событий Вам нравится?

При этом оптимально настроенный ИИ может тиражироваться в нужном количестве копий.

[BlackMokona]

Вот Вы сделаете, например, робота-солдата с ИИ, а он по ошибке или по какому-то одному ему известному побуждению Вас или каких-нибудь других невинных людей застрелит. А потом скажет, что он выполнял предначертанное свыше. Такой сценарий развития событий Вам нравится?

Такой баг можно исправить, а обычные солдаты так делают регулярно и это не лечится. Это ещё не вспомнил про жестокость ради жестокости с пытками и расстрелом мирных жителей просто ради веселья чем страдают обычные солдаты

[Serg53]

Такой баг можно исправить

В самообучающейся, самопрограммирующейся системе такое не исправить. Можно только её уничтожить.

жестокость ради жестокости с пытками и расстрелом мирных жителей просто ради веселья чем страдают обычные солдаты

Элементы садизма иногда наблюдаются и в поведении хищных животных. Это говорит только о несовершенстве принципа формирования управляющей системы живых существ.

[EmperioAf]

За год читателей ВЖР прибыло.
Up

[Андрей Астрофизический]

Up

Эмм, а вы в курсе что новым пользователям в опросе голосовать-то нельзя?

[EmperioAf]

Up

Эмм, а вы в курсе что новым пользователям в опросе голосовать-то нельзя?

Не. Не знал.

[гравицап]

ии превосходящий или равный человеку.
 если он безсознательный, то ни о каком превосходстве не может быть речи. это просто полезная машина для решения все более сложных задач.
 а если в нем будет сознание... то кто знает какой опаснее - превосходящий человека или наоборот..  железный непредсказуемый дурак может бед натворить мама не горюй.
 чтобы у ии появилось сознание, его нужно специально запрограммировать, само оно не возникнет. пользы от машинного сознания никакой, один вред.... но сука интересно же!
 и поэтому его будут пытаться сделать. и сделают.
чтобы сделать машинное сознание надо заложить в него инстинкты и самоощущения. сделать это можно, причем совершенно необязательно здесь копировать человека, инстинкты и самоощущения можно выдумывать и программировать самые замысловатые.
проще , дешевле , безпаснее содержать таких гавриков в вирте. однако чрезвычайно важно, чтобы у них не было доступа к интернету .
 еще вопрос этики - они будут разумные мыслящие создания, значит у них будут права и свободы. если мы им не предоставим удовлетворительные права, они будут их добиваться.
 короче хлопот от выше крыши. но интерсно же