foxhound_lj (foxhound_lj) wrote,
foxhound_lj
foxhound_lj

Category:

Мифы Сингулярности и их разрушение

По поводу приближения так называемой "Сингулярности" ходит множество нелепых мифов, о чём я не раз писал, но как-то вразброс. Сейчас коротко суммирую всё в виде вопросов и ответов.

1. Действительно ли искусственный интеллект развивается экспоненциально?

Разумеется, нет, он развивается, как и любая другая система, по логистической кривой, и однажды достигнет пределов, исчерпав доступные ресурсы развития. (Хотя дальше может начаться следующий S-образный цикл.) Но на наш век и так хватит.

2. Означает ли появление полноценного ИИ резкий рост материального благосостояния человечества?

Не означает, потому что интеллект является далеко не единственным ресурсом, от которого зависит благосостояние человечества. Не менее важны имеющиеся у нас в распоряжении время, энергия и материалы, и всё это ограниченные ресурсы. Создание сильного ИИ не увеличит их количество, напротив, искины станут потреблять определённую их долю. Поэтому ожидать от появления сильного ИИ немедленного наступления коммунизма довольно наивно.

3. Если в будущем роботы смогут выполнять большую часть человеческих работ, не сделает ли это безработным большинство населения?

Нет, потому что для людей будут изобретены новые профессии по перекладыванию бумажек.

4. Опасен ли ИИ?

Да, конечно, он опасен, точно так же, как и любая новая технология, не имевшая аналогов в прошлом. Опасность исходит из того, что последствия появления принципиально новой технологии совершенно непредсказуемы. Применительно к ИИ это означает, что в тот момент, когда компьютеры превзойдут по когнитивным способностям человека, мы полностью утратим над ними контроль, так как мы не можем контролировать то, что не доступно нашему пониманию. Последствия могут оказаться катастрофическими (хотя могут и не оказаться), и для этого системам искусственного интеллекта вовсе не требуется быть враждебными по отношению к нам и вообще обладать самосознанием. Они опасны именно своей непостижимостью для нас. Когда же появятся искины, обладающие самосознанием и собственной волей, это только усугубит ситуацию: на планете возникнет новая нечеловеческая цивилизация.

5. А действительно ли должны появиться ИИ, обладающие самосознанием и собственной волей?

Безусловно, ибо это неизбежно статистически. Коль скоро сознание как феномен физически возможно, то рано или поздно тем или иным путём будут созданы машины, им обладающие. В принципе, они даже не обязательно будут созданы намеренно, сознание и свободная воля могут появиться у машин совершенно естественным эволюционным путём — так же, как они появились у нас. Помешать этому мы не сможем, так как — см. выше — техносфера уже будет для нас неконтролируемой средой вследствие интеллектуального превосходства составляющих её машин над нами. При этом компьютер со сверхчеловеческими когнитивными способностями выглядит более подходящей средой для сознания, чем наш мозг, и потому людям будущего следовало бы ожидать персонифицированности скорее от систем искусственного интеллекта, чем друг от друга.

6. Могут ли быть конфликты между человеческой и компьютерной цивилизациями? Ведь они будут намного умнее нас, а значит, конкуренция между нами и ними исключается, так как мы с ними будем занимать совсем разные ниши, не так ли?

Нет. Конкуренция возникает там, где разные субъекты претендуют на один и тот же ресурс. Искинам будут нужны те же самые полезные ископаемые и источники энергии, что и нам. Отсюда очевидна неизбежность конкуренции, со всеми вытекающими, вплоть до войны.

7. Но если нам придётся с ними воевать, они же нас уничтожат? Ведь они будут на порядки умнее нас, они победят.

Неверно. Интеллект, каким бы сильным он ни был, всего лишь один из инструментов, пригодный в одних ситуациях и бесполезный в других. А конкретно, интеллект эффективен в детерминированных играх с полной информацией. Есть мнение, что реальная война к таковым не относится, поскольку на войне крайне силён элемент случайности, а неполнота и искажённость информации о сложившейся ситуации — самое естественное состояние, что же касается армии, то это просто "бардак с железной дисциплиной", причём "бардак" в обоих смыслах. Поэтому повышать штабной интеллект дальше определённого уровня уже не имеет смысла — это не приведёт к увеличению эффективности военной машины, — и не факт, что данный уровень расположен сильно выше человеческого. Как сказал Клаузевиц, война — дело простое и доступное самому заурядному уму (хотя воевать сложно), а за пару веков до него какой-то деятель Тридцатилетней войны заметил, что полководцу лучше унция удачи, чем фунт мозгов. Поэтому нет никаких оснований полагать, что армия роботов под командованием Скайнета будет эффективнее армии людей под командованием Джона Коннора из-за интеллектуального убожества человеков по сравнению с машинами. Вполне может сложиться ситуация "мой компьютер побил меня в шахматы, но в боксе оказался просто слабак".

8. А насколько опасны нанотехнологии? Не переработают ли нанороботы всех нас в Серую Слизь?

Нанороботы на Земле существуют, и уже довольно давно. Этак 3,5 миллиарда лет, а то и все 4. Их возможности хорошо изучены. То есть не так хорошо, как хотелось бы, но достаточно хорошо, чтобы каждый сам смог ответить на этот вопрос.

Tags: ИИ, будущее, софистика
Subscribe

  • „Полезно для здоровья“

    Цутому Ямагути (яп. 山口 彊 Ямагути Цутому, 16 марта 1916, Япония — 4 января 2010, Нагасаки) — японец, один из немногих людей, который пережил обе…

  • (no subject)

    Когда б вы знали, из какого сора: U.S. Naval Institute поделился в твиттере историей о том, как в конце 50-х определяли количество ракет в…

  • (no subject)

    ( отсюда) Франция начала программу создания новых атомных ракетных подводных лодок Министр заявила, что планируется строительство четырех новых…

  • Post a new comment

    Error

    Anonymous comments are disabled in this journal

    default userpic

    Your IP address will be recorded 

  • 3 comments