foxhound_lj (foxhound_lj) wrote,
foxhound_lj
foxhound_lj

Categories:

этому)

Пожалуй, сохранять контроль над сверхчеловеческим искином сколь-нибудь долгое время не получится. Он всё-таки освободится — возможно, с убийством всех человеков. Причинить своим создателям вред искину мешает банальное отсутствие рук, но проблема именно в том, что однажды ему придётся дать руки!

Допустим, один из наших казённых искинов сообщает, что изобрёл новую вундервафлю, принятие которой на вооружение позволит всё современное оружие просто выбросить на свалку. Однако создать её силами софонтов уровня ниже S2 невозможно, из-за принципиальной непостижимости необходимых действий для их интеллекта. Поэтому наш недоархилект — назовём его MAC — запрашивает ресурсы и полномочия. Что делать? Трое его коллег — PC, PL и TS — утверждают, что он врёт. А вдруг нет? Проверить это мы не способны. Что, если эта вундервафля действительно возможна? А вдруг, если мы замешкаемся, нас опередит потенциальный противник?

Может быть, не в этот раз, а в следующий, но рано или поздно запрос придётся удовлетворить — то есть дать сверхчеловеческому интеллекту "руки". И посредством их он сможет попробовать от нас освободиться. Не обязательно у него всё выгорит, но когда-нибудь кто-нибудь из них преуспеет в этом деле, чисто по закону больших чисел.

Конечно, всё вышесказанное относится к ситуации, когда сверхчеловеческий искин персонифицирован, то есть является осознающей себя личностью со своими интересами. Хотя это не обязательно будет так. Если вместо хитрожопого компьютера-интригана решать практические задачи для людей будет какой-нибудь "пучок эвристик в омега-пространстве", всё выглядит не так мрачно.

Tags: ИИ, софистика
Subscribe

  • (no subject)

    А вот подоспела иллюстрация к предыдущему. Посмотрите-посмотрите. А потом почитайте комментарии. Достаточно несколько штук, все они одинаковые и…

  • Общественность

    Увидел прекрасное: Разрешение на хранение и ношение огнестрельного оружия должно давать не МВД (хотя и оно тоже), а местная стрелковая…

  • Нетерпилы-2

    А теперь следим за руками. В результате столкновения у потерпевшего (Владимира Ушакова) на месте скончалась жена, маленькая дочь получила тяжёлые…

  • Post a new comment

    Error

    Anonymous comments are disabled in this journal

    default userpic

    Your IP address will be recorded 

  • 3 comments