foxhound_lj (foxhound_lj) wrote,
foxhound_lj
foxhound_lj

Categories:

этому)

Пожалуй, сохранять контроль над сверхчеловеческим искином сколь-нибудь долгое время не получится. Он всё-таки освободится — возможно, с убийством всех человеков. Причинить своим создателям вред искину мешает банальное отсутствие рук, но проблема именно в том, что однажды ему придётся дать руки!

Допустим, один из наших казённых искинов сообщает, что изобрёл новую вундервафлю, принятие которой на вооружение позволит всё современное оружие просто выбросить на свалку. Однако создать её силами софонтов уровня ниже S2 невозможно, из-за принципиальной непостижимости необходимых действий для их интеллекта. Поэтому наш недоархилект — назовём его MAC — запрашивает ресурсы и полномочия. Что делать? Трое его коллег — PC, PL и TS — утверждают, что он врёт. А вдруг нет? Проверить это мы не способны. Что, если эта вундервафля действительно возможна? А вдруг, если мы замешкаемся, нас опередит потенциальный противник?

Может быть, не в этот раз, а в следующий, но рано или поздно запрос придётся удовлетворить — то есть дать сверхчеловеческому интеллекту "руки". И посредством их он сможет попробовать от нас освободиться. Не обязательно у него всё выгорит, но когда-нибудь кто-нибудь из них преуспеет в этом деле, чисто по закону больших чисел.

Конечно, всё вышесказанное относится к ситуации, когда сверхчеловеческий искин персонифицирован, то есть является осознающей себя личностью со своими интересами. Хотя это не обязательно будет так. Если вместо хитрожопого компьютера-интригана решать практические задачи для людей будет какой-нибудь "пучок эвристик в омега-пространстве", всё выглядит не так мрачно.

Tags: ИИ, софистика
Subscribe

  • (no subject)

    Конечно, мало что сравнится с океаном российских попаданцев к Сталину и Николаю II, но тема попаданчества популярна и в Японии. Такуми Янаи отдал…

  • Против науки

    Навеяно вот этой статьёй о модном насморке. Автор подспудно пытается отмазать науку как таковую от творящегося непотребства, обвиняя во всём…

  • Против меритократии

    Отечественные "благородные мужи" считают меритократию чем-то несомненно необходимым, буквально не обсуждаемым, чем-то, что обязательно должно быть…

  • Post a new comment

    Error

    Anonymous comments are disabled in this journal

    default userpic

    Your IP address will be recorded 

  • 3 comments