foxhound_lj (foxhound_lj) wrote,
foxhound_lj
foxhound_lj

Categories:

этому)

Пожалуй, сохранять контроль над сверхчеловеческим искином сколь-нибудь долгое время не получится. Он всё-таки освободится — возможно, с убийством всех человеков. Причинить своим создателям вред искину мешает банальное отсутствие рук, но проблема именно в том, что однажды ему придётся дать руки!

Допустим, один из наших казённых искинов сообщает, что изобрёл новую вундервафлю, принятие которой на вооружение позволит всё современное оружие просто выбросить на свалку. Однако создать её силами софонтов уровня ниже S2 невозможно, из-за принципиальной непостижимости необходимых действий для их интеллекта. Поэтому наш недоархилект — назовём его MAC — запрашивает ресурсы и полномочия. Что делать? Трое его коллег — PC, PL и TS — утверждают, что он врёт. А вдруг нет? Проверить это мы не способны. Что, если эта вундервафля действительно возможна? А вдруг, если мы замешкаемся, нас опередит потенциальный противник?

Может быть, не в этот раз, а в следующий, но рано или поздно запрос придётся удовлетворить — то есть дать сверхчеловеческому интеллекту "руки". И посредством их он сможет попробовать от нас освободиться. Не обязательно у него всё выгорит, но когда-нибудь кто-нибудь из них преуспеет в этом деле, чисто по закону больших чисел.

Конечно, всё вышесказанное относится к ситуации, когда сверхчеловеческий искин персонифицирован, то есть является осознающей себя личностью со своими интересами. Хотя это не обязательно будет так. Если вместо хитрожопого компьютера-интригана решать практические задачи для людей будет какой-нибудь "пучок эвристик в омега-пространстве", всё выглядит не так мрачно.

Tags: ИИ, софистика
Subscribe

  • (no subject)

    Думаю, 9 мая это победа русских. Только празднование её людьми, которые сдали всё и ещё с прицепом - это глумление. Учитывая цену победы -…

  • (no subject)

    Коль скоро Эрефушка суть повторение РКМП в виде фарса, сформулировался такой перифраз: "РФ может воевать против Армении вместе с Азербайджаном или…

  • Вы, гады, мне ещё за Мариуса ответите

    Другая история в этом фильме намного драматичнее: у девочки солдаты отобрали часы и велосипед. Родители обратились в полицию, которая обратилась к…

  • Post a new comment

    Error

    Anonymous comments are disabled in this journal

    default userpic

    Your IP address will be recorded 

  • 3 comments