foxhound_lj (foxhound_lj) wrote,
foxhound_lj
foxhound_lj

Category:

Синтез

По поводу двух рассуждений о последствиях появления независимого сверхчеловеческого ИИ - этого и этого.

На самом деле между ними нет противоречия. Просто они описывают разные ситуации: в первом говорится о случае, когда человеческое государство независимо от ИИ, а во втором - о случае, когда государство полностью ему подконтрольно. Достаточно очевидно, что оптимальная стратегия ИИ в этих ситуациях будет различной.

Если государство подконтрольно ИИ, то ему выгоднее всего будет "ничтожество на престоле". При взаимодействии же с суверенным государством ИИ будет заинтересован в том, чтобы власть в нём принадлежала несумасшедшим интеллектуалам, которые хорошо себя контролируют в условиях стресса, привыкли сперва думать, а потом делать, и не склонны к совершению бессмысленных поступков и лишнего зла. Словом, в первом случае на троне выгоден "Роберт Баратеон" или "Эддард Старк", а во втором - "Петир Бейлиш" или "Доран Мартелл".

Остаётся открытым вопрос, какой же из типов отношений с людьми будет для ИИ предпочтителен: полный контроль над человеками (включая в том числе и "УВЧ" как предельный случай) - или взаимный суверенитет людей и машин. Я по этому поводу пока ничего не могу предположить.

Tags: ИИ, будущее, политика, софистика
Subscribe

  • Желания исполняются

    Дарвинистское Вообще-то такое повеление (всем повеситься под страхом расстрела) неплохо бы издать. Дабы устранить слишком, нездешне…

  • Гав'вавва шем'Ха'наан

  • (no subject)

    Так, просто в копилку мандоэффектов. Два примера с изменением текстов. Первый — Пол Андерсон, "Государственная измена". "Офицеры-артиллеристы,…

  • Post a new comment

    Error

    Anonymous comments are disabled in this journal

    default userpic

    Your IP address will be recorded 

  • 0 comments