foxhound_lj (foxhound_lj) wrote,
foxhound_lj
foxhound_lj

Category:

Синтез

По поводу двух рассуждений о последствиях появления независимого сверхчеловеческого ИИ - этого и этого.

На самом деле между ними нет противоречия. Просто они описывают разные ситуации: в первом говорится о случае, когда человеческое государство независимо от ИИ, а во втором - о случае, когда государство полностью ему подконтрольно. Достаточно очевидно, что оптимальная стратегия ИИ в этих ситуациях будет различной.

Если государство подконтрольно ИИ, то ему выгоднее всего будет "ничтожество на престоле". При взаимодействии же с суверенным государством ИИ будет заинтересован в том, чтобы власть в нём принадлежала несумасшедшим интеллектуалам, которые хорошо себя контролируют в условиях стресса, привыкли сперва думать, а потом делать, и не склонны к совершению бессмысленных поступков и лишнего зла. Словом, в первом случае на троне выгоден "Роберт Баратеон" или "Эддард Старк", а во втором - "Петир Бейлиш" или "Доран Мартелл".

Остаётся открытым вопрос, какой же из типов отношений с людьми будет для ИИ предпочтителен: полный контроль над человеками (включая в том числе и "УВЧ" как предельный случай) - или взаимный суверенитет людей и машин. Я по этому поводу пока ничего не могу предположить.

Tags: ИИ, будущее, политика, софистика
Subscribe

  • (no subject)

    Ещё меня забавляет это Внезапное Открытие 2020 года — что-де мир управляется из одного центра. Людишки прозрели-с. "Никогда такого не было, и вот…

  • Эшли Бэбитт

    Выражаясь словами Беркеши: Тупая Пизда полезла в Непонятное и получила свою Награду.

  • (no subject)

    С одной стороны, гражданскую войну в США я бы приветствовал. В прошлый раз там были морские зарубы, и есть надежда, что в этот раз они тоже будут. И…

  • Post a new comment

    Error

    Anonymous comments are disabled in this journal

    default userpic

    Your IP address will be recorded 

  • 0 comments