foxhound_lj (foxhound_lj) wrote,
foxhound_lj
foxhound_lj

Category:

Синтез

По поводу двух рассуждений о последствиях появления независимого сверхчеловеческого ИИ - этого и этого.

На самом деле между ними нет противоречия. Просто они описывают разные ситуации: в первом говорится о случае, когда человеческое государство независимо от ИИ, а во втором - о случае, когда государство полностью ему подконтрольно. Достаточно очевидно, что оптимальная стратегия ИИ в этих ситуациях будет различной.

Если государство подконтрольно ИИ, то ему выгоднее всего будет "ничтожество на престоле". При взаимодействии же с суверенным государством ИИ будет заинтересован в том, чтобы власть в нём принадлежала несумасшедшим интеллектуалам, которые хорошо себя контролируют в условиях стресса, привыкли сперва думать, а потом делать, и не склонны к совершению бессмысленных поступков и лишнего зла. Словом, в первом случае на троне выгоден "Роберт Баратеон" или "Эддард Старк", а во втором - "Петир Бейлиш" или "Доран Мартелл".

Остаётся открытым вопрос, какой же из типов отношений с людьми будет для ИИ предпочтителен: полный контроль над человеками (включая в том числе и "УВЧ" как предельный случай) - или взаимный суверенитет людей и машин. Я по этому поводу пока ничего не могу предположить.

Tags: ИИ, будущее, политика, софистика
Subscribe

  • (no subject)

    Да, замутить опрос, что ли...

  • (no subject)

    В Норвегии у привившихся американской вакциной Pfizer женщин начала расти грудь — Этти? Надо чаще мыть.

  • Ыыы

    Эрдоган намерен озвучить послание для всего мира Президент Турции Реджеп Тайип Эрдоган в июле посетит самопровозглашенную Турецкую Республику…

  • Post a new comment

    Error

    Anonymous comments are disabled in this journal

    default userpic

    Your IP address will be recorded 

  • 0 comments