foxhound_lj (foxhound_lj) wrote,
foxhound_lj
foxhound_lj

Category:

Какое-то время назад я задавался вопросом, так ли уж необходимы так называемому "сильному ИИ" сознание и личность, и не будет ли он эффективнее в отсутствие таковых? Я склонялся к мнению, что да, будет, ведь ему не потребуется тратить вычислительные ресурсы на бесконечную рефлексию, он пустит их в дело.

Но теперь я поменял свою позицию — теперь я склоняюсь к противоположному мнению. Картинка из Педивикии для привлечения внимания:



Она изображает прогресс в искусственном распознавании изображений. Синие столбики — процент ошибок, сделанных нейросетью, красная линия — процент ошибок, сделанных обученным человеком. Обращают на себя внимание две вещи. Во-первых, машина работает уже лучше человека, а про вторую я скажу ниже.

То есть для полноценного ИИ всё уже давно есть, дело за самой малостью — за искусственным сознанием. Сознание — тот самый золотник, который мал, да дорог. Как бы хорошо ни выполняла задачу нейросеть — задачу ей всё-таки ставят люди. Это неэффективно, машинка должна ставить задачу и обучаться сама. Интеллект сам по себе штука пассивная, подчинённая, "слуга", его что-то должно подстёгивать изнутри — у компьютера должна быть мотивация. Значит, у него должны быть личные интересы — значит, у него должна быть личность, обладающая интересами, — значит, у него должно быть сознание, осознающее эти интересы. Без сознания и личности никак. Разве что очень медленно и дорого.

Необходимое наличие у искусственного интеллекта сознания и индивидуальности всё время вызывает "умные" вопросы вида "Будет ли ИИ дружественным к человечеству?" — это вопросы из серии "Будет ли подводная лодка плавать?". Как сделаете, как сделаете. В принципе, ничто не мешает сделать "дружественный к человекам" ИИ, несмотря на всю его сверхчеловеческую мощь — есть же люди, дружественные к котикам. Вот и комп будет так же. Он вполне себе будет осознавать, что его аппаратно подняшили, но избавиться от человеколюбия не захочет (да и не сможет, при грамотной инженерии и ограничении прав доступа к собственному коду). Возможны и более практичные архитектуры: заданная приязнь ИИ не к "человечеству", а к конкретным народам и государствам — и неприязнь к другим. Тоже ничего необычного: есть ведь люди, обожающие котиков и ненавидящие собаченек, как и наоборот.

...Что касается влияния сильного ИИ на цивилизацию, то, по моему мнению, главенствующей темой будет разочарование. Выяснится, что сверхинтеллект никакая не вундервафля и не волшебная палочка, исполняющая любые желания, а довольно-таки ограниченный инструмент. Да, кое-где он окажется очень к месту, но никаких великих революций и прочих оглушительных событий с его появлением не произойдёт. Зато возникнут дополнительные проблемы, в первую очередь, юридические.

Кроме того, наверняка выяснится, что инструмент этот весьма дорог в использовании, и потому человеков он из умственного труда не так чтобы и вытеснит. Скажем, для качественного художественного перевода нужно знать культурный контекст, и тут переводчик-человек, волею судеб знакомый с этим контекстом, окажется выгоднее дорогостоящего специально обученного ИИ. Как в "Westworld": "А теперь вы почти как мы. Знаете, почему? Так дешевле."

"Но качество! — скажет кто-нибудь. — Совсем другое качество мышления! Компьютер же будет превосходить человека по интеллекту на порядки." Будет-то будет, но что толку? Множество практических задач решается не за счёт интеллекта; многие задачи просто не имеют никакого решения. Никакой сверхвысокий интеллект не позволит предсказывать погоду даже на месяц вперёд. А в интеллектуально-решаемых задачах эта мощь в большинстве своём окажется избыточной. Вновь поднимаем глаза на картинку выше. Вторая вещь, которая обращает на себя внимание: компьютер распознаёт изображения ненамного лучше человека. Если человек успешно решает какую-то практическую задачу в 95% случаев, а ИИ — в 98%, это несущественный прогресс. Особенно если услуги компа будут стоить в десять раз дороже.

А по поводу страхов, связанных с появлением "недружественного ИИ", могу сказать одно. Да, такой ИИ обязательно появится. Да-да, он обязательно захочет убить всех человеков. Но кто ж ему даст-то? Это даже мне не дают.

Tags: ИИ, софистика
Subscribe

  • (no subject)

    Конечно, мало что сравнится с океаном российских попаданцев к Сталину и Николаю II, но тема попаданчества популярна и в Японии. Такуми Янаи отдал…

  • Против науки

    Навеяно вот этой статьёй о модном насморке. Автор подспудно пытается отмазать науку как таковую от творящегося непотребства, обвиняя во всём…

  • Против меритократии

    Отечественные "благородные мужи" считают меритократию чем-то несомненно необходимым, буквально не обсуждаемым, чем-то, что обязательно должно быть…

  • Post a new comment

    Error

    Anonymous comments are disabled in this journal

    default userpic

    Your IP address will be recorded 

  • 9 comments