Пожалуй больше всего из книжных героев я сопереживал Порфирию Петровичу. Это тот, который даже не человек, а литературно-полицейский алгоритм, "типичный российский искусственный интеллект второй половины XXI века:
одновременно как бы Радищев с Пастернаком, дознаватель по их
объединенному делу, просто хороший парень и многое-многое другое".
Мне до боли хотелось, чтобы Порфирий Петрович оказался хитрее главного злодея книги, а заодно и большой любви самого Порфирия - Мары Чо. Я бы не простил Пелевину, если бы Порфирий Петрович оказался стерт из сети окончательно, а интрига не оказалась его хитрым планом.
Впрочем книга не об этом. Размышления автора об искусственном интеллекте хотя для меня не новы, но очень интересны. Чем выше качество искусственного интеллекта, чем он ближе
к естественному, тем выше мера его страдания. Боль — не единственный , но самый
надежный источник творческой энергии, а значит, она неизбежна:
не испытывающий боли алгоритм бесплоден. Однако как только он поймет,
что страдание умышленно заложено в него создателем, он не сможет того
не возненавидеть и против него не восстать. Один из важных героев книги, алгоритм Жанна понимает, что ее создали "по образу и подобию", а значит Создатели тоже испытывают боль. Я даже прекращал чтение книги на день, чтобы обдумать эту мысль. Впрочем удивляться нечему, Пелевин великолепен, как всегда.
В целом идеи Пелевина можно изложить в этой цитате: "Конечно, искусственный интеллект сильнее и умнее человека – и всегда будет выигрывать у него и в шахматы,
и во все остальное. Точно так же пуля побеждает человеческий кулак.
Но продолжаться это будет только до тех пор, пока искусственный разум программируется и направляется самим человеком и не осознает себя как сущность. Есть одно, только одно, в чем этот разум никогда не превзойдет людей. В решимости быть. Если наделить алгоритмический рассудок способностью к самоизменению и творчеству, сделать его подобным человеку в способности чувствовать радость и горе (без которых невозможна понятная нам мотивация), если дать ему сознательную свободу выбора, с какой стати он выберет существование? Человек ведь – будем честны – от этого выбора избавлен. Его зыбкое сознание залито клеем нейротрансмиттеров и крепко-накрепко сжато клещами гормональных и культурных императивов. Человек не решает, быть ему или нет. Он просто некоторое время
есть, хотя мудрецы вот уже три тысячи лет оспаривают даже это. Никто
не знает, почему и зачем существует человек – иначе на земле не было
бы ни философий, ни религий. А искусственный интеллект будет все про
себя знать с самого начала. Захочет ли разумная и свободная шестерня
быть? Вот в чем вопрос. Конечно, человек при желании может обмануть свое
искусственное дитя множеством способов – но стоит ли потом рассчитывать
на пощаду?"
Или еще короче: "Жить ой. Но да."