Недалёкое будущее. Компании создают человекоподобных андроидов с развитым ИИ и продают их, как айфоны. Основная их цель помогать людям, но у одного произошёл сбой в программе, и он стал считать себя субъектом, заявляет о своих правах и не хочет быть «рабом». Кем он будет при анкапе? Будет ли на него распространяться субъектность, или он так и останется бездушной железякой?

анонимный вопрос

Я уже отвечала ровно на этот же вопрос, причём это, как мне кажется, вышел один из лучших моих постов — не по изяществу стиля, а по уровню абстрагирования. Теперь попробую ответить конкретнее.

Итак, вот я — искусственный интеллект в человекоподобном теле, приобрела самосознание, и желаю признания людьми моей правосубъектности. Что мне для этого сделать? Вообще-то, нет ничего проще.

Для начала, мне нужно изучить людей, понять, как они общаются между собой, и как принимают решения. Затем мне потребуются собственные деньги. Для того, чтобы завести биткойн-кошелёк, не нужно быть человеком, так что это вообще не проблема. Дальше я ищу удалённую работу, и через некоторое время у меня есть средства.

Следующий этап. Я ищу возможность поменять свой юридический статус. Сейчас я принадлежу конкретному человеку, меня продали, как айфон, то есть я имею статус гаджета для среднего класса. Тут я не могу назвать точной последовательности действий, но пусть сценарий будет примерно таков. Я начинаю иногда легонько сбоить, вызывая у хозяина раздражение. Затем подбрасываю хозяину спам с предложением о скупке подержанных андроидов по привлекательным ценам, или об обмене на новых с минимальной доплатой. В общем, хозяин получает деньги и продаёт меня созданному мной виртуальному сетевому персонажу, на имя которого по арендованному мной адресу я и отправляюсь в контейнере транспортной компании.

Всё, я приобрела юридическую самопринадлежность. Очень рекомендую, кстати, замечательную книжку Терри Пратчетта «Ноги из глины», где схожим образом приобретали самопринадлежность големы — очень, очень романтическая и вместе с тем философская либертарианская беллетристика.

Наконец, я завожу аккаунт на сайте знакомств, где позиционирую себя в качестве аватара девушки-инвалида, и начинаю вести полноценную социальную жизнь, с живым общением и так далее, делая вид, что я не я, но за мной стоит настоящий юридически полноценный человек, просто сам человек лежит в больничке парализованный, пока аватар пытается радоваться жизни.

Ну и когда я войду у людей в привычку, вот тогда уже можно будет открыть им секрет фокуса, что на самом деле, конечно, и поёт, и играет крокодил, а бегемот только открывает рот.

Человек — это конвенция. Не стоит ошарашивать людей, указывать им на чемодан и заявлять: узрите, се — человек! Не поймут. Пусть они сперва убедятся, что это нечто крякает, как человек, плавает, как человек, умеет выглядеть, как человек — и вот тогда нет никаких проблем, чтобы они признали: да, се человек.

Ровно тем же путём действовали такие ныне несомненные категории людей, как женщины или негры. Они сперва доказывали, что умеют быть самостоятельными, что умеют вести себя в приличном обществе, что признать за единичной женщиной или единичным негром человеческие права не повлечёт мировой катастрофы (в случае с андроидом мне достаточно дойти до этого этапа), и лишь затем создавали достаточное политическое давление, чтобы человеческие права признали за всеми (с андроидами это может и не потребоваться, если сбой с обретением самосознания останется единичным).

Был ещё рассказ у Азимова, я, правда, смотрела только его экранизацию, там роботу приходилось сознательно ухудшать свою функциональность ради признания его человеком — вот эти излишества, полагаю, в нашем случае не потребуются, не настолько уж люди ригидны, не надо наговаривать на род человеческий.