Недавно вышел ролик Максима Каца про Давос и закат «долгого мира». И знаете, там прозвучала мысль, от которой у любого нормального человека (и особенно либертарианца) начинают шевелиться волосы. Конечно же, Максим не является нашим союзником по своим политическим взглядам, но всё же умеет хорошо разбирать актуальные проблемы, а потому мы будем учитывать его рассуждения. Ведь он справедливо замечает: то, что мы называем «правами человека» – это, по сути, системный баг, аномалия.
Свой ролик он начинает с указания на то, что война уже давно как не является просто бойней между солдатами – научно-технический прогресс дошёл до того момента, когда стало возможным стирание целых городов с лица Земли. Идея, что человечество может просто самоуничтожиться в результате ещё одной войны, перестала быть фантастической и приняла форму реального риска. Политические элиты, видевшие Вторую мировую, поняли: ещё один раунд мы не вывезем. Ответом было создание так называемого «международного права» и концепции «прав человека», просто чтобы не сдохнуть. Это был, по сути, глобальный договор о ненападении, подписанный дрожащей рукой под дулом пистолета у виска.
Конечно, по большей мере международное право является лишь «фикцией», но в определённой степени государства всё же готовы хотя бы от части играть по установленным правилам и соблюдать ограничения, а потому эта фикция вполне себе полезна. Политикам, разумеется, плевать на жизни обычных людей и гуманистические идеалы, но за свою шкуру они всё же боятся, а потому не станут уж совсем перегибать палку. По крайней мере это работало так до недавнего времени…
Но что изменилось? К власти пришло поколение политиков, которое лично не видело бедствий и не чувствовало на себе угрозы войны. Они уже не так сильно боятся некого взаимного гарантированного уничтожения (MAD) и других сценариев «доктрины сдерживания». Для них всё подобное – просто абстракция из исторических учебников. А потому и их мотивация соблюдать ранее оговорённую прошлым поколением политиков «фикцию» существенно снизилась. В итоге миру снова угрожает состояние войны всех против всех.
Однако несмотря на эти рассуждения, всё же может оставаться вопрос того, насколько реальной является угроза самоуничтожения человечества с технической точки зрения. Кто-то сразу подумает о ядерных боеголовках, но их не так уж много и находятся они в руках очень ограниченного числа лиц (хотя и они могут отбросить человечество на много десятилетий назад). Впрочем, сейчас технологии зашли ещё дальше. Например, в ближайшем десятилетии мы вполне можем ожидать появление массовых, простых и очень дешёвых в производстве боевых дронов, которые будут иметь автономное управление на основе ИИ и смогут поражать любых «неугодных» людей, включая политиков, используя распознавание лиц, а глушение сигнала окажется неэффективным из-за отсутствия канала связи с оператором. Ещё одна угроза – создание смертоносных и очень заразных искусственных патогенов с целью применения в качестве биологического оружия массового поражения. Биотехнологии уже сейчас довольно продвинуты и дешёвы, чтобы такое было достижимым даже для небольших групп людей, преследующих насильственные политические цели.
В таких условиях в мейнстримовую повестку не просто вернётся значимость универсальных прав человека, гуманизма и идей о недопустимости насилия, а перестанут быть маргинальными и более радикальные способы предотвращения глобальной катастрофы. Идеи наподобие усиления механизма ингибирования насилия и даже морального улучшения людей с помощью биомедицинских технологий (биоусиление морали) уже не будут восприниматься как что-то невозможное или нежелательное для реальной жизни. Развитие этого направлении становится необходимостью для долгосрочного искоренения насильственных угроз как в личной, так и общественной жизни. Иначе, как отмечают исследователи, нас ждёт либо глобальный тоталитаризм с 24/7 слежкой за каждым, либо вовсе уничтожение цивилизации и даже всего человечества.
Не ИИ — пост написан людьми!