Recently, Maxim Kats released a video about Davos and the sunset of the “long world.” And you know, there he voiced a thought that makes any normal person (and especially a libertarian) start to feel their hair stand on end. Of course, Maxim isn’t our ally by virtue of his political views, but he still knows how to effectively dissect current problems, so we’ll be considering his reasoning nonetheless. Because he rightly observes: what we call “human rights” – it’s essentially a system error, an anomaly.
His video begins with pointing out that war has long since ceased being just a slaughter between soldiers—scientific and technological progress has reached the point where it’s possible to erase entire cities from the face of the Earth. The idea that humanity could simply self-destruct as a result of another war has stopped being fantastic and has taken on the form of a real risk. Political elites who had experienced World War II realized: we won’t drag out another round. The response was the creation of so-called “international law” and the concept of “human rights,” simply to avoid dying. It was, essentially, a global non-aggression pact signed with a trembling hand at one’s temple.
Of course, international law is largely just a “fiction,” but to some extent states are still willing to play by the established rules and observe restrictions, so this fiction is quite useful. Politicians, naturally, don’t care about the lives of ordinary people and humanitarian ideals, but they are afraid for their own skins anyway, so they won’t go completely overboard. At least that’s how it worked until recently…
But what changed? To power came a generation of politicians who hadn’t personally witnessed disasters or felt the threat of war themselves. They no longer fear mutual guaranteed destruction (MAD) and other scenarios of “deterrence doctrine” so much. For them, all this is just an abstraction from historical textbooks. And therefore, their motivation to observe the “fiction” agreed upon by previous generations of politicians has decreased significantly. As a result, the world once again faces a state of war between everyone and everyone.
Однако несмотря на эти рассуждения, всё же может оставаться вопрос того, насколько реальной является угроза самоуничтожения человечества с технической точки зрения. Кто-то сразу подумает о ядерных боеголовках, но их не так уж много и находятся они в руках очень ограниченного числа лиц (хотя и они могут отбросить человечество на многие десятилетия назад). Впрочем, сейчас технологии зашли ещё дальше. Например, в ближайшем десятилетии мы вполне можем ожидать появление массовых, простых и очень дешёвых в производстве боевых дронов, которые будут иметь автономное управление на основе ИИ и смогут поражать любых «неугодных» людей, включая политиков, используя распознавание лиц, а глушение сигнала окажется неэффективным из-за отсутствия канала связи с оператором. Ещё одна угроза – создание смертоносных и очень заразных искусственных патогенов с целью применения в качестве биологического оружия массового поражения. Биотехнологии уже сейчас довольно продвинуты и дешёвы, чтобы такое было достижимым даже для небольших групп людей, преследующих насильственные политические цели.
В таких условиях в мейнстримовую повестку не просто вернётся значимость универсальных прав человека, гуманизма и идей о недопустимости насилия, а перестанут быть маргинальными и более радикальные способы предотвращения глобальной катастрофы. Идеи наподобие усиления механизма ингибирования насилия и даже морального улучшения людей с помощью биомедицинских технологий (биоусиление морали) уже не будут восприниматься как что-то невозможное или нежелательное для реальной жизни. Развитие этого направления становится необходимостью для долгосрочного искоренения насильственных угроз как в личной, так и общественной жизни. Иначе, как отмечают исследователи, нас ждёт либо глобальный тоталитаризм с круглосуточной слежкой за каждым, либо вовсе уничтожение цивилизации и даже всего человечества.
Не ИИ – пост написан людьми!