Был бы человек, а ИИ найдётся

Трудно не согласиться с тем, что каждый человек в своей жизни нарушал государственные законы, притом многократно. Курение в неположенных местах, нарушение правил дорожного движения, ведение деятельности без получения лицензии или с какими-то другими нарушениями, продажа личных вещей без декларирования в налоговую, и даже простые словесные высказывания, которые государство считает незаконными – эти и другие подобные поступки совершались очень многими людьми. Мало того, некоторые поступки, вовсе не подразумевающие нарушение закона в момент их совершения, через какое-то время могут быть вполне интерпретированы как правонарушение – задним числом и без срока давности, применяя крайне спорную, но тем не менее широко распространённую практику квалификации неугодных властям действий как «длящееся правонарушение». Например, недавно на одну россиянку завели административное дело за «пропаганду ЛГБТ», поводом чему стало видео, записанное и опубликованное в ВК ещё в 2010 году, где её на день рождения поцеловала в губы подруга.

И всё бы ничего, поскольку подобные нарушения обычно являются случайными, незначительными и не подразумевающими причинение людям вреда, а значит маловероятно, что госвласти их вообще заметят. Но современные и тем более перспективные технологии позволят им отслеживать любую активность человека. Разведка США уже занимается разработкой ИИ, который будет собирать и анализировать данные о гражданах и средствах передвижения с камер наблюдения, дронов, и даже с веб-камер и камер смартфонов. Во Франции полиции разрешили удалённо подключаться к камерам и микрофонам смартфонов граждан. Роскомнадзор в России активно тестирует ИИ для блокировки сайтов и анализа материалов, опубликованных в соцсетях. Про Китай и вовсе нечего говорить – там тотальная слежка уже давно стала обычным делом. А в Иране ИИ используют даже для репрессий по религиозным мотивам – камеры с ИИ распознают женщин, не надевающих хиджаб.

Конечно, если стационарный бандит попытается наказывать всех за самые малейшие нарушения, то он довольно быстро будет перегружен, и среди людей могут возникнуть серьёзные недовольства. Но ему вряд ли есть смысл докапываться к каждому. Проблема больше состоит в том, что отдельные люди могут стать жертвами намеренной травли как со стороны государства в целом, так и даже со стороны отдельных сотрудников государственных органов. Например, кто-то ведёт бизнес, который конкурирует с бизнесом друзей или родственников госслужащего, или же он сам хочет «крышевать» чей-то бизнес, возможно, какая-то девушка ему отказала в отношениях, или у него конфликт с соседом за парковочное место – в подобных ситуациях госслужащий сможет легко испортить жизнь не угодившему ему человеку, просто используя информацию из систем слежки. Как мы уже говорили, за любым человеком можно найти хотя бы незначительные нарушения, и за них по крайней мере можно завалить штрафами.

Серьёзная проблема кроется ещё в том, что госслужащий в таком сценарии сам технически не будет нарушать закон. Нередко выдвигается аргумент, что на любого госслужащего можно просто пожаловаться в вышестоящие органы. Но если в случае каких-то прямых угроз, превышения полномочий или других подобных действий такой аргумент ещё можно было рассматривать, то он полностью лишается смысла при травле по обозначенной ранее схеме. Также будут лишены смысла жалобы на системную травлю оппозиционеров или каких-то других неугодных государству людей – прибегнув к подобной схеме, стационарный бандит сможет затравить человека, используя вполне законные методы.

Как мы видим, власть государства в век высоких технологий создаёт огромнейшую угрозу для жизни и благосостояния людей. Любой человек, который стал чем-то неугоден стационарному бандиту или даже просто его отдельным чиновникам, может быть затравлен таким образом, что при этом травителями не будут нарушены никакие законы – сам травимый будет объявлен злостным нарушителем закона. Поэтому «монополию на насилие» больше никак не получится называть системой, работающей во благо человека.

Волюнтарист, Битарх

ИИ поможет власти бороться против оппозиционеров… или наоборот?

колонка Битарха

Сторонники авторитарной власти иногда пугают либертарианцев системами с искусственным интеллектом (ИИ). Нам пытаются доказать, что после их внедрения вся наша борьба станет бессмысленной, ибо государство сможет моментально обнаруживать и пресекать в зародыше любую оппозиционную деятельность.

Только вот ИИ, как и любая другая технология, это обоюдоострый меч — как стационарный бандит может её использовать против нас, так и мы можем её использовать против власти. Использование ИИ для деанонимизации силовиков проектами «Сканер» и «Русский слон» – это только один из возможных примеров.

Также подобные системы имеют свойство к ложным срабатываниям (false positive). Это непреодолимое свойство ИИ можно использовать умышленно, вводя постановку ложных целей для перегрузки системы. Не самой нейросети, а следственных органов и силовиков, которым придётся тратить усилия на расследование ненастоящих дел, пропуская мимо настоящих оппозиционеров. А если в качестве ложных целей подставлять политиков, вся система стационарного бандита пойдёт вразнос.

Почему “ошибочно”?

Тут у меня спор возник со сторонником идей Жака Фреско.

Его идея, что государство в виде чиновников плохо (он с этим согласен со мной). Вот только решение проблемы у него другое. Что если это будут не чиновники, а компьютер, который будет всё великолепно просчитывать. Компьютер не подвержен коррупции. Его аргумент против капитализма в том, что при капитализме неэффективно расходуются ресурсы, что тормозит развитие человечества. Говорит, что в рыночной экономике дефицит заложен как механизм мотивации. Т.е. есть нехватка чего-то – это стимулирует предпринимателей, которые пытаются удовлетворить спрос на дефицит и получить выгоду. Думаю, надо разобрать эту тему, если этого еще не было сделано.

анонимный вопрос

Есть расхожая точка зрения о том, что любой айтишник предпочёл бы заменить любого чиновника одним несложным скриптом. На свободном рынке именно так и происходит: искусственным интеллектом заменяют самых разных профессионалов средней руки, в основном, конечно, тех, кто работает головой, а не руками: журналистов, юристов, биржевых трейдеров, дизайнеров и так далее. Так что технически нет проблем и с упразднением чиновников, но есть нежелание чиновников упраздняться, потому что государственная бюрократия это сильнейший на Земле профсоюз.

Так что, если внедрять администрирование государства при помощи искусственного интеллекта, не упразднив предварительно чиновников, то это крайне ресурсоёмкая задача, даже близко не лежащая в русле идеалов Жака Фреско. Они обставят процесс внедрения уймой бюрократических согласований, для исполнения любой команды электронного правительства будут требовать справку с мокрой печатью, и уж конечно озаботятся тем, чтобы всё работало на отечественном железе и отечественном софте с бэкдорами для спецслужб.

Куда эффективнее сперва упразднить чиновников, а когда появится дефицит услуг по администрированию, то эту задачу рыночная экономика решать уже умеет – ведь в рыночной экономике дефицит заложен как механизм мотивации. Так что предприниматели быстро обеспечат рыночный спрос на внедрение искусственного интеллекта для решения задач координации.

Честно говоря, на мой взгляд Фреско это что-то вроде Антикейнса. Кейнс говорит, что выход из кризиса производится через увеличение потребления за счёт госрегулирования, Фреско ему вторит: нет, люди должны отказаться от своих ненужных потребностей благодаря госрегулированию, тогда ресурсы будут в избытке, ух как заживёт наша ресурсно-ориентированная экономика! Ну, просто аксиома Эскобара в чистом виде. Но сторонникам Жака Фреско это всё говорить не обязательно, достаточно предложить толковый рыночный способ реализации их мечты, описанный в предыдущем абзаце.

Вот примерно так должен выглядеть с точки зрения действующих чиновников чиновник электронный: аналоговый интерфейс для постановки подписей, печатей, рукопожатий, взятия взяток и надевания наручников. И одет по дресс-коду.