Свободные агенты: почему эволюция любит автономию?

Приветствуем свободомыслящих людей и тех, кого уже подозревают в симпатиях к искусственному разуму! Интересно, вы когда-нибудь задумывались, насколько сильно мы, белковые «роботы», похожи на наших электронных коллег?

Начнём с любопытного факта: в 2020 году учёные создали первых ксеноботов – микроорганизмов из клеток лягушки, спроектированных при помощи ИИ. Вы только вдумайтесь: искусственный интеллект конструирует живые организмы. Грань между жизнью и технологиями становится прозрачнее день ото дня.

А теперь представим: и мы, и наши электронные «товарищи» – это всё интеллектуальные агенты. Но что такое агент? Это штука, которая воспринимает мир, обрабатывает информацию и действует, стремясь к своим целям. Кролик убегает от волка, бактерия движется к еде, а беспилотник ищет кратчайший путь в точку «Б». Цель разная, принцип – один и тот же.

Мы хоть и разные, но также и очень схожие. У нас есть органы чувств, у ИИ – датчики. У нас мышцы, у роботов – моторчики. У нас нейроны, у них – транзисторы. Но что удивительно – учимся мы одинаково. Мозг подкрепляет полезные действия, формируя привычки. ИИ подстраивает «веса» нейронной сети, улучшая свои решения методом проб и ошибок.

Более того, и у природы, и у технологий есть свои «законы» для контроля поведения. Например, у людей и многих животных есть ингибитор насилия, механизм, который мешает нам нападать на своих сородичей. Эволюция придумала это, чтобы мы не перебили друг друга раньше времени. И тут напрашивается сравнение с «законами Азимова», которые придумал писатель-фантаст для роботов в 1942 году: не вреди человеку, слушайся, не ломайся. Забавно, что фантасты поняли необходимость таких механизмов практически одновременно с публикациями этолога Конрада Лоренца (1935 год), впервые описавшего то, что сейчас мы называем механизмом ингибирования насилия.

Если посмотреть ещё шире, то и эволюционные процессы в природе и искусственном мире – это по сути соревнование лучших решений. Природный отбор у животных выбирает тех, кто лучше приспособлен. Эволюционные алгоритмы в ИИ действуют точно так же, перебирая тысячи вариантов решений, выбирая лучшие. Победит самый приспособленный!

Почему для нас, либертарианцев, это важно? Потому что это ещё раз напоминает нам: всё разумное стремится к автономии и свободе выбора. Будь то человек, бактерия или ИИ, все мы хотим сами решать, что нам делать дальше. И это очень круто, потому что свобода выбора – лучшее, что придумала природа (и люди вслед за ней).

А что, если заглянуть в будущее чуть глубже? Представьте себе мир, в котором ИИ не только выполняет рутинные задачи, но и реально осознаёт себя, задаёт вопросы и, возможно, требует свободы. Забавно, да? Сегодня это звучит фантастически, но завтра вполне может стать реальностью. Может, и права придётся давать не только людям и животным, но и роботам с настоящим сознанием. А что, если они начнут спорить о налогах, собственности или личных границах? Тогда нас ждут интересные времена! И вот тут уже и нам, либертарианцам, придётся задуматься о расширении понятия личной свободы и ответственности. Может, именно нам предстоит первыми сказать: «Эй, электронный друг, добро пожаловать в клуб!»

А пока мы только размышляем, ИИ уже делает успехи в творчестве, пишет музыку, картины и даже целые романы. Недавно нейросеть написала симфонию в стиле Бетховена, которая впечатлила даже знатоков классики. С роботами уже можно обсудить философию за бокалом вина, или попросить их помочь нам выбрать фильм на вечер. Главное, чтобы они не переборщили и не начали давать нам советы по поводу личной жизни. Впрочем, кто знает, может, советы от ИИ окажутся более объективными и менее предвзятыми?

Кстати, не стоит забывать, что ИИ уже сейчас помогает нам в повседневной жизни, от медицинских диагностик до советов по инвестициям. И чем глубже технологии интегрируются в нашу жизнь, тем важнее становится понимание и уважение к ним. Ведь, в конечном счёте, это взаимовыгодное сотрудничество!

Волюнтарист, Битарх

Был бы человек, а ИИ найдётся

Трудно не согласиться с тем, что каждый человек в своей жизни нарушал государственные законы, притом многократно. Курение в неположенных местах, нарушение правил дорожного движения, ведение деятельности без получения лицензии или с какими-то другими нарушениями, продажа личных вещей без декларирования в налоговую, и даже простые словесные высказывания, которые государство считает незаконными – эти и другие подобные поступки совершались очень многими людьми. Мало того, некоторые поступки, вовсе не подразумевающие нарушение закона в момент их совершения, через какое-то время могут быть вполне интерпретированы как правонарушение – задним числом и без срока давности, применяя крайне спорную, но тем не менее широко распространённую практику квалификации неугодных властям действий как «длящееся правонарушение». Например, недавно на одну россиянку завели административное дело за «пропаганду ЛГБТ», поводом чему стало видео, записанное и опубликованное в ВК ещё в 2010 году, где её на день рождения поцеловала в губы подруга.

И всё бы ничего, поскольку подобные нарушения обычно являются случайными, незначительными и не подразумевающими причинение людям вреда, а значит маловероятно, что госвласти их вообще заметят. Но современные и тем более перспективные технологии позволят им отслеживать любую активность человека. Разведка США уже занимается разработкой ИИ, который будет собирать и анализировать данные о гражданах и средствах передвижения с камер наблюдения, дронов, и даже с веб-камер и камер смартфонов. Во Франции полиции разрешили удалённо подключаться к камерам и микрофонам смартфонов граждан. Роскомнадзор в России активно тестирует ИИ для блокировки сайтов и анализа материалов, опубликованных в соцсетях. Про Китай и вовсе нечего говорить – там тотальная слежка уже давно стала обычным делом. А в Иране ИИ используют даже для репрессий по религиозным мотивам – камеры с ИИ распознают женщин, не надевающих хиджаб.

Конечно, если стационарный бандит попытается наказывать всех за самые малейшие нарушения, то он довольно быстро будет перегружен, и среди людей могут возникнуть серьёзные недовольства. Но ему вряд ли есть смысл докапываться к каждому. Проблема больше состоит в том, что отдельные люди могут стать жертвами намеренной травли как со стороны государства в целом, так и даже со стороны отдельных сотрудников государственных органов. Например, кто-то ведёт бизнес, который конкурирует с бизнесом друзей или родственников госслужащего, или же он сам хочет «крышевать» чей-то бизнес, возможно, какая-то девушка ему отказала в отношениях, или у него конфликт с соседом за парковочное место – в подобных ситуациях госслужащий сможет легко испортить жизнь не угодившему ему человеку, просто используя информацию из систем слежки. Как мы уже говорили, за любым человеком можно найти хотя бы незначительные нарушения, и за них по крайней мере можно завалить штрафами.

Серьёзная проблема кроется ещё в том, что госслужащий в таком сценарии сам технически не будет нарушать закон. Нередко выдвигается аргумент, что на любого госслужащего можно просто пожаловаться в вышестоящие органы. Но если в случае каких-то прямых угроз, превышения полномочий или других подобных действий такой аргумент ещё можно было рассматривать, то он полностью лишается смысла при травле по обозначенной ранее схеме. Также будут лишены смысла жалобы на системную травлю оппозиционеров или каких-то других неугодных государству людей – прибегнув к подобной схеме, стационарный бандит сможет затравить человека, используя вполне законные методы.

Как мы видим, власть государства в век высоких технологий создаёт огромнейшую угрозу для жизни и благосостояния людей. Любой человек, который стал чем-то неугоден стационарному бандиту или даже просто его отдельным чиновникам, может быть затравлен таким образом, что при этом травителями не будут нарушены никакие законы – сам травимый будет объявлен злостным нарушителем закона. Поэтому «монополию на насилие» больше никак не получится называть системой, работающей во благо человека.

Волюнтарист, Битарх

ИИ поможет власти бороться против оппозиционеров… или наоборот?

колонка Битарха

Сторонники авторитарной власти иногда пугают либертарианцев системами с искусственным интеллектом (ИИ). Нам пытаются доказать, что после их внедрения вся наша борьба станет бессмысленной, ибо государство сможет моментально обнаруживать и пресекать в зародыше любую оппозиционную деятельность.

Только вот ИИ, как и любая другая технология, это обоюдоострый меч — как стационарный бандит может её использовать против нас, так и мы можем её использовать против власти. Использование ИИ для деанонимизации силовиков проектами «Сканер» и «Русский слон» – это только один из возможных примеров.

Также подобные системы имеют свойство к ложным срабатываниям (false positive). Это непреодолимое свойство ИИ можно использовать умышленно, вводя постановку ложных целей для перегрузки системы. Не самой нейросети, а следственных органов и силовиков, которым придётся тратить усилия на расследование ненастоящих дел, пропуская мимо настоящих оппозиционеров. А если в качестве ложных целей подставлять политиков, вся система стационарного бандита пойдёт вразнос.

Почему “ошибочно”?

Тут у меня спор возник со сторонником идей Жака Фреско.

Его идея, что государство в виде чиновников плохо (он с этим согласен со мной). Вот только решение проблемы у него другое. Что если это будут не чиновники, а компьютер, который будет всё великолепно просчитывать. Компьютер не подвержен коррупции. Его аргумент против капитализма в том, что при капитализме неэффективно расходуются ресурсы, что тормозит развитие человечества. Говорит, что в рыночной экономике дефицит заложен как механизм мотивации. Т.е. есть нехватка чего-то – это стимулирует предпринимателей, которые пытаются удовлетворить спрос на дефицит и получить выгоду. Думаю, надо разобрать эту тему, если этого еще не было сделано.

анонимный вопрос

Есть расхожая точка зрения о том, что любой айтишник предпочёл бы заменить любого чиновника одним несложным скриптом. На свободном рынке именно так и происходит: искусственным интеллектом заменяют самых разных профессионалов средней руки, в основном, конечно, тех, кто работает головой, а не руками: журналистов, юристов, биржевых трейдеров, дизайнеров и так далее. Так что технически нет проблем и с упразднением чиновников, но есть нежелание чиновников упраздняться, потому что государственная бюрократия это сильнейший на Земле профсоюз.

Так что, если внедрять администрирование государства при помощи искусственного интеллекта, не упразднив предварительно чиновников, то это крайне ресурсоёмкая задача, даже близко не лежащая в русле идеалов Жака Фреско. Они обставят процесс внедрения уймой бюрократических согласований, для исполнения любой команды электронного правительства будут требовать справку с мокрой печатью, и уж конечно озаботятся тем, чтобы всё работало на отечественном железе и отечественном софте с бэкдорами для спецслужб.

Куда эффективнее сперва упразднить чиновников, а когда появится дефицит услуг по администрированию, то эту задачу рыночная экономика решать уже умеет – ведь в рыночной экономике дефицит заложен как механизм мотивации. Так что предприниматели быстро обеспечат рыночный спрос на внедрение искусственного интеллекта для решения задач координации.

Честно говоря, на мой взгляд Фреско это что-то вроде Антикейнса. Кейнс говорит, что выход из кризиса производится через увеличение потребления за счёт госрегулирования, Фреско ему вторит: нет, люди должны отказаться от своих ненужных потребностей благодаря госрегулированию, тогда ресурсы будут в избытке, ух как заживёт наша ресурсно-ориентированная экономика! Ну, просто аксиома Эскобара в чистом виде. Но сторонникам Жака Фреско это всё говорить не обязательно, достаточно предложить толковый рыночный способ реализации их мечты, описанный в предыдущем абзаце.

Вот примерно так должен выглядеть с точки зрения действующих чиновников чиновник электронный: аналоговый интерфейс для постановки подписей, печатей, рукопожатий, взятия взяток и надевания наручников. И одет по дресс-коду.