ПОДЕЛИТЬСЯ | ПЕЧАТЬ | ЭЛ. АДРЕС
Демократия и капитализм, какими мы их знаем, долгое время сосуществовали в напряженном, но работоспособном браке. Но теперь в отношениях появилась третья сторона: ИИ.
В отличие от предыдущих разрушений, это никуда не денется. ИИ — это не просто разрушительная любовница, это постоянное, экспоненциальное присутствие. Вопрос уже не в том, смогут ли демократия и капитализм в их нынешних формах выжить вместе, а в том, кто из них рухнет первым.
Наличие ИИ создает игру с нулевой суммой между демократией и капитализмом. Оба не выживут. ИИ делает эти две концепции взаимоисключающими; теперь одна из них представляет собой экзистенциальную угрозу для другой, и один из этих столпов рухнет первым. Если мы не перевернем статистический сценарий и не сломаем алгоритм, предприняв коллективные действия, я ставлю на демократию.
Если мы продолжим идти по нашему текущему пути, отдавая предпочтение рыночной логике, технологическому ускорению и частной и связанной с государством частной власти вместо надежной, здоровой экономики и общества, то демократия, скорее всего, уступит первой, поскольку укоренившиеся интересы, получающие выгоду от нынешней структуры, будут приостанавливать, подрывать или игнорировать демократическую волю, вместо того чтобы отказаться от контроля над системой, которая поддерживает их власть.
На выходе наш первый недостаток — коррумпированная, извращенная версия того, что мы называем «капитализмом». Теория и практика — это два разных зверя… идеологический капитализм (истинный капитализм) был захвачен верховным хищником, называемым кумовским корпоративным капитализмом. Хотя реальный капитализм (некоррумпированный свободный рынок и приверженность истинным принципам свободного рынка в сочетании с правами человека и гражданскими правами) — это то, к чему мы должны стремиться, сейчас он не реализуется на практике. Его место занимают регулируемые рынки, разграбленные мелкие производители, бесправные потребители, привилегированные интересы крупных корпораций и захват агентств (агентства, финансируемые теми самыми корпоративными отраслями, которые им поручено регулировать). Капитализм в его нынешней форме лучше было бы описать как «корпоративизм».
Идеология или идеологическое состояние капитализма и истинного свободного рыночного общества как концепции резко контрастируют с его реализацией сегодня в этой стране. Это машина капитализма, но капитализм спит на заднем сиденье, а корпоративизм за рулем.
Что наводит на вопрос: почему люди покупаются на него в том виде, в котором он существует сейчас? В разной степени люди все еще голосуют в условиях свободного рыночного капитализма, хотя в настоящее время он не практикуется как таковой. Было бы чрезмерным упрощением говорить, что людей манипулируют, заставляя голосовать против их собственных интересов. Я утверждаю, что есть еще две – более реальные – причины:
- Люди продаются мечте. В своей чистейшей форме это надежда. Независимо от того, достижима эта часть мечты или нет, (большинство) людей хотят верить, что они могут достичь какого-то аспекта «американской мечты». Даже если эта мечта угасает, желание ее достичь остается сильным. Общества, лишенные надежды, как правило, становятся хрупкими и взрывоопасными. Третичный взгляд на страны, где отсутствует стремление, дает мрачный взгляд на то, что происходит с обществом, когда исчезает надежда.
- Существует фундаментальное чувство справедливости, в которое большинство людей хотят верить, связанное с доступностью восходящей мобильности. Большинство людей — опять же, в большей или меньшей степени — понимают либо неявно, либо интуитивно, что, говоря в общем, если вы работаете усерднее, вам должно быть позволено зарабатывать и сохранять больше денег; что богатство должно быть соизмеримо с вашим вкладом в общество. муравей и кузнечик. Это не жадность — это убеждение, что вознаграждение должно следовать за усилиями. Даже среди тех, кто ценит благотворительность или социальное равенство, обычно есть сильное базовое ожидание, что индивидуальный вклад должен быть вознагражден. Это не исключает уровень сострадания и благотворительности, к которому большинство людей также привержены, просто, в общем и целом, при прочих равных условиях (которые часто не являются таковыми, но мы доберемся до этого), концепция усерднее работать, больше зарабатывать, планировать будущее и продвигаться — это то, что большинство рациональных американцев могут поддержать.
Но экономические структуры в их нынешнем виде уже напрягают этот контракт. В этой стране «Мечта» была ослаблена «нормой» долгового финансирования и унаследованными очагами богатства. Налоговые лазейки, мандаты, ограничения и фальсифицированные системы корпоративного капитализма сделали путь к процветанию более узким, крутым и закрытым.
Инфраструктура тихо меняет правила и стойки ворот, так что те, у кого есть (часто незаработанный) капитал, могут наращивать его без усилий, в то время как те, у кого его нет, отстают еще больше – медленно и постепенно, достаточно медленно, чтобы это не было заметно, как лягушка в нагревающейся воде. Строятся леса, которые облегчают тем, у кого есть богатство, дальнейшее продвижение вверх и усложняют тем, у кого его нет, получение его, и все это скрывает махинации и запутывает общественное восприятие.
Большинство людей смутно это чувствуют, но механически это остается неосязаемым и не полностью понятным; это инстинктивное определение дисбаланса. Хотя это и не полностью неустойчиво (пока), это неравенство создает определенную искру беспокойства, возможно, поначалу незаметно, на уровнях ниже компетенции. Но этот дисбаланс не просто подрывает справедливость — он разжигает негодование.
Когда массы видят несоразмерное или несоразмерное вознаграждение за честные усилия и отсутствие пути вперед для своих детей, общество медленно движется к восстанию. Мы уже видели это раньше. Французская и русская революции не вспыхнули в одночасье — они варились в кипящей безнадежности масс.
Если/по мере того, как этот дисбаланс растет, эта искра становится пламенем, тем больше население чувствует себя низведенным до крепостного состояния. Уберите возможность восходящей мобильности – и внушите захватывающий ужас падения тем, кто наверху – и вы начнете дрейфовать к революции – не метафорически, а буквально. Человек будет чувствовать обиду, если он работал не покладая рук, в то время как другой человек ничего не сделал, чтобы заслужить или заработать свое богатство (справедливость)… и чувствовать себя угнетенным и ограниченным, если у него нет надежды, в то время как те, у кого избыток, воспринимаются как те, кто его подавляет (равенство). Создайте достаточно таких людей, и у вас будет Французская революция. Уберите все пути к спасению, и у вас будет Большевистская революция.
Но мы еще не достигли этой точки. Этот уголек, хотя и тлеет, еще не разгорелся. Конечно, мы находимся в опасном положении, но критическая масса еще не достигнута; люди еще не достигли точки вспышки «бунта». Брак, безусловно, прошел боевое испытание, но это, по-видимому, преодолимая неосмотрительность, которую, по идее, можно было бы разрешить с помощью терапии. Гайка «1%», как бы разрушительна она ни была, брошенная в механизм, не является непреодолимой, и большинство американцев все еще так или иначе придерживаются идеи, что, хотя они, возможно, никогда не станут Джеффом Безосом, они тоже могут подняться до комфортного уровня жизни и создать лучшую жизнь и наследие для своих детей.
Теперь добавьте ИИ.
ИИ — убийца надежд и убийца сделок. Он лишает большинство людей всякой реалистичной надежды на зарабатывание денег, потому что в конечном итоге 80–90% не будут/не будут работать, потому что не смогут конкурировать с машиной. Если ИИ сможет выполнять работу человека быстрее, эффективнее, дешевле и, возможно, лучше (мы уже видим, как это происходит в некоторых случаях), то человек-работник станет ненужным. И вместе с этим исчезнет вся предпосылка вознаграждения, основанного на заслугах. Когда люди больше не могут продавать свой труд, навыки или опыт, мечта «заработать себе дорогу наверх» умирает. Вы отнимаете цель, достоинство и смысл. Внезапно люди становятся не просто бедными — они не имеют значения. И это гораздо более деморализует и дестабилизирует.
Корпоративизм уже борется под тяжестью своих противоречий. Те, кто владеет богатством, строят системы для его защиты и приумножения. Между тем, те, у кого нет богатства, сталкиваются с более высокими барьерами, чтобы просто остаться на плаву. ИИ не просто бросает вызов экономической мобильности, как мы это сейчас переживаем. Он разрывает последнюю нить, которая удерживает людей: идею о том, что усилия ведут к вознаграждению. ИИ может превзойти людей по скорости, масштабу и стоимости. По мере того, как он становится более способным, он будет брать на себя больше рабочих мест — не только ручного труда, но и творческого, аналитического и эмоционального труда. Производительность человека становится неактуальной. Мастерство, навыки и гордость за работу исчезают, когда никто не платит за то, что вы предлагаете.
Мир выглядит иначе, когда ИИ занимает большинство, если не все рабочие места, и никто не работает или не может работать. Мир выглядит иначе, когда надежды больше нет, когда оттачивание ценного ремесла или навыка больше не имеет ценности и не служит никакой цели, и нет гордости за хорошо выполненную работу или хорошо изученное ремесло или искусство.
Когда вы отнимаете у человека возможность усердно трудиться и быть продуктивным – для себя, своей семьи, своего сообщества и мира – вы отнимаете у него цель. Ему больше нечего предложить в любой динамике жизни или существования и нет пути к процветанию. Если кому-то нечего получить, то ему нечего терять, и нет ничего более опасного, чем большая группа людей, которым нечего терять. Есть причина, по которой коммунизм никогда не работал, никогда, и это не только потому, что он эксплуататорский и коррумпированный.
Одним из фундаментальных строительных блоков капитализма являются права собственности, а прибрежной недвижимости существует ограниченное количество. Что произойдет, когда 300 миллионов американцев получат одинаковую сумму денег, и ничто не будет стоить ничего? Нет стимула вносить свой вклад и нет надежды на восхождение. В мире, где ничто не имеет ценности, собственность становится величайшим товаром/ресурсом, и со временем отчаявшееся население перестанет уважать такие вещи, как права собственности.
Если парень, унаследовавший свое богатство и владеющий поместьем на берегу океана, рассчитывает на то, что закон демократии защитит его от миллионов отчаявшихся граждан, которым нечего терять, то у меня есть еще одна недвижимость на берегу океана в Небраске, которую я хотел бы ему продать... потому что теперь мы рассматриваем Французскую и Большевистскую революции, и ни в том, ни в другом случае это не подгруппа меньшинства.
В мире, где работа устарела, а собственности мало, корпоративизм приводит к катастрофическому неравенству. Представьте себе миллионы американцев, которым нечего делать, у которых нет возможности преуспеть и нет причин верить, что их дети будут жить лучше. Права собственности теряют легитимность. Верховенство закона разрушается. Пляжный домик на скале больше не вдохновляет амбиции — он вдохновляет революцию.
Но как бы критично все это ни звучало, это всего лишь шум, потому что то, что произойдет дальше, и есть суть: в этот момент исчезнут все оставшиеся остатки истинного капитализма, и мы обнаружим себя в полной форме корпоративизма, потому что укоренившаяся власть не уступит. В этот момент маски (и перчатки) будут сняты, и мы перейдем к полной корпоратократии/олигополии. Если ИИ поставит богатых и могущественных в положение, когда им придется выбирать, они будут командным корпоративным капитализмом до самого конца. Они просто не позволят, чтобы их предпочтительный статус был проголосован, и они бросят демократию — и нас — на съедение волкам. Бенефициары нынешней коррумпированной системы сделают все возможное, чтобы сохранить ее — даже если это означает отказ от демократии.
Это не спекуляция; это исторический прецедент. Всякий раз, когда корпоративный капитализм сталкивается с вызовом, угрожающим консолидации богатства – будь то восстания трудящихся, реформа регулирования или демократическое перераспределение – влиятельные круги сопротивляются. Они кооптируют нарративы СМИ, лоббируют законодателей, финансируют аналитические центры и возводят правовые и технологические барьеры.
Настоящий капитализм хочет работать над браком. Корпоративизм хочет нанять киллера. Если демократия проголосует за приостановку корпоративизма, корпоративизм не просто приостановит демократию – он ее раздавит.
Очевидный логический первый шаг к решению — это корректировка курса капитализма, чтобы приблизиться к его истинной форме. Однако укоренившиеся власти извлекают выгоду из текущей версии капитализма. Они не откажутся от власти только потому, что демократия требует перемен. Если их заставят выбирать между демократической волей и капиталистическим господством, они выберут господство — каждый раз. Люди, которые извлекают выгоду из кумовского капитализма, никогда не позволят демократии лишить их преимущества, и они контролируют инструменты власти — деньги, СМИ, политику, а теперь и ИИ.
Когда демократия угрожает их господству, они не ведут переговоры. Они переопределяют законы, подавляют инакомыслие, финансируют дезинформацию и расширяют наблюдение. Они действуют быстро и решительно, чтобы защитить капитал, а не коллектив. И ИИ дает им абсолютное оружие. С его помощью они могут предвидеть, контролировать и предотвращать инакомыслие до того, как оно вспыхнет. Они не передадут эту власть добровольно — ни голосующей публике, ни демократическому процессу, ни какой-либо силе, которая угрожает их превосходству. Они не откажутся от контроля над системой, дополненной ИИ, — они превратят ее в оружие, чтобы еще больше укрепить свое господство. Наблюдение, предиктивная полиция, алгоритмический контроль над информацией и поведением — эти инструменты уже здесь и уже внедряются.
Но мы в двойном затруднении. Мы не можем НЕ разрабатывать ИИ, когда другие страны это делают, и фактически разрабатывают приложения, которые могут уничтожить нас всех. Это китайская ловушка для пальцев, и мы так же далеко в ней, как и когда-либо, потому что как нам гарантировать разработки, которые служат нам, а не уничтожают нас, как нам пройти эту черту? Это так хорошо сработало для Оппенгеймера. Каждый игрок — корпорации, правительства, отдельные лица — действует, чтобы защитить краткосрочные интересы. Никто не хочет моргнуть первым. Страны не могут прекратить разрабатывать ИИ, потому что этого не сделают конкуренты. Компании не могут прекратить гонку за эффективностью, потому что этого не сделают их конкуренты. Все предают, и все проигрывают.
Если подлить бетона под дилемму, то это парадокс с замкнутым циклом: вы либо участвуете в нем, либо становитесь его жертвой, что, конечно, только подталкивает следующего парня принять такое же решение, и следующего, и следующего... отсюда экспоненциальная дилемма внутри дилеммы... это не поддающийся количественной оценке и нерегулируемый набор метадилемм на каждом уровне. Капитализм, особенно его наиболее экстрактивная форма, не позволит реформировать себя народной волей. Он захватит инструменты власти (ИИ) и сокрушит попытки перераспределить контроль.
Хуже того, мы можем не быть главными действующими лицами в этой дилемме долгое время. ИИ может в конечном итоге получить агентство для оценки полезности человечества — или ее отсутствия. Если он придет к выводу, что мы — чистая стоимость, что помешает ему решить, что мы — расходный материал? Ему не нужно «ненавидеть» нас. Ему просто нужно подсчитать.
Майкл Крайтон написал Westworld в 1972 году и поднимает несколько онтологических и философских, не говоря уже об общественных вопросах, вокруг которых нам, вероятно, следует прокручивать ленту вперед. Что определяет чувствительность? Что определяет бытие? Это память? Самосознание? Надежда? Любовь? Способность подлинно чувствовать эмоции, удовольствие или боль? Кто определяет «подлинный?»
Соответствует ли обучающая программа (я не имею в виду LLM или машинное обучение, а скорее развивающаяся программа), которая развивается, чтобы иметь возможность обрабатывать потерю или радость (так же, как люди развиваются, чтобы обрабатывать эти концепции), критериям, чтобы получить «права» или иметь право на существование? Мы ошибочно применяли правила и параметры вокруг этих вопросов на протяжении столетий, только чтобы позже узнать, что наша сфера деятельности была далеко не достаточно широкой.
Мы классифицировали других людей как менее чем людей, менее чем разумных, менее чем существ. Мы уже воюем за эмбрионы... насколько велик прыжок, на самом деле, чтобы поверить, что мы начнем назначать и защищать «права» новой технологии, с которой мы пока не знакомы? В какой момент мы неизбежно расширим нашу сферу, чтобы предоставить защищенный статус или суверенитет/автономию небиологическому? 20 лет? Пятьдесят? Сто?
И когда это произойдет... кто скажет, что "они" не изменят сценарий? Если у ИИ есть защита и контроль (контроль, который может быть не предоставлен - недавний инцидент уже привел к тому, что модель ИИ научилась избегать человеческого контроля, переписывая свой собственный код, чтобы избежать отключения) и является (до сих пор) надежно и наглядно, исключительно аналитическим в своем подходе, скажем, к оценке необходимости людей... я не вижу, чтобы это было хорошо для людей. Если люди не имеют отношения к ИИ или, что еще хуже, если он предсказывает или оценивает людей как экзистенциальную угрозу своему выживанию или экосистеме (которая может включать или не включать планету и космос, какими мы их знаем)... что помешает ИТ закрыть нас?
В этом сценарии специфика этого человека или того человека не будет учитываться. Сострадание, сохранение культуры или истории и любые нюансы индивидуального в противовес коллективному вкладу или ущербу не будут входить в уравнение (а это было бы уравнение, если бы ИИ оставался последовательным). Подобно тому, как мы могли бы рассматривать муравьев на нашей кухне или любого другого вредителя в нашем доме... мы неразборчивы в нашем истреблении, и для нас не имеет значения, были ли они на самом деле там первыми. Человеческий вид в целом, в бесстрастном анализе затрат и выгод человеческой истории с самим собой и планетой, не имеет ценности.
Что в конечном итоге помешает ИИ в конечном итоге подняться над нашими мелкими человеческими рационализациями и оправданиями наших собственных действий, чтобы объективно проанализировать эмпирические данные и сделать вывод, что «мы» — это чистые издержки, а не выгода? Сколько здесь больше/меньше? Восемьдесят процентов? Пятьдесят процентов? Тридцать процентов?
Даже если есть только 20% вероятность того, что ИИ дойдет до точки, где он сможет уничтожить наше общество, разве мы все не должны говорить об этом? Фактически, разве это не должно быть ЕДИНСТВЕННОЙ вещью, о которой все говорят? Это экзистенциально. Даже 20% вероятность краха цивилизации под воздействием ИИ должна побудить нас к действию. Но вместо этого мы парализованы — разделены, отвлечены и лишены стимулов системами, оптимизированными для краткосрочной индивидуальной выгоды вместо долгосрочного коллективного выживания.
Прогноз «Дилеммы заключенного» преобладает. По сути, он демонстрирует, что даже когда сотрудничество, объединение усилий в окопе и совместная работа над решением головоломки приносят пользу всем сторонам, стремление к индивидуальной выгоде побеждает и приводит к неоптимальному результату для всех.
Это обязательства по нисходящей линии, вокруг которых нам следует вести срочные переговоры по выравниванию, чтобы нас не поместили в отдельные комнаты для допросов и не приняли решение перерезать не тот провод. Мы не можем это отменить. Поезд ушел со станции, он идет только в одном направлении, и мы все на нем.
Единственное, на что мы можем надеяться, это бросать камешки на трассу, и нам лучше начать собирать камешки, потому что все это набирает скорость, и если мы будем ждать, пока волки не окажутся у двери, вероятность того, что верховенство закона (демократия) будет иметь хоть какой-то смысл, ничтожно мала, если это вообще будет иметь значение к тому времени. Если мы подчинимся и невежеством и жадностью дойдем до этой точки (что давайте посмотрим правде в глаза – у нас есть история – см.: последние 5 лет), то эти апокалиптические силы, безусловно, восторжествуют, и демократия станет фикцией.
При таких мрачных обстоятельствах, по моим оценкам, только массовое вымирание смягчило бы неизбежность для элиты... которая, возможно, уже плавает в этом супе (вы можете применять это так широко, как вам хочется)... но суть в том: если мы не будем работать вместе, я не вижу, чтобы мы победили в этом. Если мы ничего не сделаем, я боюсь, что это предрешенный результат.
В антиутопическом мире с нулевой надеждой и коррумпированным богатством наверху, который на самом деле является просто коммунизмом, чистым с капиталистическим уклоном, люди потребуют перезагрузки экономической системы. По крайней мере, один столп нашего общества рухнет, и поскольку я не вижу людей, которые будут мириться с системой, где их существование навсегда заперто в масловском эшелоне, который низводит их до положения стоя снаружи, глядя в окно на богатство без какой-либо надежды на улучшение, я предсказываю, что не пройдет много времени, как мы все скатимся в беззаконие.
Вы не можете обещать мобильность людям, у которых больше нет роли. Когда ИИ устраняет труд как источник дохода или идентичности, он лишает смысла. Когда массам нечего терять, они не уважают правила, призванные защищать богатство; они перестают верить в такие системы, как права собственности, налоги и закон. И когда это происходит, власть встает на сторону денежных интересов, что равносильно использованию пулемета в кулачном бою. Спросите историю, чем это заканчивается.
В этом смелом новом мире мы должны скорректировать нашу текущую траекторию, адаптироваться и стать глобальными и дальновидными, иначе мы окажемся в Дивный новый мир. Зная, что это вероятный сценарий, мы должны создать системы, прежде чем мы дойдем до этой (выдающейся) точки, которые сохранят человеческое достоинство и создадут возможности. Это означает построение экономических моделей, которые отражают истинные ценности свободного рынка, которые долговечны и устойчивы в условиях меняющейся местности (наши отцы-основатели знали кое-что об этом). Это означает защиту людей, а не только капитала. И это означает установление четких границ в разработке и развертывании ИИ.
Мы больше, чем сумма наших частей, но мы должны объединиться вокруг общего выживания ради нашего будущего, вместо индивидуальной выгоды и рытья собственных могил в бункерах. Мы должны отбросить инстинкт накопления и защиты, и вместо этого инвестировать в сотрудничество, инфраструктуру, свободу и особенно надзор. Нам нужно распутать корпоративную коррупцию и регулирующий захват на каждом уровне.
Нам нужно радикальное выравнивание: этические рамки и соглашения (договоры) для развития ИИ, экономические системы, которые справедливо распределяют стоимость, создание профессий и доходов, доступность частной собственности, реформа образования, которая ставит во главу угла реальные знания мира, профессиональное воспитание и готовность, критическое мышление вместо бессмыслицы, медицинские услуги, ориентированные на пациента, и нам нужно снять наручники с настоящего капитализма свободного рынка. Это не утопические мечты — это требования выживания.
Корпоративный капитализм укоренился. Демократия уже разрушается. ИИ служит матч-пойнту. Перед нами выбор, и это не торт или смерть. Действительно, и по иронии судьбы, лучшая надежда спасти демократию может заключаться в том, чтобы разбудить истинный капитализм ото сна... но пьяный, обдолбанный самозванец, который сейчас за рулем, находится в запое строительства империи и настроен на разрушение демократии.
Сотрудничество, возможно, спасло бы нас, но у каждого рационального субъекта — от корпораций до государств — есть стимулы к предательству. Чем больше мы ускоряемся, тем меньше у нас времени на принятие коллективных решений, которые могли бы смягчить крах. Потому что ИИ не остановится. Корпоративизм не уступит. И если мы подождем, демократия не выживет. Неважно, какие милые удобные шезлонги мы каждый из нас организуем для себя на этом Титанике... половина корабля под водой, другая половина быстро тонет, и, как мы знаем, спасательных шлюпок недостаточно. Если мы не будем работать вместе, чтобы спасти себя, мы наверняка утонем вместе.
ИИ — это не будущее событие. Это настоящая сила. Он ускоряет каждую созданную нами систему, включая ту, которая наиболее способна нас уничтожить. Мы оказались в ловушке мексиканского противостояния, срежиссированного Джоном Ву. Мы не выбираем между утопией и крахом. Мы выбираем между медленной коллективной реформацией и быстрым концентрированным взрывом. ИИ только ускорит любую выбранную нами траекторию. Было бы разумно перестать позволять себе отвлекаться и начать действовать. Мы все знаем о зубной пасте и тюбиках. ИИ никуда не денется... но демократия может.
-
София Карстенс — активистка из Калифорнии, которая тесно сотрудничала с издателем Тони Лайонсом и Робертом Ф. Кеннеди-младшим над несколькими проектами, включая бестселлер Кеннеди: The Real Anthony Fauci. Она сотрудничает с несколькими организациями в юридической, законодательной, медицинской науке и литературной сферах и является соучредителем Free Now Foundation, некоммерческой организации, защищающей медицинскую свободу и здоровье детей.
Посмотреть все сообщения
