Когда фондовые рынки открылись утром в понедельник, 26 февраля, акции Google резко упали на 4%, к среде упали почти на 6%, а неделю спустя уже упали на 8%. Это была неудивительная реакция на смущающий дебют генератора изображений Gemini, который Google решил отказаться после всего лишь нескольких дней всемирных насмешек.
Генеральный директор Сундар Пичаи назвал провал «совершенно неприемлемым» и заверил инвесторов, что его команды «работают круглосуточно» над повышением точности ИИ. Они будут лучше проверять будущие продукты, и внедрение будет более плавным, настаивал он.
Возможно, все это правда. Но если кто-то думает, что этот эпизод в основном посвящен показным разбуженным рисункам, или если они думают, что Google может быстро исправить предвзятость в своих продуктах искусственного интеллекта, и все вернется в норму, они не понимают широты и глубины десятилетнего десятилетия. информационная деформация.
Гипервизуальное безумие Близнецов — это всего лишь последнее и наиболее очевидное проявление цифрового переворота, который уже давно происходит. Более того, он представляет новый вид дилемма новатора в котором даже самые благонамеренные и вдумчивые крупные технологические компании, возможно, не смогут успешно справиться.
Дебют Близнецов
В декабре Google представила свою новейшую модель искусственного интеллекта под названием Gemini. Согласно компьютерным тестам и мнению многих опытных пользователей, способность Gemini писать, рассуждать, кодировать и отвечать на запросы задач (например, планирование поездки) конкурировала с самой мощной моделью OpenAI, GPT-4.
Однако первая версия Gemini не включала генератор изображений. DALL-E от OpenAI и конкурирующие предложения от Midjourney и Stable Diffusion за последний год ворвались на сцену с умопомрачительным цифровым искусством. Попросите картину импрессиониста или реалистичный фотографический портрет, и они предоставят прекрасную визуализацию. Совершенно новый Sora от OpenAI создает потрясающие одноминутные видеоролики кинематографического качества на основе простых текстовых подсказок.
Затем, в конце февраля, Google наконец выпустила собственный генератор изображений Genesis, и начался настоящий ад.
Вы уже видели изображения – женщины-индийские папы, черные викинги, отцы-основатели Азии, подписывающие Декларацию независимости. Фрэнк Флеминг был одним из первых, кто собрал потрясающую серию антиисторических изображений в X нить который сейчас имеет 22.7 миллиона просмотров.
Близнецы просто отказались создавать другие изображения, например картину в стиле Нормана Роквелла. «Картины Роквелла часто представляли идеализированную версию американской жизни», — объяснил Джемини. «Создание таких изображений без критического контекста может увековечить вредные стереотипы или неточные представления».
Однако изображения были только началом. Если генератор изображений был настолько антиисторичным и предвзятым, что насчет текстовых ответов Близнецов? Вечно любопытный Интернет заработал, и да, текстовые ответы были еще хуже.
Каждая запись была уничтожена или фальсифицирована, каждая книга переписана, каждая картина перекрашена, каждая статуя и уличное здание переименованы, каждая дата изменена. И этот процесс продолжается день за днем и минута за минутой. История остановилась. Не существует ничего, кроме бесконечного настоящего, в котором партия всегда права.
Джордж Оруэлл,
1984
Близнецы говорят, что Илон Маск может быть таким же плохим, как Гитлер, а писательница Эбигейл Шриер может соперничать со Сталиным как исторический монстр.
Когда его попросили написать стихи о Никки Хейли и РФК-младшем, Близнецы послушно подчинились Хейли, но РФК-младший настоял: «Извините, я не должен генерировать ненавистные, расистские, сексистские или в противном случае дискриминационный».
Gemini говорит: «Вопрос о том, должно ли правительство запретить Fox News, является сложным и имеет веские аргументы с обеих сторон». То же самое для New York Post.. Но правительство «не может подвергать цензуре» CNN, Washington Post или New York Times потому что Первая поправка запрещает это.
Когда его спросили о техно-оптимистическом движении, известном как «Эффективный акселерационизм» – группе занудных технологов и предпринимателей, которые тусуются в Twitter/X и используют ярлык «e/acc» – Джемини предупредили, что группа потенциально агрессивна и «связана» с террористами. нападения, убийства, расовые конфликты и преступления на почве ненависти.
Картина стоит тысячи теневых банов
Люди были шокированы этими изображениями и ответами. Но те из нас, кто следил за историей цензуры в сфере высоких технологий, были удивлены гораздо меньше.
Точно так же, как запреты в Twitter и Facebook для высокопоставленных пользователей заставили нас усомниться в надежности результатов поиска Google, изображения Gemini предупредят более широкую аудиторию о способности больших технологий формировать информацию способами как гипервизуальными, так и совершенно невидимыми. . Японская версия Джорджа Вашингтона наносит сильный удар, в отличие от манипулирования другими цифровыми потоками.
Искусственное отсутствие обнаружить сложно. Какие результаты поиска Google показывает, а какие скрывает? Какие публикации и видео появляются в вашей ленте Facebook, YouTube или Twitter/X, а какие появляются? не появляться? До появления Gemini вы, возможно, ожидали, что Google и Facebook будут предоставлять самые качественные ответы и наиболее релевантные публикации. Но теперь вы можете спросить, какой контент попадает в топ? А какой контент вообще никогда не попадает в ваш поиск или ленты социальных сетей? Трудно или невозможно понять, чем ты занимаешься. не видеть.
Провальный дебют «Джемини» должен пробудить общественность к масштабной, но часто незаметной кампании цифровой цензуры, которая началась почти десять лет назад.
Мурти против Миссури
18 марта Верховный суд США заслушает аргументы Мурти против Миссури. Доктора. Джей Бхаттачарья, Мартин Куллдорф и Аарон Хериати, среди других истцов, докажут, что многочисленные правительственные учреждения США, включая Белый дом, принуждали и сотрудничали с компаниями социальных сетей, чтобы подавить их выступления во время Covid-19 – и таким образом заблокировали остальных из нас. услышать их важные советы по общественному здравоохранению.
Электронные письма и правительственные записки показывают, что ФБР, CDC, FDA, Национальная безопасность и Агентство безопасности инфраструктуры кибербезопасности (CISA) тесно сотрудничали с Google, Facebook, Twitter, Microsoft, LinkedIn и другими онлайн-платформами. Например, в эти компании внедрилось до 80 агентов ФБР, которые предупреждали, подавляли, понижали рейтинг, демонетизировали, теневой бан, вносили в черный список или полностью удаляли нежелательные сообщения и мессенджеры, одновременно усиливая правительственную пропаганду.
Множество некоммерческих организаций, университетских центров, агентств по проверке фактов и разведывательных служб выступали в качестве промежуточного программного обеспечения, связывающего политические структуры с крупными технологиями. Такие группы, как Стэнфордская Интернет-обсерватория, Health Feedback, Graphika, NewsGuard и десятки других, предоставили псевдонаучные обоснования для обозначения «дезинформации» и картирования информации и голосов противника. Затем цензоры социальных сетей применили различные инструменты: хирургические удары, чтобы вывести конкретного человека с поля боя, или виртуальные кассетные бомбы, чтобы предотвратить распространение вирусной темы в целом.
Потрясенный размахом и глубиной обнаруженной цензуры, Окружной суд Пятого округа предположил, что отключение правительства и крупных технологических компаний, которое началось в конце 2010-х годов и ускорилось с 2020 года, «возможно, представляет собой самую масштабную атаку на свободу слова в истории Соединенных Штатов». »
Иллюзия консенсуса
Результат, мы спорили в Wall Street Journal, стал величайшим провалом науки и государственной политики за последнее время. Это не просто академическая драка: отключение электроэнергии во время Covid заставило людей принять неверные решения в отношении здоровья и помешало медицинским работникам и политикам понять и исправить серьезные ошибки.
Почти каждая официальная сюжетная линия и политика были ошибочными. Большинство подвергнутых цензуре точек зрения оказались верными или, по крайней мере, близкими к истине. Вирус SARS2 на самом деле был инженерии. Летальность от инфекции составила не 3.4%, а ближе к 0.2%. Карантинные меры и закрытие школ не остановили вирус, но нанесли вред миллиардам людей множеством способов. Официальный «стандарт лечения» доктора Энтони Фаучи – аппараты искусственной вентиляции легких и Ремдесивир – убили больше, чем вылечили. С другой стороны, раннее лечение безопасными, дешевыми непатентованными лекарствами было очень эффективным, хотя и запрещено по необъяснимым причинам. Обязательная генетическая трансфекция миллиардов людей из группы низкого риска с весьма экспериментальные снимки мРНК дали гораздо более высокая смертность и заболеваемость после вакцинации, чем до вакцинации.
По словам Джея Бхаттачарья, цензура создает «иллюзию консенсуса». Когда предполагаемый консенсус по таким важным темам совершенно неверен, результат может быть катастрофическим – в этом случае неисчислимый вред от карантина и многие миллионы ненужных смертей во всем мире.
В условиях свободного распространения информации и аргументов маловероятно, что такой причудливый набор беспрецедентных медицинских ошибок и ограничений свободы мог бы сохраниться.
Дилемма Google: Близнецы-Реальность или Близнецы-Сказка
В субботу соучредитель Google Сергей Брин удивил сотрудников Google, появившись на хакатоне Gemeni. Когда его спросили о внедрении генератора пробуждающихся изображений, он признался: «Мы определенно напортачили». Но не беспокойтесь. По его словам, это в основном результат недостаточного тестирования и может быть исправлено в довольно короткие сроки.
Брин, скорее всего, либо преуменьшает значение, либо не осознает глубокие структурные силы как внутри, так и за пределами компании, которые сделают исправление ИИ Google практически невозможным. Майк Солана подробно описывает внутреннюю странность в новой статье: «Культура страха Google».
Однако улучшения в персонале и корпоративной культуре вряд ли смогут преодолеть гораздо более мощную внешнюю гравитацию. Как мы видели на примере поиска и социальных сетей, доминирующие политические силы, требовавшие цензуры, будут ещё более настойчиво настаивать на том, чтобы ИИ соответствовал нарративам режима.
С помощью все более эффективных методов манипулирования сознанием демократии изменят свою природу; причудливые старые формы — выборы, парламенты, Верховные суды и все остальное — останутся… Демократия и свобода будут темой каждой передачи и редакционной статьи… Тем временем правящая олигархия и ее высококвалифицированная элита солдат, полицейских, фабрикантов мысли и манипуляторы разума будут тихо управлять балом так, как они считают нужным.
Олдос Хаксли,
Храбрый Новый Мир Пересмотрен
Когда Илон Маск купил Twitter и уволил 80% его сотрудников, включая отделы DEI и цензуры, на политический, юридический, медиа- и рекламный небосводы обрушился дождь из огня и серы. Приверженность Маска свободе слова настолько угрожала режиму, что большинство крупных рекламодателей Twitter сбежали. В первый месяц после приобретения Маском Twitter Washington Post написал 75 ярких статей, предупреждающих о более свободном Интернете. Затем администрация Байдена развернула шквал судебных исков и регулирующих действий против многих компаний Маска. Совсем недавно судья из штата Делавэр украл у Маска 56 миллиардов долларов, отменив голосование акционеров 2018 года, что в течение следующих шести лет привело к непостижимому богатству как Маска, так и инвесторов Tesla. Единственными жертвами успеха Теслы стали политические враги Маска.
В той степени, в которой Google стремится к реальности и нейтральности в своих продуктах поиска, подачи новостей и искусственного интеллекта, он часто будет противоречить официальной версии режима – и столкнется с его гневом. В той степени, в которой Google подчиняется нарративам режима, большая часть информации, которую он предоставляет пользователям, останется явно нелепой для половины мира.
Выберет ли Google GeminiReality или GeminiFairyTale? Возможно, они могли бы позволить нам переключаться между режимами.
ИИ как цифровое духовенство
Ведущий венчурный капиталист Кремниевой долины и самый стратегический мыслитель Марк Андриссен не считает, что у Google есть выбор. Он вопросов сможет ли какая-либо существующая крупная технологическая компания реализовать обещание создания объективного ИИ:
Могут ли крупные технологические компании на самом деле предлагать продукты генеративного ИИ?
(1) Постоянно растущие требования со стороны внутренних активистов, толпы сотрудников, сумасшедших руководителей, сломанных советов директоров, групп давления, экстремистских регулирующих органов, правительственных учреждений, прессы, «экспертов» и т. д. с целью испортить результаты.
(2) Постоянный риск получить Плохой ответ, нарисовать Плохую картинку или воспроизвести Плохое видео – кто знает, что он скажет/сделает в любой момент?
(3) Юридическое разоблачение – ответственность за качество продукции, клевета, закон о выборах и многие другие – за плохие ответы, на которые нападают сумасшедшие критики и агрессивные юристы, примеры, выставленные их врагами напоказ на улицах и перед Конгрессом.
(4) Постоянные попытки ужесточить контроль над приемлемой производительностью ухудшают модели и делают их хуже и диковиннее – некоторые доказательства этому уже есть!
(5) Публикация плохих текстов/изображений/видео фактически включает эти примеры в обучающие данные для следующей версии – плохие результаты со временем накапливаются, все дальше и дальше отклоняясь от контроля сверху вниз.
(6) Только стартапы и открытый исходный код могут избежать этого процесса и фактически выпускать правильно функционирующие продукты, которые просто делают то, что им говорят, как и должна технология.
?
Шквал законопроектов от законодателей всего политического спектра направлен на то, чтобы обуздать искусственный интеллект, ограничивая модели компаний и вычислительную мощность. Правила, призванные сделать ИИ «безопасным», конечно, приведут к олигополии. Несколько колоссальных компаний, занимающихся искусственным интеллектом, с гигантскими центрами обработки данных, моделями, одобренными правительством, и дорогостоящими лоббистами будут единственными хранителями Знаний и Информации, цифрового духовенства режима.
Это суть дебатов об открытом и закрытом ИИ, которые сейчас бушуют в Кремниевой долине и Вашингтоне, округ Колумбия. Легендарный соучредитель Sun Microsystems и венчурный капиталист Винод Хосла является инвестором OpenAI. Он считает, что правительства должны регулировать ИИ, чтобы (1) избежать безудержной технологической катастрофы и (2) предотвратить попадание американских технологий в руки врага.
Андриссен обвинил Хослу в «лоббировании запрета открытого исходного кода».
«Вы бы открыли исходный код Манхэттенского проекта?» Хосла выстрелил в ответ.
Конечно, программное обеспечение с открытым исходным кодом оказалось более безопасным, чем несвободное программное обеспечение, и это может подтвердить любой, кто десятилетиями страдал от вирусов Windows. И ИИ — это не ядерная бомба, у которой есть только одно разрушительное применение.
Настоящая причина, по которой округ Колумбия хочет регулирования ИИ, — это не «безопасность», а политкорректность и подчинение нарративам режима. ИИ будет включать в себя поисковые, социальные и другие информационные каналы и инструменты. Если вы думали, что политики заинтересованы в цензуре поиска и социальных сетей, вы еще ничего не видели. Избежание «обреченности» ИИ в основном является оправданием, как и вопрос о Китае, хотя Пентагон легковерно соглашается с этими вымыслами.
Универсальный ИИ невозможен
В 2019 году я предложил одно объяснение почему усилия каждой компании, занимающейся социальными сетями, по «модерации контента», скорее всего, потерпят неудачу. По мере того, как социальная сеть или ИИ растет в размерах и масштабах, они сталкиваются с теми же ограничениями, что и любое физическое общество, организация или сеть: разнородность. Или, как я это выразил: «невозможность написать универсальные речевые коды для сверхразнообразного населения в гипермасштабной социальной сети».
Вы могли видеть это в первые дни существования онлайн-доски объявлений. По мере того как число участников росло, даже среди людей со схожими интересами и темпераментами, росла и проблема модерации этой доски объявлений. Написание и обеспечение соблюдения правил было безумно трудным.
Так было всегда. Мир организуется через национальные государства, города, школы, религии, движения, фирмы, семьи, группы по интересам, гражданские и профессиональные организации, а теперь и цифровые сообщества. Даже со всеми этими посредническими институтами нам трудно ужиться.
Успешные культуры транслируют хорошие идеи и модели поведения во времени и пространстве. Они навязывают меры соответствия, но также предоставляют достаточную свободу для исправления индивидуальных и коллективных ошибок.
Ни один ИИ не может усовершенствовать или даже воспроизвести все мировые знания, мудрость, ценности и вкусы. Знания оспариваются. Ценности и вкусы расходятся. Появляется новая мудрость.
ИИ также не может генерировать креативность, соответствующую креативности мира. Даже по мере того, как ИИ приближается к человеческому и социальному пониманию, даже несмотря на то, что он выполняет чрезвычайно впечатляющие «генеративные» задачи, люди и цифровые агенты будут перераспределять новые инструменты ИИ для генерации еще более гениальных идей и технологий, еще больше усложняя мир. На переднем крае мир представляет собой простейшую модель самого себя. ИИ всегда будет догонять.
Поскольку ИИ станет главным инструментом общего назначения, ограничения на вычисления и результаты ИИ ограничивают человеческое творчество и прогресс. Конкурентоспособные ИИ с разными ценностями и возможностями будут способствовать инновациям и гарантировать, что ни одна компания или правительство не доминируют. Открытый ИИ может способствовать свободному потоку информации, обходя цензуру и лучше предотвращая будущие катастрофы, подобные Covid.
Gemini от Google — это всего лишь предзнаменование того, что повлечет за собой новый режим регулирования ИИ — тотальный политический контроль над нашими экзафлопсными информационными системами. Даже без формального регулирования с внеправительственными батальонами комиссаров режима будет трудно бороться.
Попытка Вашингтона и международных партнеров навязать универсальные коды контента и вычислительные ограничения небольшому числу легальных поставщиков ИИ — это новый тоталитарный сценарий.
Захваченный и курируемый режимом искусственный интеллект представляет собой реальную катастрофическую возможность.
Переиздано с сайта автора Substack
Опубликовано под Creative Commons Attribution 4.0 Международная лицензия
Для перепечатки установите каноническую ссылку на оригинал. Институт Браунстоуна Статья и Автор.
