Определения (потому что значение слов имеет значение)
- дезинформация = информация (считающаяся ложной на момент распространения), которая отличается от официальной версии, одобренной государством, но не используется преднамеренно в политических целях.
- дезинформация = информация (считающаяся ложной на момент распространения), отличающаяся от официальной утвержденной государством версии событий, распространяемая с целью продвижения политической повестки дня.
- Дезинформация = информация, которая может быть правдивой или ложной, но которая заставляет лиц, получающих эту информацию, не доверять государству.
- Синформация = Синтетическая информация и реальность, созданные путем формирования ложных знаний и связанных с ними синтетических матриц «истины» с использованием больших вычислительных инструментов «искусственного интеллекта» на основе языковых моделей.
- эпистемология = Эпистемология — это Философское изучение знания, охватывающее его природу, происхождение и границы.Она исследует, что значит знать что-либо, как знание приобретается из таких источников, как восприятие, разум, память и свидетельства, и что отличает обоснованное убеждение от простого мнения. Центральные понятия в эпистемологии включают убеждение, истину, обоснование и доказательство, при этом традиционное определение знания часто понимается как обоснованное истинное убеждение.
- Эпистемический захват = Как изложил доктор. Тоби Роджерс в своих показаниях в Сенате и сочинения: «В социальных науках существует такой термин, как эпистемический захватЭто происходит, когда весь процесс производства знаний оказывается под контролем одной отрасли (крупных фармацевтических компаний). Именно это и случилось с наукой и медициной.Он пояснил, что этот захват означает:Фармацевтическая индустрия контролирует каждый этап процесса получения знаний в науке и медицине. Крупные фармацевтические компании контролируют, что изучается, как проводятся исследования и что считается доказательством.".
- Правдивость Что-либо обладает истинностью, когда оно ощущается как истинное, звучит как истинное или должно быть истинным на основе эмоций, интуиции, убеждений или идеологических предпочтений — независимо от доказательств, логики или объективной проверки. Оно ставит во главу угла субъективную убежденность («Я чувствую это нутром»), а не эмпирическую реальность («доказательства показывают…»).
«Правдоподобие — это качество, позволяющее воспринимать или считать что-либо правдивым, даже если это не обязательно так. Это то, какими вы хотите видеть факты, в отличие от того, какими они являются на самом деле. Это истина, идущая от души, а не из книг».
-Стивен Кольбер, Доклад Колберта (Октябрь 17, 2005)
Введение и контекст
В качестве сопредседателя и члена Консультативного комитета CDC по практике иммунизации я участвую в учебном курсе по методологии GRADE для принятия решений в области общественного здравоохранения. Эта аббревиатура расшифровывается как Оценка, разработка и анализ рекомендаций.Данная методология призвана обеспечить структурированную и прозрачную основу для оценки качества (достоверности) доказательств и силы рекомендаций, вытекающих из этих доказательств.
Цель этого метода — создание объективного инструмента для принятия решений в области политики здравоохранения и клинической медицины на основе фактических данных. Разработка этой сложной системы осуществлялась международной рабочей группой, начиная с 2000 года, и результаты их работы были приняты ВОЗ, CDC/ACIP, Кокрановским сотрудничеством, Национальным институтом здравоохранения и качества медицинской помощи (NICE), Великобританией, Канадской целевой группой по профилактической медицине (CTFPHC) и многими другими организациями, включая различные медицинские специализированные гильдии в США.
Для многих специалистов может стать неожиданностью, что, несмотря на историческую поддержку со стороны Консультативного комитета по иммунизации при Центрах по контролю и профилактике заболеваний (CDC ACIP), система GRADE не является общепринятой (на международном уровне). Европейское агентство по лекарственным средствам (EMA) не использует систему GRADE в своих процессах принятия решений, таких как оценка лекарственных препаратов для получения разрешения на продажу или разработка научных руководств. EMA в основном оценивает качество, безопасность и эффективность лекарственных препаратов через свои научные комитеты (например, Комитет по лекарственным препаратам для человека – CHMP). Это включает в себя анализ соотношения пользы и риска. на основе данных клинических испытаний, фармаконадзора и нормативных стандартов, таких как надлежащая клиническая практика (GCP). Хотя EMA разрабатывает научные руководства по таким темам, как клинические испытания и биоэквивалентность, в них делается акцент на подходах, основанных на доказательствах, но не используется система GRADE для оценки качества доказательств или силы рекомендаций.
Внимательно слушая учебные модули GRADE вместе с другими членами ACIP и размышляя о том, как этот сложный процесс так ужасно провалился во время пандемии COVID-19, мне пришло в голову, что проблема может заключаться в том, что доктор Тоби Роджерс так лаконично резюмировал в своей работе. показания под присягой в Сенате СШАВозможно, ответ на этот вопрос кроется в концепции «эпистемического захвата».
Подход GRADE предполагает, что в случае рецензируемых клинических и эпидемиологических данных (иначе говоря, «доказательной медицины») отдельные исследования будут отражать различные формы предвзятости (структурную, преднамеренную или непреднамеренную), но при систематическом анализе как совокупности информации эти искажения либо компенсируют друг друга, либо (если искажение обнаружено) могут быть статистически компенсированы. Что же могло пойти не так? Очевидно, что-то пошло не так. Даже в разработанной сложной системе GRADE может существовать необнаруженная предвзятость, искажающая результаты анализа.
Размышляя о собственном внутреннем самоанализе после катастрофы, связанной с тщеславием по поводу COVID-19, я прихожу к выводу, что преобладающие предубеждения, искажающие процесс принятия решений в CDC и ACIP, по-видимому, исходят из двух основных источников. Эти два источника тесно переплетены, подобно известному вопросу о том, что появилось раньше, курица или яйцо.
Предвзятость №1. Культ вакцинации.
Одним из основных источников предвзятости является сам процесс применения системы GRADE людьми, поскольку она основана на множестве субъективных методов ранжирования и, следовательно, подвержена влиянию культурных предубеждений со стороны тех, кто применяет эти методы.
Менее дипломатично это можно выразить так: те, кто участвовал в применении системы GRADE от имени ACIP и CDC во время пандемии COVID-19, находились под влиянием целого ряда очевидных конфликтов интересов. В контексте CDC и его двойной роли как пропагандиста вакцинации и наблюдателя за ее безопасностью, я называю эту форму культурной предвзятости «культом вакцинации», и она была распространена среди сотрудников, бюрократии и бюрократически захваченной «независимой консультативной группы», называемой CDC ACIP.
Священнослужителей и последователей этого культа можно узнать по их повторяющимся, как попугая, заявлениям о том, что все вакцины «безопасны и эффективны». И доктор Маттиас Десмет, и я могли бы привести это в пример, а также безоговорочное обожание и принятие бормотаний исполняющего обязанности президента США по борьбе с COVID-19 доктора Энтони Фаучи, как примеры массового формирования, группового мышления или того и другого.
Но это уже вчерашние новости, и тот факт, что правительство США (и Центры по контролю и профилактике заболеваний) распространяли ложь и дезинформацию о COVID-19, настолько широко принят, что стал почти обыденным. Чтобы это подчеркнуть, достаточно дождаться результатов предстоящего опроса Rasmussen, касающегося побочных эффектов вакцины после COVID-19, которые должны быть опубликованы 21 ноября этого года. Лично я считаю эту тему интеллектуально скучной. Я освещал её годами в сотнях эссе, подкастов и интервью. Мне кажется, что всё это уже было сказано, по крайней мере, в США. Когда я путешествую за границу и говорю об этом, это всё ещё воспринимается как откровение, но внутри страны, должно быть, тысячи «влиятельных лиц» ежедневно настойчиво повторяют эту мысль.
Предвзятость №2. Эпистемический захват
Когда Тоби Роджерс ввел концепцию «эпистемического захвата» в контексте академической/правительственной/промышленной индустрии вакцин, это поразило меня как молния, так же как и когда я впервые узнал о применении доктором Десметом хорошо разработанных теорий и научных исследований XX века, касающихся формирования масс и тоталитаризма, к ситуации с COVID-20.
Система GRADE страдает от понятной наивности, от лежащего в её основе предположения, которое явно устарело. Я разделял это мнение до тех пор, пока не столкнулся с подобными ситуациями и наблюдениями во время пандемии COVID-19. Предполагается добросовестность и независимость системы формирования знаний в области общественного здравоохранения, эпидемиологии, медицины и клинической науки. Это сочеталось с предположением о добросовестности и независимости со стороны FDA и других западных регулирующих органов. COVID-19 и последующие разоблачения и расследования, касающиеся фальсифицированных исследований и данных, в сочетании с целенаправленным, систематическим подавлением всей информации, противоречащей утвержденным правительством нарративам, полностью подорвали доверие к этим предположениям.
Для меня эта реальность достигла кульминации во время последнего заседания ACIP, где я предъявил представителю Pfizer обвинение в мошенническом изменении и манипулировании данными, представленными FDA. Представитель компании, по сути, признал этот хорошо задокументированный факт, но сообщил комитету ACIP, что FDA было известно о мошенническом изменении данных. К слову, такая позиция (FDA знало) очень удобна для Pfizer, поскольку она юридически освобождает компанию от ответственности по любому иску, поданному от имени правительства США с целью возмещения средств, потраченных на приобретение мошеннической продукции.
Как можно применять процесс систематического обзора, когда исходные данные и анализ были мошенническим образом искажены или изменены в результате взаимодействия коммерческих интересов и группового мышления/культовой культуры государственных учреждений?
В своем Выступление в Сенате, д-р Тоби Роджерс Речь идёт о полном доминировании одной отрасли, в данном случае крупных фармацевтических компаний, над процессом производства знаний в такой области, как наука и медицина. Это выходит за рамки простого захвата регулирующих органов и доходит до того, что отрасли влияют на все аспекты политики и генерации знаний, контролируя сами основы того, что известно, изучается и принимается за истину. Эта концепция показалась мне правдивой и полностью соответствовала опыту всех моих знакомых во время пандемии COVID-19, которые пытались публиковать данные и клинические результаты, противоречащие пропагандируемой правительством/CDC версии событий.
Например, см. следующий Substack за 2023 год. сочинение:
С первого дня обучения в медицинском вузе и до последних лет практики врачи живут в тщательно созданном фармацевтической индустрией эпистемологическом пузыре. То, что я описываю, выходит за рамки «конфликта интересов» — это системный захват всего процесса производства знаний.
Философы науки называют это эпистемическим захватом, то есть когда промышленность контролирует условия производства знаний — что исследуется, как и что считается доказательством. Проблема не в одном плохом регуляторе или одном скомпрометированном ведомстве. Вся система производства знаний в науке и медицине нуждается в перестройке, чтобы освободить её от предвзятости и искажений, навязываемых фармацевтической промышленностью.
–Доктор Тоби Роджерс, сентябрь 2025 г., заметка/комментарий Substack.
В своих показаниях перед Постоянным подкомитетом Сената США по расследованиям 9 сентября 2025 года Роджерс заявил: «В социальных науках существует термин «эпистемический захват», который означает, что весь процесс производства знаний оказывается под контролем одной отрасли (крупных фармацевтических компаний). Именно это произошло с наукой и медициной». Он пояснил, что этот захват означает, что «фармацевтическая промышленность захватила каждый этап процесса производства знаний в науке и медицине. Крупные фармацевтические компании контролируют то, что изучается, как проводятся исследования и что считается доказательством».
Роджерс описывает, как это проявляется во всей системе:
- Образование: Учебники, учебные программы и методы обучения в медицинских вузах формируются учеными, имеющими финансовые связи с фармацевтическими компаниями.
- Исследования: Университеты и руководители кафедр получают значительное финансирование от фармацевтических компаний; большинство клинических испытаний проводятся коммерческими организациями в условиях слабого регулирования, например, в Китае или странах Глобального Юга.
- Публикации: Значительная часть статей в научных журналах написана авторами, являющимися представителями отрасли.
- Продвижение: Фармацевтические компании ежегодно тратят более 27 миллиардов долларов на маркетинг лекарственных препаратов и «повышение квалификации» врачей.
- Практика: Стандарты оказания медицинской помощи разрабатываются врачами, имеющими конфликт интересов, что создает «эпистемологический пузырь», который охватывает специалистов от момента обучения до выхода на пенсию.
Роджерс утверждает, что этот искусственно созданный «пузырь» ставит прибыль промышленности выше общественного здравоохранения, делая некоторые вопросы недоступными для обсуждения, вред невидимым, а подлинное исследование невозможным. В качестве примеров Роджерс приводит такие области, как исследования аутизма и безопасность вакцин. В своей публикации в X в ноябре 2025 года он кратко сформулировал это так: «Эпистемический захват: все производство знаний в науке и медицине контролируется фармацевтическими компаниями и используется для увеличения их прибыли».
Тщательно разработанная система GRADE совершенно не отражает объективную реальность, когда происходит эпистемический захват, как это явно имело место во время пандемии COVID-19. Следовательно, все выводы, полученные даже при самом объективном и беспристрастном применении этой системы, не смогут обеспечить точные и надежные рекомендации для государственной политики. Ситуацию усугубляет печальная, но хорошо задокументированная реальность того, что даже без ИИ (подробнее об этом позже) Результаты большинства исследований, опубликованных в рецензируемых медицинских журналах, не поддаются легкому воспроизведению..
Размышляя об этой новой реальности, я сталкиваюсь с дилеммой. Я вынужден сделать вывод, что вся «рецензируемая» литература больше не может использоваться в качестве надежного источника для разработки политики в области общественного здравоохранения, даже при применении самых объективных стандартов системы систематических обзоров GRADE, которая, как считается, имеет благие намерения.
Если так, то как ACIP или лица, принимающие решения в области государственной политики здравоохранения, должны разрабатывать рекомендации и руководства по вопросам общественного здравоохранения? К кому и куда можно обратиться за объективной и точной информацией? К государству? Судя по тому, что я видел со стороны CDC и FDA во время пандемии COVID-19, это кажется довольно наивным. К академическим кругам? Они под контролем. К фармацевтическим компаниям? Вы, должно быть, шутите. К организациям, занимающимся контрактными исследованиями? Да ладно. Я раньше работал в индустрии клинических исследований (CRO). Глубоко скомпрометированная, полностью зависимая от своих крупных фармацевтических спонсоров.
Я в растерянности. У нас, друзья, проблема прямо здесь, в Ривер-Сити. Вся моя карьера сейчас связана с экзистенциальным кризисом: смертью доказательной («аллопатической») медицины и глубокой, системной коррупцией медицинских и биомедицинских знаний. И мне это совсем не нравится.
Нормализация «правдоподобия»
Видимость истины — независимо от того, подтверждается ли она объективными, проверяемыми доказательствами или нет — субъективна, в значительной степени формируется культурными и политическими предубеждениями и может быть легко сфабрикована с помощью пропаганды и всего спектра современных методов цензуры и контроля информации, часто называемых технологиями психологической войны (Психологическая война).
Сейчас совершенно очевидно и хорошо задокументировано, что была развернута глобальная, согласованная пропагандистская кампания для создания видимости правдоподобия вокруг продвигаемых основных компонентов системы убеждений, связанных с COVID-19. Эти синтетические нарративы включали в себя утверждения о том, что вирус SARS-CoV-2 возник в природе в результате межвидового скрещивания, является высокопатогенным и убьет значительную часть населения планеты.
Еще одним ключевым элементом этого искусственно созданного нарратива, призванного скрыть правду, было утверждение, что единственными лекарствами, эффективными в предотвращении значительного риска смерти от вируса SARS-CoV-2, являются «безопасные и эффективные» генетические «вакцины от COVID-19». Для получения достоверной информации о риске смерти, пожалуйста, ознакомьтесь с недавно опубликованным «Региональные закономерности избыточной смертности в Германии во время пандемии COVID-19: анализ на уровне земель.«Это лишь один из многих примеров, которые наконец-то стали достоянием общественности. Любой, кто осмеливался не соглашаться с этими утверждениями, подвергался (и до сих пор подвергается) скоординированному запугиванию, цензуре, увольнению, блокировке и отклонению представленных научных рукописей, а также другим принудительным действиям. Как это можно было оправдать?»
Эти ложные утверждения были приняты государственными чиновниками как необходимые для максимального улучшения общественного здравоохранения. Логика заключалась в том, что любая информация (будь то ложная или дезинформационная), которая могла бы вызвать «колебание в отношении вакцинации», раскрывая ложные утверждения, лежащие в основе продвигаемых ложных утверждений, напрямую привела бы к предотвратимым смертям. Потому что, конечно же, вакцины были (заявлялось) безопасными и эффективными. Сообщения от врачей и пациентов, работающих на передовой, противоречащие этому, должны были подавляться, включая сообщения о смертях, связанных с вакцинацией, чтобы предотвратить появление у населения в целом сомнений в необходимости вакцинации.
К сожалению для пропагандистов, ложные утверждения о «безопасности и эффективности» вакцин оказались настолько очевидными для значительной части населения, что привели к повсеместной потере доверия к здравоохранению, к вакцинации в целом, к медицинским специализированным объединениям и к аллопатической медицине в целом. Оглядываясь назад, становится ясно, что подобная логическая ошибка широко применялась и подкреплялась в отношении всей вакцинации (включая различные риски побочных эффектов) по всему западному миру, и что аналогичная негативная реакция продолжается.
Недавний, более общий пример нормализации правдоподобия связан с творческим монтажом видеозаписи выступления президента США Дональда Трампа 6 января 2021 года, проведенным британской телерадиовещательной компанией British Broadcasting System. Журналистка и редактор Мэри Харрингтон в британском онлайн-издании «Unherd» осветила этот скандал в эссе под названием «Почему нам будет не хватать BBC. Мир, который она представляла, уходит.«Всё эссе заслуживает прочтения. Вот краткое изложение контекста:»
«Подделка» Видеоролик с Трампом Видеоролик, который помог дискредитировать генерального директора BBC Тима Дэви на выходных, в XXI веке является идеальным политическим тестом Роршаха. В нем две части речи президента, разделенные 52 минутами, были смонтированы вместе с кадрами толпы, так что создается впечатление, будто он подстрекал свою аудиторию к физическому противостоянию.
Для многих правых, включая самого Трампа, эта отредактированная версия была пропагандой, призванной изобразить его как подстрекателя к беспорядкам и демагога. Для ненавистников Трампа, даже если это не совсем точное отражение того, что он сказал в той конкретной речи, это довольно точное изложение трампизма, и, следовательно, правдивое по духу. Так кто же прав? Речь идёт даже не о фактах, а о том, что эти факты означают.
И именно это является более важным вопросом и для Би-би-си: дело не столько в том, является ли Би-би-си «предвзятой» и в каком направлении, сколько в другом. Сохранилась ли у нас еще вера в возможность существования нейтральных, авторитетных арбитров информации как таковых?. И Если ответ «нет», то каким будет будущее нашей якобы нейтральной и беспристрастной национальной телерадиокомпании?
В приведенном ниже тексте она анализирует суть ситуации, которая является одним из многих примеров, используемых для иллюстрации того, что ранее продвигаемая BBC консенсусная реальность распалась на калейдоскоп отдельных реальностей, связанных с различными микрокультурами («племенами»).
Как точно отражено в заголовке, основная мысль статьи — это, по сути, некролог, в котором выражается сожаление по поводу утраты способности спонсируемой государством (как Великобританией, так и США) Би-би-си нормализовать и укреплять правдоподобие.
Действительно, именно COVID-19 стал переломным моментом в этой траектории, по той простой причине, что Введение карантина вынудило всех перейти в онлайн.Если с тех пор кажется, что мир сошел с ума, дело не в том, что социальная изоляция свела нас с ума. Дело в том, что что интернет поглотил реальностьВ результате возникшей какофонии каждый теперь создает свою собственную, уникальную версию реальности, используя практически бесконечный запас медиаканалов, подкастов, влиятельных лиц и тому подобного.
А поскольку люди миметичны — то есть мы принимаем решения, основываясь на желаниях окружающих, — эти реалии начали концентрироваться в группах по интересам. В свою очередь, эти группы начали определять себя в противовес друг другу и вести информационную войну. Одним из заметных результатов этих столкновений, например, является прогрессивный захват Википедия, которая изначально задумывалась как нейтральная, создаваемая пользователями онлайн-энциклопедия, но в итоге стала крайне политизированной.
Такое растворение «истины» в племенной окопной войне теперь является основной структурой того, что мы раньше называли «публичным диалогом». В этой новой обстановке на кону уже стоят огромные суммы денег, статус и политическое влияние; Би-би-си, которая была создана как средство коммуникации между многими и передачи респектабельного общественного мнения, совершенно не готова к работе в таких условиях.
В итоге, «правда» давно уже приносится в жертву государственной пропаганде, призванной создать иллюзию искусственной «правдоподобности» вокруг тем, неудобных для государства. Крах официальных государственных СМИ (включая СМИ, спонсируемые USAID) оставил вакуум, в котором в квазиоткрытой интернет-среде продвигается широкий спектр мнений. Но природа не терпит вакуума.
Вполне логично предположить, что в этом раздробленном ландшафте «истины», принимая тезис о том, что фармацевтическая промышленность осуществила эпистемологический захват всей матрицы генерации и распространения медицинской информации, «огромные суммы денег, статуса и политического влияния», о которых говорит Харрингтон, будут использованы для подтверждения правдоподобности нарративов, продвигающих коммерческие интересы отрасли.
Иными словами, весьма вероятно, что информационная война или технология психологической войны стали центральным элементом современной маркетинговой стратегии и тактики фармацевтической промышленности, позволяя отрасли регулярно навязывать искусственные версии истины и реальности, касающиеся здравоохранения и медицинских вмешательств.
А что насчёт «синформации»?
Как будто этого было недостаточно, в контексте этого интеллектуального парадокса, этого конкретного экзистенциального кризиса, была сброшена настоящая бомба правды в виде недавней, тщательно подготовленной публикации. Великая Эпоха статья под названием «Как искусственный интеллект ускоряет научное мошенничествоПодзаголовок суммирует один из ключевых выводов: «По сути, сейчас мы наблюдаем нечто, эквивалентное атаке типа «отказ в обслуживании». Настоящие исследователи тонут в информационном шуме», — сказал один из экспертов.
Ученые и специалисты по кибербезопасности предупреждают, что волна фальсифицированных научных исследований, созданных с помощью искусственного интеллекта (ИИ), незаметно проникает в научные архивы, обходя проверки на плагиат. По мнению экспертов, это явление ставит под угрозу будущую репутацию научных исследований, усиливая давно существующую индустрию мошенничества, связанную с созданием «фабрик научных работ».
Академические «фабрики научных работ» — фиктивные организации, получающие прибыль от сфальсифицированных исследований и авторства, — годами досаждают ученым, а искусственный интеллект теперь выступает в роли множителя силы.
...
Рукописи, созданные с использованием больших языковых моделей (LLM), распространяются в самых разных академических дисциплинах и на различных платформах, включая Google Scholar и Университет Бораса. найденный. В препринт В сентябре на medRxiv исследователи из Университета Суррея отметили, что инструменты LLM, такие как ChatGPT, Gemini и Claude, могут генерировать правдоподобные исследования, которые проходят стандартные проверки на плагиат.
...
В ходе анализа сгенерированной искусственным интеллектом «псевдонаучной» литературы, опубликованного в Google Scholar, шведские университетские исследователи выявили более 100 статей, предположительно созданных с помощью ИИ.
Компания Google не ответила на запрос. Эпохальные времена запрос на комментарий.
Авторы шведского исследования заявили, что одной из главных проблем, связанных с исследованиями, созданными с помощью ИИ — с участием человека или без него, — является возможность использования дезинформации для «стратегических манипуляций».
«Риск того, что мы называем „взломом доказательств“, значительно возрастает, когда результаты исследований, сгенерированные ИИ, распространяются в поисковых системах», — сказал автор исследования Бьорн Экстром. «Это может иметь ощутимые последствия, поскольку неверные результаты могут проникнуть в общество и, возможно, во все большее количество областей».
...
Натан Венцлер, директор по информационной безопасности компании Optiv, заявил, что, по его мнению, на карту поставлено будущее общественного доверия.
«По мере того, как все больше неверного или откровенно ложного контента, сгенерированного ИИ, добавляется в уважаемые журналы и ключевые научные обзоры, краткосрочные и долгосрочные последствия одинаковы: подрыв доверия», — сказал Венцлер. Великая Эпоха.
Это пример, иллюстрирующий влияние грядущей волны синформизма, в результате которой даже видимость общего массива фактической информации станет устаревшим анахронизмом. По мере того как это явление охватывает аллопатическую медицину и буквально всю цивилизацию, связанную с интернетом, проблемы «старомодного» захвата информации будут казаться чем-то излишним.
В заключение я рекомендую ознакомиться с этим академическим анализом 2024 года, подготовленным... Джон Уиби, под названием "Искусственный интеллект и эпистемологические риски для демократии: грядущий кризис общественных знаний?
Мы вступаем в неизведанные воды, и там нас ждут чудовища. В обозримом будущем, в условиях раздробленной сюрреалистической информационной матрицы, «правдоподобие» может стать нашим единственным ориентиром. В этот момент объективная, измеримая реальность (и научный прогресс) станут таким же пережитком прошлого, как конные экипажи, дисковые телефоны и «доказательная медицина».
В качестве краткого введения в мысли Уиби по данной теме рассмотрим следующий краткий обзор рукописи:
По мере развития и внедрения передовых технологий искусственного интеллекта (ИИ) ключевые области информации и знаний, поддерживающие демократическую жизнь, будут всесторонне опосредованы машинами. Чат-боты и агенты ИИ могут структурировать большинство интернет-пространств, средств массовой информации и общедоступной информации.
То, во что люди верят и что заслуживает внимания – то, что становится общедоступной информацией – может все больше подвергаться влиянию суждений развитых систем искусственного интеллекта. Эта тенденция создаст серьезные проблемы для демократии. Ситуация, которую мы можем назвать «эпистемическим риском», поставит под угрозу возможность этического соответствия ИИ человеческим ценностям. Технологии ИИ обучаются на данных из прошлого человечества, но демократическая жизнь часто зависит от выявления неявных знаний человека и ранее не раскрытых предпочтений.
Таким образом, по мере того как технологии искусственного интеллекта структурируют создание общедоступных знаний, их содержание может все чаще становиться рекурсивным побочным продуктом самого ИИ, построенным на том, что мы могли бы назвать «эпистемический анахронизмВ данной статье утверждается, что эпистемический захват или «закрепление» и соответствующая потеря автономии представляют собой серьезные риски, и для изучения этих процессов анализируются три примера из различных областей – журналистика, модерация контента и опросы общественного мнения.
Путь к достижению любой концепции этичного и ответственного использования ИИ в контексте демократии предполагает настаивание на эпистемологической скромности в моделях ИИ, а также на нормах, подчеркивающих неполноту суждений ИИ по отношению к человеческим знаниям и ценностям.
В грядущую эпоху синформацияТе, кто стремится продвигать любую желаемую концепцию медицинского лечения, смогут наводнить общественное пространство синтезированными научными нарративами, которые легко обойдут как исторически сложившиеся, громоздкие, ручные процессы рецензирования, так и любые методы рецензирования с использованием искусственного интеллекта. В итоге доминирующим нарративом станет что угодно. синформация Создается, используется в качестве оружия и продвигается теми, у кого больше всего золота, которое можно потратить на кампанию.
Вскоре мы столкнемся с последствиями нового «Золотого правила синтеза»: те, у кого больше всего золота, не только будут устанавливать правила, но и синтезировать саму основу общепринятой истины и реальности.
Устаревшие системы, предназначенные для поддержки принятия решений в области государственной политики и использующие субъективные критерии анализа знаний, такие как GRADE, не имеют ни единого шанса. Мы должны найти путь к установлению объективной истины, иначе Золотое правило синтеза не только уничтожит «демократию» посредством захвата эпистемологических знаний на основе ИИ, но и разрушит человеческую цивилизацию.
Переиздано с сайта автора Substack
Присоединиться к разговору:
Опубликовано под Creative Commons Attribution 4.0 Международная лицензия
Для перепечатки установите каноническую ссылку на оригинал. Институт Браунстоуна Статья и Автор.
