Был ли «Филип Кросс» искусственным интеллектом?

Наряду с автором Браунстоуна Дженнифер Сей, я получил почетное упоминание в «Затаив дыхание» Уолтера Брэгмана. Важный контекст: Утечка электронных писем Института Браунстоуна раскрывает поддержку детского труда и курения несовершеннолетних. Брэгман решил прикрепить хэштег #Браунстоунфайлы в явной отсылке к Файлы Твиттера, но это несколько менее эффективно. На момент написания этой статьи у него было в общей сложности два последовательных твита, оба враждебные Брэгману. 

Брэгман отчеты что в просочившихся электронных письмах, которые он просматривал, «Блюмен рассказал анекдот о страницах антивоенных активистов, которые медленно редактируются одним, потенциально автоматизированным пользователем». 

Брагман прав. Я упомянул историю Филипа Кросса во внутреннем электронном письме в списке авторов Brownstone. Это важная история, о которой я мало думал с 2018 года, когда она впервые сломалась. В свете последних новостей эта история выглядит совсем иначе, чем пять лет назад. Я вернусь к этой истории в этой статье и проанализирую, как мир изменился за последние пять лет. 

История разразилась в 2018 году, когда бывший британский депутат Джордж Галлоуэй, давно известный своим антивоенные взгляды, обвинил таинственного редактора Википедии по имени «Филип Кросс» за нелестные изменения на его странице в Википедии. Новости BBC освещаются Словесная война Гэллоуэя с загадочным редактором Википедии.

Предметом гнева Галлоуэя является плодовитый редактор Википедии, известный под именем «Филип Кросс». Он был предметом широких дебатов в интернет-энциклопедии — одном из самых популярных веб-сайтов в мире — а также в Твиттере. И его обвиняли в предвзятости за взаимодействие, иногда негативное, с некоторыми людьми, чьи страницы в Википедии он редактировал.

Аккаунт Филипа Кросса был создан ровно в 18:48 по Гринвичу 26 октября 2004 года. С тех пор он внес более 130,000 30,000 правок на более чем 300 XNUMX страниц (sic). Это значительная сумма, но не такая уж необычная — например, правок недостаточно, чтобы поместить его в число XNUMX лучших редакторов Википедии.

Но антивоенные политики и журналисты озабочены тем, что он редактирует. В его топ-10 самых редактируемых страниц входят джазовый музыкант Дюк Эллингтон, газета The Sun и редактор Daily Mail Пол Дакр. Но также в эту десятку входит ряд громких критиков американской и британской внешней политики: журналист Джон Пилджер, лидер Лейбористской партии Джереми Корбин и директор Корбина по стратегии Симус Милн.

Его критики также говорят, что Филип Кросс внес благоприятные изменения на страницы, посвященные общественным деятелям, поддерживающим западное военное вмешательство на Ближнем Востоке. 

...

«Его правки безжалостно нацелены на людей, которые выступают против войны в Ираке, против последующих интервенционных войн… в Ливии и Сирии, а также против людей, критикующих Израиль», — говорит Гэллоуэй. 

Mintpress опубликован в отличный дайджест комментариев вокруг этой проблемы и цитирует Рона Маккея в Эдинбург Сандей Геральд:

Вам не нужно быть теоретиком заговора, чтобы увидеть, что здесь есть общие темы. Все эти [преследуемые] являются… известными участниками кампаний в социальных сетях и в основных СМИ, которые решительно ставят под сомнение нашу внешнюю политику. 

Бывший посол Великобритании Крейг Мюррей, также известный своими антивоенными взглядами и своим поддержка основателя Wikileaks Джулиана Ассанжа, сделал аналогичное замечание: 

[…] Цель операции «Филип Кросс» состоит в систематических атаках и подрыве репутации тех, кто бросает вызов доминирующим корпоративным и государственным СМИ, особенно в сфере иностранных дел. 

Антивоенный сайт medialens.org спросил: 

Другие известные антивоенные голоса как Ноам Хомский, Эдвард С. Херман (соавтор книги Согласие на производство), а также расширение Рания Халек также подвергались безжалостной кампании Кросса по порче. 

Посол Мюррей отметил следующие поразительные факты: 

Неизвестный редактор, «учетная запись ответственна за 20.4% всех правок» страницы Галлоуэя (которая Кросс редактировал более 1800 раз), заявила Би-би-си, которая продолжает детализировать содержание конкретных правок, которые были полностью нелестными или негативными.

ОБНОВЛЕНИЕ У «Филиппа Кросса» не было ни одного выходного дня в редактировании Википедии почти за пять лет. «Он» редактировал каждый божий день с 29 августа 2013 года по 14 мая 2018 года, включая пять рождественских дней. Это 1,721 день редактирования подряд.

Итак, за 133,612 лет в Википедию было внесено 14 30 правок от имени «Филипп Кросс». Это более XNUMX правок в день, семь дней в неделю. И я не использую это в переносном смысле: правки Википедии рассчитаны по времени, и если вы их нанесете на график, то временная карта деятельности «Филиппа Кросса» в Википедии поразительна, если это один человек:

Операция работает как часы, семь дней в неделю, каждый час бодрствования, без существенных отклонений.

Посол Мюррей при условии следующий график производительности «Филиппа Кросса» по изменению страниц Википедии по дням недели, усредненный за 14 лет деятельности: 

Кто такой или был этот Филип Кросс? После вышеупомянутой статьи BBC Кросс ушел из своей карьеры вандализма. № 308 среди самых активных редакторов Википедии за всю историю. Его прежний твиттер-аккаунт @philipcross63 больше не существует. Кто знает, не расскажет. Галлоуэй считает что Кросс — «настоящий и уязвимый человек». 

Посол Мюррей ноты что Гэллоуэй в какой-то момент предложил вознаграждение в размере 1,000 фунтов стерлингов за личность этого физического или юридического лица, «поэтому он также может подать в суд». МедиаЛенс государств что «BBC Trending удалось установить, что он живет в Англии и что Филип Кросс — это не то имя, под которым он обычно ходит вне Википедии». Everipedia.org заявляет «Кросс — энтузиаст джаза и драмы». Я подозреваю, что он, вероятно, также любит долгие прогулки по пляжу и свернувшись калачиком перед открытым камином с копией New York Times. 

Посол Мюррей предложения: 

Здесь есть три варианта. «Филип Кросс» либо действительно очень странный человек, либо фальшивая личность, маскирующая платную операцию по контролю контента википедии, либо настоящее лицо для такой операции от своего имени.

и

Я считаю, что Филип Кросс, вероятно, реальный человек, но он выступает за группу, действующую под его именем. Неоспоримая правда, на самом деле правительство хвасталось, что и Министерство обороны США, и GCHQ проводят операции «кибервойны», направленные на защиту «официальной» версии от альтернативных средств массовой информации, и именно в этом заключается цель «Филиппа Креста». операция в Википедии. Чрезвычайная регулярность производства свидетельствует о том, что «Филип Кросс» не является операцией либо одного человека, либо добровольца. Однако я не исключаю возможности, что он на самом деле является просто крайне одержимым правым фанатиком.

Редактор Википедии на стороннем канале выразил обеспокоенность что репутация Википедии (такая, какая она есть) могла быть, когда пролился свет на необычную деятельность «Филиппа Кросса». 

Был ли у истории счастливый конец? В августе 2018 г. сообщает Пять фильтров, «Арбитражный комитет Википедии (АрбКом) наконец-то проголосовал за редактор запрета Филип Кросс из темы «британской политики после 1978 года». Но подождите — не так быстро. «Однако арбитражный комитет Википедии в качестве мелкого шага «око за око» решил, что он также накажет редактора, который пытался предупредить сообщество о поведении Филипа Кросса».

Я знал об истории Филипа Кросса, когда она разразилась в 2018 году. В то время у меня не было этому объяснения. Мне это казалось жутко странным, и я не думал о ботах или автоматизации естественного языка. 

Недавние новаторские разоблачения в Твиттере о существовании и огромном масштабе организованный цензурно-промышленный комплекс (CIC) делают подозрения в цензуре официального сектора, возможно, более ранней итерации пятилетней давности, гораздо более правдоподобными. FiveFilters.org писал в 2018 году: «Почти вся Википедия написана всего 1 процентом ее редакторов». Тот же кусок цитирует статью Даниэля Оберхауса в Заместитель от 2017 о концентрации редактирования Википедии:

Но по мере того, как энциклопедия росла, а вместе с ней росло и число ее сотрудников, появилась группа стойких редакторов, которые с тех пор составляют большую часть роста Википедии.

Матей и его коллега Брайан Бритт, доцент кафедры журналистики в Университете штата Южная Дакота, использовали алгоритм машинного обучения для сканирования четверти миллиарда общедоступных журналов редактирования за первое десятилетие существования Википедии. Результаты этого исследования, опубликованные в сентябре книга, предполагает, что, несмотря на все претензии Википедии на то, что она является сайтом, созданным сетью свободно сотрудничающих коллег, «некоторые коллеги более равны, чем другие».

В подробном материале на сайте racket.news приводится несколько примеров того, как участники CIC используют искусственный интеллект и обработку естественного языка. Проект общественных благНапример, 

использовать искусственный интеллект и обработку естественного языка, чтобы «выявлять, отслеживать и реагировать на повествования, тенденции и неотложные вопросы», чтобы «выполнять проверку фактов» и «силовые стратегии изменения поведения».

Недавняя история о подстеке Игоря Ходова, Чат-боты с искусственным интеллектом, финансируемые Биллом Гейтсом, продвигали вакцины от COVID (возможно, вы сталкивались с ними в социальных сетях) который цитирует статью на сайте nature.com Эффективность чат-ботов в отношении доверия и признания вакцины против COVID в Таиланде, Гонконге и Сингапуре предоставляет больше информации об использовании ботов для управления нарративами. 

Недавнее появление высокопроизводительных больших языковых моделей делает идею автоматизации более правдоподобной. Если не в 2018 году, LLM теперь мог бы легко переписать заданный текст, чтобы наклонить его в указанном направлении. 

Были ли в то время модели, которые могли это сделать? Будут ли будущие кампании по контролю над повествованиями в Википедии опираться на эту технологию? Каково будущее краудсорсинговой базы знаний, такой как Википедия, которая зависит от высокой стоимости человеческого времени и социального взаимодействия при редактировании спорной темы, когда возможность автоматизации делает это почти бесплатным?