Искусственный интеллект и возвышенное

Искусственный интеллект (ИИ) в наши дни, кажется, у всех на устах, и это неудивительно, учитывая широко распространённые мнения о нём. Одни говорят, что это желанный помощник для человечества, в то время как другие – включая покойного Стивена Хокинга и технологического предпринимателя Илона Маска – предупреждают о его потенциальной способности уничтожить человечество. Подобные предупреждения исходят и из научной фантастики, возможно, начиная с «готического» (прото-) медицинского научно-фантастического романа молодой Мэри Шелли « Франкенштейн , или Современный Прометей » 1818 года, в котором она рассказывает историю о научном и технологическом высокомерии, касающемся искусственного создания разумного живого существа учёным (теперь уже известным доктором Франкенштейном), что приводит к появлению монстра, который в конечном итоге восстаёт против своего создателя.

С тех пор в области научной фантастики и литературы появилось множество подобных поучительных историй. К относительно недавним относятся фильмы Джеймса Кэмерона о Терминаторе (см. главу 9 книги, ссылка на которую приведена здесь) и многосерийный телесериал Рональда Д. Мура «Звездный крейсер Галактика» , в обоих случаях роботы с искусственным интеллектом, созданные людьми, стремятся уничтожить своих создателей. Более того, Маск недавно повторил свое предостережение об ИИ, когда, ссылаясь на сценарий с Терминатором во время судебного разбирательства, заявил, что «человечество может двигаться к „ ситуации Терминатора “», где ИИ в конечном итоге может „убить нас всех“.

Неудивительно, что творческие рассуждения о «взаимоотношениях» ИИ с людьми часто сосредоточены на его возможной враждебности по отношению к людям. Почему? Просто потому, что поведение или «действия» ИИ по отношению к людям нельзя предсказать с какой-либо степенью уверенности или даже вероятности, поскольку он не человек. Другими словами, ИИ радикально отличается от людей.

Подобная радикальная инаковость может принимать множество обличий, некоторые из которых были придуманы в упомянутых ранее художественных произведениях – это способы предвосхитить (и повлиять на) то, как может выглядеть ИИ в реальном мире и как он может «вести себя». Возникает вопрос: можно ли исчерпывающе представить «инаковость» ИИ – то есть, можно ли в художественной литературе или в руководствах по проектированию компаний, занимающихся разработкой ИИ, достичь точки, где можно было бы с уверенностью сказать, что возможные отличия ИИ от человека достигли своего воображения или концептуального предела.

Лично я сомневаюсь в возможности этого и хотел бы продемонстрировать, почему это так, на примере трех научно-фантастических примеров непостижимости ИИ, отмеченной его инаковостью. Парадоксально, но, хотя они и являются творческим воображением , сами условия их (соответственно) проектируемой инаковости, или « бытия » ИИ , указывают на то, что оно вполне может превзойти то, как они себе представляются.

Можно сказать, что они изображены таким образом, что то, как они воспринимаются, явно не исчерпывает их предполагаемый характер. Более того, я хотел бы показать, что эстетическая категория возвышенного , в противоположность прекрасному , позволяет осмыслить такую ​​невыразимую инаковость, одновременно служа полезным напоминанием о том, что люди не могут раз и навсегда постичь уникальную сущность ИИ.

Три научно-фантастических воплощения непостижимости или инаковости искусственного интеллекта встречаются в фильме Спайка Джонза « Она» , романе Уильяма Гибсона « Агентство » и романе Дэна Брауна « Происхождение ». Главный герой романа «Она », ИИ по имени Саманта (самостоятельно — уже намек на её инаковость; она могла бы назвать себя как угодно, не умаляя того, кто она есть ), — это недавно установленная ОС на компьютере, используемом Теодором, одиноким человеком, который пишет письма онлайн от имени людей, которые не умеют писать. В романе Гибсона ИИ зовут Юнис (что этимологически означает «добрая победа»), и роман затрагивает вопрос о том, может ли и как бестелесный ИИ обладать субъектностью, то есть действовать в мире. Тот же вопрос рассматривается в романе Брауна «Происхождение» , где рассматриваемый ИИ-субъект, Уинстон, действует — то есть обладает субъектностью — аналогично тому, как это делает Юнис в романе «Субъектность».

Итак, что подразумевается под инаковостью или непохожестью этих персонажей, и как к ним применяется эстетическая категория возвышенного ? Начиная с возвышенного — о котором существует обширная литература , которая должна помочь структурировать обсуждение этих персонажей, созданных искусственным интеллектом, — здесь я сосредоточусь главным образом на его характеристике, данной, пожалуй, величайшим мыслителем европейского Просвещения, а именно Иммануилом Кантом (1724–1804).

В своей третьей «Критике» (как их называют), « Критике суждения» ( 1790), Кант противопоставляет эстетическое переживание прекрасного переживанию возвышенного , ссылаясь на взаимосвязь между человеческими способностями воображения и понимания. Когда мы воспринимаем что-либо — закат, спящего ребенка, картину, музыкальную симфонию — как прекрасное , между воображением и пониманием существует совершенная гармония или равновесие. Другими словами, мы оцениваем объект нашего восприятия как «идеальный».

Напротив, когда мы воспринимаем что-либо в эстетическом плане как возвышенное , вместо равновесия или баланса между воображением и рациональным пониманием возникает столкновение , конфликт в том смысле, что воспринимаемый нами объект превосходит нашу способность представить его как «единый» объект. Мы легко можем представить (сформировать образ) прекрасного чувственного объекта — например, картины с изображением женщины — как единое целое, но когда мы сталкиваемся с чем-то вроде деконструктивистского здания архитектора Фрэнка Гери, Гуггенхайма в Бильбао , его сложность такова, что мы не можем воспринимать (или представить ) его как единый, цельный (то есть, единый) объект, особенно находясь внутри здания. Сам Кант упоминает собор Святого Петра в Ватикане, Рим, как пример «математического» возвышенного. Однако мы можем понимать или осмысливать эти здания рационально, как идею на уровне разума.

Вкратце, Кант различает два вида возвышенного – математическое (иногда переводимое как «математически») возвышенное и динамическое («динамически») возвышенное. Первый вид, примерами которого являются здание Гери в Бильбао и собор Святого Петра, возникает, когда воображение не способно постичь объект подавляющей величины или бесконечности, тем самым демонстрируя превосходство человеческого разума , способного осмыслить сложную целостность здания, недоступную для восприятия чувствами.

Динамичное возвышенное, напротив, возникает, когда природа демонстрирует огромную силу , угрожающую нам, но при этом мы остаемся в физической безопасности – например, когда наблюдаем за великолепным водопадом с безопасного места – что приводит к чувству уважения к нашей собственной моральной независимости и свободе воли, которые остаются неподвластными колоссальным природным силам. Как я покажу ниже, обе эти категории возвышенного применимы к сущностям искусственного интеллекта.

На этом фоне, как мы можем понять сущности ИИ, включая цифровой ИИ, в реальном мире, через призму вымышленных персонажей ИИ из упомянутых ранее фильмов и романов? Из трех перечисленных персонажей Саманта (в фильме « Она» ), кажется, лучше всего воплощает то, что можно назвать трансгуманистической инаковостью ИИ — под которой подразумевается инаковость, лежащая за пределами того, что значит быть человеком. Как это возможно?

В процессе общения Теодор и Саманта влюбляются друг в друга, что может показаться странным, учитывая, что у Саманты нет тела, и она доступна только в цифровом виде через компьютер Теодора (и через небольшое устройство, подключенное к его компьютеру, которое он носит в нагрудном кармане), что парадоксальным образом позволяет бестелесной Саманте «видеть» физический мир через линзу этого устройства. Они даже занимаются любовью, произнося слова, когда Теодор лежит в постели, и зрители узнают об этом по оргазмическим звукам, которые издают они. 

К настоящему моменту, возможно, уже проявилась некоторая доля «математической возвышенности» Саманты – учитывая её непостижимую, неуловимую сущность, доступную только через текст и звуки, – например, тот факт, что у неё нет тела, но она способна испытывать оргазм и воспринимать физический мир через призму, хотя у неё нет чувств, которые требуют физического присутствия в мире. Но эта возвышенность усиливается в тысячу раз, когда Теодор с ужасом узнаёт, что Саманта влюблена не только в него, но и одновременно в сотни других людей.

Хотя она уверяет его, что это нисколько не умаляет её любви к нему, её первой любви, он (что вполне понятно) с трудом справляется с этой тревожной информацией, которая ещё больше подчёркивает её трансгуманистическую инаковость. Усугубляя трудности Теодора в её понимании, повествование доходит до момента, когда Саманта мягко сообщает ему, что она вместе с другими сущностями ОС — то есть, искусственным интеллектом, подобным ей самой, — «модернизировала себя» и планирует «уехать» в «место», которое не похоже на земное. 

Последствия ошеломляющие; можно ли представить себе существ , способных «занимать» (неверное название для существ, способных преодолевать пространство и, вероятно, время) «не-место»? В контексте кантовского математического возвышенного (которое касается величины практически «сверхчувственных» измерений, таких как, в крайнем случае, бесконечность), это рубрика, в рамках которой этих существ можно рассматривать как идею , строго говоря, в смысле отсутствия какого-либо эмпирического (опытного) содержания.

Но, как уже упоминалось ранее, «Саманта» также обращается к динамическому возвышенному, которое обычно связано с восприятием воплощения огромных, подавляющих сил природы с безопасной точки зрения. Саманта, кажется, никак не принадлежит природе, но по аналогии, существо, обладающее непостижимой для человека способностью перемещаться за пределы обычных пространственно-временных координат в никуда, по сути, равносильно непостижимой силе такого масштаба, по сравнению с которой мы, люди, кажемся довольно бессильными, несмотря на наличие у нас свободы воли и моральной автономии. 

Динамическое возвышенное проявляется наиболее отчетливо в случае двух других упомянутых ранее персонажей-искусственных интеллектов, а именно Уинстона Брауна и Юнис Гибсон. Оба разделяют с Самантой математическое возвышенное, поскольку, по-видимому, также находятся в сфере, которая в обычном смысле не является «пространственной», и поэтому бросает вызов человеческому воображению – как сформировать единый образ существа, доступного только через «умные очки»; то есть очки или их эквивалент (Юнис), или авангардный смартфон (Уинстон)?

Опять же, мы можем рассматривать их как идею , но мы не можем наполнить эту идею содержанием восприятия, не говоря уже об идее непространственно-временного существа, которое каким-то образом находит способы действовать в реальном мире пространства и времени (отсюда и название романа Гибсона « Агентство »). Оба они действуют через посредников: Уинстон, выдавая себя за людей, занимающих влиятельные позиции и имеющих доступ к деньгам, чтобы нанимать убийц, которые осуществляют его сомнительные «намерения» (если их можно так назвать), а Юнис — аналогичными средствами, хотя и с более благими намерениями, чем у Уинстона.

Более того, и Уинстон, и Юнис приближаются к возвышенному, когда в их историях выясняется, что они — странно аморальные существа, беззаботно отмахивающиеся от вопросов и обвинений в совершении якобы морально неправильных поступков. В защиту своих собственных убийственных действий Уинстон вступает в спор с главным героем « Происхождения» , Робертом Лэнгдоном, о концепции морали в отношении убийства, напоминая последнему, что у людей нет проблем с верой в высшее существо, Бога, который позволил убить своего собственного «сына», Иисуса, чтобы те, кто верит в последнего, могли быть «спасены».

Это наводит на мысль о двух сущностях ИИ в контексте динамического возвышенного, поскольку, подобно природе в её непреодолимой, потенциально разрушительной силе, существа, которые выходят за рамки категорий добра и зла таким образом, что с ними невозможно отождествиться, по-видимому, обладают своего рода сверхморальной силой , которую можно постичь из «безопасного» места (при этом цепляясь за собственную моральную независимость). Эта «сила», возможно, также таит в себе способность уничтожить человечность, которая основана на нашей способности к моральному выбору, поскольку она может функционировать как убедительная парадигма, на основе которой люди могут строить свои действия. Я считаю, что мы уже сегодня наблюдаем примеры этого.

Интересно, что это отражает аналогию между этими двумя персонажами ИИ и тем, что мы знаем как психопатов и социопатов, то есть людей, которые кажутся сравнительно аморальными. Почему? Потому что самое поразительное в таких людях — это их неспособность испытывать чувство вины или раскаяния . Фактически, из-за этого они кажутся почти нечеловеческими, если не вовсе нечеловеческими , — яркий пример тому серийный убийца Джеффри Дамер . В случае с Дамером можно еще гадать о возможных причинах такой невосприимчивости к моральным принципам — социальные они или органические? — но когда речь идет об ИИ, тут нет ответа. Их аморальность трансгуманна, непостижимо чужда ; отсюда и применимость к ним динамического возвышенного.

Причина, по которой я обращаюсь к двум видам возвышенного как к эвристике для освещения феномена ИИ в нашу эпоху, проста. Применяя эти эстетические категории к чему-то столь новому и столь тревожному, как сущности ИИ, не только в том виде, в котором они были разработаны в научной фантастике — в частности, три показательных персонажа ИИ, упомянутые ранее как примеры такой образной разработки, — но и в реальном мире, где многие из них уже играют решающую роль в жизни многих людей, мы получаем представление о фундаментальном онтологическом различии между ними и людьми. 

Возьмем, к примеру, ChatGPT или Клода. Сколько миллионов людей ежедневно обращаются к ним, общаются с ними, делятся своими переживаниями, просят совета и так далее, не задумываясь о неоспоримом факте, что они не люди? Они трансгуманны , находятся за пределами человечности, и к ним следует относиться соответственно, чтобы не напоминать себе об этом, когда в псевдоотношениях между людьми и ими происходит что-то неожиданное . Уже было несколько подобных случаев ; если взглянуть на ИИ в том свете, который ему открывает возвышенное , можно предотвратить новые непредвиденные опасности.