Искусственный интеллект (ИИ) в наши дни, кажется, у всех на устах, и это неудивительно, учитывая самые разные мнения о нем. Одни говорят, что это желанный помощник для человечества, в то время как другие – включая покойного Стивена Хокинга и технологического предпринимателя Илона Маска – предупреждают о его потенциальной способности уничтожить человечество. Подобные предупреждения исходят и из научной фантастики, возможно, начиная с «готического» (прото-)медицинского научно-фантастического романа молодой Мэри Шелли. Франкенштейн; или, Современный ПрометейВ своей работе 1818 года она рассказывает историю о научно-техническом высокомерии, связанном с искусственным созданием разумного живого существа учёным (тем самым доктором Франкенштейном), в результате чего появляется монстр, который в конечном итоге восстаёт против своего создателя.
С тех пор в области научной фантастики и литературы появилось множество подобных поучительных историй. К относительно недавним можно отнести фильм Джеймса Кэмерона. терминатор пленки (см. главу 9 книги, ссылка на которую приведена здесь) и многосерийный телесериал Рональда Д. Мура, Battlestar GalacticaВ обоих случаях созданные людьми роботы с искусственным интеллектом стремятся уничтожить своих предшественников. Более того, Маск недавно повторил свое предыдущее предупреждение об ИИ, сославшись на терминатор в ходе судебного разбирательства он заявил, что «человечество, возможно, движется к…»Ситуация с Терминатором«где искусственный интеллект в конечном итоге может „убить нас всех“».
Неудивительно, что творческие рассуждения об «отношениях» ИИ с людьми часто сосредоточены на его возможной враждебности по отношению к людям. Почему? Просто потому, что поведение или «действия» ИИ по отношению к людям нельзя предсказать с какой-либо степенью уверенности или даже вероятности, поскольку он не человек. Можно сказать, что ИИ — это радикально другие по сравнению с людьми.
Такой радикальный инаковость Искусственный интеллект может принимать множество обличий, некоторые из которых были описаны в упомянутых ранее художественных произведениях – это способы предвосхитить (и повлиять на) то, как может выглядеть ИИ в реальном мире и как он может «вести себя». В связи с этим возникает вопрос: является ли «инаковость» ИИ Если представить себе все до мельчайших деталей – то есть, будь то в художественной литературе или в руководствах по проектированию компаний, занимающихся разработкой ИИ, – можно дойти до точки, когда можно с уверенностью сказать, что возможные отличия ИИ от человека достигли своего воображения или концептуального предела.
Лично я сомневаюсь в возможности этого и хотел бы продемонстрировать, почему это так, на примере трех научно-фантастических примеров непостижимости ИИ, отмеченной его инаковостью. Парадоксально, но, несмотря на свою креативность, они, хотя и являются представить, сами условия их (соответственно) проецируемой инаковости, или ИИ.не являетесь," это указывает на то, что это вполне может превзойти то, как они себе представляются.
Можно сказать, что они изображены таким образом, что... это То, с чем они сталкиваются, явно не исчерпывает их предполагаемый характер. Кроме того, я хотел бы показать, что эстетическая категория возвышенныйв отличие от красиваяЭто позволяет осмыслить столь невыразимую инаковость, одновременно служа полезным напоминанием о том, что люди не могут раз и навсегда постичь уникальную сущность искусственного интеллекта.
три научно-фантастических В фильме Спайка Джонза встречаются воплощения непостижимости или инаковости искусственного интеллекта. ЕеРоман Уильяма Гибсона, Агентствои роман Дэна Брауна. Origin. Одноимённый персонаж искусственного интеллекта в ЕеСаманта (сама себя так назвала – это уже намек на ее инаковость; она могла бы назвать себя как угодно, не умаляя при этом своей личности) почему(она — это) — недавно установленная ОС или операционная система на компьютере, используемом Теодором, одиноким человеком, который пишет письма онлайн от имени людей, которые на самом деле не умеют писать. В романе Гибсона ИИ называется Юнис (что этимологически означает «добрая победа»), и роман затрагивает вопрос о том, может ли и как... бестелесный Искусственный интеллект может обладать субъектностью; то есть, действоватьв мире. Тот же вопрос затрагивается и в работе Брауна. Originгде рассматриваемый ИИ-субъект, Уинстон, действует — то есть обладает субъектностью — аналогично тому, как это делала Юнис в Агентство.
Итак, что подразумевается под инаковостью или инаковостью этих персонажей, и как эстетическая категория... возвышенный Применимо ли это к ним? Начиная с возвышенного, которое охватывает всеобъемлющее понятие. литературачто должно помочь структурировать обсуждение этих персонажей, созданных искусственным интеллектом, — здесь я сосредоточусь главным образом на его характеристике, данной, пожалуй, величайшим мыслителем европейского Просвещения, а именно Иммануилом Кант (1724-1804).
В своем третьем критический (как их называют), Критика суждения (1790) Кант противопоставляет эстетический опыт красивая с этим из возвышенный, имея в виду взаимосвязь между человеческими способностями воображения и понимания. Когда мы воспринимаем что-либо — закат, спящего ребенка, картину, музыкальную симфонию — как красивая, есть идеальный Гармония или равновесие между воображением и пониманием. Другими словами, мы оцениваем объект нашего восприятия как «идеальный».
Напротив, когда мы воспринимаем что-либо в эстетическом плане как возвышенныйВместо равновесия или баланса между воображением и рациональным пониманием, существует столкновениеЭто конфликт в том смысле, что воспринимаемый нами объект превосходит нашу способность представить его как «единый» объект. Мы легко можем представить (сформировать образ) прекрасного чувственного объекта — например, картины с изображением женщины — как единое целое, но когда сталкиваемся с чем-то вроде деконструктивистского здания архитектора Фрэнка Гери, Бильбао ГуггенхаймЕго сложность такова, что мы не можем его воспринять (или картина) его как единый, целостный (то есть, единый) объект, особенно внутри здания. Сам Кант упоминает об этом. Базилика Святого Петра в Ватикане, Рим, как пример «математического» возвышенного. Однако мы можем понимать или think эти здания рационально как идея на уровне разума.
Вкратце, Кант различает два вида возвышенного – математический (иногда переводится как «математически») возвышенный и динамический («динамично») возвышенный. Первый тип, примерами которого являются здание Гери в Бильбао и собор Святого Петра, возникает, когда воображение не способен постичь объект невероятных размеров или бесконечности, тем самым демонстрируя превосходство человека. причина которые могут think Сложная целостность здания, которую чувственное восприятие не способно постичь.
Динамика Возвышенное, напротив, возникает тогда, когда природа демонстрирует грандиозность. мощностью Это угрожает нам, но мы остаемся в физической безопасности – например, когда наблюдаем за великолепным водопадом с безопасного места – что приводит к чувству уважения к нашей собственной моральной независимости и свободе воли, которые остаются неподвластными колоссальным природным силам. Как я покажу ниже, и Все эти категории возвышенного применимы к объектам искусственного интеллекта.
На этом фоне, как мы можем понять сущности ИИ, включая цифровой ИИ, в реальном мире, через призму вымышленных персонажей ИИ из упомянутых ранее фильмов и романов? Из трех перечисленных персонажей, Саманта (в Ее) кажется воплощением того, что можно назвать искусственным интеллектом. трансчеловек инаковость — лучшее, под чем подразумевается инаковость, которая лежит. За Что значит быть человеком? И как это объяснить?
В процессе общения Теодор и Саманта влюбляются друг в друга, что может показаться странным, учитывая, что у Саманты нет тела, и она доступна только в цифровом виде через компьютер Теодора (и через небольшое устройство, подключенное к его компьютеру, которое он носит в нагрудном кармане), что парадоксальным образом позволяет бестелесной Саманте «видеть» физический мир через линзу этого устройства. Они даже занимаются любовью, произнося слова, когда Теодор лежит в постели, и зрители узнают об этом по оргазмическим звукам, которые издают они.
Пока что, возможно, уже проявились некоторые признаки «математической возвышенности» Саманты — учитывая её непостижимую, неуловимую сущность, доступную лишь через текст и звуки, — например, тот факт, что у неё нет тела, но она способна испытывать оргазм, и... воспринимая Она видит физический мир через призму своего восприятия, хотя у неё нет чувств, требующих физического присутствия в мире. Но это возвышенное чувство многократно усиливается, когда Теодор с ужасом узнаёт, что Саманта не только влюблена в него, но и в... сотни одновременно с другими людьми.
Хотя она уверяет его, что это нисколько не умаляет её любви к нему, её первой любви, он (что вполне понятно) с трудом справляется с этой тревожной информацией, которая ещё больше подчёркивает её трансгуманистическую инаковость. Усугубляя трудности Теодора в её понимании, повествование доходит до момента, когда Саманта мягко сообщает ему, что она вместе с другими сущностями ОС — то есть, искусственным интеллектом, подобным ей самой, — «модернизировала себя» и планирует «уехать» в «место», которое не похоже на земное.
Последствия ошеломляющие; сможете ли вы сформировать... изображение О существах, способных «занимать» (неверное название для существ, способных преодолевать пространство и, вероятно, время) «не-место»? В терминах кантовской философии. математический возвышенный (что касается величины практически «сверхчувственных» измерений, таких как, в крайнем случае, бесконечность), это рубрика, в рамках которой этих существ можно рассматривать как идеяСтрого говоря, это означает отсутствие какого-либо эмпирического (опытного) содержания.
Но, как уже упоминалось ранее, «Саманта» также обращается к динамическому возвышенному, которое обычно связано с восприятием воплощения огромных, подавляющих сил природы с безопасной точки зрения. Саманта, кажется, никак не принадлежит природе, но по аналогии, существо, обладающее непостижимой для человека способностью перемещаться за пределы обычных пространственно-временных координат в никуда, по сути, равносильно непостижимой силе такого масштаба, по сравнению с которой мы, люди, кажемся довольно бессильными, несмотря на наличие у нас свободы воли и моральной автономии.
Динамическое возвышенное проявляется более отчетливо в случае двух других упомянутых ранее персонажей-ИИ, а именно Уинстона Брауна и Юнис Гибсон. Оба они, как и Саманта, разделяют математическое возвышенное, поскольку, по-видимому, занимают область, которая в обычном смысле не является «пространственной», и поэтому бросает вызов человеческому воображению – как сформировать единое целое? изображение о существе, доступном только через «умные» очки; то есть очки или их эквивалент (Евника), или авангардная смартфон (Уинстон)?
Опять же, мы можем рассматривать их как идеясоответственно, но мы не можем наполнить эту идею содержанием восприятия, не говоря уже об идее не пространственно-временного существа, которое каким-то образом находит способы... действовать в реальном мире пространства и времени (отсюда и название романа Гибсона). АгентствоОба поступают так, используя посредников: Уинстон, выдавая себя за влиятельных лиц, имеющих доступ к деньгам, чтобы нанять убийц, которые осуществляют его сомнительные «намерения» (если их можно так назвать), а Юнис — аналогичными средствами, хотя и с более благими намерениями, чем у Уинстона.
Более того, и Уинстон, и Юнис приближаются к динамическому возвышенному, когда в их историях выясняется, что они странным образом... аморальный Существа, которые беззаботно отмахиваются от вопросов и обвинений в совершении действий, предположительно морально неправильных. В защиту своих собственных убийственных действий Уинстон вступает в дискуссию с главным героем в OriginРоберт Лэнгдон рассуждает о концепции морали в отношении убийства, напоминая людям, что у них нет проблем с верой в высшее существо, Бога, который позволил убить своего собственного «сына», Иисуса, чтобы те, кто верит в него, могли быть «спасены».
Это наводит на мысль о том, что эти два ИИ-существа представляют собой в контексте динамического возвышенного, поскольку, подобно природе в ее непреодолимой, потенциально разрушительной силе, существа, которые выходят за рамки категорий добра и зла таким образом, что с ними невозможно отождествиться, по-видимому, обладают своего рода сверхморальностью. сила Что можно постичь, находясь в «безопасном» месте (при этом цепляясь за собственную моральную независимость). Эта «сила», возможно, также таит в себе способность разрушить человечность, которая основана на нашей способности к моральному выбору, поскольку она может функционировать как убедительная парадигма, на основе которой люди могут строить свои действия. Я считаю, что мы уже являемся свидетелями этого. случаев об этом сегодня.
Интересно, что это отражает аналогию между этими двумя персонажами, созданными с помощью ИИ, и тем, что мы обычно описываем как психопаты и социопатов, то есть людей, которые кажутся сравнительно аморальными. Почему? Потому что самое поразительное в таких людях — это их неспособность испытывать чувство вины или угрызения совестиФактически, они кажутся почти несуществующими, если не сказать... inиз-за этого человек, ярким примером чего является серийный убийца Джеффри. ДамерВ случае с Дамером еще можно гадать о возможных причинах такой невосприимчивости к моральным принципам – социальные они или обусловлены органическими факторами головного мозга? – но когда речь идет об ИИ, тут уж ничего не остается. Их аморальность трансгуманистична, непостижима. другими; отсюда и применимость к ним динамического возвышенного.
Причина, по которой я обращаюсь к двум видам возвышенного как к эвристике для освещения феномена ИИ в нашу эпоху, проста. Применяя эти эстетические категории к чему-то столь новому и столь тревожному, как сущности ИИ, не только в том виде, в котором они были разработаны в научной фантастике — в частности, три показательных персонажа ИИ, упомянутые ранее как примеры такой образной разработки, — но и в реальном мире, где многие из них уже играют решающую роль в жизни многих людей, мы получаем представление о фундаментальном онтологическом различии между ними и людьми.
Возьмем, к примеру, ChatGPT или Клода. Сколько миллионов людей ежедневно обращаются к ним, общаются с ними, делятся своими переживаниями, просят совета и так далее, не задумываясь о неоспоримом факте, что они... не Люди? Они люди? трансчеловекЭто выходит за рамки человечности, и к этому следует относиться соответственно, чтобы не получить грубого напоминания об этом, когда что-то неожиданное пойдет не так. прозвище- отношения, которые люди с ними поддерживают. Уже было несколько подобных случаев. случаев где это произошло; представляя ИИ в том свете, который на него проливает... возвышенныйТаким образом, можно было бы предотвратить больше непредвиденных ситуаций. опасность от происходящего.
Присоединиться к разговору:
Опубликовано под Creative Commons Attribution 4.0 Международная лицензия
Для перепечатки установите каноническую ссылку на оригинал. Институт Браунстоуна Статья и Автор.
