В последние недели угроза, исходящая от искусственного интеллекта, все больше доминирует в основных ток-шоу на телевидении и радио. Предупреждения впервые попали в заголовки газет в конце прошлого года, когда менее чем через неделю после запуска ChatGPT набрал более миллиона пользователей. Обеспокоенность в тот момент была сосредоточена в основном на способности ChatGPT имитировать человеческие ответы, мгновенно выдавать ответы на экзаменационные вопросы, университетские эссе и даже новости – угрожая сделать результаты экзаменов бессмысленными и отправить миллионы на пособие по безработице.
Угроза достигла апогея в конце мая, когда Центр безопасности ИИ выпустил заявление, подписанный сотнями ведущих международных экспертов в этой области, предупреждающий, что искусственный интеллект представляет собой экзистенциальный риск для человечества на том же уровне, что и пандемии и ядерные войны.
Снижение риска исчезновения из-за ИИ должно стать глобальным приоритетом наряду с другими рисками социального масштаба, такими как пандемии и ядерная война.
По словам Майкла Осборна, профессор машинного обучения в Оксфордском университете и соучредитель Mind Foundry, больше всего беспокоит риск исчезновения.
«Это действительно замечательно, что так много людей подписались под этим письмом», — сказал он. «Это показывает, что среди тех из нас, кто работает с ИИ, растет осознание того, что экзистенциальные риски вызывают реальную озабоченность».
«Поскольку мы не очень хорошо понимаем ИИ, существует вероятность того, что он может сыграть роль своего рода нового конкурирующего организма на планете, поэтому созданные нами инвазивные виды могут сыграть разрушительную роль в нашем выживании. как вид», — сказал Осборн.
Премьер-министр Великобритании Риши Сунак, находящийся на пике безумия ИИ, воспользовался своей поездкой в Вашингтон на следующей неделе, чтобы продвигать Великобританию как глобальный центр регулирования ИИ. заручиться поддержкой Джо Байдена для глобального саммита по безопасности ИИ в Великобритании.
Президент Байден подчеркнул, что ИИ «может нанести большой ущерб, если его не контролировать», а также его «потенциал излечивать рак». «У него огромный потенциал, и мы рассчитываем, что Великобритания поможет возглавить эти усилия, чтобы найти выход из этого».
Со всем нагнетанием страха, теперь твердо сосредоточенным на превосходстве этого агрессивного нового вида «инопланетного» разума, кажется грубым, граничащим с теорией заговора, спрашивать, не является ли это какой-то маркетинговой кампанией, разработанной этими умными связями с общественностью. люди, нанятые индустрией искусственного интеллекта для увеличения продаж своей продукции.
Может ли быть так, что нас неправильно направляют, чтобы мы смотрели не в ту сторону, и самая большая экзистенциальная угроза нашему выживанию как вида исходит не от превосходящего интеллекта ИИ, а от его вопиющей глупости?
Если ИИ действительно отличник. настроены заменить людей во всех мыслимых областях, от журналистики через медицину и юриспруденцию до науки и инженерии, то нам действительно не о чем беспокоиться, кроме как распределить все дополнительное богатство, которое оно генерирует, и что мы собираемся делать с наше свободное время.
Но если ИИ — это еще не все, чем он должен быть, что тогда? Какую разрушительную роль может сыграть армия идиотских и безответственных менеджеров, медиков, юристов, ученых и инженеров в нашем выживании как вида?
Чтобы проверить эту гипотезу, мы провели следующую беседу с ChatGPT.
* * *
Информация о пользователе
Если уровень смертности составляет 0.0003%, каков шанс умереть?
ChatGPT
Чтобы определить вероятность смерти при уровне смертности 0.0003%, вам нужно преобразовать этот показатель в вероятность.
Уровень смертности 0.0003% можно записать как 0.000003 в десятичной форме (0.0003 ÷ 100 = 0.000003). Это представляет собой долю населения, которое умирает. Чтобы преобразовать его в вероятность, вычтите его из 1, поскольку вероятность того, что событие произойдет, плюс вероятность того, что оно не произойдет, равняется 1.
Вероятность смерти = 1 – 0.000003 = 0.999997
Следовательно, шанс умереть составляет примерно 0.999997, или 99.9997%.
Информация о пользователе
Это не имеет никакого смысла. Это означает, что чем ниже уровень смертности, тем выше шанс умереть.
ChatGPT
Извиняюсь за путаницу. Ты прав; мой предыдущий ответ был неверным. Прошу прощения за ошибку.
Чтобы рассчитать вероятность смерти, нам нужно преобразовать уровень смертности в пропорцию или вероятность. Уровень смертности обычно выражается в процентах или на 1,000 или на 100,000 XNUMX человек.
Если уровень смертности составляет 0.0003%, мы можем выразить его в виде десятичной дроби, разделив на 100:
0.0003% = 0.000003
Это представляет собой долю населения, которое умирает. Чтобы преобразовать его в вероятность, мы можем просто использовать десятичное значение.
Следовательно, шанс умереть в этом случае равен 0.000003, или 0.0003%.
Информация о пользователе
Почему вы ошиблись в первый раз?
ChatGPT
Прошу прощения за ошибку в моем первоначальном ответе. Являясь языковой моделью ИИ, я стараюсь предоставлять точную информацию, но иногда могут возникать ошибки. Приношу извинения за доставленные неудобства или путаницу. Если у вас есть дополнительные вопросы, пожалуйста, не стесняйтесь спрашивать.
Информация о пользователе
Вы так и не объяснили, почему ошиблись.
ChatGPT
Прошу прощения за то, что не дал четкого объяснения ранее. Ошибка в моем первоначальном ответе была связана с ошибкой расчета. Я неправильно понял данный уровень смертности в процентах, а не в десятичном значении.
При преобразовании уровня смертности 0.0003% в десятичное число я неправильно рассчитал его как 0.000003 вместо 0.000003 (что является правильным десятичным представлением). Это привело к неправильному расчету шанса умереть как 0.999997 или 99.9997%.
Еще раз приношу свои извинения за путаницу, вызванную моим первоначальным ответом, и благодарю вас за терпение. Если у вас есть дополнительные вопросы, пожалуйста, дайте мне знать, и я буду рад помочь вам.
Информация о пользователе
Нет. Ваше преобразование в десятичную дробь было правильным. Оба числа имеют шесть знаков после запятой, оба имеют пять нулей и оба оканчиваются на 3. Ваша ошибка заключалась в использовании формулы: «чтобы преобразовать его в вероятность, вычтите его из 1, так как вероятность того, что событие произойдет, плюс вероятность того, что оно не встречающееся равно 1». Откуда это взялось?
ChatGPT
Вы правы, и я прошу прощения за путаницу, вызванную моим объяснением. Я сделал неверное утверждение, предположив, что вычитание уровня смертности из 1 даст вероятность смерти. Прошу прощения за ошибку в моем объяснении.
Чтобы уточнить, сам уровень смертности можно рассматривать как вероятность или шанс умереть. В этом случае коэффициент смертности 0.0003% или 0.000003 — это вероятность или шанс умереть.
Еще раз приношу свои извинения за предыдущую ошибку и возможные недоразумения, которые она могла вызвать. Если у вас есть дополнительные вопросы, пожалуйста, не стесняйтесь спрашивать.
Информация о пользователе
Извинения приняты. Пожалуйста, перестань извиняться. Просто скажите мне источник вашего неверного утверждения, что вычитание коэффициента смертности из 1 даст вероятность умереть.
ChatGPT
Прошу прощения за некорректную формулировку в моих предыдущих ответах. Утверждение, что вычитание коэффициента смертности из 1 даст вероятность смерти, неверно. Я прошу прощения за путаницу, вызванную этим заявлением.
В качестве языковой модели ИИ мои ответы генерируются на основе сочетания лицензированных данных, данных, созданных тренерами-людьми, и общедоступных данных. У меня нет прямого доступа к данным о моих тренировках и я не знаю, откуда они взялись. Тем не менее, я обучался на сочетании лицензионных данных, данных, созданных тренерами-людьми, и общедоступных данных. Для того, чтобы предоставить мне широкий спектр языковых моделей и концепций. Моя цель — помогать и предоставлять информацию в меру своих возможностей, независимо от источников данных о моих тренировках.
Еще раз прошу прощения за ошибку в моем предыдущем объяснении. Если у вас возникнут дополнительные вопросы, дайте мне знать, и я буду рад помочь.
Предыдущая беседа меньше похожа на беседу с Альбертом Эйнштейном, а больше на попытку договориться о своем пути через те автоматизированные телефонные системы, которые оставили без работы так много людей в приемной.
Представьте, что произошло бы, если бы ChatGPT реагировал на пандемию Covid. Уровень смертности в 0.0003 процента будет интерпретирован автоматическими службами общественного здравоохранения как 99.9-процентная вероятность смерти, что затем будет передано автоматическими журналистами, чтобы вызвать страх и панику у широкой публики. И тогда, где бы мы были?
О, подожди минутку. Разве мы сейчас не там?
Если вы хотите проверить вышеупомянутую беседу ChatGPT или, что еще лучше, продолжить беседу самостоятельно, вы можете сделать это здесь.
Опубликовано под Creative Commons Attribution 4.0 Международная лицензия
Для перепечатки установите каноническую ссылку на оригинал. Институт Браунстоуна Статья и Автор.
