Предупреждения о конце света в сфере ИИ отвлекают внимание от более насущных проблем, связанных с искусственным интеллектом.

Искусственный интеллект повсюду. Он внедряется во всё. Нам говорят, что это просто прогресс. И поэтому мы должны принять его, иначе мы будем выглядеть как луддиты и позволим Китаю победить (что бы это ни значило). Однако одновременно многие люди боятся ИИ. Очень боятся. И иногда нам говорят, что нам тоже следует бояться. Тем не менее, в публичных дискуссиях об ИИ часто отсутствует конкретика относительно того, чего именно нам следует бояться. Иногда даже неясно, что подразумевается под термином «ИИ».

С технической точки зрения, как у меня есть коснулся Ранее можно было утверждать (как это делают некоторые ученые старшего поколения в области информатики), что ИИ — это общий термин для семейства алгоритмов, основанных на математике, история которых иногда насчитывает более полувека. 

На практике многие программы, с которыми мы живем уже много лет, такие как Google Maps и рекомендательная система Amazon, можно считать искусственным интеллектом, несмотря на их неновизну. Тем не менее, в общественном дискурсе термин «искусственный интеллект» обычно относится к генеративному ИИ (например, ChatGPT), а также к множеству гипотетических будущих программ, которые будут делать все, что могут делать люди, но лучше, и, следовательно, решат все наши проблемы, но при этом лишат большинство из нас работы, а также в конечном итоге могут решить превратиться в Скайнет, если только не решат, что мы не стоим того, чтобы с нами возиться.

(Звучит довольно сексуально. Возможно, кто-нибудь должен снять об этом серию фильмов. Возможно, людям даже понравятся два из пяти.)

К сожалению, эти более гиперболизированные, научно-фантастические описания угроз, исходящих от ИИ, как правило, привлекают больше внимания, чем более реалистичные и неотложные угрозы, касающиеся конфиденциальности, свободы, автономии и даже просто образа жизни, которым многие из нас привыкли наслаждаться, и, следовательно, отвлекают от них. Автоматический лицензия плита читатели, распознавания лиц, цифровые бабушкиобязательное вождение в нетрезвом виде и отвлечение внимания за рулем программы обнаружениялюбая из технологий, о которых кричал «внук» в «Автономный робот-доставщик», И носимые записывающие устройства Расшифровка и обработка личных разговоров для антисоциальных и легко отвлекающихся людей — это лишь некоторые из наиболее реалистичных угроз, которые приходят на ум. (И это далеко не полный список).

Поэтому я склонен ценить, когда представители нашего правящего класса могут выделить утро для взвешенной дискуссии о достаточно четко определенных угрозах, исходящих от этой технологии (или набора технологий), как это было сделано 4 июня на заседании подкомитета по кибербезопасности и защите инфраструктуры Палаты представителей США. заседания в разделе «Область безопасности ИИ».  

На первый взгляд, обсуждение на встрече можно было бы сформулировать так: «Является ли наибольшая угроза, исходящая от ИИ, внешней, в виде иностранных хакеров, стремящихся использовать уязвимости в программном обеспечении, управляющем критической инфраструктурой Соединенных Штатов, или внутренней, порожденной отсутствием регулирования и подотчетности в отношении использования ИИ внутри страны?»

Однако, судя по обсуждению, это больше походило не на вопрос «или то, или другое», а на безоговорочный ответ «Да, и…».

Сандра Джойс из Google, исполнительный директор Frontier Model Forum Крис Мезерол и генеральный директор и соучредитель Corridor Security Inc. Джек Кейбл представили свидетельства о том, как искусственный интеллект трансформирует ландшафт кибербезопасности, поскольку цифровое оружие попадает в руки кибер-варваров, которые будут использовать это оружие для поиска уязвимостей в нашей критической инфраструктуре и/или осуществления атак с использованием программ-вымогателей.

«Эта технология оказала глубокое влияние на кибербезопасность как для защитников, так и для злоумышленников», — заявила Джойс.

«У хакеров сейчас больше мощных инструментов, чем когда-либо», — отметил Кейбл, упомянув в частности Mythos и GPT-5.5.

«Эти модели — не просто рекламный трюк, — предупредил он. — Они действительно начинают конкурировать с людьми или превосходить их в задачах обеспечения безопасности, причем в беспрецедентных масштабах».

Джойс предположил, что «злоумышленникам» даже не нужна такая программа, как Mythos, и они вполне способны нанести большой ущерб, используя более старую версию.

Подчеркивая внутренние угрозы, старший аналитик по вопросам политики Electronic Frontier Foundation Мэтью Гуарилья заявил: «Вопрос не в том, как обуздать ИИ, а в том, как обуздать ведомства, которые могут выпустить ИИ на американскую общественность?»

В своих показаниях Гуарилья подчеркнул, что американское государство, отвечающее за национальную безопасность, уже использует множество инструментов для сбора данных о людях без достаточных оснований и может делать «выводы о политических взглядах, личной жизни, религии и местоположении человека, иногда неточные, что влечет за собой серьезные последствия». 

Кроме того, Гуарилья сказал: «Искусственный интеллект также имеет опыт ошибок, от ложных ссылок в юридических документах до крупной ошибки ИИ, из-за которой новобранцы Министерства внутренней безопасности были отправлены на службу без надлежащей подготовки». 

«Вероятно, существуют и другие важные примеры, о которых мы даже не знаем из-за классификации, которая препятствует более тщательному анализу», — добавил он.

Аналогично, член палаты представителей Делия Рамирес (демократ от штата Иллинойс) отметила: «Мы наблюдаем, как системы мониторинга на основе искусственного интеллекта распространяются в школах, в муниципальном жилье, в больницах, без какой-либо прозрачности в отношении того, как они работают, без возможности оспорить их и без возможности принять меры, если они окажутся неверными».

В ходе последующего обсуждения возможного сценария, при котором программа искусственного интеллекта определяет водоснабжение города как неисправное, хотя на самом деле оно в порядке, и впоследствии ограничивает доступ жителей города к воде, Гуарилья и Рамирес предположили, что в рамках действующего законодательства США прозрачность в отношении причин возникновения проблемы, вероятно, будет оставлена ​​на усмотрение города, внедряющего систему, в то время как вопрос о том, кто может быть привлечен к ответственности, является довольно расплывчатым.

Несмотря на то, что это не так захватывающе, как сражения с Т-800 на улицах за наши жизни и средства к существованию, новые атаки программ-вымогателей, дальнейшее подрыв нашей конфиденциальности и отсутствие необходимой прозрачности и подотчетности, когда HAL совершает ошибку и отключает всем воду, — все это звучит довольно серьезно, даже если эти вещи не вызывают массовой истерии или не являются поводом для кинофраншизы. Возможно, этого даже достаточно, чтобы обоснованно опасаться нынешней ситуации. Дух времени Внедрить ИИ во всё. И, возможно, это даст нам повод переосмыслить наше решение подключить всё в современной жизни к интернету.