Искусственный интеллект: от глобальных угроз к реальным рискам

Автор: Денис Аветисян

Как изменить общественное восприятие рисков ИИ, чтобы добиться эффективного регулирования.

Несмотря на растущий, хотя и незначительный, интерес к потенциальному вымиранию, вызванному ИИ, ключевые события в движении за безопасность ИИ, такие как заявление CAIS в конце мая 2023 года и саммит в Блетчли-парке в ноябре 2023 года, не оказали существенного влияния на общественное внимание к этой проблеме, что указывает на сложность привлечения внимания к экзистенциальным рискам, связанным с искусственным интеллектом.

В статье рассматривается необходимость смещения акцента в коммуникации рисков ИИ с экзистенциальных опасностей на более понятные и немедленные негативные последствия, такие как потеря рабочих мест и влияние на психическое здоровье.

"Покупай на слухах, продавай на новостях". А потом сиди с акциями никому не известной биотех-компании. Здесь мы про скучный, но рабочий фундаментал.

Бесплатный Телеграм канал

Несмотря на растущую потребность в общественном участии в регулировании искусственного интеллекта, коммуникация, фокусирующаяся на экзистенциальных рисках, не обеспечивает устойчивой мобилизации. В статье ‘From Catastrophic to Concrete: Reframing AI Risk Communication for Public Mobilization’ исследуются психологические барьеры, препятствующие восприятию сценариев полного исчезновения, и предлагается переосмыслить коммуникацию рисков ИИ, акцентируя внимание на более насущных проблемах, таких как потеря рабочих мест и влияние на психическое здоровье. Полученные данные свидетельствуют о том, что именно эти «приближенные» риски обладают наибольшим потенциалом для вовлечения общественности и создания политического спроса на регулирование. Сможет ли такой прагматичный подход обеспечить эффективное управление рисками ИИ и создать условия для позитивных изменений?

Искусственный интеллект: от непосредственных угроз к экзистенциальным рискам

Технологии искусственного интеллекта (ИИ) обладают двойственной природой, предлагая огромный потенциал, но и создавая значительные риски для общества. Эти риски варьируются от немедленных “Ближайших Угроз”, таких как потеря рабочих мест и дезинформация, до долгосрочных “Экзистенциальных Рисков”. Общественное восприятие критически важно: негативные настроения тормозят развитие полезных приложений, а беспечность ускоряет опасные тенденции. Обеспокоенность по поводу потери рабочих мест превосходит опасения относительно экзистенциальных рисков. ИИ – зеркало наших надежд и страхов, и наше будущее зависит от того, как мы научимся управлять этим отражением.

Психология общественного мнения: когнитивные искажения и восприятие рисков

Общественное мнение – не монолит, а сложное взаимодействие когнитивных искажений и эмоциональных реакций. Восприятие рисков ИИ подвержено субъективному влиянию и не всегда рационально. Психологические теории, такие как “Теория управления страхом”, предполагают, что тревоги, связанные со смертностью, влияют на восприятие рисков ИИ. Люди склонны переоценивать экзистенциальные угрозы, даже если данные говорят об обратном, проецируя страх потери контроля на развитие ИИ. Эффект экспоненциального роста часто приводит к недооценке влияния ИИ, в то время как “эффект самоотнесения” приоритизирует личную релевантность, создавая искаженную картину рисков и возможностей.

Измерение общественного мнения: передовые статистические методы

Для точной оценки общественного мнения исследователи используют передовые статистические методы, такие как «PCA», «GMM» и «MaxDiff анализ», позволяющие выявлять ключевые темы, сегментировать точки зрения и расставлять приоритеты. MaxDiff анализ показал, что сообщения, ориентированные на потерю рабочих мест, получили самый высокий балл, превзойдя темы, связанные с экзистенциальным риском и неравенством, что подчеркивает важность экономического аспекта. Движение «AI Safety» активно использует эти методы для информирования политики и пропаганды ответственной разработки ИИ, выявляя наиболее значимые опасения и разрабатывая эффективные стратегии коммуникации.

Матрица корреляции исходных ответов на опрос и главных компонент демонстрирует взаимосвязи между переменными и показывает долю объясненной дисперсии для каждой главной компоненты (указана в скобках).

Формирование политики в области ИИ: от прозрения к действию

Эффективная разработка политических мер критически важна для смягчения рисков и максимизации преимуществ ИИ, устанавливая стандарты и принципы ответственной разработки. Исследования показывают, что решение проблем, связанных с непосредственными последствиями, такими как потеря рабочих мест и дезинформация, требует проактивных мер. Мобилизация общественности вокруг этих проблем оказалась более эффективной, чем акцент на экзистенциальных рисках. Сообщения, касающиеся детей, продемонстрировали наибольшую стабильность. Ключевые сегменты населения, такие как «технологически позитивные горожане» (20,2 миллиона) и «защитники мира» (31,2 миллиона), восприимчивы к изменениям в политике ИИ и могут формировать общественное мнение. Как и детерминированный алгоритм предсказуемо производит результат, так и последовательная политика, направленная на решение насущных проблем, может сформировать будущее, где ИИ – инструмент прогресса.

Исследование подчёркивает необходимость переосмысления коммуникации рисков, связанных с искусственным интеллектом. Вместо фокусировки на абстрактных экзистенциальных угрозах, авторы предлагают сместить акцент на более ощутимые и непосредственные последствия, такие как потеря рабочих мест или влияние на психическое здоровье. Как однажды заметил Винтон Серф: “Интернет — это величайшая машина коммуникации, которую когда-либо создавало человечество.” Эта фраза, казалось бы, не связана напрямую с темой, но она отражает суть проблемы: эффективная коммуникация – ключ к пониманию и решению любой проблемы. Представленная работа, акцентируя внимание на “проксимальных” вредах, стремится создать более понятную и убедительную картину рисков, чтобы стимулировать общественную поддержку мер по управлению ИИ, ведь абстракции, какими бы важными они ни были, не всегда находят отклик в сознании людей.

Что впереди?

Представленная работа, хоть и логична в своей диагностике психологических барьеров, оставляет открытым вопрос о математической точности предложенного смещения фокуса. Достаточно ли констатации «близких» рисков для гарантии адекватной политической реакции? Или же, подобно попытке стабилизировать хаотическую систему путем добавления незначительного возмущения, мы лишь отодвигаем неизбежное, не устраняя фундаментальную неопределенность, присущую развитию искусственного интеллекта? Необходимо более строгое моделирование влияния различных нарративов на формирование общественного мнения, возможно, с использованием инструментов теории игр.

Очевидным направлением дальнейших исследований представляется разработка формальных метрик «психологической резонансности» рисков. Простое перечисление «близких» угроз недостаточно; требуется количественная оценка их способности преодолевать когнитивные искажения и вызывать конструктивные действия. Иначе, мы рискуем вновь столкнуться с ситуацией, когда рациональные аргументы разбиваются о стену иррационального страха или апатии.

В конечном счете, задача не в том, чтобы «продавать» риски, а в том, чтобы создать интеллектуальную основу для их объективной оценки. Элегантность решения заключается не в его способности манипулировать общественным мнением, а в его математической строгости и внутренней непротиворечивости. Только тогда мы сможем надеяться на создание действительно эффективной системы управления искусственным интеллектом.

Оригинал статьи: https://arxiv.org/pdf/2511.06525.pdf

Связаться с автором: https://www.linkedin.com/in/avetisyan/

Смотрите также:

2025-11-11 17:51