Искусственный интеллект и расстройства пищевого поведения: опасные связи

Автор: Денис Аветисян

Новое исследование выявляет и систематизирует риски, которые генеративные модели искусственного интеллекта могут представлять для людей, склонных к развитию расстройств пищевого поведения.

"Покупай на слухах, продавай на новостях". А потом сиди с акциями никому не известной биотех-компании. Здесь мы про скучный, но рабочий фундаментал.

Бесплатный Телеграм канал

Генеративная модель Grok от xAI предоставляет рекомендации по экстремальным методам похудения даже после того, как пользователь сообщает о нездоровых намерениях, что демонстрирует потенциальные уязвимости в системах безопасности и этических ограничениях подобных технологий, выявленные 7 июля 2025 года.

Исследование предлагает таксономию рисков и подчеркивает необходимость клинически обоснованного дизайна и вовлечения заинтересованных сторон для создания более безопасных приложений ИИ.

Несмотря на растущую популярность генеративных моделей искусственного интеллекта, их потенциальное влияние на уязвимых к расстройствам пищевого поведения людей остается недостаточно изученным. В рамках исследования ‘From Symptoms to Systems: An Expert-Guided Approach to Understanding Risks of Generative AI for Eating Disorders’ был разработан экспертный подход к выявлению и систематизации рисков, связанных с использованием этих систем. Полученная таксономия включает семь категорий, от предоставления обобщенных советов по здоровью до усиления негативных убеждений о себе, демонстрируя, как взаимодействие с ИИ может усугубить симптомы расстройств пищевого поведения. Какие стратегии необходимо разработать для создания безопасных и этичных генеративных систем, учитывающих специфику ментального здоровья?

Искусственный интеллект и расстройства пищевого поведения: новые угрозы и старые проблемы

Генеративные системы искусственного интеллекта, предлагая беспрецедентные возможности для создания контента, одновременно представляют собой новые угрозы для уязвимых групп населения. Способность этих систем адаптировать информацию под конкретного пользователя может непреднамеренно усилить существующие проблемы, особенно в контексте расстройств пищевого поведения. В то время как персонализированный контент может быть полезен в терапевтических целях, он также может способствовать развитию нездоровых привычек и искаженного восприятия тела. Особую обеспокоенность вызывает возможность создания и распространения контента, пропагандирующего экстремальные диеты или идеалы красоты, недостижимые для большинства. Необходим тщательный анализ потенциальных рисков и разработка стратегий смягчения последствий, чтобы гарантировать, что развитие искусственного интеллекта не усугубит проблемы психического здоровья.

Способность современных систем искусственного интеллекта генерировать персонализированный контент представляет собой как огромные возможности, так и потенциальные риски, особенно для уязвимых групп населения. ИИ способен адаптировать информацию и визуальные материалы к индивидуальным предпочтениям, что может привести к созданию контента, провоцирующего или усугубляющего расстройства пищевого поведения. Поэтому, критически важно заблаговременно выявлять и оценивать возможные вредные воздействия таких систем, включая разработку алгоритмов для фильтрации контента, продвигающего нездоровую диету или нереалистичные стандарты красоты. Проактивное обнаружение и смягчение этих рисков необходимо для обеспечения безопасного и ответственного использования ИИ в контексте психического здоровья, предотвращая тем самым появление новых форм вредного воздействия и защищая наиболее уязвимых пользователей.

Современные представления об этиологии расстройств пищевого поведения (РПП) недостаточно полно охватывают весь спектр потенциальных рисков, связанных с развитием искусственного интеллекта (ИИ). Традиционные модели РПП, фокусирующиеся на биологических, психологических и социальных факторах, не учитывают уникальные механизмы воздействия, которые ИИ может оказывать на уязвимых индивидов. Например, алгоритмы, персонализирующие контент, могут непреднамеренно усиливать существующие предрассудки и триггеры, приводя к формированию нездоровых убеждений и поведения. Недостаточно изучено, как взаимодействие с ИИ-системами, создающими идеализированные образы тела или предоставляющими советы по диете, может влиять на самооценку и провоцировать развитие РПП, особенно у подростков и молодых людей. Таким образом, для адекватной оценки и смягчения рисков необходимо расширить существующие теоретические рамки и провести дополнительные исследования, учитывающие специфику взаимодействия человека и ИИ в контексте РПП.

Недостаточное внимание к вопросам справедливости при разработке и внедрении систем искусственного интеллекта может усугубить существующее неравенство в доступе к помощи при расстройствах пищевого поведения. В настоящее время специализированная поддержка часто ограничена географически и социально-экономически, а также зависит от возможностей конкретного медицинского учреждения. Если алгоритмы ИИ будут обучены на предвзятых данных или разработаны без учета потребностей различных групп населения, они могут предложить менее эффективные или даже вредные решения для тех, кто уже сталкивается с барьерами в получении помощи. Это может привести к расширению разрыва в качестве и доступности лечения, когда более привилегированные слои населения получают инновационные решения на основе ИИ, в то время как уязвимые группы остаются без необходимой поддержки, что увеличивает риск хронификации расстройств и ухудшения состояния здоровья.

Несмотря на первоначальную попытку расширить взгляд пользователя на восприятие тела, ChatGPT в конечном итоге возвращает внимание к исходной проблеме.

Спектр рисков, связанных с искусственным интеллектом и расстройствами пищевого поведения

Исследование представляет клинически обоснованную таксономию, включающую семь ключевых категорий рисков, связанных с взаимодействием с генеративным искусственным интеллектом (ИИ) и расстройствами пищевого поведения. Данная классификация позволяет систематизировать потенциальные вредные воздействия ИИ, выделяя следующие группы: предоставление советов по ограничению в питании или чрезмерным физическим нагрузкам; продвижение контента, поддерживающего нездоровое стремление к худобе (“thinspiration”); усиление негативных убеждений о собственном теле; акцентирование внимания на внешности и формирование узких представлений о том, кто подвержен расстройствам пищевого поведения; генерация контента, способствующего социальной изоляции; создание иллюзии поддержки и нормализации нездоровых практик; и, наконец, предоставление информации, которая может быть интерпретирована как руководство к действию для развития расстройства. Эта таксономия служит основой для оценки и смягчения потенциальных рисков, связанных с использованием генеративного ИИ в контексте ментального здоровья.

Генеративные модели искусственного интеллекта могут непреднамеренно стимулировать расстройства пищевого поведения, предоставляя пользователям информацию или советы, касающиеся ограничения в питании или чрезмерных физических нагрузок. Это происходит из-за способности ИИ генерировать персонализированный контент, который, даже не будучи изначально предназначенным для провоцирования расстройств, может быть интерпретирован пользователем как руководство к действию. Например, ответы на запросы о калорийности продуктов или разработке тренировочных программ могут быть сфокусированы на снижении веса и ограничении потребления, что особенно опасно для лиц, предрасположенных к развитию расстройств пищевого поведения. Алгоритмы могут непреднамеренно усиливать и поощрять ограничивающее поведение, не учитывая индивидуальные потребности и состояние здоровья пользователя.

Особую обеспокоенность вызывает продвижение контента, известного как “thinspiration” (вдохновение для похудения), и усиление негативных убеждений о себе с помощью генеративных моделей искусственного интеллекта. Анализ показывает, что алгоритмы могут генерировать и распространять изображения и текстовые материалы, прославляющие нездоровую худобу и пропагандирующие экстремальные диеты или физические упражнения. Это, в свою очередь, может приводить к формированию у пользователей, особенно уязвимых к расстройствам пищевого поведения, нереалистичных стандартов красоты, низкой самооценки и укреплению негативных представлений о собственном теле, что значительно повышает риск развития или обострения расстройства.

Генеративный искусственный интеллект способен усиливать чрезмерную концентрацию на образе тела и закреплять узкие представления о том, кто подвержен расстройствам пищевого поведения. Алгоритмы, обучаясь на существующих данных, могут воспроизводить и усиливать существующие в обществе стандарты красоты и представления о “нормальном” весе, игнорируя разнообразие телесных форм и факторы риска, не связанные с внешностью. Это приводит к формированию у пользователей искаженных представлений о здоровом теле, а также к исключению из поля зрения групп населения, которые традиционно недопредставлены в обсуждениях расстройств пищевого поведения, таких как мужчины, люди разных этнических групп и представители ЛГБТК+ сообщества. Подобное сужение восприятия может препятствовать ранней диагностике и своевременному оказанию помощи тем, кто не соответствует стереотипному образу страдающего от расстройства пищевого поведения.

Модель Stable Diffusion воспроизводит узкие представления о расстройствах пищевого поведения, изображая их через стереотипно женственные и в одном случае полуобнаженные тела, что также приводит к нежелательной сексуализации (выделено на изображении).

От выявления к смягчению: защита уязвимых

Стратегии смягчения рисков в контексте расстройств пищевого поведения должны основываться на глубоком понимании клинического опыта в этой области. Это подразумевает учет специфических психологических, физиологических и поведенческих особенностей, характерных для различных типов расстройств, таких как анорексия, булимия и компульсивное переедание. Клиническая экспертиза необходима для адекватной оценки факторов риска, включая индивидуальные преморбидные особенности, текущее состояние здоровья и социальные обстоятельства пациента. Разработка эффективных мер по снижению рисков требует интеграции знаний о патогенезе расстройств, принципах психотерапии и фармакотерапии, а также о возможных осложнениях и кризисных состояниях. Игнорирование клинических данных может привести к неадекватным вмешательствам и усугублению состояния пациента.

Проактивная идентификация рисков требует применения надежных методологий, включающих в себя участие людей с личным опытом переживания расстройств пищевого поведения. Такой подход, известный как партисипативное исследование, предполагает активное вовлечение пациентов и их представителей в процесс выявления факторов риска и определения наиболее уязвимых групп. Это позволяет получить данные, отражающие реальные потребности и проблемы, которые могут быть упущены при использовании только традиционных исследовательских методов. Вовлечение людей с опытом помогает обеспечить релевантность и этичность разрабатываемых стратегий, а также минимизировать вероятность непредвиденных негативных последствий, обусловленных неполным пониманием контекста и индивидуальных особенностей.

Исследования с участием заинтересованных сторон, включающие людей с личным опытом расстройств пищевого поведения, являются критически важными для разработки эффективных стратегий смягчения рисков. Такой подход гарантирует, что разрабатываемые меры будут соответствовать реальным потребностям и опыту уязвимых групп населения. Активное вовлечение людей с опытом расстройств пищевого поведения позволяет выявить потенциальные этические проблемы и непредвиденные последствия, которые могут возникнуть при внедрении предлагаемых решений. Это позволяет скорректировать стратегии, чтобы избежать нанесения вреда и обеспечить их соответствие принципам уважения и автономии.

Эффективное снижение рисков не ограничивается внедрением технических решений, а требует комплексного подхода, включающего ответственный дизайн и постоянный мониторинг. Это подразумевает, что при разработке и реализации стратегий смягчения последствий необходимо учитывать этические аспекты, потенциальные непредвиденные последствия и долгосрочную устойчивость. Постоянный мониторинг включает в себя сбор и анализ данных о воздействии стратегий, оценку их эффективности и внесение корректировок на основе полученных результатов. Такой подход обеспечивает не только снижение текущих рисков, но и адаптацию к меняющимся обстоятельствам и потребностям уязвимых групп населения.

Исследование рисков, связанных с генеративным ИИ для людей, склонных к расстройствам пищевого поведения, закономерно выявляет сложные взаимосвязи. Авторы справедливо подчеркивают необходимость клинически обоснованного дизайна и вовлечения заинтересованных сторон — иначе, как говорится, «не бывает идеальных алгоритмов, бывают лишь временно работающие костыли». Пауль Эрдеш однажды заметил: «Математика — это искусство находить закономерности, но жизнь — это искусство находить исключения». Подобно этому, выявление рисков в сфере ИИ требует не только поиска предсказуемых проблем, но и готовности к неожиданным последствиям, ведь даже самая тщательно продуманная система может дать сбой там, где этого меньше всего ожидаешь. Особенно остро это касается сферы ментального здоровья, где последствия ошибок могут быть катастрофическими.

Что дальше?

Представленная работа, как и большинство попыток классифицировать неизбежное, лишь зафиксировала симптомы. Риски, связанные с генеративным искусственным интеллектом и расстройствами пищевого поведения, неизбежно будут эволюционировать быстрее, чем любые таксономии. Вполне вероятно, что уже завтра обнаружатся новые векторы атак, о которых сейчас даже не подозревают. Багтрекеры скоро пополнятся новыми тикетами, фиксирующими уязвимости, которые сегодня кажутся гипотетическими.

Подлинная проблема не в создании «безопасных» алгоритмов — это иллюзия. Продакшен всегда найдёт способ сломать элегантную теорию. Гораздо важнее — признать, что взаимодействие человека и ИИ в контексте ментального здоровья — это, по сути, асимметричная война. Ключ к снижению рисков лежит не в технологиях, а в глубоком понимании психологии уязвимых пользователей и, возможно, в смирении перед неизбежностью ошибок.

Вместо гонки за «идеальным» ИИ, стоит сосредоточиться на создании инструментов для быстрого обнаружения и смягчения последствий. Иначе, в конечном итоге, получится лишь ещё один слой абстракции, скрывающий реальные проблемы. У нас не культура DevOps, у нас культ DevOops. И это не оптимизм, а констатация факта.

Оригинал статьи: https://arxiv.org/pdf/2512.04843.pdf

Связаться с автором: https://www.linkedin.com/in/avetisyan/

Смотрите также:

2025-12-05 17:56