Криптовалюта

Meta устраняет аккаунты влияния, управляемые искусственным интеллектом, в Китае и Израиле

Михаель ван де Поппе

Как крипто-инвестор с опытом работы в области технологий и кибербезопасности, я глубоко обеспокоен продолжающейся борьбой Meta Platforms против тайных кампаний влияния с использованием инструментов искусственного интеллекта. Способность создавать дезинформацию с помощью искусственного интеллекта — опасная тенденция, которая потенциально может подорвать целостность платформ социальных сетей и повлиять на общественное мнение.

Компания Meta Platforms Inc. недавно удалила более 500 учетных записей Facebook из разных стран, включая Китай, Израиль, Иран и Россию, которые, как выяснилось, участвовали в тайных манипуляциях. Согласно последнему ежеквартальному обновлению безопасности компании, в этих кампаниях использовались передовые технологии искусственного интеллекта для распространения ложной информации.

Злоумышленники использовали передовые методы с использованием искусственного интеллекта (ИИ) для создания обманных сообщений, визуальных эффектов и видеороликов на Meta Platforms Inc. (Facebook, Instagram, WhatsApp) с целью отвлечь пользователей от подлинных материалов.

Анализируя недавнее исследование Meta, опубликованное в среду, я обнаружил, что, несмотря на развертывание генеративного искусственного интеллекта в своих сетях, компания, с моей точки зрения, сохраняет свою способность разрушать существующие структуры.

Как криптоинвестор и технически подкованный человек, я внимательно слежу за заявлениями Meta Platforms относительно безопасности и целостности их платформ социальных сетей. Недавно они сообщили о выявлении и последующем устранении двух отдельных кампаний дезинформации. Одна из этих сетей возникла в Китае и использовала искусственный интеллект (ИИ) для создания фейковых изображений, изображающих несуществующее просикхское движение. Другая сеть родом из Израиля и использовала искусственный интеллект для создания комментариев, выражающих неоправданную похвалу израильской армии. К счастью, обе кампании были свернуты прежде, чем они смогли получить значительную поддержку.

Во время пресс-конференции во вторник руководитель политики Meta по смягчению угроз Дэвид Агранович поделился своей точкой зрения, заявив, что в настоящее время генеративный ИИ не используется достаточно сложным образом. Использование ИИ для создания изображений профиля или генерации огромного количества спама еще не дало эффективных результатов.

Однако Агранович предупредил: «Известно, что эти сети носят враждебный характер. Мы ожидаем, что они будут продолжать адаптировать свои стратегии по мере развития своих технологий».

Как исследователь в Meta, занимающийся глобальными вопросами, я осознаю острую необходимость классифицировать и отличать контент, созданный искусственным интеллектом, от подлинного материала, созданного пользователями. С приближением сезона выборов 2024 года это становится еще более важным, поскольку более тридцати стран готовятся к международным выборам. Среди них следует выделить США, Индию и Бразилию, каждая из которых в значительной степени зависит от приложений нашей компании. Обеспечение прозрачности и доверия в цифровом пространстве имеет важное значение для поддержания целостности демократических процессов во всем мире.

Как аналитик, я заметил изменения в методах маркировки фотографий Meta: теперь они используют как видимые, так и невидимые теги. Что касается регулирования контента, Meta больше не удаляет вводящие в заблуждение материалы, созданные ИИ, а вместо этого идентифицирует их. В Facebook и Instagram рекламодатели обязаны раскрывать информацию об использовании искусственного интеллекта для социальных проблем, выборов или политической рекламы. Однако политическая реклама политических деятелей по-прежнему не подлежит проверке компанией.

Смотрите также

2024-05-29 23:17