Архитектурный долг нейросетей: цена автоматической генерации кода

Процент нарушений архитектуры, определяемый как доля случаев, когда доменный слой неправомерно импортировал инфраструктурную или внешнюю конкретную зависимость, демонстрирует критические показатели отказов для Llama 3, вызванные феноменом “галлюцинаторной связанности”.

Новое исследование показывает, что при автоматической генерации кода открытыми языковыми моделями часто возникают серьезные архитектурные проблемы, приводящие к снижению качества и надежности программного обеспечения.

Вирусной лжи не устоять: Как нейросети усиливают распространение фейков в Reddit

Количество контента, сгенерированного ИИ, и распространение дезинформации оказываются определяющими факторами вирусности распространения информации в Reddit, превосходя по значимости любые другие характеристики изображений или текстов, при этом каскады, насыщенные псевдо-маркированным контентом, демонстрируют более высокую скорость, продолжительность и способность проникать за пределы сообществ, создавая серьезные вызовы для модерации.

Новое исследование показывает, что сочетание текстовой дезинформации и изображений, созданных искусственным интеллектом, значительно ускоряет и расширяет вирусное распространение контента в социальной сети Reddit.

Хамелеон: Как обмануть искусственный интеллект с помощью изображений

Адаптивная схема атак Chameleon использует цикл обратной связи для оптимизации возмущений, позволяя системе динамически подстраиваться и повышать эффективность атак.

Новое исследование показывает, что системы искусственного интеллекта, обрабатывающие изображения и текст, уязвимы к незаметным манипуляциям с помощью изменения масштаба изображений.