Понять и исправить: Инструмент для отладки сложных систем из множества агентов

Представлена система XAgen, облегчающая понимание, выявление и исправление ошибок в многоагентных рабочих процессах за счет интеграции визуализации журналов, преобразующих необработанные данные в интерактивные блок-схемы, механизмов обратной связи с участием человека для итеративной оптимизации конфигураций и автоматического определения ошибок с использованием LLM-оценщика, отображающего исторические показатели успешности и подробные оценки в интерфейсе.

Новый инструмент XAgen помогает пользователям любого уровня подготовки находить и устранять сбои в многоагентных системах, используя визуализацию логов, обратную связь от человека и возможности больших языковых моделей.

Нейросети с осознанием: как Bayesian-подход делает ответы более надежными

Для выбранных вопросов из разработанного трехклассового набора данных, апостериорные предсказательные распределения, отображающие среднее значение и неопределенность в $±1σ$, позволяют определить предсказанный класс (синим цветом) относительно истинной метки (красной звездой), демонстрируя способность модели к вероятностному прогнозированию.

Новое исследование показывает, как использование Bayesian-вычислений в нейронных сетях, отвечающих на вопросы, позволяет им оценивать собственную уверенность и выдавать более точные и обоснованные результаты.