Когда точность оборачивается крахом: проблема сужения поведения моделей с обратной связью
![Семантическая связь ускоряет ухудшение обобщающей способности модели: при обучении исключительно на персидском языке, более сильная семантическая связь и увеличение размера групп приводят к более быстрому снижению точности распознавания элементов из невидимой сиамской категории, демонстрируя, что [latex] \text{accuracy} \propto \frac{1}{\text{semantic coupling} \times \text{group size}} [/latex].](https://arxiv.org/html/2601.15609v1/imgs/semantic.png)
Новое исследование выявляет опасную тенденцию в обучении больших языковых моделей с использованием обратной связи от человека, когда стремление к точности приводит к потере разнообразия и снижению эффективности.

![Автоматизированное проектирование динамических систем управления на основе больших языковых моделей [latex]LLM4DRD[/latex] позволяет создавать адаптивные решения для задач, требующих постоянной оптимизации и перенастройки, как, например, в системе [latex]FAFSP[/latex].](https://arxiv.org/html/2601.15738v1/x1.png)