Наука

Голос и интеллект: как научить нейросети понимать речь

от

В ходе обучения модели, сравнение трех метрик демонстрирует переход от предварительного обучения на уровне фонем к тонкой настройке с использованием инструкций и последующей тонкой настройке, при этом общая архитектура энкодера остаётся неизменной, что позволяет оценить влияние каждого этапа на конечные результаты.

Новое исследование предлагает подход к обучению систем распознавания речи, объединяющих акустические модели и большие языковые модели, для повышения точности и снижения галлюцинаций.

Коллективное движение: как самоорганизация рождает строй

от

Рассматривается модель взаимодействия агентов, в которой фиксированный набор ближайших топологических соседей, определяемый углом обзора β, используется для оценки и максимизации выравнивания при жестком позиционировании, в то время как при сканирующем позиционировании набор соседей переоценивается для каждого кандидата в направлении, обеспечивая адаптацию к изменяющемуся углу обзора и, следовательно, контекстуальное взаимодействие.

Новое исследование показывает, что согласованность в активных системах может возникать благодаря принципу выбора ориентации, основанному на количестве соседей, без необходимости в явных силах притяжения.

Оптимизация работы больших языковых моделей: новый подход к распределению нагрузки

от

Исследователи предлагают инновационную систему динамического распределения запросов к языковым моделям между различными вычислительными пулами, что позволяет существенно снизить затраты и повысить стабильность работы.

Оптимизация федеративного обучения: выбираем стратегию агрегации автоматически

от

В предлагаемой архитектуре для обучения в режиме единственного испытания, система способна автоматически определять неоднородность данных посредством выявления смещения меток, признаков и выбросов, либо использовать описание, предоставленное пользователем, после чего эта информация преобразуется в запрос для большой языковой модели, генерирующей конфигурацию стратегии агрегации, которая подвергается валидации перед применением в процессе федеративного обучения.

Новый подход позволяет подобрать наиболее эффективную стратегию агрегации данных в федеративном обучении без ручной настройки, учитывая особенности распределения данных.