Денис Аветисян

Оптимизация федеративного обучения: выбираем стратегию агрегации автоматически

от

В предлагаемой архитектуре для обучения в режиме единственного испытания, система способна автоматически определять неоднородность данных посредством выявления смещения меток, признаков и выбросов, либо использовать описание, предоставленное пользователем, после чего эта информация преобразуется в запрос для большой языковой модели, генерирующей конфигурацию стратегии агрегации, которая подвергается валидации перед применением в процессе федеративного обучения.

Новый подход позволяет подобрать наиболее эффективную стратегию агрегации данных в федеративном обучении без ручной настройки, учитывая особенности распределения данных.

Обучение языковых моделей: новый взгляд на смешение данных

от

С увеличением размера модели GPT-2 наблюдается закономерное снижение перплексии, что свидетельствует об улучшении способности модели к прогнозированию и, следовательно, к более эффективному пониманию языка.

Исследование предлагает инновационный подход к обучению больших языковых моделей, динамически подстраивая смешение данных для достижения лучшего баланса и производительности.

Стабильные Монеты и Платежные Системы: Небольшая Суматоха

от

И вот, некто по имени Стенли Друкенмиллер, человек, судя по всему, весьма проницательный в финансовых вопросах, заявил, что через лет десять-пятнадцать вся эта система глобальных платежей будет работать на этих самых стабильных монетах. Смелое заявление, нечего сказать! Как будто бы он предвидит будущее, словно ясновидящий на ярмарке. Это, конечно, заставляет задуматься о судьбе таких титанов, как Visa и Mastercard. Неужели их ждет неминуемая катастрофа? Неужели они окажутся на обочине истории, словно старый экипаж, замененный автомобилем?

Децентрализованная оптимизация: новый подход к борьбе со смещенными градиентами

от

Сходимость алгоритма Biased-DMT демонстрирует чувствительность к величине смещения градиента, указывая на то, что даже небольшие отклонения могут существенно влиять на скорость и стабильность схождения к оптимальному решению.

Исследование предлагает алгоритм Biased-DMT, позволяющий повысить эффективность децентрализованной оптимизации в условиях неоднородности данных и неточных оценок градиентов.

UPS: Не паникуйте, обратите внимание на AMAT и CAT

от

Компания испытывает повышенное давление из-за предстоящих переговоров с профсоюзом Teamsters в 2023 и 2025 годах, хотя и достигла соглашения по вопросам увольнений. Данные коллективные договоры зафиксировали более высокие минимальные ставки оплаты труда, что оказывает негативное влияние на маржинальность в условиях замедления мировой торговли. Кроме того, прекращение сотрудничества с Amazon привело к сокращению выручки и прибыли. В 2025 году выручка составила 88,6 млрд долларов, что на 2,6% ниже, а прибыль на акцию (EPS) снизилась на 2,8% до 6,56 долларов. Дивидендная доходность в 6,7% выглядит привлекательно, однако коэффициент выплат в 113% указывает на ее неустойчивость.