Broadcom: Ещё один винтик в машине?

Говорят, Broadcom сейчас меняется. Вроде бы, делают ставку на какие-то специальные чипы для искусственного интеллекта. Вроде бы, хотят составить конкуренцию Nvidia. Ну, попытки-то всегда похвальны. Но мир полон попыток, которые ни к чему не приводят.


![В предложенной архитектуре внимания с разреженным взаимодействием скрытые состояния проецируются в запросы, ключи и значения, при этом значения модулируются посредством вентиля [latex]G_2[/latex] перед оценкой позиций и выбором наиболее релевантных [latex]k-k[/latex] позиций, после чего происходит агрегация информации посредством разреженного SDPA и финальная модуляция выходного сигнала вентилем [latex]G_1[/latex], формируя [latex]u_t[/latex].](https://arxiv.org/html/2601.15305v1/x1.png)