В рамках этого сотрудничества архитектура Tensor Contraction Processor (TCP) от Furiosa преобразуется в многочиплетную систему, создающую механизм логического вывода, разработанный с учетом требований к токенам большого объема в глобальных гиперразмерных средах.

Furious и Broadcom объединяют архитектуру искусственного интеллекта Furiosa с сетевыми продуктами Broadcom для искусственного интеллекта и коммутаторами Ethernet, чтобы создать единую платформу логического вывода, сочетающую архитектурные инновации Furiosa и опыт Broadcom в области инфраструктуры.

Партнерство основано на RNGD, чипе для обработки данных в центрах обработки данных FuriosaAI. В настоящее время RNGD находится в массовом производстве и изготавливается по 5-нм технологическому процессу TSMC. Это ускоритель на базе PCIe мощностью 180 Вт, предназначенный для высокопроизводительных рабочих нагрузок LLM и agentic AI.

Технология RNGD была апробирована в производственных условиях мировыми лидерами, включая Samsung SDS и LG AI Research, что подтверждает эффективность архитектуры TCP в стандартных средах центров обработки данных с воздушным охлаждением.

Обеспечивая высокую пропускную способность и низкую задержку при ограниченном энергопотреблении, RNGD создает архитектурную основу для значительных улучшений, разрабатываемых совместно с Broadcom для платформы третьего поколения.

“Производительность логического вывода больше не определяется исключительно необработанными вычислениями. Это все в большей степени зависит от повторного использования данных и эффективности обмена данными между серверами и стойками, - сказал Чарли Каввас, доктор философии, президент группы полупроводниковых решений Broadcom. - Сочетая архитектуру TCP Furiosa с лидирующей на рынке технологией Broadcom XPU и IP-платформой, масштабируемыми коммутаторами Ethernet и fabric, мы мы создаем платформу, которая устраняет ключевые узкие места крупномасштабного агентного ИИ”.

Чип Furiosa будет оснащен 2-нм вычислительной матрицей и технологией HBM4/4E, которые используют передовые возможности Broadcom для интеграции нескольких кремниевых матриц в высокопроизводительную систему на кристалле.

Благодаря использованию технологий Broadcom Ethernet и PCIe система обеспечивает создание сетей с высокой пропускной способностью в масштабе стойки между массивными вычислительными кластерами с искусственным интеллектом.

“Объединение инфраструктурных возможностей Broadcom, архитектуры процессоров с тензорным сжатием Furiosa и ее определяющего отрасль программного обеспечения позволяет нам выйти за рамки чипового уровня и предложить комплексное решение для эпохи token factory”, - сказал соучредитель и генеральный директор Furiosa Джун Пайк.

- Доказав производительность и действенность нашей архитектуры с помощью RNGD, нашего чипа второго поколения, который сейчас находится в массовом производстве у TSMC, мы представим решение для логического вывода третьего поколения, обеспечивающее лучшую в отрасли производительность на ватт даже для самых крупных и сложных моделей ИИ frontier и агентных рабочих нагрузок”.

Дизайн оптимизирован для сложных реальных рабочих нагрузок с использованием искусственного интеллекта, включая интенсивную выборку после обучения. Ориентируясь на передачу данных с высокой пропускной способностью, а не на управление потоками, требуемое графическими процессорами, чип обеспечит более высокую производительность на ватт и большую плотность токенов, чем современные графические процессоры.

Аппаратное обеспечение Furiosa поддерживается программным комплексом, который позволяет разработчикам быстро выполнять развертывание, удовлетворять высоким требованиям к пропускной способности и задержкам, а также легко переключаться на новые модели frontier и новые методы оптимизации.

В то время как устаревшие платформы требуют тщательной ручной настройки ядер для каждой новой модели, SDK от Furiosa использует общий компилятор, который автоматически сопоставляет высокоуровневый код PyTorch с silicon. Для разработчиков, которым требуется более детализированный контроль, Virtual ISA от Furiosa предлагает декларативную модель программирования, которая обеспечивает аппаратное управление без недетерминированной сложности традиционного программирования на GPU.