Китайские ученые ускорили работу нейросетей в 100 раз

Команда разработчиков применила принцип конструктора, объединив микросхемы FPGA с помощью специализированных коммуникационных компонентов. В основе системы лежит кремниевый фотонный приемопередатчик, обеспечивающий скорость передачи данных до 400 Гбит в секунду. Оптический коммутатор связывает до 16 вычислительных чипов, создавая общую пропускную способность в 6,4 Тбит/с.

Архитектура решения позволила отказаться от обращения к внешней памяти: каждый чип последовательно обрабатывает свой слой нейросети, мгновенно передавая промежуточный результат соседу по оптическому каналу. В ходе тестов система обработала тысячу изображений за 105,16 микросекунд, тогда как контрольный GPU справился с аналогичной задачей за 15,64 миллисекунды. Эффективность использования FPGA при этом достигла 94,7%. Разработка предлагает способ смягчить глобальный энергетический кризис, вызванный экспоненциальным ростом энергопотребления современных языковых моделей.