Во второй день Недели открытого исходного кода DeepSeek мы рады представить DeepEP — первую библиотеку связи EP с открытым исходным кодом для обучения и вывода моделей MoE. Эффективная и оптимизированная связь между всеми узлами Поддержка внутриузловых и межузловых соединений через NVLink и RDMA Предварительно заполненные высокопроизводительные ядра для обучения и вывода Ядра с малой задержкой для декодирования вывода Собственное планирование FP8 поддерживает гибкое управление ресурсами GPU для перекрытия вычислений и связи
Все комментарии