AMD Instinct™ MI355X GPU задава новия еталон за DeepSeek инференции

DeepSeek V4 се нарежда сред най-ресурсоемките внедрявания на отворен модел за инференции (изводи, заключения) досега, изисквайки оптимална работа на всички ключови компоненти в инфраструктурата: отделяне на най-важното, изпълнение на MoE модели, квантизация, предвиждане на множество токени (multi-token prediction), планиране, заснемане Виж повече