十万张卡不堵车,调度系统才是真功夫
逛WAIC中科曙光展台时,工作人员介绍曙光8000在上线第一周就直接应用爆满了,日处理作业峰值突破50万个。但真正让我感兴趣的,不是跑得多满,而是这么多人一起用,怎么不卡。
展台工作人员反复被问到同一个问题:十万张卡同时跑,资源怎么分?他和我介绍,曙光8000依托智能调度引擎、数据亲和性算法和多元融合调度策略等动态管理机制,能根据任务类型、数据位置和资源状态进行智能分流和按需调配。说白了,就是系统自己能判断,这个作业是搞大模型训练的,那个是跑科学计算的,数据在哪个节点上,哪块算力闲着,然后自动匹配最合适的资源。
高负载不拥堵、多任务不排队,这不是口号。面对百万级用户并发请求,曙光8000在高负载状态下仍能保持运行畅通。能做到这一点,靠的是自研scaleFabric类IB原生RDMA高速互连技术,实现十万卡规模稳定互联。
算力大不大是一回事,能不能把算力顺畅地分给需要的人,是另一回事。曙光8000在后者上交出的答卷,可能比前者更值得关注。
WAIC 算力 中科曙光
