DeepSeek全面开源DeepInferDeepSeek把自家推理框架DeepInfer也开源了。之前模型开源已经够意思了,现在连“怎么让模型跑得又快又便宜”这套本事都掏出来了。看数据说一个集群一天能干155万亿token,单卡每小时能挣38美金,还兼容英伟达和昇腾。说实话我用他家API的时候只关心卡不卡、贵不贵,人家在背后琢磨的是怎么省电省卡。这波格局确实大,但我就一个朴素的愿望:开源完了,能不能再便宜点。[吐舌]
DeepSeek全面开源DeepInferDeepSeek把自家推理框架DeepInfer也开源了。之前模型开源已经够意思了,现在连“怎么让模型跑得又快又便宜”这套本事都掏出来了。看数据说一个集群一天能干155万亿token,单卡每小时能挣38美金,还兼容英伟达和昇腾。说实话我用他家API的时候只关心卡不卡、贵不贵,人家在背后琢磨的是怎么省电省卡。这波格局确实大,但我就一个朴素的愿望:开源完了,能不能再便宜点。[吐舌]