邮储银行副行长点出大模型“三重矛盾”，中科曙光“元融”专治第三重！
邮储银行牛新庄副行长最近总结了商业银行大模型规模化应用的“三重矛盾”：
一是通用能力与专业需求的矛盾——大模型“懂语言、不懂业务”。二是统一与多样的矛盾——各部门各自微调模型，容易形成“模型孤岛”。三是算力成本与规模推广的矛盾——大模型推理延迟高、算力消耗大，部署成本指数级增长。
前两个是软件和应用层的事，第三个是基础设施层的事。但三个问题环环相扣——算力成本降不下来，规模化推广就是空谈。
看了中科曙光这次在金融展上发布的“元融”，做的就是降本增效的事，scaleX40总算力超28 PFLOPS，部署周期从数月缩至数小时；ParaStor F9000单节点带宽220GB/s；scaleFabric端到端时延0.93微秒。江海证券四大场景全项通过。
也确实，把底层效率提上去，算力成本降下来，上面两层的问题才有解。
 
金融展 中科曙光 元融 大模型