昊梵体育网

联通合作伙伴大会现场,大家都在聊词元怎么生产、怎么计费,我倒是被海光双芯方案里的

联通合作伙伴大会现场,大家都在聊词元怎么生产、怎么计费,我倒是被海光双芯方案里的安全部分吸引住了。
运营商以后接的可不只是普通聊天机器人。政务问答、金融分析、医疗模型、工业智能体,背后都带着业务数据、行业知识库,甚至还有客户自己训练的模型。
这么多客户共用一套算力,最怕什么?数据串了,模型看错了,密钥被碰了。真出了问题,词元生产得再快也白搭。
王楠在采访里说,安全从一开始就放进了海光CPU和DCU的硬件设计。具体做法包括芯片级密钥管理、可信计算、虚机隔离和显存加密。
简单理解,密钥可以正常使用,但外部看不到;机器从启动到运行,环境有没有被动过能够检查;不同客户的数据、模型和显存空间,也要各走各的,不能互相串门。
这套做法挺符合运营商的实际情况。普通用户偶尔问几句话,可能感觉不到这些东西;但银行、医院和政务部门要把核心业务搬上去,安全审查肯定要一项项过。模型从哪里加载、谁能调用、运行时有没有被篡改,都得说得明明白白。
所以我觉得,安全才是词元经营里那直接决定客户敢不敢下单的入场券。
海光把防护直接做到CPU和DCU里面,瞄准的显然也是运营商手里最难进、价值量也更高的政企市场。
海光信息 数据安全 词元经营