昊梵体育网

DeepSeek Harness+ Qwen3.8-27B 本地AI工作已经封神! 由于免费搜索服务Tavily 每月只有1000次的限额,不能满足项目需求。昨天下决心彻底替换掉Tavily,这项艰巨的任务就交给我的老PC16G显卡安装的 DSH和27B了。 你问我,能相信AI Agent吗?

DeepSeek Harness+ Qwen3.8-27B 本地AI工作已经封神!

由于免费搜索服务Tavily 每月只有1000次的限额,不能满足项目需求。昨天下决心彻底替换掉Tavily,这项艰巨的任务就交给我的老PC16G显卡安装的 DSH和27B了。

你问我,能相信AI Agent吗? 我说,我只能信,因为我自己也不会。

DSH 虽然还处于预览版,但是已经展现出了它的强大与灵活,我用下来感觉起点就远高于一众龙虾变种,就是与Codex相比,也毫不逊色。

Qwen3.8-27B是我在本地部署过的,最靠谱的大模型了,虽然速度上不如MoE架构的各种35B,但是质量好很多。

DSH的主Agent做好了任务规划,又自己启动了3个子Agent,这对我本地16G显卡的27B模型造成了很大的压力,子Agent中间有失败,主Agent会在合适的时机重启新的sub Agent。

一个关键的瓶颈是,我只开了150K上下文,DSH自己做了多次上下文压缩,中间有一次超出上下文系统中断执行,我调整了llama.cpp参数,降低了--n gpu-layers, 增大了--ctx-size,重启llama-server,速度降低,但是DSH可以继续跑。

10来个小时后,今天中午DSH显示已经完成所有工作。DSH跑了11项任务,14轮255步,2830万Tokens。

这是我用自己的老PC,本地Agent配合Qwen3.8-27B本地大模型,做的最长的一次任务,虽然慢点,但是质量很好,DeepSeek,Qwen, 国产AI真牛!普通人如何使用deepseek? Ai人工智能能取代人类吗 探寻人工智能,人与AI全新序章