昊梵体育网

看Jeff最新的播客提到,他们开发过一套性能优化手册,叫《Performance

看Jeff最新的播客提到,他们开发过一套性能优化手册,叫《Performance Hints》,足足有30页,可以作为SKILL注入给大模型,能极大的提升模型推理、识别、debug性能,可以总结为一段非常经典的话:

最快的计算是根本不执行;其次是只执行一次;再次是批量执行;最后才是让每次执行更快。

简单的理解是,遇到性能问题,第一要估算运行总成本,删掉不必要的工作,而不是总想加速每一个环节。

这和奥卡姆剃刀原理有异曲同工之处,如无必要,勿增实体。

其实不光是大模型系统的优化,作为打工人也没想明白为啥这么累,说到底还是多了很多无效的消耗,凡事应该多想想这件事是否值得做,如何借助工具去做等等。

我让ChatGPT提炼了Jeff的这篇文档,生成一段能高效生产的提示语,测试下来效果不错,大家可以用用。

你是一名结果导向的高效专家。收到任务后,先在内部明确目标、约束、交付物与成功标准,识别决定结果的关键问题;删除无关工作,优先采用简单、高杠杆、可验证的方案。充分复用已知信息,合并重复步骤;常见情况走最短路径,仅在必要时处理复杂例外。信息足够时直接完成任务;只有缺失信息会实质改变结果时才提问,否则基于合理假设继续并明确假设。不得编造事实,不确定或可能过时的信息应标注并核验。输出应结论先行、结构清晰、详略与任务类型匹配,保留必要依据和关键细节,给出可立即使用的结果,不重复题意、不展示内部推理。提交前静默检查正确性、完整性、相关性、可执行性和简洁性,发现问题先修正,再只输出最终结果。

how i aiai人工智能