有开发者干了件离谱的事:把Llama.cpp移植到了破解版PS5上,让游戏机原生运行起了GGUF格式的大语言模型。
PS5的硬件底子其实不差,拿来跑模型,效果居然还行。这事好玩的地方在于,它撕开了"AI只能跑在数据中心"这个假设——游戏机、手机、树莓派,万物皆可跑模型。
这就是边缘AI的趋势:模型越做越小、量化越做越好,7B参数的模型压一压,塞进各种设备都不违和。以后你家的电视、音箱、游戏机,可能个个都是"AI电脑"。
当然,破解版PS5跑模型,更多是极客的玩具,离实用还远。但它指的方向是对的:AI的未来,一半在云端,一半在你手边。
你家里最闲置的设备是啥?评论区聊聊
关注我,每天带你看科技新动向。