每秒输出最高 43 词元:Garlic LLM 可让越狱 PS4 运行 9B 参数本地 AI 模型
科技媒体Gigazine今天(11月17日)发布博文,报道称开源项目GarlicLLM可以让越狱版PlayStation4运行90亿参数的本地大语言模型,最高生成速度可达每秒43个词元(Token),且无需联网即可完成AI聊天与语音对话。
[查看原文]
该资讯由价美丽收集整理,来源于网络,价美丽致力于为淘宝、京东、拼多多等商家提供推广服务,助力店铺实现快速起店、精准测品,高效解决店铺运营难题,加速店铺成长,轻松打开市场!
