返回文章列表

本地模型

找到 5 篇相关文章

小语言模型(SLM):为什么端侧 AI 越来越重视“小而强”

小语言模型(SLM):为什么端侧 AI 越来越重视“小而强”

小语言模型,也就是 SLM,正在成为端侧 AI 和本地 AI 场景里的高频概念。过去大家更关注“大模型有多强”,但随着手机、PC、车载系统和边缘设备开始真正落地 AI,行业发现不是所有任务都需要超大参数模型。很多时候,速度、成本、隐私和本地可运行性,比参数规模更重要,这也是小语言模型越来越受重视的原...

AI百科 Admin
71
本地部署大模型是什么意思?什么情况下你真的需要自己部署

本地部署大模型是什么意思?什么情况下你真的需要自己部署

本地部署大模型,指的是把模型运行环境放在你自己的电脑、服务器或私有网络里,而不是直接调用云端现成的 AI 服务。很多人第一次接触这个词,会以为只要把模型下载下来就算部署完成了,但真正的本地部署通常还包括推理框架、显卡资源、模型格式、接口服务和权限管理等一整套问题。 之所以越来越多人关注本地部署大模型...

AI问答 Admin
88

推荐工具

更多