近日英伟达正式推出RTX Spark技术框架，可让搭载RTX系列显卡的消费级PC脱离云端算力支持，本地运行定制微调的大语言模型与AI智能体。目前全球已有超1亿台搭载RTX显卡的终端符合端侧AI运行要求，该技术在延迟、隐私性上的优势，有望重构消费级AI应用的落地逻辑。
过去两年消费级AI应用几乎都绑定云端算力：用户调用ChatGPT生成内容、用AI修图工具处理素材时，所有数据都要上传至厂商云端服务器处理，不仅受网络波动影响经常出现延迟卡顿，敏感工作数据、个人隐私信息上传泄露的风险也始终存在，用户对本地运行AI的需求正在快速攀升。
随着生成式AI应用向个人场景渗透，云端部署的短板越来越突出：一方面公共网络环境不稳定时，AI工具的响应速度会大幅下降，户外、差旅等无网场景下更是完全无法使用；另一方面，用户如果将包含商业机密的工作文档、个人健康信息等敏感数据上传至第三方云端，很容易出现数据泄露风险。
登录后解锁全文，体验收藏、点赞、评论等完整功能
立即登录
滇公网安备 53252802528133号