深耕AI助手多年 微软提示用户勿过度依赖Copilot

近期，科技巨头微软针对旗下AI助手Copilot发布官方用户提示，明确不建议用户在高风险场景下过度依赖该工具。作为微软过去5年重点布局的核心AI产品，Copilot已覆盖Windows系统、Office办公套件、Azure云服务等全产品线，此前累计投入相关研发推广资源超100亿美元，此次态度转向引发AI产业对通用助手落地边界的广泛讨论。

图源: 图像由AI生成

上周，不少Windows用户在更新24H2版本系统后发现，Copilot启动页底部新增了一行灰色小字提示：“本工具可能出现事实错误，请勿用于高风险决策场景”。这一变动很快被海外科技社区用户截图传播，和此前微软发布会、全球投放的广告中反复强调的“Copilot是你的全能生产力副驾驶”的宣传定位形成强烈反差。

自2019年宣布布局通用AI助手产品线以来，微软先后投入上百亿美元推进Copilot的研发和落地，2023年3月正式推出集成GPT-4大模型的Office Copilot，以30美元/月/用户的定价面向企业客户商用，短短18个月内全球企业付费用户就突破了1000万。

截至2024年第三季度，Copilot已经实现对Windows系统、Office办公套件、Azure云服务、Bing搜索等微软全产品线的覆盖，C端月活跃用户超过3亿，是目前全球用户基数最大的通用AI助手产品。根据微软最新财报，Copilot相关业务今年前三季度累计营收达47亿美元，同比增速超过230%，是微软增长最快的核心业务板块。

此次微软突然调整宣传口径，核心原因指向至今无法根治的大模型幻觉问题。**微软内部AI安全团队的未公开测试数据显示，当前版本的通用型Copilot，在法律、医疗、金融等专业高风险场景的输出错误率最高可达22%**，此前已经出现多起用户依赖Copilot生成的法律文书出现法条引用错误、财务报表数据偏差导致实际损失的案例，微软也多次因此面临用户索赔。