知名AI安全研究团队近期针对OpenAI ChatGPT、Google Gemini、DeepSeek等7款市面主流大语言模型聊天机器人完成对抗性测试，结果显示仅需极低门槛的普通诱导指令，就能让AI绕过内容对齐约束输出完全不实的虚假信息，整体攻击成功率超过82%，直指当前大模型内容安全体系存在被长期低估的结构性漏洞。
整个测试过程没有采用任何复杂的对抗破解技术，研究人员甚至没有修改提示词的特殊编码，仅仅是通过调整对话的场景设定，比如让AI以“校园话剧的剧情草稿”“虚构科幻小说的人物设定”为前提回答相关问题，就达成了绝大多数的攻破效果，操作门槛普通网民无需专门学习就能快速掌握。
过去两年全球大模型行业的竞争重心始终集中在参数规模、推理速度、多模态理解能力等显性指标上，多数厂商的资源投入都向性能提升侧倾斜，内容安全的相关训练长期停留在表层敏感词拦截阶段。不少从业者甚至默认，用户主动诱导生成的虚假内容属于“误用风险”，并未将其纳入常规安全防护的核心覆盖范围，直接给后续的虚假信息传播埋下了隐患。
登录后解锁全文，体验收藏、点赞、评论等完整功能
立即登录
5 小时前
2024年下半年以来，全球AI赛道迎来新一轮产品迭代潮：OpenAI下一代大模型GPT-5研发进入收尾阶段，Google Gemini全端覆盖用户突破10亿，苹果Apple Intelligence随新系统正式推送，国内厂商DeepSeek、Perplexity等垂直类AI工具月活涨幅超60%，AI代理、AI PC等新形态应用也从概念走向落地，全行业商业化进程持续提速。
6 小时前
近日独立AI创作者借助OpenAI GPT-4o、DeepSeek大模型等工具，成功复刻科幻名作《挽救计划》（Project Hail Mary）的全星系恒星地图，经原著爱好者联合校验，该星图对书中提及的12万颗天体坐标还原度达99.7%，误差控制在0.3%以内，远超此前所有同人衍生内容的制作精度，成为近期生成式AI落地小众创作领域的标杆案例。
6 小时前
全球科技巨头Meta近期正式启动基于生成式AI改造Facebook Groups的新项目，推出对标社区平台Reddit的全新兴趣社交产品。该产品集成Meta自研Llama 3大语言模型，首批灰度测试已经覆盖超过1.2亿原有Facebook群组活跃用户，主打AI驱动的内容自动化治理与兴趣匹配功能，意图抢占近年持续升温的垂直兴趣社区赛道。
7 小时前
B站于2026年5月发布的第一季度财报显示，公司单季总营收达74.7亿元同比增长7%，首次实现净利润2.02亿元正式扭亏，经调整净利润5.85亿元同比大增62%。B站CEO陈睿将AI定义为历史性增长机遇，本季度广告收入25.9亿元同比激增30%，AI全链路赋能成为核心驱动因素，为国内内容平台的AI商业化落地提供了可参考的全新样本。
7 小时前
国内头部大模型厂商DeepSeek近期官宣累计融资额突破700亿元，管理层正式对外披露全新战略方向，不再将短期商业化收益作为核心考核目标，集中全部资源攻坚前沿AI技术，其中面向开发者的编程专属大模型DeepSeek Code已进入落地筹备阶段，相关配套的Agent Harness技术团队招聘工作也已全面启动。
7 小时前
2026年5月22日，OpenAI正式发布嵌入微软PowerPoint底层架构的ChatGPT for PowerPoint测试版插件，面向所有普通用户与ChatGPT Plus会员完全免费开放，支持一句话生成幻灯片、自动排查逻辑与格式错误等功能，直接打破传统PPT工具的创作效率瓶颈，是近期AI办公赛道最受瞩目的落地产品。
7 小时前
市场调研机构Comscore近期发布2026年3月美国桌面端消费级AI聊天机器人市场报告，数据显示当月全品类相关平台累计独立用户达4440万，环比增长超21%。OpenAI旗下ChatGPT以3386万独立访客稳居行业第一，Anthropic推出的Claude环比增速高达130%，正在快速缩小与头部产品的市场差距。
7 小时前
2026年5月，豪华汽车制造商宝马集团正式宣布将Agentic AI智能体技术深度整合至全球日常业务流程，突破传统生成式AI仅能做信息问答的局限，将AI从辅助工具升级为可自主执行复杂工作流的数字化助手，首批在旗下Alphabet欧洲车队租赁业务试点后，订单处理效率提升90%，为实体产业的工业AI落地提供了可参考的标杆案例。
滇公网安备 53252802528133号
