美国纽约州正审议代号S7263的法案，拟禁止AI聊天机器人向公众提供实质性医疗或法律建议，防止其冒充持证专业人士“无证执业”。法案要求运营方以清晰显著方式提示AI身份，即便提示到位，若AI建议造成伤害仍需担责，违规用户可起诉索赔，回应AI应用引发的公众安全隐忧。
当AI聊天机器人开始以“在线医生”“私人律师”的姿态输出意见时，潜在的安全风险已逐步显现。今年1月，生成式AI应用Character.AI因涉及数起未成年人自杀相关诉讼受到广泛关注，AI不当引导可能造成的严重伤害，成为推动监管落地的直接导火索。
在医疗场景，AI可能因训练数据的局限性或偏差，给出不符合个体病情的诊断结论或治疗建议，延误患者的最佳救治时机；在法律领域，错误的案件分析、权益主张指导，可能导致用户错失维权窗口，甚至陷入更不利的法律处境。这类行为本质上是AI在未取得专业资质的情况下“无证执业”，直接挑战了医疗、法律行业的监管底线与公众信任。
S7263法案的条款设计围绕“禁越界、明身份、严追责”三大核心展开，构建了一套明确的监管框架：
登录后解锁全文，体验收藏、点赞、评论等完整功能
立即登录
滇公网安备 53252802528133号