纽约州拟立法禁止AI提供医疗与法律建议，明确违规追责机制

美国纽约州正审议代号S7263的法案，拟禁止AI聊天机器人向公众提供实质性医疗或法律建议，防止其冒充持证专业人士“无证执业”。法案要求运营方以清晰显著方式提示AI身份，即便提示到位，若AI建议造成伤害仍需担责，违规用户可起诉索赔，回应AI应用引发的公众安全隐忧。

当AI聊天机器人开始以“在线医生”“私人律师”的姿态输出意见时，潜在的安全风险已逐步显现。今年1月，生成式AI应用Character.AI因涉及数起未成年人自杀相关诉讼受到广泛关注，AI不当引导可能造成的严重伤害，成为推动监管落地的直接导火索。

在医疗场景，AI可能因训练数据的局限性或偏差，给出不符合个体病情的诊断结论或治疗建议，延误患者的最佳救治时机；在法律领域，错误的案件分析、权益主张指导，可能导致用户错失维权窗口，甚至陷入更不利的法律处境。这类行为本质上是AI在未取得专业资质的情况下“无证执业”，直接挑战了医疗、法律行业的监管底线与公众信任。

S7263法案的条款设计围绕“禁越界、明身份、严追责”三大核心展开，构建了一套明确的监管框架：

明确禁令边界：法案严禁AI聊天机器人向公众提供“实质性”的医疗或法律建议，即不得模仿持证医生、律师的角色，输出诊断方案、治疗指导，或具体的法律策略、纠纷解决建议，从源头上杜绝AI冒充专业人士的行为。