AI领域新规引发争议，Anthropic致歉并调整模型限制措施
AI技术公司Anthropic近期推出的全新模型Claude Fable5，因其在模型性能限制方面的隐蔽性做法，在AI研究社区引发了广泛的争议和强烈反对。在承受巨大舆论压力后，Anthropic已正式宣布调整相关规则，并为此不当举措致歉。
Claude Fable5模型最初设计时，为规避技术滥用风险，在涉及网络安全、生物、化学等高危领域时，会自动切换至性能较低的模型。然而，针对试图利用该模型研发竞争性AI的研究人员，Anthropic此前采取了一种隐蔽的限制手段，即在用户不知情的情况下，刻意降低模型性能。尽管平台的服务条款禁止用户利用Claude训练同类竞争模型，但这种暗中降维的策略引发了业界的强烈不满。
此次隐性限制方案被许多研究者视为不利于AI行业的健康发展，并可能导致AI领域资源的垄断。面对来自AI研究社区的广泛批评和担忧，Anthropic公开承认其做法不当，并发布致歉声明，承诺将全面调整模型的安全管控规则。
根据最新的调整，Claude Fable5模型相关的安全防护措施将变得完全透明。当系统检测到用户尝试利用该模型研发高性能竞争性AI时，将不再采取隐蔽降级性能的方式，而是会主动向用户发出明确的提醒，并直接拒绝相关请求，或者切换至性能较低的模型。所有限制措施都将对用户完全可见，确保信息的公开透明。
Claude Fable5作为一款前沿AI模型，其核心能力在于强大的自然语言处理和生成能力。此次因限制措施引发的争议，也凸显了AI模型在研发过程中的透明度和公平性问题。对于开发者而言，Claude Fable5的调整意味着在模型研究和应用上，将能获得更清晰的规则指引。但同时，对于AI的开放合作以及防止技术滥用之间的平衡，仍是行业需要持续探索的议题。