中央网信办上线“涉AI应用乱象举报专区”，规范行业发展
为净化网络环境，规范人工智能（AI）应用的健康发展，中央网信办举报中心本月正式启动“涉AI应用乱象举报专区”，面向社会公众开放举报渠道。此举旨在配合“清朗·整治AI应用乱象”专项行动，切实保障网民的合法权益，推动AI技术朝着更加负责任、可信赖的方向前进。
此次设立的举报专区涵盖了AI应用服务和信息内容两大类共计14项具体违规问题。在AI应用服务层面，重点关注大模型未按要求备案、平台安全审核不足、训练语料存在安全隐患、AI数据投毒、合成内容未规范标注、滥用AI技术进行违法活动以及开源模型管理疏漏等七项。而在AI信息内容领域，则聚焦于借助AI篡改经典内容、产出劣质信息、编造传播虚假内容、AI仿冒他人、制作暴力低俗内容、侵害未成年人权益、利用AI进行网络水军活动以及各类AI产品和应用程序的违规行为。
此举的背景是当前AI技术飞速发展，伴随而来的是一系列潜在的乱象，包括但不限于虚假信息的泛滥、个人隐私的泄露、以及对社会公共秩序的潜在影响。官方此次设立举报专区，正是看到了AI发展过程中可能存在的风险，希望通过社会监督的力量，及时发现并纠正不规范行为，从而为AI技术的良性发展奠定坚实的基础。
AI技术作为前沿科技，其应用形式日益多样化，从内容生成到智能交互，正深刻改变着我们的生活。然而，任何强大的技术都需在规范的框架内运行。此次举报专区的设立，为公众提供了一个便捷的监督平台，有助于识别和防范AI技术被滥用的风险。例如，AI生成内容若未明确标注，可能导致公众误信，而AI仿冒他人则可能涉及侵权和欺诈。公众可以通过举报，帮助监管部门更精准地把握AI应用中的“灰色地带”。
对于AI产品而言，其上线应用需要经过严格的安全审查和合规备案，尤其是在涉及用户数据和内容生成方面。此次举报专区重点列出的各项问题，实际上也是对AI产品开发者和运营者的重要警示。一方面，鼓励开发者在技术创新之余，更加重视伦理规范和法律合规；另一方面，也呼吁用户提高辨别能力，共同抵制不良信息和虚假内容，为AI技术的健康发展营造良好的社会环境。