人工智能技术作为一把“双刃剑”，在带来先进工作生活方式，提升社会生产力的同时，也带来包括幻觉、深度伪造、注入攻击、数据污染、数据泄露等前所未有的安全新挑战。而伴随着人工智能大模型在经济社会中应用日渐广泛，一旦出现安全问题，可能对个人、社会甚至国家安全形成重大隐患。启动人工智能安全守护计划是应对这些风险的必要措施。
AI系统情报共享机制的建立，可让各参与方及时获取最新的安全威胁信息，从而提前做好防护措施，有效降低人工智能系统遭受攻击的风险，提高系统整体安全性；建立AIGC真实性和可信赖来源互认机制，有助于在当前AIGC内容大量涌现的情况下，识别利用AI“深度伪造”生成的虚假信息或恶意内容，防范通过AI换脸、变声技术实施诈骗等行为，对于防止虚假信息传播、保护用户信息和财产安全具有重要意义。推动设立人工智能相关保险产品，有利于完善产业风险分担机制，降低安全事件对社会的负面影响。
人工智能安全守护计划的启动，可为AI技术的研发和应用提供指导，提高AIGC产品的可信度，提升国内相关技术服务提供方、使用方的安全防护能力，促进其在医疗、交通、金融等关键领域的深度应用，为AI产业长期稳定发展提供保障。同时，增加政府机构、企业及普通用户对AI技术的信任和支持，提升中国AI产业在国际上的整体形象，增强国际合作吸引力，促进相关行业的规范、健康发展。（本文转载自新华社）
