探索建立促进人工智能向善机制
杨秦霞
2025年10月23日 07:16
傅琳凯
光明日报人工智能技术作为引领新一轮科技革命和产业变革的通用性技术，正在深刻改变着全球经济格局、人类生产生活方式乃至国家治理模式。习近平总书记在主持中共中央政治局第二十次集体学习时强调，要“全面推进人工智能科技创新、产业发展和赋能应用，完善人工智能监管体制机制，牢牢掌握人工智能发展和治理主动权”。2025年8月，国务院印发《关于深入实施“人工智能+”行动的意见》，提出要“探索形成智能向善理论体系”。促进人工智能向善，关键是要建立制约机制，引导和规范人工智能技术的研发与应用，确保人工智能造福人类。
以服务人类为宗旨，探索建立人工智能伦理新范式
增进社会福祉是技术发展的根本归宿。近年来，人工智能技术呈爆发式发展态势，从智能语音助手到智能驾驶系统，从医疗影像诊断到金融风险预测，人工智能已广泛渗透至社会的各个领域，为越来越多的人所熟悉和使用。人工智能带来前所未有的发展机遇，也带来前所未遇的风险挑战。应加快探索建立人工智能伦理新范式，确保人工智能安全可靠，符合人类共同利益。
科技以人为本，人工智能应以服务人类为宗旨，将人的需求和利益放在首位。建立人工智能伦理规范机制，要以保障人类根本利益为出发点，对人工智能技术的社会影响进行评估，确立人工智能研发与应用的伦理准则，明确人工智能技术应当遵循的道德规范，引导其朝着符合人类价值观的方向发展。实现技术普惠，托稳社会底线，保障不同群体在人工智能技术应用中的平等权利，避免因算法偏见、数据歧视等问题导致的不公平现象。
马克思主义认为人具有主观能动性，科技只是人认识自然、改造自然的工具，起决定性作用的是人，而不是工具。人工智能本质上是一种智能化的工具，人类需要认清人工智能的工具属性，合理使用人工智能，将之用于提高生产力，为人类谋福祉。因此，人工智能技术的发展应确保安全可控，保障系统的可靠性、稳定性和安全性。可根据人工智能系统的风险等级，实施不同程度的监管和伦理审查，避免“一刀切”扼杀创新。推动建立“沙盒监管”模式，允许在可控的真实世界环境中测试创新技术及其伦理框架，并根据结果快速调整政策。建立人工智能系统的“生命周期注册制”，在人工智能部署后持续监控其表现，实施有效的反馈和召回机制，及时解决所暴露出的伦理问题、修补技术漏洞。
以安全可控为锚点，健全人工智能法律监管体系
人工智能技术的迅猛发展也带来了诸多风险与挑战，如伪造生成他人信息、数据隐私泄露、算法歧视、侵犯知识产权等。亟须探索构建一个科学、有效、具有前瞻性的人工智能法律监管体系，确保人工智能健康、有序、安全发展，充分发挥其积极作用。
目前，我国已出台网络安全法、数据安全法、个人信息保护法等相关法律，对人工智能发展涉及的部分领域有所规范，但面对人工智能技术的快速迭代与复杂应用场景，现有法律监管体系仍存在空白与不足。可制定专门的人工智能法律，明确人工智能技术研发者、使用者、运营者等各主体的权利、义务与责任，以及违法行为的界定、法律责任的承担、赔偿机制、监管机制等。例如，针对人工智能生成技术，明确数据收集、技术合规使用、显著位置标注等要求，防范生成技术被滥用；针对人工智能算法，完善算法公开机制，以此避免算法歧视，确保决策的公平性与可解释性；明确人工智能产品造成损害时的责任归属，无论是因技术缺陷还是应用不当导致的损害，相关主体都应依法承担相应责任。
健全人工智能法律监管体系，规范动态风险分级与容错机制。可引入适应性治理理念，遵循包容审慎的原则，针对技术发展的不确定性与未知前景，采取兼容并蓄的灵活监管措施，既要包容技术发展存在的不足，又要激励继续迭代升级。建立持续动态监管和事后响应制度，为技术进步预留充足的发展空间，并明确厘清安全底线，激发经济社会发展的活力和创造性。构建多元协同治理机制，推动政府、企业、行业组织、科研机构、社会公众共同参与人工智能治理。如企业要切实履行主体责任，自觉遵守法律法规与行业规范；行业组织可制定行业标准与自律公约，通过开展行业培训、技术交流等活动，引导行业健康发展，并协助政府进行行业监管。
以技术向善为导向，推动安全可靠的人工智能应用落地
人工智能属于底层技术，与互联网技术类似，亦具备基础性、通用性、多元化等特征，应用场景非常丰富，在各个领域都可发挥技术赋能作用。未来随着“人工智能+”行动的大力实施，千行百业将催生出大量智能应用，成为经济社会发展的持续动力。面对新一代人工智能技术快速演进的新形势，要充分发挥新型举国体制优势，坚持自立自强，突出应用导向，推动我国人工智能朝着有益、安全、公平方向健康有序发展。
针对层出不穷的人工智能应用，可建立覆盖全行业、全生命周期的统一的安全评估体系标准，实现对人工智能应用安全风险的精准测评，筛选、推广安全可靠的人工智能应用，以发挥技术向善作用。由权威第三方机构依据统一标准开展独立评估，对通过评估的人工智能应用颁发安全认证证书，并通过全国性平台公示应用名称、研发企业、评估结果等信息，为市场选择提供清晰指引。可建立“动态复核”制度，对已认证应用进行定期抽查与不定期突击检查，一旦发现安全隐患立即撤销认证，形成安全闭环管理。
在推广人工智能应用落地环节，需强化政策引导与资源倾斜。可将安全认证结果与政府采购、政策补贴、行业准入挂钩，鼓励政府部门、重点行业优先选用认证通过的人工智能应用。搭建安全可靠的人工智能应用推广平台，通过案例分享、现场演示、供需对接会等形式，推动成熟应用在医疗、教育、养老、工业等重点领域落地。例如，在基层医疗领域推广通过安全评估的人工智能影像诊断系统，助力提升基层诊疗水平；在制造业推广认证合格的智能质检应用，推动产业提质增效。通过激励安全可靠的人工智能应用落地，能够加快推动形成技术向善的产业生态。
作者：傅琳凯（中国计量大学马克思主义学院教授）
]]> 2025年10月23日 15:18