近日，国家互联网信息办公室、工业和信息化部、公安部、国家市场监督管理总局联合发布《互联网信息服务算法推荐管理规定》，进一步规范互联网信息服务算法推荐活动，维护国家安全和社会公共利益，保护公民、法人和其他组织的合法权益，促进互联网信息服务健康发展。 　　 　　近年来，随着人工智能与数字经济的迅速发展，人们生活要素日渐被数字化。算法作为数字世界的无形之手，在给人们生活带来便利的同时也催生了算法“黑箱”。 　　 　　什么是算法“黑箱”？所谓算法“黑箱”，其实是一种隐喻，指存在于人工智能深度学习的输入与输出之间，难以为外界所观察、理解的隐层。算法“黑箱”具有不透明性和难理解性，这使算法在应用中或可能侵犯公众知情权和自主决策权，威胁个人信息安全，甚至可能引发司法救济危机。如何应对算法“黑箱”的挑战，有效规制算法开发与应用？笔者认为，可从五个方面入手： 　　 　　明确算法解释义务，提高算法透明度。算法“黑箱”的关键在于算法运行过程很难被观察，且难以为大众理解。因此，规制算法“黑箱”首先要推进算法透明。算法透明要求算法设计者披露算法从输入到输出的基本逻辑，直接、简明地解释算法处理过程，以此打开算法“黑箱”，缓解公众和算法设计者之间的信息不对等。算法透明并非追求算法的完全公开，而是要求以能够更好地被公众理解的方式解释算法，消除“黑箱”带来的规则盲区。要赋予算法设计者合理的算法解释义务，在保护算法这一知识产权的限度内尽可能实现有意义的算法透明。 　　 　　制定算法技术标准，建立算法与法律的协作沟通机制。法律与算法分属不同系统，彼此之间若缺乏有效沟通，容易使法律难以有效规制算法“黑箱”。算法技术标准可以指导结构性规则制定，搭建法律系统与算法系统沟通的桥梁，推动算法系统与法律系统之间跨界沟通。因此，建议制定算法技术标准，明确要求算法在开发过程中必须符合特定标准。这一方面可以引导算法行业自律，推动算法标准化，防止算法“黑箱”侵权；另一方面可以降低法律与算法之间的沟通成本，形成一套理解算法的基本框架。 　　 　　完善算法问责机制，落实算法主体责任。有的算法“黑箱”问题是技术价值选择下的故意不透明，算法主体以构设的“故意不透明”规避责任。算法的高度专业性和复杂性使得外界难以知悉“黑箱”的内部逻辑结构，应该忽视算法“黑箱”的技术细节，在发生损害之后对算法相关主体进行追责。即以事后问责的方式追究算法主体的法律责任，借助问责所形成的约束机制引导算法主体在面对技术价值问题时作出正确选择。建立完善的算法问责机制，明确算法“黑箱”责任主体、归责原则、责任分配及法律后果，由此倒逼算法主体在符合法律法规及相关政策要求前提下设计和应用算法，使算法的设计不偏离法律监管目标。 　　 　　拓展算法监管体系，构建算法合作治理路径。以全局视角构建一个有效的监管体系，由此实现对算法“黑箱”的规制。在数字经济时代，平台企业依靠算法挖掘数据的潜在价值，进而掌握了控制社会的“准公共权力”，促进社会形成了“政府—平台—消费者、公权力—社会权力—私权利”的三元结构。三元结构下治理算法“黑箱”，需要拓展算法监管体系，在原有国家公权力和算法主体自我监管体系之外，引入多方监管主体，使监管覆盖算法整个生命周期。 　　 　　推动算法伦理法律化。由于算法本身不承载伦理和道义，其所具有的价值观来自算法设计者和使用者的价值选择，所以提出算法伦理作为约束算法按照符合人类道德观念的要求设计和应用。算法伦理主要依靠声誉机制规范算法的设计和应用，这种软性约束并不足以产生有效的控制力。但推动算法伦理化，可以将算法伦理的具体要求嵌入制度中，从而以算法伦理为衡量标准推动算法规范化，依靠法律的强制力保障算法不偏离算法伦理轨道。 　　 　　（作者单位：西南政法大学监察法学院）伊志律师事务所位于北京市朝阳区朝外大街乙6号朝外SOHO-C座1209，优越的地理位置，便利的交通条件，安静、专业的办公环境为需求提供方便。 电话：010-84493343 微信：18401228075 电话：18401228075