算法公示是打破“算法黑箱”的第一步
2025/09/25 | 作者 周兼明
摘要:近日,北京市网信办推动抖音、快手、百度、微博、美团、滴滴首批6家属地主要网络平台公示算法规则原理,引起媒体和民众的关注。
近日,北京市网信办推动抖音、快手、百度、微博、美团、滴滴首批6家属地主要网络平台公示算法规则原理,引起媒体和民众的关注。这六家企业覆盖了短视频、搜索、社交、本地生活、出行等多个关键领域,有广泛的用户影响力和典型性。这一举措可以让用户理解平台运作机制,减少“信息茧房”和“算法黑箱”带来的疑虑。同时,通过公众的监督,也能倒逼企业优化算法设计,使其更注重公平、合规与社会责任。
算法可以说是数字时代的基础设施,它的决策逻辑深刻影响着民众的信息获取、消费选择和社会资源分配,成为改变人们生活的重要“推手”。无论是信息推荐、搜索引擎排名,或是平台商品推荐,算法都会影响到用户的选择与行为。用户习惯、舆论走向、商业逻辑、消费趋势,甚至社会关系的变化,都在受到算法潜移默化的影响。算法通过数据训练成的自动决策系统,正在替代过去的人工决策机制。然而,算法的技术复杂性和商业封闭性,使其长期处于“黑箱”状态,算法滥用可能引发数据杀熟、算法歧视、信息茧房、舆论操纵等一系列社会问题,不仅让公众知情权受损,也会使社会公平的风险加剧。
这次算法公示的目的,是通过制度设计打破平台的技术黑箱,为“算法权力”构建一个来自公众的制衡机制。这样既保障了民众的数字权利,用透明化实现民众对算法决策的知情与监督,同时也确立了平台责任,将算法设计从商业机密转变为公共治理对象,以便政府实现更全面、有效的监管。
“算法黑箱”的形成,有技术原因,有商业原因,也与法律与伦理认知的滞后有关。许多现代算法,尤其深度学习等复杂算法,多通过对海量数据的训练、调整和优化,得出决策规则。其决策逻辑常通过多层神经网络实现,参数规模可达数十亿级,有时开发者也难以完全追溯具体决策路径。其次,由于算法是网络平台核心竞争力之一,平台通常会对算法高度保密,以防竞争对手获取其核心算法。加上技术发展的速度远超法律和伦理规范的完善,所以社会对算法的治理往往是在追着技术跑。早期的算法设计者,并未意识到算法对社会公平、隐私保护、伦理道德等层面的影响,只有当某些算法已经造成了某些社会后果,政府和社会才开始反思和修正现有的法律和政策框架。
算法公示迈出了算法透明化的第一步,但仍面临一些现实困境。技术复杂性与民众认知差异,是算法透明化的最大障碍。在公示中,有不少“协同过滤”“矩阵分解”“余弦相似度”等专业术语,用户理解起来仍有困难。这种知识储备的不对等,有可能让公示沦为一种形式,很难发挥应有的治理效果。解决路径在于需建立从技术到公共知识的转译标准,如英国《算法透明度标准》通过标准化模板和案例库,将复杂模型转化为可理解的决策流程图。同时网络平台因担忧公布算法细节,会泄露商业秘密,但在现实中如何界定“必要透明”的边界,仍需通过行业标准来明确。再如,算法总是在持续更新迭代中,如何保证公示内容能跟上技术的快跑,使公示信息能及时反映算法的实时状态,仍需有具体的规则。
要真正打破“算法黑箱”,首先法律和伦理规范必须跟上。政府需出台更具操作性的法律法规,细化透明化标准,明确不同风险等级算法的公示范围和更新频率,通过立法确保算法设计中的隐私保护、数据安全、算法歧视等问题,避免算法滥用。国际社会有一些治理办法值得借鉴,如欧盟的做法是:高风险算法需通过第三方审计并公开决策逻辑;超大在线平台需定期发布透明度报告,披露算法对用户行为的影响;建立算法透明度中心,提供技术支持和标准化评估工具。这种立法与技术双轨并行的模式,为其他国家的算法治理提供了经验。
其次,技术的进步也很重要,需构建可解释的算法基础设施,将算法逻辑转化为直观易懂的交互界面,提升算法透明度。平台应清晰地向公众展示其算法的工作原理、数据收集方式和使用规则、决策过程和偏见来源以及潜在的风险评估等。同时借用“可解释性AI”模型,让民众理解算法为何做出某个决定。这在金融、医疗等领域尤为重要,以保证其决策过程是合理且能被追溯的。
除了政府和平台的主动作为,社会监督和公众参与也很重要。需在社会大张旗鼓地提倡批判性思维,让用户有主动寻找多元信息的能力,监督算法的公正性和透明度。专家和技术人员应主动参与算法设计和决策制定过程,同时有必要培育第三方审计机构,提升治理公信力。此外,高校和研究机构应将算法伦理纳入对技术人才的培养,使算法伦理成为每个技术人员的必修课。这样技术开发人员进行算法设计时,就会更多地考虑算法的社会影响。
打破“算法黑箱”,从本质上看,是数字时代权力结构的重新分配。算法公示只是第一步,未来的算法治理肯定会向“可问责”“可干预”“可参与”的方向发展,最终让算法伦理成为社会共识。通过动态透明机制、用户参与设计和社会影响评估,让算法从隐形操控者,变为可对话的数字伙伴。需要明确的是,对算法治理的最终目的,是为了构建一个更为公正、包容的数字社会。
ABOUT / 相关报道