美民主党再次出击，试图打破开放的黑匣子算法

美国民主党议员再次提出立法，以确保用于刑事调查的软件源代码可以接受政府的审查并接受标准化测试。

周四，众议院代表马克·高野 (D-CA) 和德怀特·埃文斯 (D-PA) 重新提出了 2024 年法证算法正义法案，该法律草案禁止使用商业秘密主张来阻止辩护律师审查与刑事案件相关的源代码并建立了法医软件的联邦测试制度。

软件开发者的商业秘密特权绝不能凌驾于被告的正当程序权利之上，该法案于 2019 年和2021 年提出，但没有成功，旨在保证刑事被告有机会评估针对他们使用的软件的公平性。

通常情况并非如此，因为取证软件的制造商可以通过声称其源代码被归类为商业秘密来抵制公众对其源代码的审查。

高野在一份声明中表示：“随着算法在起诉美国人中的使用激增，我们必须确保他们能够看到并挑战可以确定他们是否被定罪的黑匣子。”“软件开发商的商业秘密特权永远不应凌驾于刑事司法系统中被告的正当程序权利。”

但他们确实做到了。Northpointe 是 COMPAS(替代性制裁惩教罪犯管理分析)系统的开发商，该系统用于计算累犯风险，为审前和审后决策提供信息。该系统认为其系统是专有的，并拒绝透露其工作原理。

“作为一种私人开发的算法，COMPAS 受到商业秘密法的保护，”Andrew Lee Park 在 2019 年《加州大学洛杉矶分校法律评论》文章中写道。“这意味着 COMPAS 的算法——包括其软件、使用的数据类型以及 COMPAS 如何衡量每个数据点——几乎不受第三方审查。”

Park 表示，如果 COMPAS 公平地对待每个人，这种情况可能是可以容忍的，但研究表明事实并非如此。具体来说， ProPublicain 在 2016 年进行的一项分析发现，COMPAS 对非裔美国人存在偏见，而且常常不准确。

Northpointe 发表了反驳研究，声称其软件是公平的。ProPublica反驳说，它坚持自己的调查结果。事实仍然是，在不披露这些决定是如何做出的情况下做出刑事司法决定仍然存在问题。

“我们支持《司法取证算法法案》中的透明度和标准要求，”EFF 专职律师 Hannah Zhu 告诉The Register。“刑事被告和公众有权检查用于将人投入监狱的算法。”

被告辩称，被拒绝访问此类软件的源代码违反了第六修正案与原告对峙的权利，这一问题在推翻2015 年对已定罪杀手约翰·韦克菲尔德 (John Wakefield) 谋杀罪的上诉[PDF] 中提出，但未成功。

在 2023 年 12 月发表的一篇题​​为“算法问责与第六修正案：对抗人工证人的权利”的法律评论文章中，巴尔的摩大学法学院学生达伦·丹福斯 (Dallon Danforth) 认为，法院系统必须解决对抗人工证人的权利之间的紧张关系。原告和保护知识产权的权利。

2024 年法证算法正义法案对此有相关规定。遗憾的是，这次它可能也无法在众议院和参议院获得通过。