迪士尼的动画片里，经常会出现一面魔镜。男女主人公有任何困惑，问问魔镜，从来不会失望。AI越来越像是那面魔镜。
美国近年来兴起了一阵AI热，他们与学校、企业及公益机构合作，开发各类AI软件为事务服务。通过软件判断嫌犯该不该缓刑，通过软件规划巡逻线，民政部门希望软件告诉自己要不要对某起虐童行为发起调查。AI似乎成了万能钥匙，让的决策更为与高效。
美国《连线》（WIRED）的一篇报道，对AI的深度使用，正在影响着美国的司法。而面对学者与的追问，美国官员与有关机构互相推诿，沉默是金，甚至。AI在美国体系内的实践，值得我们关注。以下是文章全文
一个叫米姆的19岁青年被违反了缓刑条款，里尔登正在犹豫要不要把他再次。她面前摆着一份。米姆曾犯有盗窃罪，公共安全测评系统（PSD）通过算法对米姆是否有可能再次从事犯罪或潜逃进行了风险评估。评估结果：米姆。
地区检察公室随后发表声明：由于工作人员操作失误，未将米姆过往刑期纳入公共安全测评系统。言下之意，若不是操作失误，该系统就会出具，而不是。
米姆案了一个事实：美国机构越来越依赖数学模型，在司法、儿童福利、教育及其他领域提供决策依据，而却很难甚至不可能去了解这些算法的运作过程。
高等法院从去年开始使用公共安全测评系统，该系统由阿诺德基金会免费捐赠。阿诺德基金会希望这套系统可以防止那些没有财力缴纳金的穷人长期滞留在狱中。但在与法院签署的谅解备忘录中，该基金会明确法院公布“与公共安全测评系统有关的任何信息，包括其运行机理、操作流程和陈述内容。”
【名词解释】John and Laura Arnold Foundation，劳拉及约翰阿诺德基金会，简称阿诺德基金会，该基金会主要关注肥胖问题、K12教育及司法。
大学的罗伯特布劳内思（以下简称“罗教授”）和罗格斯大学的艾伦古德曼（以下简称“古教授”）这两位教授将这份备忘录。两人本月发表了一篇论文，探讨利用算法进行预测行为的透明度问题。他们向美国23个州提交了42份档案公开请求，要求公布正在使用的公共安全测评系统及另外五款算法工具的信息。结果并不理想。
多家表示，没有教授所说项目的相关记录。知情人士则说，不敢承认，是因为他们与项目方有约在先：项目信息不得公开。在古教授看来，这帮当官的已经忘记了自己是老百姓选出来的了。
阿诺德基金会信誓旦旦地表示，不会再要求官员对公共安全测评系统保密，也很愿意对现有合同条款进行调整，以便官员们对外披露该系统的使用情况。高等法院人士则表示，到目前为止，他们与基金会的合同并未更新，条款仍然存在。
“至上”（ProPublica）网站调查发现，某套用于审判及的决策系统对黑人有。学者们连年，那些隐藏在商业机密或技术进程背后的公共政策，它们看似与商业及技术毫无瓜葛，实际上未必。
【名词解释】ProPublica，美国一家非营利性新闻网站，做严肃、有深度的调查性报道，创办仅两年便捧得普利策。
对公开算法工具的运算代码有难言之隐，部分原因在于，这些算法的知识产权通常归项目提供方所有。古教授则认为，迫切想知道的是：某套算法是如何被选中、开发和测试的，它们又是如何识别虚假信息的。这并不是在传统意义上的官民互动，因为总是希望了解新政修订与实施的情况。“此举不会影响的决策方式。公共政策正在进入先前没有涉猎过的AI领域，难道不该关心一下吗？”古教授说。
铁板也在慢慢松动。阿诺德基金会已经将公共安全测评系统算法的核心公式及统计时采用的参数公开，这些参数包括测评对象的年龄、既往犯罪史以及是否无法出席听证会等信息。据基金会的说法，这套系统的设计，采纳了近75万个案例作为数据源，卢卡斯郡用了这套系统后，虽然没释金就获释的嫌疑人激增，但嫌疑人取保候审期间的犯罪率已然下降。
古教授穷追不舍，要求基金会披露更多这套测评系统的相关信息，比如其数据集、设计、分析原理和评测进程。她认为，这些数据可以帮助和了解公共安全测评系统的优缺点，并将其与同类型审判前风险评估软件作个比较。对这一要求，基金会不做直接回应。不仅如此，正在使用这套测评系统的干脆不再披露其使用细节。
阿诺德基金会的说法是：正在收集可以披露的数据，供学者们评估；基金会首先要确保项目在司法系统使用期间的保密性，以防止或竞争对手在未经授权的情况下抄袭。
古教授和罗教授又将目光投向了商业软件PredPol。他们向11家局提出信息公开申请，希望公布其对PredPol的使用情况。这款软件可以预测哪些区域犯罪概率最高，以此作为巡逻线规划的依据。
PredPol由局和加利福尼亚大学合作开发，由同名企业负责销售推广。PredPol公司没有做出任何回应。
有些市表现得很积极。宾州阿雷格尼郡报告显示，该郡正在开发测试一套算法，以帮助儿童福利工作者决策是否要对某起儿童行为进行调查。该郡民政部门已委托理工大学进行研发。
马里兰大学教授西特龙说，有必要通过各州检察长、诉讼案件当事人乃至立法机构给地方压力，让他们谨慎考虑和使用此类算法工具。学者们相信，预测工具在层面会越来越流行，且算法也会越来越复杂。“到时候就更难办了。”古教授说。
健一会成立于2011年，致力于成为“最靠谱的一级市场投资人社群”，会员基本覆盖清科排名前50名的机构，以投资总监以上职位的个人朋友为主，提供的公益服务包括深度闭门沙龙、微演、众筹基金、退出设计、个人PR等。活动均为邀请制。
推荐：
网友评论 ()条 查看