近来，人工智能领域的著名专家表示，预测性调节工具不仅是“无用的”，而且还倾向于大大夸大暴力犯罪的可能性。在本月初发表的一封信中，来自麻省理工学院，哈佛大学，普林斯顿大学，纽约大学，加利福尼亚大学，伯克利分校和哥伦比亚大学的专家表达了他们对此问题的看法。技术怀疑论达到了前所未有的水平。人工智能专家切尔西·巴拉巴斯（Chelsea Barabas），卡尔提克·迪纳卡（Karthik Dinakar）和科林·道尔（Colin Doyle）在《纽约时报》的专栏中写道：“预测暴力时，风险评估提供了更多的魔术思维，而不是有用的预测。”预测性警察工具或风险评估工具是用于预测将来某人犯罪的算法。根据美国国家司法研究所（国家司法研究所）的数据，预测性警务是：“（利用）信息，地理空间技术和基于证据的干预模型的力量来减少犯罪并改善公共安全。”随着人工智能的飞速发展，这些工具已经开始进入法官和警察部门的日常工作中。法官使用它们来决定如何做出判决，而警察部门则使用它们来分配资源等。它还可用于评估面临再次遭受审判的人犯罪的可能性以及是否应将其拘留。其中，法官最常用的工具之一是公共安全评估（PSA），与许多其他工具一样，该工具是根据犯罪记录和个人特征来计算的。基于计算结果，该工具可以将一个人标记为“新的暴力犯罪活动”的候选人。尽管该技术被定位为先发制人的犯罪手段，但专家称其功能被大大夸大了。研究人员写道，在预测未来的暴力行为时，算法风险评估被认为比法官更具客观性和准确性。 “从政治角度来看，这些工具已成为保释金改革的宠儿。但是，他们的成功基于希望风险评估可以成为纠正法官的宝贵方法的希望。错误的直觉。”专家反对这种预测犯罪算法。一是对其准确性的怀疑。专家说，这些工具往往高估了被告遭受暴力侵害的风险，实际上，审判期间犯罪的可能性很小。据报道，华盛顿特区有94％的犯罪嫌疑人被释放，其中只有2％随后因暴力犯罪被捕。但是，研究人员指出，等待审判的30％的人在各个州被拘留并不罕见，而且这一比例的差异清楚地表明了“过度监禁”。问题。研究人员写道，（这些工具）可以为法官提供建议，以使未来的暴力事件看起来比实际情况更加可预测和确定。但是在此过程中，使用此AI风险评估工具可能会继续导致大规模监禁的出现，并引起人们的误解和恐惧。专家说：“如果这项技术真正准确，它应该能够预测几乎每个人都处于零风险，因为统计概率非常低。相反，PSA牺牲准确性只是为了减少发生暴力的可能性。可以将不确定的人，不确定的人或无法估计的人与有问题的人区分开来。”以前面提到的旨在识别恐怖分子的TIA系统为例，假设预测系统的准确性达到99％，那么从理论上讲，它可以预测恐怖分子集团中99％的未来犯罪分子，同时错误地预测将1％的无辜者判定为未来的恐怖分子。假设美国3亿人中有1000人是真正的“未来恐怖分子”，其余29,999,000人是无辜的，那么从理论上讲，将有2,999,990人被错误地列入恐怖分子行列。换句话说，该系统将逮捕近300万无辜者，几乎是真正犯罪分子人数的3,000倍。人工智能如何预测犯罪？实际上，其判断依据与人类警察大致相同。具有多年工作经验的警官经常可以总结出自己的区分罪犯的基础，而在解决犯罪时，他们通常需要一些基本的经验来进行判断，例如哪些地区和时间容易发生高犯罪率，以及谁来犯罪。犯罪可能性更高。这些归纳判断具有其含义，但是对于某些人来说，将他判定为“有罪”显然是不公平的。通过类似的分析。另外，算法的设计者也可能不理解