人工智能、监控和执法：剥夺消极自由
正如我们在导论中所看到的，人工智能可用于执法。它还可以用于边境警务和机场安全。在世界各地，机场和其他边境口岸都在使用人脸识别技术和其他生物识别技术，如指纹和虹膜扫描。除了可能产生偏见和歧视（见下一章）以及对隐私的威胁(UNCRI and INTERPOL 2019）之外，其还可能导致各种侵犯个人自由的干预措施，包括逮捕和监禁。如果人工智能技术出现错误（比如对一个人作了错误归类、无法识别一张脸），个人可能会被错误逮捕、被拒绝庇护、被公开指控等等。一个“小”的误差可能会影响成千上万的旅客（Israel2020）。同样，利用机器学习“预测”犯罪的所谓“预测性警务”(predictive policing)，除了（再次）歧视之外，还可能导致不公正的剥夺自由的司法判决。更广泛地说，它可能会导致“卡夫卡式”的情形：不透明的决策过程和恣意、不公正的和无法解释的决定，严重影响被告的生活并威胁法治（Radavoi 2020，111-113；另见 Hildebrandt 2015)。
第二章 自由：人工智能操纵与机器人奴役
015