总体而言，我们需要的是通过知情决策与选择来支持“人类能动性”数据设计，例如，对于数据以及系统流程的访问能够赋予调查记者或研究人员挑战人工智能系统的权力。记者或研究人员的利益体现在系统的数据之中，而公司为保持这些算法与技术设计为己专有，可能会对数据访问加以限制。例如，前文提到的“机器偏见”研究当中的研究者就没有权限访问用于被告风险评分的计算系统。只是有一次.他们偶然从Northpoint背后的公司那里获得了未来犯罪公式的基本信息。然而，该公司从未分享过具体的计算方法、他们坚称这些计算方法只为自身专有(Angwin et al.，2016)。
作为调节器的数据
数据设计过程当中法律的实施优先为哪些利益服务？人工智能系统的数据设计是否会增加法律的价值？不同法律框架之间的利益如何通过设计解决？
技术设计是一种能够用于保护或限制法律(Reidenberg，1997;Lessig。2006)的“调节器”。“作为调节器的数据”强调法律实施过程当中数据设计的作用以及法律在社会当中的落实。在理想情况之下·法律与技术设计能够相互补充，增加法律的价值。然而在现实当中.数据设计通常只是严格遵照法律要求，只有在少数情况下数据技术的某些特性才可能会与法律发生直接冲突。例如，人工智能的数据密度可能会直接挑战法律原则(如数据最小化、隐私与数据保护设计·或信息权和解释权)。数据设计当中不同利益相关方的利益也可能会与法律框架存在冲突·例如基本权利框架，其中个人数据利益首当其冲。举例来说，非民主国家主体的利益在于利用数据实现社会控制：某些公司的利益在于通过追踪并收集数据来强化它们的数据驱动型商业模式，而个人权利并不在其考虑范围；与之类似，科学家的利益可能在于运用大数据分析改善他们的研究。
第4章数据利益与数据文化
129