人工智能伦理

2016年颁布的《中华人民共和国网络安全法》的第四章“网络信息安全”（即第四十条至第五十条）给出了个人信息保护的一般法律原则和要求。例如：

【第四十一条】网络运营者收集、使用个人信息，应当遵循合法、正当、必要的原则，公开收集、使用规则，明示收集、使用信息的目的、方式和范围，并经被收集者同意。网络运营者不得收集与其提供的服务无关的个人信息，不得违反法律、行政法规的规定和双方的约定收集、使用个人信息，并应当依照法律、行政法规的规定和与用户的约定，处理其保存的个人信息。

【第四十二条】网络运营者不得泄露、篡改、毁损其收集的个人信息；未经被收集者同意，不得向他人提供个人信息。但是，经过处理无法识别特定个人且不能复原的除外。网络运营者应当采取技术措施和其他必要措施，确保其收集的个人信息安全，防止信息泄露、毁损、丢失。在发生或者可能发生个人信息泄露、毁损、丢失的情况时，应当立即采取补救措施，按照规定及时告知用户并向有关主管部门报告。

【第四十三条】个人发现网络运营者违反法律、行政法规的规定或者双方的约定收集、使用其个人信息的，有权要求网络运营者删除其个人信息；发现网络运营者收集、存储的其个人信息有错误的，有权要求网络运营者予以更正。网络运营者应当采取措施予以删除或者更正。

【第四十四条】任何个人和组织不得窃取或者以其他非法方式获取个人信息，不得非法出售或者非法向他人提供个人信息。

【第四十五条】依法负有网络安全监督管理职责的部门及其工作人员，必须对在履行职责中知悉的个人信息、隐私和商业秘密严格保密，不得泄露、出售或者非法向他人提供。

经过多年的研讨，2020年3月6日，国家标准化管理委员会发布《信息安全技术——个人信息安全规范》国家标准，并于2020年10月1日开始实施^[47]。“本标准规定了开展收集、存储、使用、共享、转让、公开披露、删除等个人信息处理活动应遵循的原则和安全要求。本标准适用于规范各类组织的个人信息处理活动，也适用于主管监管部门、第三方评估机构等组织对个人信息处理活动进行监督、管理和评估。”

《个人信息安全规范》定义“个人信息”(personalinformation)为“以电子或者其他方式记录的能够单独或者与其他信息结合识别特定自然人身份或者反映特定自然人活动情况的各种信息”。其中，个人信息包括：

口 姓名、出生日期、身份证件号码、个人生物识别信息、住址、通信通讯联系方式、通信记录和内容、账号密码、财产信息、征信信息、行踪轨迹、住宿信息、健康生理信息、交易信息等。

个人信息控制者通过个人信息或其他信息加工处理后形成的信息，例如，用户画像或特征标签，

能够单独或者与其他信息结合识别特定自然人身份或者反映特定自然人活动情况的，属于个人信息。

表7.1 《个人信息安全规范》对个人信息的举例

特别地，《个人信息安全规范》明确了何为“个人敏感信息”，即“一旦泄露、非法提供或滥用可能危害人身和财产安全，极易导致个人名誉、身心健康受到损害或歧视性待遇等的个人信息”。例如：

口 身份证件号码、个人生物识别信息、银行账户、通信记录和内容、财产信息、征信信息、行踪轨迹、住宿信息、健康生理信息、交易信息、14岁以下（含）儿童的个人信息等。

口 个人信息控制者通过个人信息或其他信息加工处理后形成的信息，如一旦泄露、非法提供或滥用可能危害人身和财产安全，极易导致个人名誉、身心健康受到损害或歧视性待遇等的，属于个人敏感信息。

表7.2 《个人信息安全规范》对个人敏感信息的举例

该规范详细地阐明了：①个人信息安全基本原则；②个人信息的收集；③个人信息的存储；④个人信息的使用；⑤个人信息主体的权利；⑥个人信息的委托处理、共享、转让、公开披露；⑦个人信息安全事件处置；⑧组织的个人信息安全管理要求。其中，“个人信息控制者开展个人信息处理活动应遵循合法、正当、必要的原则”，与《通用数据保护条例》的原则是一致的，具体包括:

a）权责一致——采取技术和其他必要的措施保障个人信息的安全，对其个人信息处理活动对个人信息主体合法权益造成的损害承担责任;

b）目的明确——具有明确、清晰、具体的个人信息处理目的;

c）选择同意——向个人信息主体明示个人信息处理目的、方式、范围等规则，征求其授权同意;

d）最小必要——只处理满足个人信息主体授权同意的目的所需的最少个人信息类型和数量。目的达成后，应及时删除个人信息;

e）公开透明——以明确、易懂和合理的方式公开处理个人信息的范围、目的、规则等，并接受外部监督;

f）确保安全——具备与所面临的安全风险相匹配的安全能力，并采取足够的管理措施和技术手段，保护个人信息的保密性、完整性、可用性;

g）主体参与——向个人信息主体提供能够查询、更正、删除其个人信息，以及撤回授权同意、注销账户、投诉等方法。

目前，还没有对人工智能的立法。但随着AI服务产品的增多，立法的诉求也会随之变强。例如，自动驾驶汽车、聊天机器人、智能助理等涉及生命、生理心理健康、财产等重要方面的AI服务，要遵循怎样的原则？对于无自我意识的民用AI来说，至少应该涵盖以下几点。

诚实性：AI产品可以模仿但不得冒充人类，必须知会用户它是机器。例如，智能客服、棋类游戏等。

无害性：对使用该AI产品的人类不会造成任何身体上的、精神上的伤害。

口 透明性：所用的AI技术是可解释的，在产品规格中对可能失效的根因及其发生的条件予以说明。

伦理性：AI产品达到国家制定的AI伦理标准，与人类社会保持一致。

守法性：符合已有的个人隐私保护、产品质量等法律法规。

可验性：对产品宣传的各项功能，有真实而完整的测试、评估结果，产品说明不得误导使用者。

人工智能技术中的核心算法是最有含金量的部分，作为一类特殊商品，如何给它定价？如何保证交易顺利进行？法律对基于零知识证明、区块链记账等新技术提供的证据如何采信？有太多的AI伦理问题值得研究，需要法律专家、社会学家、人工智能科学家的深度合作，才能构建出合理可行的规范体系。

《新一代人工智能发展规划》对人工智能安全监管和评估体系的建议是“加强人工智能对国家安全和保密领域影响的研究与评估，完善人、技、物、管配套的安全防护体系，构建人工智能安全监测预警机制。加强对人工智能技术发展的预测、研判和跟踪研究，坚持问题导向，准确把握技术和产业发展趋势。增强风险意识，重视风险评估和防控，强化前瞻预防和约束引导，近期重点关注对就业的影响，远期重点考虑对社会伦理的影响，确保把人工智能发展规制在安全可控范围内。建立健全公开透明的人工智能监管体系，实行设计问责和应用监督并重的双层监管结构，实现对人工智能算法设计、产品开发和成果应用等的全流程监管。促进人工智能行业和企业自律，切实加强管理，加大对数据滥用、侵犯个人隐私、违背道德伦理等行为的惩戒力度。加强人工智能网络安全技术研发，强化人工智能产品和系统网络安全防护”。

7.2.1 保护与约束

人工智能伦理仍不完善，两种极端的做法都不足取：一是忽视它；二是因噎废食，以伦理为由阻碍AI的发展。前者这些年有所改善，后者有恶化的趋势。一些人打着伦理的旗号，反对发展人工智能技术，为了所谓的“政治正确”。一些明显的事实不能公开说，埋在心底让它加剧社会意识形态的分裂。例如，在美国按种族统计的犯罪率是一个不能公开讨论的话题，尽管它有深刻的社会背景。讳疾忌医，只能让问题变得更严重。