--- schema_version: "library-reader-v1" source_type: "original_book" title: "人工智能时代：破解人机共存密码（套装共10册）" author: null edition: null publisher: null year: null isbn: "9787521719512" library_document_id: "396e1bee-219e-4bee-9884-3214c17ff8f5" source_sha256: "e5d429a1fedfac2a13b0bd25057c39d818c33927767948a9bb41411f01413ced" pdf_physical_page_count: 3314 pdf_physical_page_index_base: 0 range_start: 690 range_count: 10 html_url: "https://workshop.closeclaw.top/api/ai/read/396e1bee-219e-4bee-9884-3214c17ff8f5?start=690&limit=10" markdown_url: "https://workshop.closeclaw.top/api/ai/read/396e1bee-219e-4bee-9884-3214c17ff8f5.md?start=690&limit=10" previous_url: "https://workshop.closeclaw.top/api/ai/read/396e1bee-219e-4bee-9884-3214c17ff8f5.md?start=680&limit=10" next_url: "https://workshop.closeclaw.top/api/ai/read/396e1bee-219e-4bee-9884-3214c17ff8f5.md?start=700&limit=10" --- # 人工智能时代：破解人机共存密码（套装共10册） > 页码规则：PDF_PHYSICAL_PAGE_INDEX 是从 0 开始的权威文件物理页索引；PRINTED_PAGE 是页面中识别出的印刷页码，可能为空，二者不得混用。 ## PDF_PHYSICAL_PAGE_INDEX=690 | PRINTED_PAGE=NOT_DETECTED 在了解了XAI的基本原则后，具体该如何操作呢？XAI是如何对人工智能模型进行解释的呢？其实XAI解释人工智能模型的方法有很多，比如说，在模型建立前对数据进行解读。我们都知道人工智能模型建立在大量历史数据的基础上，所以理解数据对于人工智能模型的可解释性具有重大意义。对数据的理解可以通过一些数据预处理和数据可视化的方法来实现，对其进行解读的关键在于全面地展示数据分布的特点。这一方法可以使建模过程中可能面临的问题都充分地暴露出来，从而帮助我们选择一种最合理的模型来获得可能达到的最优解。再比如，建立本身就可以被解释的人工智能模型。不同的人工智能模型的可解释性是不一样的。在实践中，如果我们选择本身就易解释的人工智能模型，就从根本上解决了问题。常见易解释的人工智能模型有决策树模型、线性分类模型和线性回归模型等。 针对比较复杂的人工智能模型，我们以卷积神经网络为例来具体来说明XAI是如何对深度学习模型进行解释的。曾有研究者利用反卷积的相关思想，实现特征可视化，来帮助我们理解卷积神经网络的每一层究竟学到了什么东西。我们已经知道卷积神经网络的识别过程是由卷积、池化等步骤组成的，而如果想要深入了解一个卷积神经网络的逻辑，我们就需要经过反池化、反卷积这样的逆过程。通过这样的逆过程，我们就可以比较清晰地了解到卷积神经网络是如何进行分类和识别的，也就可以实现人工智能模型的合理性、可追踪性和可理解性。 XAI除了可以解决模型的可解释问题之外，还具有更深层的裨益，例如：一方面，因为XAI提供的解释有助于找到数据和特征分析中的问题，所以XAI能够帮助改善人工智能模型的性能。当人工智能模型的判断逻辑易于解释时，我们就能够发现整个过程中的缺失，从而找到改良它的方法。 ## PDF_PHYSICAL_PAGE_INDEX=691 | PRINTED_PAGE=NOT_DETECTED 另一方面，XAI可以帮助人们确认人工智能判断的合理性，从而更快地部署基于人工智能的方案。决策不光是人工智能的核心，也是人类活动的关键，在进行重大决策的时候，我们既需要确保所做的决策是合情合理的，又需要知道它背后的理由，才能评估它是否值得参考。XAI对于模型的解释提高了人们对人工智能的信心，帮助他们更加明智地决策以及果断地行动。 虽然人工智能模型面临的挑战很多，但所幸最终都有了相对应的解决方案。这其中包括：对于如何在不进行成本巨大的数据标注工作的情况下，还能实现深度学习的问题，我们可以通过生成性对抗网络进行自主学习来解决；针对如何能够把数据和知识有效地结合起来的问题，我们可以通过构建知识图谱来解决；关于如何更好地解释人工智能模型的问题，我们讨论了可解释的人工智能。 无论是哪个挑战，业内都已经有了相关的研究结果，并且实证有效。但这些挑战都值得更进一步地进行研究，找到更好的解决方式，最终使人工智能可以更好地为人所用。而且随着人工智能更长远的发展以及它的深度运用，以后还会有更多复杂的问题出现，就像长夜漫漫，凛冬将至，高峰之下必有低谷。但是我们知道，冬天到了，春天也就不再遥远，人工智能也在不断的挑战中日趋完善。 AI的伦理和法律挑战 虽然人工智能还处在发展的初期，但它已经展现出了巨大的颠覆力，不仅在一定程度上方便了我们的日常生活，也对传统行业模式产生了一定的改变，促进了智能化经济的发展，社会正经历着从“互联网+ ”到“人工智能+ ”的转变。在我们享受人工智能红利的同时，也会感受到技术带来的危险，包括隐私和数据泄露的问题、机器与人的关系问题等，就像狄更斯所言：“这是最好的时代，也是最坏的时代。”随着人工智能的进一步普及，它所带来的伦理和法律问题也将越来越突出。积极关注并回应人工智能带来的伦理和法律挑战，能够促进民生福祉改善，推进行业健康发展，在新一轮技术革命中掌握主动权。 ## PDF_PHYSICAL_PAGE_INDEX=692 | PRINTED_PAGE=NOT_DETECTED AI的伦理挑战和应对 人工智能模拟的是人脑，但它又不同于人脑。人工智能在学习和决策的时候，虽然缺乏人脑的主动和细致，但也有其自身的优势，比如它可以在短时间内学习大量的数据，工作速度高于人类，长时间工作不知疲惫，并且可以做出最优决策等。人工智能促使社会发生着新的改变，形成新的行业和产业形态，也由此创造出巨大的经济价值和社会财富。人类在享受人工智能带来的便利的同时，也会产生担忧，一旦机器有了思维，那机器能够变成人吗？人类会被人工智能取代吗？我们在利用机器解放自身的同时，也会产生危机感，一方面我们要利用工具，另一方面我们又害怕被工具取代，丧失了人类对社会的控制。 控制论之父维纳在他的《人有人的用处》一书中曾做出了一个耸人听闻的结论：“这些机器的趋势是要在所有层面上取代人类，而非只是用机器能源和力量取代人类的能源和力量。很显然，这种新的取代将对我们的生活产生深远影响。”在AlphaGo打败围棋冠军李世石时，我们已经看到了人工智能的凌厉之处。当今很多电影大片和文学作品里面，也出现了机器人或者机器智能体超越人类的话题。关于机器人是否会背叛人类、人类是否会成为机器的仆人等话题的讨论此起彼伏，热度不减，甚至霍金都曾多次表达他对“人工智能可能导致人类毁灭”的担忧。硅谷“钢铁侠”埃隆·马斯克把车祸、飞机失事、毒品泛滥、食品问题和人工智能进行了对比，认为前四项东西至少没有对人类文明造成根本威胁，但是人工智能却从根本上威胁到了人类文明。 ## PDF_PHYSICAL_PAGE_INDEX=693 | PRINTED_PAGE=NOT_DETECTED 人类区别于其他动物最根本的属性在于长期进化而来的高级逻辑，人工智能与人类思维存在相似之处，人工智能的目的是让机器能够像人类一样思考，机器的自主性越来越强，所以人工智能的应用势必会带来伦理挑战。我们不禁要问，人工智能究竟能否产生自己的意识？人工智能真的会挑战人作为主体的根本地位吗？但从人工智能现在的发展情况来看，要对人工智能是否真的会导致人类毁灭这样的问题下结论还为时过早。当前我们所说的人工智能并不是我们脑海中的具有自由意志和行为能力的智能体，更多的是从数据中学习知识的工具，或者可以将人类从烦琐、枯燥、重复的工作中解放出来，或者可以将优秀的经验不受时空限制地应用。不过人工智能的出现确实带来了伦理方面的挑战。 人工智能伦理挑战中最主要的问题就是人工智能与人类的关系问题。这一伦理问题的根源还是在于人工智能和人类思维有相似之处，人工智能模拟了类似于人的神经元网络，可以像人脑一样进行学习，并做出思考。如果可以将人类接触的各种信息和经验转化成数字和符号，再加上强大的数据分析能力，那我们就可以完整地模拟出人脑的功能，机器与人类的差别就会越来越小。所以我们一直以来担心的机器人对人类的挑战，其实是人工智能对人类思维逻辑的挑战，也就是具有了思维的机器对人类主体地位的挑战。 2016年，欧盟委员会下的法律事务委员会就曾提交动议，要求赋予最先进的自动化机器人“电子人”的身份定位，除给予“特定的权利和义务”外，还建议对智能自动化机器人进行登记，以便为其注册进行纳税、缴费和领取养老金的账号。如果该项法律动议获得通过，无疑会动摇传统的法律体系，法律上主体和客体之间这种不可逾越的鸿沟现在正发生动摇。这在我们看来无疑是荒谬的，一个由人类制造出来的机器，竟然在法律上要享有和人类同等的权利。 ## PDF_PHYSICAL_PAGE_INDEX=694 | PRINTED_PAGE=NOT_DETECTED 在机器的身份定位发生动摇的同时，也出现过机器对人造成伤害的事件。比如说，20世纪80年代，日本就曾经发生过在作业现场工业机器将工人置入机器压死的事件。2007年，因为医疗外科手术机器人对病人造成烧伤、切割伤以及感染的事件频发，美国食品药品监督管理局收到超过200份投诉。那么这些事件，是机器人创造者的技术漏洞，还是机器人管理者的疏忽？机器人本身需要对侵害人的行为负责吗？再比如在最近讨论很热的无人驾驶问题中，“人工智能 + 无人驾驶”颠覆了以往的人车关系和车车关系，驾驶汽车的不再是人，而是智能驾驶系统，那么在出现交通事故时，该如何判断机器系统是主观上的“故意”还是“过失”呢？可以让智能驾驶系统承担交通事故中的民事赔偿责任吗？ 智能机器人的本质是机器，但它也有人的属性。虽然在目前技术的发展水平下，人工智能代替人类听起来像是天方夜谭，并且人工智能本身的发展距离人类智慧也很遥远，但是未雨绸缪才能防患于未然，我们必须提前讨论人工智能的伦理问题。与此同时，人工智能相关法律的制定也需要考虑伦理的范畴，对人工智能的伦理的研究也早于法律规定。 随着对于人工智能伦理问题探讨的深入，越来越多的国家和地区开始重视对人工智能伦理的研究。例如，欧洲机器人研究网络（EURON）制定了《机器人伦理学路线图》，韩国工商能源部发布了《机器人伦理宪章》，日本组织专家团队起草了《下一代机器人安全问题指引方针》，美国国家科学基金会和美国航天局为对“机器人伦理学”进行研究设立了专项基金。此外，许多机构也在强化人工智能专家在人工智能伦理规范方面的责任，例如谷歌设立了“人工智能研究伦理委员会”。在我国，2017年7月，国务院发布了《新一代人工智能发展规划》，将发展人工智能确定为国家战略的同时，提出“制定促进人工智能发展的法律法规和伦理规范”，“加强人工智能相关法律、伦理和社会问题研究，建立保障人工智能健康发展的法律法规和伦理道德框架”。对人工智能伦理的讨论，不仅可以在一定程度上指导行业健康、可持续的发展，也可以在必要的时候，转化为法律规范，实现道德的法律化。 ## PDF_PHYSICAL_PAGE_INDEX=695 | PRINTED_PAGE=NOT_DETECTED 2017年1月，主题为“有益的人工智能”（Benefi cial AI）的会议在美国加利福尼亚州的阿西洛马召开。会议提出了“阿西洛马人工智能原则”，明确人工智能研究的目标不应该是建立无向的智能，而应该是创造有益的智能。并且该会议还呼吁，在发展人工智能的过程中全世界都应该严格遵守这些原则，共同保障人类未来的利益和安全。 2017年12月，电气和电子工程师学会（IEEE）发布《人工智能设计的伦理准则（第二版）》，进一步完善了人工智能伦理的内涵，包括一般原则、价值嵌入、研究和设计的伦理方法、通用人工智能（ AGI ， artifi cial general intelligence ） 和 超 级 人 工 智 能（ASI，artifi cial super intelligence）的安全、个人数据、自主武器、经济和人道主义问题、法律、情感计算、教育和知悉的政策、经典伦理问题、混合现实、福祉指标这13个方面。 微软在2018年出版了《未来计算》（The Future Computed）一书，其中提出了人工智能开发的六大原则：公平、可靠和安全、隐私和保障、包容、透明、责任。清华大学人工智能与安全项目组提出了六条准则：福祉原则、安全原则、共享原则、和平原则、法治原则、合作原则。这些准则之间有相似之处，对人工智能的伦理问题，可以说达成了基本的共识。 欧盟委员会指出，“可信赖的人工智能”应该有三个必不可少的要素：一是合法，应该遵守所有适用的法律法规；二是合乎伦理，应该尊重伦理和价值观；三是安全可靠，应该避免因技术不足而造成无意的伤害。欧盟人工智能伦理高级专家组提出了人工智能伦理准则，列出了“可信赖人工智能”应满足以下七个关键条件：人的能动性和监督机制、技术的可靠性和安全性、隐私和数据管理、透明度、包容性、社会和环境福祉、问责机制。国际计算机学会下属的美国公共政策委员会发布文件，提出了关于算法透明和可责性的七条原则：意识、获取和救济、责任制、解释、数据来源、可审查性、验证和测试。 ## PDF_PHYSICAL_PAGE_INDEX=696 | PRINTED_PAGE=NOT_DETECTED 2019年6月，国家新一代人工智能治理专业委员会发布了我国第一组人工智能治理原则《新一代人工智能治理原则―发展负责任的人工智能》，提出了人工智能治理的框架和行动指南。治理原则中重点强调了“发展负责任的人工智能”这一主题，提出了和谐友好、公平公正、包容共享、尊重隐私、安全可控、共担责任、开放协作、敏捷治理这八条原则。 应对人工智能对伦理的挑战，首先要树立的一个原则就是“以人为中心”，以人类的根本利益为中心，我们要解决的不是人工智能和人类平起平坐的甚至超越的问题，我们要解决的是如何利用人工智能来补充人类思维的问题。人类制造工具，而工具让我们走得更远，让人类从繁重的任务中解放出来。人工智能是需要以人的需求为出发点的，保障人类的利益发展和安全，兼顾技术和行业的发展，即人工智能是“为了人和人类的人工智能”，不应该是可以取代人或者对人有害的技术。 “以人为中心”这一原则可以通过“技术+责任”的路径来实现，在技术上不要一味地追求机器的自主性，而是在人工智能和人类思维之间实现对接，并将人类的价值观嵌入人工智能，通过技术标准、产品标准等指导技术在具体场景下的应用和发展，确保技术是安全的、透明的、可追溯的。在责任方面，要明确人工智能的责任主体，同时加强监督，并建立起可归责的责任体系。 腾讯董事会主席马化腾在2018年世界人工智能大会上提出，人工智能应该做到“四可”，即“可知”、“可控”、“可用”和“可靠 ” （ ARCC ： Available, Reliable, Comprehensible andControllable），他在2019年世界人工智能大会上再次重复了这一点。随着人工智能技术更加广泛深入的应用，人工智能伦理指导和人工智能治理也更加紧迫，这也需要多方面的协同配合，共同探索人工智能的发展方向，实现科技向善。 ## PDF_PHYSICAL_PAGE_INDEX=697 | PRINTED_PAGE=NOT_DETECTED AI应用中的个人信息保护 随着人工智能的发展，新的产业形态和商业模式不断涌现。智能革命使得新技术推动生产力快速发展，在技术上对数据的获取和运算更加方便，相应地，对法律领域也提出了新的挑战和要求，其中比较突出的问题就体现在个人信息保护方面。 过去，大数据的概念还没有建立，政府作为社会管理者收集公民个人信息的主要用途便是社会管理和社会服务。但随着大数据和智能时代的来临，越来越多的企业，特别是电商网站、品牌公司和广告公司等都建立起了自己的数据库，利用各种方式收集数据，再利用人工智能模型对数据进行分类和分析，进行智能营销。电商可以了解到我们的商品搜索记录和购买偏好，外卖订餐和出行叫车软件可以定位我们的所在位置和每天的生活轨迹。毫不夸张地说，我们整个人都暴露在了互联网之上。现在大型互联网公司的价值，除了在于其开发的产品和服务以外，也在于其掌握的大量数据。未来的竞争是人工智能的竞争，其根本还在于数据战，谁拥有了大量的数据，谁就在市场竞争中占据了主动。所以，越来越多的技术应用到了大数据的收集当中，那么个人信息安全问题也就引起了越来越多的关注。在个人和数据管理者的博弈之中，个人是处于劣势地位的，个人信息保护的问题也会愈演愈烈。 人工智能和数据是分不开的。在大数据的时代，可以说涉及人的数据是最多的，其中包括人本身的身份信息、特征信息和行为信息等。这些个人信息很多涉及人的隐私。个人信息这个词有时候也被叫作个人资料或者个人数据，在我国，目前对个人信息这个概念的内涵和外延并没有一致的解释，但从司法实践来看，对个人信息的认定采取的是紧缩的态度，也就是将能够确认人身份的信息判定是个人信息，比如姓名、身份证号和电话号码等，而像网站浏览记录等不能直接判断人身份的信息就不能被划在个人信息的范围之内。但是随着技术的发展，人们逐渐能够做到将个人在网络空间上各种零星细碎的信息拼凑出完整的、足以反映其人格的关键信息。所以，目前对个人信息的认定也出现了放宽的趋势，即将人的特征和行为等间接的个人数据也划在个人信息的范围之内。 ## PDF_PHYSICAL_PAGE_INDEX=698 | PRINTED_PAGE=NOT_DETECTED 人是商业活动的主体，涉及人的数据是可以进行经济价值转化的，这正是大数据革命的核心，并且也会推动人工智能的应用和发展。一方面，我们要保护个人信息，不能非法采集和使用，另一方面，我们也不能让个人数据与市场活动绝缘，人为地阻断数据的经济价值，这不利于市场经济和技术的发展。并且，个人信息和个人隐私具有不同的性质和功能。个人隐私的要义在于保密，即不暴露，若有侵害则事后救济。而个人信息其实是一些已经是公之于众的，并且具有一些权利和财产的属性的信息，其权利的重点在于控制与利用。所以在人工智能时代，如果将个人信息进行了合法、合理的采集和使用，可以做到个人和商业的双赢。对个人信息的保护不仅仅是对法律规则的挑战，也包含经济因素和社会利益的考量，是一个价值衡量的问题。 针对个人信息保护，目前世界上已经有超过100个国家或地区制定了专门的个人信息保护法，尤其是西方的发达国家。在美国，个人信息保护是在隐私保护的范畴内，以行业自律为主，通过行业分散的规范和事后救济来实现。欧盟则是通过立法，凭借法律的强制约束力对个人信息给予相应的保护，从互联网行业对个人信息的获取途径、方式、运用和目的等各方面进行规范。我国的个人信息保护还在起步阶段，各方多次呼吁要制定专门的个人信息保护法，确立个人信息权，但具体法律法规仍未出台。 ## PDF_PHYSICAL_PAGE_INDEX=699 | PRINTED_PAGE=NOT_DETECTED 目前我国对个人信息保护的法律规定并不完善。《民法通则》仅从原则上规定了要对公民的个人信息进行保护。2017年6月1日正式施行的我国首部网络安全的专门性立法《网络安全法》规定了网络运营商收集、使用公民个人信息的目的必须明确，而且应当获得个人信息主体的同意，也就是说目前我国对于个人信息采集的做法是“目的+知情”，收集公民个人信息的目的需要是合法、明确、正当且必要的，并且其目的必须在信息收集时已经明确，事后不能有冲突或者不兼容。个人信息收集的目的、方式和范围必须是透明的且需要征得信息提供者同意。信息收集者需要履行披露义务，收集后的信息在持有阶段必须确保信息的安全，对于个人信息的利用不得违反法律规定。《网络安全法》的重点不仅在于个人信息本身或者是对个人信息的保护，更多的是在于对个人信息的控制者和处理者的规制，包括个人信息的控制者和处理者对公民个人信息的收集、使用、加工和传输等行为。 但是，互联网对个人信息的收集、转化到使用等这些操作常常被用户所忽略。并且目前互联网对用户是普遍免费的，其赢利模式不是向用户收费，而是向第三方收费，也就是通过互联网广告赢利，例如世界最大的社交网站脸书，其收入的98%来自广告的精准投放。所以目前互联网的模式就是“免费+广告+增值”，其第一步就是扩大浏览并且获取个人信息。有些时候如果不注册、不提供个人信息，就无法享受服务，而我们也会以牺牲个人信息为代价，换取网络的服务和便利。所以互联网普遍免费的模式并不是真正的免费，而是以我们的个人信息为交换，供互联网服务商使用。并且，互联网模式对个人信息的保护并不充分，它往往虚化个人信息获取的同意规则，例如将同意规则掩埋在大量的信息中，或者默认选择同意等。2018年新年的支付宝年度账单事件就是一个典型案例。大家在晒支付宝账单和年度关键词的时候，不知不觉又签了一个“服务协议”——支付宝个人年度账单首页有一行特别小的字：“我同意《芝麻服务协议》”，且页面上已帮你选择好了“同意”，默认选项允许支付宝收集用户信息包括在第三方保存的信息。查看年度账单和《芝麻服务协议》没有关联性，即使选择取消同意，人们依然能够看到年度账单；但如果没注意到，默认同意了这个协议，就意味着允许支付宝收集个人信息。所以，在收集个人信息时，不仅应该要求经营者做到必要的明示提醒义务，而且对于用户而言，也应该审慎为之，不然稍不注意信息就会泄露。 下一段：[继续读取](https://workshop.closeclaw.top/api/ai/read/396e1bee-219e-4bee-9884-3214c17ff8f5.md?start=700&limit=10)