{"resolved":true,"match_type":"uuid","source_type":"original_book","book_id":"cf76bc49-7e9b-4f42-bee8-3050a9fb9feb","title":"智慧的疆界 从图灵机到人工智能","author":null,"edition":null,"publisher":null,"year":null,"isbn":"9787111778004","requested_by":"printed_page","book":{"source_type":"original_book","book_id":"cf76bc49-7e9b-4f42-bee8-3050a9fb9feb","id":"cf76bc49-7e9b-4f42-bee8-3050a9fb9feb","uuid":"cf76bc49-7e9b-4f42-bee8-3050a9fb9feb","title":"智慧的疆界 从图灵机到人工智能","normalized_title":"智慧的疆界从图灵机到人工智能","author":null,"edition":null,"publisher":null,"year":null,"isbn":"9787111778004","isbns":["9787111778004","9787111695714"],"parsed":true,"ai_readable":true,"document_type":"book","page_count":456,"navigation_url":"https://workshop.closeclaw.top/ai/book/cf76bc49-7e9b-4f42-bee8-3050a9fb9feb","title_url":"https://workshop.closeclaw.top/ai/title/%E6%99%BA%E6%85%A7%E7%9A%84%E7%96%86%E7%95%8C%20%E4%BB%8E%E5%9B%BE%E7%81%B5%E6%9C%BA%E5%88%B0%E4%BA%BA%E5%B7%A5%E6%99%BA%E8%83%BD","fixed_page_url_template":"https://workshop.closeclaw.top/ai/book/cf76bc49-7e9b-4f42-bee8-3050a9fb9feb/page/{printed_page}","path_api_url_template":"https://workshop.closeclaw.top/api/ai/book/cf76bc49-7e9b-4f42-bee8-3050a9fb9feb/page/{printed_page}","read_url":"https://workshop.closeclaw.top/api/ai/read/cf76bc49-7e9b-4f42-bee8-3050a9fb9feb","page_url":"https://workshop.closeclaw.top/api/ai/books/cf76bc49-7e9b-4f42-bee8-3050a9fb9feb/page","search_url":"https://workshop.closeclaw.top/api/ai/books/cf76bc49-7e9b-4f42-bee8-3050a9fb9feb/search"},"page":{"printed_page":364,"pdf_page":379,"physical_index":379,"physical_index_base":0,"printed_page_status":"recognized","page_sha256":"73a9eeec772d48f0d75e99f02b7563d997fa03fafde39ef415ba455bd8704cee"},"chapter":"内容简介","content":"SQuAD 在 2016 年发布之后，很快便成长为行业内公认的机器阅读理解领域的权威赛事，吸引了包括谷歌、卡内基梅隆大学、斯坦福大学、微软亚洲研究院、艾伦研究院、IBM、Meta 等知名企业的研究机构和高校的深度参与，当然也包括后来的 ChatGPT。测试结果<sup>○一</sup>可能出乎不少读者的预料，ChatGPT（使用 GPT-3.5-Turbo 作为基础模型）并不是阅读理解成绩最好的人工智能产品，它不仅比不上人类，连与 LUKE、XLNet 和 SpanBERT 等模型相比也有较大的差距。\n\n导致成绩不佳的原因很快就被定位，即 SQuAD 2.0 添加了 5 万个无法回答的问题，而 ChatGPT 依然对这些问题胡编乱造地虚构出了答案，这种模型自顾自地“胡说八道”的现象在 NLP 任务中被称为“幻觉”（Hallucination）。典型的幻觉有：\n\n● 事实性错误：模型可能会编造或错误地陈述事实。譬如，模型可能会错误地给出一个不存在的日期、事件或人物信息。\n\n● 虚构的引用或参考：模型可能会生成不存在的书籍、文章、作者或研究结果，甚至提供虚假的参考文献或数据来源。\n\n● 错误的推理：模型可能会进行不合逻辑或错误的推理，导致结果不准确。\n\n● 技术性误导：譬如在技术或科学话题上，模型可能会生成不符合科学原理或技术规范的解释或描述。\n\n尽管幻觉内容看起来合乎逻辑或具有说服力，但其实“一本正经地胡说八道”反而更加危险，尤其在涉及高度专业化、法律、医疗等敏感领域时，可能由于模型的错误回答而导致严重事故。如果读者也经常使用 ChatGPT 处理信息的话，相信肯定已经注意到在输入框下面标注了一句专门的提示：“ChatGPT\n\n364\n\n第四部分 人机共生\n\n○一 结果引自论文“ Evaluating ChatGPT as a Question Answering System ”， 地 址 为 https://arxiv.org/pdf/2312.07592。","previous_page":363,"next_page":365}