这意味着，未来随着以机器学习为代表的人工智能技术的不断迭代，机器肯定会变得越来越善于解决一个又一个问题，不过，无论人工智能的技术和理论方法如何改进，只要没有改变当前人工智能的目标和方向，只要还没有触及“人工意识”这类强人工智能的高级阶段，哪怕机器再擅长解决问题，也只有人类才会提出问题，这决定了人机共生关系中，人类始终是主导，机器始终是助手，是辅助的工具。
这样的解释也许仍然不能平复人类心中的担忧，不断进化发展的人工智能，真的会心甘情愿地一直充当辅助工具的角色吗？不止科幻小说作者，连霍金这样的科学家都警示过这种风险。其实，如果机器确实意识到了自己是“辅助工具”，会有“是否心甘情愿”的心理活动，那说明机器已经产生了自己的思想，这样的机器已经可以作为一种全新的物种来看待，即使它还未曾反对人类，威胁也已切实发生了。但是机器产生心智意识这件事情会因为我们现在的人工智能研究而出现吗？笔者认为不会，我们虽然不知道心智意识是如何产生的，却可以相当肯定地说，弱人工智能无论如何发展，都很难产生心智意识。
弱人工智能和强人工智能的名字虽然接近，但两者的理论方法并没有什么顺承关系，弱人工智能不是通往强人工智能的前期基础，甚至两者可能毫无共通之处。因此，即使弱人工智能的技术理论发展的时间再长，也不会对强人工智能的实现有多少实质性的促进，相比弱人工智能的进步，反而是脑科学、神经生理学、认知科学等的发展更容易触及心灵和意识的奥秘。机器学习中的“没有免费的午餐定理”也从侧面强调着“智能必须有专长”这项约束。正因如此，笔者与别人谈起人工智能时，从来不会主动讨论“人工智能继续发展，未来是不是有可能毁灭人类？”之类的问题，而会跟对方说，在恐惧、害怕未来的人工智能会不会具备跟人类一样的目标和价值观之前，应该先想明白人工智能发展下去，怎样才会出现“价值观”的概念。
386
第四部分 人机共生
○一 在加州大学圣迭戈分校发表的论文“ Does GPT-4 pass the Turing test”中，GPT-4 取得了迄今为止所有智能模型最高的置信度（41%），但距离通过图灵测试依然遥远。