社交媒体来了解新的类比和概念。
斯坦福大学自然语言处理小组（Stanford Natural Language ProcessingGroup）的杰弗里·彭宁顿（Jeffrey Pennington）和他的同事们发现了一种训练算法从网页中学习类比的绝妙方法。他们的算法被称为GloVe(global vectors for word representation)，即全面词向量表示，这种算法通过阅读大量文本来学习。在2014年的一篇文章中，杰弗里指出他和同事训练GloVe学习了整套维基百科（Wikipedia）上的所有内容，当时维基百科共有16亿个单词和符号。此外他们还训练GloVe学习了第五版的Gigaword数据集，这一数据集包含了43亿个从世界各地的新闻网站上下载的单词和符号。这两者加起来相当于大约1万本詹姆斯国王钦定版《圣经》的文本。
斯坦福大学研究人员的方法的基础是，找出句子中一对词与第三个词一起出现在句子中的频率。例如，“唐纳德·特朗普”和“安格拉·默克尔”这两个词都出现在新闻报道中，并且与“政治”“总统”或“总理”“决策”“领袖”等词一起出现。对我们来说，这些词定义了一个概念，即一个强有力的政治家的概念。GloVe算法使用这些共同出现的词来构造高维空间，每个维度对应一个概念。
GloVe采用的方法类似于我们在第三章中看到的主成分分析所用的旋转。GloVe对数据进行拉伸、压缩和旋转，直到找到描述维基百科和Gigaword中所有40万个不同单词和符号所需的尽可能少的不同概念。最终，每一个单词都被表示为一个在100～200维空间中的点：有些维度与权力和政治有关，有些与地点和人有关，有些与性别和年龄有关，有些与智力和能力有关，有些与行动和后果有关。
特朗普和默克尔的点在很多维度中都非常靠近彼此，但也有一些维度的情况例外。例如，包含“唐纳德·特朗普”的句子通常包含“美国”但很少包含“德国”。对默克尔来说，情况正好相反，她的名字经常出现在含有“德国”的文本中，但很少出现在含有“美国”的文本中。随着算法逐渐建立起它的单词维度，它还发现包含“美国”或“德国”的句子也包含许多其他共同的单词（例如：“国家”“国民”“世界”)，并因此在大多数维度中将这些词放在彼此距离很近的位置。为了正确地描绘特朗普和默克尔，GloVe算法在国家维度中将他们置于相隔较远的点上，而在政治领袖维度中将他们置于相隔较近的点上。
被算法操控的生活OUTNUMBERED
174