社交媒体机构提供的数据集
有时,运行用户感兴趣的大型在线社区的机构会通过大规模输出开放一些数据,任何人都可以使用这些数据。其中最常见的就是维基百科数据集,该数据集开放下载功能,任何人都可以获取1。维基百科偶尔会有小数据包开放,正如近来由维基媒体基金会主办的比赛,该基金会负责维基百科及其他以维基为基础的大众协作类网站。在这次比赛中2,参赛者使用一组共享数据包,来更好地预测哪些新编辑将会成为合格投稿者。这个问题对于维基百科非常重要,因为自2007年以来,新成员的贡献急剧下降(Suh et al.,2009)。
另一个向研究人员开放大量数据包的网站是开源软件托管网站Sourceforge。Sourceforge与美国圣母大学签订协议3],向各类研究人员提供匿名数据,而圣母大学则充当了居间服务方的角色(VanAntwerp and Madey,2008)。圣母大学团队已发表了多份基于此数据的报告(Gao et al.,2007;Gao and Madey,2007),报告分析了开源项目参与者被打散,彼此互不了解是如何组织起来以获取成功的。
就上述接收到的数据而言,规模如此之大,只有掌握了计算工具与方法的研究人员才能真正利用其优势。这就要求研究团队具备此能力,要么通过与数据科学家的协作,要么通过专门的训练来处理此类数据。同屏幕抓取到的数据一样,机构所提供的数据集通常就是“原本的样子”,这意味着并非研究人员感兴趣的所有变量都会包括在内。比如,在对Slashdot(Lampe,JohnstonandResnick,2007)的研究中,网站只捕捉到了用户每天的整体点击量,而研究者感兴趣的则是特定用户什么时候访问网站。要得到必要的日志信息,就必须与网站管理层进行协商,而这需要各方的额外努力。
242
第16章 在线社区分析中的行为踪迹数据
[1] dumps. wikimedia. org
[2]www.kaggle.com/c/wikichallenge
[3]www.nd.edu/\~oss/Data/data.html
365