维基百科发布结构化内容快照数据集,支持AI/ML建模

维基媒体基金会宣布在Kaggle平台推出英语和法语版本的JSON格式维基百科数据集,便于AI和机器学习应用,减少对主站的爬虫流量。

12效率工具维基百科数据集AI机器学习

维基百科数据集助力AI/ML研究

近日,维基媒体基金会旗下的Wikimedia Enterprise宣布在Kaggle平台上发布了维基百科结构化内容的测试版数据集,支持英语和法语。

该数据集以JSON格式呈现,旨在简化机器学习工作流程,并允许开发者直接使用这些数据集进行AI/ML建模、基准测试、对齐、微调和探索性分析。

维基百科现已提供 JSON 格式内容快照数据集:机器可读,减少主站爬虫流量插图

通过这种方式,开发者无需抓取和解析维基百科主站的原始内容,从而减少了对主站的爬虫流量,有助于维基百科的长期运营。

数据集特点

  • 支持英语和法语
  • JSON格式,便于机器读取
  • 适用于AI/ML建模和研究

下载地址