哈佛大学开源 AI 训练数据集“Institutional Books 1.0”,涵盖馆藏 98.3 万本图书

内容摘要IT之家 6 月 16 日消息,在微软与 OpenAI 的支持下,哈佛大学法学院图书馆于上周正式开源其首个 AI 训练用开放数据集“Institutional Books 1.0”。该数据集据称收录了哈佛大学馆藏中 98.3 万本图书,涵盖

IT之家 6 月 16 日消息,在微软与 OpenAI 的支持下,哈佛大学法学院图书馆于上周正式开源其首个 AI 训练用开放数据集“Institutional Books 1.0”。该数据集据称收录了哈佛大学馆藏中 98.3 万本图书,涵盖 245 种语言,共包含 2420 亿个 Token,IT之家附项目地址。

据介绍,相应数据集收录的书籍有 40% 为英语,书籍主要出版年代集中于 19 与 20 世纪,共计被划分为 20 项主题,除此之外,相应数据集还提供了每本书的完整元数据,涉及“作者、出版年份、语言、原始来源”等信息。

哈佛大学法学院图书馆表示,未来研究人员还将持续扩充数据内容,目前相应项目组成员已与波士顿公共图书馆展开合作,将把“数百万份”历史报纸以数字化形式添加至上述数据集中。

后续,哈佛大学法学院图书馆还计划开发一系列 AI 工具,以提升馆藏资料整理和开放的效率,推动“负责任的数据使用规范”。

 
举报 收藏 打赏 评论 0
24小时热闻
今日推荐
浙ICP备2021030705号-4

免责声明

本网站(以下简称“本站”)提供的内容来源于互联网收集或转载,仅供用户参考,不代表本站立场。本站不对内容的准确性、真实性或合法性承担责任。我们致力于保护知识产权,尊重所有合法权益,但由于互联网内容的开放性,本站无法核实所有资料,请用户自行判断其可靠性。

如您认为本站内容侵犯您的合法权益,请通过电子邮件与我们联系:675867094@qq.com。请提供相关证明材料,以便核实处理。收到投诉后,我们将尽快审查并在必要时采取适当措施(包括但不限于删除侵权内容)。本站内容均为互联网整理汇编,观点仅供参考,本站不承担任何责任。请谨慎决策,如发现涉嫌侵权或违法内容,请及时联系我们,核实后本站将立即处理。感谢您的理解与配合。

合作联系方式

如有合作或其他相关事宜,欢迎通过以下方式与我们联系: