遇见数据集

hrwac

收藏
OpenCSG2024-07-19 更新2026-01-19 收录
官方服务:

资源简介:

HrWac语料库主要面向克罗地亚语,通过爬取.hr顶级域名构建,包含2011年和2014年的数据。该语料库规模较大,包含数十亿级别的token。数据经过段落级别的去重、变音符号恢复标准化、词性标注和词形还原等处理,并按段落打乱。每段包含URL、域名和语言识别(克罗地亚语vs.塞尔维亚语)等元数据,主要用于文本生成和Masked Language Modeling等任务,并采用CC-BY-SA 3.0协议授权。

提供机构:
AIWizards
创建时间:
2024-07-19
二维码
社区交流群
二维码
科研交流群
商业服务