研究以正字法类型约束分词过程,避免主流分词器生成不合法的婆罗米文字组合。
推荐理由:论文把婆罗米系文字的正字约束形式化为类型系统,直接阻止不合法字符组合;这比扩大词表更治本,也揭示英文导向分词器在多语模型中的结构性缺陷。
阅读原文