ISCAS机器翻译和系统融合评测系统.

ISCAS机器翻译和系统融合评测系统张大鲲孙乐中国科学院软件研究所[e-mail]2大纲汉英新闻领域翻译评测–概述–系统流程–预处理和后处理–测试结果系统融合评测3概述训练语料受限的汉英机器翻译基于短语的统计机器翻译系统–4元语言模型–3元大小写敏感语言模型进行大小写还原–利用规则对数字进行处理4系统流程全部小写化GIZA++双向词对齐短语抽取5个概率4元语言模型3元大小写敏感语言模型数词翻译替换翻译输出数词识别与替换Beam搜索解码预处理后处理训练平行语料5特征短语翻译概率词汇化概率反向短语翻译概率反向词汇化概率短语惩罚概率（2.718）词语惩罚（目标语言句子长度）目标语言模型，4元)|(fep)|(felex)|(efp)|(eflex6预处理和后处理中文语料中的英文和英文语料全部小写中文全角字符转换为半角–ＡＢＣ１２３→ABC123StanfordChineseWordSegmenter分词数字单独处理7训练语料来源数据提供单位数据文件类型句对数目（约）厦门大学英汉电影字幕平行语料库厦门大学电影17万哈工大信息检索组英汉句子级对齐语料库哈工大检索综合10万ChineseLDC（资源编号：CLDC-LAC-2003-006）汉英/汉日双语语料库（汉英部分）北京大学综合20万哈工大机器翻译组英汉句子级对齐语料库哈工大机译综合5万ChineseLDC（资源编号：CLDC-LAC-2003-004）中英句子级对齐双语语料库计算所、自动化所综合30万合计82万短语数量：1600万8开发集调整参数参数WPPT-0.26590.04490.10090.03210.0433-0.2747参数DWLWMLLDMSTL0.09490.14337410020WP–词语惩罚PT–翻译模型概率（包括词汇化概率和短语惩罚）DW–调序的权重LW–语言模型权重ML–最大的短语长度LD–调序的限制范围MS–栈大小TL–允许的最多翻译候选项489句4个参考答案BLEU=0.10399测试结果IDBLEU4NIST5GTMmWERmPERICT受限语料ISCAS0.18386.81840.65960.78840.56760.2752最好结果0.22647.64260.71280.73070.51640.3352非受限语料最好结果0.28097.52350.72380.68240.50500.380510系统融合主要方法(Rostietal.2007)–句子级融合重评分，输出最好的句子–短语级融合构造新的短语表，计算概率，重新解码–词级融合词对齐，形成词图，最优路径11系统融合12重评分统计在候选翻译中出现的所有n-gram个数计算每个句子中命中的个数niSgramiiSgramcountwP1)(n=7iw权重，利用开发集训练13测试使用提供的10个单位提交的17个系统的翻译结果（没有使用系统U14的结果）IDBLEU4NIST5GTMmWERmPERICTISCAS0.25098.10130.71960.71540.50050.3336最好结果0.29447.75010.73190.67610.49720.392014总结汉英新闻领域翻译评测–训练语料受限–基于短语的翻译系统4元语言模型利用规则对数字进行处理系统融合评测–句子级的融合方法–利用n-gram进行重评分15谢谢!Thanks!