LREC 2026
AI 会用敬语,就一定会写得体的邮件吗?
从给教授和朋友写邮件的区别出发,看看 JaSocial 怎样评价语言模型的社交表达。
Muxuan Liu · 阅读时间约 5 分钟
先看一个日常例子
同样是取消一次约定,给教授写邮件和给朋友发消息,语气通常不一样。给教授需要说明情况、表达歉意;给朋友如果写得像正式公函,虽然语法没错,却可能显得生疏。这里的例子是帮助理解研究问题,并不是论文中的逐字实验材料。
这篇论文关心的正是这种差别:AI 能否根据“我是谁、对方是谁、我们是什么关系”,选择合适的表达?我们把日语邮件中的敬语作为一个观察窗口。
为什么不能只数敬语
敬语多,并不等于表达更合适。如果评价只奖励礼貌词,模型可能学会对所有人都非常正式,却没有真正适应场景。
JaSocial 把一封邮件分成三个层次来看:第一层是双方的身份和关系;第二层是这封邮件要做什么,比如请求、说明或感谢;第三层才是具体用了什么敬语形式。这样可以检查“关系—目的—措辞”是否互相配合。
我们怎样做实验
研究以 1,200 封日语邮件为基础,覆盖六种关系,每种 200 封,包括学生对教授、学生对朋友、员工对上司和员工对同事等。研究团队为邮件标注上述信息,并训练日语 BERT 分类器来自动识别。
在生成实验中,16 个语言模型分别为 30 个场景写邮件,共得到 480 份输出。每个场景有五份人类参考邮件。评价时先把生成邮件和参考邮件转成标签特征,再比较它们的相似程度。分数反映与参考表达的接近程度,不是“这封邮件有多少概率正确”。
发现:对朋友说话反而更难
许多模型在正式的上下级场景中表现较好,但写给朋友时容易过度正式。论文中,向教授感谢论文指导的场景平均得分约为 0.907;取消与朋友的学习约定并道歉的场景约为 0.660。两者来自不同场景,用来展示整体趋势,不能当作只改变收件人后的严格对照实验。
这说明模型会生成敬语,并不代表它能灵活调整距离感。评价 AI 写作时,除了语言是否流畅,还要看它是否理解了交往关系。论文报告的是实验所用版本的表现,并非对今天所有模型的排名。
这个方法能帮我们什么
把评分拆开后,我们可以进一步定位问题:模型是弄错了人物关系,遗漏了请求或感谢的意图,还是选错了敬语?这比只给一个总分更便于改进邮件生成系统。
它仍有边界:研究集中于日语邮件,场景数量有限,自动标签也可能出错。与参考邮件相似不等于在所有真实情境里都合适,更不能据此判断一个模型拥有全面的“社会智能”。
代码与阅读入口
JaSocial 的 GitHub 提供评价流程和示例,模型权重另行下载。仓库目前提供部分示例邮件;完整数据的获取方式以 README 说明为准。2025 年的论文提出了框架,这篇 2026 年论文进一步给出了实现与多模型实验。
论文与代码
Evaluating Social Intelligence in LLMs via Japanese Honorifics in Email Generation: A Social Semiotic System Perspective · LREC 2026 · 2026