跳转到主要内容

这里什么算作一种语言？

执行摘要。 Arena 按 ISO 639-3 编目语言，对单个语言进行基准测试（而非宏语言总称），将手语作为自然语言纳入，包括 ISO 认可的人工语言，排除编程语言，并在分类争议中保持中立。本页解释了每项选择及其对排行榜的含义。

任何在数千种语言间进行翻译基准测试的项目都必须回答一个古老且出人意料地困难的问题：什么算作一种语言？语言学家早已知道，"语言"和"方言"之间的界限在社会和政治上的意义与结构意义一样大——著名的说法是*"语言是有陆军和海军的方言"*，这句话由意第绪语言学家 Max Weinreich 在 1945 年推广（他将其归功于他一次讲座的听众）。我们无法回避这个问题，所以这是我们的答案和推理。

手语是语言。就这么简单。​

手语是自然语言——具有完整的语法、儿童的本族语习得，以及活跃的语言社区。自 William Stokoe 在 1960 年证明美国手语具有与口语相同的内部结构以来，这在语言学中已成定论，此后六十年的研究（Klima & Bellugi 1979; Sandler & Lillo-Martin 2006）只是进一步深化了这一点。ISO 639-3 为手语分配单独的语言代码；Glottolog 将其与口语族系一起编目。我们的编目包括 160 多种手语，标记为 modality: signed。

其中一些是濒危的土著语言：平原印第安手语（psd）在历史上是北美主要的族际通用语，如今处于极度濒危状态（Davis 2010, Hand Talk）。手语濒危就是土著语言濒危，这在本项目的使命范围内。

诚实的范围说明。 Arena 目前对基于文本的机器翻译进行基准测试。手语 MT——处理视频、空间语法以及没有广泛采用的书写形式的语言——是一个不同且在很大程度上未解决的技术问题（见 Yin et al. 2021, "Including Signed Languages in Natural Language Processing," ACL）。我们尚未提供此服务。我们编目中的手语条目明确说明了这一点：尚未提供服务——绝不是"不是语言"。

有两种模态。书写不是其中之一。​

语言有两种主要模态：口语和手语。书写不是第三种模态——它是叠加在语言之上的技术，世界上大多数语言都没有标准化的书写形式。这就是为什么我们的语言卡片单独追踪书写（一种语言使用哪些文字，或者它是否没有标准化的正字法），并诚实地追踪它：对于基于文本的 MT 平台，一种语言是否有书写形式是关键信息，而不是脚注——无书写形式的语言并不是较低级的语言。

人工语言：包括。编程语言：排除。​

我们遵循 ISO 639-3 自己的界线。该标准仅在人工语言是完整语言、为人类交流而设计、具有文学和已将其传递给第二代使用者的社区时才承认它——并明确排除计算机编程语言。世界语有其本族使用者，符合条件；Python 不符合，因为没有人从父母那里将 Python 作为第一语言习得。我们的编目包括 ISO 认可的二十多种人工语言，标记为此类，不包括任何编程语言。

我们对单个语言进行基准测试，而非总称​

ISO 639-3 区分单个语言和宏语言——总称代码，如 cre（克里语）、ara（阿拉伯语）或 zho（汉语），涵盖几种密切相关的单个语言。Arena 的基准测试单位是单个语言，原因是操作性的：翻译资源是特定于语言变体的。为平原克里语（crk）构建的形态分析器不会生成穆斯克里语（crm）；埃及阿拉伯语语料库对方法在摩洛哥阿拉伯语中的质量几乎没有说明。附加到总称代码的分数将是对从未实际评估的语言变体的声称——所以我们不这样做。

宏语言仍然作为中心页面出现在编目中：导航将总称身份链接到其单个成员，反映 ISO 自己的观察，即两个身份级别都是真实的。在单个语言下方，我们显示来自 Glottolog 的语言树的方言和谱系信息（Hammarström & Forkel 2022），该树将族系、语言和方言建模为一个可导航的层次结构。

当权威机构意见不一致时，我们展示两者​

ISO 639-3 和 Glottolog 有时会以不同的方式分割或合并，社区有时与两者都不同意。我们不进行仲裁。语言卡片带有分类说明功能，显示带有来源的分歧，命名遵循社区在社区表达偏好的任何地方。一个语言变体是否"是一种语言"最终在一定程度上是身份问题——身份问题属于社区本身，这是我们从 OCAP® 等土著数据治理框架采纳的原则。

研究方向：基准测试作为测量工具​

像这样的 arena 产生的东西，几乎是作为副产品，是关于语言变体在操作上实际有多接近的一种新型证据。如果单一翻译方法保持固定，为几个相关变体提供可部署质量的服务，这些变体在实践中聚集；如果它们需要单独的语料库和单独的方法，它们在操作上是不同的——无论命名政治如何。这类似于较早的经验传统，从录制文本的可理解性测试到自动词汇距离测量，具有部署基础的转折。

我们谨慎地提供这一点，作为研究方向而非声称。方法转移结果受语料库大小、领域、正字法和训练数据污染的混淆，聚集总是相对于方法和质量阈值的。最重要的是：这个信号可以为关于语言和方言的对话提供信息，但它永远不会覆盖社区如何识别自己的语言。

参考文献​

  • Davis, Jeffrey E. (2010). Hand Talk: Sign Language among American Indian Nations. Cambridge University Press.
  • Dryer, Matthew S. & Martin Haspelmath, eds. (2013). The World Atlas of Language Structures Online. https://wals.info
  • Hammarström, Harald & Robert Forkel (2022). "Glottocodes: Identifiers Linking Families, Languages and Dialects to Comprehensive Reference Information." Semantic Web 13(6).
  • Haugen, Einar (1966). "Dialect, Language, Nation." American Anthropologist 68(4).
  • ISO 639-3 Registration Authority. "Scope of denotation" and "Types of individual languages." https://iso639-3.sil.org/about/scope · https://iso639-3.sil.org/about/types
  • Klima, Edward S. & Ursula Bellugi (1979). The Signs of Language. Harvard University Press.
  • Sandler, Wendy & Diane Lillo-Martin (2006). Sign Language and Linguistic Universals. Cambridge University Press.
  • Stokoe, William C. (1960). Sign Language Structure. Studies in Linguistics, Occasional Papers 8.
  • Weinreich, Max (1945). "Der YIVO un di problemen fun undzer tsayt." YIVO Bleter 25(1).
  • Yin, Kayo, Amit Moryossef, Julie Hochgesang, Yoav Goldberg & Malihe Alikhani (2021). "Including Signed Languages in Natural Language Processing." Proc. ACL-IJCNLP 2021. https://aclanthology.org/2021.acl-long.570/
  • First Nations Information Governance Centre. The First Nations Principles of OCAP®. https://fnigc.ca/ocap-training/