人工智能应用中数据质量的重要性

由蓝色和紫色立方像素组成的抽象 3D 数字景观,呈现出复杂的图案。

人工智能 (AI) 正以十年前无法想象的速度推动着创新。AI 通过提高效率、促进数据驱动的决策制定以及增强安全性,触及了几乎所有的行业和企业。它也在彻底改变包括化学和生命科学在内的许多科学研究领域。AI 在这两个行业的进步带来了材料发现的新途径,加速了药物研发,并创建了预测模型,能够在您进入实验室之前运行数百万次实验。

随着 AI 影响着我们日常生活的方方面面,我们很容易忽略 AI 强大的原因以及该技术在何处受阻。一个关键因素是数据质量对于任何 AI 应用的重要性。

定义数据质量

数据质量对不同的人可能意味着不同的含义,但总体而言,它由四个主要因素组成:准确性、一致性、完整性和相关性。

  1. 准确性确保数据没有错误和偏差。‍
  2. 一致性意味着数据以统一的方式呈现。‍
  3. 完整性确保所有必要的数据都已齐备。‍
  4. 相关性验证数据是否适用于当前任务。

符合这些要素的数据集对于训练 AI 算法至关重要。然而,同样重要的是要考虑未能达到这些要求所带来的后果。

准确性

使用不准确的数据集训练模型会导致模型本身也不准确。数据集中较低的准确性会增加模型泛化能力差的可能性。如果模型泛化能力不佳,它在处理训练集之外的数据时表现就会很差。准确性差的最终结果是模型不可靠,从而导致部署后难以克服的信任和信心问题。

一致性

如果数据不一致,将新数据引入训练集就需要付出更多努力。识别缺失字段、单位变更、重复项以及其他类型的不一致性是一个耗时的过程。大多数数据科学家花费大量时间来提高数据集的一致性。如果能在数据流水线的早期阶段优先考虑数据一致性,这些时间本可以更好地用于 AI 算法的开发。

完整性

如果没有涵盖模型预期用途所需的所有相关信息的完整数据集,模型的理解就会出现偏差。这些偏差可能表现为模型中的偏见。有偏见的模型在遇到与训练集不相似的数据时,容易做出不恰当的预测。有偏见的模型会带来许多伦理和法律问题,因为它们可能会强化有害的刻板印象,或对模型用户产生负面的社会影响。

相关性

如果数据集与当前任务无关,训练一个有用的模型可能需要更多时间。在训练中使用无关数据会干扰模型,因为它会试图去解释那些对其最终决策没有影响的数据。如果模型由于这些无关数据而在训练阶段需要更多时间,那么您将不得不投入更多的时间、计算资源和资金来训练一个有用的模型。

CAS 以人为本,确保数据质量

数据质量问题无处不在,但 CAS 深知科学数据中这些因素的关键性并将其置于优先地位。化学和生命科学数据会因来源不同而呈现高度多样性。在化学领域,表示分子结构的方法多种多样,包括 MDL Molfile (MOL)、结构数据格式 (SDF)、简化分子线性输入规范 (SMILES) 和国际化学标识符 (InChI)。每种分子表示法各有利弊。CAS 依托相关技术将所有分子格式映射至 CAS REGISTRY®。当仅凭技术无法确定精确匹配时,我们会利用人工专业知识来识别正确的结构。正是通过这种人工标引,我们维护了一个高质量的化学结构和化学反应数据库,这些数据被广泛应用于 CAS 内部及合作伙伴的各类人工智能应用中。

同样,CAS 在近期向生命科学数据领域的拓展中也依赖于人工标引。CAS 的全球科学家和技术专家团队会对药理学、生物标志物和信号通路等生命科学数据进行审核。这一举措确保了我们数据的准确性和一致性,而这两者正是高质量数据集的核心要素。当我们的药理学数据集被用于训练一个预测分子对蛋白质靶点活性的现有模型时,与基准模型相比,实验值与预测值之间的差异降低了 56%,标准差降低了 23%。这一成果彰显了数据质量的重要性,而这种高品质贯穿于所有 CAS 数据集之中。

在 CAS,我们深信数据质量对于人工智能应用至关重要。通过人工参与,我们能够生成高精度且一致的数据集。在一百多年的发展历程中,我们积累了深厚的内容与知识管理专业经验。我们的科学家依托这些经验,能够判断数据集对于特定人工智能应用的完整性和相关性。利用这些专业知识,他们可以识别数据集中的完整性与相关性问题,并制定相应的解决方案。