DeepVariant是由Google研究团队开发的一种基因变异检测工具，主要用于检测基因组测序数据中的小变异。这种变异可能是单个碱基的替换（如A → T）、短片段的插入或删除，这些都可能影响蛋白质的结构或基因的表达。这些变异的准确识别在罕见疾病的诊断、癌症研究以及遗传病的研究中具有至关重要的作用。
DeepVariant最初是通过深度学习模型来模仿人类专家对基因变异的分析过程，结合了机器学习与生物信息学的技术，旨在自动化基因组变异的检测并提高准确率。其训练数据来自于国家标准与技术研究院（NIST）的六个细胞系，这些细胞系经过多种测序技术和手动审查，因此基因变异的信息是相对可信的。DeepVariant通过将基因组测序数据作为输入，输出可能的变异标签，类似于计算机视觉模型对图像分类的过程。
近日，Google研究团队发表文章Learning DeepVariant’s hidden powers，阐述针对DeepVariant的相关研究成果，揭示DeepVariant模型的内在工作机制，以了解它是如何在基因组变异检测中超过其他最先进工具的性能的。特别是，研究团队希望通过深度探究DeepVariant模型内部的特征嵌入，了解其在不同层次上捕捉的高维特征。这不仅有助于理解模型的决策过程，也可以帮助改进模型的性能，提供更多的解释性，以更好地理解为何某些变异被成功检测到，而另一些却没有。
一、方法和分析步骤
1. 特征嵌入的可视化
为了深入理解DeepVariant对输入数据的学习过程，研究人员使用了一系列的可视化和聚类方法。这些方法包括：
- UMAP（Uniform Manifold Approximation and Projection）：这是用于降维的一种非线性技术，用于将高维特征数据嵌入到二维或三维空间中，便于可视化。研究人员将UMAP应用于DeepVariant模型的中间层（mixed5 max-pooling层）的嵌入，以观察模型对输入基因序列的不同特征如何表现。
- 不同颜色表示的已知序列属性：例如，测序质量低的读数、难以映射的基因组区域等。通过这些颜色标记，研究人员可以更直观地看到这些属性在高维空间中的分布，以及它们在模型处理过程中的表现。
2. 特征嵌入的聚类
- k-means聚类：为了进一步理解模型的内部特征分布，研究人员首先使用简单的k-means聚类方法。k-means是一种常见的无监督聚类算法，通过数据点在特征空间中的距离进行分类，不需要标签信息。初步的聚类发现了一些自然形成的簇，这些簇在不同模型层中体现了对输入DNA读数不同信息的保留程度。
- 层次聚类（Hierarchical Clustering）：为了更精细地控制聚类的数量，研究人员进一步对初始k-means聚类的簇进行分割。首先进行3个簇的聚类，然后对每个簇再次应用k-means聚类，结果表明一些簇与基因组中难以映射的部分高度相关，尤其是具有相似但细微差异的测序深度的区域。
二、发现的生物学相关性
1. LINEs（长散在核元素）
在进行进一步分析时，研究人员关注到某些簇与基因组中重复的区域（例如LINEs）高度相关。LINEs是一类长达6000个碱基对的DNA序列，具有在基因组中复制移动的能力。这种复制和移动可以改变基因组中哪些部分被用于蛋白质合成，可能对进化和健康产生重要影响。
通过引入UCSC基因组数据库中的已知LINE标注数据，研究人员发现某些聚类簇中包含了大量的LINE序列：
- 三个聚类簇（分别标记为2 – 浅绿色、3 – 绿色、4 – 红色）与基因组中难以映射的区域相关。
- 进一步分析发现，这三个簇中LINEs的比例分别为83.9%、70.3%和43.9%，表明这些簇捕捉到了LINEs的特征，而DeepVariant并未显式接受关于LINE的训练。
这种结果表明，DeepVariant模型似乎隐式地学习到了与大型基因组重排相关的知识，这可能有助于其在小变异检测任务中的表现。
2. 嵌合变异
嵌合变异是指在胚胎发育过程中产生的突变，这些突变不是来自父母遗传，而是在个体生长过程中形成的。研究团队同样使用UMAP进行数据可视化，并通过k-means聚类识别了六个可能具有嵌合变异特征的样本。为了验证这些结果，研究人员引入了NIST的已知嵌合变异数据集，结果发现这些样本全部落在同一个聚类簇中，进一步验证了DeepVariant模型在检测嵌合变异方面的能力。
三、多层特征的组合分析
为了进一步了解模型不同层次上的特征学习，研究人员从DeepVariant的多个层次提取了特征嵌入，并对每一层的嵌入分别进行PCA降维，然后将六个层次的特征拼接，再次应用PCA降维。这种两次降维的过程可以减少噪声，同时保留不同层次特征之间的相关性。
聚类分析表明：
- 嵌合样本被进一步隔离到一个包含41个样本的小簇中（42个样本中的41个）。
- 这种层次化的特征组合使得模型可以在更大范围内综合低层和高层的特征，从而更精确地对嵌合变异进行分类。
四、讨论与结论
研究表明，DeepVariant不仅能够成功地检测小变异，还具备一定程度的检测结构变异（如LINEs和嵌合变异）的能力，这些特性并未在模型训练过程中被显式标注或教导。尤其是，DeepVariant每次只处理长度为221个碱基对的输入，但它的内部特征嵌入表现出对长度远超过其输入的变异（如6000个碱基对的LINEs）的反应，这表明它在处理变异时可能采用了一些更高级的概念。
1. 模型的启示
- 交叉领域知识的应用：DeepVariant能够利用从更大基因组结构分析中学到的概念来提高对小变异的识别能力，这表明深度学习模型能够隐式地跨领域学习，并将这种学习用于原始任务的性能改进。
- 生物学特性对性能的影响：LINEs、拷贝数变异和嵌合变异对模型性能的影响，强调了在基因变异检测任务中，考虑移动DNA元件和变异类型的必要性。这些未被显性训练的数据特性可能是DeepVariant在变异检测任务上超越其他工具的一个重要原因。
2. 未来工作
研究团队建议，其他用于DNA序列分析的机器学习模型也可以采用类似的方法，以揭示模型在处理复杂生物系统时可能未被认识到的特性。此外，这项工作为如何提高变异检测工具的解释性和准确性提供了一个很好的方向，即通过理解模型内部特征和决策机制来发现改进的机会。
DeepVariant on GitHub: https://github.com/google/deepvariant