在临床试验中进行高通量分子测量变得越来越普遍。结合机器学习的进步，这些发展为基于大数据训练的算法开辟了预测患者是否会从治疗中获益的可能性。在这里，我们介绍培训这些算法的关键概念和常见方法。

关键点

• 将机器学习应用于临床试验数据可以实现生物标志物发现和算法定制治疗。
• 预测模型的复杂度各不相同：简单的方法（如逻辑回归）易于解释，并适用于小样本大小，而复杂的方法（如深度学习）更为强大，但需要大样本量。中间方法（如随机森林）在两者之间取得平衡。
• 过度拟合或模型对未经过训练的数据的泛化能力差是机器学习中的一个核心挑战。特征选择，模型正则化和交叉验证用于避免过度拟合。
• 曲线下面积（AUC）是预测模型性能的常见且可靠的度量，除了ROC曲线之外，ROC曲线突出了灵敏度和特异性之间的平衡。
• 预测模型的复杂性以及在临床设置中量化其生物标志物的可行性影响着模型的临床适用性。

介绍

将机器学习应用于临床数据的目的是建立一个计算模型，以患者特异方式从输入变量（任何可用的人口统计，临床和分子数据）中预测目标变量（如治疗反应）。除了预测模型，这样的分析还回答了以下关键问题：

• 输入变量能够多好地预测治疗反应？
• 哪些输入变量是有预测能力的生物标志物？

我们的重点是预测治疗反应，但这同样适用于预测其他临床变量，例如患者生存。

训练模型

通常，目标变量被视为二元变量，例如，0表示未响应，1表示响应治疗。模型是以算法方式训练的，根据输入变量预测目标变量。

在训练阶段，算法使用输入变量和目标变量来建模它们之间的关系（见下图）。在训练阶段使用的任何数据都称为训练数据。模型训练后，可以仅使用输入变量来预测目标变量。重要的是，可以在验证数据上估计模型的性能，而这些数据未用于训练。

即使目标变量是二元的，模型预测通常也是概率性的——在0和1之间的数字。可以定义一个阈值来将预测二元化。设置阈值涉及灵敏度和特异性之间的权衡（参见模型验证和性能评估部分）。

输入变量可以进行预过滤以减少噪声、模型复杂度和计算量。这种预过滤称为特征选择（被认为是无信息量的变量被过滤掉，而信息量丰富的变量被选定）。此外，在训练阶段可以通过正则化来限制模型的复杂度，或者逐步惩罚算法增加模型的复杂度。限制模型的复杂度旨在避免过度拟合，即模型过度学习了训练数据：它在训练数据上表现准确，但在验证数据上表现不佳。

模型类型

用于从输入变量预测目标变量的计算模型具有多种形式，但模型选择中涉及的主要权衡与模型的复杂性有关。更复杂的模型可以实现更好的预测，但需要更多的数据，更难解释，并且更容易过拟合。我们可以根据其复杂性将模型类型分类如下表所示：

模型验证和性能评估

在量化预测模型的性能时，需要确保它不仅在训练数据上工作足够准确，而且也可能在未用于训练模型的新样本上工作。

假设我们已经训练了一个模型来预测治疗反应（介于0和1之间的值），并且我们使用已知反应的十个患者的输入变量运行该模型。通过使用任何阈值对预测进行二元化，例如0.5，我们可以将十个患者的预测和已知反应制成混淆矩阵，看起来像这样：

预测算法或分类器最常见的性能指标基于混淆矩阵。在上面的例子中，10名患者中有7名治疗反应被正确预测，总准确率为70％。假阳性率（FPR）为4中的1，即25％，假阴性率（FNR）为6中的2，即33％。此外，可以计算真阳性率（TPR或灵敏度）为1−FNR = 67％，真阴性率（TNR或特异度）为1−FPR = 75％。

尽管总体准确率是模型性能的简单易懂的度量方式，但问题在于它需要定义一个硬阈值来将预测二值化。一个更健壮的性能指标，它不依赖于单个阈值值，称为曲线下面积（AUC），并且是基于ROC曲线计算的。ROC曲线显示真阳性率如何取决于假阳性率（见下图）。

ROC曲线可以通过逐渐增加二元分类阈值从0（其中所有患者都被分类为响应者，TPR和FPR均为1，即ROC图的右上角）到1（其中所有患者都被分类为非响应者，TPR和FPR均为0，即ROC图的左下角）来产生。 AUC只是保留在ROC曲线下方的图形面积。任何分类器的AUC至少为0.5，对应于随机分类器的直线ROC曲线（上图中的虚线红线）。理想的、完美的分类器将具有最大的AUC值1。因此，现实世界的分类器的AUC值通常介于0.5和1之间。

理想情况下，应使用训练数据来训练模型，并有单独的验证队列来估计性能（最重要的是AUC），以确保模型具有可推广性。但是，对于样本数量有限的情况，通常采用交叉验证方法。在交叉验证中，模型使用（随机选择的）部分数据进行训练，并使用剩余数据进行验证，该过程重复进行，通常是使每个患者在训练中使用9次，验证模型1次（10倍交叉验证）。然后可以使用适当定义的分别训练的模型的平均值作为最终模型。

一种模型还是多种模型？

在任何实际的机器学习项目中，主要限制往往是数据量的大小。更大的样本量可以提供更好的模型，从中发现更好的生物标志物和更深入的生物学结论。将来自不同但相似的患者队列的数据（如果有）合并以训练单个模型是增加样本量的一种方式。如果存在多个系统性差异的变量（例如年龄、性别、使用的测量平台），这些变量可能会混淆：即使它们之间没有真正的关系，算法也可能将一个变量视为另一个变量的代理。在多个队列中，可以同时使用所有队列和每个队列单独进行训练模型。仔细检查模型之间的预测变量可能会揭示可能存在的混淆因素。

关于临床适用性的说明

除了模型的预测能力外，还有其他因素决定其有用性。其中之一是其复杂性：与复杂模型相比，简单模型更快，更容易作为易于使用的工具用于研究和临床目的。另一个因素是在临床环境中量化所需生物标志物的可行性。因此，将模型训练在体液样本数据上可能比在实体组织活检中发现需要侵入性样本收集的生物标志物更有意义。

癌症治疗方案涉及疗效和副作用之间的重要权衡。为了将患者分配到最佳治疗方案，必须能够在诊断后不久预测他们的风险水平。在临床环境中生成的分子数据的增加使得预测更加准确成为可能，但是需要采用复杂的方法来训练预测算法。在我们 另外的文章 中曾經讨论过机器学习主题，现在我们专注于使用一种称为随机森林的方法来预测癌症生存。

要点：

• 机器学习能够基于高通量数据（如基因组表达和突变数据）对患者的风险进行分层。
• 随机森林是一种强大且流行的算法，旨在提高较简单模型的泛化能力。
• 为了预测生存，使用的预测算法和性能指标必须能够考虑到被审查的数据。
• 在训练模型的同时，评估预测模型在未使用过的测试数据上的性能非常重要。

介绍

上一次，我们介绍了机器学习的关键概念，考虑了一个简单的预测治疗反应的情况。现在，我们将更详细地了解预测算法的内部工作原理，这次是在预测生存的情况下。

生存分析通常使用Kaplan-Meier估计（用于单个预测变量或输入变量）和Cox回归（用于少量预测变量）。然而，这些方法不容易适用于具有复杂的非线性预测变量之间的高维数据（即基因组测量）。机器学习正是为这种问题而设计的解决方案。

看到森林中的树

一种常见的适用于生存分析的机器学习算法称为随机森林。为了理解随机森林的工作原理，让我们首先考虑一个它所基于的更简单的算法：决策树。

下图显示了决策树在一组六个患者（三个仍然存活，三个在诊断后5年去世）上进行训练的玩具示例。使用仅来自原发肿瘤活检的两个基因的表达水平，训练后的树能够完美地分离两组患者。然而，树在测试数据上的表现——8个新的患者，这些患者未在模型训练中使用——更差，有两个患者被错分类。这描绘了机器学习中的一个核心挑战：预测模型在训练数据上可能表现非常好，但在未见过的测试数据上表现很差。过度拟合或者训练数据集过于偏斜或太小，可能导致泛化能力差。

什么是随机森林？

过拟合是决策树的已知问题，随机森林便应运而生，以解决这个问题。随机森林由多个决策树组成，这些树是通过对训练数据（例如患者）和预测变量（基因）进行随机子抽样而训练的。这导致了一组具有偏差但各有特点的决策树。随机森林的预测是其个别树的预测的组合（例如多数投票）。因此，随机森林是一种集成分类器，也是一种众包算法。这种方法有效地减少了个别决策树的过拟合问题。

下面的图示展示了一个随机森林（仅由三棵小树组成）在我们的玩具数据上训练的情况。每棵树都使用完整训练集（一个包）的随机样本进行训练，每棵树的每个决策节点由随机选择的基因定义。虽然树在其包中的患者表现良好（特定于树的训练数据），但它们在包外患者身上表现不佳。显然，限制在训练树时使用数据会降低其性能，这不应让我们感到惊讶！

然而，这些树的组合预测在测试数据上的表现却很好——事实上，比第一个例子中的简单决策树模型要好。下面的图示展示了每个决策树如何为随机森林的集成预测做出贡献，从而在由预测变量或输入变量定义的空间中形成一个组合决策边界。

从玩具数据到真实世界数据

虽然我们上面的例子数据包含的患者和测量值比任何真实世界的预测问题所需的要少，但它使我们了解了算法如何基于输入变量（基因表达值）推导目标变量（例如生存状态）的预测，以及如何通过机器学习算法设计来应对泛化能力的挑战和如何对抗过拟合。

展示真实世界数据的生存预测之前，我们必须承认我们玩具数据中的另一个简化。我们假设一个简单的死亡或生存分类任务。实际上，生存数据更加复杂：患者要么死亡，要么被审查。被审查的患者按照最后一次随访仍然活着，之后他们可能很快死亡，也可能过着幸福的生活——但我们不知道。这种所谓的right-censoring是一种缺失的形式，任何生存分析都必须考虑到这一点。右图说明了生存数据：从诊断到死亡或最后一次随访的时间是已知的，而在最后一次随访时仍然存活的患者被认为是被审查的。

一种适应于生存预测的随机森林（RSF）——随机生存森林，应用于这种类型的数据。它不是将患者分类为死亡或生存，而是旨在根据其估计的风险分层患者。因此，这种模型的预测不是二元分类，而是连续的风险评分。

评估模型

由于模型输出（预测）是连续的风险评分而不是易于验证的死亡或生存类别，如何评估模型的性能？一个好的答案是c指数或一致性指数。 c指数计算为具有更高预测风险的患者对中实际死亡的比例。低预测风险的患者对不能评估一致性的患者对被删减，这样的患者对是由于审查而必须接受的限制。 c指数为0.5对应于随机的、无用的分类器，而1表示按风险对患者排序的完美结果。这种c指数的解释可能会让你想起我们在　另一篇文章　中讨论的AUC的解释。实际上，c指数是对非二元预测问题的AUC的一般化。

评估模型性能的另一种方法是按预测风险对患者进行分组，绘制组特定的Kaplan-Meier估计量，并使用log-rank检验比较组。预测模型越好，高风险组和低风险组之间的区分就越明显。重要的是要基于测试数据而不仅仅是训练数据来评估这些性能指标。前者可能会更糟糕，但比后者更有信息量。

使用随机生存森林预测肝癌生存率

下图显示了使用来自癌症基因组图谱(TCGA)的公共数据，通过对肝癌患者的原发肿瘤的基因表达谱进行分层的结果。在TCGA-LIHC数据集的369名肝癌患者中，我们随机选择了80％，即269名患者，作为训练集来构建随机生存森林。其余的20％，即73名患者，被保留为测试集。在训练数据上的风险分层表现很好，c-指数为0.925，通过中位数风险进行二元分组可以产生具有明显不同生存模式和log-rank P值低于0.0001的风险组。

那么这个模型的推广效果如何呢？对73名患者的测试集进行的预测具有0.61的c-指数，并且二元分组的P值为0.041。性能明显优于什么都没有，但比训练数据上的性能差。这突显了使用单独的测试数据来评估模型的重要性。毕竟，训练数据上的表现对于构建模型和最终临床应用中确定的生物标志物的适用性告诉的很少。

超越基因表达

在上面的示例中，我们只考虑了基因表达水平作为预测因子或潜在的生物标志物。机器学习模型（如随机森林）的一个重要优势是，它们允许轻松地将任何可用数据（如临床变量和突变）作为输入集成到模型中。数据越多，预测就越好，只要应用的训练和验证方案确保了泛化性！

了解更多

另外　的一篇文章，介绍了机器学习的概念，并重点介绍了治疗反应预测。

“你如何整合RNA-seq和ChIP-seq数据？”

我听到过许多次生物学家问这个问题（您可以将ChIP-seq替换为ATAC-seq、bisulphite-seq或任何其他　表观基因组数据　类型）。

这个问题很有意思。

生成和分析单个基于NGS的测序（如RNA-seq或ChIP-seq）的数据不像几年前那样罕见。这归功于新一代“NGS原生态”生物学家，他们在培训的早期就掌握了基本的“组学”数据分析技能，这在很大程度上消除了生物学家前往统计学系或计算机科学系的必要，向擅长编码的研究人员敲门，建议“合作”来分析他们的数据。

但是，整合不同的数据模式是另一回事，这是研究项目常常停滞的阶段。

这个想法很简单：如果您闻到、品尝和尝试一款葡萄酒，您的大脑可以整合这些多感官输入并推断出葡萄的产地，比如果只依赖一个感官更好。

那么，什么是可以采用您生成的所有可能的NGS数据并得出有洞见的多组学大脑？

我已经学会了错误答案：“这真的取决于您的研究问题。” 正确的答案是“相关性”。那是简短的答案——长的答案是“仔细分析各个数据类型，相关性，过滤，可视化，解释——迭代几次——你可能会得到一些非常好的结果！”

工作流程

为了介绍这种数据整合方法，让我们假设下面可视化的实验，在几个时间点进行了RNA测序和表观基因组测序实验，以及在第一个时间点后施加了一种处理。表观基因组测序实验可以是针对一种或多种组蛋白修饰的ChIP-seq（或CUT＆Tag）实验，也可以是ATAC-seq等染色质可及性实验。

（这里讨论的综合分析不需要时间序列数据；可以使用　单细胞数据　沿伪时间轨迹分析表达和表观状态，或者仅比较来自不同条件的批量实验的单一时间点数据。）

问题是，在治疗和最终改变的细胞状态之间有哪些分子机制？我们能否给出一个多步骤的描述，通过基因和基因产物网络级联的事件来重新编程细胞以适应干扰？

在转化研究的背景下，识别关键元素，如转录因子或增强子，这些元素使得细胞进入疾病状态，可以为新疗法提供可能的靶点。

下面我们看到一个识别此类级联中活跃的顺式和反式调节路径的工作流程。它从分别处理表观基因组和转录组数据开始，并通过将每个基因的表达与其假定的顺式调节元素 (CREs) 的信号相关联，将这两种模态结合起来。然后继续通过识别驱动染色质变化的转录因子 (TFs)，通过在 CREs 中识别 TF 结合基序并将 TF 的表达与这些假定的结合位点的状态相关联来确定这些 TFs。

工作流程中的关键步骤包括：

• 分类顺式调节元素：　将峰值解释为 CREs，可以通过聚类分析将其按时间模式分组。这可能会产生几个 CREs 类别，其表观状态可以基于观察到的模式 (例如，激活、短暂激活、恒定活性) 和测量到的表观基因组信号 (例如，在 ATAC-seq 情况下“可访问”，在 H3K27ac ChIP-seq 情况下“活跃”) 进行分类。CRE 群集可以进一步通过富集结合基序进行注释。
• 按照它们的时间表达模式将基因分组：　同样，基因通过聚类分析分组，并基于观察到的模式 (例如，“上调”，“恒定表达”) 进行分类。基因簇通过基因集富集分析进行注释，以将它们与生物功能和过程联系起来。
• 将 CREs 与基因联系起来：　将假定的 CRE 与基因联系起来依赖于两者之间的基因组近距离关系以及 CRE 的表观活性与基因表达的相关性。
  • 将 TFs 与目标基因联系起来：　建立 TF 与目标基因之间的联系依赖于 TF-CRE 链接信息 (结合基序、相关性)、CRE-目标基因链接信息 (见上文) 以及 TF-目标相关性。这种对可能的 TF-目标链接进行的多组学过滤可以识别所有这些活跃的顺式调节路径的网络。

下一步实验是什么？

上述方法描述了一个研究过程中涉及的调节程序的丰富描述。有几种方法可以进一步丰富和验证研究结果，例如：

• 通过染色体构象捕获验证CRE-靶标相互作用：　Hi-C等方法可以证明基因组范围内远距离位点之间的物理相互作用。
• 通过基因组编辑验证CRE-基因相互作用：　验证调节元件在驱动基因表达方面的作用的黄金标准实验是使用CRISPR-Cas9删除CRE，并在野生型和编辑细胞中量化目标基因的表达。
• 通过ChIP-seq验证TF-CRE相互作用：　仅仅因为在显然活跃的调节元件中存在一个结合位点并不是TF-CRE相互作用的直接证据。可以使用针对感兴趣的TF的特异性抗体进行ChIP-seq（或CUT＆RUN或CUT＆Tag）实验，以验证因子的物理存在。

了解更多

以上我们介绍了一种整合表观基因组和基因表达数据的方法，特别是揭示cis和trans调节相互作用。了解更多关于NGS数据分析的内容：

• RNA-seq数据分析
• 表观基因组数据分析
• 单细胞数据分析

癌症研究是生命科学中的巨头。其资金、发表的研究和生成的数据量，都超过了生物学和医学中的所有其他领域。因此，许多广泛应用于生物学的计算分析首先是为了研究癌症和突变而开发的。在这个概述中，我们将介绍癌症研究中的典型突变分析。

引言

与任何生物医学研究一样，生物信息学常常被用于从大量的分子和临床数据中提炼新的见解。鉴于高通量测量在基础生物学和临床研究中的快速发展，生物信息学已成为癌症研究的一部分。越来越多的研究组在这个领域是由“正常”和计算生物学家组成的混合实验室。

由于湿和干生物学之间的分界正在消失，生物信息学不仅被用于从数据中提炼见解，还被用于推动研究。研究经费越来越多地授予开发计算方法而非单纯应用计算方法的癌症研究。

这里我们专注于已建立的计算方法，从突变的角度研究癌症的生物学和治疗。这些分析旨在回答以下问题：

• 哪些致突变的过程或突变导致了癌症？
• 哪些突变使癌症具备了耐药等能力？
• 哪些突变可以预测患者的疾病状况？

实验

癌症研究中的突变分析确定了肿瘤细胞DNA序列中的相关变化。除了确定单个突变外，突变模式也可以被研究，以确定突变本身的原因或癌症的克隆结构。

突变分析中的基础数据往往来自下一代DNA测序（NGS）实验。DNA测序可以应用于各种实验设置，我们在这里介绍最常见的设置。

肿瘤与正常组织

突变分析的经典设置涉及对同一患者的手术切除癌细胞和正常非癌细胞的DNA进行测序。正常细胞通常是来自血样的淋巴细胞，是一种有价值的患者特异性对照，可以与肿瘤DNA序列进行计算比较。以这种方式对多个患者进行测序，可以将突变与临床变量（如疾病亚型或治疗反应）相关联。

治疗前后

另一种典型实验是将经过治疗的癌细胞与未经治疗的癌细胞进行对比。在这种情况下，突变分析可以确定由治疗（如放疗）引起的突变或使癌细胞耐受治疗的突变。这种类型的实验通常依赖于动物模型或细胞系。

人群规模和家庭研究

第三组实验旨在确定易患癌症的生殖细胞变异体。与臭名昭著的标记癌症的体细胞突变不同，生殖细胞变异体存在于个体的所有细胞中，因此可以传给后代。它们以多态性形式存在于人群中。通常，确定诱发肿瘤的遗传决定因素涉及人群规模基因分型或对患有遗传性癌症的家庭进行测序。

DNA测序的类型

应用的DNA测序类型主要通过限制分析特定的基因组区域而影响随后的生物信息学分析。全基因组测序（WGS）能够分析基因组中的任何突变，包括广泛的非编码区域。全外显子测序（WES）限制分析基因组的编码蛋白质部分的突变。定向测序进一步限制分析到预定的基因座位 – 例如已知的癌症基因组成的panel。

鉴定和注释突变

DNA测序实验的原始数据进行质量控制，并与参考基因组进行比对。变异可以使用突变caller流程（mutation caller pipeline）鉴定出来。在特定调用体细胞突变时，突变caller需要将肿瘤和正常DNA-seq数据作为输入，以区分体细胞和生殖细胞突变。

突变caller被设计用于查找特定类型的突变，例如小变异体、拷贝数变异体或结构变异体。小变异体包括一个或几个核苷酸的替换、插入和缺失。拷贝数变异体是影响更大的DNA段的扩增或删除事件。结构变异体包括更复杂的DNA改变，例如染色体间易位和DNA片段的倒位。

鉴定出的突变可以注释其变异等位基因频率、种群等位基因频率（在生殖细胞变异体的情况下）、对氨基酸序列的影响和预测的致病性。这些注释对于选择各种下游分析中相关的突变非常重要。

将突变与临床和表型变量相关联

突变分析工作流程的关键部分是可视化鉴定的突变并将其与其他变量相关联。典型的可视化包括癌症图（瀑布图），显示多个基因在分析的患者中的突变状态，以及棒棒糖图，突出显示突变沿着变异（和编码蛋白质）基因的氨基酸序列的位置。

统计检验可用于比较不同样本组（不同癌症类型、原发性与转移性肿瘤、治疗前后等）中突变基因。突变频率、几率比和P值是此类分析中报告的典型统计量。同样，突变可以与连续变量（如患者年龄、肿瘤大小或血液生物标志物水平）相关联。

生存分析可用于将突变与临床终点（如死于癌症或复发）相关联。生存分析依赖于Kaplan-Meier估计器、Cox回归或机器学习方法。(了解更多关于生存分析的信息。)

突变特征分析

肿瘤DNA中观察到的不同类型核苷酸替换的频率 carries information on their cause。简单来说，一种致突变因子可能导致主要是T>A替换，而另一种可能导致G>C替换。比较观察到的替换频率的模式，可以定量地描述肿瘤中先前表征的突变特征。这可以揭示癌症的病因，而突变特征则是潜在的独立预后标志。

克隆分析

癌症是一群肿瘤细胞的动态种群，其在体内不断增殖和扩散。了解癌症如何实现增殖、逃避治疗和转移可以通过构建癌细胞家族谱来研究。当从同一患者的多个时间点或转移瘤中测序肿瘤样本时，可以研究癌症的克隆结构，并进一步将出现的女儿克隆（带有特定突变）与疾病进展事件相关联。

基于组织DNA测序的克隆分析易受数据质量和测序深度的影响。一种好的方法是首先使用全基因组或外显子组测序鉴定突变，然后对最常见的突变进行超深度靶向测序，以获得准确的突变变异等位基因估计值。

其他内容？

突变分析涵盖范围更广，深入程度更深，超出了我们在此简要概述的范围。如将突变数据与其他高通量数据模式集成、预测新表位、从无细胞DNA中检测突变以及解释非编码突变等主题，都需要进行进一步的介绍！