评估替代模型预测的精度

在定义和运行可靠性研究之前,验证自适应采样研究生成的替代模型的精度。此验证通过交叉验证实现。

交叉验证残差值和预测误差平方加和 (PRESS) 残差值是预测值中预期误差的估计值。这些残差的单位与响应相同。

如何估计替代模型预测的精度:
  1. 选择替代模型生成 > 替代模型 > 压降 MA_Kriging 节点并确保指定以下交叉验证属性:
    属性 设置
    交叉验证方案 K 重
    交叉验证 K 重值 10
    交叉验证种子 0.0
    使用 K 重交叉验证方案进行交叉验证时,Design Manager将此替代模型生成研究的 90 个设计分为 10 个不重复组,每组 9 个设计。然后,Design Manager将一组 9 个设计(测试数据)放在一起,并使用其余 81 个设计(训练数据)来计算替代模型。此替代模型之后将用于预测形成测试数据的 9 个设计的响应。因为测试数据与训练数据无关,所以预测响应和测试数据之间的偏差产生了误差估计,即交叉验证残差。因此,交叉验证作为一种方法,可以估计该误差的大小,并判断替代模型拟合的精度。Design Manager已在替代模型生成研究运行结束时执行这种交叉验证。

    交叉验证过程具有一定的随机性:Design Manager进行 K 重分组存在多种可能性。分组方式由交叉验证种子决定。值为零表示Design Manager自动生成种子。

  2. 要查看压降替代模型的计算结果,右键单击替代模型 > 压降 MA_Kriging 节点并选择打开残差表。
    对于每个设计,残差表都会列出自适应采样研究产生的实际压降、使用替代模型的预测压降、两者之间的相应残差、交叉验证残差和 PRESS 残差。

    残差值几乎为零,这是预期的结果。要创建替代模型,克里金法会插补自适应采样研究产生的实际压降值,使其成为替代模型生成响应面的一部分。因此,实际压力值和预测压力值几乎相同。

分析从 K 重交叉验证派生的交叉验证残差比根据残差评估精度更有用。

  1. 要开始交叉验证,右键单击替代模型 > 压降 MA_Kriging 节点并选择交叉验证。
  2. 在残差表 - 替代模型生成 - 压降 MA_Kriging 选项卡中,在表的标题中单击交叉验证残差。
    该操作将对交叉验证残差按从低到高的顺序排序。
  3. 注意列中的最小和最大交叉验证残差值 - 它们将设置边界。
    交叉验证残差与压降的单位同为 Pa,因此可以直接评估误差的幅值大小。可以进一步计算最小值和最大值的相对误差。
  4. 要可视化每个设计的交叉验证残差,右键单击替代模型 > 压降 MA_Kriging 节点并选择创建绘图 > 实际与残差。
  5. 在实际与残差关系图设置对话框中,单击确定。
  6. 选择图形窗口上方的实际与残差关系图选项卡,向下拖动图,直到出现将图形窗口下半部分框住的红线,然后再松开选项卡。
    现在可以看到替代模型残差表显示在残差图上方。因为交叉验证过程的随机性,在表和图中看到的结果可能与下面的屏幕截图略有不同。

    在交叉验证残差图中,残差在零线附近分散程度或多或少。

    在图的左上角,作为注释,可以看到单个值交叉验证残差,即交叉验证残差列中所有交叉验证残差的均方根 (RMS)。该平均值用于判断替代模型的精度:值越低,拟合越好。评估交叉验证残差的 RMS 值时,可以相对于给定响应的绝对值及其范围(在此例中为压降)解释该值。

由于交叉验证方案分组过程的随机性,建议进行多次交叉验证。每次交叉验证会产生不同的结果。
  1. 右键单击替代模型 > 压降 MA_Kriging 节点并选择交叉验证。
    交叉验证残差列中的值和交叉验证残差图会发生变化。

  2. 和之前一样单击标题对交叉验证残差列排序,并观察最小和最大残差值。这些值与首次交叉验证的幅值大小相同。
  3. 要进行另一次交叉验证步骤,再次重复步骤 7 和 8。
    (本教程仅进行了两次额外的交叉验证。对于工业模拟,通常进行七到八次额外的交叉验证。)


    交叉验证后,表中的值和图将相应地发生变化。最小和最大残差边界仍保持类似的幅值大小。在具有 RMS 交叉验证值的交叉验证残差图中也可以观察到相同的情况。

预测误差平方加和 (PRESS) 残差是评估替代模型预测精度的另一种方法。PRESS 是一种交叉验证形式,其中仅一个设计放在一起,剩余设计(此处为 89 个)用于计算替代模型。PRESS 残差等效于留一法交叉验证,当交叉验证 K 重值设为 1 时,它也等效于 K 重交叉验证方案。对于 PRESS,因为不存在随机分组且 PRESS 残差保持固定,所以只进行一次交叉验证。通常,建议查看这两种类型的交叉验证残差,因为它们各具优缺点。
  1. 分析 PRESS 残差:
    1. 在残差表 - 替代模型生成 - 压降 MA_Kriging 选项卡中,在标题中单击 PRESS 残差,对残差值按从低到高顺序排序。
    2. 注意,最小值约为 -3 Pa,最大值约为 3.7 Pa。
    3. 选择绘图 > 实际与残差图 > 数据系列 > 替代模型生成 > 左轴数据 > 替代模型节点并将值类型设为 PRESS 残差。


      实际与残差图现在显示每个设计的 PRESS 残差。在左上角,可以看到 RMS PRESS 残差。
    如果多次交叉验证后交叉验证残差和 PRESS 残差的相对误差小且一致,则表明压降的替代模型可以接受。

    对于工业模拟,通常对每个关注的响应进行交叉验证。但在本教程中,仅分析压降的交叉验证。对于均匀性,交叉验证过程相同。