工控产业网

　　局部学习的思想与全局学习大相径庭。它首先将S存储起来，需要对##样本xq进行预测时，先找寻与之相似的Nneig个样本点并构造一较小的样本集Sneig，由于Sneig较之S与待预测样本xq更为相似，有更多的共同信息，基于“相似输入产生相似输出”的原则，仅仅根据Sneig建立模型并对xq作出预测。局部加权回归就是典型的局部学习方法<8>。局部学习并不对所有样本一次性建模，而是采用“分而治之”的策略针对每个##样本xq单独建模并作出预测，有两个##点：根据相似的样本能够对未知样本作出更准确的估计；同时有效地使用了更丰富的假设空间以提高模型的泛化性能。不过由于对每个xq作预测时都必须重##建模，计算负担有所增加。

　　基于LLSSVR的间歇过程建模LLSSVRSVR和LSSVR都##有很强的非线性建模能力，特别是针对小样本，较传统的NN等方法有着更强的泛化性<326>。同时，LSSVR##有快速的学习能力，特别适合在线建模和辨识<427>。但是，如前所述，针对复杂的工业过程采用全局学习的模型会造成在数据较充分的区域模型较为准确，在数据不够或变化较大的区域模型不准确。为克服此困难，本文将局部学习思想引入到LSSVR的建模理论中，提出了LLSSVR.此算法在保证建模速度的同时能提高普通LSSVR的泛化性能，针对样本较少或变化较大的区域有着更##的泛化性能，因此###间歇生产建模的特点和需求。

　　LSSVR需要选择C，σ以保证所建模型的精度和泛化性能，目前还没有较##的理论方法，交叉验证（crossvalidation，CV）简单可行，然而计算量较大，不适于在线学习<4>。LLSSVR除了选择C，σ外，还需在S中选择与每个xq相似的Nneig个样本点以构造##样本集Sneig。为说明局部学习的有效性，本文仅以局部加权回归中常用的欧氏距离<8>作为相似性的衡量尺度，当然可以进一步考虑更为全面的相似性信息（如加入角度等）<10>。因此，LLSSVR需要选择C，σ，Nneig。考虑到太小的Nneig有可能会造成LSSVR数值不稳定，因此结合仿真实验，确定Nneig的变化范围为4≤Nneig≤βN，0<β<1（6）当β接近1时，LLSSVR将逐步退化为LSSVR.

　　为减少计算时间，突出局部学习的效果，β不宜太大，本文取β=015，即4≤Nneig≤N2。一旦选定Nneig，计算式（7）并由式（8）找出与xq近的Nneig个样本，相应的Sneig便随之确定。

　　ρixi，xq=xi-xq，i=1，…，N（7）ρ1≤ρi≤ρNneig，i=1，…，Nneig（8）适用于间歇过程在线建模的LLSSVR算法鉴于间歇过程的复杂性和批次间存在的不确定性，特别是对较##工况，当样本数据极少时如何快速建立较准确的模型很困难。本文用LLSSVR算法进行在线学习并结合普通LSSVR进行离线##化，提出了适用于间歇过程的在线建模方法，主要建模流程如下。

　　（1）对k=1，根据S1用CV法离线选择参数C1，σ1，并得到离线模型LSSVR1；（2）当k≥2，1≤q≤Nk时，选定Nneig并得到Sk，q，根据Ck-1，σk-1和Sk，q在线建立模型LLSSVRk，q，并对xk，q进行预测；（3）当第k批次反应结束时，根据更##后的Sk用CV法离线选择参数Ck，σk，并得到前k批次的离线##化模型LSSVRk，令kωk+1并返回（2）。

　　其中，Nk表示第k批次样本的数量，默认为相等<5，9>，Sk=xi，yiNkbati=1；xi∈Rd；yi∈R为第k批次反应结束后所得到的总样本集，Nkbat=kNk，Sk，q=xi，yiNneigi=1；xi∈Rd；yi∈R为第k批次第q个##样本xq的近邻样本集，Ck，σk为第k批次反应结束后用CV法离线选择的参数，从而建立离线模型LSSVRk，参数选择详见文献<4>，LLSSVRk，q表示针对第k批次第q个##样本建立的预报模型。

　　通过仿真实验可以证实，LLSSVR算法能够更##地克服间歇过程批次间的不确定性，尤其是在##的工况条件下。考虑到在线选择参数C，σ比较困难，简单起见以Ck-1，σk-1作为模型LLSSVRk，q的参数，这样也便于和离线##化过的模型LSSVRk-1相比较。显然，若进一步考虑对参数进行在线##化，则LLSSVR将##有更##的建模效果，这点本文不展开探讨。

　　仿真实验：发酵过程在线建模菌体浓度预报模型由于发酵过程的强非线性和不确定性，目前又缺少对关键过程变量如菌体等浓度的在线检测仪器，严重影响了对发酵过程进行有效的控制和##化，因此建立这些关键过程变量的在线预报模型有着重要的现实意义。当然，LLSSVR也可以用于其他复杂工业过程的在线建模。

　　本研究是在Pensim仿真平台<9>实现的，相关研究已表明其有效性。本文仅以建立菌体浓度（X）的在线预报模型为例说明所提出LLSSVR算法的有效性和特点。考虑的输入变量<627，9>包括可在线测量的溶解氧浓度（DO）、排气二氧化碳浓度（ECO2）、发酵罐体积（V）以及它们前一时刻的采样值。另外，前一时刻的X离线化验值也被采用。这样第k批次第q个采样点的输入变量xk，q可记为xk，q=xmk，q，xmk，q-1，Xk，q-1Txmk，q=DOk，q，ECO2，k，q，Vk，q（9）于是，对Xk，q进行预报的离线##化模型LSSVRk-1和在线预报模型LLSSVRk，q分别如式（10）和式（11）所示fLSSVRxk，q=∑N（k-1）bati=1αiexp-xi-xk，q2σ2+b1（10）fLLSSVRxk，q=∑Nneigj=1αjexp-xj-xk，q2σ2+b2（11）Pensim的初始条件和设定值详见文献<9>.

　　为使仿真实验更加贴近实际，本文首先将每批次的反应时间由默认的400h缩短为300h，菌体浓度的化验时间为5h一次，这样每批次可以得到60个样本，由式（9）可知有效样本为59个；其次将文献<9>中默认的初始条件和设定值的范围扩大，这样使得批次间的不确定性增强；再者，为考虑LLSSVR对小样本的建模能力和对##工况的适应性，只考虑10批反应，且从第2批开始建立LLSSVRk，q模型并进行预报。

　　仿真实验结果及其讨论当第1批反应结束时，即可建立离线LSSVR1模型，此时同样可以得到LLSSVR1模型。由于Nneig可变化的范围并不大，因此较容易确定，仿真中将其设为较小的值，如Nneig=10，以下的各图中不加说明即默认Nneig=10.从可以看出它们都能对样本集S1进行很##的描述。然而，若用LSSVR1对第2批反应进行预报，得到的结果如图2所示，从中可以很清楚地看到尽管离线##化过的模型可以对第1批次进行很##的建模，但由于这两批过程的初始条件和设定值都有一定程度的变化，加之样本数量极少，就导致了所建模型推广性能的不足。而采用LLSSVR进行在线建模得到的LLSSVR2，q模型则能较##地跟踪过程的动态特性，更##地适应##的工况并作出较为准确的预报，从而在一定程度上克服了由于间歇过程样本少和批次间不确定性带来的建模误差。

　　列出了几种不同情况下采用LSSVRk-1和LLSSVRk，q对Xk，q进行预报的均方误差RMSE.其中，Nneig=10、20的预测精度几乎都比只用LSSVRk-1高，在前几批时尤为明显，这一点从图3中也可以看出来。观察Nneig在10，Nkbat2变化图1对第1批次菌体浓度拟合效果的比较时LLSSVRk，q的建模效果，其均值如后一列所示，在预报第2批～第8批时只有第5批的效果略差，这也说明LLSSVRk，q泛化性能较强，而到第9和第10批时LLSSVRk，q精度比LSSVRk-1低，这是因为随着样本的增多，基于Sk-1建立的模型LSSVRk-1逐渐能够刻画过程的信息，因而在较##描述已知样本的同时还可以对未知样本进行不错的预测。相反，由于LLSSVRk，q没有对参数C，σ，Nneig进行##化，其建模效果已经无法表现出一开始的##越性了。的第5列为Nneig在上述范围变化时能达到的##效果，此时虽是以Ck-1，σk-1作为LLSSVRk，q的参数，但仍比LSSVRk21有更##的效果，这点说明了在很大范围内选择Nneig算法都有比较##的结果，体现了LLSSVR算法良##的泛化性能和局部学习思想潜在的学习能力。

　　结论鉴于间歇过程建模存在的诸多困难，尤其是在##的工况下，批次间存在一定的不确定性且样本较少，采用基于全局学习思想的建模方法（如LSSVR）要么无法较快建立准确的模型，要么所建模型推广性能不足。通过比较全局学习和局部学习两种建模思想，验证了局部学习更加适合工业过程##工况条件下的建模，并依此提出了可用于在线建模的LLSSVR算法。针对间歇过程，利用LSSVR离线##化后的参数，LLSSVR从第2批次开始便可用于在线预报。在青霉素发酵过程的仿真表明了所提算法较LSSVR有着更##的泛化能力、适应性和鲁棒性，这表明LLSSVR非常适用于##工况的快速在线建模。下一步研究工作主要考虑更为全面的相似性指标用于构造样本集Sneig和在线快速##化相关参数。