ert算法

❶ ERT系统是什么概念

两相流(或多相流)是一种广泛存在的混合流动模式。随着工业生产水平的不断提高，对两相流参数进行测量的需要也越来越迫切，有关的研究受到国内外专家的普遍重视。近年来发展起来的过程层析成象(Process Tomography,简称PT)技术是一种非常有潜力的两相流/或多相流检测手段[1,2].既可以利用它可视化测量的优势进行在线监测，观察流型，计算相含率，也有可能从它的直接测量信号中提取流型、相含率等信息。
电阻层析成象(Electrical Resistance Tomography,简称ERT)技术是PT技术中的一种，ERT适用于两相流中的液相连续相的生产过程，如液－气泡混合过程、液固混合过程、旋涡分离过程以及化学反应过程等，对这些过程的分析研究或者在线定性/定量监测与控制等，ERT技术提供了一种高效、低成本的多维测量手段，是一种先进的高新检测技术，具有广阔的开发和应用前景。

1 ERT技术的基本原理
ERT的所有理论都建立在似稳场假设的基础上。在电磁场理论中，似稳场满足麦克斯韦微分方程组[3].似稳场遵循静态场的规律，即矢位A和电位分别满足Poisson方程和Laplace方程。ERT系统敏感场满足第三类的稳场条件，可以用静态场的理论来描述和求解。
ERT的实质就是运用一个物理可实现系统完成对被测物场特性分布f(r,)的雷登变换与雷登逆变换。系统的工作过程就是根据特殊设计的敏感器阵列获得的物场信息(边界测量电压)，去求取物场内部的电压分布——投影数据，再采用定性/定量的图象重建算法求出被测物场的图象(电导分布信息)，进而从重建图象信息中提取物场的特征参数，为过程检测和控制提供依据。

2 ERT的系统构成
由于不同媒质具有不同的电导率(电阻率的倒数)，求出敏感场的电导率分布便可获得物场的媒质分布信息。因此其工作方式采用电流激励、电压测量。当场内电导率分布变化时，电流场的分布会随之变化，导致场内电势分布变化，从而场域边界上的测量电压也要发生变化。利用边界上的测量电压，通过一定的成象算法，可以重建出场内的电导率分布或反映电导率分布情况的灰度分布，实现可视化测量。
典型的ERT系统包括用于激励测量的电极阵列、数据采集与处理单元、图象分析单元。如图1所示。

图1 典型ERT系统的构成

ERT系统的电极阵列由特殊设计的电极等间隔排布，控制单元(计算机)向数据采集单元发出指令，给某一对电极施加激励电流，在过程对象内部建立起敏感场。测量边界上的电压信号，将得到的测量数据送图象重建单元，以适当的算法重建出对象内部的电导率分布，从而得到媒质分布图象(二维或三维)。最后送图象分析单元，对图象的物理意义加以解释，提取有关的特征参数，为过程控制或实验研究提供必要的依据。

3 ERT技术特点
同其它PT技术相比，ERT技术具有以下特点：
(1)被检测物场的连续相必须具有一定的导电性，一般必须是含有水的生产过程。
(2)敏感阵列为非侵入式，由一系列等间隔排布的电极构成。敏感阵列的设计对于敏感场的性能有直接的影响。电极的设计、排布以及电极的性能是整个系统至关重要的一部分。
(3)敏感场的激励信号为低频的交流恒流源。激励信号的频率范围一般选用千到几数万赫兹。频率过低容易引起电极的电化学反应，尤其对电解质溶液、腐蚀性溶液等等。频率过高，电磁场感应及分布阻抗等会带来很强的测量噪声。
(4)检测信号为弱的交流电压信号或其微小变化，要求测量电路必须具有高的灵敏度和信噪比。
(5)敏感场存在软场(soft-field)效应。敏感场分布要受到场内媒质(物场)分布的影响，敏感场与物场的相互作用为非线形，导致图象重建和图象分析的困难。
(6)设计敏感电极阵列时，必须考虑电极阵列所形成的空间敏感场的非均匀性的影响，应尽可能使其灵敏度均匀性好。

4 ERT技术的研究现状
作为PT技术的一个重要分支，目前ERT技术的研究主要集中在以下几个方面：敏感电极阵列的优化设计，硬件电路性能的提高，图象重建算法的改进，应用性的开发等等。世界上从事过程ERT研究的以英国UMIST的PT小组较为领先，已经在搅拌器和旋流器[4]等实验装置上进行了应用研究，并开发出应用于金属容器的ERT系统[5].美国的Rensselaer Polytechnic Institute的Jones等人也在从事ERT技术应用于多相流检测的研究。美国University of Arizona的D.J.LaBrecque等人将ERT应用于环境监测与整治的研究。美国Lancaster University的Andrew Binley等人用ERT方法分析土壤和岩石的成分。中国的天津大学徐苓安教授领导的PT小组着手开发的ERT技术为核心的在线监测系统，应用于精馏塔的实时观测。浙江工学院开发出应用于土壤环境监测的大范围ERT系统；北京航空航天大学、东北大学也相继着手于成象算法、应用性的ERT系统的研究方面作了一些工作。
当前国际上ERT技术在硬件电路方面已达到很高的指标，英国UMIST的ERT系统灵敏度可达4.88μV,共模抑制比为-70dB[6].成象算法方面也从定性研究进入到定量的MNR(牛顿-拉夫逊)算法，但这一算法需要高精度的场模型及高精度的测量数据，尚未实际应用。目前还没有关于ERT敏感场空间分布的定量认识。

5 ERT技术必须解决的问题及ERT技术展望
为实现定量测量并达到一定的精度，要求ERT系统能够提供高精度的重建图象，并能对重建图象的物理意义予以准确解释，如获得各种媒质准确的大小、形状、位置等详细的信息，以为过程控制提供依据，要求ERT技术的研究应在以下几个方面作出努力：①为ERT系统提供被测对象信息的硬件系统必须准确可靠，这就要求传感器材料的选择、加工的精度、数据采集系统的稳定性、精度等尽可能满足要求；②敏感场分布特性的认识和改进，尽可能改善敏感场灵敏度分布的均匀性。实际上ERT系统的敏感场是三维非均匀分布的，简单地用二维场近似的分析实际的三维场势必要引起误差。改进敏感电极阵列的设计使其灵敏度均匀性好，以改善敏感场的空间分布，使其具有二维场的分布特性；或是基于三维场描述敏感场特性研究媒质分布、重建图象算法及对图象的解释等等。③高质量的图象重建算法及图象物理意义解释算法的开发也很重要。图象重建算法主要是算法收敛性的改进和实时性的提高等方面

❷ matlab怎么使代码生成软件

打开MATLAB，这里用MATLAB R2012a版本，然后点击Simulink按钮，或者在Matlab命令行里输入simulink即可，就打开了Simulink仿真环境。点击Simulink左上角file——new—— modol，就建立了模型窗口。

接下来就是建立模型的过程，按照自己的设计，在上图的右侧子模块窗口中，单击“Source”子模块库前的“+”(或双击Source)，或者直接在左侧模块和工具箱栏单击Simulink下的Source子模块库，便可看到各种输入源模块。搭建模型的过程就不详细介绍。可参考下面的连接
1如何建立一个简单的Simulink模型

下面进入到最重要的环节。模型搭建运行成功时候，点击simulation下的选项configuration parameters，出现参数设置的窗口如下，接下来主要是参数设置的问题，以及代码自动生成的设置。
代码生成的模型配置主要是在Configuration Parameters参数配置集合中进行，嵌入式代码生成用的模型配置相对比较复杂。Configuration Parameters中集中管理着模型的代码生成方法、格式等约束条件。在Simulink窗口的Simulation的下拉菜单中，选择Configuration Parameters，或者按下Ctrl+E就可以打开Configuration Parameters参数配置对话框.
为了生成嵌入式代码，至少需要配置3个部分：模型的解算器solver；模型的系统目标文件（如ert.tlc或其他自定义的嵌入式系统目标文件）；硬件的实现规定（Hardware Implementation）。

1.模型的解算器solver的设置，solver页面如下图所示。
在研究代码生成时，solver的步长一定要设置为固定步长，因为RTW只能从固定步长的模型生成代码[21]。固定点solver提供了多种算法，本次的SVPWM模型中由于没有连续状态，可以选择discrete方法。步长默认auto，在简单的通用嵌入式代码生成过程中此参数没有实际作用，可以采用默认或者设置0.01s。而在针对目标芯片定制的代码生成过程中，硬件驱动工具箱往往会将步长step size作为其外设或内核中定时器的中断周期，使得生成的算法代码在硬件芯片中以同样的时间间隔执行。并且由于解算器步长为整个模型提供了一个基础采样频率，故被称为基采样率（base-rate）。

2. Hardware Implementation硬件的实现规定
Hardware Implementation选项是规定目标硬件规格的选项。在这个选项卡里，可以配置芯片的厂商和类型，设置芯片的字长、字节顺序等。在本次基于DSP的SVPWM算法的仿真代码生成中，Hardware Implementation选项设置如下图所示。

3. 模型的系统目标文件
另外一个关键的设置选项是控制整个代码生成过程的系统目标文件System Target File，ert.tlc文件是Embedded Coder提供的能够生成专门用于嵌入式系统C代码的系统目标文件。在Code Generation页面中，单击下图右上角的Browse按钮可以弹出对话框以选择系统目标文件。

Report子标签能够打开设置关于生产代码报告的页面，可以选择是否创建HTML格式的代码生成报告，并通过勾选框选择是否在模型编译结束后自动打开。最好勾选Create Code Generation Report及Open Repot automatically两个选项，模型生成代码完毕后会自动弹出报告列表，而不需要到文件夹中逐一将源文件手动查找并打开。
Include comments选项的勾选决定是否在生成代码中添加Simulink自带的注释。启动此选项后，Auto Generated comments组及Custom comments组的选项便被使能，可以根据需要选择希望生成的注释内容。最好勾选此选项，注释中将带有可以从代码跳转到对应模型的超链接，方便读者追溯模块与代码的对应关系。
Custom Code子标签页面主要用于添加用户自定义的或者编译模型时必须的源文件、头文件或者库文件等。
Debug子标签页面提供了关于编译过程和TLC过程的选项。Verbose build的勾选可以将编译过程信息显示在Command Window中。Retain.rtw file则能够保留编译模型生成时的rtw文件。TLC process组参数能够启动TLC文件的profile功能和调试功能，使得开发者能够对TLC语言文件进行断点、单步调试等动作。
rtw文件是代码生成过程中从Simulink模型得到的中间文件，它记录了模型相关的所有需要被TLC文件使用的信息。

最后，点击Generate code按钮即可自动生成所需代码。

自动生成的文件在MATLAB左侧的工作空间里，可以打开该文件夹查看自动生成的文件。

❸ 什么是数字签名

数字签名（又称公钥数字签名、电子签章）是一种类似写在纸上的普通的物理签名，但是使用了公钥加密领域的技术实现，用于鉴别数字信息的方法。一套数字签名通常定义两种互补的运算，一个用于签名，另一个用于验证。
数字签名，就是只有信息的发送者才能产生的别人无法伪造的一段数字串，这段数字串同时也是对信息的发送者发送信息真实性的一个有效证明。
数字签名是非对称密钥加密技术与数字摘要技术的应用。
数字签名的文件的完整性是很容易验证的（不需要骑缝章，骑缝签名，也不需要笔迹专家），而且数字签名具有不可抵赖性（不需要笔迹专家来验证）。
简单地说,所谓数字签名就是附加在数据单元上的一些数据,或是对数据单元所作的密码变换。这种数据或变换允许数据单元的接收者用以确认数据单元的来源和数据单元的完整性并保护数据,防止被人(例如接收者)进行伪造。它是对电子形式的消息进行签名的一种方法,一个签名消息能在一个通信网络中传输。基于公钥密码体制和私钥密码体制都可以获得数字签名,主要是基于公钥密码体制的数字签名。包括普通数字签名和特殊数字签名。普通数字签名算法有RSA、ElGamal、Fiat-Shamir、Guillou- Quisquarter、Schnorr、Ong-Schnorr-Shamir数字签名算法、Des/DSA,椭圆曲线数字签名算法和有限自动机数字签名算法等。特殊数字签名有盲签名、代理签名、群签名、不可否认签名、公平盲签名、门限签名、具有消息恢复功能的签名等,它与具体应用环境密切相关。显然,数字签名的应用涉及到法律问题,美国联邦政府基于有限域上的离散对数问题制定了自己的数字签名标准(DSS)。

参考来源：http://www.ert7.com

❹ 传输层Transport layer TCP, since 2020-08-05

(2020.08.07)
TCP被称为面向连接的(connection-oriented)，这是因为一个进程可以向另一个进程发送数据之前，两个进程需要先握手，即他们开始互相发送预备报文段，以确保建立数据连接的参数。

TCP是逻辑连接，其共同状态仅保存在两个通信端系统的TCP程序中。而端系统之间的网络元素不会维持TCP的连接状态。中间路由器对TCP完全视而不见，他们只看到数据报，而非连接。

通信特点
全双工(full-plex service)，处在不同主机的进程A和进程B之间存在一条连接，数据可以同时从A流向B和从B流向A。
点对点(point-to-point)，在单个发送方和单个接收方之间的连接。

服务器进程和客户进程
发起连接的进程称为客户进程，另一个称为服务器进程。
(2020.08.08)
数据一旦被送进socket，就由客户TCP控制了，TCP将数据放在一个数据缓存(send buffer)里(C/S两端都有)，该缓存也是三次握手时数据存放处。TCP会从缓存中取出一块数据，传递给网络层。

TCP首部+客户数据=TCP报文段(TCP segment)

TCP从send buffer中取出并放入报文段中数据的数据量受限于 最大报文段长度(maximum segment size, MSS) ，其根据最初确定的由本地主机发送的最大链路层帧长度(即最大传输单元Maximum transmission unit, MTU)来设置。以太网和PPP链路都有1500字节的MTU，考虑到TCP/IP首部一般是40字节(TCP首部20字节)，TCP报文段中数据长度典型值是1460字节。注意到这里的MSS指的是TCP报文段中来自应用层的数据的最大长度。

TCP连接的组成
一台主机上的缓存、变量和连接进程的socket，以及另一台主机上的缓存、变量、socket。

首部+数据字段。当TCP发送一个大文件，比如图片，TCP通常将该文件划分成长度为MSS的若干，除最后一块，其他的都是MSS长度。而Telnet这样的应用，数据字段只有一个字节长，也就是其TCP一般只有21个字节的长度。

典型长度：20字节/160bits (选项字段为空时)
源端口号：16bits
目的端口号：16bits
序号(seq num)：32bits
确认号(acknowledgment num)：32bits
接收窗口(receive window field)：16bits ，用于流量控制，指示接收方愿意接收的字节数量
首部长度(header length field)：4bits ，以32bits的字为长度的TCP首部长度
选项字段(options)：可选和变长
标志字段(flag field)：6bits ，ACK/RST/SYN/FIN/PSH/URG

序号建立在传送的字节流之上而非报文段的序列值上，the sequence number for a segment是报文段首字节的字节流编号。比如一个待发送的文件共10,000个字节，每个TCP的报文段发送1,000个，则第一个报文段的序号是0，第二个序号是1,000，以此类推。该序号是字节的编号，并用于给报文段编号。
上面的例子中假设初始序号是0，在实际应用中收发两方随机选择初始序号。
确认号略复杂。主机A和B之间建立TCP通信， 主机A填充进报文段的确认号是A期望从B收到的下一个字节的序号 。

报文段的样本RTT(SampleRTT)是报文段被发出(交给IP)到对该报文段的确认被收到之间的时间量。仅为一个已经发送的但目前尚未被确认的报文段估计SRTT，从而产生一个接近每个RTT的新SRTT值；不为已经被重传的报文段计算SRTT；仅为传输一次的报文段测量SRTT。

由于网络环境变化，比如路由器的拥塞和端负载的变化，SRTT并不都是典型的。TCP会维持一个SRTT的均值(EstimatedRTT)，并根据下面公式计算ERTT

其中的推荐值 。该指数加权移动平均值(Exponential Weighted Moving Average, EWMA)赋予最近样本的权值要高于旧样本的权值，因越近的样本能更好的反应网络的拥塞状态。

此外，RTT的标准差DevRTT用于估算SRTT偏离ERTT的程度：

推荐值 。

超时间隔应该大于等于ERTT，否则造成不必要的重传。但也不该比ERTT大很多，导致数据传输时延大。当SRTT波动大时，间隔大些，波动小时，间隔小些。

初始推荐值 ，当出现超时候翻倍。只要收到报文就更新ERTT，并根据公式重算TimeoutInterval。
(2020.08.09 Sat)
定时器
定时器的管理需要相当大的开销，因此[RFC 6298]推荐仅使用单一的重传定时器，即便有多个已发送但未被确认的报文段。

(2020.08.09 Sat)
TCP中发送方相关的三个主要动作

发送方对这些主要动作的反馈参考可靠数据传输的部分。

超时间隔的选取
每当超时事件发生，TCP重传具有最小序号的未被确认的报文段。只是每次TCP重传是都会将下一次的超时间隔设为先前值的两倍，而不是用从EstimatedRTT和DevRTT推算的值。然而每当定时器遇到另外两个事件，即ACK和上层数据，定时器的启动TimeoutInterval由最近的ERTT和DRTT推算得到。

TCP两侧的主机都有接收缓存。流量控制服务用于消除sndr使rcvr缓存溢出的可能性。fcs因此是一个速度匹配服务，即sndr的发送速率和rcvr应用程序的读取速率相匹配。
TCP让sndr维护一个接收窗口(receive window)的变量来提供流量控制，即rw用于给sndr一个指示-该sndr还有多少可用的缓存空间。TCP是全双工通信，两端的发送方都维护一个rw。分析一种情况，主机A通过TCP向B发送一个大文件，B为该连接分配一个接收缓存，用RcvBuffer来表示。B的应用进程从该缓存中读取数据。有如下变量

缓存不许溢出，故有 接收窗口用rwnd表示，缓存可用空间数量(即空闲的空间数量)表示为
主机A需要跟踪另外两个变量，LastByteSent和LastByteAcked，对A来说有
一个特例，当B的接收缓存满，rwnd=0，假设此时B没有任何数据要发送给A。考虑到TCP并不向A发送带有rwnd的新报文段， 而事实上TCP仅当有数据或去人要发时才会发送报文段给A。导致A不知道B的接收缓存有新空间，A被阻塞不能在发送数据。解决方案，TCP规范要求，B的接收窗口为0时，A继续发送只有一个字节数据的报文段，这些报文段将会被接收方确认，最终缓存开始清空，且确认报文段将包含一个非0的rwnd值。

(2020.08.05)
TCP建立过程中三个握手(three-way handshake)的作用

三次发送，sndr/rcvr双方各自确认了自身和对方的接收能力和发送能力。握手完成便可建立连接。
(2020.08.07)
前两次握手的报文段不承载"有效载荷"，也就是不包含应用层数据，第三个握手可以承载应用层数据。

(2020.08.09 Sat)

完成这三步，C-S可通信，以后每一个报文段的SYN都设置为0。
结束连接
客户打算结束连接，发出一个特殊的报文段，设置其中的FIN=1。服务器接收到回复一个确认报文段，其中的FIN=1。服务器再次发送一个结束连接报文段，FIN=1。客户收到后发送ACK并释放占用的资源。

IP层不会向两个端系统提供有关网络拥塞的反馈信息。略。

发送方sndr设定一个变量，拥塞窗口congestion windown，cwnd，它对TCP发送方能向网络中发送流量的速率进行了限制，并且和前面提到的接收窗口rwnd联合决定了发送速率，即
TCP如何感知它和目的地之间的拥塞
定义丢包事件：出现超时，或者受到来自接收方的3个冗余ACK。
一个丢失的报文段意味着拥塞，当报文丢失应该降低TCP sndr的发送速率。 即减小cwnd。
一个确认报文段指示该网络正在向rcvr交付sndr的报文段，因此，当对先前未确认报文段的确认到达时，能够增加发送方的速率。
贷款检测。

该算法分为三部分，1)慢启动，2)拥塞避免，3)快速恢复。其中的1和2是TCP强制部分。在收到ACK时，慢启动比拥塞避免更快的增加cwnd的长度。

当一个TCP连接开始时，cwnd的值通常设为一个MSS的较小值。这使得发送速率大约为MSS/RTT。如MSS=500Bytes，RTT=200ms，则初始发送速率是20kbps。注意到此时带宽可能比初始速率快的多。慢启动(slow-start)状态，cwnd的值以一个MSS开始并且每当传输的报文段首次被确认就增加一个MSS。这一过程使得每过一个RTT，发送速率就翻番。初始速度慢，但ss阶段以指数增长。

结束ss的情况

❺ vb 请教高手

如何实现浮雕效果的深度及灯光效果的角度均可调节，并增加水彩的效果的图像处理?

首先，你先学习一下美术吧，里面会有介绍的；
其次，到网上搜索一下吧，浮雕效果的制作等；
然后，再考虑怎么用VB实现吧；
最后，请选择SDK来实现。

程序说明
可以对512*512的256色位图进行锐化、浮雕效果处理。
锐化图像 锐化图像就是要突出形体的边缘。边缘也就是颜色值发生显着变化的地方，在程序中采取了下列算法。
New_color=original_color+0.5* different
differert表示相邻像素之间的差值。0.5为锐化系数，系数越大，锐化效果就越突出。
浮雕效果 浮雕效果是只取相邻像素的差值。这时，图像的平淡区被完全“抹平”，只能看到图像的边缘，程序中采用的算法如下：
new_color=different+128
扩散效果 扩散效果在图像中引入了一定的随机性，使图像有油画般的效果。应在当前像素点周围5*5的像素块中随机取一点作为当前像素值。
柔化图像 柔化操作使原图看起来更加柔和，有种蒙胧感。柔化可以削减图像中颜色的显着变化，使形体的边界趋于平滑。柔化图像，就是要减少像素之间较大的差别。取以当前像素为中心的3*3的像素块，取这个像素块中颜色的平均值和周围像素趋于一致，这样就削减了颜色的显着变化。对图像中每个像素点都进行同样的操作，就构成了对整幅图像的柔化。
影响柔化程度的一个因素是选取像素块的大小。所选取的像素块越大，产生的柔化效果越强烈，加强柔化效果，即通过改变像素块的大小来调节柔化强度。
马赛克效果 将欲生成马赛克效果的图像分成n*n个像素块，每个像素块的像素取平均值作为这n*n个像素点的值。

❻ 今我来思，堆栈泛化（Stacked Generalization）

​在集成学习（Ensemble Learning）中除了Bagging和Boosting对数据的横向划分划分之外，还有一个纵向划分（加深）的方法， 一般称为Stacked Generalization（SG）的技术。  SG这个技术已经在Kaggle竞赛中多次崭露头角了， 部分情况下，应用SG技术可以让错误率进一步降低30%。

什么是SG？

为了阐述， 下面借用了一张很直观的SG的示意图： 数据划分的纵向上有两层学习器， 把Level 0的Base-learner学习器的输出， 作为Level 1学习器的输入， Level 1的学习器又被称为Meta-learner或者Generalizer。 这种集成学习方式就是SG， 也称为Stacking。

SG是怎么诞生的？

最早重视并提出Stacking技术的是David H. Wolpert，他在1992年发表了SG技术论文：这好比是巧妙的扩展了交叉验证（cross-validation）， 通过胜者全得（winner-takes-all）的方式来集成的方法。 Wolpert大神是一个三栖学者， 数学家， 物理学家， 和计算学家。 他更为成名的是1995年提出No-Free-Lunch（NFL）理论。 NFL理论很直观，就是算法差异更多在于适不适合你要解决的问题。 比较多个算法， 例如，问题P1和机器学习M1合适， 但是不可能合适所有的问题。

Wolpert

多个算法的NFL解释

两个算法的NFL解释

也许NFL是对SG技术有效性更深层次思考的一种解释：如何协调不同的算法的适用性呢？ SG就是这么一种有效的技术。

SG的基因？

SG是Ensemble Learning中异源集成（heterogenous ensembles）的典型代表。一般来说，同源集成（homogenous ensembles）就是Bagging和Boosting了（还有一个Cascading 的小众集成学习方法， 也可以算是同源集成）。

Bias-Variance平衡是机器学习的经典话题， 而集成学习就是在尽量不增加一方， 想法设法降低另外一方， 或者同时降低两者的方法， 而代价就是集成。

一句话， Stacking的基因就是Ensemble中Aggregation方法进一步泛化的结果， 是通过Meta-Learner来取代Bagging和Boosting的Voting/Averaging来综合降低Bias和Variance的方法。 譬如： voting可以通过KNN来实现， weighted voting可以通过softmax（Logistic Regression）， 而averaging可以通过线性回归来实现。

Bagging， Boosting和Stacking的差异？

借用三张清晰的比较Bagging，Boosting， 和Stacking的示意图， 如下：

Bagging有一个Bootstrap的数据准备过程， 然后每份数据会学习出一个学习器， 然后基于这组学习的输出结果进行Voting或者Averaging，整个流程可以并行(Parallel)处理。

Boosting 根据当前学习器的错误率(Error Rate)来对数据进行筛选， 然后基于高错误率的数据再训练新的学习器，同时调整已有学习器的权重。 最后通过带权重的投票（Weighted Voting）来分类， 整个过程是有依赖顺序（Sequential）的。

Stacking是先设好学习器base-learner， 然后把base-learner的输出作为meta-learner的输入进行集成。 这个框架简单，但是灵活度很高。

下面，总结下它们在目标， 数据， 分类器和集成方式等方面的差异：

其实， Stacking具有的灵活和不确定性，使得它既可以来实现Bagging方式， 又可以来实现Boosting方式。

SG是如何长成的？

理论方面，SG被Wolpert在1992年提出后，Leo Breiman这个大神， 在1996年把广义线性模型（Generalized Linear Model）和SG方法结合起来提出了 "Stacked Regressions"。 再之后，同样来自伯克利（Berkeley）的Mark J. van der Laan在2007的时候在表述Super Learner的时候， 从理论上证明了Stacking方法的有效性。

实践方面， 除了SG理论本身的突破之外， SG应用的广度和深度也在不停的突破， 其中一个是训练数据的分配（Blending的出现）； 而另外一个是深层（3层以上）Stacking的出现。

Blending是一个简单模式， 除了最后一层一个Generalizer之外， 其他每层都是一组学习器， 然后两层之间相互连接一个或者多个的Base-learner学习器。前面我们讲到Stacking的训练， 是把这个集成模型看出一个大的学习器， 进行Cross-Validation的训练。 但是Blending希望把数据按层进行划分训练， 例如：

2层的Blending， 就会拿90%训练输入层， 然后10%数据训练输出层。

3层的Blending， 就会拿70%训练输入层，20%训练中间层， 然后10%的数据训练输出层。

深度方面， Stacking也可以比较深（3层以上）， 借用一个图示意如下：

除了上述两方面， 要搞定一个Stacked Generalization框架除了Stacking本身，其实还要做其他很多工作的。 如下图， 借用了别人解释的Kaggle竞赛中建立Stacking框架的概要Overview：

在上面这个图中， 除了列了各种操作， 还列了部分Stacking的Meta-learner， 例如XGB等， 那么有哪些常见的Meta-learner呢?

常见Meta-learner是？

SG的最后的meta-learner层很大程度是要矫正不同学习器之间的Bias。 因此它的选择是个很大的挑战。 早期人们在提如何设计meta-learner时候有两点要求： 1）meta-learner的输入最好是类别的概率，而不是直接类别的标签。 2）结合线性或者非线性回归的计算可以用来集成类别的概率。 下面列一下已经被用过的meta-learner。

1. 统计方法的Meta-Learner:

Voting ( Majority based, Probabilitybased)

Averaging （Weighted, Ranked）

2. 经典容易解释的机器学习算法：

Logistic Regression (LR)

Decision Tree (C4.5)

3. 非线性（non-linear）机器学习算法：

Gradient Boosting Machine (GBM，XGBoost),

Nearest Neighbor (NN),

k-Nearest Neighbors (k-NN),

Random Forest (RF)

Extremely Randomized Trees (ERT).

4. 加权一次/二次线性（Weighted Linear / Quadratic）模型

Feature weighted linear stacking

Quadratic - Linearstacking

5. Multiple response 分析（非线性）框架

Multi-response linear regression (MLR)

Multi-response model trees (MRMT)

6. 无监督（Unsupervised）方法

- 聚类 Clustering

K-Means

Unsupervised Hierarchical Weighted Multi-segmenter

-维度压缩 Dimension Rectoin

t-Distributed Stochastic Neighbor Embedding (t-SNE)

7. 其他， 在线学习， 神经网络，遗传学习,  群体智能 等：

-在线学习 Online stacking (OS)

Linear perceptron with online random tree

Random bit regression （RBR）

Vowpal Wabbit  (VW)

Follow the Regularized Leader (FTRL)

-神经网络Artificial neural network （ANN）

2 layer - ANN

3 layer - ANN

-遗传学习 Genetic algorithm (GA)

GA-Stacking

-群体智能 Swarm intelligence (SI)

Artificial bee colony algorithm

另外， 这有个文章列表显示从1997年到2013年， Meta-learner的设置越来越新颖广泛：

如何测试评价呢？

各种评价标准：

ACC: accuracy

RMS: root-mean-squared error

MXE: mean cross entropy

LFT: lift

BEP: precision/recall break-even point

FSC: precision-recall F score

APR: average precision

ROC: ROC / AUC

CAL: probability calibration

SAR: (ACC + ROC + (1 - RMS) )  / 3  (一种综合的稳定的评价标准)

综上， SG是很强大的集成方式， 某种意义上， 和深度学习类似， 纵向增加了学习深度， 但是也增加了模型复杂型和不可解释性。如何精心的选择Meta-learner 和 Base-learner， 训练方式， 评价标准等也是要重视的经验。

参考：

http://machine-learning.martinsewell.com/ensembles/stacking/

http://www.cs.utsa.e/~bylander/cs6243/wolpert92stacked.pdf

http://www.santafe.e/about/people/profile/David%20Wolpert

http://mlwave.com/kaggle-ensembling-guide/

http://www.chioka.in/stacking-blending-and-stacked-generalization/

http://manish2020.blogspot.my/2012_12_01_archive.html

http://blog.fliptop.com/blog/2015/03/02/bias-variance-and-overfitting-machine-learning-overview/

http://blog.kaggle.com/2015/12/03/dato-winners-interview-1st-place-mad-professors/

https://en.wikipedia.org/wiki/Cascading_classifiers

http://www.stata.com/support/faqs/data-management/multiple-responses/

http://gerardnico.com/wiki/data_mining/non_linear

http://puyokw.hatenablog.com/entry/2015/12/12/090000

http://qiita.com/sergeant-wizard/items/d1509f71943b429929cf

https://www.semanticscholar.org/paper/Issues-in-Stacked-Generalization-Ting-Witten/

https://www.quora.com/What-are-the-different-ways-to-generalize-logistic-regression-to-multiple-class-labels-instead-of-only-binary

https://discuss.analyticsvidhya.com/t/stacked-generalization/2589

http://blog.csdn.net/u014114990/article/details/50819948

https://www.52ml.net/19553.html

https://github.com/stinstansbury/stacked_generalization

http://www.tuicool.com/articles/IJza2ij

https://my.oschina.net/airxiechao/blog/755899

http://www.emeraldinsight.com/doi/abs/10.1108/14684520310510091

❼ 圆周率（3.14159265358。。。。。）是怎样得到的

圆周率的计算方法
古人计算圆周率，一般是用割圆法。即用圆的内接或外切正多边形来逼近圆的周长。Archimedes用正96边形得到圆周率小数点后3位的精度；刘徽用正3072边形得到5位精度；Ludolph Van Ceulen用正262边形得到了35位精度。这种基于几何的算法计算量大，速度慢，吃力不讨好。随着数学的发展，数学家们在进行数学研究时有意无意地发现了许多计算圆周率的公式。下面挑选一些经典的常用公式加以介绍。除了这些经典公式外，还有很多其它公式和由这些经典公式衍生出来的公式，就不一一列举了。
1、Machin公式
[这个公式由英国天文学教授John Machin于1706年发现。他利用这个公式计算到了100位的圆周率。Machin公式每计算一项可以得到1.4位的十进制精度。因为它的计算过程中被乘数和被除数都不大于长整数，所以可以很容易地在计算机上编程实现。
还有很多类似于Machin公式的反正切公式。在所有这些公式中，Machin公式似乎是最快的了。虽然如此，如果要计算更多的位数，比如几千万位，Machin公式就力不从心了。下面介绍的算法，在PC机上计算大约一天时间，就可以得到圆周率的过亿位的精度。这些算法用程序实现起来比较复杂。因为计算过程中涉及两个大数的乘除运算，要用FFT（Fast Fourier Transform）算法。FFT可以将两个大数的乘除运算时间由O（n2）缩短为O（nlog（n））。
2、Ramanujan公式
1914年，印度数学家Srinivasa Ramanujan在他的论文里发表了一系列共14条圆周率的计算公式。这个公式每计算一项可以得到8位的十进制精度。1985年Gosper用这个公式计算到了圆周率的17,500,000位。
1989年，David & Gregory Chudnovsky兄弟将Ramanujan公式改良，这个公式被称为Chudnovsky公式，每计算一项可以得到15位的十进制精度。1994年Chudnovsky兄弟利用这个公式计算到了4,044,000,000位。Chudnovsky公式的另一个更方便于计算机编程的形式是：
3、AGM（Arithmetic-Geometric Mean）算法
Gauss-Legendre公式：
这个公式每迭代一次将得到双倍的十进制精度，比如要计算100万位，迭代20次就够了。1999年9月Takahashi和Kanada用这个算法计算到了圆周率的206,158,430,000位，创出新的世界纪录。
4、Borwein四次迭代式：
这个公式由Jonathan Borwein和Peter Borwein于1985年发表，它四次收敛于圆周率。
5、ley-borwein-plouffe算法
这个公式简称BBP公式，由David Bailey, Peter Borwein和Simon Plouffe于1995年共同发表。它打破了传统的圆周率的算法，可以计算圆周率的任意第n位，而不用计算前面的n-1位。这为圆周率的分布式计算提供了可行性。1997年，Fabrice Bellard找到了一个比BBP快40％的公式：

❽ 基于密度的聚类方法 Density-based clustering

我们生活在数据大爆炸时代，每时每刻都在产生海量的数据如视频，文本，图像和博客等。由于数据的类型和大小已经超出了人们传统手工处理的能力范围，聚类，作为一种最常见的无监督学习技术，可以帮助人们给数据自动打标签，已经获得了广泛应用。聚类的目的就是把不同的数据点按照它们的相似与相异度分割成不同的簇（注意：簇就是把数据划分后的子集），确保每个簇中的数据都是尽可能相似，而不同的簇里的数据尽可能的相异。从模式识别的角度来讲，聚类就是在发现数据中潜在的模式，帮助人们进行分组归类以达到更好理解数据的分布规律。

聚类的应用非常广泛，比如在商业应用方面，聚类可以帮助市场营销人员将客户按照他们的属性分层，发现不同的客户群和他们的购买倾向（如下图将客户按照他们对颜色喜好归类）。这样公司就可以寻找潜在的市场，更高效地开发制定化的产品与服务。在文本分析处理上，聚类可以帮助新闻工作者把最新的微博按照的话题相似度进行分类，而快速得出热点新闻和关注对象。在生物医学上，可以根据对相似表达谱的基因进行聚类，从而知道未知基因的功能。

由于聚类是无监督学习方法，不同的聚类方法基于不同的假设和数据类型。由于数据通常可以以不同的角度进行归类，因此没有万能的通用聚类算法，并且每一种聚类算法都有其局限性和偏见性。也就是说某种聚类算法可能在市场数据上效果很棒，但是在基因数据上就无能为力了。

聚类算法很多，包括基于划分的聚类算法（如：k-means），基于层次的聚类算法（如：BIRCH），基于密度的聚类算法（如：DBSCAN），基于网格的聚类算法( 如：STING )等等。本文将介绍聚类中一种最常用的方法——基于密度的聚类方法 （density-based clustering）。

相比其他的聚类方法，基于密度的聚类方法可以在有噪音的数据中发现各种形状和各种大小的簇。DBSCAN（Ester, 1996）是该类方法中最典型的代表算法之一（DBSCAN获得 2014 SIGKDD Test of Time Award ）。其核心思想就是先发现密度较高的点，然后把相近的高密度点逐步都连成一片，进而生成各种簇。算法实现上就是，对每个数据点为圆心，以eps为半径画个圈（称为邻域eps-neigbourhood），然后数有多少个点在这个圈内，这个数就是该点密度值。然后我们可以选取一个密度阈值MinPts，如圈内点数小于MinPts的圆心点为低密度的点，而大于或等于MinPts的圆心点高密度的点（称为核心点Core point）。如果有一个高密度的点在另一个高密度的点的圈内，我们就把这两个点连接起来，这样我们可以把好多点不断地串联出来。之后，如果有低密度的点也在高密度的点的圈内，把它也连到最近的高密度点上，称之为边界点。这样所有能连到一起的点就成一了个簇，而不在任何高密度点的圈内的低密度点就是异常点。下图展示了DBSCAN的工作原理。

由于DBSCAN是靠不断连接邻域内高密度点来发现簇的，只需要定义邻域大小和密度阈值，因此可以发现不同形状，不同大小的簇。下图展示了一个二维空间的DBSCAN聚类结果。

DBSCAN算法伪码表达如下：

由于DBSCAN使用的是全局的密度阈值MinPts, 因此只能发现密度不少于MinPts的点组成的簇，即很难发现不同密度的簇。其成功与失败的情况举例如下：

为了解决其发现不同密度的簇，目前已经有很多新的方法被发明出来，比如OPTICS （ordering points to identify the clustering structure）将邻域点按照密度大小进行排序，再用可视化的方法来发现不同密度的簇，如下图所示。OPTICS必须由其他的算法在可视化的图上查找“山谷”来发现簇，因此其性能直接受这些算法的约束。

另外SNN （shared nearest neighbor）采用一种基于KNN（最近邻）来算相似度的方法来改进DBSCAN。对于每个点，我们在空间内找出离其最近的k个点（称为k近邻点）。两个点之间相似度就是数这两个点共享了多少个k近邻点。如果这两个点没有共享k近邻点或者这两个点都不是对方的k近邻点，那么这两个点相似度就是0。然后我们把DBSCAN里面的距离公式替换成SNN相似度，重新算每个点的邻域和密度，就可以发现不同密度的簇了。SNN的核心就是，把原始的密度计算替换成基于每对点之间共享的邻域的范围，而忽略其真实的密度分布。SNN的缺点就是必须定义最近邻个数k, 而且其性能对k的大小很敏感。下图展示了SNN计算相似度的方法。

2014年Science 杂志刊登了一种基于密度峰值的算法DP (Clustering by fast search and find of density peaks)，也是采用可视化的方法来帮助查找不同密度的簇。其思想为每个簇都有个最大密度点为簇中心，每个簇中心都吸引并连接其周围密度较低的点，且不同的簇中心点都相对较远。为实现这个思想，它首先计算每个点的密度大小（也是数多少点在邻域eps-neigbourhood内），然后再计算每个点到其最近的且比它密度高的点的距离。这样对每个点我们都有两个属性值，一个是其本身密度值，一个是其到比它密度高的最近点的距离值。对这两个属性我们可以生成一个2维图表（决策图），那么在右上角的几个点就可以代表不同的簇的中心了，即密度高且离其他簇中心较远。然后我们可以把其他的点逐步连接到离其最近的且比它密度高的点，直到最后连到某个簇中心点为止。这样所有共享一个簇中心的点都属于一个簇，而离其他点较远且密度很低的点就是异常点了。由于这个方法是基于相对距离和相对密度来连接点的，所以其可以发现不同密度的簇。DP的缺陷就在于每个簇必须有个最大密度点作为簇中心点，如果一个簇的密度分布均与或者一个簇有多个密度高的点，其就会把某些簇分开成几个子簇。另外DP需要用户指定有多少个簇，在实际操作的时候需要不断尝试调整。下图展示了一个DP生成的决策图。

除此之外，还可以用密度比估计（Density-ratio estimation）来克服DBSCAN无法发现不同密度簇的缺陷。密度比的核心思想就是对每个点，计算其密度与其邻域密度的比率，然后用密度比计算替换DBSCAN的密度计算来发现核心点Core point，而其他过程和DBSCAN不变。这样一来，每个局部高密度点就会被选出来作为核心点，从而发现不同密度的簇。基于这个思想，我们还可以把原始数据按其密度分布进行标准化（ReScale），即把密度高的区域进行扩张，密度低的区域继续收缩。这样以来，不同密度的簇就可以变成密度相近的簇了，我们再在标准化后的数据上直接跑DBSCAN就搞定了。这种方法需要用户设置邻域范围来计算密度比，下图展示了标准化前后的数据分布对比。

基于密度的聚类是一种非常直观的聚类方法，即把临近的密度高的区域练成一片形成簇。该方法可以找到各种大小各种形状的簇，并且具有一定的抗噪音特性。在日常应用中，可以用不同的索引方法或用基于网格的方法来加速密度估计，提高聚类的速度。基于密度的聚类也可以用在流数据和分布式数据中，关于其他方向的应用，详见 （ Aggarwal 2013 ）.

DP:   https://au.mathworks.com/matlabcentral/fileexchange/53922-densityclust

DBSCAN, SNN, OPTICS 和 Density-ratio: https://sourceforge.net/projects/density-ratio/

Aggarwal, C. C., & Reddy, C. K. (Eds.). (2013). Data clustering: algorithms and applications. CRC press.

Ankerst, M., Breunig, M. M., Kriegel, H. P., & Sander, J. (1999, June). OPTICS: ordering points to identify the clustering structure. In ACM Sigmod record (Vol. 28, No. 2, pp. 49-60). ACM.

Ertöz, L., Steinbach, M., & Kumar, V. (2003, May). Finding clusters of different sizes, shapes, and densities in noisy, high dimensional data. In Proceedings of the 2003 SIAM International Conference on Data Mining(pp. 47-58). Society for Instrial and Applied Mathematics.

Ester, M., Kriegel, H. P., Sander, J., & Xu, X. (1996, August). A density-based algorithm for discovering clusters in large spatial databases with noise. In SIGKDD (Vol. 96, No. 34, pp. 226-231).

Han, J., Pei, J., & Kamber, M. (2011).Data mining: concepts and techniques. Elsevier.

Rodriguez, A., & Laio, A. (2014). Clustering by fast search and find of density peaks.Science,344(6191), 1492-1496.

Zhu, Y., Ting, K. M., & Carman, M. J. (2016). Density-ratio based clustering for discovering clusters with varying densities. Pattern Recognition, Volume 60, 2016, Pages 983-997, ISSN 0031-3203.

❾ Simulink模型编译的.C文件怎么读理解

我印象中和cruise联合仿真的时候是要选择avl的tlc文件的。自带的grt.tlc毕竟是快速原型的c代码，它会生成除了算法之外的一大堆比如数据传递的其他代码，根本就不是为了给你看的c代码的。
这个跟ert.tlc不一样，ert.tlc生成的代码可以有链接追溯到模型。

❿ 关于java编程思想一个目录列表器例子的疑问

args 参数怎么传递给程序么？
命令行为例
比如你的程序名DirList
那就命令行下输入 c:\java DirList 参数1，参数2...
如果是ide 运行的时候有设置运行参数

下面是一个文件查找的实例，吧通配符改改就能实现，找什么都行啦

import java.io.File;
import java.util.ArrayList;
import java.util.List;

/**
* @author tiwson 2010-06-02
*
*/
public class FileSearcher {

/**
* 递归查找文件
*
* @param baseDirName
* 查找的文件夹路径
* @param targetFileName
* 需要查找的文件名
* @param fileList
* 查找到的文件集合
*/
public static void findFiles(String baseDirName, String targetFileName, List<File> fileList) {
/**
* 算法简述： 从某个给定的需查找的文件夹出发，搜索该文件夹的所有子文件夹及文件，
* 若为文件，则进行匹配，匹配成功则加入结果集，若为子文件夹，则进队列。 队列不空，重复上述操作，队列为空，程序结束，返回结果。
*/
String tempName = null;
// 判断目录是否存在
File baseDir = new File(baseDirName);
if (!baseDir.exists() || !baseDir.isDirectory()) {
System.out.println("文件查找失败：" + baseDirName + "不是一个目录！");
} else {
String[] filelist = baseDir.list();
for (int i = 0; i < filelist.length; i++) {
File readfile = new File(baseDirName + "\\" + filelist[i]);
// System.out.println(readfile.getName());
if (!readfile.isDirectory()) {
tempName = readfile.getName();
if (FileSearcher.wildcardMatch(targetFileName, tempName)) {
// 匹配成功，将文件名添加到结果集
fileList.add(readfile.getAbsoluteFile());
}
} else if (readfile.isDirectory()) {
findFiles(baseDirName + "\\" + filelist[i], targetFileName, fileList);
}
}
}
}

/**
* 通配符匹配
*
* @param pattern
* 通配符模式
* @param str
* 待匹配的字符串
* @return 匹配成功则返回true，否则返回false
*/
private static boolean wildcardMatch(String pattern, String str) {
int patternLength = pattern.length();
int strLength = str.length();
int strIndex = 0;
char ch;
for (int patternIndex = 0; patternIndex < patternLength; patternIndex++) {
ch = pattern.charAt(patternIndex);
if (ch == '*') {
// 通配符星号*表示可以匹配任意多个字符
while (strIndex < strLength) {
if (wildcardMatch(pattern.substring(patternIndex + 1), str.substring(strIndex))) {
return true;
}
strIndex++;
}
} else if (ch == '?') {
// 通配符问号?表示匹配任意一个字符
strIndex++;
if (strIndex > strLength) {
// 表示str中已经没有字符匹配?了。
return false;
}
} else {
if ((strIndex >= strLength) || (ch != str.charAt(strIndex))) {
return false;
}
strIndex++;
}
}
return (strIndex == strLength);
}

public static void main(String[] paramert) {
// 在此目录中找文件
String baseDIR = "C:\\Users\\Administrator\\Desktop\\tmp";
// 找扩展名为txt的文件
String fileName = "*2*.jpg";
List<File> resultList = new ArrayList<File>();
FileSearcher.findFiles(baseDIR, fileName, resultList);
if (resultList.size() == 0) {
System.out.println("No File Fount.");
} else {
for (int i = 0; i < resultList.size(); i++) {
System.out.println(resultList.get(i));// 显示查找结果。
}
}
}

}