ML的迭代学习过程
2021-02-09高焕堂
高焕堂
从数据中寻找出W和B就是ML的主要任务之一。然而,ML并没办法直接计算出能够满足这个目标的W和B值,但是它会逐步地修正W和B,来满足输入空间与目标空间的对映关系(即规律)。本文将说明ML的逐步(迭代)学习策略及过程。
1 设定目标(Target)点
在上一期里,介绍了从X空间对映到Z空间的范例,其中提供了已知的X数据,以及对映的Z数据。如下表:
于是,ML就来寻找其中的对映规律,并利用W和B来表达和记住它。那么,ML(或AI)是如何寻找出W和B的呢?答案是:逐步(迭代)寻找出来的。一旦逐渐寻找出最佳的W和B,再搭配两个公式来表达出两个空间里数据的对映规律性。此时,人们告诉ML寻找出W和B,并且希望能够将X=[-5,0,5]很准确地对映到目标Z=[0,0.5,1]。然而,ML并没办法直接计算出能够满足这个目标的W和B值。但是它会逐步地修正W和B,来满足上述X=[-5,0,5]与目标Z=[0,0.5,1]的对映关系(即规律)。所以,我们通称Z空间这些点为:目标(Target)点。
现在就来观察ML寻找W和B的趋近过程。在这个过程中,每走一步就会衡量一次,计算出现在与目标值的误差。然后会修正W和B来缩小与目标值的误差。每一次计算目前误差,并进行修正W和B,这称为:1个回合。例如:

这画面上有3个按钮,可观察ML逐步趋近的过程。
2 迭代寻找权重W和B,并计算预测值
2.1 寻找10回合
请按下<迭代学习(10回合)>按钮,展开学习10回合,就找到了W=0.11,B=0。如下图所示:
基于这个W和B值,将X=[-5,0,5]对映到Z空间。其计算过程为:
依据人们的意愿,这个X=[-5]应该对映到目标值Z=[0]。然而,因为目前还没找到最好的W和B,所以经X*W+B=Y和Sigmoid(Y)=Z计算出来的值是Z=[0.37],与目标值T=[0]有些误差。……
