推荐系统学习

05 March 2014

参考自网上许多资料，维基百科，IBM Developer三篇文章，《WEB智能算法》

基础数学知识

加权平均数： $\overline{x} = \frac{\sum_{i=1}^{n}w_ix_i}{\sum_{i=1}^{n}w_i}$
方差：在概率论和统计学中，一个随机变量的方差描述的是它的离散程度，也就是该变量离其期望值的距离。 $s^2 = \sum_{i=1}^{n}p_i \cdot (x_i-\bar{x})$
标准差：又常称均方差，反映组内个体间的离散程度。 $s = \sqrt{\sum_{i=1}^{n}p_i \cdot (x_i-\bar{x})}$

数据归一化

欧式距离

n维空间两点之间的距离，设 M_1(x_1,x_2,...,x_n) 和 M_2(y_1,y_2,...,y_n) 为n维空间中的两点，则它们的距离（即向量的摸）为：

$d(M_1,M_2) = \sqrt{\sum (x_i-y_i)^2}$

朴素相似度

相似度介于0~1之间，0表示用户完全不相同，1表示用户爱好一致，CommonItems的值为两用户对相同物品都有评分的数量，MaxCommonItems的值为两用户对物品有评分的数量的最大者。

$sim(M_1,M_2) = \frac{beta}{beta+d(M_1,M_2)}$

$sim(M_1,M_2) = 1 - \tanh (\frac{d(M_1,M_2)}{\sqrt{CommonItems}})$

$sim(M_1,M_2) = (1 - \tanh (\frac{d(M_1,M_2)}{\sqrt{CommonItems}})) \cdot \frac{CommonItems}{MaxCommonItems}$

余弦相似度 (Cosine Similarity)

相当于计算两向量夹角的余弦值。余弦相似度通常用于两个向量的夹角小于90°之内，因此余弦相似度的值为0到1之间。

$sim(M_1,M_2)=\frac{\sum{x_iy_i}}{\sqrt {\sum x_i^2} \sqrt {\sum y_i^2}}$

修正的余弦相似度 (Adjusted Cosine Similarity)

余弦相似度能判断两组数据的趋势是否相似，但存在一个缺陷：假设内容评分为1-5，用户A对某两个内容的评分为(1,2)，用户B对同样两个内容的评分为(4,5)，那么使用余弦相似度计算得到：0.978，因此就出现了修正的余弦相似度，即所有维度上的数值都减去该维度的均值。

$sim(M_1,M_2)=\frac{\sum{(x_i-\overline{M_1})(y_i-\overline{M_2})}}{\sqrt {\sum (x_i-\overline{M_1})^2} \sqrt {\sum (y_i-\overline{M_2})^2}}$

那么使用修正的余弦相似度来计算的话为：0.316，显然该值才符合实际。

皮尔逊相关系数

应用于线性相关的数据，对于非线性相关的数据：斯皮尔曼等级相关系数和肯得尔系数

将两组数据首先做Z分数处理之后，然后两组数据的乘积和除以样本数。

Z分数一般代表正态分布中，数据偏离中心点的距离，等于变量减掉平均数再除以标准差。

标准差则等于变量减掉平均数后的平方和，再除以样本数，最后再开方。

$r_{M_1M_2} = \frac{\sum z(x_i)z(y_i)}{n} = \frac{\sum (x_i-\overline{M_1})(y_i-\overline{M_2})}{n\cdot s(M_1)s(M_2)}$

$r_{M_1M_2} = \frac{\sum (x_i-\overline{M_1})(y_i-\overline{M_2})}{n\cdot \sqrt {\frac{1}{n}\sum (x_i-\overline{M_1})^2}\sqrt {\frac{1}{n}\sum {(y_i-\overline{M_2})^2}}}$