人工智能(无监督学习-降维)——非负矩阵分解(NMF)

慈云数据 2024-05-09 技术支持 48 0

1.1 非负矩阵分解

( Non-negative Matrix Factorization , NMF ):是在矩阵中所有元素均为非负数约束条件之下的矩阵分解方法。

1.2 基本思想

给定一个非负矩阵 V , NMF 能够找到一个非负矩阵 W 和一个非负矩阵H ,使得矩阵 W 和 H 的乘积近似等于矩阵 V 中的值。

1.3 W矩阵

基础图像矩阵,相当于从原矩阵V 中抽取出来的特征。

1.4 H矩阵

系数矩阵。NMF能够广泛应用于图像分析、文本挖掘语音处理等领域。

上图摘自 NMF 作者的论文, 左侧 为 W矩阵 ,可以看出从原始图像中抽取出来的 特征 , 中间 的

是 H矩阵 。可以发现乘积结果与原结果是很像的。

2 矩阵分解优化目标


最小化 W 矩阵 H 矩阵的乘积和原始矩阵之间的差别,目标函数如下:

基于 KL 散度的优化目标,损失函数如下:

(公式的推导略)

3 案例


NMF人脸数据特征提取

**目标:**已知Olivetti人脸数据共400个,每个数据是64*64大小。由于NMF分解得到的 W矩阵相

当于从原始矩阵中提取的特征 ,那么就可以使用NMF对400个人脸数据进行特征提取。

通过设置k的大小,设置提取的特征的数目。在本实验中设置k=6,随后将提取的特征以图像的形式展示出来。

4 代码实现(Python)


在sklearn库中,可以使用sklearn.decomposition.NMF加载NMF算法,主要参数有:

• n_components:用于指定分解后矩阵的单个维度k;

• init:W矩阵和H矩阵的初始化方式,默认为‘nndsvdar’。

4.1 代码

#1. 建立工程,导入sklearn相关工具包:=

from numpy.random import RandomState #加载RandomState用于创建随机种子

import matplotlib.pyplot as plt

from sklearn.datasets import fetch_olivetti_faces #加载Olivetti人脸数据集导入函数

from sklearn import decomposition #加载PCA算法包

from pylab import *

import matplotlib; matplotlib.use(‘TkAgg’)

mpl.rcParams[‘font.sans-serif’] = [‘SimHei’]

mpl.rcParams[‘axes.Unicode_minus’] = False

#==2. 设置基本参数并加载数据:=

n_row, n_col = 2, 3 #设置图像展示时的排列情况,如右图

n_components = n_row * n_col #设置提取的特征的数目

image_shape = (64, 64) #设置人脸数据图片的大小

#=3.下载人脸数据:============

dataset = fetch_olivetti_faces(shuffle=True, random_state=RandomState(0)) #加载数据,并打乱顺序

faces = dataset.data #加载数据,并打乱顺序

#=4. 设置图像的展示方式:======

def plot_gallery(title, images, n_col=n_col, n_row=n_row):

plt.figure(figsize=(2. * n_col, 2.26 * n_row)) #创建图片,并指定图片大小(英寸)

plt.suptitle(title, size=16) #设置标题及字号大小

for i, comp in enumerate(images):

plt.subplot(n_row, n_col, i + 1) #选择画制的子图

vmax = max(comp.max(), -comp.min())

#对数值归一化,并以灰度图形式显示

plt.imshow(comp.reshape(image_shape), cmap=plt.cm.gray,

interpolation=‘nearest’, vmin=-vmax, vmax=vmax)

plt.xticks(()) #去除子图的坐标轴标签

plt.yticks(())

plt.subplots_adjust(0.01, 0.05, 0.99, 0.94, 0.04, 0.) #对子图位置及间隔调整

plot_gallery(“首先是奥利维蒂的脸”, faces[:n_components])

#===5.创建特征提取的对象NMF,使用PCA作为对比:

estimators = [

自我介绍一下,小编13年上海交大毕业,曾经在小公司待过,也去过华为、OPPO等大厂,18年进入阿里一直到现在。

深知大多数Python工程师,想要提升技能,往往是自己摸索成长或者是报班学习,但对于培训机构动则几千的学费,着实压力不小。自己不成体系的自学效果低效又漫长,而且极易碰到天花板技术停滞不前!

因此收集整理了一份《2024年Python开发全套学习资料》,初衷也很简单,就是希望能够帮助到想自学提升又不知道该从何学起的朋友,同时减轻大家的负担。

img

img

img

img

img

img

既有适合小白学习的零基础资料,也有适合3年以上经验的小伙伴深入学习提升的进阶课程,基本涵盖了95%以上前端开发知识点,真正体系化!

由于文件比较大,这里只是将部分目录大纲截图出来,每个节点里面都包含大厂面经、学习笔记、源码讲义、实战项目、讲解视频,并且后续会持续更新

如果你觉得这些内容对你有帮助,可以扫码获取!!!(备注Python)

ert/9f49b566129f47b8a67243c1008edf79.png)

既有适合小白学习的零基础资料,也有适合3年以上经验的小伙伴深入学习提升的进阶课程,基本涵盖了95%以上前端开发知识点,真正体系化!

由于文件比较大,这里只是将部分目录大纲截图出来,每个节点里面都包含大厂面经、学习笔记、源码讲义、实战项目、讲解视频,并且后续会持续更新

如果你觉得这些内容对你有帮助,可以扫码获取!!!(备注Python)

img
微信扫一扫加客服

微信扫一扫加客服

点击启动AI问答
Draggable Icon