logistic report is done a little

This commit is contained in:
StarLee 2016-06-14 13:32:55 +08:00
parent 2902f28107
commit d609ccebd8
2 changed files with 45 additions and 0 deletions

45
Logistic_regression.tex Normal file
View File

@ -0,0 +1,45 @@
\documentclass[a4paper,12pt,UTF8,titlepage]{ctexart}
%页边距
\usepackage{geometry}
\geometry{left=2.0cm,right=2.0cm,top=2.5cm,bottom=2.5cm}
%页眉
\usepackage{fancyhdr}
\pagestyle{fancy}
\lhead{李志星 15060025 }
\chead{比较分析报告}
\rhead{\leftmark}
%文档信息/同时也用于生成报告封面
\author{李志星\\ 15060025}
\title{\Huge MLlib中Logistic Regression的应用}
\usepackage{graphicx}
\DeclareGraphicsExtensions{.eps,.ps,.jpg,.bmp,.gif,.png}
\begin{document}
\maketitle
\section{实际问题-手写识别}
手写识别Handwriting recognition是计算机在纸、照片、触摸屏或其他设备中接收并识别人手写的文字等信息的技术主要应用于光学字符识别OCR。手写识别系统能够用来识别汉字、英语、数字等字符。不过本报告的重点不在手写识别而在于理解MLlib中的logistic回归因此以识别数字为例。识别数字09是个十类别问题logistic回归最常用的场景是二分类如果要用logistic回归解决这个问题要采用one-against-one和one-against-all等做法进行处理虽然复杂些但是基本原理是一样的。因此本报告把主要关注点放在对MLlib算法的研究只利用0和1的样本从而解决二分类问题。
\section{MLlib相关概念}
在MLlib中有许多的概念其中对理解其算法比较重要的有\emph{DataFrame}\emph{Pipeline}\emph{Transfromer}\emph{Estimator}
\begin{itemize}
\item DataFrameMLlib使用SaprkSQL中DataFrame来操作数据集。通过\emph{DataFrame}可以操作各种各样的数据:文本、图像和结构化数据等。\emph{DataFrame}以命名列的方式组织的分布式数据集 等同于关系型数据库中的一个表和R/Python中的\emph{DataFrame}类似,不过进行了很多的优化。
\item Pipeline在MLlib中有一个很关键的概念\emph{Pipeline}。在利用解决机器学习问题时经常要用对数据进行一系列的处理MLlib用\emph{Pipeline}来表示这样的工作流,在\emph{Pipeline}中,包含一组以一定顺序执行的\emph{ PipelineStage}( \emph{Transformer}\emph{Estimator})。
\item TransformerTransformer是对特征转换和学习得到的模型的抽象每一个\emph{Transfromer}都要实现transform()方法,它把一个\emph{DataFrame}处理后得到另一个\emph{DataFrame},一般来说新的DataFrame比原来的DataFrame要多一些列。
\item EstimatorEstimator是对一些机器学习算法或者其他的数据处理算法的抽象每一个\emph{Estimator}都有一个方法fit(),它以\emph{DataFrame}为参数,返回一个模型,也就是\emph{Transformer}比如在MLlib中 LogisticRegression 就是一个\emph{Estimator}而LogisticRegressionModel就是一个\emph{Transformer}
\end{itemize}
一个比较简单形象的例子就是文本文档的处理,如下图*所示,上面一行表示了一个包含3个stage的Pipeline前两个Tokenizer和HashingTF是Transformer,第三个LogisticRegression是一个Estimer。下面一行是一个流经pipeline的数据流,圆柱体代表了DataFrame.当调用pipeline的fit方法时 Tokenizer.transform() 把原始的Raw text切分成单词然后把这些单词添加到原DataFrame中形成新的DataFrame从而让HashingTF.transfore()进行处理他把单词列转化成特征矩阵又添加到新的DataFrame中最后通过 LogisticRegression.fit()方法产生LogisticRegressionModel。生成的模型可以用于后续的测试等。
\begin{figure}[h!]
\centering
\includegraphics[width=16cm]{pipeline.jpg}
\caption{MLlib pipeline}
\label{pipeline}
\end{figure}
\end{document}

BIN
pipeline.jpg Normal file

Binary file not shown.

After

Width:  |  Height:  |  Size: 17 KiB