斯坦福大学机器学习课程讲义第二讲—— 单变量的线性回归模型表达

斯坦福大学公开课程机器学习第二讲单变量的线性回归模型表达

Andrew N g Linear r egression with o ne v ariable Model representa6on

Machine L earning

斯坦福大学公开课程机器学习第二讲单变量的线性回归模型表达

Andrew N g 0

100

200

300

400

500 0 500 1000 1500 2000 2500 3000

Housing P rices (Portland, O R) Price (in 1000s of d ollars) Size (feet 2)

Supervised L earning Given t he “right a nswer” f or each e xample i n t he d ata. Regression P roblem Predict r eal-­‐valued o utput

斯坦福大学公开课程机器学习第二讲单变量的线性回归模型表达

Andrew N g Nota6on: m = N umber o f t raining e xamples x ’s = “input” v ariable / f eatures y ’s = “output” v ariable / “target” v ariable

Size i n f eet 2 (x ) Price ($) i n 1000's (y ) 2104 460 1416

232 1534

315 852

178 … …

Training s et o f housing p rices (Portland, O R)

斯坦福大学公开课程机器学习第二讲单变量的线性回归模型表达

Andrew N g Training S et

Learning A lgorithm

h Size o f house Es6mated price How d o w e r epresent h ?

Linear r egression w ith o ne v ariable.

Univariate l inear r egression.

斯坦福大学公开课程机器学习第二讲单变量的线性回归模型表达

Andrew N g Cost f unc6on

Machine L earning Linear r egression with o ne v ariable

斯坦福大学公开课程机器学习第二讲单变量的线性回归模型表达

Andrew N g How t o c hoose ‘s ? Training S et Hypothesis:

‘s: P arameters Size i n f eet 2 (x ) Price ($) i n 1000's (y )

2104

460 1416

232 1534

315 852

178 …

…

斯坦福大学公开课程机器学习第二讲单变量的线性回归模型表达

Andrew N g 0

1

2

3

0 1 2 3 0 1 2 3 0 1 2 3 0 1 2 3 0 1 2 3

斯坦福大学公开课程机器学习第二讲单变量的线性回归模型表达

Andrew N g y

x

Idea: C hoose s o t hat i s c lose t o f or o ur training e xamples

斯坦福大学公开课程机器学习第二讲单变量的线性回归模型表达

Andrew N g Cost f unc6on intui6on I

Machine L earning Linear r egression with o ne v ariable

斯坦福大学公开课程机器学习第二讲单变量的线性回归模型表达

Andrew N

g

Hypothesis:

Parameters:

Cost F

unc6on:

Goal:

Simplified

斯坦福大学公开课程机器学习第二讲单变量的线性回归模型表达

Andrew N g

1

2

3

0 1 2 3

y

x

(for fixed , t his i s a f unc6on o f x) (func6on o f t he p arameter )

1

2

3

-­‐0.5 0 0.5 1 1.5 2 2.5

斯坦福大学公开课程机器学习第二讲单变量的线性回归模型表达

Andrew N g

1

2

3

0 1 2 3

y

x

(for fixed , t his i s a f unc6on o f x) (func6on o f t he p arameter )

1

2

3

-­‐0.5 0 0.5 1 1.5 2 2.5

斯坦福大学公开课程机器学习第二讲单变量的线性回归模型表达

Andrew N g 0

1

2

3

-­‐0.5 0 0.5 1 1.5 2 2.5 y x (for fixed , t his i s a f unc6on o f x ) (func6on o f t he p arameter ) 0

1 2 3 0 1 2 3

斯坦福大学公开课程机器学习第二讲单变量的线性回归模型表达

Andrew N g Cost f unc6on intui6on I I

Machine L earning Linear r egression with o ne v ariable

斯坦福大学公开课程机器学习第二讲单变量的线性回归模型表达

Andrew N

g

Hypothesis:

Parameters: Cost F

unc6on: Goal:

斯坦福大学公开课程机器学习第二讲单变量的线性回归模型表达

Andrew N g (for fixed , t his i s a f unc6on o f x ) (func6on o f t he p arameters ) 0

100

200

300

400

500

0 1000 2000 3000

Price ($) in 1000’s Size i n f eet 2 (x)