%E5%A4%9A%E5%8F%98%E9%87%8F%E9%A2%84%E6%B5%8B

%E5%A4%9A%E5%85%83%E7%BA%BF%E6%80%A7%E5%9B%9E%E5%BD%92

对于多个特征量(Features)，规定符号表示：

                                             n                                      n                        n

                                                         x                                               (                                     i                                     )                                                             x^{(i)}                        x(i)

 第i个训练样本的输入特征向量，

                                             i                                      i                        i

                                                         x                                  j                                  i                                                 x_j^i                        xji​

 第i个训练样本中特征向量的第j个值
 

                                                   h                               θ                                      (                            x                            )                            =                                       θ                               0                                      +                                       θ                               1                                      x                                  h_θ (x)=θ_0+θ_1 x                     hθ​(x)=θ0​+θ1​x


 对于多个特征量，此时的假设函数为：
 

                                                   h                               θ                                      (                            x                            )                            =                                       θ                               T                                      x                            =                                       θ                               0                                      +                                       θ                               1                                                 x                                           (                                  1                                  )                                                 +                                       θ                               2                                                 x                                           (                                  2                                  )                                                 +                            …                            +                                       θ                               n                                                 x                                           (                                  n                                  )                                                       h_θ (x)=θ^T x=θ_0+θ_1 x^{(1)}+θ_2 x^{(2)}+…+θ_n x^{(n)}                     hθ​(x)=θTx=θ0​+θ1​x(1)+θ2​x(2)+…+θn​x(n)

                                                   x                               0                               i                                      =                            1                                  x_0^i=1                     x0i​=1

                                        x                            =                                       [                                                                                                     x                                              0                                                                                                                                                  x                                              1                                                                                                                                                  .                                              .                                              .                                                                                                                                                  x                                              n                                                                                                ]                                      n                                  x=\begin{bmatrix} x_0\\x_1\\...\\x_n\end{bmatrix}n                     x=   ​x0​x1​...xn​​   ​n

                                        θ                            =                                       [                                                                                                     θ                                              0                                                                                                                                                  θ                                              1                                                                                                                                  …                                                                                                                                   θ                                              n                                                                                                ]                                            θ=\begin{bmatrix}θ_0\\θ_1\\…\\θ_n\end{bmatrix}                     θ=   ​θ0​θ1​…θn​​   ​

                                                         h                                  θ                                          (                               x                               )                               =                                           θ                                  T                                          x                                      h_θ (x)=θ^T x                        hθ​(x)=θTx


 这就是假设函数的向量形式。

%E6%A2%AF%E5%BA%A6%E4%B8%8B%E9%99%8D%E7%AE%97%E6%B3%95%E5%9C%A8%E5%A4%9A%E5%85%83%E7%BA%BF%E6%80%A7%E5%9B%9E%E5%BD%92%E4%B8%AD%E7%9A%84%E5%BA%94%E7%94%A8

梯度下降算法在多元线性回归中的应用

                                        J                            (                                       θ                               0                                      ,                                       θ                               1                                      ,                            …                            ,                                       θ                               n                                      )                            =                                       1                                           2                                  m                                                            ∑                                           i                                  =                                  1                                          m                                      (                                       h                               θ                                      (                                       x                                           (                                  i                                  )                                                 )                            −                                       y                                           (                                  i                                  )                                                            )                               2                                            J(θ_0,θ_1,…,θ_n)=\frac{1}{2m} ∑_{i=1}^m(h_θ (x^{(i)} )−y^{(i)} )^2                     J(θ0​,θ1​,…,θn​)=2m1​∑i=1m​(hθ​(x(i))−y(i))2


 此时的梯度下降算法：
 Repeat{
 

                                                         θ                                  j                                                      ≔                                                      θ                                  j                                          −                               α                                                        ∂                                     J                                     (                                     θ                                     )                                                           ∂                                                   θ                                        j                                                                          θ_j≔θ_j−α\frac{∂J(θ)}{∂θ_j}                        θj​:=θj​−α∂θj​∂J(θ)​

                                                               ∂                                  J                                  (                                  θ                                  )                                                      ∂                                               θ                                     j                                                                   \frac{∂J(θ)}{∂θ_j}                     ∂θj​∂J(θ)​

                                                         θ                                  j                                                      ≔                                                      θ                                  j                                          −                               α                                           1                                  m                                                      ∑                                               i                                     =                                     1                                              m                                          (                                           h                                  θ                                          (                                           x                                               (                                     i                                     )                                                      )                               −                                           y                                               (                                     i                                     )                                                      )                                           x                                  j                                  i                                                 θ_j≔θ_j−α\frac{1}{m}∑_{i=1}^m(h_θ (x^{(i)} )−y^{(i)}) x_j^i                        θj​:=θj​−αm1​i=1∑m​(hθ​(x(i))−y(i))xji​

线性回归 多变量预测

算法

人工智能

多变量预测中，多元线性回归通过多个特征量建立假设函数，公式为h_θ(x)=θ^T x。应用梯度下降算法优化，损失函数为J(θ)。更新规则为θ_j=θ_j-α(1/m)∑(h_θ(x^(i))-y^(i))x_j^i，实现模型参数的高效调整。

梯度下降算法

文章

问答

视频

教程

学习中心

腾讯云实验室

直播

竞赛

腾讯云代码分析专区

腾讯iOA零信任安全管理系统专区

腾讯云架构师技术同盟交流圈

腾讯云数据库专区

腾讯云智能顾问专区

腾讯云原生专区

腾讯混元专区

腾讯云TCE专区

腾讯云Lighthouse专区

腾讯云HAI专区

腾讯云Edgeone专区

腾讯云存储专区

腾讯云智能专区

腾讯轻联专区 

腾讯云开发专区

TAPD专区

腾讯轻量云游戏服专区

EdgeOne AI 安全实战专区

腾讯云最具价值专家

腾讯云架构师技术同盟

腾讯云创作之星

腾讯云开发者先锋

腾讯云代码助手

云原生构建

TAPD 敏捷项目管理

Cloud Studio

SDK中心

API中心

命令行工具

涵盖代码开发、场景应用、自动测试全流程，助你从零构建专属AI助手

一站式MCP教程库，解锁AI应用新玩法

聚焦“写作效率、视觉美观与运行性能”三方面进行全面升级，为您提供更高效、稳定的创作环境

社区富文本&Markdown编辑器全新改版上线，欢迎大家体验!

诚挚邀请您参与本次调研，分享您的真实使用感受与建议。您的反馈至关重要，感谢您的支持与参与！

线性回归多变量预测

线性回归多变量预测

多变量预测

多元线性回归

梯度下降算法在多元线性回归中的应用

社区

活动

圈层

关于

腾讯云开发者

热门产品

热门推荐

更多推荐

线性回归 多变量预测

线性回归 多变量预测

多变量预测

多元线性回归

梯度下降算法在多元线性回归中的应用

社区

活动

圈层

关于

腾讯云开发者

热门产品

热门推荐

更多推荐

线性回归多变量预测

线性回归多变量预测