# 深度学习的梯度下降法

## 梯度下降法

[En]

The gradient descent method is a method to find the minimum point. In the field of numerical analysis, the gradient descent method is also called the steepest descent method.

[En]

Expressed as the inner product of two vectors

[En]

The basic formula of the gradient descent method for two variable functions

## 哈密顿算子

32，

[En]

It can be regarded as the step size of function movement, which is called learning rate in neural network.

p称为回归系数，q称为截距

## 学习数据和正解

[En]

Using the data provided in advance to determine the weight and bias, which is called learning in the neural network.

## 误差反向传播法

[En]

When the calculation of the cost function is so large that the gradient descent method can not be used directly, the error reverse propagation method is introduced.

[En]

Common calculation method: first replace the data, and then calculate the partial derivative

[En]

Error back propagation method: first calculate the partial derivative, and then replace the data, reducing a large number of partial derivative calculation process

## 神经单元误差

[En]

The characteristic of introducing the error back propagation method is to replace the tedious derivative calculation with the recurrence relation of the sequence, which is provided by the error of the neural unit.

[En]

The relationship between the partial derivatives of weights and biases

Original: https://blog.csdn.net/niu2212035673/article/details/124445661
Author: 先锋小牛
Title: 深度学习的梯度下降法

(0)

### 大家都在看

• #### 在头部互联网电商大厂当数据分析师，是种什么体验？

CDA数据分析师 出品 各位同学大家好，我目前就职于某头部互联网电商大厂的产品运营部门。 今天我给大家分享一下头部互联网电商大厂的面试流程，我的一些日常工作内容，另外再给大家介绍一…

人工智能 2023年6月11日
0147
• #### 365天深度学习训练营-第P1周：实现mnist手写数字识别

🍨 本文为🔗365天深度学习训练营 内部限免文章（版权归 K同学啊 所有） 🍦 参考文章地址： 🔗第P1周：实现mnist手写数字识别 | 365天深度学习训练营 🍖 作者：K同学…

人工智能 2023年6月30日
0170
• #### [Python]-pandas模块-机器学习Python入门《Python机器学习手册》-02-加载数据：加载文件

这本书类似于工具书或者字典，对于python具体代码的调用和使用场景写的很清楚，感觉虽然是工具书，但是对照着做一遍应该可以对机器学习中python常用的这些库有更深入的理解，在应用…

人工智能 2023年6月4日
0136
• #### 【Java】String类的常用方法

✨系列专栏: 【Java SE】✨一句短话:难在坚持,贵在坚持,成在坚持! 文章目录 一. String对象的比较 * 1. ==比较是否引用同一个对象 2. boolean eq…

人工智能 2023年5月30日
0171
• #### 《Effective C++》阅读总结（四）: 设计、声明与实现

第四章： 设计与声明 18. 让接口更容易被正确使用，不易被误用 将你的class的public接口设计的符合class所扮演的角色，必要时不仅对传参类型限制，还对传参的值域进一步…

人工智能 2023年6月4日
0198
• #### 协同过滤算法中如何解决推荐结果过度相似的问题

问题介绍 在协同过滤算法中，推荐系统通常会遇到推荐结果过度相似的问题。如果推荐结果过于相似，用户可能只会看到相似的物品，限制了他们的选择和多样性。因此，我们需要解决这个问题，以提供…

人工智能 2024年1月4日
0101
• #### Python——数据分析，原来女孩子喜欢这些礼物

每次情人节我都会问女朋友，你喜欢啥？你想要啥？但是每次女朋友每次都说：”你自己想，伸手要来的没有惊喜”。这搞的我还没到情人节就开始失眠了，总是担心送的礼物她…

人工智能 2023年7月16日
0200
• #### 五分钟了解机器学习的基本概念

目录 1、人工智能、机器学习、深度学习之间的关系 2、什么是机器学习？ 3、机器学习的常见问题之 过拟合 4、如何克服过拟合？ 5、机器学习的类型 6、分类和回归 1、人工智能、机…

人工智能 2023年6月24日
0152
• #### 使用DOTA数据集训练Faster R-CNN模型

一、所需文件下载链接 二、基础环境配置 三、训练及测试过程 使用Faster R-CNN算法在DOTA数据集上实现目标检测。使用Faster R-CNN算法在VOC2007数据集上…

人工智能 2023年5月26日
0139

背景 SBERT模型是基于pytorch和transformers来实现的。如果想要通过tensorflow-serving来部署模型的话。首先，要将transformers模型转…

人工智能 2023年5月24日
0157
• #### 手把手教你使用YOLOV5训练自己的目标检测模型-口罩检测-视频教程

手把手教你使用YOLOV5训练自己的目标检测模型 大家好，这里是肆十二（dejahu），好几个月没有更新了，这两天看了一下关注量，突然多了1k多个朋友关注，想必都是大作业系列教程来…

人工智能 2023年5月31日
0160
• #### 聚类的基本概念-聚类与分类的区别

一、聚类的概念 聚类是常见的无监督学习算法。人有归纳和总结的能力，机器也有。简单来说，聚类就是让机器把数据集中的样本按照特征的性质分组，在这个过程中没有标签的存在。其目标是，组内的…

人工智能 2023年7月1日
0167
• #### 一文掌握Python数据分析入门操作

这是一篇介绍用Python进行基础的数据分析的文章，总结了其他博主文章的要点，主要分为6个部分： 1.生成或导入数据表2.检查数据表3.清洗数据表4.数据预处理5.数据汇总 | 数…

人工智能 2023年7月7日
0117
• #### Ubuntu安装TensorFlow详细过程

一、准备工作 虚拟机：Vmware Workstation 16 Pro（至少需要Windows10才能支持）操作系统：Ubuntu-20.04.2.0 二、安装Anaconda …

人工智能 2023年5月23日
0138
• #### 022-final关键字在 java 中的作用

抵扣说明： 1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。2.余额无法直接购买下载，可以购买VIP、C币套餐、付费专栏及课程。 Original: https:…

人工智能 2023年6月26日
0136
• #### 新手树莓派3B——人脸识别门禁管理系统

文章目录 前言 一、怎么用树莓派设计人脸识别门禁系统？ 二、树莓派系统的安装 三、远程连接 四、人脸识别 总结 前言 树莓派，自问世以来，其”麻雀虽小，五脏俱全&#82…

人工智能 2023年7月18日
0167