WHERE FUTURE BEGINS
  • ṢELF ḌEEP ḶEARNING
  • LSE MBA Essentials - The London School of Economics
    • Leading with influence
    • Economics for managers
    • Competitive strategy
    • Corporate strategy
    • Financial accounting
    • Management accounting
    • Analysing financial statements
    • In the mind of the manager
    • Nudging behaviour
    • Organisational culture as a leadership tool
  • Business Foundations Specialization - Wharton Online
    • Introduction to Marketing
      • BRANDING: Marketing Strategy and Brand Positioning
      • Marketing 101: Building Strong Brands Part I
      • Marketing 101: Building Strong Brands Part II
      • Strategic Marketing
      • Segmentation and Targeting
      • Brand Positioning
      • Brand Mantra: The Elevator Speech
      • Experiential Branding
      • CUSTOMER CENTRICITY: The Limits of Product-Centric Thinking
      • Cracks in the Product-Centric Approach
      • Data-Driven Business Models
      • Three Cheers for Direct Marketing
      • Which Firms Are Customer Centric?
      • What is Customer Centricity?
      • Living in a Customer-Centric World
      • More Reflections on Customer CentricityPrev
      • Questions on Customer Centricity
      • GO TO MARKET STRATEGIES: Online-Offline Interaction
      • Online/Offline Competition
      • Friction
      • The Long Tail Theory
      • Preference Isolation
      • How Internet Retailing Startups Grow
      • Customers and Digital Marketing
      • Influence and How Information Spreads
      • Pricing Strategies
      • The 7M
      • BRANDING: Effective Brand Communications Strategies and Repositioning Strategies
      • Brand Messaging & Communication
      • Brand Elements: Choosing a Brand Name
      • Brand Elements: Color & Taglines
      • Brand Elements: Packaging
      • Brand Elements: Persuasion
      • Repositioning a Brand
    • Introduction to Financial Accounting
      • 1.1.1: Financial Reporting Overview
      • 1.1.2: Financial Reporting Example
    • Managing Social and Human Capital
      • Professor Cappelli and Professor Useem Introductions
    • Introduction to Corporate Finance
      • Time Value of Money
      • Intuition and Discounting
      • Compounding
      • Useful Shortcuts
      • Taxes
      • Inflation
      • APR and EAR
      • Term Structure
      • Discounted Cash Flow: Decision Making
      • Discounted Cash Flow Analysis
      • Forecast Drivers
      • Forecasting Free Cash Flow
      • Decision Criteria
      • Sensitivity Analysis
      • Return on Investment
    • Introduction to Operations Management
    • Wharton Business Foundations Capstone
  • Artificial Intelligence Career Program - deeplearning.ai
    • Machine Learning
      • Introduction to Machine Learning
      • Supervised Learning
      • Unsupervised Learning
      • Model Representation - Linear Regression
      • Cost Function
      • Gradient Descent
      • Gradient Descent For Linear Regression
      • Linear Algebra
    • Deep Learning
    • Neutral Networks and Deep Learning
      • Introduction to Deep Learning
      • What is a neural network?
      • Supervised Learning with Neural Networks
      • Why is Deep Learning taking off?
      • About this Course
      • Binary Classification
      • Logistic Regression
      • Gradient Descent
      • Derivatives
      • Computation graph
      • Derivatives with a Computation Graph
      • Logistic Regression Gradient Descent
      • Vectorization
      • Vectorizing Logistic Regression
      • Vectorizing Logistic Regression's Gradient Output
      • Broadcasting in Python
      • A note on python/numpy vectors
      • Explanation of logistic regression cost function (optional)
      • Neural Networks Overview
      • Neural Network Representation
      • Computing a Neural Network's Output
      • Vectorizing across multiple examples
      • Activation functions
      • Derivatives of activation functions
      • Gradient descent for Neural Networks
      • Backpropagation intuition (optional)
      • Random Initialization
      • Deep L-layer neural network
      • Forward Propagation in a Deep Network
      • Getting your matrix dimensions right
      • Why deep representations?
      • Building blocks of deep neural networks
      • Forward and Backward Propagation
      • Parameters vs Hyperparameters
      • What does this have to do with the brain?
    • Convolutional Neural Networks
      • Computer Vision
      • Edge Detection Example
      • Padding
      • Strided Convolutions
      • Convolutions Over Volume
      • One Layer of a Convolutional Network
      • Simple Convolutional Network Example
      • Pooling Layers
      • CNN Example - Fully Connected Layers
      • Why Convolutions?
    • Neural Network Theory [ETH]
    • Natural Language Processing
    • Computer Vision
  • IBM Data Science Professional Certificate
    • What is Data Science?
    • Open Source tools for Data Science
    • Data Science Methodology
    • Python for Data Science and AI
    • Databases and SQL for Data Science
    • Data Analysis with Python
    • Data Visualization with Python
    • Machine Learning with Python
    • Applied Data Science Capstone
  • Data Analytics
    • Python for Data Analysis
    • Data Structure and Algorithms
  • Programming Language
    • Python
    • R
    • SQL
    • C++
    • C
    • Java
    • HTML
  • 机器学习工程师
  • 商业数据分析
Powered by GitBook
On this page

Was this helpful?

  1. Artificial Intelligence Career Program - deeplearning.ai
  2. Neutral Networks and Deep Learning

Derivatives

PreviousGradient DescentNextComputation graph

Last updated 5 years ago

Was this helpful?

在这个视频中 我要帮助你 更直观地理解微积分和导数 在这个视频中 我要帮助你 更直观地理解微积分和导数 你或许以为自己自从大学毕业以来 就再没用过微积分 你或许以为自己自从大学毕业以来 就再没用过微积分 这取决于你什么时候毕业 也许有一段时间了

如果你有顾虑 请别担心 学习神经网络和深度学习 并不需要你有多深的微积分基础 学习神经网络和深度学习 并不需要你有多深的微积分基础 因此如果你观看这个视频 或者以后的视频时 遇到很难的数学计算 我的建议是坚持看视频 并做编程练习 如果你能完成编程作业 然后你就掌握深度学习了 事实上你将看到在第4周会定义 很多种类的函数类型 它们能够帮助你把 所有需要的微积分知识结合起来 这些函数里有正向(传播)函数和反向(传播)函数 因此你不需要了解所有你使用的 那些微积分中的函数 所以也无需担心 但我觉得 在浅尝深度学习的这一周里 我们要或多或少地了解微积分的细节 但是 你只需要略知微积分的基本知识 就足以构建深度学习算法 但是 你只需要略知微积分的基本知识 就足以构建深度学习算法 最后 如果你属于少数的精通微积分的人 你可以跳过这个视频 最后 如果你属于少数的精通微积分的人 你可以跳过这个视频 最后 如果你属于少数的精通微积分的人 你可以跳过这个视频 而对于其他同学 让我们开始学习微积分和导数 而对于其他同学 让我们开始学习微积分和导数 我在这里画了一个函数 f(a)=3a 它是一条直线 为了理解导数 让我们看看这个函数其中的几个要点 假定a=2 那么f(a)等于a的3倍 等于6 也就是说如果a等于2 那么函数f(a)等于6 假定我们稍微改变a的值 增加一点点 到2.001 这是向右移动了非常短的距离 这时是2.001 别在意图表的比例 坐标值是2.001 0.001的差别实在太小了 在图上很难展示 我们把它右移一点 现在f(a)等于a的3倍 是6.003 画在这里 同样 别在意图表的比例 这是6.003 看这个小三角形 绿色高亮部分 我们发现 如果横坐标向右移动了0.001 那么纵坐标f(a)会向上移动0.003 】 所以纵坐标上f(a)的变化量是 横坐标右移变化量的三倍 我们的结论是 函数f(a)的斜率

或者说导数 在a的值为2时 或者说当a=2时 斜率为3 导数也就是斜率 导数听起来很高大上 而一说斜率就很接地气 斜率就是导数 所以提到导数的时候 把它当做函数的斜率就好了 更正式地 我们把斜率定义为 这个绿色小三角形的高除以宽 更正式地 我们把斜率定义为 这个绿色小三角形的高除以宽 即0.003除以0.001 斜率为3 或者说导数等于3 这表示当你将a右移一点点 比如0.001时 f(a)的值将增加这个水平位移数值的三倍 f(a)的值将增加这个水平位移数值的三倍 这就是这条线的斜率 现在让我们从另一个角度看这个函数 假设a等于5 此时f(a)=3a 也就是15 我再一次将a右移一点点 增加到5.001 f(a)等于3a 增加到5.001 f(a)等于3a 所以f(a)=15.003 当我再一次把a右移(增大)0.001时 f(a)讲增加到这个值的3倍 所以在a等于5时 斜率依然是3 我们可以将函数f等于3的斜率公式写成 df(a)/da 我们可以将函数f等于3的斜率公式写成 df(a)/da 它表示f(a)的斜率 当你将变量a改变一点点时 这个斜率的式子等于3 导数公式还有另一种写法 你可以写成黑板上这样 d/da f(a) 所以无论你将f(a)写在上面或者右边 都是可以的 但是所有这些等式都意味着 如果我将坐标向右移动一点点 函数值都会增加这个值的三倍 函数值都会增加这个值的三倍 在这个视频中 我讲解了一部分导数的内容 谈论的情况是我们将变量a偏移0.001 如果你想知道正式的数学定义 导数意味着无论将a向右增加多少 哪怕是再小的量， 不是0.001 不是0.00000001 不是0.0000000...1 甚至比这个还要小 通常导数的定义是 如果你将a向右移动 一个无限小但是可度量的值 那么f(a)将向上增加3倍于这个值的量 也就是增加了一个非常非常小的值 所以这就是导数的正式定义 但是为了讲解方便 我们探讨a向右移动0.001这个值 即使0.001并不是无穷小的可度量的量 这个函数的导数的一个特性是 它处处为3 这个函数的导数的一个特性是 它处处为3 不管a等于2或a等于5 这个函数的斜率始终是3 也就是说不管a的值是多少 如果a增加0.001 f(a)的值就增加0.001的3倍 这个函数的斜率处处相等 一种证明的方式是无论你将小三角形画在哪里 它的高除以宽的比值总是3比1 我希望这能让你直观地感受到 一条直线的斜率和导数是什么 我希望这能让你直观地感受到 一条直线的斜率和导数是什么 本例中 这条直线的斜率为3 下一个视频中 我们会遇到更复杂的例子 函数不同点上的斜率有可能不同