gradient descent

/ˈɡreɪdiənt dɪˈsɛnt/ グラディエント ディセント

1. 機械学習や最適化問題において、関数の最小値を見つけるための反復アルゴリズム。

機械学習の分野で特に用いられる最適化アルゴリズムです。与えられた関数の値が最も小さくなる（あるいは大きくなる）ような入力値を見つけるために、関数の勾配（傾き）を利用して、最も急な下り坂（または上り坂）の方向に少しずつ移動を繰り返していきます。この反復的なプロセスを通じて、関数の最小値（または最大値）に到達しようとします。

Gradient descent is a fundamental optimization algorithm used in machine learning. (勾配降下法は、機械学習で使われる基本的な最適化アルゴリズムです。)

• Gradient descent: 勾配降下法。関数の最小値を見つけるための最適化アルゴリズムの名前です。
• is: 〜である、という意味の動詞です。
• a fundamental optimization algorithm: 基本的な最適化アルゴリズム。機械学習や最適化分野で広く使われます。
• used in machine learning: 機械学習で使われる。このアルゴリズムがどの分野で用いられるかを示します。

The learning rate in gradient descent determines the size of the steps taken towards the minimum. (勾配降下法における学習率は、最小値に向かって進むステップの大きさを決定します。)

• The learning rate: 学習率。勾配降下法において、一度に進む距離を調整するハイパーパラメータです。
• in gradient descent: 勾配降下法において。この文の主題がどのアルゴリズムに関連しているかを示します。
• determines: 〜を決定する。動詞です。
• the size of the steps: ステップの大きさ。最適化の過程でパラメータがどれだけ更新されるかを示します。
• taken towards the minimum: 最小値に向かって取られる。最小値を探す方向性を示します。

Stochastic gradient descent is a variant of gradient descent that updates parameters more frequently. (確率的勾配降下法は、より頻繁にパラメータを更新する勾配降下法の一種です。)

• Stochastic gradient descent: 確率的勾配降下法。勾配降下法の一種で、計算効率を高めるためにランダムにデータの一部を選んで更新を行う方法です。
• is a variant of: 〜の変種である、〜の一種である、という意味です。
• gradient descent: 勾配降下法。この文で比較対象となっている元のアルゴリズムです。
• that updates parameters: パラメータを更新する。アルゴリズムの動作の一部です。
• more frequently: より頻繁に。更新の頻度が高いことを示します。

関連

• Machine learning
• Optimization
• Cost function
• Learning rate
• Convex function
• Local minimum
• Global minimum
• Stochastic gradient descent
• Backpropagation