Logo uz.boatexistence.com

Nega stokastik gradient tushishi kerak?

Mundarija:

Nega stokastik gradient tushishi kerak?
Nega stokastik gradient tushishi kerak?
Anonim

Yuqori maʼlumot olimining soʻzlariga koʻra, Stokastik gradient tushishidan foydalanishning oʻziga xos afzalliklaridan biri shundaki, u gradient tushishi va toʻplamli gradient tushishiga qaraganda tezroq hisob-kitoblarni amalga oshiradi … Shuningdek, katta hajmdagi maʼlumotlar toʻplami, stokastik gradient tushish tezroq birlashadi, chunki u tez-tez yangilanishlarni amalga oshiradi.

Stokastik gradient tushish nima uchun ishlatiladi?

Stokastik gradient tushishi - bu taxmin qilingan va haqiqiy natijalar oʻrtasidagi eng yaxshi moslikka mos model parametrlarini topish uchun mashina oʻrganish ilovalarida tez-tez ishlatiladigan optimallashtirish algoritmi Bu noaniq, ammo kuchli texnika.. Stoxastik gradient tushishi mashinani o'rganish dasturlarida keng qo'llaniladi.

Nega konvolyutsion neyron tarmoqni oʻrgatish uchun standart gradient tushish oʻrniga Stokastik gradient tushishidan foydalanishimiz kerak?

Stokastik gradient tushishi har bir kuzatish uchun parametrlarni yangilaydi, bu esa yangilanishlar sonining koʻpayishiga olib keladi. Shunday qilib, bu tezroq qaror qabul qilishga yordam beradigan tezroq yondashuv. Bu animatsiyada turli yoʻnalishlarda tezroq yangilanishlarni koʻrish mumkin.

Nega biz gradient tushishni afzal ko'ramiz?

Chiziqli regressiya uchun gradient tushishining asosiy sababi hisoblash murakkabligi: ba'zi hollarda gradient tushishi yordamida yechim topish hisoblash jihatidan arzonroq (tezroq). Bu erda siz X'X matritsasini hisoblashingiz kerak, keyin uni o'zgartiring (quyidagi eslatmaga qarang). Bu qimmat hisob.

SGD nima uchun ishlatiladi?

Stokastik gradient tushishi (koʻpincha SGD deb qisqartiriladi) mos silliqlik xususiyatlariga ega boʻlgan maqsad funksiyasini optimallashtirishning iterativ usulidir (masalan, differentsiallanuvchi yoki subdifferentsiallanadigan).

Tavsiya: