یادگیری عمیق
Deep learningیادگیری عمیق یک ایده است که بارها تکرار شده: لایهای بساز، مشتق بگیر، وزن را کمی تغییر بده. همین. پیچیدگی از عمق میآید نه از مفهوم. این مسیر از یک نورون شروع میکند و تا ترنسفورمر میرود، و در هر مرحله اول با NumPy دستی میسازد بعد با PyTorch — تا بدانی کتابخانه چه کاری را برایت انجام میدهد.
پیشرفت تو
درصد هر فصل از دو چیز میآید: چقدر از بخشهایش را خواندهای (۵۵٪) و چند تمرینش را تیک زدهای (۴۵٪). همهچیز داخل مرورگر خودت میماند.
فصل
فصلها به هم وابستهاند و ترتیبشان معنا دارد. هر مسیر با پروژههای نهایی تمام میشود: ساده، متوسط، پیچیده.
از یک نورون
perceptron، وزن و تابع فعالسازی.
در نوبت نوشتنپسانتشار
قاعدهٔ زنجیرهای — با محاسبهٔ دستی روی یک شبکهٔ کوچک.
در نوبت نوشتنشبکه با NumPy
یک شبکهٔ کامل بدون فریمورک.
در نوبت نوشتنPyTorch
tensor، autograd و nn.Module.
در نوبت نوشتنحلقهٔ آموزش
loss، بهینهساز، batch و epoch.
در نوبت نوشتنبهینهسازی
SGD، Adam، نرخ یادگیری و زمانبند.
در نوبت نوشتنمنظمسازی
dropout، batch norm و early stopping.
در نوبت نوشتنCNN
کانولوشن، pooling و بینایی ماشین.
در نوبت نوشتنبینایی در عمل
طبقهبندی تصویر، transfer learning و fine-tuning.
در نوبت نوشتنRNN و LSTM
دادههای دنبالهای و مسئلهٔ حافظهٔ بلندمدت.
در نوبت نوشتنattention
ایدهای که همهچیز را عوض کرد.
در نوبت نوشتنترنسفورمر
معماری کامل، از embedding تا خروجی.
در نوبت نوشتنپردازش زبان
tokenization، embedding و فارسی.
در نوبت نوشتنمدلهای مولد
autoencoder، GAN و diffusion — مرور مفهومی.
در نوبت نوشتنآموزش در عمل
GPU، حافظه، mixed precision و checkpoint.
در نوبت نوشتناستقرار مدل
ONNX، کوانتیزهسازی و استنتاج سریع.
در نوبت نوشتنپروژهٔ ۱ — طبقهبندی تصویر
CNN از صفر، بعد با transfer learning.
در نوبت نوشتنپروژهٔ سادهپروژهٔ ۲ — تحلیل متن فارسی
tokenization فارسی، fine-tune و ارزیابی.
در نوبت نوشتنپروژهٔ متوسطپروژهٔ ۳ — ترنسفورمر کوچک از صفر
attention، آموزش و تولید متن.
در نوبت نوشتنپروژهٔ پیچیده