D2L-Summary of D2L Lession D2L的课程结束啦,接下来是斯坦福的课程:Stanford Lession,结尾课程链接在这里:D2L 课程总结和进阶学习。 2023-08-20 AI #研0自学
D2L-12-Optimization Algorithms 对于深度学习问题,我们通常会先定义损失函数。一旦我们有了损失函数,我们就可以使用优化算法来尝试最小化损失。在优化中,损失函数通常被称为优化问题的目标函数。按照传统惯例,大多数优化算法都关注的是最小化。如果我们需要最大化目标,那么有一个简单的解决方案:在目标函数前加负号即可。 2023-08-18 AI #研0自学
D2L-Kaggle-目标检测(牛仔穿戴) 这个Competition中,我们遇到的主要问题,是数据的不平衡。数据不平衡使得某些类别的样本过少,我们需要处理这个问题。 实战Kaggle比赛 This is an object detection competition with imbalanced data challenge. You will need to train a model to detect cowboy outfits 2023-08-18 AI #研0自学
D2L-11-Attention Mechanisms and Transformers Self Attention & Transformer 李宏毅,Self-supervised Learing BERT GPT 李宏毅。先看这些!这个对于原理讲的非常清楚,了解了这个,再去学李沐的课程,就十分清晰了昂!!! 2023-08-16 AI #研0自学
D2L-10-Modern Recurrent Neural Networks 循环神经网络在实践中一个常见问题是数值不稳定性。 尽管我们已经应用了梯度裁剪等技巧来缓解这个问题, 但是仍需要通过设计更复杂的序列模型来进一步处理它。 具体来说,我们将引入两个广泛使用的网络, 即门控循环单元(gated recurrent units,GRU)和 长短期记忆网络(long short-term memory,LSTM)。 然后,我们将基于一个单向隐藏层来扩展循环神经网络架构。 我 2023-08-14 AI #研0自学
D2L-Kaggle-狗的品种识别(ImageNet Dogs) 实战Kaggle比赛:狗的品种识别(ImageNet Dogs) Dependencies 12345import osimport torchimport torchvisionfrom torch import nnfrom d2l import torch as d2l 我们提供完整数据集的小规模样本 12345678d2l.DATA_HUB['dog_tiny'] = (d2l.D 2023-08-10 AI #研0自学
D2L-Kaggle-图像分类 (CIFAR-10) 实战Kaggle比赛:图像分类 (CIFAR-10) Dependencies: 123456789import collectionsimport mathimport osimport shutilimport pandas as pdimport torchimport torchvisionfrom torch import nnfrom d2l import torch as d2l 2023-08-10 AI #研0自学
D2L-Kaggle-树叶分类 实战Kaggle比赛:树叶分类竞赛总结 模型为多种ResNet变种 DenseNet, ResNeXt, ResNeSt, … EfficientNet 优化算法多为Adam和其变种 学习率一般为Cosine,或者训练不动的时候往下调整(逐步变小) AutoGluon 15行代码,安装+训练:https://www.kaggle.com/code/zhreshold/autogluon 2023-08-10 AI #研0自学
D2L-Kaggle-房价预测 实战Kaggle比赛:预测房价 Kaggle的房价预测比赛是一个很好的起点。 此数据集由Bart de Cock于2011年收集 (De Cock, 2011), 涵盖了2006-2010年期间亚利桑那州埃姆斯市的房价。 这个数据集是相当通用的,不会需要使用复杂模型架构。 它比哈里森和鲁宾菲尔德的波士顿房价 数据集要大得多,也有更多的特征。 https://www.kaggle.com/c/hou 2023-08-10 AI #研0自学