Deep_learning-Notebook

针对人工智能相关领域（计算机视觉CV、自然语言处理NLP以及推荐系统Recsys）的知识点做一些简要总结.
Make some brief summaries on the reading of related papers (CV、 NLP and Recsys, etc.)

Related useful links

Artificial Intelligence

No.	Name	link
🚩 00	DeepLearning-500-questions	总结学习资料
01	Salient Object Detection	Paper list1 & list2
02	Person ReID	视频行人重识别2019各顶会顶刊文章
02+	Person ReID	Re-ID中的特征对齐--从ICCV 2017到CVPR 2020
03	Recommender System	Related paper list & Basis paper and code
04	Human skeleton estimation	视觉俞刚，简要梳理; 一个很好的human pose with DL简述
05	Face Detection	Related paper and code, dataset
06	Object Detection	Complete paper list & Related paper and code, dataset
07	Transfer Learning	Related paper and code, dataset
08	Video Object Segmentation	Related paper and code, dataset
09	Semantic Segmentation	Paper List;语义分割该如何走下去？
10	Instance Segmentation	实例分割最新最全面综述：从Mask R-CNN到BlendMask,单阶段实例分割（Single Shot Instance Segmentation）进展综述
11	Super-resolution	深度学习超分辨率综述
12	Pose estimation	基于深度学习目标姿态估计的论文一览（2017-2020）; 简述 Human Pose with Deep-learning; 3D Human相关研究总结
13	Graph Neural Network	图神经网络GNN2019-2020顶会论文列表
14	self-,semi & Un- supervision	图像分类最新技术综述论文: 21种半监督、自监督和无监督学习方法
15	Generative Adversarial Networks	史上最全GAN综述2020版：算法、理论及应用
16	Stereo Matching	双目深度估计中的自监督学习概览
17	Self-supervision Learning	一文读懂 Self-supervision Learning
18	Edge Detection	Awesome-Edge-Detection-Papers
19	Representation Learning	什么是Representation Learning？
20	Attention technology	Attention 相关主流研究
21	few/zero/single shot learning	小样本元学习最新综述
22	Deep Active learning	深度主动学习最新综述2020
23	Medical model Uncertainty	医学图像模型不确定性论文和代码总结
24	Visual Transformer	《视觉Transformer转换器》综述论文 and Performer: 基于正交随机特征的快速注意力计算 and 万能 Transformer，你应该知道的一切！ and Code解析
25	Pose Estimation: A Survey in DL	基于深度学习的人体姿态估计综述：全面调研（2014-2020）
26	Event Camera	视频慢动作 and 合成孔径成像
27	RGB-D Semantic Segmentation	RGBD语义分割总结
28	Diffusion Model	生成扩散模型漫谈

Related useful links

• Notes

No.	Name	link
01	Notes	“卷积”中‘卷’和‘积分’的意义是什么.
02	Notes	DL中的基本概念笔记.
03	Notes	神经网络架构搜索的简述理解.
04	Notes	DL中各种Models的一个代码梳理和总结.
05	Notes	显著性物体检测领域中评估方法的解释-MAE,PR-curves,F-measure
06	Notes	十大CNN结构,简要介绍和差别.
07	Notes	10大CNN核心模型的解析和代码.
08	Notes	讲述FishNet,并做了个很好的task级任务的梳理
09	Notes	目标检测常用网络简要梳理.
10	Notes	基于Keras的卷积神经网络（CNN）可视化.
11	Notes	张俊林_知乎-NLP.
12	Notes	Transformer1 and Transformer2.and Transformer pytorch implement.
13	Notes	可视化Transformer.
14	Notes	自然语言处理三大特征提取器（CNN/RNN/TF）比较.
15	Notes	Attention,GPT,Elmo,BERT.
16	Notes	BERT.
17	Notes	From Word Embedding to Bert-summary.
18	Notes	命名实体识别 biLSTM+CRF.
19	Notes	立体匹配综述.
20	Notes	一文看懂自然语言理解(NLU).
21	Notes	32个实用算法.
22	Notes	计算机视觉领域如何从别人的论文里获取自己的idea？.
23	Notes	立体匹配综述.
24	Notes	一个经验性探索：CNN是靠什么线索学习到深度信息的？
25	Notes	目标检测和感受野的总结和想法
26	Notes	GAN 和 VAE 的本质区别是什么？
27	Notes	语义SLAM近五年发展及研究趋势 & SLAM面试问题大全
28	Notes	谈谈CNN中的位置和尺度问题
29	Notes	CNN可视化，10层-所有细节
30	Notes	图像处理初学者应该学习的100个问题-你都学会了吗？
31	Notes	深入理解计算机视觉中的损失函数
32	Notes	关于CNN模型可解释性的思考__【1】and 2-续
33	Notes	Adam那么棒，为什么还对SGD念念不忘？一个框架看懂深度学习优化算法
34	Notes	计算机视觉中的半监督学习
35	Notes	Dropout技术一览：可视化解释以及在DNN/CNN/RNN中的应用
36	Notes	Anchor-free应用一览
🚩37	Notes	一文读懂Faster RCNN
38	Notes	ranking loss度量学习，一个非end-to-end的相似性分布度量
39	Notes	解决数据样本不均衡的常见策略OHEM,focal loss
🚩40	Notes	基于深度卷积神经网络的小样本分割算法综述
40	Notes	一步一步讲解卷积神经网络 from 吴恩达课件
41	Notes	如何寻找和阅读顶会论文？深度之眼
42	Notes	变形卷积核、可分离卷积？卷积神经网络中十大拍案叫绝的操作
43	Notes	Ensemble 和 蒸馏/自蒸馏 的提升分析
🚩 44	Notes:triangular_flag_on_post:	交叉熵损失函数原理详解
44	Notes	一文看尽深度学习中的20种卷积
45	Notes	数字图像处理:边缘检测(Edge detection operators)
46	Notes	CE and MSE loss 区别？, CE for classify, MSE for regression
🚩47	Notes	多任务学习中各loss权重应该如何设计呢?
🚩48	Notes	transformer模型创新思路总结
🚩49	Notes	语义分割中的Cross Entropy Loss总结
🚩50	Notes	Event 事件相机的原理与应用简介
🚩51	Notes	张祥雨 - 大一统模型的理解 - fit Proposal
🚩52	Notes	大模型的Prompt Tuning/Adaption & LoRA & 中文详解 Adapter-Tuning

• Coding

No.	Name	link
01	Code	33个神经网络训练技巧.
02	Code	pytorch查看网络中的参数.
03	Code	pytorch trick超有用 and 竞赛中总结出来的图像分割的Tips和Tricks.
04	Code	PyTorch-提取神经网络中间层特征进行可视化.
05	Code	感受野计算andhere.
06	Code	医学图像分割的loss汇总.
07	Tools	如何在科研论文中画出漂亮的插图？.
08	Tools	Kaggle比赛之后，一份图像分割炼丹的「奇技淫巧」.
09	Tools	【资源分享总结】卷积神经网络中的即插即用模块和对应源码.
10	Code	一行代码缓解过拟合 ICML.
11	Tools	R 数据可视化 圈图 and tSNE 高维数据可视化
12	Tools	动态数据可视化极简教程
🚩13	Code	Pytorch 常踩的坑 and Pytorch Tricks and 深度学习调参技巧-wechat and 常用tricks-原理与代码汇总 and Pytorch17个炼丹技巧
🚩14	Blog	深度学习调参技巧——知乎正版
15	Tools	Matplotlib 最具价值的50个可视化项目
16	Tools	当代研究生应当掌握的并行训练方法-单机多卡
17	Code	深度学习代码速查表
🚩18	Tools	科研论文绘图实操干货汇总，11类Matplotlib图表，含代码 and 微生信，各种画图教程 and 知乎 and 绘制和弦图,饼图,gene图
🚩19	Code	特征可视化技术(CAM)原理，以及Heat map实现
20	Code	PyTorch特性,例如mask/cosine
🚩21	Tools	好看的数据可视化 & Bokeh圈图
21	Code	PyTorch在NLP任务中获取预训练词向量, gensin & glove
22	Drawing Tools	Python 可视化视频课
🚩23	Annotated Tools	高效交互式分割标注软件
🚩24	Annotated Tools	医学标注Pair智能标注神器
🚩25	Project Tools	项目主页template
🚩26	Annotated Tools	SAM-empowered 标注神器
🚩26	Analysis Tools	FiftyOne 分析数据集、评估模型、潜入层可视化、find ann mistakes

Writing skills

No.	Name	link
01	审稿、写作、注意完整流程	北大 施柏鑫
02	如何做一个AI领域审稿人?	罗杰波
🚩03	读科研论文的三个层次、四个阶段与十个问题	沈向洋
04	如何写/审AI领域的论文【VALSE Webinar】Panel实录	杨明玄、张磊、梅涛等
05	Latex书写伪代码Algorithm2e指南	latex书些algorithm
06	哥大读博五年总结 by Mike zhou	presentation skills (slides and papers)
07	学术论文投稿与返修（Rebuttal）经验分享	Rebuttal 经验贴

Great Courses

No.	Name	link
01	孙剑-中文深度学习课程	Video Link
02	2020深度学习基础文章合集-有道	Notes download, scxy
03	最新学习技术-人工智能博客 Tian Feng	技术博客

Dataset list

No.	Name	link
01	List of the most complete datasets	website link
02	人脸识别数据集汇总	website link
03	AI数据服务平台提供商Graviti	website link

Other authors' paper list

No.	link
01	github: xw-hu
02	张俊林_知乎-NLP

Useful toolbox

No.	Tools.	Link
01	Vimplus	https://github.com/chxuan/vimplus
02	Tmux	https://blog.csdn.net/listen2you/article/details/78597093
03	Git	https://www.liaoxuefeng.com/wiki/896043488029600/900785521032192
04	Hadoop fs	http://hadoop.apache.org/docs/r1.0.4/cn/hdfs_shell.html
05	crontab	https://www.cnblogs.com/ftl1012/p/crontab.html
06	grep	https://blog.csdn.net/newchitu/article/details/84770915
07	iterm2 screen	https://www.jianshu.com/p/4a27bb4c216c
08	iterm2 rz/sz	https://www.jianshu.com/p/d1bef4140e34
09	sypder debug	https://jingyan.baidu.com/article/2fb0ba400ea08f40f3ec5f7e.html
10	Numpy notes	https://github.com/juliangaal/python-cheat-sheet/blob/master/pdfs/NumPy.pdf
11	Project Template1	https://openworldtracking.github.io/
12	Project Template2	https://github.com/nerfies/nerfies.github.io/