ssh+vscode进行远程调试
MathJax.Hub.Config({ tex2jax: {inlineMath: [['$', '$']]}, messageStyle: "none" });
1.SSH及OpenSSH简介
SSH 为 Secure Shell 的缩写，由 IETF 的网络小组（Network Working Group）所制定；SSH 为建立在应用层基础上的安全协议。SSH 是较可靠，专为远程登录会话和其他网络服务提供安全性的协议。利用 SSH 协议可以有效防止远程管理过程中的信息泄露问题。SSH最初是UNIX系统上的一个程序，后来又迅速扩展到其他操作平台。SSH在正确使用时可弥补网络
paper:A PARALLEL MULTI-COMPARTMENT SPIKING NEURON FOR MULTI-SCALE SEQUENTIAL MODELING
MathJax.Hub.Config({ tex2jax: {inlineMath: [['$', '$']]}, messageStyle: "none" });
摘要
人脑在处理表现出复杂时间动态的感觉信号方面具有非凡的能力。然而，受大脑启发的脉冲神经网络（SNN）在处理具有高时间复杂性的感官信号时遇到了挑战。这些挑战主要来自于简化的脉冲神经元模型的使用，例如广泛采用的 Leaky Integrateand-Fire (LIF) 模型，该模型处理多个时间尺度的时间信息的能力有限。此外，这些脉冲神经元模型只能及时按顺序更新，导致训练过程缓慢，在处理长序列时造成特别困难。 为了
d2l:基础优化方法
MathJax.Hub.Config({ tex2jax: {inlineMath: [['$', '$']]}, messageStyle: "none" });
基础优化算法
1.梯度下降
选择一个初始估计 w0w_0w0
重复迭代优化 t=1,2,3t=1,2,3t=1,2,3
wt=wt−1−η∂L∂wt−1w_t = w_{t-1} - \eta \frac{\partial \mathcal{L}}{\partial w_{t-1}}
wt=wt−1−η∂wt−1∂L
沿梯度方向减小损失函数以达到最小值
学习率: 控制迭代步长
d2l:线性回归
MathJax.Hub.Config({ tex2jax: {inlineMath: [['$', '$']]}, messageStyle: "none" });
线性回归
1.一个简化模型
假设 1: 多因素同时存在时相互独立且对结果有正向影响,且每个因素,如 x1,x2,x3x_1, x_2, x_3x1,x2,x3
假设 2: 成交价格是关于这些因素的加权和
y=w1x1+w2x2+w3x3+by = w_1x_1 + w_2x_2 + w_3x_3 + b
y=w1x1+w2x2+w3x3+b
权重和偏差的实际值在后面决定
2.线性
paper:AN IMAGE IS WORTH 16X16 WORDS:TRANSFORMERS FOR IMAGE RECOGNITION AT SCALE
MathJax.Hub.Config({ tex2jax: {inlineMath: [['$', '$']]}, messageStyle: "none" });
论文链接
🔗：AN IMAGE IS WORTH 16X16 WORDS:TRANSFORMERS FOR IMAGE RECOGNITION AT
🔗：李沐论文精读系列二：Vision Transformer、MAE、Swin-Transformer
说在前面
这篇文章挑战了自从2012年AlexNet提出以来卷积神经网络在计算机视觉里绝对统治的地位。结论是如果在足够多的数据上做预训练，也可以不需要卷
Pytorch:nn.Conv2d()
MathJax.Hub.Config({ tex2jax: {inlineMath: [['$', '$']]}, messageStyle: "none" });
参考链接
🔗：torch.nn.Conv2d
1.pytorch官方文档
应用一个2D卷积在由多个输入平面组成的输入信号上。
在最简单的情况下，具有输入大小 (N,Cin,H,W)(N, C_{in}, H, W)(N,Cin,H,W) 和输出 (N,Cout,Hout,Wout)(N, C_{out}, H_{out}, W_{out})(N,Cout,Hout,Wout) 的层的输出值可以精确描
ML:CNN
MathJax.Hub.Config({ tex2jax: {inlineMath: [['$', '$']]}, messageStyle: "none" });
视频链接
🔗：李宏毅讲解卷积神经网络（带字幕)
1.为什么CNN用于图像处理
当我们用 fully connect feedforward network 来做图像处理的时候，往往我们会需要太多的参数，举例来说，假设这是一张 100 *100 的彩色图(一张很小的 imgage)，你把这个拉成一个 vector，(它有多少个 pixel)，它有 100 *100 3 的 pixel。
如果是彩色图的话，每个
ML:regression
MathJax.Hub.Config({ tex2jax: {inlineMath: [['$', '$']]}, messageStyle: "none" });
1.什么是regression
Regression 就是找到一个函数 function，通过输入特征 x ，输出一个数值 Scalar 。
股市预测（Stock market forecast）:
输入：过去10年股票的变动、新闻咨询、公司并购咨询等
输出：预测股市明天的平均值
自动驾驶（Self-driving Car）：
输入：无人车上的各个sensor的数据，例如路况、测出的车距等
输出：方向盘的
d2l:自动求导
MathJax.Hub.Config({ tex2jax: {inlineMath: [['$', '$']]}, messageStyle: "none" });
1.向量链式法则
标量链式法则：
拓展到向量：
---------------------向量链式法则-example-BEGIN---------------------
---------------------向量链式法则-example-END---------------------
2.自动求导
自动求导计算一个函数在指定值上的导数
有区别于：
符号求导
数值求导
iTerm2+oh-my-zsh
MathJax.Hub.Config({ tex2jax: {inlineMath: [['$', '$']]}, messageStyle: "none" });
shell
在操作系统内核外有一层壳，而这层壳就是 shell，它是用户和操作系统交互的桥梁。这很好理解，shell 包住了系统，用户想要跟系统交互，就必须经过shell。
后来，shell 还慢慢变成了内核与用户交互的脚本语言的总称。我们常见的 shell 有：bash、zsh、csh、ksh、ash 等等。
Linux 下默认的是 bash ，macOS 在 Catalina 之前的版本默认也是 bash ，后
