武丢丢

本周工作完成情况 重启了我的博客，学习了如何在博客中插入图片，插入公式。熟悉了hexo这个开源博客框架的一些功能，比如更换主题，改变设置等等。 西容的电容器项目告一段落，本来就不是我感兴趣的内容，和我学习的内容可以说没有丝毫的联系，对我找工作或者找实习或者写毕业论文也没有任何帮助。 组里的服务器差不多可以被大家正常使用，重装系统这个过程学习到了很多关于Lin...

Normalization Transformer学习笔记三：为什么Transformer要用LayerNorm/Batch Normalization & Layer Normalization （批量&层标准化) 深入理解Batch Normalization原理与作用 Normalization又称为标准化或者规范化，是在深度学习中经常使用的一种算法。...

Transformer之位置编码 为什么需要位置编码 注意力计算公式如下图所示： {% asset img xjfvohsbiqeg 01.png '"""注意力计算公式"' %} 其中q和k分别为query和key，代表token的语义信息。如果没有位置编码，那么q和k的计算结果是不受二者之间相对距离大小的影响的。也就是说，如果没有位置编码，那么trans...

Linux安装comsol 在linux系统中安装comsol和在win中有所不同，接下来从下载压缩包，解压，创建文件夹，挂载，安装等步骤讲解如何在linux系统中安装一个comsol。 下载iso文件 首先到IT技术之家下载comsol的iso文件，版本是comsol6.3。 下载地址 下载好后需要上传到远程linux服务器，可以使用xftp或者ssh，如...

网站问题 hexo command can not found hexo包没有安装或者意外被卸载，按照以下步骤即可重新安装： npm uninstall -g hexo-cli npm install -g hexo-cli hexo -v ssh 连接远程主机 ssh -p 22 root@host 其中-p后面是端口号，root是远程主机上的用户名，ho...

环境配置记录 本地配置方法：去 pytorch官网 找到要下载的历代版本，比如本次配置版本为 conda install pytorch==2.2.0 torchvision==0.17.0 torchaudio==2.2.0 pytorch-cuda=11.8 -c pytorch -c nvidia 直接使用这个命令即可下载pytoch相关包以及cuda...

步骤： 1.github创建一个与工程名同名的仓库，不要勾选任何可选项 2.进入工程名目录 3.右键打开git bash 4.运行以下代码： git init touch README.md git add README.md git commit -m "first commit" git branch -M main git remote add ori...

tensordot使用方法 主要是对张量进行点乘，对于多维张量来说，有时候需要指定维度进行点乘 。 numpy.tensordot(a, b, axes=0,1,2) axes=1的话，则结果是两个数组以矩阵相乘的形式计算.实际为 a的最后一个维度和b的第一个维度进行点乘 若a，b是二维数组，此时即为矩阵乘法。numpy中的轴分布如下图： axis=0和ax...

Dezero Bug 记录 在步骤52的时候，添加cupy库，引起一系列bug。 1. UserWarning: Failed to auto-detect cl.exe path: : No Microsoft Visual C++ version found 即cupy库需要使用编译器构建C/C++扩展模块。在 Windows 系统上，通常使用 Micr...

添加所有环境至jupyter 代码如下： 1. conda activate my-conda-env 2. conda install ipykernel 3. conda deactivate 4. conda activate base 5. conda install nb conda kernels 6. jupyter notebook 这样打开...