paper: SPIKEBERT
MathJax.Hub.Config({ tex2jax: {inlineMath: [['$', '$']]}, messageStyle: "none" });
SPIKEBERT: A LANGUAGE SPIKFORMER LEARNED FROM BERT WITH KNOWLEDGE
abstract
脉冲神经网络 (SNN) 提供了一种以更节能的方式实现深度神经网络的有前途的途径。然而，现有SNN用于语言任务的网络架构仍然过于简单且相对浅层，深层架构尚未得到充分探索，导致与BERT等主流基于Transformer的网络相比存在显着的性能差距。 为此，我们改进了
Rational Software Architect
MathJax.Hub.Config({ tex2jax: {inlineMath: [['$', '$']]}, messageStyle: "none" });
什么是 Rational Software Architect？
IBM Rational Software Architect – IBM软件开发平台的一部分 – 是IBM在2003年二月并购Rational以来，首次发布的Rational产品。改进过的软件开发平台在集成和易用性上达到一个新的层次，这将会让使用IBM产品工作的开发者感到满意。
1.创建空白模型
启动 Rational Software Ar
ML:Bert
MathJax.Hub.Config({ tex2jax: {inlineMath: [['$', '$']]}, messageStyle: "none" });
参考链接：
🔗：李宏毅-ELMO, BERT, GPT讲解
一.Review
1.1 1-of-N Encoding
最早采用的方法，显然一个词用一个向量表示不合理
apple=[1 0 0 0 0]
bag=[0 1 0 0 0]
cat=[0 0 1 0 0]
dog=[0 0 0 1 0]
elephant=[0 0 0 0 1]
1.2 Word Class
之后才用WOrd CLass，但是
paper: BERT: Pre-training of Deep Bidirectional Transformers for Language Understanding
MathJax.Hub.Config({ tex2jax: {inlineMath: [['$', '$']]}, messageStyle: "none" });
参考链接
🔗：BERT 论文逐段精读【论文精读】
BERT: Pre-training of Deep Bidirectional Transformers for Language
题目理解：深的双向的transformer用来做预训练的针对语言理解的模型
pre-train:在一个数据集上训练好模型，但模型是用于在别的任务上，这种训练叫预训练
abtract
本文提出一种新的语言表示模型BERT，即基于t
Blitz:question
MathJax.Hub.Config({ tex2jax: {inlineMath: [['$', '$']]}, messageStyle: "none" });
Question?
一. Assemble
asm: BLITZ汇编程序/汇编机
1asm Hello.s
结果：创建一个Hello.o的文件
asm：命令行工具名称，通常是一个汇编器
.s: 汇编语言源文件
.o:二进制格式对象文件，包含了编译后但未链接的代码
编译：将源代码（通常是高级编程语言写的）转化为机器语言或中间代码的过程，输出通常是对象文件
链接：将一个或多个对象文件以及可能的其他库文件组合在一起，
Blitz:An Overview of the BLITZ Computer Hardware
MathJax.Hub.Config({ tex2jax: {inlineMath: [['$', '$']]}, messageStyle: "none" });
1.Introduction
BLITZ计算机的设计完全是为了支持大学级别操作系统课程的学生开发操作系统内核代码。BLITZ计算机不是真正的物理机器。相反，硬件完全是在软件中模拟的。
本文档介绍BLITZ计算机“硬件”，并描述它在广泛，一般的术语。更多细节可以在文档“the BLITZ Architecture”中找到。
BLITZ机器是基于Sun SPARC架构松散建模的。我们假定读者熟悉CPU和汇编语言编程的主
Blitz:An Overview of the BLITZ System
MathJax.Hub.Config({ tex2jax: {inlineMath: [['$', '$']]}, messageStyle: "none" });
1.Introduction
BLITZ系统是一个软件集合，旨在支持大学级别的操作系统课程。在一两个学期的课程中，学生将实现一个小，但完整的操作系统内核。BLITZ软件为这些学生项目提供了框架。
2.The Components of BLITZ
BLITZ系统由以下组件组成:
BLITZ Processor Architecture
Virtual Machine (Emulator)
Assembler
Blitz:The Thread Scheduler and Concurrency Control Primitives
MathJax.Hub.Config({ tex2jax: {inlineMath: [['$', '$']]}, messageStyle: "none" });
The BLITZ Thread Scheduler
本文将介绍一个特定的内核调度器BLITZ线程调度器的设计。我们将介绍数据结构、算法，甚至代码片段，试图准确地解释真正的线程调度程序是如何工作的。
BLITZ线程调度程序是BLITZ系统的一部分，BLITZ系统是一个软件集合，旨在支持关于操作系统的大学级别课程。在一两个学期的课程中，学生将实现一个小型但完整的操作系统内核。BLITZ软件为这些学生项目提供了框架。
强com VS 弱com
MathJax.Hub.Config({ tex2jax: {inlineMath: [['$', '$']]}, messageStyle: "none" });
强com VS 弱com
T1 fighting!!!
🔗：为了结出过程的果实
THU
系所
com情况
考试情况
计算机科学与技术系
强com
主要看机试成绩,机试难度大
软件学院
强com
主要看机试成绩,机试难度大
交叉信息研究院
弱com
没有上机考试,材料提交之后,如果老师对你感兴趣,会直接跟你联系,进行一对一的交流、考核
深圳国际研究生院
中弱com
需要机试,并且需要
Intern:01
MathJax.Hub.Config({ tex2jax: {inlineMath: [['$', '$']]}, messageStyle: "none" });
Keria fighting!
🔗：希望付出多少努力就能取得多少成果
TODO 10.16
[ ] :BERT: Pre-training of Deep Bidirectional Transformers for Language Understanding
[ ] :SpikingBERT: DistillingBERTtoTrainSpikingLanguageModelsUsingImplicit
