Status: 施工中🏗️ 0. Contents Titans: Learning to Memorize at Test Time 1. Titans: 测试时记忆 Abstract 摘要部分提到： We present a new neural long-term memory module that learns to memorize historical context and helps an attention to attend to the current context while utilizing long past information, …, has the advantage of a fast parallelizable training while maintaining a fast inference. Titans提出的长程记忆模块解决Attention在做注意力计算时捕捉不到很早期的历史信息（scale to larger than 2M context window size）。从记忆形成的视角，作者认为Attenti ...

0. 写在前面 其实一年前就读过了Stockl和Maass的FS神经元了，要义是用一个极简的神经元模型去拟合传统神经网络中的激活函数，也是给ANN-SNN Conversion提供了一个新思路。组内师兄师姐基于此做了一篇扩展FS多基编码用于SNN Converesion的工作。但FS有关于生物学启发的部分当时并没有细致研究过。所以，通过这篇Blog，希望能够对这一部分理解更透。 1. FS Neuron的优越性 摘要部分有这样一句： …, so that it not only matters for information transmission how many spikes a neuron emits, but also when it emits those spikes. …, 因此，对于信息传递而言，神经元发出多少脉冲固然重要，但何时发出这些脉冲也同样重要。 这句话说明了，相较于其他常用的rate coding/direct coding策略，神经元【何时】发出脉冲的信息也被考虑了进去。也正因如此，FS神经元能以平均下来大约2个脉冲就可完成conversion。 ...

写在前面 任课教师：许超，Bakhadyr Khoussainov 参考教材：MIT 6.042J 教材 知识点总结 好心的许老师在课程群里发了：submodular function, matroid, matroid intersection, base, graph coloring, independent set, clique, binary matrix multiplication, shortest path 。。。但真的难度很高（我都没听过啊啊啊啊） 1. 次模函数（Submodular Function） Ref（漫长的4h雅思听力）：Submodularity and Optimization – Jeff Bilmes (Part 1) 1.1 次模、超模与模函数的基本定义 Def. 1.1.1(次模的定义)：Given a finite ground set(有限的基集合) VVV, a function f:2V→Rf: 2^V \rightarrow \mathbb{R}f:2V→R is said to be submodular if f(A ...

写在前面 任课教师：余盛季 参考教材：《分布式系统概念与设计》，计算机科学丛书（原书第五版），机械工业出版社 知识点总结 第一章（对应课本第一章：分布式系统的特征） 1. 分布式系统的构建原因 功能分离 固有的分布性 负载均衡 可靠性 经济性 2. 分布式系统的定义、特征 分布式系统的定义：一个其硬件/软件组件分布在连网的计算机上，组件之间通过传递信息进行通信和动作协调的系统。 三个基本特征：并发性 无全局时钟 故障独立性 3. 分布式系统举例 WEB搜索：Google 大型多人在线游戏：MMO、RPG 金融交易 区块链系统 语音系统 数据库系统 4. 分布式系统面临的挑战 异构性 开放性 安全性 可伸缩性 故障处理 并发 透明性 一些名词解释： Time synchronization: 参考此Blog Leader election: 领导者选举, 指定单个进程作为分布在几台计算机（节点）中的某些任务的组织者的过程。在任务开始之前，所有网络节点要么不知道哪个节点将担任任务的“领导者”（或协调员），要么无法与当前协调员沟通。 Mutual exclusion: ...

💡谨以此篇博客，献给一年级苦逼重写论文的我，也献给之后要写论文的各位 规则怪谈 不要写长难句（这不是出考研卷子，对读者好一点），一句话最多带一个从句。 保证每一个段落、每一个句子，都是有衔接，有承上启下（原话：我看到你的上一句，脑自己就能想到下一句你要说啥，并且我看到你的下一句跟我想的不一样的话，我就要gank你了…）。 读者/审稿人都是草履虫。 注意全文的时态一致，过去时谨慎使用（不确定用现在完成时是最好的） 括号()的使用：禁忌：The x (denoted as ...)，尽量不要让读者思维太跳脱。 定语、同位语不要出现很频繁，一句话尽可能完整 注意英语的语句避免头重脚轻。 别出现一页内大量空白，显得工作量很饱满是最好的。 关于引用：去引那些有奠基意义的一些工作（比如LIF神经元就去找Maass、Izh.等），一个段落里不要出现过多次同一篇文章，尽量多找几篇不一样的但是是围绕同一个topic的，这样会更加显得自己的工作很扎实。 锦囊妙计 Abstract (抽象) 怎么写 整体框架应为： 12345% 1\ 背景% 2\ 动机或者问题% 3\ 方法 (和问题呼应)% ...

写在前面 任课教师：罗亮 参考教材：？ 评分标准：Essay

写在前面 任课教师：刘杰彦 参考教材：？ 评分标准：NaN 知识点总结 习题