hiyasame's blog
博客
分类
标签
归档
友链
关于
博客
分类
标签
归档
友链
关于
Attention is all you need
本文是《Attention is all you need》个人阅读笔记 这篇论文主要提出了 Transformer 架构,自注意力机制,并将其运用于翻译任务,取得了不错的效果。 Transfomer 架构论文中提出的 Transformer 架构是 Encoder-Decoder 类型的(GPT 是 Decoder-Only)。 左侧是 Encoder 部分,负责将翻译任务的输入进行编...
2026-11-18
阅读全文
SwiftPaxos
SwiftPaxos Fast Geo-Replicated State Machines 算法细节 Client 向所有节点广播 Cmd,这里注意,Client 本身也是一个节点 单个节点收到 Cmd 后会向其他节点广播 FastAck,其中包含自己收到 Cmd 的依赖路径 比如图一,我发送了一条指令 z,对于节点 p1,p2 ,xy 都在 z 的前面,所以 p1,p2 中 z 的依...
2025-12-04
阅读全文
Amazon Aurora
https://zhuanlan.zhihu.com/p/208680604 在本文中,我们首先介绍了以下三个贡献: 如何在云规模上实现可持久性,以及如何设计Quorum系统来应对关联故障。(第二节) 如何将传统数据库的下层部分转移到存储层实现智能存储。(第三节) 如何在分布式存储中移除多阶段同步、崩溃恢复以及Checkpoint。(第四节) Persistence...
2025-08-21
阅读全文
Chain Replication & CRAQ
Chain Replication论文原文:https://pdos.csail.mit.edu/6.824/papers/cr-osdi04.pdf 译文:https://zhuanlan.zhihu.com/p/533384629 CRAQ (Chain Replication with Apportioned Queries)论文原文:http://nil.csail.mit.edu/...
2025-07-26
阅读全文
ZooKeeper
论文原文: http://nil.csail.mit.edu/6.5840/2024/papers/zookeeper.pdf 中文译文: https://github.com/mapleFU/zookeeper_paper_cn 定义ZooKeeper 提供了一系列简单,高性能的原语用于协调不同的分布式系统。它在多副本、中心化的服务中,组合了消息群发(_group messaging_),...
2025-07-18
阅读全文
GFS
http://nil.csail.mit.edu/6.5840/2024/papers/gfs.pdf 定义GFS (Google File System) 是谷歌的分布式文件系统,主要面向其他分布式系统提供存储服务。 Assumptions 跑节点的都是便宜机器,很容易 fail,因此需要 fault tolerance 系统存储的文件大部分都是大文件(原文中提到 > 100MB ...
2025-06-15
阅读全文