1. Fundamentals of Computer Design¶

Introduction¶

Class of Computer¶

计算使用方式的变化促进了 5 种计算机市场的形成，其中每一种都有自己不同的应用、需求和计算技术。下表总结了主流计算环境及其重要特征：

Class of Parallelism¶

多种级别的并行已成为计算机设计的主要驱动力，能耗和成本是其主要约束。Application 中有以下两种基本并行：

• <1> Data-Level Parallelism(DLP): 同时操作多个数据项
• <2> Task-Level Parallelism(TLP): 并行地单独执行多个工作任务

在计算机硬件中，以如下四种主要方式来利用、实现这两种类型的应用并行：

• <1> Instruction-Level Parallelism(ILP): 在流水线、推测执行(Speculative Execution)两个层面上对 DLP 进行利用
  • Chapter 3
• <2> Vector architectures, graphic processor unit(GPUs), and multimedia instruction sets: 将单条指令并行应用于一组数据，以利用数据级并行 DLP
  • Chapter 4
• <3> Thread-Level Parallelism: 在 Tightly Coupled Hardware 中利用 DLP 或 TLP 。这种模型允许并行线程之间进行交互
  • Chapter 5
• <4> Request-Level Parallelism(RLP): 利用程序员或操作系统指定的大量解耦任务之间的并行性
  • Chapter 6

Flynn 在研究并行计算工作量时，提出了一种简单的分类方式：

Single/Multiple Instruction/Data stream

• SISD: 单处理器，但是可以利用指令级并行 ILP
  • Chapter 3
• SIMD: 同一条指令由多个使用不同数据流的处理器执行，利用数据级并行 DLP
  • Chapter 4
• MISD: 没有这种架构的商用处理器
  • 不存在
• MIMD: 每个处理器都提取自己的指令，对自己的数据进行操作，针对任务级并行 TLP
  • Chapter 5, 6

CA Definition¶

CA must design the organization and hardware to meet functional requirements as well as price, power, performance, and availability goals

ISA 相当于软硬件之间的界限，下面将从七个方面来简要介绍以下 ISA：

• <1> Class of ISA: 几乎所有 ISA 都是通用寄存器体系结构，操作数要么是寄存器，要么是存储地址。这一类别又可分为两种主流版本
  • Register-Memory ISA: 80x86, 许多指令可以直接访问内存
  • Load-Store ISA: RISC-V, ARMv8, 只有 load, store 能够访问内存
    • 自 1985 年后发布的 ISA 都是 Load-Store ISA
• <2> Memory Addressing: 几乎所有计算机都采用字节寻址来访问存储器。
  • 有些体系结构(如 ARMv8)要求操作对象对齐。80x86 和 RISC-V 不要求对齐，但是如果操作数是对齐的，访问速度通常会快一些
• <3> Addressing Modes: 寄存器寻址、立即数寻址、位移量寻址等
• <4> Types and sizes of operands: 8位(ASCII字符)、16位(Unicode字符或 half word)、32位(integer 或 word)、64位(double-word 或 long integer)、IEEE 浮点数(32bit for single, 64bit for double, 80bit for extended double)
• <5> Operations: 常见的操作有数据传输指令、算术逻辑指令、控制指令和浮点指令
• <6> Control FLow Instructions: 条件分支、无条件跳转、过程调用及返回
• <7> Encoding: 有固定长度和可变长度两种基本的编码选择。
  • ARMv8 和 RISC-V 都是固定 32-bit 长度指令
  • 80x86 的编码是可变长度，变化范围是 1-18 Bytes

Trends¶

Technology¶

要为计算机的发展做长远计划，设计人员必须了解 Implementation 技术的快速变化，以下五种实现技术是现代计算机不可或缺的：

• 芯片工艺 Integrated Circuit Logic Technology
  • 摩尔定律逐渐失效
• Memory 工艺 Semiconductor DRAM
  • Dynamic Random-Access Memory
  • 容量、延迟、带宽
• SSD 工艺 Semiconductor Flash
  • Electrically Erasable Programmable Read-Only Memory
  • 非易失性半导体存储
• 磁盘工艺 Magnetic Disk Technology
  • 是服务器存储和仓库级存储的核心技术
• 网络工艺 Network Technology
  • 延迟、带宽
  • 网络性能取决于交换机和传输系统的性能

这些快速发展的技术左右着计算机设计的命运。由于计算速度的激增和技术的迅猛发展，一种计算机设计的生存期可能只有 3-5 年。

Power and Energy¶

Bandwidth 或 Throughput 指给定时间完成的总工作量，比如磁盘读写的每秒传输兆字节数。相对的，Latency 或 Response Time 指一个时间从开始到完成所经过的时间，比如一次磁盘访问需要的毫秒数。

在技术的发展过程中，Bandwidth 的发展速度超过了 Latency，并且这一趋势很可能会继续持续下去。

对于 CMOS 芯片来说，传统的主要能耗是开关晶体管，即动态能耗(Dynamic Energy)。每个晶体管的能耗跟该晶体管驱动的容性负载与电压平方的乘积平方成正比：

每个晶体管所需功耗就是一次转换的能耗乘上转换频率：

对于一项 Fixed Task ，降低时钟频率可以降低 \(Power\)，但不一定能降低 \(Energy\)。(课本原话)

配电、散热和防热点的难度日益增加，能耗是现在晶体管的主要限制因素。因此，现代微处理器提供了许多技术，试图提高能效（Energy-Effiency）：

• <1> Do nothing well: 关闭 inactive modules 的时钟，例如当前没有执行浮点指令，则浮点单元的时钟将被禁用
• <2> Dynamic Voltage-Frequency Scaling, DVFS: 在一些活跃程度较低的时段，不以最高频率和电压运转
• <3> Design for the typical case: PMD 和笔记本等设备经常空闲，所以内外存储器都提供了低功耗模式，以减少能耗，延长电池寿命
• <4> Overlocking: 即超频，大部分高性能微处理器都提供了短时超频的功能

除了上述所说的占主要部分的动态功耗，即便晶体管处于关闭状态也存在的功耗称为静态功耗：

Cost¶

尽管成本在一些计算机设计（特别是超级计算机）中不是特别重要，但对成本敏感的设计却越来越重要。

Cost Trend 的影响因素主要有三点：Time（时间）、Volumn（产量）、Commoditization（大众化，商品化）

Dependability¶

系统在 SLA(Service Level Agreement) 规定的两种服务状态中转换：

• <1> Service Accomplishment，即提供了指定服务
• <2> Service Interruption，即所提供的服务与 SLA 不符

两种 SLA 状态通过 failures(from state 1 to 2) 或者 restorations(from state 2 to 1) 进行转换。对这两种转换进行量化，得到 dependability 的两种度量：

• MTTF mean time to failure 平均无故障时间
• MTTR mean time to repair 平均修复时间
• MTBF mean time between failures
  • = MTTF + MTTR
• Module Reliability 可靠性
  • 从参照点至出现故障经过时间的量度，即通常通过 MTTF 作为量度
  • 在计算机组成中该处为 Dependability，均翻译为可靠性
• Module Availability 可用性
  • \(= \frac{MTTF}{MTTF+MTTR}= \frac{MTTF}{MTBF}\)

通过冗余提高 Dependability，RAID。见计组部分。

Performance¶

对计算机性能的直观估计就是执行时间的倒数：

根据测量方式，Execution Time 也会有不同的定义方式：

• wall-clock time/response time/elapsed time 完成一项任务的 latency，包括 storage accesses、memory accesses、I/O activities、OS overheading 等所有相关时间
• CPU Time 只指 CPU 执行计算的时间

此外，用户计算他们的计算机相对性能的方式使用 Benchmark Program

Quantitative Principles¶

以下几点为计算机设计与分析中非常有用的指导原则：

• Take advantage of Parallelism
• Principle of Locality
• Focus on Common Case
• Amdahl's Law