- 浏览: 519616 次
- 性别:
- 来自: 杭州
文章分类
- 全部博客 (161)
- 多线程与并发编程 (20)
- 算法和数据结构 (8)
- 缓存 (0)
- HttpClient (2)
- 疑难杂症 (11)
- Java内存管理 (17)
- 分布式开发 (14)
- Linux常用命令 (10)
- OSGI (0)
- UML (2)
- 趣味面试题 (5)
- 设计模式 (8)
- Java类加载 (2)
- JSTL (1)
- Web 服务器 (4)
- IT人生 (3)
- Java基础 (11)
- Flash技术 (7)
- 新知识 (3)
- 常用速备速查 (4)
- 版本控制 (1)
- Java集合工具类 (6)
- web前端技术 (1)
- 趣味话题 (1)
- 安全 (0)
- 架构设计 (5)
- Spring (4)
- 负载均衡技术 (2)
- 持久层技术 (2)
- MySQL单机多实例方案 (1)
- 收藏备用 (0)
- 性能优化 (3)
最新评论
-
liuwuhen:
...
Pushlet的工作原理 -
fbwfbi:
fengchuizhuming 写道楼主的完全正确。鉴定完毕楼 ...
硬件同步原语(CAS)理论 -
passerby_whu:
uule 写道这个测试后结果为:“testPageConten ...
FutureTask的使用方法和使用实例 -
fengchuizhuming:
楼主的完全正确。鉴定完毕
硬件同步原语(CAS)理论 -
edwardjuice:
FutureTask的使用方法和使用实例
我们都知道,现在的计算机, cpu 在计算的时候,并不总是从内存读取数据,它的数据读取顺序优先级是:寄存器-高速缓存-内 存。线程耗费的是 CPU ,线程计算的时候,原始的数据来自内存,在计算过程中,有些数据可能被频繁读取,这些数据被存储在寄存器和高速缓存中,当线程计算 完后,这些缓存的数据在适当的时候应该写回内存。当个多个线程同时读写某个内存数据时,就会产生多线程并发问题,涉及到三个特性:原子性,有序性,可见性。
本文转自:http://kenwublog.com/illustrate-memory-reordering-in-cpu
这两天,笔者拜读了 Dennis Byrne 写的一片博文 Memory Barriers and JVM Concurrency ( 中译文 内存屏障与 JVM 并发 ) 。
文中提到 :
对主存的一次访问一般花费硬件的数百次时钟周期。处理器通过缓存( caching )能够从数量级上降低内存延迟的成本这些缓存为了性能重新排列待定内存操作的顺序。也就是说,程序的读写操作不一定会按照它要求处理器的顺序执行。
这段话是作者对内存屏障重要性的定义。通过 cache 降低内存延迟,这句话很好理解。但后面那句 “ 为了性能重排序内存操作顺序 ” ,让没学好微机原理的我倍感疑惑。
CPU 为何要重排序内存访问指令?在哪种场景下会触发重排序?作者在文中并未提及。
为了解答疑问,我在网上查阅了一些资料,在这里跟大家分享一下。
1. 重排序的背景
我们知道现代
CPU
的主频越来越高,与
cache
的交互次数也越来越多。当
CPU
的计算速度远远超过访问
cache
时,会产生
cache wait
,过多的
cache wait
就会造成性能瓶颈。
针对这种情况,多数架构(包括
X86
)采用了一种将
cache
分片的解决方案,即将一块
cache
划分成互不关联地多个
slots (
逻辑存储单元,又名
Memory Bank
或
Cache Bank)
,
CPU
可以自行选择在多个
idle bank
中进行存取。这种
SMP
的设计,显著提高了
CPU
的并行处理能力,也回避了
cache
访问瓶颈。
Memory
Bank
的划分
一般
Memory bank
是按
cache address
来划分的。比如
偶数
adress 0×12345000
分到
bank 0,
奇数
address 0×12345100
分到
bank1
。
重排序的种类
编译期重排。编译源代码时,编译器依据对上下文的分析,对指令进行重排序,以之更适合于
CPU
的并行执行。
运行期重排, CPU 在执行过程中,动态分析依赖部件的效能,对指令做重排序优化。
2. 实例讲解指令重排序原理
为了方便理解,我们先来看一张 CPU 内部结构图 :
从图中可以看到,这是一台配备双CPU 的计算机,cache 按地址被分成了两块 cache banks ,分别是 cache bank0 和 cache bank1 。
理想的内存访问指令顺序:
1
,CPU0
往 cache address 0×12345000
写入一个数字 1
。因为address 0×12345000
是偶数,所以值被写入 bank0.
2
,CPU1
读取 bank0 address
0×12345000
的值,即数字1
。
3
,CPU0
往 cache
地址 0×12345100
写入一个数字 2
。因为address 0×12345100
是奇数,所以值被写入 bank1.
4
,CPU1
读取 bank1 address
0×12345100
的值,即数字2
。
重排序后的内存访问指令顺序:
1
,CPU0
准备往 bank0 address 0×12345000
写入数字 1
。
2
,CPU0
检查 bank0
的可用性。发现 bank0
处于 busy
状态。
3
, CPU0
为了防止 cache
等待,发挥最大效能,将内存访问指令重排序。即先执行后面的 bank1
address 0×12345100
数字2
的写入请求。
4
,CPU0
检查 bank1
可用性,发现bank1
处于 idle
状态。
5
,CPU0
将数字2
写入 bank 1 address 0×12345100
。
6
,CPU1
来读取 0×12345000
,未读到 数字1
,出错。
7
, CPU0
继续检查 bank0
的可用性,发现这次 bank0
可用了,然后将数字1
写入 0×12345000
。
8
, CPU1
读取 0×12345100
,读到数字2
,正确。
从上述触发步骤中,可以看到第 3 步发生了指令重排序,并导致第 6 步读到错误的数据。
通过对指令重排,CPU
可以获得更快地响应速度,
但也给编写并发程序的程序员带来了诸多挑战。
内存屏障是用来防止CPU
出现指令重排序的利器之一。
通过这个实例,不知道你对指令重排理解了没有?
3. 不同架构下的指令重排优化
从图中,可以看到,X86 仅在 Stores after loads 和 Incoherent instruction cache pipeline 中会触发重排。
Stores after loads 的含义是在对同一个地址进行读写操作时,写入在读取后面,允许重排序。即满足弱一致性(Weak Consistency) ,这是最可被接受的类型,不会造成太大的影响。
Incoherent instruction cache pipeline 是跟JIT 相关的类型,作用是在执行 self-modifying code 时预防JIT 没有flush 指令缓存。我不知道该类型跟指令排序有什么关系,既然不在本文涉及范围内,就不做深入探讨了。
转载请注明原文链接:http://kenwublog.com/illustrate-memory-reordering-in-cpu
参考资料
http://kenwublog.com/docs/memory.barrier.ppt
http://kenwublog.com/docs/memory.model.instruction.reordering.and.store.atomicity.pdf
http://kenwublog.com/docs/memory.ordering.in.modern.microprocessor.pdf
http://en.wikipedia.org/wiki/Memory_ordering
http://en.wikipedia.org/wiki/Memory_Bank
发表评论
-
死锁实例
2011-05-19 14:21 1907下面这道题,是考死锁的,比较简单,想两个问题: 1.什么时候 ... -
Java存储模型
2011-05-18 13:29 01.什么是存储模型 没有适当的同步,编译器生成指令的次序,可 ... -
设计模式-组合模式
2011-05-16 15:48 1077组合模式的定义: 将对象组合成树的形式来表示整体和局部之 ... -
CompleteService介绍和使用实例
2011-05-11 17:31 3881当向Executor提交批处理任务时,并且希望在它们完成后获得 ... -
CyclicBarrier的使用实例
2011-05-11 15:45 1441CyclicBarrier允许给定数量的线程全部到达关卡点时, ... -
CopyOnWriteArrayList工作原理和实例
2011-05-05 23:43 3344CopyOnWriteArrayList顾名思义,在写入操作时 ... -
Semaphore的介绍和使用实例
2011-04-27 22:32 2772Semaphore可以用来控制能 ... -
FutureTask的使用方法和使用实例
2011-04-27 15:34 13263FutureTask是一种可以取消的异步的计算任务。它的计算是 ... -
CountDownLatch的使用实例
2011-04-26 22:20 8186CountDownLatch CountDownl ... -
Java 并发编程基础-共享对象
2011-04-19 14:48 1410Java 并发编程基础 ... -
Java并发编程基础
2011-04-15 14:55 1515Java 并发编程基 ... -
Java多线程基础
2011-04-13 15:52 4707Java 多线程基础 ... 2 ... -
硬件同步原语(CAS)理论
2010-09-24 22:13 6950在Java并发编程中,常常 ... -
java5中使用interrupt()来停止java线程的方法(转)
2010-08-18 23:24 3065在开发java多线程时,如果要停止线程这个问题很头痛吧,不过在 ... -
Java 中的Double Check Lock(转)
2010-07-27 21:13 8043对于多线程编程来说,同步问题是我们需要考虑的最多的问题,同步的 ... -
并发访问的问题解决方案
2010-07-26 18:15 1967目前正在做基于Red 5 的Meeting系统,我们会在Mee ... -
用并发包中的重入锁实现生产消费模型
2010-06-15 00:07 1401传统的生产消费模型,实际上是通过一个条件来调节生产者和消费者线 ... -
ThreadLocal原理(转)
2010-03-24 18:06 2129http://jzhua.iteye.com/blog/517 ... -
(转)Java偏向锁实现原理(Biased Locking)
2010-03-21 22:24 1334http://www.iteye.com/topic/5180 ... -
生产消费模型实例
2010-03-02 23:23 1674“生产者-消费者-仓储”模型,包含三种角色: 1.生产者 ...
相关推荐
jvm指令手册,东西很全,很标准,适合java进阶学习
主要是JVM内存分配及简单的JVM性能调优
NULL 博文链接:https://lihongchao87.iteye.com/blog/1688576
JVM指令手册详细完整版.pdf
这个是jvm指令手册,可以通过该手册查找理解字节码程序,超详细,超好用!!
JVM初始分配的内存.doc JVM初始分配的内存.doc
Sun JVM原理与内存管理
long果 深入理解Java虚拟机(jvm性能调优+内存模型+虚拟机原理)。讲解相当详细,值得一看。下载仅供参考学习,侵权联删。
java内存屏障与JVM并发详解实用.pdf
JVM 深入学习教程深入分析JVM教程!jvm 内存原型,优化等等
jvm指令手册
其java内存模型中更重要的,应该是内存屏障,memoryfence较粗犷,代价也提到内存屏障,先应该说到重排序,这强调下,重排序只对于那些在当前线程没有依赖关
idea插件JVM内存工具JProfiler11,下载完,即可导入idea,可idea快捷打开使用。
jvm性能调优+内存模型+虚拟机 jvm性能调优+内存模型+虚拟机 jvm性能调优+内存模型+虚拟机
JVM并发编程源代码,最终在官网找到的。
jvm memory
jvm内存结构-栈的变化,机器指令的格式/执行模式文章中的demo代码。
JVM指令手册.java代码经过javap-v可以查看java指令,配合指令手册可以查看详细操作过程