【Java并发】Java并发编程与高并发基础概念

笔记来源：【IMOOC】Java并发编程与高并发解决方案

并发基础

综述：

• CPU多级缓存：缓存一致性、乱序执行优化
• Java内存模型：JMM规定、抽象结构、同步八种操作及规则
• Java并发的优势与风险

并发与高并发基本概念

基本概念

并发：同时拥有两个或者多个线程，如果程序在单核处理器上运行，多个线程将交替地换入或者换出内存，这些线程是同时“存在”的，每个线程都处于执行过程中的某个状态，如果运行在多核处理器上，此时，程序中的每个线程都将分配到一个处理器核上，因此可以同时运行。

高并发：高并发（High Concurrency）是互联网分布式系统架构设计中必须考虑的因素之一，它通常是指，通过设计保证系统能够同时并行处理很多请求。

---

• 并发：多个线程操作相同的资源，保证线程安全，合理使用资源
• 高并发：服务器能同时处理很多请求，提高程序性能

知识技能

• 总体架构：Spring Boot、Maven、JDK8、MySQL
• 基础组件：Mybatis、Guava、Lombok、Redis、Kafka
• 高级组件/类：Joda-Time、Atomic包、J.U.C、AQS、ThreadLocal、RateLimiter、Hystrix、threadPool、shardbatis、curator、elastic-job...

CPU多级缓存-缓存一致性

CPU多级缓存

• 为什么需要CPU cache：CPU的频率太快了，快到主存跟不上，这样在处理器时钟周期内，CPU常常需要等待主存，浪费资源。所以cache的出现，是为了缓解CPU和内存之间速度的不匹配问题（结构：CPU -> cache -> memory）。

• CPU cache有什么意义：

  1. 时间局部性：如果某个数据被访问，那么在不久的将来它很可能被再次访问；
  2. 空间局部性：如果某个数据被访问，那么与它相邻的数据很快也可能被访问。

缓存一致性（MESI）

用于保证多个CPU cache之间缓存共享数据的一致性

• MESI协议中的状态

  • M: Modified 修改：指的是该缓存行只被缓存在该CPU的缓存中，并且是被修改过的，因此他与主存中的数据是不一致的，该缓存行中的数据需要在未来的某个时间点（允许其他CPU读取主存相应中的内容之前）写回主存，然后状态变成E（独享）
  • E：Exclusive 独享：指的是该缓存行只被缓存在该CPU的缓存中，是未被修改过的，与主存的数据是一致的，可以在任何时刻当有其他CPU读取该内存时，变成S（共享）状态，当CPU修改该缓存行的内容时，变成M（被修改）的状态
  • S：Share 共享：意味着该缓存行可能会被多个CPU进行缓存，并且该缓存中的数据与主存数据是一致的，当有一个CPU修改该缓存行时，其他CPU是可以被作废的，变成I(无效的)
  • I：Invalid 无效：代表这个缓存是无效的，可能是有其他CPU修改了该缓存行
• local read：读本地缓存的数据
• local write：将数据写到本地缓存里面
• remote read：将内（主）存中的数据读取到缓存中来
• remote write：将缓存中的数据写会到主存里面

CPU多级缓存-乱序执行优化

• 处理器为提高运算速度而作出违背代码原有顺序的优化
  

JAVA内存模型（Java Memory Model，JMM）

Java 内存模型

• Heap(堆)：java里的堆是一个运行时的数据区，堆是由垃圾回收来负责的，堆的优势是可以动态的分配内存大小，生存期也不必事先告诉编译器，因为他是在运行时动态分配内存的，java的垃圾回收器会定时收走不用的数据，缺点是由于要在运行时动态分配，所以存取速度可能会慢一些。
• Stack(栈)：栈的优势是存取速度比堆要快，仅次于计算机里的寄存器，栈的数据是可以共享的，缺点是存在栈中的数据的大小与生存期必须是确定的，缺乏一些灵活性。栈中主要存放一些基本类型的变量，比如 int，short，long，byte，double，float，boolean，char，对象句柄。

java内存模型要求调用栈和本地内存变量存放在线程栈（Thread Stack）上，对象存放在堆上。一个本地变量可能存放一个对象的引用，这时引用变量存放在本地栈上，但是对象本身存放在堆上，成员变量跟随着对象存放在堆上，而不管是原始类型还是引用类型，静态成员变量跟随着类的定义一起存在在堆上。存在堆上的对象，可以被持有这个对象的引用的线程访问。如果两个线程同时访问同一个对象的私有变量，这时他们获得的是这个对象的私有拷贝。

计算机硬件架构

JVM 与硬件内存架构的关联

Java内存模型抽象结构

Java内存模型-同步八种操作

• lock（锁定）：作用于主内存的变量，把一个变量标识为一条线程独占状态
• unlock（解锁）：作用于主内存的变量，把一个处于锁定状态的变量释放出来，释放后的变量才可以被其他线程锁定
• read（读取）：作用于主内存的变量，把一个变量值从主内存传输到线程的工作内存中，以便随后的load动作使用
• load（载入）：作用于工作内存的变量，它把read操作从内存中得到的变量值放入工作内存的变量副本中
• use（使用）：作用于工作内存的变量，把工作内存中的一个变量值传递给执行引擎
• assign（赋值）：作用于工作内存的变量，它把一个从执行引擎接收到的值赋值给工作内存的变量
• store（存储）：作用于工作内存的变量，把工作内存中的一个变量的值传送到主内存中，以便随后的write的操作
• write（写入）：作用于主内存的变量，它把store操作从工作内存中的一个变量的值传送到主内存的变量中

Java内存模型-同步规则

• 如果要把一个变量从主内存中复制到工作内存，就需要按顺序地执行read和load操作，如果把变量从工作内存中同步回主内存中，就要按顺序地执行store和write操作。但Java内存模型只要求上述操作必须按顺序执行，而没有保证必须是连续执行
• 不允许read和load、store和write操作之一单独出现
• 不允许一个线程丢弃它的最近assign操作，即变量在工作内存中改变了之后必须同步到主内存中
• 不允许一个线程无原因地（没有发生过任何assign操作）把数据从工作内存同步回主内存中
• 一个新的变量只能再主内存中诞生，不允许在工作内存中直接使用一个未被初始化（load或assign）的变量。即就是对一个变量实施use和store操作之前，必须先执行过了assign和load操作
• 一个变量在同一时刻只允许一条线程对其进行lock操作，但lock操作可以被同一条线程重复执行多次，多次执行lock后，只有执行相同次数的unlock操作，变量才会被解锁。lock和unlock必须成对出现
• 如果对一个变量执行lock操作，将会清空工作内存中此变量的值，在执行引擎使用这个变量前需要重新执行load或assign操作初始化变量的值
• 如果一个变量事先没有被lock操作锁定，则不允许对它执行unlock操作；也不允许去unlock一个被其他线程锁定的变量
• 对一个变量执行unlock操作之前，必须先把此变量同步到主内存中（执行store和write操作）

Java内存模型-同步操作与规则

并发的优势与风险