高并发和多线程的区别,高并发nginx服务器是多进程还是多线程

高并发和多线程的区别,高并发nginx服务器是多进程还是多线程详细介绍

本文目录一览： 什么是多线程操作

每个正在系统上运行的程序都是一个进程。每个进程包含一到多个线程。进程也可能是整个程序或者是部分程序的动态执行。线程是一组指令的集合，或者是程序的特殊段，它可以在程序里独立执行。也可以把它理解为代码运行的上下文。所以线程基本上是轻量级的进程，它负责在单个程序里执行多任务。通常由操作系统负责多个线程的调度和执行。
多线程是为了使得多个线程并行的工作以完成多项任务，以提高系统的效率。线程是在同一时间需要完成多项任务的时候被实现的。
多线程的概念？
说起多线程，那么就不得不说什么是线程，而说起线程，又不得不说什么是进程。
进程（Process）是计算机中的程序关于某数据集合上的一次运行活动，是系统进行资源分配和调度的基本单位，是操作系统结构的基础。在早期面向进程设计的计算机结构中，进程是程序的基本执行实体；在当代面向线程设计的计算机结构中，进程是线程的容器。程序是指令、数据及其组织形式的描述，进程是程序的实体。
进程可以简单的理解为一个可以独立运行的程序单位。它是线程的集合，进程就是有一个或多个线程构成的，每一个线程都是进程中的一条执行路径。
那么多线程就很容易理解：多线程就是指一个进程中同时有多个执行路径（线程）正在执行。
为什么要使用多线程？
1.在一个程序中，有很多的操作是非常耗时的，如数据库读写操作，IO操作等，如果使用单线程，那么程序就必须等待这些操作执行完成之后才能执行其他操作。使用多线程，可以在将耗时任务放在后台继续执行的同时，同时执行其他操作。
2.可以提高程序的效率。
3.在一些等待的任务上，如用户输入，文件读取等，多线程就非常有用了。
缺点：
1.使用太多线程，是很耗系统资源，因为线程需要开辟内存。更多线程需要更多内存。
2.影响系统性能，因为操作系统需要在线程之间来回切换。
3.需要考虑线程操作对程序的影响，如线程挂起，中止等操作对程序的影响。
4.线程使用不当会发生很多问题。
总结：多线程是异步的，但这不代表多线程真的是几个线程是在同时进行，实际上是系统不断地在各个线程之间来回的切换（因为系统切换的速度非常的快，所以给我们在同时运行的错觉）。
2.多线程与高并发的联系。
高并发：高并发指的是一种系统运行过程中遇到的一种“短时间内遇到大量操作请求”的情况，主要发生在web系统集中大量访问或者socket端口集中性收到大量请求（例如：12306的抢票情况；天猫双十一活动）。该情况的发生会导致系统在这段时间内执行大量操作，例如对资源的请求，数据库的操作等。如果高并发处理不好，不仅仅降低了用户的体验度（请求响应时间过长），同时可能导致系统宕机，严重的甚至导致OOM异常，系统停止工作等。如果要想系统能够适应高并发状态，则需要从各个方面进行系统优化，包括，硬件、网络、系统架构、开发语言的选取、数据结构的运用、算法优化、数据库优化……。
而多线程只是在同/异步角度上解决高并发问题的其中的一个方法手段，是在同一时刻利用计算机闲置资源的一种方式。
多线程在高并发问题中的作用就是充分利用计算机资源，使计算机的资源在每一时刻都能达到最大的利用率，不至于浪费计算机资源使其闲置。
3.线程的创建，停止，常用方法介绍。
1.线程的创建：
线程创建主要有2种方式，一种是继承Thread类，重写run方法即可；（Thread类实现了Runable接口）
另一种则是实现Runable接口，也需要重写run方法。
线程的启动，调用start（）方法即可。 我们也可以直接使用线程对象的run方法，不过直接使用，run方法就只是一个普通的方法了。
其他的还有： 通过匿名内部类的方法创建；实现Callable接口。。。。。
2.线程常用方法：
currentThread()方法：该方法返回当前线程的信息 .getName（）可以返回线程名称。
isAlive()方法：该方法判断当前线程是否处于活动状态。
sleep()方法：该方法是让“当前正在执行的线程“休眠指定的时间，正在执行的线程是指this.currentThread()返回的线程。
getId()方法：该方法是获取线程的唯一标识。
3.线程的停止：
在java中，停止线程并不简单，不想for。。break那样说停就停，需要一定的技巧。
线程的停止有3种方法：
1.线程正常终止，即run()方法运行结束正常停止。
2.使用interrupt方法中断线程。
3.使用stop方法暴力停止线程。
interrupt方法中断线程介绍：
interrupt方法其实并不是直接中断线程，只是给线程添加一个中断标志。
判断线程是否是停止状态：
this.interrupted(); 判断当前线程是否已经中断。（判断的是这个方法所在的代码对应的线程，而不是调用对象对应的线程）
this.isInterrupted(); 判断线程是否已经中断。（谁调用，判断谁）
注：.interrupted()与isInterrupted()的区别：
interrupted()方法判断的是所在代码对应的线程是否中断，而后者判断的是调用对象对应的线程是否停止
前者执行后有清除状态的功能（如连续调用两次时，第一次返回true，则第二次会返回false）
后者没有清除状态的功能（两次返回都为true）
真正停止线程的方法：
异常法：
在run方法中 使用 this.interrupted();判断线程终止状态，如果为true则 throw new interruptedException()然后捕获该异常即可停止线程。
return停止线程：
在run方法中 使用 this.interrupted();判断线程终止状态，如果为true则return停止线程。 （建议使用异常法停止线程，因为还可以在catch中使线程向上抛，让线程停止的事件得以传播）。
暴力法：
使用stop()方法强行停止线程（强烈不建议使用，会造成很多不可预估的后果，已经被标记为过时）
（使用stop方法会抛出 java.lang.ThreadDeath 异常，并且stop方法会释放锁，很容易造成数据不一致）
注：在休眠中停止线程：
在sleep状态下停止线程 会报异常，并且会清除线程状态值为false；
先停止后sleep，同样会报异常 sleep interrupted；
4.守护线程。
希望对您有所帮助！~

java面试为什么很喜欢问多线程高并发

多线程高并发是Java面试中经常被问到的一个重要话题。这是因为多线程和高并发是Java开发中的核心概念和常见问题，对于企业来说，能够掌握多线程和高并发的知识和技能是评判一个候选人是否具备优秀Java开发能力的重要标准。
首先，多线程和高并发是当今互联网应用开发中常见的挑战。随着互联网用户数量的不断增加，应用程序需要同时处理大量的请求和数据，并保持快速响应的同时保证数据的一致性和准确性。因此，对于企业来说，具备处理高并发的能力是非常重要的。
其次，多线程和高并发的问题涉及到了并发编程的核心概念和技术，包括线程安全、锁、同步、死锁等。在多线程环境下，如果不正确地处理并发访问共享资源的问题，就会出现数据不一致、线程安全问题等bug。因此，企业更倾向于招聘那些对多线程编程有深入理解和实践经验的候选人。
此外，多线程和高并发的问题还涉及到了性能优化和资源管理方面的考虑。合理地利用多线程可以提高系统的并发处理能力和响应速度，从而提升用户体验。在多线程环境下，合理管理资源、避免资源竞争和浪费也是一个重要的技能。
综上所述，Java面试喜欢问多线程高并发的原因是因为它是Java开发中的重要问题，并且涉及到并发编程的核心概念和技术，以及性能优化和资源管理方面的考虑。对于候选人来说，深入理解和掌握多线程高并发的知识和技能，可以提升自己的竞争力，并在实际工作中更好地处理并发问题。
在Java开发领域，多线程和高并发是非常重要的概念和技术。因此，在Java面试中经常会被问及多线程和高并发的问题。以下是对为什么面试中喜欢问多线程高并发的原因的解释：
1. 多线程和高并发是Java开发的核心概念：多线程和高并发是Java开发中必不可少的技术要素之一。在实际项目中，经常需要处理大量并发请求，因此，了解多线程和高并发的概念、原理和实践经验是Java开发人员必备的技能。
2. 多线程和高并发是性能优化的关键点：在处理大量并发请求时，有效地利用多线程和实现高并发是提升系统性能的关键。因此，面试官会关注面试者对性能优化的理解和实践经验，特别是在多线程和高并发场景下的应用能力。
3. 多线程和高并发问题具有挑战性：多线程和高并发问题涉及到线程安全、锁、同步、死锁等复杂的概念和技术。针对这些问题，面试官可以考察面试者对于并发编程的理解和解决问题的能力，以及对Java并发包（如java.util.concurrent）的熟悉程度。
拓展内容：
除了上述原因，多线程和高并发问题在面试中还能考察面试者的系统设计能力、并发算法的理解、线程池的使用等方面的知识。面试者应该了解如何设计线程安全的程序，如何使用锁和同步机制来保证数据的一致性和避免竞态条件。此外，掌握并发编程的一些常见模式和技巧，如线程池的使用、并发集合类的使用，也是面试过程中的加分项。
总结起来，多线程和高并发问题经常被问及是因为它们是Java开发中的重要概念，对于系统性能和稳定性至关重要。了解多线程和高并发的原理、技术和最佳实践，对于Java开发人员来说至关重要。
Java面试中常问关于多线程和高并发的问题，原因如下：
1. 多线程和高并发是Java开发中常见的问题：Java是一种广泛应用于并发编程的语言，多线程和高并发是Java开发中常遇到的挑战。因此，面试官经常会问相关问题，以了解面试者对于这方面的理解和实践经验。
2. 多线程和高并发涉及到核心的编程概念和技术：理解多线程和高并发需要掌握线程的基本概念、线程的生命周期、线程同步与互斥、锁机制、线程池等知识。这些是Java开发中非常重要的技术，对于能否编写高效、可靠的并发程序起着关键作用。
3. 多线程和高并发是性能优化的重要方向：在现代应用程序开发中，高并发是一个常见的需求。通过合理地设计和优化多线程和并发，可以提高系统的性能和响应速度。因此，对于面试者来说，理解和掌握多线程和高并发的技术，对于解决性能问题和提升系统效率具有重要意义。
拓展内容：
除了上述原因外，多线程和高并发在现代的计算机系统中也具有重要的意义。随着计算机硬件的发展，多核处理器已经成为普遍存在的情况，而多线程的使用可以更好地利用多核处理器的优势，提高系统的并行处理能力。而高并发则是现代互联网应用中普遍存在的情况，如高并发的请求处理、数据库并发访问、分布式系统的并发操作等。因此，对于Java开发者来说，熟练掌握多线程和高并发编程技术，将有助于提高自己的竞争力和应对现实开发中的挑战。

多线程是什么

1.多线程的概念？
　　说起多线程，那么就不得不说什么是线程，而说起线程，又不得不说什么是进程。
　　进程（Process）是计算机中的程序关于某数据集合上的一次运行活动，是系统进行资源分配和调度的基本单位，是操作系统结构的基础。在早期面向进程设计的计算机结构中，进程是程序的基本执行实体；在当代面向线程设计的计算机结构中，进程是线程的容器。程序是指令、数据及其组织形式的描述，进程是程序的实体。
　　进程可以简单的理解为一个可以独立运行的程序单位。它是线程的集合，进程就是有一个或多个线程构成的，每一个线程都是进程中的一条执行路径。
　　那么多线程就很容易理解：多线程就是指一个进程中同时有多个执行路径（线程）正在执行。
　　为什么要使用多线程？
　　1.在一个程序中，有很多的操作是非常耗时的，如数据库读写操作，IO操作等，如果使用单线程，那么程序就必须等待这些操作执行完成之后才能执行其他操作。使用多线程，可以在将耗时任务放在后台继续执行的同时，同时执行其他操作。
　　2.可以提高程序的效率。
　　3.在一些等待的任务上，如用户输入，文件读取等，多线程就非常有用了。
　　缺点：
　　1.使用太多线程，是很耗系统资源，因为线程需要开辟内存。更多线程需要更多内存。
　　2.影响系统性能，因为操作系统需要在线程之间来回切换。
　　3.需要考虑线程操作对程序的影响，如线程挂起，中止等操作对程序的影响。
　　4.线程使用不当会发生很多问题。
　　总结：多线程是异步的，但这不代表多线程真的是几个线程是在同时进行，实际上是系统不断地在各个线程之间来回的切换（因为系统切换的速度非常的快，所以给我们在同时运行的错觉）。
2.多线程与高并发的联系。
　　高并发：高并发指的是一种系统运行过程中遇到的一种“短时间内遇到大量操作请求”的情况，主要发生在web系统集中大量访问或者socket端口集中性收到大量请求（例如：12306的抢票情况；天猫双十一活动）。该情况的发生会导致系统在这段时间内执行大量操作，例如对资源的请求，数据库的操作等。如果高并发处理不好，不仅仅降低了用户的体验度（请求响应时间过长），同时可能导致系统宕机，严重的甚至导致OOM异常，系统停止工作等。如果要想系统能够适应高并发状态，则需要从各个方面进行系统优化，包括，硬件、网络、系统架构、开发语言的选取、数据结构的运用、算法优化、数据库优化……。
　　而多线程只是在同/异步角度上解决高并发问题的其中的一个方法手段，是在同一时刻利用计算机闲置资源的一种方式。
　　多线程在高并发问题中的作用就是充分利用计算机资源，使计算机的资源在每一时刻都能达到最大的利用率，不至于浪费计算机资源使其闲置。
3.线程的创建，停止，常用方法介绍。
　　1.线程的创建：
　　线程创建主要有2种方式，一种是继承Thread类，重写run方法即可；（Thread类实现了Runable接口）
　　另一种则是实现Runable接口，也需要重写run方法。
　　线程的启动，调用start（）方法即可。 我们也可以直接使用线程对象的run方法，不过直接使用，run方法就只是一个普通的方法了。
　　其他的还有： 通过匿名内部类的方法创建；实现Callable接口。。。。。
　　2.线程常用方法：
　　currentThread()方法：该方法返回当前线程的信息 .getName（）可以返回线程名称。
　　isAlive()方法：该方法判断当前线程是否处于活动状态。
　　sleep()方法：该方法是让“当前正在执行的线程“休眠指定的时间，正在执行的线程是指this.currentThread()返回的线程。
　　getId()方法：该方法是获取线程的唯一标识。
　　3.线程的停止：
　　在java中，停止线程并不简单，不想for。。break那样说停就停，需要一定的技巧。
　　线程的停止有3种方法：
　　1.线程正常终止，即run()方法运行结束正常停止。
　　2.使用interrupt方法中断线程。
　　3.使用stop方法暴力停止线程。
　　interrupt方法中断线程介绍：
　　　　interrupt方法其实并不是直接中断线程，只是给线程添加一个中断标志。
　　判断线程是否是停止状态：
　　　　this.interrupted(); 判断当前线程是否已经中断。（判断的是这个方法所在的代码对应的线程，而不是调用对象对应的线程）
　　　　this.isInterrupted(); 判断线程是否已经中断。（谁调用，判断谁）
　　
　　注：.interrupted()与isInterrupted()的区别：
　　　　interrupted()方法判断的是所在代码对应的线程是否中断，而后者判断的是调用对象对应的线程是否停止
　　　　前者执行后有清除状态的功能（如连续调用两次时，第一次返回true，则第二次会返回false）
　　　　后者没有清除状态的功能（两次返回都为true）
　　真正停止线程的方法：
　　异常法：
　　　　在run方法中 使用 this.interrupted();判断线程终止状态，如果为true则 throw new interruptedException()然后捕获该异常即可停止线程。
　　return停止线程：
　　　　在run方法中 使用 this.interrupted();判断线程终止状态，如果为true则return停止线程。 （建议使用异常法停止线程，因为还可以在catch中使线程向上抛，让线程停止的事件得以传播）。
　
　　暴力法：
　　　　使用stop()方法强行停止线程（强烈不建议使用，会造成很多不可预估的后果，已经被标记为过时）
　　　　（使用stop方法会抛出 java.lang.ThreadDeath 异常，并且stop方法会释放锁，很容易造成数据不一致）
　　注：在休眠中停止线程：
　　　　在sleep状态下停止线程 会报异常，并且会清除线程状态值为false；
　　　　先停止后sleep，同样会报异常 sleep interrupted；
4.守护线程。
多线程（multithreading），是指从软件或者硬件上实现多个线程并发执行的技术。具有多线程能力的计算机因有硬件支持而能够在同一时间执行多于一个线程，进而提升整体处理性能。具有这种能力的系统包括对称多处理机、多核心处理器以及芯片级多处理或同时多线程处理器。在一个程序中，这些独立运行的程序片段叫作“线程”（Thread），利用它编程的概念就叫作“多线程处理”。
在计算机编程中，一个基本的概念就是同时对多个任务加以控制。许多程序设计问题都要求程序能够停下手头的工作，改为处理其他一些问题，再返回主进程。可以通过多种途径达到这个目的。最开始的时候，那些掌握机器低级语言的程序员编写一些“中断服务例程”，主进程的暂停是通过硬件级的中断实现的。尽管这是一种有用的方法，但编出的程序很难移植，由此造成了另一类的代价高昂问题。中断对那些实时性很强的任务来说是很有必要的。但对于其他许多问题，只要求将问题划分进入独立运行的程序片断中，使整个程序能更迅速地响应用户的请求 。
最开始，线程只是用于分配单个处理器的处理时间的一种工具。但假如操作系统本身支持多个处理器，那么每个线程都可分配给一个不同的处理器，真正进入“并行运算”状态。从程序设计语言的角度看，多线程操作最有价值的特性之一就是程序员不必关心到底使用了多少个处理器。程序在逻辑意义上被分割为数个线程；假如机器本身安装了多个处理器，那么程序会运行得更快，毋需作出任何特殊的调校。根据前面的论述，大家可能感觉线程处理非常简单。但必须注意一个问题：共享资源！如果有多个线程同时运行，而且它们试图访问相同的资源，就会遇到一个问题。举个例子来说，两个线程不能将信息同时发送给一台打印机。为解决这个问题，对那些可共享的资源来说（比如打印机），它们在使用期间必须进入锁定状态。所以一个线程可将资源锁定，在完成了它的任务后，再解开（释放）这个锁，使其他线程可以接着使用同样的资源。

如何搭建亿级并发的系统架构？

分布式+缓存
想设计亿万级高并发架构，你要先知道高并发是什么？
面对流量高峰，不同的企业是如何通过技术手段解决高并发难题的呢?
0、引言
软件系统有三个追求：高性能、高并发、高可用，俗称三高。三者既有区别也有联系，门门道道很多，全面讨论需要三天三夜，本篇讨论高并发。
高并发（High Concurrency）。并发是操作系统领域的一个概念，指的是一段时间内多任务流交替执行的现象，后来这个概念被泛化，高并发用来指大流量、高请求的业务情景，比如春运抢票，电商双十一，秒杀大促等场景。
很多程序员每天忙着搬砖，平时接触不到高并发，哪天受不了跑去面试，还常常会被面试官犀利的高并发问题直接KO，其实吧，高并发系统也不高深，我保证任何一个智商在线的看过这篇文章后，都能战胜恐惧，重拾生活的信心。
本文先介绍高并发系统的度量指标，然后讲述高并发系统的设计思路，再梳理高并发的关键技术，最后结合作者的经验做一些延伸探讨。
1、高并发的度量指标
既然是高并发系统，那并发一定要高，不然就名不副实。并发的指标一般有QPS、TPS、IOPS，这几个指标都是可归为系统吞吐率，QPS越高系统能hold住的请求数越多，但光关注这几个指标不够，我们还需要关注RT，即响应时间，也就是从发出request到收到response的时延，这个指标跟吞吐往往是此消彼长的，我们追求的是一定时延下的高吞吐。
比如有100万次请求，99万次请求都在10毫秒内响应，其他次数10秒才响应，平均时延不高，但时延高的用户受不了，所以，就有了TP90/TP99指标，这个指标不是求平均，而是把时延从小到大排序，取排名90%/99%的时延，这个指标越大，对慢请求越敏感。
除此之外，有时候，我们也会关注可用性指标，这可归到稳定性。
一般而言，用户感知友好的高并发系统，时延应该控制在250毫秒以内。
什么样的系统才能称为高并发？这个不好回答，因为它取决于系统或者业务的类型。不过我可以告诉你一些众所周知的指标，这样能帮助你下次在跟人扯淡的时候稍微靠点儿谱，不至于贻笑大方。
通常，数据库单机每秒也就能抗住几千这个量级，而做逻辑处理的服务单台每秒抗几万、甚至几十万都有可能，而消息队列等中间件单机每秒处理个几万没问题，所以我们经常听到每秒处理数百万、数千万的消息中间件集群，而像阿某的API网关，每日百亿请求也有可能。
2、高并发的设计思路
高并发的设计思路有两个方向：
垂直方向扩展，也叫竖向扩展
水平方向扩展，也叫横向扩展
垂直方向：提升单机能力
提升单机处理能力又可分为硬件和软件两个方面：
硬件方向，很好理解，花钱升级机器，更多核更高主频更大存储空间更多带宽
软件方向，包括用各快的数据结构，改进架构，应用多线程、协程，以及上性能优化各种手段，但这玩意儿天花板低，就像提升个人产出一样，996、007、最多24 X 7。
水平方向：分布式集群
为了解决分布式系统的复杂性问题，一般会用到架构分层和服务拆分，通过分层做隔离，通过微服务解耦。
这个理论上没有上限，只要做好层次和服务划分，加机器扩容就能满足需求，但实际上并非如此，一方面分布式会增加系统复杂性，另一方面集群规模上去之后，也会引入一堆AIOps、服务发现、服务治理的新问题。
因为垂直向的限制，所以，我们通常更关注水平扩展，高并发系统的实施也主要围绕水平方向展开。
3、高并发的关键技术
玩具式的网络服务程序，用户可以直连服务器，甚至不需要数据库，直接写磁盘文件。但春运购票系统显然不能这么做，它肯定扛不住这个压力，那一般的高并发系统是怎么做呢？比如某宝这样的正经系统是怎么处理高并发的呢？
其实大的思路都差不多，层次划分 + 功能划分。可以把层次划分理解为水平方向的划分，而功能划分理解为垂直方向的划分。
首先，用户不能直连服务器，要做分布式就要解决“分”的问题，有多个服务实例就需要做负载均衡，有不同服务类型就需要服务发现。
集群化：负载均衡
负载均衡就是把负载（request）均衡分配到不同的服务实例，利用集群的能力去对抗高并发，负载均衡是服务集群化的实施要素，它分3种：
DNS负载均衡，客户端通过URL发起网络服务请求的时候，会去DNS服务器做域名解释，DNS会按一定的策略（比如就近策略）把URL转换成IP地址，同一个URL会被解释成不同的IP地址，这便是DNS负载均衡，它是一种粗粒度的负载均衡，它只用URL前半部分，因为DNS负载均衡一般采用就近原则，所以通常能降低时延，但DNS有cache，所以也会更新不及时的问题。
硬件负载均衡，通过布置特殊的负载均衡设备到机房做负载均衡，比如F5，这种设备贵，性能高，可以支撑每秒百万并发，还能做一些安全防护，比如防火墙。
软件负载均衡，根据工作在ISO 7层网络模型的层次，可分为四层负载均衡（比如章文嵩博士的LVS）和七层负载均衡（NGINX），软件负载均衡配置灵活，扩展性强，阿某云的SLB作为服务对外售卖，Nginx可以对URL的后半部做解释承担API网关的职责。
所以，完整的负载均衡链路是 client <-> DNS负载均衡 -> F5 -> LVS/SLB -> NGINX
不管选择哪种LB策略，或者组合LB策略，逻辑上，我们都可以视为负载均衡层，通过添加负载均衡层，我们将负载均匀分散到了后面的服务集群，具备基础的高并发能力，但这只是万里长征第一步。
数据库层面：分库分表+读写分离
前面通过负载均衡解决了无状态服务的水平扩展问题，但我们的系统不全是无状态的，后面通常还有有状态的数据库，所以解决了前面的问题，存储有可能成为系统的瓶颈，我们需要对有状态存储做分片路由。
数据库的单机QPS一般不高，也就几千，显然满足不了高并发的要求。
所以，我们需要做分库分表 + 读写分离。
就是把一个库分成多个库，部署在多个数据库服务上，主库承载写请求，从库承载读请求。从库可以挂载多个，因为很多场景写的请求远少于读的请求，这样就把对单个库的压力降下来了。
如果写的请求上升就继续分库分表，如果读的请求上升就挂更多的从库，但数据库天生不是很适合高并发，而且数据库对机器配置的要求一般很高，导致单位服务成本高，所以，这样加机器抗压力成本太高，还得另外想招。
读多写少：缓存
缓存的理论依据是局部性原理。
一般系统的写入请求远少于读请求，针对写少读多的场景，很适合引入缓存集群。
在写数据库的时候同时写一份数据到缓存集群里，然后用缓存集群来承载大部分的读请求，因为缓存集群很容易做到高性能，所以，这样的话，通过缓存集群，就可以用更少的机器资源承载更高的并发。
缓存的命中率一般能做到很高，而且速度很快，处理能力也强（单机很容易做到几万并发），是理想的解决方案。
CDN本质上就是缓存，被用户大量访问的静态资源缓存在CDN中是目前的通用做法。
缓存也有很多需要谨慎处理的问题：
一致性问题：(a)更新db成功+更新cache失败 -> 不一致 (b)更新db失败+更新cache成功 -> 不一致 ?更新db成功+淘汰缓存失败 -> 不一致
缓存穿透：查询一定不存在的数据，会穿透缓存直接压到数据库，从而导致缓存失去作用，如果有人利用这个漏洞，大量查询一定不存在的数据，会对数据库造成压力，甚至打挂数据库。解决方案：布隆过滤器 或者 简单的方案，查询不存在的key，也把空结果写入缓存（设置较短的过期淘汰时间），从而降低命失
缓存雪崩：如果大量缓存在一个时刻同时失效，则请求会转到DB，则对DB形成压迫，导致雪崩。简单的解决方案是为缓存失效时间添加随机值，降低同一时间点失效淘汰缓存数，避免集体失效事件发生
但缓存是针对读，如果写的压力很大，怎么办？
高写入：消息中间件
同理，通过跟主库加机器，耗费的机器资源是很大的，这个就是数据库系统的特点所决定的。
相同的资源下，数据库系统太重太复杂，所以并发承载能力就在几千/s的量级，所以此时你需要引入别的一些技术。
比如说消息中间件技术，也就是MQ集群，它是非常好的做写请求异步化处理，实现削峰填谷的效果。
消息队列能做解耦，在只需要最终一致性的场景下，很适合用来配合做流控。
假如说，每秒是1万次写请求，其中比如5千次请求是必须请求过来立马写入数据库中的，但是另外5千次写请求是可以允许异步化等待个几十秒，甚至几分钟后才落入数据库内的。
那么此时完全可以引入消息中间件集群，把允许异步化的每秒5千次请求写入MQ，然后基于MQ做一个削峰填谷。比如就以平稳的1000/s的速度消费出来然后落入数据库中即可，此时就会大幅度降低数据库的写入压力。
业界有很多著名的消息中间件，比如ZeroMQ，rabbitMQ，kafka等。
消息队列本身也跟缓存系统一样，可以用很少的资源支撑很高的并发请求，用它来支撑部分允许异步化的高并发写入是很合适的，比使用数据库直接支撑那部分高并发请求要减少很多的机器使用量。
避免挤兑：流控
再强大的系统，也怕流量短事件内集中爆发，就像银行怕挤兑一样，所以，高并发另一个必不可少的模块就是流控。
流控的关键是流控算法，有4种常见的流控算法。
计数器算法（固定窗口）：计数器算法是使用计数器在周期内累加访问次数，当达到设定的限流值时，触发限流策略，下一个周期开始时，进行清零，重新计数，实现简单。计数器算法方式限流对于周期比较长的限流，存在很大的弊端，有严重的临界问题。
滑动窗口算法：将时间周期分为N个小周期，分别记录每个小周期内访问次数，并且根据时间滑动删除过期的小周期，当滑动窗口的格子划分的越多，那么滑动窗口的滚动就越平滑，限流的统计就会越精确。此算法可以很好的解决固定窗口算法的临界问题。
漏桶算法：访问请求到达时直接放入漏桶，如当前容量已达到上限（限流值），则进行丢弃（触发限流策略）。漏桶以固定的速率进行释放访问请求（即请求通过），直到漏桶为空。分布式环境下实施难度高。
令牌桶算法：程序以r（r=时间周期/限流值）的速度向令牌桶中增加令牌，直到令牌桶满，请求到达时向令牌桶请求令牌，如获取到令牌则通过请求，否则触发限流策略。分布式环境下实施难度高。
4、高并发的实践经验
接入-逻辑-存储是经典的互联网后端分层，但随着业务规模的提高，逻辑层的复杂度也上升了，所以，针对逻辑层的架构设计也出现很多新的技术和思路，常见的做法包括系统拆分，微服务。
除此之外，也有很多业界的优秀实践，包括某信服务器通过协程（无侵入，已开源libco）改造，极大的提高了系统的并发度和稳定性，另外，缓存预热，预计算，批量读写（减少IO），池技术等也广泛应用在实践中，有效的提升了系统并发能力。
为了提升并发能力，逻辑后端对请求的处理，一般会用到生产者-消费者多线程模型，即I/O线程负责网络IO，协议编解码，网络字节流被解码后产生的协议对象，会被包装成task投入到task queue，然后worker线程会从该队列取出task执行，有些系统会用多进程而非多线程，通过共享存储，维护2个方向的shm queue，一个input q，一个output q，为了提高并发度，有时候会引入协程，协程是用户线程态的多执行流，它的切换成本更低，通常有更好的调度效率。
另外，构建漏斗型业务或者系统，从客户端请求到接入层，到逻辑层，到DB层，层层递减，过滤掉请求，Fail Fast（尽早发现尽早过滤），嘴大屁眼小，哈哈。
漏斗型系统不仅仅是一个技术模型，它也可以是一个产品思维，配合产品的用户分流，逻辑分离，可以构建全方位的立体模型。
5、小结
莫让浮云遮望眼，除去繁华识真颜。我们不能掌握了大方案，吹完了牛皮，而忽视了编程最本质的东西，掌握最基本最核心的编程能力，比如数据架构和算法，设计，惯用法，培养技术的审美，也是很重要的，既要致高远，又要尽精微。

Java学习体系

很多Java编程初学者在刚接触Java语言程序的时候，不知道该学习掌握哪些必要的基础知识。
一、先明白了解什么是Java的四个方面。
Java编程语言，即语法。
Java文件格式，即各种文件夹、文件的后缀。
Java虚拟机(JVM)，即处理*.class文件的解释器。
Java应用程序接口(JavaAPI)。
要知道java是分两部分的：一个是编译，一个是运行。
javac：负责的是编译的部分，当执行javac时，会启动java的编译器程序。对指定扩展名的.java文件进行编译。 生成了jvm可以识别的字节码文件。也就是class文件，也就是java的运行程序。
java：负责运行的部分.会启动jvm.加载运行时所需的类库,并对class文件进行执行.
一个文件要被执行,必须要有一个执行的起始点,这个起始点就是main函数.
二、掌握静态方法和属性
静态方法和属性用于描述某一类对象群体的特征，而不是单个对象的特征。Java中大量应用了静态方法和属性，这是一个通常的技巧。但是这种技巧在很多语言中不被频繁地使用。理解静态方法和属性对于理解类与对象的关系是十分有帮助的，在大量的Java规范中，静态方法和属性被频繁使用。因此学习者应该理解静态方法和属性。Java在方法和属性的调用上是一致的，区别只表现在声明的时候，这和c++是不同的。
希望可以帮到你，谢谢！
Java核心部分就是线程、List、Map的使用Web方面就是JSP Servlet javascript、jquery、ajax 、html等等框架方面就是 struts2 hibernate spring服务器 tomcat配置 webwork 等等零基础学习java可以多上蛙课网去看看，上面有不少资源和教程，前沿技术也每周都更新。最后希望你Java学习愉快！
去B站学习康师傅Java基础视频。
Java学习一般包含：
第一阶段：JavaSE
Java基础语法；面向对象编程思想；Java常用API；多线程并发编程等
Java体系中的基础部分，学完可以完成贪吃蛇、俄罗斯方块等一些桌面应用程序。
第二阶段：数据库（MySQL/Oracle）与JDBC技术
MySQL/Oracle；JDBC等
学完可熟练的使用MySQL、Oracle相关操作，了解持久化和JDBC思想以及持久化框架。
第三阶段：JavaWeb开发技术
JavaWeb前端；JavaWeb基础；JavaWeb高级等
学习完本阶段的课程后，具备开发个人网站、企业网站的能力。
第四阶段：大型项目实战-CMS系统
JavaScript增强；Struts2；Spring基础和IoC(XML配置)等
通过对本阶段课程的学习可以完成市面上大多数的web应用开发。
第五阶段：大型项目实战-企业ERP/进销存项目
JPA/Hibernate；项目管理及用例分析；AJAX/JSON/jQuery等
学完本阶段课程，能够完成各种企业ERP系统的开发以及泛流通行业的管理系统开发。
第六阶段：大型项目实战-CRM/客户关系管理系统
JavaScript高级/jQueryEasyUI；SpringMVC；Mybatis；Shiro等
通过对本阶段课程的学习，能够熟练使用各种流行框架完成项目开发。
第七阶段：大型项目实战-B2C/商城项目
微信开发；HTML5/CSS3/BootStrap；Linux与阿里云等
通过对本阶段课程的学习，能够熟练使用目前市面上各种前沿的、高薪的技术来完成项目开发。

java的多线程是交替占用CPU，不是真正的并行这个和单线程不是一样的吗？为什么会效率会更高？

1 如果你是多cpu当然可以一起使用多线程。并不是轮流运行。
2 即使单cpu，其实你的处理中还是有可能有等待的情况，例如等待socket的连接，这时多线程可以切换到其他线程，提高了效率。
比如某线程需要延时等待某操作完成,这时就可以用线程调度执行其他等待执行的线程,这样更完全地利用了cpu的性能,因此效率高

java如何实现多线程

JAVA中怎么处理高并发的情况
一、背景综述
并发就是可以使用多个线程或进程，同时处理（就是并发）不同的操作。
高并发的时候就是有很多用户在访问，导致系统数据不正确、糗事数据的现象。对于一些大型网站，比如门户网站，在面对大量用户访问、高并发请求方面，基本的解决方案集中在这样几个环节：使用高性能的服务器、高性能的数据库、高效率的编程语言、还有高性能的Web容器。这几个解决思路在一定程度上意味着更大的投入。
使用一般的synchronized或者是lock或者是队列都是无法满足高并发的问题。
二、解决方法有三：
1.使用缓存
2.使用生成静态页面
html纯静态页面是效率最高、消耗最小的页面。我们可以使用信息发布系统来实现简单的信息录入自动生成静态页面，频道管理、权限管理和自动抓取等功能，对于一个大型网站来说，拥有一套高效、可管理的信息发布系统CMS是必不可少的。
3.图片服务器分离
图片是最消耗资源的，僵图片和页面分离可以降低提供页面访问请求的服务器系统压力，并且可以保证系统不会因为图片问题而崩溃。
3.写代码的时候减少不必要的资源浪费：
不要频繁得使用new对象，对于在整个应用中只需要存在一个实例的类使用单例模式.对于String的连接操作,使用StringBuffer或者StringBuilder.对于utility类型的类通过静态方法来访问。
避免使用错误的方式,如Exception可以控制方法推出,但是Exception要保留stacktrace消耗性能,除非必要不要使用 instanceof做条件判断,尽量使用比的条件判断方式.使用JAVA中效率高的类,比如ArrayList比Vector性能好。)
使用线程安全的集合对象vector hashtable
使用线程池

高并发nginx服务器是多进程还是多线程

　　Nginx会按需同时运行多个进程：一个主进程(master)和几个工作进程(worker)，配置了缓存时还会有缓存加载器进程(cache loader)和缓存管理器进程(cache manager)等。Nginx主要通过“共享内存”的机制实现进程间通信。主进程以root用户身份运行，而worker、cache loader和cache manager均应以非特权用户身份运行。
　　在工作方式上，Nginx分为单工作进程和多工作进程两种模式。在单工作进程模式下，除主进程外，还有一个工作进程，工作进程是单线程的；在多工作进程模式下，每个工作进程包含多个线程。Nginx默认为单工作进程模式。

如何理解python的多线程编程

Python的多线程编程是指在一个程序中同时运行多个线程，每个线程都可以执行并发的任务。多线程编程可以提高程序的运行效率，尤其是在涉及到I/O密集型任务时。
import threading
def task1():
for i in range(5):
print("Task 1: ", i)
def task2():
for i in range(5):
print("Task 2: ", i)
# 创建两个线程并指定执行的任务
thread1 = threading.Thread(target=task1)
thread2 = threading.Thread(target=task2)
# 启动线程
thread1.start()
thread2.start()
# 等待两个线程执行完毕
thread1.join()
thread2.join()
print("Done")
定义了两个任务`task1`和`task2`，然后通过`threading.Thread`类创建了两个线程对象`thread1`和`thread2`，并分别指定了每个线程要执行的任务。然后，通过调用`start`方法启动线程，并使用`join`方法等待线程执行完毕。最后，输出`Done`表示程序执行完毕。
需要注意的是，Python的多线程编程在处理CPU密集型任务上的效果并不好，因为由于GIL（全局解释器锁）的存在，每次只允许一个线程执行Python字节码。因此，Python的多线程主要适用于I/O密集型任务，例如网络请求、文件读写等。对于CPU密集型任务，可以考虑使用多进程编程。
线程是程序员必须掌握的知识，多线程对于代码的并发执行、提升代码效率和运行都至关重要。今天就分享一个黑马程序员Python多线程编程的教程，从0开始学习python多任务编程，想了解python高并发实现，从基础到实践，通过知识点 + 案例教学法帮助你想你想迅速掌握python多任务。
课程内容：
1.掌握多任务实现的并行和并发
2.掌握多进程实现多任务
3.掌握多线程实现多任务
4.掌握合理搭配多进程和线程
适用人群：
1、对python多任务编程感兴趣的在校生及应届毕业生。
2、对目前职业有进一步提升要求，希望从事python人工智能行业高薪工作的在职人员。
3、对python人工智能行业感兴趣的相关人员。
基础课程主讲内容包括：
1.python多任务编程
基础班课程大纲：
00-课程介绍
01-多任务介绍
02-进程介绍
03-使用多进程来完成多任务
04-多进程执行带有参数的任务
05-获取进程的编号
06-进程注意点
07-案例-多进程实现传智视频文件夹多任务拷贝器
08-线程介绍
09-使用多线程执行多任务
10-线程执行带有参数的任务
11-主线程和子线程的结束顺序
12-线程之间的执行顺序是无序
13-线程和进程的对比
14-案例-多线程实现传智视频文件夹多任务拷贝器
15-课程总结