python实现线下缓存最优算法

对于现代计算机为了加快数据存储速度，一般会采用多级缓存的方法，以最简单的二级缓存来说，数据会存放在两个地方，一个地方就是存在内存当中，另一个存放的地方就是存放在硬盘当中，但是这两个地方数据读取的速度是完全不同的。

而CPU从内存中读取数据的速度是要远远快与从硬盘中读取数据的速度，但问题在于缓存的价格是要远远高于硬盘的价格的，所以缓存的内容就会远远小于硬盘的容量。当CPU需要读取特定的数据的时候，CPU就会现在内存当中进行查找，如果数据已经存储在内存中，它就可以直接读取。

而当数据是没有存储在内存当中的时候，那么CPU就会把数据从硬盘当中读取出来，然后存放在缓存当中，这里的问题主要在于如果内存已经被用完了，那么CPU就必须先将内存当中存储的某些数据输出到硬盘当中去，空出空间来以便存放要从硬盘当中读取的数据。

而当CPU从内存中得到他想要获取的数据的时候，我们就可以成为cache hit，当CPU发现内存中不存在想要读取的数据的时候，我们就称为cache miss，由于内存是有限的，我们就需要设计高效的缓存调度算法以便决定当需要把数据从内存输出到硬盘时，如何选择要调出的数据以便让cache miss的次数尽可能的少。